人工智能的三大风险以及如何避免

人工智能
如果企业正在实施一个大规模的人工智能项目,那么应该如何准备?以下是与人工智能相关的三个最重要的风险,以及如何预防和减轻它们。

人工智能系统和人工智能项目如今变得越来越普遍,因为企业可以利用这种新兴技术的力量来自动化决策和提高效率。

如果企业正在实施一个大规模的人工智能项目,那么应该如何准备?以下是与人工智能相关的三个最重要的风险,以及如何预防和减轻它们。

1、从隐私到安全

人们都很关注自己的隐私,而面部识别人工智能在某些方面正在迅速发展,引发了关于隐私和监控的伦理担忧。例如,这项技术可以让企业在未经用户同意的情况下跟踪用户的行为,甚至是情绪。美国政府最近提出了一项“人工智能权利法案”,以防止人工智能技术造成与核心价值观相悖的真正伤害,包括基本的隐私权。

IT领导者需要让用户知道正在收集什么数据,并获得用户的同意。除此之外,关于数据集的适当培训和实施对于防止数据泄露和潜在的安全漏洞至关重要。

测试人工智能系统以确保它实现目标,而不会产生意想不到的影响,例如允许黑客使用虚假的生物识别数据访问敏感信息。实施人工智能系统的监督,可以使企业在必要时停止或撤销它的行动。

2、从不透明到透明

许多使用机器学习的人工智能系统是不透明的,这意味着不清楚它们是如何做出决定的。例如,对抵押贷款数据广泛的研究表明,用于批准或拒绝贷款的预测性人工智能工具对少数族裔申请者的准确性较低。技术的不透明性侵犯了贷款被拒绝的申请者的“解释权”。

当企业的人工智能/机器学习工具对其用户做出了重要的决定时,需要确保他们得到通知,并能得到关于为什么做出这个决定的完整解释。

企业的人工智能团队还应该能够追踪导致每个决策的关键因素,并在这一过程中诊断出任何错误。内部面向员工的文档和外部面向客户的文档应该解释人工智能系统是如何以及为什么这样运作的。

3、从偏见到公平

最近的一项研究表明,根据具有偏见的数据训练的人工智能系统强化了歧视模式,从医学研究招募不足到科学家参与度降低,甚至少数族裔患者不太愿意参与研究。

人们需要问问自己:如果意想不到的结果发生了,它会影响谁或哪个群体?它是否平等地影响所有用户,还是只影响特定群体?

仔细查看历史数据,评估是否引入了任何潜在的偏见或减轻了偏见。一个经常被忽视的因素是企业的开发团队的多样性,而更加多样化的团队通常会引入更公平的过程和结果。

为了避免意外的伤害,企业需要确保来自人工智能/机器学习开发、产品、审计和治理团队的所有涉众完全理解指导企业的人工智能项目的高级原则、价值和控制计划。获得独立的评估,以确认所有项目都符合这些原则和价值观。

责任编辑:姜华 来源: 企业网D1Net
相关推荐

2022-06-24 14:21:26

人工智能供应商数据分析

2022-05-16 09:18:47

物联网物联网安全

2022-09-29 14:40:32

人工智能人工智能风险

2021-09-27 10:37:36

人工智能AI深度学习

2022-06-09 16:35:31

人工智能安全数据暴露

2021-04-14 23:08:00

人工智能教育安全

2022-03-10 16:27:54

人工智能企业高管职业发展

2017-09-19 14:54:14

人工智能克隆授权

2020-02-25 13:56:39

云迁移云安全云计算

2022-07-29 11:52:12

人工智能智能设备硬件

2020-06-01 08:34:41

人工智能AI工业应用

2021-03-25 14:09:37

人工智能AI机器学习

2019-11-11 16:19:39

人工智能

2022-06-13 10:23:12

智能家居漏洞网络攻击

2018-08-13 20:40:02

AI金融企业风险

2017-04-24 18:32:33

人工智能

2022-11-14 15:06:16

2020-01-02 10:04:01

人工智能AI

2020-01-03 08:00:00

人工智能AI

2022-07-28 10:14:48

人工智能AI
点赞
收藏

51CTO技术栈公众号