社区编辑申请
注册/登录
如何确保人工智能实施的道德部署?
人工智能
当自动化决策直接或间接影响人们的生活,并且机器可能以有害的方式进行歧视时,企业组织必须站起来,注意并采取行动,以确保尽可能合乎道德地实施人工智能。

自动化和机器技术(如人工智能和机器学习)的显着增长无疑为以组织带来了全新的规模和服务水平。

我们可能都期望人工智能的优势之一是有机会消除人为主导的偏见并改善对少数群体的歧视。然而,如果管理不善,人工智能可以通过在其算法中嵌入偏见来进一步强化歧视。

今天,机器通常会决定我们是否有资格获得抵押贷款或受到执法机构或寻求打击欺诈的保险公司的监视。他们的影响力甚至延伸到决定您在网上看到哪些广告——包括高薪职位的招聘广告。

有许多组织的自动化系统中的人工智能没有得到很好的记录或理解。是时候让自动化决策走出阴影并承担责任了。

当自动化决策直接或间接影响人们的生活,并且机器可能以有害的方式进行歧视时,企业组织必须站起来,注意并采取行动,以确保尽可能合乎道德地实施人工智能。

第一步

企业和政府组织都应该努力获得最高水平的保护,以免受他们部署的任何机器技术的伤害。在任何自动化项目开始时,组织必须进行法律、隐私和道德影响评估,以确认风险得到充分理解并且可以得到令人满意的缓解。这也确保选择最合适的解决方案来建立可接受的风险水平,同时提供价值。

这些评估的签署应由一个多学科的客观审查小组进行,该小组对项目的任何问题方面拥有否决权,包括部署方式、自动化水平和追索机会。部署必须是数据/技术团队和业务领导团队之间的协作过程,以在数据和分析中实施最佳实践道德规范。

部署

监察员报告中概述了有关设计和实施机器技术的良好做法的一些强有力的建议。尽管如此,我们认为所有组织都有义务至少考虑以下最佳实践:

  • 公平、透明、非恶意、隐私、尊重自主权和问责制的伦理考虑要求任何实施任何机器技术的组织都必须确保其对所有受影响群体的执行达到最高水平的准确性;
  • 有一种机制可以根据模型或系统的输出来解释任何决策;
  • 有检测和减轻有害结果的流程
  • 人们可以给予知情同意以参与该过程
  • 有机制来质疑任何被认为是不公正的结果。

任何机器技术的开发和部署都应该是迭代的,首先是根据历史数据对准确性进行伦理审查,确保整个样本群体的性能保持一致。如果某些组的表现明显较差,则必须寻找更多数据以确保所有组的充分代表性。

在识别出有害后果的风险时,部署应该同样是迭代和谨慎的,从人在环解决方案开始,以确保在获得对模型或系统性能的信心的同时进行人工监督。

这并不是说人类的决策过程是万无一失的。它只是提供了一个在部署前了解和询问输出的机会。此过程应与最受信任的操作员一起完成,以减少将人为偏见重新引入该过程的可能性。此外,参与该过程的每个人都应该进行无意识的偏见培训。

一旦投入生产,任何机器技术的持续精度和性能都必须持续测量和监控。与现有 KPI 一起,该绩效应在整个组织中可报告和可见。

审查

任何实施算法决策的组织都需要有一个客观的伦理审查过程,包括定量和定性的考虑。应根据这些道德指标监控模型性能,以了解少数群体的性能异常以及性能随时间的任何变化。然后,作为运营过程的一部分,该模型可以持续进行调整和调整。

虽然实施似乎令人生畏,但组织必须在其人工智能和机器学习项目中提高对道德考虑的理解和实施。企业应采用“问题-审查-衡量-改进”的方法来管理其自动化决策的绩效和影响,以确保道德结果。

责任编辑:姜华 来源: 千家网
相关推荐

2022-06-15 11:02:40

网络安全运营

2022-05-10 14:11:55

人工智能金融科技机器学习

2022-06-02 11:39:15

2022-05-06 16:31:27

人工智能自然语言生物特征识别

2022-05-11 10:35:26

人工智能医疗诊断

2022-06-07 11:01:56

人工智能AI技术大会

2022-05-30 14:15:39

人工智能算法数据安全

2022-05-12 09:00:00

人工智能面部识别智能监控

2022-07-01 14:25:27

机器学习人工智能工业4.0

2022-05-24 15:29:48

人工智能大数据心理测量

2022-03-08 23:28:35

人工智能人力资源机器学习

2022-04-21 16:34:33

人工智能网络安全机器学习

2022-05-05 21:06:33

人工智能计算机视觉自然语言处理

2022-06-09 10:12:01

网络安全人工智能威胁监测

2022-05-20 06:14:57

人工智能AI

2022-06-28 12:35:21

DockerPython

2022-05-13 09:34:00

Slik-wrang机器学习人工智能

2022-04-02 21:58:09

人工智能人力资源技术

2022-06-07 10:09:42

新技术人工智能5G

2022-06-24 10:52:47

人工智能作业帮T前线

同话题下的热门内容

李飞飞划重点的「具身智能」,走到哪一步了?新出生的机器狗,打滚1小时后自己掌握走路,吴恩达大弟子成果在我的世界中,B站UP主搭建世界首个纯红石神经网络,图灵奖得主Yann LeCun转赞2022年Nature年度指数出炉,涨幅最快50机构,中国占31席!从机器学习中受益最大的四个行业科技巨头几百亿研发AI被质疑吹嘘:曾击败人类的AI要被卖了人工智能在网络安全中的作用芯片巨头正在偷偷研发这些新AI技术,不比拍照有意思

编辑推荐

转转公司架构算法部孙玄:AI下的微服务架构Facebook开源相似性搜索类库Faiss,超越已知最快算法8.5倍运维:对不起,这锅,我们不背快消品图像识别丨无人店背后的商品识别技术最全面的百度NLP自然语言处理技术解析
我收藏的内容
点赞
收藏

51CTO技术栈公众号