社区编辑申请
注册/登录
面部识别技术的道德原则
人工智能 人脸识别
与其他人工智能技术一样,在使用面部识别系统时需要遵循一些道德原则。这些原则包括以下几方面。

面部识别技术在各个领域中的巨大潜力几乎是不可想象的。

然而,在使用之前,需要解决其功能中常见的某些错误和一些道德问题。

面部识别系统使用生物识别技术从照片或视频中映射面部特征,然后将这些信息与已知人脸数据库进行比对,以找到匹配项。面部识别可以帮助验证一个人的身份,但它也会引发隐私问题。

与其他人工智能技术一样,在使用面部识别系统时需要遵循一些道德原则。这些原则包括:

1. 人脸识别的公平性

首先,面部识别技术的开发必须确保系统能够完全防止或至少最小化基于种族、性别、面部特征、畸形或其他方面对任何个人或群体的偏见。现在,有充分的证据表明,面部识别系统在其运行中不可能 100% 公平。因此,开发该技术的公司通常需要花费数百小时来消除其中发现的所有偏见痕迹。

组织必须加倍努力以消除面部识别系统中的偏见,为此,用于机器学习和标记的数据集必须多样化。最重要的是,一个公平的面部识别系统的输出质量将非常高,因为它可以在世界任何地方无缝工作,没有任何偏见。

为了确保面部识别系统的公平性,开发人员还可以在测试阶段让最终客户参与进来。

2. 人工智能运作的开放性

将面部识别系统纳入工作场所和网络安全系统的组织需要了解机器学习数据存储位置的所有信息。此类组织需要在实施该技术之前了解其局限性和功能。提供人工智能技术的公司必须在这些细节上对客户完全透明。此外,服务提供商还必须确保其面部识别系统可由客户根据其便利性从任何位置使用。并且系统中的任何更新必须在收到客户的有效批准后才能进行。

3. 利益相关方的责任

如前所述,面部识别系统部署在多个领域。开发此类系统的组织必须对其负责,尤其是在技术可能直接影响任何个人或团体(执法、监视)的情况下。此类系统中的责任旨在防止系统可能造成的身体或健康伤害、财务挪用或其他由系统引起的问题。为了在流程中引入控制要素,需要让一名合格的人员负责组织中的系统,以做出合理的决策。除此之外,将面部识别系统纳入日常运营的组织必须立即解决与该技术相关的客户不满。

4. 监控前的同意和通知

在正常情况下,未经个人、团体或其他人同意,不得使用面部识别系统对其进行窥探。某些机构,如欧盟,有一套标准化的法律(GDPR),以防止未经授权的组织监控个人。拥有此类系统的组织必须遵守该国所有的数据保护和隐私法规。

5. 合法监控以避免侵犯人权

除非国家或政府决策管理机构出于与国家安全或其他重要情况相关的目的而授权,否则组织不能使用面部识别系统来监控任何个人或团体。基本上,严禁使用该技术侵犯受害者的人权和自由。

6. 购物时出现验证错误

如前所述,面部识别系统被纳入数字支付应用程序中,以便用户可以使用该技术验证交易。使用这种技术进行支付,很可能会发生面部身份盗窃和借记卡欺诈等犯罪活动。客户之所以选择面部识别系统,是因为它为用户提供了极大的便利。然而,此类系统中可能发生的一个错误是,同卵双胞胎可以使用彼此银行账户进行未经授权的付款。

7. 执法申请不准确

面部识别系统被用来在抓捕罪犯之前识别他们。虽然该技术作为一个概念在执法中无疑是有用的,但其工作中存在一些突出的问题,例如,有偏见的人工智能为执法人员提供了不准确的结果,因为有时系统无法区分有色人种。通常,这种系统是用包含白人图像的数据集来训练的。因此,在识别其他种族的人时,该系统的工作充满了错误。

正如我们所看到的,与面部识别技术相关的主要问题和错误源于技术缺乏进步、数据集缺乏多样性以及组织对系统的低效处理。

可以预见,随着未来技术的进一步进步,与技术相关的问题将得到解决;人工智能算法中与偏见相关的问题最终将被消除。然而,为了让该技术在不违反任何道德原则的情况下完美运行,组织必须对此类系统保持严格的治理水平。

责任编辑:赵宁宁 来源: 物联之家网
相关推荐

2022-06-16 21:01:32

人脸识别人工智能生物识别

2022-05-31 15:14:44

人脸识别系统人工智能

2022-05-06 10:21:22

Python人脸识别

2022-05-12 09:00:00

人工智能面部识别智能监控

2022-06-30 10:22:26

K8s可观测Prometheus

2022-06-29 09:58:53

物联网供应链

2022-05-25 07:11:13

2022-06-07 10:09:42

新技术人工智能5G

2022-05-06 16:31:27

人工智能自然语言生物特征识别

2022-06-07 11:01:56

人工智能AI技术大会

2022-06-30 14:23:56

机器学习工具算法

2022-06-21 14:22:08

云计算混合云人工智能

2022-06-21 14:10:43

NIST网络安全

2022-06-15 13:40:38

端口扫描工具开源工具

2021-01-16 23:25:34

人脸识别技术安全

2022-02-17 17:19:31

2022-06-08 14:22:55

自动化测试测试

2022-05-15 23:28:12

面部识别犯罪技术

2022-05-05 21:06:33

人工智能计算机视觉自然语言处理

2022-06-16 10:29:33

神经网络图像分类算法

同话题下的热门内容

微软将放弃"面部识别"备受争议的某些功能用AI寻找大屠杀后失散的亲人!谷歌工程师研发人脸识别程序,可识别超70万张二战时期老照片

编辑推荐

基于face_recognition实现人脸识别水滴风波背后:智能监控下无处可逃,涂迷彩、戴口罩都没用!AI改变世界,电商业务场景中的人脸识别怎么玩?50行Python代码实现人脸检测可怕,40行代码的人脸识别实践
我收藏的内容
点赞
收藏

51CTO技术栈公众号