研究表明,AI 工具未能减少招聘偏见

人工智能 新闻
研究人员在一项调查中发现,人工智能招聘工具未能起到减少偏见或提升多样性的作用。

来自剑桥大学的研究人员在《哲学与技术》(Philosophy & Technology)期刊上称:“人们对于能解决面试偏见等问题的新方法越来越感兴趣。”AI的实际应用正愈发普遍,但在通过视频或应用指标遴选求职者方面仍处于“伪科学”的水平。

曾有人力资源专业机构向媒体放话,称AI技术有望对抗偏见。

研究发现,2020年一项针对500名人力资源专业人士的跨国调查表明,近四分之一的从业者正在利用AI“以自动化方式选拔人才。”但这种减少偏见的探索似乎并未奏效,剑桥大学性别研究中心博士后研究员Kerry Mackereth在采访中表示,这事完全就是在“扯淡”。

她解释道:“这些工具无法通过训练获得单纯识别工作相关特征的能力,也不能从招聘过程中剔除性别和种族因素。这是因为人类总认为,一位员工是否优秀会不可避免地与其性别、特征和种族存在内在关联。”

也有研究指出,一些公司还发现这些工具本身也存在问题。2018年,亚马逊就宣布放弃开发AI驱动型招聘引擎,因为发现其会从简历中检测性别并歧视女性求职者。

“现代颅相学”

研究人员还特别关注那些能够“分析候选人言语与肢体动作细节”的工具,据称这些细微要素也能体现对象是否符合特定职位的要求。

研究合作者Eleanor Drage博士则坦言,这类视频与图像分析技术“没有科学依据”,并将其斥为“现代颅相学”——即依靠颅骨形状推断性格与智力的虚假理论。

她强调:“他们认为可以通过面部观察了解对方的性格。这种想法就跟测试工具一样根本不靠谱。AI没办法‘透过’面孔看到真实的内在。”

剑桥工具截屏

研究人员们还与六名计算机科学专业的学生一道,构建起自己的简化版AI招聘工具,基于所谓“五大”人格特征对候选者照片进行评分:

  • 平易近人型
  • 外向型
  • 开放型
  • 负责型
  • 神经质型

但最终评级还是会受到种种非相关变量的影响。

Drage博士写道:“在使用这些工具时,可以看到只要调整图像的对比度/亮度/饱和度,AI得出的性格结论就会发生变化。”

The Register指出,其他调查也得到了类似的结论。

德国一家公共广播公司甚至发现,在视频中佩戴眼镜或头巾,也会影响到候选者的最终得分。

英国特许人事与发展协会(Chartered Institute of Personnel and Development)的Hayfa Mohdzaini指出,他们的研究表明只有8%的企业雇主会使用AI技术来筛选求职人才。

“AI确实可以加大候选人才库的整体规模,借此帮助组织提升多样性水平——但如果规则和训练数据不完整或不准确,也有可能错失很多优秀的求职者。”

她总结称:“目前,用于对候选者言语和肢体语言进行分析的AI软件尚处于起步阶段,其中当然蕴藏着巨大的机会,但也有风险与之伴生。”

责任编辑:张燕妮 来源: 至顶网
相关推荐

2024-01-08 14:17:54

AI眼镜

2022-08-19 15:17:44

人工智能大数据

2022-10-18 16:15:22

人工智能塑料废物

2021-07-15 10:49:17

私有云云计算混合云

2023-10-07 06:50:03

2024-03-11 15:54:36

AI眼镜生成式AI

2024-01-29 17:25:38

人工智能AI碳排放

2020-10-09 10:33:34

人工智能药物AI

2023-02-17 08:39:53

OpenAIChatGPT

2021-08-19 17:25:30

人工智能机器学习自动化

2021-04-12 17:47:25

Facebook开源AI

2021-04-02 09:40:06

量子计算芯片超算

2015-11-04 10:37:21

2023-11-06 16:09:34

2018-04-16 08:56:40

2018-07-04 06:05:46

物联网ITIOT

2022-08-23 10:31:45

软件基础设施

2023-04-03 10:28:53

人工智能机器人

2013-01-14 09:43:56

实名制身份验证网络诈骗

2022-06-17 11:37:43

人工智能监督金融机构
点赞
收藏

51CTO技术栈公众号