人工智能能够确认匿名下棋者的身份,造成隐私威胁

人工智能
认为自己下国际象棋时的飞象开局(Bishop’s opening),后翼弃兵(Queen’s gambit),或是兵步(pawn play)足够独特?最新的人工智能算法能够学习到你的棋风。

人工智能技术已经可以通过声音和笔迹来确认个体的身份。现在,一种人工智能算法可以通过个体下棋的行为来标记他们。这项技术作为“笔纹”领域中的重要进展,能帮助计算机成为更好的象棋老师,或在人机对战中更像人类。意外的是,这些系统还能够被应用于帮助确认和跟踪那些认为自己的线上行为是匿名的人。

“对隐私的威胁正在迅速增加。”哈佛大学伯克曼网际网络与社会研究中心(Berkman Klein Center)的律师Alexandra Wood说道。她说类似这样的研究如果以负责的方式进行,会对社会很有用,“因为它们阐明了一种重要的丢失隐私的方式。”

类似于Deep Blue和AlphaZero等下棋程序的下棋功夫长期以来都远超人类。多伦多大学的计算机科学家和该项目的首要研究者Ashton Anderson认为,大部分下棋机器人的棋风都是“外星人的风格”,这些下棋机器人对想要学习和精进技术下棋者并不是很有指导性,因此如果他们能够进行个性化的指导建议会更有益。然而,这首先需要这些机器人能够捕捉到一位下棋者独特的风格。

为了设计和训练人工智能,研究者利用了一处巨大的的资源:拥有超过5千万局人类棋局的Lichess网站。他们收集了游戏局数超过1000次的玩家的棋局,并从中取样了近32个连续棋步。他们对每一个棋步进行了编码,将其输入神经网络进行训练,每个棋局为在神经网络的多维空间中是一个点,每个下棋者的所有棋局组成了一个聚类簇(cluster)。研究者训练该网络以最大化每个玩家的聚类簇的密度和玩家间的差异性。这需要系统识别出每个玩家风格的独特性。

研究者们通过给模型3000个已知下棋者的各100局棋局和一个未知下棋者的100局棋局,测试了系统对用户的区分度。为了增加测试任务的难度,他们隐藏了每个棋局最开始的15步。模型识别选手的正确率达到86%,研究者在神经信息处理系统大会(NeurIPS)上报告了该结果。“我们觉得这个结果难以置信,”Anderson实验室和该文章的主要作者Reid McIlroy-Young说道。一个非人工智能的方法只能达到28%的准确性。

“这个研究非常有趣。”Meta(Facebook的母公司)的研究科学家Noam Brown说道,他曾开发了超人的扑克机器人程序。他对可以模仿世界象棋冠军Magnus Carlsen棋步的象棋机器人程序非常期待,并认为能够区分不同个体风格的人工智能能够改变其他的计算机交互方式。他说:“聊天机器人有许多有趣的地方,比如说你可以做一个说话像爱因斯坦或其他人的聊天机器人。”

该研究的研究者意识到,该模型能够被用来确认线上匿名下棋者的身份,这可能会带来隐私问题。通过微调模型也能将这项技术应用于扑克游戏上,McIlroy-Young说道。研究者们认为,只要有合适的数据集,这样的模型理论上能够基于驾驶的癖好,或者手机使用的时间和地点来确认个体的身份。

神经信息处理系统大会的组织者认可了该项研究技术上的成就,但是认为它在伦理上存在瑕疵,因此该大会在研究者强调了隐私风险的条件下才接受了这篇文章(一位审稿人评价这篇文章“是营销者和法律部门所感兴趣的”)。Anderson说他们已经决定眼下不会公开模型的代码。


责任编辑:华轩 来源: 今日头条
相关推荐

2023-08-27 00:04:59

2017-03-12 21:46:11

人工智能下棋识别

2018-07-05 14:52:05

2021-10-18 09:21:42

人工智能AI

2023-09-11 11:39:08

2014-12-25 10:25:59

2021-08-20 20:00:41

人工智能AI

2023-09-21 15:11:59

2022-08-02 14:05:48

人工智能数据安全隐私

2021-11-09 11:29:03

隐私人工智能AI

2021-01-03 18:01:15

人工智能AI网络安全

2020-07-03 09:42:13

人工智能机器学习技术

2023-10-07 16:19:54

2017-11-06 13:34:17

人工智能造福威胁人类

2023-07-05 17:34:47

2024-03-29 06:00:00

人工智能新兴风险安全威胁

2021-09-02 09:44:51

AI人工智能

2020-10-19 10:17:28

人工智能

2021-09-24 09:42:48

人工智能网络威胁威胁情报

2021-03-17 10:32:51

人工智能
点赞
收藏

51CTO技术栈公众号