失误集锦:2017人工智能领域的那些事儿

人工智能
人工智能项目AlphaGo和Libratus分别击败了人类玩家的最优秀的围棋选手和扑克玩家。虽然这些里程碑表明了近几年人工智能的发展程度,但许多人对新兴技术的整体成熟度持怀疑态度,尤其是在过去12个月中出现的一些有关人工智能的小失误。

今年,人工智能项目AlphaGo和Libratus分别击败了人类玩家的最优秀的围棋选手和扑克玩家。虽然这些里程碑表明了近几年人工智能的发展程度,但许多人对新兴技术的整体成熟度持怀疑态度,尤其是在过去12个月中出现的一些有关人工智能的小失误。

被面具破解的人脸识别

“失误”集锦:2017人工智能领域的那些事儿

面部识别技术(Face ID)是解锁新型iPhone X的面部识别技术,被誉为迄今为止最安全的人工智能激活方法,苹果公司宣称其被愚弄的几率为百万分之一。但随后越南公司BKAV使用由3D打印的塑料、硅胶、化妆品和镂空构成的150美元面膜实现了破解。 Bkav只是扫描一个测试对象的脸部,使用3D打印机生成一个脸部模型,并贴上剪纸眼睛和嘴巴和硅胶鼻子。这一破解给整个行业带来了冲击波,加大了消费者设备隐私的风险,更普遍的利用了人工智能的安全。

邻居们由于Amazon Echo报警

流行的Amazon Echo被认为是强大的智能扬声器之一。但没有什么是完美的,一名德国男子的Echo在他不在家的时候被意外激活,并在午夜后开始响起,吵醒邻居,导致他们打电话给警察,警察不得不破门而入,甚至在主人回来之前把门锁换掉了。

Facebook chatbot关闭

“失误”集锦:2017人工智能领域的那些事儿

今年七月,有大批量的报道称有两个Facebook聊天机器人以人类无法识别的语言相互沟通后被关闭。关于新的秘密超级智能语言的谣言淹没了论坛等讨论区,直到Facebook解释表示,这种神秘的交流只是语法编码疏忽的结果。

拉斯维加斯自驾驶巴士在第一天上路就出车祸

一辆自驾巴士于今年十一月在拉斯维加斯首次亮相。然而,在短短的两个小时内,巴士就被一辆货车撞上了。尽管从技术上来说,它并没有对这起事故负责,但是这辆智能巴士上的乘客抱怨道,当卡车慢慢靠近的时候,它不够智能,无法自行摆脱危险。

Google Allo使用头巾表情符号来回应枪支表情

[[215049]]

美国有线电视新闻网的工作人员通过Google Allo收到了一个戴头巾的人的文字表情建议。这是由于包含手枪的表情符号引发的。Google向公众保证,它已经解决了这个问题,并发表道歉。

双胞胎骗汇丰语音识别系统

汇丰银行的语音识别ID是一个以人工智能为导向的安全系统,允许用户通过语音命令访问他们的账户。虽然该公司声称它和指纹ID一样安全,但是BBC的一名记者的双胞胎兄弟能够通过模仿他的声音来访问他的账户。实验花了七次尝试才成功,据此,汇丰即时的解决办法是规定三次尝试失败就锁定账户的门槛。

Google AI看着步枪,误判为直升机

“失误”集锦:2017人工智能领域的那些事儿

通过略微调整步枪照片,麻省理工学院的一个研究小组欺骗了Google Cloud Vision API,使其误认为直升机。这个不良样本,会导致计算机通过引入人眼无法察觉的修改来对图像进行错误分类。在过去,只有黑客知道目标计算机系统的基本机制,敌对的例子才会起作用。麻省理工学院团队在没有获得这些系统信息的情况下,通过触发错误分类而向前迈进了一步。

“黑”掉自动驾驶汽车 只要给路标画个大花脸

“失误”集锦:2017人工智能领域的那些事儿

研究人员发现,通过使用油漆或胶带的谨慎应用来阻止信号,他们可以欺骗自动驾驶的汽车,把这些标志进行误分类。用“爱”和“憎恨”这两个词修饰的停车标志,欺骗了一辆自驾车的机器学习系统,大部分的时候都会被误认为是限速45英里/小时。

用AI给油漆颜色取名

机器学习研究员Janelle Shan训练了一个神经网络,处理大约7700种油漆颜色,以及其对应的红绿蓝值。经过几个小时的训练,神经网络成功地找到了“绿色”和“灰色”这两个词,但除此之外就没别的了。训练神经网络需要时间。在多次迭代中,Shane训练的神经网络变得越来越好,它已经能够找出像棕色和蓝色这样的真实颜色,以及这些颜色对应的红绿蓝值。接着她发现神经网络是具有创造力的,它开始产生“草球棒”、“浅褐色”和“毒品”等颜色。

责任编辑:武晓燕 来源: IT168
相关推荐

2017-08-21 17:00:55

2021-02-23 09:48:56

人工智能

2021-01-03 10:29:58

人工智能AI语言模型

2017-12-07 15:44:58

人工智能AI信息化

2019-01-03 14:22:10

人工智能算法机器学习

2022-02-23 19:50:41

人工智能AI

2016-12-02 16:34:46

人工智能物联网

2024-01-23 10:31:49

人工智能深度学习

2021-02-01 17:48:37

人工智能AI机器学习

2017-01-06 12:44:09

2017-12-27 15:07:57

2017-01-04 12:27:46

2018-12-09 14:35:58

人工智能预测

2021-01-12 11:19:35

人工智能AI产业预测

2019-01-18 12:24:22

人工智能资本融资

2021-01-13 11:59:03

人工智能人工智能发展

2016-12-21 13:35:46

人工智能人机交互

2022-03-16 16:22:01

人工智能医疗保健技术

2021-07-01 18:31:13

人工智能AI深度学习

2021-06-04 17:44:48

人工智能AI深度学习
点赞
收藏

51CTO技术栈公众号