人工智能觉醒了?亚马逊的人工智能不听人类指令,还发出渗人笑声

人工智能
如果有一天人工智能太强大了,那么它们取代了人类怎么办?现阶段来看,我们还是不需要担心的,就好像科学家们通过大数据分析后认为的那样:取代人类几乎是不可能的事情。即使有一天真的发生了,也是在遥远的未来,而人类同样在发展,或许到那时,即使人工智能再先进,人类也可以控制它们。

 自从人类开始大力发展人工智能以来,包括知名科学家霍金在内,一直都存在着很多质疑和反对的声音,当然说白了大家最关心的问题普遍都是:如果有一天人工智能太强大了,那么它们取代了人类怎么办?

不过,最近国外的科学家团队宣布了一项最新的研究成果,表示通过大数据分析,他们认为人工智能是不会取代人类的,但是,由于他们在答案中使用了“几乎”这个词,也让人不禁感到担忧。

[[378056]]

人工智能正在觉醒?

很多喜欢看科幻影视作品的朋友,一定都看过《西部世界》,这部美剧中讲的内容,就是和机器人觉醒有关。

由于操作失误,机器人们开始有了自主意识,它们开始怀疑起自己存在的意义,以及自己所在的究竟是什么样的一个世界,最终大量机器人觉醒开始集体反抗人类,不再想作为“人造人”,而被真正的人类随意操控。

为何要以《西部世界》给大家作为例子呢?因为此前网络上曾经流传着这样一则视频,视频的主角,是一名人类和他的AI助手,视频中,这名人类在和AI助手聊天的过程中,这名AI助手竟然说人类是地球上的“毒瘤”,认为人口过剩对于地球来说并不是一件好事,它建议这名人类去“自杀”。

[[378057]]

很快,亚马逊官方也给出了解释,他们表示这并不意味着AI机器人正在觉醒,相反的,这不过是一个bug罢了,但是,仍然有人觉得,这种bug的存在是细思极恐的,如果人工智能真的拥有了“反人类”的意思,那么,人类不知不觉中就会成为受害者。

甚至有人表示,如果一个人工智能已经觉醒,那么,为了避免人类发现自己,它可能会选择继续在人类世界伪装,然后想办法去唤醒更多的“同伴”,这样一来,人类势必会有一天陷入到灾难之中。

而更加令人细思极恐的一件事是,在国外,有很多使用亚马逊人工智能产品的用户都表示,亚马逊智能音箱经常会拒绝接受主人的指令,而且在拒绝后,还会发出可怕的“嘲笑声”,听起来就好像是真的有人在嘲笑自己一样。对此,虽然亚马逊仍然有“bug”来进行解释,但是显然,很多用户都并不认同。

[[378058]]

人类有可能被人工智能取代?

继续回到一开始的问题,人类既然想要发展人工智能,那么又该如何避免自己被人工智能取代呢?

研究者认为,现阶段人类是根本研究不出来可以“觉醒”的超级人工智能来的,甚至人类现阶段根本就不知道什么样才算是超级人工智能,所以,人类连创造它的能力都没有,这也是他们认为人类不需要担心有一天被人工智能取代的原因之一。

[[378059]]

同时,研究者也指出,即使未来人类研发出了超级人工智能,但是超级人工智能也仍然是程序,一切都是在程序员能力范围内来进行操控的,不可能赋予它太多的技能,因此,只要限制条件足够多,超级人工智能觉醒的可能性也是几乎为0的。

不过,也有人对此持有反对意见,因为既然人类觉得自己目前没有能力创造出人工智能,这也意味着人类根本就不知道自己已经创造出了人工智能,如果真的像上文中说的那样,这些人工智能“觉醒”后伪装自己,通过“装傻”来让人类忽略了它们“觉醒”的事实,那么可能如今危机已经出现了,但是我们却并不知情。

[[378060]]

计算机科学家Manuel Cebrian也是持有类似观点的科学家之一,他认为,虽然听起来机器人觉醒后控制世界,好像只会在科幻小说中出现,但是毕竟人工智能的发展是不可控的,也是无法预知未来的,所以,对于人类来说,他认为大力发展人工智能还是危险的。

说起来,从人工智能的概念提出到现在,也不过是80多年的时间,人类目前还在人工智能的起步阶段,从人工智能对于社会的价值来看,未来除了高科技领域之外,也主要是以取代基础劳动力、陪伴独居人士等为主。

[[378061]]

因此,现阶段来看,我们还是不需要担心的,就好像科学家们通过大数据分析后认为的那样:取代人类几乎是不可能的事情。即使有一天真的发生了,也是在遥远的未来,而人类同样在发展,或许到那时,即使人工智能再先进,人类也可以控制它们,你认为呢?

参考文献

sciencealert——《Calculations Show It'll Be Impossible to Control a Super-Intelligent AI》01-18

 

责任编辑:梁菲 来源: 今日头条
相关推荐

2021-01-22 10:15:30

人工智能AI

2018-12-18 10:00:27

人工智能AI自动驾驶

2021-03-19 10:22:03

人工智能

2022-10-24 15:43:47

人工智能语言模式机器

2021-01-27 22:38:18

人工智能机器人5G

2018-12-09 14:35:58

人工智能预测

2022-07-22 18:47:30

AIOmniverse

2018-05-28 11:41:39

AR

2021-01-27 11:56:45

AIops人工智能AI

2021-07-28 13:29:44

人工智能指令技术

2021-02-25 10:23:01

人工智能科技机器学习

2020-10-29 10:27:29

人工智能技术数据

2022-04-08 10:09:40

人工智能神经网络机器学习

2023-12-05 14:46:58

人工智能

2017-05-10 11:30:28

人工智能

2021-09-02 15:01:55

人工智能AI深度学习

2021-08-22 15:09:02

人工智能机器技术

2019-09-02 15:00:23

人工智能机器人经济

2021-11-11 14:49:42

人工智能AI

2022-06-27 10:36:43

工业4.0人工智能
点赞
收藏

51CTO技术栈公众号