社区编辑申请
注册/登录
认知偏差如何影响人工智能?
人工智能
人类对人类层次认知的解释和形成使人工智能系统在机器学习中的计算复杂化。

对人类认知最基本层面的研究,称为基本认知加工,也称为认知科学。心理学、神经学和认知神经科学是认知科学的主要研究领域,其的许多发现对人工智能有着重要的应用,即机器学习学科。

有趣的是,神经生理学和微观测绘的研究支持这样一个观点:复杂的心理操作可以在系统层面上解释。人工智能系统以多种方式运作,就像我们大脑的简化版。

人工智能每天都在变得更加智能。如果人工智能达到与人类相似的智力水平,其将受到与人类相同的限制。人类对人类层次认知的解释和形成使人工智能系统在机器学习中的计算复杂化。直觉和大脑研究的原理表明,人们在表达事实之前就有特定的解释偏好。但如果我们过度依赖人工智能,就有可能会低估人类行为的重要性。此外,即使人工智能系统在以无数种方式改进,我们仍然不完全了解人类如何在这些领域完成类似但更困难的任务。即使我们试图定义什么是“人”,区别也变得越来越模糊。

可用性启发法断言,人们通常更依赖于确认他们当前想法的数据,当其涉及到人工智能选择时,是一个显著的认知偏差。当面对相互冲突或模棱两可的数据时,我们往往倾向于对给定证据做出最相关或最符合逻辑的解释。这种策略在某些情况下可能有效,但在许多情况下,可能会导致无法打破的失败循环。当算法严重依赖启发式进行决策,并最终依赖于无关或过时的信息时,就会发生内存泄漏。这就是一个典型的例子。

人类在做决定时更喜欢使用启发式方法,这很容易观察,但这些偏见是自动的和无意识的,使之难以识别。我们有充分的理由认为,自狩猎采集文化的时代以来,人类在日常生活中就一直在利用偏见。人类今天拥有的许多技能,比如语言和数学,都是在各种学习策略的帮助下获得的,比如镜像。学习信息并不难,我们的大脑可以迅速解码。

断言偏见在人类决策中仍然起着很小的作用是不正确的。尽管不断开发改进的过滤方法,但目前还没有一个解决人工智能进步的单一方案。我们知道人工智能和人类的思想都很容易出错。这意味着,任何人工智能系统都不会在任何计算中完全取代一个人,无论神经网络在预测下一步行动过程中的发展程度如何。

由于认知偏见根植于人类本性,不太可能消失,人工智能系统将需要考虑它们。完美的人工智能系统是无法制造出来的。目前正在使用的方法只能加强、优化和改进,同时使系统的其他部分具有类似于人的质量。越是了解认知偏差,就愈能有效地使用机器学习和人工智能。

责任编辑:姜华 来源: 千家网
相关推荐

2022-07-26 11:27:40

人工智能AIOps

2022-08-04 13:29:50

人工智能自动化数据研究

2022-03-14 10:20:15

人工智能学习高效

2022-07-18 10:40:29

人工智能AI

2022-07-20 11:32:09

人工智能人工智能算法

2022-07-29 11:39:33

人工智能AI

2019-01-10 14:08:57

人工智能AIAGI

2022-07-12 10:06:08

人工智能AI

2022-06-04 14:46:27

人工智能医疗保健数据

2022-07-08 11:02:01

人工智能AI

2022-07-20 10:48:55

人工智能AI

2022-06-22 11:11:48

人工智能AI

2019-03-22 14:36:34

人工智能算法组织

2020-05-12 15:00:51

教育人工智能学习

2021-01-07 15:09:24

人工智能人工智能误区

2022-03-28 18:48:42

人工智能AI

2021-06-04 10:24:37

人工智能AI深度学习

2022-02-18 14:25:28

人工智能机器人技术

2021-03-04 13:55:51

人工智能偏见AI

2022-02-12 12:36:43

同话题下的热门内容

基于人工智能技术快速构建三维模型AI赋能视频直播,如何提升系统安全性?AI到底是如何工作的?特斯拉全自动驾驶三次撞上儿童假人,撞后没停重新加速面向推荐的汽车知识图谱构建数据闭环研究:自动驾驶发展从技术驱动转向数据驱动非科班AI小哥火了:他没有ML学位,却拿到DeepMind的offer专访字节跳动王明轩:机器翻译和人工翻译实质是两个赛道 | T前线

编辑推荐

转转公司架构算法部孙玄:AI下的微服务架构Facebook开源相似性搜索类库Faiss,超越已知最快算法8.5倍运维:对不起,这锅,我们不背快消品图像识别丨无人店背后的商品识别技术最全面的百度NLP自然语言处理技术解析
我收藏的内容
点赞
收藏

51CTO技术栈公众号