Demis Hassabis金句：AGI的承诺、挑战与未来秩序

1.关于AI的潜力与风险

“我们当然希望这些AI系统能够带来它们所承诺的一切，比如找到新的治病方法、新的能源形式，做出很多对整个人类有巨大帮助的事。但同时也确实存在一些担忧，比如如果最早的AI是在错误的价值观引导下开发的，或者在没有安全保障的情况下建成的，那可能会带来很严重的问题。”

2.关于AGI的定义和发展节奏

“我们一直把AGI理解为一种能够具备人类所有核心认知能力的系统。我们之所以以人类大脑为参照，是因为人类智能目前是我们唯一可以证明存在的智能形式。”

“我觉得未来五到十年内，有差不多50%的可能性，我们就能实现我们现在对AGI的定义。”

3.关于当前AI系统的局限性

“现在的系统确实还缺一些能力。用过最新大语言模型或者聊天机器人的人应该都有体会，比如推理、规划、记忆这些方面还做得不够。我觉得目前的系统还不能进行真正意义上的发明创造，也很难独立提出新的科学假设。”

“还有一致性的问题。比如在某些场景下，它可以解出国际数学奥赛级别的难题，表现得非常好……但转过头来，又可能在中学数学题上出错，甚至连一个词有几个字母都能数错。”

4.关于AGI对现实世界的影响

“即便我们有了AGI，现实世界还是要遵循物理规律的，比如工厂、机器人这些都需要时间来部署。所以哪怕数字智能很强，它对实际世界的影响也不会是立刻发生的，可能还要十年甚至更久。”

“如果一切顺利，我们应该会进入一个我喜欢称为‘激进丰裕’（radical abundance）的阶段。也就是说，AGI有潜力去解决一些我称之为‘根节点’的问题，也就是那些长期困扰整个社会的底层难题。”

5.关于地缘政治和AI的竞赛问题

“每一个被开发出来的系统，其实或多或少都会反映出它背后的设计者、开发团队，甚至文化背景的价值取向。”

“我自己最担心的有两个方向。一个是，如果这些系统一开始就带着错误的价值观，或者开发过程不够安全，那后果会非常严重；另一个是，一些恶意行为体——无论是个人还是国家——可能会把这类通用技术拿去做破坏性的事。”

6.关于AI的监管问题

“我一直都觉得，对这些越来越强大的系统，做出合理且专业的监管是非常有必要的。”

“从理想状态来说，这种监管应该是全球层面的。但以目前世界的运作方式来看，这其实挺难的。问题在于，这些系统本质是数字化的，它们不会受到国界的限制，却会影响到所有人。”

7.关于AI对工作的影响

“如果一个人对这些工具很熟悉、用得顺手，他的生产力可能会提高十倍。我会建议今天的学生或者年轻人，尽早去了解这些系统，深入去接触。”

“当然就算技术到了，我们也还有很多事情可能不希望交给机器来做。比如医生或者护士，我经常举这个例子——这里面有人类的情感、共情能力，以及照护的细节，这些是机器没法完全替代的。”

8.关于长远愿景与社会挑战

“如果发展顺利，我们会进入一个‘激进丰裕’的时代。AGI可以帮助我们攻克一些最根本的问题，比如治疗疾病、延长健康寿命、开发清洁能源等等。”

“从技术层面讲，AGI可以帮我们实现类似‘全球水资源普及’这样的目标。但在那之后，我希望这也能推动整个社会的思维方式发生变化，从零和博弈，走向一个更非对抗、共赢的方向。这就需要一些杰出的哲学家和社会学者一起来参与。”

9.关于公众对AI的反应

“当我向大家讲述我为什么要做AI的时候——比如是为了推动科学和医学的发展，举个例子，AlphaFold就是我们团队开发的，它对药物发现非常有帮助，堪称诺奖级的成果——人们听完之后往往都会说：‘我们当然需要这样的技术。’如果这类工具已经触手可及，但我们却没有去用，那反而是一种不负责任。”

10.关于AI带来的时代性变革

“我认为这场变革至少会和工业革命一样深远，甚至可能更大……当然这本身就是个巨大挑战。但好在，它也是为数不多的那些‘能帮助我们解决其他挑战’的挑战之一。”

本文转载自​​​​​​​​​​Andy730​​​​​​​​​​，作者：常华​