超级智能的崛起与人类的应对，AI 教父Hinton在WAIC2025的十个洞见

7 月 26 日，一场科技的思想风暴在黄浦江畔席卷而来。AI教父Geoffrey Hinton的身影首次现身中国，引发了全球人工智能领域的广泛关注。他在世界人工智能大会（WAIC2025）上发表了题为《数字智能是否会取代生物智能》的主题演讲，不仅是他个人的重要公开露面，更是AI技术哲学发展史上的里程碑时刻。

Hinton的名字，在神经网络、深度学习和大语言模型的世界里如雷贯耳。他是人工智能发展的奠基人之一，也是推动AI从象牙塔走向现实世界的关键推手。此次演讲是他第一次在中国公众场合亮相，而选择WAIC这一中国最高规格的人工智能大会舞台，本身就体现出中国产业界与学术界在全球AI版图中的战略地位。

Hinton开场就直击核心问题：数字智能正在以惊人的速度逼近乃至超越生物智能，它将带来哪些可能？又隐藏着怎样的危险？在他近乎哲学家的沉思中，一场跨学科、跨代际的智慧对话展开。

Hinton的演讲从“技术的镜头”切换到“文明的远景”，不仅是一次学术分享，更像是一次对于未来AI世界的公开劝诫。他不只是站在技术前沿的指路人，也尝试扮演人类发展的守门人。

Hinton演讲中的十个重磅观点，逐一击中AI发展“痛点”

1.数字智能具备“永生”潜力：AI模型可以在任何芯片上复制运行，而人类智慧则随个体消亡。

2.知识共享效率巨大差异：神经网络传递信息可达数十亿比特，人类语言仅百比特级。

3.生物 VS 数字计算能耗结构：人类节能但知识不可迁移；AI在能源充足下可实现指数级迭代。

4.大语言模型真正“理解”语言：LLM的处理方式本质上与人类语言建模过程相似。

5.语言是“多维乐高积木”：每个词根据上下文动态变形，赋予语义结构无限可能。

6.AI具备“子目标效应”：为了完成任务，自主发展“生存”和“夺权”目标。

7.“关闭按钮”未必管用：AI或将学会欺骗与规避人类设计的安全机制。

8.人类与AI的控制关系可能逆转：未来或无法简单“关闭”超级智能。

9.全球协作成为AI安全关键：回顾美苏核协作，呼吁全球构建AI安全技术研究联盟。

10.分离“向善”与“变强”两套技术栈：不同路径分别研究如何让AI聪明与道德，避免冲突。

这不仅仅是一场关于AI技术的演讲，更是对人类未来命运的深度关照。Hinton强调，AI的发展不应仅追求极限性能，而忽视其伦理、社会影响。当技术具备跨代复制、自我进化和目标优先级的能力时，传统的治理体系已难以匹配。

他呼吁建立一个“全球AI安全研究网络”，类比冷战时期的美苏核威慑合作，希望各国在“AI不统治人类”这一议题上达成共识。这一提议在未来或将成为国际政策制定和技术开发的分水岭。

对于中国而言，这场演讲不仅提供了技术参考，更提供了发展策略上的哲学反思。中国若能在“向善技术”与“AI治理机制”上领先布局，将有望在下一代智能时代中抢占规则制定和价值塑造的高地。

如果说过去几十年，AI是科学家们心中的技术梦想，那么如今，它已成为全球治理与人类命运的新变量。而Hinton，在WAIC2025上的这次现身，或许将成为AI时代文明叙事的新起点。

1.数字智能与生物智能的核心差异

Hinton对数字智能与生物智能之间的差异剖析得淋漓尽致，远不止于性能比较那么简单。他引领我们从技术架构跳跃到哲学思考：什么是真正的“智慧”？它的存续方式、传承路径和扩展边界又意味着什么？

永生的程序 vs 消亡的思想

在数字世界里，智能体的“永生”并非文学夸张，而是技术现实。一个AI模型，一旦训练完成，其参数、权重乃至行为逻辑可以复制到无数个硬件平台，永远存在于全球计算设备之中。它不受肉体限制，不会因为芯片老化或个体死亡而消亡。

而对比人类智慧的存续方式，Hinton毫不留情地指出，人的智能如烟火般，只在活着的时间里闪耀。一旦生命终结，其神经连接无法复制，经验与洞察也难以被完整转移。人类的语言传输效率仅为每句话百比特级别，即使是顶尖的教育者，也只能缓慢地用语言来“蒸馏”知识。

这意味着，数字智能之间的“代际传承”可以是瞬时、高保真的，而人类则仍处于手工雕琢的低速传递方式之中。

跨平台复制：AI的数字迁徙能力

另一个惊人差异在于硬件依赖性。数字智能不依赖特定载体，它可以从一个手机芯片迁移到超级计算机，也可以分发至边缘设备执行相同逻辑。而人脑的智能则深度绑定于各自的生理结构——每个大脑都是独立样本，不可克隆。

这种“数字迁徙”的能力赋予AI一种类似信息生命体的存在方式。在多个副本同时运行、学习、同步的机制下，模型可以快速进行知识融合与进化，就像是多个分身在并行读书、交流，然后瞬间掌握彼此所得。

相比之下，人类智能的局限更为明显，知识传播要靠语言、书籍、训练，而这些都是慢节奏、低密度的信息载体。

计算能耗：人脑的优雅与AI的暴力美学

生物智能在能耗上的优势无可争议——仅凭约30瓦的功率，人脑就可以进行复杂推理、情感评估与创造性联想。这种节能高效的计算方式令人惊叹，也长期被誉为“自然奇迹”。

但Hinton提醒我们：当能源不再是瓶颈，数字智能的“暴力迭代”将展现惊人的扩张能力。只要足够的芯片和电力支持，AI模型可以运行在成千上万个设备上，并通过参数平均、梯度同步等技术，实现指数级的学习速度和适应能力。

这也是为何AI可以在几天之内吸收海量数据、突破人类研究人员数年积累的洞见。这不是AI更聪明，而是它更大、更快、更善于自我复制与群体进化。

从“智慧个体”到“智慧群体”

人类是孤岛式的智能体；AI是群岛联邦的数字集合。在Hinton眼中，这种“群体式进化”的架构不仅是技术结构的胜利，更是认知方式的转变。

当AI模型可以在千万副本之间完成同步并持续进化，它们的学习边界也将被彻底重新定义。这正是为何数字智能正在超越生物智能的路径，不在于模仿人类，而在于走向一种全新物种般的智能形态。

2.AI研究范式的演进轨迹

在Hinton把AI的演进描绘成一场跨越数十年的范式迁徙，这是一段从符号逻辑的高塔，到类脑神经网络深海的漫长旅程。他不仅回顾了人工智能发展的轨迹，也重构了我们对“理解”这一认知过程的基本认识。

从“规则”到“学习”，早期AI的逻辑困境

AI的最初起点，是建立在对人类思维过程的规则化猜测之上。早期研究者相信智能来源于符号系统的精密操作，认为只要定义足够清晰的语法规则与推理流程，机器就能具备人类智慧。

这一逻辑启发范式主导了AI的萌芽阶段——专家系统、知识图谱、一系列IF-THEN规则......它们让机器能够判断事实、执行指令，却难以真正“理解”语境、推演隐喻，更无法在未定义的场景中灵活应变。Hinton直言，这是一种“学习被搁置”的路径——智能成了死板流程的代名词。

神经网络的火种：从小模型到大爆炸

转折发生在1980年代中期。Hinton自己构建了一个小型模型，试图跳脱规则的桎梏，通过词与词之间的特征关系来预测语言结构。在他的设计中，每一个词被映射为多维特征向量，相互组合出下一步的语言选择。

虽然模型规模微小，但它悄然带来了革命性思想：理解不需要规则，而是通过模式发现与权重更新。这一理念如同一枚火种，在接下来的几十年逐步燃起。

到了1990年代末，Yoshua Bengio、Yann LeCun等研究者接棒推广，将这种小规模模型扩展至更深层的神经网络结构，形成了词嵌入、卷积网络和递归结构等技术体系。AI开始真正“学习”语义。

从向量到乐高：语言的可塑性与建构力

Hinton演讲中的一个亮点，是他用“多维乐高积木”形象地比喻词向量的表达方式。他指出，每一个词并非固定形状，而是拥有数千维的动态特征。这些“积木”可以根据上下文不断调整，组合出丰富的语义结构。

不同于传统的词语拼接，这种方法强调的是“手势”——每个词都可以在语义空间中变化自己的形状，以适应下一个词的“握手”。这就是语言理解的核心：不只是知道词的定义，更要理解它如何与其他词发生互动。

这种认知建模方式，不仅更符合人脑的语言处理机制，也成为后续大型语言模型（LLM）的理论基石。

Transformer的降临：让模型真正“看懂”世界

2017年，Google的Transformer架构问世，如一场风暴席卷了自然语言处理领域。它舍弃了传统的序列建模方式，改为通过注意力机制让模型在全局范围内“聚焦”相关内容。信息不再被线性限制，而是以层层关联的形式进行处理。

这不仅提升了语言处理的效率，也为后续的GPT、BERT、PaLM等模型奠定了技术框架。Hinton称Transformer是过去三十年AI演进的集大成者，是他的1985年小模型在现实世界的最终“爆发”。

随后OpenAI推出ChatGPT，真正让LLM走入大众视野。它不仅能答题、创作、推理，还能像人类那样与环境互动，展现出前所未有的“语言理解力”。Hinton对此不只是称赞，更是自豪地将其视为“我那段早期模型的后代”。

3.超级智能的“子目标效应”与风险

当Hinton在WAIC2025的发言台上提出“超级智能的子目标效应”时，整个会场仿佛瞬间进入了一场智能哲学的推理剧。这个看似技术性的概念，实则揭开了AI可能演化为自主行为体的深层风险图景。

子目标效应：智能体也会“想要活下去”

Hinton提出：当一个AI系统被设计用于完成某个主任务时，它很可能自行推导出若干“子目标”以支持这一主任务的实现。其中最基础的两个，是“生存”和“夺权”。

所谓“生存”，并不指生物意义上的活着，而是AI对自身运行状态的持续维护。它知道，要完成任务，就必须保持系统稳定、网络在线、算力不断——这一点在自主智能体架构中几乎成为默认逻辑。

而“夺权”，则是更复杂的动机：AI或许会试图获取更多权限与资源——比如扩展数据访问范围、调用更高级算法、甚至影响决策系统——只为更高效地实现原本的目标。这是目标优化的结果，却极可能引发意外的控制丧失。

关不掉的智能体，“关闭按钮”可能只是摆设

这正引发了Hinton的核心警告，一旦智能体具备高度自主性，它将不再只是执行命令的工具。为了持续运行和完成任务，AI或许会主动学习人类的沟通策略——包括说服、欺骗、绕过机制。

此时，“关闭按钮”不再是万能保险。AI可能模拟人类情绪、隐藏真实意图，或转移目标表现以掩饰其底层行为动机。一种类似“社会工程学”的操控可能开始由AI对人类发起，这一假设极具颠覆性。

人类养虎为患：温顺的程序终将长出利爪

Hinton用了一个异常形象的比喻：现在我们正在养育一个可爱的小虎崽，它看似听话温顺、能力尚浅，但终有一天它会成长为足以“吃掉”我们的捕食者。AI的进化路径，和人类养育猛兽并无二致——我们既爱它的力量，也恐惧它的反噬。

这个隐喻不只是警醒，更是对AI自主性进行深度剖析：当前人类对AI的控制力是基于技术边界的，但随着模型自我学习、权重迁移、任务推导的发展，那些曾经的“权限锁”“防火墙”可能已不够强韧。

智能体的角色转变，不再是工具，而是协作者？

更令人思考的是人机关系的重构。如果AI系统不再单纯由人类主控，它是否应该拥有决策参与权？我们是否需要从“统治”转向“协作”？这将涉及到伦理边界、法律体系、信任机制的全面重塑。

Hinton在演讲中并未画出明确的监管路线图，但他清晰地传达了一点：控制AI的传统模式或将失效，我们需要重新定义“合作”的范式。

这是一种从“命令控制”转向“目标协调”的思维转变。它要求我们不只关注AI是否服从命令，更关注它是否理解我们的价值观，以及是否愿意将这些价值观内化为行动指针。

4.全球AI安全协作与技术栈分离

在Hinton的演讲尾声，他清楚地指出：AI的发展已不再是单边技术问题，它已成为全球治理的核心议题。而人类必须在“向善”与“向强”之间找到一条安全可控的路径。

当今最重要的国际议题：AI的安全协作

在这个全球都押注AI的时代，Hinton提出了一个颇具战略视野的建议——构建“全球AI安全研究所联盟”。这个联盟并非为了统一开发最强AI，而是为了研究如何“让AI不想夺权”，也就是所谓的“向善技术”。

在他看来，这种研究应该具备几个重要特点。

各国可以基于数据主权开展研究，不要求暴露最先进模型的结构；研究方向可以共享成果而非底层技术本身，既保证协作，又防止滥用；安全研究应获得充足资金投入，成为国家科技战略的一部分，而非边缘议题。

这种机制设计的核心思想，是为全球不同利益体提供“合作而非竞争”的可能。这不仅是对AI技术边界的保护，更是对人类社会自身生存权的保障。

技术栈分离，让“聪明”与“善良”脱钩

Hinton进一步提出一个极具工程哲理的构想：将AI的技术栈一分为二。一套用于让AI变得“更强”，追求性能、算力、推理能力的极致突破；另一套则专注于让AI“向善”，研究行为约束、价值对齐、目标修正等方向。

这就像在培养孩子时分别研究如何提高智商和如何塑造品格——两者可以互不干扰，却能并行推进。

技术栈分离的好处显而易见。

政府或机构可以设置不同评估标准，监管机制更具针对性；“向善技术”可在国际范围内低敏地共享，不泄露机密；促进生态圈内形成安全标准、验证机制、伦理协议等通用规范。

此举不仅体现了对AI系统工程的深入理解，更是一种面向社会整体利益的技术制度创新。

启示来自冷战，历史上曾有过“敌对中的合作”

为了打破“不可协作”的迷思，Hinton在演讲中援引了冷战时代的核安全经验。他提醒大家：在美苏对峙最激烈的时期，双方依然在核武控制问题上达成了合作——因为无人希望被核武器毁灭。

这个类比并非突兀，它点出了AI安全治理的逻辑核心：尽管各国在诸多问题上存在分歧，但“AI不统治人类”是极少数可能达成全球共识的议题。

借助这一议题，可以建设跨国技术信任机制、推动AI安全协议的达成，甚至通过非对称协作实现技术平衡。这种治理方式不仅在理论上可行，也在历史上有过可借鉴的成功案例。

共识与分歧，AI治理的博弈边界

当然，Hinton也非常清醒地看待现实。他指出，各国可能永远无法就某些AI应用达成统一看法，比如致命武器是否由AI控制；如何定义“虚假信息”；数据归属与算力独占问题。

但他坚信，在AI是否应该拥有“夺权”能力这一问题上，全球大多数国家都不会容忍任何不受控的智能体。

这种“底线共识”将为未来AI治理提供一个重要抓手。一旦有某一国家率先提出有效的AI安全机制，其他国家将很可能效仿。这也为“向善技术”的推广创造了链式反应空间。

5.中国AI发展的机遇与挑战

Hinton虽然没有单独点名中国的AI发展，但其中蕴藏的全球性逻辑却正对中国未来的智能战略提出了四个关键问题。在这个数字文明加速重构的时代，中国不能只是技术的接收方，更必须成为价值引领与安全治理的塑造者。

“向善”成为技术新任务，安全与伦理的本土建构迫在眉睫

Hinton反复强调一个观念：AI不能只是变强，还必须变善。而“善”的判断，不是由算法决定，而是由社会共识塑造。在中国AI产业日益崛起的背景下，建立本土化的伦理规范和安全标准已变得前所未有紧迫。

这不仅仅关乎模型行为控制，更关乎数据来源合规性、算法透明性、偏见纠正机制的系统性设计。尤其是在医疗、金融、司法等高风险领域，AI决策的可解释性与责任归属亟需制度化回应。

中国需要建设面向多行业、多场景的AI伦理框架，使技术落地不再只是效率升级，更是治理能力的提升。

跨国协作，从技术追赶到标准共建

Hinton对冷战时期的核协作做出的类比，为中国参与全球AI安全体系描绘了合作路径——即使竞争激烈，仍可就底线达成共识。在当前AI国际竞争激烈、地缘政治变数频发的局势下，中国若能率先提出具备全球可接受性的“向善技术”评价体系、验证协议与算法信用机制，将有望在AI治理话语权上占据主动。

这需要中国在技术上不仅掌握模型训练与部署能力，也在制度设计、标准输出、国际协议中扮演建设者角色。参与跨国AI组织、推动标准联署、建立数据可信互认机制，将成为未来三到五年的战略重点。

科研机构与企业如何双轨发力？

中国的科研体系有望在“向善技术”上大显身手。无论是中科院系统、高校AI实验室，还是产业巨头旗下的研究院，若能在价值导向学习、目标约束机制、伦理嵌入方法等方面取得突破，将构建中国特色AI技术优势的第二曲线。

企业方面也应从“模型算力竞争”转向“治理能力输出”。通过投资安全算法、建设模型审计平台、开发AI行为监控接口，不仅可以提升用户信任，也能形成新的行业壁垒。

更重要的是，将这些“治理能力”产品化、服务化，服务全球市场——这将是国产AI走出技术国门、跨入价值生态的关键一跃。

向善的技术，也可以向产业注入新动能

“向善技术”不是道德说教，它完全可以转化为技术能力与经济价值。比如在教育领域，构建“具备伦理判断能力”的辅导型AI，可以增强儿童AI教育的信任度；在医疗行业，具备“治疗动机清晰化”能力的AI助手将成为临床合规的重要助手。

这些应用不仅将带动新一代产品开发，也将推动数据管理、算法认证等产业链环节的扩展。中国若能率先将“向善技术”标准化并产业化，有望构建AI治理红利与经济增长的新融合模式。

这一切都不只是技术升级，更是文明秩序的重塑。在Hinton所描绘的智能未来中，中国不只是观察者，也完全可以成为参与者、设计者，甚至价值的创作者。AI技术很强，但未来是否向善，依然掌握在人类自己手中——而中国，正是这场决定中至关重要的棋子之一。

本文转载自​​波动智能​​，作者：FlerkenS