辛顿WAIC演讲全文：大模子能“永生”，需确保它不会“清除”人类

文｜苏扬 晓静 木木

编辑｜云云

“大模子真的可以明白‘人类明白题目的方式’，和人类明白语言的方式是一样的。”图灵奖得主、诺贝尔奖得主、计算机学家杰弗里·辛顿在WAIC25大会上说。

不外，辛顿此次来中国，并不为了再去复述大模子的本事有多强，而是要为越来越强盛，以致已经出现出超越人类智力的AI套上“紧箍咒”——既要让它为人类服务提效，也制止“AI觉醒”而失去控制。

在此之前，辛顿、姚期智、本吉奥等在内的专家学者，围绕AI安全这个话题签订了“上海共识” “北京共识”等文件，下令对本事不断进化的大模子“划红线”。

在辛顿看来，今天的大语言模子——它们在本质上与人类类似，都是把词映射到高维特征，再像“多维乐高积木”般机动“握手”组合，完成语义建模。

但同时，辛顿也提示，大模子与人脑相比，具有“软件硬件分离”的差异，这种差异也赋予了数字智能知识“永生”的潜力，也恰好是这种“数字永生”，暗藏着高能耗、失控等危及人类安全的风险。

“我们没有办法消除AI，纵然一个国家消除了AI，别的国家也不会这么做。如果我们想要人类生存的话，必须找到一个办法来练习AI，让它们不要清除人类。”辛顿说。

辛顿提出，若要制止被自身创造的“智能”反噬，必须携手研究“让 AI 向善”的练习方法，创建跨国协作网络，为未来超越人类智慧的呆板奠基安全界限。

划重点：

1. 已往六十年，人工智能沿着逻辑符号推理与生物神经学习两条门路并行发展，这两种范式共同夸大“明白先于学习”。

2. 从1985年的特征预测原型，经由本吉奥的大规模语言模子、词向量嵌入的遍及、谷歌 Transformer 的诞生，再到 OpenAI 展示的本事演进，今日的大语言模子本质上是当年原型的放大版。

3. 在这些模子内部，每个词被映射为高维特征块，像多维乐高积木一样机动“握手”组合，其交互方式类似卵白质折叠，印证了呆板对语言的真实明白。

4. 软件与硬件的分离赋予数字智能“知识永生”的潜力，但也依靠高功率晶体管带来的高能耗与高资本。

5. 西席门生蒸馏和海量副本的分布式同步，使呆板知识的传播速率可达人类口耳相传的数十亿倍。

6. 由于简单关停超智系统并不可行，各国有须要共建 AI 安全网络，分享对齐技术，以确保未来超等智能体助益而非威胁人类。

以下为演讲全文实录：

各位好，

大概60多年已往了，AI有两种不同的范式和路径。

一个是逻辑性的，已往一个世纪AI都是基于逻辑型的范式，逻辑智能的本质在于推理，我们通过一些符号规则对符号的表达式举行利用来实现推理，资助我们更好的去明白知识的体现情势。另一种就是生物作为根本的明白AI，也是图灵和冯诺依曼所相信的智能根本——更好的去学习、相识网络中的一些毗连。这个过程中的明白是第一位的，只有明白才可以或许学习。

那么和这两种理论相联合，其中，基于符号的型的AI，它的原理就是看数字，但末了怎样关注这些词之间的关系？生理学家采用了一种不同的理论：数字的意思就是一系列语义学的特征，这些特征是客观存在的。

1985年，我做了一个非常小的模子，实验将这两种理论联合在一起，然后更好地去明白“人类是怎样明白一个词汇的”。每一个词，我都放了好几个不同的特征，然后将前一个词的特征记载下来，再预测下一个词是什么。

在这个过程中，我们没有存储任何的句子，而是生成句子，并预测下一个词是什么。

接下来30年发生了什么？

10年之后，约书亚·本吉奥也用了如许的一个模式去建模，但把规模做的很大，好比是天然语言的真实模拟。

20年之后，计算语言学家也终于开始去接受特征向量的嵌入去表达词的意思（的范式）。

大概在30年后，谷歌发明了transformer，然后OpenAI的研究职员向各人展示了它的强盛本事。今天的大语言模子，我把它当做是微型语言模子的后代，（如今的模子）使用了更多的词作为输入，使用了更多层的神经元结构，由于有大脑含糊不清的词被应用，学习特征之间也存在更加复杂的交互模式。

但是，就像我做的那些小模子一样，大语言模子和人类明白语言的方式是一样的，根本的逻辑就是将词转化为一些特征，然后将这些特征以一种非常美满的方式整合在一起，这就是大语言模子各个条理所做的事变，所以在我看来，大语言模子真的可以明白人类明白题目的方式，和人类明白语言的方式是一样的。

我在这里给各人打个比方——什么叫明白一句话，基于符号型的AI是怎样将一套含糊的词转化为可以明白的语言。

好比做乐高积木，你可以做成任何一种3D形状，我们可以将词汇明白为一个多维度的乐高，这些词它可能有几千个不同的维度，其实就是一种建模，可以做大量不同模子，你可以明白为语言建模，可以做出大量不同的内容，然后我们可以将如许的语言建模通报给别的人——我们只须要给每一块“积木”起一个名字，每一块“积木”就是一个词。

不外，与真实天下中造型固定的乐高不同，词的“形状”是可以根据语境机动调整的。传统乐高是“一个正方形插进另一个正方形的小孔里”，而语言并不如此刚性。你可以想象：每个词上都长着许多“手”。要更好地明白一个词，就须要让它和另一个词以符合的方式“握手”。一旦词的形状发生变革，它与下一个词“握手”的方式也会随之不同。这内里就出现了一个优化题目：当一个词发生形变、其寄义改变后，怎样与下一个词毗连，才气产生更好的团体寄义？这正是人脑明白意义，大概神经网络明白意义的根本机制。

从这个角度看，词与词的组合有点像卵白质之间的联合：卵白质由氨基酸以不同构象折叠、组装，联合后产生更有功能性的团体；语言中，词的特征在高维空间里“折叠—配对—整合”，共同形成更有意义的表达。这就是人脑明白词与语言的方式。

因此，我的观点是：人类明白语言的方式，与大语言模子明白语言的方式险些类似。也正由于如此，人类可能就像大语言模子一样会产生“幻觉”——我们也会创造出许多“幻觉式”的语言，而大语言模子也会这么做。

但是，在一些根本性的方面，单位模子（大模子的根本计算单位）与人类并不类似，而且在某些本事上更强。计算机科学的一个根本原则，是把软件与硬件分离。这使得你可以在不同的硬件上运行同样的软件；而这与“WE”（原文如此）是不一样的，这也是计算机科学之所以创建的根本。如果软件可以或许正常工作，那么其中所承载的知识就是“永恒”的：你可以摧毁所有的硬件，哪怕承载 LLM 的硬件全部被毁灭，只要软件仍然存在，它就能随时被复活。从这个意义上讲，计算机步调中的知识是不会死亡的。

不外，要实现这种“永生”，我们必须让晶体管在非常高的功率下运行，以产生富足可靠的二进制活动，这个过程是昂贵的。换句话说，知识的“永恒”并非没有代价。

我们无法充实使用硬件内部那种“粒子级”的丰富物理特性，由于它们过于不稳定，难以包管可重复的数字活动。硬件属于模拟体系，每一次计算结果都可能略有弊端；人脑同样是模拟系统，而非数字呆板，每一轮神经元放电都带有噪声且无法完全复制。

我不可能把本身大脑的突触毗连原封不动地转移到你的大脑——每个人的毗连拓扑都独一无二，只得当各自的神经结构。

正因如此，知识在大脑之间的传播方式与在硬件之间的复制方式大相径庭，这也引出了一个关键题目。如果我们无法让知识“永生”于软件，就必须面对它牢牢依靠特定硬件这一范围；反之，软件一旦脱离硬件束缚便可长存，这带来了两大长处：第一，知识可以脱离硬件故障得到长期性；第二，它能在不同装备上快速复活并传播。

人脑的能效极高：整套系统只需约 30 瓦电力，却维系着上万亿个突触毗连，与早期电子管计算机的能耗不可等量齐观。我们无需为每个人复制一套完全同等的硬件，大脑已经富足节能。然而，若想把一个模拟系统中的知识完整迁徙到另一套模拟系统，过程既低效又困难——我无法直接“展示”本身的神经网络给你，只能借助别的间接方式通报明白。

为了让你真正明白我已经把握的知识，我也必须指出：人类依靠语言通报信息的带宽极其有限。即便你全神贯注地倾听，我一秒钟也最多只能向你运送约 100 比特的数据，这极大限定了知识从一个大脑向另一个大脑的迁徙服从。

在数字天下里，我们用“蒸馏”来突破这一瓶颈。DeepSeek 的做法是：先练习一台规模巨大的“西席”神经网络，再把它学到的本事压缩到一个更小的“门生”网络中。西席负责把上下文中相互关联的词构造到一起，门生则在输出看似类似句子的同时，根据各自身体量重新调整权重——就像老师示范后，门生用更轻便的条记复现同样的解题思绪。

这种西席门生模式在人类之间非常低效，但在呆板之间却能指数级提速。同一神经网络可以复制出数百以致数万份拷贝，分布在不同硬件上运行；它们通过梯度同步或参数均匀，便能在一次通讯中共享高达万亿比特的信息。与人类口耳相传相比，这种互换速率快了整整几十亿倍。

想想 GPT4：它的浩繁副本同时运行在环球各地的数据中心，不断吸收互联网新知识，再把权重回传给主体模子。若这些副本进一步延伸到现实天下的智能体中，相互学习与复制的速率只会更快——这是任何纯模拟或单机软件都做不到的。

固然，数字智能的这种狂飙离不开高能耗；而生物计算固然只斲丧微不足道的能量，却难以高效共享神经毗连模式。如果未来能源富足便宜，数字计算将愈发占据上风，这也正是我担心的缘故原由——险些所有专家都相信，我们终将造出比人类更智慧的 AI，而它们互换知识的服从将远超我们的想象。

我们已经风俗了（人类）是这个星球上最智能的生物，所以许多人以为不可思议，如果在这个天下，AI比人更智能会怎么样？

如果你想要知道如果人类不是最智能的话会怎么样？

我们在创造AI智能体，它们可以或许帮我们完成任务。这些智能体，它们已经有本事举行拷贝。它们能给本身的子目标举行评级。

这个时间它们会想做两件事变，起首它们想要生存，所以须要完成我们给它们的目标。别的它们也盼望可以或许得到更多的权利，这也是为了完成我们给它们的目标。所以，这些智能体，它想要生存，也想要更多的自我决定权利。

我以为我们不能只是把它们一关了事，它们会很方便的来利用使用它们的人，我们就会像3岁的孩子，它们像成年人一样，一个成年人想要利用3岁的人是很容易的。

所以有人以为它们变得智慧了，我们把它们关掉就好了，但这是不现实的，它们会利用、会奉劝操控呆板的人不要把它们关掉。

所以，我以为我们如今的情况就如：有个人把老虎当宠物，当老虎是小虎崽的时间，它是很可爱的宠物。但是，如果不绝养这个宠物，那么你要确保它长大的时间，它不会把你给杀掉。

一样平常来说，养老虎当宠物不是一个好的想法，那么只有两个选择。

一个是你把它练习好，它不来杀你。大概你把它给干掉，用AI的话，我们就没有办法把它给清除掉。

AI在许多方面都做得很好，好比说医疗、教育大概气候变革、新质料。AI能在这些范畴做得非常好，险些可以或许资助所有的行业变得更有服从。

我们是没有办法消除AI的，纵然一个国家消除了AI，别的国家也不会这么做。所以，这不是一个选项，这意味着如果我们想要人类生存的话，我们必须找到一个办法来练习AI，让它们不要清除人类。

我的个人观点是，我以为各个国家可能不会在一些方面举行合作，好比说网络攻击，大概是致命武器，大概是卖弄的利用公众意见的视频等等。各国的长处是不同等的，它们有着不同的看法，我以为不会在这方面能形成有用的国际合作。

我们可以防止一些人来制造病毒，但是在这些方面不会有什么国际合作，不外有一个方面，我们是会举行合作的，这也是最重要的一个题目。

回溯一下50年代暗斗的顶峰时期，美国和苏联一起合作来防备环球的核战争，各人都不盼望打核战争，只管他们在许多方面都是对抗的，但是他们在这一点上面可以合作。

我们如今的局面是没有一个国家盼望AI统治天下，每个国家都盼望人类可以或许掌控天下。如果有一个国家找到一个办法来防止AI利用变乱的话，那么这个国家肯定会很乐意告诉别的国家。所以，我们盼望可以或许有一个AI安全机构构成的一个国际社群来研究技能，来培训AI，让它们向善。

练习AI向善的技巧，和练习AI智慧的技术是不一样的。所以，每个国家可以做本身的研究，让AI向善。它可以在本身主权的AI上举行研究，它可以不给别的国家这个研究过程，但是它可以把结果分享给各人，也就是怎么练习AI，让AI向善。

那我有一个发起，也就是环球重要国家，大概AI的重要的国家，应该思考一下，创建一个网络，包罗各个国家的一些机构来研究这些题目，研究怎么来练习AI，一个已经非常智慧的AI。

让这个AI不想要清除人类，不想要统治天下，让这个AI很高兴的做一个辅助的工作。只管AI比人要智慧许多，我们如今还不知道怎么去做这件事，从长期来说，这是人类面对的最重要的题目，我们的好消息就是，在这个题目上，所有的国家都是可以一起合作的，谢谢。