AI时代的三大题目

观·察

怎样从信息的活动和联结的视角去思考将来？为什么秩序与原形常常鱼和熊掌不可兼得？为什么更多的信息并不会主动指向原形/真理？AI作为会思考和能行动的信息创造者和载体，可能给人类汗青带来哪些巨大厘革？赫拉利在《智人之上》中对AI时代提出了三大题目。

——吴 晨

图片来源：东方IC

AI时代的三大题目

《智人之上：从石器时代到AI时代的信息网络简史》是尤瓦尔·赫拉利自《将来简史：从智人到智神》出书八年以来的第一本新书，恰好超过了从2016年AlphaGo击败李世石到2024年生成式人工智能大爆炸这两个AI大爆炸的时间点。假如说《将来简史》照旧在AI大爆炸原点所做的畅想，那么《智人之上》可以说是经过长时间参与AI讨论与思考之后对将来的分析。

怎样从信息的活动和联结的视角去思考将来？为什么秩序与原形常常鱼和熊掌不可兼得？为什么更多的信息并不会主动指向原形/真理？AI作为会思考和能行动的信息创造者和载体，可能给人类汗青带来哪些巨大厘革？赫拉利在《智人之上》中对AI时代提出了三大题目。

第一个大题目：为什么可以透过信息来分析汗青、权利和将来？

赫拉利提出信息的活动和联结是我们明白人类汗青的抓手。要明白这一点，起首我们须要知道什么是信息？什么是信息技能？为什么信息和信息技能对我们人类的构造至关紧张？

信息一开始是口口相传的知识，是我们对这个天下的认知和我们本身的感受（也就是客观存在和主观认知），也可以说是我们对外部天下和外部天下的运行规则不停构建的认知模子，一个外部天下的捏造分身（衍生到当下就是数字分身的概念）。在此技能之上我们又开始构建一系列新的认知，从传说到故事、从宗教到信仰、从法律到制度，都是我们人类塑造的一系列人群间构建的认知，其主要作用是通过告竣共识来维持人类的秩序，让人类可以更大规模地被构造起来。从认知和秩序这两个视角——而认知在科学头脑出现之后又渐渐演化成了我们对真理和原形的寻求——分析信息对人类而言具有巨大意义。

那什么是信息技能呢？可以说是信息的载体和传播方式。语言和笔墨是最早的信息载体，也是人类之以是成为地球主宰的最紧张的发明。笔墨所形成的文档和书则是信息技能的又一进步。文档第一次创造了独立于口口相传的实际天下的模仿，乃至在人类汗青的演进过程中饰演了越来越紧张的脚色：从最根本的买卖业务记载，到维护贸易的左券，再到法律的条文和判例……字据和凭据是真实的验证，在很多情况下更是超越真实的唯一证据。

书与文档最大的区别不光是书的篇幅更长，更紧张在于书是复制成很多份的文档，书最早的立意就是为了更好地传播，而且由于每一份都是副本，确保传播的讯息同等而不被篡改（固然，在印刷术被发明并广为传播之前，书依赖手抄，纰漏与错误在所难免）。从这一视角出发，从犹太教、基督教经典形成汗青来明白书的代价，早期西方的册本可以等同于经典。

作为经典的书代表了不容置疑的原形。在信息匮乏的时代，在大多数人都屈曲无知，大多数人都不识字的时代，经典就代表了一种权势巨子。经典有利于塑造一种大多数人都服从的秩序，也由于经典的同等性，它可以代替特定个体成为维持秩序的权势巨子。但经典的题目是无法与时俱进，不可能穿越时代去办理将来发生的题目，无法自我修正，以是才会出现经典的表明者。以犹太教为例，后续出现了表明经书的密释纳和塔木德，也形成了犹太人质疑与辩说的传统。

活字印刷术在西方的出现带来了革命性的结果，遍及了知识传播，也让知识变得更加自制。赫拉利并不以为活字印刷术本身推动了文艺复兴和科学的发展，技能能资助传播科学和真理，但更轻易助长谎话和煽惑性笔墨的传播。这一特点从报纸杂志时代到计算机、互联网和AI时代依然云云，由于“坏事传千里”。

从信息和信息技能的发展不难引出第二个大题目：信息技能与权利秩序之间的关系？

赫拉利在《智人之上》开篇就特殊驳倒了科技万能主义者“灵活的信息观”，这一观点以为只要有更多信息人们就能更好地发现原形，靠近真理。他推许复杂的信息观，以为信息不光会领导我们走近真理，也可能资助人类塑造秩序，而秩序和真理在很多时候是鱼和熊掌不可兼得，汗青上牺牲原形来维持秩序的例子触目皆是。

在探讨原形和秩序在人类汗青上的弃取关系之前，我们还须要明白信息与信息技能的演进。从汗青发展来看，人类社会的信息越来越多，尤其是计算机和互联网发明之后，出现出爆炸式的增长。信息技能也是云云，从印刷术到电报、收音机、电话、电视、计算机和互联网，人类信息交换也出现出一种爆炸态势。

同样，站在汗青分析的视角，赫拉利似乎推导出一个结论，即信息的匮乏与信息技能落后所带来的信息传播效率低下导致大多数人类构造都是独裁而不是民主的，无论是王国照旧帝国。在电报和火车在中国出现之前，最快的信息通报技能是八百里加急的驿传体系。

他提出，在信息技能高度发达之前，分布式的民主信息网络似乎就是无法与大规模的社会兼容的。论据不少，比如在今世之前只有希腊城邦才真正践行过民主。由于民主的实践须要参与和对话，让更多人对长处相干的事项参与讨论，而且要包管这种讨论是高质量的而不是鸡同鸭讲的。这须要至少满足两点：一是每个参与者都要处于相互的听力范围之内，可以相互闻声；二是每个人都必须对本身谈论的内容有根本的相识，须要教诲和媒体，让各人都能对本身从未切身履历的议题有肯定明白。换句话说，在一个大多数人照旧文盲，没有今世媒体，信息通报未便的时代，只有小国寡民的城邦才可能真正践行民主。

而在信息匮乏和信息技能落后的时代更轻易塑造独裁的秩序。独裁会基于某种故事大概传说，比如君权神授，比如天子的天命等等，也会形成一套话语体系、意识形态来维持秩序，而秩序说白了就是稳固，各安其位、按部就班，在一个巨大规模上不出现杂乱。

固然，这种对秩序的寻求很可能出现扼杀原形以维持秩序的情况，古今中外如许的例子不可胜数。总体而言会出现三大题目：一是从仗势欺人到颠倒黑白。赵高与秦二世之间颠倒黑白的故事众人皆知。从信息的视角来分析，当赵高把持了秦二世的信息渠道，当整个秦帝国的信息都汇总到赵高手中时，他就成了拥有真正权利的幕后独裁者。罗马天子提比略成了禁卫部队长塞扬努斯的傀儡也是类似的例子。二是必须应对僵化、难以变通的风险。切尔诺贝利核变乱是近来的例子。赫拉利2019年观光核电站时，乌克兰的讲授员总结说：“美国人从小相信的是题目会带来答案，苏联人从小相信的是题目会带来麻烦。”三是这种秩序还可能作育出奴性、矫饰、对他人的不信托和灰心。

这种原形与秩序的辩论，我们也可以从短期与长期的角度来分析。

从短期而言，在信息匮乏和信息技能落后的时代，独裁是一个更加高效的管理体系。由于把握权利的人会是那些知道怎样创造意识形态来维持秩序的人。他们通过虚构故事来化繁就简，避实就虚。虚构的故事要多简朴就可以多简朴，而实际要复杂得多。原形常常令人痛楚不堪，虚构的故事可塑性更强。早期的意识形态，无论是宗教照旧神话，都有类似的特性。

但从长期来看，如许的管理体系就会出题目，无论是权利轻易被夺取——中国汗青上一而再再而三出现的外戚与阉人的题目——照旧上面提到的奴性和犬儒。

短期有效而长期失衡的主要缘故因由是体系缺乏自我修正大概纠错的能力。一个牺牲原形而维持秩序的体系最大的挑衅恰好是缺乏自我修正能力。

原形与秩序的辩论也体如今科学的发展上。赫拉利以为，科学革命的真正引擎是自我修正机制。科学鼓励的是猜疑本身，而诡计论者常常对众人既有的共识表现猜疑。自我修正机制的长处是寻求真理、与时俱进，弊端是冲破秩序。而科学机构之以是可以大概云云，是由于把维护社会秩序的困难任务留给了其他机构和制度。换句话说，假如没有其他今世制度，比如说法治，科学也很难独善其身。

对科学的讨论进一步延伸就酿成了怎样创新与突破的题目。真正的创新与突破可能一开始是异端邪说，并不为多少人所认同，也可能是连续串的失败。我们也不难发现，秩序和创新也是一对悖论：秩序夸大的是稳固、是服从，很难构成创新和突破的土壤；而创新会带来杂乱，也须要肯定程度的杂乱与冲破通例，通常会挑衅秩序，威胁稳固。

回到赫拉利论证的出发点，假如说独裁是由于信息匮乏和信息技能落后，那么随着信息的爆炸和信息技能的进步，我们是不是就可以主动走向民主？

赫拉利的答案是不肯定，由于他给民主下了一个紧张的界说，那就是全民有效参与的对话。换句话说，题目就酿成了信息爆炸和信息技能的进步是否可以大概推动全民有效参与对话？分拆下来就是信息爆炸是否主动能带来一系列改变，比如教诲的提拔，全民认知的提拔，媒体的繁荣，媒体是否能成为普通人没有切身履历但却长处攸关题目标严厉开放的讨论场域？抑或，信息爆炸带来的是更多的噪音和虚假乃至有害信息的泛滥？信息技能的进步强化的是小群体、小圈子的认同，是信息茧房，是认知的极化？

以美国为例，他灰心地以为，无论如今真正影响美国的对话在哪里举行，都绝对不是在国会，而美国民主最大的挑衅则是“人民已经失去了谛听相互的意愿或能力”。

这就引发了第三个毗连汗青和将来的大题目：AI将带来哪些巨大厘革？

要答复这个题目，就须要把AI置身于信息与信息技能发展的汗青语境中去思考。

初次，以赫拉利对汗青的认知，他以为新信息技能的发明总能促成巨大的汗青厘革，由于信息最紧张的作用是编织新的网络，而不是出现既有实际。此外，汗青上的信息网络每每器重秩序而轻真理。以是，他的潜台词是AI同样会带来巨大的厘革，但作为最新的信息技能它可能也面临重秩序而轻真理的挑衅。

其次，基于赫拉利对信息多维度的思考，之前我们会问：信息多大程度反映了实际？是真的照旧假的？如今我们更须要问：信息多大程度上联结了人群？创造出什么新的网络？更详细地说，AI联结了谁，创造出了什么新的网络？

第三，AI与此前的信息与信息技能有着本质的区别。此前的信息技能只是成员之间的毗连，而在将来的信息网络中，AI将是一个完备的成员。换句话说，这一轮生成式人工智能已经可以产出传神的内容，将来AI的大跃进会让它进一步成为人类社会对话的参与者。而这种参与是祸，照旧福？

联合以上三点思考，赫拉利眼中AI的将来是灰色的，这种灰色体如今层层递进的三个方面：

起首，假如就笔墨、声音和视频而言，我们已经很难区分AI与人。AI可能写出极具说服力的政治宣言，深度伪造图像与影片，赢得我们的信托与交情，那怎么办？假如我们再和一个假冒成为人的智能体对话，我们会双输（输两次），与呆板辩说无法说服它，却让它更相识我们。如今并没有特殊好的机制去束缚AI制造谎话和谎话，而眼球经济驱动的平台算法一再展示出它的各种题目——比如为了增长交际平台的粘性和使用时间，算法会更倾向于扯破和极度的内容，而不是理性的思考。将来假如贸易长处主导AI的进步，这种题目会愈演愈烈。

第二，算法面临同等性题目。只要人类给出一个特定目标，计算机就可能尽心尽力，所使用的方法可能出乎意料。当AI的智能爆炸式增长，同等性题目带来的潜伏危害也会出现多少级的增长。假如我们假设AI在可预见的将来还无法形成意识，超乎人类的智能可以让AI更高效地实现人类的目标，却无法真正明白人类的意图。前文所谈及的短期与长期、秩序与原形的矛盾，假如无法为高智能的AI所明白，就可能进一步被极化，即非常关注短期而忽略长期，大概为了维持秩序完全罔顾原形。

第三，人工智能不光快，而且永不停歇。这看起来是优势，其实也隐含着巨大的风险。由于人须要有张有弛，会跟不上呆板的节奏，由于呆板也会犯错误。怎么能让永不停歇的网络走慢点，也让它偶然机修正本身不停累积的错误？

基于这三个方面，我们再回到AI到底会带来哪些汗青厘革的大命题——它会资助创建一个什么样的新秩序？

赫拉利的担心是“硅幕”（类比暗斗期间的铁幕）。赫拉利以为AI很可能创造的是更为会合的秩序，让信息和权利更轻易会合于单一枢纽，推动人类进入新的帝国时代。更值得担心的是，它可能让天下酿成平行的数字天下，使之分属于敌对的数字帝国。“硅幕”分别的天下新秩序有三个特点：第一，代码决定你生存在硅幕的哪一侧、被哪些算法控制生存、被谁控制留意力以及你的数据流向何方。第二，硅幕两侧，不光技能上越来越差别，在文化代价观、社会规范与政治结构方面差别也越来越大。第三，硅幕两侧大多数国家并不会别的自行研发本地用AI的技能，而是直接采取硅幕两侧主导大国的技能。

末了，让我们一起回到第一个大题目“怎样从汗青看将来？”

赫拉利本人是汗青学家加哲学家，主要修读中世纪的汗青，成名之后他有各种时机去相识AI的厘革，也不停思考AI到底会给人类社会带来什么样的改变。在《智人之上》中，他提出用信息产生什么样的人群，联结这一视角来明白人类的汗青，以此推演出人类汗青是一段原形和秩序均衡的汗青，很有创见。

但他以信息为抓手去分析汗青发展和前瞻将来，至少在两方面须要更为深入的探讨。

第一，信息作为构建实际天下的模子，在AI时代会出现哪些突破？汗青上叙事、故事、神话简直紧张，但当我们可以拥有海量的数据，涵盖实时发生和汗青上积累的数据，如许的数据到底能怎么构建一个传神天下的模仿，乃至于模子？在数字孪生不停进化的天下中，AI是最为紧张的推动气力。显然须要跳脱民主与独裁的单一维度去思考AI会带来哪些全新的可能性。

第二，固然他提出了信息建构了人群之间的构建的认知，却没有花笔墨去深入分析这些构建，比如说法治，比如说创建信托，比如说贸易网络。信息之于市场所须要的一系列规则和制度的发展同样作用非凡。

成为一名汗青将来学家并不轻易。铁幕和“硅幕”的类比是《智人之上》最贴近以史为鉴的地方了，它推动我们去思考怎样避免“硅幕”的出现，由于不会有多少人乐意重复铁幕的汗青。

但我们不能忽略市场的发展，尤其不可忽略晚近出现的富可敌国企业的发展。1990年铁幕落下之后，环球最紧张的发展，除了信息技能的突飞猛进之外，恰好是富可敌国的平台型企业的快速强大，以及挑衅这些企业的颠覆气力的层出不穷。AI时代，这些企业在技能应用和塑造将来贸易范畴会发挥大得多的作用，他们的选择至少会影响到“硅幕”的宽窄与高矮。相应的，AI的进步也会不停孕育摧毁硅幕的气力。

（作者为财经作家，《经济学人·商论》原总编辑，晨读书局首创人）