《人类简史》作者谈AI：2028年美国总统竞选大概不再由人类主持

克日，《人类简史》作者、以色列汗青学家尤瓦尔·赫拉利（Yuval Harari）与着名纪录片《监视资源主义：智能陷阱（The Social Dilemma）》的制作人特里斯坦·哈里斯（Tristan Harris）和阿扎·拉斯金（Aza Raskin）共同撰文，命令人类夺取时间，为应对人工智能天下而升级现有机构（这套机构仍旧源自19世纪），并在人工智能掌控人类之前学会掌控它。

这篇题为《你可以拥有蓝色药丸或赤色药丸，我们已经没有蓝色药丸了》的文章发表在《纽约时报》。赤色药丸与蓝色药丸（red pill and blue pill）是一种盛行的迷因，意思是在令人不安的知识和暴虐现实的“赤色药丸”与保持屈曲并继续过着平常生存的“蓝色药丸”之间做出选择。

文章指出，未对产物举行严酷的安全查抄，药品公司不能向人们出售新药。生物技能实行室不能为了感动股东而将新病毒发布到公共范畴。同样，具有GPT-4及以上本领的人工智能体系，其卷入数十亿人生存的速率，不应该凌驾文化能安全罗致它们的速率。为了主导市场而睁开的比赛，不应该设定摆设人类最告急技能的速率。

“自20世纪中期以来，人工智能的幽灵不停困扰着人类，但直到迩来，它仍旧是一个迢遥的远景，是属于科幻小说而不是严厉科学和政治辩说的东西。我们人类的头脑很难把握GPT-4和类似工具的新本领，更难掌控这些工具发展更先辈和更强盛本领的指数级速率。但大多数关键技能归结为一件事：利用和天生语言的本领，无论是用笔墨、声音照旧图像。”文章写道。

“早先是笔墨。语言是人类文化的操纵体系。从语言中产生了神话和法律，众神和款项，艺术和科学，友好和国家，以及盘算机代码。人工智能对语言的把握，意味着它如今可以入侵并利用文明的操纵体系。通过对语言的把握，人工智能正在夺取文明的全能钥匙，从金库到圣墓。”文章继续写道。

对人类来说，生存在如许一个天下里意味着什么？“在这个天下里，很大比例的故事、旋律、图像、法律、政策和工具都是由非人类智能塑造的，它知道怎样以超人的服从利用人类头脑的缺点、私见和成瘾，同时知道怎样与人类形成密切的关系？在像国际象棋如许的游戏中，没人有渴望能击败盘算机。当同样的变乱发生在艺术、政治或宗教范畴时会发生什么？”作者问道。

“AI可以敏捷吃掉整个人类文化——我们几千年来产生的统统——消化它，并开始涌出大量的新文化艺术品。不但仅是学校作文，另有政治演说、意识形态宣言、新邪教的圣书。到2028年，美国总统竞选大概不再由人类主持。”

这篇文章以为，人类通常不能直接打仗到现实，而是被文化所困绕，通过文化棱镜体验现实。“我们的政治观点是由记者的报道和朋侪的轶闻形成的。我们的性偏好是由艺术和宗教来调解的。到如今为止，这个文化之茧是由其他人类编织的。通过非人类聪明产生的棱镜来体验现实会是什么样子？”

“几千年来，我们人类不停生存在其他人类的梦中。我们崇敬神灵，寻求漂亮的抱负，并把我们的生命献给源于某些先知、墨客或政治家想象的奇迹。很快，我们也会发现本身生存在非人类聪明的幻觉中。”

文章举例称，《闭幕者》系列影戏刻画了呆板人在街上疾驰和射击的场景。《黑客帝国》假设要得到对人类社会的完全控制，人工智能将不得不起首得到对我们大脑的物理控制，并将它们直接毗连到盘算机网络。然而，只要把握了语言，AI就会拥有它所须要的统统，将人类控制在一个类似母体的幻觉天下中，而不须要向任何人开枪或在大脑中植入任何芯片。如果有须要开枪，人工智能可以让人类扣动扳机，只须要对人类报告符合的故事即可。

文章指出：“外交媒体是人工智能与人类的第一次打仗，而人类输了。第一次打仗让我们尝到了随之而来的苦果。在外交媒体中，初期的人工智能不是用来创造内容，而是用来构造用户天生的内容。消息瀑布流背后的人工智能仍旧在选择哪些笔墨、声音和图像到达我们的视网膜和耳膜，其依据是选择那些将得到最广传播、最大反应和最多加入的内容。

“固然非常原始，但外交媒体背后的人工智能足以创造出一幕幕幻象，加剧了社会的南北极分化，粉碎了我们的生理康健，并使民主瓦解。数以百万计的人将这些幻觉与现实肴杂。美国拥有汗青上最好的信息技能，但美国公民却无法再就谁赢得推举告竣共识。只管如今每个人都已经意识到了外交媒体的弊端，但由于我们太多的社会、经济和政治机构已经与之胶葛在一起，以是这个题目还没有得到办理。

“大型语言模子是我们与人工智能的第二次打仗，我们不能再输了。但是，我们应该在什么根本上信任人类有本领使这些新情势的人工智能与我们的长处相同等？如果我们继续像往常一样，新的人工智能本领将再次被用来得到利润和权利，纵然它在偶然中粉碎了我们社会的根本。”

文章末了夸大，人工智能确实有潜力资助克服癌症，发现救济生命的药物，为天气和能源危急提供办理方案，另有无数无法想象的其他长处。“但是，如果地基坍塌，人工智能组装的长处摩天大楼有多高也不告急了。”

作者发出命令：“在我们的政治、经济和一样平常生存变得依赖人工智能之前，是时间器重人工智能了。民主是一种对话，对话依赖于语言，而当语言本身被入侵时，对话就会停止，民主就会变得无法维持。如果我们等待紊乱的发生，再来调停就太晚了。

“我们已经召唤出了一个外星智能。我们对它相识不多，只知道它非常强盛，为我们提供了令人眼花缭乱的礼品，但也大概粉碎我们文明的根本。我们命令天下各国向导人以对应其寻衅的水平来应对这一时间。第一步是夺取时间，为人工智能天下升级我们19世纪的机构，并在人工智能掌控我们之前学会掌控它。”

尤瓦尔·赫拉利长期关注人工智能对天下的影响，著有《人类简史》《未来简史》和《本日简史》等册本，并开办了Sapienship国际咨询公司。特里斯坦·哈里斯和阿扎·拉斯金是“人性主义技能中央（Center for Humane Technology）”的首创人，他们制作的纪录片《监视资源主义：智能陷阱》也被译作《外交陷阱》，显现了人类日益依赖外交媒体带来的结果：人类社会正面对一个存亡攸关的危急，被人工智能、大数据和算法模子所控制，导致出现迩来几年的分裂和紊乱。