DeepMind CEO哈萨比斯：AI或将打败更多诺奖级困难

1997 年 5 月 11 日，加里·卡斯帕罗夫（Garry Kasparov）在美国纽约曼哈顿公正中央的毛绒皮椅上坐立不安，焦急地抚摸着他的头发。

这是他与 IBM 的 Deep Blue 超等盘算机举行的末了一场角逐，也是人类和硅之间对决的关键决胜局。但是，事故希望得并不顺遂，由于角逐初期犯了一个严肃的错误，卡斯帕罗夫被逼至一个角落。

通常，一场高级的国际象棋角逐须要一连至少 4 个小时，但卡斯帕罗夫在一个小时后就意识到本身注定要失败。他公布罢赛，倚靠在棋盘上僵硬地与约瑟夫·霍恩（Joseph Hoane）握手，后者是 IBM 工程师，曾资助开发 Deep Blue，并在棋盘上负责移动盘算机的棋子。

随后，卡斯帕罗夫蹒跚地向观众走去，并无助地耸了耸肩。他厥后说，在它最好的时间，这台呆板“发挥得像神一样”。

任何一个对人工智能感爱好的人，应该都听说过这位大家的失败。《消息周刊》（Newsweek）称这场角逐为“大脑的末了一战”，其另一个标题又把卡斯帕罗夫誉为“人类的卫士”。

如果人工智能可以或许打败天下上最敏锐的国际象棋头脑，那么盘算机似乎很快就会在齐备事故上打败人类——在这方面，IBM 处于领先职位。

（泉源：《麻省理工科技品评》）

固然，实际并非云云。

在 25 年后的本日，当我们再转头时就可以发现，Deep Blue 超等盘算机的胜利与其说是人工智能的胜利，不如说是一座“丧钟”。费力地用手工制作无尽的代码，这是老式盘算机警能的高度标记，其很快就会被一种与之竞争的人工智能——神经网络——尤其是被称为“深度学习”的技能所替换。

重量较大的 Deep Blue 就像即将“被小行星杀死的粗笨恐龙”，而神经网络则是可以或许生存“并改变地球的小哺乳动物”。纵然在本日这个一样寻常生存中充满了人工智能的天下，盘算机科学家仍然对呆板可否真正思索的题目争论不休。

关于这个题目，Deep Blue 大概会笑到末了。

1989 年，当 IBM 开始创建 Deep Blue 时，人工智能陷入了恐慌。这个范畴曾多次履历过山车般令人眩晕的炒作和羞辱性的瓦解。

好比，20 世纪 50 年代的先驱们声称，很快就会看到人工智能的巨大进步；数学家克劳德·香农（Claude Shannon）猜测，“在 10 到 15 年内，实验室将会出现一些东西，这离科幻小说中的呆板人不远。”

不外，由于发明者未能实现愿景，上述的齐备都没有发生。这让投资者感到愤怒，并克制对新项目的资助。

因此，20 世纪 70 和 80 年代成为“人工智能的隆冬”。

关于失败的缘故原由，我们现在已经知道了。人工智能的创造者们试图用纯粹的逻辑来处置处罚一样寻常生存中的杂乱，它们会耐烦地为人工智能须要做的每一个决定都订定一条规则。但是，由于实际天下过于暗昧和玄妙，无法以刻板的方式举行管理。

工程师们经心制作了他们的“发条”佳构、或他们所谓的“专家体系”，它们会工作得相当好，直到实际抛来一个曲线球。

好比，一家书用卡公司大概会创建一个自动允许光荣申请的体系，结果却发现他们已经给狗或 13 岁的孩子开了光荣卡。步伐员从来没有想过未成年人或宠物会申请一张卡片，以是他们从来没有写过规则来顺应这些边沿的环境。因此，如许的体系无法本身学习一个新的规则。

通过手工制作的规则创建起来的人工智能是“脆弱的”：当它遇到一个奇怪的环境时，它就会瓦解。到 20 世纪 90 年代初，专家体系的题目带来了人工智能的另一个冬天。

“围绕人工智能的许多对话都是如许，‘来吧。这只是炒作，’”西雅图艾伦人工智能研究所的 CEO 奥伦·埃齐奥尼（Oren Etzioni）说，他当时是一名年轻的盘算机科学传授，彼时其开始了在人工智能范畴的职业生活。

在这种愤世嫉俗的环境下，Deep Blue 的到来就像一个奇怪的雄心勃勃的登月操持。这个项目源于 Deep Thought（深思）的工作，这是一款由默里·坎贝尔（Murray Campbell）和许峰雄（Feng-hsiung Hsu）等人在卡内基梅隆大学制作的一款国际象棋电脑。

据悉，Deep Thought 这个名字来自于《银河系周游指南》中可笑的人工智能——当被问及生命的意义时，它得出的答案是“42”。

Deep Thought 体现得非常好；1988 年，它成为第一个击败大家本特·拉森（Bent Larsen）的国际象棋 AI。卡耐基梅隆大学的团队已经想出了更好的算法来评估国际象棋的走法，他们还创建了定制的硬件，可以快速土地算这些算法。

IBM

得到了 Deep Thought 的风声，决定发起一场“大挑衅”，制造一台精良到可以击败任何人类的盘算机。1989 年，它约请了许峰雄和坎贝尔，并要求他们击败天下顶级大家。

恒久以来，在人工智能的圈子里，国际象棋不绝具有象征性的力气——两个对手在纯头脑的星空中相互对峙。如果他们能打败卡斯帕罗夫，肯定会成为头条消息。

为了构建 Deep Blue 游戏，坎贝尔和他的团队不停制作新的芯片，以更快土地算国际象棋的位置，并约请大家来资助改进评估下一步棋的算法。

服从很紧张，国际象棋游戏大概比宇宙中的原子还要多，纵然是超等盘算机也无法在公道的时间内思索全部的游戏。

为了下棋，Deep Blue 会先看一步，从那边盘算大概的棋步，“修剪”那些看起来没有渴望的棋步，沿着有渴望的路径深入下去，并重复这个过程数次。

坎贝尔说：“我们以为这须要 5 年时间——实际上花了 6 年多一点。”到 1996 年，IBM终于预备好面对卡斯帕罗夫，并将角逐定在当年 2 月。坎贝尔和他的团队仍然疯狂地赶着完成 Deep Blue。他说：“在我们真正上台之前，这个体系只工作了几个星期。”

Deep Blue 的第一次展示如约而至。固然 Deep Blue 赢了一局，但卡斯帕罗夫赢了三局，并拿下了角逐。IBM要求举行重赛，坎贝尔的团队在接下来的一年里制作了更快的硬件。

当他们完成改进的时间，Deep Blue 已经过 30 个 PowerPC 处置处罚器和 480 个定制国际象棋芯片构成；他们还雇佣了更多的大家——在任何给定的时间点有四五个大家——以资助制作更好的算法来剖析象棋位置。

1997 年 5 月，当卡斯帕罗夫和 Deep Blue 再次相遇时，盘算机的速率进步了一倍，每秒可评估 2 亿个棋步。

只管云云，IBM仍然对胜利没有信心，坎贝尔回想说：“我们预计将会是平手。”

图 | 1996 年，加里·卡斯帕罗夫击败 Deep Blue 后，IBM要求这位天下象棋冠军举行复赛，复赛在纽约市举行，利用的是升级版呆板（泉源：《麻省理工科技品评》）

然而，实际要戏剧得多。卡斯帕罗夫在第一场角逐中遥领先。但在第二场角逐的第 36 步中，Deep Blue 做了一些卡斯帕罗夫没有预推测的事故。

Deep Blue 风俗了传统的盘算机下棋方式，这种风格源于呆板纯粹的蛮力。它在短期战术上比人类更胜一筹，而且 Deep Blue 可以轻易地推断出几步之后的最佳选择。

但传统上，电脑不善于的是计谋——即思索将来许多步棋的形状的本领。而这是人类仍然有上风的地方。

大概说卡斯帕罗夫是如许想的，直到 Deep Blue 在第二场的运动才让他感到震动。它看起来云云复杂，以至于卡斯帕罗夫开始担心：大概呆板比他想象的要好得多！他确信本身没有办法得胜，于是放弃了第二局。

但他不应该如许做。究竟证实，Deep Blue 实在并不是那么好。只是卡斯帕罗夫没有发现可以让角逐以平手竣事的一步棋。

他在折磨本身，担心呆板大概比实际功能强大得多，担心呆板已经开始在不存在的地方看到雷同人类的推理。

卡斯帕罗夫被打乱了节奏，不绝到打得越来越差。他一次又一次地把本身吓坏了。在第六局，即决定胜负的角逐中，他走了一步云云糟糕的棋，以至于国际象棋观察家们震动地叫了起来。他厥后在消息发布会上说：“我当时根本没故意情下棋。”

在 Deep Blue 乐成后的媒体狂欢中，IBM的市值在一周内上涨了 114 亿美元。不外，更紧张的是，这场胜利就像人工智能漫长冬天的解冻。如果国际象棋可以被征服，那么接下来会发生什么呢？公众的留意力和洽奇心都被变更起来了。

坎贝尔告诉我，“这才是引起人们关注的缘故原由。”

究竟是，电脑打败卡斯帕罗夫并不令人惊奇。大多数不绝关注人工智能和国际象棋的人都预计它终极会发生。

国际象棋似乎是人类头脑的顶峰，但究竟并非云云。实在，这是一项很适实用蛮力盘算的脑力劳动：规则很明确，没有隐蔽的信息，盘算机乃至不须要跟踪从前的棋步发生了什么。它只是评估现在棋子的位置。

每个人都知道，一旦盘算机发展得充足快，它们就会压倒人类，这只是时间题目。到了 20 世纪 90 年代中期，“从某种意义上说，笔墨已颠末时了，“Alphabet 旗下的人工智能公司DeepMind的负责人德米斯·哈萨比斯（Demis Hassabis）说。

Deep Blue 的胜利表明确手工编码体系是多么有限。IBM 花了数年时间和数百万美元开发一台用来下棋的电脑，但它不能做其他事故。

坎贝尔说：“Deep Blue 的胜利并没有让人工智能对天下产生巨大影响。”由于他们并没有真正发现任何智能的原则，同时实际天下和国际象棋也并不一样。

他增补说：“很少有题目像国际象棋那样，你有大概须要的全部信息来做出精确的决定。大多数时间，都有未知因素，且存在随机性。”

就在 Deep Blue 与卡斯帕罗夫擦肩而过的时间，一些“好逸恶劳”的后起之秀正在研究一种更有远景的人工智能情势：神经网络。

对于神经网络，我们的想法不是像专家体系那样，为人工智能的每一个决定耐烦地编写规则。相反，训练和强化增强了内部毗连，大抵地模拟了人类大脑的学习方式（正如理论所言）。

这个想法从 20 世纪 50 年代开始就已经存在。但是训练一个有用的大型神经网络须要闪电般快速的盘算机、大量的内存和大量的数据。当时这些都不是现成的。乃至到了 20 世纪 90 年代，神经网络也被以为是在浪费时间。

“当时，人工智能范畴的大多数人以为神经网络只是垃圾，”多伦多大学盘算机科学荣誉传授、该范畴的先驱者杰夫·辛顿（Geoff Hinton）说，“我被称为‘真正的信徒’。”这并不是一种恭维。

但是，到了 21 世纪头十年，盘算机行业正在不停发展，使得神经网络更加可行。电子游戏玩家对越来越好的图形的渴望，创造了一个巨大的超高速图形处置处罚单元的产业，究竟证实它非常得当神经网络。

与此同时，互联网正在爆炸，产生了大量可以用来训练这些体系的图片和文本。

到了 21 世纪 10 年代初，这些技能上的飞跃让辛顿和他的老实“信徒们”将神经网络提拔到新的高度。他们现在可以创建包罗许多层神经元的网络（这就是“深度学习”中的“深度”的意思）。

2012 年，他的团队在年度 Imagenet 角逐中轻松得胜。在该角逐中，人工智能竟能辨认图片中的元素。它震动了盘算机科学的天下：自我学习的呆板终于可行了。

在深度学习革命开始的十年后，神经网络及其模式辨认本领已经霸占了一样寻常生存的每一个角落。它们资助 Gmail 自动完成你的句子，资助银行检测敲诈运动，让照片应用步伐自动辨认人脸，而且在OpenAI的 GPT-3 和DeepMind的 Gopher 的资助下，写出听起来像人类的长篇文章和总结文本。

它们乃至改变了科学的发展方式。2020 年，DeepMind推出了 AlphaFold2，这是一种可以猜测卵白质怎样折叠的人工智能——这是一项超人的技能，可以资助引导研究职员开发新药和新的治疗方法。

与此同时，Deep Blue 也消散了，没有留下任何有用的发明。究竟证实，下棋并不是一样寻常生存中须要的盘算机技能。DeepMind的首创人德米斯·哈萨比斯（Demis Hassabis）说：“Deep Blue 终极体现的是试图用手工创造齐备的缺点。”

IBM试图用另一个专门的体系 Watson 来办理这种环境，这个体系旨在办理一个更实际的题目：让一台呆板来回复题目。它利用了对大量文本的统计分析来实现语言明确，这在当时是最前沿的，而且这不光仅是一个简单的假设体系。

但 Watson 面对的机遇很不幸：仅仅几年后，深度学习的革命就使其黯然失色，这场革命带来了一批比 Watson 的统计技能更过细的语言处置处罚模子。

前斯坦福大学传授达芙妮·科勒（Daphne Koller）说，深度学习已经逾越了老式的人工智能，正是由于“模式辨认具有令人难以置信的力气”，她创建并谋划着Insitro公司，该公司利用神经网络和其他情势的呆板学习来研究新的药物治疗。

神经网络的机动性、即模式辨认的多种方式，是尚未出现另一个人工智能冬天的缘故原由。“呆板学习确实带来了代价，”她说，这是人工智能范畴的“前一波繁荣海潮”从未做到过的。

Deep Blue 和神经网络颠倒的运气表明，恒久以来我们在判定人工智能的困难和代价上做得比力糟糕。

几十年来，人们以为把握象棋很紧张，由于对人类来说，国际象棋很难到达很高的程度。但是，国际象棋对盘算机来说却相当轻易把握，究竟它的逻辑性很强。

对盘算机来说，更难学习的是人类所做的随意的、偶然识的生理工作——好比举行生动的对话、驾驶汽车通过马路、大概辨认朋侪的感情状态。

我们云云绝不费力地做这些事故，以至于我们很少意识到它们是多么的棘手，以及它们须要多少暗昧的灰度判定。深度学习的巨大效用来自于可以或许捕获到这种玄妙的、不为人知的人类智慧的小片断。

不外，当下人工智能范畴还没有取得终极的胜利。深度学习现在大概正高歌猛进，但它也在积聚锋利的品评。

“很长一段时间以来，有如许一种技能沙文主义的热情，他们以为，人工智能可以办理全部题目！”梅雷迪思·布鲁萨德（Meredith Broussard）说，她是纽约大学的消息学传授和《人工非智能》的作者。

但正如她和其他品评人士指出的，深度学习体系通常是在有私见的数据上训练，并汲取这些私见。

盘算机科学家乔伊·布奥拉姆维尼（Joy Buolamwini）和蒂姆尼特·格布鲁（Timnit Gebru）发现，三个商业化的视觉人工智能体系在分析皮肤较黑的女性的脸时非常糟糕。亚马逊训练了一个人工智能来查察简历，结果发现它对女性的排名有所降落。

固然盘算机科学家和许多人工智能工程师，现在已经意识到了这些私见题目，但他们并不总是确定怎样处置处罚这些题目。

最紧张的是，神经网络也是“巨大的黑匣子”，丹妮拉·罗斯（Daniela Rus）说，她是一名流工智能专家，现在管理着麻省理工学院的盘算机科学和人工智能实验室。

一旦一个神经网络被训练，它的机制也不轻易明确。现在还不清晰它将怎样得出结论，也不清晰它将将怎样失败。

罗斯以为，依赖一个黑盒子来完成一个不是“安全关键”的任务大概不是题目。但如果是像自动驾驶如许的高风险工作呢？她说：“实际上，我们可以对它们给予云云多的信托和信心，这很了不得。”

这就是 Deep Blue 的上风所在。老式的手工规则大概很脆弱，但它是可以明确的。呆板很复杂，但它并不秘密。具有讽刺意味的是，随着工程师和盘算机科学家在积极办理模式匹配的范围性，这种旧的编程方式大概会卷土重来。

语言天生器，好比OpenAI的 GPT-3 或DeepMind的 Gopher，可以用你写的一些句子，继续写一页又一页听起来可信的散文。

但是，只管有一些令人印象深刻的模拟，Gopher“仍然不能真正明确它在说什么，”哈萨比斯说，“不是在真正的意义上的。”

雷同地，视觉人工智能在遇到边沿环境时，也会犯下可骇的错误。自动驾驶汽车撞上了停在高速公路上的消防车，由于在它们担当过训练的数百万小时的视频中，从未遇到过这种环境。神经网络以它们本身的方式出现了一种“脆弱性”题目。

正如许多盘算机科学家现在所猜疑的那样，人工智能要想继续进步，真正须要的是相识天下究竟的本领，并对它们举行推理。自动驾驶汽车不能仅仅依赖模式匹配。它还必须有知识，知道什么是消防车，以及为什么看到一辆消防车停在高速公路上就意味着伤害。

题目是，没有人知道怎样创建可以或许推理或利用知识的神经网络。加里·马库斯（Gary Marcus）是一名认知科学家和《重启人工智能》的合著者，他猜疑人工智能的将来将须要一种“肴杂”的方法——神经网络学习模式，但由一些老式的手工编码逻辑的引导。从某种意义上说，这将把 Deep Blue 的上风与深度学习的上风团结起来。

深度学习的铁杆爱好者们并差别意。辛顿以为，从久远来看，神经网络应该完全具有推理本领。究竟，人类是如许做的，“而大脑是一个神经网络。”利用手工编码的逻辑让他以为很疯狂；它会遇到全部专家体系的题目，那就是你永久无法猜测你想要给呆板的全部知识。

辛顿说，将来的蹊径是继续举行神经网络的创新——探索新的架构和新的学习算法，以更精确地模拟人类大脑本身的工作方式。盘算机科学家正在涉足各种方法。

在IBM，Deep Blue 的开发者坎贝尔正在致力于“神经符号”人工智能，它的工作方式有点像马库斯的发起。埃齐奥尼的实验室正试图为人工智能构建知识性模块，此中包罗训练过的神经网络和传统的盘算机逻辑；但到现在为止，现在还处于早期阶段。

将来大概看起来不太像是 Deep Blue 或神经网的绝对胜利，而更像是弗兰肯斯坦式的方法——两者团结在一起。

鉴于人工智能很大概会继续存在下去，我们人类将怎样与它一起生存呢？我昧攴斧会像卡斯帕罗夫一样被人工智能打败，由于它在“思索工作”方面做得非常好，以至于我们无法与之竞争？

卡斯帕罗夫本人并不这么以为。在输给 Deep Blue 公司之后不久，他以为与人工智能对抗毫偶然义。呆板以一种根本上不人性的方式“思索”，利用蛮力数学。它总是有更好的战术和短期力气。

那么为什么要竞争呢？相反，为什么不互助呢？

在与 Deep Blue 角逐之后，卡斯帕罗夫发明确“高级国际象棋”，即人类和硅共同工作。一个人与另一个人对弈——但每个人都挥动着一台运行国际象棋软件的条记本电脑，以资助战争游戏中的大概步调。

当卡斯帕罗夫在 1998 年开始举行高级国际象棋角逐时，他很快就发现了角逐中迷人的差别。风趣的是，业余选手的拳头重量凌驾了他们的体重。在 2005 年的一场人与条记本电脑的角逐中，此中一对选手击败了几位大家级人物，赢得了最高奖项。

他们怎样成为最好的国际象棋高手呢？由于业余爱好者能更好地明确怎样与呆板互助。他们知道怎样快速探索想法，什么时间担当呆板的发起，什么时间忽略它。现在，一些同盟仍在举行高级国际象棋锦标赛。

卡斯帕罗夫在一封电子邮件中告诉我，“将来，在于找到团结人类和呆板智能的方法，以到达新的高度，并做两者都无法单独做到的事故。”

固然，神经网络的运动与国际象棋引擎差别。但许多名流都剧烈同意卡斯帕罗夫关于人类与人工智能互助的愿景。DeepMind的哈萨比斯以为，人工智能是科学的一种发展方向，它将引导人类取得新的突破。

“我以为我们将看到一个巨大的繁荣，”他说，“我们将开始看到诺奖级别的科学挑衅被一个接一个地击倒。”

科勒的公司Insitro也同样在利用人工智能作为研究职员的互助工具，”她说，“我们正在玩一个人机肴杂游戏。”

会不会有那么一天，我们能把人工智能的推理本领打造得云云像人类，以至于人类真的没有什么可提供的，而人工智能则担当了全部的思索？有大概。但纵然是这些处于前沿的科学家，也无法猜测何时会发生，乃至会不会发生。

因此，在这场闻名的角逐竣事 25 年后，这大概是 Deep Blue 带来的末了礼物。在他的失败中，卡斯帕罗夫窥见了人工智能和人类的真正终局。“我们将越来越多地成为算法的管理者，他告诉我，“并利用它们来进步我们的创造性产出——我们冒险的灵魂。”

支持：大义、路雨晴

原文：

https://www.technologyreview.com/2022/02/18/1044709/ibm-deep-blue-ai-history/