人工智能不“智能” ｜重新思考数字化之二十一

胡泳/文 本日，在相称多的情况下，判定你是在与人类还是算法举行交互，正在变得越来越困难。决定谁值得信任，获取准确的信息，以及阅读准确的“信托信号”，对人类来说已经充足困难了——想想你曾经受骗受骗的情况。但是当我们开始将我们的信托外包给算法时，我们怎样去信赖它们的意图？当算法或呆板人代表你作出你差别意的决定时，要是产生了不测结果，应该责备谴责谁？

人工智能要想替人类完成许多让各人放心的变乱，有三个技能里程碑须要降服。

有多少人工，就有多少智能

在人工智能界，广泛可以听到一个说法：有多少人工，就有多少智能。

传统上，人工智能被娱乐业塑造出一个错误的形象，令我们以为它是在没有人类输入的情况下可以自若运作的技能。难怪许多人震动地发现，谷歌助理依靠人类的资助来进步自身对语音对话的明白，大概许多科技创业公司雇用人类工人来制作人工智能的功能原型和模仿品。

与传统盘算差别，人工智能可以在一系列尚未由人预编程的情况下作出决定。人工智能大部分是关于可以通过履历学习和发展的体系，通常用于实验专业使命，如驾驶、玩战略游戏大概开展投资。这也被称为认知盘算，须要通过输入大量数据举行培训。

如今我们号称进入了大数据期间，然而数据多并不意味着质量高，没有标注的数据可用性非常低。数据标注是重复性的工作，但它是大多数人工智能应用的出发点。人工智能打着更好地把人从重复性的工作中解放出来的旌旗，但如今存在一个悖论：要先通过人类的大量重复性工作才气让呆板实现智能。

呆板学习须要喂给呆板大量的数据，而这些数据大部分是须要人工标注的，这在呆板学习当中叫做“监督学习”（supervised learning），即根据输入-输出的样本对子，学习一个将输入映射到输出的函数或模式，并依此模式推测新的实例。

举例来说，要写一个呆板学习算法，让它可以大概在网上帮我找到符合我口胃的衣服，就须要训练一个能辨认某种服装的步调。起首须要的是数据，由于必须给呆板学习算法标注一些样本。训练者先搜集许多图片，然后把须要的标出正例。好比把全部衬衣图片标注出来，其他未被标注衬衣的，就是负例。呆板会通过这些样本的标注，知道哪些是衬衣，哪些不是衬衣，哪些是主人想要的，哪些不是主人想要的。假如提出更高的要求，让步调辨认淡色的衬衣，就要进一步把淡色衬衣的图片再标注出来，如许呆板就会知道那些淡色的衬衣是主人更想要的。如许的条件可以不绝趋向复杂，比方让呆板辨认带条纹的淡色衬衣，而全部这些对于数据的进一步处置惩罚，都须要人工来办理。

人的标注工作完成之后，就可以训练呆板学习算法，让它不绝去看图片，并对所看过的图片加以总结。然后它自己总结出一个算法框架，知道大概往哪个方向学习。呆板学习的目标就是利用人们输入的数据，让自身的错误辨认率到达最低。这个目标告竣之后，呆板就学成出师，可以为人工作了。

只管数据标注一类的工作会渐渐为人工智能所接办，但放眼未来，人工智能将始终须要人类的投入和专业知识，从而以符合道德、负责和安全的方式充实发挥其潜力。比方，在交际媒体中，须要人类对算法的非常化予以改正；在医学上，人类和呆板的共同积极将产生比任何一方单独所能实现的更大结果；在自动驾驶等范畴，人工智能的良好性是训练的结果，然而一旦发生了人工智能未经训练而不得不处置惩罚的变乱，由人工智能驱动的上风就会被抹去。当这种情况发生时，人工智能的处置惩罚本事必须让位于人类的创造力和顺应本事。

以是，人工智能必须处置惩罚好人工与智能的关系。终极，只要有新的应用让人工智能学习，有新的使命让它把握，人工智能就始终须要人类的投入。

学习怎样学习

“智能”这一术语的利用经常导致人们对AI的本事和拟人化风险的误解（这里的拟人化，是指将人类特性和举动分配给非人类事物）。本日可用的大多数AI技能都是根据特定目标学习或优化其活动，因此只能按照所教授的内容举行操纵。其本事的巨细，反映了培训的数据及培训的质量，以及AI流程的筹划情况。通常，仍会须要人工处置惩罚非常情况。

这意味着AI如今的情势很局促，只能专门用于特定的应用步调，它所依照的流程和步调是不可迁徙的。Google DeepMind的AI应用步调AlphaGo专攻围棋，它和它的后继版本利用蒙特卡洛树形搜刮算法，根据之前通过呆板学习得到的知识，特别是通过人工神经网络（一种深度学习方法）的广泛训练，从人类和盘算机棋谱中找到自己的棋步。这个神经网络进步了树状搜刮的强度，从而在下一次迭代中产生更强的棋步选择。从2015年到2017年，AlphaGo击败数位顶尖围棋人类选手，先后被韩、中围棋协会授予职业九段荣誉，然而它在国际象棋中乃至无法击败平凡人类玩家。

随后，AlphaGo的继任者AlphaZero做到了闻一知十：它完全依靠自学，只需提供根本的游戏规则，人类和人类天生的数据都不构成其自我学习过程的一部分。在短短几个小时的自我游戏中，它就到达了人类须要 1500 年才气到达的技能水平。自学成才的AlphaZero对早期竞争版本的AlphaGo取得了100-0的胜利，如今被以为是天下上最好的围棋选手。同时，除了围棋，它也会下象棋与国际象棋。

DeepMind的AI新作Player of Games（PoG）是第一个在完全信息游戏以及不完全信息游戏中都能实现强大性能的AI算法（完全信息游戏如围棋、象棋等棋盘游戏，不完全信息游戏如扑克等）。这是向可以大概在恣意情况中学习的真正通用AI算法迈出的紧张一步。PoG利用了较少的范畴知识，通过自对弈（self-play）、搜刮和博弈论推理来实现强大的性能。

DeepMind为何长期以来不绝投资于游戏类的人工智能体系？该实验室的理念是，游戏固然缺乏显着的贸易应用，但却构成对认知和推理本事的独特的干系挑衅。这使它们成为人工智能盼望的有效基准。近几十年来，游戏已经催生了为盘算机视觉、自动驾驶汽车和天然语言处置惩罚提供动力的自学的人工智能。

现实生存中，拥堵地区的蹊径规划、条约会商乃至与客户的互动等使命，都涉及到思量人们的偏好怎样重合和辩说，并告竣相应的妥协，就像在游戏中一样。纵然人工智能体系是自利的，它们也大概通过调和、相助和在人群或构造之间的互动而获益。那么，像PoG如许可以大概推理出他人的目标和动机的体系，可以为致力于乐成协作的人工智能铺平门路，包罗处置惩罚围绕信托而产生的标题。

当人工智能开始变得真正智慧并可以大概学习未被教授的举动时，会对人类认知产生什么影响？在这个本质上是加速选择的过程中，伦理学的作用是什么？

不知之不知

“未知的未知”（Unknown unknown）是前美国国防部长唐纳德·拉姆斯菲尔德（Donald Rumsfeld）在2002年2月回应记者提问时的名言。

2002年，美国以伊拉克当局拥有大杀伤力武器、并支援可怕份子为由筹划与其开战。同年2月12日，时任国防部部长拉姆斯菲尔德被问及有关的证据时，他表明道：“据我们所知，有‘已知的已知’，有些事，我们知道我们知道；我们也知道，有‘已知的未知’，也就是说，有些事，我们如今知道我们不知道。但是，同样存在‘未知的未知’——有些事，我们不知道我们不知道。”

在人工智能开发当中，同样存在“已知的未知”和“未知的未知”。“已知的未知”是指模式不能确定准确分类的例子。其办理方案是，在不确定的例子上从人们那里得到新标签。比方，假如一个模式不能确定一张照片的主体是否是一只猫，就会要求人去验证；但假如体系确定的话，就不会要求人去验证。固然在这方面尚有改进的余地，但令人欣慰的是，模式的置信度与它的表现干系，人们可以认清模式所不知道的东西有哪些。

另一方面，“未知的未知”是指模式对其答案有信心，但现实上是错误的。对人来说，这就产生了一个困难：须要知道人工智能算法何时工作，何时不工作。固然影戏保举假如不是那么正确大概并不要紧，但一旦一个算法在自动驾驶汽车或医疗应用步调中表现不佳，其结果大概是扑灭性的。

人工智能体系的内部工作通常不透明，人类很难懂白人工智能学习体系怎样得出他们的结论。套用拉姆斯菲尔德的形容，这就是典范的“未知的未知”。 以是，人工智能的一个必须降服的技能挑衅是与人类自己相比的明白差距。为相识决这个标题，筹划者和观察者已经讨论过在AI体系中须要肯定水平的表明逻辑，以便查抄错误并让人类学习和明白。

然而，人工智能体系复杂性的挑衅并不容易降服。究竟证实，呆板“知道”得越多，我们就越不相识它们。用于人工智能的深度学习方法涉及从简朴的构件中创建复杂的、分层的表征，以办理高条理的标题。网络在条理布局的初始级别学习一些简朴的东西，然后将信息发送到下一个级别，在那里信息被组合成更复杂的东西。这个过程连续举行，每一级都从上一级收到的输入中创建。

与此同时，层数越深，优化算法就越难。终极，它们变得云云困难，以至于数据科学家无法表明它们是怎样工作的。在某一点上，用于深度神经网络的算法以某种方式，古迹般地产生了正确的结果——但科学家和工程师并不完全相识结果怎样产生的。人工智能使呆板可以大概举行推测，但很难让盘算机表明它是怎样得出结论的。这不光提出了信托标题，而且还产生了埋伏的法律和责任标题。在人工智能得到努力推进之前，这方面有许多东西须要探索和思量。

人机共存，克制图灵陷阱

在已往十年或更长时间里，讨论人工智能时很少不与人类本事相比力。对许多人来说，随着人工智能的发展，它对人类产生了存在威胁，不光仅关乎我们的就业本事，乃至涉及我们的生存自己。

斯坦福大学学者埃里克·布林约尔松（Erik Brynjolfsson）的研究以为，这种比力是无益的，现实中更有大概看到人类和呆板以相互增补的方式一起工作。

1950年，阿兰·图灵（Alan Turing）提出了一个测试呆板是否智能的方法：呆板能否很好地模仿人类，以至于它对标题的答复与人类无异？从当时起，创造出与人类智能相匹配的智能就或隐或现地成为成千上万的研究职员、工程师和企业家的目标。雷同人类的人工智能（HLAI，human-like artificial intelligence）的长处包罗生产力的飙升、休闲的增长等，大概最深刻的是对我们自己头脑的更好明白。但并不是全部范例的人工智能都像人一样——究竟上，许多最强大的体系与人类非常差别。

太过关注开发和摆设HLAI会使我们陷入一个陷阱，不妨称之为“图灵陷阱”。随着呆板成为人类劳动的更好更换品，工人们失去了经济和政治上的讨价还价本事，变得越来越依靠那些控制技能的人。相反，当人工智能专注于加能人类而不是模仿人类时，人类生存了对峙分享所创造代价的权利。更紧张的是，加强型人工智能创造了新的本事以及新的产物和服务，终极产生的代价远远凌驾了单纯的模仿型人工智能。固然这两种范例的人工智能都能带来巨大的长处，但如今在技能专家、企业高管和政策订定者中，存在着对模仿型而不是加强型的太过鼓励。

只管复制人类智能是一个诱人的愿景，但它同时也是个限定性的愿景。究竟，时至本日，在人工智能可以做的变乱上所取得的冲动民气的盼望，仍旧重要范围于一个相对局促的范畴，即对人类所能做的变乱加以自动化。而那些可以被加强的使命的市场则要广阔得多。比方，本日大量应用中出现的人工智能助手就是很好的例子。

人工智能助手已变得相称善于做许多关键而又令人难以置信的繁琐工作。比方，电子邮件过滤器和产物保举引擎如今在资助我们选择我们想要的东西方面相称有效，而流程自动化工具也越来越有本事挑起平常使命的重担。在一些范畴，记条记和誊录是至关紧张但又非常费力的工作，同时也吸走了时间和快乐，完全可以交给人工智能助手。通过处置惩罚这些较低级别的使命，就能让人类腾脱手来做我们最善于的变乱。换句话说，人工智能在资助我们更快、更有效地完成工作。

加强功能大概在医疗保健等范畴最有潜力，这些范畴的职员短缺是到处可见的，而且老龄化社会的需求也越来越大。人工智能已经被用来提供人类不大概做到的全天候监控。

更紧张的是，假如我们可以大概换个思绪厘革我们的心态，人工智能可以开释出一波创新和生产力的改善，使社会中的全部人受益。

以旅馆业为例，纵然我们正处于一个劳动力危急之中，简朴地思量用呆板人或其他情势的技能来弥补这些缺口也不是准确的做法。相反，应该利用这个时机重新思考旅馆怎样服务，以及怎样利用技能来处置惩罚更多的通例使命，从而开释出员工来真正为客户增长代价。

因此，只管将自动化视为低沉资源的可靠途径是很诱人的，但企业应该着眼于更大的远景，由于加强型人工智能提供了更大的经济效益。它所带来的长处更有大概在社会上广泛流传，由于自动化更容易导致裁人和紊乱，就像已往引进的许多技能那样。

不同等是我们这个期间最紧急的标题之一，而且有公道的证据表明，技能对社会当中的不同等已经产生了影响。人工智能的目标应该是使得到最佳服务和时机的时机均等化，而不是使之离我们越来越远。再也不可以担当的是，技能的全部长处都以捐躯社会其他人的长处为代价涓滴到资源全部者，特别是数字资源的全部者身上。

究竟上，这种人工智能给相对少数人带来繁荣、同时造成社会其他人权利丧失的过程，就是斯坦福大学研究职员所说的“图灵陷阱”。固然我们如今还没有落入这个陷阱，但紧张的是，在我们尚有时机的时间，积极在人工智能的发展门路上确保避开它。由于人工智能仍旧处于相对早期的阶段，如今正是如许做的时机，并去积极想象一个人类仍旧不可或缺的技能未来。

（作者系北京大学消息与流传学院教授）