编辑部 发自 凹非寺

量子位 | 公众号 QbitAI

诺贝尔物理学奖，本年颁给AI！

呆板学习先驱Hinton、Hopfield共同获奖，出乎所有人意料。

没错，不是事前猜测中热门的凝聚态或量子物理等方向，就是AI，是呆板学习，更具体来说，神经网络。

以表扬他们为使用人工神经网络举行呆板学习做出的底子性发现和发明”。

那么，他们的贡献与物理关联安在呢？

诺贝尔奖委员会揭秘：

他们使用了物理学方法来探求信息的特性，构建了为当今强大的呆板学习奠基底子的方法。

Hopfield提出的“Hopfield神经网络”，以相称于物理学中自旋体系能量的方式举行形貌。

Hinton提出的“玻尔兹曼机”，则使用了统计物理学中的工具。

厥后Hinton在这项工作的底子上，资助启动了当前呆板学习的爆炸性发展，也就是我们熟知的深度学习革命了。

人工神经网络的第一块紧张基石

约翰·霍普菲尔德（John Joseph Hopfield）出生于1933年7月15日。

1954年获得斯沃斯莫尔学院物理学学士学位。1958年在康奈尔大学获得博士学位。

他早期聚焦于物理化学和凝聚态范畴研究。厥后在贝尔实验室工作期间，对分子生物学产生了浓重兴趣。

从20世纪40年代起，研究职员开始推理大脑神经元和突触网络背后的数学逻辑。

厥后，人们便开始实验使用计算机来模拟大脑网络功能。也就是开始构建人工神经网络。

在这些网络中，大脑的神经元被赋予差别值的节点所模拟，突触由节点之间的毗连表现，这些毗连可以变得更强或更弱。唐纳德·赫布的假设仍旧被用作通过称为训练的过程更新人工网络的根本规则之一。

之后很长一段时间里，学界都在实验用数学、物理的方法来探索生物神经学。

好比Hopfield，他曾使用他在物理学的背景来探索分子生物学的理论标题。

当他被约请参加一个关于神经科学的集会时，他遇到了关于大脑布局的研究。他对所学到的东西感到着迷，并开始思索简朴神经网络的动态。

当神经元一起作用时，它们可以产生新的和强大的特性，这些特性对于只观察网络单独组件的人来说并不显着。

1980年，Hopfield离开了他在普林斯顿大学的职位，他的研究兴趣已经超出了他在物理学的同事们工作的范畴，他跨越大陆搬到了加利福尼亚州帕萨迪纳的加州理工学院（Caltech），那里他可以免费使用计算机资源举行实验，并发展他对神经网络的想法。

然而，他并没有放弃他在物理学方面的底子，并在此中找到了灵感，明白了怎样体系地使用很多小组件一起工作可以产生新的和风趣的征象。

他特别受益于对磁性质料的学习，这些质料由于它们的原子自旋——一种使每个原子成为微小磁铁的属性——具有特别特性。

相近原子的自旋相互影响；这可以允许形成自旋方向相同的域。他可以或许通过使用形貌质料怎样发展的物理学来构建一个具有节点和毗连的模子网络，当自旋相互影响时。

大脑的神经网络是由具有先辈内部机制的活细胞神经元构成的。它们可以通过突触向彼此发送信号。当我们学习事物时，一些神经元之间的毗连变得更强，而其他毗连变得更弱。

人工神经网络是由编码有值的节点构建的。节点相互毗连，当网络被训练时，同时活泼的节点之间的毗连变得更强，否则它们变得更弱。

Hopfield构建的网络节点通过差别强度的毗连相互毗连。

每个节点可以存储一个单独的值——在Hopfield的第一次工作中，这可以是0或1，就像好坏图片中的像素格一样。

Hopfield用一个属性来形貌网络的总体状态，这相称于物理学中自旋体系中的能量；能量是使用一个公式计算的，该公式使用所有节点的值和它们之间所有毗连的强度。霍普菲尔德网络通过将图像输入到节点，赋予它们玄色（0）或白色（1）的值来编程。

然后，网络的毗连使用能量公式举行调整，以便生存的图像获得低能量。当另一个模式输入到网络时，有一个规则是逐个查抄节点，看看假如改变该节点的值，网络的能量是否会降低。

假如发现假如玄色像素是白色，能量会降低，它就会改变颜色。这个过程继承举行，直到无法找到进一步的改进。

当到达这一点时，网络通常已经在它被训练的原始图像上复制了自己。

假如只生存一个模式，这大概看起来并不那么引人注目。

也许你想知道为什么你不但是生存图像自己并与正在测试的另一个图像举行比力，但Hopfield的方法之以是特别，是由于可以同时生存多张图片，网络通常可以在它们之间举行区分。

Hopfield将搜索网络以探求生存的状态比作在有摩擦减缓其活动的山峰和山谷景观中滚动一个球。

假如球被放在一个特定的位置，它会滚进迩来的山谷并在那里克制。假如网络被给予一个靠近生存模式之一的模式，它将以同样的方式继承前进，直到它终极到达能量景观中的山谷底部，从而找到影象中最靠近的模式。

Hopfield等人之后更进一步深入研究霍普菲尔德网络，包罗可以存储任何值的节点，不光仅是0或1。

假如将节点视为图片中的像素，它们可以有差别的颜色，不光仅是玄色或白色。

改进的方法使得生存更多图片成为大概，而且纵然它们非常相似，也能区分它们。同样可以辨认或重修任何信息，只要它由很多数据点构建。

不外记住一个图像是一回事，表明它所代表的内容是另一回事。

纵然黑白常小的孩子也可以指向差别的动物，并自大地说它是狗、猫照旧松鼠。

他们大概偶然堕落，但是能很快正确分辨。孩子乃至可以在没有看到任何图表或表明物种或哺乳动物等概念的情况放学习这一点。在遇到每种动物的几个例子后，差别的类别在孩子的脑海中形成了。人们通过体验四周的情况来学习辨认猫，或明白一个词，或进入一个房间并留意到有些变乱已经改变。

当Hopfield发表他的遐想影象文章时，Hinton正在卡内基梅隆大学工作。

他之前在英国和苏格兰学习实验生理学和人工智能，并想知道呆板是否可以或许以雷同于人类的方式学习处理模式，为排序和表明信息找到自己的类别。

Hinton：如今是图灵诺贝尔双料得主

Hinton的研究正是创建在霍普菲尔德神经网络之上。

当时Hinton在卡内基梅隆大学工作，他之前曾在英国研究过实验生理学和人工智能，想知道呆板是否可以学习，是否可以与人类雷同的方式处理信息。

他与同事Terrence Sejnowski一起，使用统计物理学的头脑扩展霍普菲尔德网络。

统计物理学形貌由很多相似元素构成的体系，例如气体中的分子。

追踪气体中的所有单独分子是困难或不大概的，但可以将它们集中思量以确定气体的压力或温度等总体特性。

气体分子有很多埋伏的方式以各自的速率在其体积中扩散，可以使用统计物理学来分析各个组件可以共同存在的状态，并计算它们发生的概率。

十九世纪物理学家路德维希·玻尔兹曼用方程形貌了有些状态比其他状态更有大概发生。

Hinton使用了该方程，提出玻尔兹曼机。

玻尔兹曼机与本日的深度神经网络一样，可以从例子中学习，通过更新网络毗连中的值来举行训练。

最初版本的玻尔兹曼机服从相称低，到20世纪90年代，很多研究职员对人工神经网络失去了兴趣，Hinton是少数对峙下来的人。

到2006年，他和同事们一起在玻尔兹曼机的底子上开发了“深度信念网络”（Deep Belief Nets），此中提出了无监督的逐层训练方法，厥后成为深度学习的底子。

在末了，诺贝尔奖委员会提到，Hopfield和Hinton两人在80年代的工作为2010年左右开始的呆板学习革命奠基了底子。

物理学为呆板学习的发展贡献了工具，相应的，如今呆板学习也惠及了物理研究。

例如，呆板学习长期应用于希格斯粒子发现等诺奖范畴，用于处理海量数据;它还可用于镌汰引力波测量中的噪声，或征采系生手星。

比年来，这项技能还开始被用于计算和猜测分子及质料的性质，如计算决定卵白质功能的分子布局，或筹划性能更佳、可用于高效太阳能电池的新型质料。

One More Thing

众所周知，作为深度学习三巨头之一的Hinton，也是2018年图灵奖得主。

往前看，在Hinton之前，同样一手诺贝尔奖一手图灵奖的科学家，有且仅有一位。

赫伯特·亚历山大·西蒙（Herbert Alexander Simon，中文名司马贺）。

与Hinton一样，西蒙也是先拿图灵奖，再拿诺贝尔奖——

1975年，西蒙和艾伦·纽厄尔（Allen Newell）因在人工智能、人类生理辨认和列表处理等方面举行的底子研究，荣获图灵奖。

（他俩是符号主义的首创人和代表人物，提出了物理符号体系假说）

1978年，西蒙由于“有限理性说”和“决议理论”获诺贝尔经济学奖。

参考链接：
[1]https://www.nobelprize.org/
[2]https://www.cs.toronto.edu/~fritz/absps/ncfast.pdf