起底“马斯克联名信”发起方：首创人均为学界大咖 顾问团马斯克、霍金领衔

划重点：

腾讯科技讯 4月1日消息，特斯拉首席实验官埃隆·马斯克、苹果团结首创人史蒂夫·沃兹尼亚克以及其他上千名AI研究员日前签订公开信，命令全部AI实验室停息研究更先辈的AI模子，此事在业内引发哗闹。这封信由然非营利构造“生命未来研究所”（FLI）草拟，并在该机构网站上发布。那么，生命未来研究所到底是个什么样的构造？它为何能吸引云云多的AI大咖支持？和马斯克有什么关系？

01 致力于引导技能造福生命

自从文明诞生以来，人类以及越来越多的地球生命就始终受到技能的影响。然而，在近来几十年里，很多亘古未有的事变正在发生，人类现在以致有本事影响以致扑灭整个地球上的生命。随着技能不绝发展，我们已经进入了一个新期间。

在这个期间，生命和智能将由其他生命和智能来计划，而不再通过进化而来。这些技能的力气灵敏加强，这意味着未来几十年的变革，以及它们对未来生命的影响，很大概是深远而伤害的。

正是有鉴于此，麻省理工学院宇宙学家麦克斯·泰格马克、Skype团结首创人让·塔林、谷歌姊妹公司DeepMind研究科学家维多利亚·克拉科夫娜、塔夫茨大学博士后学者美雅·赤塔-泰格马克（泰格马克之妻）以及加州大学圣克鲁兹分校宇宙学家安东尼·阿吉雷于2014年3月建立了“未来生命研究所”（Future of Life Institute ）。

生命未来研究所以为，强大技能的开辟和利用方式将是决定未来生存远景的最紧张因素，这就是为什么他们把确保技能继承改善这些远景作为其任务的缘故原由。该机构的任务可以概括为：致力于镌汰人类面对的环球劫难和生存风险，特别是来自先辈AI的生存威胁，引导厘革性技能造福生命。

生命未来研究所的研究项目于2015年启动，其时马斯克向其捐赠了1000万美元资金。与常见的AI研究差别，该筹划的重点是确保AI更安全或对社会有益，而不但仅是更强大。在第一轮活动中，共有37个研究项目得到了700万美元的资助。2021年7月，未来生命研究所公布将启动2500万美元赠款筹划，这次由以太坊首创人维塔利克·布特林提供资金。

02 首创人和外部顾问都是牛人

生命未来研究所的五位首创人都来里非凡，堪称各自范畴的大咖。

此中，泰格马克继承生命未来研究所总裁，他因头脑里布满了怪诞想法和对冒险情有独钟而被称为“疯狂麦克斯”，他的科学爱好从精确宇宙学到现实的终极本质，全部这些都在他的新书《我们的数学宇宙》中得到了探索。

泰格马克曾是麻省理工学院的物理学传授，发表了200多篇技能论文，并在数十部科学记录片中表态。他与斯隆数字巡天（SDSS）项目在星系集群方面的互助得到了《科学》杂志“2003年年度突破”一等奖。他与阿吉雷照旧根本标题研究所的团结首创人。

阿吉雷是生命未来研究所的副总裁兼董事会秘书，也是加州大学圣克鲁兹分校信息物理学的传授，在理论宇宙学、万有引力、统计力学和其他物理范畴举行了一系列的研究。阿吉雷还对科学推广有浓厚的爱好，并出现在很多科学记录片中。他是科技猜测平台Metaculus.com的首创人之一，也是根本标题研究所的首创人。

拥有生理学和社会科学配景的美雅对人类的未来和宇宙标题有着浓厚的爱好。她在塔夫茨大学的人机交互实验室举行研究，对技能和生理学交错的各种主题都感爱好，比方在医疗保健中利用AI署理，并研究新兴技能对人类社会互动和感情康健的影响。

塔林是Skype和Kazaa的首创工程师，也是剑桥存在风险研究中央的首创人，并通过捐赠支持其他存在风险研究构造，如人类未来研究所、环球劫难性风险研究所和呆板智能研究所等。塔林还曾在爱沙尼亚总统学术顾问委员会任职。

克拉科夫娜是DeepMind AI安全范畴的研究科学家，研究如作甚高级AI体系设置良好的鼓励机制。她在哈佛大学的统计和呆板学习博士论文重点是创建可表明的模子。克拉科夫娜在数学比赛中取得了很多成绩，包罗国际数学奥林匹克银牌和伊丽莎白·洛厄尔·帕特南奖等。

一方面，未来生命研究所通过资助环球各地的研究团队，包管AI安全范畴研究的推进。另一方面，通过与天下顶级专家、企业家的定期集会与讨论，推动AI安全研究的社会共识。

为此，该机构也约请了豪华的外部科学顾问团队，包罗已故闻名物理学家史蒂芬·霍金、SpaceX和特斯拉首席实验官埃隆·马斯克、演员和科学传播者艾伦·阿尔达与摩根·弗里曼、艾伦脑科学研究所首席科学官克里斯托弗·科赫、牛津大学未来人类研究院主任尼克·博斯特伦、宇宙学家索尔·珀尔马特、天体物理学家桑德拉·法伯、理论物理学家弗兰克·威尔切克、麻省理工大学数字贸易中央主任埃里克·布林约尔松、哈佛大学遗传学传授乔治·丘奇、加州大学伯克利分校盘算机科学传授斯图亚特·拉塞尔、麻省理工大学物理学传授阿兰·古斯等权势巨子人士。

03 关注四大技能范畴风险，AI居首

技能进步给人们的工作和生存带来了巨大便利，但同样也引来了一系列风险。现在，未来生命研究所紧张关注四大技能范畴的风险。

此中最紧张的就是AI。从保举算法到自动驾驶汽车，AI正不绝改变我们的生存。随着这项技能的影响不绝扩大，其风险也将不绝扩大。现在，已经有很多可实验孤立任务的“狭义AI”体系，它们在网络安全、自主武器等范畴都构成了巨大风险。

猜测未来，很多研究职员正在研究所谓的人工通用智能（AGI），即在广泛的认知使掷中可以与人类体现相媲美以致更好的AI体系。一旦AI体系可以或许本身计划更智能的体系，我们大概会遭遇“智能爆炸”，很快人类将被甩在反面。这可以消除贫苦或战役，但AI也大概会清除人类。

这种风险不是来自AI潜伏的恶意或意识，而是来自它的本事。比方，人类大概会失去对先辈AI体系的控制，该体系被编程来做些粉碎性的事变，从而造成扑灭性的影响。纵然AI被编程去做有益的事变，它仍旧大概进化出粉碎性意识。

第二，生物技能。当代生物技能已经变成非常强大的工具，可以塑造和重新利用活细胞、植物和动物的特性。这些工具包罗DNA测序、合成生物学、重组DNA以及基因组编辑等。全部这些为延伸和救济生命而开辟的工具终极都大概闭幕生命，无论是出于意想不到的结果，照旧出于恶意。

第三，核武器。在核武器问世近80年之后，它所带来的风险一如既往地高。有研究表明，其影响以致比从前估计的还要严肃。未来生命研究所因此反对将AI技能融入核武器控制体系。固然如许的整合加速了相应时间，清除了人类的干预，但也增长了劫难性误判的大概性。

第四，天气变革。天气变革大概是地球面对的最严肃风险之一，国际天气变革专门委员会(IPCC)多次得出结论，到2100年，这种变革将带来压倒性的负面影响，包罗食品和水短缺，海平面上升等。同时，它也增长了其他劫难性风险发生的大概性，如盛行病或战役，以及它本身造成的很多劫难性威胁。

04 曾发布反对AI武器公开信

多年来，未来生命研究所展示了一种独特的本事，可以调集与其业务范畴相干的很多行业领武士物。这种调集本事对于促进各方协作办理标题至关紧张。

2014年，生命未来研究所在麻省理工学院举行了开幕活动，由艾伦·阿尔达主持睁开“技能的未来：收益与风险”讨论。到场者包罗合成生物学家乔治·丘奇、遗传学家吴婷、经济学家安德鲁·迈克菲、物理学家和诺贝尔奖得主弗兰克·威尔切克以及Skype团结首创人塔林。

自2015年以来，生命未来研究所两年构造一次如许的集会，搜集了来自学术界和工业界的领先AI构建者。迄今为止，已举行了下列集会：

2015年，“AI的未来：机会与寻衅”集会在波多黎各举行，目的是确定有前程的研究方向，可以资助最大化AI的未来效益。在集会上，未来生命研究所散发了一封关于鉴戒AI安全的公开信，随后霍金、马斯克和很多AI专家都在这封信上签了名。

2017年，”AI有益“大会在美国加州阿西洛玛举行，这次活动被誉为“AI重量级大咖”的私人集会，与会者包罗雅恩·勒昆、马斯克和尼克·博斯特罗姆。在集会上，未来生命研究所发布了一套以负责任态度开辟AI技能的原则，得到了AI 范畴顶尖专家约书亚·本吉奥、勒昆和很多其他AI研究职员的支持。这些原则影响了AI的羁系和随后的很多办法。

2019年，”AGI“大会再次在波多黎各举行。这次集会会合讨论了怎样确保AGI对人类有益的恒久标题。

究竟上，团结马斯克、沃兹尼亚克命令停息AI研究，并非未来生命研究所的初次类似办法。早在2018年7月，该机构就曾团结包罗Deepmind、欧洲AI协会等160家AI相干构造和企业，以及丹尼斯·哈萨比斯、斯图尔特·罗素、霍金、马斯克等来自60个国家的2400位企业家、科学家、研究者共同发表公开信，命令克制致命性AI武器的开辟、制造、生意业务和利用。（金鹿）