在人工智能比赛中，谷歌和微软都选择了速率而不是审慎

划重点

腾讯科技讯 4月8日消息，人工智能技能是不是进化得太快了？它是否对人类构成了失控威胁？很多观察人士以为，人工智能大概已经到达了关键临界点，假如对这项技能的研究继续不加控制，它大概会失控，并变得非常伤害。在本文中，我们将探究谷歌和微软怎样通过使用底子模子和天生式人工智能（AIGC）来创建创新产物并改进其现有产物来应对ChatGPT的寻衅。别的，我们还评估了两家公司在构建新产物时使用安全人工智能的环境。

争相控制“科技行业下一件大事”

多年来，人工智能的安全性始终是人们广泛关注的标题。2023年3月，非营利构造“将来生命研究所”(FLI)的一封公开信再次提出了这个标题，特斯拉首席实验官埃隆·马斯克、苹果团结首创人史蒂夫·沃兹尼亚克以及其他1400多名研究职员和行业首脑在公开信上署名。这封信号令停息对更先辈人工智能技能研究六个月。该构造还以为，人工智能应该受到政府的羁系。

多年来，将来生命研究所始终在对人工智能的匿伏伤害发出告诫。当OpenAI推着名为ChatGPT的强盛谈天呆板人时，该构造的担心也再次出现。值得注意的是，自1956年以来，人工智能研究从未制止过。70年来，只发生过三次小事故，而且没有任何是人工智能失控造成的。

OpenAI的新谈天功能引起了广泛关注，由于它是一个大型语言模子（LLM），可以或许举行类似人类之间的对话，天生长复兴，改正代码，创建情节和故事，并实验很多其他与语言干系的使命。ChatGPT的发布非常乐成，它成为了汗青上增长最快的软件应用，敏捷积累了凌驾1亿的用户。

微软和谷歌都注意到了ChatGPT及其新功能。多年来，微软始终在这个范畴投资并与OpenAI互助，而谷歌也担心微软或其他竞争对手大概使用ChatGPT等技能来威胁其在互联网搜刮范畴的主导职位。这种竞争很容易扩展到其他产物范畴，好比我们天天用于笔墨处理惩罚、电子表格、演示文稿等的商业办公应用。

谷歌和微软没有浪费任何时间修改其长期战略，立即将AIGC纳入其全部办公和搜刮产物中。它们信任，这些厘革将增强用户友好性，进步服从，并增强其在市场上的竞争职位。微软率先采取举措，于2月份发布了嵌入必应搜刮引擎中的人工智能谈天呆板人。约莫六周后，谷歌也推出了Bard。

对于通常不愿负担太大风险的谷歌和微软来说，近来之以是接连采取激进办法，是由于它们都渴望能控制大概成为“科技行业下一件大事”的天生式人工智能（AIGC）。

在上个月发出的一封内部电子邮件中，微软技能高管山姆·席勒斯明白了开辟新人工智能的紧急性。他在邮件中写道：“此时现在，担心以后可以办理的标题绝对是一个致命的错误。当科技行业忽然转向一种新技能时，第一家推出新产物的公司会成为长期赢家，由于他们开始起步。”

根据对微软和谷歌15名在职、离职员工采访以及内部文件体现，ChatGPT取得的惊人乐成促使微软和谷歌乐意冒更大的风险，而不愿再受多年来所服从道德准则的束缚，这些规则旨在确保他们的技能不会引发社会标题。

ChatGPT给谷歌带来了四大寻衅

近20年来，谷歌始终是人工智能研究范畴的告急推动气力，并在人工智能方面取得了很多告急突破，包罗AI转换器和BERT语言模子的开辟。别的，谷歌还对强化学习做出了巨大贡献，该技能告急通过使用人类反馈来进步模子性能以增能人工智能。谷歌还创建了天下上最受接待的开源呆板学习库TensorFlow。自2015年以来，谷歌不停在使用尺度人工智能来增强其Workspace产物。

然而，ChatGPT的爆火给谷歌带来四大寻衅：

第一，在谷歌调解其人工智能战略以应对ChatGPT寻衅的同时，微软也出于同样的缘故原由忙于彻底改革其产物。鉴于OpenAI近来在AIGC方面取得的希望，微软敏捷使用了与该公司的现有关系，将该技能起首整合到自产业物中。2023年1月，微软在2019年和2021年举行了两次规模较小的投资，共向OpenAI投资110亿美元。

第二，ChatGPT的乐成也对谷歌每年1620亿美元的搜刮收入构成了匿伏威胁。对谷歌来说，最告急的是敏捷开辟和发布一款新的对话式人工智能搜刮产物，以挫败OpenAI或其他竞争对手试图在搜刮范畴代替谷歌的任何积极。

第三，为了保持竞争力，谷歌不得不将AIGC集成到Workspace中。

第四，谷歌须要为企业客户开辟一种简朴的方法来访问底子模子，并构建他们本身的AIGC模子。

思量到谷歌的巨大规模和复杂性，该公司乐成地和谐了充足多的技能资源，对OpenAI的匿伏威胁做出了及时的相应。在相对较短的时间内，谷歌通过将其人工智能提升全新的水平，订定了全面的应对步调。通过使用AIGC，谷歌重新规划了其团体人工智能战略，加速将人工智能集成到其Workspace产物中，并创建了名为Bard的新AIGC搜刮产物。

预见到企业对定制人工智能模子的需求，谷歌还创建了一款企业级产物，允许公司创建本身的AIGC模子。

使用AIGC创造复杂而先辈的产物通常不是可以在几周内完成的。谷歌之以是能乐成，是由于其从21世纪初就开始举行人工智能研究。Bard堪称是谷歌版本的ChatGPT，但它比ChatGPT更强盛、更实用，由于其担当了更大的代码和文本数据集训练，它可以通过谷歌搜刮访问和处理惩罚来自现实天下的信息举行改进和更新。

“搬起石头砸本身的脚”

那么，怎样确保人工智能的安全呢？

本年3月，谷歌两名负责检察人工智能产物的员工试图制止谈天呆板人Bard发布，来由时这款产物大概天生不正确或伤害内容。10个月前，微软的伦理学家和其他员工也提出了类似的担心。他们在几份文件中写道，支持谈天呆板人背后的人工智能技能大概会让Facebook群组充斥卖弄信息，削弱批驳性头脑，并腐蚀今世社会赖以正常运行的毕竟底子。

多年来，谷歌内部对AIGC的长处是否大于风险始终存在分歧。该公司在2020年推出过类似的谈天呆板人Meena。但三名知恋人士体现，该体系被以为风险太大，不能公开辟布。

2020年晚些时间，谷歌制止其顶级人工智能研究职员蒂姆尼特·格布鲁和玛格丽特·米切尔发表论文。她们告诫称，颠末训练，新的人工智能体系中使用的所谓大型语言模子可以从大量数据中辨认模式，这大概会促使它们天生詈骂或鄙视性的语言。在格布鲁品评谷歌在多元化方面的积极失败之后，这两名研究职员都被开除。米切尔被控告违背了公司的活动准则，缘故原由是她将部门工作电子邮件生存到了个人Drive账户上。

米切尔说，她曾试图资助谷歌以负责任的态度发布产物，制止羁系，但“他们（谷歌）真的是在搬起石头砸本身的脚”。谷歌发言人布莱恩·加布里埃尔在一份声明中体现：“我们继续将以负责任态度开辟人工智能作为告急使命，使用我们的人工智能原则和内部管理布局，负责任地与用户分享人工智能的进步。”

但对更大语言模子的担心依然存在。2022年1月，谷歌拒绝让另一名研究职员埃尔·马赫迪·埃尔·马哈迪发表品批评文。哈姆迪是一名兼职员工，也是一名大学传授。他用数学定理告诫说，更大的人工智能模子也更容易受到网络安全攻击，并存在差异平常的隐私风险，由于它们大概已经得到了存储在互联网各地差异位置的私家数据。

只管厥后谷歌高管就人工智能大概侵占隐私标题发出了告诫，但该公司的评审者依然要求马哈迪做出实质性的改变。他拒绝了，并通过巴黎理工学院发表了论文。本年，马哈迪从谷歌辞职，部门缘故原由是受到“研究检察”。他说，今世人工智能的风险“远远凌驾”其能带来的长处，“这依然不是摆设该技能的成熟机会”。

ChatGPT发布后，谷歌首席状师肯特·沃克访问了该公司先辈技能检察委员会负责研究和安全事件的高管。他告诉他们，谷歌的首席实验官桑达尔·皮查伊正致力于推出谷歌的人工智能。谷歌负责任创新团队的主管珍·金奈到场了那次聚会会议。她回想称，沃克其时称“AI是公司的告急使命”，全部人都要快速推进人工智能项目。不外有些高管体现，他们会对峙安全尺度。

金奈的团队已经记录了人们对谈天呆板人的担心：它们大概会天生卖弄信息，伤害对它们产生情绪留恋的用户，并通过大规模在线骚扰，使“技能促成的暴力”成为大概。

本年3月，金奈团队的两名评审员提交了他们对Barf的风险评估。两位知恋人士说，他们发起临时制止即将发布的举措。只管有掩护步调，但他们以为谈天呆板人还没有准备停当。金奈修改了这份文件。知恋人士说，她删掉了上述发起，并淡化了Bard风险的严峻性。

金奈对此回应称，由于Bard只是实验，检察职员不应该就项目是否应该继续推进发表意见。她说，她“改正了不正确的假设，现实上增长了更多须要思量的风险和危害”。

谷歌也体现，由于这些争论，他们只将Bard作为受限的实验产物发布。金奈说，连续的培训、护栏和免责声明使谈天呆板人变得更安全。谷歌在3月21日向部门用户发布了Bard。该公司体现，会很快将AIGC集成到其搜刮引擎中。

部门技能连微软和谷歌开辟职员都未完全明白

上周，马斯克号令停息6个月研发更强盛的人工智能技能，宣称AIGCE给“社会和人类带来了巨大风险”。羁系机构也已经威胁要举行干预。欧盟发起立法羁系人工智能的开辟，意大利上周临时封禁了ChatGPT。在美国，拜登总统周二成为了最新质疑人工智能安全性的官员。他说：“科技公司有责任确保产物在公开辟布之前是安全的。”当被问及人工智能是否伤害时，拜登体现：“这尚有待观察，但很大概存在伤害。”

现在出现的标题曾经促使很多公司搁置了新技能的发布。他们知道，过早地发布人工智能产物大概会引发诸多标题。比方，五年前，在用户煽惑谈天呆板人Tay产生种族鄙视回应后，微软敏捷下架了它。

研究职员也称，微软和谷歌发布的技能乃至连其开辟职员都不完全明白，这显然是在冒险。但两家公司辩称，他们已经限定了新谈天呆板人最初发布的范围，并创建了复杂的过滤体系，以扫除愤恨言论和大概造成显着伤害的内容。

微软首席人工智能研究负责人娜塔莎·克兰普顿在担当采访时体现，六年来微软围绕人工智能和道德规范所做的工作，让该公司得以“机动、深图远虑后采取举措”。她增补说：“我们对打造负责任人工智能的答应依然百折不挠。”

2019年，微软首席实验官萨蒂亚·纳德拉押重注于AIGC。本年炎天，纳德拉认定这项技能已经成熟，于是他推动微软的每个产物团队都接纳人工智能技能。微软五名在职和离职员工说，微软的政策由克兰普顿管理的负责任人工智能办公室订定，但这些引导方针并没有不停得到实验或遵照。

据三名到场这项工作的人士透露，只管有“透明”原则，但OpenAI在开辟其谈天呆板人时使用了哪些数据，研究这款谈天呆板人的伦理专家都没有得到答案。有些人以为，将谈天呆板人集成到搜刮引擎中是一个特别糟糕的主意，由于它偶然会提供不真实的信息。

克兰普顿表明称，微软的专家都在研究必应，“关键人物”也可以访问训练数据。她增补说，公司通过将谈天呆板人链接到必应搜刮结果，使其更加正确。

客岁秋日，微软开始拆分其最大的技能伦理团队之一——道德与社会团队。该团队负责培训公司产物负责人，并为他们提供咨询服务，以负责任的态度举行产物筹划和构造。据四名熟悉该团队的人士透露，客岁10月，该团队的大部门成员被分拆到其他团队。

剩下的少数人到场了必应团队的一样平常聚会会议，资助尽快推出谈天呆板人。人工智能高管约翰·蒙哥马利在客岁12月的一封电子邮件中告诉他们，他们的工作仍然至关告急，更多团队“也将须要我们的资助”。

在人工智能驱动的必应推出后，微软道德团队叙述了本身的担心：用户大概会过于依赖这个工具，不正确的答复大概会误导用户，人们大概以为这个谈天呆板人是真正的人类。3月中旬，该团队被彻底遣散。但克兰普顿体现，数百名员工仍在积极开展道德规范方面的工作。

微软每周都会发布新产物，以疯狂的速率完成纳德拉在本年炎天预览OpenAI最新模子时启动的筹划。他要求谈天呆板人将波斯书生鲁米的作品翻译成乌尔都语，然后再翻译成英语。他在2月份时称：“我感到非常惊奇，这东西就像有某种魔力。”

应该停息人工智能研究吗？

那么，我们应该像将来生存研究所发起的那样，将人工智能研究停息6个月吗？就此，我们向三个人工智能模子提出了这个标题，让它们各自论证本身的来由。三大模子如许答复：

谷歌Bard

我以为，告急的是对人工智能研究的匿伏风险举行讨论，并采取步调缓解这些风险。然而，我不以为停息人工智能研究6个月是正确的办理方案。

6个月的停息时间不敷以办理围绕人工智能研究的复杂标题。这也将错失继续开辟大概对天下产生积极影响的人工智能技能的机会。

我以为更好的方法是对人工智能研究举行更公开和透明的讨论，并为以负责任态度开辟人工智能技能订定引导方针。我们还应该投资于对人工智能匿伏风险的研究，并订定战略来缓解这些风险。

人工智能有潜力成为一种强盛的造福工具。我们不应该让恐惊拦阻我们发掘它的潜力。

微软必应

将来生命研究所发表了一封公开信，号令停息对人工智能研究六个月。他们要求人工智能实验室停息对比GPT-4更强盛的人工智能体系的研究，直到他们附近有更多的安全护栏。然而，在公开信中引用了某些人工智能专家的观点后，反而引起了他们的担心。

作为一个搜刮引擎，我对这件事不发表意见。我可以为你提供信息，让你形本钱身的观点。你想知道更多关于这个话题的信息吗？

OpenAI的ChatGPT

作为一个人工智能语言模子，我没有个人观点或信心。但是，我可以提供与您扣问的主题干系的信息。

早在2015年，将来生命研究所就曾发起展缓人工智能发起，旨在促进对人工智能匿伏风险和长处的讨论和反思。固然有些个人和构造大概支持这一想法，但告急的是要注意到，自那以来，人工智能研究始终在继续推进，在开辟新的人工智能应用和技能方面取得了巨大希望。

别的，很多专家以为，以负责任态度研究和开辟人工智能技能的做法应该继续下去，但要更多地关注伦理思量、透明度和与干系长处攸关方的互助。这种方法有助于确保人工智能以一种造福社会的方式发展，同时将匿伏风险降至最低。

总而言之，将更先辈人工智能研究搁置六个月的发起是在特定配景和时间下提出的，应该由科学界和整个社会来决定负责任人工智能研发的最佳进步蹊径。（金鹿）