高层动荡一连！OpenAI遣散AGI筹办团队 主管离职

媒体报道，AI领头羊OpenAI正在遣散其“AGI（通用人工智能）筹办”团队，团队主管将离职，渴望在外部继续该领域的研究。

OpenAI的AGI筹办团队负责建议公司怎样处置处罚越来越强大的AI技能，以及当今世界是否准备好管理这些技能。CNBC报道，OpenAI的AGI筹办团队负责人Miles Brundage在周三通过Substack发布的帖子中公布了这一消息，并表现他将离职。

Brundage表现，他离职的紧张缘故起因是机会成本变得太高，他认为在外部进行研究会更具影响力，而且他渴望淘汰私见。他还表现，OpenAI及世界在AGI筹办方面“尚未准备好”。而Brundage操持创建本身的非营利构造，或者加入现有的构造，专注于AI政策研究和倡导。他补充说，

“AI不太大概在没有共同努力确保其安全和有益的环境下到达最佳状态。”

根据帖子内容，原AGI准备团队的成员将被重新分配到其他团队。

OpenAI发言人向媒体表现：

“我们完全支持Brundage决定在业界之外继续他的政策研究，并对他所做的贡献深表感谢。他满身心投入AI政策独立研究的操持，让他有机会在更大范围内产生影响，我们期待从他的工作中学习并看到其影响。在他的新脚色中，我们信任他将继续提拔行业和政府订定政策的质量。”

本年5月，OpenAI决定遣散其刚刚创建一年的“超等对齐”团队（Superalignment team），该团队专注于AI的恒久风险。

正值公司改组、高层动荡之际

AGI准备团队的遣散消息也正值OpenAI董事会大概操持将公司重组为营利性企业之际。上个月，包括该公司首席技能官Mira Murati、研究主管Bob McGrew和研究副总裁Barret Zoph在内的三位高管公布同日离职。

本年10月初，OpenAI完成了一轮估值1570亿美元的融资，其中包括从多家投资公司和大科技公司筹集的66亿美元。公司还得到了一笔40亿美元的循环信贷额度，使其总流动资金超过100亿美元。公司预计本年的收入将到达37亿美元，但亏损约为50亿美元。

本年9月，OpenAI公布，该公司在5月份创建的“安全与安保委员会”（Safety and Security Committee）将成为一个独立的董事会监督委员会。该委员会近来竣事了为期90天的检察，评估了OpenAI的流程和保障措施，并向董事会提出了建议，这些建议还在公司博客中公开辟布。

AI安全标题的处置处罚遭质疑

现在，有关OpenAI安全标题以及相干争议的关注度越来越高。本年炎天，OpenAI、谷歌、微软、Meta等公司在天生式AI领域猛烈竞争，现在预计这一市场在未来十年内将产生超过1万亿美元的收入。

本年7月，OpenAI将其顶级安全高管之一Aleksander Madry调解岗位，让他专注于AI推理的工作。Madry曾是OpenAI的“AI风险防备小组”筹办团队负责人，该团队的任务是“跟踪、评估、猜测并资助防范与前沿AI模子相干的灾难性风险”。

而在6月，一名民主党联邦参议员致信OpenAI首席执行官Sam Altman发送信函，扣问OpenAI怎样应对新出现的安全标题。信中提到：

“我们渴望了解更多关于OpenAI为履行其在安全方面的公开答应所采取的步调，公司怎样在内部评估其对这些答应的进展环境，以及公司怎样识别和减轻网络安全威胁的额外信息。”

微软于7月放弃了其在OpenAI董事会的观察席位，并对媒体表现，由于对OpenAI的董事会构成感到满足，微软决定退位。此前，OpenAI董事会履历了一次重组，这次变更导致Altman短暂被罢免，同时也威胁到了微软对OpenAI的大量投资。

但在本年6月，一群现任和前任OpenAI员工发布了一封公开信，表达了对人工智能行业快速发展的担心，特殊是在缺乏有效监督和没有“吹哨人”掩护机制的环境下。信中写道：

“AI公司有强大的财政动机来制止有效的监督，我们不信任为此更改的公司管理结构足以改变近况。”

而在信件发布几天后，一位知恋人士向媒体证实，美国联邦商业委员会（FTC）和司法部正准备对OpenAI、微软和英伟达展开反把持调查，重点关注这些公司的举动。

内部人士品评：过于寻求产物 对AI风险披露不足

这些员工在6月的信件中还写道，AI公司拥有大量非公开的信息，了解其技能的本事、已采取的安全措施的水平，以及这些技能在差别层面带来的匿伏风险。

“我们也意识到这些技能带来的严肃风险，但AI公司现在仅对政府有单薄的分享任务，险些没有任务与公众分享这些信息。我们不认为AI公司可以或许志愿分享这些信息。”

OpenAI于客岁创建的“超等对齐”团队，专注于“科学和技能突破，以引导和控制比人类更智能的AI体系”。该团队在5月份被遣散，向导人Ilya Sutskever和Jan Leike公布离职。Leike在X上发帖称，OpenAI的“安全文化和流程，已经让位于光鲜的产物”。

Altman其时在X上表现，看到Leike脱离感到难过，并承认OpenAI尚有许多工作要做。不久之后，OpenAI团结首创人Greg Brockman在X上发表了一份声明，夸大公司已经“提高了对AGI风险和机遇的认识，以便世界可以或许更好地为此做好准备”。

Leike其时在X上写道：“我加入OpenAI，是由于我认为OpenAI是世界上进行这类研究的最佳场所。”然而，他表现本身与公司向导层在核心优先事项上存在分歧，终极不得不分道扬镳。Leike认为，公司应该更多地关注安全、监控、风险应对工作以及对社会的影响。

他表现：

“构建比人类更智慧的机器本质上是一项伤害的工作，OpenAI正在为全人类负担巨大的责任。但在已往几年中，安全文化和流程已经让位于光鲜的产物。”