OpenAI再闹剧！安全团队离职、股权风波、语音助手叫停

OpenAI 又上头条了！前首席科学家离职，批评公司重产品轻安全，股权做法引发批评，语音助手叫停！🚨 究竟发生了什么？#AI #科技新闻 🌟

OpenAI 又双叒出事了！这次安全研究人员纷纷离职，质疑公司，而独特的股权做法也引来了不少吐槽。此外，公司刚展示了实时语音助手，结果不久就暂停了产品中的 AI 语音功能。

究竟发生了什么？

OpenAI 再次陷入 AI 模型安全性的争议之中。

这意味着什么？

一切都得从伊利亚·苏茨克弗（Ilya Sutskever）说起，这位前首席科学家和超对齐团队负责人简·莱克（Jan Leike）相继离职，随后还有几位团队成员也跟着离开。简在辞职时表示，在 OpenAI 做安全研究感觉像是在打一场艰难的仗。他对公司转向打造「光鲜产品」而非专注于确保 AGI（通用人工智能）安全的使命感到不满。

Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.
— Jan Leike (@janleike) May 17, 2024

与此同时，Vox 记者 Kelsey Piper 发布了一篇关于 OpenAI 离职协议的文章。文章指出，协议禁止前员工对 OpenAI 说坏话，否则他们将失去所有已归属的股权。

对此，OpenAI 总裁格雷格·布罗克曼（Greg Brockman）回应称，公司目前的安全策略是逐步将产品和系统推向现实世界，以收集反馈并进行改进。

We’re really grateful to Jan for everything he's done for OpenAI, and we know he'll continue to contribute to the mission from outside. In light of the questions his departure has raised, we wanted to explain a bit about how we think about our overall strategy.
First, we have… https://t.co/djlcqEiLLN
— Greg Brockman (@gdb) May 18, 2024

根据《连线》杂志的报道，剩下的超对齐团队正在被并入 OpenAI 的其他团队，由联合创始人约翰·舒尔曼（John Schulman）负责 AGI 的远期风险。

首席执行官萨姆·奥特曼（Sam Altman）也对离职协议中的条款表示关切，该条款可能会剥夺员工的股份。他承认这是一个错误，并表示该条款从未被使用过，邀请任何可能受影响的前员工直接联系他。

in regards to recent stuff about how openai handles equity:
we have never clawed back anyone's vested equity, nor will we do that if people do not sign a separation agreement (or don't agree to a non-disparagement agreement). vested equity is vested equity, full stop.
there was…
— Sam Altman (@sama) May 18, 2024

为什么这件事重要？

因为 OpenAI 自称是构建安全 AGI 的首选之地。这些事件不仅损害了他们在普通用户中的形象，也影响了研究人员和 AI 技术监管者的看法。虽然现在的感觉像是「OpenAI 已失天命」，但这种戏剧性事件并不意外。作为争夺 AGI 领先地位的最热门公司，OpenAI 自然会吸引正反两面的关注。

随着这场风波平息，OpenAI 又面临另一个挑战。他们暂停了在 ChatGPT 中使用 Sky 的语音，可能是因为其声音与斯嘉丽·约翰逊（Scarlett Johansson）的声音太相似。

维尼爸

哈啰！我是小编 🐻 维尼爸。

Disclosure: We are an Amazon Associate. Some links on this website are affiliate links, which means we may earn a commission or receive a referral fee when you sign up or make a purchase through those links.