OpenAI 再闹剧！安全团队离职、股权风波、语音助手叫停

OpenAI 又上头条了！前首席科学家离职，批评公司重产品轻安全，股权做法引发批评，语音助手叫停！🚨 究竟发生了什么？#AI #科技新闻 🌟

OpenAI 又双叒出事了！这次安全研究人员纷纷离职，质疑公司，而独特的股权做法也引来了不少吐槽。此外，公司刚展示了实时语音助手，结果不久就暂停了产品中的 AI 语音功能。

究竟发生了什么？

OpenAI 再次陷入 AI 模型安全性的争议之中。

这意味着什么？

一切都得从伊利亚·苏茨克弗（Ilya Sutskever）说起，这位前首席科学家和超对齐团队负责人简·莱克（Jan Leike）相继离职，随后还有几位团队成员也跟着离开。简在辞职时表示，在 OpenAI 做安全研究感觉像是在打一场艰难的仗。他对公司转向打造 「光鲜产品」 而非专注于确保 AGI（通用人工智能）安全的使命感到不满。

Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.

— Jan Leike (@janleike) May 17, 2024

与此同时，Vox 记者 Kelsey Piper 发布了一篇关于 OpenAI 离职协议的文章。文章指出，协议禁止前员工对 OpenAI 说坏话，否则他们将失去所有已归属的股权。

对此，OpenAI 总裁格雷格·布罗克曼（Greg Brockman）回应称，公司目前的安全策略是逐步将产品和系统推向现实世界，以收集反馈并进行改进。

We’re really grateful to Jan for everything he's done for OpenAI, and we know he'll continue to contribute to the mission from outside. In light of the questions his departure has raised, we wanted to explain a bit about how we think about our overall strategy.
First, we have… https://t.co/djlcqEiLLN

— Greg Brockman (@gdb) May 18, 2024

根据《连线》杂志的报道，剩下的超对齐团队正在被并入 OpenAI 的其他团队，由联合创始人约翰·舒尔曼（John Schulman）负责 AGI 的远期风险。

首席执行官萨姆·奥特曼（Sam Altman）也对离职协议中的条款表示关切，该条款可能会剥夺员工的股份。他承认这是一个错误，并表示该条款从未被使用过，邀请任何可能受影响的前员工直接联系他。

in regards to recent stuff about how openai handles equity:
we have never clawed back anyone's vested equity, nor will we do that if people do not sign a separation agreement (or don't agree to a non-disparagement agreement). vested equity is vested equity, full stop.
there was…

— Sam Altman (@sama) May 18, 2024

为什么这件事重要？

因为 OpenAI 自称是构建安全 AGI 的首选之地。这些事件不仅损害了他们在普通用户中的形象，也影响了研究人员和 AI 技术监管者的看法。虽然现在的感觉像是 「OpenAI 已失天命」，但这种戏剧性事件并不意外。作为争夺 AGI 领先地位的最热门公司，OpenAI 自然会吸引正反两面的关注。

随着这场风波平息，OpenAI 又面临另一个挑战。他们暂停了在 ChatGPT 中使用 Sky 的语音，可能是因为其声音与斯嘉丽·约翰逊（Scarlett Johansson）的声音太相似。

Disclosure: We are an Amazon Associate. Some links on this website are affiliate links, which means we may earn a commission or receive a referral fee when you sign up or make a purchase through those links.

相关文章

• 巴西城市批准了一项由 ChatGPT 撰写的提案
• 劳工部重磅指南：AI 如何影响你的工作权利？
• 美中官员将会面讨论人工智能风险
• Rabbit R1 vs Humane AI Pin：看着挺唬人其实水分很大的 AI 助手
• 视频：英伟达 AI 大会 16 分钟精简版｜生成式人工智能芯片 Blackwell 发布
• 2024 年最好的 20 多个 AI 聊天机器人 —— 除了 ChatGPT 还有很多选择
• 2024 最好的 5 个 AI 建站工具
• 2024 最好的 AI 图片生成工具：Midjourney, DALL-E, ImageFX, DreamStudio 等
• 2024 最好的 AI 视频生成和编辑工具 —— 轻松创建视频并提升质量
• 提高工作效率和生产力的 37 个 AI 工具
• Investopedia：目前最值得投资的人工智能股票
• 欧盟达成世界首个全面 AI 规则协议
• 美国海关确认打击 T-86 小包裹清关，矛头或指 Temu, Shein 等跨境电商
• 出国旅游收到 14 万美元话费账单？！国际漫游手机套餐推荐
• 「模范少数族裔」神话如何伤害亚裔美国人
• Visa 和 Mastercard 同意支付 1.97 亿美元和解消费者 ATM 费用诉讼
• 特朗普成为美国第一位被判有罪的总统，接下来会发生什么？
• 民调：亚裔美国人反对在招生中考虑种族因素
• 弗吉尼亚：亚裔学生在课后游戏中被要求坐「隔离桌」
• Windows 11 如何降级回到 Windows 10？
• 美国电信运营商攻略：手机套餐、网络覆盖与速度对比
• 详解美国政府《亚裔细分法案》
• 美国赴华学生人数再次增加
• 时空壶 Timekettle 三款畅销翻译耳机对比