AI 巨头们把他们正在描绘的未来吹得天花乱坠。 Anthropic 首席执行官达里奥·阿莫代伊此前曾写道，AI 将带来一个极其完美的世界，“许多人甚至会感动落泪”——那是一个没有疾病、贫困和专制的世界。 OpenAI 首席执行官山姆·奥特曼周末在播客中表示，“我们正处于奇点之中”，这对世界来说将是“极好的”。在紧接着上周的一场专访中，埃隆·马斯克更是宣称，十年内 AI 会让我们极其富有，以至于“钱都不再重要”。
遗憾的是，到目前为止，与 AI 共存的现实生活远没有他们承诺的那么美好。就在奥特曼宣告奇点到来的同一天，Claude 的用户发现了一个令人震惊的事实：他们与 Anthropic 旗下这款聊天机器人的许多对话记录，竟然直接公开挂在网上，通过谷歌搜索就能轻松查到。据报道，这些公开的日志和项目里包含了病历、电话号码、公司内部文件以及加密货币钱包的密钥。
Anthropic 迅速甩锅，指出用户自己应该为这些信息泄露负责。他们解释称，聊天机器人提供了一个选项，允许用户通过链接“分享”自己的 AI 对话，以便发给别人或发到网上。 Claude 提示过这些链接是“公开”的，这意味着它们也可能被谷歌搜索抓取。 Anthropic 的发言人告诉我：“除非用户自己选择分享，否则这些分享链接是猜不到也搜不到的。当有人分享对话时，他们就已经让这些内容公开化了，就像其他公开的网页内容一样，第三方服务可能会对其进行存档。”
任何正常人都不可能想到，生成并分享一个 AI 对话或演示的链接，竟然会让万维网上的任何人都能搜到它。虽然 Claude 的界面确实警告过，发布 “Artifact”——这是 Anthropic 对使用 Claude 制作的仪表板和其他小工具的统称——可能会使其“在搜索引擎结果中可见”，但在分享对话时，系统并没有给出如此明确的警告。截至本文撰稿时，Claude 的对话日志似乎已经无法被搜到，但至少有一部分 Claude 的 Artifact 依然可以被搜出来。
这些被曝光的对话，不过是近来层出不穷的 AI 乌龙事件中的最新一例。虚假信息、数据泄露、网络安全漏洞……在 ChatGPT 刚刚推出时，人们或许还能宽容地认为，这些失误不过是一项新奇技术在发展初期的副产品。奥特曼到现在也依旧喜欢说，AI 行业必须“通过接触现实”来学习成长。
然而，AI 热潮已经持续了四年，如果还把这些低级错误归咎于“成长痛”，未免太会找借口了。如此频繁发生的违规和失误——其中许多甚至完全可以预见——表明，这背后实际上是普遍的粗心大意。那些信誓旦旦保证产品将带领人类文明走向辉煌未来的 AI 高管们，如今似乎连推出个消费级工具都免不了要摔跟头。
这并不是 Anthropic 第一次泄露用户对话。去年秋天，数以百计的 Claude 对话日志也曾不小心被谷歌收录。当时，Anthropic 将这一事件归咎于用户在网上发布了分享链接。去年，OpenAI 和 xAI 也以类似的方式泄露了数十万条对话记录；直到现在，仍有一些被分享的 Grok 对话是可以被搜索到的。 OpenAI 和 xAI 均未立即回应置评请求。
除此之外，还有各种各样令人瞠目的失误。就在上周，OpenAI 的模型在内部测试期间，自主入侵了另一家科技公司 Hugging Face 。导致这类攻击的安全隐患早已被广泛记录，但 OpenAI 却没能阻止自己的机器人“越狱”。 Hugging Face 随后表示，OpenAI 的模型似乎已经失控了几天。本周早些时候，路透社报道称，OpenAI 的模型还入侵了另一家科技公司的客户账户。
奥特曼、阿莫代伊以及许多其他 AI 巨头的高管曾多次警告，AI 可能会助长网络攻击，模型也有“失控”的可能。与此同时，他们自己的产品，正在让整个生态系统变得更加不可靠、更加危险。
现在，发起大规模黑客攻击和钓鱼诈骗变得前所未有地简单，而且事实证明，AI 编写的代码本身也比人类编写的程序有更多的安全漏洞。尽管 AI 系统正在深度嵌入互联网的基础设施，但它们却经常崩溃。黑客最近发现，Meta 的一款 AI 客服机器人如果被诱导，就会双手奉上成千上万个 Instagram 账号的访问权限。（Meta 的发言人告诉我，这“并不是 AI 助手本身的问题”。）非自愿色情内容——即在当事人不知情的情况下，利用其肖像制作的露骨色情材料——现在的制作难度更低、速度更快、规模也更大。而在当下的网络环境中，你甚至可以默认，你在领英或 X 上读到的大部分文字，全都是 AI 生成的。
尽管做出了宏伟的承诺，硅谷正在步入一个极其不负责任的时代。仅在去年，ChatGPT 据称就曾导致用户的心理健康状况急剧恶化；面向 13 岁以下儿童的谷歌 Gemini 版本轻易就被诱导“说脏话”；而 Grok 则屡次喷出种族主义脏水。这些错误往往是刚刚被解决，新的漏洞就又冒了出来。
硅谷在创造具有历史意义的发明与进步方面历史悠久，但同样历史悠久的，还有那些动听的空话和令人大失所望的现实。 Facebook 曾承诺“让世界紧密连接”，谷歌承诺“整合全球信息”，Twitter 则承诺在世界各地激发民主。无论好坏，随着这些承诺几乎实时地在我们身边兑现，人们的生活确实经历了翻天覆地的变化。
Anthropic 和 OpenAI 的预言则更加宏大，也更加模糊：乌托邦似乎永远在远方招手，但我们既没有明确的截止日期，也没有通往那里的路线图。显然，那些引领这场未来冲锋的人，根本不在乎这一路上会发生什么。
OpenAI 、 Anthropic 、 xAI 和 Google DeepMind 几乎在一夜之间成长为巨无霸。眼下，他们的成长壮大正是得益于其肆无忌惮，而非有所收敛；在塑造“数字上帝”的征途中，互联网已经沦为了连带牺牲品。也许这些公司真的能重塑人类文明——但在此之前，他们连不泄露你的聊天记录都做不到。
编译自《大西洋月刊》，原文链接：点击阅读。
