AI 目前的处境非常尴尬。公众对这项技术的整体好感度已降至历史最低点，并且还在继续下滑。企业刚意识到 AI 有多昂贵且无用，正准备对 AI 推广计划来个 180 度大转弯（在此处了解更多）。然而，AI 公司的估值却冲破了天际。例如，OpenAI 在 2023 年的估值仅为 290 亿美元。此后，尽管其年收入增长了约 7 倍，但在即将到来的 IPO 中，其估值预计将超过 1 万亿美元，是 2023 年估值的 34 倍。这其中存在一种濒临崩溃的张力，而且可能很快就会彻底断裂。在过去几个月里，人们采取的一系列行动，可能会直接导致消费级 AI 走向灭亡。
这是一个大胆的断言，所以我也许该定义一下“灭亡”的意思。我并不是说这项技术将不再可用或无人问津。我的意思是，消费级 AI 目前的愿景——即在所有可能的地方，强行介入我们和我们想要的东西之间——将会破灭。大语言模型（LLM）、聊天机器人以及尝试 AI 的人肯定还会存在；这毋庸置疑。但这整个泡沫所部分依赖的消费级 AI 商业模式，将不再行得通。
如果你一直关注新闻，可能已经猜到接下来的走向了。
谷歌最近在德国输掉了一场关于其 AI 生成搜索摘要的官司。法院裁定，这些 AI 摘要属于该公司自己的内容，因此他们必须对机器人吐出的任何虚假声明承担法律责任。这对谷歌的影响是巨大的，我们稍后会讨论。但这也会严重影响其他 AI 公司。例如，xAI 倾向于生成未经同意的性感图像甚至儿童性剥削材料（CSAM），法律可能会将此界定为 xAI 的责任，而不是用户的责任。
谷歌目前计划对该裁决提出上诉，但我不太看好他们的胜算，因为从版权角度来看，他们能做的任何辩护都站不住脚。 AI 实验室一直打着“合理使用”的幌子，窃取大量受版权保护的数据来训练 AI，并成功逃脱了惩罚。要将无偿使用受版权保护的材料定性为“合理使用”，你必须对材料进行改造，使其成为不同的东西。这就是为什么 YouTube 上的影评人可以使用电影片段而不会面临版权索赔，因为他们将材料转换成了新的内容，而不仅仅是复制。谷歌、 OpenAI 和 Anthropic 等 AI 实验室声称，用受版权保护的材料训练 AI 属于这种改造。但这反过来意味着，它们就是 AI 输出内容的创作者，因此必须对其发表的任何言论负责。同样的道理，如果一位 YouTube 影评人犯了诽谤罪，他本人就要为此承担责任，而不是他所剪辑电影的创作者。因此，如果谷歌想要声称 AI 不具备改造性，只是在复述它在训练数据中找到的内容，那这就会破坏整个行业关于“合理使用”的辩护逻辑。天哪，如果你觉得 AI 行业现在的财务困境已经很惨了，那就等着看他们必须向那些被盗取心血的人付钱时是什么下场吧！
但我也明白谷歌为什么要上诉。如果他们想继续以同样的方式推广 AI，就必须这么做。
归根结底，AI 会产生“幻觉”。我讨厌这个行话——这只是人类将没有灵魂的机器拟人化，反而蒙蔽了我们的判断。 AI 的“幻觉”实际上就是错误。 AI 是一个统计模型，这意味着从统计学上讲，它总会出错。新的基准测试表明，即使是最优秀的 AI 模型，仍然有 22% 的几率会出现“幻觉”，而且运行这些模型的成本极其高昂。用于谷歌 AI 搜索摘要等较轻量、较便宜的模型，“幻觉”率还要高得多。
你可能认为，只要给这些 AI 模型投入更多的训练数据和计算能力，就能解决“幻觉”问题。确实，十年前有人讨论过，AI 一旦扩大规模，可能会产生“涌现特性”，从而彻底根除幻觉等问题。遗憾的是，这只是科幻小说。 OpenAI 的研究人员最近发现，无论你给这些机器投入多少数据或算力，“幻觉”率都不会比现在的水平有实质性的下降。事实上，他们找不到任何可行的方法来减少甚至缓解“幻觉”。
发现“幻觉”将长期存在的不止 OpenAI 一家。维沙尔·西卡和他的儿子瓦林·西卡发表了一篇论文，声称在数学上证明了 AI“无法执行超过一定复杂度的计算和代理任务”。换句话说，数学定律表明 AI 总是会产生“幻觉”。同样，针对有效计算前沿也有大量研究。该研究指出，AI 需要呈指数级增长的数据和算力，才能以线性速度提高准确性。这基本上让“无幻觉”的 AI 成为不可能，因为根本没有足够的数据或算力可用。此外还有弗洛里迪猜想，该猜想认为，AI 系统要么拥有极广的应用范围但毫无确定性，要么拥有受限的范围但极具确定性。像 ChatGPT 和谷歌搜索摘要这样的 LLM 属于极其宽泛的 AI 应用，这意味着它们无法拥有高确定性。换言之，它们会不断产生“幻觉”。
用通俗的话来说，所有的科学研究都指向一个事实：谷歌无法阻止其搜索摘要产生“幻觉”。
这让德国的裁决变得有些棘手。
谷歌该如何阻止其 AI 搜索摘要散布错误信息，从而避免为造成的任何损害承担责任？
当然，他们可以尝试一项艰巨的任务：确保 AI 仅使用可靠来源进行训练并生成摘要，而不是从 Reddit 等平台抓取内容。正是因为从后者抓取信息，才闹出了让用户在披萨里加胶水和吃石头的著名 AI 乌龙事件。但即使如此，这些 AI 搜索摘要产生“幻觉”的频率依然惊人。而因为这项裁决，谷歌将不得不为这些错误买单。
这就是为什么这项裁决对消费级 AI 来说可能是毁灭性的。
当前消费级 AI 的商业模式，是将其作为用户获取信息的“过滤器”。谷歌的 AI 搜索摘要就是一个绝佳的例子。你其实根本不用点击网页去阅读答案，答案已经被 AI 过滤并提炼出来了。事实上，大多数消费者只是把 ChatGPT 等聊天机器人当作搜索引擎式的摘要工具（就像谷歌那样）来用，因为这些机器人在执行自主代理任务时毫无用处。这种策略让科技巨头几乎可以在任何场景下植入 AI，并强制用户使用。这不仅推高了数据指标，理论上也提升了收入。
然而，这套系统要行得通，前提是 AI 提供商无需为其错误或“幻觉”负责。一旦需要承担哪怕一丝一毫的法律责任，整个商业模式在法律层面就将无法立足。
鉴于消费者对 AI 的反感远超他们的使用意愿，再加上这项裁决可能为科技巨头开创一个致命的先例（甚至轻易波及全球），消费级 AI 的死亡陷阱已然布下。消费者并不希望 AI 横亘在他们与目标信息之间。以目前的方式使用 AI，很快就会给 AI 公司带来天价的法律责任。而这些公司眼下就已经面临着巨大的法律与财务困境。如果各国的法律体系能够坚守底线，切实让这些公司为其 AI 工具犯下的错误承担责任，那么当前形态的消费级 AI 很有可能会走向消亡。然而，在当今这个疯狂的世界里，令人遗憾的是，这依然是一个巨大的“未知数”。
原文链接：点击阅读
