7万亿美元的AI赌博正在失败

当你在科技行业编写Python或TypeScript来连接LLM API时，感觉就像魔法一样。我们将几个提示串联起来，突然间我们的应用程序看起来异常智能。我最近向我的技术通讯的1400名订阅者发送了一次更新，围绕构建这些AI包装器的兴奋感是显而易见的。但是，如果你揭开运行这些模型的巨大基础设施的帷幕，一个可怕的现实就会浮现。大科技公司陷入了巨大的陷阱。

数字令人震惊。科技巨头预计仅在2026年就将在AI基础设施上花费7250亿美元。高盛估计，到2031年总费用将超过7.6万亿美元。你会期望这样的钱带来一场巨大的全球革命。相反，全球AI服务市场最近仅创造了约250亿美元。公司正在抵押它们的未来来建设庞大的服务器农场，而像DeepSeek这样的初创公司证明，高度有竞争力的模型可以在预算硬件上以不到600万美元的成本进行训练。

真正的问题远不止硬件成本。目前对企业AI最大的威胁是一颗法律定时炸弹。

考虑加拿大航空事件。一名悲伤的男子询问他们的客户服务聊天机器人是否提供丧亲票价。聊天机器人自信地说是，并完全捏造了一项政策，允许他申请追溯折扣。当航空公司拒绝他后来的请求时，他起诉了他们。加拿大航空试图辩称聊天机器人是一个独立的法律实体，对其自身行为负责。法庭完全拒绝了这一点。他们裁决，无论你的AI对客户说了什么，你都说了。

这一裁决在公司董事会中引起了冲击波。你不能将责任外包给机器。如果你部署的软件幻觉出一个不存在的政策或虚假的法律先例，你的公司就要承担后果。这正是为什么许多企业AI项目在投入生产之前就被悄悄废弃的原因。

保险业也注意到了。保险公司通过正确评估风险来生存。如果他们拒绝承保某事，你应该非常关注。最近，主要保险公司开始严格排除与生成式AI相关的索赔。这意味着任何由AI生成的文本、代码或媒体造成的损害不再标准商业保单覆盖。部署面向公众AI的公司现在完全是在没有安全网的情况下飞行。

我们需要理解为什么这会不断发生。大型语言模型不是数据库。它们是极其复杂的预测引擎。它们的整个机制旨在根据训练数据猜测统计上最可能的下一个词。当LLM不知道一个事实时，内部警报不会响起。它只是生成最合理的延续。

这就是为什么我们看到律师因提交充满虚假案例法的联邦法院诉状而受到制裁。AI以绝对的自信发明了像“Vargas v China Southern Airlines”这样的案例。模型没有失败。它完全按照编程执行。幻觉是这些预测模型工作方式的数学上不可避免的特征。

然而，有一个行业目前正从AI中获得巨额利润。像Jane Street这样的量化交易公司最近公布了数十亿美元的收入。他们的AI系统不是在写客户服务电子邮件。它们是在执行高频交易。

它们在企业聊天机器人失败的地方成功的原因归结为反馈循环。在金融市场，数据异常干净，反馈是即时的。如果交易模型出错，市场会以立即的财务损失来惩罚它。没有法庭或90天的法律宽限期。系统被迫实时自我纠正。AI领域的赢家是在拥有残酷诚实、即时裁判的环境中运营的那些。

硬件格局也在迅速变化。Nvidia H100 GPU不久前还是地球上最令人垂涎的资产。公司当时在囤积它们。现在，AWS已经大幅削减了租赁价格，这些卡的二级市场价值暴跌。Nvidia甚至推出了一款4700美元的台式电脑，可以运行两年前需要整个服务器机房才能运行的模型。智能变得便宜的速度远远快于为支持它而建造的基础设施贬值的速度。

这感觉就像1990年代末的电信光纤热潮。公司铺设了数百万英里的昂贵暗光纤，预期巨大的互联网流量增长，但多年后才实现。基础设施是真实的，但即时的商业模式是海市蜃楼。

那么我们如何将其应用于我们自己的系统设计？

首先，我们必须停止将LLM视为事实检索引擎。如果你的应用程序依赖LLM在没有外部验证层的情况下准确获取特定操作数据，你就是在构建一个责任。

其次，我们需要将重点从生成式开放式工作流转向代理型、以结果为中心的过程。处理枯燥、具体和高度可测量的任务的系统。使用AI扫描文档中的非标准条款或将工单路由到特定部门。让人类参与循环，在数学上不可避免的错误成为昂贵的法律问题之前捕获它们。

AI革命没有死。它只是在中层管理中得到了一份非常无聊的工作。对于我们这些构建下一代软件的人来说，理解这些物理和法律约束是我们最大的优势。

原文链接: The $7 Trillion AI Gamble is Failing. Here is What We Need to Learn.

汇智网翻译整理，转载请标明出处