皇帝的新装：别用LLM运营公司

当ChatGPT在2022年11月推出时，反应是即时而直接的：这东西能用。数百万人第一次体验到AI不是作为一个遥远的承诺，而是作为一种有用的、直觉性的、甚至虽然有缺陷但能力惊人地强大的东西。

那个直觉是正确的。随之而来的结论却不然。因为对坐在键盘前的个人来说极其出色的东西，在组织内部却被证明惊人地无效。

两年后，在数十亿美元的投资、无数的试点项目和源源不断的"副驾驶"之后，一个不同的现实正在浮现：

生成式AI在产生语言方面表现卓越。但公司不是靠语言运营的：它们靠记忆、上下文、反馈和约束运营。这就是差距。这就是为什么如此多的企业AI项目正在悄悄失败。

1、高采用率，低影响…以及越来越强的似曾相识感

这不是一个关于技术未能获得吸引力的故事。恰恰相反。

一份被广泛引用的MIT支持的分析发现，大约95%的企业生成式AI试点项目未能产生有意义的结果，只有约5%进入持续生产阶段。同一发现的其他报道也指向相同的模式：大规模实验，微小变革。

其解释很说明问题：问题不在于热情，甚至不在于能力：而在于工具未能转化为真正的、运营层面的变化。

这不是一个采用问题。这是一个架构问题。

在当今大多数公司内部，两种现实并存：一方面，员工不断使用ChatGPT等工具。他们起草、总结、构思想法，并以感觉自然和有效的方式加速他们的工作。

另一方面，官方的企业AI项目难以在精心控制的试点之外扩大规模。

同一项MIT相关分析描述了一个不断扩大的"学习差距"：个人很快发现了价值，但组织未能将这种价值整合到重要的工作流中。结果类似于"影子AI"：人们使用有效的东西，而公司投资于无效的东西。

这不是对变革的抵制。

这是一个信号。

大多数关于这种失败的解释集中在执行层面：糟糕的数据、不明确的用例、缺乏培训。这些都是事实。但都是次要的。

真正的问题更简单，也更根本：大语言模型被设计用来预测文本。仅此而已。从推理、摘要、对话等其他一切都是这种能力的涌现特性。

但公司不是作为文本序列来运作的。它们作为具有状态、记忆、依赖关系、激励和约束的不断演进的系统来运作。

这就是不匹配。

正如我之前所论证的，这是AI的核心架构缺陷：大语言模型不"看到"世界。它们不维护持久状态。除非经过明确工程设计，否则它们不会从现实世界的反馈中学习。

它们生成关于现实的令人信服的语言。但它们不在现实之中运作。

这导致了一种应该令人感到熟悉的模式。

让大语言模型去：

你会得到一个答案。通常是一个非常好的答案。一个结构化、雄辩且有说服力的答案。而且几乎完全与它应该影响的实际系统脱节。

因为大语言模型无法跟踪管道、管理激励、整合CRM数据或根据结果进行调整。它可以描述一个战略。但它无法执行一个战略。

MIT的发现强化了这一点：生成式AI工具对灵活的、个人的任务有效，但在需要适应、学习和整合的企业环境中就会崩溃。

换言之：大语言模型可以写备忘录。但它不能运营公司。

行业到目前为止的回应是可预测的：构建更大的模型，部署更多的基础设施，全面扩大规模。但规模不能修复设计缺陷。如果一个系统缺乏与现实的基础连接，更多的参数不会给它基础连接。如果它缺乏记忆，更多的token不会给它记忆。如果它缺乏反馈循环，更多的数据中心不会创造反馈循环。

规模放大已有的东西。它不会创造缺失的东西。这里缺失的不是更多的语言。而是更多的世界。

企业AI的下一阶段不会由更好的聊天界面或更强大的大语言模型来定义。它将由完全不同的东西来定义：能够维护状态、整合到工作流中、从结果中学习并在约束下运作的系统。

不仅能生成文本，而且能在真实环境中行动的系统。这就是为什么公司中AI的未来不会仅建立在大语言模型之上，而是建立在将它们嵌入更丰富的现实模型中的架构之上。

如果这感觉很明显，那是因为组织内部的许多人已经看到了：他们运行过试点项目。他们看过演示。他们体验过这个差距。但大声说出来仍然让人不舒服。

围绕扩大大语言模型最终将解决一切的想法，已经有太多的惯性、太多的投资和太多的叙事。它不会的。

皇帝不仅仅是衣不蔽体。他完全穿错了衣服。

这不是企业AI的终结：这是一个误区的终结。语言模型不是企业架构：它们是一个接口层。一个强大的接口层，但仅靠自身是不够的。

最先理解这一点的公司不仅会更好地部署AI：它们将构建出根本不同的东西。

当这种情况发生时，它将再次让人感觉像魔法。

但这一次，它不会是一种幻觉。

汇智网翻译整理，转载请标明出处