AI可以替代产品，它无法替代过程

在过去六个月里，我撰写了关于AI在多个领域中的成就和失败的文章。每篇文章都是作为一个独立的探究开始的，但贯穿其中的问题始终相同。AI能替代什么，又不能替代什么？我越来越确信答案在于一个我们尚未充分定义的区分：产品与过程。

在人类努力的任何领域中，我们都可以问，意义和价值主要在于一个可复制的成品中，还是在于人类过程本身。这里的"过程"是广义上的：一场现场事件的展开过程、一个人理解事物的方式、塑造一件艺术品的独特生活经历。这些并不完全相同，但它们有一个共同点：它们无法被人工生成或复制。

当价值集中在产品上时，AI可以成功，而且往往表现出色。当价值嵌入过程中时，某些东西可能被证明是不可替代的。不是因为机器不能生成令人印象深刻的输出，而是因为输出从来都不是唯一重要的东西。

1、当过程本身就是意义

我首先在关于AI与现场表演的文章中阐明了这种区分。一场音乐会的录音可以被无限复制；音乐会本身却不能。观众回应的不仅仅是音乐，而是舞台上的人：体态、风险、可见的努力，以及作为不可重复事件一部分所带来的那种电力感。随着合成媒体涌入我们的播放列表和屏幕，变得稀缺（因而更有价值）的不是音乐或故事，而是那些将其赋予生命的、毫无疑问属于人类的演绎。

体育也是如此，甚至可能更加如此。体育竞技的兴奋感不来自结果本身，而来自在极限运作的身体和由不确定性产生的悬念。是的，你可以将一场网球比赛保存在视频中，十年后研究费德勒的反手，并将那最优雅的击球作为美的对象来欣赏。但一旦过程结束、结果已知，某些本质的东西就消失了。

2、当产品破坏了过程

体育和现场表演是相对清晰的案例。但我的探究还揭示了一个更令人不安的现象：有时，产品看起来没问题，而过程却在悄悄被侵蚀。最令人不安的例子之一出现在学习领域。

新兴研究表明，生成式AI可以在短期内改善论文质量和考试成绩，但长期来看会损害认知过程。当我们依赖AI来综合信息或构建论点时，我们绕过了研究人员所说的"相关认知负荷"：在长期记忆中构建和整合知识结构的过程。我们可能感觉更加流畅，但产生有意义理解的机制已经被移除了。

在一项研究中，使用AI的学生在练习题上有了显著提高——但当工具被撤走时，这种优势完全消失了。在另一项研究中，使用AI辅助写作的学生神经连接降低了高达55%，83%的学生事后无法引用自己作品中的哪怕一行。他们生成了产品，却没有经历使其成为自己知识的过程。

这种侵蚀延伸到职业生活中，变得更加危险。在与软件开发人员的随机实验中，Anthropic的研究人员发现，在学习新的编程库时使用AI会损害概念理解、代码阅读和调试——而正是有效监督AI系统所需的过程。可能最需要严格人类监督的技术，也可能在削弱我们提供这种监督的能力。

3、当产品占据舞台中心

显然，并非所有领域都是这样运作的。在许多科学领域，价值确实主要存在于结果中。如果AI能够比临床医生更准确地检测早期乳腺癌，这一成就不会因为人类不是过程的核心而变得不那么重要。AI通过预测蛋白质结构——否则只能通过缓慢且昂贵的实验来确定——所推动的进步，不会因为算法的参与而有所减损。AI加速和增强的能力可以成为一股强大的向善力量，特别是在经过深思熟虑的使用时。

数学是一个更加模棱两可的案例。人们可能认为在这里，产品就是一切：一个结果要么被证明了，要么没有。但围绕四色定理的最初争议——由Appel和Haken于1976年确立的第一个使用计算机辅助的主要定理——讲述了一个更复杂的故事。除了对其计算机辅助元素的怀疑之外，还有更深层次的不满：过程缺乏美感和简洁性，未能丰富人类的理解。一些数学家根本拒绝接受它作为证明。

许多数学发现开启了巨大的实际进步，将结果本身置于舞台中心。但特别是在纯数学中，我们钦佩的往往不仅仅是结果，而是人类头脑发现一条优雅的、揭示性的且在某种程度上与问题深度相称的路径。我记得在青少年时期受到黎曼猜想的启发，而它至今仍未被证明。一个AI的证明将是划时代的；但在某种程度上，也会是一种失望。

4、产品的幻觉

乍一看，艺术似乎完全走向另一个方向。一部小说可以被无限复制和传承；一部交响乐可以被录制并演奏几个世纪；一幅画作可以被保存和欣赏几代人。当然，我们可以在不对它们的产生方式给予片刻思考的情况下被这些作品感动。

AI揭示的是，这种表象一直是误导性的。我们可能以为自己在回应那个对象；实际上我们也在回应——虽然不总是意识到——其中压缩的人类过程。

翻译是一个很好的切入点。它看起来像一个纯粹的产品领域：似乎重要的是文本的忠实呈现。但AI的困难提醒我们这是一个错误的假设：伟大的文学翻译是一种创造行为。

Edward FitzGerald备受赞誉的《鲁拜集》译本对其原文如此不忠实，以至于其中最非凡的诗句几乎完全是他自己的创作——但又如此成功，以至于将一个此前默默无闻的波斯作品推入了英国文学的正典。

同一诗句的三种不同翻译，展示了FitzGerald所采取的自由，也展示了他译本的美感和流畅性。维基共享资源 | 公共领域

相比之下，AI目前的优化指标奖励正确性和与人类参考翻译的接近度，引导模型远离所需的惯用艺术性。对于技术文本（价值主要在于可审计、可复制的产品），这很成功；但对于必须用目标语言重新创造作品效果的文学翻译，则不然。

5、当过程留下印记

交响乐似乎是另一个可以简单地生成和复制的清晰例子：一份有形的乐谱，一种进入曲目库的可听结构。然而我的第一篇文章解释了为什么AI可能永远无法写出一部伟大的交响乐。交响乐不仅仅是需要模仿的模式：它是一部结合了历史、创新、结构和独特艺术声音的宏大叙事。

例如，肖斯塔科维奇的第五交响曲是一首完全通过和声、旋律、节奏和配器表达的、对斯大林大清洗的反抗行为。伟大作曲家定义流派的风格诞生于他们独特的、典型的人类生活和过程。

当前的AI范式可以生成大段悦耳的模仿，但被优化为在训练数据中最小化损失的模型将个人风格扁平化为通用混合。一个连贯的原创声音目前仍然遥不可及。

类似的情况可能也适用于文学小说。AI可以构建叙事并模仿文学散文的表面纹理。但留下不可磨灭印象的小说给人一种阅读到某种深刻个人化、原创且紧迫的东西的感觉：只有那位特定作者、以其特定的人生才能写出的文字。

这里的要点不是伟大的虚构作品是直白的自传，而是它来自于已被经历、承受、观察或搏斗过的经验。AI没有自己的故事要讲述，没有恐惧或渴望驱使它为后世留下文字。产品是说得通的；让我们感动的过程却不存在。

即使在过程似乎最不重要的形式中，手工制品经常被珍视，不是因为它优于其工业等价物，而是因为其制作过程的痕迹在物品本身中仍然可见。过程留下了印记，而我们比预想的更不愿意放弃它。

6、理解：产品还是过程？

最后，产品-过程的区分甚至可以延伸到艺术、科学或体育之外，进入AI是否理解这一更深层的问题。当大型语言模型生成一个流畅的回答或剖析一个哲学论证时，其输出可能与理解的产品无法区分。问题在于它背后是否存在一个有意义的过程。

对我文章《大型语言模型理解吗？》的反应让这种紧张关系变得清晰。这篇文章探讨了一种严格的维特根斯坦式解释，即意义不依赖于内在过程，而取决于在共享语言实践中的正确使用——LLM越来越满足这一条件。虽然有哲学素养的读者欣赏这个论证，但对其他人来说，仅仅是标题就引发了即时的愤怒。

这种反应本身就揭示了问题。无论LLM的输出多么能干或令人印象深刻，大多数人深深关心内在过程：构成文字背后意识的主观意识、经验和思想。没有那个过程生成的回应，在他们看来就缺少了某种关键的东西，无论它看起来多么流畅。

尽管如此，争论并未尘埃落定：心智科学家和哲学家似乎大致同意，当今的模型可能尚未达到意识——但也认为没有先验理由说明未来的系统不能满足必要条件。就像四色定理证明的情况一样，我们可能不会立即准备好接受那个观点。

然而，其后果将是深远的：一个能够理解和拥有意识内在世界的AI可能最终获得生活经验——以及本文迄今为止视为人类独有的有意义过程。

7、结束语

产品-过程的区分为理解AI时代提供了一个强有力的框架。它有其局限性：几乎没有人类领域可以被整齐地归类为产品或过程。几乎总是两者兼有，它们之间的平衡可以变化。尽管如此，意义主要所在之处对于评估机器能做什么和不能做什么似乎至关重要。

AI使这种区分更加清晰。通过在某些努力中成功或失败，它揭示了我们有多少次假设价值只存在于产品中，而实际上一直是由人类过程赋予的。

一个正确的答案不等于理解。一个证明不等于启发。在一个又一个领域中，AI迫使我们追问还缺少什么。也许有一天，机器也能理解、感受和生活。在那之前，使我们的作品有意义的过程属于我们自己。

原文链接: AI Can Replace the Product. It Can’t Replace the Process

汇智网翻译整理，转载请标明出处