在 AI 时代重新审视"职业"

大约 70 年前，一位名叫艾萨克·阿西莫夫的多产作家写了一部名为"职业"的科幻中篇小说。在其中，他想象中的社会儿童将在八岁时学习阅读，仅此而已。在 18 岁的里程碑处，他们的下一个通过文将通过电子方式提供的信息来确定他们在社会中的角色。您实际上会根据打印到您大脑上的信息"成为"某个职业的成员。

在深入了解细节之前，应该注意到，AI 甚至在 1957 年以游戏的形式就已经得到了演示。阿西莫夫被引用为说过"我不害怕计算机。我害怕缺乏它们。"并且还撰写了他的"机器人"系列——这讲述了 AI 的复杂性。

为了吸引 novella 中的读者，阿西莫夫的"教师"角色与主角（Platen）的计算机编程师角色之间当然存在冲突。主角被告知他不适于某种类型的"录音"，这表明他的知识是有限的，不适合其他角色。

冲突的解决方案是，主角实际上被揭示为专家之一，这些"录音"正是其他人专业知识的来源。这一解释赋予了教学职业以某种体面和尊严——他不仅仅是个录音员，而是这些实践技能的创造者。这很可能是推测，主角被搁置一旁是因为"录音"过程会毁掉他。用其他话说，他保留了主动权，可以开发新信息，并仍然是一名教师。

故事的这一结果赋予了教学职业以某种体面和尊严。但它也可以作为关于 AI 当前状态的重要提醒。

1、LLM（大型语言模型）

世界上最新一波人工智能是大型语言模型（LLM）。这些系统在"海量"信息上进行了"训练"，其中大部分是文本的，并且通过输出预测来工作。

如果您曾经问过自己"麦金托什会怎么做？"或"亚伯拉罕·林肯会如何处理它？"甚至"我的祖父会怎么看如果他看到这个？"您可能正在以类似的方式产生输出。这就把事情过度简单化了。如果您想了解更多，可以轻松找到相关信息。但是，仅仅说"它们需要现有的输入"就足以了。

由于对 LLM 投入了如此多的关注，加上投资者对这一想法至少在当前时刻持开放态度，很可能会出现其他技术在某种程度上会履行 LLM 所做出的承诺，尽管 LLM 可能在某些方面实现不足。但是，如果它们要被广大人类使用，就必须也具备某种人类知识。推测表明，LLM 将在某个时候生成新颖内容。即使那样，我们也需要能够使用它。

2、对 LLM 的限制

如上所述，LLM 必须在海量信息上进行训练。也许它们可以被想象为一个巨大的重叠数据显微镜组，从无数的输入生成答案，以产生输出针对您刚刚提出的那个问题。它们对其他人提出的很多问题都这样做。但是归根结底，文本必须作为输入。LLM 迄今为止的所有文本输入都是由人类创造的。所有计算机代码、杂志文章、各种文档、所有我们可以编写并可以被其中一个模型导入和使用的内容都是由某个人制作的。然而，这种文本存在限制。实际上可能会有一个时候，所有可用文本（也许还有一些在法律上不应该的）都已经存在于模型某处了。

已经有人提出，AI 可以为自己或彼此编写内容。但这很容易导致下降螺旋，一篇文章建立在另一篇文章上，如此持续直到输出变得毫无意义。像 E.M. 福斯特的《机器停止》等作品中已经提出了类似情景。LLM 还能够产生幻觉（产生在现实中没有根据的无意义内容），因此如果没有某种形式的保护，反馈循环可能会恶化为不可用的结果。

3、"我们"可以如何学习

这种固有限制，加上保持这些 AI 可理解并至少名义上可解释，可能意味着保持人类代理和创造力充满活力是在未来利用 LLM（如果不是所有 AI）的必要性。"我们"现在成为人类及其 AI。我们可以从它们身上学习，并利用它们。但是它们仍然需要向我们学习。

在"职业"中，我们读到知识不断进步（正如 21 世纪的程序员可能猜测的那样）并且变得过时。有时这是计划中的淘汰，但通常，当问题得到完全解决后，解决它们的手段变得毫无用处。新的挑战出现，并且需要新知识。

就像 Asimov 想象宇宙中的 Platen 人物必须创造信息一样，人类必须继续创造内容。即使我们利用 AI 来保持流程进行，这也是真的。科学家和工程师在 Asimov 发表他的故事之前就已经在使用计算机。他们使用计算机开发了新流程和新知识。现在他们也使用 AI。

科学家有一个目标，通过牛顿物理学和量子物理学等连续范式精炼他们的现实模型。如果他们的大脑和思维过程在进入劳动力之前就被硬编码，那甚至可能吗？

让我们保持思想开放，并让我们不要忘记挑战过去的知识——像编码为人工智能那样的知识。

原文链接: Revisiting Profession in the Latest Age of AI

汇智网翻译整理，转载请标明出处