为什么超级智能仍然是科幻小说
我们可能会建造超级智能。我们只是无法分辨。
梯形图转SCL | 博途AI辅助编程文档 | AI模型价格对比 | AI工具导航 | ONNX模型库 | Vibe Coding教程 | PLC在线仿真器 | Tripo 3D | Meshy AI | ElevenLabs | KlingAI | ArtSpace | Phot.AI | InVideo
我们可能会建造超级智能。我们只是无法分辨。
1966 年，第一个聊天机器人 ELIZA 由 Joseph Weizenbaum 创建，ELIZA 的酷之处在于它根本没有使用 AI；它只是匹配你输入的单词并将其重新表述为问题的软件。
Weizenbaum 被这个事实困扰：人们无法分辨 ELIZA 是否理解任何东西。60 年后，这场辩论仍在继续，系统更好、预算更大、软件更复杂。
如果你像我一样是技术人员，你就会明白 ChatGPT 的发布是一个游戏规则改变者，在过去的几年里，人们一直在问自己：
1、LLM 智能吗？
尽管智能有不同的定义，但业界一直告诉我们超级智能近在咫尺。我认为这个说法没有错，但我确实认为它是无法验证的。
我的论点是：如果没有精确的智能定义，我们怎么知道我们实现了超级智能？
2、我们还没有弄清楚
想想一个 LLM 模型；你称之为 ChatGPT、Claude Opus、Grok 或 Gemini。它们是智能的，还是我们只是无法分辨？字典将智能定义为学习或理解事物或处理新情况或困难情况的能力。
首先，什么是"困难"？虽然修理飞机对我们来说很困难，但边境牧羊犬不可能修理它，即使边境牧羊犬是一种聪明的狗品种。
智能不是我们精确知道的东西。我们所理解的智能是一个更广泛的主观空间。如果一个普通的 MIT 工程师穿越到公元 3 或 4 世纪，他可能是全世界最聪明的人，但如果古罗马最聪明的人穿越到 21 世纪，他可能只有中等智力；这是因为我们基于比较来衡量智能，而不是基于精确的东西；此外，虽然所有人都被认为是聪明的，但有些人比其他人更聪明。
最被接受的方法，即 IQ 测试，对于它是否能真正衡量智能存在很大争议；作为快速回顾，IQ 测试创建于 20 世纪初，用于衡量解决某些问题的能力，通常被称为"智能"，问题/测试和分数经常更新以反映 100 为平均水平。
但为什么 IQ 测试不能固定并且永远不需要更新？
3、弗林效应
IQ 测试实施几十年后，观察到一个趋势。IQ 分数平均每十年上升 3 分。这被称为弗林效应。关于为什么会出现这种情况，有几个理论；专家建议如下：
- 接触抽象概念
- 更好的医疗保健
- 更好的营养
- 更复杂的环境
- 更多的大学和学校
这就是为什么 IQ 测试需要更新。
我们可以理解 IQ 测试分数不是智能的绝对衡量标准；它们相对于当前人口衡量智能。
4、LLM 智能吗？
那么，什么是智能？
似乎我们还没有弄清楚，但我们可能在某种程度上理解它是什么；它只是无法客观衡量，甚至不容易描述。
因此，一些挑战智能定义的问题是：
- LLM 本身是"智能"的，还是它们只是使用了我们多年来积累的文化和知识？
- 效率是我们理解"智能"的一部分吗？人类可以用 2 或 3 个例子理解一个规则，而 LLM 可能需要数百万个令牌。
我们应该坚持理解和定义智能吗？
- **你获取新技能的效率，而不是你执行已见过的技能的能力——**但你如何用 LLM 来衡量这个？你什么时候知道情况是新的，以前从未见过？
- **多维且通过三个组成部分衡量：**分析、创造和实践——但如果两个 LLM 得到不同的结果呢？我们应该如何比较它们？
- **在给定时间和环境中实现目标——**但谁设定那个目标？LLM 是"智能"的，还是设定目标的人是智能的？
正如你所见，我们现在有不同的定义，但没有一个能解决问题。什么是智能？在这一点上，你应该已经明白没有简单的答案；作为人类，我们不知道智能是什么或它是什么样子。超级智能呢？
5、智能是否与当前时代相关？
我们现在理解智能是一个难以理解和定义的词。我们将这些困难应用于 LLM；人类呢？公元 2 世纪的人可能是智能的吗？他们不知道微积分或代数，或者至少绝大多数人不知道，我们怎么能说他们是智能的？
**挑战在于：**人类本身是否智能，无论当前技术如何？一些作者认为智能也取决于环境。没有像样的数字系统，没有人能创造微积分。那么，也许在这个时代，我们只是不够智能？或者智能与当前时代相关？那么超级智能是什么样子？
6、超级智能
超级智能是假设的基于软件的 AI 系统，其智力范围超越人类智能。但根据我们之前学到的，我们不知道智能是什么。那么我们应该如何定义这个？不犯错的东西？想象一下问这个假想的超级智能模型一些真正主观的问题。
"生命的意义是什么？"它会用哲学还是生物学的角度回答？它应该用多个观点回答吗？那么，因为它无法用简单的术语解释，它就不太智能吗？这就是我的观点：既然我们知道智能是更难理解的东西，我们甚至都不接近理解超级智能是什么。
7、超级智能符合伦理吗？
超级智能在伦理空间中会如何表现？让我们想想这个，似乎"智能"（再次，我们不确切知道它是什么）可能不取决于我们生活的时代，但我们衡量它的方式可能取决于此，这意味着公元 1300 年的人仍然可能被认为是聪明的，即使答案可能与 21 世纪的道德不一致。
那么，在这个空间中超级智能是什么样子的？我们人类有适用于 2026 年的道德，但我们距离 2300 年的道德还很远……那么我们能定义超级智能会犯错并有伦理错误吗？或者它会为我们定义未来的道德？
如果一个"超级智能"的 AI 模型给我们一个我们认为伦理上错误的回答，我们将无法分辨它是错误的还是只是超越了我们的时代。
8、两种犯错方式
没有衡量智能的方法，我们注定会犯两种错误：
- 建造超人类的东西却没有注意到
- 决定我们已经到达，而实际上没有。
第二个塑造政策并调动资金，最糟糕的是它不是假设。
9、结束语
虽然缺乏智能的定义和如何衡量它的清晰观点可能使我们对现在已经实现的东西视而不见，但超级智能似乎是会改变的东西，或者将永远高于我们当前的知识，使智能和超级智能与我们在 2100 年作为人类看到的不同。
也许 ELIZA 没有向我们展示智能是什么，但它向我们展示了我们无法注意到区别。
原文链接：Why AI Superintelligence Is Still Science Fiction
汇智网翻译整理，转载请标明出处
