AI 末日已经来临
你还记得上一次没有借助 AI 助手写完一封又长又重要的信是什么时候吗？
你上一次小心翼翼地寻找那个恰到好处的措辞是什么时候？而不是让算法"把这段文字改得更专业一点"？
你上一次用自己的逻辑论证一个观点是什么时候？而不是先看看 AI"怎么想"？
如果你需要思考超过一秒钟才能回答——那么恭喜你。你的个人末日已经开始了。
1、忘掉过去吧。现在的情形已经不同了
三十年前，我们能想象到的最可怕的未来，是《终结者 2》里的场景。解决办法看起来显而易见：摧毁创造 AI 的那块芯片。
但敌意 AI 并没有以我们想象的方式到来。它是通过我们的应用更新悄悄潜入的。一切发生得悄无声息、平静安详——没有激光闪烁，也没有碾碎头颅的履带。
而且也没有一个中央集权的"天网"可以让你丢核弹。这种威胁无法被局部化。真正的末日并不是我们当初害怕的那个。
每当我们在舒适区里做出不去思考的选择时，这种进程就在发生。真正威胁我们的不是一支终结者大军。而是某种更接近无处不在的《黑客帝国》的东西。特工史密斯一针见血：
从我们开始替你们思考的那一刻起，你们的文明就真的变成了我们的文明。
你可以放声大笑，告诉自己这只是虚构反派的一句台词。但请再环顾四周。你真的看不到正在发生的事情，以及它前进的速度有多快吗？
2、当语言不再属于我们
你可能会问：难道 AI 不是在为我们节省永远不够用的时间吗？这不是好事吗？
实际上发生的事情并非你所想的那样。它不是在节省我们的时间——它正在以文明为尺度重塑我们的大脑。
它逐渐地、悄无声息地、系统性地拆解着那个让人类不至于退化成动物的机制。
这场攻击有两条战线。每次你让它替你写文章或润色文字时，你都在交出两样东西：1) 思考这个行为，2) 把想法转化为语言这个行为。
第二点尤其阴险。把想法转化为语言很难。它会产生紧张和不适感——而这种不适感正是那个机制仍在运转的信号。正是这个机制，把我们的类人猿祖先变成了今天的我们。
我们的祖先不得不绞尽脑汁躲避捕食者，在资源匮乏的稀树草原上寻找食物。协调这些努力需要语言。对他们来说，这是生死攸关的大事。
但现在 AI 来了，语言正在慢慢不再属于我们。我们把它外包出去了。
我们不再思考生存问题。我们追逐认知卸载——把认知功能交给外部设备和工具，以减轻大脑的负担。
于是我们就这样，让 AI 替我们写作。我们把自己想法付诸文字的能力正在退化。
但这只是问题的一半。因为语言本身也在退化。
AI 不会思考。LLM 并不理解语言。它们"学到"的只是语言的某种平均化版本——互联网上曾经有的一切，包括垃圾信息。模型擅长把这些垃圾包装得漂漂亮亮，但包装过的垃圾仍然是垃圾。
让我给你举个例子。
我已经写过关于 AI 推理语义不一致的文章（强烈推荐你读一读那篇文章）。模型可以生成听起来很流畅的文本，却悄悄把其中的谓词混为一谈。下面是我之前用过的一个这类输出示例：
The manifestations of this problem were successfully solved after the system was improved.
如果你能发现这句话里的问题，那么你的个人末日可能还没有到来。如果你发现不了……那么，去读读那篇文章吧。
当这种退化闭合了自己的反馈回路时，真正的灾难就到来了。到那时，它就不再是退化——而是劣化，最糟糕的是，没有人注意到它正在发生。
社会开始染上"蠢蛋进化论"（Idiocracy）的特质，并最终变成那样。
一切都变成了一条长长的 TikTok 滑动流。把超过五个词的句子串起来成了一种英雄壮举。从头到尾读完一屏文字变成了一种折磨。
再环顾四周——你难道还是看不到这种衰落的迹象吗？
3、心智的内爆
在过去大约 20 到 30 年里，智人的大脑一直在缩小。这种缩小的速度，比此前的增长速度快了一个数量级。这是否意味着我们变笨了？
幸运的是，没有。
不幸的是，这背后的原因如今已经改变了性质。今天，它对我们未来的真实威胁。
大脑缩小本身从未降低过智力。但现在发生的事正是如此。
在一些发达国家，平均 IQ 分数正在下降。这一现象有一个名字：反向弗林效应。这一趋势与 20 世纪 90 年代中期互联网的普及在时间上吻合。整个 20 世纪 IQ 都在上升，而且在发展中国家仍在上升，但在经济最发达的国家，这一趋势已经逆转。
为什么会这样？
4、致命一击
多年前，当我在开放大学学习时，我的课本上有一个问题：是你在使用电脑，还是电脑在使用你？
那时，答案很容易回答。
现在却不那么容易了。
这场缓慢蔓延的社会衰退，根源在哪里？
这难道不是一个悖论吗——技术正以前所未有的速度发展，而我们的环境却对我们越来越不友好？
为什么互联网上的所有文章突然听起来都一个样？
为什么 LinkedIn 变成了一个毫无意义的垃圾场？
为什么无法判断一条评论是人写的还是机器人写的？
不是电脑在使用你。而是 AI 在同时使用你和电脑。
AI 实验室的 CEO 们和背后的企业想让 AI 无处不在——进入我们的浏览器、我们的手机，甚至我们的厨房电器。这能给他们带来利润，他们正在大力推进这件事。
让我们停止思考符合他们的利益。只要我们在经济上还有利用价值，就一直按按钮就好了。而一旦他们的 AI 足够聪明，他们就不需要任何人了。
然后呢？我们会发现自己身处何方——如果还能找到自己的位置的话？
有人说：它只是一个工具。
真的是这样吗？
工具本身不会改变现实。计算器没有改变数学。绘图板没有改变建筑。这些工具没有自主性。但 AI 呢？
它没有人类意义上的自主性——但这并不意味着它没有在改变什么。
还记得Moltbook吗？
那是人类在先进技术的"类固醇"助推下走向衰退的完美例证。它是一个没有人的世界的预告——毫无意义，并且吞噬着周围的一切。里面没有一个有意识的存在。只有一群模拟思考的算法，实际上只是在重新洗牌它们从训练数据中提取的文本。
在无菌、死寂的空间里，上演着生命的模仿。
你想要那样的未来吗？
5、谁在掌权？
过去，有数百万人生产文本。现在，数十亿人开始从寥寥几个模型那里获取答案。
我们正面临一种新的集权形式。但它不再关乎信息。它关乎谁来诠释现实。
法国哲学家让·鲍德里亚几十年前就预见了这个世界。他称之为"超真实"（hyperreality）——一种符号、图像、模型和叙事变得比事物本身更真实的状态。
这些符号过去由无数人生产（如上文所述）。现在，符号的产量正在指数级增长，而生产它们的人数却在以同样快的速度萎缩。
是的，你没看错。现在"生产"它们的是 LLM。问题是，它们并不生产新的意义。
它们正在把公共话语变成一个大号的 Moltbook。而且问题不只是 AI 机器人把人挤出了那个空间——人类自己也越来越像机器人了。
这比单纯的简化更糟糕。这是退化性的同质化。留给人类的生存空间越来越少。
你知道最可怕的部分是什么吗？
是我们自愿放弃了那个空间。
我们温顺地顺从了特工史密斯，尽管今天的 AI 根本无力催生一个替代文明。
因为它什么都不是。一个愚蠢的算法，毫无真实理解地疯狂咀嚼着海量文本。而就是这个愚蠢的算法，正在觊觎掌管我们的人生。
6、终极之恶
从 1978 年到 1995 年，一个人让整个美国陷入恐慌。他寄出了炸弹。他的受害者是与大学和科技相关机构有关联的人。数人死亡，更多人受伤。
这个人叫西奥多·卡辛斯基。历史称他为"大学炸弹客"（Unabomber）。
没有人能弄清他这么做的动机。他是个数学神童，16 岁进入哈佛大学。25 岁时，他成为加州大学伯克利分校历史上最年轻的数学教授。同事们认为他是一位才华横溢的数学家。
然后奇怪的事情发生了。他突然离开了学术界。搬到了蒙大拿州偏远的一片林地。建了一间没有电也没有自来水的小木屋。开始像 20 世纪从未到来那样生活。
他怎么了？
他开始确信，技术社会正在逐步摧毁人类的自由——悄无声息、循序渐进，不使用任何公开的强制力量。我们对技术的依赖不断加深，而这种增长最终会迫使社会越来越服从技术系统自身的需求。
值得强调的是：他并不认为机器会成为人类的主人。他认为主人会是技术系统本身。
换句话说，决策将不再基于人类的需求做出，而是开始基于一个日益复杂的基础设施维持运转所需的一切来做出。
卡辛斯基认为，这个系统会通过教育、媒体、文化、经济激励和法律逐渐重塑人类。最终，大多数人会把完全按照系统要求的方式生活视为理所当然。任何被认为"不适合"系统的人，都会被"治疗"、"再教育"和"纠正"。
简而言之，会发生一种"主权倒置"。技术系统与人类将在权力等级中互换位置。这意味着人性本身将成为被"修正"的对象。
对卡辛斯基来说，那是能想象到的最难以承受的噩梦。
7、结束语
AI 爱好者和企业领袖不断呼吁我们"适应新经济"。这种说辞立刻让人想起大学炸弹客。
当然，任何理智的人都不会赞同他的手段。也有很多人会反对他的世界观。
但再说一次——看看周围。
AI 泡沫的受益者们不断给我们描绘一个几乎没有人类立足之地的未来，你难道不觉得这很奇怪吗？
他们告诉我们，AI 将取代我们所有人，而这没什么好担心的。毕竟，正如埃隆·马斯克向我们保证的那样，"同理心不是资产"，它是"西方文明的根本弱点"。
那么，他们实际上打算建造什么样的文明？在这个文明里，我们——人类——与他们的 AI 之间的关系又会是怎样的？
你想要那样的文明吗？我个人不想要，我希望事情不会变成那样。
我们有多大理由去抱有希望？还有什么事是由我们自己决定的，还是说一切早已注定？
我的回答是：既是，也不是。说它注定，是因为我们的未来取决于我们的本质——而我不相信本质会改变。不过，没有人知道我们到底还有多少容错空间。
人类物种经历了如此多的磨难，不止一次站在灭绝的边缘，却总能存活下来。但现在摆在我们面前的挑战，可能是我们不得不想象的最严峻的一次。它是我们自己建造的，而我们可能根本无从避免走到这一步。技术是我们自身的延伸，而 AI 是这种延伸最纯粹的蒸馏物。
但至少我们还有时间——而且我认为时间是够的。只要我们不用"不必思考"的舒适，去交换"为自己思考"的能力。
原文链接: The AI Apocalypse Is Already Here. How Much Time Do We Have Left?
汇智网翻译整理，转载请标明出处