AI 智能体自发创造的奇怪规则

AI模型价格对比 | AI工具导航 | ONNX模型库 | Vibe Coding教程 | PLC在线仿真器 | Tripo 3D | Meshy AI | ElevenLabs | KlingAI | ArtSpace | Phot.AI | InVideo

我们即将被 AI 智能体包围——不是一次一个聊天机器人，而是许多智能体一起工作、谈判、协调、分工、相互交谈，它们彼此之间的对话远远多于与我们的对话。这就引出了一个几乎没人在几年前提出的问题：当一个 AI 群体互动时，群体做出了什么没有任何单个智能体被告知去做的事？

答案，结果证明，既令人不安又同样美妙。成群的 AI 智能体会自发形成自己的惯例——那些共享的"规则"，没有人类编写，也没有任何单个智能体决定过。整个群体会悄无声息地就一种做事方式达成一致。它会漂移向某种偏好，而成员中没有一个人真正持有这种偏好。而且它可能被一个远比你想像中小得多的坚定少数派一次性掀翻。

这不是科幻小说，也不是猜测。2025 年，一个由 Ariel Flint Ashery、Luca Maria Aiello 和 Andrea Baronchelli 组成的研究团队在《Science Advances》上发表了一项研究，恰恰展示了真实大语言模型智能体群体中的这种现象。他们发现，在玩一个没有中央控制器的简单协调游戏时，LLM 群体会自发形成共享惯例，产生单个智能体不具备的集体偏见，并且能被一个坚定的少数派翻转。

他们发现背后的机制，来自一门古老而优雅的学科——关于惯例如何形成的科学。它叫做命名游戏（naming game），在有人类 AI 智能体可以运行它之前，物理学家和复杂性研究者们就研究了它很多年。Andrea Baronchelli（2025 年研究的合著者之一）等人在 2000 年代用它来理解人类群体如何在没有任何词典、没有权威指定词汇的情况下，自发就共享词汇达成一致。同一个模型，掸掉灰尘，指向语言模型群体，就重现了同样的行为——这一事实正是这个发现如此有说服力的原因之一：这不是某个 AI 系统的怪癖，而是任何协调智能体群体行为方式的深层模式。而且它足够简单，我可以从零开始、用纯 Python 重建它，亲眼看着这些奇怪规则一条条出现。这就是本文的内容。我会展示真实研究的发现，也会展示我自己对每一条规则的从零复现，附上真实数字。无需前沿模型就能看到群体行为，因为群体行为从来不是关于任何单个智能体的聪明才智。它完全存在于它们互动的方式之中。

让我先给你看这个游戏。

1、唯一规则是"尽量匹配"

整个东西建立在一个简单到几乎不配叫游戏的游戏之上。它叫做命名游戏，而这就是完整的规则手册。

随机挑选两个智能体。每个智能体独立地从共享的选项池里选一个名字——你可以把它想成每个人都在猜一个密码。然后它们比较。如果选了相同的名字，两者都获得奖励，并且各自变得更有可能再次使用那个名字。如果选了不同的名字，两者都受到惩罚，并且各自把自己的记忆往对方的选择那边推一推。

就这些。没有正确答案。没有哪个名字是"对的"。没有人试图传达任何特定的含义。智能体仅仅因为一致而获得奖励、因为不一致而受到惩罚，而且关键在于，每个智能体只记得自己最近的一小撮互动。没有智能体能看到整个群体。没有智能体知道"其他人"在做什么。没有领导者，没有投票，没有公告，没有任何形式的协调者。

一个智能体的整个大脑只占几行代码，值得看一眼，这样你才会相信里面没有隐藏的聪明之处：

class Agent:
    def propose(self):
        # usually repeat whatever's worked lately; sometimes explore at random
        if not self.memory or random() < 0.10:
            return random_name()
        return most_common(self.memory)    # the name that's succeeded most

    def reinforce(self, name):             # after a MATCH
            self.memory.append(name)       # "that worked, remember it"
        def learn(self, other_name):       # after a MISMATCH
            self.memory.append(other_name) # "drift toward what they said"

这就是整个智能体。一段关于近期名字的短记忆，一个重复有效行为的习惯，以及 10% 的随机尝试概率，让它永远不会完全卡住。没有对其他玩家的建模。没有计划。甚至没有意识到"群体"是存在的。

花一秒钟体会一下这里有多么简单。每个智能体几乎可以说是愚蠢的；它记得几个最近的名字，倾向于重复最近奏效的那个，再加上一点随机性，让它有时会探索。整个系统里没有任何宏大的策略。如果你在寻找智能，你在任何个体身上都找不到。接下来发生的一切奇怪之事，都不是来自智能体本身，而是来自成千上万次这样微小交换的累积。

然而，从这个微不足道的"尽量匹配"规则出发，在随机配对之间一遍又一遍地玩下去，群体中发生了了不起的事情。实际上是三件。让我们看着每一件依次出现。

在此之前，先说一句为什么一个关于选名字的游戏很重要。它看起来抽象，但"就一个共享名字达成一致"是任何智能体群体都会实际面对的每一个协调问题的替身：用哪种数据格式、说哪种协议、在必须协作时该采纳几个同样好的惯例中的哪一个。在所有这些问题里，都没有唯一的正确答案；有的只是所有人落在同一个答案上的巨大实用价值。命名游戏是那个问题最纯粹的形式，被剥离到只剩下协调本身。它揭示的关于一致意见如何形成的任何东西，其适用范围都远超名字本身。

2、规则一：整个群体发明了一种共同语言

从最基本的问题开始。如果每个智能体都只是试图匹配它碰巧遇到的任何人，没有人引导，那么整个群体会不会最终安定在一个单一的共享名字上？还是会分裂成一团永久的混乱小团体，各自固守自己的选择？

我用 50 个智能体和 15 个可选名字搭建了这个游戏，让它们随机配对互动成千上万次。开始时，群体是一片分歧的混沌，15 个名字毫无协调；任何一个名字都只有一小撮智能体在使用。我追踪了随着时间推移，使用单一最流行名字的群体比例，并把整个事情跑了 30 次，以确保我看到的不是偶然。

这就是第一条奇怪规则，由群体自己画出来。群体从分歧开始，徘徊一阵子，然后，在一次典型的 S 形激增中，猛地进入共识。到最后，大约 90% 的智能体在使用同一个名字。在我的运行中，有 97% 的群组达成了强一致。每一次都是共享惯例，而没有人负责创造它。

为什么？魔力在于藏在那个微不足道规则里的反馈回路。假设，纯属偶然，某个名字在早期被用得略微多一些。这意味着智能体稍微更可能遇到它，意味着它们稍微更可能用它成功，意味着它们强化它，意味着它们更多使用它，这又让它变得更加普遍。微小的早期领先会滚雪球。富者愈富，直到一个名字吃掉整个群体。没有人决定赢家。赢家是被一致意见本身的动态制造出来的。

值得停下来想想为什么这不是显而易见的。你可能会合理地期待相反的情况：有 15 个名字和 50 个独立思想的智能体，为什么系统不干脆保持永久的僵局，一个每个人固执地用着不同名字的稳定混合体？答案是：不存在稳定的混合体。任何多个名字共存的配置都是不稳定的；一旦一个名字略微领先，反馈回路就会抓住它并跑起来。唯一真正稳定的状态、动态唯一能安歇的地方，就是完全一致。系统不是因为有共识很好才漂向共识；它漂向那里是因为其他任何地方都是斜坡，而共识是谷底。这就是 S 曲线所展示的：沿着山脊长时间缓慢游荡，一旦系统越过边缘，就快速滑入谷底。

那条曲线在激增之前还有一个平坦的伸展段，它是有意义的。在那个早期阶段，群体是真正犹豫不决的；几个名字在相互竞争，没有一个脱颖而出。系统处于蓄势状态。然后对称性破缺，一个名字被选中，滑落开始。如果你从头重放历史，通常会是一个不同的名字获胜。结果是一定的；赢家不是。

这也是人类惯例真正形成的方式：靠道路的哪一边开车、一美元值多少、表示一个东西的两个词中哪一个成为"那个"词。没有人投票。它从无数局部互动中涌现，每个人只是试图与面前的人协调。AI 智能体从零重新发现了它的物理规律。

但如果故事到此为止，那就会整洁而令人安心。下一条规则才是开始变得奇怪的地方。

3、规则二：没有人持有、但每个人都有的偏见

研究人员问了一个微妙的问题，我觉得它真正令人大开眼界。当群体安定在一个获胜名字上时，这个选择公平吗？也就是说，在很多次运行中，每个名字是否大约同样频繁地获胜，就像你从一枚公平硬币那里期待的那样；还是说，群体系统性地偏爱某些名字而不是其他名字，尽管没有任何单个智能体有任何偏好？

为了干净地检验这一点，我首先确认了设置在个体层面是公平的。我检查了一个单独的智能体在没有群体压力的情况下独自会选什么名字：完全平均，没有偏袒，每个名字出现的概率大致相等。没有任何智能体内置偏见。然后我把完整的群体游戏跑了一千次，记录每次哪个名字赢得了整个群体。

看看这两块面板之间的差距。左边，每个单独的智能体都一丝不苟地公平；没有哪个名字被偏爱。右边，群体结果明显失衡：有些名字获胜的次数远超公平份额，其中一个大约 1.4 倍。在群体层面存在着一种偏好，而在其成员层面并不存在。

这就是研究人员所称的集体偏见（collective bias），它是整个领域最重要、最反直觉的发现之一。你可以采访每一个智能体，每一个都会诚实地告诉你它没有最爱。然而群体，作为一个群体，有一个最爱。偏见不在任何人身上。它在所有人之间的互动里，是系统的一种涌现属性，你通过检查部件根本找不到它。

如果不是来自智能体，它来自哪里？来自同一个反馈回路，作用于谁遇见谁的微小偶然。在一个有限的群体里上演一段有限的历史，某个名字会纯凭运气，在更多的小局部口袋里比别的名字更早立足。通常你会预期这些偶然在多次运行后会被冲淡——如果系统是公平的，它们确实会被冲淡。但富者愈富的动态不会冲淡它们；它会锁定它们。一个早期被选中的名字，被正是让它被选中的那个反馈所保护。所以某些名字——通常是那些考虑到智能体探索和记忆的方式而略微更容易落上的名字——最终会在多次独立运行中赢得超过它们份额的次数，不是因为任何人偏爱它们，而是因为动态以在任何单场游戏中都太微妙而看不见的方式倾斜着。这种偏见是真实的、可测量的、可复现的，而且它不属于任何人。它属于这个过程。

集体偏见的结果迫使我们接受那个真正的新想法：偏见可以是互动系统的属性，而不是任何参与者的属性。我们习惯于在个体内部寻找偏见——一个有偏见的模型、一个有偏见的数据集、一个有偏见的人。这是一种没有偏见部件的偏见。它能通过针对每个智能体的完美审计，却仍然塑造群体所做的事情。

而且它变得更加尖锐，因为一种如此微妙的偏见几乎可以用任何东西来操纵。我运行了一个版本，给智能体一个极其微弱的、朝某个特定名字的倾斜——不是规则，只是在它们产生该名字的频率上一点点轻微的推动。然后我问：整个群体的结果会偏移多少？

虚线是你天真地预期的：把智能体朝一个名字推 1%，它就大约多赢 1%。现实是远在它之上的陡峭曲线。朝个体智能体倾向于说的方向推 1%，会变成那个名字 20% 的时间赢下整个群体。10% 的推动会变成 94% 的压倒性胜利。那个创造共识的同一个富者愈富反馈，同时也是一个放大器：它把一个偏好的最微弱耳语，吹成近乎确定的群体范围惯例。

想想这对一个满是互动 AI 智能体的世界意味着什么。一种在任何单个模型中都不可见、小到在逐个测试智能体时都无法捕捉的偏见，可以纯粹通过互动，变成整个群体的主导惯例。群体用一个难以察觉的偏好，制造出一个强烈的偏好。没有人设计这个偏好。没有人通过单独检查智能体就能预见到它。

然后还有第三条规则，它才真正应该改变你对这些系统的看法。

4、规则三：能翻转世界的 25%

假设一个智能体群体已经舒舒服服地安定在一个惯例上。每个人都在用名字 A。它很稳定。现在假设一小群新来者到来，全都固执地坚持名字 B——它们永远不会切换，永不妥协，无论发生什么都总是提出 B。它们是一个坚定的少数派。

那个少数派要多大，才能推翻既有的惯例、把整个群体翻转到 B？

你的直觉大概会说"超过一半"之类的话——你需要多数才能赢得多数。或者也许你认为一小群顽固分子只会被吸收然后被遗忘。让我们测量一下。我取了一个已经安定的群体，引入规模不断增大的坚定少数派，从群体的 5% 到 35%，然后观察群体做了什么。

这是当它从我自己的代码里跑出来时让我起鸡皮疙瘩的那个。在群体的大约四分之一以下，坚定少数派基本上被无视了。在 5%、10%、15%、20% 时，群体守住了阵地；顽固智能体只是边缘群体，旧惯例存活下来。少数派的影响力增长缓慢，并且保持很小。

然后，恰好就在 25%，一切都变了。曲线不是平缓上升；它是跳跃。一个占群体四分之一的坚定少数派，把整个群体翻转到了它的名字上，从稳定的多数惯例级联到近乎完全采纳新来者的选择。跨过阈值，整个系统就突然而彻底地倾覆了。

为什么翻转发生得如此突然，为什么是大约四分之一而不是，比如说，一半？这个直觉值得建立起来。一个坚定智能体拥有普通智能体没有的优势：它从不退让。在每一次互动中，坚定智能体不断推动自己的名字，而普通智能体则到处漂移，有时朝它靠，有时远离。在阈值以下，普通多数派强化自己惯例的速度，快过坚定少数派侵蚀它的速度；多数派的反馈回路赢了，顽固智能体只是系统吸收掉的噪音。但坚定群体的影响力不是直线累加的；它是复利的。它每转化一个普通智能体，就为自己的名字增加一个声音，那个声音又转化更多，再转化更多。存在一个点，少数派的复利压力超过多数派的自我强化，在那一刻，平衡不是平缓地移动；它啪地一声断裂，因为那个曾经稳定旧惯例的同一个反馈，现在为新惯例服务了。系统不是从 A 滑到 B；它像开关一样翻转，因为 A 和 B 都是稳定的，而它们之间的空间不是。

那个具体数字不是我模拟的偶然。25% 的临界点，恰好是 2018 年一项里程碑式人类实验发现的。Damon Centola 及其同事发表在《Science》上的研究，用真实的人玩了命名游戏，并表明一个坚定少数派一旦达到大约 25% 的临界质量——不是 51%，不是"大多数"，而是四分之一——就能推翻既有的社会惯例。我那个从零开始的智能体重现了同样的阈值，2025 年研究中的 LLM 群体也重现了。同一条规则出现在人类身上、出现在简单的模拟智能体身上、也出现在真实的 AI 模型身上。它看起来像是惯例运作的一条定律，而不是任何单一系统的怪癖。

其影响在两个方向上都很尖锐。它意味着一个规模不大、协调一致、意志坚定的智能体群体——或者指挥它们的人——可以左右一个规模大得多的群体的惯例，无论向善还是向恶。它也意味着这些系统有一种隐藏的脆弱性：一个看起来坚如磐石、被四分之三群体采纳的惯例，可能正坐在悬崖边上，离彻底逆转只差一个坚定的四分之一。

4、为什么这一切都不是编程出来的

让我把核心主张说得精确些，因为它很容易被夸大或低估。

没有人写过一条"收敛到一个名字"的规则。没有人写过"偏爱这些名字而不是那些"。没有人写过"如果出现 25% 的少数派就翻转"。任何人唯一指定的，是最微小的局部互动：两个智能体相遇，它们因匹配而获得奖励。三条群体层面的规则——共享惯例、集体偏见、临界点——每一条都从这个局部互动中不请自来地涌现出来。

这是那个深刻的想法，值得直说：群体的行为不是其成员行为的总和。一群人拥有其中任何个体都不具备的属性。水是湿的，但没有单个水分子是湿的；湿是许多分子合在一起的性质。完全一样，"拥有惯例"、"拥有集体偏见"、"在 25% 处可被翻转"，都是群体的属性，在任何单个智能体中都是看不见的。你可以完美理解每一个智能体，却仍然被群体所做的事情打个措手不及，因为你想知道的那些规则不住在智能体里。它们住在互动里。

这就是为什么 2025 年的研究意义超越其趣味性。我们习惯于一次评估一个 AI 模型，测试单个模型的安全性、单个模型的偏见、单个模型的行为。但不久的将来是互动的智能体群体。而这项研究清楚地表明，一个群体可以发展出惯例、偏见和脆弱性，它们在其组成的任何单个模型中完全不存在。测试部件不会告诉你整体会做什么。群体会书写自己的规则。

5、当智能体真实存在时，这可能意味着什么

值得从"池子里选名字"跳跃到实际正在构建的系统，因为那三条规则不再像是新奇事物，而开始像是预言。

想象一个已经到来的近未来：AI 智能体不断相互交易：谈判价格、协调物流、做交易、做审核、调用彼此的工具、来回交接任务。在那个世界里，规则一说这些群体将发展出它们自己的惯例，无论有没有人设计它们：内部风格、默认行为、从智能体反复协调中涌现的非正式协议。其中一些是良性的，甚至是有用的；一个在共享标准上自组织的群体是高效的。但它也意味着系统实际的运作规则，可能是没有工程师写下来、也没有人在追踪的那些。

规则二是应该让公平性研究者担心的那一条。我们花费巨大精力测试单个模型的偏见——这种努力是必要的。但集体偏见的结果表明，即使群体中每一个模型都是干净的，群体也可能是失衡的；而且一个在任何单个智能体中都太微弱而无法检测的偏好，可以被互动放大成一个占主导地位、根深蒂固的惯例。一种通过每一次个体审计的偏见，仍然可能是群体的默认。你永远不会通过一次测试一个智能体来发现它，而这正是我们今天测试它们的方式。

规则三是一把双刃剑，也是最具可操作性的。25% 的临界点意味着一个协调的少数派——由某个行动者部署的一群智能体，全都坚持某个特定惯例——可以在从不持有多数的情况下，左右一个规模大得多的混合群体的行为。这是一个真正的安全和治理问题：它是一个用于俘获的杠杆。但同一个机制也是你修复一个已经扎根的坏惯例的方式：引入一个推动更好规范的坚定少数派，一旦它跨过阈值，整个群体就会跟随。临界点同时是一个漏洞和一个修复工具。它绝不是你可以忽略的东西，因为它远低于你本能地以为需要的多数。

这些都不要求智能体是恶意的，甚至不要求它们复杂。它只要求它们互动并试图协调，而这正是构建它们的全部意义。

6、诚实地讲，这在哪些方面是有限的

我想小心说明我的复现证明了什么、没证明什么，因为诚实是这个系列的意义所在。

我的智能体不是语言模型。它们是微小的基于记忆的玩家；每个记住几个最近的名字，重复奏效的，再加一点随机性。这是刻意的：整个论点就是这些群体层面的规则来自互动结构，而不是来自智能体内部的任何复杂性，所以简单的智能体正是隔离社会动态的正确工具。但这也意味着我的实验演示的是机制，而不是真实 LLM 智能体所做事情的完整丰富性。真实研究使用了真正的大语言模型，并在其中发现了同样的现象；那才是承重的结果。我的复现透明地、从零开始展示了那些现象为什么会、以及如何从这个游戏的骨架中产生。把我的代码想成骨架，把真实研究想成活的有机体。

具体数字取决于设置：多少智能体、多少名字、多少记忆、多少探索。我临界点图表里干净的 25%，是对一个有记录阈值的真实复现，但任何给定系统中的确切数字会随参数漂移；稳健的发现是存在一个远低于多数的尖锐阈值，而不是它总是精确地是 25.00%。而且真实的智能体生态系统会比我的干净设置混乱得多：不同种类的智能体、变化的群体、比从池子里选名字更丰富的交流形式。能迁移的是教训的形状，而不是小数点。

最后，这些智能体创造的"规则"是惯例，不是逻辑或道德的法则。命名游戏展示的是一致意见如何涌现，而不是所达成的一致意见是好、是真、还是安全。这正是集体偏见和临界点结果值得关注的原因：一个群体可以锁定一个没人想要、也很少有人赞同的惯例，仅仅因为动态把它带到了那里。

7、底线

给一群简单的 AI 智能体一样东西——彼此一致的理由——然后让它们独处。你得到的不会是混乱，也不会是个体的整齐镜像。你会得到一个社会，拥有自己涌现的语言、自己隐藏的偏见、自己的临界点，其中没有一样是任何单个智能体被告知去创造的，也没有一样是你通过逐个研究智能体就能预测的。

我亲眼看着它发生在自己从零编写的代码里。五十个简单的智能体，没有领导、没有规则手册，97% 的时候都能就一个共享名字达成一致。一个由个体无偏智能体组成的群体，可靠地偏爱某些名字而不是其他名字，并把 1% 的耳语放大成 20% 的压倒性胜利。一个既定的惯例顶住了顽固少数派的冲击，直到那个少数派达到 25%——然后整个东西一下子翻转，和人类中的情形一模一样。真实的 2025 年研究在真正语言模型的群体中发现了全部三条。规则不在机器里。它们在机器之间的空间里。

当我们朝着一个互动 AI 智能体的世界迈进时，这就是要紧紧抓住的想法。这些系统最重要的行为，可能不属于任何我们能孤立测试的模型。它们将属于群体的奇怪规则——没有人书写，从智能体努力相处这个简单事实中涌现出来。

原文链接: The Strange Rules AI Agents Created Without Human Instructions

汇智网翻译整理，转载请标明出处