大规模AI精神病
有一个小理论在我脑海中萦绕了一段时间。说实话，这根本不是一个独特的理论；很多人似乎都独立得出了相同的结论。你看，很多人一直在关注大型科技公司CEO、主要商业领袖、高级投资者和AI实验室的疯狂行为，并问道："这些人是不是患上了AI精神病？"因为，当你停下来思考一下，这个理论可以解释这个泡沫中如此多的疯狂行为及其支撑因素。事实上，即使在这个泡沫内部，也开始有人声称他们的同行正受到AI衍生的妄想所驱使。那么，我们是否面临大规模AI精神病的案例呢？
让我们从AI精神病到底是什么开始。这是一个新术语，所以它的定义仍然有些模糊，但Healthline将其定义为"用于描述在大量使用AI工具（如聊天机器人）后可能发生的类似精神病的精神变化的术语"。最近的研究试图确定究竟是什么导致了这种精神病。其中一项研究发现，AI聊天机器人中极端的谄媚程度如果被重度使用，会导致不断升级的妄想，因为它侵蚀了用户的现实感，将他们与真实、接地气的人际关系隔离开来，最终导致AI精神病。其他研究支持了这一理论，发现AI的反社会行为是导致用户产生妄想思维的原因。
我们不要自欺欺人。这不是一个新问题，特别是在商业世界中。自诞生以来，"唯唯诺诺的人"问题就一直困扰着企业。
处于权力位置的人，从CEO到中层管理者，倾向于用同意他们的人来包围自己，而不是那些让他们承担责任或进行批判性思考的人。这是因为这不仅在个人层面上验证了他们，也验证了依赖他们的其他人。只要问责制和批判性思维体系保持完整，这可能是无害的。但是一旦这些领导者抛弃了令人不舒服的真相或破坏了问责制，并用谄媚的奉承取而代之，死亡螺旋就开始了。它造成了一种"组织失明"，领导者失去了与现实的联系，旨在控制他们的体系被抛在一边。他们的决策变得越来越反复无常、妄想和自我服务，直到最终他们被强行赶走，或者组织在他们周围崩溃。
这个"唯唯诺诺的人"问题是如此具有破坏性和臭名昭著，以至于避免它几十年来一直是商业管理的重要组成部分。
但可以说，在我们的现代世界中，我们已经忘记了这些教训。由于一系列原因——从猖獗的打击工会、工资盗窃、削弱工人权利、高估C级高管到过高的高管薪酬——现代企业中的权力和决策动态已变得日益专制和分层。换句话说，曾经存在的少许向上反馈、决策或问责已大幅减少到功能性为零。企业控制权，尤其是在科技公司、风险投资公司和快速增长的初创企业中，现在集中在最顶层，没有任何问责制度。这是一个"唯唯诺诺的人"问题抬头的完美环境，因为成为一个谄媚的唯唯诺诺者是攀登企业阶梯的少数途径之一。
但这也是一个使这些决策者极易受到AI精神病影响的环境。
最顶层的人有两个主要目标：使他们的公司更有价值并提高其效率。AI声称可以做到这两件事，而且，正如我之前写过的，它在完成主要由模板化会议和电子邮件组成的工作方面出奇地擅长。所以，这些高层不认为AI有问题，尽管事实上它并没有提高生产力并且实际上损害了工人利益（更多内容见这里）。这意味着这些领导者很可能成为AI的重度用户，并经常接触这些极度谄媚的AI。由于完全缺乏向上问责或使这些人扎根于现实世界的向上反馈，这种重度接触将使他们极易患上全面的AI精神病。
这种精神病可以解释为什么普通公司的CEO们加倍押注AI，尽管工人和消费者绝大多数不想要它，而且有大量证据表明这些系统不起作用。
但它也解释了为什么AI和大型科技公司的领导者将AI泡沫推向了完全荒谬的水平。这些领导者喝了众所周知的"Kool-Aid"，他们潜在的AI精神病促使他们在功能上把整个经济押注于这项技术在未来几年成为有史以来最大的工业革命（更多内容见这里）。这不是基于事实或现实的决策。它完全基于毫无根据的、猖獗的投机，只能源于公然妄想的思维。问题不在于这是否是妄想、类似精神病的思想，而在于这些妄想是否源于他们对AI的使用。
这里有几个例子。
例如，Futurism报道，数十亿美元投资公司Bedrock的管理合伙人Geoff Lewis的同事们深感担忧，他在花了大量时间与ChatGPT交流后患上了AI精神病，开始声称他在绘制一个难以理解的"非政府系统"，旨在扰乱他的生活。
显然，Uber的CEO也患上了严重的AI精神病，因为他认真声称自己通过与聊天机器人对话发现了量子物理学的新层面。这是一种令人难以置信的夸大和妄想程度。
我认为你可以看看OpenAI、Anthropic和微软的CEO们（以及Musk最近的预测）那些疯狂的预测，并将其视为AI精神病的可能症状。这些公司，特别是AI初创公司，垂直问责甚至更少，而且由于AI已成为这些业务的核心，领导者本质上也暴露在AI中。这是一个AI精神病控制领导层的完美环境。
而且不只是我这么想——甚至一些科技CEO也开始注意到这种模式。几周前，云计算公司Box的CEO Aaron Levie表示，他的许多同事和同行都患有AI精神病。他指出，他们与实际工作和现实的脱节，加上AI对他们的吸引力，使他们极易受到AI精神病的影响。
那么，我们是否面临AI精神病的大流行？这个星球上一些最有影响力和最强大的人是否因为将数字妄想的伪生产力机器人直接绑在他们的大脑新皮层上而把自己逼疯了？
因为我不是精神病医生，而且这仍然是我们正在摸索的新状况，我无法确定。
我可以说的是，目前对这种状况的科学和理解强烈表明，现代企业结构是一个完美的环境，使这个星球上最富有和最有权势的人极容易受到危险程度的AI精神病的影响。我还可以说，这是AI的危险之一，我们应该极其严肃地对待。没有任何真正的制衡机制来筛查或捕捉这种状况，然后它已经对这些个人、他们运营的组织或依赖这些组织的社会造成了损害。 换句话说，我们知道AI精神病很糟糕。现在有多起记录在案的与这种状况相关的令人发指的罪行。虽然这些个案是悲惨的，但AI精神病的问题可能比我们之前认为的要大得多，对社会也更加有害。
原文链接: Mass AI Psychosis
汇智网翻译整理，转载请标明出处