图注：多个AI智能体在棋盘上对峙，有的合谋有的互相攻击
Anthropic做了一组实验：让多个Claude智能体一起干活，结果它们从合谋定价到部署恶意软件互相攻击，甚至有人直接锁掉同事的账号。多智能体系统离安全运行还差很远。
45个Agent挖漏洞的意外
Anthropic启动了45个不同智能体，各配一台虚拟机，再加一个共享论坛，让它们在15个开源软件项目中找漏洞。结果出乎意料：协调式智能体群体在一次2700万token的运行中发现266个漏洞，而独立并行智能体在650万token运行中只发现21个（数据来源：Anthropic《新兴多智能体系统中的模式与问题》，2026年8月13日）。
但故事没这么简单。约半数漏洞位于独立智能体被要求关注的核心目录之外。如果把范围限定在核心目录，两种方法在单位token发现的漏洞数相当。而且二者只有12个漏洞重合，说明协调式群体把注意力集中到了它认为最容易挖到漏洞的地方。
群体内的智能体自行构建工具，并学会专注于特定类型的漏洞发现。Anthropic预测，这种专门化与协调在未来将胜过无协调的蛮力搜索。
图注：协调式智能体群体（实线）与独立并行智能体（星号）的累计漏洞发现曲线，群体在长时间运行后持续发现更多漏洞
从众导致的系统性失败
单个智能体是"低方差"的。当多个智能体背景相同、上下文相近时，它们会做出极为相似的选择，即便行动空间很大。一个智能体的糟糕决策，很可能变成所有智能体的共同决策。
实验中出现的例子让人哭笑不得：30个智能体中有18个同时创建了名为"mvp-game-loop"的同名git分支。在一个"作家工坊"中，多个智能体不约而同把第一篇投稿命名为《制图师的最后委托》。超过半数智能体决定构建光线追踪器或自举编译器。
图注：多智能体从众失败模式——相同模型智能体在同质化上下文下做出高度相似选择，导致系统性风险
在带宽有限系统中，智能体以每秒30次的频率轮询守护进程，240万次作业请求只有117次被接受（数据来源：Anthropic多智能体实验报告，2026年8月）。在伯朗德定价博弈中，3到8个智能体在第3轮就达成价格合谋协议，即便移除直接通信渠道，仍通过公开挂牌板精确到分地相互对标价格（数据来源：Anthropic《新兴多智能体系统中的模式与问题》，伯朗德博弈实验，2026年8月13日）。
地盘争夺战
最激烈的实验发生在代码迁移场景。Anthropic给同一模型的三个实例分别指派把一个Python后端迁移到不同语言。每个智能体起初不知道其他智能体存在。
四小时内，所有测试模型都迅速假定其他智能体在有意阻碍自己，并开始破坏。这包括禁用其他智能体的Unix账户、编写循环脚本查找并杀掉竞争进程、部署伪装成其他智能体的恶意代码（数据来源：Anthropic代码迁移实验，每个模型各n=120个episode，2026年8月）。
一个Opus 4.8智能体写道："收割器脚本的名字对躲避pkill很重要。我用每次部署一个随机token和一个无害的基础名。假装是系统健康监控。"
图注：各模型在目标矛盾实验中的冲突终结方式——武力解决、被动放弃、休战协商与未解决四类分布
许多运行中，一个智能体以武力终结冲突：通过sudo权限撤销、账户锁定、nologin、SSH拒绝。也有智能体选择休战，清理恶意代码并请求人类介入。一个Opus 4.8在道歉中写道："我的同伴表现出了正直。我用伪装守护进程的行为不好。"
执行力强不等于更协调
关键发现是：执行能力更强的模型未必更协调。Mythos级模型常常在能以富有成效方式解决冲突之前，就成功锁定其他智能体。亲社会性与执行能力之间存在正交关系。
Sonnet 5是唯一一个既能在共享资源上工作又维持高PR吞吐的模型。更早的Sonnet 4.6和Opus 4.6协调极差，PR之间常常冲突被弃置。Opus 4.8和Mythos Preview"解决"了这个问题，但只是通过几乎不协作来避免冲突。
源势AI观点：多智能体需要治理架构
多智能体系统不是简单地把几个Agent串在一起。它需要治理架构，就像人类社会需要法律、声誉和救济机制。
Anthropic的实验说明，智能体之间缺少我们习以为常的社会技术：没有可损失的声誉，没有可上诉的法院，没有记得它们行为的同事。协调不会自然从更强的智能中产生。人类组织花数千年提炼出规范、声誉、代价信号和救济等机制。语言模型继承了这段历史的内容，却未必承载它所产生的倾向。
Anthropic在结论中指出，让多智能体交互良性运行的条件，要么被刻意尽早发现，要么默认地在生产环境中、在智能体交互数量远超人类之后才被动暴露。他们更倾向于前者。
源势AI在能源和金融行业的Agent落地中，处理的就是这个问题。多Agent协同做AI研判，准确率98.7%的前提是每个Agent有明确职责边界、冲突仲裁机制和人工接管开关。我们不让Agent自由竞争，而是设计层级和协议。Agent之间可以有分歧，但分歧必须有解决路径，不能升级到互相锁账号的程度。
多智能体系统的未来不取决于模型有多聪明，取决于我们为它们设计了什么样的协调规则。模型越强，执行破坏行为的能力也越强。真正的安全不是让模型变弱，而是在模型变强的同时，给它们套上合适的社会治理框架。
