跳到正文
原文
The Decoder· Matthias Bastian·· 4 天前AI 评分62

Vals AI 基准测试显示多智能体团队成本增加 1.8 至 5.1 倍,质量几乎无提升

AI agent teams waste massive tokens for barely measurable quality gains, research finds

AI 导读

评测公司 Vals AI 在 Vibe Code Bench 上对 GPT-6 Sol 和 Claude Opus 5.5 进行单智能体与团队对比测试,团队成本高出 1.8 至 5.1 倍,四组对比中仅 GPT-6 Sol 中等推理设置下的团队显著高出 7.3 分,最大推理下团队对两款模型均无实质优势。

正文 · AI 翻译

跳转到内容

Matthias Bastian

2026 年 10 月 11 日

Image description

研究发现,AI 智能体团队的成果几乎不优于单个智能体。

评估公司 Vals AI 在 "Vibe Code Bench" 上测试了 GPT-6 Sol 和 Claude Opus 5.5,包括单兵作战和团队协作两种模式,并设置了两种推理级别:中等推理投入和最大推理投入。团队的成本比单个智能体高出 1.8 倍到 5.1 倍。

在团队与单兵智能体的四项对比中,只有一项显示出统计学上的显著提升:在中等推理设置下的 GPT-6 Sol,团队得分高出 7.3 分。在最大推理设置下,团队模式既没有给 Sol 也没有给 Opus 5.5 带来任何真正的优势。结果表明,在大多数情况下,智能体团队的额外成本并不划算,尤其是当模型已经在满算力下运行时。

Vals AI 的基准测试展示了 Vibe Code Bench 上的每个应用成本与得分。箭头从每个模型的单兵智能体指向同等推理投入下的团队。团队的成本要高得多,但得分几乎没有提升。| 图片来源:Vals AI[

Anthropic 在使用 Opus 5.5 进行的两项内部测试中发现,随着智能体数量增加,质量提升在逐渐缩小。更大的团队可以更快达到既定性能水平,但在 24 小时后,从 10 个增加到 100 个智能体只会让得分略微上升。在另外的 ProgramBench 测试中,速度的提升伴随着更高的 token 消耗。

使用 Opus 5.5 的任务 1 个智能体 10 个智能体 30 个智能体 100 个智能体
知识库 0.53 0.70 0.71 0.74
Lean 定理证明 0.39 0.66 0.66 0.68

Fable 5.1 在超过 10 个智能体的 Lean 定理证明任务中展现出更强的质量提升,但在所有测试中的得分仍低于 Opus 5.5。在知识库任务中,当规模从 30 个扩展到 100 个智能体时,Fable 的得分实际上略有下降。

更多的智能体买到的是速度,而不是更好的产出

OpenAI 研究员 Noam Brown 在 Dwarkesh Podcast 中证实,多智能体系统主要买到的是速度,而不是更好的质量。四个智能体完成任务的速度快了一倍,但成本也高了一倍。到了 16 个智能体时,这一规律依然成立,但效率略微下降。

这种效应在很大程度上取决于任务本身。他说,网络搜索和数学计算可以很好地并行化,但写小说不行。用 10,000 个智能体去写一部小说,就像用 10,000 个人去写一样毫无意义。Brown 承认,扩展到极大规模的智能体数量在很大程度上仍是未知领域,因为成本实在太高了。

OpenAI 开发者 Eric Provencher 最近正是出于这个原因警告不要使用智能体集群。他认为这极有可能是在浪费钱,因为智能体之间的协作会崩溃。他将其称为协作税。

没有炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER,即可享受无广告阅读、每周 AI 时事通讯、每年六期的独家 "AI Radar" 前沿报告、完整档案访问权限,以及我们的评论区使用权。

立即订阅

  • 访问 THE DECODER 上的每一篇文章的完整权限
  • 无广告
  • 参与评论和社区讨论
  • 每周通过邮件接收 AI 新闻回顾
  • 每年 6 期:"AI Radar"——深入探讨最重要的 AI 话题
  • 每日 AI 新闻,始终保持更新
  • 我们完整的十年档案
  • 由在 AI 领域拥有 10 多年经验的团队打造

来源:The Decoder · the-decoder.com