AI Agent
多 Agent 团队到底值不值?50 个全栈应用实测:成本涨 1.8–5.1 倍,只有一种组合显著涨分
"多 Agent 更强"这句话,在这项 50 个全栈应用的基准上只对一种组合成立。Vals AI 把 8 种设置各跑 50 个应用:团队成本 1.8–5.1 倍,唯一统计显著的涨分是 Sol 中等强度团队的 +7.3 分;Opus 得分最高的组合 $122/应用,领先不显著。两个 lead 的编排风格也完全不同。
AI Agent
"多 Agent 更强"这句话,在这项 50 个全栈应用的基准上只对一种组合成立。Vals AI 把 8 种设置各跑 50 个应用:团队成本 1.8–5.1 倍,唯一统计显著的涨分是 Sol 中等强度团队的 +7.3 分;Opus 得分最高的组合 $122/应用,领先不显著。两个 lead 的编排风格也完全不同。
LLM 评测
同一个模型、同一个基准,换一套评测协议或推理预算,分数就可能不一样——这就是评测报告的"不可复现"问题。UK AISI 加入了 EvalEval 的共享基建:用 Every Eval Ever 规范和 Evaluation Cards 公开 5 个基准、6 个前沿模型的验证结果与方法细节。本文完整编译:HLE 随 token 预算变化的曲线、Terminal-Bench 2.0 的跨设置对比,以及参与方式。
AI Agent
一个退款工单,9 次工具调用全部合规,数据库终态却是错的。微软 ThinkingBox 用"终态 + 重复 20 次"重新定义智能体评测:121,680 次有效试验中,近八成失败的模型其实"看起来像成功"。本文完整编译:pass@1 / pass@20 / 20/20 的区别、一致性成本,以及失败特征。