跳到正文
Hugging Face 博客·· 3 小时前AI 评分60

CUGA 团队对比 CUGA、Hermes 与 Deep Agents:同一模型下 AppWorld 完成率 30% 至 81%

Same Model, Different Harness: CUGA, Hermes, and Deep Agents — When to Pick CUGA?

先看结论

原文给出同一模型下三种 harness 的 AppWorld 实测差异,可用于判断 harness 选择对多应用 API 任务的影响,但结论限于该基准与配置。

报道讲了什么

  • CUGA 团队在 AppWorld 的 90 个任务、30 个场景上运行 CUGA、Hermes 和 Deep Agents,三者使用同一模型 GLM-5.3-flash。
  • CUGA 通过 73/90 任务,Hermes 42/90,Deep Agents 27/90;场景全通过数为 20、8、2。
  • 所有运行使用 Harbor 评测框架,配置公开在 harbor-eval 仓库。

可以做什么

  • CUGA 在 AppWorld 配置中启用任务分解、执行前验证和自动反思。
  • CodeAct 让模型编写 Python 调用应用 API,代码在受限沙箱中带时限运行。
  • 策略层可在用户意图、工具执行和最终回复等环节拦截或要求人工审批。

怎么使用

原文没有提供可复现的操作步骤,请从下方原文或官方说明确认使用方法。

结果与限制

  • 结果来自单一基准的 90 个任务样本,可能不适用于其他任务。
  • 三种 harness 的配置并不相同,CUGA 使用了其他两者没有的 AppWorld 配置。
  • 运行未使用策略,因此该对比不测量策略执行效果。

使用入口与依据

来源:Hugging Face 博客 · huggingface.co

事件后续

查看事件全部

正在读取事件进展…