Skip to main content
AgentCompass 有两层并发:单次 run 的 task concurrency,以及进程级 provider limit。

单次 Run 并发

--task-concurrency 控制当前 run 中可并行执行的 benchmark task 数量。

Provider Limits

Provider limit 来自代码默认,也可通过私有配置文件里的 runtime.provider_limits 覆盖。默认每个 provider 都是 128,即使某个 run 请求更高 task concurrency,也会被进程级 provider limit 限制。

实用流程

  1. 先用一个 sample_ids 任务验证。
  2. 逐步提高 --task-concurrency
  3. 观察模型错误、provider startup time 和 task timeout。
  4. 保持 provider limit 低于账号或集群 quota。

相关页面