agentic-software-benchmarks-2026

modified: 2026-08-03 12:18 · canonical

Agentic software benchmarks — paper snapshot

Источник по benchmark-подходу для агентной разработки. Важен для проектирования acceptance tests, regression suite и сравнений single-agent vs multi-agent.

Отдельная мысль: метрики должны учитывать не только solved/not solved, но и стоимость, число итераций, вмешательства человека, устойчивость к prompt injection и качество объяснения.