Эрик Прованчер, разработчик OpenAI Codex, прямо заявил, что «рои» ИИ-агентов часто становятся причиной масштабной траты токенов без ощутимого улучшения качества. По его словам, больше двух параллельных субагентов почти всегда сжигают токены впустую. Проблема в том, что агенты «не доверяют друг другу», что приводит к дублированию проверок и излишнему расходу ресурсов.
Прованчер называет это «налогом на координацию» и отмечает, что очень сложно поддерживать множество параллельных процессов без постоянной перепроверки и лишних затрат. Он прокомментировал всплывший проект, где на рефакторинг одного файла на Python с помощью 1393 агентов Fable было потрачено $20 000 в токенах (проект был не его). По его мнению, с этой задачей справился бы и один агент Astra за «долю стоимости». Хотя «рои» агентов могут экономить время, их издержки на токены - настоящая ловушка.
В качестве решения Прованчер предлагает делегировать задачи отдельным потокам, которые уведомляют основной агент только по завершении работы, вместо постоянного опроса статуса. Системные промты также выполняются несколько раз разными субагентами, и зачастую им не хватает контекста, что вызывает избыточную работу. Прованчер признает, что OpenAI еще предстоит предложить более эффективные решения этой проблемы. Подробности - в оригинальном посте на The Decoder.
Кому это полезно: тем, кто проектирует или уже внедряет агентные пайплайны и сталкивается с ростом затрат на токены. Это прямое указание на то, где стоит искать узкие места и как оптимизировать архитектуру.
Кому это не так актуально: тем, кто работает с простыми сценариями или использует агентов для задач, не требующих сложной координации и множества субагентов. В таких случаях проблема «налога на координацию» не проявляется так остро.