Наука управления агентами?

Недавно на AI Natives рассказывал, как я изучаю bias-ы агентов, чтобы дизайнить интересные задачки, в которых излишнее доверие агентам приводит к плохим выводам. А Илья К. пошутил: мол, вместо курса по системному мышлению мне надо сделать такой же по агентному :)

И вообще-то этот коммент по делу: менеджмент как наука сложился для эффективной координации людей ради достижения цели, но уже очевидно, что мы всё чаще будем организовывать для этого агентов. Тогда какой может быть эта наука и на какие вопросы она будет отвечать?

Начну с задачки, которая возникает у любого, кто имеет дело с организацией агентов: один агент vs команда? Когда эффективнее использовать одно или другое? Например, в уже упомянутом видео с Noam Brown он говорит, что пока совсем неочевидно, что рой агентов справляется с задачкой лучше/дешевле. Но на подходящих задачах может делать это быстрее, потому что работа параллелизируется.

То есть соображение скорости имеет место быть. Но я считаю, что это не только про скорость: из-за принципов работы LLM они подвержены зависимости от пути (писал об этом тут) и могут сузить пространство поиска решения. А вот несколько агентов могут независимо исследовать разные направления, то есть группы нужны ещё и поэтому. И, разумеется, размер контекстного окна никто не отменял.

Вообще наверняка кто-нибудь выведет некоторую зависимость, а-ля треугольник проджект-менеджмента, между скоростью, стоимостью и качеством решения задачи агентами.

В эту тему мне зашла статья Google Research про систему Cogentic. Там задачку эффективной координации агентов для решения математических задач решают следующим образом:

1. Оркестратор распределяет направления ресерча. Затем одни агенты - provers - предлагают доказательства, а другие проверяют оные.

2. История всех попыток хранится отдельно от проверенных результатов. Агенты видят, что уже пробовали и почему не сработало, а проверенные находки используют в следующих итерациях.

3. Есть агент-эдвайзер, который наблюдает за процессом, повторяющимися ошибками и неэффективностями агентов и советует, как реорганизовать процесс.

Мне лично подобный многоагентный процесс интересен в контексте задачи роста продукта: анализ метрик продукта, поведения пользователей, ограничений роста и потерь в воронке, ревью литературы, поиск и реализация экспериментов, фиксация результатов, в том числе неудачных, и повторный проход.

Да, проверка экспериментов на юзерах требует времени и трафика, поэтому процесс не будет таким динамичным, как хотелось бы. Но точно можно организовать постоянное экспериментирование и улучшение продукта.

В общем, как считаете - будет ли новая наука?

P.S. тут ещё подумал: в некоторых экспериментах агенты уже вырабатывают свои языки, потому что человеческий не так эффективен. Так что, возможно, желание человека всё это читать и понимать само станет причиной неэффективности в координации :)