Обзоры готовых харнессов (обвязок, которые превращают нейросеть в агента) показывают возможности, но прячут механику. Понять, где ломаются автоматизации, быстрее всего через ручную сборку простого агента на LLM без фреймворка
Как устроен агент
Нейросеть получает задачу -> выбирает инструмент -> делает шаг -> оценивает результат и решает, что дальше
Цикл повторяется, пока цель не достигнута или не сработал ограничитель
Из чего собирается
1. Разбор задачи: что сделать, с какими данными, когда считать готовым
2. Инструменты: поиск, чтение файла, отправка письма
3. Ограничители: лимит шагов и расходов, подтверждение перед необратимыми действиями
4. Журнал: запись каждого шага, чтобы найти, где и почему всё пошло не так
Где всё ломается
— Ответ не по форме: модель пишет свободный текст, а коду нужен строгий формат. Решение — задать шаблон ответа и проверять его до использования
— Выдуманный инструмент: агент вызывает несуществующую функцию или передаёт неверные данные. Процесс не должен падать, текст ошибки возвращается модели, и следующий шаг обычно уже правильный
— Зацикливание: агент повторяет один шаг, пока не сожжёт бюджет. Спасают жёсткий лимит шагов и отсечка одинаковых повторов
— Раздутый контекст: ответы инструментов раздувают переписку, цена растёт, качество падает. Полный результат хранить отдельно, в диалог отдавать выжимку
— Опасные действия: письмо ушло дважды, запись в CRM задвоилась. Инструменты делить на "только чтение" и "с изменениями", на вторые ставить подтверждение
Со временем один цикл делится на узких агентов со своими инструментами, а затем переезжает на сервер и работает без ручного запуска
Главный вывод, ручная сборка окупается пониманием: после неё выбор готового харнесса перестаёт быть лотереей
👍 — попробую на практике!
👨🚒 — возьму готовый
🪐 Вездесущий ИИ | Чат с админом | Консультация