… начало в предыдущем сообщении

🧠 Reasoning

Одна из мощнейших возможностей LLM после включения кратно снизила качество отчета и услила дрифт задачи уже на 3-4 итерации. Вот пример, ищу данные по компании “Ит1-Холдинг”:
Модель на 3 итерации размышляет: “Отлично, я получил последние новости по “ИТ-холдинг Т1”, этих данных мне хватит для понимания приоритетов развития на ближайший год. В тексте также упоминается ****ов Антон, который вероятно занимает пост директора по инновациям, поищу его цитаты и выступления за последний год“. Далее идет в гугл, получает лавину информации скрейпит ее и вместо 3-5 стратегических целей одной компании, выдает факты из высказываний совершенного другого человека из совершенно другой компании. Вывод: пойдем разбираться, как нам сделать Планирование и Размышление предсказуемым (и нет, примеры в промпте, zero-learning не помогут)

Помимо этих проблем: нюансы работы с краткросрочной и долгосрочной памятью, стриминг процесса в UI, sandboxing deep research агента и многое другое.

Мне кажется из этого может выйти довольно интересная серия постов. Начнем мы, как видно из заголовка, с препарирования ИИ-агента. Поделюсь тем, что уже знаю, а потом будем копать вместе. Надеюсь вам тоже будет интересно.

Подписывайтесь на MachineHead и делитесь с друзьями.

#анатомияииагентов