Поделюсь с вами актуальными горячими трендами в мире автономных AI агентов: долгосрочное управление знаниями и настройка полнофункциональных безопасных агентских окружений. Это следующий виток эволюции для увеличения автономности AI агентов и делегирования им полноценных задач даже на сложных проектах.

В феврале инженеры OpenAI опубликовали статью про свой внутренний эксперимент по созданию продукта на 100% с помощью Codex. В процессе они столкнулись с рядом сложностей и прошли непростой путь по построению эффективного агентского окружения. Несколько ключевых пунктов:

- окружение должно иметь полноценные инструменты observability и контроля качества;
- знания по проекту должны быть хорошо структурированы и постоянно развиваться;
- архитектурные решения должны быть зафиксированными и контролироваться детерминированно.

В своем интервью на тему использования AI агентов Andrej Karpathy также рассказывает, что эффективное управление знаниями и настройка полноценного агентского окружения занимает больше всего времени при работе с AI агентами. Через пару недель он опубликовал завирусившийся пост в X про использование Obsidian для управления знаниями. На фоне такого огромного интереса к этой теме, Андрей описал идею во всех деталях на GitHub, чтобы каждый смог реализовать ее локально со своим AI агентом.

А на прошлой неделе Anthropic запустили Managed Agents и опубликовали статью про переосмысление архитектуры глубокого агентского цикла. Они явно разделили агентский цикл, агентское окружение, инструменты и контекст сессии. Данное разделение позволило упростить настройку окружения и сделать его более безопасным. Ну и конечно же, Anthropic получил новый способ заработка на агентской инфраструктуре. Управление знаниями они еще не придумали как грамотно прикрутить, но думаю это решится в ближайший месяц.

Для баланса, закончить пост хочу коротким интервью Michael Bolin из OpenAI на тему harness engineering и будущего AI агентов для разработки.