Разговоров про ИИ много — выхлопа мало. И все уже начинают от этого уставать. Gartner прогнозирует, что более 40% проектов с ИИ-агентами закроются к 2027 году — из-за раздутых ожиданий и банального непонимания, нужен ли там вообще агент.
На днях я наткнулся на статью, где
AI-помощник в каждый дом
Все просто обожают внедрять AI-помощников. Есть человек, он что-то делает, а ему ещё AI помогает. Допустим даже, что человек рад этой помощи. Но делает человек. AI может суммаризовать встречу, подсказать текст письма, поискать в интернете. Но делает человек. Эта схема очень удобная, потому что не растит риски. Человек сам отвечает за свое делание. Ошибся — сам дурак, AI не при делах.
Если AI помогает непрерывно во всём рабочем потоке — это может быть полезно. Но чаще всего делают решение для какой-нибудь микро-пуська-задачи. Вот в той самой статье про помощника страховщика бот решал задачу — поиск информации — и ускорял её на 2,4 секунды. Пусть у страховщика даже сотня таких поисков в день — это плюс 4 минуты. Его лучшие 4 минуты за рабочий день!
Я знаю один успешный кейс связки агента и человека: разработка. Он успешный потому, что человек и агент работают в одном интерфейсе непрерывно. Разработчик не скидывает агенту одну микро-задачу — они пишут код бок о бок, весь день, на каждом этапе. AI видит контекст, понимает, что происходит. Только так работает.
Нужно поднимать ставки
Важно понять. Основная польза агента — не в качестве одного конкретного ответа. Как бы качественно ты ни суммаризовал совещания, эффект будет ограниченным. Настоящая ценность агента — в принятии решений. И чем больше решений агент принимает сам, тем больше операционной нагрузки он снимает с человека.
Это сразу поднимает ставки. Агент начинает отвечать за часть бизнес-процесса. Естественно, он может ошибиться. Но мы и не перепроверяем каждое его действие человеком — мы вводим правила контроля. Всё как с людьми: вы же не проверяете каждое решение сотрудника, но при этом контролируете, как он справляется.
Как контролировать агентов
Самое главное: не пытайтесь оптимизировать сразу все важные бизнес-процессы. Не получится, и вы только расстроитесь. Возьмите один — самый простой, самый понятный — и полностью перестройте его на AI-агентах. Так вы снимете главный риск: откусить больше, чем можете прожевать.
Помимо этого, есть методы локального контроля:
- метрики качества и observability, чтобы наблюдать, что всё ок (см. пост)
- guardrails — проверка ответов другой моделью (см. кейс)
- human-in-the-loop — подключение человека в определённых случаях (см. статью).
- контроль доступов, чтобы агент не лез куда не надо (см. статью)
Взяли один бизнес-процесс, перестроили его, обвешались системами контроля — работает. Выдохнули, пошли делать следующий. Вся инфраструктура при этом полностью переиспользуется.
Резюме
Есть два мира:
Первый — пластмассовый мир AI-пилотов. В нём миллион внедрений, каждое оптимизирует что-то нерискованное, всё красиво отрисовано на слайдах, но никто не может честно сказать, что понимает, зачем это нужно.
Второй — мир риска, пота и реальных денег. В нём мы берём реально важный для компании процесс, перестраиваем его и обвешиваем контролем, чтобы быть уверенными, что всё работает. Вытираем пот, собираем деньги и идём оптимизировать следующий. Шаг за шагом.
Я выбрал второй мир. Предлагаю вам присоединиться ко мне — работы там ещё очень много.