Вчера на форуме «Цифровые решения» прошла дискуссия «ИИ-агенты в телекоме: от чат-бота в поддержке к автономным операциям». В ней принял участие Владимир Лаврентьев, руководитель вертикали «Продукт и внедрение Gen AI» в Just AI.
Зафиксировали главное:
➡️ Где проходит граница автономности? Агенту можно отдать процесс, если ошибки в нем обратимы, а результат можно проконтролировать и оценить. Если операции критические, необратимые и дорого обходятся пользователю и всей системе, человек должен оставаться в цикле.
➡️ Что нельзя отдавать агенту? Без контроля человека не стоит отдавать решения, от которых зависит жизнь человека, работа крупного или потенциально опасного производства, а также большие финансовые операции. А вот простые задачи, например, ответы на вопросы или смена пароля, уже вполне можно автоматизировать.
➡️ Главный урок на практике. Качество решения в Just AI оценивают не только по автоматизации и удовлетворенности пользователей, но и по стоимости. В одном из проектов из двух подходящих моделей выбрали меньшую, т.к. ее можно было запустить на более дешевом железе. Проблема проявилась позже, когда агенту начали добавлять инструменты, а промпт и контекст выросли. Тогда модель перестала следовать инструкциям и выполняла не те действия, хотя ответы по тексту выглядели адекватно. Вывод: методологий, которые работали для классических решений, недостаточно. Важно смотреть на семантику и динамику ответов, а еще на то, как агент принимает решения и решает ли он задачу пользователя.
➡️ Кто отвечает за ошибку агента? Владелец процесса и бизнес-функции, в которую встроен агент. Роль вендора тоже есть, поэтому снижать риски нужно вместе: правильно выбирать процессы и методологии, которые сделают работу агента максимально безопасной.
Отдельно обсудили, чего операторы и вендоры ждут друг от друга. Сошлись на том, что важно глубокое погружение с обеих сторон 🤝
🔵 И немного про будущее! Сколько процессов оператора через три года покроет AI и что вообще считать «покрытием»? Мнение Владимира в видео ниже 🔽