LLM хорошо справляется с интеллектуальной рутиной: написать текст, написать код.

Я уже писал: вопрос - в проверке. Или, как говорит Андрей Карпати, - в верификации.

Всё, что подлежит быстрой верификации, работает. Остальное требует человека.

Если вы сделали чат-бота, который отвечает не по теме, значит, вы переложили верификацию на клиента. Клиент раздражается и в лучшем случае эскалирует запрос, в худшем - уходит. Это неприемлемо.

Почему так происходит?

Потому что неверно оценили детерминированность чат-бота. Система пока не может надёжно оценивать верность собственных ответов и проводить их валидацию. Человек может.

Более того, у клиента нет полномочий, которые есть у оператора колл-центра.

Значит, человека необходимо оставить в колл-центре. Всю рутину по диагностике и сбору информации отдать LLM и ИИ-агентам. Взаимодействие с клиентом и принятие решений оставить за оператором.

Это может повысить эффективность и при этом не оттолкнуть клиентов.

Вот такое размышление.