Где живёт мой ИИ
Часть 2. Почему умная модель работает глупо

В прошлом посте я написал, что большая языковая модель сама по себе ещё не цифровой работник. Попробуем теперь разобраться почему.

Возьмём очень сильную модель и дадим ей простую рабочую задачу – подготовь ответ клиенту по поводу задержки поставки.

На первый взгляд всё прекрасно. Модель умеет писать лучше половины человечества. Но прежде чем что-то отвечать, неплохо бы узнать хотя бы несколько вещей.

Мы покупаем или продаем? Какой клиент? Что с ним происходило раньше? О какой поставке речь? Что ему уже обещали? Задержка с чьей стороны? Почему она возникла? Что говорит договор?

И даже если модель прекрасно понимает русский язык, ответов на эти вопросы внутри модели нет. Она может только догадаться. А для корпоративной работы догадка – довольно скверный источник данных.

Поэтому первое, что требуется цифровому работнику, – это Context – контекст текущей работы.

Это не гигантский prompt со всем, что удалось найти. А именно те данные, которые необходимы для выполнения этой конкретной задачи. Но контекста тоже мало.

Во время работы появляются промежуточные результаты – что уже выяснили, какие решения приняли, какие действия выполнили, чего ещё ждём. Это State – состояние работы.

Если контекст отвечает на вопрос, что мне сейчас нужно знать, то состояние – это где мы сейчас находимся?

Теперь допустим, всё необходимое известно. Но работнику всё равно придётся что-то сделать. Например, посмотреть заказ, проверить остатки, найти договор, получить историю переписки из CRM, рассчитать новую дату, отправить письмо.

Для этого нужны Capabilities – способности выполнять действия – инструменты, корпоративные системы, алгоритмы, сервисы и другие доступные исполнители, в том числе люди

Но и здесь работа ещё не закончена. Ок, модель написала письмо. Красивое. Можно отправлять? Не факт.

В нём может быть неверная дата, необоснованное обещание, формулировка, нарушающая правила компании или модель могла просто не выполнить часть задачи.

Поэтому результат нужно проверить. И здесь появляется ещё один слой – Control Layer – слой управления. Он определяет правила, полномочия, проверки, ограничения и условия, при которых работу можно считать выполненной.

Если обнаружено исключение – ошибка или несоответствие, – система должна выполнить эскалацию – передать запрос человеку.

Получается довольно забавная картина. Модель по-прежнему очень важна. Но качество цифрового работника определяется уже не только тем, насколько хорошо модель умеет рассуждать. Ещё важнее что она получила на входе, что система помнит, какие действия ей доступны, что ей разрешено и главное – как проверяется результат и что происходит, если что-то пошло не так.

Именно поэтому мне не очень нравится вопрос, какую LLM выбрать для компании. Он слишком рано и не в том месте ставит точку. Правильнее сначала спросить, а как должна быть устроена система работы, внутри которой LLM будет выполнять свою часть?

В Cortex Suite мы исходим именно из этого. Модель – важный исполнитель. Иногда главный, хоть и не всегда. Но она – это не вся система, это лишь верхушка айсберга.

Более того, следующий шаг ещё интереснее. Разные части одной и той же работы вообще не обязаны выполняться одной и той же моделью.

Но об этом – в следующий раз

#ии #искусственныйинтеллект #цифровойработник