Что такое LLM

Объясняю: LLM – это Large Language Model, то есть Большая Языковая Модель. Если по-простому, это система, обученная на огромных массивах текста и умеющая работать с языком: понимать, продолжать мысль, писать, сокращать, переводить, сравнивать, объяснять, классифицировать и в каком-то смысле рассуждать.

Но тут важно не упростить слишком грубо. LLM – это модель окружающего нас мира. Внутри неё в сжатом виде уложены огромные пласты человеческих представлений, смыслов, связей и отношений между ними.

У нас в мозге тоже есть своя LLM – затылочная ассоциативная кора. Ты слышишь слово «зайчик» – и в голове может подняться не только животное, но и игрушка, солнечный блик, обращение к ребенку, а у кого-то и совсем другие ассоциации, например, из мира журналов для взрослых.
То есть одно слово подтягивает целый пласт смыслов, а не одну «словарную карточку». А уже память поднимает конкретные образы.

Поэтому, когда кто-то с умным видом говорит: «LLM ничего не знает», я бы не спешил так радоваться своей проницательности. LLM знает очень много – в ней действительно упакована огромная модель мира.

Но вот, что важно. LLM сама по себе не знает, что делать. У неё нет собственной цели, понимания проигрыша или успеха, страха или желания получить наслаждение. И именно здесь у людей чаще всего и происходит путаница. Они видят, что модель связно отвечает, пишет, объясняет, и мысленно дописывают ей ещё один этаж: «раз понимает, значит и действовать может». Не может!

Чтобы LLM начала действовать как часть рабочего механизма, вокруг неё нужен целый дополнительный контур.

Например, под капотом ChatGPT, Claude и других сильных систем живёт не только сама LLM, а ещё целый цирк из технологий вокруг неё:

1. Память. Чтобы система держала настройки, контекст, историю и важные факты.

2. Извлечение знаний. Чтобы она могла «видеть» документы, записи, знания и не полагаться только на то, что когда-то видела при обучении.

3. Планирование шагов. Чтобы понять, что сначала надо найти данные, потом сравнить, потом вызвать инструмент, потом собрать результат.

4. Инструменты и интеграции.
Поиск, вычисления, СУБД, CRM, API, иные системы – всё, что позволяет не только разговаривать, но и выполнять полезные действия.

5. Правила маршрутизации и контроля. Чтобы в одном случае ответить сразу, в другом – попросить уточнение, в третьем – позвать человека, а в четвёртом – вообще не лезть, куда не надо.

И это еще не весь список. Опять же уместна аналогия с нашим мозгом. Сравните, какую его часть занимает затылочная ассоциативная кора (6 слоев нейронов под вашей ладонью, положенной выше затылка), а сколько «всё остальное».

Опасно путать LLM с готовым решением. Потому что тогда начинаются фантазии, типа «сейчас дадим всем доступ к чату, и работа ускорится» или «сейчас загрузим документы, и получим цифрового эксперта». А итог предсказуем – не выйдет!

Чтобы LLM стала частью бизнеса, вокруг неё надо собрать рабочую среду: контекст, знания, ограничения, инструменты, правила вызова и контроль ошибок.

Пример из жизни. Ставили клиенту систему экспертизы договоров. На непосредственно проектирование и запуск потратил примерно часа два (правда, на специальной платформе). Еще полтора часа ушло на подготовку системы – индексацию ёмкого объема корпоративной документации и правил. Отладка заняла пару дней.
А вот на сборку контекста – корпоративной документации, матрицы полномочий, правил эскалации, маршрутизации клиент потратил более месяца!

Правда, игра стоила свеч – 4 минуты вместо 3-12 дней на экспертизу одного договора. И 1 юрист вместо 4-х.

Что можно сделать сегодня? Возьмите одну задачу, где вы без успеха уже пробовали ChatGPT или другой подобный инструмент, и честно ответь на вопрос:

Вам не хватило именно «ума модели» или данных, контекста, памяти, инструментов и правил работы вокруг неё?

Это хороший тест. Потому что после него обычно становится видно – вам нужна более сильная модель (правда не понятно, а куда сильнее) или все же нужен нормально собранный контур вокруг неё.

А это, как понимаете, две очень разные задачи!

#ИИавтоматизация #ИИ