❓ Нужны ли ИИ-ассистенты в ИТ-продукте?

Мы все чаще пользуемся ИИ-ассистентами как в повседневной жизни, так и для рабочих задач. Задаем промпт и получаем анализ текста, емкую информацию о чем-либо, построенный туристический маршрут, необычный рецепт блюда и не только. Кажется, будто использование ИИ-ассистента в задачах ускоряет их решение и делает его успешным, но на самом деле , ИИ-ассистент не везде необходим.

Но мало кто знает, как устроен ИИ-ассистент изнутри. Наш Data Science-инженер Дина рассказала кто такой виртуальный ИИ-ассистент и какие задачи тот может решать. А также, когда стоит использовать другие инструменты машинного обучения (например, компьютерное зрение, градиентный бустинг или обычную линейную регрессию)?

«Мозгом» ИИ-ассистентов является LLM (Large Language Model, большая языковая модель). Такая модель хранит в себе информацию и умеет общаться с пользователем на том языке, на котором она была обучена. Чем больше модель, тем больше информации она в себе может хранить и тем более сложные семантические предложения может строить. Так виртуального ассистента можно представить себе в качестве жесткого диска с удобным интерфейсом поиска.

Чаще всего компании используют такие модели, чтобы сократить нагрузку на колл-центры и техническую поддержку.

Еще LLM может делегировать задачи, например, если вы попросите ее нарисовать картинку, она отдаст этот запрос другой модели, которая рисует картинки. Или перевести текст на другой язык, тогда LLM передаст запрос другой LLM-модели, специализирующейся на переводе текстов. Со стороны может показаться, что все это делает одна модель, но на деле, у такого ИИ-ассистента может быть много помощников.

Таким образом, получается, если вам нужен бот, который по запросу пользователя будет рисовать дизайн табуретки, то вам понадобится как минимум 2 модели: LLM, общающаяся с пользователем, и модель компьютерного зрения, генерирующая дизайны табуреток.

LLM можно дообучить решать дополнительные задачи, как, например, перевод текстов и общение с пользователем, но каждая такая задача требует все более сложной реализации самой LLM и где-то качество такой модели будет страдать, например, качество перевода.

Где ещё можно использовать LLM и где не рекомендуется → в наших карточках