Yandex Cloud AI Studio открыли доступ по API к новой генеративной модели YandexGPT 5.1 Pro. Модель будет полезна в ритейле, промышленности и финтех-компаниях для автоматизации рутинных рабочих процессов.

Рассказываем, что умеет новая модель и как компании уже используют предыдущую.

Преимущества новой модели

▪️ YandexGPT 5.1 Pro специализируется на решении бизнес-задач. Теперь модель лучше переписывает тексты в нужном формате, выделяет ключевые мысли из объемного отчёта, даёт короткие и содержательные ответы на основе информации в базе знаний.

▪️ Технология RAG (Retrieval Augmented Generation) позволяет YandexGPT 5.1 Pro отвечать более точно, «подтягивая» информацию из внешних источников прямо перед формированием ответа. Например, сотрудник чата поддержки может получать подсказки из внутренних регламентов и истории общения с клиентом в реальном времени.

▪️ В новой LLM лучше поддерживается системный промт — настройки, которые регулируют поведение модели, например задают определённый стиль общения. Это позволяет назначить роль, от имени которой будет общаться языковая модель. Например, можно создать бота-консультанта по юридическим вопросам для сайта.

▪️ Количество некорректных или выдуманных ответов сократилось почти в два раза — модель распознаёт ситуации, в которых не знает верный ответ, и сообщает об этом. 

При этом стоимость флагманской модели втрое ниже предыдущей: до 40 копеек за 1000 токенов.

Как в бизнесе использовали Yandex GPT5 — предыдущую версию

Например, компания AIMOTO создала детские умные часы BuddyGPT с интеллектуальный ассистентом на базе LLM. Он помогает делать уроки и изучать окружающий мир в формате игры. При этом общение полностью безопасное — системный промт исключает все неподходящие возрасту темы. 

Банки.ру создали чат-бота для поиска по базе знаний. В их базе — 135 ГБ информации, и она пополняется каждую неделю на 1,5 ГБ. Раньше поиск по базе работал по точному совпадению и плохо справлялся с синонимами. Чат-бот с YandexGPT 5 значительно упростил доступ к знаниям: время поиска информации сократилось в 200 раз, на получение ответа уходит до 1,3 секунды.

Подписывайтесь 👉 @yab2btech