🧠 В AI и ML часть секрета в правильной инфраструктуре 🤫

В мире ML есть множество задач, которые требуют серьезных вычислительных мощностей. Среди них:

✅ Обучение нейросетей
✅ Тестирование языковых моделей (LLM)
✅ Обработка и анализ BigData
✅ Развертывание и вывод моделей в продакшн (inference)
✅ Создание платформ данных и BI-аналитика

Вот вам один интересный и очень конкретный кейс:

💡Запуск более 400 голосовых роботов в облаке.

RobotMIA специализируется на технологиях машинного обучения и разработке голосовых роботов для call-центров. Их роботы одновременно отвечают на тысячи вопросов пользователей по телефону.

Была потребность:
1️⃣ Создать комфортные условия для пользователей при общении с голосовыми роботами.
2️⃣ Научить роботов предоставлять максимально релевантные ответы.

Своей инфры не было, закинули все на Selectel. Требовалось:
🆒 ML-платформа для экспериментов с языковыми моделями.
🆒 Быстрая обработка запросов.
🆒 Серверы с GPU для обучения нейросетей.
🆒 Объектное хранилище для хранения данных (S3).

Получилось сделать:
🔻Среднее время ответа голосового робота — всего 1-2 секунды, даже в пиковые моменты;
🔻Инфраструктура поддерживается в 4 регионах ЦОД;
🔻Более 400 видов роботов с разными сценариями и голосами функционируют на платформе.

Кроме того, компания активно экспериментирует с большими языковыми моделями, используя ML-платформу Selectel для обучения и тестирования. Это позволяет им интегрировать LLM в свои сервисы и улучшать качество ответов.

🎚 В общем, в эру AI не стоит бояться облачных решений и пора решать свои ML-задачи с помощью новых мощных инструментов!