На этой неделе в Национальном центре «Россия» проходит ИТ-форум «Цифровые решения». Мы здесь и делимся новостями!
Глеб Обломский, директор по продуктам Just AI, уже принял участие в дискуссии «ИИ на распутье: как выбор инфраструктуры определит эффективность и выгоду на годы вперед». И вот чем он поделился:
➡️ Внедрение дорожает, даже когда технологии дешевеют. Дело не только в железе и энергии, дорожают компетенции. Нужны инженеры и руководители, которые умеют не просто писать промпты, а строить работающие кейсы и доводить их до прода. Токен подешевел кратно, но бизнес использует рассуждающие модели с контекстом в 500 тысяч — миллион токенов, и чеки растут. С разработкой то же самое: агенты помогают закрывать на 30–40% больше задач, но работы становится больше, ведь IT-системы приходится перерабатывать и интегрировать, чтобы они были готовы к агентам.
➡️ 40-60% задач эффективно и безопасно решаются на облачных моделях. Для работы с чувствительными данными, например RAG-систем и внутренних ассистентов, хватает моделей среднего размера на доступном железе. Большинство компаний в итоге приходит к гибридной архитектуре, где используются облачные модели с защитой от утечек и промпт-инъекций совместно с собственной инфраструктурой.
➡️ Запросов на защиту данных и развертывание в контуре стало заметно больше. Начать стоит с двух вещей. Первая — вывести теневой AI в контролируемое, но не запретительное русло. Вторая — провести ревизию «зоопарка» пилотов: какие модели используются и к каким данным у них есть доступ.
➡️ В каком решении сейчас нельзя ошибиться? Главное — выбор платформы, на которой компания будет строить агентов и AI-кейсы. Именно через нее агенты получат единый доступ к корпоративным данным, RAG-системам и всему разнородному IT-ландшафту. Сменить платформу через год-два будет сложно и дорого, поэтому ошибка здесь будет аукаться годами.
📎А уже завтра Владимир Лаврентьев, руководитель вертикали «Продукт и внедрение Gen AI», примет участие в дискуссии «ИИ-агенты в телекоме: от чат-бота в поддержке к автономным операциям».
📌 16:45, зал Пресс-мероприятий
Приходите послушать! 🔥