Одна из самых раздражающих проблем современных нейросетей — склонность к галлюцинациям. Мы придумали, как с ней бороться 🤩
Сбер открыл доступ к SIRIN — библиотеке, которая помогает находить ошибки в ответах языковых моделей и ИИ-агентов
Что умеет платформа?
🤖 проверяет, соответствует ли ответ исходным данным
🤖 показывает, в каком фрагменте модель ошиблась
🤖 оценивает, хватает ли ИИ информации для ответа
🤖 позволяет сравнивать и комбинировать разные методы проверки
🤩 Учёные команды Центра практического ИИ Сбера разработали метамодели, которые повышают точность обнаружения ошибок почти на 30%, при этом для их обучения потребовалось всего 250 примеров.
SIRIN уже применяют внутри Сбера — в сервисах для работы с клиентами. Теперь библиотека доступна всем разработчикам ИИ-ассистентов, RAG-систем и агентных решений 🤩
🤖 GitVerse
🤖 GitHub
🤖 Hugging Face
✔️ Подписывайтесь на Sber AI в МАКС