От нашей лаборатории выступил Владимир Солодкин — ведущий исследователь Института ИИ МФТИ.
Тема: «Автоматическое дообучение гардрейлов»
О чём говорили:
• Гардрейлы (модели защиты) — важное дополнение к LLM для бизнеса. Они блокируют попытки извлечь запрещённую, конфиденциальную или некорректную информацию.
• Показали мультиагентное решение, которое в реальном времени анализирует новые способы атак (из научных статей, блогов и интернета) и автоматически дообучает модели защиты.
• Обсудили эволюционную модификацию не только гардрейлов, но и автоматическую генерацию новых типов атак — тоже через мультиагентную систему.
💬 Получили ценную обратную связь и много вопросов. Это подтверждает: безопасность ответов LLM остаётся ключевой задачей для всех сфер, где используют большие языковые модели.
🔬Кроме вопросов безопасности в нашей лаборатории продолжаются исследования различных аспектов использования и обучения LLM.
Презентация Владимира — в комментариях ⤵️