📩 Исследователи ОЭСР опубликовали работу по оценке рисков, связанных с обновлениями "универсальных" ИИ-моделей. Отмечается, что в отличие от громких релизов новых версий, менее значимые апдейты часто остаются без внимания пользователей, регуляторов и разработчиков ИИ-приложений. В то же время, такие изменения могут содержать серьезные сдвиги как в поведении, так и в техническом оснащении (бэкенде).
Предметом анализа стали 143 объявления (changelogs) от Anthropic, DeepMind, Meta, Mistral и OpenAI.
Авторы предлагают регуляторам ввести отдельные категории, подразделяющие значимость апдейтов:
- новый функционал или выход на новые платформы должны приводить к комплексной проверке риска;
- улучшения быстродействия и обновления средств разработчика следует проверять по упрощенной схеме или никак;
- апдейты безопасности надо поощрять.

📌 Комментарий экспертов Центра ИИ МГИМО:
ИИ развивается семимильными шагами, и регуляторы типично не успевают за новыми продуктами или рыночными трендами. Все оценки и предложения в данной работе звучат обоснованно, но практически реализуемы только там, где механизмы надзора достаточно развиты (ЕС, Китай).
Пока основным приоритетом государств и корпораций остается победа в "гонке ИИ", предложенный подход к регулярной оценке рисков вряд ли будет поддержан игроками рынка, кроме тех, кто сделал ставку на безопасность как часть бренда, e.g. Anthropic.