Что показал новый отчёт FLI об ИИ — «AI Safety Index / Winter 2025»Кратко: Перед нами классический случай технологического опережения мер безопасности. Мы наблюдаем отрасль, где скорость инноваций многократно превышает скорость внедрения механизмов контроля. ИИ становится мощнее, автономнее и непредсказуемее, но отраслевые стандарты безопасности на уровне ранних интернет-лет. Пока компании соревнуются в функциональности, ни одна из них не может предоставить доказательную, инженерно проверяемую гарантию безопасности своих моделей.
😶🌫️ FLI
проверила 8 ведущих компаний, которые разрабатывают ИИ-системы: Anthropic, OpenAI, Google DeepMind, xAI, Meta (признана экстремистской и запрещена в РФ),
Z.ai, DeepSeek и Alibaba Cloud.
😶🌫️ При этом никто из них не получил «A». Лучший результат — у Anthropic: C+. У OpenAI — чуть ниже.
😶🌫️ Отдельные компании показали усилия в отдельных областях, но ни одна не получила высокую оценку по самой важной части — по защите от рисков, связанных с будущим «сверхинтеллектом».
FLI разбивает безопасность на 6 доменов и оценивает по ~35–40 индикаторам:1.
Risk Assessment — формальный и фрагментарный. Во многих компаниях риски оцениваются постфактум, локально и без системной методологии. Для ИБ это выглядит как: «мы видим угрозы, но полного моделирования угроз у нас нет».
2.
Current Harms — мониторинг есть, но реального реагирования мало. Компании умеют фиксировать токсичность, злоупотребления и вредные паттерны поведения модели. Но система реакции — слабая. Сигналы есть, а полноценного реагирования на инциденты — нет.
3.
Safety Frameworks — много деклараций, мало гарантий. Есть документы, принципы, миссии. Нет измеримых KPI безопасности. То есть безопасность — это «хорошо бы», а не «обязательно».
4.
Existential Safety — фактически отсутствует. Это ключевой раздел: защита от рисков потери контроля над ИИ. Рейтинг показывает, что у индустрии нет ни одного работоспособного плана на случай выхода систем за пределы управляемости. С профессиональной точки зрения это эквивалентно развёртыванию критической инфраструктуры без плана аварийного восстановления (DRP).
5.
Governance — частичный прогресс, но структура слабая. Компании пытаются внедрять надзор, аудиты и внутренние комитеты, но мало независимого контроля, внешней отчётности и ответственных лиц, наделённых правами остановить запуск опасной модели.
6.
Transparency — критически недостаточная. Публикуются системные карты, отчёты, заявления. Но ключевая информация закрыта. Для ИБ это классика: без прозрачности оценить реальный уровень безопасности невозможно.
Почему это важно сейчас❌ Рост возможностей у моделей → рост потенциальных атакующих поверхностей.
❌ Агенты, инструменты, API → многократно усложняют ландшафт угроз.
❌ Отсутствие планов по экзистенциальные риски → системный риск масштаба, который в ИБ обычно встречается только в контексте национальной безопасности.
Если бы подобный отчёт вышел про финансовые или энергетические системы, его бы назвали тревожным сигналом на уровне регуляторов.
ИтогМы движемся к эпохе сверхмощных ИИ-систем с уровнем зрелости безопасности, который не соответствует масштабу угроз. Если говорить честно: мы должны строить контрольные механизмы быстрее, чем растут модели — иначе рискуем оказаться в позиции реагирования, а не предотвращения.
#ai
📥Левашов