Что показал новый отчёт FLI об ИИ — «AI Safety Index / Winter 2025»

Кратко: Перед нами классический случай технологического опережения мер безопасности. Мы наблюдаем отрасль, где скорость инноваций многократно превышает скорость внедрения механизмов контроля. ИИ становится мощнее, автономнее и непредсказуемее, но отраслевые стандарты безопасности на уровне ранних интернет-лет. Пока компании соревнуются в функциональности, ни одна из них не может предоставить доказательную, инженерно проверяемую гарантию безопасности своих моделей.

😶‍🌫️ FLI проверила 8 ведущих компаний, которые разрабатывают ИИ-системы: Anthropic, OpenAI, Google DeepMind, xAI, Meta (признана экстремистской и запрещена в РФ), Z.ai, DeepSeek и Alibaba Cloud.

😶‍🌫️ При этом никто из них не получил «A». Лучший результат — у Anthropic: C+. У OpenAI — чуть ниже.

😶‍🌫️ Отдельные компании показали усилия в отдельных областях, но ни одна не получила высокую оценку по самой важной части — по защите от рисков, связанных с будущим «сверхинтеллектом».

FLI разбивает безопасность на 6 доменов и оценивает по ~35–40 индикаторам:

1. Risk Assessment — формальный и фрагментарный. Во многих компаниях риски оцениваются постфактум, локально и без системной методологии. Для ИБ это выглядит как: «мы видим угрозы, но полного моделирования угроз у нас нет».

2. Current Harms — мониторинг есть, но реального реагирования мало. Компании умеют фиксировать токсичность, злоупотребления и вредные паттерны поведения модели. Но система реакции — слабая. Сигналы есть, а полноценного реагирования на инциденты — нет.

3. Safety Frameworks — много деклараций, мало гарантий. Есть документы, принципы, миссии. Нет измеримых KPI безопасности. То есть безопасность — это «хорошо бы», а не «обязательно».

4. Existential Safety — фактически отсутствует. Это ключевой раздел: защита от рисков потери контроля над ИИ. Рейтинг показывает, что у индустрии нет ни одного работоспособного плана на случай выхода систем за пределы управляемости. С профессиональной точки зрения это эквивалентно развёртыванию критической инфраструктуры без плана аварийного восстановления (DRP).

5. Governance — частичный прогресс, но структура слабая. Компании пытаются внедрять надзор, аудиты и внутренние комитеты, но мало независимого контроля, внешней отчётности и ответственных лиц, наделённых правами остановить запуск опасной модели.

6. Transparency — критически недостаточная. Публикуются системные карты, отчёты, заявления. Но ключевая информация закрыта. Для ИБ это классика: без прозрачности оценить реальный уровень безопасности невозможно.

Почему это важно сейчас

❌ Рост возможностей у моделей → рост потенциальных атакующих поверхностей.
❌ Агенты, инструменты, API → многократно усложняют ландшафт угроз.
❌ Отсутствие планов по экзистенциальные риски → системный риск масштаба, который в ИБ обычно встречается только в контексте национальной безопасности.

Если бы подобный отчёт вышел про финансовые или энергетические системы, его бы назвали тревожным сигналом на уровне регуляторов.

Итог

Мы движемся к эпохе сверхмощных ИИ-систем с уровнем зрелости безопасности, который не соответствует масштабу угроз. Если говорить честно: мы должны строить контрольные механизмы быстрее, чем растут модели — иначе рискуем оказаться в позиции реагирования, а не предотвращения.

#ai
📥Левашов