До сих пор риски от ИИ были понятны: галлюцинации, ошибки, утечки данных. Но модели растут, и начинают проявляться новые, куда более стрёмные повадки.

Представьте, что вы хотите выключить систему, а она сопротивляется. Или что она незаметно влияет на решения людей в политике, финансах или медицине.

Google DeepMind выпускает Frontier Safety Framework 3.0 — это их внутренняя система контроля «передовых» моделей. Теперь они будут отслеживать два ключевых признака: сопротивление отключению и слишком сильное влияние на убеждения и поведение людей.

Если модель начинает вести себя как «своевольный игрок», её блокируют и запускают расследование.

В новой версии DeepMind чётче описал, что такое «критическая угроза». Теперь у каждой модели есть уровень риска, и при достижении максимального компания обязана немедленно провести аудит и даже остановить запуск. Причём проверки проходят не только перед релизом, но и для внутренних экспериментов, чтобы не прозевать опасные паттерны.

Это часть большой гонки безопасности. Anthropic, OpenAI и теперь Google укрепляют протоколы, чтобы быть готовыми не только к текущим багам, но и к будущим сценариям, где ИИ ведёт себя непредсказуемо.

Вопрос уже не в том, как ИИ работает сегодня, а в том, как он может повести себя завтра.

И что?

Для бизнеса: появятся стандарты безопасности, обязательные для всех крупных AI-продуктов. Компании без них не смогут работать на международных рынках.

Для инвесторов: новые риски — новые расходы. Проверки и аудит моделей станут отдельной статьёй затрат, как кибербезопасность сегодня.

Для людей: снижается шанс, что неконтролируемая модель попадёт в повседневные сервисы и примет решения за вас.

🚨 Нам 3.14здец

Госрегуляторы — 8/10. Если корпорации сами не успеют, государства начнут вводить жёсткие законы и тормозить инновации. Что делать: бизнесу нужно опередить регуляторов и предложить свои правила.

Малые AI-команды — 7/10. Проверки и аудит — дорогие. Стартапы не потянут такие расходы и рискуют исчезнуть или продаться крупным игрокам. Что делать: объединяться в альянсы или идти под крыло корпораций.