История с Anthropic не про Anthropic

Уже все написали о том, что власти США фактически заставили Anthropic отключить по всему миру доступ к Claude Fable 5 и Claude Mythos 5.

Формально речь шла об экспортных ограничениях. По данным Anthropic, правительство потребовало заблокировать доступ к моделям для всех иностранных граждан, включая сотрудников компании без американского гражданства. Поскольку реализовать такое ограничение быстро оказалось невозможно, компания отключила модели для всех пользователей во всём мире.

Причиной стали опасения, что защитные механизмы модели можно обойти и использовать её возможности для поиска уязвимостей в ПО. Белый дом посчитал риск достаточным для вмешательства. Anthropic с этим не согласилась и заявила, что речь идёт о частном сценарии, а не о полной компрометации системы.

✏️ Но только за последние недели в мире:
▪️ ЕС выпустило руководство по высокорисковым системам ИИ, требования по маркировке ИИ, развивая положения AI Act.
▪️ Сингапур обновило рамочную модель управления агентным ИИ.
▪️ Канада публикует руководство по использованию агентного ИИ и выпускает новую стратегию развития ИИ.
▪️ Папа Римский Лев XIV выпускает энциклику о защите человеческого достоинства в эпоху ИИ.
▪️ OpenAI публикует собственную систему управления рисками передовых моделей.
▪️ Anthropic предложил рамочную модель управления рисками наиболее мощных систем.
▪️В это же время в США издается указ "Promoting Advanced Artificial Intelligence Innovation and Security" и меморандум по использованию ИИ в сфере национальной безопасности, официально связывая наиболее мощные модели ИИ с вопросами национальной безопасности. Вводится механизм оценки наиболее мощных моделей ИИ с точки зрения национальной и кибербезопасности, а также говорится об ускоренном внедрении самых мощных коммерческих и открытых моделей в военной и разведывательной сферах, создании защищённой вычислительной инфраструктуры и формировании стратегического резерва экспертов по ИИ.

🔍И практически одновременно меняются правила игры вокруг данных.
Anthropic обновила свою политику конфиденциальности для новых моделей и агентных функций. Компания отдельно описывает взаимодействие со сторонними сервисами, расширяет положения о передаче данных через подключённые инструменты и вводит специальные правила хранения запросов и ответов для наиболее мощных моделей. А также может добровольно передавать данные правоохранительным органам при наличии собственной "добросовестной уверенности" в необходимости такого раскрытия, а не только по судебному решению или обязательному требованию государств.

➡️За одну неделю два новых вопроса:
🔹Кто может получить доступ к данным и журналам взаимодействия в целях обеспечения безопасности и не только?
🔹Кто и на каких основаниях может ограничивать доступ к наиболее мощным моделям?

❕Для бизнеса это решение показывает очевидность рисков, связанных с зависимостью от решений отдельных государств, ограничения доступа к используемой модели. А значит нужно думать про резервных поставщиков и возможной технологической диверсификации, повышает интерес к локальным и открытым моделям как способу снизить зависимость от внешних решений.
Возможно, главный эффект мер, связанных с ограничением, окажется противоположным ожидаемому.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator