В США продолжаются дебаты о регулировании разработки ИИ. Известные сентябрьские посты Джейкоба Коксона об уходе из Anthropic и гибели человечества, поддержанные его руководителем Эваном Хабингером, вызвали бурную волну обсуждений.

Позднее, 29 сентября, в Белый дом были приглашены на ужин руководители технологических компаний: Илон Маск, Дарио Амодей, Сундар Пичаи, Марк Цукерберг и Дженсен Хуанг. В тот же день Трамп подписал указ об использовании термина "Super Intelligence" вместо "Artificial Intelligence" в документах правительственных организаций. Но нам эта встреча интересна прежде всего договорённостями о безопасности.

Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали совместное заявление. Заявление короткое, по сути, все четыре пункта о работе разработчиков моделей для обеспечения безопасности систем:

1. Мониторить возможности и поведение моделей при обучении и эксплуатации, включая биологические, химические и киберриски, предотвращать непредусмотренный доступ к системам.
2. Выделить команду, которая проверяет работу мониторинга и обнаружения и добивается устранения проблем.
3. Привлекать внешних аудиторов для проверки эффективности этих механизмов.
4. Создать независимый комитет, который контролирует исправление выявленных недостатков.
Важно, что это саморегулирование: компании добровольно берут на себя ответственность за внедрение этих мер.

Несмотря на подписание соглашения, попытки Anthropic склонить регулирование к своей версии не останавливаются. На этой неделе компания публикует очередную страшилку исследование о саморепликации малых моделей на IoT-устройствах (Максим Гусев из Яндекса сделал обзор в канале). А вчера Politico пишет, что Anthropic продолжает попытку продвижения через конгресс собственного проекта регулирования frontier-моделей, включая возможность через суд приостановить выпуск опасной модели.