Anthropic тайно предложила Конгрессу США собственный законопроект о безопасности ИИ, — Politico.

Разработчик Claude предлагает ограничить право властей блокировать выпуск передовых ИИ-моделей, допустив такое вмешательство лишь при угрозе гибели более 50 человек или ущербе свыше $1 млрд.

Компания стремится повлиять на правила регулирования передовых ИИ-моделей — в том числе на то, при каких условиях власти смогут блокировать их выпуск и какую роль в этом процессе останется играть законодательству отдельных штатов, сообщает Politico со ссылкой на источники.

Anthropic провела закрытые консультации с американскими законодателями, представив им проект закона, который оказался в распоряжении издания и ранее публично не раскрывался.

Инициатива появилась в момент, когда американские законодатели пытаются определить границы государственного контроля над стремительно развивающимися ИИ-технологиями.

Правительство США сможет добиваться приостановки выпуска или использования передовой ИИ-модели только при наличии предсказуемой и непосредственной угрозы серьёзного ущерба. Критериями станут потенциальный ущерб на сумму более $1 млрд либо гибель или тяжёлые травмы более 50 человек, сказано в документе.

Речь идёт о рисках, связанных с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Предлагаемые положения во многом повторяют подход, закреплённый в законодательстве Калифорнии, включая закон SB 53, принятый в прошлом году.

При этом полномочия государственных органов будут существенно ограничены. Министерство торговли сможет обратиться в федеральный суд округа Колумбия с просьбой приостановить выпуск опасной модели. Однако другим федеральным ведомствам и должностным лицам проект запрещает самостоятельно останавливать её разработку, внедрение или внутреннее использование.

Законопроект предусматривает регулярную независимую оценку разработчиков и их передовых моделей. Проверки должны будут проводить специалисты, зарегистрированные в Министерстве торговли США.

Кроме того, разработчиков обяжут создавать внутренние системы обеспечения безопасности, публиковать отчёты о прозрачности новых передовых моделей, защищать информаторов и уведомлять Министерство торговли о критических инцидентах.

Документ отражает попытку найти баланс между требованиями безопасности и ограничением государственного вмешательства, сказано в материале.