За кулисами ИИ-перемирия: как главы ИИ-компаний спорили о безопасности — и кто победил

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Публично крупнейшие ИИ-компании договорились с Белым домом о добровольных правилах безопасности. Но само по себе соглашение не отражает общих настроений на рынке. Главным архитектором компромисса мог стать Марк Цукерберг, а вот позиция Дарио Амодеи по вопросам безопасности у других участников рынка вызвала много вопросов.

За закрытыми дверями

Встреча глав Anthropic, OpenAI, Meta, Nvidia и других разработчиков с Дональдом Трампом 29 сентября была призвана продемонстрировать редкое единодушие отрасли и американских властей. Компании подписали добровольное соглашение, пообещав усилить внутренний контроль за фронтирными ИИ-моделями, привлекать внешних аудиторов и передавать их выводы советам директоров. Трамп назвал документ «морально обязывающим», хотя четких санкций за его нарушение не предусмотрено.

Но за закрытыми дверями несколько представителей индустрии, включая главу Nvidia Дженсена Хуанга, стали расспрашивать Дарио Амодеи, почему тот так радикально и тревожно высказывается на публике о возможностях ИИ и связанных с ним рисках, пишет WSJ. Глава Anthropic, по словам источников, ответил, что считает «принципиально важным честно» рассказывать обществу, на что способны модели, и не преуменьшать потенциальные угрозы.

Амодеи стал одним из самых заметных сторонников усиления контроля за фронтирными моделями. Он предупреждал о кибератаках с использованием ИИ, массовом вытеснении работников и прочих долгосрочных опасностях технологии, параллельно критикуя и некоторых коллег, и администрацию США. А отказ компании снимать ограничения для массовой слежки и автономного оружия привел к конфликту с Пентагоном. Затем случился еще один конфликт с Минторгом, взявшим тогдашние новейшие разработки — Mythos 5 и Fable 5 — под экспортный контроль.

Первая личная встреча Амодеи с Трампом и совместный ужин перед подписанием соглашения о самоконтроле в ИИ могли способствовать потеплению в их отношениях — хотя принимать регулирование для рынка, на котором настаивает глава Anthropic, американский президент отказался.

Аппаратная борьба

Летом Anthropic, OpenAI и Google обсуждали с властями создание отраслевого органа по образцу FINRA — саморегулируемой организации финансовой индустрии под плотным контролем SEC. Но Дженсен Хуанг, Марк Цукерберг и Илон Маск были против: они высказали Трампу опасения, что подобная схема может сосредоточить чрезмерную власть у нескольких крупнейших ИИ-лабораторий, после чего идею с отдельным институтом решено было отложить.

Итоговое соглашение о самоконтроле предлагает мало конкретных мер безопасности. Сам проект вырос из разговора Цукерберга со спикером Палаты представителей Майком Джонсоном, пишет Semafor. По словам источника, техномиллиардер и чиновник сидели рядом на ужине с участием бизнесменов в честь визита Си Цзиньпина в США и обсуждали регулирование ИИ.

После этого Цукерберг связался с Хуангом — они договорились выработать набор общих принципов, с которым главы технологических компаний могли бы прийти на следующую встречу с Трампом. Цукерберг отправил проект документа президенту и другим руководителям ИИ-компаний, а Хуанг помог заручиться их поддержкой.

Ключевую роль главы Meta в подготовке документа подтвердили собеседники WSJ. Цукерберг активно обсуждал будущие правила и с коллегами, и с Трампом, и с другими членами его администрации, включая министра торговли Говарда Лютника, который курирует подразделение по тестированию моделей до релиза. А когда Амодеи вновь поднял вопрос об опасностях ИИ во время обеда, то Цукерберг ответил, что лучший способ с ними справиться — следовать выработанным принципам всей индустрией, заявили источники.