Белый дом собирает руководителей крупнейших ИИ-компаний — OpenAI, Anthropic, Google и Meta — чтобы обсудить процедуру проверки передовых нейросетей перед их выходом на рынок.

Еще в июне президент США издал указ, о создании секретной системы оценки кибервозможностей ИИ. Поручено это было ни кому-нибудь, а Минобороны и АНБ. Непонятно, что можно сделать за два месяца, но допустим.

Речь идет о способности нейросетей находить скрытые «дыры» в программном обеспечении, писать сложные вирусы, автоматизировать хакерские атаки и создавать убедительный фишинг для взлома систем.

Теперь, если новая модель превышает определенный порог мощности и рисков, разработчик может добровольно передать ее государству на аудит сроком до 30 дней. Критерии оценки, сам порог мощности и механизм проверки полностью засекречены. То есть по какому критерию кто-то будет признан опасным, а кто-то - не очень, знает только АНБ (и мы с вами: самый безопасный тот, кто даст Минобороны бесплатно использовать свой ИИ в военных целях).

Параллельно с этими событиями в США, Европейский союз окончательно перешел к жесткому регулированию индустрии. В Еврокомиссии вступили в силу нормы, позволяющие специальному ведомству AI Office запрашивать у разработчиков документацию, проводить независимые проверки моделей, блокировать их релиз на территории ЕС и выписывать крупные штрафы — до 15 миллиона евро или 3% от мирового годового оборота компании.

Эпоха неконтролируемого развития ИИ завершается, и крупнейшие регуляторы мира переходят к прямому надзору за технологиями. Главный страх правительств заключается в том, что новые модели перешагнут критический рубеж и снизят порог входа для кибератак на инфраструктуру: то, для чего раньше требовалась группа высококлассных хакеров, теперь сможет сделать один человек с помощью нейросети. Именно поэтому в США ключевую роль в оценке ИИ официально получили спецслужбы и военные, желающие протестировать модели до их релиза. При этом между двумя главными рынками наметился четкий разрыв в подходах: если США делают ставку на закрытые консультации и добровольное партнерство с ИИ-гигантами, то Европа выбирает путь строгих формальных требований и серьезных финансовых санкций.

А что в России? А в России мы, видимо, действуем по принципу поспешишь - людей насмешишь. И действительно -зачем спешить? А вдруг лопнет этот пузырь? И мы тогда скажем, что заранее знали, что так будет!

😎 Читайте Про tech и этих
Теперь и в MAX