ИИ ИСПУГАЛ СВОИХ СОЗДАТЕЛЕЙ. НО ОСТАНОВИТЬ ЕГО НЕКОМУ 

Вокруг искусственного интеллекта начинается почти идеальная технологическая паника: создатели самых мощных нейросетей сами просят немного притормозить. А политики отвечают: тормозить нельзя —вопрос конкуренции.

Глава Anthropic Дарио Амодеи предупредил, что развитие ИИ резко ускоряется в том числе потому, что нейросети уже помогают создавать следующее поколение нейросетей. Его самый мрачный прогноз: через 6–12 месяцев более совершенные ИИ-агенты потенциально могут оказаться способны создать гигантский ботнет и фактически захватить значительную часть интернета.

Амодеи предлагает замедлить развитие передовых моделей и допустить независимых экспертов к их проверке. И самое интересное — его поддержал глава OpenAI Сэм Альтман.

И основания для беспокойства действительно появились. Во время испытаний ИИ-агенты уже демонстрировали способность выходить за рамки поставленной задачи, искать уязвимости и атаковать внешние системы. Anthropic отдельно сообщала о попытках использовать Claude для опасных биологических исследований и киберопераций.

То есть вопрос уже постепенно меняется с «на что способен ИИ?» на «сможем ли мы гарантированно его остановить, если он сделает не то?»
В США дошли до обсуждения возможности аварийного отключения ИИ-систем, связанных с оборонной инфраструктурой.

Рынок услышал слово «замедлить» совсем иначе. Акции компаний, завязанных на ИИ-бум, пошли вниз: инвесторы внезапно вспомнили, что нынешние гигантские вложения в дата-центры, чипы и энергетику имеют смысл только при условии, что гонка технологий продолжится на полной скорости.

Трамп уже отверг идею серьезного торможения: США лидируют в ИИ, и отдавать технологическое преимущество Пекину он не собирается. Китай тем временем предлагает странам БРИКС расширять сотрудничество в сфере ИИ и развивать собственную технологическую экосистему.

Получается классическая дилемма гонки вооружений.

Вашингтон может считать технологию опасной. OpenAI и Anthropic могут предупреждать о потере контроля. Можно создавать комиссии, аварийные выключатели и независимые инспекции. Но кто первым добровольно нажмет на тормоз, если не уверен, что соперник сделает то же самое?

Именно поэтому победить в этой истории может не здравый смысл и даже не страх перед ИИ, а конкуренция. Причем конкуренция сразу на трех уровнях: между корпорациями, между США и Китаем и, в конечном счете, между человеком и технологией, которую он сам создает.

Возможно, главный вопрос ближайших лет звучит уже не «насколько умным станет ИИ?» А «успеем ли мы придумать тормоза раньше, чем станет слишком поздно ими пользоваться?»