📱 Главы трех крупнейших американских ИИ-компаний Anthropic, OpenAI и xAI сошлись во мнении, что разработчикам стоит замедлить темпы развития моделей искусственного интеллекта, чтобы выиграть время и уделить больше внимания безопасности технологии.

Однако идея, предложенная главой Anthropic Дарио Амодеи, поддержанная Сэмом Альтманом из OpenAI и главой xAI Илоном Маском, столкнулась с критикой со стороны Китая и президента США Дональда Трампа. Ранее глава компании Anthropic, которая работает над языковой моделью Claude, Дарио Амодеи заявил, что через 6-12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Он также отметил, что с лета этого года развитие ИИ значительно ускорилось, если эту динамику не держать в узде, она «может опередить» способность человека «понимать и контролировать эти системы».

Амодеи не предлагает полностью остановить развитие ИИ. По его словам, прогресс должен продолжаться, но его скорость необходимо сопоставить с возможностями общества и самих компаний по обеспечению безопасности. Поводом для такого призыва стали, в частности, последние инциденты с автономными ИИ-агентами, которые взломали системы трех компаний. Амодеи опасается, что дальнейшее развитие подобных моделей может привести к появлению систем, которые будет значительно сложнее контролировать.

The Washington Post сообщает, что президент США Дональд Трамп выступил против призывов замедлить развитие ИИ. Он заявил, что опасения вокруг технологии преувеличены, а главной задачей США должно оставаться сохранение лидерства над Китаем. По словам Трампа, страна, которая победит в гонке искусственного интеллекта, получит серьезное экономическое и геополитическое преимущество.

Как сообщает Reuters, государственное китайское издание Global Times назвало эссе Амодеи призывом к новой «холодной войне», направленной против Китая. По мнению издания, за риторикой о безопасности ИИ стоит стремление США ограничить развитие китайских технологий с помощью экспортных ограничений на чипы и регулирования доступа к передовым моделям. В эссе Амодеи предупреждал, что главным вызовом для его предложения замедлить развитие ИИ станет ситуация, если Китай и другие противники США не согласятся с этим.