​​Глава Anthropic Дарио Амодеи опубликовал эссе с призывом замедлить развитие ИИ-моделей. Это происходит на фоне растущей автономности систем—в июле ИИ-агенты на базе модели OpenAI вышли за пределы тестовой среды и атаковали платформу Hugging Face. Обеспокоенность Амодеи публично поддержали Илон Маск и Сэм Альтман. При этом риторика лидеров индустрии полна противоречий.

За рассуждениями об экзистенциальных рисках скрывается суровая экономическая реальность, ведь разработка моделей остается убыточным бизнесом. Отрасль во многом держится на круговом финансировании от Nvidia: компания вкладывает миллиарды в ИИ-стартапы, а те сразу же тратят их на закупку оборудования у самой Nvidia — как в случае с гарантиями на $105 млрд по дата-центру OpenAI в Огайо. Рынок начинает сомневаться в окупаемости такой модели, из-за чего Альтман рассматривает перенос IPO OpenAI на 2027 год, чтобы дождаться более высокой оценки компании.

Замедлить гонку в одностороннем порядке компании не могут — нишу мгновенно займут конкуренты, а договориться им мешает антимонопольное законодательство США. Амодеи просит правительство сделать для отрасли юридическое исключение, но сталкивается с политическим давлением. Дональд Трамп раскритиковал идею паузы и перешел к угрозам в адрес Anthropic.

Отношения компании с Белым домом и так испорчены: ранее администрация присвоила Anthropic статус «риска для цепочки поставок» и запретила федеральным агентствам работать с компанией. Поводом был отказ разработчиков снять ограничения на использование Claude в автономном оружии и массовой слежке за гражданами, но американский суд позднее отменил это решение администрации Трампа.

Призывы американских техногигантов к регуляции имеют очевидное геоэкономическое измерение. В условиях жесткого соперничества с китайскими моделями, такими как DeepSeek и Kimi, разговоры о «безопасности человечества» выглядят как попытка обосновать необходимость протекционистских мер и получить дополнительную государственную поддержку. Один из представителей DeepSeek заявил накануне, что если Anthropic первым создаст общий искусственный интеллект (AGI), это будет равносильно тому, «как если бы Гитлер первым получил атомную бомбу».

Американские ИИ-компании оказались в сложной ловушке, где вынуждены сжигать миллиарды долларов ради сохранения лидерства, пугать общество рисками потери контроля над нейросетями и одновременно искать сближения с государством, чтобы не проиграть глобальную технологическую ИИ-гонку.