ИИ к бою. Пентагон поставил создателям Claude ультиматум из-за антивоенных ограничений

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Пентагон выдвинул Anthropic беспрецедентный ультиматум: либо компания дает военным право использовать Claude без ограничений, либо теряет многомиллионный контракт и статус господрядчика в перспективе. Исход конфликта определит, кто будет устанавливать границы применения ИИ — его создатели или государство.

Что происходит

Глава Пентагона Пит Хегсет во вторник вызвал главу Anthropic Дарио Амодеи «на ковер» и жестко потребовал снять все ограничения на использование модели Claude в военных целях. Дедлайн — вечер пятницы. Если компания не согласится, Пентагон грозит разорвать с ней контракт на $200 млн, признать «риском для цепочки поставок» и все равно заставить работать в своих интересах по Defense Production Act (DPA).

Anthropic подтвердила, что встреча состоялась, и обещала продолжить «добросовестные переговоры», чтобы и дальше помогать властям в сфере нацбезопасности. Но в пределах того, что модели компании могут делать «надежно и ответственно».

В чем суть конфликта

В январе Хегсет выпустил меморандум о новой ИИ-стратегии ведомства, где потребовал включить формулу о «любом законном применении» во все контракты с разработчиками в течение 180 дней. Новые условия дали бы американским военным карт-бланш на использование технологии для массовой слежки и создания летальных автономных вооружений — ИИ-систем, способных самостоятельно отслеживать и уничтожать цели без участия человека.

OpenAI, xAI и Google почти сразу пересмотрели свои договоры. Но их модели работают только в несекретном контуре, чтобы условно «чуть быстрее делать PowerPoint-презентации, а не автономное оружие». Но Claude в засекреченном контуре, как выяснилось, может участвовать в операциях вроде захвата президента Венесуэлы Николаса Мадуро, в связи с чем возникают острые этические вопросы.

Anthropic, судя по всему, готова адаптировать свою политику для армии, но проводит две четкие «красные линии»: никакого массового наблюдения за американцами и никаких «кинетических» операций, поскольку технологии пока недостаточно надежны для таких задач, а законодательство не поспевает за возможностями ИИ. Эксперты подтверждают, что позиция Anthropic во многом совпадает с директивами самого Пентагона.

Чем грозят Anthropic

Хотя $200 млн не критичная сумма для быстрорастущей Anthropic, на кону стоит доступ к оборонному рынку США в целом. Статус «риска для цепочки поставок» означает, что любой подрядчик Пентагона, действующий или потенциальный, должен будет подтвердить, что в его системах больше нет технологий Anthropic.

С другой стороны, применение DPA также позволяет Пентагону использовать решения компании вообще без ее согласия. Правда, и Anthropic могла бы оспорить действия администрации Трампа в суде, поскольку речь идет не о коммерчески доступном продукте, а о специализированном ПО, уже индивидуально адаптированном под чувствительные государственные задачи.

По сути эти две угрозы противоречат друг другу, справедливо замечает NYT: первая отрезает компанию от госзаказов, а вторая, наоборот, заставляет ее работать на государство. Но это и демонстрирует то, как сильно накалилась ситуация и насколько значимой для Пентагона стали технологии Anthropic.

Что дальше

Прямо сейчас Пентагону нечем заменить Claude без серьезных потерь, но попытки предпринимаются. Допуск к секретным системам получил Grok от xAI —но его еще нужно интегрировать в инфраструктуру Palantir и конфиденциальное облако Amazon, а по качеству он уступает Claude. Кроме того, к аналогичному соглашению близка Gemini от Google. Часть техиндустрии считает, что Anthropic рано или поздно тоже сдастся. Сегодня компания объявила, что смягчает политику безопасности и связала это с необходимостью сохранить конкурентоспособность.