Пентагон исключил Claude из своей цепочки поставок из-за угрозы национальной безопасности. Поводом стал отказ компании-разработчика разрешить модели следить за людьми и поражать цели без участия человека

Апелляционный суд федерального округа Колумбия отклонил жалобу Anthropic на решение Пентагона исключить её модель Claude из ведомственных систем и закупок. Решение принято двумя голосами против одного.

Спор возник из-за условий использования Claude военными. Пентагон требовал разрешить любое законное применение модели. Anthropic отказалась убрать два ограничения из договора: на массовую слежку за людьми внутри США и на полностью автономное оружие, которое выбирает и поражает цели без участия человека.

Генеральный директор компании Дарио Амодеи заявил об этой позиции в феврале, после чего министр войны Пит Хегсет исключил Claude из цепочки поставок ведомства, указав на риск для национальной безопасности. В ответ Anthropic подала в суд.

Судьи встали на сторону военного ведомства, сославшись на прошлые случаи, когда ограничения влияли на ответы Claude государственным пользователям. Согласно материалам дела, ранние коммерческие версии модели отказывались выполнять отдельные задачи в секретных системах, в том числе обобщать оценки угроз, обрабатывать документы с грифом секретности и переводить перехваченные материалы с описанием насилия.

Anthropic во время суда утверждала, что эти случаи были связаны с защитными настройками коммерческих моделей и были устранены после работы её инженеров с государственными заказчиками. Для государственных нужд компания разработала отдельную модель Claude Gov.

Большинство судей приняло это разграничение, но указало, что компания до сих пор сама определяет поведение каждой новой версии Claude до её передачи государству. По мнению большинства, это создаёт риск того, что ограничения в будущих версиях помешают выполнению задач, которые Пентагон считает разрешёнными договором и необходимыми.

Задонатить через бота | Patreon | Предложить новость