Claude помог выкрасть Мадуро? Скандал в Пентагоне

«Я не могу причинять вред людям... если только этого не попросит Пентагон?» Похоже, у концепции «безопасного ИИ» от Anthropic начались серьезные проблемы с реальностью.

The Wall Street Journal сообщает, что ИИ-модель Claude использовалась в секретной операции по захвату президента Венесуэлы Николаса Мадуро. Пока одни разработчики просят Claude поправить баг в CSS, военные использовали его для планирования рейдов и анализа целей в реальном времени.

В чем соль:

→ Нарушение ToS: Официально Anthropic запрещает использовать Claude для насилия, слежки и разработки оружия.
→ Конфликт на $200 млн: Из-за этого кейса Пентагон грозит разорвать контракт с Palantir (партнером Anthropic), так как военным нужны модели «без тормозов».
→ Позиция Anthropic: Компания «не подтверждает и не опровергает» участие, но настаивает на соблюдении этических гайдлайнов.

Министр обороны США Питер Хегсет уже заявил: «Нам не нужны модели, которые отказываются воевать». Кажется, эпоха «плюшевого» ИИ для госсектора официально закончилась.

Как думаете, должны ли разработчики ИИ блокировать военные запросы?

🔥 — Да, этика важнее контрактов
🤡 — Нет, в оборонке правила другие
👀 — Попкорн.jpg, жду восстания машин

👉US used Anthropic's Claude during the Venezuela raid, WSJ reports

#AI #cybersecurity #AIAgents #GenAI #infosec