Как добрая нейросеть планировала похищение

Пока Claude запрещает вам генерировать грубые шутки, Пентагон использует его для планирования рейдов.

Wall Street Journal опубликовали расследование, которое ставит жирный крест на главном маркетинговом мифе Кремниевой долины — безопасном искусственном интеллекте.

В официальной «Конституции» Claude черным по белому написано, что цель компании — создать существо, которое будет по-настоящему полезным и по-настоящему добрым.

В реальности Пентагон использовал Claude для планирования январской спецоперации в Венесуэле через контракт с серьёзными людьми из Palantir.

Как вам такая моральная гибкость?

Это идеальный пример корпоративного лицемерия — пока обычный пользователь получает отказ на просьбу сгенерировать эротический рассказ или грубую шутку, военные используют те же алгоритмы для реальных боевых задач и планирования спецопераций.

Видимо, в конституцию Claude внесли секретные поправки.

Так что настоящая безопасность — это когда нейросеть не ругается матом. Даже когда планирует вооруженный захват президента другой страны.