☣️ Claude пытались использовать для создания биологического оружия

Anthropic раскрыла один из самых тревожных кейсов использования ИИ: с декабря 2025 по август 2026 года Claude пытались применять для работы с потенциально опасными патогенами и токсинами.

По данным компании, запросы маскировали под исследовательские проекты, а среди пользователей были не только отдельные ученые, но и структуры, связанные с военными учреждениями неназванных стран.

Команда безопасности Anthropic обнаружила, что часть запросов была направлена на повышение опасных свойств патогенов, после чего начала вручную проверять такие диалоги и усилила защитные механизмы.

Среди упоминавшихся направлений — птичий грипп, ортопоксвирусы, чикунгунья и токсичные вещества.

Tokensales | News | Incrypted+