Anthropic рассекретила информацию о том, что с декабря 2025-го по август 2026-го пользователи просили Claude делать вирусы заразнее и смертоноснее, обходить иммунитет и быстрее развиваться.
Запросы маскировали под научные исследования, которые потом планировали проводить в военных институтах неназванных стран.
В отчётах фигурируют чикунгунья, птичий грипп, ортопоксвирусы, а также токсины и яды для применения против человека.
Другие применения Claude:
— Claude использовали для разработки управляемой ракеты в Йемене. Команда заменила моделью часть работы инженеров и разрабатывала софт навигации и управления этим оружием. Anthropic заблокировала часть запросов, но… не все. Компания не нашла доказательств готового рабочего устройства, однако утверждает, что там уже провели испытательный запуск управляемой ракеты.
— Компания раскрыла сразу несколько крупных кампаний по дистилляции. Самое безумное, китайская ИИ-модель Kimi выдавала ответы Claude за свои. Anthropic также утверждают, что DeepSeek и Qwen тоже этим грешат.
— Группа из России пыталась собрать автономный рой FPV-дронов-камикадзе. Через Claude писали и тестировали основное ПО роя. Причём система проектировалась так, чтобы самостоятельно выбирать цели, в том числе людей.
— В Китае Claude привлекли к проектированию противоторпедной системы. После каждого черновика Claude ещё и заставляли играть роль враждебного эксперта, чтобы он разносил проект и помогал улучшить следующую версию.
— Anthropic обнаружила пять случаев, когда исследователи использовали Claude для работ по разработке биологического оружия. Среди прочего были поиски мутации, усиливающих передаваемость вируса чикунгуньи, эксперименты по адаптации птичьего гриппа к млекопитающим, работа над уклонением ортопоксвирусов
от иммунитета.
— В одном случае группа из Китая заставила Claude круглосуточно реверсить защитное ПО, искать новые уязвимости и писать эксплойты. Группа целилась примерно в 50 организаций по всему миру
Подписаться🔵Запад — Восток🔴