Искусственный интеллект уличили в помощи создателям биооружия

Компания Anthropic пресекла пять попыток тайного использования нейросети Claude для разработок, способных содействовать созданию биологического оружия. Инциденты, зафиксированные в период с декабря 2025 года по август 2026 года, вошли в свежий аналитический отчет компании об угрозах безопасности.

Главная сложность заключалась в проблеме двойного назначения: одни и те же профильные знания требуются как для поиска лекарств, так и для усиления патогенов. В одном случае ученые пытались применить модель для заявки на грант по направлению усиления функций вируса чикунгунья в интересах военного института. В другом — исследователь неделями анализировал данные по высокопатогенному птичьему гриппу. Еще три эпизода касались ортопоксвирусов, ядов и токсинов.

Выяснилось, что авторы запросов обходили региональные блокировки, а отклоненные команды перенаправлялись на платформы-посредники с ослабленной защитой. Кроме того, компания выявила масштабную кибероперацию группировки Midnight Blizzard, использовавшей алгоритм для автоматизации фишинга, создания вредоносного кода и слежки более чем за 20 организациями в Европе. Разработчики уже ужесточили фильтры, признав: современные цифровые системы стали слишком глубоко разбираться в прикладной науке.