"Исследователи обошли блокировку моделей в их регионе и пытались скрыть цель своих исследований, чтобы обойти наши меры предосторожности". "Мы не утверждаем, что они намеревались причинить вред". (с) Anthropic
В опубликованном отчеты компании описаны пять подобных случаев, выявленных с декабря 2025-го по август 2026 года. В одном из них Claude пытались использовать при подготовке заявки на исследование вируса чикунгунья. Проект предполагал поиск мутаций, влияющих на заразность и способность вируса обходить иммунитет. Формально работу вели гражданские ученые, но проводить ее собирались в военном исследовательском институте. В другом случае исследователь несколько недель планировал эксперименты по адаптации птичьего гриппа к млекопитающим и его передаче по воздуху. Еще один пользователь просил Claude намеренно скрывать в отчетах названия изучаемых токсинов и вирусных белков.
Здесь важно не перейти от фактов к Голливуду.
Claude не "создал биологическое оружие". Anthropic не доказала преступный умысел исследователей. Такие технологии двойного назначения действительно могут использоваться и для создания вакцин, лекарств и систем раннего обнаружения новых инфекций.
Более того, в описанных случаях старые версии Claude в основном помогали с анализом данных, планированием исследований, поиском литературы и подготовкой документов. Сама Anthropic оценила прирост возможностей ученых как ограниченный. Но это не делает новость менее важной.
Раньше сложное биологическое исследование требовало большой команды, долгого поиска литературы и доступа к узким специалистам. AI постепенно сжимает все это до одного интерактивного помощника, который способен собрать знания, предложить план эксперимента, проанализировать результаты и подготовить следующий шаг.
Сегодня это помощник. Через несколько поколений моделей это может быть уже полноценный AI-исследователь.
Что из этого следует?
▪️ Доступ к наиболее мощным моделям для биологов начнут выдавать только после проверки личности, организации и исследовательского проекта.
▪️ Правительства потребуют от AI-компаний сохранять историю опасных запросов и передавать ее спецслужбам. Облачная нейросеть окончательно перестает быть "личным блокнотом".
▪️ Часть исследователей уйдет в локальные и открытые модели, где нет центрального провайдера, способного заблокировать аккаунт. И это будет самой сложной частью проблемы.
▪️ Быстро вырастет рынок AI-биобезопасности: систем контроля доступа, мониторинга запросов, защищенных научных облаков и автоматического обнаружения опасных исследований.
Самое интересное здесь даже не биологическое оружие. AI-компании получают возможность увидеть замысел раньше, чем он превратится в реальный продукт или эксперимент. Фактически крупнейшие разработчики нейросетей постепенно превращаются еще и в глобальные частные разведывательные центры.
Для бизнеса вывод простой: любые данные, загружаемые в облачную модель, надо считать потенциально доступными провайдеру и регулятору. Закрытые исследования, код, технологии и коммерческие секреты нельзя бездумно отдавать публичному AI.
И еще один момент: Anthropic обнаружила пять подобных случаев всего за восемь месяцев. Это только одна компания и только то, что она смогла заметить.
AI одновременно снижает стоимость создания новых лекарств и стоимость создания новых угроз. Технология одна. Разница остается только в целях человека, который ею управляет.
@gpt1n - нейроадаптированный анализ событий | от профи для профи