Компания Anthropic опубликовала отчёт о пяти реальных эпизодах использования своих моделей в биологических проектах, которые вызвали серьёзные опасения
🟢В одном случае учёный планировал эксперименты с вирусом чикунгунья по повышению его вредоносности — работа должна была вестись в военном исследовательском институте (название и страна не раскрыты)
🟢В другом — исследователь обменивался с Claude тысячами сообщений по проекту с птичьим гриппом, изучая адаптацию вируса к млекопитающим
🟢Третий случай — подготовка грантовой заявки для лаборатории с ортопоксвирусами (оспа)
🟢Четвёртый — создание атласа пептидных токсинов и ИИ-системы для генерации новых молекул, способных вызывать паралич
🟢Пятый — оптимизация бактериальных токсинов и белков вируса геморрагической лихорадки, причём исследователь специально просил Claude не раскрывать названия и оставлять описания расплывчатыми
Anthropic заблокировала все связанные аккаунты. Проблема двойного назначения: с одной стороны — медицина, с другой — обход защитных систем. 4ch