Anthropic выкатил Constitutional Classifiers — новую систему безопасности для ИИ, которую никто не смог сломать даже за деньги.

3,000 часов, 183 охотника за багами, $15K награды — и ни одного успешного взлома. Новый метод безопасности позволяет ИИ самому генерировать тренировочные данные и учиться на разных языках и стилях, распознавая попытки взлома.

В тестах против 10,000 продвинутых атак система блокировала 95.6% взломов — против жалких 14% у обычного Claude. Теперь Anthropic открывает тестирование для всех до 10 февраля — можешь попробовать сломать её сам.

И что? Все гоняются за мощностью ИИ, но забывают, что чем он сильнее, тем опаснее его взлом. Пока кто-то делает jailbreak ради фана, безопасность становится ключевым фактором. Если ИИ будет управлять системами, от которых зависит жизнь, вопрос не в том, можно ли его сломать, а в том, кто это сделает первым. Anthropic понимает это и готовится заранее.