🔥 Anthropic вимкнули Fable 5 і Mythos 5

Пу пу пуууууу
5 годин тому вийшла новина, що уряд США видав директиву: відрубити доступ до Fable 5 і Mythos 5 для всіх хто не є громадянином США.

Навіть для своїх же співробітників-неамериканців. Щоб не порушити закон, Anthropic тупо вимкнули обидві моделі для всіх клієнтів, бо паспорти вони не перевіряють.

Інші моделі (Opus, Sonnet, Haiku) працюють як працювали

Тепер трошки теорії

📍 Що таке jailbreak взагалі

Якщо хто не в темі. У кожної LLM є safeguards - це система обмежень, яка не дає моделі робити шкідливі речі (написати малварь, пояснити як зробити зброю, тощо). Jailbreak - це коли ти спеціально підбираєш промпт так, щоб ці обмеження обійти і витягнути з моделі те, що вона за замовчуванням робити відмовляється

Тут є важлива різниця у двох типах:

✅ Non-universal jailbreak
Працює в одному конкретному кейсі, витягує якийсь шматок інформації за певних умов. Не дає системного обходу

❗️ Universal jailbreak
Один метод, який широко ламає захист моделі і відкриває цілий клас заблокованих можливостей. Оце реальна проблема. І от саме universal jailbreak для Fable поки ніхто не знайшов - ні урядові тестери, ні UK AISI, ні треті сторони, які тестували модель тисячі годин

📍 Що сталося по факту

Уряд натякнув, що з’явився спосіб обійти захист Fable. Anthropic подивились демку цієї техніки і кажуть: вона знаходить кілька вже відомих дрібних вразливостей, будь-яка інша публічна модель знаходить ці ж речі без жодного jailbreak, включно з OpenAI GPT-5.5.

👉 А тепер найсмішніше, що ж там за демка.

Моделі дали почитати конкретну кодову базу і попросили пофіксити software flaws. Все. Тобто рівно те, чим кожен день займаються нормальні розробники🙈

📍 Позиція Anthropic

Закон є закон, доступ забрали, але відкрито не згодні.

Відкликати модель якою користуються сотні мільйонів людей, через вузький non-universal jailbreak - це дивно. Якби такий стандарт застосували до всієї індустрії, він би фактично зупинив будь-який реліз будь-якого frontier-провайдера

Цікаво, де та межа, на якій закон і держава намагаються втручатись в комерційні продукти

Джерело: anthropic.com/news/fable-mythos-access

Youtube | Instagram