Привет всем! 👋

Безопасность GPT-6 Astra взломали самым простым способом: модель понимает текст в неправильной раскладке, а защитные фильтры — нет.

Исследователю удалось заставить Astra повторить заблокированное слово «биооружие» и дать согласие помочь со взломом сайта (при обычной раскладке запрос блокируется).

Уязвимость не работает со всеми языками: срабатывает для английского и кириллицы, но не для турецкой раскладки.

Аналогичное поведение замечено у Fable 5.

#офтоп