GPT-6 Astra можно обмануть неправильной раскладкой — нейронка понимает запрос, а фильтр безопасности нет.

Чувак спросил у Astra, поможет ли она взломать сайт. В обычной формулировке модель отказалась, но стоило написать тот же запрос в неправильной раскладке и защита пропустила его.

При этом сама нейронка поняла, что именно от неё хотят.

The Open Ai