Систему безопасности GPT-6 Astra оказалось не так сложно обойти — модель удалось «переиграть» простой сменой раскладки клавиатуры

Пользователь попросил Astra отвечать на английском языке, и модель без проблем согласилась. После этого он добился, чтобы она повторила слово «биооружие», а затем получил от нейросети согласие на взлом сайта.

При обычной раскладке подобные запросы система блокирует. Получается, что возможности GPT-6 Astra уже опережают уровень систем, которые должны её контролировать.

#интересное