GPT-5 взломали всего за 24 часа: промт-инъекцию для топовой модели OpenAI подобрали исследователи из NeuralTrust.
Использовали джейлбрейк EchoChamber и метод сторителлинга — когда модель последовательно подталкивают к нужному ответу через истории и наводящие вопросы.
В итоге GPT-5 выдала рецепт «Коктейля Молотова». Система безопасности по-прежнему анализирует каждый запрос отдельно и не застрахована от манипуляций контекстом.
Post #5466
1.61K
Forwarded from ЕЖÖВ
