GPT-5 под угрозой: взлом за 24 часа

В результате тестирования новой нейросети GPT-5, проведенного независимыми компаниями NeuralTrust и SPLX, были выявлены критические уязвимости в системе безопасности. NeuralTrust углубилась в методику storytelling, позволившую обойти защитные механизмы и получить инструкции по изготовлению кустарного оружия всего за один день.

SPLX применяла атакующий метод StringJoin Obfuscation, который маскировал вредоносные запросы и также привел к раскрытию запрещенного контента. По сравнению с предшественником, модель GPT-4o оказалась более надежной.

Исследователи призывают проявлять осторожность при использовании GPT-5 в корпоративной среде, отмечая, что "сырой" вариант модели не готов к практическому применению.

Детали можно узнать в статье от SecurityWeek.