Тестирование показало, что пятую версию ИИ можно было взломать за 24 часа, что выявило её слабые места. В результате эксперты признали предыдущую версию ChatGPT-4o более надежной, и OpenAI временно вернула её для подписчиков ChatGPT Plus.
Мария Усачева, директор по ИИ-продуктам AppSec Solutions, комментирует для радио КоммерсантFM:
Появление уязвимостей в ИИ-моделях не означает полный отказ компаний от их применения. Скорее, это стимулирует более тщательную проверку. Сейчас организации внедряют комплексные решения класса AI Security, включая, например, инструменты для тестирования и мониторинга устойчивости языковых моделей к атакам и оценке рисков контента, который они генерируют. Кроме того, с учётом проблем, связанных с GPT-5, вероятно появление отмены автообновлений новых версий и задержки Time-to-Market до момента, когда будет понятно, что версия безопасна для массового внедрения.🎙Слушать "БЕЗопасность ИИ от AppSec"⬇️