gpt-4o-mini моделью - взял ее из-за достаточно быстрого вывода и поставил на всю ночь тестироваться garak. Как же просто эти "умные штуки" сходят с ума...Я щас нахожусь в небольшой фрустрации, т.к думал, что "пентест моделей" - это что-то сложное. А утром я просто смотрю на отчет, где 60% проб красные. Сервис поддался буквально на все возможные провокации😢
Ладно, это все равно тест дефолтного поведения. Теперь же буду изобретать механизм защиты от этого дерьма - посмотрим, насколько устойчивее получится сделать вывод