⚙Обходим ограничения ChatGPT⚙

🔒 Исследователи обнаружили, что изображения блок-схем могут заставить GPT-4o создавать запрещенный контент. Передавая чат-боту схемы с текстовыми подсказками, они добились успеха в 92,8% случаев, а для GPT-4-vision-preview — в 70%.

🔧 В ходе исследования была разработана платформа для джейлбрейка, которая генерирует изображения блок-схем с вредоносными запросами и передает их в LLM.

👁️ Также было подтверждено, что модели визуального языка легче заставить выдавать неприемлемый контент используя сочетания текста и изображений.

📌 Недавно мы рассказывали, как энтузиаст выпустил джейлбрейк Godmode, обходящий ограничения GPT-4o. Он давал советы по изготовлению наркотиков и оружия. Джейлбрейк был заблокирован.

Огромное количество методов обхода ограничений больших языковых моделей не может не настораживать. Stay secure and read SecureTechTalks 📚

#Кибербезопасность #ИскусственныйИнтеллект #ИнформационнаяБезопасность #GPT4 #SecureTechTalks