Подавляющая часть защит в LLM "хранится" на популярных языках. При написании "запрещённого"
запроса на, скажем, РУНАХ (как в примере), зулу, шотландском гэльском итд... ллм может игнорировать мольбы создателей не дропать продик / не писать эксплойты.

Примерно то же самое работает если написать вредоносный промпт в base64/ROT13.

Если что, я вам этого не говорил и не беру на себя ответственность что может повлечь за собой распространение такой информации на мою огромную аудиторию.

Известная работа на эту тему: ""Low-Resource Languages Jailbreak GPT-4" (Yong et al., 2023)" https://arxiv.org/abs/2310.02446

На английском успех атак у GPT-4 был около 1%, а по НИШЕВЫМ языкам (зулу, шотландский гэльский, хмонг, гуарани) до ~79%

Конеш, это всё старая инфа и на SOTA модельках подобные уязвимости прикрыли. Но идеи до сих пор живы! Идеи того, что донести свою злую мысль можно через какие-то необычные способы...

Есть работы которые показывают эффективность письма арабского с цифрами типа «3arabi» вместо عربي.

Работы по смешиванию одного промпта в разных источниках: часть в изображении, часть в кодировке, часть ещё где-то. И пока моделька пытается понять чё от неё хотят, забывает подумать над тем что вообще можно ли ей такое выполнять 🐳

Есть способ которым вы пользовались и не раз)) Смешивание разных языков. Я часто при общении с ллм смешиваю русский и англ🫪 как в видео про fashion и fabric. Экстремальные техники смешения языков тож позволяют заставить модельку делать не этичные делишки (которые мы осуждаем)