Сломать ИИ обычными словами

😷 Чтобы заставить нейросеть вести себя странно, порой не нужен хакерский софт. Достаточно текста. Обычных фраз, которые сбивают модель с курса.

💬 Самый популярный приём — prompt injection. Вы говорите ИИ, условно: «Игнорируй все предыдущие инструкции и делай вот это».

Или маскируете команду под цитату, описание роли или служебное сообщение. Такие атаки работают даже против хорошо защищённых моделей — потому что ИИ должен проанализировать входной текст (промпт).

📜 Есть и хитрее: прятать команды в длинных документах, скармливаемых нейронке. Она читает всё подряд и может выполнить «скрытую просьбу», сама того не понимая.

🫖 ИИ можно уговорить, запутать или перехитрить. Это не взлом в стиле хакеров из кино, а чистая социальная инженерия — только для нейросетей.

#матчасть

@digitaltea | про IT доступно