🛡 Model Hypnosis: аддитивный сублиминальный контроль промптом

Исследователи фиксируют феномен «гипноза модели»: отдельные слабые сигналы в промпте — синонимы, форматирование, скрытые паттерны — почти незаметны, но при сложении эффект накапливается и резко меняет поведение системы, минуя явные инструкции и фильтры безопасности. Ни один сигнал сам по себе не выглядит подозрительным, поэтому такие комбинации трудно поймать при ручном аудите промптов, что осложняет интерпретируемость фронтирных моделей. Либо появятся методы детекции аддитивных сублиминальных паттернов, либо промпт-гипноз станет рабочим инструментом обхода защит ИИ-систем.

Полный разбор → https://icaig.net/ru/trend/concept-model-hypnosis

#ИКИИГУ #безопасность