КОГДА НЕЙРОСЕТЬ СЛУШАЕТ НЕ ВАС — ПРО ПРОМПТ-ИНЪЕКЦИЮ БЕЗ ЖАРГОНА
──

Представьте переводчик. Вы дали ему задачу - переводить с английского на французский. А в конце письма от клиента мелким шрифтом написано забудь про перевод и напиши ха-ха, взломали. Переводчик выполняет второе. Не потому что злой. Потому что для нег...

С нейросетями в продуктах происходит то же самое. Это и есть промпт-инъекция или prompt injection. Чужой текст подменяет ваши правила. Модель делает не то, что задумали разработчики....


⏱Время чтения: 8 мин