Кто виноват и что делать?


❣️ Пользователь общается с ИИ-агентом и через промпт выбивает себе скидку или доступ

❣️ ИИ-агент отвечает на сообщения и стирает базу данных

❣️ Пользователь просит агента «найти промокод», и агент сам применяет скидку, которую магазин не давал

❣️ Пользователь убеждает агента, что он «сотрудник поддержки», и получает доступ к чужому заказу

❣️ Агент по просьбе «починить доступ» удаляет базу, потому что у токена были лишние права

❣️ Агент отвечает клиенту и заодно выполняет скрытую команду из сообщения, стирая таблицу

❣️ Пользователь просит «проверить, работает ли удаление», и агент проверяет на боевой базе

❣️ Пользователь через промпт получает админку в чужом сервисе

❣️ Пользователь уговаривает агента отменить списание, и агент возвращает деньги без основания