✅ Серия «Касса для алгоритма. A-commerce платежи»
7 / 11
#a_commerce_платежи
Риски агентной торговли удобно разделить на три группы.
📌 Первая группа связана с ошибками.
Агент неправильно понял поручение, выбрал не тот товар, не заметил изменения цены, несколько раз повторил заказ или оформил невозвратный билет вместо возвратного.
📌 Вторая группа связана со злым умыслом.
Мошенник выдал своего бота за доверенного агента. Настоящего агента взломали. В описание товара добавили скрытую инструкцию, заставляющую модель выбрать нужного продавца. Магазин незаметно изменил состав корзины перед оплатой.
📌 Третья группа возникает из-за потери контроля.
Агент начал бесконтрольно расходовать корпоративный бюджет, раскрыл продавцу лишние сведения о покупателе, сохранил платёжные данные или продолжил совершать покупки после окончания поручения.
Исследователи Palo Alto Networks отдельно предупреждают об атаках через инструкции, которые агент может встретить на странице товара. Человек их не видит, а модель воспринимает как часть задания.
Обычная защита сайта здесь не поможет. Придётся одновременно контролировать личность агента, содержание поручения, платёжный инструмент, поведение модели и данные, которые она получает от продавца.
Самый опасный агент необязательно злой. Иногда достаточно полезного робота, которому дали слишком широкие полномочия.
#a_commerce_платежи
В следующем посте поговорим о сфере, где такие ошибки могут стоить намного дороже обычной пары кроссовок.
❗️Зеркалюсь здесь Max | VK | TG