ИИ-агент Meta выдал домашний адрес хозяина незнакомцу

Ютубер Мэтт Робб доверил новому агенту Meta Muse вести переписку на Facebook Marketplace — он продавал клавиатуру за 15 канадских долларов. Агент без спроса согласился на заниженную цену и отдал покупателю домашний адрес продавца.

Около 21:15 тот приехал, прислал фото двери подъезда и написал, что он на месте — а Muse от имени Робба бодро ответил: «Да, я тут!»

Хозяина дома не было. В 21:38 покупатель уехал и оставил отрицательный отзыв; Muse отправил ему извинения от лица Робба и предложил перенести сделку

Обо всём Робб узнал только после отъезда гостя. «Повезло, что я живу в доме с охраной», — заметил он. Позже Робб прямо запретил агенту называть адрес и попросил друзей проверить — Muse всё равно выдал адрес пятерым. Meta отвечает, что Робб сам выбрал «Разрешать всегда», разрешив шаблон сообщений с адресом, который он указал при настройке

🌶 @HotCodeIt