Вот свежая история с чат-ботом "Авито", который решил "помочь" продавцу договориться с покупателем.
Беда только в том, что стороны уже договорились, и чат-бот фактически расстроил готовую сделку.
Случай, конечно, вопиющий. И проблемной является не только реализация, но и сама идея.
Чат-бот ведет переговоры от имени человека без согласия этого человека, без уведомления, просто по собственной инициативе.
При этом очевидно то, что решение сырое, не протестированное должным образом. Из действий чат-бота ясно, что нейросеть не понимает контекста переписки.
Безусловно мы видим пример такой нездоровой, неправильной инициативы, которые руководство компании необходимо пресекать.
Здесь ИИ-решение наносит очевидный вред клиенту, и это явно зашито в нем уже на стадии идеи.
❗️При прослушивании со звуком, без наушников, будьте осторожны, есть нецензурные выражения.