Есть хороший кейс Air Canada. Клиент спросил у чат-бота авиакомпании про льготный тариф в связи со смертью родственника.
Бот ответил, что можно купить обычный билет, а потом в течение 90 дней запросить перерасчёт. Проблема была в том, что это оказалось неправдой.
Клиент поверил боту, купил билеты, а когда позже попросил вернуть разницу, авиакомпания отказала.
История дошла до разбирательства в суде, и в итоге Air Canada обязали выплатить клиенту компенсацию с учетом процентов. Суд фактически сказал простую вещь:
если бот находится на вашем сайте и общается с вашими клиентами, то за его ответы отвечаете вы.
Мне кажется, это очень хороший пример того, почему нужно аккуратно отдавать AI прямое общение с клиентами.