AI Overview в Google выдал номер мошенника вместо официального контакта компании

После звонка пользователь обнаружил подозрительные списания.

Клиент искал телефон службы поддержки круизной компании Royal Caribbean и воспользовался функцией «Обзор от ИИ» в поиске Google. В выдаче оказался номер, принадлежащий скамерам.

Связавшись по телефону, человек получил «консультацию» и по просьбе «сотрудников» передал данные кредитной карты. На следующий день с неё начались непонятные списания.

Фальшивые номера злоумышленники заранее размещали на форумах и сайтах с отзывами. Поскольку ИИ при формировании обзора учитывает релевантность, часто повторяющийся номер получил статус официального.

Представители Google признали ошибку и пообещали принять меры, а также работать над улучшениями функции АI Overview.