Исследователи нашли схему, при которой мошенники подменяют контакты компаний прямо в ответах ИИ. Человек спрашивает у ChatGPT или Gemini телефон поддержки банка или авиакомпании и получает номер мошенников, поданный как официальный.
Под атакой оказались 374 компании: авиалинии Delta, Lufthansa, United, Emirates, банки Chase, Bank of America, Citi, сервисы Airbnb и TripAdvisor.
Например, по запросу про поддержку Lufthansa ИИ-ответ Google выдавал номер, который контролировали злоумышленники.
👉 Как это работает
1️⃣ Создают контент под ИИ
Мошенники пишут публикации с фейковыми телефонами, почтой и ссылками. Тексты специально составляют так, чтобы ИИ охотнее на них ссылался. Это называется GEO: то же SEO, только для нейросетей.
2️⃣ Маскируют номер
Цифры разбивают пробелами, точками, эмодзи и словами: например, вместо «1» ставят 1️⃣. Спам-фильтры такой номер не распознают, а ИИ прекрасно понимает.
3️⃣ Размножают
Один и тот же текст каждый день автоматически публикуют на сотнях площадок: в соцсетях, в описаниях YouTube, на Medium, на сайтах с PDF-документами, в отзывах. Удалить всё вручную невозможно.
ИИ видит одну и ту же информацию в десятках мест и начинает считать её правдой.
📌 Что ответили Google и OpenAI
Исследователи сообщили о проблеме обеим компаниям.
Google ответил, что дезинформация и фишинг в ИИ-ответах не входят в его программу поиска уязвимостей.
OpenAI закрыл отчёт как невоспроизводимый: им нужно доказанное влияние на пользователей, а не теоретическая атака.
При этом, по данным, на которые ссылаются авторы, 92% пользователей не проверяют ответы ИИ.
В обсуждении на Hacker News люди делятся реальными случаями. Например, пожилому человеку Gemini выдал фейковый номер поддержки Microsoft, и всё закончилось кражей личных данных.
🆘 Как защититься самому
— Никогда не берите из ответа ИИ телефоны, ссылки на оплату и адреса поддержки, только с официального сайта или из приложения компании
— Если ИИ дал номер, сверьте его с официальным сайтом, прежде чем звонить
— Предупредите родителей и старших родственников: они чаще других доверяют «умному помощнику»
💼 Что сделать бизнесу прямо сейчас
1. Спросите ChatGPT, Gemini и Алису, как связаться с вашей компанией и посмотрите, какой номер и сайт они дают.
2. Убедитесь, что ваши актуальные контакты одинаково указаны везде: на сайте, в картах, в справочниках и соцсетях. Чем больше совпадающих официальных упоминаний, тем меньше шансов у подделки
3. Повторяйте такую проверку хотя бы раз в месяц, особенно если к вам часто обращаются в поддержку
ИИ не отличает правду от лжи, поэтому если о вас часто пишут неправду, он её повторит.
А вы проверяли, что ИИ рассказывает о вашей компании?
#ИИ #безопасность #ChatGPT #предпринимателям #GEO
———————————
Кстати, как выстроить работу с ИИ под свои задачи с нуля, разбираем на НейроМаксе
👉 Забрать доступ