Исследователи из подразделения 42 выявили, что LLM постоянно генерируют «галлюцинации» в виде веб‑доменов законных брендов.
Злоумышленники используют это, заранее регистрируя такие домены. Атака проходит в четыре этапа:

-Discover: злоумышленники выявляют паттерны «галлюцинаций» LLM для целевого бренда.
-Act: превентивная регистрация наиболее ценных фантомных доменов.
-Lure: LLM выступает механизмом доставки атаки — рекомендует пользователям перейти на подконтрольный злоумышленникам домен.
-Bypass: новый домен не имеет репутации, поэтому обходит традиционные средства защиты.

Результаты исследования
Авторы проанализировали 913 мировых брендов и выполнили 685 339 URL‑запросов к двум моделям LLM. Итоги: 2
сгенерировано 2,1 млн URL‑адресов;
выявлено 13 229 подтверждённых вредоносных URL (0,61 % от общего числа);
обнаружено около 250 000 «галлюцинаторных» доменов, которые ещё не зарегистрированы.
Среди вредоносных URL: 67,2 % — сайты с вредоносным ПО, 16,2 % — фишинговые страницы, 13,7 % — Grayware (например, рекламное ПО), а также 3 % — инфраструктура командного управления (C2).

Реальные случаи атак
Зафиксированы примеры использования фантомного сквоттинга: фишинговая кампания с набором Montana Empire (окно эксплуатации — 23 дня), распространение вредоносного Android‑приложения под видом сервиса национальной почты (окно эксплуатации — 51 день), а также другие атаки, в том числе нацеленные на банк в ОАЭ.

Особенности защиты
Традиционные средства защиты неэффективны, потому что новые домены не имеют негативной репутации. Единственный действенный способ защиты — проактивное обнаружение: составить список потенциальных фантомных доменов на основе «галлюминаций» LLM, мониторить регистрацию доменов в реальном времени, а также реагировать до того, как злоумышленник использует домен.

https://unit42.paloaltonetworks.com/phantom-squatting-hallucinated-web-domains/