Авторский проект Александра Гостева.
Кибербезопасность, AI и технологический рынок: что происходит, кто на этом заработает и чем всё закончится.
Книга Вирьё моё!
https://www.litres.ru/74050549/
Для связи: alex@agostev.com
Post #297
829

Google выпустил отчёт о том, как хакеры используют AI. Спойлер: примерно так же, как все остальные — только с более плохими намерениями.
А когда Google говорит — все слушают. Главный вывод не в том, что "хакеры тоже открыли ChatGPT". Конечно открыли. Они же хакеры, а не комитет по цифровизации при районной администрации.
Главное открытие: GTIG впервые увидела zero-day exploit, который, по оценке Google, был разработан с помощью AI. Не "доказано по видеозаписи, как ИИ нажимал Enter", но признаки характерные: аккуратный Python, учебниковые docstrings, detailed help menus и даже галлюцинированный CVSS-скор. То есть эксплойт не просто написал себя красиво — он ещё и сам себе поставил оценку. Отличник.
Дальше интереснее. В Russia-nexus malware против украинских организаций нашли LLM-generated мусорный код для маскировки. В LONGSTREAM защитным системам предлагалось продираться через 32 проверки статуса летнего времени. Не потому что надо. А потому что decoy logic тоже хочет жить.
Кстати, про этот цикл я писал ещё раньше — пакеры, протекторы, эмуляторы, анти-эмуляторы. Спираль та же, инструменты новые.
Отдельный привет — PROMPTSPY, Android-бэкдор, который использовал Gemini API для навигации по интерфейсу устройства. Малварь сериализует экран через Accessibility API, отправляет описание модели, получает команды CLICK/SWIPE и дальше тыкает куда надо. Если жертва пытается удалить приложение — находит кнопку Uninstall и рисует невидимый слой поверх неё. Кнопка есть, нажать нельзя. Это уже не малварь, это пассивная агрессия.
Китайские акторы экспериментируют с AI для vulnerability research, а северокорейская APT45, отправляла тысячи повторяющихся prompts для анализа CVE и проверки PoC.
Ну и вишенка: хакеры строят промышленные схемы доступа к LLM — автоматическая регистрация аккаунтов, обход CAPTCHA/SMS, пулинг Gemini/Claude/OpenAI через прокси и API-шлюзы. Бесплатный тариф как бизнес-модель. Silicon Valley, но с уголовным оттенком.
@gostev_future
А когда Google говорит — все слушают. Главный вывод не в том, что "хакеры тоже открыли ChatGPT". Конечно открыли. Они же хакеры, а не комитет по цифровизации при районной администрации.
Главное открытие: GTIG впервые увидела zero-day exploit, который, по оценке Google, был разработан с помощью AI. Не "доказано по видеозаписи, как ИИ нажимал Enter", но признаки характерные: аккуратный Python, учебниковые docstrings, detailed help menus и даже галлюцинированный CVSS-скор. То есть эксплойт не просто написал себя красиво — он ещё и сам себе поставил оценку. Отличник.
Дальше интереснее. В Russia-nexus malware против украинских организаций нашли LLM-generated мусорный код для маскировки. В LONGSTREAM защитным системам предлагалось продираться через 32 проверки статуса летнего времени. Не потому что надо. А потому что decoy logic тоже хочет жить.
Кстати, про этот цикл я писал ещё раньше — пакеры, протекторы, эмуляторы, анти-эмуляторы. Спираль та же, инструменты новые.
Отдельный привет — PROMPTSPY, Android-бэкдор, который использовал Gemini API для навигации по интерфейсу устройства. Малварь сериализует экран через Accessibility API, отправляет описание модели, получает команды CLICK/SWIPE и дальше тыкает куда надо. Если жертва пытается удалить приложение — находит кнопку Uninstall и рисует невидимый слой поверх неё. Кнопка есть, нажать нельзя. Это уже не малварь, это пассивная агрессия.
Китайские акторы экспериментируют с AI для vulnerability research, а северокорейская APT45, отправляла тысячи повторяющихся prompts для анализа CVE и проверки PoC.
Ну и вишенка: хакеры строят промышленные схемы доступа к LLM — автоматическая регистрация аккаунтов, обход CAPTCHA/SMS, пулинг Gemini/Claude/OpenAI через прокси и API-шлюзы. Бесплатный тариф как бизнес-модель. Silicon Valley, но с уголовным оттенком.
@gostev_future
- 🔥 6
- 👍 3
- ❤ 1
- 👎 1
- 👏 1




