💫 Все развивается очень стремительно. То, что ты сначала видишь как прогноз, через несколько дней становится реальностью.

Так что текст ниже это не предсказание — это записки из будущего 🤓

ИИ-инфраструктура как следующий таргет для киберпреступности

Доступ к мощным frontier-моделям стоит денег, да еще и предоставляется не всем — примеры Mythos и GPT Cyber показывают как будет развиваться идея — в спецмодели для спец индустрий.

Это классическая формула для киберпреступников: есть ценный ресурс с барьером доступа → будет атака.

Исторически так происходило с каждым новым дефицитным ресурсом: чужие CPU майнили биткоин, чужие серверы рассылали спам, чужие аккаунты стримили контент. ИИ-вычисления — следующий в очереди. И в отличие от предыдущих волн, здесь ставки интересней: мощные модели могут сами помогать атакующему масштабировать следующие атаки.

Векторы потенциальных атак:

❗️Кража API-ключей и credential stuffing
Самый очевидный вектор. Ключи утекают через открытые GitHub-репозитории, скомпрометированные CI/CD пайплайны, фишинг. Атакующий получает доступ к чужому аккаунту и использует квоту — жертва узнаёт из счёта в конце месяца.

❗️Компрометация self-hosted инфраструктуры
Компании всё активнее разворачивают модели локально — Ollama, vLLM, LM Studio. Открытые порты, дефолтные конфиги, отсутствие аутентификации. Атакующий находит незащищённый эндпойнт через Shodan и получает бесплатный инференс или использует его как анонимный прокси для вредоносных запросов.

❗️Атаки на облачные GPU-пулы
Захват инстансов с A100/H100 через уязвимости в оркестраторах. Цель — не данные, а вычислительная мощность. Дообучение модели на украденных GPU — это тысячи долларов сэкономленных ресурсов.

❗️Supply chain через вендоров
Предположим что периметр AI-компаний защищён лучше, чем их подрядчики. Вектор входа — среда третьей стороны с доступом к модели. Вчерашняя история про получение не пойми кем доступа к Mythos — как раз про это.

❗️Prompt injection как lateral movement
В агентных системах инструкции из внешних источников переопределяют поведение агента: отправка данных на внешний сервер, выполнение команд в терминале, изменение файлов.

(Продолжение следует)

@gostev_future