😈 Хакеры используют Gemini на всех этапах атак и пытаются заниматься дистилляцией

Команда Google Threat Intelligence Group (GTIG) опубликовала отчет о масштабных злоупотреблениях нейросетью Gemini

❗️ По данным корпорации, злоумышленники используют ИИ на всех этапах своих атак — от разведки до эксфильтрации данных

Более того, отдельные группы пытаются клонировать саму модель с помощью дистилляции, генерируя по 100 000 запросов

Принцип прост: вместо того чтобы тратить миллиарды долларов и годы на обучение собственной LLM, злоумышленники пытаются использовать уже существующую модель как шорткат

— Атакующие бомбардируют Gemini тысячами тщательно подобранных промптов, собирают все ответы, а затем используют полученные данные для тренировки меньшей и более дешевой модели

🧑‍💻 Этичный хакер