Киберпанк наступает

За последние несколько месяцев крупные ИИшные вендоры выкатили отчёты по использованию своих моделей в хакерских атаках.

Так, например, Claude используют для фейкового трудоустройства на работу в большие корпорации с целью кражи конфиденциальных данных. С помощью этой модели создавались фальшивые личности, которые успешно проходили технические задания и даже выполняли реальную работу после трудоустройства.

ChatGPT в большинстве случаев используют для разработки вредоносного ПО или фишинга. Из забавного, все кейсы в отчёте OpenAI имеют политический подтекст. Видимо, третья мировая война будет войной промптов в ChatGPT.

И самый технически интересный это отчёт от Google, так как в нём описывается интеграция LLM в процесс использования вредоносного ПО. Один из кейсов описывает использование дроппера, который может регенерироваться, переписывая исходный код. Делает он это с помощью взаимодействия с Gemini через API.

Ссылки на отчёты:
- Antrhropic
- OpenAI
- Google

#TI

🧠 Твой Пакет Знаний | 👨‍🏫 Менторство ИБ
📂 Другие каналы