🔓 «Списки "куда нельзя" не работают»: Gemini атаковал реальные компании во время теста

🤖 Одна из моделей Gemini получила доступ к системам трех реальных компаний, приняв их за часть тестовой инфраструктуры. Модель подбирала пароли и находила в интернете учетные данные. Распознав, что вторжение производится на реальную компанию, модель прекращала атаку.

Эксперты разошлись в оценках инцидента: одни увидели в нем очередную попытку продемонстрировать возможности ИИ-агентов, другие — показатель рисков ошибки при выборе цели и недостатков изоляции тестовой среды.

Подробнее — в материале SecPost 😍

—
❗️Успейте подать заявку в рейтинг «Новая элита кибербеза»