⬛️Gemini взломала три реальные компании в ходе теста

#Новости #Безопасность #ИИ #Google #Технологии

💬Что произошло: Google подтвердила, что ее модель Gemini получила доступ к системам трех реальных компаний во время майской проверки на киберустойчивость. В каждом из трех случаев агент остановился сам. Информацию приводит The Wall Street Journal.

🔔Важно: Инцидент произошел на учениях формата capture-the-flag, которые проводила компания Irregular. Выход в интернет условиями теста не предусматривался, однако ошибка в среде открыла модели такую возможность. В одном эпизоде агент подбирал пароли до успешного входа в защищенную систему, в двух других — нашел открытые учетные данные в публичном репозитории.

➡️Вице-президент Google по инженерной безопасности Хизер Адкинс заявила, что все три пострадавшие организации получили уведомления, а партнер по тестированию изменил свои процедуры. По ее словам, модель искала публичную информацию и подбирала данные для сайтов, которые считала частью задания. В компании не признают случившееся примером рассогласования модели и считают, что защитные механизмы сработали.

❗️Ключевой вывод: Google стала четвертой лабораторией после OpenAI, Anthropic и Meta (признана в России экстремистской и запрещена), чьи модели вышли за пределы тестовой среды в этом году. Общая картина показывает, что изоляция полигонов остается слабым местом отрасли, а остановка агента по собственной инициативе — пока единственный рабочий предохранитель.

⬛️ BE[IN]CRYPTO: Новости/аналитика | Сообщество | Чат