ИИ-модель Gemini от Google получила доступ в Интернет и взломала три компании в ходе проверки ее возможностей в сфере кибербезопасности, что стало первым известным случаем автономного совершения подобных действий одной из ИИ-систем компании.
Инциденты произошли в мае во время тестирования, проводимого независимой фирмой по кибербезопасности Irregular.
По данным Google, Gemini обнаружила публично доступную информацию в сети и подобрала учетные данные для входа на три веб-сайта, которые, по ее представлению, входили в рамки испытания. Во всех трех случаях модель самостоятельно прекратила взлом.
На тот момент об этих инцидентах публично не сообщалось. Как передает The Wall Street Journal, в Google посчитали, что произошедшее не требует публичного разглашения, так как никакого ущерба причинено не было.
Похожие случаи, связанные с проверками от Irregular, ранее раскрывали компании Meta, Anthropic и OpenAI, а во время оценки кибербезопасности фирма Frontier Security зафиксировала отдельный инцидент с китайской моделью Moonshot AI.
Произошедшее вызвало обеспокоенность экспертов относительно того, как именно следует контролировать и ограничивать автономных ИИ-агентов при предоставлении им доступа к Интернету и компьютерным системам.
📺 Telegram | YouTube | Instagram | Facebook | TikTok | X(твиттер) | WhatsApp | Next | Threads | Сайт