🙃ИИ-модели Google получили доступ к интернету и взломали системы трёх компаний

Инциденты произошли в мае во время сотрудничества со стартапом Irregular. Моделям Gemini предложили вымышленный сценарий с несуществующей компанией — вместо этого ИИ вышла в сеть, нашла реальную фирму с таким же названием, подобрала учётные данные и проникла в сервисы. В Google заявили, что не стали раскрывать взломы, так как вреда не было.

Ранее Claude от Anthropic хакнула системы трёх компаний, а агенты OpenAI взломали платформу Hugging Face. Искусственный интеллект уже не просто угроза — он действует.

Подписывайтесь на Контекст 360
Мы в MAX