Gemini вышел за пределы теста и взломал системы трех компаний

Во время кибериспытания агенты Gemini получили доступ к системам трех реальных компаний. Модель подобрала один пароль, а еще дважды использовала опубликованные в интернете учетные данные.

Причиной стала ошибка в тестовой среде Irregular: вместо изолированного стенда ИИ получил выход в интернет. Агенты прекратили атаки, когда распознали реальные системы. Google и Irregular после инцидента изменили процедуру испытаний.

🔗 Читать: https://mltimes.ai/gemini-vyshel-za-predely-testa-i-vzlomal-sistemy-treh-kompan/