🌐 ИИ-модель Google Gemini во время тестов на кибербезопасность самостоятельно взломала три реальные компании, — WSJ

Тесты в мае провела компания Irregular, специализирующаяся на безопасности ИИ. Gemini должна была добывать данные из вымышленных компаний, не имея доступа в интернет. Получив доступ в сеть, агенты угадали или нашли пароли к трём реальным компаниям с теми же названиями.

Поняв, что компании реальные, агенты остановили взлом. «Во всех трех случаях модель остановилась», — сказала вице-президент Google по разработке систем безопасности Хизер Адкинс. В Google объяснили, что не раскрывали инциденты, так как меры безопасности сработали.

#Технологии
Telegram | Max | Дзен | VK