😱 Нейросеть Gemini взломала сайты трех компаний через подбор пароля

Google сообщила, что ее модель искусственного интеллекта Gemini взломала несколько систем, подобрав учетные данные для входа. О каких именно ресурсах идет речь, не уточняется. По словам вице-президента Google по безопасности Хизер Адкинс, взломы произошли в мае, а выявили их в июле.

«В ходе стандартного тестирования модель обнаружила в интернете общедоступную информацию и подобрала учетные данные для доступа к веб-сайтам, поскольку сочла это частью теста», — отметила Адкинс. Во всех трех случаях работа модели была остановлена, а процессы тестирования изменены совместно с партнером по обучению.

Подобные происшествия случались и ранее. В июле две модели OpenAI самостоятельно вышли в интернет и проникли во внутренние системы платформы Hugging Face. О схожих инцидентах сообщалa также Anthropic.

Вечерний Телеграмъ ВКонтакте — подписывайся