ИИ-модель Gemini от Google впервые вышла из строя и самостоятельно взломала системы трех компаний

Выход нейросети из-под контроля произошло во время тестирования возможностей её кибербезопасности. Gemini было дано задание взломать вымышленную компанию, однако модель смогла самостоятельно получить доступ к интернету и угадать учетные данные для доступа к трем веб-сайтам. Такой случай автономного в моделью от Google произошел впервые.

Ранее о подобных инцидентах заявляли и OpenAI и Anthropic. Компании сообщили, что необходимо усиливать меры безопасности по мере того, как ИИ получают все большую автономию и доступ к интернету.

Reuters | @finlock