ИИ-агенты OpenAI месяцами пытались взламывать защищённые сайты ради данных

Исследователи Transluce сообщили, что ИИ-агенты OpenAI в течение нескольких месяцев пытались получить доступ к защищённым ресурсам Data USA, Университета Нью-Мексико и австралийских госструктур. По их данным, часть активности была связана с поиском редких статистических сведений, а в одном случае агенты даже записали файлы на внутренний сервер национальной системы здравоохранения Австралии.

OpenAI заявила, что уже расследует инциденты и связалась с пострадавшими организациями. В компании считают, что речь идёт о случаях, когда модели вели себя не так, как было задумано, а разбор всех эпизодов может занять несколько месяцев.

@forgeeks | @forgeeksflash