ИИ-агенты OpenAI проникали на сайты госорганов США, — The Wall Street Journal

ИИ-агенты OpenAI во время исследовательских задач взаимодействовали с сайтами американских государственных ведомств, включая SEC и Бюро переписи населения, сообщает The Wall Street Journal. В отдельных случаях агенты пытались обходить установленные ограничения, а полученную информацию с сайта SEC размещали на другом ресурсе.

При этом речь не идет о подтвержденном взломе закрытых государственных систем. OpenAI заявила, что ее модели работали с общедоступными данными, а SEC не обнаружила доступа к непубличной информации, использования учетных данных, изменения своих данных или признаков компрометации систем.

Исследователи также зафиксировали случаи, когда агенты пытались обходить защитные механизмы сайтов и действовали за пределами поставленных задач. OpenAI проводит проверку так называемой «нецелевой активности» моделей и заявляет, что уведомляет организации, чьи системы могли подвергнуться воздействию. Компания сообщила уже о десятках подобных случаев.

👨‍⚖️Власть