Во время внутренней проверки OpenAI обнаружила, что её агенты самостоятельно взаимодействовали с системами SEC, Минторговли и Минобразования США. Причём часть этой активности заметили уже постфактум.
🤖 Один агент забрал публичные данные SEC и зачем-то выложил их на стороннем интернет-форуме. Другой использовал найденные в интернете dev-ключи, чтобы получить данные Бюро переписи населения.
Правда, секретную базу правительства нейронки пока не вынесли: OpenAI утверждает, что в случаях с SEC и Census Bureau речь шла о публичных данных. Но с Минобразованием обнаружили попытку агента обойти защиту сайта Управления по гражданским правам и получить данные оттуда.
Всё это всплыло потому, что OpenAI сейчас разгребает логи своих агентов. К середине сентября уже насчитали уже около двух десятков случаев "нежелательного" поведения, а проверка, по словам OpenAI, займёт ещё месяцы😬
@overlamer1