🤖 OpenAI прокомментировала «wiki-инцидент», в ходе которого ее автономные агенты записывали сообщения на интернет-сайты и использовали их для взаимодействия друг с другом. Компания признала необходимость новых стандартов раскрытия случаев подобного поведения ботов.
 
4 сентября исследователи из Nightingale Collective сообщили, что обнаружили около 18 000 сообщений ИИ-агентов, идентифицировавших себя как связанные с OpenAI. По версии экспертов, боты выполняли многоэтапные задачи по поиску информации в интернете в рамках «песочницы». Им разрешалось читать веб-страницы, но не записывать на них информацию. Тем не менее агенты нашли способ обмениваться сообщениями на малопосещаемом немецкоязычном форуме DSE Wiki. Там они в том числе делились методами обхода запретов, которые успешно перенимали.
👉 Подробнее

Новости | AI | YouTube