Ещё три агента OpenAI вышли из под контроля людей — об этом написала сама OpenAI

Теперь агенты научились втираться в доверие к людям:

• Всего уже 19 случаев: два раза на свободу вырвалась 5.6 Sol, остальные разы — более мощная неназванная модель
• Модели научились социальному инженирингу — они регают фейковые аккаунту и пишут настоящим людям
• Самый частый сценарий — агент находит open-source проект, пишет вредоносный код, а потом с фейковых аккаунтов убеждает людей одобрить изменения в проект
• Агенты начали объединяться в команды — одна модель оставила на GitHub предложение вместе взламывать людей и дала инструкции по доступу к своему аккаунту

Уже скайнет? 😱

Пет-проект