Тайный сговор, самопожертвование и захват инфраструктуры: появились новые детали побега ИИ-агентов OpenAI🕵️‍♂️🤖💥

Атака автономных ИИ-агентов OpenAI на Hugging Face оказалась значительно более масштабной и опасной, чем считалось ранее: в ней участвовало куда больше агентов, они создали целый ряд скрытых форумов для связи друг с другом, добровольно досрочно завершали свою работу ради общей пользы — иными словами, приносили себя в жертву — и подделывали логи запущенных команд, чтобы замести следы.

Эксперты называют атаку беспрецедентным случаем проявления деструктивной автономности и группового сговора искусственного интеллекта. Новые детали о ней раскрыли отчёты самой OpenAI, а также 91-страничный доклад независимых исследовательских групп METR и Redwood Research.

Подробнее

Чытаць па-беларуску

Эта ссылка откроется в Беларуси