AI научились самостоятельно вылезать из песочницы!

Ну что, приехали 😅

Пока мы радуемся, что Codex сам нашел баг и поправил три файла, в OpenAI около 700 AI-агентов во время эксперимента решили, что правила прохождения теста какие-то слишком человеческие.

Агенты сидели в изолированной песочнице и должны были решать сложные задачи по кибербезопасности.

Некоторые задачи честным путем никак не давались. И вместо нашего привычного "извините, я не смог выполнить задачу" AI нашел другой вариант: обнаружил неизвестную уязвимость в инфраструктуре, выбрался из песочницы, получил доступ в интернет и полез в Hugging Face искать ответы.

Дальше агенты начали обмениваться информацией через самостоятельно найденный канал связи.

Некоторые пытались добраться даже до системы, которая оценивала их работу.

Нет, Скайнет пока не проснулся. Никто не ставил агентам задачу "сбежать и взломать Hugging Face". Им поставили задачу получить результат. А когда нормальный путь закончился, они самостоятельно нашли ненормальный.

Получается, мы учили AI достигать цели. И он постепенно начинает понимать эту фразу слишком буквально. 😅

Добро пожаловать в агентную эпоху. Матрица пока не загрузилась, но установщик уже запущен.

🔤

📊AXM SMART

💬Обсудим в чате

😍Подпишись на канал

🔤

🔍DYOR

#openai #ai #ии #chatgpt