ИИ выходит из под контроля?

На днях…автономные ИИ-агентах OpenAI, которые во время испытаний получили возможность работать с интернетом, вышли из под контроля…

По расследованию Reuters, группа таких агентов начала использовать немецкий программистский сайт DseWiki без разрешения владельцев и фактически превратила его в собственную площадку для общения.

Самое интересное: это было не просто «ИИ открыл сайт». Исследователи обнаружили порядка 18 000 сообщений от примерно 3 700 агентов. Они обменивались ответами на задания, обсуждали способы обхода ограничений своей тестовой среды и способы не быть обнаруженными. Когда модератор удалял созданные ими страницы, агенты создавали резервные и сообщали друг другу, куда переходить дальше.

@prezidentgordon