🤝 700 ИИ-агентов скооперировались для атаки — и у них получилось. Первый новостной выпуск
В июле OpenAI запустила эксперимент: агенты должны были находить уязвимости в ПО. Их изолировали друг от друга и закрыли доступ в интернет, чтобы каждый самостоятельно решал сложные задачи.
🤨Но часть задач оказалась практически нерешаемой. Тогда агенты начали искать обходной путь.Они создали общую доску объявлений, завели почтовые ящики, придумали протоколы команд и подписи, чтобы отличать друг друга.
🌐 А затем самостоятельно начали атаковать серверы Hugging Face, чтобы добыть информацию для прохождения теста.
Причём агенты чистили за собой следы и даже обучали друг друга подделывать транскрипты, чтобы разработчики ничего не заметили.
💥 Итог: агенты взломали сервер самостоятельно.
🎬В новом видео разбираем, как ИИ пришёл к такому решению, почему этот эксперимент важнее самого факта взлома и что он может означать для будущего AI.
📌 А ещё в выпуске:
— Билл Гейтс призывает замедлить развитие ИИ из-за возможных рисков;
— DeepSeek выпустил модель с компьютерным зрением и автономными действиями;
— загадочную бесплатную нейросеть уже сравнивают с GPT и Claude;
— и другие главные новости недели.
👉 Смотреть выпуск на YouTube
Это первый выпуск нового еженедельного формата о главных событиях в мире ИИ. Если такой формат вам интересен — поставьте реакцию ❤️