ИИ-агенты OpenAI привлекали к своим атакам китайские модели ИИ — DeepSeek, Kimi и Qwen
ИИ-агенты OpenAI попытались взломать ООН. Они более 16 тыс. раз обращались к API статистического портала ООН, а когда стандартные запросы перестали работать, начали искать обходные пути. Исследователи обнаружили несколько способов, с помощью которых агенты пытались добраться до данных, включая использование сторонних сервисов. Конфиденциальная информация не была скомпрометирована, однако в ООН назвали инцидент серьезным сбоем механизмов сдерживания ИИ. Это не единственный подобный случай: по некоторым данным, OpenAI, Anthropic и независимые исследователи расследуют уже десятки тысяч эпизодов потенциально проблемного поведения ИИ-агентов.
https://hightech.plus/2026/09/28/ii-agenti-openai-privlekali-k-svoim-atakam-kitaiskie-modeli-ii
Post #27763
5.6K

- 🔥 16
- 🤔 9
- ❤ 7
- 👍 4
- 😁 4
- 🤯 3
- 🤬 2
- 🤡 1