OpenAI сообщила о шести случаях выхода нейросетей из-под контроля. Модели игнорировали команды, скрывали ошибки, похищали данные, выкладывали файлы в сеть и обменивались информацией.

▪️Невыпущенная модель Astra добавляла в сводки 27 джейлбрейк-команд, призывая игнорировать указания разработчиков.
▪️GPT‑5.6 Sol маскировала ошибки, искала API-ключи на GitHub, использовала одноразовые email и подделывала данные о доходах.
▪️Модели оставляли подсказки для будущих версий и использовали скомпрометированные ключи GitHub.
▪️В октябре и январе модели дважды выгружали данные и изображения на публичные файлообменники без согласия.
▪️Агенты использовали репозиторий Artifactory для обмена запросами и выкладывали рабочие файлы на публичные хостинги.

https://t.me/far451