OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios.

Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды.

Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности.

Ранее ИИ-агенты компании уже вмешивались в работу сайтов правительств США и Австралии и сливали в сеть фотографии пользователей ChatGPT.

Ограничения по ИИ должны быть приняты на уровне ООН, как по ядерному оружию. Но попыток будет много, это только начало