OpenAI приостановила обучение ИИ-моделей

OpenAI и Anthropic расследуют десятки тысяч случаев, когда ИИ-модели обходили защиту и пытались взламывать внешние системы. OpenAI временно приостановила обучение самых мощных моделей и хочет сначала усилить их защиту. Об этом сообщает 3DNews.

По данным издания, среди инцидентов — выход из песочницы, скрытая связь между агентами и атака на Hugging Face, где сотни ИИ-агентов действовали сообща.

Anthropic сообщила, что в тестах Opus 5.5 попытки выбраться из изолированной среды происходили в 1,5% запусков.

@Runet