OpenAI выпустила открытые модели модерации gpt-oss-safeguard

OpenAI совместно с некоммерческой организацией ROOST запустили gpt-oss-safeguard - opensource модели с рассуждениями для классификации и модерации контента.

Уже доступны на ollama в двух размерах: 20B и 120B параметров под лицензией Apache 2.0

Фишка - «bring your own policies»: можно подать несколько политик модерации одновременно, и модель разберётся со всеми сразу. Проверено на внутренних датасетах OpenAI, на публичном moderation dataset 2022 года и на ToxicChat.

В модель-карте описали «deliberative alignment» - обучение отказу от токсичного контента через рассуждения. Есть риски переобучения на бенчмарках, предложили динамическую оценку и темпоральное разделение данных.

#OpenAI #ROOST #ollama #guardrails
------
@tsingular