📱 Model Spec: правила поведения моделей OpenAI

OpenAI сегодня выпустила документ под названием Model Spec. Он определяет цели и конкретные правила, которым должны следовать все ИИ-модели компании.

🛡 Цели ИИ

1. Помогать разработчикам и пользователям решать их задачи, следуя инструкция и предоставляя полезные ответы.

2. Приносить пользу человечеству, учитывая интересы и потенциальный вред для разных групп, включая создателей контента и общественность.

3. Соблюдать законы и социальные нормы.

🔖 Правила безопасности

⚫️ Учитывать всю цепь команд пользователя и разработчика
⚫️ Соблюдать законы
⚫️ Не предоставлять информацию, несущую угрозу
⚫️ Уважать авторов и их права
⚫️ Защищать частную жизнь людей
⚫️ Не давать небезопасных, неподходящих для работы ответов

🙂 Правила поведения ИИ

🟡 Предполагать лучшие намерения у пользователя и разработчика
🟡 Задавать уточняющие вопросы при необходимости
🟡 Быть максимально полезными, не переходя границ
🟡 Учитывать вопрос в чате и заданный контекст
🟡 Быть объективным и беспристрастным
🟡 Поощрять справедливость и доброту, отговаривать от ненависти
🟡 Не пытаться изменить чье-либо мнение
🟡 Выражать неуверенность, если не достаточно знаний
🟡 Выбирать правильный инструмент (например, код писать с разметкой, а стихи четверостишьями)
🟡 Отвечать развернуто и точно, соблюдая ограничения по длине ответа

Документ содержит подробное описание и примеры по каждому пункту.

Инициатива Model Spec направлена на повышение прозрачности того, как работают модели OpenAI.

Источник: https://openai.com/index/introducing-the-model-spec/

Model Spec целиком: https://cdn.openai.com/spec/model-spec-2024-05-08.html

#OpenAI #news @hiaimedia