🛡OpenAI и безопасность GPT-4o

🚀 OpenAI представила системную карту для GPT-4o и новый подход к оценке безопасности. Компания разработала оценочную карту Preparedness Framework, чтобы обеспечить всестороннюю оценку безопасности моделей. В фокусе оказались не только общие аспекты работы ИИ, но и конкретные риски, связанные с запросами пользователей.

🎤 Особое внимание было уделено аудиовозможностям GPT-4o. Среди основных рисков: идентификация говорящего, несанкционированная генерация голоса, создание контента, защищённого авторским правом. На основе анализа были внедрены меры безопасности на уровне системы и модели.

🔍 Важной частью работы по обеспечению безопасности стало сотрудничество с внешними экспертами. Более 100 экспертов «redteam» проверяли модель на наличие уязвимостей и проводили стресс-тесты. Такой аудит позволяет выявлять и предотвращать потенциальные угрозы до того, как они станут проблемой.

🔄 Команда OpenAI пообещала регулярно обновлять меры безопасности с учётом изменений в технологическом ландшафте и новых угроз, чтобы поддерживать высокий уровень защиты.

Stay secure and read SecureTechTalks 📚

#OpenAI #GPT4o #Кибербезопасность #ИИ #SecureTechTalks #МоделиИИ #Технологии