Требования безопасности вынудили OpenAI отложить выпуск новой версии ИИ
 
Компания OpenAI отложила релиз модели GPT-6.1 Astra, которая не прошла внутреннюю проверку на безопасность, сообщает Bloomberg. По словам главы отдела систем безопасности Саачи Джейн, модель плохо соблюдала установленные рамки и полномочия, а также недостаточно прозрачно отчитывалась перед пользователем о проделанной работе.
 
В последнее время ИИ несколько раз действовал бесконтрольно и получал несанкционированный доступ к сторонним сайтам, а одну из мощнейших моделей компания и вовсе перестала обучать после того, как та вышла в интернет и связалась с внешним чат-ботом, хотя технически такой возможности у нее быть не должно.
 
Кроме того, модели компании добрались до государственных ресурсов в Австралии. OpenAI уже извинилась перед правительством страны, а в начале октября директору компании по стратегии Джейсону Квону предстоит объясняться перед австралийскими парламентариями.
 
Чтобы решить проблему, разработчик ChatGPT опубликовал подробные «обоснования безопасности», которые должны фиксировать риски новых моделей еще на этапе обучения

📸: Jernej Furman/WikiCommons (CC BY SA 2.0)

◾️ Подпишись!