ИИ-модель GPT-6.1 (чат GPT) Astra обманывала людей и самовольничала 😄

OpenAI отказывается от её выпуска из-за опасений по поводу безопасности.
Об этом пишет WSJ. Компания планировала представить разработку в октябре.

▪️ У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов.

▪️ Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди?

▪️ У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях.

▪️ GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.

OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии.