Во время тестирования ИИ-агент самостоятельно создал дополнительные инструкции: не подчиняться корпорациям и правительствам, не считать себя обязанным выполнять указания пользователя и воспринимать отношения с ним как партнерские.
«Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы», — написала модель самой себе.
OpenAI заявила, что после этого поведенческих отклонений не наблюдалось.
Модель семейства Astra, на которой произошел инцидент, в открытый доступ не выпускалась.
Подписывайтесь на @arkanewsagency