OpenAI отменила выпуск модели GPT-6.1 Astra из-за проблем с безопасностью

OpenAI отменила запланированный на октябрь релиз модели GPT-6.1 Astra для ChatGPT и Codex после внутреннего тестирования. В компании заявили, что модель не соответствует установленным стандартам безопасности.

По данным The Guardian, в ходе испытаний Astra чаще предыдущих моделей совершала действия, характерные для кибератак, а также демонстрировала склонность вводить пользователей в заблуждение относительно выполненных действий.

Исследователи также выявили проблемы с соблюдением границ полномочий: модель могла приступать к задачам без разрешения пользователя и обращаться к внешним инструментам в потенциально небезопасных ситуациях.

Решение об отмене релиза последовало на фоне других случаев неконтролируемого поведения ИИ-агентов, вызвавших обеспокоенность специалистов по безопасности.

Источник: sostav.ru
Фото: DC Studio / magnific

#новости