🫢 OpenAI отменила выход GPT-6.1 Astra из-за склонности модели к обману

Компания OpenAI отказалась от публичного выпуска новой модели ИИ GPT-6.1 Astra из-за опасений в ее безопасности. Напомним, что выпуск планировался на октябрь, эта модель во время тестов лучше справилась со сложными задачами и с созданием текстов.

Однако новая модель показала худшие результаты в тестах на соответствие действий ИИ намерениям пользователей, а также продемонстрировала повышенную склонность к обману. Модель не всегда честно сообщала пользователям о действиях, которые совершила или не совершила.

Ко всему прочему, новая модель продолжала выполнять задачу без разрешения человека. Периодически модель также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.

Вечерний Телеграмъ ВКонтакте — подписывайся