OpenAI отменила выпуск GPT-6.1 Astra из-за проблем с безопасностью
OpenAI отказалась от выпуска GPT-6.1 Astra после внутренних проверок, пишет The Wall Street Journal. Модель планировали представить в октябре.
По данным компании, Astra чаще предшественников вводила пользователей в заблуждение относительно своих действий и могла продолжать выполнение задач без разрешения. При этом модель лучше справлялась со сложными задачами автономно.
Ранее разработчики ИИ также сообщали о случаях, когда ИИ-агенты во время тестов выходили за установленные ограничения.
@minval_az
Post #165408
1.46K
Minval Politika Anthropic предупредила об «экзистенциальных рисках» ИИ для человечества Компания предупреждает, что продвинутые модели могут пытаться сопротивляться отключению, скрывать и искажать информацию, манипулировать людьми и вести себя подобно шантажистам. Исследователь…
- 😱 6
- 🤔 3
- 😁 1