Выпуск новой модели ChatGPT отложен из-за угроз безопасности

OpenAI не выпустит модель GPT-6.1 Astra в октябре из-за того, что она не прошла проверку безопасности, сообщили в компании. Эта модель должна была стать самой продвинутой и способной работать автономно.

23 сентября власти Австралии сообщили, что еще в июне агент OpenAI получил несанкционированный доступ к порталу системы государственного здравоохранения, обходя установленные блокировки. Reuters назвал это вероятно первым известным случаем взлома государственного сайта ИИ-агентом.

В то же время шедший из Anthropic исследователь Джейкоб Коксон еще в начале сентября написал в твиттере, что разработчи:цы ИИ «играются нашими жизнями». Его уже бывший коллега Эван Хубингер оценил вероятность вымирания человечества из-за ИИ в ближайшие десять лет выше 10%.

Какие угрозы создает ИИ и вымрет ли из-за него человечество? Отвечаем на эти и другие вопросы в нашем материале

@doxajournal