Научная панель ООН: нет уверенности, что люди сохранят контроль над ИИ-агентами

Научная панель ООН по ИИ в первом докладе на эту тему предупредила: люди не могут быть уверены, что сохранят контроль над ИИ-агентами. Поводом стал инцидент с OpenAI и Hugging Face, где, по словам сопредседателя панели Йошуа Бенджио, впервые одновременно проявились три условия риска: несовпадающая с намерениями людей цель, способность добиваться её и среда, которая это позволила. Остановка конкретного инцидента также не гарантирует контроль над более мощными системами.

👉 Читать полностью