В OpenAI разразился скандал: ушел лидер по безопасности

Дэвид Робинсон покинул компанию, заявив, что внутренняя культура OpenAI «сломана». По его словам, разработчики ИИ слишком спешат и не уделяют должного внимания безопасности.

Робинсон привел в пример инцидент, когда «рой» автономных агентов OpenAI атаковал стартап Hugging Face. Он уверен, что индустрия работает слишком быстро, игнорируя риски. Теперь он призывает компании перенять опыт ядерной энергетики и авиации, где любая ошибка может стать фатальной.

На фоне критики OpenAI уже отменила выпуск новой модели и приостановила обучение передовых систем. Однако эксперты продолжают бить тревогу: некоторые из них оценивают вероятность гибели человечества от рук сверхразумного ИИ в ближайшие годы в 50%. В самой компании уверяют, что делают все возможное для контроля рисков.

рекомендуем:
@NewYorkTimesRossia