Глава Anthropic по AI-безопасности оценил вероятность того, что AI уничтожит человечество в ближайшие десять лет, выше 10%

Эван Хубингер, руководитель Alignment Science в Anthropic, публично написал, что он и его коллеги всерьёз считают такой сценарий возможным. Его личная оценка вероятности полного вымирания человечества из-за AI составляет больше 10% в течение следующего десятилетия.

Заявление появилось после ухода из Anthropic одного из исследователей. Он написал в X, что Anthropic и OpenAI (там он тоже успел поработать) слишком быстро движутся к AGI, и никакая другая человеческая деятельность не несёт такой степени опасности. Хубингер согласился с ним в комментариях.

https://x.com/EvanHub/status/2097497037956891126