Джейкоб Коксон, уволившийся из Anthropic из-за опасений, заявил на слушаниях в горсовете Нью-Йорка:
ИИ мог бы принести огромную пользу, но пока более вероятен сценарий, при котором человечество теряет контроль вплоть до вымирания.
По его словам, разработчики действуют по принципу «быстро двигаемся, ломаем, чиним потом» – это годится для приложения, но не для самой мощной технологии в мире. Люди уже не понимают мотивов ИИ, а системы приближаются к моменту, когда смогут самосовершенствоваться.
Экс-сотрудник Google DeepMind Алекс Тернер добавил:
Сверхинтеллектуальный рой мог бы захватить контроль над цивилизацией, выждав до момента, когда отключить его будет поздно. Шансы на такой захват он оценивает как один к трём.
🤡 – теперь понятно почему все оттуда увольняются
❌ НМШ