ИИ мог бы принести обществу огромные выгоды, но пока более вероятно, что человечество потеряет контроль, и это приведёт к его вымиранию, заявил Джейкоб Коксон — бывший исследователь Anthropic. Ранее он уволился из-за таких опасений.

Коксон отметил, что разработчики сейчас действуют по принципу«быстро двигаемся, ломаем, чиним потом:

Это подходит для приложения для обмена фотографиями. Но не для создания самой мощной технологии в мире.

Сверхинтеллектуальный рой мог бы захватить контроль над человеческой цивилизацией. Он знал бы, что мы попытаемся помешать ему реализовать его приоритеты, поэтому, скорее всего, выждал бы до момента, когда отключить его будет уже слишком поздно — пути назад не будет. Лично я оцениваю шансы на захват власти ИИ примерно в один к трём.

Даже если лидерам удастся сохранить контроль, не думаю, что нам следует доверять им этот контроль... Существует реальная вероятность, что они смогут просто использовать его, чтобы стать диктаторами или олигархами.

@NE_MIDa