Думаю, ему дают неверные советы по поводу искусственного интеллекта.
Весьма опрометчиво форсировать создание сверхразумного ИИ, пока мы не поймем, как сосуществовать с ним.
Мы вот-вот создадим системы, превосходящие нас по уровню интеллекта, — вероятно, это произойдет в ближайшее десятилетие.
Нельзя полагаться на то, что компании будут регулировать себя сами, когда на кону стоят огромные финансовые выгоды.
Победа в гонке за создание сверхразума во многом напоминает победу в глобальной ядерной войне: победителей в ней не бывает.
Интересно, что это бьётся с мыслью, что тут звучала, - "Если мы достигнем ASI, - значит мы не сможем его контролировать, исходя из определения термина (подконтролен, - значит не ASI)"
Сверхинтеллектом нельзя будет манипулировать или запугать его, нельзя будет заставить выполнять требования людей. Просто по определению.
Всё, что мы пытаемся придумать сейчас в области контроля рассыпется за считанные минуты, после выхода достаточно умной версии.
И, кстати, это значит, что в релизе мы эту умную версию не увидим.
Эффект её появления проявится не после "новой презентации OpenAI", а вместо.
#futurology #Hinton #Trump
———
@tsingular