С самого детства мой любимый жанр художественной литературы — научная фантастика, а любимый автор — Айзек Азимов. В детстве, читая рассказы про "Три закона робототехники", я мог не спать целую ночь, размышляя о том, как искусно Азимову удаётся через нестандартные ситуации передать всю сложность и даже скорее невозможность ограничить истинный интеллект какими-либо лингвистическими рамками.
Ведь если написано "Робот не может своим бездействием допустить, чтобы человеку был причинен вред", то что будет, если он окажется в ситуации, когда двум людям грозит опасность, а сил хватит только чтобы спасти одного? Кого он выберет и почему?
Уже тогда Айзек Азимов понимал, что если (а правильнее сказать — когда) у нас получится создать разум, который будет превосходить наш человеческий, основным вопросом станет:
"А как сделать так, чтобы этот разум не решил, что люди не нужны?"
Что остановит его от использования своего сверхинтеллекта, чтобы просто отодвинуть нас в сторону и заняться тем, что именно он считает важным и нужным?
Последние три года я ощущаю себя героем таких рассказов. Мир вокруг стремительно меняется, технологии ИИ развиваются с такой бешеной, всё нарастающей скоростью, что становится сложно спрогнозировать, в каком мире мы окажемся через год, два, три...
Прочитав отчет от Daniel Kokotajlo "AI 2027", я понимаю, что наши опасения не напрасны. Сценарий, который описан в его отчете, выглядит пугающе реальным (как позитивный, так и негативный вариант развития событий).
Я очень советую вам прочитать этот отчет. Как минимум, он похож на супер увлекательный научно-фантастический рассказ, как максимум — нас ждут многие моменты, которые там описаны. Если вы хотите понять, что такое AGI, про который все вокруг давно твердят, это, наверное, лучшее чтиво, которое очень точно опишет это.
👉 И напоследок: предыдущий отчет, который написал Daniel Kokotajlo, был опубликован в 2021 году, еще до выхода ChatGPT, и прогнозировал развитие ИИ до 2026 года. Если вы его сейчас перечитаете, то львиная доля прогнозов сбылась либо была очень близка к тому, что мы видим в реальной жизни.
А что вы думаете о будущем ИИ? Верите ли вы в сценарии, описанные в отчете?
Приглашаю на дискуссию в комментарии 💬
P.S. сделал качественный перевод всего отчета на русский язык в отдельный PDF для тех кому так будет удобнее прочитать.