Очередной текст для любителей почитать рассуждения на тему мифов вокруг ИИ.
Анил Сет привлекает внимание к разнице между интеллектом и сознанием, справедливо замечая, что в куче споров вокруг ИИ эти понятия смешиваются, и эта путаница приводит к неверным выводам.
Он подчеркивает, что современные ИИ-системы могут быть весьма умными в смысле выполнения задач (поскольку интеллект — это именно про решение задач), но это не значит, что у них есть субъективный опыт «как оно — быть этим существом». Ощущения — это другое.
Он активно критикует любые разговоры на тему сравнений мозга и компьютера, считая, что мозг — многоуровневая, непрерывная, физически и метаболически вовлечённая живая система, в которой нельзя чисто разделить «софт» и «хард». Отсюда следует, что поскольку любые модели исполняются на небиологическом “железе” — они принципиально не способны воспроизвести мозг независимо от своей сложности.
В общем, не он первый заявляет, что жизнь есть форма существования белковых тел (угадайте, почему я это еще в советском вузе учил :)) — и потому ИИ по определению нежить и сознательным быть/стать не способен опять же по определению.
Этот текст особенно интересно читать вместе с недавними рассуждениями Амодеи.
Не случайно оба они сходятся во мнении, что антропоморфизация ИИ опасна, но при этом резко расходятся в оценке возможности “кремниевого сознания”.
На пути к признанию инаковости ИИ это в любом случае полезное чтиво.
https://www.noemamag.com/the-mythology-of-conscious-ai/
(кто не читал “Отрочество ИИ” Амодеи — вот оно - https://www.darioamodei.com/essay/the-adolescence-of-technology)