Бабушке всех чатботов исполнилось 60

В 1966 году программист MIT Джозеф Вейценбаум выпустил ELIZA – программа искала во фразе пользователя ключевое слово, разбирала предложение по заранее заданному шаблону, переставляла местоимения и возвращала собеседнику вопрос, так что «мне грустно» превращалось в «почему вам грустно?». Если ключевое слово не находилось, ELIZA дежурно отвечала «понимаю» или «продолжайте».

Строил Джозеф всё это ради демонстрации того, насколько поверхностным на самом деле является общение человека с машиной, но дальше случилось то, чего автор не планировал – его секретарь, которая своими глазами видела, как программа пишется, однажды попросила его выйти из комнаты, потому что ей нужно было поговорить с ELIZA наедине.

И она была не одна: пользователи массово приписывали программе эмпатию, понимание и искреннее желание помочь. Напоминает ваших друзей, которые обсуждают личные пробелмы с ИИшкой? Вейценбаум позже признавался, что не осознавал, насколько короткий контакт с простейшей программой способен вызвать мощное бредовое мышление у совершенно нормальных людей.

🔘Феномен получил имя ELIZA effect и благополучно пережил свою программу, а заодно перевернул жизнь создателя. После этой истории Вейценбаум стал одним из первых серьёзных критиков ИИ и написал Computer Power and Human Reason, книгу о пределах того, что стоит доверять машинам. Его создание тем временем живёт своей жизнью: в 2021-м исходники нашли в архивах MIT и открыли под свободной лицензией, в конце 2024-го энтузиасты запустили оригинальный код на эмуляторе IBM 7094, так что 60-летняя программа снова принимает пациентов.

🔘А в 2023-м вышло исследование теста Тьюринга, в котором ELIZA обошла GPT-3.5, уступив только GPT-4 и живым людям. Вдумайтесь: паттерн-матчинг из шестидесятых имитировал человека убедительнее, чем модель, на которой работал ранний ChatGPT.

Почему эта история кажется мне важной именно сейчас. Индустрия ИИ-компаньонов, от Character.ai с миллионами ежедневных пользователей до Replika и десятков клонов поменьше, коммерчески строится ровно на том эффекте, который Вейценбаум считал тревожным сбоем человеческой психики. Люди привязываются к собеседнику, платят подписку и проводят в диалогах часы, а сам эффект за шестьдесят лет проделал путь от лабораторного курьёза до бизнес-модели с миллиардными оценками.

Подписаться | @soonicorn_tech