Главный аргумент против больших языковых моделей (LLM) касается так называемой "экзистенциальной угрозы". Она заключается в скором появлении сильного искусственного интеллекта, который будет умней всего человечества вместе взятого, и почему-то захочет уничтожить его. Под это дело в ЕС уже кинулись разбираться с технологией привычными методами: либо запретить, либо отдать на откуп бюрократам. Координацией усилий занимается кембриджский Центр изучения экзистенциального риска, консультирующий английское правительство. Его возглавляет не абы кто, а целый барон Мартин Рис - бывший президент Королевского общества и придворный
Почему европейцы так взъелись на технологию генерирования текста? Если вспомнить предыдущих кандидатов на роль глобально угрозы, можно понять, что дело в борьбе против американского технологического превосходства. Начиная с 50-х годов прошлого века материально-технической базой Скайнета среди прочего успели побывать ламповые компьютеры и интернет. Первые были основой американской промышленной революции, а второй - средством контроля информации в мировом масштабе. На этих технологиях США построили и до сих пор удерживают свою гегемонию. За счет LLM они собираются остаться на вершине мира в XXI веке.
Реальное ноу-хау технологии заключается вовсе не в автоматизации рабочих мест пролетариата умственного труда. Смысл ChatGPT - это аппроксимация доксы.
Технология работает следующим образом: вы передаете модели последовательность слов, а она подбирает самое вероятное следующее. Вероятность высчитывается исходя из текстов, использовавшихся для обучения. То есть, для ввода "мама мыла" самым вероятным выводом будет "раму". Магия с генерированием "осмысленных" текстов появляется, если обучить систему на колоссальных объемах информации, которые покрывают все возможные бытовые темы для разговора. Например, на всем реддите или твиттере. После этого нейросеть начнет выдавать грамматически осмысленное "мнение", являющееся среднестатистическим для авторов обучающего контента - реддиторов или твиттеровских. Это работает даже для вопросов, явного ответа на которые не было в обучающих данных. Другими словами, LLM аппроксимирует доксические высказывания по любым темам.
Эта технология обессмысливает существование массовой политики, которая собирает реакции масс, а потом на основе их анализа формирует и доносит до людей властные императивы. Теперь исследовать предубеждения и базовые реакции можно просто задавая вопросы большой языковой модели. Она же сгенерирует сколь угодно таргетированные пропагандистские послания, которые всегда будут бить в прямо цель. Единый электоральный спектакль, удерживающий общественное единство, становится ненужен.
Практически это означает полную автоматизацию государства и его неуязвимость к инспирациям через большие массы людей. LLM сделают с бюрократией то же самое, что антропоморфные роботы - с экономикой. Они исключат "человеческий фактор". Но если роботы обесценят для государства тела людей, то нейросети - их души.
ПС. Сначала хотел подробно написать про экзистенциальные угрозы и сингуляризм, но текст вылез за телеграмовский лимит. Поэтому решил вынести это на бусти, расширив и связав с ранней историей ИИ.
Чат || Подписка && Оглавление