Эффективный акселерационизм 1/2

Мой перевод манифеста т.н. эффективного акселерационизма, новой хайповой идеологии, имеющей свои корни в правом, техносингулярном акселерационизма Ника Ланда вышел у товарищей на Insolarance Cult. Предисловие к тексту:

E/acc (эффективный акселерационизм) представляет собой идеологию и движение, опирающееся на акселерационизм Ника Ланда и отстаивающее мнение, что искусственный интеллект и большие языковые модели (LLM) приведут к технологической пост-дефицитной утопии. Название также является игрой с концептом «эффективного альтруизма». Сообщества E/acc в Твиттере в основном развивались в Twitter Spaces, а манифесты e/acc распространялись с помощью платформы рассылки Substack.

Самое раннее известное упоминание e/acc или эффективного акселерационизма относится к 31 мая и 1 июня 2022 года, когда пользователи Twitter zetular, BasedBeff и creatine_cycle приписывают себе заслугу «изобретения новой философии».

31 мая zestular опубликовал в рассылке Substack подробное определение эффективного акселерационизма, защищая концепцию от «заблуждений» о том, что это то же самое, что эффективный альтруизм или правый акселерационизм. 10 июля 2022 года Beff Jezos и Bayeslord опубликовали в Substack еще одну статью, подробно описывающую различные постулаты e/acc (перевод которой представлен ниже). В последующие месяцы идеи e/acc и их сторонники приобрели умеренную популярность в Твиттере, инициируя дискуссии о вреде/пользе искусственного интеллекта и больших языковых моделей.

Более того, существует (довольно конспирологическая) теория о том, что недавнее увольнение, а затем и возвращение, генерального директора OpenAI Сэма Альтмана было связано с противоборством внутри компании в частности и технократических магнатов Силиконовой долины в целом сторонников регуляции разработки ИИ (т.е сторонников проблемы контроля искусственного интеллекта — AI alighnment) и сторонников ускорения разработки, то есть тех самых «эффективных акселерационистов». В заявлении компании при увольнении Альтмана было указано, что тот «не всегда был откровенен с советом директоров». Считается, что за короткое время до его увольнения исследователи из OpenAI предупредили совет директоров о важном открытии в сфере искусственного интеллекта, которое «может представлять угрозу для человечества. Сотрудники сходятся во мнении, что эта разработка может стать прорывом в создании общего искусственного интеллекта».

В конечном итоге спекуляции привели к выявлению противоположных точек зрения в тек-индустрии относительно будущего развития искусственного интеллекта. Суть разногласий заключается в разделении на два противоборствующих лагеря: сторонников эффективного акселерационизма и приверженцев деселерации (замедления — хотя я бы поспорил, заявив, что замедление это реверсивное ускорение, с противоположным вектором), или «децелов», а также примкнувшим к ним ИИ-думеров, сторонников запрета ИИ.

Предполагается, что именно сторонники деселерации попытались сместить Альтмана с его должности в OpenAI, что вызвало недовольство генерального директора Microsoft, Сатьи Наделлы (Microsoft инвестировал 10 миллиардов долларов в OpenAI). Возвращение Альтмана на должность генерального директора (к тому же с новым советом директоров) можно рассматривать как неудавшийся мятеж апологетов «безопасного ИИ», который привёл к усилению позиций эффективных акселерационистов.

Увольнение Альтмана также связывают с тем, что он не довёл до сведения инвесторов новую модель Q*, которая работает не через авторегрессию (т.е. генерацию исключительно следующего токена в тексте), а через планирование и контроль. Модель не «угадывает следующее слово», а подбирает необходимое в реальном времени.