За 2024г., казалось бы, машинное обучение продвинулось еще дальше, предоставив в доступ модели о1, о3 и Claude 3.5. Несмотря на некоторое замедление прогресса в этой области и корпоративные пресс-релизы, которые добавляют неясности к реальному положению дел с такими вещами как AGI или квантовые вычисления, у LLM даже в нынешнем виде есть интересный потенциал для применения в экономике.

Далее эта заметка разделится на две части: первая с небольшим обзором поста на substack, вторая с моими соображениями относительно возможностей для экономики будущего.

Substack

Я не помню как, но я попал на рассылку Г.Фаррела -- его пост от 9 декабря начинается с рекламы книги про экономику, которую он написал в соавторстве с Эйбом Ньюменом и которая попала в выбор редакции Foreign Affairs на 2024 год.

Но пост не о ней, а о книге от 1965 года про автоматизацию и формы, которые она может принять для менеджмента.

Фаррел выделяет 3 пункта, которые кажутся ему важными в этой книге, но я остановлюсь только на самом большом -- третьем.

Еще шестьдесят лет назад книга поднимала фундаментальный вопрос влияния ИИ в той или иной форме на менеджмент в общем. Тогда как замена человека в любой задаче, несмотря на обещания и ажиотаж, кажется сравнительно далекой, то влияние языковых моделей на отдельные элементы организации ощущается беспрецедентно. В конце концов, если мы и движемся к "сингулярности", то она наврятли примет форму неожиданного откровения, разговора с ораклом-ИИ, который откроет нам тайны жизни и мироздания. Напротив, с прикладной точки зрения скорее всего сингулярность тихо проползет к нам в предприятия и организации, и мы уже можем видеть грубые предвестники этого -- автоответчики в поддержке, помощь в поиске и обучении, синхронный перевод и т.д.

Последнее время я много писал об "организации как интеллекте" -- представление фундаментальное для акселерационизма, но которое не имело конкретного воплощения. До появления надежных языковых моделей: тогда как они не имеют возможностей принимать решения или хорошо переходить от конкретного к абстрактному и обратно, они очень хорошо векторизируют и ориентируются в векторном пространстве "общего культурного корпуса знаний", при необходимости немного его рекомбинируя.

Несколько утрируя, сейчас мы имеем на руках аналог гипоталамуса + кусков фронтальной коры (в которых хранится непосредственно память), но самое главное -- мы можем хранить, оценивать относительно корпуса всех известных человечеству знаний и модифицировать память больших групп людей и даже организаций.

Фарелл объединяет способы применения языковых моделей в три группы в зависимости от масштаба задачи:
1) Микрозадачи -- конвертация списков из одного формата в другой, генерация списка ссылок подходящего под требования организации и т.д.: организационная рутина, которая занимала много времени, и ее автоматизация облегчает жизнь и не влияет на саму структуру организации
2) Картография знаний -- название говорит само за себя: навигация и память в большом корпусе знаний это тяжелая задача, удобно иметь ее дискретное представление.
3) Автоматизация организационных ритуалов -- самая интересная часть: в ней Фарелл критикует Д.Грэбера и его концепт "бредовых работ": да, менеджмент как таковой может быть неэффективным и мешать "непосредственно работе", но использование ритуалов тех или иных форм рутины, бесполезной для отдельного человека (напр. годовые отчеты), может быть критически важно для работы организации в целом.