Очень вдохновился новым эссе основателя Notion Ивана Джао - "Пар, сталь и бесконечный разум".

Далее - краткое содержание. Будущее трудно предсказать, потому что оно всегда маскируется под прошлое. Первые телефонные звонки были короткими, как телеграммы. Раннее кино выглядело, как заснятый на пленку театр. Движение в будущее с взглядом, прикованным к зеркалу заднего вида. Сегодня мы видим это в ИИ-чатботах, которые имитируют поисковую строку Google. Мы находимся глубоко внутри той неудобной переходной фазы, которая сопровождает любой технологический сдвиг.

В 1980-х Стив Джобс назвал персональные компьютеры “велосипедами для ума”. Десять лет спустя мы проложили “информационную супермагистраль” - интернет. Но сегодня большая часть умственной работы всё ещё выполняется на “человеческой тяге”. Это похоже на то, как если бы мы крутили педали велосипедов на автобане. С появлением ИИ-агентов некоторые пересели с велосипеда за руль автомобиля. Когда же свои “автомобили” получат другие работники интеллектуального труда? Для этого нужно решить две проблемы.

Во-первых, фрагментация контекста. В программировании инструменты и контекст, как правило, живут в одном месте: IDE, кодовый репозиторий, терминал. Но общая офисная работа разбросана по десяткам инструментов. Представьте ИИ-агента, пытающегося составить продуктовый бриф: ему нужно вытянуть данные из сообщений в Slack, документа по стратегии из Google Doc, метрик за прошлый квартал из дашборда и “институциональной памяти”, которая живет только в чьей-то голове. Сегодня люди - это клей, сшивающий всё это с помощью копипаста и переключения между вкладками браузера. Пока этот контекст не будет консолидирован, агенты останутся запертыми в узких сценариях использования.

Второй недостающий ингредиент — верифицируемость (возможность проверки). У программного кода есть магическое свойство: его можно проверить тестами и ошибками. Создатели моделей используют это для обучения ИИ (например, обучение с подкреплением aka reinforcement learning). Но как проверить, хорошо ли управляется проект? Или хороша ли записка по стратегии? Мы еще не нашли способов улучшать модели для большинства задач интеллектуального труда. Поэтому людям всё ещё нужно оставаться “в контуре” (human in the loop), чтобы контролировать, направлять и показывать, что такое “хорошо”.

До появления стали здания в XIX веке имели предел в шесть-семь этажей. Чугун был прочным, но хрупким и тяжелым; добавьте больше этажей, и конструкция рухнет под собственным весом. Сталь изменила всё. Она прочная, но пластичная. Каркасы стали легче, стены тоньше, и внезапно здания стали подниматься на десятки этажей. Стали возможны принципиально новые типы строений. ИИ - это сталь для организаций.
В начале промышленной революции первые текстильные фабрики стояли у рек и ручьев, работая от водяных колес. Когда появился паровой двигатель, владельцы фабрик поначалу просто заменили водяные колеса на паровые машины, оставив всё остальное прежним. Прирост производительности был скромным.

Настоящий прорыв случился, когда владельцы фабрик осознали, что могут полностью “отвязаться” от воды. Они начали строить огромные фабрики ближе к рабочим, портам и сырью. И они перепроектировали заводы вокруг паровых двигателей. (Позже, когда появилось электричество, владельцы пошли еще дальше, отказавшись от центрального вала и разместив небольшие двигатели у каждого станка). Производительность взлетела, и Вторая промышленная революция набрала полную силу.

Мы все еще находимся в фазе “замены водяного колеса”. ИИ-чатботы прикручиваются к существующим инструментам. Мы еще не переосмыслили, как должны выглядеть организации, когда старые ограничения исчезают, а ваша компания может работать на бесконечном разуме, пока вы спите.

Ниже - отредактированный мной перевод всего эссе целиком.

******

Пар, сталь и бесконечный разум
Автор: Иван Джао, основатель, Notion