Слопкономика и её альтернативы
Способность проверять и нести ответственность за произведённое машинами – главный ограничитель AI-экономики

Из интервью Christian Catalini, исследователя MIT Sloan и основателя MIT Cryptoeconomics Lab

Кристиан видит такую развилку

(1) Hollow economy – «полая экономика»
Агенты будут производить все больше инфы → некому проверять → доверие упадет

(2) Augmented economy – «усиленная экономика»
Растет производительность ИИ → растет способность проверять результаты → появляются стандарты → у нас есть технологии, усиливающие человеческое суждение

Measurability Gap – разница между тем, что человек способен понять, проверить и за что готов поручиться, и тем, что машина способна произвести

Что это значит для профессий будущего?

- Missing Junior Loop – (это мы уже обсуждали с вами) ИИшка разрушает цикл: junior → много простых задач → практика → ошибки → накопление tacit knowledge → senior → экспертность

- Codifier's Curse – чем лучше эксперт обучает машину своей работе, тем быстрее машина учится выполнять эту работу вместо него

В общем, джуны не могут стать экспертами, а эксперты помогают машине их же сожрать

- Alignment Drift – чем больше ИИ забирает задач, тем меньше человек понимает, что именно происходит внутри процесса. Постепенно человек теряет способность понять, делает ли система то, что он хотел

А что тогда может стать новой инфраструктурой образования - synthetic practice environments

Если рынок не дает человеку тысячи повторений для практики – надо создать такие искусственные среды

Человек учился через работу → Человек учится через симуляцию работы

Кристиан называет уязвимой ту работу, которую можно измерить, отследить и оценить. Кристиан никогда не сталкивался с величием простой человеческой смекалки, не так ли? :)

Что, по мнению автора статьи, остается людям:

- Frontier research / deep tech – сложно придумать правильный экспримент
- Social coordination – там где нет одного ответа и нужно решать конфликт интересов (политика, регулирование, масштабные орг изменения)
- Meaning-makers – определение, что вообще стоит делать и что имеет значение (внимание, культура, коллективные смыслы)

Надо как-то увеличивать способность человека быть пирами (peers) для машин. Почему-то чаще всего авторы говорят об увеличении когнитивных способностей через AI-native tools, synthetic environments и в перспективе brain-computer interfaces. Так, ну ок, но это ведь не все способы :)

Государствам, 4 приоритета:

- Рынок переподготовки
- Поддержка моделей с открытым кодом, как противовес, который поддерживает конкурентоспособность, проверяемость и доступность исследований
- общедоступная инфраструктура достоверной информации
- создание среды, действительно благоприятной для создания новых стартапов и бизнес-экспериментов: налогообложение, иммиграция, предсказуемость регулирования, доступ к капиталу

Логика последнего – чтобы люди, которые готовы придумать новое и рисковать, такую возможность имели

#Slopconomy #Hollow_economy #Meaning_makers #Social_coordination #Missing_Junior_Loop #Codifiers_Curse #Alignment_Drift

〰️ Сигналы бытия