Malakhoverse

Книжные рецензии едва ли не самый любимый мной жанр и вдвойне приятно, когда появляются такие шедевры: пару дней назад в The Atlantic вышло эссе о «Колыбели для кошки» Воннегута, написанное Ноем Хоули (создателем, среди прочего, сериалов «Фарго» и «Легион»). Это что-то близкое к эталону того, каким может быть размышление о книге, через которое раскрывается жизнь автора, глобальная политика и экзистенциальная ситуация человечества. Написанное легко и даже с юмором, но без обесценивающей иронии и о максимально серьёзных вещах.

https://archive.ph/fNfIb

Очень устал я от своей нейроразнообразности — в прошлом году казалось, что мне удалось достичь внутреннего элайнмента, о чём я довольно много писал. И это будто бы работало — полтора года без серьёзных сбоев и это даже без фармакологии. Но очевидно я слишком расслабился и не заметил вовремя некоторые нехорошие процессы, усиливающиеся в моей голове в последние месяцы, что в итоге привело к весьма непростым ментальным, парасимпатическим и физическим состояниям в минувшие пять-шесть недель.

Не знаю, стоит ли писать об этом подробнее, но в целом всё это меня сильно расстроило и, выражаясь аккуратно, нарушило много важных и ценных для меня процессов. Так или иначе, будем считать, что отпуск окончен, и время попробовать вернуться к ежедневной трансляции.

Люблю, обнимаю, берегите себя.

«Империя ИИ»

Добрался до книги Карен Хао «Империя ИИ: мечты и кошмары в OpenAI Сэма Альтмана», книга вышла 20 мая и уже стала одной из наиболее обсуждаемых книг об ИИ этого года. Это и не удивительно, учитывая, что Хао совершенно блестящий журналист с беспрецедентным доступом к инсайдерской информации, а книга посвящена самому драматичному моменту в недавней истории ИИ — попытке отстранить Альтмана от руководства OpenAI в ноябре 2023, тому, как до этого дошло, и что означал провал этой попытки для будущего компании и всей индустрии (да и для самого искусственного интеллекта).

Хао очень критична к Альтману и явно сочувствует его оппонентам, как внутри компании, так и во вне. Хао выделяет три изначальных клана-фракции в OpenAI: хардкорные экспериментаторы (лидер — Суцкевер), сторонники безопасности (лидер — Амодей) и стартаперы (лидер — Брокман), и утверждает, что Альтман не просто пытался не всегда удачно балансировать между ними, а активно манипулировал всеми (например, говорил каждой фракции разные вещи), чтобы сконцентрировать максимум власти. История OpenAI, как её рассказывает Хао, это история эволюции в сторону всё большей закрытости, коммерциализации, и личного триумфа одного человека ценой отказа от изначально заявленных ценностей и миссии компании.

Опять же, Хао блестящий журналист и в том, что касается выуживания информации, реконструкции закулисной истории и создания повествования она очень сильна, но выступая в роли (в широком смысле) критического теоретика и морализатора она становится предсказуема и банальна — вещи, которые уже были написаны (в том числе и ей) тысячи раз: экологический след, цифровой колониализм, аутсорсинг маркировки данных низкооплачиваемым работникам в развивающихся странах, алгоритмическая предвзятость — весь набор клише. С учётом этого, закономерно, что и всю программу создания трансформативного искусственного интеллекта она считает лишь уловкой, риторическим приёмом, призванным помочь Альтману и другим ключевым игрокам заполучить больше денег и власти.

Поэтому, впечатление от книги двоякое: значительная её часть — это очень хорошая журналистская работа, действительно полезная для понимания индустрии, текущей расстановки сил и того как ведутся дела, но другая — не очень глубокая и несбалансированная критика, с явным поиском того, к чему ещё можно придраться. Что важнее, Хао будто бы игнорирует вариант, что ИИ может оказаться больше чем ширмой, что Альтман в главном может быть искренен, а дальнейшие достижения OpenAI и других лабораторий окажутся такими, на которые они рассчитывают, — и тогда, если принять такой вариант хотя бы в качестве гипотезы, картина становится совсем иной.

Karen Hao. Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI. Penguin Press, 2025.

Проект «Roots of Progress» ищет авторов для серии «Век интеллекта» — цикла статей / постов, посвящённых будущему влиянию ИИ на общество, от науки и образования до дейтинга и производства. Подробности здесь. Объём — 2,5-3 тысячи слов, платят $2 за слово, т.е. 5-6 тысяч долларов за пост / статью. Спонсирует это замечательное начинание OpenAI.

Я рекомендую обратить внимание на «Roots of Progress», это прекрасный пример того, как личный блог по интересам превращается в экспериментальную исследовательскую организацию и влиятельное нишевое медиа с огромным импактом.

Роб Харди о том, почему всем нужны манифесты

1. Истории, которые мы рассказываем о себе, других и мире, становятся самосбывающимися пророчествами.

2. Слишком многие из нас строят жизни, компании, будущее на зыбучих песках историй, которые больше нам не служат.

3. Самый глубокий дар человечества — не сырой интеллект, а наша способность мечтать, говорить и проживать новые истории.

4. Написание манифеста выкорчевывает старые истории и сажает семена новых нарративов, способных вернуть нас к жизни.

5. Выбор жить в новой истории, пусть даже несовершенно, — самое смелое, на что способен человек.

(исходный твит на английском)

Роб Харди — один из лучших специалистов по письменному сторителлингу в tpot, фокусирующий на написании манифестов для экспериментальных социальных и бизнес проектов (сабстак, твиттер).

Live stream finished (1 hour)

Live stream started

Сегодня в 20:00 по Москве проведём здесь эфир с моим другом интегральным психологом и lifelong-исследователем духовных традиций Дмитрием Лепешевым (а вот и его канал) о том, что всё связано и том как феномен взаимосвязанности раскрывается в современной науке, философских учениях и различных школах духовного поиска. А главное — обсудим значение всеобщей взаимосвязанности для преодоления кризиса одиночества, объективации и других недугов нашего времени.

Обратите внимание, в конце июня начинается новая лаба от AI Mindset ↑↑↑. Это один из лучших интенсивов для погружения в ИИ, доступных на русском языке.

AI mindset {automation lab}
переосмысляя автоматизацию. от инструментов к мышлению

У нас новости! мы запускаем новую Лабораторию Осознанной Автоматизации с AI.

Несколько лет мы ковыряли работу со знанием с разных сторон: начинали с заметок, копались в Obsidian графах, строили голосовые интерфейсы, перебрали, кажется, весь зоопарк ноу-кода. И все больше убеждались: узкое место не выбор «правильного» сервиса, а способность управлять вниманием. Куда утекают часы? Что отдаём машине, а что лучше вернуть себе? Большинство «связок» в Make или n8n рождают новый слой рутины вместо облегчения. Знакомо?

Новая лаба выросла ровно из этих наблюдений. Четыре недели будем разбирать задачи от первых принципов, отделять смысл от механики и собирать цепочки «сигнал → агент → результат», которые живут без нашего участия. Многие говорят об инструментах, но упускают главное – способ мышления. Настоящая трансформация начинается с переосмысления процессов, а не с выбора сервиса. Это снова про mindset, это снова про AI, но теперь через призму более структурированной и формальной программы.

Что вас ждет внутри:
🎓 новый подход с фокусом на мышлении и стратегии, а не обзоре инструментов;
👥 команда экспертов и гостевые практики от лидеров продуктовых и ai-first команд;
📰структурированная программа от базовых принципов к продвинутым сценариям;
🔃практический формат с живыми воркшопами, разборами кейсов и человеческим общением.

Узнать все подробности можно у нашего бота (он тоже участник лабы):

🤖 [Загляните в бота, чтобы узнать детали]

Стартуем 23 июня.

Будем рады вас видеть на новом потоке!

p.s. для тех, кто любит копнуть глубже...
и сперва досконально изучить всю концепцию — подробное описание философии и программы лаборатории есть на нашем сайте. Это для самостоятельного глубокого погружения... но честно? Быстрее и удобнее спросить всё у бота выше ⬆️

🤖AI Mindset

«Наука сложности, возможно, является первой современной наукой, которая преодолевает дисциплинарные границы. Явления, которые она исследует, а также модели и теории, которые она использует, свободно перемещаются между различными областями знания...

Целостная природа науки сложности соответствует взаимосвязанному характеру современного мира. Наука сложности будет необходима для всех будущих проектов, направленных на то, чтобы избежать окончательного планетарного упадка».

Из «The Complex world: An introduction to the foundations of complexity science» (Santa Fe Institute Press, 2024) Дэвида Кракауэра, президента Института Санта Фе, ведущего мирового центра исследований природы и поведения сложных систем.

Религия и науки: исторический обзор

Пятнадцатое видео и некоторые темы, как их выделил ИИ:

1. Понятия «наука» и «религия» не статичны. Их современные значения и сам «конфликт» между ними – результат длительного процесса, оформившегося лишь в XIX веке как часть тогдашних культурных войн.

2. Научное познание мира – относительно молодое явление. Религиозное же осмысление реальности сопровождает человечество, возможно, с момента возникновения самосознания.

3. Гипотеза Питера Харрисона: научная методология, с её акцентом на строгие методы и эксперименты, могла возникнуть как ответ на когнитивные последствия грехопадения, заставившие искать обходные пути для несовершенного познания.

4. Христианское «расколдовывание мира» – гипотеза, объясняющая возникновение науки в Европе. Вера в разумного Творца и интеллигибельность (познаваемость) Его творения человеческим разумом могла стать одной из ключевых предпосылок.

5. Хотя прикладные знания (техне) развивались везде, наука как уникальный способ познания мира зародилась в Западной Европе в раннее Новое время, что не умаляет вклада других культур.

6. «Чёрная легенда» о «тёмных веках» и подавлении науки религией – устаревший и неточный нарратив. Историки видят гораздо более нюансированное взаимодействие с разными формами и исходами.

7. Ренессанс (переоткрытие античности, новые перспективы) и Реформация (плюрализм мнений, личная ответственность в вопросах веры) стали ключевыми интеллектуальными сдвигами, подготовившими почву для научной революции.

8. Реформация, породив множество «истин» и подорвав единый авторитет, непреднамеренно запустила секуляризацию, создав запрос на нейтральное пространство для мирного сосуществования разных мировоззрений.

9. Средневековые университеты, с их автономией, преданностью интеллектуальному поиску и формированием учебных программ, создали необходимый институциональный задел для последующих культурных и научных прорывов.

10. Ранние деятели научной революции были глубоко верующими. Однако их фокус на механизмах мира способствовал распространению деизма – упрощенного представления о Боге как «конструкторе Вселенной».

11. Истинный конфликт возникает не с классическим богословием, где Бог – не причина среди причин, а основание самой возможности причинности, но с некоторыми более поздними моделями, в которых Бог конкурирует с научными объяснениями.

12. Для некоторых религий историко-критический анализ священных текстов и преданий в XIX веке стал более серьезным вызовом, чем открытия естественных наук, поскольку затронул самые основы их исторического самопонимания и достоверности.

https://www.youtube.com/watch?v=1Woez3j7q5k

Сейчас записал классное видео о религии и науке (уже загружается) и в качестве небольшого отступления отрефлексировал вот какую вещь — разницу в феноменологии между явлениями преимущественно биохимического и тонкоэнергетического контура.

Сегодня я спонтанно оказался в состоянии, напоминающем третью джхану, но в очень выраженном тонкоэнергетическом плане: это был опыт сильно отличающийся и от созерцательных переживаний, и от экстатических и тем более физически индуцированных состояний. Я могу это описать как волну тепла, но обладающую не температурой (но при этом теплом), а мягким энергетическим потенциалом, который возникая в теле растапливает блоки и несёт в себе сильный эмоциональный заряд. Очень светлое и ненасильственное взаимодействие, из которого создается переживание яркого счастья. Замечательное переживание, попробую с ним ещё поработать сегодня.

Самосовершенствующийся ИИ (почти) здесь

Ребята из Sakana AI, самой кавайной среди ведущих ИИ-лабораторий, вместе с партнёрами разработали новый инструмент, который назвали машина Дарвина-Гёделя (Darwin Gödel Machine). Это работающий пример ИИ, способного к самосовершенствования, хотя пока и ограниченного задачами кодирования. Причём они сделали это очень простым и умным способом.

В классическом подходе к созданию машины Гёделя, предложенным Юргеном Шмидхубером, ИИ должен был математически доказывать пользу каждого вносимого изменения, что пока оказалось нереализуемо на практике. К этому подходу в Sakana добавили эмпирическую ориентацию и эволюционную эвристику, имитирующую развитие эволюционного древа и естественный отбор.

По сути, выглядит так:

* Исходная версия DGM задействует одну из фронтирных моделей для анализа своего кода и разработке предложений по его улучшению.
* На основе этих предложений DGM создаёт своего эволюционного потомка.
* Этот потомок проходит тесты на бенчмарках, т.е. речь идёт об эмпирической, а не математической (как у Шмидхубера) проверке полезности изменений.
* Но, здесь нюанс, все потомки — включая тех, которые не показали себя лучше исходной версии — добавляются в архив, по сути, в разрастающееся эволюционное древо.
* Выбор версии DGM, на основе которой создаётся следующее поколение потомков, происходит по всему эволюционному древу.

Последнее очень важно, поскольку позволяется избегать ловушки локального оптимума, исследовать различные эволюционные пути и открывать неочевидные конвергенции спустя много поколений модели.

В их экспериментах модель таким образом улучшила свои показатели в бенчмарках SWE-bench с 20% до 50% и Polyglot с 14% до 31%, что очень впечатляет. Плюс, такая эволюционная оптимизация оказалась генерализируемой, решения найденные для работы с одним ИИ демонстрируют эффективность и при взаимодействии с другими.

Репорт по ссылке, код на GitHub'е.

Состояние психотерапии

«Эффективность психотерапии не улучшалась на протяжении последних сорока лет (Barkham & Lambert, 2021; Miller et al., 2013), а психотерапевты не демонстрируют последовательного профессионального роста с течением времени и накоплением опыта (Miller et al., 2013; Owen et al., 2016; T. J. Tracey et al., 2014, 2024). Вызывает обеспокоенность тот факт, что исследования указывают на возможное постепенное снижение результативности работы терапевтов с течением времени (Erekson et al., 2017; Goldberg, Rousmaniere, et al., 2016). Значительные усилия, время и финансовые ресурсы затрачиваются на обучение терапевтов различным терапевтическим подходам, несмотря на то что литература свидетельствует о незначительном влиянии такого обучения на результаты работы с клиентами (Wampold et al., 2017; Wampold & Imel, 2015; Webb et al., 2010). Опытные специалисты со временем становятся более уверенными в себе (Dawson, 2018; McMahon & Hevey, 2017), однако, как правило, не показывают лучших результатов по сравнению со студентами (Lambert & Ogles, 2004; Miller et al., 2018; Walfish et al., 2012; Wampold & Brown, 2005). Более того, опытные терапевты систематически переоценивают свои способности (Constantino et al., 2023; Hiatt & Hargrave, 1995; Parker & Waller, 2015; Walfish et al., 2012)».

Из свежего систематического обзора опубликованного в журнале «Psychotherapy» Американской психологической ассоциации.

Diamond, G., Wlodek, B., Arthey, S., & Parker, S. (2025). A systematic review of deliberate practice in psychotherapy: Definitions, operationalization, and preliminary outcomes. Psychotherapy, 62(2), 113–131.

Чтобы получать первоклассный результат в каком-то деле не нужно десять тысяч часов практики, вместо этого нужно контекстное окно в десять миллионов токенов.

Пузырь отрицания

Прекрасное наблюдение (твит):

«Люди говорят о "пузыре хайпа вокруг ИИ", но существует другой, огромный и всё разрастающийся "пузырь самоуспокоения относительно ИИ", который рано или поздно лопнет, и это будет иметь катастрофические последствия».

ИИ, будущее работы и переход от экспертности к мудрости

Важный программный текст Джо Хадсона, коуча Сэма Альтмана и других лидеров индустрии, «Интеллектуальный труд умирает — вот что грядет на смену». Только что опубликован в Every (тут под пэйволлом) :

«Всё наше общество построено на том, что знания — это дефицитный и драгоценный ресурс. Школьное образование, стандартизированные тесты, карьерные лифты Лиги Плюща, собеседования при приеме на работу, профили в LinkedIn — всё это механизмы для оценки, подтверждения и вознаграждения ваших знаний...

А теперь представьте мир, где всё это не имеет значения — подобно тому, как сегодня умение разводить огонь: иногда полезно, но по большей части излишне в мире электрических лампочек, центрального отопления и кухонных плит.
Каждому из нас знаком человек, которому многое сходит с рук, потому что он в чем-то хорош: разработчик, который пишет безупречный код, но подрывает моральный дух в команде; инвестиционный банкир, который утраивает поток сделок, но монополизирует все совещания, и так далее.

Десятилетиями выдающиеся знания или навыки служили своего рода защитным рвом для плохого поведения; люди лишь бормотали: "ну, такой уж он человек" — и старались сохранять мир. Но когда модель способна за считанные секунды составить резюме, выявить аномалию или оптимизировать рыночную стратегию — причём вежливо, — зачем и дальше платить "эмоциональный налог" за блестящего придурка (brilliant jerk)?

Однако вам не обязательно быть талантливым пустозвоном, чтобы ваши навыки оказались под угрозой вытеснения искусственным интеллектом. Рычаги влияния сместились: теперь важно не столько то, что вы умеете делать, сколько то, как вы себя при этом проявляете. Компетентность теперь — это лишь необходимый минимум.

И когда знания перестают быть дефицитом, что же сохраняет свою ценность? Мудрость. Ответы можно получить от ИИ, но чтобы ими воспользоваться, нужна мудрость.

Мудрость — это умение жить. Это сплав пережитых ошибок, переработанных временем и размышлениями. Её нельзя обрести наспех, её невозможно скопировать. Это воплощённый — то есть прочувствованный всем своим существом — опыт, внутренний ориентир».

Безопасность и процесс исцеления

Из сегодняшнего поста Дэниеля Торсона «Суть исцеления» (The Essence of Healing):

«Показатель того, что мы в безопасной ситуации — когда мы чувствуем себя достаточно защищёнными, чтобы признаться в своей незащищённости. Это и есть тот важнейший рубеж, за которым начинается подлинная безопасность.

Задумайтесь, как часто мы оказываемся в ситуациях — на работе, на встречах с людьми, даже в кругу семьи, где не принято проявлять уязвимость, — и вынуждены делать вид, что у нас всё "в порядке". В такой обстановке мы не просто ощущаем какую-то конкретную угрозу; наша уязвимость удваивается оттого, что мы не можем даже признать это отсутствие безопасности. Приходится притворяться, играть роль, скрывать истинные чувства, — поддерживая фасад, будто всё в порядке, когда это очевидно не так.

Подлинно безопасное пространство узнаётся тогда, когда мы наконец можем отбросить всякое притворство и дать волю словам, выразив, насколько незащищёнными, недостойными, напуганными или сломленными себя ощущаем. Способность сказать: "Я не чувствую себя здесь в безопасности", или "Мне сейчас до ужаса страшно", или "Я не доверяю происходящему" — вот верный признак подлинной безопасности».

Дэниел Торсон (Daniel Thorson) — одна из главных восходящих звёзд на сцене осознанности, неконвециональной терапии и светской духовности, в основном пишет в твиттере и substack'е.

Похоже, есть фундаментальная пропорция между собственной глубиной в её конкретных аспектах и способностью оценить величие других в этих же вопросах. Так, значимость многих авторов, которых я читал пятнадцать-двадцать лет назад, я начал действительно понимать только недавно: и эта значимость проистекает не из того, на кого они повлияли и не из самых красноречивых фрагментов их текстов, но скорее из едва ли уловимых нюансов, спрятанных между строк. Неординарный шаг, скромно помещённый в длинное рассуждение, или слегка другая формулировка, открывающая совершенно новые траектории мысли. Чтобы заметить такое требуется и внимательность, и неспешность, и та сама собственная глубина, из которой эти вещи становятся узнаваемы.

Конечно, это касается не только текстов, но и музыки и, подозреваю, любой формы искусства, а возможно и любой человеческой деятельности. И это с одной стороны приводит к некоторому смирению — поскольку по умолчанию стоит исходить из того, что есть масса вещей, которые я не в состоянии ни оценить, ни даже заметить прямо сейчас, — и в тоже время к оптимизму, ведь возможно, ответы которые я ищу, уже найдены, но я просто об этом ещё не знаю.

Неисчерпаемость мира, неисчерпаемость других, неисчерпаемость моей души.

Обнимаю.