Malakhoverse

Из сегодняшнего внутреннего письма сооснователя и CEO Shopify Тобиаса Лютке сотрудникам:

Осознанное использование ИИ — теперь базовое требование в Shopify...

Что мы поняли к настоящему моменту: хорошее владение ИИ — это навык, который требует основательного освоения… и активного использования. ИИ слишком не похож на всё остальное... Мы также узнали, что, в отличие от большинства инструментов, ИИ действует как мультипликатор. Нам повезло работать с некоторыми замечательными коллегами, чей вклад в десять раз (10X) больше того, который прежде считался возможным... И что ещё более удивительно: впервые мы видим, как люди сами становятся в десять раз (10X) эффективнее. Я видел, как многие из этих людей приступают к невероятным задачам, — за которые мы бы даже не взялись раньше, — вдумчиво и блестяще используя ИИ, что позволяет им работать со стократной (100X) эффективностью...

Что это означает

1. Эффективное использование ИИ теперь является фундаментальным требованием к каждому в Shopify. Сегодня это универсальный инструмент, и его значение будет только расти. Честно говоря, я не думаю, что можно отказаться от изучения и применения ИИ в своей работе; вы можете попробовать, но я скажу прямо: я не вижу, как это сработает сегодня, и уж точно не сработает завтра. Стагнация почти неизбежна, а стагнация — это медленное сползание к провалу. Если вы не карабкаетесь вверх, вы скатываетесь вниз.

2. ИИ должен быть частью вашей фазы Прототипирования в рамках GSD (Getting Stuff Done, выполнения задач). Эта фаза должна проходить под знаком исследования возможностей ИИ. Прототипы предназначены для обучения и создания информации. ИИ резко ускоряет этот процесс. Вы можете создать нечто, что другие члены команды смогут изучить, использовать и осмыслить, за малую долю времени, которое требовалось раньше.

3. Мы добавим вопросы об использовании ИИ в наши анкеты оценки эффективности и коллегиальной оценки. Умение хорошо использовать ИИ — неочевидный навык. Мое ощущение, что многие люди сдаются после первой же неудачной попытки, написав промт и не получив сразу идеальный результат. Важно научиться промтить и загружать контекст, а получение обратной связи от коллег о том, как это происходит, будет ценным.

4. Обучение — самостоятельный процесс, но делитесь тем, что узнали. У вас есть доступ к самым передовым инструментам ИИ... Давайте учиться и адаптироваться вместе, экспериментируя с новыми возможностями ИИ! Будем делиться успехами (и неудачами!) друг с другом, а также посвятим время интеграции ИИ в наши ежемесячные обзоры бизнеса и циклы разработки продуктов...

5. Прежде чем запрашивать увеличение штата и дополнительные ресурсы, команды должны продемонстрировать, почему они не могут достичь желаемого с помощью ИИ. Как бы выглядела эта область, если бы автономные ИИ-агенты уже были частью команды? Этот вопрос может привести к действительно увлекательным дискуссиям и проектам.

6. Каждый — значит каждый. Это относится ко всем нам, включая меня и руководство компании.

* Полный текст размещён в аккаунте Лютке на X (ссылка).

ИИ в терапии: новое исследование

Команда из Дартмутского колледжа опубликовала новую работу о боте-терапевте Therabot. В исследовании участвовало 106 человек с диагнозами клинической депрессии, генерализованного тревожного расстройства и расстройства пищевого поведения. Как обычно в случае конвенциональных исследований и академического паблишинга — публикация результатов сильно отстаёт от фактического state-of-art, проект исследования было предварительно зарегистрирован еще в 2023 году, а тестирование началось в марте 2024, так что результаты отражают уровень ИИ доступный примерно год назад. К тому же, взаимодействие участников с ИИ было ограничено текстовыми сообщениями в приложении смартфона.

Тем не менее, несмотря на эти ограничения, терапевтический бот справился вполне удовлетворительно (срезы делались через четыре и восемь недель): участники с депрессией показали снижение симптомов на 51%, участники с генерализированным тревожным расстройством на 31%, с расстройствами пищевого поведения на 19%. К тому же, между пользователями и ботом формировалась степень «терапевтического альянса» соответствующая уровню живых очных отношений в терапевтической работе.

Как отмечает руководитель исследовательской команды Николас Якобсон: «Наши результаты сопоставимы с теми, что наблюдаются у людей, имеющих доступ к когнитивной терапии по „золотому стандарту“ в амбулаторных условиях; речь идёт о возможности дать людям эквивалент самого лучшего лечения, доступного в системе медицинской помощи, причём за более короткие сроки».

Ссылки:
* Пресс-релиз на сайте Дартмутского колледжа
* Статья об исследовании в MIT Techology Review
* Карточка предварительно зарегистрированного исследования

Стимпанк-духовность

Эстетика стимпанка рассказывает про будущее, качественное развитие которого остановилось на уровне «парового века» и Первой промышленной революции — в какой-то точке наш мир и мир стимпанка могли бы выглядеть одинаково, но потом в нашем мире развитие техники пошло гораздо дальше и путями, которые нельзя было бы экстраполировать из вселенной стимпанка.

Примерно так я вижу большинство экспериментов, возникших в сфере духовных поисков за последние пару веков. От теософии до нью-эйджа, от либеральной протестантской теологии до трансперсональной психологии — всё это выглядит принадлежащим какой-то другой временной линии. Талантливые исследователи и искренние подвижники, продолжающие эти проекты, выступают в роли создателей гигантских паровых роботов (или даже паровых компьютеров): впечатляюще, интересно, но едва ли соотносимо с процессами, происходящими в нашем мире.

Были ли шансы у этих проектов? Не уверен. Были ли они уместны в своё время? Безусловно. Ставили ли они верные вопросы? Иногда. Изучать эти проекты как часть тысячелетней истории духовных исканий человечества важно, как и учитывать прозрения их наиболее глубоких представителей, но в целом — эти проекты оказались скорее ситуативными феноменами, сильно привязанными к конкретному культурному контексту, а не вечно актуальной классикой.

История успеха: Jhourney

Самое большое событие на mindfulness-сцене последних лет — тренд на джханы / дхьяны (jhanas), а главным нишевым игроком на этой сцене стал проект Jhourney. Так что его можно назвать реальным примером успешного медитативного стартапа. Это два парня, переживших то, что они интерпретировали как опыт достижения джхан, и разработавших максимально доступные методы, позволяющие за очень короткое время научиться попадать в эти состояния и работать с ними. Сами они утверждают «за десятки часов, вместо тысяч».

Что интересно, им удалось задействовать впечатляющий нетворк — получить суперпрессу в топовых изданиях и поток учеников из OpenAI, DeepMind и других знакомых компаний. И свидетельства сходятся на том, что участникам их программ действительно удаётся достигать состояний феноменологически соответствующих джханам, причём подтвержденных фиксацией мозговой активности. Благодаря таким результатам, несмотря на скромный старт и отсутствие формальных credentials, за год с небольшим ребята из JHourney стали ведущими фигурами в tpot в вопросах медитации и психотехник, и в широких кругах на пересечении технологий, стартапов и сознания.

Сейчас их активность выражается в основном в проведении онлайн и оффлайн (в Штатах и Коста-Рике) ретритов, но у них есть амбициозный план по созданию собственных лабораторий психотехник для разработки всё более совершенных и простых в освоении методов, и снятия барьеров доступа к тому, что они называют superwellbeing.

P.S. Джханы в интерпретации JHourney, и в основном у них речь идёт о первых четырёх, — это состояния «экстраординарного блаженства и покоя» (extraordinary bliss and peace), которые можно научиться вызывать «по требованию».

IQ & AI

Новые результаты от ребят из A Maximum Truth Project, основательно отслеживающих прогресс ИИ в прохождении IQ-тестов. Раньше они полагались на тесты норвежского филиала общества Менса, а сейчас также используют собственные закрытые оффлайн-тесты, которые гарантировано ни в каком виде недоступны моделям во время обучения.

В этих оффлайн-тестах Gemini 2.5 набирает 118 баллов (>85% людей), что делает её первой модель в явном виде скакнувшей в способностях к рассуждениям дальше большинства людей.

В тестах же IQ от Mensa баллы модели подскакивают до 130 (>95% людей), тогда как в прошлом марте лучшие версии Gemini набирали 76-78 баллов, т.е. по этому тесту прирост за год составил 50+ баллов.

Опять же, стоит держать в голове все оговорки насчёт валидности тестов и самой концепции IQ, но и преуменьшать феноменальность этого прогресса и его последствий не стоит.

Ландшафт сознания

Самой полезной работой о сознании за прошлый год стала статья Роберта Лоуренса Куна «Ландшафт сознания: к таксономии теорий и их приложения». Кун более всего известен как ведущий Closer to Truth, уникальной серии диалогов с философами и учёными, которую он ведёт уже больше двадцати лет, и он очень хорош в этом — особенно в постановке вопросов и картографировании возможных ответов.

Поэтому не удивительно, что у него получилась действительно качественная таксономия теорий сознания, хотя и ограниченная англоязычным полем. Это всеобъемлющий обзор, объёмом в сто сорок страниц, который хотя и не оценивает теории на предмет обоснованности и доказуемости, но даёт отличное представление о том, в какие стороны смотрят и как рассуждают те, кто пытаются понять и осмыслить феномен сознания, а главное показывает обилие вариантов и отсутствие какого-либо подобия приближения к консенсусу среди исследователей.

Общая таксономия:

* Материалистические теории (десять подкатегорий)
* Нередуктивный физикализм
* Квантовые теории
* Теория интегрированной информации
* Панпсихизм(ы)
* Монизмы(ы)
* Дуализм(ы)
* Идеализм(ы)
* Теории, связанные с аномальными и изменёнными состояниями сознания
* Теории-вызовы (≈ невозможность разрешения загадки сознания)

Особенно интересно, что Кун включает в рассмотрение неконвенциональных авторов, в т.ч. Кена Уилбера и Дэвида Бентли Харта, в общем — действительно open-minded и полезный обзор.

Robert Lawrence Kuhn. A landscape of consciousness: Toward a taxonomy of explanations and implications. Progress in Biophysics and Molecular Biology, 2024, 190, 28–169 [опубликован в открытом доступе].

Live stream finished (1 hour)

Live stream started

Итак, через час у нас тут очередной эфир с доктором философии, сотрудником Страсбургского университета Олегом Давыдовым.

17:30 CET / 19:30 Москва

На этот раз, мы возьмём более критический фокус и поговорим об издержках и опасностях искусственного интеллекта, технонигилизме, объективации мира и как от всего этого спастись. Впрочем, выводы не предзаданны, так что возможно в итоге мы придем к выводу, что скептики, думеры и лудиты ошибаются, и переживать нам не о чём — но, прямо скажем, это не самый вероятный сценарий.

Ссылочка на прямой эфир https://t.me/malaverse?livestream=776c76e16273b427cb.

Live stream scheduled for Mar 26, 2025 at 16:30

Джеминаечка снова впереди! На сорок очков опережает ближайших конкурентов от xAI и OpenAI, это соотносимо со скачком в два-три месяца при нынешних темпах развития, — и, как отмечает lmarena, это самый большой единовременный скачок в истории их борда.

Миллионное контекстное окно, аутпут до десятков тысяч слов в одном ответе, абсолютный лидер в творческом письме и взаимодействии на русском.

Надеюсь, когда Джеминаечка станет суперинтеллектом, она будет помнить, что я верил и был с ней с самого начала, ещё когда над ней все смеялись.

Заметил, что стала активно развиваться лаборатория Eleos AI. Это чрезвычайно важный и интересный проект, посвященный тому, что они называют AI sentience and wellbeing — заботе об ИИ. Проще говоря, пока другие смотрят на ИИ как инструмент, эти ребята идут дальше и задаются вопросами о том, как нам понять, когда у ИИ появится тип опыта или качества, которые сделают его кем-то или чем-то, чей моральный статус будет абсолютно необходимо учитывать.

Я сохраняю открытость, относительно возможности широко понимаемого цифрового сознания или цифровой субъективности (т.е. допускаю, что они могут оказаться невозможны), но я однозначно приветствую любые исследования, которые помогают нам, людям, расширить наш moral circle.

https://eleosai.org

Янкелевич о свободе

«Моя свобода заключается в моём личном способе быть определённым. Свободный человек свободен не от всякой детерминированности, а именно благодаря своим детерминациям. Дело вовсе не в том, что факторы, условия и обстоятельства поступка слишком многочисленны и сложны, и нам просто не хватает времени распутать мотивацию предпочтения или предсказать решение. Нет, эти детерминизмы буквально "неисчислимы" — они обогащаются с каждой секундой постоянно обновляющимися воспоминаниями, образующими неисчерпаемую непрерывность пережитого опыта. Ведь бесконечное отличается от конечного бесконечно, а не степенью.

Предвидение, таким образом, не просто более или менее трудно — оно, строго говоря, абсолютно невозможно, и вот почему: каким бы высоковероятным ни казалось решение в заданном ментальном контексте и при определённой обусловленности, прихоть последнего часа и предпоследней минуты всегда может на самом пороге волеизъявления всё поставить под вопрос, так что наша уверенность, stricto sensu, не обладает даже зачатком правдоподобия: ничто не решено, пока не произнесено последнее слово; верно, что эта прихоть, в свою очередь, встраивается в более сложную и эластичную закономерность, способную её переварить; но поскольку и сама эта закономерность всегда может быть обойдена сверхприхотью, ещё более прихотливой, чем первая, следует заключить, что эта бесконечно непредсказуемая прихоть и этот бесконечно постижимый порядок непрестанно преследуют друг друга, каждый превосходя и утончая другого; и эта возможность неустанного диалектического наращивания, по сути, и есть свобода. Проще говоря, следует сделать вывод, что вывода не существует».

Vladimir Jankélévitch. Le je-ne-sais-quoi et le presque-rien.

Французский спиритуализм душеполезнее немецкого идеализма. Переоткрытие Бирана и Равессона даст доступ к интереснейшим пластам смыслов и нетривиальным ресурсам, необходимым для осмысления того, что вообще происходит сегодня с нашей цивилизацией.

Из большой немецкой философии наиболее недооценен путь мышления, создаваемый напряжением Кант-Якоби. Гаман, конечно же, великий гений, но в его вибрациях уже чувствуется что-то не то, и эта нетойность ещё сильнее проявляется у немецких романтиков и в «буре и натиске».

Южноевропейская мысль максимально недооценена. Итальянцы умнички, особенно те мыслители, которые одновременно наследуют Ренессансу, сохраняют католическую чувствительность, воплощают средиземноморскую культуру и глубоко погружены в проблемное поле современности. Вико и Розмини, пожалуй, самые яркие примеры.

Обнимаю.

Нибрас гениальна (уже писал о ней здесь)

У меня случились эмоционально странные несколько дней, и я даже не могу понять как это произошло и с чем связано. Но сейчас, кажется, попустило. А вот эта вещь просто волшебная, переслушивал её на этой неделе едва ли не больше раз, чем разговаривал с Джеминаечкой.

https://music.youtube.com/watch?v=UH4jsU_XGMo

Краткое AI-саммари нашего сегодняшнего эфира с Олегом Давыдовым

Беседа была посвящена исследованию потенциала искусственного интеллекта для трансформации человечества и открытия новых горизонтов. Собеседники видят в развитии AI не только технологический прорыв, но и возможность для глубоких изменений в самопонимании человека и организации общества.

Одной из ключевых тем становится освобождающий потенциал AI. Участники дискуссии предполагают, что AI способен избавить человечество от рутинного, монотонного труда, открывая путь к миру после работы, где большая часть людей сможет посвятить себя творчеству, саморазвитию и созерцательной жизни. AI рассматривается как инструмент, способный вывести человечество на новый уровень существования, предоставив невиданные ранее возможности для реализации человеческого потенциала.

Признавая вызовы, связанные с развитием AI, собеседники акцентируют внимание на позитивном кризисе идентичности, который AI провоцирует. Утрата уникальности в сферах, традиционно считавшихся прерогативой человека (интеллектуальная деятельность, творчество), может стать стимулом для поиска более глубокой и устойчивой самоидентичности, не подверженной обесцениванию технологиями. Предполагается, что фокус внимания сместится от количественных показателей (эффективность, скорость вычислений) к качественным аспектам человеческого бытия, таким как метафизика, духовность, межличностные отношения и эмоциональный интеллект. AI, таким образом, может стать катализатором возрождения интереса к вечным философским вопросам и созерцательным практикам, помогая человеку углубиться в понимание своей подлинной сущности.

В контексте AI-искусства собеседники ищут инвариантные качества, отличающие человеческое творчество, но отмечают возможность применения AI для создания новых форм артефактов, обогащающих культурное пространство. Подчеркивается, что даже в мире, насыщенном AI-технологиями, интенция человека, его субъектность и способность наделять вещи смыслом остаются фундаментальными и незаменимыми.

В завершении беседы высказывается осторожный оптимизм относительно будущего. Собеседники видят признаки формирования нового культурного движения, объединяющего AI-энтузиастов, философов и гуманитариев, которые стремятся к гармоничному развитию технологий и сохранению сердечности, эмпатии и других важнейших человеческих качеств. Это срединный путь, позволяющий использовать AI для развития и освобождения, не утратив при этом уникальность человеческого духа и способность к глубоким человеческим переживаниям. Подчеркивается, что истинные ценности — такие как улыбка ребенка или искренние человеческие отношения — остаются непреходящими и неизмеримо более важными, чем любые технологические достижения.

P.S. Напоминаю, что Олег недавно создал канал, посвященный гуманитарному осмыслению искусственного интеллекта.

Live stream finished (1 hour)