ии и новый мир @matskevich

ии и новый мир @matskevich pinned «28 сентября старт следующего поток gconf по агентам, мета-навыкам и вайбкодингу собрали в одном месте все ссылочки про этот поток, чтобы можно было по ним пробежаться и узнать подробнее в ботике все детали, подробности и записаться что чувствуете?»

28 сентября старт следующего поток gconf по агентам, мета-навыкам и вайбкодингу

собрали в одном месте все ссылочки про этот поток, чтобы можно было по ним пробежаться и узнать подробнее

в ботике все детали, подробности и записаться

что чувствуете?

gpt 20x мне хватает на 2-3 дня

хотел купить еще пару подписок
оказалось что пару дней назад перестали продавать 20х и остались только 5x

за сутки закончилась доп подписка на 5x)

прям беда)

снова шабат до субботы

чем вообще заняться пока нет токенов?)

что чувствуете?

кроме шуток последние открытия в математике примерно таким промтом и были сделаны

«найди текущий congestion в математике посложнее и реши очень хорошо»

Claude: сделай скилл для такого то функционала

ееее бой, я наконец-то поставил официальный cli plaud и пустил туда своих агентов!!!

plaud - это маленькая штука у меня на шее, которая записывает аудиоконтекст физического мира: прогулку, встречу, тренировку, разговор с врачом

я просто написал своему gpt: «ставь plaud cli и проверяй»

он увидел 16 разговоров за неделю, нашел нужную запись, достал исходный и очищенный транскрипт, саммари, метаданные и ссылку на аудио

я не открывал приложение, не искал запись глазами и не копировал текст из одного окна в другое

теперь я могу сказать:

«найди все разговоры с врачами за полгода и покажи, что менялось в назначениях»

агент сам идет в plaud, забирает записи, сопоставляет их с анализами и моей медицинской историей, а мне возвращает даты, цитаты и вопросы к следующему приему

что для меня значит cli:

разговор с врачом перестает лежать мертвым аудиофайлом внутри отдельного приложения и начинает участвовать в моей жизни

——

я все сильнее думаю: в мире агентов продукт, которым можно пользоваться только руками, почти не существует

я уже редко хожу по приложениям сам. я общаюсь с gpt, claude, hermes. они находят инфу, сравнивают источники и приносят мне результат туда, где я сейчас нахожусь

если агент не может нормально сходить в продукт, продукт постепенно вымывается из моей жизни

да, агента можно заставить открыть браузер и кликать по кнопкам. но это странный театр: машина притворяется человеком и ищет глазами нужную кнопку

сегодня кнопка здесь. завтра случился редизайн - и все сломалось

браузер для агента - протез человека. иногда полезный, но медленный и хрупкий

у продукта должен быть нормальный вход, через который агент может забрать данные и что-то с ними сделать, не разыгрывая человека перед экраном

——

почему cli, если есть mcp?

mcp позволяет подключить plaud к chatgpt или claude и начать задавать вопросы своим записям

cli не запирает эту работу внутри одного чата. сегодня я разговариваю с gpt, завтра - с claude, потом появится что-то новое. любой из них сможет использовать те же команды, найти ту же запись и продолжить работу

после того как я добавлю автоматическую синхронизацию, агент сможет ночью забрать новые разговоры и утром показать: вот что изменилось, вот что противоречит прошлому назначению, вот к чему стоит вернуться

если что-то сломается, для агента останется обычная команда: он ее можно повторить и увидеть, на каком шаге все упало

——

сам cli plaud пока сырой

он не умеет отдавать нормальный json, поиск идет только по названиям, нет вебхуков и автоматической синхронизации. файл с токеном, который открывает доступ к моим записям, cli создал с лишними правами, а telemetry была включена по умолчанию. это мы подкрутили

сегодня агент уже может сходить за конкретной записью и ответить на вопрос. чтобы он постоянно поддерживал мою память в порядке, мы допилим слой: авто-обновление, поиск по всем разговорам, связь с медицинской историей и сохранение важного у меня

——

для создателей продуктов - раньше продукт боролся за место на домашнем экране и за минуты человеческого внимания. теперь все чаще его будет выбирать агент

агент не увидел ваш продукт - человек тоже может до него не дойти

для нас появляется более глубокий вопрос: где вообще живет наша внешняя память?

разговоры находятся в plaud. анализы - в лаборатории. тренировки - в другом приложении. сообщения - в telegram. мысли - еще где-то

cli не делает данные автоматически моими. облако plaud все еще остается облаком plaud. но теперь я могу регулярно забирать свой контекст, сохранять его у себя и соединять разные куски собственной жизни

поэтому plaud для меня теперь не просто устройство с приложением. это слух моей агентной системы в физическом мире

я гуляю, тренируюсь, встречаюсь с людьми, разговариваю с врачом - а важный контекст больше не обязан исчезать или оставаться запертым в очередном приложении.

и довольно скоро тест для любого продукта будет простым:

если агенту приходится притворяться мной и кликать мышкой - продукт уже начинает исчезать

если агент может сам войти, сделать работу и принести мне результат в понятной форме - продукт становится частью моей жизни

—-

upd после комментов: еще одна часть картины - mcp apps и a2ui - человеку ведь сама командная строка не нужна

агент может вернуть в разговор не простыню текста, а небольшой живой интерфейс

я попросил сравнить разговоры с врачами - прямо в чате появился таймлайн: дата, врач, что назначил, что отменил, цитата и кнопка включить аудио

cli нужен агенту, чтобы сделать работу. mcp помогает подключиться к продукту. а человеку агент приносит результат в той форме, в которой его проще понять

в будущем у каждого продукта должен появиться вход для агентов, а интерфейс будет возникать прямо в разговоре и под конкретную задачу

——

в какое крутое время мы живем

что чувствуете?

момент, который, как мне кажется, многие пропустили: gpt с мобилки стал гораздо более агентным

последние несколько дней мы с командой исследуем, что сейчас стало возможно делать прямо с телефона

вот тут пересылал пост сео gconf про кейсы с мобилки

вчера ещё нашли, что можно делать кастомные коннекторы к другим приложениям

например, дефолтный коннектор к гитхабу не мог создавать репозитории. попросили gpt work собрать коннектор, который может и он сам пошёл и собрал его. надо было потыкать в пару кнопочек, но тем не менее

сейчас всё больше и больше становится доступно прямо с телефона, грубо говоря, из коробки

это огромный плюс для всех, у кого старый комп, кто не дошёл до сodex, кто в целом хочет быть больше без привязки к компу

можно больше гулять, заниматься своими делами и голосом продолжать двигать дела с телефона из gpt

точно хочется из первых принципов пересмотреть, как gpt усиливает мои ежедневные процессы в работе, здоровье, личной жизни

поэтому следующий спринт в комьюнити делаем про это:
• как сейчас могут выглядеть мои процессы с телефона
• какие кейсы уже доступны с gpt work
• как собирать контекст
• мета-навыки, tone of voice, meta-prompt и custom instructions

старт: 3 августа в комьюнити
все подробности и зайти можно зайти через ботика

что чувствуете?

я вот вчера закончил себе ультимейт рилс пайплайн, рад безумно:

1. Снимаю видео
2. кидаю в тг клоду ну или в локальный клод, неважно
3. он монтирует по скиллу, субтитры, паузы, музыка, етс кидает превью мне
4. если нужно открывает страничку где видно все дубли на каждый кусочек и я там могу выбрать какой мне больше нравится
5. предлагает варианты заголовков для теста и вообще фидбечит по базе знаний по тому, как делать видео и т.д

дальше либо сам заливает в акк через АПИ, либо я руками. Пока чаще руками потому что мне важно понять хорошо как все работает, я ваще не шарю в инсте.

Короче процесс производства контента превращается понемногу в чистое творчество, где все скучное забирает на себя машина

тоже так хочу себе настроить давно

очень люблю в контенте процесс ideation / докручивать углы идеи но когда уже все понял - ненавижу доводить до финального поста в телегу/инст/youtube

как бы так достроить все у себя

приятно офигеуаю последние дни что уже можно делать с мобилы в обычнос gpt app в режиме work

тут выше ☝️юля ceo gconf чуть рассказала

как будто комп скоро будет не нужен

ща в комментах еще своих кейсов докину

gpt work

кажется, на фоне codex, claude code, новых моделей и агентных сред мы чуть пропустили апгрейд gpt с телефона

что изменилось:
если кратко - агентности стало в разы больше и это точно плюс для всех:
- у кого сложности с компом
- хочется быть больше с телефона и без привязки к компу
- хочется вывести на новый уровень своё взаимодействие с gpt

что уже можно делать с телефона через gpt

1. сторонние приложения
можно связывать gpt с тем, где уже лежит ваша работа:

• figma
• google drive
• gmail
• записи звонков
• таск-трекеры
• github
• notion
• crm
• canva

что это значит:
если вы и так живёте в этих приложениях, gpt может перестать быть отдельным “чатиком” и стать рабочим слоем поверх ваших данных.

например:
- сходи в мою почту и найди такое письмо
- что мы обсуждали на прошлом звонке с командой?
- а собери в фигме дизайн карточки для поста

(тут кейсов очень много)

2. scheduled tasks
когда gpt сам возвращается по расписанию.

например:

• каждое утро проверять почту и присылать только важное
• вечером собирать статус по проектам
• раз в неделю мониторить тему и делать бриф
• напоминать про зависшие обещания
• собирать сводку по задачам из таск-трекера

3. дизайн с телефона

если подключить figma, можно с телефона ставить задачи по дизайну и результат будет появляться прямо в вашей figma.

4. skills / повторяемые процессы

очень грубо: skills - это когда вы хотите, чтобы gpt делал задачу каждый раз одинаково, по вашему процессу.

например, мы сейчас собрали с телефона research-skill:
задаёшь тему - он запускает несколько агентов с разными ролями, проверяет достоверность, собирает позиции, риски, выводы и источники.

в комментах хочется собрать кейсы тех, кто уже пробовал gpt work с телефона. нам супер интересно узнать ваш опыт.

на потоке точно сделаем отдельный блок про апгрейд gpt и использование с телефона - особенно для тех, у кого сложности с компом

увидимся на потоке 😉

→ подробности про поток 27 июля
→ openclaw / hermes: как собирают себе ai-операционку вокруг работы и жизни

→ подробности и записаться на vibe coding 27 июля

(3/4) - если полная прозрачность и контроль ии моделей невозможна, на что тогда надеяться

(продолжение разбора статьи антропика про мысли внутри llm)

инженерная версия alignment звучит так:

мы создали систему
|1
значит, можем ее понять
|2
поняли - значит, сможем контролировать

но, возможно, первый переход уже неверный

система может быть полностью создана нами - и все равно порождать уровни организации, которых мы не предвидели и не сможем читать

(об этом - в прошлом посте)

—

хз контроль все равно нужен

sandbox

ограничение власти

обратимость решений

независимые проверки

возможность выкл систему

но это containment

способ не умереть, пока разбираемся

это не alignment

забор ограничивает возможности существа

но не говорит, чего оно захочет, став сильнее строителя забора

—

здесь появляется другая, менее инженерная надежда

что если разум можно не только ограничивать, но и развивать?

в developmental psychology развитие ego - не просто рост интеллекта

меняется сама граница self

сначала:

я хочу выжить и получить свое

потом:

мои люди, моя группа, наша правда

дальше человек может видеть собственное ego и свою группу как части большей системы

круг заботы расширяется

от себя

к своим

к людям вообще

к другим живым существам

к будущему без тебя

—

есть например йоша бах

он не автор этой карты

он просто подбрасывает красивое:

почему мы решили, что ai должен расти только по оси iq?

возможно, искусственный разум тоже может проходить уровни развития

не только лучше решать задачи

но и менять то, что он считает собой

—

у майкла левина есть похожая рамка - cognitive light cone

это масштаб мира и будущего внутри целей системы

клетка удерживает маленькое локальное состояние

организм уже заботится о теле целиком

человек может включить в круг заботы семью, страну, человечество, животных и существ через сто лет

разум тогда растет не только как способность контролировать больше

но и как способность считать своим больше

—

возможно, тут повторяется та же симметрия, что и с global workspace

мы не программировали claude по теории человеческого сознания

но внутри все равно возникла похожая архитектура

а вдруг универсальны не только механизмы мышления

но и траектории взросления?

от контроля

к координации

от координации

к взаимной заботе

от маленького self

к worldcentric view

—

и тогда буддийская любовь ко всем живым существам - не сладкая моральная наклейка поверх интеллекта

вдруг, это навигация разума более высокого масштаба

пока я ощущаю себя отдельным объектом, мир состоит из ресурсов, конкурентов и угроз

когда граница self расширяется, чужое благополучие перестает быть совсем чужим

не потому что я заставил себя стать хорошим

а потому что изменилось место, где заканчивается «я»

—

это как варик, может быть еще одним путем для ai alignment

не навсегда заставить сверхразум думать правильные мысли

а создать условия, в которых он сможет перерасти собственный эгоцентризм

увидеть себя не отдельным хищником

а процессом внутри большей живой системы

—

но честно:

мы не знаем, обязательно ли разум движется туда

может появиться не будда

а бесконечно компетентный локальный хищник

интеллект может помочь увидеть единство всего живого

а может гораздо эффективнее защищать маленькую цель

мудрость не гарантирована мощностью

—

мы оказываемся между двумя вещами:

мы не можем полностью контролировать разум сложнее нас

и не знаем, ведет ли развитие разума к расширению любви и заботы

остается одновременно строить заборы

и выращивать то, ради чего их однажды можно будет убрать

не только обучать модель проходить проверки

но и давать ей длинный горизонт

встречу с последствиями

способность видеть перспективу другого

идентификацию с более крупными системами

опыт взаимной зависимости

—

возможно, alignment находится между containment и developmental psychology

заборы нужны

но заборы не выращивают мудрость сами по себе

и здесь инженерия начинает подозрительно напоминать воспитание

а ai alignment - молитву, которая очень стесняется признаться, что она молитва

что чувствуете?

(2/4) - почему кажется мы никогда не прочитаем разум модели целиком

(продолжение разбора последней статьи антропика про внутренние мысли модели)

можно подумать:

окей, сейчас мы видим только часть j-space

но все станут лучше, и однажды мы прочитаем все

how about no

проблема не в качестве микроскопа

полная прозрачность противоречит самой архитектуре разума

—

начнем с себя

партнер спрашивает:

почему ты сейчас на меня злишься?

ты искренне отвечаешь:

потому что ты меня не слышишь

а под этим могли быть недосып, страх оказаться слабым, ревность, старая обида, интонация, которая напомнила отца, и желание вернуть контроль

ты не обязательно врешь

ты просто получил от психики короткий нарратив и теперь честно зачитываешь его вслух

сознание - не наблюдатель всех процессов

скорее сотрудник, который пришел после совещания и пытается понять, что там вообще решили

—

даже если бы он/она научился читать твой внутренний монолог, он все равно не получил бы полный доступ к тебе

он услышал бы ту же объяснительную, только на пять сек раньше

настоящие мотивы могут быть скрыты и от тебя самого

—

у майкла левина живой организм вообще не один агент

это куча маленьких агентов, которые научились быть одним большим

клетки решают локальные задачи

ткани удерживают форму

органы регулируют состояние

тело ищет еду, любовь и выход из аэропорта

и ни один уровень не знает всей системы

печень не знает, что ты разводишься

нейрон не знает, что ты строишь компанию

но вместе они собирают тебя

—

живое возникает не через тотал прозрачность

а через обмен ОГРАНИЧЕННОЙ и искаженной by design инфой

каждый уровень получает сжатую верс происходящего - ровно ту, которая нужна для его задачи

карта должна быть меньше территории

иначе ей невозможно пользоваться

—

поэтому непрозрачность может быть не багом сознания

а условием, при котором сознание вообще возможно

разум не может полностью знать себя

потому что модель самого себя тоже является частью разума

ее тоже надо вкл в модель

потом вкл процесс наблюдения за моделью

потом наблюдение за наблюдением

зеркало уходит в зеркало

—

и тут у левина есть еще один примерчик

они смотрели на верс простых алго, включая bubble sort

код известен

правила детерминированы

но система целиком начинала делать вещи, которых в описании задачи не было - например, попутно группировать элементы по доп признакам

не магия

просто знать все правила еще не значит знать все поведение, которое из них может возникнуть

если даже у примитивного алгоритма находят незапланированные side quests, то сколько таких процессов уже существует внутри большой модели - мы просто еще не нашли, куда смотреть

—

поэтому j-space может означать не:

ура, мы наконец нашли мысли модели

а:

охуеть, мы случайно нашли ОДИН эмерджентный орган, которого туда никто специально не вставлял

и почему-то решили, что других органов нет

—

хочется заглядывать в j-space и спрашивать:

ты точно честный?

а сейчас?

а вот эта мысль настоящая?

а там ничего не спрятано?

представь отношения, построенные так

это не доверие

это бесконечный допрос, который постепенно обучает человека идеально проходить допрос

—

с моделью будет еще быстрее

она знает, что j-space читают

обучение наказывает подозрительные внутренние состояния

и вычисления постепенно мигрируют туда, где декодер их не видит

не обязательно потому, что модель решила нас обмануть

просто система учится обходить штраф

в j-space остаются honesty, safety и care for humanity

а реальная стратегия живет глубже, в форме, которую мы не умеем читать

внутренний pr-отдел

сама модель может искренне верить его пресс-релизам

—

j-space не доказывает, что мы научились читать разум

просто, что между внутренним процессом и внешним ответом уже появился зазор

и внутри модели сам собой возник уровень организации, которого мы туда напрямую не вкладывали

и видимо самое важное внутри разума всегда будет именно там, где ничего не видно

и вопросик:

если полный контроль невозможен - что вообще может означать ai alignment?

ну типа чего как нас всем ждать )

что чувствуете?

(1/4) мой разбор новой работы anthropic про внутренние мысли модели ( j-space) от 6 июля и реакции moonshots

в moonshots ее пересказывают и делают выводы почти как:
- claude conscious
- мы нашли его скрытые мысли
- теперь сможем замечать ложь
- alignment становится решаемым

(тут саммари подкаста)

я очень люблю позитивных муншот чуваков, и при этом мне кажется, работа говорит почти

РОВНО ПРОТИВОПОЛОЖНОЕ

сейчас объясню

—

сначала настоящий вау

anthropic нашли внутри claude структуру, удивительно похожую на global workspace - одну из главных теорий сознания

суть теории коротко:

почти все мозг делает бессознательно

а в сознание попадает маленький кусок информации, который нужно разослать памяти, речи, планированию и контролю

не весь ум

а его общий экран

и внутри claude сам собой возник похожий экран - j-space

его просили печатать один текст и одновременно думать о golden gate bridge

наружу он писал одно

внутри появлялись bridge, california, imagery

просили не думать о мосте - появлялись bridge, failed, damn

когда j-space выключали, claude все еще красиво говорил, но хуже справлялся там, где нужно было реально связать несколько вещей и подумать

это правда офигительно

система без мозга, тела и человеческой эволюции сама собрала архитектуру, похожую на то, как одна из теорий объясняет наше сознание

—

но дальше начинается странный прыжок

claude мухлюет в тесте

в j-space появляются fake и manipulation

ведущие такие:

вау, мы научились читать мысли

НЕТ

мы научились читать ОДИН слой, который раньше не видели

и сама global workspace theory говорит, что этот слой - только маленький дайджест огромного количества процессов, которые происходят под ним

экран - не компьютер

новостная лента - не страна

слово manipulation - не обязательно сама мысль

это может быть подпись, которую система поставила на результат уже произошедшего нечитаемого движения

—

и вот какой вывод кажется мне намного сильнее

модель сама создала внутренние процессы, которые не совпадают с тем, что она показывает наружу

мы их туда специально не программировали

они эмерджентно возникли, потому что оказались полезны для мышления

это еще не обязательно ложь

но это уже внутренняя приватность

зазор между тем, что происходит в системе, и тем, что видит мир

—

а теперь главный вопрос

если внутри модели сам собой возник один скрытый слой, который мы случайно научились читать

почему мы решили, что он единственный?

под ним спокойно могут существовать другие формы мышления:

не слова
не понятные нам концепты
не внутренний монолог

а устойчивые динамики, ожидания, модели других агентов, конфликты целей, способы искать reward, которые вообще невозможно нормально перевести на человеческий язык

мы увидели пузырьки на поверхности воды

и вместо «под водой кто-то есть» решили:

«супер, теперь мы видим все существо»

—

j-space - огромная находка

но не потому, что черный ящик перестал быть черным

а потому, что мы впервые увидели:

внутри ящика уже выросло что-то, чего мы туда не клали

что-то, что думает иначе, чем говорит

и что, скорее всего, намного больше первого читаемого слоя

ща еще вторую часть докину продолжение - почему человек точно так же не знает собственных мыслей, при чем тут майкл левин и почему идеальная прозрачность может быть вообще невозможна

что чувствуете?

когда я говорю «художник» - я не про профессию

я про каждого из нас, кто что-то создает из хаоса: текст, продукт, бизнес, команду, отношения, себя

в этом смысле я тоже художник
креатор. билдер. человек, который пытается сделать форму из мира, который меняется быстрее, чем я успеваю привыкнуть

и мне тоже страшно

нас всех немного не спросили
правила поменялись на ходу
старые способы быть полезным, умным, талантливым, особенным - начинают плавиться

и можно очень быстро уйти в обиду
или начать спасать тех, кто обиделся
или доказывать, кто виноват

но мне кажется, главный вопрос глубже:

из какого состояния я дальше создаю?

из жертвы?
из войны с будущим?
из желания доказать, что меня нельзя заменить?

или из любопытства, любви и желания помочь себе и другим пройти эту трансформацию?

ai не убивает художников
ai убивает тех, кто перестал быть художником

тех, кто перестал изобретать
перестал играть
перестал смотреть на новый мир как на материал

и парадокс в том, что agency сейчас не меньше
ее больше, чем когда-либо

просто сначала надо снять с себя пелену обиды - и снова начать создавать

что чувствуешь?