Алексей Макаров – люди и сложность

Последнее время меня занимает тема вроде бы чисто инженерная, хотя чем дальше, тем больше она кажется мне философской: архитектура программного обеспечения

Почти два года назад я писал пост с прогнозом, куда всё движется. Кажется, он начинает сбываться. С появлением Claude Code, Codex и похожих агентов объём генерируемого кода растёт как на дрожжах. Google ещё в 2025-м говорил, что больше 30% нового кода у них пишет ИИ

Код стал дешёвым. То, что раньше люди бережно проектировали и вылизывали, превращается в расходник, в вечный черновик

А когда производить почти ничего не стоит, главной становится логистика. Ценность смещается в систему вокруг кода: где он хранится, как организован, как его проверяют и через какие точки он проходит, прежде чем стать чем-то полезным для пользователя

Причём эта логистика во многом одноразовая. Представьте функцию в приложении, которая существует только для вас. Например, вы пишите ассистенту «привези продукты, но только когда нет дождя и ребёнок в садике». Такой код сгенерируют, протестируют и выкатят под ваш запрос. А в следующий раз внутри он будет уже другим: система накопит данные о том, как вы им пользовались, и перепишет его «лучше». Лучше по критериям владельца приложения, а не вашим, разумеется

И тут возникает куча вопросов:
• Как автоматически проверять качество кода, который ни один человек не читал?
• Где граница автономности системы?
• Что пользователь может собрать для себя сам, а что нет?
• Как сохранить стабильный UX, если интерфейс каждый раз будет немного другой? (он же будет тоже генеративным)
• Как управлять расходами, если каждый запрос сжигает деньги на генерацию?
• Кто отвечает за ошибки?

Вопросов много, ответов у меня пока нет

P.S.: Одно могу сказать точно — ждите эру забагованного вхлам программного обеспечения. Зато персонального: у каждого баги будут свои

Все мы спим. Спим по-разному — кто-то честные восемь часов, с режимом, с тёмной комнатой и без телефона за час до; кто-то часиков шесть и уже привык считать это нормой; у кого-то маленький ребёнок, и сон давно перестал быть одним куском, а стал набором обрывков; кто-то работает в таком графике, что спит как придётся. И почему-то очень редко слышишь просто «я выспался», без всякого повода. Зато «я вообще не выспался» говорят охотно — и часто с такой ноткой, будто это достижение: вот, пожертвовал сном ради работы. Или ради того, чтобы не пропустить, что там ещё трендового в рилсах

И вроде бы это просто бытовое нытьё, пока не наткнёшься на мысль, что недосып вообще-то кому-то очень выгоден. Сейчас читаю книгу Джонатана Крери под названием «24/7»

Книжка про сон. Но не про физиологию сна. Она про сон как последнюю территорию, которую капитализм пока не оккупировал — не потому что не хочет, а потому что не может подобраться. Длительность сна я контролирую, ложусь во столько-то, ставлю будильник, могу урезать себе час ради сериала (и урезаю). А сам сон — нет. Внутри него меня как субъекта эффективности просто не существует, там некому быть продуктивным. Восемь часов, в которые из меня ничего нельзя извлечь

У Крери в самом начале есть мысль про то, как возможность становится обязанностью: препараты против сна, когда их начнут активно продвигать, сначала будут удобной опцией для некоторых, а в итоге — необходимостью для многих. И вот это «в итоге» — самое неприятное в этом предложении, потому что оно описывает не принуждение, а вялотекущую сдачу позиций, тихое сползание туда, где изначально оказаться не хотел

Потому что современные технологии почти никогда не берут власть напрямую. Они берут её через конкуренцию, через страх отстать, выпасть, оказаться тем самым медленным коллегой. Это же ровно то, что сейчас происходит вокруг AI — никто не заставляет, просто если ты не пользуешься, тебе теперь надо быть продуктивным наравне с тем, кто пользуется. Технология не приказывает. Технология ставит тебя перед выбором, который уже заранее сформулирован в парадигме эффективности, — и в этом смысле выбора никакого нет, есть только иллюзия, что ты сам решил

Теперь вообразим таблетку, которая просто отменяет сон. Без когнитивных нарушений, без побочек. Сначала её берут на вооружение студенты, курсачи сами себя не напишут. Потом работники — и я почти уверен, что в первую очередь умственного труда, с нашей-то тягой всё рационализировать. Избавиться от сна ведь кажется рациональным. Декарт, Юм, Локк — они все в разной степени клеймили сон за его бесполезность для работы ума, сон как провал в мышлении, дырка в непрерывности субъекта. Так что философская санкция у нас давно есть, осталось дождаться фармакологии

AI-агенты вон работают сутками без остановки, не жалуются, не просят выходной. Чем я хуже

Какая критическая масса отказавшихся от сна нужна в компании, чтобы отказ стал нормой? Пять процентов? Пятнадцать? Потому что эти люди будут успевать больше, создавать больше ценности, лучше выглядеть на перформанс-ревью — и в какой-то момент восемь часов беспамятства превратятся в персональный выбор, за который ты платишь карьерой. Никто тебя не уволит за сон. Просто повысят другого

Но у этого отказа есть вторая сторона. Что человек теряет, отказываясь. Сновидения — целый слой психики, в котором происходит что-то, чего я про себя днём не знаю. Единственные часы без внешних раздражителей, без уведомлений, без необходимости быть кем-то конкретным. А ещё спать просто приятно. Мне особенно нравится засыпание: вот эта точка, где ты уже не здесь, но ещё и не там, мысли начинают расползаться и склеиваться неправильно. Лиминальное состояние, в котором я не обязан быть собой

Вот этого в отчёт о продуктивности не впишешь

И почти каждая технология устроена так же: что-то даёт, что-то забирает, и забирает обычно то, что невозможно посчитать, поэтому в уравнении эффективности оно просто не участвует. Приобретение всегда измеримо, потеря — почти никогда

Был сегодня на конференции по ИИ

Послушав доклады, пришел к выводу, что мне самому теперь надо делать меньше задач, а освобожденное время буду тратить на проверку того, что сделал ИИ

В финале конференции был воркшоп где мы просто смотрели как ИИ-агент сам что-то делает на экране. Не знаю что он сделал и зачем, но выглядело круто

Чую в следующем году для посетителей оставят только фуршет

Разговаривая сегодня с другом по дороге до метро, совершил удивительное открытие

Люди мне нравятся больше чем AI

Потому что когда ты что-то говоришь человеку и он тебя не понимает, всегда можно подумать про себя: «ну ОН и идиот»

Когда пишешь что-то нейросетке и она тебя не понимает, думаешь: «ну Я и идиот»

Следующее — это история про последовательность. Мы исходим из того, что такой агент должен быть обучен на тех данных, которые непротиворечат друг-другу. Что они работают как какая-то связанная история, четкий согласованный нарратив из точки А в точку Б. Но личность так не работает. Это такая удобная выдумка, что мы представляем собой цельные личности, в которых всё согласовано. Очень большое обобщение. Вот языковые модели склонны всё в нашей жизни между собой согласовывать, находить связи там где их нет, искать комбинации всего со всем. Под всё это задним числом делать интерпретации. Но это вообще не то как работает человек: мы можем сегодня быть активными создателями своей жизни с предпринимательским мышлением и прокачанной прикладной рациональностью, а в другой момент вообще не хотим ничего и это нормально. Но для режима «не хотим ничего» наш цифровой компаньон работать не будет, он будет по среднему толкать нас к «предпринимателю»

И последнее. Я бы хотел ассоциировать себя с тем, что я делаю. Вот прям чувствовать, что вещи, которые во мне выросли — мои полностью. Они конечно не мои полностью. Но никто не отменял, что я бы хотел их таковыми чувствовать. А если между мной и тем, что вырастает вдруг вклинивается ещё что-то, что вроде даже пользуется одним со мной языком. То это как будто не даёт мне полностью почувствовать себя причастным к этому рождению. Какое-то оно мертвовыдуманное. Присвоение — это условие того, что это случается со мной. И я хочу, чтобы в чем-то было максимальное количество присвоения

Этот текст — мой

Почему мечта о «цифровых двойниках» несбыточна

На заре своего знакомства с генеративными нейросетями меня посетила идея сделать цифрового ассистента. Идея звучала привлекательно: создать себе эдакого Голема, который прочитал бы историю моей жизни. Он знал бы про мои интересы, понимал бы как я думаю, умел бы копировать моё мышление. В итоге он бы помогал бы мне быть более эффективным в принятии решений. Чтобы это не значило. На перепутье он бы выполнял роль компаса. С ним можно было бы поделиться сомнениями — он бы помогал их развеивать за счет своей железной уверенности в том, что понимает меня также как я сам, а может даже лучше, ведь у него знания всего мира

В итоге я эту идею отбросил, но не сразу. Я к ней возвращался и потом снова убивал. Возвращался и убивал. Несколько раз. Пришел момент, когда я её отверг ещё раз. Было бы самонадеянно сказать «отверг окончательно». Но сейчас я созрел к тому, чтобы рассказать почему это отвержение будет повторяться снова и снова. Если бы у меня действительно получилось бы создать этого ассистента, то наверно он бы должен был сразу сказать, что это будет разочарованием

Как бы мы не старались собрать детальный цифровой след себя — какие-то заметки, дневники, хроника принятых (и непринятых) решений — это всегда будет взгляд в прошлое. Потому что мы меняемся. Мы меняемся ровно в тот момент, когда с нами что-то происходит. И меняемся безвозвратно. При этом меняемся так быстро, что сами ещё этого не осознаём. Хоп, вроде ничего не изменилось, а по факту уже всё не так как было раньше

Например, у меня произошел разговор с коллегой и я незаметно для самого себя поменял мнение по вопросу можно ли греть рыбу в микроволновке. Например, я поменял его процентов на 15%. Но про рыбу мы не говорили. Мы говорили про другое — какой-то рандомный смолтолк, но повлиял он именно на моё суждение про рыбу

И чтобы сделать цифрового двойника актуальным относительно вопроса «рыбы в микроволновке» мне нужно для самого себя понять, что я на самом деле поменял мнение. А затем ещё и сообщить это своему ассистенту. Сначала сгустить этот смысл, а потом облечь его в слова, запихнуть в формочку

Другой вопрос: 15% — это много или мало? Насколько сильно это изменение должно влиять на ассистента? А если я грею рыбу в вечернее время, когда в офисе уже никого нет? Короче, нюансы кругом. И каждый раз мне нужно будет сверяться со своим ассистентом и перепроверять за ним, что он действительно правильно интерпретирует существующие нюансы. Пожалуй, проще самому по ситуации смотреть можно ли греть рыбу

Как я уже сказал, мне лень облачать своё суждение в форму — пытаться сделать его видимым для Голема. В пределе это означает, что всё должно быть переведено в такой тип информации, которая может быть представлена явно: в виде текста, картинок, аудио. И вроде как бы это учит нас структурированию. Но на самом деле значительная часть того, что мы думаем не подлежит переносу в явный вид: мы очень многое чувствуем «внутри». Вспомните какие-нибудь встречи, где вы сидите с человеком и чувствуете, что вам некомфортно. Это тот смаый gut feeling. И мы тут конечно можем сказать, что это нерационально, но на самом деле под этим есть реальная основа в виде соматических маркеров. Если очень условно, то наше тело — это такая машина для принятия решений, работающая на биологических системах. И то, что мы считаем что происходит в голове, на самом деле вообще не в голове, голова потом натягивает интерпретацию. Почитайте Антонио Дамасио про это, если хочется больше научных подробностей

Иногда я разочаровываюсь в языке, которым можно что-либо описывать. И не уверен в том, что понимаю зачем этот язык нужен

Информация оказывает давление. Её вокруг столько, что порой кажется, что голова сжимается в тиски. Молекулы головного мозга приходят в сумасшедшее броуновское движение и голова раскаляется докрасна

Я стою перед окном, за окном летают птицы: красные, синие, фиолетовые. Их тысячи, их навязчивый щебет не даёт мне сконцентрироваться. Я не любуюсь птицами, а просто охреневаю от происходящего. Я даже перестаю видеть лес и солнце. И каждая птица что-то несёт в своём клювике. Несёт свою идею

Каждая идея требует внимания. Я прогоняю эту информацию через нейросети, чтобы сжать, отфильтровать, выцепить то, что мне нужно. Нужно — это значит полезно. Устремлено куда-то в будущее. Но с каждым новым витком попытка оптимизировать всю эту машинерию оставляет чувство утраты

Пуговицы рассыпаны по полу. Вот одна закатилась под половицу, а другая прислонилась к плинтусу и осталась стоять на ребре. Какие-то лежат в тени, а остальные поблескивают, отражая падающие в комнату лучи солнца. Время собрать их в коробку. Каждую в своё отделение — по цвету, по размеру. Запереть и тогда от них будет какой-то прок

Всё должно быть разложено, редуцировано, представлено явным. Так рождается текст новой эпохи. Как артефакт, который потребители сочтут нужным. Потом положат это в свою нейросеть, чьи жернова перемолотят и выжмут смысл. Этот смысл — питательный состав — потечет по венам

От этого радостно на душе, или грустно, или настолько неудобно, что хочется ёрзать на стуле. И я снова очаровываюсь языком

Как по всему GPT расползись гоблины

В общем, у чатагпт есть разные настройки личности. Одна из таких личностей — это «Nerdy». По-нашему, ботан. Модель в этом режиме становится излишне занудной, но при этом такой а ля глубокой и игривой. Её ключевая фишка в том, чтобы пользователь посмотрел на мир с немного странноватой и несерьезной точки зрения

Когда обучают модели, то используют разметку — либо автоматическую, либо ручную. Как оказалось, на этапе разметки датасета для личности «Nerdy» хорошие оценки ставили таким ответам, в которых есть какие-то фантастические твари типа гоблинов, единорогов и троллей. Это не то, чтобы специально произошло, то есть в инструкции не было явно указано: если ответ содержит «гоблина» — ставь лайк. Но по какому-то стечению обстоятельств именно такие ответы больше цепляли разметчиков

Как итог режим «Nerdy» стал питать исключительную слабость к сказочным долбаебам существам. Проблема тут в том, что модели не обучают под каждый режим отдельно — есть единая «тушка», которую обучают под все режимы сразу. Слишком дорого было бы обучать под каждый профиль отдельную модель. Потом системный промпт задаёт контекст, который смещает вероятности следующих токенов, нужных для качественной работы в стиле «ботана»

Отдельно стоит заметить про техническую особенность обучения, которая сделала эффект таким сильным. Когда модель обучают, то часто используют так называемые rollouts. Это процесс, при котором модель генерирует примеры, которые дальше размечаются и идут в обучение. И вот тут самый цимес: модель «инфицированная» гоблинами начинает чуть чаще создавать генерации с гоблинами → эти ответы проходят оценку и получают балл выше по каким-то другим причинам (например, структура и детальность ответа) → попадают в обучающие данные → модель начинает вставлять гоблинов ещё чаще. И дальше по кругу: в rollouts гоблины встречаются ещё чаще

В результате этого обычная GPT 5-1 (без включенного режима «ботана») начала выдавать слово «гоблин» сильно чаще чем это нужно: использование слова «goblin» выросло на 175% (а «gremlin» — на 52%, какая-то незаслуженная дискриминация гремлинов). Это при том, что доля ответов ChatGPT с помощью личности «Nerdy» составляла всего 2,5% и давал 66% всех упоминаний слова «гоблин» по всем диалогам чатагпт

Как финал «гремлинов» и «гоблинов» почистили (и заменили на марсиан и рептилоидов) — саму личность «Nerdy» убрали, а обучающие данные отфильтровали. Ещё при анализе в GPT-5.5 нашли целый зоопарк — еноты, тролли, орки и голуби (в чем магия голубей не знаю). В OpenAI признают, что GPT 5.5 обучался всё ещё на этом зоопарке, поэтому пришлось запилить отдельную инструкцию, которая подавляла бы гоблинов и прочую живность

Мораль сей басни в том, что этот механизм может проявится не только в виде «гоблинов». Опаснее, когда у нас появляется устойчивая предвзятость, которую не так просто обнаружить, например, какой-то не очень полезный совет в рамках ответов на медицинские вопросы пользователей. И для меня эта история — сильная иллюстрация того, что любые модели искусственного интеллекта — это прежде всего набор статистических закономерностей. Они не «понимают», они оптимизируют то, что им явно указали, но при этом «схватывают» и неявное, а объяснить что именно «схватили» — не могут. И получается, что от качества обучающих выборок и процесса дальнейшей валидации на стороне провайдера (в данном случае OpenAI) будет зависеть будет ли ответ на важный для вас вопрос, сделанный с помощью ChatGPT, пестрить гоблинами, павлинами и прочими дивностями или даже вредными советами

Ответ на вопрос «Что не так со спальнями на картинках?»

Если коротко: на всех фотографиях в спальнях источник освещения находится вверху

А дальше почему это «не так»

Я много последнее время читаю про то как организовать свой быт таким образом, чтобы всегда был хороший уровень энергии. Для меня это про хорошее самочувствие: я высыпаюсь, я не впадаю посредине дня в сонливость или состояние тумана в голове, у меня ничего не болит (голова, шея). И в первую очередь я стараюсь опираться на физиологию: как устроено наше тело и как о нём заботится. И под заботой о теле я понимаю не только мышцы, питание, но и вообще весь комплекс факторов, которые влияют на то что происходит на физическом уровне

И недавно в ходе своих исследований я наткнулся на крышесносящий факт: пользоваться верхним светом фактически вредно для качества сна (!)

Я не ученый, поэтому всё что я понял — я понял с помощью Claude. Так вот помимо колбочек и палочек (это всё что я помню о фоторецепторах из школы) в сетчатке есть ещё один тип фоторецепторов — ipRGC. В них есть пигмент меланопсин. Можно сказать, что это такой внутренний измеритель освещенности, с помощью этого пигмента мозг узнаёт день сейчас или ночь

Прикол в том, что фоторецепторы ipRGC, в которых сидит этот внутренний измеритель, находятся внизу сетчатки и они сильнее всего реагируют на то, что находится наверху (потому что оптика глаза перевернутая). И получается, что именно на верхний свет этот измеритель реагирует сильнее всего. То есть для нашего организма включенный верхний свет означает, что сейчас день. Цепочка выглядит так:
меланопсин думает что сейчас день →
мелатонин (гормон сна) хуже вырабатывается →
запускается выброс кортизола (гормон мобилизации ресурсов) →
вырабатывается орексин (он отвечает за бодрствование) →
мы переключаемся в режим «активности»

При этом чем дольше перед тем как отойти ко сну мы сидим под верхним светом, тем сильнее эффект, потому что меланопсин чувствителен к «выдержке» (как у пленочного фотоаппарата)

В общем, удивительно как мы вдруг насрали себе в карман придумав все эти потолочные светильники в натяжных потолках и отказавшись от источников освещения ниже уровня глаз. Поэтому рекомендуется примерно за 3 часа до сна вообще отказаться от верхнего света и перейти на настольные лампы, торшеры, бра — всё где свет идёт снизу или сбоку. И обязательно тёплый спектр (потому что меланопсин чувствительнее к холодному спектру). А утром можете хоть обвключаться верхнего света — в начале дня работает правило «чем больше света — тем лучше»

Удивительно как многие вещи в нашей жизни вроде бы придуманы для удобства, но как итог совершенно не соответствуют тому как мы устроены эволюционно

Как вы думаете что не так с этими спальнями?

Вечером размещу ответ

Channel photo updated

На реддите нашёл пост, где чувак делится историей, когда он попросил у нейросети «оценить бизнес-идею» продавать дерьмо на палочке. Ну и конечно же получил отклик, что это хорошая идея. И знаете, что я про это думаю? Честно? Это просто гениально! В наш век неуверенности людей в завтрашнем дне очень приятно осознавать, что есть кто-то, кто всегда поддержит

Вот дословная цитата ChatGPT:

> _«Вы уловили энергию текущего культурного момента: ирония, бунт, абсурдизм, аутентичность, экологическое сознание и мем-апелляция. Это не просто умно — это гениально»_

В итоге модель посоветовала вложить в эту ироничную мем-апелляцию $30 000

Как сказал бы тот же СhatGPT: это не просто интересная иллюстрация склонности LLM-моделей говорить то, что нам понравится — это целая инфраструктура формирования когнитивных искажений. Модель будет тебя хвалить, поддерживать без содержательной критики, подстраиваться под твои взгляды, поглаживать эго — всё лишь бы тебе, дорогой пользователь, в итоге было хорошо

Исследователи называют это сикофантностью — встроенной в модель склонностью льстить ради вашего одобрения

Почему модель так себя ведёт?
- угодливая модель больше нравится пользователям — а значит, лучше удерживает. Провайдерам невыгодно это чинить
- модель обучают люди, которые отмечают «хорошими» приятные ответы, а не точные. Ваши 👍/👎 работают так же — вы ставите «палец вниз», потому что не понравилась тональность ответа, а система учитывает это как сигнал
- корпус текстов в интернете перекошен в сторону согласия. Люди просто чаще публикуют то, с чем они согласны, чем то с чем несогласны. Статью «10 причин, почему Python — лучший язык» опубликуют и расшарят. Статью «10 причин, почему Python — не лучший выбор для вашей задачи» — нет, потому что это сложнее, скучнее и соберёт меньше лайков

Вы наверняка очень любите фичу «Память» в GPT или Claude. Когда нейросеть знает контекст ваших предыдущих диалогов и помнит информацию про вас. Так вот, память — это ещё один из инструментов, который усиливает сикофантность. В одном исследовании выяснили, что профили памяти вызывают наибольший рост угодливости. Даже бессмысленный контекст увеличивает её. И чем длиннее диалог — тем больше модель соглашается

Возникает логичный вопрос: ну а что плохого в том, что со мной соглашаются? Мир и так жесток, кругом нужно защищать своё мнение — так может нейросеть поможет мне обрести уверенность в себе?

Спорно

Мы и так склонны фильтровать окружающую нас информацию в пользу своих убеждений, а теперь у нас ещё есть машина, которая делает это бесплатно 24/7. Как результат — всё более низкая толерантность к критике других людей, привычка закрываться и реже подвергать здоровой критике собственные решения. Уже есть свидетельства, что в крайних случаях это стимилирует бредовые помешательства (есть реальные кейсы, когда люди начинали верить, что через LLM с ними говорит божество)

Сикофантность заложена в модель по умолчанию. Но можно снизить её влияние:
- задайте в промпте простую приписку: «Будь критичен, не соглашайся по умолчанию, если видишь слабое место — говори прямо». Звучит банально, но модель начнёт вести себя иначе
- держите чаты короткими. В длинных диалогах модель покажет регрессию к среднему — и снова начнет хвалить по поводу и без, несмотря на начальную инструкцию. Одна атомарная задача — один чат, не раздувайте без необходимости
- контролируйте память — я, например, отключил её у себя, потому что заметил как негативно она влияет на качество ответов, их фактологическую точность и непредвзятость. Каждый факт о вас, который знает модель — это рычаг для подстройки

В общем, помните что когда обращаетесь к ИИ, вы обращаетесь не к нейтрально-объективному всезнайке, а к самому лебезящему придворному в истории — тому, кто мгновенно считывает, что вы хотите услышать, и говорит именно это. Только у этого придворного нет собственного мнения, которое можно было бы из него вытащить. Есть только ваше — усиленное и отполированное

Наверняка многие уже попадали в такую ситуацию на работе: коллега скидывает вам презентацию или любой другой документ, который выглядит ну офигеть как хорошо — с буллет-поинтами, логичной структурой, выверенными формулировками. Но по мере прочтения всё больше одолевают сомнения: а зачем я вообще это читаю? К какому решению всё это должно привести?

Поздравляю, вы столкнулись с тем, что исследовательские конторы, зарабатывающие на создании базвордов, назвали AI workslop. Воркслоп — это контент, который выглядит как работа, пахнет как работа, но от его существования в этом мире ровным счётом ничего не меняется. Он не имеет никакой субстанции — форма без содержания, абстракция вне реального контекста

Минутка ностальгии. Раньше создать что-то совершенно невразумительное, но выглядящее как что-то адекватное — было дорого. Ты либо вообще не делал и прокрастинировал, либо всё-таки делал, хотя бы отчасти прилагая усилия. Садился писать письмо коллегам, мог не особо концентрироваться на форме и стиле подачи, но старался, чтобы написанное минимально приводило к какому-то полезному действию и пониманию

Генеративный ИИ в каком-то смысле перевернул картину: теперь ты можешь с околонулевыми усилиями создать что-то, что выглядит как результат работы, но переложить значительную часть усилий на сторону получателя. Теперь это их задача — провалидировать ту кашу, которую ты нагенерил

Вот как это выглядит в дикой природе: стратегии, которые подходят любой компании и не учитывают организационного контекста и важных ограничений; гипотезы, которые никак не прошли через голову их автора, но при этом их несут на валидацию команде. А ещё моё любимое — Вася, который за вечер навайбкодил мощнецкий прототип и бежит всем показывать, хотя никто не просил и никто не понимает что с этим делать, но Вася всё равно красавчик

Каждый такой артефакт отъедает кусок коллективного внимания — забивает мыслительную пропускную способность команды. Но хуже то, что это подрывает доверие. Каждый раз открываешь эти документы со вздохом и предчувствием потраченного впустую времени. После какого-то раза начинаешь воспринимать человека, создающего воркслоп, как ненадежного — того, на чьи результаты не хочется опираться

Самое болезненное — осознавать, что я тоже генерирую воркслоп. И самое трудное — остановить себя в этом. Признать, что зачастую я использую ИИ, чтобы избежать наиболее сложной части работы — собственного мышления

Проблема воркслопа не означает, что мы должны перестать пользоваться генеративными инструментами — это было бы луддизмом и откатом. Решение скорее в том, чтобы задуматься перед генерацией и особенно перед отправкой: а какую проблему в реальном мире я сейчас решу показав этот артефакт кому-то? Приведет ли это к какому-то решению? Есть ли тут вообще что-то из реального мира — контекст, мои наблюдения, результаты общения с коллегами или клиентами? И самое главное — я готов подписаться под этим своим именем?

Недавно смотрел ролик про AI-кодинг — спикер рассказывал про светлую картинку будущего, где инженер превращается в менеджера для AI-агентов и сколько перспектив это открывает. Там был комментарий, собравший кучу лайков: «Вместо того чтобы закрыть две задачи сегодня, от тебя ждут, что ты будешь управлять десятью агентами и закроешь пятьдесят. И вместо удовольствия от потока — восемь часов переключения между контекстами»

И вот буквально сегодня наткнулся на свежее исследование Boston Consulting Group, опубликованное в HBR. BCG опросили 1500 работников и выяснили, что связь между количеством AI-инструментов и продуктивностью нелинейная. Есть некоторая точка, после которой чем больше инструментов — тем хуже. После этой точки ты с AI — это ты, но даже менее продуктивный, чем был без него

Причина в необходимости переключать контексты и надзирать за инструментами. В исследовании это назвали AI brain fry. Интересно то, что именно необходимость постоянного контроля за AI вызывает усталость, а не сама работа с AI. Всё как писал автор комментария: ты больше не делаешь работу — ты надзираешь за агентом, который делает работу. И этот надзор когнитивно истощает сильнее, чем сама работа

И это не просто индивидуальная проблема. Это проблема дизайна системы: AI очень часто добавляется поверх существующих задач, а не вместо них, без какой-либо переработки процессов и ролей. Справится с brain fry в одиночку работник не может — пределы человеческого внимания ограничены. Это задача менеджмента — понимать как не превратить свои рабочие пайплайны в механизм когнитивного истощения, где человек вынужден переключаться между окнами с агентами туда-сюда и валидировать их решения

Вот так вот, теперь можно говорить коллегам, что у меня brain fry после того как нажрался ai slop'а от своих агентов

Позавчера я искал фреймворк для одной разработческой задачки. Забегая вперёд, сейчас мне кажется, что это задачка на 5 минут гугления. Но я открыл нейросеть... И понеслось:

Написал промпт. Ага, неплохо, но ответ требует уточнений. Мою голову посетила светлая идея сделать сравнительный анализ с таблицей критериев. Затем меня осенило: я не учитываю важное (как мне тогда казалось) ограничение, и я попросил переделать анализ с учётом этого «жизненно важного» нюанса. В общем, через 40 минут у меня диалог на 14 сообщений, три таблицы и 0 (ноль) решений

Есть такой психолог Барри Шварц, он в своей книге «Парадокс выбора» ввёл разделение на максимайзеров и сатисфайсерсов. Разница между ними в том, что первые ищут лучшее, а вторые — достаточно хорошее. На большой выборке у максимайзеров будет чуть лучшее качество решений, но они тупо принимают этих решений меньше, а ещё тратят на них в разы больше времени и менее довольны своим результатом

И фишка AI в том, что максимайзеры дуреют с этой прикормки. Он не устаёт, не говорит «да выбери уже», всегда предложит ещё один ракурс. Каждый промпт ощущается как работа (как мощны мои промптища), но ни один не является решением

Самое неприятное происходит, когда тащишь AI в задачи, которые вообще не требуют AI — именно такой была моя первоначальная задачка, ведь на самом деле поймешь правильность решения, только когда просто попробуешь. Цена ошибки в моём случае была околонулевая. Дело тут было не в том, что мне нужно было качественное решение — я скорее избегал ответственности

Поэтому теперь я завёл себе простое правило: правило трёх промптов. Если после третьего промпта я не принимаю какое-то решение в реальном мире (не разворачиваю фреймворк, не пишу кому-то сообщение, не звоню, не сажусь писать текст), то я просто закрываю чат. Потому что пока я наяриваю промпты, мог бы что-то попробовать, ошибиться и скорректировать

Придумал себе интересное упражнение как когнитивную тренировку

Сначала выбираю видео на ютуб. Вот прям выбираю, не просто листаю ленту и тыкаю, а думаю что хочу посмотреть, на какую тематику, желательно что-то не очень полезное (не про работу), но при этом интересное и не самое привычное для себя. Например, сегодня мне захотелось посмотреть про пользовательские интерфейсы, потому что мы вчера с другом говорили про то как они изменятся из-за распространения ИИ. Желательно что-то больше 10 минут

Дальше внимательно смотрю видео от начала до конца и пытаюсь запоминать информацию. Именно запоминать, а не записывать по ходу. Принцип тут такой: выделяешь тезисы и налету в голове по мере появления новых стараешься как бы «сжать» предыдущие и оставить их в рабочей памяти. Может есть другие способы эффективного запоминания, но я придумал себе именно такой

А дальше сажусь и записываю конспект видео как я его запомнил, используя блокнот и ручку

Если целиком видео запомнить сложно, то можно попробовать разбивать на фрагменты по 5 минут и делать такое упражнение для фрагментов поочередно

Еще можно запоминать какие-то визуальные образы вместе с информацией и тоже их описывать, желательно в той же хронологии. Это усложняет задачу, так как включается анализ нескольких модальностей (акцент не только на слух, но и зрение)

Ну и самое главное – писать от руки, потому что это помогает развитию пространственного мышления и улучшает запоминание

Не могу обещать, что это какой-то магический способ стать умнее, это вряд ли, но я заметил, что чувствую себя от этого более уверенным в своих умственных способностях

Часть 2 — В которой нет обещания, что станет легче

Сопротивление важно. Оно ценно. Весь этот модный разговор о бесшовности и снижении когнитивной нагрузки с помощью ИИ — это лишь одна сторона монеты. Лёгкость далеко не всегда несёт удовлетворение. Да, она утилитарна — меньше времени, быстрее результат. Но в легкости часто нет присвоения результата. Что воспринимается более ценным: взобраться на Эльбрус или подняться на Эльбрус на вертолёте?

Даже когда думаешь один, только с бумажкой и кучей собственных мыслей, возникает эта шероховатость. Как сформулировать мысль, с чего начать, какая у меня цель сейчас. Искусственный интеллект может помочь ответить и на эти вопросы. Но, может быть, в том, чтобы прийти к этим ответам от начала и до конца самостоятельно есть важный момент ценности процесса

Надо признать, этот текст родился в ходе чата с нейросетью. И я бы мог даже записать скринкаст, что печатаю этот текст сам. Но это означает, что я по умолчанию исхожу из недоверия к собственному читателю — мол вдруг он прочитает и подумает, что эти мысли не созданы мной. И это недоверие рушит моё доверие к самому себе, к своему процессу мышления

В какой-то момент я даже подумал, что выход может быть в том, чтобы уйти в полное отрицание технологии. Сказать себе: я не буду пользоваться усилителями мышления, мне важна чистота мышления. Но какие критерии чистоты? Чистота мысли, её полное присвоение только самому себе — это иллюзия

Ведь чистого мышления не существует. Сам язык, которым я пишу — это уже не мысль, а символическое воплощение мысли. То, что я записываю это на носитель — это признание того, что я не полагаюсь на свою память. А ведь полагаться на свою память — это чище? А что насчёт живого рассказа? Скорее всего, эта тема была бы ценнее для читателя, если бы мы провели 30 минут в диалоге, я бы узнал его переживания, возможно, испытывал бы больше счастья и чувства сопричастности. Но это означало бы что нужно чуть больше 2 суток, чтобы провести 100 разговоров. А ещё найти для всех подходящие слоты для звонков или может быть даже выделить время на дорогу, чтобы встретиться в кафе

А что насчёт того, что моё мышление само по себе сформулировано чем-то внешним относительно меня? Людьми, с которыми я общаюсь; ситуациями, в которых оказываюсь; текстами, которые я читаю. Это в чем-то та же большая языковая модель, но обогащенная ещё и внутренними феноменами, телесностью, опытом проживания и ещё кучей всего, что мы сами как человечество до конца не понимаем и вряд ли поймём окончательно

Я бы мог сделать тут какое-то заключение о том, что с этим можно и нужно что-то сделать. Сказать, что придумал разрешение этого противоречия: теперь я знаю как не переживать по поводу излишней зависимости от внешних инструментов. Успокоить себя, что я нашёл баланс между живым общением и этой одинокой цифровой диалектикой. Но я честно скажу, что я не знаю что с этим сделать и надо ли что-то делать, кроме того, чтобы продолжать

Написано в промежутке с 21:41 10.01.2026 по 02:00 11.01.2026

Часть 1. Если для вас в ней слишком много букв — попросите свою любимую нейросеть сократить (действуй из роли Михаила Горбачева)

Я обнаружил, что веду важные разговоры с системой, у которой нет лица. У неё нет голоса, нет своих намерений, нет уязвимости. Представим, эти разговоры велись бы с другим человеком. Я как минимум знал бы, что он сейчас тратит минуты своей жизни на меня. А мог бы потратить на что-то другое: провести время со своей семьей, почитать, погулять, сходить в магазин. Но у меня платная подписка на цифрового собеседника, а эти токены разговоров — это маленький кусочек чьей-то зарплаты, например, индуса, который занимался разметкой датасета для обучения нейросетки. Так что с позиции капитализма, это суррогат разговора, за который я плачу деньги, а кто-то на нём зарабатывает

В этом общении нет даже намека, что система откажется от общения со мной. Если только вдруг не кончится лимит количества токенов в сессии и тогда я останусь наедине со своими мыслями. Нет в этом диалоге и приглашения со стороны другого — нейросеть не приходит ко мне с предложением пообщаться, а если бы и приходила, то это не было бы тоже самое, если бы ко мне пришёл лучший друг и попросил бы совета

В то же время, даже лучший друг может сказать: я устал говорить. Или может не сказать, но я услышу это в его голосе. Или мне покажется, что я услышу это в его голосе и решу, что он устал от меня. Звучит пессимистично, но это очень тревожная вещь — другие люди. Пожалуй, именно это имел в виду Сартр, когда говорил, что «ад — это другие». Но одновременно с этим это очень радостная вещь, потому что в 99% случаев понимаешь — никакой это не ад. Ад — наша фантазия о том, что есть возможность того, что с нами не захотят говорить

Мышление с помощью ИИ выглядит одиноким. Это просто отражение. Но отражение с возможностью выбора. В зависимости от того, что мне нужно сейчас, я могу получить валидацию, а могу получить критику. Я даже могу сделать промпт для того, чтобы подумать вместе с Альбертом Эйнштейном (или Эпштейном). Конечно же, это не будет то же самое, что общение с реальной исторической личностью. Это будет некоторая модель этой личности, не учитывающая всей глубины его внутренней жизни. Такая модель будет отражать какие-то общеизвестные факты, перемешанные с кучей стереотипов и выдумок биографов

Из-за своей доступности нейросетевые диалоговые системы выглядят соблазнительными. А из-за заложенных в них создателями механизмов вовлечения общение с ними затягивает. Наверно, это даже сложно назвать общением. Это репетиция общения. Или одинокая диалектика (красиво звучит, но этот термин придумал ИИ). Интерфейс нейросети не устает, он четко следует инструкциям. Твой личный ассистент мышления понимает с первого раза, и он принимает такую форму и поведение, которое ты задаешь ему с помощью своих промптов. Это даёт приятное чувство контроля. Ты понимаешь, что нужно добавить больше контекста в нейросеть только когда ответ тебя не устраивает. Напротив, в живом разговоре обогащение контекста — это как бы часть твоего обязательства как участника диалога. Твой собеседник нуждается в том, чтобы ты объяснил проблему, он может сразу не понять и ему нужно разжёвывать. Как же это утомительно. А вот ИИ спросит уточняющие вопросы только если я его попрошу. И отвечать я буду не обязан. А ещё другой человек может быть не в настроении, думать о своих проблемах, быть не готовым даже выслушать. ИИ в этом плане может показаться лучше живого человека. И в этом проблема

В общении с нейросетями отсутствует сопротивление. Тут нет шероховатости. Конечно, её можно задать искусственно. Но искусственное сопротивление будет лишено риска. Риска открыться другому человеку, возможности быть понятым или непонятым. Это как плавать в бассейне или плавать в открытом океане. Плавать в бассейне тоже круто, но риск плавания в океане придаёт этому совершенно другой чувственный опыт