Токсичный Джон

Про плохо измеримые задачи

Никто не любит плохо измеримые, размазанные во времени и слабо детерминированные задачи, результат которых зависит от нескольких неизвестных факторов сразу.

Нейросети решают эту проблему, делая лишние допущения. Заполняют неизвестное наиболее правдоподобными значениями и тем самым превращают мутную задачу в более определённую. Иногда ценой того, что решают уже не совсем ту задачу, которую нужно было решить.

Люди поступают проще: стараются за такую задачу не браться вообще.

Потому что в такой работе почти нет нормальной обратной связи. Непонятно, движешься ли ты в правильную сторону, что именно повлияло на результат и будет ли результат вообще.

Поэтому человеческий мозг довольно охотно подменяет плохо определённую задачу другой — той, где есть понятная обратная связь и хотя бы можно определить, выиграл ты или проиграл.

Не так уж сильно мы различаемся.

Поставил codex (gpt-5.6-sol) надзирать за работой claude code (Opus 5 xhigh), советовать и обсуждать решения по задачам на ночь.

Наблюдать, как два разных харнесса общаются между собой, занятно. Обсуждают, спорят, проверяют, хвалят друг друга.

Такое вот оно современное парное программирование.
А я — спать.

Почему вы проиграете

Я уже достаточно написал про образование. И плохо помню детали — о каких именно его аспектах.

Но в последнее время из разговора в разговор с людьми, далёкими от AI-пузыря, из меня вырывается один и тот же тезис про итеративность.

Метод проб и ошибок, хорошо знакомый ML-щикам. Тупой, примитивный, «от сохи»: берёте данные и фигачите, пока из этой глины не получится что-то стоящее.

Значение накопленного опыта выходит на передний план.

Раньше опыт конкурировал со знаниями. Знания сами по себе были дефицитным активом: нужно было знать, где искать, что читать, кого спрашивать, что вообще существует.

После коммодитизации информации и значительной части интеллектуального труда это преимущество почти исчезло. А опыт — остался.

Более того, его относительная ценность резко выросла.

Современная система образования совершенно для этого не приспособлена. Как, впрочем, и типичный карьерный путь, на котором опыт накапливается по крупицам.

Безусловно, на меня здесь сильно влияет работа с языковыми моделями и вообще современные подходы к их оркестрации.

Если очень грубо, модель сначала долго набивают знаниями. Учебники, статьи, книги, форумы, код, весь доступный письменный корпус человечества. Это называется предобучением.

На выходе получается невероятно начитанный эрудит, который при этом ещё не особенно умеет быть полезным.

А потом начинается второй этап: огромное количество попыток, оценок, корректировок, обратной связи. Модель учат не знать, а делать.

Университет — это предобучение.

А второй этап в человеческой системе почему-то считается чем-то, что произойдёт само. На работе. Лет за пятнадцать.

Опыт потому и конкурировал со знаниями, что его нельзя просто записать в конспект.

Его можно передавать через наставничество, наблюдение, совместную работу. Но в конечном счёте человек всё равно должен сам сделать некоторое количество попыток. Ошибиться. Исправиться. Попробовать ещё раз.

И вот здесь карьерная система устроена почти издевательски.

Джуниору не дают ошибаться, потому что ошибки дорогие. Их принято минимизировать. Ему дают маленький кусок задачи, проверяют, страхуют, согласовывают и постепенно расширяют зону ответственности.

То есть система оптимизирована на минимум проб. А значит — на минимум обучения.

Опыт копится по крупицам не потому, что быстрее нельзя. А потому что каждая проба имеет цену. И платить её за джуниора никто особенно не хочет.

В работе с моделями цена пробы рухнула вслед за ценой знания.

Гипотезу, которая раньше стоила квартал работы отдела, теперь иногда можно прогнать до обеда.

Не сработало — выкинул.

Жалко гораздо меньше, потому что вместе с неудачной гипотезой исчезает небольшая стоимость попытки, а опыт этой попытки остаётся.

Что сработало. Что не сработало. Где была ошибка. Как надо поставить задачу в следующий раз.

Поэтому забудьте уже про разрыв между «умеющими промптить» и всеми остальными.

Его почти нет.

Теперь разрыв возникает между людьми, у которых сто содержательных проб в неделю, и людьми, у которых одна.

Через год это станет разницей не в навыке работы с AI, а в объёме прожитого профессионального опыта.

А система образования тем временем продолжает грузить предобучение и выдавать за него дипломы.

И человек с одной попыткой в неделю всё ещё собирается конкурировать с человеком, у которого их сотни и тысячи. Удачи с этим.

Вы проиграете не тому, у кого очень большая голова.

Вы проиграете тому, у кого больше опыта.

А опыт теперь можно накапливать намного быстрее.

Так что совершайте ошибки. Много. Дёшево. Быстро. Прямо сейчас.

Альтман сильно постарел и помудрел. Стало приятно слушать.

Сила животворящей конкуренции:

https://www.reuters.com/technology/openai-cuts-developer-pricing-frontier-gpt-56-sol-model-by-more-than-20-2026-08-21/

Смерть Йована заставила меня задуматься о собственном социальном наследии.

Не в том смысле, что оно вдруг стало для меня определяющим фактором или новой мотивацией. Скорее просто как повод поразмышлять о том, что вообще остаётся после человека — и насколько долго это кому-то нужно.

Громче остальных аргументов в голове звучит строчка из песни Дельфина: «Когда ты сдохнешь, тебя все забудут».

И, в общем-то, сложно с ней спорить. Большинство из нас довольно быстро растворится в чужой памяти, а потом исчезнет и оттуда. Все наши маленькие драмы, достижения, амбиции, тщательно собранные (и улучшенные!) версии себя перестанут иметь значение.

Но, если подумать, не так уж это и плохо. Хорошо мотивирует жить.

Когда вечность всё равно не светит, перестать откладывать жизнь ради памятника самому себе проще.

Отличный троллинг.

Мир действительно работает на Postgres. И не в последнюю очередь благодаря её открытости.

https://www.theregister.com/databases/2026/08/19/postgres-pioneer-credits-oracle-with-helping-his-database-take-over-the-world/5289087

У Йована было отличное чувство юмора. Мы запомним его весёлым и крутым.

https://youtu.be/jkggxdInTTU?is=ytvu4UB3ICZsdL4-

https://youtu.be/NmexetApeWc?is=ICGwTSf8H9W9w3QL-

https://youtu.be/NmexetApeWc?si=3ULIXnmrQSY7fc9E

https://youtu.be/RkQk7di80AE?si=xq2y2P5NuCTqLX4-

https://youtu.be/RkQk7di80AE?si=MaYkQWoS_qnALjx2

Бóльшая часть контента вокруг LLM в русскоязычном сегменте написана гуманитариями. Писатель должен писать.

Не все из них понимают разницу между «агентом» и «харнессом». И освещают тему исключительно с «новостной» стороны: кто какую модель выпустил, сколько там параметров, кто кого обогнал в очередном бенчмарке. Без архитектуры, без инженерных компромиссов, без лучших практик и почти без разговора о том, как всё это реально собирается и работает.

Практики, в свою очередь, в основном шутят, спорят в закрытых чатах и молча кидают друг другу ссылки на репозитории. Документировать очевидное для себя им скучно, объяснять базовые вещи — ещё скучнее.

В результате между двумя мирами зияет пустота. С одной стороны — бесконечная журналистика про «агентов, которые скоро заменят всех». С другой — люди, которые уже полгода обсуждают, какой tool loop меньше ломается в проде.

Пожалуй, как и везде: те, кто умеет рассказывать, не всегда понимают, что происходит. А те, кто понимает, обычно не считают нужным об этом рассказывать.

Про LLM в математике:
https://t.me/avvablog/3293

Human API
Про процессы и время

Mistal, похоже, всё.

Парни поняли, что деньги в другом месте, а не в разработке собственных моделей.

А раз догнать передовые модели они не смогут, то зачем это всё.

Главная боль всех пользователей Firefox — утечки памяти. С которыми с переменным успехом борются разарботчики.

С утечками сильно помогает(-ал) https://github.com/rNeomy/auto-tab-discard

Пользуюсь Firefox с 2005-ого. На полгода переходил на Safari в середине десятых, но снова вернулся.

Так вот. Посмотрел на новую nightly-сборку — превью того, что ожидать в будущих стабильных релизах.

Первый запуск вызвал оторопь. Но если покопаться в настройках и «подкрутить», то кровь из глаз течь прекращает. Кнопку «верните-как-было» всё равно хочется, но это можно списать на мой двадцати-плюс-летний опыт.

Видимо, новый дизайн делается под стекло. Которого в моей версии macOS, к счастью, нет.

Почему вообще вспомнил.

Chrome давно превратил пользователей в продукт. В этом году — превращает в Input.

Если роль «инпута» вас не устраивает, альтернатив осталось две с половиной:

• Firefox
• Safari
• Brave и прочая Chrominium-экзотика вроде Iron.

Желаю удачи.

Ждём, когда русские банкиры начнут рассказывать об очередной революционной инновации, пришедшей им в головы.

Альтман сегодня догнал и сообщил, что в их лабе тоже Скайнет. И компания приостанавливает дальнейшие разработки, пока не научится его сдерживать.

Ещё немного о будущем, которое уже рядом. И которое скоро будет требовать личного присутствия всё больше и больше:

https://www.genians.co.kr/en/blog/threat_intelligence/kimsuky_ai_llm

#ai #leaks

The smell of the frontier model.

Этот тумблер в macOS 15.7.9 может сожрать 140% CPU.

Четырёхлетняя девочка разговаривает, как барышня из мема «главное какой fabric».

Сейчас пришла показать шапочку для душа и объясняет: «это чтобы hairs’ы не намокли».

Жизнь билингв — она такая.