Киря

Случай на рыцарском турнире

Солнечный день близ Брюгге. Ристалище готово к турниру. Толпа зевак уже собралась. Пажи затягивают рыцарей в броню. Человек с исписанным листом в руке взбирается на бочку

— Господа! Вот вы собираетесь биться на лошадях верхом. Это деградация! Подумайте, что будет, если вы окажетесь перед врагом без лошадей? Если вы будете постоянно биться верхом, вы разучитесь ходить пешком. Лошадь может убежать, лошадь может умереть, лошадь могут украсть. Вы будете беспомощны!

— Или вот ваша броня. Вы собираетесь биться в броне. Но ведь ваша броня не всегда будет с вами. А если вы будете биться постоянно в броне, то вы разучитесь биться без неё. И когда вы окажетесь в чистом поле или в лесу без своей брони, что вы будете делать тогда?

Рыцари смотрят на оратора, подняв брови. В толпе раздаются смешки. Пажи продолжают затягивать ремни

— И это не только с вами, господа, это повсюду! Крестьянин уже не мелет зерно своими руками — за него трудится река. А чем он накормит детей, когда река встанет? Монахи вставили себе стеклянные глаза — вместо того чтобы дать очам отдых, будут теперь читать до гроба сквозь стекляшки. Мореходы перестали читать звёзды, доверились игле в плошке с водой; а когда игла солжёт, кто выведет корабль домой? На башне повесили железное колесо, и горожане спрашивают у железа, когда им есть и когда молиться, — а прежде слышали время по солнцу и собственному желудку

— Господа, вы деградируете, вы ставите под угрозу всё человечество. Вспомните наших предков. Они знали наизусть десятки сонетов и сотни сказаний и могли пересказывать их раз за разом. А что сейчас? Новое поколение постоянно ходит в библиотеку и читает текст на бумаге! Что будет с ними в будущем? Они же не смогут запомнить наизусть и одного единственного сонета, если так пойдёт дальше

Один из пажей застыл, разинув рот. Оплеуха рыцаря возвращает его в чувство

— А это изобретение Люцифера — арбалет?! Любой безродный мужик, неделю подержав арбалет в руках, свалит рыцаря, который тридцать лет постигал искусство боя. Тридцать лет, господа. Где тут доблесть, если убивает пружина, а не твёрдая рука и мастерство воина?

— И это не самое страшное. Прежде хватало слова рыцаря. Теперь требуют пергамент с восковой печатью, требуют свидетелей и подпись. Честь умерла, если ей нужна расписка!

— А в Италии, господа, в Италии уже едят серебряными вилами! Будто Бог дал человеку пальцы по ошибке!

Один из рыцарей разражается смехом. За ним смеются остальные. Потом смеются все. Пажи возвращаются к ремням, затягивают последние пряжки и помогают рыцарям натянуть шлемы и перчатки. Слуги помогают рыцарям усесться на лошадей. Звучит горн

Оратор говорит что-то ещё, сверяясь с листом, но его уже никто не слушает. Одна из лошадей сбивает его с бочки, и он, смешно взмахнув руками, падает лицом в грязь. Лист улетает в сторону

Начинается битва, в которой у него не было бы ни единого шанса. Хорошо, что он в ней не участвует

За последние месяцы было уже несколько случаев, когда нейронки делали прорывы в математике. Например, на этой неделе ещё не вышедшая модель Антропиков продвинула саму гипотезу Римана — одну из главных нерешённых задач математики последних 150 лет. Это лишь один пример из целого ряда таких новостей

Мне кажется, многие не понимают масштаба значимости этих новостей. Да, пока что способности моделей к прогрессу в математике находятся в начальной стадии, и прогресс маленький. Но важно тут то, что доказана принципиальная возможность продвигаться в математике (а значит — в любой науке) при помощи LLM. Мы теперь точно знаем, что нейронки могут создавать оригинальный интеллектуальный продукт — открытие или решение нерешённой ранее проблемы. И математика — самый честный тест, потому что доказательство нельзя ни найти готовое, ни подделать, его проверяет формальная система, оригинальность верифицируема

Из этого следует, что расхожий тезис про то, что нейросети — это просто «стохастические попугаи», которые способны только повторять и не способны на создание оригинального, ошибочен. Точнее, он верен для слабых моделей, но не верен для технологии LLM в целом. Принципиальных ограничений нет

То, когда модели станут настолько мощными, что эта способность распространится на все сферы науки и творчества, — теперь лишь вопрос времени (и строительства дата-центров с электростанциями). Это может занять годы, но мы неизбежно придём в точку, где агенты будут способны генерировать поистине оригинальный творческий продукт лучше, чем люди

Этот мир будет радикально отличаться от того, что мы наблюдаем сейчас. Не знаю, понравится ли нам, но скучно точно не будет

— Сколько текста было в книге
— Сколько я прочитал объяснений этого текста

Просто для наглядной демонстрации концептуальной плотности текста в книгах Райаниеми

Читать книги, которые не понимаешь

Один из самых горячих вопросов двадцатых: где машина заменит человека и что человеку останется там, где заменит?

Мне кажется, вот что: в эпоху мгновенных ответов на любые вопросы критерием человечности становится умение задавать хорошие вопросы. На самом деле так было всегда, просто сейчас это обнажилось и вышло на поверхность. Вы можете возразить, что агенты тоже умеют спрашивать. Да, но они не знают, чего не знаешь ты: твоё неизвестное существует только у тебя в голове, и у машин нет никакого повода о нём спросить

Как задавать хорошие вопросы? Для этого нужно нащупывать неизвестное неизвестное — то, о чём ты пока даже не догадываешься. Я давно заметил, что, чем глубже закапываешься в любую тему, тем больше обнаруживаешь в ней глубины: её истории, трудов, открытий, нерешённых проблем

Самый быстрый способ закопаться, который я знаю, — читать тексты, которые тебе пока слишком сложны, которые ты не понимаешь хотя бы частично. Я, например, сейчас читаю книги Ханну Райаниеми — это фантастика о постчеловеческом будущем, в котором существует много разных видов постлюдей. Книги насыщены терминами и понятиями, а сам автор ничего не объясняет, предоставляя читателю возможность догадываться об их значении из контекста. Поэтому мне постоянно приходится обращаться к Клоду и спрашивать, что происходит в конкретном фрагменте. Из объяснений я узнаю много нового из физики, информатики, математики и даже истории. Например, довольно много узнал о русском космизме, потому что одна из ключевых сил в книге называется «Соборность», и я стал спрашивать, почему (а ещё забавно: порабощённые копии сознания там зовутся «гоголами» — отсылка к «Мёртвым душам»)

Я не хочу сказать, что сложные тексты обязательно сделают вас умнее или что вы станете лучше разбираться в прочитанном. Но сам факт, что приходится продираться через непонятное, расширяет сферу твоего знания, а вопросы рождаются именно на её поверхности, на границе с незнанием: чем больше площадь соприкосновения, тем больше вопросов ты в принципе способен задать миру. Поэтому, кстати, самые недалёкие люди обычно и самые уверенные: им просто нечего спросить

Хорошие вопросы не придумываются из ничего — они отбираются из массы возможных. Чем больше эта масса, тем выше вероятность, что однажды ты задашь — себе или своим инструментам — тот самый вопрос, который приведёт к решению, до которого машина сама никогда не додумается. Там, где она отвечает лучше тебя, спрашивать — это и есть твоя работа

Да, в иные вечера выходит, что диалоги с нейронками я читаю дольше, чем сами книги. Но каждый такой вечер — это часы практики в умении, которое останется человеческим. Так что, мне кажется, это хорошо

Обновил репозиторий со своими скилами

Добавились bugfix и wrap-up

Скил wrap-up — это автоматизация ритуала завершения сессии, который сформиовался у меня за последние месяцы. Он делает так, что после завершения работы в сессии не остаётся хвостов и мусора. Всё закомичено, документация обновлена, локальные сервера и симуляторы остановлены, временные файлы и ворктри убраны, уроки записаны в память

В других скилах есть обновления, так что обновитесь, если ставили себе предыдущие версия

(чтобы установить их или обновить, просто дайте ссылку на репозиторий своему агенту)

Машина и вкус

Taste. Это слово я встречаю теперь каждый день, когда сёрфлю интернет в поисках материалов для Журналуса. В дизайн-сообществе о вкусе говорят, кажется, все — количество статей на эту тему зашкаливает. Большинство авторов считают, что вкус — это некий последний фронтир, который остается человеку перед тем, как его заменит (или не заменит) машина

В этих рассуждениях почти все допускают фундаментальную ошибку: они думают о вкусе как о каком-то общем свойстве, которое либо есть, либо его нет. В лучшем случае — как о градиенте от нуля до единицы. Но я предлагаю посмотреть на это под другим углом — как на индивидуальную способность выносить суждения о том, что хорошо, а что нет, что достойно, а что недостойно, что пропускать дальше, что дорабатывать, а что выкинуть в помойку. В этом контексте хороший вкус — это такая цепочка суждений, которые через множество итераций ведут к результату, который нравится автору, другим людям и рынку

Спорить нужно не о том, сколько у человека вкуса, а о том, чей он. Вкус скорее похож на стиль, и он уникален для каждого человека. У каждого опытного профессионала — если он, конечно, не бездумно копирует других — так или иначе формируется свой стиль. Уникален сам набор суждений; а хорош он или нет — покажут итерации

Под таким углом сам вопрос о том, может ли ИИ обладать вкусом, меняется на вопрос: может ли ИИ обладать моим вкусом? А это уже больше похоже на задачу о том, как научить машину последовательно выносить такие суждения, которые вынес бы я сам. Получается, задача — не создать еще более умные модели, которые сами будут делать красиво и круто (где определение красоты? кто судья?), а научиться передавать машине свой накопленный опыт

На данный момент мы научили машину быть всеми сразу — то есть, по умолчанию, никем. Она умеет всё, адаптируется под любую ситуацию и готова выполнять любую задачу — пока ей не сказали, кем быть. И как будто бы следующий этап — не добавить ей еще способностей, а вырезать из этого «всеми сразу» свой профиль суждений. Не обучение, а сужение. Научить машину быть тобой

Как это будет реализовано технически, пока не до конца понятно — скорее всего, какое-то сочетание петель обратной связи, долговременной памяти и богатого персонального контекста, который постоянно обновляется. Ясно одно: машине придется показать, какие суждения ты выносил и почему, — чтобы она вывела из них сам способ их выносить. И не дать ей на этом застыть, потому что вкус живой и меняется со временем

Если это получится, окажется, что вкус — не последний фронтир, который остается человеку, а просто правильно организованный. А последний фронтир — это иметь вкус, который стоит передавать

Давно хочу показывать, что делаю по своим проектам, но не хотелось превращать этот канал в live-формат. Хочется оставить его для обдуманных заметок и важных анонсов

Так что я завел отдельный канал, где буду показывать, что делаю и что сделал. Почти что прямой эфир, где я буду стараться каждый день показывать, над чем работаю в моменте

Если интересно, подписывайтесь: t.me/kirya_builds

Асимметрия распространения идей

Кажется, что распространение должны получать верные идеи, а неверные не должны. Что наверх должны подниматься умные и заслуженные люди. А по карьерной лестнице должны подниматься те, кто классно делает свою работу

Как будто бы верные идеи, то есть такие, которые укоренены в объективной реальности, объективно работают и приносят пользу, должны побеждать идеи, которые неверны и приносят вред

Но нифига подобного в реальности не происходит. Идеи распространяются не в идеальной вселенной, а в среде людей, то есть в их головах и сообществах, поэтому распространение получают идеи, которые выглядят убедительно (aka эксплуатируют когнитивные искажения человека), вписываются в доминирующий нарратив и не слишком сильно угрожают статусу-кво. Идеи, даже верные, которые не поданы убедительно, идут против нарратива и статуса кво, не приживаются или даже агрессивно отторгаются

Часто бывает так, что идея вредна с точки зрения интересов и индивида, и семьи, и локального коллектива, и города, и всего вида Хомо, но получает массовое распространение. Например, коммунизм. В том виде, в котором его хотели реализовать в 20 веке, эта идея глубоко ошибочная. Многим это было понятно заранее. А в 20-е годы уже были опубликованы работы Мизеса и Хайека, показавшие структурные проблемы плановой экономики. Но идея «каждому по потребностям» настолько сильная и заразительная, настолько хорошо продаётся, что даже десятков миллионов жертв оказалось недостаточно, чтобы человечество надёжно усвоило ошибочность идеи, и она жива до сих пор

Или вот идея о том, что человек, который зарабатывает больше остальных, должен и налогов в общую казну платить больше (Почему вам нужно платить больше в обмен на доступ к равному со всеми количеству благ? Опасный вопрос, не задавайтесь им). Такой подход создает негативные стимулы для всех, кто хочет изобретать, создавать и строить, то есть эта идея работает против роста благосостояния как индивидов, так и коллективов, и целых городов и стран, но эта идея распространена по всей планете. Более того, на многих территориях побеждает даже более извращенная версия этой идеи, где тот, кто больше зарабатывает, должен платить больший процент (!) от своих доходов в общую казну. Идея абсолютно безумная, но она побеждает

Правильные и работающие идеи зачастую настолько контринтуитивны и настолько противоречат нашему знанию о мире, что им сложно пробить себе дорогу в умах людей. Они не выглядят убедительно, несмотря на верность. И им требуется длительное время, чтобы укорениться. Примеров тоже масса. Знаменитый (теперь) венгерский акушер Игнац Земмельвейс и ещё более знаменитый английский врач Джон Сноу, с трудом продвигавшие идеи о том, что руки врачей и вода должны быть чистыми, а иначе гибнут люди. Людвиг Больцман, которого крупные учёные травили за идею атомов. Идеи о недопустимости рабства, равенстве полов, о спонтанном порядке — из той же корзины

Для меня очень интересно думать об этом применительно к себе самому и к сегодняшнему дню. Наверняка же часть идей, которые я принимаю, я принимаю не потому, что они (как мне кажется) верные, а потом, что они убедительные. А часть идей, которые я отвергаю, являются верными, но контринтуитивными и недостаточно убедительными

Часть идей о мире, которые сегодня — мейнстрим, будут признаны неверными в будущем

Мне кажется очень важным развивать в себе навык отличать верные идеи от убедительных. А с другой стороны, кажется не менее важным уметь подавать свои идеи и свою работу максимально убедительно. Недостаточно быть правым, недостаточно сделать хорошую работу, принципиально важно ещё и уметь убедительно об этом рассказать

В этой фундаментальной асимметрии причина того, что мы часто наблюдаем, как продвижение по карьерной лестнице получают не те люди, которые хорошо работают, а те люди, которые о ней убедительно рассказывают. И успеха в бизнесе добиваются не обязательно люди, которые делают самый лучший продукт, а те, кто о нём наиболее убедительно рассказывает

КОРОЧЕ: давайте тренироваться отличать верные идеи от красивых и приятных, а свои — презентовать убедительно

Claude Code, оказывается, умеет сам смотреть на анимации, которые делает

Благодаря этому он сделал мне достаточно симпатичные анимации открытия и закрытия читалки. Да, мне пришлось ему объяснить, чего я хочу, но в целом он сам смотрел их и правил, добиваясь нужных эффектов

Версия 1.5.4 с ними уже в сторе 📚

Люди, которые при виде любого бага или косяка в ПО хихикают «навайбкодили», просто никогда в жизни не работали с живыми программистами и не выпускали в продакшен ничего, написанного людьми

10 июня 2016 года я запустил платную еженедельную рассылку. На скриншоте — самый первый отклик, который я получил

Спустя 10 лет и 510 выпусков я оглядываюсь назад и понимаю, насколько важно было тогда проигнорировать это сообщение, не дать хейту попасть в сердечко и потом прорасти в голове сомнениями и унынием. Сейчас эта рассылка, вероятно, крупнейшее в рунете платное издание про дизайн и технологии

За эти годы я убедился, что мир вознаграждает тех, кто способен долго, качественно и с полной отдачей делать своё дело. И не важно, что это за дело, не важно, что пишут о нём в интернете. Пусть ваше дело — это всего лишь «бесплатные подборки выпускать платно». На дистанции постоянство даёт эффект сложного процента, и чем дольше не сходишь с дистанции, тем выше процент

Ебать я предприниматель :)

Публикую свой скилл TDD — он помогает кодить без багов, потому что заставляет агента писать тесты по-честному

Метод программирования TDD придумал Кент Бек в конце 1990-х, и с тех пор он считается одной из самых надёжных инженерных практик. Идея в том, чтобы сначала писать тест, потом код. Метод отлично подходит автономным агентам — тесты становятся объективным доказательством, что код делает то, что нужно. Но есть ловушка

Коротко, метод работает так: красный тест → зелёный код → рефакторинг. Тесты обязаны упасть до того, как написан код. Но, если просто поручить агенту «работай по TDD», он будет генерировать тесты, подогнанные под код, потому что генерирует их в одном окне контекста. Bias будет неизбежно толкать его мухлевать, как ни уговаривай. Баги такие тесты ловят плохо, потому что написаны уже зная реализацию

Мой скил написан так, чтобы надёжно изолировать написание тестов, кода и рефакторинг. Агент-тестировщик не видит код. Агент-разработчик видит тесты, но не может их менять — и не знает, из какого ТЗ они выросли

Ещё я встроил «детектор противоречий». Если ТЗ содержит правила, которые противоречат друг другу, скилл останавливается и говорит об этом, а не молча кодирует баг

Я писал и итеративно улучшал этот скил последние два месяца в рамках практики «затачивания инструмента». Сейчас он уже в версии 2.0. Получился офигенный тул, который мой Клод использует каждый день — на всех задачах, где пишется новый функционал. А я — кайфую

Пример такого улучшения. Я решил проверить справедливость собственных ощущений о том, что скилл работает. Собрал эвал — набор заранее заготовленных заданий, где правильный ответ известен. Типа как краш-тест для машины. Среди заданий было одно намеренно отравленное — с правилом доступа, которое тихо противоречило собственному описанию. Первая версия скилла невозмутимо выдала 19 зелёных тестов поверх настоящей дыры: гейт пустил бы неоплатившего юзера туда, куда ему нельзя. Вторая версия увидела противоречие в самом ТЗ и остановилась. Без эвала я бы считал, что первая версия работает — она ведь выглядела убедительно

Сейчас с этим скилом я запускаю объёмные задачи на многие часы, и результат регулярно меня удивляет. Свежий пример: я поручил Клоду написать версию Букова под Андроид на основе кода и документации iOS и веб приложений. Он работал несколько вечеров почти фоном (я иногда давал какие-то разрешения или говорил go ahead) и выдал приложение с основными функциями — каждая покрыта тестами, каждая проверена автоматически. Дизайн я сознательно вынес в отдельную итерацию, но функционально всё работает именно потому, что TDD-цикл не дал агенту срезать углы. Без этого скилла приложение тоже было бы написано, но с кучей багов и многие функции просто не работали бы

Писать и обновлять фичи внутри существующих продуктов тоже лучше с этим скилом — без тестов агент легко ломает соседний код, и ты узнаёшь об этом только когда пользователь напишет

Чтобы установить себе, дайте агенту ссылку на репозиторий и попросите установить скилл в систему (опционально: и адаптировать под ваши проекты). Он написан для Claude Code, но любой другой агент легко адаптирует его под себя

github.com/kirillgreen/skills/tree/main/tdd

«Затачивание инструмента» всегда было важной частью работы любого ремесленника. В кавычках — потому что это не обязательно затачивание в прямом смысле, я имею в виду любое улучшение. Каждому профессионалу нужно время от времени заострять, настраивать и апгрейдить свои инструменты

Занятно, что в работе с агентами «затачивание» никуда не делось, но теперь инструмент «точит» сам себя

Это превратилось в мета-работу, когда ты буквально говоришь с инструментом о том, что он может сделать, чтобы он работал лучше и эффективнее. Просишь его проводить дип рисёчи о том, как строить работу с агентами, а потом применить знания, полученные из отчётов. Даёшь ему ссылки на статьи и репозитории, и предлагаешь внедрить подходы из них

Я регулярно говорю с Клод Кодом о том, как можно улучшить моих субагентов, скилы и настройки, чтобы он работал эффективнее, автономнее и допускал меньше ошибок. Советую так делать всем, это очень полезно

Это даст и мгновенный результат, и долгосрочный. Небольшое улучшение будет заметно сразу после сессии обновления. А на дистанции в несколько месяцев, если хотя бы раз в неделю «точить» агента, вы обнаружите себя владельцем умной агентной системы, написанной специально под ваши задачи и процессы