dmgritsan - CTO & Co-founder with AI tools

Обсуждали сегодня с коллегами в неформальной обстановке всякое, в том числе про AI-driven разработку. Все сходятся в том, что главное, что нужно, чтобы LLM-ка нормально написала код - это качественные требования. Но, блин, с качественными требованиями и разработчик может 😅

Летел сегодня в командировку и по дороге столкнулся с двумя вещами, которыми хочу поделиться.

Первая - маленькая, но очень порадовавшая фича то ли последнего Андроида, то ли конкретно последнего Пикселя. Когда после включения авиарежима включаешь WiFi или Bluetooth, появляется уведомление, что при следующем включении авиарежима, он запомнит текущее состояние. Неужели, наконец-то включение авиарежима не будет обрывать прослушивание контена? Меня это очень сильно раздражало, особенно, когда я летал с короткими пересадками. Кстати, это я просто слишком долго на древнем Хуавее с неактуальным Андроидом сидел, или это всё-таки Гугл красавчики?

А вот кто точно не красавчики в IT сервисах, так это Cyprus Airways или их подрядчики. Как это сейчас бывает почти у всех авиакомпаний, они запустили свою Inflight Entertainment System, к которой можно подключиться по WiFi. Всё бы хорошо, но когда подключаешься к бортовой сети с телефона, перебросить открывшуюся страницу в Chrome не получается. Ну, ничего, для таких случаев они сделали QR-код на флаерах, вложенных во впереди стоящее кресло. Правда, зачем-то сделали его через сокращатель ссылок bit.ly. И, сюрприз-сюрприз, без Интернета ссылка не открывается 😂 Причем, я вот прям отлично представляю, откуда взялся именно такой QR-код, как тз на него поставили, как сгенерили и как протестили.

Но, кстати, раз уж речь зашла про юзабилити, фича покорившая нас с женой больше всего за последний месяц, была обнаружена в приложении Apple TV+. Когда перематываешь на 10 секунд назад, оно автоматически на эти 10 секунд включает субтитры. Это просто гениально, особенно, когда во время вечернего просмотра сериалов, твою собаку регулярно посещает желание поболтать.

А вас кто и какими фичами порадовал за последнее время?

За последние несколько недель я чётко понял, что на пути к быстрому запуску микропродуктов, которые под капотом используют LLM’ки, есть две большие, пересекающиеся между собой проблемы:
❓ Сложно понять, где граница применимости разных AI-моделей.
🎯 Неочевидно, как подобрать максимально хорошие цепочки промтов для решения конкретной задачи.

Кажется, что первым шагом на пути к решению обеих проблем является возможность быстро и эффективно оценивать промты. Поэтому, в рамках одной из задач, которые я решал, попробовал быстро собрать инструмент для оценки разных вариантов постановки задачи LLM’кам. Но не особо преуспел — слишком много нюансов, слишком много корнер-кейсов, а ещё надо заниматься каким-то другим большим и сложным продуктом вместо того, чтобы делать простой и маленький.

Решил поискать что-нибудь готовое. Спросил у Perplexity, какие тулы есть для промт-инженеров. Ведь если уже появилась целая отдельная профессия, то наверняка есть и специальные сервисы. Оказалось, что действительно есть много инструментов: кто-то умеет версионировать промты и проксировать запросы к LLM’ке, кто-то предлагает Prompt IDE или CMS (так и не понял, это одно и то же или нет), кто-то пытается улучшать промты с помощью AI.

Из того, что нашлось, больше всего по описанию мне понравилась Agenta. В ней есть всё, что мне хотелось получить:
🛠 Инструменты для тестирования промтов, включая Chain of Prompts и RAG.
🤖 Автоматическая оценка результатов, в том числе на смысловую схожесть, плюс разметка вручную через удобный интерфейс.
🌐 Проксирование запросов в LLM для использования актуальных версий промтов.
⚙️ API-доступ к последним версиям промтов для использования в своих запросах.

Честно, я пока не пробовал, но звучит многообещающе. А у вас был опыт работы с инструментами для подбора промтов? Посоветуете что-нибудь?

━━━━━━━━━━━━━━━━
P.S. Кстати, в том проекте, с которого начались мои поиски инструмента, надо было оценивать результат обработки не текста, а картинки. И вот под эту задачу я так ничего готового и не нашёл. 🤷‍♂️

Ну, что ж, время для апдейта: во вторник я вышел на работу в tabby, чтобы стать менеджером (не пишу продуктовым, так как не идентифицирую ни себя, ни эту позицию, как чисто продуктовую) платформы биллинга. Пока погружаюсь в контекст, есть отличная возможность посмотреть свежим взглядом на то, как выглядят границы платформы сейчас, предложить разные варианты того, куда эти границы можно подвигать, и оценить к чему это может привести с разных точек зрения.

Поэтому прежде чем перейти к личному — рассказу о том, почему выбор этой позиции кажется мне настолько вдохновляющим, хочу озвучить одну просьбу. Те, кто имеет отношение к инжинирингу в ФинТехах и те, кто строил core-banking сервисы, поделитесь, если они есть, публичными статьями о том, как оно устроено у вас, или у тех, кем вы вдохновлялись. Уверен, нет одного правильного ответа, а для каждого бизнеса подходит что-то своё, но хочется посмотреть на чужой опыт и понять, что из него кажется релевантным, а что нет.

А теперь немного про то, почему я выбрал эту позицию. Если попытаться найти одну главную причину, то это “AI-driven development”, прошедший красной нитью через весь процесс найма — от первого сообщения в личку от CPO, с которым мы несколько лет назад запускали Яндекс.Сплит, в котором он отметил, что компания проявляет к этому активный интерес, до финального собеседования с COO и фаундером, примерно половину которого он рассказывал, как организовывал хакатоны для внедрения AI-подходов к разработке как раз в команде биллинга.

Я так сильно верю, что сейчас благодаря AI-помощникам полностью меняется подход к разработке, что решил, что заниматься этим только в свободное от работы время в корне неправильно. И когда нашёлся работодатель, который считает так же, как и я, который не просто готов к экспериментам, а активно всех на эти эксперименты толкает, понял, что это мой шанс заниматься тем, во что я действительно верю!

Дополнительным зелёным флагом для меня было то, что во время собеседований люди на самых разных уровнях говорили, что они хотят от человека на этой позиции одного и того же. Это дорогого стоит, когда и у руководителя огромного департамента, и у тимлида конкретной команды в нём, запрос на одно и то же. Приятным бонусом было и то, что и все рынки, на которых работает tabby, и, главное, штабквартира (привет, первая командировка в феврале), находятся буквально в двух-трёх часах прямого перелёта с Кипра, на котором, мы с женой решили остаться.

И вот это, хоть и сложное, но довольно освобождающее решение. Мы сами занялись своей легализацией здесь и место жительства теперь напрямую не связано с работодателем. Так что теперь ещё на один страх (о котором я писал в предыдущем посте) и на одну несвободу меньше!

Вместо подведения итогов прошлого года расскажу немного о том, с чего начинается год текущий. Как знают те, у кого я есть в LinkedIn, в декабре я поделился новостью о том, что планирую в ближайшее время сменить работу. И вот последний рабочий день в InDrive близился, а меня одолевали два страха. Первый понятный только релокантам — остаться без легального основания для нахождения в чужой стране. Второй понятный любому, кто давно и плотно работает в корпорациях, которые предоставляют тебе рабочие девайсы — остаться без основного средства производства. Т.е. ноутбука.

В рамках кампании по снижению собственной тревожности, решил, что даже если я вот прям скоро выйду на новую работу и мне пришлют ноут (спойлер к будущим постам — так оно и выходит), иметь отдельно личный ноут и рабочий —правильная практика. Пусть рабочий ноут будет соответствовать всем комплаенсам и на нём будет ряд ограничений, это не помешает мне делать то, что я хочу, пользоваться тем софтом которым хочу и вот это всё.

Но я же на Кипре. Поэтому план покупки ноута менялся несколько раз. Первая идея была заказать в ОАЭ кастомный ноут с русской раскладкой и доставить его в гостиницу сестре, которая оттуда собиралась ко мне в гости. Но делать это было надо раньше - минимум за две недели, а иначе ноут можно было бы купить дешевле, чем на Кипре, но с арабской раскладкой.

Такой вариант меня не устраивал и я пошёл по местным магазинам. Коллеги говорили, что там умеют делать сборки на заказ и за пару недель привозить любую конфигурацию. По факту выяснилось, что везут они 7-8 недель, а прямо сейчас выбрать между только английской и смешанной с греческой раскладкой нельзя. В стоке только клавиатуры с буквами из матанализа.

Когда паника, что мне на чем будет в Курсоре свои поделки делать совсем захлестнула меня, я чуть не заказал ноут на немецком computeruniverse. Но потом внимательно перечитал сообщение от коллеги, который писал, что пришлось на нем менять немецкую клавиатуру на другую.

И тут на помощь внезапно пришёл amazon.co.uk. Мало того, что там была скидка на ноут с M4 Pro и, естественно, клавиатура только английская. Они ещё и доставили его меньше, чем за неделю. А в качестве дополнительного бонуса у него подходящая для Кипра вилка на адаптере!

Кажется, последний раз я покупал себе ноут больше 10 лет назад. Какой же кайф не думать о том, что твоим ноутом управляет кто-то другой кроме тебя и корпорации, которая его выпустила 😈

Я уже рассказывал про свои эксперименты с разворачиванием бекендов для телеграм-ботов в AWS. А сейчас решил, что вместо 1000 слов лучше одна ссылка на github. Так что ловите — https://github.com/dmgritsan/aws-serverless-tg-bot. 99% кода написал Claude в Cursor'е.

Именно как бот он пока не умеет ничего кроме команд start и help, но скоро добавлю отправку текста в ChatGPT с настраиваемым промтом. Зато как проект, он умеет деплоиться в продового и тестового бота.

Следите за issues, комментируйте, форкайте.

P.S. Если честно, я хотел написать большой пост, но вместо этого фиксил скрипт деплоя через GitHub Actions

Зачем писать что-то серьезное, если можно поделиться смешной опечаткой по Фрейду:
Вместо стейкхолдеров написал плейсхолдеров.

Подсознание не обманешь 😅

Кажется, эту характеристику дегустации должны отлично понимать разработчики:

Spittoon overflow

Надо так назвать сайт для виноделов, у которых вино не билдится 😅

Channel name was changed to «Fullstack Manager with Cursor»

Никак не могу выработать режим, в котором я буду регулярно тратить время на эксперименты с написанием кода LLM'ками и рассказывать об этом в канале. Так что сегодня снова будет очень краткий обзор того, что удалось сделать на предыдущей неделе.

Итак, цель всё та же — production-ready разработка без написания кода руками 🤖. Подход к разворачиванию тоже сохраняется — Serverless в AWS ☁️. И вот за две недели регулярного выделения часа-двух по будням и нескольких часов в выходные, мне в Cursor IDE с помощью Claude в качестве модели удалось собрать ту схему, которая приложена к этому посту.

Причём, когда я говорю "собрать", то это прям вот deploy-ready во всех смыслах:

📝 Написать весь код для AWS Lambda;
💡Написать код для взаимодействия со внешними сервисами, включая промты для обработки запросов силами OpenAI API;
🔧 Описать класс в AWS CDK для разворачивания этого с нуля в аккаунте AWS;
⚙️ Написать скрипт для GitHub Actions, который деплоит это в dev или в prod, в зависимости от того, в какую ветку коммит;
📦 Добавить сборку AWS Lambda Layers в сборку для тех функций, которые требуют дополнительных зависимостей;
📖 Написать базовую документацию для README.md, включающую схему, нарисованную выше;
🧪 Покрыть (пока) одну из лямбд полноценными юнит-тестами с замоканными AWS-сервисами.

Для меня это огромный шаг вперёд не только в разработке с AI-помощниками, но и в разработке вообще. Если честно, я никогда не выстраивал весь конвейер с тестами и dev-развёртыванием своими руками — только руками команды. И с точки зрения качества разработки pet-проектов, которыми я иногда занимался, это огромный шаг вперёд, позволяющий выйти на принципиально другой уровень качества и возможности постепенного развития. Документация, тестовое окружение и полноценное покрытие тестами сильно помогает, когда к проекту возвращаешься эпизодически, а не постоянно имеешь весь контекст в голове 🧠.

Что мне пока не нравится? То, что много повторяющихся функций в разных лямбдах тупо скопипащено. Но, кажется, это тоже довольно просто решаемо, когда весь процесс сборки автоматизирован. Можно вынести это всё в общие модули и добавлять необходимые зависимости куда надо. Когда надо всё деплоить руками, следить за этим замучаешься 😅.

Короче, две недели не мог оторваться и тупо шёл и шёл дальше к своей мечте про production-ready разработку без собственно написания кода. Кажется, что она где-то совсем рядом 🏁.

Вот, наконец, нашёл немного времени написать об этом и спросить: а кто-то хочет больше деталей про это всё услышать и увидеть? Может, вебинарчик какой-то с live-coding в Cursor замутить, где подготовим всё вышеперечисленное для какого-нибудь сервиса и задеплоим? 🎥

P.S. Вопрос границ применимости подхода всё ещё самый мучительный 🤔. Но чем дальше, тем шире они кажутся. И тем меньше скепсиса у меня к подходу при условии, что запросы в чат Cursor пишет человек, разбирающийся в разработке 👨‍💻. Вот если не разбирающийся, тогда пока не знаю.

Мы с @aamik каждую неделю

Все вы знаете фразу "Хочешь сделать хорошо — сделай это сам". Так вот для перфекционистов я тут придумал продолжение, пока с коучем общался:

Хочешь сделать достаточно хорошо — поручи кому-нибудь.

Мне гораздо проще принять неидеальную реализацию от кого-то другого. Пока я сам буду фрустрировать и пытаться понять, как же сделать идеально, я уже десять раз успею сформулировать критерии приёмки задачи (той самой достаточно хорошей реализации) и поручить её кому-то. И он даже её сделать и исправить по моим комментам успеет пару раз.

Возможно, поэтому для меня так притягательно идея, что код должен писать не я сам, а AI. Не, ну а чего от него ждать-то. Явно ж не идеальной реализации. Мы же знаем на каком говнокоде его обучали 😂

Вот это подгон от Revolut Premium. И я сейчас не про то, что каждая доставка лучших суши в Пафосе теперь будет обходиться мне на 2.45€ дешевле. А про то, что жаба душила платить за Perplexity Pro 20 баксов в месяц, когда уже платишь их за ChatGPT.

Если вам было жалко 100€ в год за премиумную подписку Revolut, но вы пользуетесь AI-помощниками, то посчитайте всё ещё раз. Возможно, теперь она заиграет новыми красками. А если у вас до сих пор нет Революта, но есть возможность его оформить (в смысле, есть европейский ВНЖ), то вот вам реферальная ссылка. Не, ну мало ли.

Посмотрел ещё раз на bolt.new и на replit agent, ссылку на который мне прислали в комментариях к предыдущему посту. И тот, и другой (и, наверняка, ещё какое-то количество аналогичных сервисов) — это инструменты для того, чтобы нагнать побольше проектов хоститься на их родительских сервисах. ChatGPT объяснил мне что они умеют:

StackBlitz более ориентирован на веб-разработку и предлагает инструменты для быстрого создания и тестирования приложений на популярных фронтенд-фреймворках.
Replit поддерживает множество языков и типов проектов, ориентирован на образовательные цели и коллаборацию, что делает его более универсальным.

Ну а так как я всё пытаюсь собрать для себя похожую автоматику, только для разворачивания AWS-hosted проектов, решил у него спросить, про границы применимости. Он мне накидал большой список типов проектов, для которых они не подойдут и резюмировал:

StackBlitz и Replit подходят для быстрого прототипирования и небольших проектов, в то время как AWS — мощная платформа для построения и масштабирования сложных приложений и распределенных систем.

А я теперь сижу с противоречивыми чувствами — вроде, я хочу как раз быстро прототипировать небольшие проекты. Но при этом меня не покидает ощущение, что StackBlitz и Replit слишком сильно ограничивают меня по тому, что в них можно сделать. И вместо того, чтобы под каждый проект подбирать свою платформу, где оно может хоститься, хочется остановиться на максимально универсальной мощной платформе. Но вот не оверкилл ли это?

Есть тут у кого-нибудь опыт разворачивания проектов на таких вот платформах для быстрого прототипирования? Я бы с удовольствием созвонился, вопросы позадавал.

... а потом мне прислали ссылку на сервис bolt.new. И мне в очередной раз показалось, что всё, что я рисёрчил до этого на тему AI-помощников в разработке можно забыть. Ведь этот сервис создаёт весь проект сам. Прям вот раскладывает по файликам, пишет конфиги и предлагает задеплоить или коммитнуть в github-репозиторий. Ну вот прям то, что я хотел построить сам.

Но первый вопрос, который я себе задал, это какие у него границы применимости. Насколько я понял, его основной сценарий — это разработка чего-то, что можно развернуть в WebContainer на stackblitz, Т.е. речи про какие-то сложные бекенды идти не должно. Хотя, определить конкретно, где заканчиваются простые и начинаются сложные бекенды, непросто.

А дальше его ждало главное испытание. Я попросил его покрыть тестами код, который он только что для меня написал. Он быстро создал файлы с тетами, я их запустил и они зафейлились! Фух. Ладно. Всё было не зря. Исследуем дальше.

Пропал отсюда на три недели, но не переставал искать способы делать разные MVP силами AI-помощников 🤖. В очередной раз понял, что те области, в которых у меня есть навык разворачивания микро-решений в AWS, отлично подходят для экспериментов — телеграм-боты и парсеры. И там, и там можно обойтись без UI, т.е. нужно настроить работу только бекенда.

Lambda-функции, SQS-очереди, S3-хранилища и базы данных DynamoDB в каком-то смысле заменяют модные микросервисные архитектуры. Но и проблемы с ними те же, что и с микросервисами — нужно описать и формализовать все взаимодействия, а лучше ещё и покрыть их тестами 🛠. Без этого никакой MVP до продакшна не доедет.

В вопросе формализации взаимодействий сервисов ChatGPT мне помог, предложив несколько классных решений. Теперь будем с ним развертывать сервисы через AWS CDK и описывать их взаимодействия в Strukturizr. Правда, с последним AI-ассистенты пока справляются не идеально, но после небольшой доработки напильником человеком схемы получаются весьма информативными ✨.

А как вы храните данные о взаимодействиях между сервисами? А деплоите всякие замороченные штуки в AWS?

Кстати, после того, как Лёша показал мне, как работает Cursor, я проникся и перестал писать код в чатах с ChatGPT и начал пользоваться им. Продуктивность работы с кодом резко возросла, так как у него есть контекст. А когда он предлагает исправить какой-то кусок кода, он его умеет подсвечивать как дифф в гите — такие строчки добавились, такие удалились. Никакой больше рандомной переделки всего подряд по ошибке. А в остальном это просто кастомная сборка VS Code, что для меня является огромным плюсом.

А ещё вчера нашёл статью о том, что вам больше не нужны фронтендеры, если у вас есть Cursor. Верится с трудом, конечно, но когда мне понадобится реализовать какой-нибудь небольшой фронт, попробую воспользоваться советами из нее. Тем более, что там прям пошаговая инструкция есть. Примерно такая, которую хочется на собвственном опыте написать про какой-то другой класс задач с бекендами на AWS. Вот думаю, попробовать упороться дальше в ТГ-ботах или скомпилировать свой обширный финтех-опыт, включающий AI-кодинг всяких странных сценариев поверх страйпа.

Меньше чем за неделю мы не только провели первый эфир, на котором поделились тем, как через год наших еженедельных созвонов с aamik, он силами ChatGPT написал и задеплоил бота для телеграма, но и попробовали провести свой первый AI-разгон с одним из слушателей. Рзагоняли почти два часа и, если честно, пока не начали подводить итоги, было ощущение полного провала. Но зато потом смогли сформулировать то, что с большой вероятностью станет первым шагом нашего фреймворка по анализу проекта на реализуемость силами AI.

Важная часть ответа на вопрос — а смогу ли я это сделать с помощью AI заключается в конкретизации этого самого вопроса. А что именно ЭТО? И один из довольно неплохих способов уточнить этот вопрос, это определить, а какая команда нужна была бы, если бы это делали люди. И дальше уже по каждой человеческой роли можно отдельно посмотреть — какую часть работы и с каким качеством мы сможем закрыть на текущем уровне развития AI.

И хоть мы и выложили уже видео сегодняшнего разговора в YouTube, смотреть его я точно не рекомендую. А если тема интересна и интересно не только моё мнение по ней, то лучше подписаться на канал Устрой деплой, где мы обязательно напишем свои выводы. А ещё можно вступить в его чатик. Там не только комменты к постам, но и самые разные люди делятся своими успехами в работе с AI-инструментами. И это очень поддерживает)

Уже в субботу 05.10, в 10:00, будет первый прямой эфир с разбором:

aamik поделится, как почти год вынашивал идею, а потом за месяц написал код телеграм-бота с помощью GPT, и за этот продукт уже можно брать деньги;

dmgritsan расскажет про тех. базу в создании такого продукта и как вам не надо становится прогером, а продукт всё равно случится.

Полезно всем менеджерам, предпринимателям и если у вас давно есть зудящие идеи, но страшно приступать к созданию — это шанс зарядиться и наконец-то запилить крутую штуку 🚀

В конце ответим на вопросы и подскажем, можно ли вашу идею реализовать с GPT за вменяемое время, если вы пока не дружите с питоном и прочим зоопарком.

Ссылка на созвон
Добавить в календарь

Короче, эксперимент с написанием чего-то осмысленного при помощи ChatGPT человеком, который никогда до этого не программировал, объявляю успешно завершённым. Лёшин бот вот уже несколько дней присылает мне на почту изменения в списке подписчиков этого канала.

По дороге Лёше пришлось ознакомиться с несколькими концепциями и фичами AWS — Lambda, API Gateway, CloudWatch, DynamoDB. Помимо этого понять, что такое GitHub и деплой. И, конечно, научиться работать с логами из прода, когда что-то идёт не так. Очень хорошо понимаю, когда он говорит, что написание кода это дофаминовая наркомания — сталкиваешься с проблемами, решаешь их и сразу получаешь фидбек.

При этом мы с ним пришли к выводу, что совсем уж все вопросы задать LLM'ке не получилось бы. Гораздо эффективнее, когда самую базу объясняет человек, а вот уже детали можно и у ChatGPT выяснить. По крайней мере это помогает сэкономить кучу времени на старте, чтобы сразу поставить в разговоре с LLM нужные рамки. Поэтому родилась мысль пособирать идеи небольших проектов, которые разные люди хотели бы сделать, но не понимают как. Сгруппировать их по темам и устроить воркшоп или несколько с разбором базовых вещей, которые нужно знать про разработку программных продуктов (так звучит как-то посерьёзнее, чем "IT-проектиков"), чтобы пойти реализовывать свой проект с ChatGPT.

Если у вас есть идеи проектов, которыми вы готовы поделиться, пишите в комментах или закидывайте в личку. И го обсуждать)