AI-разработка как стек: что арендовать, адаптировать и строить самим (Рубрика #AI4SDLC)

Последний год я активно занимаюсь темой AI в разработке на уровне крупной компании. В таком масштабе довольно быстро перестаёшь решать только операционные задачи: нужно определить целевую картину, договориться, какой должна стать инженерная система, и выстроить стратегию перехода к ней.

Цели мы определили, стратегию тоже. Но по мере движения я начал ловить себя на нескольких не самых приятных мыслях.

1️⃣ Обвязка агента (harness) меняется вслед за моделями настолько быстро, что у меня появилась гипотеза о её полураспаде примерно за полгода. Если она хотя бы близка к правде, вложения в собственную обвязку почти не капитализируются: ты бежишь на месте, как в «Алисе в Зазеркалье», а чтобы сдвинуться, надо бежать вдвое быстрее.

2️⃣ Новые модели с открытыми весами всё нагляднее показывают эффект совместного проектирования моделей и железа. Однажды закупленные H100 - это ещё не долгосрочная инфраструктурная стратегия. Нужен налаженный канал обновления оборудования, потому что архитектура моделей, ускорители и экономика инференса меняются вместе.

3️⃣ Для подключения внутренних инструментов нужны совместная работа команд и точный баланс между скоростью и governance. Самый простой способ сделать агента безопасным - ограничить его настолько, что он станет бесполезным. Полезный агент требует гораздо более взрослой конструкции: идентичности, политик, контрактов инструментов, проверок и человека в контуре ответственности.

4️⃣ Улучшать такую систему без качественной телеметрии и evals невозможно. Нужен baseline, воспроизводимые рабочие эпизоды и возможность последовательно проверять, действительно ли новая модель, инструмент или версия harness сделала систему лучше.

Мне стало интересно, как эти вопросы решают большие игроки и что в такой ситуации делать условному CTO. Причём привычного выбора build vs buy здесь уже недостаточно. Полезнее раскладывать стек на три режима: арендовать, адаптировать или строить своё.

Так появился новый лонгрид. В нём я разбираю AI-разработку не как сумму модели и обвязки, а как совместно эволюционирующую систему: железо → модель → harness → инструменты → результаты → проверки. Заодно проверяю гипотезу о полураспаде harness - буквальный срок в полгода публичные данные не подтверждают, но быстрый цикл существенной перенастройки подтверждают вполне.

#AI #AI4SDLC #Engineering #Architecture #PlatformEngineering #Management