Мне не очень нравятся доклады в духе "вот юнит-тест, а сейчас я покажу, как генерирую его с помощью Opus 500x400". Не потому, что это бесполезно, а потому, что это быстро устаревает.
Когда в прошлом году мы готовились к воркшопу, за три месяца все успело измениться настолько, что часть материала устарела еще до публикации. А в чате недавно писали, что уже не смотрят видео про AI, если ему > 6 месяцев…
Я смотрю разные сезоны AI-конференций и вижу, как быстро стареют доклады про конкретные модели, промпты, инструменты и настройки чат-ботов. Еще год назад я считал курсор пиком, а сейчас пользуюсь им лишь в простых задачах.
Поэтому тема "как настроить AI-чатбота" мне уже не так интересна. Гораздо интереснее, как авторы строили инфру и архитектуру. Не просто фастом выучили пару функций апи, а понимали как это внедрить в реальной инженерной среде.
Да, это более абстрактные концепции. Зато они меньше подвержены инфляции. Модель, API и модный фреймворк могут поменяться, а архитектурные проблемы останутся. Хотя и здесь словарь постоянно обновляется.
Вот появился harness, а теперь все чаще слышу про scaffold. Может показаться, что одно модное слово просто сменило другое. Но это не совсем так.
Harness — это среда, которая заставляет модель работать как часть системы. Она запускает модель, передаёт ей контекст, даёт инструменты, принимает вызовы, ограничивает права, повторяет неудачные шаги, ведёт логи и проверяет результат.
Scaffold — это конструкция, которая помогает модели решить задачу. Она задаёт роли, этапы, способы декомпозиции, структуру памяти, шаблоны рассуждения и правила взаимодействия между компонентами.
Полезные ссылки:
• Mobile Harness
• Scaffold vs. Harness