Тестирую метод написания постов диктовкой + агент, тк лицом я пока похожа на Сильвестра Сталлоне и еще не восстановилась🫠 Сегодня разбираемся что такое харнесс и зачем оно мне знать как продакту
Итак, вот мы знаем, что есть чат-боты, которые эдакий умный собеседник: ты спросил, он ответил, пообщались - разошлись.
И есть агенты, которые могут много больше, чем чат бот
Например, чат бот от выдаст тебе рецепт пасты, а агент может сам заказать продукты, проконтролирует доставку, проверит умещается ли паста в твой дневной калораж итд.
Сильно упрощая: бот - это про некий контент, агент - это про результат. Но и там, и там под капотом модели, что отличает их друг от друга?
Харнесс - твой выход
Короче, это обвязка над моделькой, когда модель (типа GPT-5, Claude 4, Llama 3) это мозг, а харнесс это там тело, руки, память и нервная система, которая помогает не просто думать, а действовать
Сори за антропоморфные сравнения, просто так легче понять😬
Что входит в харнесс обвязку
✅Планирование
Умение модели разбивать сложную задачу на мелкие шаги. Харнесс заставляет модель не просто поболтать, а строить роадмап действий и логику его исполнения
✅Память
Если у вас при общении с чат ботом не было ситуевин, когда он напрочь терял контекст, то вы еще не вели с ним по-настоящему длинные диалоги)) Это боль, это бесит и тратит кучу нашего времени, чтобы добиться норм результата. Но наша харнесс обвязка над LLM дает долгосрочную память (те же RAG, базы данных), чтобы она помнила, что пользователь просил хоть неделю назад. Это помогает держать контекст задачи, повышает точность и напрямую аффектит на качество результата
✅Тулы и инструменты
Доступы к API, браузеру, почте итд, которые помогают выйти модели за пределы окна диалога. Именно харнесс позволяет модели нажать нужную кнопку, чтобы за вас выполнить целевое действие. Например, пишем поставь встречу, агент сам идет в календарь и бронирует слот
✅Guardrails или предохранители
Это все про контроль бюджета на токены, чтобы агент не сжег $1000 на один промпт и про политики безопасности. Я бы сказала, что в свете последних новостей про убегание ИИ за пределы контура тестов, самая важная часть. Это балансир между автономностью агента и потенциальными рисками, что он что-то нахороводит сам по себе, а вам разгребать
Мы понимаем, что сами модели это в некотором смысле коммодити, то есть это уже общедоступный товар. Нет проблемы получить доступ к LLM, причем даже бесплатно. И когда в условном завтра выйдет новая модель, которая будет мощнее предыдущей - это уже никого не удивляет
Обратили внимание как часто стали выходить новые модели?
Если в 2020-м мы ждали новую GPT годами, то к 2026-му цикл сократился до неприличия. В 2022-м мажорные, значимые модельки выходили раз в 12–18 месяцев, в 2023-м уже каждые полгода, а сейчас мы получаем новую фронтир модель или крупный апдейт в среднем каждые 2–3 месяца!
Рынок перешел в режим вечного релиза, где вчерашний топ превращается в тыкву за какие-то месяцы и надо постоянно мониторить какая моделька сейчас в топе и апдейтить в наших продуктах модели до самой крутейшей, чтобы не отстать от конкурентов
Не достаточно просто сделать обертку над API какого-нибудь OpenAI, тебе нужен твой уникальный харнесс, заточенный под твою конкретную нишу и задачи. Ну и хороший харнесс это не просто техгигиена, он позволяет использовать дешевые модели для простых задач и дорогие только для критических, то есть база нашей юнит-экономики. А еще харнесс превращает хаотичную выдачу нейронки в предсказуемый бизнес-процесс, а оно нам собственно и надо
Ну и пошерь пост с коллегой, спроси с него за его харнесс😎
Ciao! 💚
@alice_product
#ИИ #этобаза