TGViewer
Книжный куб Книжный куб @book_cube · 15.7K subscribers
Post #4980 1.14K
Mixedbread: как устроить агенту работу со знаниями (Рубрика #AI)

Найти в договоре «30 дней» несложно. Понять, что это за срок, к кому он относится и какие условия его меняют, — уже отдельная работа. В докладе Бенжамена Клавье из Mixedbread этот пример хорошо объясняет, почему успешный поиск по коду ещё не означает, что агент готов исследовать произвольный архив документов.

Его тезис: агентов для работы со знаниями стоит проектировать с учётом того, как устроена сама исследовательская работа. В коде есть имена функций, пути и явные связи. А ещё разработчик часто заранее превращает проблему в конкретный тикет. В юридическом или аналитическом исследовании агенту приходится самому выяснять, какие вопросы вообще нужно задать.

Клавье предлагает посмотреть на юридическую фирму. Партнёр разбирается в ситуации клиента, выделяет направления исследования и поручает поиск помощникам. Те возвращают короткие записки, на основании которых он собирает решение и запрашивает уточнения. Для агентов получается похожая схема: постановка задачи → поиск по отдельным вопросам → записки с результатами → общий ответ.

И здесь сходятся две темы доклада. Хороший инструмент делает поиск доступнее по времени и стоимости. Разделение работы помогает использовать найденное, не сваливая весь архив в контекст одного агента. По мысли Клавье, инструменты и организация работы должны развиваться вместе.

Кстати, у этого рассуждения есть вполне конкретная продуктовая сторона. Mixedbread строит инфраструктуру поиска для агентов, включая обработку PDF, изображений, аудио и видео. Компания разрабатывает собственную модель Wholembed v3 и поисковый движок Silo.

В их техническом разборе интересна деталь: содержимое представляется несколькими векторами, которые сохраняют информацию о его отдельных частях. Такой подход, late interaction, должен лучше различать близкие по теме документы с разными существенными деталями. Страницы PDF индексируются как изображения, чтобы сохранить таблицы и вёрстку; параллельно извлекается текст для чтения. За точность приходится платить хранением и вычислениями — отсюда и собственный движок.

А Toast 1 — уже специализированный поисковый агент. Он разбивает вопрос на подзапросы, ищет, читает источники и собирает контекст для основной модели. Получается тот самый помощник из юридической фирмы, только с API.

У компании есть показательный тест на Harvey LAB. На выборке из 33 задач один и тот же агент с GPT-5.6 Sol потратил 80,6 млн токенов с файловым поиском, 47 млн с Mixedbread Search и 23 млн с Toast 1 поверх этого поиска. Оценка качества ответов во всех трёх вариантах осталась одинаковой. Это собственное измерение Mixedbread на небольшой выборке, но оно хорошо иллюстрирует экономику разделения труда: сопоставимый результат примерно в 3,5 раза меньшим числом токенов. Эти цифры — из материалов компании, отдельно от доклада.

С жёстким разделением программирования и остальной интеллектуальной работы я бы поспорил. В разработке тоже хватает задач, где сначала нужно выяснить, что мы вообще строим. Здесь существенна степень неопределённости постановки. А вот к исследовательским запискам стоит присмотреться. Я бы требовал от такого помощника конкретные источники, условия применимости вывода и список оставшихся противоречий. Иначе основному агенту придётся доверять чужому пересказу — вполне знакомая проблема при делегировании работы людям.

#AI #Agents #Architecture #Engineering #Evals
YouTube If we want them to do Knowledge Work, design them as Knowledge Agents — Benjamin Clavié, Mixedbread An agent searching a contract for "30 days" has no way to know whether it has found a deadline, a grace period, or a retention rule, or wandered into a medication schedule entirely. Benjamin Clavié uses that to explain why coding agents turned out to be the…
  • ❤ 3
  • 👍 2
  • 🔥 1
More from @book_cube
  1. Sep 23, 2026Прямой эфир с Фёдором Сухаревым стартует, подключайтесь и задавайте вопросы.
  2. Sep 23, 2026Материалы выпуска #30: Developer Productivity for Humans (Рубрика #Management) Собрал мате…
  3. Sep 22, 2026Код, автомобиль, страховой продукт: чему заново учится CTO | Фёдор Сухарев | Code of Leade…
  4. Sep 22, 2026Прямой эфир про AI4SDLC и мои lessons learned начинается, подключайтесь и задавайте вопрос…
  5. Sep 22, 2026Modern Computer Architecture and Organization — от процессора до AI-дата-центра (Рубрика #…
  6. Sep 21, 2026Прямой эфир про Developer Productivity начинается, подключайтесь и задавайте вопросы
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →