Свежие данные из интернета для ИИ-агента - одним вызовом API
Чтобы ИИ-ассистент отвечал с учётом актуальной информации, недостаточно найти ссылки. Нужно загрузить страницы, очистить HTML, разбить текст и выбрать фрагменты, которые помогут ответить на вопрос.
Smart Snippets в Yandex Search API берут эту подготовку на себя. На входе - поисковый запрос, на выходе - подходящие выдержки из найденных страниц с цитатами и ссылками на источники. Их можно сразу передать вашей модели для формирования ответа.
Размер фрагмента - около 500 токенов. Контекст не забивается страницами целиком: модель получает отобранные материалы. По данным команды продукта, это сокращает расход токенов на веб-контекст до трёх раз при том же качестве ответа.
Возможность пригодится агентам, которые ищут документацию, проверяют актуальные условия или собирают информацию о рынке. Команде при этом нужно поддерживать меньше компонентов поискового пайплайна.
Свяжитесь с экспертом, чтобы протестировать на своих запросах - по ссылке.
Post #2023
433


- ❤ 3