"Каждый токен на счету".

Вы его ждали – и он пришёл. Анонс нового стрима!

Для большинства пользователей то, что OpenClaw или Hermes едят токены с лопаты – не проблема.

Дело в том, что использует эту обвязку вокруг агента один человек. Поэтому и разница в пять раз (хорошо если в пять!) по количеству используемых токенов – это разница между $20 и $100. Для человека с доходом в $2000 и то, и другое – приемлемая цена за удобство от использования личного ассистента.

У бизнеса, как правило, степеней свободы меньше. Так как включается эффект масштаба. И мы получаем уже выражение вида "цена" умножить на 20 сотрудников и ещё на 10 бизнес-процессов. И разница, в таком случае, получается между $4000 и $20000... Это в маленькой и скромной компании. Представьте, что творится хотя бы в среднем бизнесе?

Время представить гостей:

Сергей Нотевский. AI Platform Lead в Битрикс24. Про те крутые штуки, которые они там у себя в Битрикс24 выпускают, я ещё вам поведаю. В рамках нашей беседы Сергей расскажет о том, как настроить prefix_cache и сэкономить на этом "десятки поцентов костов" (прямая цитата из этого поста).

Родион Мостовой. Создатель CodeAlive.ai – системы организации контекста для программных проектов. Несколько лет Родион занимается тем, что оптимизирует контекст для LLM и, как следствие, токены, которые на него уходят.

На стриме пощупаем руками оба подхода, сделаем практические выводы и определим принципы, которыми стоит руководствоваться, чтобы не разбрасываться бесцельно токенами.

Дата и время проведения стрима: воскресенье, 17 мая, 16:00 мск

Место проведения: мой YouTube-канал

Чтобы не пропустить – добавьте в календарь!