«Давайте просто развернём свою LLM на 1Т параметров»: что пришлось построить вокруг неё в Битрикс24 #habr
https://habr.com/ru/companies/bitrix/articles/1093038/
Tags: LLM, self-hosted, LLMOps, AI-платформа, инференс, prefix cache, KV-cache, AI-агенты
Author: Ser_no (Битрикс24, Конференции Олега Бунина (Онтико))
Post #325438
81