TGViewer
Книжный куб Книжный куб @book_cube · 15.8K subscribers
Post #5002 1.43K
Заходите на прямой эфир с разбором статьи про vLLM, где v означало вирутальную память - ключевую идею статьи еще 2023 года, чьи идеи теперь стали стандартом де-факто в мире инференса LLM.
YouTube vLLM и PagedAttention / виртуальная память для инференса LLM Модель поместилась в GPU, тестовый запрос отработал быстро. Что произойдёт, когда одновременно придут сотни запросов с разной длиной контекста и ответа? 23 сентября 2026 года в эфире Research Insights Made Simple #32 разберу whitepaper 2023 года про vLLM…
  • ❤ 4
  • 🔥 3
  • 👍 1
Open in Telegram All posts from @book_cube
More from @book_cube
  1. Sep 28, 2026What Makes a Good Productivity Metric? (Рубрика #Management) В «All Models Are Wrong» я ра…
  2. Sep 28, 2026Зачем руководитель возвращается к коду (Рубрика #Leadership) 1 октября в 11:00 по МСК в пр…
  3. Sep 27, 2026Материалы 3 AImigo S1E7: генерация дешевеет, проверка дорожает (Рубрика #AI) Готовы матери…
  4. Sep 27, 2026«Зверский детектив»: читаем с детьми Сегодня дочитали с пятилетним сыном Кириллом «Щипача»…
  5. Sep 27, 2026Материалы выпуска: команда с ИИ — разговор с Димой Твердохлебовым (Рубрика #Leadership) Со…
  6. Sep 26, 2026Добрались с сыном на прощальный матч Вагнера Лава. Так много давно знакомых имен, элемент…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →