TGViewer
Channel Public Channel
black_samorez

black_samorez

@black_samorez_channel

@black_samorez
Open in Telegram
Subscribers
1.35K
Photos
50
Videos
1
Links
30
Recent Posts 19 shown
Post #79 3.94K
Disaggregated quantization

Новая статья. Процессим LLM префилл и генерацию разными квантизациями одной модели. Дообучаем обе вместе с учетом того какой токен процессится какой моделью. Чекпоинт для префилла можно сгрузить на SSD, спрятав подгрузку за long-context промпт прцессиногом, чтобы память была как только у модели для генерации.

Статья: arxiv.org/abs/2609.26333
Код: GitHub
Qwen3.8 NVFP4 prefillers: HF Hub
  • 👍 9
  • 💅 1
Post #77 1.7K
Ну и как понять делает он шины или оценивает рестораны?
  • 🥴 14
  • 👍 3
  • 🤓 3
Post #74 2.58K
Втф спойлеры к JJK в Венском метро.
  • 😭 11
  • 👍 1
Post #73 2.87K
Признавайтесь, кого взяли в Черногорию?
  • 😭 34
Post #72 3.26K
А я ведь шесть статей ревьюил и 2 из них были неплохи
  • 😭 27
  • 🫡 4
  • 🥴 1
Post #71 15.4K
Стенд 912 третий павильон подходим.
  • 👍 54
  • 💅 11
  • 🥴 1
Post #70 16.3K
Сегодня в 19:00 мск стрим про Quartet II претрен на GPU Mode
  • 💅 21
Post #69 3.27K
black_samorez В эту субботу рассказываем про NVFP4 претрен на GPU Mode.
Переносится на вторник 9AM PST.
  • 👍 2
Post #67 15.7K
black_samorez Quartet II Выложили препринт новой статьи про претрен LLMок в NVFP4. Качество лучше и кернелы быстрее. Статью лайкать на HF Daily Papers. Кернелы для RTX 5090 (СС 120a) на GitHub. Для B200 и B300 еще в разработке.
В эту субботу рассказываем про NVFP4 претрен на GPU Mode.
  • 👍 17
  • 💅 6
  • 🗿 1
Post #66 3.51K
У кого лисян, что они там деплоят?
  • 🤨 11
  • 🥴 7
Post #65 15.1K
black_samorez Quartet II Выложили препринт новой статьи про претрен LLMок в NVFP4. Качество лучше и кернелы быстрее. Статью лайкать на HF Daily Papers. Кернелы для RTX 5090 (СС 120a) на GitHub. Для B200 и B300 еще в разработке.
Кернелы претрен NVFP4 B200 скачать бесплатно без смс и регистрации
from quartet2.linear import Quartet_II_linear

linear = Quartet_II_linear(
    in_dim,
    out_dim,
    device="cuda",
)
...
  • 💅 20
  • 👍 1
  • 🗿 1
Post #63 3.55K
У вторички в Австрии все нормально с головой?
  • 🤗 22
  • 🤮 1
  • 🗿 1
Post #62 4.08K
На Eastern European Machine Learning Summer School 2026 в Черногории буду рассказывать про квантизацию LLMок. Подача до 31 марта. Слышал что людей возьмут много и много кому оплатят перелёт и проживание.
  • 💅 5
Post #61 13.4K
black_samorez Сегодня в 22:00 мск (через час) будем презентовать нашу статью Quartet: Native FP4 Training Can Be Optimal for Large Language Models на GPU MODE. Залетайте.
Quartet II

Выложили препринт новой статьи про претрен LLMок в NVFP4. Качество лучше и кернелы быстрее.

Статью лайкать на HF Daily Papers.
Кернелы для RTX 5090 (СС 120a) на GitHub. Для B200 и B300 еще в разработке.
  • 💅 4
Post #60 3.49K
Как ощущаются ресайзы картинок и графиков в двухколоночном формате в попытке уместить все в page limit
  • 💅 22
  • 🤗 2
Post #57 4.25K
Произошел выкуп лабы
  • 🤔 29
  • 🤗 9
  • 👍 3
  • 💅 3
  • 🤨 1
  • 🫡 1
Older posts →

About this channel

How can I read @black_samorez_channel without a Telegram account?
TGViewer shows the public web preview Telegram publishes for black_samorez: recent posts, photos, videos and the subscriber count, with no app, login or account.
How many subscribers does black_samorez have?
black_samorez (@black_samorez_channel) has 1.35K subscribers on Telegram, refreshed roughly every 30 minutes.
Does black_samorez know I viewed it here?
No. Public channel previews carry no viewer identity, and TGViewer has no accounts or tracking of what you look up.
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →