TGViewer
Love. Death. Transformers. Love. Death. Transformers. @lovedeathtransformers · 25.2K subscribers
Post #11011 9.59K
Jalapenio ака чип от openai показали на презентации, он целиком задизайнен для сервинга трансформеро образных + в отличие от Nvidia и amd разрабатывают для очень конкретной архитектуры и конкретного потребителя и не имеют игрового легаси.
В этом смысле у антропика есть проблема что ранних ставок на свои чипы они не делали, но в отличие от openai антрлпик никогда не затачивались под одно железо ( исторически учатся и сервятся и на tpu и на Nvidia)


Качественный блог про особенности сервинга на современных железках


https://zartbot.github.io/blog/arch/jalapeno/en.html
zartbot.github.io Redesigning the Inference Chip: From Nvidia GPU's Flaws to OpenAI Jalapeño First principles · Core Slice architecture · Memory subsystem · On-chip network · Software stack & design loop
  • 🤡 9
  • 👍 8
  • 👏 3
More from @lovedeathtransformers
  1. Sep 21, 2026Забавно что у jev есть такой llmный positional bias
  2. Sep 19, 2026Сегодня буду рассказывать про NEEDLE на Practical ML Conf. Там же Антон (@abstractDL) прям…
  3. Sep 19, 2026https://arena.ai/blog/coding-agents-harness-tax
  4. Sep 18, 2026🌱 Alfa Connectome ML Competition 🌱 Началось новое соревнование по машинному обучению от…
  5. Sep 17, 202635б +- так же или лучше мб стоит учить на данных не 7 летней давности с длинной 256 токено…
  6. Sep 17, 2026но если серьезно это очень круто, челы повесили свои же ллмки оптимизировать себя же
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →