TGViewer
AI для Всех AI для Всех @nn_for_science · 15.5K subscribers
Post #2711 5.65K

Forwarded from Саша делает стартап

весь computing stack раньше был монолитным и потом разделялся на части, как только для этого появлялся интерфейс

AI при этом всё ещё на mainframe-стадии, то есть одна гигантская модель

мне кажется это все еще не декомпозировалось потому что интерфейс между моделями сейчас это текст, а текст это последнее, что производит модель, то есть summary всего, что она посчитала
и поэтому при каждой передаче от одной модели к другой почти вся настоящая работа, которая через них прошла, просто выбрасывается 🥲

вот например релевантный рисерч: Cache-to-Cache (Fu et al, ICLR 2026, arxiv.org/abs/2510.03215) — они дали двум моделям передавать друг другу KV-cache без текста и получили выше accuracy при 2x скорости на тех же двух моделях, но пока весь этот research direction исключительно попарный (две конкретные модели, руками соединённые каждый раз заново)

общего интерфейса, на котором могли бы коммуницировать модели, пока не существует, но как только он появится, то вниз по стеку изменится ОЧЕНЬ многое: например, кто вообще сможет строить мощные системы, требования к inference, будет ли capability накапливаться от поколения к поколению или каждый раз пересобираться с нуля и кастомизироваться

собираюсь в ближайшую неделю выкладывать больше примеров что и как поменяется :) это первая часть
  • 🔥 19
  • 👍 4
  • 😱 2
  • ❤ 1
More from @nn_for_science
  1. Sep 24, 2026Claude поставил адблокер на мой телевизор! Захотелось пересмотреть Brooklyn 99, раз уж в Н…
  2. Sep 21, 2026Чат: open-source (и комерческие) альтернативы Greptile попользовался Greptile, очень круто…
  3. Sep 17, 2026Астра на максималках Когда то раньше, я работал в нефтянке и занимался сейcморазведкой. Эт…
  4. Sep 16, 2026Приглашаем порешать 🌱 Alfa Connectome 🌱 — соревнование по нейронкам от HFT-фонда Wunder…
  5. Aug 28, 2026Burning Man 2026 Завтра заезжаем на плаю, если вы тоже тут - приходите в наш Кэмп Solar Pl…
  6. Aug 23, 2026Tap-tap Manager Хочу поделиться с вами моим проектом выходного дня. Когда-то раньше, я зан…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →