TGViewer
Саша делает стартап Саша делает стартап @aimalysheva · 1.99K subscribers
Post #44 17.1K
весь computing stack раньше был монолитным и потом разделялся на части, как только для этого появлялся интерфейс

AI при этом всё ещё на mainframe-стадии, то есть одна гигантская модель

мне кажется это все еще не декомпозировалось потому что интерфейс между моделями сейчас это текст, а текст это последнее, что производит модель, то есть summary всего, что она посчитала
и поэтому при каждой передаче от одной модели к другой почти вся настоящая работа, которая через них прошла, просто выбрасывается 🥲

вот например релевантный рисерч: Cache-to-Cache (Fu et al, ICLR 2026, arxiv.org/abs/2510.03215) — они дали двум моделям передавать друг другу KV-cache без текста и получили выше accuracy при 2x скорости на тех же двух моделях, но пока весь этот research direction исключительно попарный (две конкретные модели, руками соединённые каждый раз заново)

общего интерфейса, на котором могли бы коммуницировать модели, пока не существует, но как только он появится, то вниз по стеку изменится ОЧЕНЬ многое: например, кто вообще сможет строить мощные системы, требования к inference, будет ли capability накапливаться от поколения к поколению или каждый раз пересобираться с нуля и кастомизироваться

собираюсь в ближайшую неделю выкладывать больше примеров что и как поменяется :) это первая часть

@aimalysheva
  • ❤ 21
  • 🔥 10
  • ❤‍🔥 6
  • 👍 2
More from @aimalysheva
  1. Sep 2, 2026Мы на главной WIRED :) Печатаю это и как-то самой не верится
  2. Sep 2, 2026Сегодня мы вышли из stealth! Про нас написали Wired (с заголовком these russian mathematic…
  3. Aug 10, 2026Провела выходные в горах и отмечала свой день рождения с невероятной компанией! Вот тут ви…
  4. Aug 5, 2026компании уже пару лет как файнтюнят модели под конкретные задачи, и вся эта работа станови…
  5. Aug 4, 2026за последние годы инференс моделей очень подешевел: в конце 2022 модели уровня GPT-3.5 сто…
  6. Aug 2, 2026витамины и био-добавки на кухнях в офисах были бы куда лучше чем снек-бары, м? 👀
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →