TGViewer
Саша делает стартап Саша делает стартап @aimalysheva · 1.99K subscribers
Post #13 2.26K
Новая статья на ICML 2026 челленджит Platonic Representation Hypothesis: similarity scores получаюся завышены из-за ширины и глубины модели, из-за чего создаётся нечестный тренд глобальной конвергенции, но он пропадает, как только это смещение скорректировать.

Но при этом сохраняется local neighborhood alignment между моделями для картинок, текста и видео (похожие вещи остаются рядом друг с другом даже у совсем разных архитектур). Авторы называют это Aristotelian Representation Hypothesis :)

То есть две модели могут не шарить один representation space в каком-то сильном глобальном смысле, но при этом соглашаться насчёт локальных окрестностей (что на что похоже). Это, судя по всему, как раз та часть, которую мы реально используем в retrieval, transfer и мультимодальных системах, и которую потенциально можно переносить между learned approximations разных моделей.

http://arxiv.org/pdf/2602.14486
  • ❤ 14
  • 👍 9
  • ⚡ 3
  • ✍ 2
  • 🎉 1
More from @aimalysheva
  1. Sep 2, 2026Мы на главной WIRED :) Печатаю это и как-то самой не верится
  2. Sep 2, 2026Сегодня мы вышли из stealth! Про нас написали Wired (с заголовком these russian mathematic…
  3. Aug 10, 2026Провела выходные в горах и отмечала свой день рождения с невероятной компанией! Вот тут ви…
  4. Aug 5, 2026компании уже пару лет как файнтюнят модели под конкретные задачи, и вся эта работа станови…
  5. Aug 4, 2026за последние годы инференс моделей очень подешевел: в конце 2022 модели уровня GPT-3.5 сто…
  6. Aug 3, 2026весь computing stack раньше был монолитным и потом разделялся на части, как только для это…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →