TGViewer
Саша делает стартап Саша делает стартап @aimalysheva · 1.99K subscribers
Post #42 4.19K
Саша делает стартап я довольно сильно уверена, что существует какой-то universal language manifold (= поверхность, образованная meaning-векторами), который может даже примерно общий и для людей, и для LLMок но мы не тренируем LLM явно репрезентировать этот manifold, мы скорее…
и если мы думаем про кривые на манифолдах, то следующий вопрос, который сразу возникает это "какая у этих манифолдов топология?"

понимание формы (дыры, петли, может ещё какие-то сохраняющиеся структуры) говорит очень много о том, какие вообще кривые на них возможны

релевантная статья: Persistent Topological Features in LLMs (arxiv.org/pdf/2410.11042), где авторы используют zigzag persistence из topological data analysis, чтобы отследить, как топологичсекие фичи эволюционируют по слоям модели (не слой за слоем по отдельности, а весь evolutionary путь целиком)
  • ❤ 14
  • 🔥 6
  • ❤‍🔥 2
  • 😁 1
  • 👀 1
More from @aimalysheva
  1. Sep 2, 2026Мы на главной WIRED :) Печатаю это и как-то самой не верится
  2. Sep 2, 2026Сегодня мы вышли из stealth! Про нас написали Wired (с заголовком these russian mathematic…
  3. Aug 10, 2026Провела выходные в горах и отмечала свой день рождения с невероятной компанией! Вот тут ви…
  4. Aug 5, 2026компании уже пару лет как файнтюнят модели под конкретные задачи, и вся эта работа станови…
  5. Aug 4, 2026за последние годы инференс моделей очень подешевел: в конце 2022 модели уровня GPT-3.5 сто…
  6. Aug 3, 2026весь computing stack раньше был монолитным и потом разделялся на части, как только для это…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →