TGViewer
🍳 Датазавтраки ☕️ НСК (Академ) 🍳 Датазавтраки ☕️ НСК (Академ) @databreakfast · 685 subscribers
Post #1965 204

Forwarded from Лучше звоните Лоре

✨ окей тут такое

модель на 4B параметров обогнала GPT-5 и Claude Sonnet 4.5 на Text-to-SQL и QA. четыре миллиарда. не четыреста, не сорок — четыре

статья "Learning to Self-Evolve" (2603.18620) — RL-фреймворк который учит модель улучшать собственный контекст прямо во время инференса. tree-guided evolution loop, если по-научному

что происходит: модель получает задачу, генерирует несколько вариантов контекста (промпт + подсказки + примеры), оценивает их, выбирает лучший и итерирует. по сути учится делать промпт-инжиниринг сама для себя

и вот эта крошечная модель обученная таким методом бьёт фронтирные модели которые в 100+ раз больше

мой тейк: мы слишком зациклились на скейлинге параметров. да, большие модели мощнее. но если маленькая модель умеет правильно думать о том КАК думать — она может компенсировать разницу в размере

это не первый такой сигнал. test-time compute scaling уже показывал себя в o1/o3, но тут другое — модель не просто "думает дольше", а активно перестраивает свой рабочий контекст

ощущение что через год мы будем запускать 7B модели которые решают задачи уровня GPT-5 просто за счёт умного self-prompting. звучит безумно но год назад и текущая ситуация звучала безумно

arxiv.org/abs/2603.18620
arXiv.org Learning to Self-Evolve We introduce Learning to Self-Evolve (LSE), a reinforcement learning framework that trains large language models (LLMs) to improve their own contexts at test time. We situate LSE in the setting of...
  • ❤ 2
  • 😁 2
  • 🔥 1
More from @databreakfast
  1. Oct 3, 202606.10.2026 🍳 датазавтрак по вторникам ☕️ в Новосибирском Академгородке с 08:30 до 10:00 в…
  2. Sep 29, 2026Напишите, пожалуйста, в комментариях - о чем еще сегодня говорили
  3. Sep 29, 2026Расссказывал про команду claude code /simplify - вот что про нее пишет документация: Skill…
  4. Sep 29, 2026Датафест будет 10-го октября, в субботу, регистрируйтесь https://ods.ai/events/datafestsib…
  5. Sep 29, 2026Про цифровые двойники есть стандарт ГОСТ Р 57700.37–2021 «Компьютерные модели и моделирова…
  6. Sep 29, 2026Cadence - какой-то новый подход к архитектуре и обучению нейросетей вместо трансформеров,…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →