TGViewer
КайфКодинг КайфКодинг @vibecodingartem · 1.02K subscribers
Post #459 354

Forwarded from AI[ex]Time

Сегодняшний апдейт лидерборда swe-rebench мне кажется одним из самых интересных за все время, по нескольким причинам:

1. Добавили целый ряд моделей: gpt-5.2, gpt-5.1-codex-max, Gemini 3 Pro, DeepSeek-v3.2, Devstral2. Все модели от openai теперь прогоняются через responses API с сохранением ризонинг блоков. И все модели по-своему интересны:
– gpt-5.2 прыгнула на самый верх и теперь соревнуется с Sonnet/Opus 4.5. А главное посмотрите на кол-ве потраченных токенов в среднем на задачу – почти как gpt5-minimal.
– gpt-5.1-codex-max сильно лучше gpt5-codex, но на фоне других моделей от openai не так уж выделяется.
– Gemini 3 Pro – огромный скачок в агентских задачах по сравнению с 2.5 Pro. Оффтоп, но это моя любимая модель на текущий момент в бытовом пользовании, не могу народоваться фиче с нативной обработкой видео.
– DeepSeek-v3.2 – новая сота в open-source, но также и сота по потреблению токенов 💀
– Devstral2 выглядит очень неплохо. Вроде как незаметный релиз от Mistral врывается в топ open-source моделей.
– Не забывайте, что к ранжированию нужно относиться осторожно, задач не так много и доля случайности все еще большая, даже несмотря на усреднение по 5 ранам. Но общая картина думаю понятна хорошо.
2. Добавили Claude Code как reference сота агента 🎉 Режим запуска указан в инсайтах.
3. Для прозрачности Cost per Problem, добавили колонку Cached Tokens, как минимум для понимания, включен у модели кэшинг или нет.
  • ❤ 2
  • 🙏 1
More from @vibecodingartem
  1. Sep 27, 2026Скилл для агента, который кроме вашей команды никто не поставит, — единственный, который с…
  2. Sep 27, 2026Как начиналось воскресное утро каждого миллениала)
  3. Sep 27, 2026121 млн новых репозиториев на GitHub за 2025 год. Звучит как 121 млн новых продуктов — но…
  4. Sep 27, 2026Агент валит продуктовый тикет не на коде. Он валит его на том, чего в тикете не написано.…
  5. Sep 26, 2026photo post
  6. Sep 26, 2026Полка: сделали с агентом — покажите другим Агенты делают хорошие отчёты, страницы и протот…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →