TGViewer
Старший Авгур Старший Авгур @senior_augur · 8.16K subscribers
Post #610 19.1K
https://artificialanalysis.ai/agents/search-api

Нас (Keenable) сравнили в бенчмарке Artificial Analysis.

Во-первых, я очень рад, что мы туда вообще попали. За это ребятам огромное спасибо.

Во-вторых, с методологией бенча есть некоторые проблемы:

1. Fetch инструмент использовался один на все движки, и это был просто HTTP GET. То есть часть силы нашего индекса была помножена на ноль, потому что часть документов, которые мы возращаем, обычным HTTP GET тупо не качается.
2. Две трети оценки складывается из старых публичных бенчмарков (BrowseComp и DeepSearchQA). Все наши конкуренты уже успели их забенчмаксить. Это очень хорошо видно на Parallel Turbo на приватном AA-Omniscience. Это мы поправим, добенчмаксим тоже.
  • 🔥 34
  • 👍 5
  • 🎉 4
  • ❤ 3
  • 🤡 3
  • 👏 1
More from @senior_augur
  1. Sep 19, 2026Сегодня буду рассказывать про NEEDLE на Practical ML Conf. Там же Антон (@abstractDL) прям…
  2. Sep 18, 2026Долго думал стоит ли, но всё-таки напишу пост насчёт Jev. Это zero-shot классификатор, кот…
  3. Sep 14, 2026Совпадение? Не думаю. Alt-man тоже не просто так! (https://x.com/NeilJacobs/status/2098917…
  4. Sep 8, 2026photo post
  5. Sep 8, 2026Действующие лица: • Тристан Бакмастер. Профессор математики в NYU, специалист по уравнения…
  6. Sep 8, 2026увидела только что первый трейлер Artificial - фильма про события в openai, связанные с ув…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →