TGViewer
Datanomika Datanomika @datanomika · 2.72K subscribers
Post #1016 335
Kwai (Kuaishou), разработчик генеративной видеомодели Kling AI, перенесла общекорпоративный пайплайн расчёта метрик A/B-экспериментов со Spark на Apache Doris.

Переработка системы ускорила расчёт метрик до 145 раз и снизила потребление ресурсов на 72% на кластере из 2000 узлов и 100 000 вычислительных единиц (CU).

Подробный разбор на Хабре, ссылка в комментариях.

Мы уже дважды писали о внедрении Apache Doris в Kwai, и оба раза речь шла о слое обслуживания запросов в реальном времени (real-time serving) для рекламных нагрузок: сначала о замене ClickHouse на единый lakehouse, обслуживающий почти миллиард запросов в день, затем о замене Elasticsearch.

На этот раз речь о другой команде и другой нагрузке: пакетные вычисления по расписанию.

https://habr.com/ru/articles/1085270/
Хабр Со Spark на Apache Doris: как Kwai ускорила расчёт метрик A/B-экспериментов в 145 раз Перевод статьи From Spark to Apache Doris: How Kwai Made A/B Testing Metrics 145x Faster at Scale . Автор — Siwei Zeng, архитектор движков обработки данных (Data Engine Architect) в Kwai. Оригинал...
  • 🔥 4
More from @datanomika
  1. Sep 30, 2026Хочу жить так, чтобы стебаться и троллить как Илон Маск 🤣
  2. Sep 30, 2026Наткнулся на одного парня в ютубе. Он уже 11 лет (с детства) занимается созданием экзоскел…
  3. Sep 24, 2026AWS Innovation Day 2026: от AI-пилотов к реальным решениям 22 октября в Astana Hub, Астана…
  4. Sep 21, 2026Протестировал модель нового типа Jev на задаче реранкинга для классификации госзакупок по…
  5. Sep 18, 202680% рынка автозапчастей уже внутри redflags.ai Теперь - ещё ближе к реальной закупке Мы за…
  6. Sep 18, 2026🤣
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →