TGViewer
Product analysis | Varsanovich Product analysis | Varsanovich @productanalysis · 494 subscribers
Post #75 607
#обзор_research_paper
Пост про кореллированную внутри себя выборку


Есть такая жизненная боль, друзья, называется анализ и дизайн АБ тестов, когда единица рандомизации юзер, а метрики которые ты сравниваешь - сессионные и как бы это просто дьявольская история. Почему?😈

(начинающие аналитики Heads up!!!) Причина в том что нарушается ЦПТ (надо что бы все точки в вашей выборки были независимы друг от друга) и уже нельзя использовать z-test, t-test для дизайна и анализа эксперимента, так как вероятность увидеть разницу там где её нет этими тестами возрастает. 🥲

На помощь приходят линеаризация и бутстрап(не люблю его), а их мощность можно оценивать только симуляциями Монте-Карло что долго и больно, а ещё само перемешивание таких выборок делается геморройно😡

Нашёл свежий research paper по АБ тестам от ребят из Apple (17 Aug 2023), в которым рассказывается как можно адаптировать дельта метод под эти нужды и внимание: оценивать мощность при помощи формулы. Приложил его сверху 🔝

С͓т͓а͓в͓ь͓т͓е͓ 🐳 если хотите что бы я сделал разбор этого метода в одном из следующих постов.
  • 🐳 28
  • 👍 5
  • ❤ 4
More from @productanalysis
  1. Oct 13, 2024Всем привет! Ребята из NewHR недавно запустили опросник по рынку аналитиков , что исследую…
  2. Sep 11, 2024Все мы хоть раз за свою карьеру были справа 😂😂😂
  3. Aug 28, 2024История экспериментов 📖 Всем привет, принес Вам тут интересный артефакт , который накопал…
  4. Aug 26, 2024Free Causal AI conference 24th September 🗓️ 24го сентября планируется бесплатная конферен…
  5. Aug 23, 2024Выкатка изменения без АБ теста которая зааффектит 80% юзеров или как я не смог остановить…
  6. Jun 16, 2024Как я объяснил менеджерам почему нельзя останавливать АБ тест когда вздумается 🤓 Какое то…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →