A/B testing

​​Как ускорить A/B-тестирование с помощью прокси-метрик. Метод разработан LinkedIn для приблизительного определения долгосрочных показателей.

via @ABtesting

​​Хорошая статья о чувствительности метрик от специалистов Microsoft.

via @ABtesting

​​Causal Inference from Observational Data, или как провести А/В-тест без А/В-теста.

via @ABtesting

​​Еще одна хорошая статья о байесовских A/B-тестах. В этот раз о способах реализации и масштабировании от специалистов Wix.com.

via @ABtesting

​​Что такое байесовское A/B-тестирование и когда его следует использовать?

via @ABtesting

​​Python’s Fitter library - библиотека позволяет выбрать параметры распределения, которые наилучшим образом отражают предэкспериментальные данные.

via @ABtesting

​​Хорошая статья о том, как выжимать максимум пользы из результатов экспериментов.

via @ABtesting

​​О расстановке приоритетов в экспериментах:
https://davidleemannheim.medium.com/how-do-you-prioritize-experiments-b97bd9d1c8ae

via @ABtesting

Неплохой бесплатный курс по по A/B-тестированиям. Без сильного технического фарша и примеров кода, но раскрывающий основные важные моменты:
— Чем классические частотные подходы к расчёту вероятности отличаются от байесовских
— Как рассчитывается статистическая значимость и почему её расчёт важен в ходе оценки результатов A/B-тестирования
— Чем отличается статистическая мощность от статистической значимости
— Как правильно сделать сплит трафика
— Почему важно правильно аттрибуцировать конверсию при маркетинговых экспериментах
— Сравнение подходов тестирования на клиенте (client-side) и на сервере (server-side)
— Как анализировать и интерпретировать A/B-тесты

https://www.dynamicyield.com/course/testing-and-optimization/

​​Шпаргалка по параметрическим и непараметрическим критериям проверки статистических гипотез:

https://rstudio-pubs-static.s3.amazonaws.com/340931_720cbfff44814347b2d39c06d174e531.html

via @ABtesting

​​Как проводят эксперименты в Facebook.
AX - платформа для проведения адаптивных экспериментов.

Видео | GitHub

via @ABtesting

​​Принципы работы с данными от Uber:

https://eng.uber.com/ubers-journey-toward-better-data-culture-from-first-principles/

via @ProductAnalytics

Как автоматизировать А/В-тестирование и сократить время аналитика на полный цикл до 3-х часов? Тут ребята из Data Science Delivery Club рассказали о своем опыте: отказе от Firebase Console, экспериментах и важных метриках оценки результата.

via @ABtesting

​​Ускорение A/B-тестирования с помощью CUPED от Microsoft, метода уменьшения дисперсии с использованием ранее существовавших данных.

via @ABtesting

​​Как проводят эксперименты в Tinder.
Phoenix - платформа для проведения экспериментов:

https://medium.com/tinder-engineering/phoenix-tinders-testing-platform-part-iii-520728b9537

via @ABtesting

Как проводят эксперименты в Spotify:

https://engineering.atspotify.com/2020/11/02/spotifys-new-experimentation-platform-part-2

via @ABtesting

​​Об алгоритмах многоруких бандитов и сравнение с классическим A/B-тестированием:

https://github.com/raffg/multi_armed_bandit

via @ABtesting

Как говорят американцы: Кто SQL не знает, тот всю жизнь в экселе отчеты считает! 😎

Новый курс по SQL от Глеба Михайлова, который уже стал хитом на Udemy, поможет вывести твой SQL на новый уровень.

Это SQL именно для анализа данных, и весь SQL Глеб пишет в Jupyter ноутбуке. Это очень удобный подход, потому что весь код хранится в одном месте. А так же можно быстро досчитать что-то в пандас и построить график.

Этот курс рассчитан на тех, кто уже что-то знает об аналитике и представяет что такое питон. Если ты знаешь SQL, но не знаешь питон — этот курс тоже будет тебе очень полезен. Совсем новички тоже смогут пройти курс — разобраться с питоном и Jupyter можно на ходу.

Ссылка заряжена хорошей скидочкой. Усиль свой SQL! 🔥

​​Как анализировать A/B-эксперименты с использованием Bayesian Expected Loss и как его рассчитывать.

via @ABtesting

​​Хороший материал о рассчете размера выборки для A/B-тесстирования.

via @ABtesting