TGViewer
AB тесты и все вот про это вот все AB тесты и все вот про это вот все @abtesting_full · 1.87K subscribers
Post #288 1.96K
Нам же всем хочется, чтобы АБ-тесты проходили быстрее без роста вероятности ошибок первого и второго рода. В этом может помочь последовательное тестирование. Оговорюсь сразу, что светила отрасли говорят, что "лучше по классике".

Основная идея последовательного тестирования — возможность более ранней остановки АБ-теста с помощью регулярного расчета метрики, а не в конце, когда набрали необходимое количество пользователей. Используют, как правило для частотных метрик.
Похоже на подглядывание (которое мы очень не любим), но немного иначе: при тех же порогах pvalue и мощности (обычно 0.05 и 0.8) по особой формуле рассчитываем, набрали мы или нет, определенное количество конверсий в тестовом и контрольном вариантах. Таким образом, последовательное тестирование решает проблему подглядывания.

Самый простой метод описан у Эвана Миллера, у него же есть и калькулятор. Мне не очень нравится отсылка к «случайной прогулке», ну ладно, сейчас не так важно.

Также о сущности методов можно почитать здесь, здесь и здесь. А тут автор делает небольшое сравнение разных подходов к последовательному тестированию.

Разные компании используют разные методики последовательного тестирования, основных несколько: mSPRT, GST, GAVI, CAA, Naive.

➡️ Spotify и Uber использует метод групповых последовательных тестов (GST).

➡️ В Statig - частотное последовательное тестирование, статья-основа здесь.

➡️ Netflix - mSPRT, раз и два.
www.evanmiller.org Simple Sequential A/B Testing – Evan Miller
  • 👍 11
More from @abtesting_full
  1. May 26, 2026Всем привет! А еще мы в SberDevices ищем middle продуктового аналитика в наше ТВ-направлен…
  2. May 13, 2026Ребят, привет! 🔵Это Искандер. Мы с командой Trisigma сделали хендбук по A/B-тестированию.…
  3. Apr 16, 2026Аналитик-инженер Наши устройства и другие системы генерируют большие объемы данных самого…
  4. Apr 16, 2026Дата-аналитики Да, мы ищем сразу несколько человек Мы — дата-аналитики виртуального ассист…
  5. Apr 16, 2026Всем привет! Мы нанимаем аналитиков. Отличные, прекрасные вакансии в SberDevices. У нас от…
  6. Apr 13, 2026Привет, это Вит Черемисинов. 🔵В марте у меня вышло ещё одно большое интервью в подкасте D…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →