TGViewer
A/B-тестирование в мобильных играх A/B-тестирование в мобильных играх @abtestingmobilegames · 430 subscribers
Post #10 640
​​Как я перестал нервничать и начал релизить

Изменения пугают. Каждый апдейт к игре - это всегда риск сломать игру.
Но мы не боимся, потому что отслеживаем воронку. Модель любой игры можно представить в виде событий-конверсий, которые совершает игрок. Например, в Match-3 будут конверсии: 1. Игрок прошёл обучение. 2. Игрок прошёл N-ый уровень.

У нас single player и в нашей модели конверсия - это просто “Игрок прошёл N-ый уровень”. Пример: на прошлой неделе мы добавили сохранение прогресса игрока на облаке. На 6-ом уровне у нас появляется NPC и говорит: “Дорогой игрок, ты прошёл достаточно далеко. Хочешь сохранить прогресс?”. Мы отвечаем “Да!” и данные сохраняются на облаке.

Выкатываем 50% функциональности с сохранением на облаке и сравниванием с игроками без сохранения. Мы ожидаем, что конверсия ухудшится на 6-ом уровне. Запускаем тест и получаем результаты.

Восклицательный знак на 6-ом уровне говорит нам, что да, конверсия действительно просела. Там, где мы ждали, результат статистически значим - дальше 6-го уровня мы точно потеряли в DAU. На 5-ом уровне падение в конверсии такое же, но с точки зрения платформы - это может быть и случайность, т.к. восклицательного знака нет.

Итого:
1. В деньгах мы не выиграли.
2. В конверсии на 5-ом уровне проиграли.
Вывод: фичу “Сохранение данных игрока” надо откатить. А как вы проверяете, зашла ли фича? Пишите в комментариях!
More from @abtestingmobilegames
  1. Aug 28, 2024От нас долго не было ничего слышно, но мы каждую неделю продолжаем запускать AB-тесты 🙂 С…
  2. Jun 29, 2021Как же мы устали от тестовых платежей. Многие наши эксперименты не красились из-за тестовы…
  3. Jun 3, 2021DevGamm опубликовал нашу лекцию "Как проводить эксперименты в мобильных играх". 1. Техниче…
  4. Jun 1, 2021Ron Kohavi в книге Trustworthy Online Controlled Experiments перечисляет типы архитектуры…
  5. May 25, 2021CUPED - это технология, которая увеличивает чувствительность А/Б экспериментов. Booking и…
  6. May 18, 2021​​Ron Kohavi в книге Trustworthy Online Controlled Experiments приводит приблизительную фо…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →