Как сравнить две конверсии
Вопрос
Как проверить, что конверсия в группе B отличается от A?
Попробуйте сами
Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.
Показать ответ и разбор
Коротко
Что должно прозвучать в ответе
Z-тест для двух долей или эквивалентный хи-квадрат 2×2
Объединённая доля для стандартной ошибки при H0
p-value через нормальное распределение
Доверительный интервал разницы, а не только p-value
Маленькие числа успехов: точный тест Фишера
Конверсия считается по пользователям, а не по событиям
Что могут спросить следом
- Как связаны z-тест и хи-квадрат?
- Что если конверсий в группе всего 5?
Разбор
Беру z-тест для двух долей. Доли p1 = x1/n1 и p2 = x2/n2, при нулевой гипотезе они равны, поэтому стандартную ошибку считаю через объединённую долю p = (x1 + x2)/(n1 + n2): SE = sqrt(p(1-p)(1/n1 + 1/n2)). z = (p2 - p1)/SE, двусторонний p-value это 2(1 - Φ(|z|)). Это эквивалентно хи-квадрату для таблицы 2×2: χ² равно z². Кроме p-value показываю доверительный интервал разницы, уже с раздельными долями. Если успехов единицы, нормальное приближение плохое, беру точный тест Фишера. И проверяю, что конверсия посчитана на пользователя, иначе наблюдения зависимы.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Предыдущий вопрос
Как считается парный t-тест
Следующий вопрос
Наблюдения не независимы: сессии вместо пользователей
Ещё по теме «t-тест и z-тест»
- A/B: значимо, но эффект крошечный
- A/B: выручка решается тремя китами
- Парный t-тест на Python
- t-статистика и степени свободы Уэлча
- z-тест для двух конверсий на Python
- Дробные степени свободы у Уэлча
- Какой тест для какой задачи
- Нужна ли нормальность данных для t-теста