Ответ вслух Junior t-тест и z-тест спрашивают часто обновлено

Как сравнить две конверсии

Вопрос

Как проверить, что конверсия в группе B отличается от A?

Попробуйте сами

Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.

Показать ответ и разбор

Коротко

Беру z-тест для двух долей. Доли p1 = x1/n1 и p2 = x2/n2, при нулевой гипотезе они равны, поэтому стандартную ошибку считаю через объединённую долю p = (x1 + x2)/(n1 + n2): SE = sqrt(p(1-p)(1/n1 + 1/n2)). z = (p2 - p1)/SE, двусторонний p-value это 2(1 - Φ(z)).

Что должно прозвучать в ответе

  • Z-тест для двух долей или эквивалентный хи-квадрат 2×2

  • Объединённая доля для стандартной ошибки при H0

  • p-value через нормальное распределение

  • Доверительный интервал разницы, а не только p-value

  • Маленькие числа успехов: точный тест Фишера

  • Конверсия считается по пользователям, а не по событиям

Что могут спросить следом

  • Как связаны z-тест и хи-квадрат?
  • Что если конверсий в группе всего 5?

Разбор

Беру z-тест для двух долей. Доли p1 = x1/n1 и p2 = x2/n2, при нулевой гипотезе они равны, поэтому стандартную ошибку считаю через объединённую долю p = (x1 + x2)/(n1 + n2): SE = sqrt(p(1-p)(1/n1 + 1/n2)). z = (p2 - p1)/SE, двусторонний p-value это 2(1 - Φ(|z|)). Это эквивалентно хи-квадрату для таблицы 2×2: χ² равно z². Кроме p-value показываю доверительный интервал разницы, уже с раздельными долями. Если успехов единицы, нормальное приближение плохое, беру точный тест Фишера. И проверяю, что конверсия посчитана на пользователя, иначе наблюдения зависимы.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.