Ответ вслух Middle Бутстреп и перестановки спрашивают часто обновлено

Бутстреп простыми словами

Вопрос

Объясните бутстреп человеку без статистического образования и расскажите, как с его помощью сравнить медианы двух групп A/B.

Попробуйте сами

Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.

Показать ответ и разбор

Коротко

Мы хотим понять, насколько медиана гуляла бы, если бы мы собрали данные заново. Собрать заново нельзя, поэтому считаем, что наша выборка хорошо похожа на всех пользователей, и много раз «собираем выборку» из неё самой: вытаскиваем столько же наблюдений с возвращением.

Что должно прозвучать в ответе

  • Выборка как модель генеральной совокупности

  • Ресэмплинг с возвращением, n наблюдений, B раз

  • Каждая группа ресэмплится отдельно, на итерации разница медиан

  • Перцентильный интервал 2.5% и 97.5%

  • Вывод: накрывает ли интервал ноль

  • Ограничения: малые выборки, экстремальные статистики, единица ресэмплинга

Что могут спросить следом

  • Сколько итераций нужно?
  • Почему нельзя ресэмплить события, если делили пользователей?
  • Чем перестановочный тест отличается?

Разбор

Мы хотим понять, насколько медиана гуляла бы, если бы мы собрали данные заново. Собрать заново нельзя, поэтому считаем, что наша выборка хорошо похожа на всех пользователей, и много раз «собираем выборку» из неё самой: вытаскиваем столько же наблюдений с возвращением. Для A/B делаю так для каждой группы отдельно, на каждой итерации считаю медиану A, медиану B и разницу. После нескольких тысяч итераций беру 2.5-й и 97.5-й перцентили разниц: это 95% интервал. Если он не накрывает ноль, разница значима. Важно ресэмплить единицы рандомизации, то есть пользователей целиком, иначе интервал выйдет слишком узким. И помнить ограничения: на десятке точек бутстреп врёт, для максимума и экстремальных квантилей не работает, на тяжёлых хвостах интервал среднего нестабилен.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.