Выбор ответа Senior Распределения, MLE и MAP обновлено

MAP с бета-приором

Вопрос

Для доли конверсии взяли приор Beta(a, b), наблюдали k успехов из n. Чему равны апостериорное распределение и MAP-оценка?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Beta(a + k, b + n - k); MAP = (k + a - 1) / (n + a + b - 2). Бета сопряжена с Бернулли и биномиальным: апостериор снова бета, к параметрам просто прибавляются счётчики.

Варианты ответа

  1. Beta(a·k, b·(n - k)); MAP = k/n, приор на моду не влияет
  2. Нормальное с центром k/n; MAP = (k + a) / (n + b) при любых a и b
  3. Beta(a, b) не меняется при малом n; MAP = a / (a + b)
  4. Beta(a + k, b + n - k); MAP = (k + a - 1) / (n + a + b - 2)правильный ответ

Разбор

Бета сопряжена с Бернулли и биномиальным: апостериор снова бета, к параметрам просто прибавляются счётчики. Мода Beta(α, β) равна (α - 1)/(α + β - 2) при α, β > 1. Поэтому Beta(1, 1) (равномерный приор) даёт MAP = MLE = k/n, а Beta(2, 2) тянет к 0.5. Апостериорное среднее (k + a)/(n + a + b) тоже часто используют для сглаживания CTR.

  • Параметры складываются, а не умножаются.
  • Нормальное получится только как приближение при больших n.
  • Апостериор обновляется при любом n > 0.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.