В A/B тесте проверяются 5 метрик одновременно (конверсия, revenue, retention, time on site, pages per session) с alpha = 0.05. Какой должен быть порог значимости по Бонферрони?

Проверяет статистическое мышление: гипотезы, распределения, ошибки I/II рода.

Варианты ответа

• alpha / 5 = 0.01. Поправка Бонферрони делит уровень значимости на количество сравнений, чтобы контролировать Family-Wise Error Rate
• 0.05 — поправка не нужна, каждая метрика проверяется независимо
• alpha * 5 = 0.25 — увеличиваем порог для бОльшей мощности
• 1 - (1 - 0.05)^5 = 0.226 — это и есть скорректированный порог

Разбор ответа

Получить доступ к ответам — все вопросы →

Что дальше

• Конспекты по статистике и A/B →
• Все 3000+ вопросов с разбором →

Похожие вопросы из категории «Статистика»

• Чем отличаются выборка и генеральная совокупность?
• Что такое медиана и чем она полезна?
• Поясните доверительный интервал средней.
• Что такое p-value и как его интерпретировать?
• Разница между типами ошибок I и II рода?
• Как проверить нормальность распределения?
• Что такое бутстрэп и зачем он нужен?
• Как рассчитать корреляцию Пирсона и когда она подходит?

SQL-задачи по теме

• Anomaly detection: z-score выручки по дням

Тестовые задания

• Доверительный интервал для конверсии
• z-тест двух пропорций: значима ли разница в A/B

Полезные блог-статьи по теме

• A/B-тесты в Python: scipy.stats и расчёт значимости
• Калькулятор Sample Size A/B-теста
• CUPED для аналитика: variance reduction в A/B-тестах с Python кодом