A/A-test показывает FPR=10% при α=0.05 (норма 5%). Что это значит?

Проверяет статистическое мышление: гипотезы, распределения, ошибки I/II рода.

Варианты ответа

• Критерий поломан: пересмотри предположения (нормальность? equal variances?). Часто причина — heavy-tailed distribution → log-transform или non-parametric тест
• Это статистический шум — A/A с FPR между 0 и 20% — норма для любого правильно настроенного теста
• Половина выборки случайно попала в test группу — pre-test sanity check показывает SRM, не FPR
• FPR не должна совпадать с α: α — порог отвержения, FPR — доля reject в реальных данных. 2x разница normalна

Разбор ответа

Получить доступ к ответам — все вопросы →

Что дальше

• Конспекты по статистике и A/B →
• Все 3000+ вопросов с разбором →

Похожие вопросы из категории «Статистика»

• Чем отличаются выборка и генеральная совокупность?
• Что такое медиана и чем она полезна?
• Поясните доверительный интервал средней.
• Что такое p-value и как его интерпретировать?
• Разница между типами ошибок I и II рода?
• Как проверить нормальность распределения?
• Что такое бутстрэп и зачем он нужен?
• Как рассчитать корреляцию Пирсона и когда она подходит?

Тестовые задания

• Доверительный интервал для конверсии
• z-тест двух пропорций: значима ли разница в A/B

Полезные блог-статьи по теме

• A/B-тесты в Python: scipy.stats и расчёт значимости
• Калькулятор Sample Size A/B-теста
• CUPED для аналитика: variance reduction в A/B-тестах с Python кодом