В A/B-тесте 10 метрик. Каждая проверена отдельно с α=0.05. Если H0 истинна для всех — какова вероятность ХОТЯ БЫ одной «статзначимой» разницы?

Проверяет статистическое мышление: гипотезы, распределения, ошибки I/II рода.

Варианты ответа

• ~40% — вероятность ложно-позитивного при множественных проверках растёт экспоненциально, формула 1 − (1 − α)^k
• 5% — α фиксирована и не меняется от количества тестов, потому что каждый тест проверяется независимо
• 50% — половина метрик случайно покажут значимость, так как при N=10 распределение FP-rate стремится к 0.5
• 100% — при 10 метриках точно найдётся хотя бы одна значимая по чистому теории больших чисел

Разбор ответа

Получить доступ к ответам — все вопросы →

Что дальше

• Конспекты по статистике и A/B →
• Все 3000+ вопросов с разбором →

Похожие вопросы из категории «Статистика»

• Чем отличаются выборка и генеральная совокупность?
• Что такое медиана и чем она полезна?
• Поясните доверительный интервал средней.
• Что такое p-value и как его интерпретировать?
• Разница между типами ошибок I и II рода?
• Как проверить нормальность распределения?
• Что такое бутстрэп и зачем он нужен?
• Как рассчитать корреляцию Пирсона и когда она подходит?

SQL-задачи по теме

• A/B-тест: разница конверсий с округлением
• Anomaly detection: z-score выручки по дням

Тестовые задания

• Доверительный интервал для конверсии
• z-тест двух пропорций: значима ли разница в A/B

Полезные блог-статьи по теме

• A/B-тесты в Python: scipy.stats и расчёт значимости
• Калькулятор Sample Size A/B-теста
• CUPED для аналитика: variance reduction в A/B-тестах с Python кодом