A/B-тест: конверсия контроля 5.0%, теста 5.3%. p-value = 0.03. Что это означает?

Проверяет статистическое мышление: гипотезы, распределения, ошибки I/II рода.

Варианты ответа

• Если реальной разницы между вариантами нет, вероятность увидеть такую же или большую разницу в данных — 3%
• Вероятность того, что тест-группа лучше контроля — 97%
• Разница между 5.0% и 5.3% настолько маленькая, что p-value = 0.03 недостоверно
• p-value = 0.03 означает 3% шанс, что разница случайна

Разбор ответа

Получить доступ к ответам — все вопросы →

Что дальше

• Конспекты по статистике и A/B →
• Все 3000+ вопросов с разбором →

Похожие вопросы из категории «Статистика»

• Чем отличаются выборка и генеральная совокупность?
• Что такое медиана и чем она полезна?
• Поясните доверительный интервал средней.
• Что такое p-value и как его интерпретировать?
• Разница между типами ошибок I и II рода?
• Как проверить нормальность распределения?
• Что такое бутстрэп и зачем он нужен?
• Как рассчитать корреляцию Пирсона и когда она подходит?

SQL-задачи по теме

• A/B-тест: разница конверсий с округлением
• Anomaly detection: z-score выручки по дням

Тестовые задания

• Доверительный интервал для конверсии
• z-тест двух пропорций: значима ли разница в A/B

Полезные блог-статьи по теме

• A/B-тесты в Python: scipy.stats и расчёт значимости
• Калькулятор Sample Size A/B-теста
• CUPED для аналитика: variance reduction в A/B-тестах с Python кодом