Аналитик каждый день смотрит на p-value фикс-хорайзон t-теста и планирует остановиться, как только увидит p < 0.05. Почему это проблема и как правильно?
A/B тестыhardsenior
Вопрос с собеседования аналитика по теме «A/B тесты».
peekingsequential-testingfalse-positive
Варианты ответа
Достаточно снизить alpha до 0.01 на каждом взгляде — это полностью решает проблему подглядывания
Нужно просто усреднить все дневные p-value и принять решение по среднему значению
Проблемы нет: p-value корректно контролирует ошибку при любом числе проверок, если каждый раз порог 0.05
Многократные подглядывания раздувают долю ложноположительных выше 5%; нужен sequential/always-valid тест или фикс-хорайзон без ранней остановки
Как разобрать этот вопрос на собеседовании
Разбери, что именно проверяет вопрос, проговори ход решения по шагам и подумай о крайних случаях. На собеседовании ценят структурное рассуждение и умение объяснить логику, а не только финальный ответ.
Это вопрос продвинутого уровня — на собеседовании по нему обычно идут уточняющие follow-up вопросы, поэтому держи в голове крайние случаи и альтернативные решения.
Тема вопроса — «A/B тесты». Чтобы подготовиться к похожим задачам, отрабатывай их на практике: раздел практики помогает довести навык до автоматизма, а раздел вопросов — увидеть формулировки, которые реально встречаются на интервью аналитика данных.
Разбор ответа
Подробный разбор с объяснением «почему правильный ответ верный» и почему остальные неверны — после регистрации.
3000+ вопросов с разбором, quiz-режим с проверкой, AI-собес и подготовка к интервью аналитика.