После запуска нового дизайна в A/B тесте конверсия выросла на 15% в первую неделю, но к третьей неделе разница упала до 3%. Что произошло и как это обнаружить?
A/B тестыmediummiddle
Вопрос с собеседования аналитика по теме «A/B тесты».
quiz-bankab-testingnovelty-effect
Варианты ответа
Тест набрал мощность: чем дольше тест, тем точнее оценка, и 3% — это истинный эффект без артефактов
Сезонность — первая неделя попала на праздники
Баг в системе сплитования — нужно перезапустить тест
Novelty effect (эффект новизны): пользователи взаимодействуют с новым дизайном из любопытства. Обнаружить — построить график эффекта по дням и сегментировать по новым/старым пользователям
Как разобрать этот вопрос на собеседовании
Разбери, что именно проверяет вопрос, проговори ход решения по шагам и подумай о крайних случаях. На собеседовании ценят структурное рассуждение и умение объяснить логику, а не только финальный ответ.
На собеседовании по такому вопросу важно не только назвать ответ, но и кратко объяснить, почему он верный.
Тема вопроса — «A/B тесты». Чтобы подготовиться к похожим задачам, отрабатывай их на практике: раздел практики помогает довести навык до автоматизма, а раздел вопросов — увидеть формулировки, которые реально встречаются на интервью аналитика данных.
Разбор ответа
Подробный разбор с объяснением «почему правильный ответ верный» и почему остальные неверны — после регистрации.
3000+ вопросов с разбором, quiz-режим с проверкой, AI-собес и подготовка к интервью аналитика.