Чем XGBoost/LightGBM лучше Random Forest для табличных данных?

Проверяет основы машинного обучения и оценку моделей.

Варианты ответа

• XGBoost всегда обучается быстрее любого другого алгоритма — благодаря оптимизированной имплементации на C++ и hardware-ускорению через GPU для любого типа данных
• Gradient boosting строит деревья последовательно, каждое исправляет ошибки предыдущих. Обычно точнее Random Forest, поддерживает missing values, имеет встроенную регуляризацию
• XGBoost всегда строго точнее Random Forest на любых табличных задачах по определению — это следует из того, что boosting по своей природе превосходит bagging
• Random Forest разработан для работы только с изображениями и текстом через sklearn pipelines, а для классических табличных данных требуется использовать XGBoost или LightGBM

Как разобрать этот вопрос на собеседовании

Определи тип задачи (регрессия/классификация), как ты разобьёшь данные и какой метрикой будешь мерить качество с учётом дисбаланса классов. Ценят понимание переобучения, утечки данных и того, почему выбрана именно эта метрика, а не accuracy по умолчанию.

На собеседовании по такому вопросу важно не только назвать ответ, но и кратко объяснить, почему он верный.

Тема вопроса — «ML». Чтобы подготовиться к похожим задачам, отрабатывай их на практике: раздел практики помогает довести навык до автоматизма, а раздел вопросов — увидеть формулировки, которые реально встречаются на интервью аналитика данных.

Разбор ответа

Получить доступ к ответам — все вопросы →

Что дальше

• Раздел практики →
• Все 3000+ вопросов с разбором →

Похожие вопросы из категории «ML»

• Как диагностировать переобучение модели и какие приёмы помогают его предотвратить?
• Перечислите основные способы регуляризации и объясните, когда применять каждый.
• Объясните разницу между precision и recall.
• Как выбрать между ROC-AUC и PR-AUC для оценки модели классификации?
• В чём принцип градиентного бустинга и почему он так популярен в продуктовой аналитике?
• Как SHAP values помогают объяснить предсказание модели для конкретного пользователя?
• В каких задачах kNN работает хорошо и каковы его ограничения?
• Какие методы оценки важности признаков существуют и чем они отличаются?

Полезные блог-статьи по теме

• ROC-AUC vs PR-AUC: какую метрику выбрать
• Логистическая регрессия простыми словами для аналитика
• Кластеризация k-means в Python для аналитика
• Градиентный бустинг для аналитика: как это работает