Plain UDF в 100× медленнее. Pandas UDF (Arrow + векторизация). 4 типа: scalar, aggregate, iterator, applyInPandas.
Parquet, Delta Lake, партиционирование. Joins, broadcast, оптимизация запросов.
Ключевые темы: Parquet, Delta Lake, Iceberg, broadcast join, sort-merge, partition pruning.
В Pro-подписке по этому конспекту получите: