Нашел интересное тестовое задание. Может быть кто-то хочет попробовать его решить на Python?
Мне видится, что можно взять spark, прочитать все JSON в папке data, извлечь схему JSON и дальше написать запрос.
Я не понял, что они хотят найти. Но понятно, что в итоге программу можно положить в docker. Ну или сразу брать готовый контейнер со spark.
На выходе, будет spark submit, куда передается параметры.
Если вы изучаете питон, отличное упражнение и можно решить вообще без спарка.
Интересно посмотреть на ваши решения.
Post #3031
4.47K