Чтение файлов CSV в Spark DataFrame с использованием цикла For в PySparkPython

Программы на Python
Anonymous
Чтение файлов CSV в Spark DataFrame с использованием цикла For в PySpark

Сообщение Anonymous »

Я пытаюсь импортировать файлы CSV, сохраненные в контейнере данных Azure, в фрейм данных Spark, используя цикл for. Я запускаю этот код в Azure Databricks. Цикл for выполняется без каких-либо ошибок. Однако я не могу получить доступ к фрейму данных по его имени.
Я могу получить доступ к фрейму данных команды с помощью df_spark.show()
Пожалуйста, не могли бы вы мне помочь?
'''

Код: Выделить всё

for df_spark in ['athletes', 'coaches','entriesgender','medals','teams']:
df_spark=spark.read.csv('/mnt/data/raw-data/'+df_spark+'.csv',header=True)
df_spark.show()

athletes.show(n=5) # Error: It wouldn't recognise the spark dataframe by name.
'''
Код

Подробнее здесь: https://stackoverflow.com/questions/785 ... in-pyspark

Вернуться в «Python»