Pyspark Maptype с Arraytype в качестве броска ключейPython

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Pyspark Maptype с Arraytype в качестве броска ключей

Сообщение Anonymous »

Я могу создать Pyspark DataFrame с столбцом Maptype, ключом которого является Arraytype. Метод Show () работает DataFrame, но метод collect () выбрасывает исключение: < /p>
> return cloudpickle.loads(obj, encoding=encoding)
E TypeError: unhashable type: 'list'
< /code>
Согласно документации Pyspark, это должно быть возможно: Maptype поддерживает ключи типа DataType и Arraytype Forheres от DataType.from pyspark.sql import SparkSession
from pyspark.sql.types import MapType, ArrayType, StringType, IntegerType

schema = MapType(ArrayType(StringType()), IntegerType())
data = [{("A", "B"): 10, ("X", "Y", "Z"): 20}]
df = spark.createDataFrame(data, schema)
df.show() # works

df.collect() # throws exception
< /code>
Примечания: < /p>

Я хочу сохранить редкие массивы в этой структуре < /li>
Я знаю, что список изменен и поэтому не может использоваться в качестве ключа в питоне.>

Подробнее здесь: https://stackoverflow.com/questions/796 ... -exception
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • Pyspark Maptype с Arraytype в качестве броска ключей
    Anonymous » » в форуме Python
    0 Ответы
    2 Просмотры
    Последнее сообщение Anonymous
  • Создать DataFrame с столбцом Arraytype в pyspark
    Anonymous » » в форуме Python
    0 Ответы
    7 Просмотры
    Последнее сообщение Anonymous
  • Pyspark Arraytype Использование в преобразовании в государство
    Anonymous » » в форуме Python
    0 Ответы
    1 Просмотры
    Последнее сообщение Anonymous
  • Pyspark Arraytype Использование в преобразовании в государство
    Гость » » в форуме Python
    0 Ответы
    1 Просмотры
    Последнее сообщение Гость
  • Pyspark Arraytype Использование в преобразовании в государство
    Anonymous » » в форуме Python
    0 Ответы
    2 Просмотры
    Последнее сообщение Anonymous

Вернуться в «Python»