Надеюсь, вы сможете мне помочь. При чтении немного большого CSV размером 400 МБ с помощью Pandas читаются не все записи. URL-адрес открытых данных: https://files.minsa.gob.pe/s/Ae52gBAMf9 ... IERTOS.csv. С Pandas я могу прочитать только 1 189 096 записей, но в файле их 1 216 582, включая заголовок. Версии этого файла за предыдущие дни были прочитаны полностью и без проблем, даже без необходимости указывать «col_names», но с сегодняшнего дня выдавалась ошибка
»pandas.errors.ParserError: Ошибка токенизации данных. Ошибка C: ожидалось 32 поля в строке 417545, было 44"
Вот почему мне пришлось указать столбцы, но он не читает весь файл и не не выдает сообщений об ошибках.
Код, который я использую в Python:
col_names = ["N", "TIPO_SEGURO", " SE_O", остальные поля]
tipo_de_datos = {"N":'int64', "TIPO_SEGURO":'string', "SE_O":'string', , остальные поляdf = pd.read_csv(archivo_csv, name=col_names, sep=",", low_memory=False,skiprows=1 ,dtype= Tipo_de_datos)
df9 = df.groupby(['ANIO']).N.count( )
print(df9)
print(df.shape[0]) # Чтобы узнать, сколько записей имеет Pandas загружен
Пожалуйста, если вы можете мне помочь, потому что у меня заканчиваются идеи, я уже использовал исключение «low_memory», исключение «dtype», и это не меняет результат. Заранее благодарю.
Подробнее здесь: https://stackoverflow.com/questions/791 ... -large-csv
Python с Pandas не читает все записи из немного большого CSV. ⇐ Python
Программы на Python
-
Anonymous
1731871770
Anonymous
Надеюсь, вы сможете мне помочь. При чтении немного большого CSV размером 400 МБ с помощью Pandas читаются не все записи. URL-адрес открытых данных: https://files.minsa.gob.pe/s/Ae52gBAMf9aKEzK/download/SINADEF_DATOS_ABIERTOS.csv. С Pandas я могу прочитать только 1 189 096 записей, но в файле их 1 216 582, включая заголовок. Версии этого файла за предыдущие дни были прочитаны полностью и без проблем, даже без необходимости указывать «col_names», но с сегодняшнего дня выдавалась ошибка
»pandas.errors.ParserError: Ошибка токенизации данных. Ошибка C: ожидалось 32 поля в строке 417545, было 44"
Вот почему мне пришлось указать столбцы, но он не читает весь файл и не не выдает сообщений об ошибках.
Код, который я использую в Python:
col_names = ["N", "TIPO_SEGURO", " SE_O", остальные поля]
tipo_de_datos = {"N":'int64', "TIPO_SEGURO":'string', "SE_O":'string', , остальные поляdf = pd.read_csv(archivo_csv, name=col_names, sep=",", low_memory=False,skiprows=1 ,dtype= Tipo_de_datos)
df9 = df.groupby(['ANIO']).N.count( )
print(df9)
print(df.shape[0]) # Чтобы узнать, сколько записей имеет Pandas загружен
Пожалуйста, если вы можете мне помочь, потому что у меня заканчиваются идеи, я уже использовал исключение «low_memory», исключение «dtype», и это не меняет результат. Заранее благодарю.
Подробнее здесь: [url]https://stackoverflow.com/questions/79197989/python-with-pandas-is-not-reading-all-records-from-a-bit-large-csv[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия