Неожиданная структура набора данных преобразователя после set_transform или with_transform

Неожиданная структура набора данных преобразователя после set_transform или with_transform ⇐ Python

1 сообщение • Страница 1 из 1

Anonymous

Неожиданная структура набора данных преобразователя после set_transform или with_transform

Цитата

Сообщение Anonymous » 01 дек 2024, 17:07

Я использую экстрактор функций из ViT, как описано здесь.
И заметил странное поведение, которое не могу полностью понять.
После загрузки набор данных, как в этом блокноте Colab, я вижу:

Код: Выделить всё

ds['train'].features

{'image_file_path': Value(dtype='string', id=None), 'image':
Image(mode=None, decode=True, id=None), 'labels':
ClassLabel(names=['angular_leaf_spot', 'bean_rust', 'healthy'],
id=None)И мы можем оценить функции обоими способами:

Код: Выделить всё

ds['train']['labels'][0:5]

[0, 0, 0, 0, 0]

Код: Выделить всё

ds['train'][0:2]

{'image_file_path':
['/home/albert/.cache/huggingface/datasets/downloads/extracted/967f0d9f61a7a8de58892c6fab6f0 2317c06faf3e19fba6a07b0885a9a7142c7/train/angular_leaf_spot/angular_leaf_spot_train.0.jpg',
'/home/albert/.cache/huggingface/datasets/downloads/extracted/967f0d9f61a7a8de58892c6fab6f02 317c06faf3e19fba6a07b0885a9a7142c7/train/angular_leaf_spot/angular_leaf_spot_train.1.jpg'],
'image': [
size=500x500>, ], 'labels': [0, 0]

Но после

Код: Выделить всё

from transformers import ViTFeatureExtractor

model_name_or_path = 'google/vit-base-patch16-224-in21k'
feature_extractor = ViTFeatureExtractor.from_pretrained(model_name_or_path)
ds = load_dataset('beans')

def transform(example_batch):
inputs = feature_extractor([x for x in example_batch['image']], return_tensors='pt')
inputs['labels'] = example_batch['labels']
return inputs

prepared_ds = ds.with_transform(transform)

Мы видим, что функции сохранены:

Код: Выделить всё

prepared_ds['train'].features

{'image_file_path': Value(dtype='string', id=None), 'image':
Image(mode=None, decode=True, id=None), 'labels':
ClassLabel(names=['angular_leaf_spot', 'bean_rust', 'healthy'],
id=None)

Код: Выделить всё

prepared_ds['train'][0:2]

{'pixel_values': tensor([[[[-0.5686, -0.5686, -0.5608, ..., -0.0275,
0.1843 , -0,2471],
...,
[-0,5843, -0,5922, -0,6078, ..., 0,2627, 0,1608, 0,2000]],

Код: Выделить всё

     [[-0.7098, -0.7098, -0.7490,  ..., -0.3725, -0.1608, -0.6000],
...,
[-0.8824, -0.9059, -0.9216,  ..., -0.2549, -0.2000, -0.1216]]],

[[[-0.5137, -0.4902, -0.4196,  ..., -0.0275, -0.0039, -0.2157],
...,
[-0.5216, -0.5373, -0.5451,  ..., -0.1294, -0.1529, -0.2627]],

[[-0.1843, -0.2000, -0.1529,  ...,  0.2157,  0.2078, -0.0902],
...,
[-0.7725, -0.7961, -0.8039,  ..., -0.3725, -0.4196, -0.5451]],

[[-0.7569, -0.8510, -0.8353,  ..., -0.3255, -0.2706, -0.5608],
...,
[-0.5294, -0.5529, -0.5608,  ..., -0.1686, -0.1922, -0.3333]]]]), 'labels': [0, 0]}

Но когда я пытаюсь получить доступ к меткам напрямую

Код: Выделить всё

prepared_ds['train']['labels']

Я получил ключевое сообщение об ошибке:

-------------- -------------------------------------------------- ----------- Трассировка KeyError (последний вызов
последний) Входная ячейка[32], строка 1
----> 1 подготовленные_ds['train']['labels ']
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/arrow_dataset.py:2872,
в наборе данных.getitem(self, key) 2870 def getitem(self, key):
noqa: F811 2871 """Может использоваться для индексировать столбцы (по именам строк) или строки (по целочисленному индексу или итерации индексов или логических значений)."""
-> 2872 return self._getitem(key)Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/arrow_dataset.py:2857,
in Dataset._getitem(self, key, **kwargs) 2855 formatter =
get_formatter(format_type, Features=self._info.features,
**format_kwargs) 2856 pa_subtable = query_table(self._data, key, indexes=self._indices)
-> 2857 formatted_output = format_table( 2858 pa_subtable, key, formatter=formatter, format_columns=format_columns,
output_all_columns=output_all_columns 2859 ) 2860 return
formatted_output
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:639,
in format_table(table, key, formatter, format_columns,
output_all_columns )
637 python_formatter = PythonFormatter(features=formatter.features)
638, если format_columns равен None:
--> 639 return formatter(pa_table, query_type=query_type)
640 elif query_type == "column":
641, если ключ в format_columns:
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:405,
в Formatter.call(self, pa_table, query_type)
403 return self.format_row(pa_table)
404 elif query_type == "column":
--> 405 return self.format_column(pa_table)
406 elif query_type == "batch":
407 return self.format_batch(pa_table)
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:501,
в CustomFormatter.format_column(self, pa_table)
500 def format_column (self, pa_table: pa.Table) -> ColumnFormat:
--> 501 formatted_batch = self.format_batch(pa_table)
502 if hasattr(formatted_batch, "keys"):
503 if len(formatted_batch.keys()) > 1:
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:522,
в CustomFormatter.format_batch(self, pa_table)
520 пакет = self.python_arrow_extractor().extract_batch(pa_table)
521 пакет = self.python_features_decoder.decode_batch(batch)
--> 522 return self.transform(batch)
Ячейка In[12], строка 5, в Transform(example_batch)
3 def Transform(example_batch):
4 # Возьмите список изображений PIL и преобразуйте их в значения пикселей
----> 5 входных данных = Feature_extractor([x for x in example_batch['image']], return_tensors='pt')
7 # Не забудьте включить метки!
8 inputs['labels'] = example_batch ['labels']
KeyError: 'image'

Похоже, что ошибка связана с тем, что экстрактор функций добавлен 'pixel_values', но объект сохраняется как 'image'
Но это также подразумевает попытку повторного применения преобразования...
Также: это невозможно сохранить набор данных на диск

Код: Выделить всё

prepared_ds.save_to_disk(img_path)

-------------------------------- ------------------------------------------ TypeError Traceback (последний вызовпоследняя) Ячейка In[21], строка 1
----> 1 dataset.save_to_disk(img_path)
Файл
~/anaconda3/envs/LLM/lib/python3.13/site-packages/datasets/arrow_dataset.py:1503,
в Dataset.save_to_disk(self, dataset_path, max_shard_size,
num_shards, num_proc , параметры_хранилища) 1501

json.dumps(state["_format_kwargs"][k]) 1502 кроме TypeError as
e:
-> 1503 поднять TypeError( 1504 str(e) + f"\nФормат kwargs должен быть JSON сериализуем, но ключ '{k}' нет." 1505
) from None 1506 # Получить сериализуемый json информация о наборе данных 1507
dataset_info = asdict(self._info)
TypeError: объект функции типа не является сериализуемым JSON. Формат
kwargs должен быть сериализуемым JSON, но ключ «преобразование» — нет.

Обратите внимание, что исходные коды в этом блокноте работают идеально (обучение, оценка и т. д.). Я получил эту ошибку только потому, что пытался проверить набор данных, попытаться сохранить сгенерированный набор данных и т. д., чтобы изучить объект набора данных...
Разве структура набора данных не должна быть доступна в аналогичным образом после with_transform() или set_transform()? Почему он снова вызывает функцию преобразования, если мы просто пытаемся получить доступ к одной из функций?
Надеюсь, вы сможете пролить свет на это поведение...

Подробнее здесь: https://stackoverflow.com/questions/792 ... -transform

1733062034

Anonymous

Я использую экстрактор функций из ViT, как описано здесь.
И заметил странное поведение, которое не могу полностью понять.
После загрузки набор данных, как в этом блокноте Colab, я вижу:
[code]ds['train'].features
[/code]

{'image_file_path': Value(dtype='string', id=None), 'image':
Image(mode=None, decode=True, id=None), 'labels':
ClassLabel(names=['angular_leaf_spot', 'bean_rust', 'healthy'],
id=None)И мы можем оценить функции обоими способами:

[code]ds['train']['labels'][0:5]
[/code]

[0, 0, 0, 0, 0]

[code]ds['train'][0:2]
[/code]

{'image_file_path':
['/home/albert/.cache/huggingface/datasets/downloads/extracted/967f0d9f61a7a8de58892c6fab6f0 2317c06faf3e19fba6a07b0885a9a7142c7/train/angular_leaf_spot/angular_leaf_spot_train.0.jpg',
'/home/albert/.cache/huggingface/datasets/downloads/extracted/967f0d9f61a7a8de58892c6fab6f02 317c06faf3e19fba6a07b0885a9a7142c7/train/angular_leaf_spot/angular_leaf_spot_train.1.jpg'],
'image': [
size=500x500>, ], 'labels': [0, 0]

Но после
[code]from transformers import ViTFeatureExtractor

model_name_or_path = 'google/vit-base-patch16-224-in21k'
feature_extractor = ViTFeatureExtractor.from_pretrained(model_name_or_path)
ds = load_dataset('beans')

def transform(example_batch):
inputs = feature_extractor([x for x in example_batch['image']], return_tensors='pt')
inputs['labels'] = example_batch['labels']
return inputs

prepared_ds = ds.with_transform(transform)
[/code]
Мы видим, что функции сохранены:
[code]prepared_ds['train'].features
[/code]

{'image_file_path': Value(dtype='string', id=None), 'image':
Image(mode=None, decode=True, id=None), 'labels':
ClassLabel(names=['angular_leaf_spot', 'bean_rust', 'healthy'],
id=None)

[code]prepared_ds['train'][0:2]
[/code]

{'pixel_values': tensor([[[[-0.5686, -0.5686, -0.5608, ..., -0.0275,
0.1843 , -0,2471],
...,
[-0,5843, -0,5922, -0,6078, ..., 0,2627, 0,1608, 0,2000]],
[code]     [[-0.7098, -0.7098, -0.7490,  ..., -0.3725, -0.1608, -0.6000],
...,
[-0.8824, -0.9059, -0.9216,  ..., -0.2549, -0.2000, -0.1216]]],

[[[-0.5137, -0.4902, -0.4196,  ..., -0.0275, -0.0039, -0.2157],
...,
[-0.5216, -0.5373, -0.5451,  ..., -0.1294, -0.1529, -0.2627]],

[[-0.1843, -0.2000, -0.1529,  ...,  0.2157,  0.2078, -0.0902],
...,
[-0.7725, -0.7961, -0.8039,  ..., -0.3725, -0.4196, -0.5451]],

[[-0.7569, -0.8510, -0.8353,  ..., -0.3255, -0.2706, -0.5608],
...,
[-0.5294, -0.5529, -0.5608,  ..., -0.1686, -0.1922, -0.3333]]]]), 'labels': [0, 0]}
[/code]

Но когда я пытаюсь получить доступ к меткам напрямую
[code]prepared_ds['train']['labels']
[/code]
Я получил ключевое сообщение об ошибке:

-------------- -------------------------------------------------- ----------- Трассировка KeyError (последний вызов
последний) Входная ячейка[32], строка 1
----> 1 подготовленные_ds['train']['labels ']
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/arrow_dataset.py:2872,
в наборе данных.[b]getitem[/b](self, key) 2870 def [b]getitem[/b](self, key):
noqa:  F811 2871 """Может использоваться для индексировать столбцы (по именам строк) или строки (по целочисленному индексу или итерации индексов или логических значений)."""
-> 2872 return self._getitem(key)Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/arrow_dataset.py:2857,
in Dataset._getitem(self, key, **kwargs) 2855 formatter =
get_formatter(format_type, Features=self._info.features,
**format_kwargs) 2856 pa_subtable = query_table(self._data, key, indexes=self._indices)
-> 2857 formatted_output = format_table( 2858 pa_subtable, key, formatter=formatter, format_columns=format_columns,
output_all_columns=output_all_columns 2859 ) 2860 return
formatted_output
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:639,
in format_table(table, key, formatter, format_columns,
output_all_columns )
637 python_formatter = PythonFormatter(features=formatter.features)
638, если format_columns равен None:
--> 639 return formatter(pa_table, query_type=query_type)
640 elif query_type == "column":
641, если ключ в format_columns:
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:405,
в Formatter.[b]call[/b](self, pa_table, query_type)
403 return self.format_row(pa_table)
404 elif query_type == "column":
--> 405 return self.format_column(pa_table)
406 elif query_type == "batch":
407 return self.format_batch(pa_table)
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:501,
в CustomFormatter.format_column(self, pa_table)
500 def format_column (self, pa_table: pa.Table) -> ColumnFormat:
--> 501 formatted_batch = self.format_batch(pa_table)
502 if hasattr(formatted_batch, "keys"):
503 if len(formatted_batch.keys()) > 1:
Файл
~/anaconda3/envs/LLM/lib/python3.12/site-packages/datasets/formatting/formatting.py:522,
в CustomFormatter.format_batch(self, pa_table)
520 пакет = self.python_arrow_extractor().extract_batch(pa_table)
521 пакет = self.python_features_decoder.decode_batch(batch)
--> 522 return self.transform(batch)
Ячейка In[12], строка 5, в Transform(example_batch)
3 def Transform(example_batch):
4 # Возьмите список изображений PIL и преобразуйте их в значения пикселей
----> 5 входных данных = Feature_extractor([x for x in example_batch['image']], return_tensors='pt')
7 # Не забудьте включить метки!
8 inputs['labels'] = example_batch ['labels']
KeyError: 'image'

Похоже, что ошибка связана с тем, что экстрактор функций добавлен 'pixel_values', но объект сохраняется как 'image'
Но это также подразумевает попытку повторного применения преобразования...
Также: это невозможно сохранить набор данных на диск
[code]prepared_ds.save_to_disk(img_path)
[/code]

-------------------------------- ------------------------------------------ TypeError Traceback (последний вызовпоследняя) Ячейка In[21], строка 1
----> 1 dataset.save_to_disk(img_path)
Файл
~/anaconda3/envs/LLM/lib/python3.13/site-packages/datasets/arrow_dataset.py:1503,
в Dataset.save_to_disk(self, dataset_path, max_shard_size,
num_shards, num_proc , параметры_хранилища) 1501

json.dumps(state["_format_kwargs"][k]) 1502 кроме TypeError as
e:
-> 1503 поднять TypeError( 1504 str(e) + f"\nФормат kwargs должен быть JSON сериализуем, но ключ '{k}' нет." 1505
) from None 1506 # Получить сериализуемый json информация о наборе данных 1507
dataset_info = asdict(self._info)
TypeError: объект функции типа не является сериализуемым JSON. Формат
kwargs должен быть сериализуемым JSON, но ключ «преобразование» — нет.

Обратите внимание, что исходные коды в этом блокноте работают идеально (обучение, оценка и т. д.). Я получил эту ошибку только потому, что пытался проверить набор данных, попытаться сохранить сгенерированный набор данных и т. д., чтобы изучить объект набора данных...
Разве структура набора данных не должна быть доступна в аналогичным образом после with_transform() или set_transform()? Почему он снова вызывает функцию преобразования, если мы просто пытаемся получить доступ к одной из функций?
Надеюсь, вы сможете пролить свет на это поведение... 

Подробнее здесь: [url]https://stackoverflow.com/questions/79241735/unexpected-transformers-dataset-structure-after-set-transform-or-with-transform[/url]