Ошибка значения, вызванная hdf5 из-за недостаточной точности чтения H5T_IEEE_F64LEPython

Программы на Python
Ответить
Anonymous
 Ошибка значения, вызванная hdf5 из-за недостаточной точности чтения H5T_IEEE_F64LE

Сообщение Anonymous »

Недавно я столкнулся с проблемой при чтении файлов HDF5 с использованием версии h5py-3.16.0 и python=3.10 в кластере Linux. Данные были сгенерированы теми же версиями, но на локальных MacOS. Проверка типа данных с помощью h5dump — H5T_IEEE_F64LE. Строка, вызывающая ошибку:
tensor = torch.tensor(f[path][idx], dtype=torch.float64)

Может ли это возникнуть из-за некоторых зависимостей библиотек h5py, связанных с платформой? Любая помощь или предложение очень ценятся. Спасибо.
Полная обратная связь:
Traceback (most recent call last):
File "/gpfs/home4/ssen/Multivector-Neurons/mvn/rdmft.py", line 164, in
engineer.fire(main)
File "/gpfs/home4/ssen/Multivector-Neurons/lib/engineer/engineer/fire.py", line 222, in fire
function(config)
File "/gpfs/home4/ssen/Multivector-Neurons/mvn/rdmft.py", line 90, in main
train_loss, val_loss = trainer.fit(model, optimizer, train_loader, scheduler, val_loader, test_loader=test_loader, debug_loader=traindebug_loader)
File "/gpfs/home4/ssen/Multivector-Neurons/lib/engineer/engineer/trainer/trainer.py", line 455, in fit
for batch in train_loader:
File "/home/ssen/miniconda3/envs/mvn/lib/python3.10/site-packages/torch/utils/data/dataloader.py", line 631, in __next__
data = self._next_data()
File "/home/ssen/miniconda3/envs/mvn/lib/python3.10/site-packages/torch/utils/data/dataloader.py", line 675, in _next_data
data = self._dataset_fetcher.fetch(index) # may raise StopIteration
File "/home/ssen/miniconda3/envs/mvn/lib/python3.10/site-packages/torch/utils/data/_utils/fetch.py", line 51, in fetch
data = [self.dataset[idx] for idx in possibly_batched_index]
File "/home/ssen/miniconda3/envs/mvn/lib/python3.10/site-packages/torch/utils/data/_utils/fetch.py", line 51, in
data = [self.dataset[idx] for idx in possibly_batched_index]
File "/gpfs/home4/ssen/Multivector-Neurons/mvn/data/rdmft.py", line 97, in __getitem__
tensor = torch.tensor(f[path][idx], dtype=torch.float64)
File "h5py/_objects.pyx", line 54, in h5py._objects.with_phil.wrapper
File "h5py/_objects.pyx", line 55, in h5py._objects.with_phil.wrapper
File "/home/ssen/miniconda3/envs/mvn/lib/python3.10/site-packages/h5py/_hl/dataset.py", line 872, in __getitem__
return self._fast_reader.read(args)
File "/home/ssen/miniconda3/envs/mvn/lib/python3.10/site-packages/h5py/_hl/dataset.py", line 610, in _fast_reader
rdr = _selector.Reader(self.id)
File "h5py/_selector.pyx", line 336, in h5py._selector.Reader.__cinit__
File "h5py/h5t.pyx", line 1143, in h5py.h5t.TypeFloatID.py_dtype
ValueError: Insufficient precision in available types to represent (63, 52, 11, 0, 52)
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»