Я использую функцию CRC в Zlib для расчета CRC большого файла. Я сопоставляю файл в кусках 1 ГБ для передачи функции CRC, и я заметил, что, если я изменю размер кусков на 5 ГБ или больше, возвращаемое значение CRC больше не такое же, как и значение CRC, рассчитанное с небольшими кусочками (1 ГБ - 4 ГБ. Все возвращают один и тот же CRC). Кроме того, для размеров кусок 5 ГБ и больше, расчет CRC намного быстрее: 3 секунды в файле 14 ГБ против 22 секунды при использовании 1-4 ГБ кусочек. < /P>
Кто-нибудь знает, почему это происходит? Руководство https://zlib.net/manual.html, похоже, не упоминает этот тип поведения для функций CRC.
uLong crc = crc32(0L, Z_NULL, 0);
size_t offset = 0;
size_t page_size = sysconf(_SC_PAGE_SIZE);
const size_t num_maps = 1000000000 / page_size;
const size_t MAX_MAP_SIZE = num_maps * page_size; // map 1GB to mmap at a time
size_t file_size= fs::file_size(file);
size_t map_size = 0;
while (offset < file_size)
{
if (file_size - offset > MAX_MAP_SIZE)
map_size = MAX_MAP_SIZE;
else
map_size = file_size - offset;
void* buf = mmap(NULL, map_size, PROT_READ, MAP_PRIVATE, fd, offset);
crc = crc32(crc, (unsigned char *)buf, map_size);
munmap(buf, map_size);
offset += map_size;
}
Подробнее здесь: https://stackoverflow.com/questions/797 ... ger-blocks
Функция Zlib CRC не соответствует чтению файлов в больших блоках ⇐ C++
Программы на C++. Форум разработчиков
-
Anonymous
1754698899
Anonymous
Я использую функцию CRC в Zlib для расчета CRC большого файла. Я сопоставляю файл в кусках 1 ГБ для передачи функции CRC, и я заметил, что, если я изменю размер кусков на 5 ГБ или больше, возвращаемое значение CRC больше не такое же, как и значение CRC, рассчитанное с небольшими кусочками (1 ГБ - 4 ГБ. Все возвращают один и тот же CRC). Кроме того, для размеров кусок 5 ГБ и больше, расчет CRC намного быстрее: 3 секунды в файле 14 ГБ против 22 секунды при использовании 1-4 ГБ кусочек. < /P>
Кто-нибудь знает, почему это происходит? Руководство https://zlib.net/manual.html, похоже, не упоминает этот тип поведения для функций CRC.
uLong crc = crc32(0L, Z_NULL, 0);
size_t offset = 0;
size_t page_size = sysconf(_SC_PAGE_SIZE);
const size_t num_maps = 1000000000 / page_size;
const size_t MAX_MAP_SIZE = num_maps * page_size; // map 1GB to mmap at a time
size_t file_size= fs::file_size(file);
size_t map_size = 0;
while (offset < file_size)
{
if (file_size - offset > MAX_MAP_SIZE)
map_size = MAX_MAP_SIZE;
else
map_size = file_size - offset;
void* buf = mmap(NULL, map_size, PROT_READ, MAP_PRIVATE, fd, offset);
crc = crc32(crc, (unsigned char *)buf, map_size);
munmap(buf, map_size);
offset += map_size;
}
Подробнее здесь: [url]https://stackoverflow.com/questions/79730333/zlib-crc-function-is-inconsistent-when-reading-files-in-larger-blocks[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия