У меня есть программа для выполнения денормализации в больших файлах данных, прежде чем я импортирую данные в базу данных OLAP. Я пытаюсь сделать эту денормализацию как можно быстрее. Мой «родной» язык - JavaScript, поэтому я делаю прототип там. Внутренняя петля этого процесса и источник 95% задержки - это простое конкатенация строки, которая создает каждую строку CSV, которую я передаю в файл. < /P>
Мой вопрос Ожидается, что другой язык выполнит эту простую задачу намного быстрее, чем JavaScript? Задержка кажется полностью связанной с процессором. Я использую параллельные процессы. 20 миллиардов строк по -прежнему занимают около получаса. < /P>
Следующий код - внутренний цикл. Я очень старался изменить это во многих отношениях, чтобы сделать его быстрее, и я уверен, что больше нет сока, чтобы сжать в JS. Голый для петли не быстрее. Вложенные массивы, нет. < /P>
items.forEach((id, i)=>{
rows.push(
csi + "_" + id,
DELIMITER,
cells[0],
DELIMITER,
cellValues,
DELIMITER,
"\n"
);
});
Подробнее здесь: https://stackoverflow.com/questions/793 ... -languages
Оптимизация конкатенации строки на разных языках ⇐ Javascript
Форум по Javascript
-
Anonymous
1738120785
Anonymous
У меня есть программа для выполнения денормализации в больших файлах данных, прежде чем я импортирую данные в базу данных OLAP. Я пытаюсь сделать эту денормализацию как можно быстрее. Мой «родной» язык - JavaScript, поэтому я делаю прототип там. Внутренняя петля этого процесса и источник 95% задержки - это простое конкатенация строки, которая создает каждую строку CSV, которую я передаю в файл. < /P>
Мой вопрос Ожидается, что другой язык выполнит эту простую задачу намного быстрее, чем JavaScript? Задержка кажется полностью связанной с процессором. Я использую параллельные процессы. 20 миллиардов строк по -прежнему занимают около получаса. < /P>
Следующий код - внутренний цикл. Я очень старался изменить это во многих отношениях, чтобы сделать его быстрее, и я уверен, что больше нет сока, чтобы сжать в JS. Голый для петли не быстрее. Вложенные массивы, нет. < /P>
items.forEach((id, i)=>{
rows.push(
csi + "_" + id,
DELIMITER,
cells[0],
DELIMITER,
cellValues[i],
DELIMITER,
"\n"
);
});
Подробнее здесь: [url]https://stackoverflow.com/questions/79395660/optimization-of-string-concatenation-in-different-languages[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия