Я использую следующий код для добавления документов в индекс Lucene. Я проиндексировал 23 425 документов, но размер папки, в которой хранится индекс, составляет 447,4 МБ. Напротив, при хранении тех же данных в файле Parquet с теми же 23 425 записями размер файла составляет всего 625 КБ. Размер папки индекса Lucene кажется чрезмерно большим. Может ли кто-нибудь помочь определить, почему это происходит и как это оптимизировать? Ниже приведен код, который я использую:
MMapDirectory indexDirectory = new MMapDirectory(Paths.get(directory));
// Configure the IndexWriter with an analyzer
StandardAnalyzer analyzer = new StandardAnalyzer();
IndexWriterConfig config = new IndexWriterConfig(analyzer);
IndexWriter indexWriter = new IndexWriter(indexDirectory, config);
for (Map.Entry entry : operations.entrySet())
{
Document doc1 = new Document();
doc1.add(new StringField("namespace", namespace, Store.YES));
doc1.add(new StringField("type", "operations", Store.YES));
doc1.add(new StringField("data", entry.getKey(), Store.YES));
doc1.add(new StringField("serviceName",entry.getValue().getServiceName(),
Store.YES));
List attributes =
entry.getValue().getOperationAttributes();
for (int i = 0; i < attributes.size(); i++)
{
doc1.add(new StoredField(attributes.get(i).getName(),
String.valueOf(attributes.get(i).getValue())));
}
try { docCount.getAndIncrement();
ndexWriter.addDocument(doc1);
} catch (IOException e) {
logger.error("Error while adding document to index", e);
}
}
indexWriter.commit();
indexWriter.close();
Подробнее здесь: https://stackoverflow.com/questions/792 ... -documents
Размер папки документов Lucene слишком велик ⇐ JAVA
Программисты JAVA общаются здесь
-
Anonymous
1732022354
Anonymous
Я использую следующий код для добавления документов в индекс Lucene. Я проиндексировал 23 425 документов, но размер папки, в которой хранится индекс, составляет [b]447,4 МБ[/b]. Напротив, при хранении тех же данных в файле Parquet с теми же [b]23 425[/b] записями размер файла составляет всего [b]625 КБ[/b]. Размер папки индекса Lucene кажется чрезмерно большим. Может ли кто-нибудь помочь определить, почему это происходит и как это оптимизировать? Ниже приведен код, который я использую:
MMapDirectory indexDirectory = new MMapDirectory(Paths.get(directory));
// Configure the IndexWriter with an analyzer
StandardAnalyzer analyzer = new StandardAnalyzer();
IndexWriterConfig config = new IndexWriterConfig(analyzer);
IndexWriter indexWriter = new IndexWriter(indexDirectory, config);
for (Map.Entry entry : operations.entrySet())
{
Document doc1 = new Document();
doc1.add(new StringField("namespace", namespace, Store.YES));
doc1.add(new StringField("type", "operations", Store.YES));
doc1.add(new StringField("data", entry.getKey(), Store.YES));
doc1.add(new StringField("serviceName",entry.getValue().getServiceName(),
Store.YES));
List attributes =
entry.getValue().getOperationAttributes();
for (int i = 0; i < attributes.size(); i++)
{
doc1.add(new StoredField(attributes.get(i).getName(),
String.valueOf(attributes.get(i).getValue())));
}
try { docCount.getAndIncrement();
ndexWriter.addDocument(doc1);
} catch (IOException e) {
logger.error("Error while adding document to index", e);
}
}
indexWriter.commit();
indexWriter.close();
Подробнее здесь: [url]https://stackoverflow.com/questions/79203572/folder-size-is-too-large-of-lucene-documents[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия