Мне нужно объединить большие потоки данных, доступные через Flux, каждый из которых содержит метку времени и значение. Если временные метки совпадают, то значения необходимо просуммировать. Данные в потоке сортируются по метке времени в порядке возрастания.
Для небольших потоков я бы использовал функцию groupBy, но поскольку поток содержит много записей, это не так. эффективный.
Я хотел бы воспользоваться тем фактом, что записи в потоке упорядочены, но не могу найти правильную конструкцию. Каковы инструменты для достижения чего-то подобного? Ниже приведен код sudo того, что я хочу сделать:
var flux1 = Flux.just(
new Data(ZonedDateTime.parse("2025-01-01T00:00:00"), 1.0),
new Data(ZonedDateTime.parse("2025-03-01T00:00:00"), 1.0)
);
var flux2 = Flux.just(
new Data(ZonedDateTime.parse("2025-02-01T00:00:00"), 2.0),
new Data(ZonedDateTime.parse("2025-03-01T00:00:00"), 2.0),
new Data(ZonedDateTime.parse("2025-04-01T00:00:00"), 2.0)
);
var flux3 = Flux.just(
new Data(ZonedDateTime.parse("2025-02-01T00:00:00"), 5.0)
);
var input = List.of(flux1, flux2, flux3);
var output = Flux.create(sink -> {
List nextEntries = input.stream().map(Flux::next).toList();
do {
ZonedDateTime nextTimestamp = nextEntries.stream().map(Data::getTimestamp).min(ZonedDateTime::compareTo).get();
List affectedStreams = IntStream.range(0, input.size()).filter(i -> nextTimestamp == nextEntries.getTimestamp()).toList();
double nextOutput = affectedStreams.stream().mapToDouble(i -> nextEntries.getValue()).sum();
sink.next(new Data(nextTimestamp, nextOutput));
affectedStreams.forEach(i -> nextEntries = input.get(i).next());
} while (!allFluxAreConsumed);
});
// expected output:
// [
// Data(ZonedDateTime.parse("2025-01-01T00:00:00"), 1.0),
// Data(ZonedDateTime.parse("2025-02-01T00:00:00"), 7.0),
// Data(ZonedDateTime.parse("2025-03-01T00:00:00"), 3.0),
// Data(ZonedDateTime.parse("2025-05-01T00:00:00"), 2.0)
// ]
Подробнее здесь: https://stackoverflow.com/questions/793 ... fficiently
Эффективно присоединяйтесь к сортированным производителям флюса ⇐ JAVA
Программисты JAVA общаются здесь
-
Anonymous
1737475572
Anonymous
Мне нужно объединить большие потоки данных, доступные через Flux, каждый из которых содержит метку времени и значение. Если временные метки совпадают, то значения необходимо просуммировать. Данные в потоке сортируются по метке времени в порядке возрастания.
Для небольших потоков я бы использовал функцию groupBy, но поскольку поток содержит много записей, это не так. эффективный.
Я хотел бы воспользоваться тем фактом, что записи в потоке упорядочены, но не могу найти правильную конструкцию. Каковы инструменты для достижения чего-то подобного? Ниже приведен код sudo того, что я хочу сделать:
var flux1 = Flux.just(
new Data(ZonedDateTime.parse("2025-01-01T00:00:00"), 1.0),
new Data(ZonedDateTime.parse("2025-03-01T00:00:00"), 1.0)
);
var flux2 = Flux.just(
new Data(ZonedDateTime.parse("2025-02-01T00:00:00"), 2.0),
new Data(ZonedDateTime.parse("2025-03-01T00:00:00"), 2.0),
new Data(ZonedDateTime.parse("2025-04-01T00:00:00"), 2.0)
);
var flux3 = Flux.just(
new Data(ZonedDateTime.parse("2025-02-01T00:00:00"), 5.0)
);
var input = List.of(flux1, flux2, flux3);
var output = Flux.create(sink -> {
List nextEntries = input.stream().map(Flux::next).toList();
do {
ZonedDateTime nextTimestamp = nextEntries.stream().map(Data::getTimestamp).min(ZonedDateTime::compareTo).get();
List affectedStreams = IntStream.range(0, input.size()).filter(i -> nextTimestamp == nextEntries[i].getTimestamp()).toList();
double nextOutput = affectedStreams.stream().mapToDouble(i -> nextEntries[i].getValue()).sum();
sink.next(new Data(nextTimestamp, nextOutput));
affectedStreams.forEach(i -> nextEntries[i] = input.get(i).next());
} while (!allFluxAreConsumed);
});
// expected output:
// [
// Data(ZonedDateTime.parse("2025-01-01T00:00:00"), 1.0),
// Data(ZonedDateTime.parse("2025-02-01T00:00:00"), 7.0),
// Data(ZonedDateTime.parse("2025-03-01T00:00:00"), 3.0),
// Data(ZonedDateTime.parse("2025-05-01T00:00:00"), 2.0)
// ]
Подробнее здесь: [url]https://stackoverflow.com/questions/79375111/join-sorted-flux-producers-efficiently[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия