Я работаю над системой, которая обрабатывает события из Кафки, и я сталкиваюсь с проблемой дизайна, связанной с масштабирующими агрегациями.{
"orderId": 123,
"skuIds": [101, 102]
}
< /code>
Из этого потока мне нужно построить несколько агрегаций. Например: < /p>
Общее количество закупок на Skuid < /li>
Общее количество закупок на ShopId < /li>
< /ul>
Проблема заключается в том, что каждая из этих агрегаций действительно нуждается в своем собственном разделении для сохранения порядка. Но поскольку тема кафки может быть разделена только одним ключом, я не могу просто обработать все из одной темы параллельно, не теряя гарантий заказа, по крайней мере, для некоторых агрегаций. Люди обычно дублируют события в отдельные темы на агрегацию? Используйте что -то вроде потоков Kafka с перераспределением? Или есть какой -то другой шаблон, который мне не хватает? Прямо сейчас в теме есть только один раздел, так что это еще не проблема, но я хочу планировать, когда нам нужно масштабироваться.
Любые указатели или общий опыт будут действительно оценены.
Подробнее здесь: https://stackoverflow.com/questions/797 ... n-each-nee
Как обрабатывать несколько агрегаций в одном и том же потоке событий Kafka, когда каждый нужен другой ключ разбиения? ⇐ C#
Место общения программистов C#
1754054693
Anonymous
Я работаю над системой, которая обрабатывает события из Кафки, и я сталкиваюсь с проблемой дизайна, связанной с масштабирующими агрегациями.{
"orderId": 123,
"skuIds": [101, 102]
}
< /code>
Из этого потока мне нужно построить несколько агрегаций. Например: < /p>
Общее количество закупок на Skuid < /li>
Общее количество закупок на ShopId < /li>
< /ul>
Проблема заключается в том, что каждая из этих агрегаций действительно нуждается в своем собственном разделении для сохранения порядка. Но поскольку тема кафки может быть разделена только одним ключом, я не могу просто обработать все из одной темы параллельно, не теряя гарантий заказа, по крайней мере, для некоторых агрегаций. Люди обычно дублируют события в отдельные темы на агрегацию? Используйте что -то вроде потоков Kafka с перераспределением? Или есть какой -то другой шаблон, который мне не хватает? Прямо сейчас в теме есть только один раздел, так что это еще не проблема, но я хочу планировать, когда нам нужно масштабироваться.
Любые указатели или общий опыт будут действительно оценены.
Подробнее здесь: [url]https://stackoverflow.com/questions/79722569/how-to-handle-multiple-aggregations-on-the-same-kafka-event-stream-when-each-nee[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия