Понимание назначения разделов потоков KafkaJAVA

Программисты JAVA общаются здесь
Ответить
Anonymous
 Понимание назначения разделов потоков Kafka

Сообщение Anonymous »

У меня есть две темы: одна с 3 разделами и одна с 48.

Изначально я использовал присваиватель по умолчанию, но у меня возникли проблемы, когда потребитель (под в kubernetes ) разбился.

Произошло следующее: когда модуль снова появился, он переназначил раздел из темы с 3 разделами и 0 из темы с 48.

Двум модулям, которые не вышли из строя, были назначены 16 и 32 раздела из темы с 48 разделами.

Я исправил это с помощью назначение разделов с помощью циклического перебора, но теперь я не уверен в том, как распределяются разделы, поскольку я использую соединения kstream-kstream, и для этого нам нужно гарантировать, что потребители назначаются одному и тому же разделу для всех потребителей, например. C1:(t1:p0, t2:p0) C2(t1:p1, t2:p1) и т. д.

Одна вещь, о которой я подумал, это то, что я мог бы изменить ключ поступают события, поэтому они будут перераспределены, и тогда я смогу это гарантировать?

Или, может быть, я не понимаю, как работает разделение по умолчанию.. я запутался р>

Подробнее здесь: https://stackoverflow.com/questions/557 ... n-assignor
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «JAVA»