Kafka + Клиент был отключен до того, как был прочитан ответ ⇐ Linux

[Anonymous]

у нас есть кластер из 13 рабочих брокеров Kafka с коэффициентом репликации 3 для всех тем. В течение последних нескольких недель я сталкивался с проблемой, которая внезапно возникала несколько раз в день.
Все брокеры Kafka используют последнюю версию Kafka 3.6.x, и все брокеры используют Kafka Kraft.
вот пример типичного исключения (из server.log)
[2025-01-12 02:54:08.008] INFO [ReplicaFetcher replicaId=1003, leaderId=1001, fetcherId=17] Error sending fetch request (sessionId=1005919175, epoch=4857668) to node 1001: (org.apache.kafka.clients.FetchSessionHandler)
java.io.IOException: Client was shutdown before response was read
at org.apache.kafka.clients.NetworkClientUtils.sendAndReceive(NetworkClientUtils.java:108)
at kafka.server.BrokerBlockingSender.sendRequest(BrokerBlockingSender.scala:113)
at kafka.server.RemoteLeaderEndPoint.fetch(RemoteLeaderEndPoint.scala:79)
at kafka.server.AbstractFetcherThread.processFetchRequest(AbstractFetcherThread.scala:316)
at kafka.server.AbstractFetcherThread.$anonfun$maybeFetch$3(AbstractFetcherThread.scala:130)
at kafka.server.AbstractFetcherThread.$anonfun$maybeFetch$3$adapted(AbstractFetcherThread.scala:129)
at scala.Option.foreach(Option.scala:437)
at kafka.server.AbstractFetcherThread.maybeFetch(AbstractFetcherThread.scala:129)
at kafka.server.AbstractFetcherThread.doWork(AbstractFetcherThread.scala:112)
at kafka.server.ReplicaFetcherThread.doWork(ReplicaFetcherThread.scala:98)
at org.apache.kafka.server.util.ShutdownableThread.run(ShutdownableThread.java:130)
[2025-01-12 02:54:08.008] INFO [ReplicaFetcherThread-17-1001]: Stopped (kafka.server.ReplicaFetcherThread)
[2025-01-12 02:54:08.008] INFO [ReplicaFetcherThread-17-1001]: Shutdown completed (kafka.server.ReplicaFetcherThread)

насколько я понимаю, вышеописанные ошибки мы видим как java.io.IOException: клиент был выключен до того, как был прочитан ответ, обычно указывает на то, что клиент Kafka был выключен до этого мог получить ответ от сервера. Это может произойти по нескольким причинам:
Итак, мы проверили следующие пункты 1–3 на всех брокерах и можем ясно и абсолютно видеть, что следующие пункты 1–3 не являются частью проблемы< /p>

• все службы Kafka работают стабильно
• нет медлительности дисков и высокой загрузки дисков
  < li>Размер кучи Java Kafka в порядке (мы устанавливаем 12 ГБ на Размер кучи Kafka)

Могу ли я получить совет, чтобы понять, что может быть основной причиной исключения
[2025-01-12 02:54:08.008] INFO [ReplicaFetcher replicaId=1003, leaderId=1001, fetcherId=17] Error sending fetch request (sessionId=1005919175, epoch=4857668) to node 1001: (org.apache.kafka.clients.FetchSessionHandler)
java.io.IOException: Client was shutdown before response was read


Подробнее здесь: https://stackoverflow.com/questions/793 ... e-was-read