Я хочу отправить в Kafka около 1 миллиона записей и использую производитель Kafka в Java со следующей конфигурацией:
props.put(ProducerConfig.DELIVERY_TIMEOUT_MS_CONFIG, 600000);
props.put(ProducerConfig.LINGER_MS_CONFIG, 0);
props.put(ProducerConfig.BATCH_SIZE_CONFIG, 0);
props.put(ProducerConfig.REQUEST_TIMEOUT_MS_CONFIG, 60000);
но даже с такой конфигурацией я получаю:
org.apache.kafka.common.errors.TimeoutException: Expiring 1 record(s) for topic-2:601876 ms has passed since batch creation
Мой загрузочный сервер и Zookeeper находятся на моем локальном компьютере, и я отправляю avro
сообщение размером около 1 КБ.
Мой Java-код:
ProducerRecord record = new ProducerRecord(topic, avroObject);
producer.send(record, new Callback() {
@Override
public void onCompletion(RecordMetadata metadata, Exception exception) {
if (exception == null) {
allData.setFlagSentAvro("1");
OutputRepository.save(allData);
} else {
exception.printStackTrace();
}
}
});
Подробнее здесь: https://stackoverflow.com/questions/793 ... s-in-kafka
Просроченные записи в Кафке ⇐ JAVA
Программисты JAVA общаются здесь
1736946040
Anonymous
Я хочу отправить в Kafka около 1 миллиона записей и использую производитель Kafka в Java со следующей конфигурацией:
props.put(ProducerConfig.DELIVERY_TIMEOUT_MS_CONFIG, 600000);
props.put(ProducerConfig.LINGER_MS_CONFIG, 0);
props.put(ProducerConfig.BATCH_SIZE_CONFIG, 0);
props.put(ProducerConfig.REQUEST_TIMEOUT_MS_CONFIG, 60000);
но даже с такой конфигурацией я получаю:
org.apache.kafka.common.errors.TimeoutException: Expiring 1 record(s) for topic-2:601876 ms has passed since batch creation
Мой загрузочный сервер и Zookeeper находятся на моем локальном компьютере, и я отправляю avro
сообщение размером около 1 КБ.
Мой Java-код:
ProducerRecord record = new ProducerRecord(topic, avroObject);
producer.send(record, new Callback() {
@Override
public void onCompletion(RecordMetadata metadata, Exception exception) {
if (exception == null) {
allData.setFlagSentAvro("1");
OutputRepository.save(allData);
} else {
exception.printStackTrace();
}
}
});
Подробнее здесь: [url]https://stackoverflow.com/questions/79358316/expired-records-in-kafka[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия