Я использую Debebezium CDC с трансформатором Outbober, и нам нужно, чтобы он запустился как можно быстрее. Поскольку мы используем Outbore, существует только одна таблица, в которой нас интересует (и эта структура таблицы вряд ли изменится). < /P>
Когда мы используем «Snapshot.mode «:« Нет ». Тогда любые изменения Binlog, которые мы захватываем, бросает ошибку, поскольку мы не записали схему. Когда мы используем «snapshot.mode»: «schema_only» все таблицы в схеме записаны на «Schema.history.internal.kafka.topic», несмотря на то, что он ограничивает это «table.include.list» - это только содержит единственную таблицу. Что нас интересует. Непрактичный. < /p>
Есть ли ошибка /что -то отсутствующее в нашем файле свойств? Мы хотим запечатлеть схему только для одной таблицы, которая нас интересует. < /P>
{
"connector.class": "io.debezium.connector.mysql.MySqlConnector",
"tasks.max": "1",
"database.include.list": "xxxxxxxxxx",
"database.hostname": "xxxxxxxxxxxx",
"database.port": "3306",
"database.user": "xxxxxx",
"database.password": "xxxxxxxxxxxxxx",
"database.server.id": "184054",
"table.include.list": "xxxxxx.outbox",
"snapshot.mode": "schema_only",
"snapshot.locking.mode": "none",
"schema.history.internal.kafka.bootstrap.servers": "xxxxxxxxxxxxxxxxxxxx",
"schema.history.internal.kafka.topic": "operations.integration.schema.history",
"include.schema.changes": "false",
"tombstones.on.delete": "false",
"topic.prefix": "operations.integration.feeds",
"poll.interval.ms": 100,
"skipped.operations": "u,d,t",
"value.converter": "org.apache.kafka.connect.json.JsonConverter",
"value.converter.schemas.enable": "false",
"producer.override.compression.type": "lz4",
"transforms": "outbox,routing,insertMessageSystemHeader,dropHeaders",
"transforms.outbox.type": "io.debezium.transforms.outbox.EventRouter",
"transforms.outbox.table.expand.json.payload": "true",
"transforms.outbox.table.fields.additional.placement": "message_id:header:messaging.message.message.id,idempotency_key:header:xxxxxxx.message.idempotency_key,is_canary_request:header:xxxxxxx.message.canary,message_name:header:xxxxxxx.message.name,message_version:header:xxxxxxx.message.version,message_owner:header:xxxxxxx.message.owner,correlation_id:header:xxxxxxx.message.conversation_id,message_format:header:xxxxxxx.message.format",
"transforms.outbox.table.field.event.key": "event_id",
"transforms.outbox.table.field.event.timestamp": "date_updated",
"transforms.outbox.table.field.event.payload": "details",
"transforms.outbox.table.field.event.id": "message_id",
"transforms.outbox.tracing.span.context.field": "correlation_id",
"transforms.outbox.route.topic.replacement": "xxxxxxxxxxxxxxxxxxxx.${routedByValue}",
"transforms.outbox.route.by.field": "target",
"transforms.routing.type": "io.debezium.transforms.partitions.PartitionRouting",
"transforms.routing.partition.payload.fields": "id",
"transforms.routing.partition.topic.num": "10",
"transforms.insertMessageSystemHeader.type": "org.apache.kafka.connect.transforms.InsertHeader",
"transforms.insertMessageSystemHeader.header": "messaging.system",
"transforms.insertMessageSystemHeader.value.literal": "kafka",
"transforms.dropHeaders.type": "org.apache.kafka.connect.transforms.DropHeaders",
"transforms.dropHeaders.headers": "id"
}
Подробнее здесь: https://stackoverflow.com/questions/794 ... are-not-in
Разъем Debezium mysql захватывает изменения схемы для таблиц, которых нет в таблице, включает список ⇐ MySql
Форум по Mysql
1739977512
Anonymous
Я использую Debebezium CDC с трансформатором Outbober, и нам нужно, чтобы он запустился как можно быстрее. Поскольку мы используем Outbore, существует только одна таблица, в которой нас интересует (и эта структура таблицы вряд ли изменится). < /P>
Когда мы используем «Snapshot.mode «:« Нет ». Тогда любые изменения Binlog, которые мы захватываем, бросает ошибку, поскольку мы не записали схему. Когда мы используем «snapshot.mode»: «schema_only» все таблицы в схеме записаны на «Schema.history.internal.kafka.topic», несмотря на то, что он ограничивает это «table.include.list» - это только содержит единственную таблицу. Что нас интересует. Непрактичный. < /p>
Есть ли ошибка /что -то отсутствующее в нашем файле свойств? Мы хотим запечатлеть схему только для одной таблицы, которая нас интересует. < /P>
{
"connector.class": "io.debezium.connector.mysql.MySqlConnector",
"tasks.max": "1",
"database.include.list": "xxxxxxxxxx",
"database.hostname": "xxxxxxxxxxxx",
"database.port": "3306",
"database.user": "xxxxxx",
"database.password": "xxxxxxxxxxxxxx",
"database.server.id": "184054",
"table.include.list": "xxxxxx.outbox",
"snapshot.mode": "schema_only",
"snapshot.locking.mode": "none",
"schema.history.internal.kafka.bootstrap.servers": "xxxxxxxxxxxxxxxxxxxx",
"schema.history.internal.kafka.topic": "operations.integration.schema.history",
"include.schema.changes": "false",
"tombstones.on.delete": "false",
"topic.prefix": "operations.integration.feeds",
"poll.interval.ms": 100,
"skipped.operations": "u,d,t",
"value.converter": "org.apache.kafka.connect.json.JsonConverter",
"value.converter.schemas.enable": "false",
"producer.override.compression.type": "lz4",
"transforms": "outbox,routing,insertMessageSystemHeader,dropHeaders",
"transforms.outbox.type": "io.debezium.transforms.outbox.EventRouter",
"transforms.outbox.table.expand.json.payload": "true",
"transforms.outbox.table.fields.additional.placement": "message_id:header:messaging.message.message.id,idempotency_key:header:xxxxxxx.message.idempotency_key,is_canary_request:header:xxxxxxx.message.canary,message_name:header:xxxxxxx.message.name,message_version:header:xxxxxxx.message.version,message_owner:header:xxxxxxx.message.owner,correlation_id:header:xxxxxxx.message.conversation_id,message_format:header:xxxxxxx.message.format",
"transforms.outbox.table.field.event.key": "event_id",
"transforms.outbox.table.field.event.timestamp": "date_updated",
"transforms.outbox.table.field.event.payload": "details",
"transforms.outbox.table.field.event.id": "message_id",
"transforms.outbox.tracing.span.context.field": "correlation_id",
"transforms.outbox.route.topic.replacement": "xxxxxxxxxxxxxxxxxxxx.${routedByValue}",
"transforms.outbox.route.by.field": "target",
"transforms.routing.type": "io.debezium.transforms.partitions.PartitionRouting",
"transforms.routing.partition.payload.fields": "id",
"transforms.routing.partition.topic.num": "10",
"transforms.insertMessageSystemHeader.type": "org.apache.kafka.connect.transforms.InsertHeader",
"transforms.insertMessageSystemHeader.header": "messaging.system",
"transforms.insertMessageSystemHeader.value.literal": "kafka",
"transforms.dropHeaders.type": "org.apache.kafka.connect.transforms.DropHeaders",
"transforms.dropHeaders.headers": "id"
}
Подробнее здесь: [url]https://stackoverflow.com/questions/79451846/debezium-mysql-connector-is-capturing-schema-changes-for-tables-that-are-not-in[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия