Flink CDC 数据同步常见问题与解决方案

Flink CDC 在生产环境中最常见的问题集中在连接稳定性、数据一致性和性能三个维度。以下按问题频率从高到低梳理排查路径和解决方案。

问题一：Binlog 连接被断开

症状：Flink CDC 作业日志中出现 MySQL connection is closed 或 Communications link failure。

根本原因：MySQL 默认的 wait_timeout 通常为 8 小时，而 CDC 作业在全量阶段不读取 Binlog，连接处于空闲状态，超过 timeout 后被 MySQL 主动断开。

解决方案：

• 设置 Flink CDC 的 heartbeat 包间隔：heartbeat.interval: 30s，让连接保持活跃
• 在 MySQL 侧调整 wait_timeout 到更大值（如 86400 秒）
• 配置重试策略：retry.times: 3，retry.delay: 5s

如果使用 Flink CDC 3.x 的 Pipeline API，可以在 source 配置中直接设置：

source:
  type: mysql
  hostname: localhost
  port: 3306
  heartbeat:
    interval: 30s

问题二：数据不一致

症状：目标表与源表数据存在差异，通常是部分行缺失或字段值不匹配。

常见原因及对策：

全量阶段并发写入冲突：多个 CDC 任务使用相同的 Server ID 连接 MySQL，导致 Binlog 位点混乱。

解决：为每个 CDC 任务分配独立的 Server ID 范围。例如 3 个任务分别使用 server-id: 1001-1003、1004-1006、1007-1009，避免 ID 复用。

全量到增量切换时的数据丢失：全量读取完成后、增量开始前，有一段时间窗口的 Binlog 可能未被消费。

解决：使用 GTID 模式替代 Binlog 文件名+偏移量模式。GTID 是全局唯一的事务标识，不受 Binlog 文件轮转影响：

-- MySQL 端启用 GTID
gtid_mode = ON
enforce_gtid_consistency = ON

Flink CDC 配置：scan.startup.mode: earliest-offset（全量+增量无间隙切换）。

Schema 变更导致同步中断：源表新增列或修改列类型后，CDC 任务报错退出。

解决：Flink CDC 3.x 支持 Schema Evolution，自动检测 DDL 变更并同步到目标表。在 Pipeline 配置中启用：

sink:
  type: doris
  schema.change:
    enabled: true

对于不支持 Schema Evolution 的目标端，需要在源表 DDL 变更后重启 CDC 作业。

问题三：全量阶段 OOM

症状：全量读取大表时，TaskManager 内存溢出。

根本原因：Flink CDC 默认使用 JDBC 读取全量数据，如果源表数据量大（超过千万行），单次查询的结果集会占用大量内存。

解决方案：

• 增大 TaskManager 内存：taskmanager.memory.process.size: 4096m
• 开启全量读取的分片模式：scan.snapshot.fetch.size: 1000（每次只取 1000 行）
• 对大表使用增量快照（Incremental Snapshot）：Flink CDC 2.4+ 支持将全量阶段拆分为多个 chunk 并行读取，大幅降低单 Task 内存压力

问题四：整库同步的 Server ID 资源竞争

多表整库同步场景下，如果所有表共用一个 CDC Job，Server ID 只需要一个。但如果拆分为多个 Job，每个 Job 需要独立的 Server ID。

MySQL 的 max_connections 限制了并发连接数。如果 CDC Job 数量多，需要：

• 增大 MySQL 的 max_connections（默认 151 可能不够）
• 合理规划 Server ID 范围，避免与应用层连接池冲突
• 使用连接池复用：Flink CDC 3.x 支持 jdbc.pool 配置

排障检查清单

遇到 CDC 同步问题时，按以下顺序排查：

1. 检查 MySQL Binlog 格式是否为 ROW：SHOW VARIABLES LIKE 'binlog_format'
2. 检查 Binlog 是否开启：SHOW VARIABLES LIKE 'log_bin'
3. 检查 GTID 模式是否启用（推荐）
4. 检查 Flink CDC 版本与 MySQL 版本的兼容性矩阵
5. 检查网络连通性和防火墙规则
6. 查看 Flink 作业日志中的异常堆栈，定位具体错误码