电商离线 + 实时双版本湖仓数仓
复现并封装一个电商交易指标双链路数仓:离线链路使用 MySQL + Doris 完成物理分层;实时链路由 Kafka + Flink SQL 临时视图构成 DWD → DWS → ADS 逻辑计算链,再通过 Statement Set 并行物化 Paimon ODS/DWD/DWS/ADS 和 Doris ADS,最终逐字段对账。
- 问题离线报表和实时看板容易因为口径、统计范围、数据源不同导致指标不一致。
- 方案Doris 离线链路按表逐层加工;Flink 实时链路以临时视图串联口径,并在同一 Statement Set 中并行写入 Paimon 分层表与 Doris ADS。
- 结果固定日期锚点下,1 / 7 / 30 日统计范围的核心指标和客单价全部对账 PASS。