大数据专题(三):从文件到分析表,Parquet、数仓分层与 Iceberg
用同一批播放事件观察列式文件与分析表的不同职责,串起事实与维度、数仓分层、分区裁剪、小文件、Schema 演进和历史快照查询。
按发布时间倒序排列。
共 3 篇文章 · 当前 1–3 篇
用同一批播放事件观察列式文件与分析表的不同职责,串起事实与维度、数仓分层、分区裁剪、小文件、Schema 演进和历史快照查询。
从视频播放事件的接入与积压出发,理解分区键、消费位置、提交顺序和幂等边界,用真实 Kafka 实验观察恢复消费与主动回放。
以视频播放事件为主线,拆解事务与分析、批处理与流处理的职责,先建立指标口径和可核对的参考答案,再连接 Kafka、Spark、Flink 与 Iceberg。