摘要: Apache Flink 2.3.0 发版公告 2026年6月25日 · Apache Flink PMC Apache Flink PMC 正式宣布 Apache Flink 2.3.0 版本发布。 本次发布大幅扩展了 SQL 能力(新增 Changelog 转换算子),提升了物化表的灵活性,引入 阅读全文
posted @ 2026-06-26 10:10 tonyabasy 阅读(27) 评论(0) 推荐(0)
摘要: 概览 前三篇解决了怎么跑、怎么管、DDL 怎么复用。这篇解决第四件事:怎么省。 Flink 1.6 提供了细粒度资源配置的能力。该能力大大提升了大任务、大并发作业下资源利用率。但是直至 2.x 版本该能力只支持 DataStream,Flink SQL 无法享受到细粒度资源配置带来的福利。 本文深入 阅读全文
posted @ 2026-06-25 18:18 tonyabasy 阅读(13) 评论(0) 推荐(0)
摘要: 本页介绍 均衡任务调度策略 的背景与原理,以及如何在运行流式作业时使用该功能。 背景 当 Flink 流式作业中所有顶点(Vertex)的并行度不一致时,Flink 默认策略的任务部署有时会导致某些 TaskManager 分配到的任务较多,而其他 TaskManager 分配到的任务较少,从而造成 阅读全文
posted @ 2026-06-25 09:13 tonyabasy 阅读(101) 评论(0) 推荐(1)
摘要: 概览 前两篇文章我们解决了两件事:怎么跑(像 Hive 那样用 Flink SQL),怎么管(像后端那样 CI/CD)。 传统的 Flink SQL DDL 散落在每个 SQL 脚本里。一个实时数仓有几十张表,每张表的 CREATE TABLE 出现在引用它的每个脚本中。改一个字段类型所有脚本全要改 阅读全文
posted @ 2026-06-23 11:21 tonyabasy 阅读(131) 评论(0) 推荐(1)
摘要: 概览 第一篇我们解决了"怎么写"——一条 flink run 跑起完整的 Multi-Statement SQL 脚本。这一篇解决"怎么管":让 Flink SQL 作业的研发流程具备和 Java 后端同样的工程能力——可检测、可追溯、可回滚、自动化。 本文将深入 Flink SQL Validat 阅读全文
posted @ 2026-06-16 18:49 tonyabasy 阅读(175) 评论(0) 推荐(0)
摘要: 翻译自 A Deep Dive into Rescalable State in Apache Flink 在 2017 年 5 月发布的 Apache Flink 1.2.0 中我们介绍了新特性可扩展状态(rescalable state)。接下来本篇文章会详细介绍 Flink 的状态流处理(st 阅读全文
posted @ 2026-06-10 20:09 tonyabasy 阅读(8) 评论(0) 推荐(0)
摘要: 翻译自 Managing Large State in Apache Flink: An Intro to Incremental Checkpointing Apache Flink 专门为状态流(stateful stream)计算而搭建。那什么是流计算中的状态(state)?我在上一篇博客中定 阅读全文
posted @ 2026-06-10 20:07 tonyabasy 阅读(11) 评论(0) 推荐(0)
摘要: 翻译自 Apache Flink: Scaling Flink automatically with Reactive Mode 简介 流式作业长时间运行过程中常常会经历不同流量负载的情况。流量负载会出现周期性的变化,如:白天与晚上、周末与工作日、节假日与非节假日,这些波动可能是突发事件或是业务的自 阅读全文
posted @ 2026-06-10 20:02 tonyabasy 阅读(7) 评论(0) 推荐(0)
摘要: 概览 本文介绍一种 如何在 Flink 1.20(目前企业广泛使用的 LTS 版本)中通过 flink run 方式直接提交一个包含多条 SQL 的 .sql 文件。 给用户提供一种类似于 hive -f my_etl.sql 那样丝滑的 Flink SQL 开发体验。 本方案能够运行在任何资源环境 阅读全文
posted @ 2026-06-10 18:26 tonyabasy 阅读(24) 评论(0) 推荐(0)
摘要: 项目已完全开源,欢迎围观: gitee - tonyabasy/flink-sql-bootstrap github - tonyabasy/flink-sql-boostrap 为什么要用 Flink SQL Bootstrap 原生 Flink SQL 在生产环境有三大痛点: 痛点 原生 Fli 阅读全文
posted @ 2026-06-02 18:43 tonyabasy 阅读(12) 评论(0) 推荐(0)