摘要: 简述 CloudCanal当前最新版本已经支持源端Oracle、SqlServer等主流传统数据库作为源端迁移同步数据到StarRocks来构建实时数仓。本文简要介绍如何快速构建一条Oracle->StarRocks数据链路。 技术要点 基于StreamLoad的导入方式 CloudCanal 采用 阅读全文
posted @ 2022-12-23 10:24 clougence 阅读(732) 评论(0) 推荐(0)
摘要: 简介 CloudCanal 实现的 基于 Kafka 构建安全的跨互联网数据同步 方案被客户用于生产后,又出现了新的需求,主要集中在方案能否更加轻量化和可控性上,简而言之,去掉 Kafka 中转,直接在 CloudCanal 中实现跨网络安全互通。 本篇文章即介绍 CloudCanal 实现的更加轻 阅读全文
posted @ 2022-12-09 10:40 clougence 阅读(383) 评论(0) 推荐(0)
摘要: 简述 本文主要介绍如何使用 CloudCanal 构建一条 MySQL 到 Greenplum / PostgreSQL 的数据同步链路。 支持版本 源端 MySQL 支持的版本为:5.6、5.7、8.X 对端 PostgreSQL 支持的版本为:8.4、9.0、9.1、9.2、9.3 9.4、9. 阅读全文
posted @ 2022-12-02 10:25 clougence 阅读(900) 评论(0) 推荐(0)
摘要: 简述 SQL Server 是一个值得信赖的老牌数据库系统,自从 1988 年由 Microsoft、Sybase 和 Ashton-Tate 三家公司共同推出之后就一直不断迭代更新。而如今我们提到 SQL Server 通常是指 Microsoft 从 SQL Server 2000 之后的版本。 阅读全文
posted @ 2022-11-21 11:09 clougence 阅读(6488) 评论(0) 推荐(0)
摘要: 简述 CloudCanal除了提供最核心的数据迁移和同步能力以外,还提供数据校验和数据订正两种非常实用的能力。这两种功能为用户保障数据迁移同步链路的数据质量提供了非常大的便利性。例如对端数据库因为各种原因产生一些异常写入导致的数据不一致或者丢失,用户均可以使用CloudCanal提供的数据校验和数据 阅读全文
posted @ 2022-11-14 16:28 clougence 阅读(454) 评论(0) 推荐(0)
摘要: 简述 Apache Doris 是一个现代化的 MPP 分析型数据库产品,仅需 亚秒级 响应时间即可获得查询结果,能有效地支持实时数据分析。 本文主要介绍如何使用 CloudCanal 快速构建一条稳定高效运行的 PostgreSQL 到 Doris 数据同步链路。 技术点 基于 StreamLoa 阅读全文
posted @ 2022-11-04 17:01 clougence 阅读(1307) 评论(0) 推荐(0)
摘要: 背景知识 什么是地理信息数据 地理信息数据的定义主要来自于我们熟知的星球——地球。我们知道地球表面是一个凸凹不平的表面,是一个近似的椭球体。以海平面为参照已知最高点和最低点之间有接近 2 万米的差距。 珠穆朗玛峰,8848.86米含冰层(人民日报:2020年12月8日) 马里亚纳海沟,相对海平面深1 阅读全文
posted @ 2022-10-17 16:09 clougence 阅读(194) 评论(0) 推荐(0)
摘要: 简述 ClickHouse 是一种流行的列式数据库,对于计算 uv、mv、pv 等聚合类数据相当友好,所以广泛使用于各类报表场景。 本文主要介绍如何使用 CloudCanal 快速构建一条稳定高效运行的 ORACLE 到 ClickHouse 数据同步链路。 示例中 ORACLE 库为 PDB 模式 阅读全文
posted @ 2022-08-31 10:10 clougence 阅读(900) 评论(0) 推荐(0)
摘要: # 简述MongoDB 是一种广泛使用的文档型数据库,对于 schema 弱要求、可扩展性强让其在很多场景普遍适用。 本文主要介绍如何使用 CloudCanal 快速构建一条稳定高效运行的 MongoDB 到 MongoDB 数据同步链路,示例中 MongoDB 均为 ReplicationSet 阅读全文
posted @ 2022-08-30 15:58 clougence 阅读(871) 评论(0) 推荐(0)
摘要: # 为什么我们要重构 Oracle 源端数据同步?CloudCanal 早期版本即支持了 Oracle 数据库,围绕**结构迁移**、**全量迁移**、**增量同步**三个核心步骤,构建了以 Oracle 数据库为源端的实时数据体系。 但之前的版本,也存在着不少问题,功能、性能、对数据库权限的挑战等 阅读全文
posted @ 2022-08-30 15:56 clougence 阅读(208) 评论(0) 推荐(0)