首页 > 编程知识 正文

otter学习 otter 基本介绍,会计专业基本介绍

时间:2023-05-04 13:29:04 阅读:221776 作者:581

一、项目介绍

名称:otter [‘ɒtə(r)]

译意: 水獭,数据搬运工

语言: 纯java开发

定位: 基于数据库增量日志解析,准实时同步到本机房或异地机房的mysql/oracle数据库。

二、工作原理


原理描述:

基于Canal开源产品,获取数据库增量日志数据。

典型管理系统架构,manager(web管理)+node(工作节点)。

a. manager运行时推送同步配置到node节点

b. node节点将同步状态反馈到manager上

基于zookeeper,解决分布式状态调度的,允许多node节点之间协同工作。

三、otter能解决什么?

异构库同步

a. mysql -> mysql/oracle. (目前开源版本只支持mysql增量,目标库可以是mysql或者oracle,取决于canal的功能)

单机房同步 (数据库之间RTT < 1ms)

a. 数据库版本升级

b. 数据表迁移

c. 异步二级索引

异地机房同步 (比如阿里巴巴国际站就是杭州和美国机房的数据库同步,RTT > 200ms,亮点)

a. 机房容灾

双向同步

a. 避免回环算法 (通用的解决方案,支持大部分关系型数据库)

b. 数据一致性算法 (保证双A机房模式下,数据保证最终一致性,亮点)

文件同步

a. 站点镜像 (进行数据复制的同时,复制关联的图片,比如复制产品数据,同时复制产品图片).

四、单机房复制示意图


说明:

  a. 数据on-atgdlc,尽可能不落地,更快的进行数据同步. (开启node loadBalancer算法,如果Node节点S+ETL落在不同的Node上,数据会有个网络传输过程)

  b. node节点可以有failover / loadBalancer.

五、异地机房复制示意图


说明:

  a. 数据涉及网络传输,S/E/T/L几个阶段会分散在2个或者更多Node节点上,多个Node之间通过zookeeper进行协同工作 (一般是Select和Extract在一个机房的Node,Transform/Load落在另一个机房的Node)

  b. node节点可以有failover / loadBalancer. (每个机房的Node节点,都可以是集群,一台或者多台机器)

六、初步性能指标

单机房同步

a. 100tps , 延迟100ms

b. 5000tps, 延迟1s

中美异地机房同步

a. 100tps , 延迟2s

b. 5000tps ,延迟10s

ps. 性能指标取决于目标数据库性能,数据大小等多个因素,单机房100b大小,极限tps可以1w+

七、otter核心model关系图


名词解释

Pipeline:从源端到目标端的整个过程描述,主要由一些同步映射过程组成Channel:同步通道,单向同步中一个Pipeline组成,在双向同步中有两个Pipeline组成DataMediaPair:根据业务表定义映射关系,比如源表和目标表,字段映射,字段组等DataMedia : 抽象的数据介质概念,可以理解为数据表/mq队列定义DataMediaSource : 抽象的数据介质源信息,补充描述DateMediaColumnPair : 定义字段映射关系ColumnGroup : 定义字段映射组Node : 处理同步过程的工作节点,对应一个jvm 八、otter的S/E/T/L stage阶段模型


说明:为了更好的支持系统的扩展性和灵活性,将整个同步流程抽象为Select/Extract/Transform/Load,这么4个阶段。

Select阶段: 为解决数据来源的差异性,比如接入canal获取增量数据,也可以接入其他系统获取其他数据等。
Extract/Transform/Load 阶段:类似于数据仓库的ETL模型,具体可为数据join,数据转化,数据Load的。

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。