README

!Datax-logo

 DataX



DataX 是阿里云 DataWorks数据集成 的开源版本，在阿里巴巴集团内被广泛使用的离线数据同步工具/平台。DataX 实现了包括 MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、Hologres、DRDS, databend 等各种异构数据源之间高效的数据同步功能。

 DataX 商业版本
阿里云DataWorks数据集成是DataX团队在阿里云上的商业化产品，致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动能力，以及繁杂业务背景下的数据同步解决方案。目前已经支持云上近3000家客户，单日同步数据超过3万亿条。DataWorks数据集成目前支持离线50+种数据源，可以进行整库迁移、批量上云、增量同步、分库分表等各类同步解决方案。2020年更新实时同步能力，支持10+种数据源的读写任意组合。提供MySQL，Oracle等多种数据源到阿里云MaxCompute，Hologres等大数据引擎的一键全增量同步解决方案。

商业版本参见：  https://www.aliyun.com/product/bigdata/ide


 Features

DataX本身作为数据同步框架，将不同数据源的同步抽象为从源头数据源读取数据的Reader插件，以及向目标端写入数据的Writer插件，理论上DataX框架可以支持任意数据源类型的数据同步工作。同时DataX插件体系作为一套生态系统, 每接入一套新数据源该新加入的数据源即可实现和现有的数据源互通。



 DataX详细介绍

 请参考：DataX-Introduction



 Quick Start

 Download DataX下载地址


 请点击：Quick Start



 Support Data Channels 

DataX目前已经有了比较全面的插件体系，主流的RDBMS数据库、NOSQL、大数据计算系统都已经接入，目前支持数据如下图，详情请点击：DataX数据源参考指南

| 类型               | 数据源                          | Reader(读) | Writer(写) |                                                                                                                       文档                                                                                                                       |
|--------------|---------------------------|:---------:|:---------:|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------:|
| RDBMS 关系型数据库 | MySQL                           |     √      |     √      |                                       读 、写                                       |
|                    | Oracle                          |     √      |     √      |                                     读 、写                                     |
|                    | OceanBase                       |     √      |     √      | 读 、写 |
|                    | SQLServer                       |     √      |     √      |                               读 、写                               |
|                    | PostgreSQL                      |     √      |     √      |                             读 、写                             |
|                    | DRDS                            |     √      |     √      |                                         读 、写                                         |
|                    | Kingbase                        |     √      |     √      |                                         读 、写                                         |
|                    | 通用RDBMS(支持所有关系型数据库) |     √      |     √      |                                       读 、写                                       |
| 阿里云数仓数据存储 | ODPS                            |     √      |     √      |                                         读 、写                                         |
|                    | ADB                             |            |