
主要介绍4个市场上常用的ETL工具
优点是免费、组件多、支持开源,csdn上的学习资源多,而且是用纯java编写的ETL工具,只需要JVM环境即可部署,可跨平台,扩展性好。易上手,只需要你知道SQL怎么写,在定时批量常见下,能够很好地处理离线数据,一般情况下处理T+1的场景是没什么问题的。
但缺陷就是,kettle在执行定时调度时,如果任务过多,就只能通过系统自带的定时任务调度去进行管理,写日志。无法做到统一的管理,假如要做统一的管理也行,安装一套jenkins,但配置和后续的运维成本可能较高。以及kettle的内存占用较高,无法最大效率地利用服务器资源。
帆软公司的商业软件,主要是做“实时数据同步”和“离线数据处理”于一体的数据集成平台。因为以前工作有用过他们的报表工具FR和BI工具FineBI,猜测他们做这个FDL,主要是想完善FR和BI数据预处理这块。
优点是可对接数据库、上层通用协议、消息队列、文件、平台系统、应用等类型的数据源,支持数据服务的API接口发布,有统一的运维平台,是一款本土化自研数据集成产品。 除了kettle的定时数据处理场景,还能对接多种数据库,基于CDC、logminer、binlog等进行数据的实时同步。
用的是BS端,方便处理数据,可看到各个任务的运行状态,当任务出现问题时,还可以进行统一的消息通知,邮件、企业微信等。试用了下,搭配他们的报表软件FR+BI平台,可以很好地将数据进行集成、处理、存储、分析试用和分享。在官网了解了下定价,还算ok,属于是我们这种中小企业也能承受的价格。缺陷是刚上线,解决方案数量较少。
IBM公司的商业软件,最专业的ETL工具,适合大规模的ETL应用。优点是能帮助企业从散布在各个系统中的复杂异构信息获得更多价值,且有很好的商业化的技术支持。缺点就是贵,且因为使用人数较少,所以如果遇到问题时,去网上找到解决方法的概率比较低。
Informatica是商业软件,没有开源版本。在Gartner的评分中综合评分和细分维度的评分绝大部分都处于较高的值,假如是外国的土豪公司,可以大胆直接地选择Informatica。
据我所知,在中国区域他们还是有一些大客户的,但是我这边在看产品功能的时候,发现他们中文官网多个入口出现404且申请使用的页面无法响应,主观上感觉其在中文区的投入可能比较小。
