超越Hadoop,Luigi打通云端大数据管道

luigi-管线数据可视化-ctocio

Liugi数据管线的可视化管理图

 

新的大数据开源技术和工具往往来自互联网公司,除了Facebook、Google和Twitter这样的巨头外,一些甚至是你想不到的互联网公司,例如Netflix和Spotify(音乐流媒体服务)也会贡献一些优秀的大数据分析开源工具(Suro和Luigi)。

近日创业公司Mortar就将Spotify开发的开源大数据工具Luigi搬上云端,在亚马逊云上提供复杂的,涉及大量工具和数据库的大数据流水线处理服务,不论是否使用Hadoop,用户都可以用Luigi管理复杂的大数据工作流。

Mortar公司最初的产品是提供一个编写和启动Hadoop任务的简单框架,运行在亚马逊弹性MapReduce云服务上。2012年,Mortar开始开源一些产品代码并分享一些Hadoop任务模板。2013年,Mortar与一群优秀的数据科学家协作,帮助用户开发推荐引擎,并期望能够从中摸索出在Mortar平台上运行这些任务的流程。

如今,Mortar的产品战略已经扩展到了Hadoop以外,希望用户通过Mortar管理的应用不再局限于Hadoop圈子。

Mortar首席执行官K Young指出:虽然Hadoop在客户那里非常受欢迎,但还是有很多重要的数据并不需要Hadoop,或者根本就不适用。通过以云服务的方式提供Luigi工具,Mortar的用户如今能够使用Python开发和可视化通往任何数据库或处理环境的大数据管线,只要它们支持API访问。

Young还认为云端版Liugi将帮助用户更快完成从原型到产品的过渡。Mortar也不准备放弃Hadoop,因为当今的大数据应用需要与多种处理环境对接,而开发者需要一种更简单的方法来管理这个流程。

“事实上,很多大数据项目搁浅并非因为大数据技术的复杂性格或者缺少数据科学家,最大的问题是如何将数据从所在的地方转移到需要(处理)的地方。”Young说道。

第一时间获取面向IT决策者的独家深度资讯,敬请关注IT经理网微信号:ctociocom

   
除非注明,本站文章均为原创或编译,转载请务必注明出处并保留原文链接: 文章来自IT经理网
相关文章:


关于作者

隐私已经死去,软件正在吃掉世界,数据即将爆炸

写评论

忘记密码

X