你好,欢迎来到教育网

{主关键词}
{主关键词}

Hadoop之父Doug Cutting

  不随意与陌生人合租房屋,独自出行谨慎做“沙发客”。外出活动,尽量结伴而行。从正规渠道办理国际驾照认证件,不网购“国际驾照”。切勿为陌生人携带行李或物品,避免不知情中为他人携带违禁品而违法。出行期间与家人朋友保持联系,及时向其更新自己在外旅行日程、联络方式。

  第十五条导游人员等级考核评定的收费标准按照国家有关部门审批的标准执行。第十六条本办法由国家旅游局负责解释。第十七条本办法自2005年7月3日起施行。

Hadoop之父Doug Cutting

现在,可能所有人都直接用过他的著作,他是Lucene、Nutch、Hadoop等项目的发起人。 是他,把不可捉摸的查找技能构成商品,贡献给普罗群众;仍是他,打造了现在在云核算和大数据范畴里如日中天的Hadoop。 他是某种意义上的盗火者,他即是。

从实习生做起1985年,Cutting毕业于美国斯坦福大学。 他并不是一开始就决心投身IT行业的,在大学时代的头两年,Cutting学习了诸如物理、地理等常规课程。 因为学费的压力,Cutting开始意识到,自己必须学习一些更加实用、有趣的技能。

这样,一方面可以帮助自己还清贷款,另一方面,也是为自己未来的生活做打算。 因为斯坦福大学座落在IT行业的“圣地”硅谷,所以学习软件对年轻人来说是再自然不过的事情了。 Cutting的第一份工作是在Xerox做实习生,Xerox当时的激光扫描仪上运行着三个不同的操作系统,其中的一个操作系统还没有屏幕保护程序。

因此,Cutting就开始为这套系统开发屏幕保护程序。 由于这套程序是基于系统底层开发的,所以其他同事可以给这个程序添加不同的主题。 这份工作给了Cutting一定的满足感,也是他最早的“平台”级的作品。

可以说,Xerox对Cutting后来研究搜索技术起到了决定性的影响,除了短暂的在苏格兰工作的经历外,Cutting事业的起步阶段大部分都是在Xerox度过的,这段时间让他在搜索技术的知识上有了很大提高。 他花了四年的时间搞研发,这四年中,他阅读了大量的论文,同时,自己也发表了很多论文,用Cutting自己的话说——“我的研究生是在Xerox读的。

”尽管Xerox让Cutting积累了不少技术知识,但他却认为,自己当时搞的这些研究只是纸上谈兵,没有人试验过这些理论的可实践性。 于是,他决定勇敢地迈出这一步,让搜索技术可以为更多人所用。

1997年底,Cutting开始以每周两天的时间投入,在家里试着用Java把这个想法变成现实,不久之后,Lucene诞生了。

作为第一个提供全文文本搜索的开源函数库,Lucene的伟大自不必多言。 Hadoop的诞生之后,Cutting再接再厉,在Lucene的基础上将开源的思想继续深化。 2004年,Cutting和同为程序员出身的MikeCafarella决定开发一款可以代替当时的主流搜索产品的开源搜索引擎,这个项目被命名为Nutch。 在此之前,Cutting所在的公司Architext(其主要产品为Excite搜索引擎)因没有顶住互联网经济泡沫的冲击而破产,那时的Cutting正处在Freelancer的生涯中,所以他希望自己的项目能通过一种低开销的方式来构建网页中的大量算法。 幸运的是,Google这时正好发布了一项研究报告,报告中介绍了两款Google为支持自家的搜索引擎而开发的软件平台。

这两个平台一个是GFS(GoogleFileSystem),用于存储不同设备所产生的海量数据;另一个是MapReduce,它运行在GFS之上,负责分布式大规模数据。 基于这两个平台,Cutting最引人瞩目的作品——Hadoop诞生了。 谈到Google对他们的“帮助”,Cutting说:“我们开始设想用4~5台电脑来实现这个项目,但在实际运行中牵涉了大量繁琐的步骤需要靠人工来完成。 Google的平台让这些步骤得以自动化,为我们实现整体框架打下了良好的基础。

”说起Google,Cutting也是它成长的见证人之一,这里有一段鲜为人知的故事。

早在Cutting供职于Architext期间,有两个年轻人曾去拜访这家公司,并向他们兜售自己的搜索技术,但当时他们的Demo只检索出几百万条网页,Excite的工程师们觉得他们的技术太小儿科,于是就在心里鄙视一番,把他们给送走了。

但故事并未到此结束,这两个年轻人回去之后痛定思痛,决定自己创业。

于是,他们开了一家自己的搜索公司,取名为Google。 这两个年轻人就是LarryPage和SergeyBrin。

在Cutting看来,Google的成功主要取决于,反向排序之后再存储的设计和对自己技术的自信。

让“开源”影响世界出于对时间成本的考虑,在从Architext离职四年后,Cutting决定结束这段Freelancer的生涯,找一家靠谱的公司,进一步完善Hadoop的性能。 他先后面试了几家公司,其中也包括IBM,但IBM似乎对他的早期项目Lucene更感兴趣,至于Hadoop则不置可否。 就在此时,Cutting接受了当时Yahoo!搜索项目负责人RaymieStata的邀请,于2006年正式加入Yahoo!。 在Yahoo!,有一支一百人的团队帮助他完善Hadoop项目,这期间开发工作进行得卓有成效。 不久之后,Yahoo!就宣布,将其旗下的搜索业务的架构迁移到Hadoop上来。 两年后,Yahoo!便基于Hadoop启动了第一个应用项目“webmap”——一个用来计算网页间链接关系的算法。 Cutting的时任上司(后为HortonworksCEO)EricBaldeschwieler曾说:“在相同的硬件环境下,基于Hadoop的webmap的反应速度是之前系统的33倍。

”虽然Hadoop的表现惊艳,但在当时并非所有公司都有条件使用,与此同时,用户需求却在日益增加。 有些大公司(如银行、电信公司、大型零售商等)只关注于产品,却不想在技术工程和咨询服务上过多投入,它们需要一个可以帮助其解决问题的平台,这就是Cutting后来跳槽到Cloudera的初衷。

从某种程度上说,Cloudera就是这么一个为那些在咨询和技术上有需求的公司提供服务的平台。

它的客户大多来自于传统行业,希望通过Hadoop来处理之前只能被直接抛弃的大规模数据。 现在,除了这些传统行业之外,Yahoo!、Facebook、eBay、LinkedIn等公司都在使用Hadoop,用Cutting的话说,他们的团队被“无形之中扩大了”。

目前,Cutting的方针是把Hadoop开展成云核算范畴的RedHat。 “我从来没有想过,除了搜索引擎,Hadoop的效果还能在其他方面有所发挥,它今日所遭到的关注程度,已超过了我之前的一切幻想”。

谈到成功,Cutting以为他的成功首要归功于两点,一是对自个作业的热心(Cutting在大学时就开端做Infrastracture类的程序,还用Lisp为Emacs奉献过代码,他非常喜欢自个的程序被千万人运用的感受);二是方针不要定得过大,要踏踏实实,一步一个脚印。

教育网_教育名言_教育网www.36166b.com
版权所有:教育网