优界网

首页 > 产品经理 > 一程序员在阿里HBase团队的所感所悟

一程序员在阿里HBase团队的所感所悟

39

0

0

2016-08-20 01:18:02

金龙

分享一下,又不会怀孕!

本作品为转载作品,版权为作品原作者所有,感谢上传者的分享!

“committer为开源社区的一个光荣和义务的职务。拥有对某项目拥有直接提交代码、代码审核与提交、投票否决代码、参加核心会议、决定项目未来走势、加入committer邮件列表等多个重要权利。”

“hadoop社区的committer主要来自于两个项目:hadoop以及hbase,几乎是清一色来自西8区(Bay Area)的同学,天梧同学的加入是第一个来自东8区的同学。”

赞赏总能让本人激动,熟人开心,生人好奇。进公司前,HR会和你说,“在阿里,你可以得到快速地成长”,我信了,也不乏有同学反应,“进了公司后,自己越长越着急了”。在日复一日的工作中,两年很短也很快,而回头想想,不论成败与否,未来如何,这段职业生命的开始之路,就是我人生中的第一桶金。

阿里很大,HBase团队很小,而我就停留在这个小小的团队里面,没有出奇的经历,没有精彩的故事,没有业务上的激情澎湃,也没有过人的牛逼之处,平淡的记录权当是对工作、对同事、对团队发展的回忆与总结。

11年4月从学校毕业后进入了淘宝,和不少应届同学相比,我很幸运地知道团队是做啥的,也和老板有过简单地交流,再加上杭州待了7年,从学校切换到公司很自然,自然得工作日会去学校吃个午饭。。。

入职后,幸运地搭上了HBase团队成立的班车,那时对于HBase的理解程度是“听过”。团队总共三个人,毕玄、竹庄、我。毕玄是我师兄,花名他起的,有一天若牛了都没机会让人猜猜花名来由!!我在很长一段时间后才知道他是淘宝的大牛,哈哈,又幸运了一把,让人羡慕的暗喜。。。牛人负责Carry,菜鸟负责辅助,所以尽管坐着第三把交椅,我也只能打打酱油,那个时候他们群里沟通的内容我是简单明了的不懂。毕玄和竹庄,两人性格相似,谦顺温和,感受不到啥牛气,团队也处于刚成立的调研测试期,没有太多的规矩要学(不像现在新同学进来的话,业务、环境、文档等需要熟悉的东西很多。。。),他们忙着测试、部署,我也不善于搭讪,所以就默默地干着领的活,谷歌+百度+编码,就是一天的工作内容。

我的第一份活是做监控系统,要求很低,毕玄说能看就行了,指标也已经放在百科上了。没有苛刻的用户,一个人做东西很美好,需求、设计、开发、测试、运维自己说了算,唯一的那么点遗憾就是和周围的人干着两个世界的活,还好有伟大的搜索引擎。最近也时常有人问我监控系统是怎么做的,简单地说就是在HBase代码中植入要监测的指标,将监控数据发送到Ganglia,后台另一进程从Gmond中拉取数据持久化存储,然后前端使用Highcharts进行数据绘图。为什么不直接用Ganglia,相信很多搞后端的同学都用过或用着。关于这个问题,第一,你想从监控系统中得到什么;第二,Ganglia能不能满足你的需求。

没多久,团队新来了两个实习生,之前就是研究HBase的,所以上手很快,做自动化测试和服务端计算方面的工作,话说其中的刘佳现在已经是新成立公司的CTO了。这个时候开始陆续上线了HBase最初的几个项目,像是数据魔方以及TT3,想想那时的工作真美好,专注在一块工作上,没有人找你,所以竹庄肯定很忙,而我虽然游离在团队核心工作之外,干着一个产品要干的活,但也不忘自己所在的庙,时常研究学习一下HBase的源码细节。

搞了一个月,监控系统第一版做好了,也给了个好评。这时,竹庄是主开发,毕玄要负责运营项目,也没有安排HBase方面的活给我,我就自我翻新,找到了一套好的绘图工具Highcharts+一套jqueryUI大大地改进了一下前端,后端进行了一些数据存储优化及运维优化,顺便又开发了一套HBase运维页面:实时统计展现系统的关键数据及常用管理操作,差不多可以转岗去前端工程师发展了。。。话说某次大团队开会的时候,老板剑英夸我能前端能后端,那是第一次工作上的喜悦,傻傻又天真的美好。。。

6月后,参加了新人培训百技、百淘,第一次听到了马总的名言,“今天是残酷的,明天是残酷的,后天是美好的,但是很多人都死在明天晚上”,“态度比能力重要,选择同样也比能力重要”。培训很美好:不用干活;培训很有意义:树立价值观,增强存在感;培训很愧疚:很多要做的工作落下了。

不久,团队加入了测试神秀和新的开发务挺、飞云,神秀的加入对整个Team以及个人都意义重大,话说“术业有专攻”,他帮我们构建了自动化测试系统,有了日常Hudson构建、详细的性能基准、严格的异常测试,值得赞叹的是他不仅仅是测试,和我们一起探讨问题、解决问题、code review。在这个Team,我们向着共同的目标,做着不同的分工。除了日常开发,飞云兼顾了Zookeeper的研究,而务挺之前从事Mysql、C方向的工作,落地了HBase跨机房容灾相关的工作。外部的竞争力可以给内部很大的凝聚力,我们依靠着开源这颗大树,容易想到马总的话,“今天,HBase在公司发展好、服务好,跟我们可能无关,但反之,那肯定是我们的责任”。

到了9月中,HBase也已经从半年前的零发展到了好几十个项目,团队的需求也越来越多,而我也开始改行了,重心投入到HBase的开发中,而这第一次与HBase的亲密接触是二级索引,这是一次不成功的接触。HBase本身不支持二级索引,一般都是由业务端自己维护索引表。HBase实现二级索引的难点是数据一致性,因为这需要分布式事务保证。当然我也没有去解决分布式事务而实现二级索引,经过讨论,采用了异步读取log,重放客户端行为的方式构建索引,这样可以不牺牲HBase良好的写入性能。最后开发完成了,自测性能也还行,但是没有上线,现在回头看看原因:1.异步索引对业务使用会有一定地变扭;2.修改了HBase的内核逻辑,不利于与社区同步更新;3.客户自己构建索引更灵活。当然,个人在这过程中收获还是不小的,而HBase的二级索引目前社区还是没有计划及进展,在今年的中国HADOOP大会上华为介绍的二级索引实现方案可能是迄今为止我见过最好的,没有实现分布式事务,却保证了原数据与索引数据的强一致性。如果这方案那时就出来了,或许HBase的一大需求现在解决已久,而现在这一需求实现在我们正在开发的新项目wasp中,随之还有SQL、事务特性。

到了10月中,随着异常测试的投入,HBase在稳定性、正确性方面似乎表现得十分脆弱,大量地issue宠幸给了我,这些case的定位及解决之于我都是对HBase的又一层理解。那段时间,我和神秀基本就扑在这些问题上,他主要通过log梳理流程,我主要通过代码找出疑迹,有些bug,几天几周才能触发一次,我们通过想象、推测、debug日志等手段加大bug重现的几率,也开发了一些有用的分析工具,这过程中很大的体会是:1.问题很可能发生在你忽略的代码处;2.概率性问题就是问题;3.原理->现象这是一个理解的过程,现象->原理,这是一个经验累积的过程。

随着对代码理解的加深,我开始尝试选择一个比较重要的patch,提交给开源社区。很幸运地是,社区committer TedYu很快review了issue及patch,提出了意见,反复修改review后,最终第7个版本合并到了社区Trunk中。成功的第一次总是让人兴奋,随着后来在社区提交patch的增多,也感受到了团队内提交patch与社区提交patch的明显不同点:1.团队中的patch更强调逻辑正确性,社区的patch更强调代码规范性、可读性,包括命名、注释、格式等;2.社区patch带单元测试是基本要求;4.社区patch,review很严格,你能从多人多方面获益。

进入2012年后,毕玄开始专职做T4去了,竹庄开始负责整个团队的运营与管理,而我则成为了HBase的主力开发,团队中也新加入了叔宝、天照、慕飒、济万、伏波、一苇,团队规模与业务规模相比1年前已经扩大了很多,内部分工也明确起来,济万、慕飒、伏波着手着NamenodeHA及实时化HDFS,叔宝着手HBase的权限认证、coprocessor研究及产品服务,天照从专职HIVE过来兼顾了Hadoop、HBase、Hive的开发,一苇成为了我们第二位测试。我们渐渐有了完善的版本发布体制,有了值班制度,有了完善的review及pre-commit机制。随之向我咨询的同学变多了,运维及DBA也爱找我了,而我想说的是服务是成长的另一途径,让我对HBase的理解更加全面与深刻,对不足与需求更加清晰。

HBase在公司的快速发展,当然这归功于毕玄、竹庄,促成了我在社区上的积极活跃,提交与合并的patch渐渐变多,也与很多committer,像是Stack、TedYu、ram、larsh等混了眼熟,经过在社区一段时间的交流后,慢慢地学会了如何英语解释、沟通代码上的琐碎细节,慢慢地明白了这个圈子中的短语、术语,慢慢地习惯了被质疑,不再害怕说错观点,而我也开始去质疑别人,在别人的issue上留下自己的声音,当然也给他们纠正过一些错误。记得有一段时间,华为公司的印度人committer Ram,经常会@我,问我有没有碰到过这个issue,或者在我的issue中让我帮看相似的issue。这是一段有意思的经历,和一群相同的人,在社区上讨论着共同的问题,分享着各自的理解,和大学期间水论坛的感觉很像。。。值得一提的是有一个issue,涉及到的事务很多,前前后后总共提交了10多个版本后才合并,原因是总有人能‘挑出刺’,最后结果是那个issue的comments中水了一大坨。

或许会有同学疑问,以后的绩效考核就定发文章、参加会议分享吧。这里我需要解释一下,也给各位工作在开源系统上的一个权衡的建议:1.问题及需求来源于、解决于实际工作本身;2.反馈于社区可以增强patch的健壮性,会有很多人帮你免费review,这是最主要的;3.与同业者的近距离交流能让人成长;4.扩大影响,增强团队的被认可度,维稳在公司的发展;5.适当的放弃,不要浪费口舌在无意义地争议上,所以我有很多patch提交了,但没有被合并。

进入2012下半年,HBase的稳定性与正确性已经可以得到有效保证,除了继续增强外,也开始进行了对HBase的优化工作,像是加快宕机恢复、多线程flush、动态compaction、group sync、lazy seek、coprocessor优化等,比较值得一提的是,从社区移植过来的group sync功能让写的极限TPS提升了100%,这个效果连作者自己都没在issue中提及,而我则是在一次社区代码浏览中意识到这个改动的作用,“Group sync”也是我们起的名字,在很久以后的一次私人邮件中,我向TedYu提及这个特性,他尚不知道。。。动态compaction则让运维人员对系统的控制更加游刃有余,多线程Flush进一步提升了写的性能等等。我们的HBase版本与社区版本保持同步的原则是:1.patch尽量提交给社区,减少同步社区版本时候的工作;2.社区发布大版本的时候,我们维护相应的分支,对于小版本则只选取有用的patch打到我们的版本上。

作为一个初级码农,在这一年的码农工作中,我对自己的一个总结是:1.写代码;2.看代码;3.写让人易懂的代码,而现在及很长一段时间内都会处在第三阶段。

在监控系统上,团队新来了专职的前端人员,重构了前端,添加了更加丰富的数据展现,而我也改进了后端,使得更加高效、可靠,依赖于监控之上的报警系统也有了,成为团队内外的常用系统,用于监控、报表、账单、趋势对比等。

到了10月份,我们启动了新项目Wasp(阿里megastore)的开发,而自己又在HBase上做两个比较大的改动,一个是在线Merge,另一个是HBase对于大内存的管理BucketCache,再加上日常事务,有这么一个月多在社区上一直做着潜水者。直到12月中,我将这两patch提交给社区后,Ram迅速地回应“So you are back with a bang”,真是令人怀念的开心哈。。。

在2012年的尾声,很荣幸地收到了Stack的committer邀请,这对个人及团队都是一次很大的认可与鼓舞,或许会有人关心如何成为committer的,这个是由社区的HBase项目委员会投票决定的,而推荐及候选我就不得而知了。

路还很长,祝愿我和我的伙伴们在新的一年继续乘风破浪,愿每一个同学都能在自己的目标上前进。。

岁月静好,学着变老,健康生活,绿色工作。

已有0人赞过

+1赞

认真评论的都成大咖了

还可输入1000个字

我要评论 我要评论
  • 刚刚
  • 登录优界网 ×