11 月11日,从一个被调侃的“光棍节”成为中国电子商务行业乃至全球关注的年度盛事,只用了短短五年时间。眼下距离2014年“双十一”购物节还有不到一周的时间。各大电商的广告大战早已拉开,摩拳擦掌,早早做好了筹备部署。卖家们已开始备货,制定“双十一”活动战略,打算在活动期间猛赚一笔。快递公司提前 “招兵买马”,备足人手,就等“双十一”的到来。网购达人们也开始搜罗各电商的折扣和优惠信息,抱着“剁手”的风险准备猛淘一下。
马云曾说:“2014年的双十一淘宝要突破500亿。”据相关分析师预测,2014年天猫淘宝“双十一”销售额将达到600亿元。不用惊讶,600亿元也许真的算不上天文数字。2013年11月11日,淘宝创下的一个个神奇瞬间就是印证——零点开锣,6分零7秒交额超10亿,38分零5秒超50亿,8小时 42分突破121亿,13小时零4分突破200亿,21小时19分突破300亿……这一天,淘宝交易额达350.19亿,比2012年的191亿增加了 83%。共成交1.71亿笔,产生1.67亿只包裹。
面对这些不知道多少个零的神奇数字,面对马云给2014“双十一”的豪言壮语,淘宝IT工程师们则胸有成竹。原因在于,拥有逾5亿的注册用户,数百万的卖家,多如繁星的商品,淘宝辉煌的背后有一套几亿用户并发可用、访问高峰持续可靠、适应业务快速扩展的应用交付系统。它可以力挺淘宝轻松面对海量并发、海量数据读写、分散交易、银行同步结算及业务高速发展等苛刻挑战。对于这套应用交付系统,淘宝网运维总监曹益峰评价:“A10 Networks ADC给我们留下了深刻印象,相比较已有的负载均衡解决方案,它在4层和7层均表现出更佳的处理能力。这允许我们可以用两台A10 Networks ADC换掉4台旧机,提高运作效率。其不仅在性能上能满足我们的业务需求,而且在稳定性、可扩展性方面都到了很高的水平。使用AX系列后,我们不仅可以让每一位淘宝用户有更好的访问体验,而且还降低了我们每笔交易的总成本,从而保障了我们业务的更高速发展。”
背后的秘密:吞吐量、每秒新建连接能力、并发连接数,一个也不能少
众所周知,对于大规模访问量来说,无论多么高性能的单台服务器都不可能应付,必须部署多台服务器并进行应用交付。对于服务器和ADC这一类与应用有关的设备,其性能和负载的消耗主要表现在3个方面:吞吐量、每秒新建连接能力和并发连接数。得益于优秀的ACOS架构,A10 Networks产品在性能上拥有先天优势:160Gbps吞吐量、710万每秒新建连接数、2.56亿并发连接数,这些傲骄的性能数据就是A10 Networks受到众多巨型数据流量企业青睐的原因。
ADC 设备部署必须要根据客户系统的访问特点进行配置,不能只是简单的轮询分发。一般来说,完成负载均衡配置之后,由于流量被分担,客户会立刻看到系统的改善效果,比如访问速度明显提升、服务器大幅降低。但当A10 Networks在淘宝进行部署时就发现,如果只是简单开启负载均衡,系统改善效果并不明显。究其原因,问题则出在连接数上。淘宝页面上图片较多,每个图片都需要一个连接来取回,也就是说打开一个页面时就会建立几十个连接。如果一万个人同时访问这个页面,服务器的交互压力就是每秒要处理几十万个新连接。因此,这些访问流量虽然负载均衡给了多台服务器,但从连接数来看,每台服务器承担的压力还是超出了其处理能力。
A10 Networks连接复用技术可以很好的解决这个问题,即将A10 Networks ADC与服务器之间的连接由短连接变为动态维护的长连接,大大降低了服务器端的交互压力。为了更好的管理服务器端压力,A10 Networks还为客户设计过一个排队系统,该系统一旦检测到服务器正在处理的连接数已达到上限,就会将后续访问纳入等待队列,待服务器资源空闲出来时再引导访问,提升了客户整套应用系统的可靠性。