揭开京东11.11技术“高压快跑”之谜
- 发布时间:2014-11-21 16:51:00 来源:中国经济网 责任编辑:罗伯特
刚结束的11.11电商大节在消费者大呼过瘾的同时,也让各大电商网站的技术部门倍感“压力山大”。以京东为例,其当日订单量超过1400万单,是去年同期的2.2倍。高于平日数倍的访问量、秒杀等特殊业务带来的爆发式流量对网站交易的软硬件系统是个巨大的挑战。
消费者们在电商网站抢购时的购物体验如何?现在答案来了:在第三方机构“云智慧”的测评中,京东以11.11期间网站平均响应时间289.04ms的成绩名列前茅,比天猫快15%;在Raincent的监测中,京东的网站速度位列亚军,比天猫快了1倍多,首屏时间等数据也相当突出,被评价为“用户体验优秀,网站性能非常好”。
在11.11的抢购中,消费者最怕的就是购物流程“卡”,眼睁睁看着限量的爆款商品离自己而去,消费者肯定会暗暗问候网站的技术后台。消费者嘴中简单的“不卡”,对于京东的技术部门的挑战则是一系列复杂的系统问题,团队的应急预案执行,入口流量的灾备,机房内部流量分配,软件架构设计,硬件机器负载等都是必须考虑的因素。京东为何能够在高压下“快”跑?就让记者带您看看这背后的技术秘密。
揭秘京东“快”跑原因之一:投入2个营“特种部队”
“京东的特色在于拥有进销存的完整电商产业链,因此我们的技术系统复杂程度也要远远高于那些只做销售的友商。”谈到11.11的战况,京东集团副总裁、11.11技术总指挥马松说:“11.11京东交出了一张出色的答卷,其中技术体系表现出色,各种应急预案及时奏效,让消费者拥有了平稳顺畅的购物体验。”
看似平淡的话语,背后则是京东技术人为此投入的巨大精力。在11.11中,京东参与备战的多达15个一级部门,635名备战研发人员组成了121个小组,相当于两个营的兵力,可以随时随地投入战斗。11月1日开始京东技术平台正式进入24小时值守的备战状态,11月9日到12日,160名京东技术人奋战在指挥中心,进行最高级别的监控和运营。
“为了保证消费者的购物体验,出色的应用架构、完备的应急预案是一方面,技术人员的素质和水平也相当关键。”马松说。他背后的两个营可谓京东技术“特种部队”,这些技术人都是各个部门的领头人,而且此前经历了100多次压力测试,对线上系统非常熟悉,心理素质过硬,完全把控住11.11的各种突发情况。
揭秘京东“快”跑原因之二:最多60秒干掉“慢”体验
在京东技术人看来,即使在11.11这种特殊时刻,也不能影响消费者的购物体验。马松在备战期间一再要求:“所有的系统都必须有切换预案,所有切换都必须在60秒内完成。”一旦遇到难以应对的流量压力,京东会通过分流、降级、限流等一系列手段保证消费者的交易流程不被阻碍。
“即使出现数据中心断网、应用服务器故障等极端问题,京东的系统也会在60秒内完成灾备切换,保障用户的购物体验。”京东应用架构师吴元清说。这也意味着,京东最多60秒就能干掉“慢体验”。为此,京东制定了多达1000多个0级应用的应急预案,一旦系统有风吹草动就会迅速执行,消费者几乎感觉不到发生在技术后台的激烈战斗。
为了应对11.11,京东不仅全面进行带宽、数据库的扩容,更准备了2000台备战服务器,通过京东技术系统出色的水平扩展能力,“瞬间移动”到需要后备队的战场,保障消费者的购物体验够“快”。
揭秘京东“快”跑原因之三:养兵千日 用兵一时
11.11或6.18当天电商网站的流量特点非常鲜明,各系统的流量增长不均衡,时间点不固定,有些系统增长数倍,有些系统则增长数十倍。这对技术平台的考验关键在于能否根据不同的业务和流量设计合理的架构和预案,在不影响消费者体验的前提下,保证交易的正常进行。
马松告诉记者,京东的交易系统按照分流,降级和限流3种方式来应对突发的流量。在突发流量前面,通过智能算法把用户的请求分流到多个集群上,每个集群有强大的计算能力保证用户的购物体验。
万一出现个别集群无法高质量的为用户提供服务时,京东技术平台会按照业务优先级的不同对非关键业务进行降级处理。例如,首页、商品详情页、搜索、交易流程是直接影响购物体验的系统,会排在第一优先级;支付、履约(下发订单到库房等)等等即使稍有延时也不会明确影响消费者体验,则会减少资源占用;一些非关键业务,例如购物车中的库存状态则可能被暂时屏蔽。
这种可靠实用的突发流量应急体系背后,是京东一直以来严谨而前瞻的架构设计,使得系统可以在瞬间完成降级、限流等措施,让消费者在购物时不会感到卡顿。吴元清说:“通过平台化、核心业务/非核心业务分离、不同类型业务类型隔离、主辅流程区分等原则,京东的技术平台从骨子里就具备了出色的抗压性能,足以应对11.11的巨大流量压力。”
通过以上揭秘,相信您会有这样一个感触,“台上一分钟,台下十年功”。的确,在11.11京东消费者海量订单和满满的购物袋背后,不是某一项天外飞仙的特殊技术,而是京东技术人日积月累的不懈努力,是扎实的技术内功和对消费者体验宗教般的信仰。正如马松所言,“不论是11.11还是6.18,价格可以打折,消费者体验不能打折。京东将通过一切技术手段、不惜一切代价,保证消费者购物体验。”