《决战618:探秘京东技术取胜之道(全彩)》_sample


. . 、、d 用东 京东商业技术丛书 探秘京东技术 取胜之道 京东集团 618 作战指挥中心编著 帘子王营自己版祉· Publishing House ofElec位onics Indus位y 北 京 •BEIJING . . 、、,, 南京 京东商业技术丛书 内容简介 本书以京东技术团队备战 618 为主线,集合京东数百位技术专家,对京东所有和 618 相关的关键 技术系统进行了一次全面的梳理和总结,是京东技术体系的智慧结晶 。 本书从前端的网站、移动入口到后端的结算、履约 、 物流 、 供应链等体系,系统展示了京东最新 的技术成就 。 同时,也涵盖了京东正在充分运用大数据、人工智能等先进技术对所有技术体系架构进 行整体改造,使其始终保障技术的先进性的方法,以及京东对未来科技发展的积极探索和展望 。 618 盛况往往意味着汹涌的流量洪峰,京东技术团队如何保证其背后庞杂系统的安全 、 可靠与稳 定,如何确保系统的高可用性、高并发性、高可扩展性,如果您对此有兴趣,请随本书 一 探究竟吧! 本书可供广大互联网技术人员和商业从业者阅读,也可供科研人员和高校相关专业的师生参考 。 未经许可,不得以任何方式复制或抄袭本书之部分或全部内容 。 版权所有,侵权必究 。 图书在版编自( CIP )数据 决战 618 :探秘京东技术取胜之道/京东集团 618 作战指挥中心编著. 北京:电子工业出版社, 2017.11 (京东商业技术丛书) ISBN 978-7-121-32730-8 I. ①决… JI. ①京… 皿 . ①电子商务-网站·应用程序-程序设计 N ( F713.361.2( TP393.092 中国版本图书馆 CIP数据核字( 2017 )第 230974 号 策划编辑:孙学瑛康旭宋亚东 责任编辑:孙学瑛 印 刷:北京捷迅佳彩印刷有限公司 装 订:北京捷迅佳影印刷有限公司 出版发行:电子工业出版社 北京市海淀区万寿路 173 信箱 邮编 : 100036 开 本: 787 × 1092 1/16 印张: 21.75 字数: 543 千字 版 次: 2017 年 11 月第 1 版 印 次: 2017 年 11 月第 1 次印刷 定价: 99.00元 凡所购买电子工业出版社图书有缺损问题,请向购买书店调换 。 若书店售缺,请与本社发行部联 系,联系及邮购电话: ( 010) 88254888, 88258888 。 质量投诉请发邮件至 zlts@phei.com.cn ,盗版侵权举报请发邮件至 dbqq@phei.com.cn 。 本书咨询联系方式: 010-51260888-819, faq@phei . com . cn 。 编 A "ZX' ........ 委 特邀顾问 京东集团 CTO 张晨 京东集团副总裁(按姓氏拼音排序) 曹鹏 Eric Zhao 何刚黎科峰梁勇鸿刘软 Tony Lee 翁志肖军 许凌于永利 颜伟鹏 主编 马松 副主编 杨佼妓王先科杨庆广贺津朝 编委会委员 (按姓氏拼音排序) 白圣培白贤锋董钊范超高纬韩笑跃黄燃胡景贺李星毅李峰 李轶林世洪刘海锋刘刚王梓晨王海旭肖军超余文虎赵湘建张卉 特别感谢 (按姓氏拼音排序) 程岩陈伟付彩宝何方贾东胜李仑李运鹏李军亮刘晖刘会 刘彦伟钱主景尚鑫王彪王晓钟王晓烽王大泳王彦明吴边谢翔 熊健南熊道辉杨坤杨喧杨静杨超戚志者文明朱艳泼搜索深 圳团队 . . 、‘” -回 南京决战 618 : 探密京东技术取胜之道 参编 (按姓氏拼音排序) 安博文安宁安培安涛包勇军鲍永成一F 祥蔡想陈保安陈诚 陈洪涛陈磊陈龙陈璐陈乾龙陈全峰陈英杰陈月华陈中兵程晓磊 邓泼邓聪董浩董鲁北杜亮杜庆鸿杜晓玉樊建刚冯成冯春宇 冯捷春冯军冯俊杰冯亮冯卒盖美红高飞 高约耿爽宫敬财 龚雪平关攀攀郭凝郭文涛郭欣郭鑫郭玉锐郭智林韩嘉星韩贞阳 何红伟何文斌何晓强贺松林贺占领贺长荣赫南赫阳胡宝彬胡峰 胡浩胡伟息克然花瑛华家乐黄嘉黄明源黄平黄伟黄肖明 黄小斌黄轩季健贾瑞卿江军江雪姜友德、蒋位涛蒋玉在祺焦文健 全洪敬疆川 兰华勇 李闯李春光李明璇李东耕李凡李凤娇李冠权 李海龙李慧岩李建奇李金萍李军亮李科君李猛李思倚李晓玲李秀海 李棉翔李瑛李友科李振军李政李尊敬梁洪成梁小平梁晓飞梁增海 廖承廖鹏林金明林伟腾林战刚刘贝贝 刘丹刘广 :应刘建平刘健 刘江斌刘静刘峻桦刘林刘朋飞刘鹏刘文冈刘吓凤刘旭刘亚超 刘或刘诏罗超罗金罗重文马凯马忠、宁马欣梅志文孟娇娇 米中华苗延超莫飘萍聂启忠聂学贤牛红振潘小光彭笔立彭正军钱珠 乔晓强秦徒桦邱俊保邱全涛全金凤任莉强 闵秋胜沈晨沈亮寿如阳 宋磊孙彬孙海滨孙红静苹朝光唐亮滕伟伟屠志强汪宝杰汪摇 王春兰王代起王丰华王海涛王建磊王晶王丽君王利辉王宁王 } I顶达 王涛王威王伟王晓烽王新桥、王雅瑾王先开苹王洋王永王宇注 王禹王玉王治澎王祖文韦仕魏仁言吴定东吴吴挺吴鸥吴桐 吴先远武磊武林息宾夏庆峰夏先刚 向彪肖明昭 肖维肖雄 肖智鹏谢幕邢 it 林徐峰徐奉徐军徐开廷徐梅徐蒜徐凤龙 徐文胜徐新坤徐莹雪许鹏许震薛高飞 薛韬杨超杨大利杨东洋 杨建强杨丽敏杨少利杨 i李森杨震叶长根易重伟阴培培尹德位尤凤凯 于林坤于明辉于给余浩余涎袁建伟咎秀敏张春蕾张冬盟张桥、芳 张海兵张洪光张俊俊张侃张克房张磊张露张启祥张强张树文 张帅张伟张永峰张泽华张子敬赵泼赵宏波赵苗苗赵伟柏赵贤义 赵玉开赵云霄赵紫星者文明周吉鑫周敬岩周琪力周涛周旭周银华 周正周治平朱厚强朱月飞朱志国祝旭晖邹毅 IV 序 T H E W A Y w E w ” .......... 技术引领开创京东新未来 20 才 7年的开年大会,我给所有京东人做了一场不太一样的演讲,主题只有一个一-t.吏术! 从写下京东的第一行代码开始,到看着宫一步步成长为先进技术 、 架构、模式的领先应用番,京 东技术的飞跃发展让我感慨万千 。 而京东技术的大考,便是每年一次的“决战6 才 8 ” 。 回首十几年前,京东的 618 都是在焦灼中度过的 。 一方面,我们期待大量的用户能参与到我们的 促销中来 ; 另一方面,我们]又担心网站是否能够承受这样的访问 量 ,是否会言机……而如今, 618 己 从京东店庆日发展成为了一场全民参与的消费狂欢和行业盛会,在 618 作战指挥中心的大屏幕上 , 不 断攀升的曲线,跳跃的数字 , 都让我们充满信心和自豪感 。 这是所高京东技术人打造的硬实力, 《决战 618 :探秘京东技术取胜之道》正是对于京东过去 十三年间技术整体发展的总结和盘点,代表了京东已经达到的出色技术成就 。 着眼未来,时代正在发生剧烈的变化,科技的进步速度会越来越快,科技对人类 、 对企业产生的 影响将超过过去才 00 年,科技对我们每一个人 、 每家公司、每个企业,甚至学校 、 非政府组织,都会 带来巨大的改变 。 但 零售的本质从未发生改变一一依旧是成本、效率和用户体验 1 未来,京东将全面地向技术转 型 , 让技术从被动应对变为主动引领,持续优化成本 、 效率和用户体验,打造一个包括智能商业 、 智 能金融 、 智能保险业务在内,全球领先的智能商业体 。 此前,我们用了很长时间让大家认向京东是一家非常成功的零售公司,我坚信,接下来我们会用 同样长甚至更短的时间,让大家认同京东是一家非常成功的技术公司。创新一直都是京东人弥足珍贵 的晶质和锐意进取的动力 。 公司也将从文化重塑、组织结构、 j鼓励方式等方面寻求巨大的改变,给予 ’创新以包窑和试锚,保障技术转型的全面落地 。 . . 、- 京东决战 618 : 探密京东技术取胜之道 T ” E w A y w E w N 我期待京东的技术团队在未来京东全面的转型之中,不仅要继续对京东业务发展提供强有力的技 术支撑, 还要通过技术创新相对未来技术发展方向的洞察 , 让京东始终站在行业的制高点 , 通过技术 创新产生新的价值 。 同时 , 京东的技术也会更全面开放赋能 , 让更多企业从中受益 , 从而推动整个经 济的发展 。 京东研发的兄弟们,你们一定可以做到 1 刘强东 京东集团董事局主席兼首席执行官 VI 序 T ” E W A Y w E w ” ·田…… .......... 决战 618 背后的技术实质,是未来的人工智能 提到 618 ,消费者会想到大量的促销,琳琅满目的商昂,对于技术人,则会立刻联想到海量访问 和订单,以及对整个系统的压力。当这本样书送到我的手中时,我第一个想法就是一一这一定是本 涵盖各种高抗压架构、应急预案管理的“ IT 书”;但仔细读下来,我却欣喜地看到大量人工智能的应 用 。在 “决战 618 ”背后的关键技术中,是未来的人工智能。 人工智能无疑是当前最为热门的技术方向,在一些领域取得了初步的成就。而人工智能应用要想 更快速地发展,则需要依赖于大数据的收集、挖掘和应用 。 京东作为中国线上结下最大的零售商,完 整覆盖从采购、售卖到配送、害服等全电商流程,拥有中国电商领域最完整、最精;雀、价值链最长的 数据 , 为人工智能的充分实践提供了丰富的数据基础。这些数据为京东发展人工智能的应用提供了肥 沃的土壤 。 墓于这样的数据, 人工智能可以用来分析用户需求,进行自动定价,自动补货,可以支 持无人仓储,也可以利用无人车和无人机送货。在书中,我们可以看到京东通过人工智能的研发与实 践也在不断地推动着电商的革新 。 例如,在图像识别、语音识别方面,商业上已经离了很多很好的应用案例,今天我们都是这些应 用的享用者及受益者 。拿京东的 JIMI 入工智能客服机器人来说,莫在机器学习、深度神经网络、知识 圄 i普构建、自然语言处理方面均萄较深的研究和台享,这一部分内窑在本书第 5.3 节中有很好的梳理 和分享 。 但是同时我们也在思考,这些人工智能的成就到底得益于哪些条件呢?为什么这些成就在十年或 者二十年以前却没离出现呢?如何能够去预测一项人工智能技术,是不是能够产生芭F用页期的作用? 仔细读这本书,会发现问题迎刃而解。读下来,你会发现,书中各个章节的分享都离不开人工 智能的技术,如智慧供应链通过大数据分析与深度学习建模,从提供给京东采销内部使用到现在成为 开放给外部供应商的墓础设施;不同于传统的人工智能项目中对于广告的玩法 、 面对个性化的推荐应 用 , 京东如何对复杂问题提取特征,建模和高效训练,做到在很短的时间内对每一次广告、推荐请求 . . 、~ 京东决战 618 : 探密京东技术取胜之道 VIII T ” E w A y w E w N 作出毫秒级预估服务 。 可以看到,这些都是墓于京东清晰的商业模式需求 、 高质量反憬的大数据、清 晰的问题定义和使用领域边界,以及擅长算法的、跨界的人工智能人才 。 而更让我兴奋的是 , 以 618 为代表的大 量应用场景和运营产生了大量 的精准数据积累,也为人工智能的应用铺平了道路 。 从人工智能的长远发展来看,我一直觉得墓于实验室的研究工作和接触大规模复杂的工业问题是 不可分割的 。 在人工智能的研究中 , 在实验室工作 、 参加学术会议或者拜访一些其他的实验室,可以 关注整个业界的最新发展;而在工业界,可以大规模地利用人工智能来解决实际应用上的痛点问题 。 这本书告诉你 , 京东,是工业界人工智能应用的一个典范,通i卖此书,想必会受益颇多 。 杨强 香港科技大学计算机系主任及大数据研究院院长、教授 序 T ” E w A y w E w N ........ ...... .......... 618 ,打晌技术攻坚战 京东618始于京东的店庆日,现在旱己演变成为全民参与的网购狂欢节。 2017年6月 18 日,当京 东总部的618战报大屏定格在“当前累计下单金额 1199亿元”时,欢呼声、掌声响彻整个作战指挥 室 。 在成绩背后,充分体现出京东的技术硬能力 。 对于京东技术人来讲,每一年的618都是一场巨大的 考验,而在这样一个考验面前,从来京归之允许失败。 作为京东商城研发体系的负责人 , 2012年临危受命,成为京东618的技术总指挥,在此后5年中, 我带领技术团队 , 发起了一场又一场技术攻坚战 , 见证了京东618如何促进技术发展 、 推动技术创新 、 航b团队协作 。 作为技术老兵,我想、告诉大家 , 京剧恼不只是一次购物节,更是一场战斗,一场弥漫 着你闹不到硝烟的战斗 。 2012年6月 18 日,随着业务的高速发展 , 京东的订单量骤增 。 当时的内部业务支撑系统已经达到 上干个,作为一个靠快速迭代出来的系统,我们的系统架构 、 服务框架 、 质量控制体系等都没有做好 准备 。 618当天,在面对瞬时访问峰僵骤增的情况下,一些系统的服务质量严重下降,导致POP商家 看不到新的订单信息,造成商家无法履约等严重问题 。 架构升级迫在眉睫,统筹规划也势在也ifi-, 618技术团队开启系统升级、团队协作的作战之路,系 统每年都有更新 、 演变 。 2013年,京东的交易系统开启了去Oracle 、 去SQL Serve厅7动,减少对商 业数据库的依赖,引入开源可控的数据库,提升系统的稳定性;自主研发JFS 、 JMDB 、 JMQ 、 JSF 等中间件和分布式存储系统,支撑全京东的无数业务 。 20 才 4年,建设指挥中心大屏,实现对核心销 售、安全监控、性能监控、京东直播、运营生产等全面监控; 20 才 5年,完成多中心交易项目,交易数 据的多中心化,大规模Docke「化部署,极大提升了资源利用率和生产效率; 2016年,率先引入了“对 抗军演”,通过模拟故障制造和故障恢复,极大地检验了故障预案可行性,考验团队处理随机事件的 响应能力 。 20 才 7年,数据驱动备战,技术改变生活,为京东第四次零售革命奠定坚实的技术基础 。 通 过前期的不懈努力, 2015军后,创 8己变成技术团队对京东业务、对供应商 、 对商家、对用户展示技 . . 、- 育专东决战 618 :探密京东技术取胜之道 T ” E w 术硬实力的舞台 。 A y w E w I N 618 从不是一个人 、 一个团队 、 一个部门在战斗,而是所高的京东人都在参与,是一场需要多兵种 协同作战的战斗。在 2017 年的开年大会上,京东集团董事局主席兼首席执行官刘强东先生为京东未来 才 2年的发展奠定了基调, “ 技术 、 技术 、 技术”,京东未来将是一家技术公司,一家依靠技术创新进 行商业发展的公司 。 同时,第四次零售革命的到来,给我们带来了机遇,也带来了全新的未知挑战 。 因此,打造一个懂得协同 、 能打硬仗的团队已经成为我们首要的任务 , 相信在不久的将来,大家会看 到这个变化 。 本书全面、害x.®也描述了京东时 8技术演进之路,从产晶声见划、技术实现的不同维度,阐述了各个 系统的发展之路 。 不管是产晶经理、程序员 、 测试工程师,还是网店店主 、 E联网真他从业人员等 , 都能找到自己感兴趣的内窑 。 阅读这本书,感觉又回到了那个熟悉的指挥中心 。 展示着战报的实时大屏,屏幕上跳动的数字 , 一起熬夜备战的兄弟们……一切都历历在目 。 在此,谢谢所有参与本书创作的同学们,是你们让京东 时 8 以另外一种方式呈现在读者面前,让读者重新认识了京东时 8 ,重新认识了京东技术人 。 马松 京东集团高级副总裁 × 目 UE -一一同 过去 , 技术通常被看做是一切业务的基础,是支持业务发展的动力之一 。 通过技术可以把传统的 业务流程数字化 、 信息化,让业务人员从事更具决策性或创造性的任务 , 所以技术常常被看作是一种 工具 。 但是 , 随着人工智能 、 大数据 、 云计算的高速发展 , 大企业逐渐意识到技术不仅仅是工具 , 芭 可以驱动公司业务增长 、 提升用户体验 、 产生越来越多的创新力 。 特别是在亘联网经济带来的天翻地 覆 的变革中 , 人们深刻感受到技术无疑是这次变革背后最大的推动力,企业要进一步发展 , 必须依靠 技术领先与技术创新 。 因此 , 技术已成为各大亘联网公司的必争之地 。 w E w y A w E ” T 作为这次E 联网变革中的参与者与受益者 , 京东通过技术创新 , 在成本 、 效率 、 用户体验三大维 度上取得了巨大成功 。 京东已由传统电商企业转变为一家以技术创新去改变传统零售、传统物流、传 统金融乃至一切与用户体验相关的公司 。 在京东一次次地刷新 618 创造的天量交易额的同时,外界一次 次为之震惊赞叹 。 众所周知,当企业的业务量 达到一定规模,同时对发展速度有非常高的要求时 , 技 术如何满足业务需求将会变为巨大的挑战 。 特别是像京东这样体量 的 E联网平台 , 在618 期间面临的技 术压力在整个 IT 技术领域也是比较罕见的 。 人们不禁想问,京东是如何做到的?为了与广大技术人员 分享京东人在创 8备战中所做的技术保障工作以及积累的实践经验,推动行业技术进步,我们恃推出此 书 。 本书是众多一线技术人员的智慧结晶,是无数团队历次攻坚克难的经验总结,更是所高参与备战 的项目组人员的全面回顾与理性思考 。 本书基本囊括了京东所有的技术体系 , 是对业务保障方面技术 的全面梳理 , 特别分享了京东在弹性云 、 多中心交易 、 高可用架构 、 平台化、风控系统等领域的实践 经验 。 读者从中可以体会到 , 618 的出色表现既得益于京东坚实的基础架构 、 稳妥的应急预案、成熟的 调度指挥,又得益于先进的人工智能技术 。 本书内窑是理论与实战相结合 , 涉及的知识点较多 、 信息量 较大 , 读者可以国顺序阅读每部分, 也可以从中选取自己关心或感兴趣的章节阅读 。 . 、』, 京东决战618 : 探密京东技术取胜之道 ×川 T ” E w A y w E w N 感谢所有为本书做出贡献的京东研发、公关、图书等部门的同事。正是你们的全力支持和理解, 利用节假日军日休息时间加班加点写作、修改,本书才得以段时完成撰写与出版。本书整个的写作与出 版过程也再次体现了京东人的高效和协作精神。同时,也特别感谢电子工业出版社博文视点的编辑 们,正是你们的全力支挥手口配合,才得以让本书在不到两个月的时间出版。正是通过我们双方的努 力,共同创造了出版奇迹。 由于时间仓促,书中难免高疏漏之处,敬请广大读者批评指正! 读者服务 轻松注册成为博文视点社区用户( www.broadview.com.cn) , 1$. 即可 享受以下服务: 提交勘i吴. 1制书中内容的修改意见可在[提交勘吴]地跤,若被架内, 1锅菜型骨尊文视棉土囚用土(面额每买电子书时,积分可用剩阳卧目应金额)。 与作者交流 : 在页面下万[读者评论]处留下您的疑问或观点,与作者 和其他读者一同学习交流。 页面入口. http :/,灿灿灿/ .b 「oadview.com.cn/32730 著者 目录 第 1 章京东 618 前世今生 1.1 京东 618 研发奋战之路 12 1.1.1 发韧之始( 1998-2003 年) I 2 1.1.2 奠墓之初( 2004-2009 军) I 3 1.1.3 收获之期( 2010-2016 年) I 3 1.1.4 未来己来( 2017 年以后) I 5 1.2 京东 618 技术备战概览 16 1.2.1 技术备战工作重点 16 1.2.2 技术备战利器 17 第 2 章万亿交易一一丝滑平!||页,坚如磐石 19 2.1 永不消失的同站/ 10 2.1.1 酋页优化之路 I 10 2.1.2 商局详情页的架向变迁/ 12 2.1.3 分类列表探索之路/ 14 2.1.4 网站监控/ 16 2.2 交易平台/ 17 2.2.1 交易平台技术演进/ 18 2.2.2 交易平台架构揭秘 I 21 2.2.3 商昂评价系统 I 24 2.2.4 质量控制 I 28 2.3 京东支付一一更值撞,重省钱/ 31 2.3.1 移动支付 I 32 2.3.2 交易系统 I 33 2.3.3 自动网关 I 36 2.3.4 智能决策 I 38 2.3.5 支付未来 I 41 . . 、- 南京决战618 : 探密京东技术取胜之道 × |\/ 2.4 白条业务一一先消费,后付款/ 42 2.4.1 智能摆信 I 42 2.4.2 便捷交易 I 45 2.4.3 臼条精细化营销 I 47 第 3 章移动互联一一便捷个性,体验至上 I 51 3.1 超级流量入口一-App/52 3.1.1 墓础服务 I 52 3.1.2 技术支持 I 54 3.1.3 遇天塔 I 57 3.1.4 秒杀系统 I 59 3.1.5 M 站 I 61 3.1.6 核心流程 I 62 3.2 渠道引流横武器一一辙信手 Q 购物/ 67 3.2.1 业务支撑修炼之道 I 67 3.2.2 技术运营发展之路 173 第 4 章基础保障一一-坚实高效,安全稳固 I 81 4.1 基础架构/ 82 4.1.1 窑器集群 I 82 4.1.2 数据库 I 85 4.1.3 中间件 I 87 4.1.4 智能运维 I 93 4.1.5 异地多活 I 97 4.2 天同系统一一商城凤控/ 100 4.2.1 发展历程 I 101 4.2.2 天网重点业务 I 101 4.2.3 天网系统架构 I 102 4.3 流量支撑平台/ 106 4.3.1 稳定压倒一切 I 106 目录 4.3.2 基础网络 I 107 4.3.3 京东高可用前端接入系统 JFE/110 4.3.4 京东 CON I 113 4.3.5 陆攻击系统 I 115 4.4 皮刷单一一为京东交易生态保驾妒航/ 118 4.4.1 反刷单系统架构/ 119 4.4.2 特征工厂 I 119 4.4.3 决策引擎/ 120 4.4.4 下游管控/ 120 4.5 信息安全一一重于泰山/ 121 4.5.1 筑起安全的妖城/ 12 才 4.5.2 来自攻防第一线的博弈 I 125 4.5.3 全民保障 618 I 128 4.6 揭秘京东大促数据屏墙/ 130 4.6.1 系统概述/ 130 4.6.2 系统实现 I 131 4.6.3 系统价值/ 134 第 5 章智能履约一一瞬息万里,使命必达 I 135 5.1 智慧供应链/ 136 5.1.1 智慧、库存/ 136 5.1.2 深度协同/ 140 5.1.3 智慧、定价/ 145 5.1.4 智慧展约/ 148 5.1.5 618 系统质量保障 I 154 5.2 智慧栩流/ 155 5.2.1 精准履约与运营数据服务 I 155 5.2.2 智慧仓储 I 161 5.2.3 智能配送 I 165 5.2.4 无人机、无人辛辛日无人仓/ 174 5.3 智能害服/ 181 5.3.1 咚咚和 JIMI 历史演进 I 181 5.3.2 产晶形态与业务模式/才 82 ×v . 、』, 京东决战618 : 探吕京东技术取胜之道 ×VI 5.3.3 京东咚咚和 JIMI 架构体系 I 183 5.4 智能财务/ 187 5.4.1 结算的秘密 I 187 5.4.2 你下单我算账,你不知道的来龙去脉/ 193 5.4.3 税控背后的故事 I 201 5.4.4 智能资金筐控 I 205 第 6 章赋能商家一一生态共享,虚拟征程/ 209 6.1 开放平台营销系统/ 210 6.1 .1 促销系统 I 210 6.1.2 订单系统 12 什 6.1.3 结算系统 I 213 6.1.4 商家系统 I 215 6.2 生态系统,保驾妒航/ 219 6.2.1 京盾系统 I 219 6.2.2 正阳门系统 I 221 6.2.3 星盘系统 I 223 6.2.4 商智 I 225 6.2.5 京麦 I 229 6.3 虚拟平台的 618 征程/ 231 6.3.1 智能调度出口流量平台 I 231 6.3.2 虚拟业务黄金交易流程 I 233 6.3.3 京东户簿建设之路 I 236 6.3.4 虚拟业务的凤控挑战 I 239 6.3.5 虚拟业务全渠道推进 I 241 6.3.6 质量保障与实战方案 I 243 6.4 创新业务/ 246 6.4.1 京东的“海外丝绸之路” I 246 6.4.2 营销产晶技术的变革 I 249 6.4.3 京东 B2B 征程 I 254 6.4.4 重点创新电商业务 I 257 目录 第 7 章 智慧营销一一知你所想,予你所求 I 263 7 .1 智 慧营销 I 264 7 . 1 . 1 智 慧 营销平台的前世今生 I 264 7 . 1.2 促销 t 十二变 I 266 7 . 1 .3 优 惠 券三十六计 I 268 7 . 1.4 购物助手 I 269 7 . 1 .5 智 慧、 营销生态化 I 271 7.2 智能广告 I 273 7 . 2 . 才 原生广告 I 273 7.2.2 站外流 量 赋能商家 I 276 7 .2 .3 PIN O 人工智能 I 277 7 .2.4 反作弊系统 I 278 7.3 精准搜索 I 281 7.3. 才 搜 索 架构演进 I 282 7.3 .2 分布式搜索引擎 I 283 7 .3 .3 数据索召 I I 284 7 . 3.4 搜索系统的 D e vO ps 之路 I 285 7.4 智能推荐/ 287 7.4 . 1 推荐产品 I 287 7.4 .2 推荐系统架啕 I 288 7.4 .3 数据平台 I 290 7.4.4 关 键技术 I 291 7.5 玩转大数据/ 296 7 .5 . 1 大数据综述 I 296 7.5 . 2 技术平台 I 297 7.5.3 数据仓库 I 303 7.5.4 数据应用 I 307 × VII . 、』, 京东决战 618 : 探密京东技术取胜之道 第 8 章项目管理一一运筹帷眶,万众一心 I 313 8.1 618 项目管理挑战/ 314 8.1.1 项目管理的难度 I 314 8.1 .2 项目经理能力要求 I 315 8.1 .3 618 项目经理需要承担的角色 I 316 8.2 6 丁 8 项目管理实践/ 316 8.2 . 1 启动阶段 I 316 8 .2 .2 规划阶段 I 317 8.2.3 执行阶段 I 319 8.2.4 监控阶段 I 325 8.2.5 收尾阶段 I 326 8.3 顶目成果/ 326 参考文献 I 329 × VIII . . 、- 育专月号决战 618 : 探密京东技术取胜之道 1.1 京东 618 研发奋战之路 6 月 18 日,这是一年 365 天中一个普普通通的日子,既不是中国传统节日,也不是重要 纪念日,但它又是不平凡的一天 。 到了这一天,会有成千上万的人紧盯屏幕,面带笑容, 看着自己心仪的商品,开始购物之旅! 让 6 月 18 日从普通的一天变成一个充满魔力的“全民年中购物节”,是京东坚守了十多 年的正道成功的核,心成果 。 翻开京东的历史, 618 大促(以下简称 618 )的概念缘起于京东的店庆日,随着中国电 子商务的发展经历了不同的历史阶段 。 由早期的京东红六月促销季到 618 京东购物 Pa 町,再 到京东 618 品质狂欢节,最后发展为深入人心、备受消费者期待的年中购物盛宴 。 相对于传统的商业业态,电子商务是基于线上服务进行的,自然需要现代 IT 技术的支 持, 618 也不例外 。 在人们狂热购物之后,天量交易产生的流量洪峰给京东系统带来巨大的冲击 。 为了保 证良好的用户体验,由数千位京东研发人员日日夜夜坚守和 一 以贯之的偏执构筑了 一 道道 坚实的防洪堤坝 。 怎么让数以亿计的用户在这一天顺畅、快乐地享受购物乐趣,让用户不论使用 PC 、手 机还是任何其他终端设备都能够顺利地购买到自己心仪的商品呢?这对于任何技术团队来 说都是一个严峻的挑战 。 1 1.1.1 发韧之始( 1998-2003 年) 1998 年,京东集团创始人,董事局主席兼首席执行官刘强东先生在中关村创办京东公 司,并租用了一个柜台,开始代理销售光磁产品,通过这种方式,他赚取了第一笔财富, 这是京东所有事业的起点 。 当时的中关村是一个鱼龙温杂的电子产品集散地,但刘强东从 一 开始就和别的商家不一样,他坚持卖正品 。 这一时期,也许刘强东本人也想不到,京东会以这么快的速度成长为中国最大的零售 企业和中国收入规模最大的互联网企业,并成功进入世界 500 强 。 彼时的京东只是 一 个线下 的小柜台,和互联网、电子商务没有任何联系 。 不过这一阶段是京东发韧之始,是京东“正道成功”的价值观奠基之期 。 2003 年“非典”爆发,纯正店门可罗雀,大家都闭门不出,更别说出门购买光磁产品 了 。 京东线下店的生意没法做,正在此时,为了生存,刘强东开始尝试在网上卖货,凭借 在线下店积累的正品行货声誉,京东的电商之路开始了试水 。 当时,京东的销售方式就是在一个专业论坛上发布自己售卖的光磁产品,如果有网友 对其感兴趣,就通过论坛联系京东,再向京东汇款购买产品 。 2 这一时期,严格意义上都不能说是电子商务,顶多可以称为线上销售 。 技术支持?没有 。 618 ?没听说过 。 但是,这种粗陋的线上销售模式,让刘强东看到了网络的强大生命力,才有了后来的 第1章京东618前世今生 京东电商公司 。 [ 1~f.2- 奠基之初( 2004-2009年) 2004年 l 月,京东多媒体网jdlaser.com正式开通,淘宝、当当等已经逐渐步入正轨,而 京东才刚刚起步 。 不过,这对京东来说是一个石破天惊的变化,它代表着京东正式向电子 商务转型 。 2004年,京东只有一组简单展示商品的网页,当时技术部门只是四五个人搭建的技术 小组 。 京东的技术平台最初是外购的简单的ASP “个人网站系统”,是作为主要技术人员 的刘强东,和他通过论坛销售光磁产品结识的曹鹏及另一位程序员共同开发的 。 在此阶 段,京东的很多系统是这位社会学专业出身、自学编程的刘强东自己编写出来的 。 当时的网站功能非常简单,用户可以线上下单,但是下单后却需要人工打印订单到仓 库提货 。 这一阶段也有一些促销活动,都是限时特价,准备几个特价商品而己, 618 的概念 也尚未出现 。 2004-2006年,负责京东网站开发和管理的人员不足 5人,所有与系统相关的工作都是 这几个人合力完成的 。 2005 年上半年,刘强东力排众议关闭了线下的 12 家门店,把所有的 资源都投入到了线上 。 随后,网站的销售额以每年200% 的速度增长,到 2007年 6月,网站 日订单量突破了 3000单 。 2007年 8月,京东拿到了第一笔风险投资,企业发展进入了快车道,京东开始大力招募 人才 。 2008年5 月,曾经担任天极网 CTO 的李大学加人京东担任技术负责人 。 经过研究,他 认为现有ASP架构已经难以支持业务发展,于是向 .NET转型 。 2008 年, 618正式推出 。 当时只有 3 个技术人员备战 618 ,实际工作就是值班 。 订单峰值也没有现在这么科学的 评估方法 。 另外,京东还刚刚把网站从ASP架构升级到了 .NET架构,压力非常大,最后好 在整个网站没有着机,经受住了考验 。 当时所谓的 618 ,远没有现在这么多丰富的内容,只是选择一些商品,设定特定的数 量,定时进行秒杀,秒杀开始时间和结束时间都由人工控制,也没有什么反欺诈之类的系统 存在 。 当时的 618 ,不要说和智能相关,简直可以说和技术不相关,全靠“人肉”来处理 。 2008 年 10月,京东上线家电类商品,开始向综合型电商转型 。 和 2008年相比, 2009年的 618 多了一些促销活动,技术部门跟进做了一些设计、开发工 作,不过总体上这个时代的 618还尚在萌芽状态,处于相对粗糙的状态,技术部门还没有备 战的概念 。 11.1.3 收获之期( 2010-2016年) 在 2008 年京东开始从ASP转向 . NET架构之后,新版网站用户体验更好,每日订单量 从几千单增长到十几万单 。 随后,京东又从 .NET架构逐渐转向 Java架构,在经过一段时间 的 .NET和 Java架构并行之后,最终实现了基础 Java 的整体系统架构 。 京东也进入了一个高 速发展阶段, 618 的影响力和订单量呈指数级增长 。 业务量的高速增长对于公司整体来说是 3 . . 、- 南京决战 618 : 探密京芽、技术取胜之道 一件好事,但是对于技术人员来说却面临着巨大的挑战 。 1. 618 订单飞涨,痛井快乐着 2010 年,京东成为国内首家销售额超过 100亿元的网络零售企业 。 京东商城注册用户已 超过 6000 万,遍及全国,人驻供应商近万家 。 在线销售家电 、 数码通信、计算机、家居百 货、服装服饰、母婴、图书、食品等 12 大类,数万种品牌,百万种优质商品 。 2010 年 3 月,由从美国回国不久的京东技术顾问马松担纲,建设 POP (Platform Open Plan )第三方商业平台,彻底改变京东之前全部为自营的经营模式 。 2010 年 12 月开始全面 运营, POP 业务上线后,迅速为京东发展带来了新的驱动力 。 随着京东的不断发展,人们对于京东正品行货的信任和京东高效物流的便捷,让 618 的 流量屡创新高 。 尤其是瞬时流量峰值是惊人的,个别系统能达到平时的几十倍到几百倍 。 在海量的数据及洪水般的流量面前,所有的问题都会被重新定义,任何简单的事情都 会变得复杂 。 从电商的前端网站、订单、结算、支付 、 搜索、推荐,到后端的仓储、配 送、客服 、 售后,以及采销人员使用的各种业务系统都面临前所未有的挑战 。 京东近 7000 个系统,几万个应用,任何一个出现问题,对销售活动的顺利进行,乃至对于京东的整体 品牌建设都会有直接的影响 。 当时,京东的系统还远远谈不上健壮,到了 618 的时候,研发人员有时候就变成了“消 防员” 。一 方面,研发和业务之间存在有效沟通不足问题,不知道公司整体促销方案是什 么样的,流量是从哪儿来的,又要引到哪儿去,哪些环节可能会成为流量集中突发的点 。 只能等着用户和采销人员反馈说哪里不行了,然后研发人员再扑上去看应该怎么处理 。 另 一 方面,当时基础服务很薄弱,没有监控系统可以实时查看系统的性能健康情况 。 即便系 统出了问题,也没有方便快捷的方法来帮助诊断,因此当时能想到的最快的处理方式就是 简单粗暴地重启系统服务 。 2 . 凡事预则立, 618 备战启动 正是由于存在各种各样的问题,从 2013 年开始,京东较为系统地利用项目管理的理 念,并以项目形式推进 618 技术备战 。 2013 年的 618 备战,当时开会、备战都在北辰会议中心的 一 个叫作成都的会议室中进 行,把该会议室作为备战的指挥部 。 这是京东第一次有了集中备战的概念,会议室当时只 能坐 40 多人 。 2013 年 6 月 17 日晚上,会议桌上放了几台台式机,墙边放了两台大电视,没 有 大屏 。 因为 6 月 17 号晚上在成都会议室挤了 50 多人,插座不够,就临时把机房的 一 些 PDU 拿 过来用作插座,结果电量超负荷导致跳闸,最后只能从隔壁扯了 一 根电线接上插线板才勉 强撑过了 618 的凌晨高峰期 。 4 为了保障 618 的顺利进行,在技术层面,首先建立起完善的系统监控系统,其次把以前 忽视的业务基础架构部分补足,然后通过充分的预案来解决出现的问题 。 2014 年 3 月,京东与腾讯开展了战略合作, QQ 网购、拍拍的电商和物流并人京东 。 在 这之后,京东逐渐形成了 PC 、 App 、微信 、 手 Q 四大入口,流量的快速加入加上京东日渐完 善的物流体系,京东发展更为迅猛 。 第1章京东618前世今生 2014年4月 22 日,京东在美国纳斯达克上市,是中国首个在美国成功上市的大型综合类 电子商务企业 。 2014年9月,京东搬到了亦庄的朝林广场,环境好了很多,也开始有了大屏展示,备战 条件更充分了 。 伴随着时间的推移,京东的 618不仅仅在技术上有了充分的准备,在组织上也有了横跨 整个京东研发体系的项目备战团队,都是由各个部门的精兵强将组成 。 618 在这一时期逐渐变成了一个家喻户晓的电商购物节 。 整个京东的 IT基础体系也实现 了从 .NET 向 Java 的迁移,逐渐实现了服务化,各个系统之间通过中间件进行衔接,形成了 完善的前 、 中 、 后台综合服务系统,真正实现了对亿级天量流量电商网站的完美支撑 。 在这一时期,京东的交易额在2012年就突破600亿元,到了 2016年更是达到了创纪录的 9392亿元 。 从2004年起, 12 年间增长了 9万倍,平均年复合增长率超过 150% ,技术在其中 功不可没 。 11.1.4 未来己来( 2017年以后) 步入2017年, 618从技术+零售、品牌+零售、 IP+零售、金融+零售 、 多终端+零售五个 方面人手,全面联动线上线下 、 引人消费者的参与和品牌商的协同 。 京东在618 中的角色也 由渠道商转变为中国零售基础设施提供商 。 现在的 618 已经不仅仅是京东自己的 618 ,京东已经把 618 品牌向全社会开放,开放618 标志,并无偿 、 不排他地授权包括竞争友商在内的所有企业使用 。 2017年6月 1 日 0点至2017年6月 18 日 24点,京东2017年的 618 整体活动累计下单金额达到 1199亿元,叉上了一个新的台阶! 现在的 618 已经不是过去三五个人值班就能搞定的“小事情”,而是彻彻底底成为了一 个京东所有技术团队统一攻坚的核心“战役” 。 通过 618 技术备战,不但支撑了集团的销售目标,保证了系统安全平稳,而且在备战过 程中为人工智能 、 机器学习、大数据、弹性云等新技术提供了应用和验证的场景,进一步 穷实了系统基础 。 2017年更是首次实现了贯穿所有重要系统的全链路压测,让研发人员在 618之前有更充分的准备,消除系统瓶颈 。 在技术层面, 618备战期间,各团队都要进行各种系统和软件的架构升级 、 代码优化、 漏洞排查等性能提升工作,还要有针对性地对系统、网络进行扩容 。 要应对各种可能存在的对网络 、 对应用的攻击;要做好系统监控,提前根据业务预 估,进行流量压测;梳理应急预案,对预案进行实战演练 。 总之,目的就是确保系统的高 性能,在遇到异常情况时都能快速处理,并可以进行系统、机房及网络的各种切换 。 伴随着京东整体技术水平的不断进步,备战的智能化日益提升,很多预案都可以利用 机器自动执行,人在其中大都是起到查漏补缺 、 监控的作用 。 在组织层面,京东也已经形成了完善的备战体系架构 。 由备战总指挥统一进行部署, 618项目备战团队跟进,统一协调整个京东横跨商城、物流 、 金融等多个部门的所有研发团 队 。 通过备战启动会 、 周例会 、 日例会 、 誓师会等形成系列化的组织沟通机制 。 民 u 需东决战 618 : 探密京东技术取胜之道 6 现在,整个京东的技术架构体系正在朝着组件化、服务化、智能化方向发展,人工智 能和大数据已经渗透到了京东的方方面面,元人机、无人车、无人仓等无人技术也耕露头 角 。 刘强东强调,下一个 10 年到 20 年,零售业将迎来第四次零售革命 。 这场革命改变的不 是零售,而是零售的基础设施 。 零售的基础设施将变得极其可塑化、智能化和协同化,推 动“无界零售”时代的到来,实现成本、效率、体验的升级 。 618 一定 也会随着第四次零售业革命发生相应的改变 。 未来己来,崭新的黄金时代正在来临! 海扬:负责整合传播资源,传播与推广京东商城研发技术 。 1.2 京东 618 技术备战概览 1.2.1 技术备战工作重点 | 京东技术研发团 队从 三 个层面、以不同的目标进行了 618 技术侧的备战工作 。 1 . 应用系统 京东商城有着极其复杂 的应用系统,如图 1-1 所示,包括 PC 、 M 站、 App 、微信手 Q 等 多端融合的网关系统、搜索系统、广告系统、促销系统、订单系统、商家系统 、 供应链系 统、支付系统、物流系统等 。 所有核心应用必须能够优雅地抵挡 618 零点峰值流量 。 因 此,对各个应用系统研发团队而言,在保证系统高可用之后, 618 备战的主要工作是优化性 能, “快”是不二法门 。 ••'l !l . .. . 调用 @ 图 1-1 京东商城应用系统胃部示意图 同步 t=·•订时 矗~- 第 1章京东 618 前世今生 2. 基础架构 基础架构包括容器集群平台、商品图片系统、 MySQL 数据库、消息中间件、缓存中间 件、 RPC 服务框架、流量接入与负载均衡、安全与风控等一系列技术服务 。 如图 1-2 所示, 这 一 层所有系统的集合统称为 JDOS -京东数据中心操作系统,统 一调度多个数据中心的 数万台服务器资源,提供共享技术服务来支撑所有应用系统,因此是每年技术备战的关键 环节 。 基础架构的稳定性甚至直接决定 6 18 的成败,因此主要备战 工作是通过容量扩展与故 障演练来保障各种极端情况下服务的稳定性, “稳”是中心目标 。 圄才- 2 Ji 「1gdong Datacente 「 OS (JOOS) 3 . 资源服务 资源服务包括数据中心网络、 C DN 、服务器等硬件资源 。 为应对 618 流量冲击,备战期 间研发团队需要进行科学的容量规划,对服务器数量、 IDC 入口带宽、 IDC 间专线带宽、各 地 CDN 节点进行扩容,为所有技术平台与应用系统提供充足的粮草弹药, “足”是唯一诉 求 。 I 1.2.2 技术备战利器 | “工欲善其事,必先利其器 。 ”数年的 618 备战,研发团队不断积累经验,设计并制造 了两个重要武器一- ForceBot 与 Chaos Monkey 。 1 . ForceBot 一一全链路军演压测系统 ForceBot 意为“军演机器人”,它部署在京东各地的 CDN 节点,能够发起模拟真实 用户的 、 超大规模的、购物流程全覆盖的访问流量,以便进行有效的军演压测,如图 1-3 7 . . 、- 南京决战 618 :探密京东技术取胜之道 所示 。 为支持 ForceBot 流量,京东几乎所有的在线系统都进行了改造,这是 一 项浩大的工 程 。 Force Bot 帮助研发团队准确地发现性能瓶颈,指导容量规划 。 面对有限的资源和繁杂 的系统,可以做到给最需要的系统做扩容,更重要的是推动了 618 备战常态化,军演压测日 常就可以进行 。 以 2017 年 618 备战为例,研发团队在 5 月份使用 ForceBot发起了 4 次军演,共 发现 11 处性能瓶颈,有针对性地进行了扩容或优化,做到了防患于未然 。 银行通信 接 口网关 库存状态 银行( bankc。m )支付任务 四级地址 。 p 促销广告词 。唾 - 商品读服务 & 统一回调网关、、、 京草收银台 下单服务 对’量 财务结算矗统 :e :o 图 1-3 Fo 「 ceBot 军演关键链路示意图 2.Chaos Monkey 一一全场景故障演练系统 配送 Chaos Monkey 是 一 套工具链,用以进行各个场景的 、 不同层面的故障模拟,包括网 络 、 机器 、 OS 、 DB 、 中间件、核心服务 、 流量人口 、 IDC 。 通过 Chaos Monkey ,各团队可 以验证自身系统在出现故障情况下的可用性表现与对应的降级能力 。 以 2017 年 618 为例,研 发团队共进行了 70 余次 Chaos Monkey 故障演练,找出薄弱环节近 20 个,做到了胸有成竹 。 数年的 618 备战,京东总结了资源分配的“黄金法则”一- 9173 原则 。 即 90% 的流量平 稳型系统 、 10% 的流量波动型系统,分别获得 70% 、 30% 的资源限额 。 所谓大道至简,这条 朴素的经验,屡试不爽 。 每年 618 购物节,也是京东技术团队的战场 。 追求完美,京东 一 直在路上 。 海锋:京东商城基础架构部负责人, 2017 年 618 技术备战总指挥 。 8 . . 、- 京东决战 618 : 探密京东技术取胜之道 2.1 永不消失的网站 基于网站的重要性,马松总提出“永不消失的网站”,网站有任何一个细小的问题, 都会影响用户的购物体验,为此我们从设计原则到高性能 、 高吞吐量 、 高可用的系统设 计,到高灵敏的监控系统构思,再到应急方案的制订钻研了一套体系,本节将从网站首 页 、 商品详情页、分类列表页、网站监控工具四个相关系统做详细讲解 。 I 2.1 . 1 首页优化之路 | 京东首页是京东网站的门户,承载了所有重要的业务人口,流量很大,具有不 言 而喻 的战略地位 。 在浏览器里输入 www.jd.com ,进入京东首页,给用户呈现的是 一 个拥有各种商品和促 销导购活动的缤纷页面,在这个页面的背后其实承载了 一 条艰 辛 的京东首页优化之路 。 1. 整体架构 京东首页的整体架构示意如图 2-1 所示 。 .酣睡揣冒E蜀’- ·~ www.10.com ...回回回阳帽’圃’ 回回回 E噩噩 圄 2-1 酋页架构图 从图 2-1 中可以看出,京东首页主要分为 三 层 : 前端展示层、中间逻辑层 、 底层数据 层,其中前端展示层负责页面展示;中间逻辑容灾层则保证前端展示数据的实时性;而底 层数据层作为最后 一 道关卡,负责整体数据的存储 。 另外, CMS 后台和容灾后台作为后台系统对上面 三 层在容灾方面做有力的补充, 一 起 保障了首页的稳定 。 10 下面就京东首页 三 层做具体的介绍 。 2. 前端展示层 第 2 章万亿交易一一丝渭平II 臣,坚如辑石 随着业务发展,前端展示层主要经历了 : 静态、伪静态 、 动态 三 个阶段 。 表 2-1 对比了 各个阶段的优缺点 。 表 2-1 首页前端展示层的演变过程 阶段 优点 缺点 首页各模块间存在强依赖,一个模块出现 静态页面维护简单,节省资源,四台 16U 的 问题,会影响其他页面,同时在保证 CON 静态 的命中率方面,往往会设置比较长的 CON 服务器配合 CON 即可以支撑 618 峰值 缓存时间,但已经无法跟上 618 业务 量 的 提升步伐 为首页各模块解祸,提高页面维护效率,结 伪静态 合 SSI 技术,在拼装静态页面的过程做动态 个性化数据出现问题,无法满足千人干面 业务逻辑,比如获取客户端 Cookie 展示简单 的要求,势必做出改变 个性化数据 随着 BI 的发展,个性化需求也越来越强烈, 动态 在保证首屏加载速度的同时实现干人干面, 易受第三方接口影响 首屏同步渲染,保证首屏的加载速度 i 个性 化数据应用层灾备,保证首页数据的完整性 3 . 中间逻辑层 中间逻辑层作为数据存储及数据传输的中间环节,是整个首页后台的核心,主要包括 CMS 数据维护运营系统和首页容灾系统两部分,与中间件一起保证了首页数据的完整性及 实时性 。 4’ 数据应验 。 因为京东首页曝光率很高,依赖的服务也有很多,所以我们对每个依赖的 服务进行了严格的校验,并检查数据内容是否符合规范,是否有空宇段抛出 。 如遇异常情况 则自动降级,且返回一份几分钟前的无错数据,保证数据的有效性,杜绝出现天窗情况 。 4’ 多级缓存 。 当 618 流量到来时,并发量剧增,某些后端服务压力巨大,会造成服务 响应时间增加,从而会影响整个页面的数据加载速度,所以在既要保证效率,又要展示个 性化数据的情况下,技术人员在设计中使用多级缓存来尽量减少后端服务压力 。 . 降级开关 。 为了应对 618 ,防止首页出现异常情况,我们设计了自动和手动的降级 开关 。 同时充分建立各类系统容灾方案,保证首页在极端情况下可以随时切换至上一个正 常版本,从而确保京东首页的正常展示和运行 。 4’ 目底页面 。 为确保京东的门户网站成为“永不消失的网站”,我们做了托底页面, 其中包括 C D N 托底页面,定时向 C DN 推送一份包含所有请求的静态文件夹,这样保证在 源服务器网络异常不能访问的极端情况下,还能有一份完整的页面展示给用户,从而确保 才才 . . 、~ 京东决战618 : 探密京东技术取胜之道 “京东首页永远不会消失” 。 4’ 前端降级 。 对于像京东首页这种大流量的网站,后端接口可能偶尔会出现错误,或 者直接岩机,尤其是在 618这种很容易达到流量峰值的时候,但是不能因为接口出错而使得 页面显示出现错误,这就需要前端来配合给出一套合理的灾备方案 。 这样的层层保障,很好地保证了页面的完整性 。 而且,针对所有接口,前端均有数据 校验逻辑,每一个后端接口都要经过前端的数据校验,来验证接口的可用性,一旦接口数 据异常,前端将主动调用托底接口来替代,这样来保证页面不至于错乱 。 4 . 底层数据层 这一层的主要功能是数据的存储备份和数据质量的提升两部分 。 数据的存储备份:主要是接人公司大数据平台,做到数据的整体调度,包括运营数 据、业务数据等,并进行分布式存储,互通互用 。 数据质量的提升:主要是数据计算推荐,引入AI算法,通过人物画像分析用户行为, 实现千人千面,提升转化率 。 2.1.2 商局详情页的架构变迁 | 商品详情页是在电商交易中将商品直观、全面地呈现给用户,并对用户购买意愿产生 很大影响的页面 。 为了保障用户在购买环节中流畅舒适地浏览体验,京东商品详情页随业 务发展经历了三次大的架构版本调整,当商品数增长至数十亿级的时候,京东商品详情页 架构的特点可以用一个关键词概括:异构+动态化,具体如图 2-2所示 。 下面将详细地介绍商品详情页架构的关键技术点、存在的主要问题及其解决方案 。 关键技术点 4’ 基础中间件从MQ升级到JMQ (京东分布式消息中间体),从SAF到 JSF ( Jingdong Sewice Framework ),大大提升稳定性 。 4’ 将数据与模板分离,利用Nginx+Lua技术,从前端丑MDB ( Jingdong In Memory Data Bas )集群获取数据后做模板解析,生成完整的页面,最终输出给用户 。 4’ 多级缓存 。 ①后端异构集群 。 构造数据的应用接收到变更消息,按SKU 、 商品、商家、分类 、 品 牌等维度拼装好数据后存入集群,该集群的维度粒度相对较细 。 ②前端数据集群 。 后端异构集群数据变更后,同样以消息通知,前端数据构造的应用将 这些维度的数据进一步合并后存入集群,该集群的维度粒度相对较粗,由前端直接读取 。 ③Nginx共享缓存 。 这部分缓存能容纳的数据有限,一般只做分类、商家、品牌等这些 总数据量很小的数据,减少跨服务器获取数据的成本 。 4’ 商品详情页面异步调用的服务 , 新增类似网关的应用统一管理调用(称作统一服 务),将前端JS 异步调用的多个服务合并为一个前端服务,在减少前端JS异步请求的次数 改善浏览体验的同时,可以更方便地针对单个接口做异常降级处理 。 4’ 数据及逻晤的复用共享 。 电商系统中数据的粒度非常细化,比如,商品详情页选择 才 2 第 2 章万亿交易一一丝渭平JI 阻 , 坚如辑石 配送地址后,切换的库存状态及相关配送文案,后端是数十个系统应用接口的数据交互, 因其中逻辑过于复杂而容易出错 。 所以将这部分逻辑合并成一个接口做在统一服务里,在 其他系统中得到了充分的复用 。 异步调用服务 圄 2-2 商晶详情页架构 存在的问题 · 商品增长越来越快,存储数据增长速度越来越快 。 4’ 业务需求的增长越来越迅速,导致业务需求实现过程中代码质量的下降,以及线上 Bug增多的风险的提升 。 解决办法 · 冷热数据的区分 。 京东网站即使拥有数十亿甚至数百亿的商品,但是日均数亿的流 量访问所覆盖商品的占比很小,所以可以建立维护用户访问的热点集群,控制集群数据量 的大小 。 目前主要从两个维度做热点区分 。 ①按商品的状态维度,比如,上架销售商品的读取量肯定远远超过下架暂停销售的商 品的读取量,下架商品过期时间远远短于商品上架时间 。 13 . . 、』d 用东决战618 : 探密京东技术取胜之道 ②指定时间无访问的数据过期删除,新访问的商品通过异步任务重新刷入热点集群 。 4’ 模块化的开发 。 在业务需求的开发中引人“模块+版本”的概念,系统的逻辑及模 块版本的切换引人到系统中进行管理维护,目前运行中的也仅仅是一小部分模块,比如商 品详情页在 618期间的一些气氛背景 。 其实,只要电商业务还在不断发展,诸如商品详情页之类的系统的挑战与发展就不会 停止,目前看来架构性能能够满足要求的系统,也必然在将来会一直不停地做或大或小的 迭代变更,未来业务需求肯定越来越多,越加要求系统对业务逻辑的精细化管理和把控, 确保系统中的逻辑不会一团乱麻 。 2.1.3 分类列表探索之路 1 . 系统介绍 分类列表展示各个分类的商品,有综合排序 、 价格排序 、 销量排序 、 上架时间排序 , 图书还有出版时间排序 。 通过分类列表,用户可以按照品牌 、 价格和各种扩展属性筛选出 感兴趣的商品 。 可通过京东首页左侧导航进入分类列表, 是用户浏览购买京东商品的主要 人口之一 ,位置如图 2 - 3 所示 。 JD.COM 煎孩 , 。 ,~ . ,于 · 省 k芝雪 画 困 山. . . 明白侃跚 "'- ~ ’- p 吧 由 ' 蟹’ "l畏 优惠参 阅跑 细童 画撞蜡 京东坦布 置’非 全球躏 京东盘凰 -~明鹰豆豆监两E -------·嚣.. 电. , .,跑.. 锺慧副ill HD睛’E 血£D啕囔 崎量涌电穗 ’到,的 回归 ""揭件 Mm y kmm 剧唱组 阳 江 ω…重. , ,黛袁军·· 哩实,.. 事安雯’- '""统蟹 0元寞’隐 空澜E悔 篝'"阻 , 擅醺民权貌 就沪__,.矶 汪髦流程创 造像比夜,也 稿子民 施和宇a,拿 ,.. , sn n胃1 三n 吸门 精帽剧哩 ’喳 冰箱画哗 秒lJlllcrJ,平 匾宠大甸 ’ 坦国矶 ’曾气’在 组抢嚣,. 剖... 镜‘桃 雹陇东’ 蟹气’农· llA式翩嗯 -咽. .. 。唱 ’ 电霞,. .笨’阳 电”· 电窑’自 帽””民 电庄力. 空气”’ 罩’E叭 ·晴饥 .组吼 酣宁,ν瓢汁l 何辜巩 电情沓 镰垒’册’回E 篝赐fl a置…侃 电感- 电测” ·- 龟届”’ 电a幅画裹在-· 115lllf底 笠摄电撮 ’ 电,... 越民· ·尘凰局副晴假 ,吃- a跚跚A ""捆 篷囊,ν,... .. ‘· - 电"" 院凉’几 净*· 麟湿矶 平布叽 秽’民 ‘囊用矶 毫攘,..,. ’‘宦金蚕.. 金活‘…· 伞,.. ’ ”规刀 口应当肉’ 电凯周 健- 池’像 ·-- 理法· 剑,.毛- 2捕2 ·靡镖’仿佛 有能产a健铜管 . . “幽阳先 笛,..思疗矶簸,精虞官.. 电. -菌’ - …· - 孟缸·· ow ltlll. ··氧量’幡蚌 国2-3 分类列表入口 2 . 系统特点 分类多 。 京东全站大概几千个分类 。 商昂多 。 每个分类商品多,有的分类多达上亿个SKU 。 需求多样化 。 不同分类需求不一样,例如:大家电 、 生鲜 、 图书 。 依赖多 。 依赖上游数十个系统,例如 : 商品 、 价格 、 库存 、 促销 、 配送等 。 晌应快 。 用户浏览页面的响应快,体验才好 。 3 架构设计目标 分布式 。 架构必须支持分布式,可以做到水平扩容 。 14 第 2 章万亿交易一一丝;青平) I 阻,坚如罄石 高可用 。 做到多机房多活部署 。 数据闭环 。 线上数据不依赖于外部 API 。 运维便捷 。 方便集群管理 、 分类配置等 。 数据提升 。 通过 AI 算法提升分类列表的转化率、 GMV ( Gross Merchandise Volume )、 客单价等指标 。 4 . 系统架构 分类列表的系统架构如图 2-4 所示 。 页面渲染系统( Nginx+Lua) list.jd c咱m ? liif.i4!ii~陆出在租司i mr.11 !童 !i'iU 应回 E固 一一 设 -回国 圄 2-4 分类列表架相 5. 模块介绍 更新 写 一一一+ 团副 团盟 数据 ;票市一质 量 分计算 。 数据集市负责商品排序、品牌排序的输出,其中影响排序的 特征有 30 多个,例如:订单、评论、访问、搜索等数据 。 通过机器学习算法模型,计算出 SKU 、品牌的质量分,然后通过相应的质量分对商品和品牌进行排序,将商品排序、品牌 排序推送 JIMDB 。 异构系统 。 异构系统负责将前台筛选、展示、排序的数据,从其他系统“异构”过 来,保证系统数据的闭环 。 需要异构的信息包括:商品、价格、库存、配送、促销等 。 商昂筛选系统 。 商品筛选系统是采用 Go 语言开发的,这是为了保证筛选接口的快速响 应而充分利用 Go 语言高并发的这一特性 。 商品筛选系统负责索引构建、索引更新和商品筛 选查询 。 商品筛选系统分为线上和线下集群,线上集群提供商品筛选查询,线下集群负责 索引的构建 。 线下集群索引构建完成,即可切换到线上使用。 页面渲染系统 。 页面渲染系统采用 Nginx+Lua来实现,包含:模板渲染、防爬功能、缓 存托底 。 4’ 模极渲染 通过筛选系统获取数据,渲染模板 。 Lua 的模板渲染性能高 。 15 :i$;PDF仅是将室,书籍版仪归著者和出版社所苔 , 未经允许不能在网上传锚, 如高需要, i音尽窒购买正版实体书,以表示对知识的尊重!实在育必要获 阪完整版本PDF,i青联系QQ:2415996420,谢谢! 2415996420
还剩35页未读

继续阅读

下载pdf到电脑,查找使用更方便

pdf的实际排版效果,会与网站的显示效果略有不同!!

需要 10 金币 [ 分享pdf获得金币 ] 2 人已下载

下载pdf

pdf贡献者

mozai

贡献于2018-06-20

下载需要 10 金币 [金币充值 ]
亲,您也可以通过 分享原创pdf 来获得金币奖励!
下载pdf