建设一个靠谱的火车票网上订购系统

jopen 12年前
     <div id="news_body">     <p>        昨天,2012年 1 月 11 日,网友 @fenng 写了一篇文章,批评铁道部火车票网上订购系统,http://www.12306.cn [1]。同时在新浪发了一条言辞激烈的微博,“去你妈的‘海量事务高速处理系统’”,引起热议 [2]。</p>     <p>        春节将到,大家买不着车票,赶不上大年三十与家人团聚,急切心情可以理解。但是拍桌子开骂,只能宣泄情绪,解决不了实际问题。</p>     <p>        开发一套订票系统并不难,难在应对春运期间,日均 10 亿级别的洪峰流量。日均 10 亿级别的洪峰请求,在中国这个人口全球第一大国,不算稀罕,不仅火车票订票系统会遇到,而且电子商务在促销时,也会遇到,社交网站遇到新闻热点时,也会遇到。</p>     <p>        所以,能够在中国成功运行的云计算系统,推广到全球,一定也能成功。但是在美国成功运行的云计算系统,移植到中国,却不一定成功。</p>     <p>        如果我们能够设计建造一套,稳定而高效的铁路订票系统,不仅解决了中国老百姓的实际问题,而且在全球高科技业界,也是一大亮点,而且是贴着中国标签的前沿科技的亮点。</p>     <p>        于是软件工程师们献计献策,讨论如何改进 12306 网上购票系统 [3]。其中比较有代表性的,有两篇 [4,5]。</p>     <p>        网友的评论中,有观点认为,[4] 利用“虚拟排队”的手段,将过程拉长负载降低,是网游的设计思路。而 [5] 利用缓存技术,一层层地降低系统负荷, 是互联网的设计思路。</p>     <p>        个人认为,[4] 和 [5] 并不是相互排斥的两种路线,两者着重解决的问题不同,不妨结合起来使用,取长补短。下面介绍一下我们的设计草案,追求实用,摈弃花哨。抛砖引玉,欢迎拍砖。</p>     <p><img style="display:block;margin-left:auto;margin-right:auto;" alt="建设一个靠谱的火车票网上订购系统" src="https://simg.open-open.com/show/9ec7e51af90bbf528d86e74d0a9ea99d.png" width="405" height="172" /></p>     <p>        图一。12306.cn 网站系统架构设想图。</p>     <p>        图一是系统架构图,典型的“展现层”/ “业务层”/ “数据层”的三段论。</p>     <p>        用户接入有两类,一个是运行在电脑里的浏览器,例如 IE,另一个是手机。</p>     <p>        无论用户用电脑浏览器,还是手机访问 http://www.12306.cn 网站,用户请求首先被网站的负载均衡器接收。负载均衡器连接着一群门户服务器,根据各个门户服务器的负载轻重,负载均衡器把用户请求,转发到某一相对清闲的门户服务器。</p>     <p>        门户服务器的任务类似于收发室老头儿,它只读每个用户请求的前几个 bytes,目的是确定用户请求的类型,然后把请求投放到相应类型的队列中去。门户服务器的处理逻辑非常简单,这样做的好处,是让它能够快速处理大批量用户请求。</p>     <p>        根据 [5] 的分析,12306 处理的用户请求,大致分为三类,</p>     <p>        1. 查询。用户订票前,查询车次以及余票。用户下订单后,查询是否已经订上票。</p>     <p>        2. 订票,包括确定车次和票数,然后付款。用户付款时,需要在网银等网站上操作。</p>     <p>        3. 第一次访问的用户,需要登记,包括姓名和信用卡等信息。</p>     <p>        三类请求的业务处理过程,被分为两个阶段,</p>     <p>        1. 运行于缓存中的任务队列。设置队列的目的,是防止处理过程耗时太长,导致大量用户请求拥塞于门户服务器,导致系统瘫痪。</p>     <p>        2. 业务处理处理器,对于每一类业务,分别有一群业务服务器。不同业务的处理流程,各不相同。</p>     <p><img style="display:block;margin-left:auto;margin-right:auto;" alt="建设一个靠谱的火车票网上订购系统" src="https://simg.open-open.com/show/39ce5e5ee142c997368812e7457cc8b3.png" width="496" height="412" /></p>     <p>        图二。12306.cn 网站查询和订票业务流程设想图。</p>     <p>        图二描述了查询和订票,两个业务的处理流程。登记业务流程从略。</p>     <p>        查询的业务流程,参见图二上半部,分五步。这里有两个问题需要注意,</p>     <p>        1. 用户发出请求后,经过短暂的等待时间,能够迅速看到结果。平均等待时间不能超过 1 秒。</p>     <p>        2. 影响整个查询速度的关键,是“查询服务器”的设计。</p>     <p>        查询任务可以进一步细化,大致分成三种。</p>     <p>        1. 查询车次和时间表,这是静态内容,很少与数据库交互,数据量也不大,可以缓存在内存中。</p>     <p>        车次和时间表的数据结构,不妨采用 Key-Value 的方式,开发简单,使用效率高。Key-Value 的具体实现有很多产品,[5] 建议使用 Redis。</p>     <p>        这些是技术细节,不妨通过对比实验,针对火车票订票系统的实际流量,以及峰值波动,确定哪一个产品最合适。</p>     <p>        2. 查询某一班次的剩余车票,这需要调用数据库中不断更新的数据。</p>     <p>        [5] 建议把剩余车票只分为两种,“有”或“无”,这样减少调用访问数据库的次数,降低数据库的压力。但是这样做,不一定能够满足用户的需求,说不定会招致网友的批评讥讽。</p>     <p>        [4] 建议在订票队列中,增加测算订票队列长度的功能,根据订票队列长度以及队列中每个请求的购票数量,可以计算出每个车次的剩余座位。如果 12306.cn 网站只有一个后台系统,这个办法行之有效。</p>     <p>        但是假如 12306.cn 网站采用分布式结构,每个铁路分局设有子系统,分别管理各个铁路分局辖区内的各个车次。在分布式系统下,这个办法面临任务转发的麻烦。不仅开发工作量大,而且会延长查询流程处理时间,导致用户长久等待。</p>     <p>        3. 已经下单的用户,查询是否已经成功地订上票。</p>     <p>        每个用户通常只关心自己订的票。如果把每个用户订购的车票的所有内容,都缓存在内存里,不仅非常耗用内存空间,内存空间使用效率低下,更严重的问题是,访问数据库过于频繁,数据量大,增大数据库的压力。</p>     <p>        解决上述分布式同步,以及数据库压力的两个问题,不妨从订票的流程设计和数据结构设计入手。</p>     <p>        假如有个北京用户在网上订购了一套联票,途经北京铁路局和郑州铁路局辖区的两个车次。用户从北京上网,由北京铁路局的子系统,处理他的请求。北京铁路局的订票服务器把他的请求一分为二,北京铁路局的车次的订票,在北京子系统完成,郑州铁路局的车次在郑州子系统完成。</p>     <p>        每个子系统处理四种 Key-Value 数据组。</p>     <p>        1. 用户 ID:多个 (订单 ID)s。</p>     <p>        2. 订单 ID:多个 (订票结果 ID)s。</p>     <p>        3. 订票结果 ID:  一个 (用户 ID,车次 ID)。</p>     <p>        4. 车次 ID:一个(日期),多个 (座位,用户 ID)。</p>     <p>        北京订票服务器完成订票后,把上述四个数据组,写入北京子系统的数据库,同时缓存进北京的查询服务器,参见图二下半部第 6 步和第 7 步。</p>     <p>        郑州订票服务器完成订票后,把上述四个数据组,写入郑州子系统的数据库,同时缓存进北京的查询服务器,而不是郑州的服务器。</p>     <p>        让订票服务器把订票数据,同时写入数据库和查询服务器的缓存,目的是让数据库永久保留订票记录,而让大多数查询,只访问缓存,降低数据库的压力。</p>     <p>        北京用户的订票数据,只缓存在北京的查询服务器,不跨域缓存,从而降低缓存空间的占用,和同步的麻烦。这样做,有个前提假设,查询用户与订票用户,基本上是同一个人,而且从同一个城市上网。</p>     <p>        但是这里有个缺陷,某用户在北京上网订了票。过了几天,他在北京上网,输入用户 ID 和密码后,就会看到他订购的所有车票。可是又过了几天,他去了郑州,从郑州上网,同样输入用户 ID 和密码,却看不到他订购的所有车票。</p>     <p>        解决这个缺陷的办法并不麻烦,在用户查询订票信息时,需要注明订票地点,系统根据订票地点,把查询请求转发到相应区域的子系统。</p>     <p>        另外,每次订票的时候,网站会给他的手机发送短信,提供订票信息,参见图二下半部第 8 步和第 9 步。</p>     <p>        以上是一个初步设计,还有不少细节需要完善,例如防火墙如何布置等等。这个设计不仅适用于单一的集中式部署,而且也适合分布式部署。</p>     <p>        或许有读者会问,为什么没有用到云计算?其实上述架构设计,为将来向云计算演变,留下了伏笔。</p>     <p>        在上述架构设计中,我们假定每个环节需要用多少服务器,需要多大容量的数据库,预先都已经规划好。但是假如事先的规划,低于实际承受的流量和数据量,那么系统就会崩溃。所以,事先的规划,只能以峰值为基准设立。</p>     <p>        但是峰值将会是多少?事先难以确定。即便能够确定峰值,然后以峰值为基准,规划系统的能力,那么春运过后,就会有大量资源冗余,造成资源浪费?</p>     <p>        如何既能抗洪,又不造成资源浪费?解决方案是云计算,而且目前看来,除了云计算,没有别的办法。</p>     <p>        Reference,</p>     <p>        [1] 海量事务高速处理系统。</p>     <p>        http://www.douban.com/note/195179318/</p>     <p>        [2] 去你妈的‘海量事务高速处理系统’。</p>     <p>        http://weibo.com/1577826897/y0jGYcZfW</p>     <p>        [3] 火车订票系统的设想。</p>     <p>        http://weibo.com/1570303725/y0l9Y2mwE</p>     <p>        [4] 铁路订票系统的简单设计。</p>     <p>        http://blog.codingnow.com/2012/01/ticket_queue.html</p>     <p>        [5] 铁路订票网站个人的设计浅见。</p>     <p>        http://hi.baidu.com/caoz/blog/item/f4f1d7caee09b558f21fe780.html<br /> </p>     <div id="come_from">      来自:      <a id="link_source2" href="/misc/goto?guid=4958325545152702147" target="_blank">ifanr 爱范儿</a>     </div>     <p></p>    </div>