日交易额百亿级交易系统的超轻量日志实现

xtrd1590 3年前
   <p style="text-align:center"><img src="https://simg.open-open.com/show/342e5454d4862c5171577a82fc906aa4.png"></p>    <p>首先来聊聊往事吧~~两年前就职于一家传统金融软件公司,为某交易所开发一套大型交易系统,交易标的的价格为流式数据,采用价格触发成交方式,T+0交易制度(类似炒股,只是炒的不是股票而是其他标的物,但可以随时开平仓)。鉴于系统需要记录大量价格数据、交易信息及订单流水,且系统对性能要求极高(敏感度达毫秒级),因此需要避免日志服务成为系统性能瓶颈。通过对几个通用型日志(如log4j、logback)的性能压测,以及考虑到它们作为通用型日志相对比较臃肿,就决定自个儿写个日志工具以支撑系统功能和性能所需。当时的做法只是简单的将日志的实现作为一个 util 类写在项目中,只有几百行的代码量。</p>    <p>系统上线两个月后日均成交额200亿RMB,最高达440亿RMB,峰值成交4000笔/秒。系统非常庞大,但几百行的代码却完美支撑住了重要的日志服务!</p>    <p>鉴于其优秀的表现,就花了一点点时间把它抽取出来作为一个独立的日志组件,取名叫 FLogger,代码几乎没有改动,现已托管到GitHub(,有兴趣的童鞋可以clone下来了解并改进,目前它的实现是非常简(纯)单(粹)的。</p>    <p>以上就是 FLogger 的诞生背景。好吧,下面进入正题。</p>    <h2>特性</h2>    <p>虽然 FLogger 只有几百行的代码,但是麻雀虽小五脏俱全,它可是拥有非常丰富的特性呢:</p>    <ul>     <li>双缓冲队列</li>     <li>多种刷盘机制,支持时间触发、缓存大小触发、服务关闭强制触发等刷盘方式</li>     <li>多种RollingFile机制,支持文件大小触发、按天触发等Rolling方式</li>     <li>多日志级别,支持debug、info、warn、error和fatal等日志级别</li>     <li>热加载,由日志事件触发热加载</li>     <li>超轻量,不依赖任何第三方库</li>     <li>性能保证,成功用于日交易额百亿级交易系统</li>    </ul>    <h2>使用</h2>    <p>既然是个超轻量级日志,使用肯定要很简单。为最大程度保持用户的使用习惯,Flogger 提供了与 log4j 几乎一样的日志 API。你只需要先获取一个实例,接下来的使用方式就非常简单了:</p>    <pre>  <code class="language-java">//获取单例  FLogger logger = FLogger.getInstance();  //简便api,只需指定内容  logger.info("Here is your message...");  //指定日志级别和内容,文件名自动映射  logger.writeLog(Constant.INFO, "Here is your customized level message...");  //指定日志输出文件名、日志级别和内容  logger.writeLog("error", Constant.ERROR, "Here is your customized log file and level message...");</code></pre>    <p>使用前你需要在项目根路径下创建 log.properties 文件,配置如下:</p>    <pre>  <code class="language-java">########## 公共环境配置 ##########  # 字符集  CHARSET_NAME = UTF-8  ########## 日志信息配置 ##########  # 日志级别   0:调试信息  1:普通信息   2:警告信息  3:错误信息  4:严重错误信息   LOG_LEVEL = 0,1,2,3,4  # 日志文件存放路径  LOG_PATH =./log  # 日志写入文件的间隔时间(默认为1000毫秒)  WRITE_LOG_INV_TIME = 1000  # 单个日志文件的大小(默认为10M)  SINGLE_LOG_FILE_SIZE = 10485760  # 单个日志文件缓存的大小(默认为10KB)  SINGLE_LOG_CACHE_SIZE = 10240</code></pre>    <p>当然,为了提供最大程度的便捷性,日志内部针对所有配置项都提供了默认值,你大可不必担心缺少配置文件会抛出异常。</p>    <p>至此,你可能很好奇使用 FLogger 打印出来的日志格式到底是怎样的,会不会杂乱无章无法理解,还是信息不全根本无法判断上下文呢?好吧,你多虑了,FLogger 提供了非常规范且实用的日志格式,能使让你很容易理解且找到相关上下文。</p>    <p>先来看看上面的 demo 代码打印出来的结果:</p>    <p>info.log</p>    <pre>  <code class="language-java">[INFO] 2016-12-06 21:07:32:840 [main] Here is your message...</code></pre>    <p>warn.log</p>    <pre>  <code class="language-java">[WARN] 2016-12-06 21:07:32:842 [main] Here is your customized level message...</code></pre>    <p>error.log</p>    <pre>  <code class="language-java">[ERROR] 2016-12-06 21:07:32:842 [main] Here is your customized log file and level message...</code></pre>    <p>从上面可以看到,你可以很清楚的分辨出日志的级别、时间和内容等信息。到这其实很明了了,日志由以下几个元素组成:</p>    <pre>  <code class="language-java">[日志级别] 精确到毫秒的时间 [当前线程名] 日志内容</code></pre>    <p>当然,处于便捷性的考虑,FLogger 目前并不支持用户定义日志格式,毕竟它的目的也不是要做成一个通用性或者可定制性非常高的日志来使用。</p>    <h2>源码解析</h2>    <p>上面这么多都是围绕如何使用进行说明,下面就针对 FLogger 的特性进行实现逻辑的源码解析。</p>    <h3>双缓冲队列</h3>    <p>FLogger 在内部采用双缓冲队列,那何为双缓冲队列呢?它的作用又是什么呢?</p>    <p>FLogger 为每个日志文件维护了一个内部对象 LogFileItem ,定义如下:</p>    <pre>  <code class="language-java">public class LogFileItem {     /** 不包括路径,不带扩展名的日志文件名称 如:MsgInner */   public String logFileName = "";      /** 包括路径的完整日志名称 */   public String fullLogFileName = "";      /** 当前日志文件大小 */   public long currLogSize = 0;      /** 当前正在使用的日志缓存 */   public char currLogBuff = 'A';      /** 日志缓冲列表A */   public ArrayList<StringBuffer> alLogBufA = new ArrayList<StringBuffer>();      /** 日志缓冲列表B */   public ArrayList<StringBuffer> alLogBufB = new ArrayList<StringBuffer>();       /** 下次日志输出到文件时间 */   public long nextWriteTime = 0 ;      /** 上次写入时的日期 */   public String lastPCDate = "";      /** 当前已缓存大小 */   public long currCacheSize = 0;    }</code></pre>    <p>在每次写日志时,日志内容作为一个 StringBuffer 添加到当前正在使用的 ArrayList<StringBuffer> 中,另一个则空闲。当内存中的日志输出到磁盘文件时,会将当前使用的 ArrayList<StringBuffer> 与空闲的 ArrayList<StringBuffer> 进行角色交换,交换后之前空闲的 ArrayList<StringBuffer> 将接收日志内容,而之前拥有日志内容的 ArrayList<StringBuffer> 则用来输出日志到磁盘文件。这样就可以避免每次刷盘时影响日志内容的接收(即所谓的 stop-the-world 效应)及多线程问题。流程如下:</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/2f0f6dcd6c85a9ff084b1ba7a20c3eda.png"></p>    <p>关键代码如下:</p>    <p>日志接收代码</p>    <pre>  <code class="language-java">//同步单个文件的日志  synchronized(lfi){                  if(lfi.currLogBuff == 'A'){                                  lfi.alLogBufA.add(logMsg);                  }else{                                  lfi.alLogBufB.add(logMsg);                  }                  lfi.currCacheSize += CommUtil.StringToBytes(logMsg.toString()).length;  }</code></pre>    <p>日志刷盘代码:</p>    <pre>  <code class="language-java">//获得需要进行输出的缓存列表  ArrayList<StringBuffer> alWrtLog = null;  synchronized(lfi){                  if(lfi.currLogBuff == 'A'){                                  alWrtLog = lfi.alLogBufA;                                  lfi.currLogBuff = 'B';                  }else{                                  alWrtLog = lfi.alLogBufB;                                  lfi.currLogBuff = 'A';                  }                  lfi.currCacheSize = 0;  }  //创建日志文件  createLogFile(lfi);  //输出日志  int iWriteSize = writeToFile(lfi.fullLogFileName,alWrtLog);  lfi.currLogSize += iWriteSize;</code></pre>    <h3>多刷盘机制</h3>    <p>FLogger 支持多种刷盘机制:</p>    <ul>     <li>刷盘时间间隔触发</li>     <li>内存缓冲大小触发</li>     <li>退出强制触发</li>    </ul>    <p>下面就来一一分析。</p>    <p>刷盘时间间隔触发</p>    <p>配置项如下:</p>    <pre>  <code class="language-java"># 日志写入文件的间隔时间(默认为1000毫秒)  WRITE_LOG_INV_TIME = 1000</code></pre>    <p>当距上次刷盘时间超过间隔时间,将执行内存日志刷盘。</p>    <p>内存缓冲大小触发</p>    <p>配置项如下:</p>    <pre>  <code class="language-java"># 单个日志文件缓存的大小(默认为10KB)  SINGLE_LOG_CACHE_SIZE = 10240</code></pre>    <p>当内存缓冲队列的大小超过配置大小时,将执行内存日志刷盘。</p>    <p>退出强制触发</p>    <p>当日志服务关闭时,执行强制刷盘,避免内存日志丢失。</p>    <p>刷盘代码如下:</p>    <pre>  <code class="language-java">/** 线程方法 */  public void run(){                  int i = 0 ;                  while(bIsRun){                                  try{                                                  //等待一定时间                                                  Thread.sleep(200);                                                  //输出到文件                                                  flush(false);                                                  //重新获取日志级别                                                  if(i++ % 100 == 0){                                                                  Constant.CFG_LOG_LEVEL = CommUtil.getConfigByString("LOG_LEVEL","0,1,2,3,4");                                                                  i = 1;                                                  }                                  }catch(Exception e){                                                  System.out.println("开启日志服务错误...");                                                  e.printStackTrace();                                  }                  }  }    /** 关闭方法 */  public void close(){                  bIsRun = false;                  try{                                  flush(true);                  }catch(Exception e){                                  System.out.println("关闭日志服务错误...");                                  e.printStackTrace();                  }  }        /**  * 输出缓存的日志到文件  * @param bIsForce 是否强制将缓存中的日志输出到文件  */   private void flush(boolean bIsForce) throws IOException{                  long currTime = System.currentTimeMillis();                  Iterator<String> iter = logFileMap.keySet().iterator();                  while(iter.hasNext()){                                  LogFileItem lfi = logFileMap.get(iter.next());                                  if(currTime >= lfi.nextWriteTime || SINGLE_LOG_CACHE_SIZE >= lfi.currCacheSize || bIsForce == true){                                                  //获得需要进行输出的缓存列表                                                  ArrayList<StringBuffer> alWrtLog = null;                                                  synchronized(lfi){                                                                  if(lfi.currLogBuff == 'A'){                                                                                  alWrtLog = lfi.alLogBufA;                                                                                  lfi.currLogBuff = 'B';                                                                  }else{                                                                                  alWrtLog = lfi.alLogBufB;                                                                                  lfi.currLogBuff = 'A';                                                                  }                                                                  lfi.currCacheSize = 0;                                                  }                                                  //创建日志文件                                                  createLogFile(lfi);                                                  //输出日志                                                  int iWriteSize = writeToFile(lfi.fullLogFileName,alWrtLog);                                                  lfi.currLogSize += iWriteSize;                                  }                  }       }</code></pre>    <h3>多 RollingFile 机制</h3>    <p>同 log4j/logback,FLogger 也支持多种 RollingFile 机制:</p>    <ul>     <li>按文件大小 Rolling</li>     <li>按天 Rolling</li>    </ul>    <p>其中按文件大小 Rolling,配置项为:</p>    <pre>  <code class="language-java"># 单个日志文件的大小(默认为10M)  SINGLE_LOG_FILE_SIZE = 10485760</code></pre>    <p>即当文件大小超过配置大小时,将创建新的文件记录日志,同时重命名旧文件为"日志文件名_日期_时间.log"(如 info_20161208_011105.log)。</p>    <p>按天 Rolling 即每天产生不同的文件。</p>    <p>产生的日志文件列表可参考如下:</p>    <pre>  <code class="language-java">info_20161207_101105.log  info_20161207_122010.log  info_20161208_011110.log  info_20161208_015010.log  info.log</code></pre>    <p>当前正在写入的日志文件为 info.log。</p>    <p>关键代码如下:</p>    <pre>  <code class="language-java">/**  * 创建日志文件  * @param lfi  */  private void createLogFile(LogFileItem lfi){                  //当前系统日期                  String currPCDate = TimeUtil.getPCDate('-');                         //如果超过单个文件大小,则拆分文件                  if(lfi.fullLogFileName != null && lfi.fullLogFileName.length() > 0 && lfi.currLogSize >= LogManager.SINGLE_LOG_FILE_SIZE ){                                  File oldFile = new File(lfi.fullLogFileName);                                  if(oldFile.exists()){                                                  String newFileName = Constant.CFG_LOG_PATH + "/" + lfi.lastPCDate + "/" + lfi.logFileName + "_" + TimeUtil.getPCDate() + "_"+ TimeUtil.getCurrTime() + ".log";                                                  File newFile = new File(newFileName);                                                  boolean flag = oldFile.renameTo(newFile);                                                  System.out.println("日志已自动备份为 " + newFile.getName() + ( flag ? "成功!" : "失败!" ) );                                                  lfi.fullLogFileName = "";                                                  lfi.currLogSize = 0;                                  }                  }                  //创建文件                  if ( lfi.fullLogFileName == null || lfi.fullLogFileName.length() <= 0 || lfi.lastPCDate.equals(currPCDate) == false ){                                  String sDir = Constant.CFG_LOG_PATH + "/" + currPCDate ;                                  File file = new File(sDir);                                  if(file.exists() == false){                                                  file.mkdir();                                  }                                  lfi.fullLogFileName = sDir + "/" + lfi.logFileName + ".log";                                  lfi.lastPCDate = currPCDate;                                          file = new File(lfi.fullLogFileName);                                  if(file.exists()){                                                  lfi.currLogSize = file.length();                                  }else{                                                  lfi.currLogSize = 0;                                  }                  }  }</code></pre>    <h3>多日志级别</h3>    <p>FLogger 支持多种日志级别:</p>    <ul>     <li>DEBUG</li>     <li>INFO</li>     <li>WARN</li>     <li>ERROR</li>     <li>FATAL</li>    </ul>    <p>FLogger 为每个日志级别都提供了简易 API,在此就不再赘述了。</p>    <p>打印 error 和 fatal 级别日志时,FLogger 默认会将日志内容输出到控制台。</p>    <h3>热加载</h3>    <p>FLogger 支持热加载,FLogger 内部并没有采用事件驱动方式(即新增、修改和删除配置文件时产生相关事件通知 FLogger 实时热加载),而是以固定频率的方式进行热加载,具体实现就是每执行完100次刷盘后才进行热加载(频率可调),关键代码如下:</p>    <pre>  <code class="language-java"><em>int i = 0; while(bIsRun){                 try{                                 //等待一定时间                                 Thread.sleep(200);                                 //输出到文件                                 flush(false);                                 //重新获取日志级别                                 if(i++ % 100 == 0){                                                 Constant.CFG_LOG_LEVEL = CommUtil.getConfigByString("LOG_LEVEL","0,1,2,3,4");                                                 //其他配置项热加载......                                                 i = 1;                                 }                 }catch(Exception e){                                 System.out.println("开启日志服务错误...");                                 e.printStackTrace();                 } } </em></code></pre>    <p>这么做完全是为了保持代码的精简和功能的纯粹性。事件驱动热加载无疑是更好的热加载方式,但需要新建额外的线程并启动对配置文件的事件监听,有兴趣的童鞋可自行实现。</p>    <h3>性能保证</h3>    <p>FLogger 成功支撑了日交易额百亿级交易系统的日志服务,它的性能是经历过考验的。下面我们就来拿 FLogger 跟 log4j 做个简单的性能对比。</p>    <p>测试环境:Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz  3.20 GHz   4.00 GB Memory   64位操作系统</p>    <p>测试场景:单条记录72byte   共1000000条   写单个日志文件</p>    <p>首先需要把 FLogger 的配置项 SINGLE_LOG_FILE_SIZE 设置成 100M,以保证所有记录写入单个日志文件。</p>    <p>测试代码:</p>    <pre>  <code class="language-java">FLogger logger = FLogger.getInstance();    //FLogger  //Logger logger = Logger.getLogger(Log4jTest.class);   //log4j  String record = "Performance Testing about log4j and cyfonly customized java project log.";   //72字节  long st = System.currentTimeMillis();  for(int i=0; i<1000000; i++){           logger.info(record);  }  long et = System.currentTimeMillis();  System.out.println("FLogger/log4j write 1000000 records with each record 72 bytes, cost :" + (et - st) + " millseconds");</code></pre>    <p>日志内容:</p>    <pre>  <code class="language-java">FLogger:  [INFO] 2016-12-06 21:40:06:842 [main] Performance Testing about log4j and cyfonly customized java project log.    log4j:  [INFO ]2016-12-06 21:41:12,852, [main]Log4jTest:12, Performance Testing about log4j and cyfonly customized java project log.</code></pre>    <p>测试结果(执行10次取平均值):</p>    <pre>  <code class="language-java">FLogger write 1000000 records with each record 72 bytes, cost :2144 millseconds  log4j write 1000000 records with each record 72 bytes, cost :cost :12691 millseconds</code></pre>    <p> </p>    <p>来自:http://www.cnblogs.com/cyfonly/p/6139049.html</p>    <p> </p>