将Log4Net 日志保存到mongodb数据库实践

BaiDunckley 8年前

来自: http://www.cnblogs.com/zeallag/p/5205571.html

log4net的大名早有耳闻,一直没真正用过,这次开发APP项目准备在服务端使用log4net。 日志的数据量较大,频繁的写数据库容易影响系统整体性能,所以独立将日志写到mongodb数据库是不错的选择。---经过2天的摸索,总结出本文档。

github有个开源项目 log4mongo-net ,另一位斯克迪亚作者根据开源项目又做了修改 http://skyd.sinaapp.com/archives/1282

所以直接拿斯克迪亚的代码来使用。

1、将log4net和mongodb驱动升级为最新版本。log2net: 1.2.15   mongodb:  2.2.3.3

2、新加了一个LogHelper类(单件模式),所有的日志通过LogHelper的静态方法来写。

public  class LogHelper
  {
private static readonly LogHelper instance=new LogHelper();  private static ILog log = null;       private Logger()    {        // XmlConfigurator.Configure();            LogLog.InternalDebugging = true;                      }  public  static LogHelper getInstance()  {        if (log == null)        {            log = LogManager.GetLogger(System.Reflection.MethodBase.GetCurrentMethod().DeclaringType);        }            return instance;    }
public void Debug(Object message, Exception exception)  {          log.Debug(message);  }  public void Debug(Object message)  {          log.Debug(message);  }
}
结果发现会有问题,log4net本来可以记录日志发生所在的类名,和具体的行号。如果使用了单独的类来写日志,那么记录下来的类和行号都是LogHelper的内容,没法定位到错误具体发生的位置。原因就在ILog是通过LogManger.GetLogger(Type)方法来获的,要想获取错误的类和行号,那么必须在每个类里单独调用LogManger.GetLogger(System.Reflection.MethodBase.GetCurrentMethod().DeclaringType)。(自己的理解,不一定准确)

3、自定义日志内容字段。网上能找到很多Log4net添加字段的方法,但因为我用的是修改过的log4mongo。而且简化了配置,默认就是显示所有字段。所以基本上通过改配置的都不适用。

开始准备使用 LogicalThreadContext.Properties["CustomColumn"] = "Custom value" ,可以将更多自定义的内容写到日志。

执行写日志log.Debug(object)之前,先把各种自定义内容通过LogicalThreadContext设置好。然后再执行log.Debug(object)。

这种方式虽然可以达到目的,但感觉不是很方便。另一个问题是设置LogicalThreadContext后,这些值会一直存在,在同一个线程里再次执行 log.Debug(object)时,任然会记录这些自定义的属性值,不太好控制,容易写错内容。

另一种办法是通过 log.Debug(object)里的object来实现,一般情况下都是直接 log.Debug("this is message")这种方式来写日志,也可以将一个对象传递给 log.Debug。在往数据库写数据前,可以通过loggingEvent.RenderedMessage来读取传递过来的对象,

public  class LogInfo

{

public string AppKey { set; get; }

public string UserID { set; get; }

public string HostName { set; get; }

public string IPAddress { set; get; }

public string Message { set; get; }

public override string ToString()

{

var bsonDoc = this.ToBsonDocument();

return bsonDoc.ToString();

}

}

默认loggingEvent.RenderedMessage是获取object 的ToString()的值,这里需要重写一下ToString(),将类转化为BsonDocument。

loggingEvent.RenderedMessage获取BsonDocument后再拆分为具体的属性。

private static void BuildCustomMessage(string message,ref Log log)

{

try

{

var bson = BsonDocument.Parse(message);

foreach (var item in bson.Elements)

{

string value = item.Value.ToString();

if (item.Value.IsBsonNull)

{

value = string.Empty;

}

log.Properties.Add(item.Name, value);

}

}

catch (Exception)

{

log.RenderedMessage = message;

}

}

为了方便,直接用 BsonDocument.Parse(message)来判断是复杂对象还是String。直接用try catch来处理,对性能会有一点影响。做了测试相比直接传递String不需要BuildCustomMessage ,传递复杂对象时性能相差6%左右。这6%主要是对象ToString()转化为BsonDocument,和BuildCustomMessage两部份。

4、在测试时发生一个奇怪的问题,单独一个语句log.Debug(string)可以输出到控制台,但死活写不到数据库。而用一个循环来执行log.Debug(string),却能正常写到数据库。  log4net有输出Shutdown called on Hierarchy的提示,但不明白是什么意思,也不知道是否有相关。

解决办法是将写数据库的操作由异步改为同步。具体原因没找到。log4net自身问题、  mongodb驱动 、 log4net缓存等等都没法排除。

//collection.InsertOneAsync(BuildBsonDocument(loggingEvent));

collection.InsertOne(BuildBsonDocument(loggingEvent));

5、为了方便日后的维护,将数据库名和Collection(表名)设置到配置文件。

<appender name="MongoDBAppender" type="Log4Mongo.MongoDBAppender, Log4Mongo">

<connectionString value="mongodb://root: 123456@localhost :27017"/>

<DatabaseName value="log4mongo"/>

<CollectionName value="yyyyMM"/>

</appender>

配置的值在public class MongoDBAppender : AppenderSkeleton这个类里会直接获取,不需要做额外处理

public string ConnectionStringName { get; set; }

public string DatabaseName { get; set; }

public string CollectionName { get; set; }

<CollectionName value="yyyyMM"/>这么写的目的是让日志根据日期来自动分表。通过修改配置就能按日、按月、按年来分表。

        private IMongoCollection<Log> GetCollection()    {              string tableName;              tableName = CollectionName ?? "yyyyMM";              tableName = "log"+ string.Format("{0:" + tableName + "}", DateTime.Now);              return GetDatabase().GetCollection<Log>(tableName);     }
</div> </span></span></span></span></span></span></span></span>