系统日志规范及最佳实践

系统日志规范及最佳实践

这是2023年的第35篇文章

( 本文阅读时间:10分钟 )


打印日志是一门艺术,日志信息是开发人员排查线上问题最主要的手段之一,但规范打日志被开发同学经常所忽视。日志就像保险,平时正常的时候用不上,但是一旦出问题就都想看有没有保险可以用。一条良好的日志,是我们向外部证明的材料。



01



概要

1.1 什么是日志?

日志,维基百科中对其的定义是一个或多个由服务器自动创建和维护的日志文件,其中包含其所执行活动的列表。


一个打印良好的日志文件可为开发人员提供精确的系统记录,可辅助开发人员定位到系统错误发生的详情及根源。在Java应用程序中,通常使用日志文件来记录应用程序运行过程中的重要逻辑参数及异常错误,辅之日志采集系统(ELK、DTM)构建系统监控体系。

1.2 为什么要记录日志?

上文中提到日志可以提供精准的系统记录方便根因分析,那为什么要记录日志,记录日志有哪些作用呢?


  • 打印调试:用日志来记录变量或者某一段逻辑,记录程序运行的流程,即程序运行了哪些代码,方便排查逻辑问题。

  • 问题定位:程序出异常或者出故障时快速的定位问题,方便后期解决问题。因为线上生产环境无法debug,在测试环境去模拟一套生产环境费时费力。所以依靠日志记录的信息定位问题,这点非常重要。

  • 监控告警 & 用户行为审计:格式化后日志可以通过相关监控系统(AntMonitor)配置多维度的监控视图,让我们可以掌握系统运行情况或者记录用户的操作行为并对日志采集分析,用于建设业务大盘使用。

1.3 什么时候记录日志?

上文说了日志的重要性,那么什么时候需要记录日志。


  • 代码初始化时或进入逻辑入口时:系统或者服务的启动参数。核心模块或者组件初始化过程中往往依赖一些关键配置,根据参数不同会提供不一样的服务。务必在这里记录INFO日志,打印出参数以及启动完成态服务表述。

  • 编程语言提示异常:这类捕获的异常是系统告知开发人员需要加以关注的,是质量非常高的报错。应当适当记录日志,根据实际结合业务的情况使用WARN或者ERROR级别。

  • 业务流程预期不符:项目代码中结果与期望不符时也是日志场景之一,简单来说所有流程分支都可以加入考虑。取决于开发人员判断能否容忍情形发生。常见的合适场景包括外部参数不正确,数据处理问题导致返回码不在合理范围内等等。

  • 系统/业务核心逻辑的关键动作:系统中核心角色触发的业务动作是需要多加关注的,是衡量系统正常运行的重要指标,建议记录INFO级别日志。

  • 第三方服务远程调用:微服务架构体系中有一个重要的点就是第三方永远不可信,对于第三方服务远程调用建议打印请求和响应的参数,方便在和各个终端定位问题,不会因为第三方服务日志的缺失变得手足无措。



02



基本规范

2.1 日志记录原则

  • 隔离性:日志输出不能影响系统正常运行;

  • 安全性:日志打印本身不能存在逻辑异常或漏洞,导致产生安全问题;

  • 数据安全:不允许输出机密、敏感信息,如用户联系方式、身份证号码、token等;

  • 可监控分析:日志可以提供给监控进行监控,分析系统进行分析;

  • 可定位排查:日志信息输出需有意义,需具有可读性,可供日常开发同学排查线上问题。

2.2 日志等级设置规范

在我们日常开发中有四种比较常见的日志打印等级,不同的等级适合在不同的时机下打印日志。


主要使用的有以下四个等级:


  • DEBUG


DEUBG级别的主要输出调试性质的内容,该级别日志主要用于在开发、测试阶段输出。该级别的日志应尽可能地详尽,开发人员可以将各类详细信息记录到DEBUG里,起到调试的作用,包括参数信息,调试细节信息,返回值信息等等,便于在开发、测试阶段出现问题或者异常时,对其进行分析。


  • INFO


INFO级别的主要记录系统关键信息,旨在保留系统正常工作期间关键运行指标,开发人员可以将初始化系统配置、业务状态变化信息,或者用户业务流程中的核心处理记录到INFO日志中,方便日常运维工作以及错误回溯时上下文场景复现。建议在项目完成后,在测试环境将日志级别调成INFO,然后通过INFO级别的信息看看是否能了解这个应用的运用情况,如果出现问题后是否这些日志能否提供有用的排查问题的信息。


  • WARN


WARN级别的主要输出警告性质的内容,这些内容是可以预知且是有规划的,比如,某个方法入参为空或者该参数的值不满足运行该方法的条件时。在WARN级别的时应输出较为详尽的信息,以便于事后对日志进行分析。


  • ERROR


ERROR级别主要针对于一些不可预知的信息,诸如:错误、异常等,比如,在catch块中抓获的网络通信、数据库连接等异常,若异常对系统的整个流程影响不大,可以使用WARN级别日志输出。在输出ERROR级别的日志时,尽量多地输出方法入参数、方法执行过程中产生的对象等数据,在带有错误、异常对象的数据时,需要将该对象一并输出。

✪ 如何选择WARN/ERROR

当方法或者功能出现非正常逻辑执行情况时,需要打印WARN或者ERROR级别日志,那如何区分出现异常时打印WARN级别还是ERROR级别呢,我们可以从以下两个方面进行分析:

系统日志规范及最佳实践

⍟ 常见的WARN级别异常

  • 用户输入参数错误

  • 非核心组件初始化失败

  • 后端任务处理最终失败(如果有重试且重试成功,就不需要WARN)

  • 数据插入幂等

⍟ 常见的ERROR级别异常

  • 程序启动失败

  • 核心组件初始化失败

  • 连不上数据库

  • 核心业务访问依赖的外部系统持续失败

  • OOM


不要滥用ERROR级别日志。一般来说在配置了告警的系统中,WARN级别一般不会告警,ERROR级别则会设置监控告警甚至电话报警,ERROR级别日志的出现意味着系统中发生了非常严重的问题,必须有人立即处理。


错误的使用ERROR级别日志,不区分问题的重要程度,只要是问题就采用ERROR级别日志,这是极其不负责任的表现,因为大部分系统中的告警配置都是根据单位时间内ERROR级别日志出现的数量来定的,随意打ERROR日志将会造成极大的告警噪音,造成重要问题遗漏。

2.3 常见日志格式

✪ 摘要日志

摘要日志是格式化的标准日志文件,可用于监控系统进行监控配置和离线日志分析的日志,通常系统对外提供的服务以及集成的第三方服务都需要打印对应的服务摘要日志,摘要日志格式一般需包含以下几类关键信息:


  • 调用时间

  • 日志链路id(traceId、rpcId)

  • 线程名

  • 接口名

  • 方法名

  • 调用耗时

  • 调用是否成功(Y/N)

  • 错误码

  • 系统上下文信息(调用系统名、调用系统ip、调用时间戳、是否压测(Y/N))

2022-12-12 06:05:05,129 [0b26053315407142451016402xxxxx 0.3 - /// - ] INFO [SofaBizProcessor-4-thread-333] - [(interfaceName,methodName,1ms,Y,SUCCESS)(appName,ip地址,时间戳,Y)

✪ 详细日志

详细日志是用于补充摘要日志中的一些业务参数的日志文件,用于问题排查。详细日志一般包含以下几类信息:


  • 调用时间

  • 日志链路id(traceId、rpcId)

  • 线程名

  • 接口名

  • 方法名

  • 调用耗时

  • 调用是否成功(Y/N)

  • 系统上下文信息(调用系统名、调用系统ip、调用时间戳、是否压测(Y/N))

  • 请求入参

  • 请求出参

2022-12-12 06:05:05,129 [0b26053315407142451016402xxxxx 0.3 - /// - ] INFO [SofaBizProcessor-4-thread-333] - [(interfaceName,methodName,1ms,Y,SUCCESS)(appName,ip地址,时间戳,Y)(参数1,参数2)(xxxx)

✪ 业务执行日志

业务执行日志就是系统执行过程中输出的日志,一般没有特定格式,是开发人员用于跟踪代码执行逻辑而打印的日志,个人看来在摘要日志、详细日志、错误日志齐全的情况下,需要打印系统执行日志的地方比较少。如果一定要打印业务执行日志,需要关注以下几个点:


  • 这个日志是否一定要打印?如果不打印是否会影响后续问题排查,如果打印这个日志后续输出频率是否会太高,造成线上日志打印过多。

  • 日志格式是否辨识度高?如果后续对该条日志进行监控或清洗,是否存在无法与其他日志区分或者每次打印的日志格式都不一致的问题?

  • 输出当前执行的关键步骤和描述,明确的表述出打印该条日志的作用,方便后续维护人员阅读。

  • 日志中需包含明确的打印意义,当前执行步骤的关键参数。


建议格式:[日志场景][日志含义]带业务参数的具体信息

[scene_bind_feature][feature_exists]功能已经存在[tagSource='MIF_TAG',tagValue='123']


03



日志最佳实践

3.1 强制

1. 打印日志的代码不允许失败,阻断流程!

一定要确保不会因为日志打印语句抛出异常造成业务流程中断,如下图所示,shop为null的会导致抛出NPE。

public void doSth(){    log.info("do sth and print log: {}", shop.getId());    // 业务逻辑    ...}

2. 禁止使用System.out.println()输出日志

反例:

public void doSth(){    System.out.println("doSth...");    // 业务逻辑    ...}

分析:


  • 通过分析System.out.println源码可知,System.out.println是一个同步方法,在高并发的情况下,大量执行println方法会严重影响性能。

public void println(String x) {    synchronized (this) {        print(x);        newLine();    }}
  • 不能实现日志按等级输出。具体来说就是不能和日志框架一样,有 debug,info,error等级别的控制。

  • System.out、System.error打印的日志都并没有打印在日志文件中,而是直接打印在终端,无法对日志进行收集。


正例:


在日常开发或者调试的过程中,尽量使用标准日志记录系统log4j2或者logback(但不要直接使用其中的API),异步的进行日志统一收集。

public void doSth(){    log.info("doSth...");    // 业务逻辑    ...}

3. 禁止直接使用日志系统(Log4j、Logback)中的API

应用中不可直接使用日志系统(Log4j、Logback)中的API,而应依赖使用日志框架 (SLF4J、JCL–Jakarta Commons Logging)中的API。


分析:


直接使用Log4j或者Logback中的API会导致系统代码实现强耦合日志系统,后续需要切换日志实现时会产生比较大的改造成本,统一使用SLF4J或者JCL等日志框架的API,其是使用门面模式的日志框架,可以做到解耦具体日志实现的作用,有利于后续维护和保证各个类的日志处理方式统一。


正例:

// 使用 SLF4J:  import org.slf4j.Logger; import org.slf4j.LoggerFactory; private static final Logger logger = LoggerFactory.getLogger(xxx.class);   // 使用 JCL: import org.apache.commons.logging.Log; import org.apache.commons.logging.LogFactory;  private static final Log log = LogFactory.getLog(xxx.class);

4. 声明日志工具对象Logger应声明为private static final

分析:


  • 声明为private防止logger对象被其他类非法使用。

  • 声明为static是为了防止重复new出logger对象;防止logger被序列化,导致出现安全风险;处于资源考虑,logger的构造方法参数是Class,决定了logger是根据类的结构来进行区分日志,所以一个类只要一个logger,故static。

  • 声明为final是因为在类的生命周期无需变更logger,避免程序运行期对logger进行修改。


正例:

private static final Logger LOGGER = LoggerFactory.getLogger(xxx.class);

5. 对于trace/debug/info级别的日志输出,必须进行日志级别的开关判断

反例:

public void doSth(){    String name = "xxx";    logger.trace("print debug log" + name);    logger.debug("print debug log" + name);    logger.info("print info log" + name);    // 业务逻辑    ...}

分析:


如果配置的日志级别是warn的话,上述日志不会打印,但是会执行字符串拼接操作,如果name是对象, 还会执行toString()方法,浪费了系统资源,执行了上述操作,最终日志却没有打印,因此建议加日志开关判断


正例:


在trace、debug、info级别日志打印前加上对应级别的日志开关判断,通常可以将开关判断逻辑包装在日志工具类中,统一实现。

public void doSth(){
if (logger.isTraceEnabled()) { logger.trace("print trace log {}", name); } if (logger.isDebugEnabled()) { logger.debug("print debug log {}", name); } if (logger.isInfoEnabled()) { logger.info("print info log {}", name; } // 业务逻辑 ...}

6. 捕获异常后不要使用e.printStackTrace()打印日志

反例:

public void doSth(){    try{        // 业务逻辑        ...    } catch (Exception e){        e.printStackTrace();    }}

分析:


  • e.printStackTrace()打印出的堆栈日志跟业务代码日志是交错混合在一起的,通常排查异常日志不太方便。

  • e.printStackTrace()语句产生的字符串记录的是堆栈信息,如果信息太长太多,字符串常量池所在的内存块没有空间了,即内存满了,系统请求将被阻塞。


正例:

public void doSth(){    try{        // 业务逻辑        ...    } catch (Exception e){        log.error("execute failed", e);    }}

7. 打印异常日志一定要输出全部错误信息

反例:


  • 没有打印异常e,无法定位出现什么类型的异常

public void doSth(){    try{        // 业务逻辑        ...    } catch (Exception e){        log.error("execute failed");    }}
  • 没有记录详细的堆栈异常信息,只记录错误基本描述信息,不利于排查问题。

public void doSth(){    try{        // 业务逻辑        ...    } catch (Exception e){        log.error("execute failed", e.getMessage());    }}

正例:


一般日志框架中的warn、error级别均有存在传递Throwable异常类型的API,可以直接将抛出的异常传入日志API中。

void error(String var1, Throwable var2);
public void doSth(){ try{ // 业务逻辑 ... } catch (Exception e){ log.error("execute failed", e); }}

8. 日志打印时禁止直接用JSON工具将对象转换成String

反例:

public void doSth(){    log.info("do sth and print log, data={}", JSON.toJSONString(data));    // 业务逻辑    ...}

分析:


  • fastjson等序列化组件是通过调用对象的get方法将对象进行序列化,如果对象里某些get方法被覆写,存在抛出异常的情况,则可能会因为打印日志而影响正常业务流程的执行。

  • 打日志过程中对一些对象的序列化过程也是比较耗性能的。首先序列化过程本身时一个计算密集型过程,费cpu。其次这个过程会产生很多中间对象,对内存也不太友好。


正例:


可以使用对象的toString()方法打印对象信息,如果代码中没有对toString()有定制化逻辑的话,可以使用apache的ToStringBulider工具。

public void doSth(){    log.info("do sth and print log, data={}", data.toString());    log.info("do sth and print log, data={}", ToStringBuilder.reflectionToString(data, ToStringStyle.SHORT_PREFIX_STYLE));}

9. 不要打印无意义(无业务上下文、无关联日志链路id)的日志

反例:


  • 不带任何业务信息的日志,对排查故障毫无意义。

public void doSth(){    log.info("do sth and print log");    // 业务逻辑    ...}
  • 对于无异常分支的代码打印日志,一般流程下,异常分支都会打日志,如果没有出现异常,那就说明正常执行了。

public void doSth(){    doIt1();    log.info("do sth 111");    doIt2();    log.info("do sth 222");}

正例:


  • 日志一定要带相关的业务信息,有利于排查问题快速定位到原因。

public void doSth(){    log.info("do sth and print log, id={}", id);    // 业务逻辑    ...}
  • 对于打印过多的无意义日志,可以直接干掉或者以debug级别打印。

10. 不要在循环中打印INFO级别日志

反例:

public void doSth(){    for(String s : strList) {      log.info("do sth and print log: {}", s);        // 业务逻辑        ...    }}

11. 不要打印重复的日志

反例:

public void doSth(String s){    log.info("do sth and print log: {}", s);  doStep(s);}
private void doStep(String s){ log.info("do sth and print log: {}", s); // 业务逻辑 ...}
public void doSth(String s) {     try {      doStep(s);  } catch (Exception e){      log.error("something wrong", e);  }}
private void doStep(String s){ try { // 业务逻辑 } catch (Exception e){ log.error("something wrong", e); throw e; }}

分析:


  • 在每一个嵌套环节都打印了重复的日志。

  • 不要记录日志后又抛出异常。抛出去的异常,一般外层会处理。如果不处理,那为什么还要抛出去?原则是,无论是否发生异常,都不要在不同地方重复记录针对同一事件的日志消息。


正例:


直接干掉或者将日志降级成debug级别日志

12. 避免敏感信息输出

13. 日志单行大小必须不超过200K

3.2 推荐

1. 日志语言尽量使用英文

系统日志规范及最佳实践

建议:尽量在打印日志时输出英文,防止中文编码与终端不一致导致打印出现乱码的情况,对故障定位和排查存在一定的干扰。

2. 重要方法可以记录调用日志

建议在重要方法入口记录方法调用日志,出口打印出参,对于排查问题会有很大的帮助。

public String doSth(String id, String type){    log.info("start: {}, {}", id, type);    String res = process(id, type);    log.info("end: {}, {}, {}", id, type, res};}

3. 在核心业务逻辑中遇到if…else等条件,尽量每个分支首行都打印日志

在编写核心业务逻辑代码时,如遇到if…else…或者switch这样的条件,可以在分支的首行就打印日志,这样排查问题时,就可以通过日志,确定进入了哪个分支,代码逻辑更清晰,也更方便排查问题了。


建议:

public void doSth(){    if(user.isVip()){        log.info("该用户是会员,Id:{},开始处理会员逻辑",user,getUserId());        //会员逻辑    }else{        log.info("该用户是非会员,Id:{},开始处理非会员逻辑",user,getUserId())        //非会员逻辑    }}

4. 建议只打印必要的参数,不要整个对象打印

反例:

public void doSth(){    log.info("print log, data={}", data.toString());    // 业务逻辑    ...}

分析:


首先分析下自己是否必须把所有对象里的字段打印出来?如果对象中有50个字段,但只需其中两个参数就可以定位具体的原因,那么全量打印字段将浪费内容空间且因为字段过多,影响根因排查。


正例:

public void doSth(){    log.info("print log, id={}, type={}", data.getId(), data.getType());    // 业务逻辑    ...}

使用这个种方法需及时防止npe,并考虑是否核心场景,核心场景建议还是打全,避免漏打、少打影响线上问题定位&排查。

系统日志规范及最佳实践
系统日志规范及最佳实践
欢迎留言一起参与讨论~

本篇文章来源于微信公众号:阿里技术

本文来自投稿,不代表TakinTalks稳定性技术交流平台立场,如若转载,请联系原作者。

(0)
上一篇 2023年4月28日 下午5:09
下一篇 2023年6月25日 上午10:58

相关推荐

发表评论

登录后才能评论