日志排查问题困难?分布式日志链路跟踪来帮你

作者:朱乐陶,软件架构师,具备多年Java开发及架构设计经验,擅长微服务领域

作者博客:https://blog.csdn.net/zlt2000

背景

开发排查系统问题用得最多的手段就是查看系统日志,在分布式环境中一般使用ELK来统一收集日志,但是在并发大时使用日志定位问题还是比较麻烦,由于大量的其他用户/其他线程的日志也一起输出穿行其中导致很难筛选出指定请求的全部相关日志,以及下游线程/服务对应的日志。


解决思路

每个请求都使用一个唯一标识来追踪全部的链路显示在日志中,并且不修改原有的打印方式(代码无入侵) 使用Logback的MDC机制日志模板中加入traceId标识,取值方式为%X{traceId}

MDC(Mapped Diagnostic Context,映射调试上下文)是 log4j 和 logback 提供的一种方便在多线程条件下记录日志的功能。MDC 可以看成是一个与当前线程绑定的Map,可以往其中添加键值对。MDC 中包含的内容可以被同一线程中执行的代码所访问。当前线程的子线程会继承其父线程中的 MDC 的内容。当需要记录日志时,只需要从 MDC 中获取所需的信息即可。MDC 的内容则由程序在适当的时候保存进去。对于一个 Web 应用来说,通常是在请求被处理的最开始保存这些数据。

方案实现

由于MDC内部使用的是ThreadLocal所以只有本线程才有效,子线程和下游的服务MDC里的值会丢失;所以方案主要的难点是解决值的传递问题,主要包括以几下部分:

API网关中的MDC数据如何传递给下游服务

服务如何接收数据,并且调用其他远程服务时如何继续传递

异步的情况下(线程池)如何传给子线程

修改日志模板

logback配置文件模板格式添加标识%X{traceId}

网关添加过滤器

生成traceId并通过header传递给下游服务

@Component

public class TraceFilter extends ZuulFilter {

    @Autowired

    private TraceProperties traceProperties;

    @Override

    public String filterType() {

        return FilterConstants.PRE_TYPE;

    }

    @Override

    public int filterOrder() {

        return FORM_BODY_WRAPPER_FILTER_ORDER - 1;

    }

    @Override

    public boolean shouldFilter() {

        //根据配置控制是否开启过滤器

        return traceProperties.getEnable();

    }

    @Override

    public Object run() {

        //链路追踪id

        String traceId = IdUtil.fastSimpleUUID();

        MDC.put(CommonConstant.LOG_TRACE_ID, traceId);

        RequestContext ctx = RequestContext.getCurrentContext();

        ctx.addZuulRequestHeader(CommonConstant.TRACE_ID_HEADER, traceId);

        return null;

    }

}

下游服务增加spring拦截器

接收并保存traceId的值拦截器

public class TraceInterceptor implements HandlerInterceptor {

    @Override

    public boolean preHandle(HttpServletRequest request, HttpServletResponse response, Object handler) {

        String traceId = request.getHeader(CommonConstant.TRACE_ID_HEADER);

        if (StrUtil.isNotEmpty(traceId)) {

            MDC.put(CommonConstant.LOG_TRACE_ID, traceId);

        }

        return true;

    }

}

注册拦截器

public class DefaultWebMvcConfig extends WebMvcConfigurationSupport {

  @Override

  protected void addInterceptors(InterceptorRegistry registry) {

    //日志链路追踪拦截器

    registry.addInterceptor(new TraceInterceptor()).addPathPatterns("/**");

    super.addInterceptors(registry);

  }

}

下游服务增加feign拦截器

继续把当前服务的traceId值传递给下游服务

public class FeignInterceptorConfig {

    @Bean

    public RequestInterceptor requestInterceptor() {

        RequestInterceptor requestInterceptor = template -> {

            //传递日志traceId

            String traceId = MDC.get(CommonConstant.LOG_TRACE_ID);

            if (StrUtil.isNotEmpty(traceId)) {

                template.header(CommonConstant.TRACE_ID_HEADER, traceId);

            }

        };

        return requestInterceptor;

    }

}

解决父子线程传递问题

主要针对业务会使用线程池(异步、并行处理),并且spring自己也有@Async注解来使用线程池,要解决这个问题需要以下两个步骤

重写logback的LogbackMDCAdapter

由于logback的MDC实现内部使用的是ThreadLocal不能传递子线程,所以需要重写替换为阿里的TransmittableThreadLocal

TransmittableThreadLocal 是Alibaba开源的、用于解决 “在使用线程池等会缓存线程的组件情况下传递ThreadLocal” 问题的 InheritableThreadLocal 扩展。若希望 TransmittableThreadLocal 在线程池与主线程间传递,需配合 TtlRunnable 和 TtlCallable 使用。

TtlMDCAdapter类

package org.slf4j;

import com.alibaba.ttl.TransmittableThreadLocal;

import org.slf4j.spi.MDCAdapter;

public class TtlMDCAdapter implements MDCAdapter {

    /**

    * 此处是关键

    */

    private final ThreadLocal<Map<String, String>> copyOnInheritThreadLocal = new TransmittableThreadLocal<>();

    private static TtlMDCAdapter mtcMDCAdapter;

    static {

        mtcMDCAdapter = new TtlMDCAdapter();

        MDC.mdcAdapter = mtcMDCAdapter;

    }

    public static MDCAdapter getInstance() {

        return mtcMDCAdapter;

    }

其他代码与ch.qos.logback.classic.util.LogbackMDCAdapter一样,只需改为调用copyOnInheritThreadLocal变量

TtlMDCAdapterInitializer类用于程序启动时加载自己的mdcAdapter实现

public class TtlMDCAdapterInitializer implements ApplicationContextInitializer<ConfigurableApplicationContext> {

    @Override

    public void initialize(ConfigurableApplicationContext applicationContext) {

        //加载TtlMDCAdapter实例

        TtlMDCAdapter.getInstance();

    }

}

扩展线程池实现

增加TtlRunnable和TtlCallable扩展实现TTL

public class CustomThreadPoolTaskExecutor extends ThreadPoolTaskExecutor {

    @Override

    public void execute(Runnable runnable) {

        Runnable ttlRunnable = TtlRunnable.get(runnable);

        super.execute(ttlRunnable);

    }

    @Override

    public <T> Future<T> submit(Callable<T> task) {

        Callable ttlCallable = TtlCallable.get(task);

        return super.submit(ttlCallable);

    }

    @Override

    public Future<?> submit(Runnable task) {

        Runnable ttlRunnable = TtlRunnable.get(task);

        return super.submit(ttlRunnable);

    }

    @Override

    public ListenableFuture<?> submitListenable(Runnable task) {

        Runnable ttlRunnable = TtlRunnable.get(task);

        return super.submitListenable(ttlRunnable);

    }

    @Override

    public <T> ListenableFuture<T> submitListenable(Callable<T> task) {

        Callable ttlCallable = TtlCallable.get(task);

        return super.submitListenable(ttlCallable);

    }

}

场景测试

测试代码如下

api网关打印的日志

网关生成traceId值为13d9800c8c7944c78a06ce28c36de670

请求跳转到文件服务时打印的日志

显示的traceId与网关相同,这里特意模拟发生异常的场景

ELK聚合日志通过traceId查询整条链路日志

当系统出现异常时,可直接通过该异常日志的traceId的值,在日志中心中询该请求的所有日志信息

源码下载

附上我的开源微服务框架(包含本文中的代码),欢迎 star 关注

https://gitee.com/zlt2000/microservices-platform

源网络,版权归原创者所有。如有侵权烦请告知,我们会立即删除并表示歉意。


更多技术,欢迎关注下方公众号

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,457评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,837评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,696评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,183评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,057评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,105评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,520评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,211评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,482评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,574评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,353评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,897评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,489评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,683评论 2 335

推荐阅读更多精彩内容