rocketmq消息轨迹调研

背景

可靠性和可用性是每个mq系统最重要的两个特征。虽然成熟的mq对这两个特性支持的很好,但是mq仍然需要一些其他的手段去确保一个消息的整条链路没有问题。通过一些方法,我们应该看到一个消息的完整链路并且迅速找到消息处理过程中失败的根源问题。
所以RocketMQ 支持消息轨迹跟踪的特性,我们能轻松的找到和分析息处理过程中失败的根源问题。并且我们能查到很多参数的值,比如消息发送耗时,消息消费耗时,broker端存储时间等等。

设计架构

架构包括两个部分,存储端和客户端收集

生产者消费者的多线程模式和阻塞队列

在客户端,对于生产者,我们能收集信息(比如,发送和消费消息耗费的时间,对应broker存储时间,对应broker的ip等等)并且把信息放入阻塞队列。对于消费者,使用一个叫做MQ-AsyncArrayDispatcher的线程从阻塞队列去把消息轨迹跟踪的信息取出。然后这个异步的线程(MQ-AsyncArrayDispatcher)把消息的轨迹跟踪打包作为AsyncAppenderRequest 任务提交给线程池执行。
最后,AsyncAppenderRequest task主要的执行过程是把从客户端收集到的轨迹跟踪信息发送到一个特殊的broker 节点上。

实现两个hook

包括“SendMessageHook/ConsumeMessageHook”,用这两个雷我们能够在发布和订阅消息的前后收集到消息的轨迹跟踪数据。

新定义一个特殊的broke节点去存储消息轨迹跟踪数据

在一个集群中我们能定义一个特殊的broker服务节点去存储消息轨迹跟踪的数据。我们在broker.properties文件中,能够加一个flag(比如autoTraceBrokerEnable)去定义这个broker是否是一个用来存储消息轨迹跟踪数据的特殊节点。

  • autoTraceBrokerEnable is false。表明这个broker 是一个普通的节点,然后"Trace_Topic”将不去建立在这个节点上。并且正常的消息还会正常处理。
  • autoTraceBrokerEnable is true。表明broker是一个特殊的节点,它是特别用来存储消息轨迹跟踪数据的。并且"Trace_Topic"在broker开始阶段自动创建,这个节点自动在nameserver注册 它拥有的topic集合(包括Trace_Topic)。这样,在一个RocketMQ 集群中,仅仅有一个特殊的broker节点去存储消息轨迹跟踪数据。并且客户端(包括发布和订阅消息)会通过nameserver知道那个broker节点是负责收集消息轨迹跟踪数据的,并发送。

如何查询轨迹跟踪数据?

举个例子,保存消息轨迹跟踪数据的topic被称作"RMQ_SYS_TRACE_DATA_XXX”而不是普通消息的topic。但是仍然用普通消息查询方式(通过messageId + topic,topic+ key or topic实现)通过RocketMQ console查询是不可行的,查不到我们期望的结果。所以,当发送被客户端收集的消息轨迹跟踪数据时,我们能通过使用普通消息的msgId(不是offset MsgId) 或key去填充消息轨迹跟踪数据的keyset 属性,所以Broker端能够根据普通消息的msgId或key去创建索引文件。
并且在broker端,我们能够通过业务进程调用QueryMessageProcessor去调用broker端的queryMessage() 方法。

源码分析

接口的设计和变化

  • 数据传输的异步接口:增加AsyncDispatcher 类
public interface AsyncDispatcher {

    void start() throws MQClientException;

    boolean append(Object ctx);

    void flush() throws IOException;

    void shutdown();    
    }
  • 定义两个hook的实现:
    a.ClientSendMessageTraceHookImpl
    b.ClientConsumeMessageTraceHookImpl
  • 定义和写了对应的数据模型:
    a.TraceBean
    b.TraceConstants
    c.TraceContext
    d.TraceDataEncoder
    e.TraceDispatcherType
    f.TraceTransferBean
    g.TuxeTraceType
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,519评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,842评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,544评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,742评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,646评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,027评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,513评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,169评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,324评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,268评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,299评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,996评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,591评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,667评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,911评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,288评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,871评论 2 341

推荐阅读更多精彩内容