游戏开发-协议-protobuf原理详解

如果你有看过上一篇《游戏开发-协议设计-protobuf》,就会了解到prtobuf的what和how,那么这一篇主要分析一下why的问题,protobuf为何解析速度快,占用空间小,以及兼容性好,它是如何做到的,我们将从 占用空间,解析速度,兼容三个问题着手进行分析。

上一篇发出后也有同学留言,说直接二进制read和write比protobuf会节省空间,某种程度上他说的对,但是需要在极端条件下才成立,一般情况下protobuf 还是比二进制序列化节省空间的,具体为何,以下会详细介绍。

占用空间

一条消息数据,用protobuf序列化后的大小是json的10分之一,xml格式的20分之一,是二进制序列化的10分之一(极端情况下,会大于等于直接序列化),总体看来ProtoBuf的优势还是很明显的。那么protobuf是如何做到的,我们主要从以下4个方面进行分析。

1、数据紧凑

相对于json或者xml,protobuf没有定义标签,直接生成的二进制,令消息非常紧凑,这个和我们直接定义消息,然后顺序解析二进制数据相似。期间没有多余的数据。

一个message的信息结构如下:

每个field由一个tag和value组成,每个field之间在字节流中紧密相连,这意味着消息的信息没用冗余,保持最紧凑的样子。

2、剔除无效字段

剔除无值字段一般json和xml这种标签式结构数据在序列化的时候也会处理,同样protobuf也做了处理。我们先看一下一个常规定义的的二进制信息:


此种常规定义,可以对数据顺序写入,然后再顺序读取,也支持数据的序列化。但会带来一个问题,某些字段没有赋值的情况下,不得不传一个默认值。比如field3的值是一个int,占位4个字节。如果client的field2没有赋值,而不写入一个默认值(比如0),那么server解包就会偏移量就会出错,最终整个包的数据读不出。

protobuf 是如何解决这个问题,因为它引入了tag。

我们看下tag的组成。

tag是由:fieldNumber和wireType组成,fieldNumber定义字段的标识位,以此来处理写入和读取顺序,wireType定义字段类型,以此来定义单个field的占用字节大小。

wireType 可以支持的类型如下:

我们看下每个的field解析方式:

读取field的时候,先读取tag,然后基于tag知道value的数据类型,获取value。write也一样,单个field的写入也是先写入tag再写入value。

因为每个field都定义了tag,如若field没有赋值,编码的时候它的tag不会被写入流中,相应也不会有它的value,如此解析期间因为没有此字段的tag,可以直接无视,读取其他field。如此去除无效字段之后,可以有效的节省空间。

比如上述的常规定义的的二进制信息,在field2没有赋值的情况下,protobuf可以如此处理。

3、Varints & Zigzag

Varints

我们在上面的wireType中也看到有一种Varint类型的field定义,这是要说第三个特点。

Varint 是一种紧凑的表示数字的方法。它用一个或多个字节来表示一个数字,值越小的数字使用越少的字节数。这能减少用来表示数字的字节数。我们看下它的算法:

我们知道, int32数据类型 ,一般需要4 个 字节 来表示,采用 Varint编码之后,对于很小的 int32 类型的数字,比如小于127的,则可以用 1 个 字节 来存储,小于255的2个字节来存储,依次类推,最优占用字节的大小。当然这也有不好的一面,采用 Varint 表示法,太大的数字则需要 5 个 byte 来表示。不过一般不会所有的消息中的数字都是大数,而且大数的概率比较低,所以大多数情况下,采用 Varint 后,可以用更少的字节数来表示数字信息。

ZigZag

我们知道有符号的整型数值,因为采用的是补码,所以一个负数会比正数占用的字节多,比如-1,二进制结构是11111111 11111111 11111111 11111111,如果我们还是采用 Varint 表示一个负数,那么需要 5 个 byte。为此 protobuf 定义了 sint32 ,采用 zigzag 编码。

我们看下zigzag的算法:

Zigzag 编码用无符号数来表示有符号数字,正数和负数交错,无论正负都可以采用较少的 byte 来表示。

4、字符串

一般单个字符串的定义,需要两个部分组成:leg+value ,如下图所示:

leg 表示字符串数据的长度,value是字符串真实数据,protobuf里面这个leg 采用Varint定义,一般情况下一个字节足够了。

解析速度

解析速度快,主要归功于protobuf对message 没有动态解析,没有了动态解析的处理序列化速度自然快了。就比如xml ,获取文件之后,还需要解析标签、节点、字段,每一个都需要遍历,而protobuf不需要,直接将field装入流。

我们知道.proto文件定义了整个message的结构,但这只是一个定义的配置文件,结合compiler的使用,单个message的read和write代码已经被生成,无需再基于配置文件解析,直接操作field到二进制流里面,这个速度就好比你直接操作IO一样快,没有其他代价。

我们看下生成的message代码(还是LoginMsg)

write

read

我们看到,read的代码中tag的生成(转换为int)也已经帮你处理,所以都是基于流直接操作。

兼容性

兼容性什么意思,就是说message需要支持向上兼容,不能说单个message的升级,就会导致old message解析出错,这是我们不能忍受的,开发过程中,需求总变,谁都无法保证协议不会有变更。

比如这种场景下:message 需要增加一个字段,如若client没有升级,sever升级了,此时client 请求的message格式必定是old 格式,server 采用的new message来解析,此时会出现找不到新字段的问题,流数据错乱之后,后续的数据都会乱。

那么protobuf是如何处理?这时候fieldNumber就派上用途了,看似可又可无的设计,其实包含很大用处。

fieldNumber 为每个field定义一个编号,其一保证不重复,其二保证其在流中的位置。如若当前数据流中有某个字段,而解析方没有相关的解析代码,解析放会直接skip 吊这个field,而且读数据的position也会后移,保证后续读取不出问题。

如上,线读取tag,某个字段没有被赋值,就没有这个字段的tag,解析方不处理,如若有某个字段,而没有解析方法,就skip了,不影响消息的处理。老数据依然被获取。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容