结构化数据传输协议:json与protobuf

跨平台的结构化数据传输协议一般情况下关注三要素和三件事:

  • 三要素
  1. protocal
  2. 数据
  3. API
  • 三件事
  1. 协议编译
  2. 序列化
  3. 反序列化

以下三种协议按照以上要素进行介绍

json(javascript object notation)

  • 三要素
  1. protocal:面向javascript,使用eval()自动转换成远程的对象,面向其他语言需要自己编写model并解析
  2. 数据:包含多种数据类型,对象(字典表示法),数组(同质化元素集合),string(基本类型,可以用来作为键或者值),nil(空)等
  3. API:引入json的包,可以提供建立json对象,读入(从网络或者本地)json数据,写出(网络或者本地)json数据的接口,并且提供显式类型转换的接口
  • 三件事
  1. 协议编译:不经过特殊编译,除非针对特定语言产生了特定的转换接口,传输的是文本数据,所以是自描述型的,发送方和接收方事先约定好传输数据的格式
    2 序列化:发送方将对象数据手动写入json对象中,由json库自动完成序列化工作
    3 反序列化:接受方读出json数据,然后使用json接口获取相应数据写入对象
  • 特性
  1. 因为拥有自描述性,并且以文本方式传输数据,所以可扩展,可编辑
  2. 拥有良好的跨平台和跨语言特性(提供不同的库)
  3. 使用范围较广,支持的应用场景较为丰富,灵活的语法可以传输更广泛的数据
  4. 文本传输,没有经过压缩,并且带有一定的格式扩展,效率比XML优,比protobuf差

注意:不同的json库对数据的处理方式不一样,cjson采用深度拷贝的方式,所以记得销毁数据,而在某些优化场景下是采用浅层拷贝的方式,此时记得考虑数据变动的协同性。

protobuf的概念

  • 三要素:
  1. 协议:编写proto文件,类似于java和c++的类定义,但是更具有通用性(提供各种面向语言的编译库),并且采用编号预处理
  2. 数据:提供更加丰富的数据类型,基本可以和高级语言一一对应
  3. API: 根据平台提供各种数据处理的api,同时根据proto文件产生特定的api
  • 三件事
  1. 协议编译:编写proto文件,编译器自动编译,产生特定语言的类型
  2. 序列化:一切建立在proto生成的类型之上,建立对象,采用数组形式或者api方式写入数据,由库直接序列化成二进制文件,所以相关数据不可编辑;
  3. 反序列化:读入对象,直接使用(良好的类型匹配)

protobuf的特性

  • protocol buffers 是一种语言无关(协议的跨语言编译)、平台无关(跨平台编译)、可扩展(可以在proto里面改变类型信息,同时采用动态编译的方式支持无痕扩展)的序列化结构数据的方法,它可用于(数据)通信协议、数据存储等。

  • Protocol Buffers 是一种灵活,高效,自动化机制的结构数据序列化方法-可类比 XML,但是比 XML 更小(3 ~ 10倍)、更快(20 ~ 100倍)、更为简单。

  • 你可以定义数据的结构,然后使用特殊生成的源代码轻松的在各种数据流中使用各种语言进行编写和读取结构数据。你甚至可以更新数据结构,而不破坏由旧数据结构编译的已部署程序。

protobuf的语法

  • 将字符串键值编成整形号,提高传输效率,1-15占用一个字节,大于15占用2个字节
  • proto文件格式:类似于python
    语法规则:syntax "proto3";
    在文件开头定义一个:package 文件名;
    引入其他文件:import 文件名;
    可选字段:option 参数=xxx
    使用枚举定义常量:enum {
    XXX=xxx;
    }
    结构体字段(定义一个类型,并给数据成员做编号):message name{

}
最后proto文件会被编译成相应语言的二进制文件

  • pb文件编写

数据类型的对应

image.png

序列化和反序列化本身不关注数据的传输,但是网络传输的时候,只有拿到整个序列化后的数据,才能解析出对象,所以需要设计协议包括:header(根据不同的对象封装相应的规则,proto),主体

image.png

image.png

protobuf的不足

  • 语义简单,不能提供复杂数据格式,比如XML能够定义的标准形式,XML解析器更加复杂
  • 不能对基于文本的标记文档进行建模,一般用于数据结构的建模上面(而文本不适合描述数据结构)
  • 数据结构二进制化,没法直接编辑

高级技术

动态编译
  • 在一些无法获取已知proto语义的网络中间件中,需要动态的去编译proto文件,这大大提高了protobuf做为结构化数据网络传输的通用性
关于性能的一些细节
  • protobuf的数据编码方式
    数据单元编码协议:对于每一个字节,它的第一位用来标志下一个字节是不是属于当前数据. 所以单字节可以用来表示128以下的数字,以此类推。
    符号码(key-value):每一个符号码被编码成key-value这两个数据单元
    key用来标定value的范围:key=(field_number<<3)|wire,其中field_number为proto中对每一个数据域的编号,wire指以下六种类型


    image.png

    对于负数采用zigzag编码:


    image.png

    封解包的速度:
    首先我们来了解一下 XML 的封解包过程。XML 需要从文件中读取出字符串,再转换为 XML 文档对象结构模型。之后,再从 XML 文档对象结构模型中读取指定节点的字符串,最后再将这个字符串转换成指定类型的变量。这个过程非常复杂,其中将 XML 文件转换为文档对象结构模型的过程通常需要完成词法文法分析等大量消耗 CPU 的复杂计算。
    反观 Protobuf,它只需要简单地将一个二进制序列,按照指定的格式读取到 C++ 对应的结构类型中就可以了。从上一节的描述可以看到消息的 decoding 过程也可以通过几个位移操作组成的表达式计算即可完成。速度非常快。
    image.png

references
google官方文档

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,242评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,769评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,484评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,133评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,007评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,080评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,496评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,190评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,464评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,549评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,330评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,205评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,567评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,889评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,160评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,475评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,650评论 2 335

推荐阅读更多精彩内容

  • 本文转自刘明的分享。原文 简介 什么是 Google Protocol Buffer? 假如您在网上搜索,应该会得...
    那样风采阅读 1,569评论 0 1
  • 之前在网络通信和通用数据交换等应用场景中经常使用的技术是 JSON 或 XML,而在最近的开发中接触到了 Goog...
    401阅读 499,044评论 25 379
  • 美与丑是,一念之差。人们可望美好事物,让人能感受到,生命可贵,人生美丽,人与人之间,互相信任,和温暖,促进社会和谐...
    一切美好阅读 817评论 5 27
  • 1三元运算符将自身赋值给一个变量。 逻辑运算符也有选择的功能。 通过条件2选1赋值的时候,三元运算符比if语句更加...
    浅兮浅兮阅读 178评论 0 0
  • 莫叹夜雨喇叭声,变化错愕常相应。电驴拖步推沉幕,何妨?长歌舞袖雨淋淋。
    谦震阅读 157评论 0 0