论文阅读:MV-Sketch: A Fast and Compact Invertible Sketch for Heavy Flow Detection in Network Data Str...

摘要:

由于对快速分组处理的严格要求和有限的资源,快速检测大量网络流量中的大流量具有挑战性。

可逆sketch是摘要数据结构,可以用较小的内存占用空间有限的错误来恢复繁重的数据流,但是现有的可逆sketch会导致较高的内存访问开销,从而导致性能下降。

我们介绍了MV-Sketch,这是一种快速而紧凑的可逆sketch,它支持使用少量和静态内存分配进行大流量检测。 MV-Sketch通过主票选的思想跟踪sketch数据结构内部的候选heavy流,从而在更新和查询操作中都以较小的内存访问开销,同时实现了较高的检测精度。

我们对MV-Sketch的内存使用,性能和准确性进行了理论分析。跟踪驱动的评估表明,MVSketch比现有的可逆sketch具有更高的精度,吞吐增益高达3.38倍。我们还将展示如何使用SIMD指令提高MV-Sketch的性能。

背景/问题:

识别大量网络流量中流量的异常模式对于各种网络管理任务至关重要。两种特殊类型的异常流量特别令人关注:heavy hitterheavy changer。通过识别异常流量,网络运营商可以快速响应性能异常,行为不当的使用情况和潜在的DDoS攻击,从而维护网络稳定性和QoS保证。

不幸的是,对快速分组处理的严格要求和有限的存储器可用性对实际的大流量检测提出了挑战。首先,大流量检测的数据包处理速率必须与不断提高的网络速度保持一致,特别是在流量突发或攻击发生的最坏情况下。另外,实践中限制了可用的内存占用量

经典sketch被证明是有效的,但它们是不可逆的:尽管我们可以查询sketch特定的流量是否为重流量,但我们无法轻易地仅从sketch中恢复所有重流量数据结构本身。

我们探索可逆sketch,希望提供了与经典sketch相同的可证明误差范围,同时支持了恢复所有重流量的查询。但是,现有的可逆sketch仍然存在限制。特别是,它们要么在基于外部DRAM的数据结构中保持大量流,要么在较小尺寸的位或子密钥中跟踪流密钥。

我们认为,这两种方法都会导致大量的内存访问开销,从而导致处理性能下降

解决办法:

我们介绍了MV-Sketch,这是一种用于大流量检测的快速紧凑的可逆sketch。它以sketch数据结构跟踪候选重流密钥和计数器,并以在线流方式基于主票选算法更新候选重流密钥。

MV-Sketch的主要设计特征是,它以较小的静态内存分配(即不需要动态内存分配)维护草图数据结构。这允许在更新和检测操作中进行轻量级的内存访问,并为硬件加速提供了可行的机会。

实现细节:

像Count-Min Sketch一样,MV-Sketch初始化为存储桶的二维数组,其中每个存储桶跟踪散列到其自身的流的值。

为了找到每个存储桶中的候选重流量,我们应用了主票选算法(MJRTY),该算法使我们能够以在线流方式跟踪候选重流量。

在任何时候,它都存储(i)流中到目前为止观察到的候选多数票,以及(ii)跟踪当前存储的投票是否仍为候选多数票的指示计数器。

最初,它存储第一票,并将指标计数器初始化为1。每当新的投票到达时,MJRTY都会将新的投票与候选多数票进行比较。如果两个投票相同(即,相同的投票键),则将指标计数器加一;否则,它会将指标计数器减一。如果指标计数器小于零,则MJRTY将当前的候选多数票替换为新票,并将计数器重置为一。



上图显示了MV-Sketch的数据结构,它由具有r行和w列的存储桶的二维阵列组成。

MV-Sketch支持两个基本操作:更新,它将每个传入数据包插入到sketch中 。查询,它返回一个时期中给定流的估计总和。



最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,393评论 5 467
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,790评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,391评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,703评论 1 270
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,613评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,003评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,507评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,158评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,300评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,256评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,274评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,984评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,569评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,662评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,899评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,268评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,840评论 2 339