,SecXOps 平台打通 AI 安全分析引擎的开发

应用方案
不同于规则引擎,AI 模型本身具备自主学习和自我更新的能力,AI 模型能够根据当前数
据的变化,不断学习调整模型参数,实现自我更新进化。
为了减少 AI 安全分析引擎运营过程中的繁琐流程,实现分析引擎的自动化
运营,提高运营效率,SecXOps 平台打通 AI 安全分析引擎的开发、测试、部署及后续运营流程,尤其对
于 AI 安全分析引擎的运营维护,SecXOps 平台基于 AI 模型的自主学习特性,通过采用 AI 模
型增量学习及重新训练等措施,实行 AI 模型自动迭代升级,形成 AI 安全分析引擎的运营闭
环。既解决现有 AI 模型性能退化问题,也减少 AI 模型优化升级过程中繁琐的人力沟通过程,
降低人力沟通成本,提升 AI 安全分析引擎的运营效率。AI 安全分析引擎运营的具体应用方案
如下图所示

在这里插入图片描述

  1. AI 安全分析引擎开发
    SecXOps 平台提供 AI 安全分析引擎的开发环境,AI 安全分析引擎的开发遵循一般应用
    中 AI 模型的开发流程。针对常见的 SQL 注入、XSS 攻击、远程命令执行等 Web 攻击的检测,
    属于监督学习任务,AI 安全分析引擎开发人员针对分析引擎的实际业务场景,收集需要检测
    的 Web 攻击数据以及业务场景中的正常业务数据,构建丰富的数据集,完成数据集清洗、数
    据集打标签等前期工作。依据选择 AI 模型的不同,进行适配的数据预处理进行特征提取,如
    原始数据统计特征提取、利用神经网络进行数据高维特征提取、利用注意力机制提取数据注
    059
    SecXOps 典型应用场景
    意力分布等。基于提取的数据特征,构建初始 AI 模型,并进行 AI 模型训练,对于收敛的 AI
    模型,开发人员采集测试数据,利用 SecXOps 提供的测试功能进行 AI 模型的性能测试,生
    成鲁棒的 AI 模型。针对未知类型 Web 攻击的检测,常采用自编码器、聚类等算法,对于聚
    类算法,前期不需要对 Web 攻击数据集打标签,利用 SecXOps 平台训练聚类模型并进行模
    型测试,生成鲁棒的聚类模型,实现未知类别 Web 攻击的检测。
  2. AI 安全分析引擎部署
    SecXOps 平台提供模型发布功能,模型开发者
    将训练好的成熟 AI 模型及其数据预处理模块、模型推理服务模块共同打包发布,WAF 等设备的开发人员将发布的 AI 安全分析引擎嵌
    入到 WAF 等 Web 安全防护设备中,与其他规则引擎、语义引擎融合,形成联合防御系统,
    降低 WAF 等设备的误报及漏报情况,提升防护设备抵御各种类型 Web 攻击的能力。
    目前的 AI 安全分析引擎与规则引擎、语义引擎的融合有多种方式,目前常用的融合方式
    为串接融合。串接融合将 AI 安全分析引擎、规则引擎、语义引擎以串联的方式进行部署,每
    个分析引擎的部署位置由各分析引擎的防护重点及实际业务场景的特点决定,后接的分析引
    擎对前一个分析引擎的告警结果进行分析,在尽可能低耗时的情况下,保证整个联合防御系
    统对于 Web 攻击的防御能力。除了串接融合,分析引擎还可采用并接融合的方式,流量数据
    将分别经过三个分析引擎进行检测,经过多分析引擎的共同研判,确定该条数据为正常业务
    数据还是 Web 攻击数据,并接融合可以提高 WAF 设备检测准确率,但会增加时间开销。
  3. AI 安全分析引擎运营
    对于嵌入 WAF 等安全防护设备的 AI 安全分析引擎,需要安全运营
    人员对其进行持续的运营维护。SecXOps 平台提供 AI 模型参数自动更新功能,当 AI 安全分析引擎在生产环境中
    出现大量正常业务误报,影响 Web 站点正常使用,或者出现大量 Web 攻击数据漏报情况,
    检测能力下降时,安全运营人员通过 AI 模型参数自动更新功能进行 AI 安全分析引擎的优化
    升级。在生产环境中安全运营人员采集疑似 Web 攻击误报漏报的数据,利用 SecXOps 内置
    的聚类模型进行数据的初步打标签,并通过专家知识的辅助对聚类结果进行分析验证、清洗
    数据、生成数据的准确标签,以及构建数据集。基于构建的数据集与 AI 模型,在 SecXOps
    平台创建 AI 模型参数更新任务,配置数据集、模型及运行参数,即可进行 AI 模型的参数更
    新。对于训练表现好的模型,需要通过模型测试才能进行模型发布。模型测试目前有两种方
    式:第一种,在生产环境中采集数据,利用 SecXOps 平台的模型测试功能进行测试;第二种,
    对于训练好的模型,在生产环境中进行旁路部署,在不影响业务环境的情况下进行模型检测
    SecXOps 安全智能分析技术白皮书
    060
    能力的测试。对于通过模型测试的 AI 模型进行模型发布,并对设备中的原 AI 模型进行替换,
    完成 AI 安全分析引擎的迭代升级

参考资料

SecXOps 安全智能分析技术白皮书

友情链接

GB-T 31495.1-2015 信息安全技术 信息安全保障指标体系及评价方法 第1部分:概念和模型

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 201,468评论 5 473
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,620评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 148,427评论 0 334
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,160评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,197评论 5 363
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,334评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,775评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,444评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,628评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,459评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,508评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,210评论 3 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,767评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,850评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,076评论 1 258
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,627评论 2 348
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,196评论 2 341

推荐阅读更多精彩内容