绿盟SecXOps安全智能分析技术白皮书

环境迁移

Platfor
m Ops for AI 作为整合了 DataOps、MLOps、ModelOps 的复杂技术平台,在项目开发时仅使用一套系统无法支撑平台的稳定搭建,往往需要开发系统、集成测试系统、正式
环境系统在项目生命周期
中协作配合。将表、索引、并发程序、配置内容等资源从源环境迁移到另一个目标环境的过程就叫做环境迁移。

技术背景

发生迁移的环境一般包括开发环境、测试环境、生产环境 [24]。
开发环境:产品的配置可以在开发环境中进行变更。对于迁移过程,开发环境一般只作
为源环境。
测试环境:测试环境包含了生产环境中所有业务的应用程序和配置变更。将开发环境中
的资源迁移到测试环境中测试配置变更执行。测试环境既可以作为源环境也可以作为目标环
境。
生产环境:测试应用程序满足需求后,将应用程序和配置内容迁移到生产环境中。生产
环境一般只作为目标环境。
在环境迁移过程中,首先需要对源环境的资源进行拷贝,因此需要结合容器的镜像存储
功能。Docker registry 提供后端镜像存储服务,在迁移之前为了确认迁移后没有发生镜像丢
失的现象,先获取一份 Docker registry 中的镜像列表,接着采用复制镜像或是复制 registry
存储目录等方法,完成从源环境到目标资源的迁移工作。

思路方案

和数据集的共享类似,SecXOps 也支持项目代码的共享。团队开发过程中可以随时从
gitlab 上下载或同步代码,用户正在编辑的代码也会存储在 PVC 中,挂载到一个正在运行的
供用户在线编程的 pod 上。
容器的环境迁移需要通过封装镜像来实现。Docker 封装镜像有两种方式,docker
commit 和 docker build。使用 docker commit 可以很方便地制作镜像,然而这种方式对于镜
像的使用者是完全未知的,使用者无法获取封装时对镜像做了哪些修改。同时这种修改是永
久性的,如果新的使用者使用该镜像创建容器修改之后继续使用 docker commit,将会导致
整个镜像越来越臃肿。而通常的 Docker 镜像是多层存储的,每一层都是在前一层的基础上进
行的修改,容器以镜像为基础,同样是多层存储,因此,如果可以把每一层操作的命令都写
入一个脚本,用这个脚本来制作镜像,上述问题将不再存在。这种方式即是使用 Dockerfile
进行 docker build。Dockerfile 是一个用来构建镜像的文本文件,文本内容包含了构建镜像所
需的指令和说明。一个简单的 Dockerfile 示例如下图所示,通过类似的文件进行 build 即可将
环境进行复制。
Se用户在 SecXOps 平台上所开发的算法按照用户预先设定好的类型标签可以分为数据预处
理、特征提取、模型训练、超参调优等多种类型。当某个项目所使用到的算法性能优越时,
用户可以选择将其公开展示,此时 SecXOps 会检测对应的项目版本内是否有 Dockerfile,如
果有,则会在当前 Node 上根据该 Dockerfile 创建一个镜像,镜像内只包含用户的开发环境,
数据和代码会分别创建一个 Job,复制出一个新的 PVC。镜像创建成功后,SecXOps 会观测
当前项目所在的 Node 的资源是否充足,当 CPU、内存资源充足时,优先选择在该 Node 节
点上按照封装好的镜像创建一个容器,供用户进行开发,当 CPU、内存资源不充足或需要使
用 GPU 资源时,SecXOps 会将该镜像 push 到专为 SecXOps 平台搭建的 Harbor 服务中,随
后按照一定的策略挑选一个 Node 节点,将镜像从 Harbor 中拉取下来并创建 Pod。该 Pod
在启动时挂载数据和代码对应的 PVC,实现一键式的数据、代码以及开发环境的环境迁移。

整体流程如下图所示
在这里插入图片描述

参考资料

绿盟SecXOps安全智能分析技术白皮书

友情链接

GB-T 25067-2020 信息技术 安全技术 信息安全管理体系审核和认证机构要求

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 201,312评论 5 473
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,578评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 148,337评论 0 333
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,134评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,161评论 5 363
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,303评论 1 280
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,761评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,421评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,609评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,450评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,504评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,194评论 3 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,760评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,836评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,066评论 1 257
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,612评论 2 348
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,178评论 2 341

推荐阅读更多精彩内容