GitLab+Jenkins实现持续集成+自动化部署

一.自动化上线代码基本介绍

1.软件开发生命周期

老板创意---产品经理---立项---开发团队---测试团队(黑白盒)---运维上线
产品经理---加需求---开发团队---测试团队---运维更新代码上线

2.什么是环境?

开发环境:开发自己用的电脑本地自己装的php python的开发工具等。
测试环境:多个人的代码合起来跑一遍,运行一次,测试mysql redis等。
预发布环境:直接连接线上数据库,专门的测试域名小范围内测试。
生产环境:线上环境 每个项目一套环境 (线下可以放一起配多域名 线上不行)。

3.什么是持续集成(CI)?

每天都进行一次代码合并,就是持续集成。
多个开发写的代码 集中起来管理 放到代码库里 (版本控制管理软件)代码库工具:svn git(多) 。(版本控制系统:类似于快照的增量备份的机制,也就是每一次版本更新,都会在原来的基础上保留变化的内容,生成一个新的版本,之前的版本也会被保留,以便快速回滚。)
每天都要做代码合并,防止冲突,在合并的时候会产生冲突,所以提交的时候有先后顺序,就是你先上传,然后我把你上传的拉过来和我的进行合并,排除冲突,然后我在上传到主分支。持续集成是一种软件开发实践,即团队开发成员经常集成他们的工作,通常每个成员至少集成一次,也就意味着每天可能会发生多次集成。每次集成都通过自动化的构建(包括编译、发布、自动化测试)来验证,从而尽快地发现集成错误。许多团队发现这个过程可以大大减少集成的问题,让团队能够更快的开发内聚的软件。

4.什么是持续交付?

开发首先进行单元测试---最后把所有代码放一起进行测试---代码质量检查。

5.什么是持续部署?

频繁的代码上线就是持续部署。

6.没有持续集成

项目做模块集成的时候,发现很多接口都不通==>浪费大量时间
需要手动去编译打包最新的代码==>构建过程不透明
发布代码,上线,基本靠手工==>脚本乱飞

7.持续集成最佳实践

维护一个单一的代码库
使构建自动化
执行测试是构建的一部分
集成日志及历史记录
使用统一的依赖包管理库
每天至少集成一次

二.jenkins基础使用

说明:如何安装Jenkins请参考文档:https://www.jianshu.com/p/343bdd43c82a
这里就省略安装。

1.登录Jenkins webUI界面创建一个项目
2.输入项目名称(free-job)并选择构建一个自由风格的软件项目
3.上面创建完成后跳转进来后进行配置,选择丢弃旧的构建(下面保持天数一般在5~7天即可)
4.接着上面选择构建,然后选择Execute Shell 来执行shell命令
5.既然能执行shell命令,那么我们执行一个pwd,看下默认的工作目录在哪里
6.上面保存后点击立即构建,就会在下面生成一个build history,(出现蓝色即表示正常,若红色即表示有问题)
7.构建完成,我们可以点击build ID下拉框选择Console Output 来查看详细信息
8.通过输出信息我们可以看到Jenkins默认的工作目录在 /root/.jenkins/workspace/(项目名称)
9.既然能执行shell命令,那么我们创建一个文件试试;返回工作台,点击配置
10.创建一个free.txt文件并保存
11.同上面一样,我们点击立即构建
12.同样查看构建后的控制台输出,可以看到构建成功
13.既然构建成功,那么我们进入服务器进行验证是否创建成功
[root@jenkins ~]# cd /var/lib/jenkins/workspace/free-job/
[root@jenkins /var/lib/jenkins/workspace/free-job]# ls
free.txt

三.GitLab+Jenkins自动化部署及更新

流程图如下:


说明:通过gitlab+Jenkins实现代码的自动更新同步代码到web服务器站点目录。此处示例后端web服务器使用nginx。
环境规划以及ip分配如下表:

注意:开发环境这里直接放在gitlab服务器上这里将git也部署在gitlab服务器上。git基本使用请参考:https://www.jianshu.com/p/96c4a6d0c587

3.1gitlab 配置

说明:首先在gitlab上面创建一个群组,并创建一个项目,将代码push 到代码仓库中(项目)。创建一个开发用户(用于提交代码等),同时在Jenkins服务器上面生成ssh秘钥并将key添加到新建用户的ssh认证下面。

1.登录gitlab点击项目,然后点击创建一个群组
2.点击新建群组
3.输入新建群组的相关信息并点击创建


4.新建一个项目


5.设置秘钥
[root@gitlab ~]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:WyI0C3MBpUdsAKQsDkEf99WmtCUvcXUoxWL+NgF2R0I root@gitlab
The key's randomart image is:
+---[RSA 2048]----+
|ooooo*+  .. =Eoo |
|.o. oo+..+ @ +o. |
|+. .+.=.. & = .  |
|+    * o + o .   |
| .    o S o . .  |
|       . +   +   |
|        .   . .  |
|                 |
|                 |
+----[SHA256]-----+
[root@gitlab ~]# cat .ssh/id_rsa.pub 
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABAQDnnyT5IRLN2AzknCPE3pLnLhH0Vq6jGJsYsjDaLKBQNkBD4coTMW47PJpjxL/pjwyV9KaQ3BuEqam8jQlpaDYUQVBK++0ALFAObGTyTPThRVKhW7X3kjSkInkwAZVj2dLdU0oIinzEuCjldhOe3BF2FYHRgcbnklEFIVpK3quTJbKxcF4h8SMbihRbXor0AIsOupWd0z2skqqvr4xSDNPAb4t+Ypd0MnGPRJYb8DTs+Ign+gn6L7a48RWqqIhBjVjgDLHiitMeEKA6FCS4cEHvcbHhXtrLswfF2ocA+mjfb5WGfP73d959fSPfvraRhhxXqBMqM309DmO3DGtS2e1j root@gitlab
6.塞key操作,方便源码上传下载
7.点击头像查看创建项目的结果

8.查看项目根据提示配置初始化

9.模拟开发建立git本地工作目录和本地仓库
#这里的源码使用的码云上源码,你可以自行下载使用即可。
[root@gitlab ~/yiliaoqixie]# git config --global user.name "Administrator"
[root@gitlab ~/yiliaoqixie]# git config --global user.email "admin@example.com"
[root@gitlab ~/yiliaoqixie]# git init
Initialized empty Git repository in /root/yiliaoqixie/.git/
[root@gitlab ~/yiliaoqixie]# git add .
[root@gitlab ~/yiliaoqixie]# git commit -m "第一次提交项目"
[root@gitlab ~/yiliaoqixie]# git remote add origin git@10.0.0.55:yiliao/yiliao.git
[root@gitlab ~/yiliaoqixie]# git push -u origin --all
10.查看上传的结果
11.点击设置选择新建用户
12.输入账号相关信息并点击创建用户

13.点击编辑,为上面新创建的用户设置密码
14.给这个账号设置密码并保存

15.将上面创建的用户添加到devops组中并给与开发者权限
16.找到刚刚创建的dev用户并给予开发人员权限,然后增加用户到群组

3.2Jenkins配置

1.在Jenkins的服务器上生成秘钥
[root@jenkins ~]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:Y/nVt2+ldZc+h4VrsormDhSXKj3ryP/LlLkpIU95xjA root@jenkins
The key's randomart image is:
+---[RSA 2048]----+
|                 |
|         .       |
|      . o        |
|     .E+ .   .   |
|    . ==S   . ..o|
|    .o+++= .  .oB|
|     +o++ .   .B+|
|   . oo+.+  . =o+|
|    o.o*X....+ .+|
+----[SHA256]-----+
[root@jenkins ~]# cat ./.ssh/id_rsa
id_rsa      id_rsa.pub  
[root@jenkins ~]# cat ./.ssh/id_rsa.pub 
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABAQCssc5KGRIvHV64Md3HR3SdT0w4twdrAIbxWSSo3tvfrauMdSk2ptmxvgzPqfGEQUgHfPsZY10eN0bpvaFARLBDytyRLbgdSo6gts+J0nGhy0hcjOhu4xJgygt8hN53UCUbdy7DhUnwxIfOuzENFYLS7ZW/Uk4N1FrNNuZK0X5aVNsV5r9H+fUeOfMJ4YLjLhFn6C94q4XmS9OfAW0aCSUfBbCT9LnRmeU/FoQMGdujBZ+Koc9289IVNHkVL+vEW6ZTxLPMEoRaB0RlLxfZF86LMsjsqx6ABBHNpV5FZWl0OYnnEn3jKHRNStfxx2g5Hz9e7eRguBubBis75OfHf2br root@jenkins
2.回到gitlab服务器上面使用maliu用户登录,然后点击头像选择设置
3.上面的设置点进来后,选择SSH 秘钥, 然后复制Jenkins服务器上生成的秘钥然后点击增加秘钥


4.新建任务

5.点击项目名称开始配置
6.选择源码管理,选Git,输入仓库URL地址(如果下方出现红色及表示出错了),然后选择保存
7.立即构建
8.查看构建信息
9.服务端查看
[root@jenkins /var/lib/jenkins/workspace/yiliao]# ls
about.html           article.html                         contact.html  index.html           product.html
album.html           Bootstrap医疗器械公司响应式网站模板  css           js
article_detail.html  comment.html                         images        product_detail.html

3.3实现自动部署

上面已经完成了Jenkins从gitlab上拉取代码,现在需要实现如何将源码自动部署到web服务器上,这里使用脚本的方式来实现,Jenkins支持执行脚本的功能。

1.在Jenkins服务器上面编写同步脚本,由于是通过脚本拷贝到web服务器的站点目录,所以需要先做一个ssh秘钥认证
[root@jenkins ~]# ssh-copy-id -i 10.0.0.7
[root@jenkins ~]# ssh-copy-id -i 10.0.0.8
[root@jenkins /server/scripts]# vim deploy.sh 
#项目目录
CODE_DIR=/var/lib/jenkins/workspace/yiliao/
#时间格式
DATE_TIME=`date +%Y-%m-%d-%H-%M-%S`
#打包后的名字
TAR_NAME=web-${DATE_TIME}.tar.gz
#web服务器站点目录的上一级 "/usr/share/nginx/html"
WEB_DIR=/usr/share/nginx/
#web服务器新建的站点目录名字
WEB_NEWDIR_NAME=web-${DATE_TIME}
#进入到项目目录上一级打包代码
cd $CODE_DIR && tar czf /opt/$TAR_NAME ./*
for i in {7,8}
do
#拷贝到web服务器的站点目录的上一级
    scp /opt/$TAR_NAME 10.0.0.${i}:$WEB_DIR
#连接web服务器进行解压压缩包到新的一个已时间命名的站点目录
    ssh 10.0.0.$i "cd $WEB_DIR && mkdir $WEB_NEWDIR_NAME && tar xf $TAR_NAME -C $WEB_NEWDIR_NAME"
#将新建的站点目录与html站点目录做一个软链接
    ssh 10.0.0.$i "cd $WEB_DIR && rm -rf html && ln -s $WEB_NEWDIR_NAME html"
    ssh 10.0.0.$i "cd $WEB_DIR && rm -rf $TAR_NAME"
    sleep 3
done
2.配置Jenkins,使用Jenkins调用部署脚本(此处写脚本全路径脚本名称)
3.立即构建
4.查看输出结果
5.测试访问结果

3.4自动更新

1.配置自动触发构建、需要设置安全令牌Secret token,进入项目选择配置,设置相关信息,然后生成token,复制token(需要填写到gitlab上面)和Build when a chang上面提示的URL地址( http://10.0.0.57:8080/project/yiliao

选择构建触发器,然后选择build when a change is ....,下方有个高级选项后然后选择Filter branches byname,然后输入master分支,再点击下面的Generate生成token,然后点击保存。


2.配置gitlab,添加token

点击项目→设置→设置→集成,然后输入Jenkins上面提示的URL地址和和生成的token,点击增加web钩子。


3.测试Web钩子

添加完钩子完成后可以测试,选择Push event,执行完会显示上面的提示。


4.上面已经配置完成,接下来就是测试,我们知道目前web服务站点访问得到结果如上面, 这里gitlab服务器下载的代码并进行修改,然后推送gitlab仓库。这里去除首页的右上角的English版本。

修改首页内容:


5.推送新的修改源码
[root@gitlab ~/yiliaoqixie]# git add .
[root@gitlab ~/yiliaoqixie]# git commit -m "第二次提交"
[master 4b8d377] 第二次提交
[root@gitlab ~/yiliaoqixie]# git push -u origin --all
6.测试访问

之前的结果如下图:



现在的结果:


3.5配置构建Jenkins返回构建状态gitlab

1.现在gotlab上面生成访问令牌token,点击用户处的设置
2.访问令牌——>输入名称——>选择范围为api——>创建个人访问令牌,将生成的令牌token复制
3.登录Jenkins———>选择系统管理——>选择系统设置——>选择Gitlab——>输入名字——>输入URL———>点击Add
4.上面点击Add进来后,kind处选择Gitlab API token,粘贴上面复制的token,自定义ID和描述
5.上面添加后,回到这里选择刚刚生成的这个token。然后点击保存
6.上面保存后,进入到项目里选择配置,配置构建后操作,选择Publish ... to ...Gitlab,选择后直接保存就ok
7.测试,点击立即构建
8.回到gitlab上面查看,那里生成了一个对号
9.点击对号,进来后可以看到流水线,下面一些信息,比如状态,提交等。
10.点击上面Status下面的对号,可以看到如下图一样的有个jenkins-success
11.再点击jenkins就跳转到jenkins上面去了,也可以查看输出,还可以查看工作空间,可以查看到所有代码,返回的话只能选择后退。


四.java项目代码上线

1)最终目标:对JAVA项目实现CI/CD
2)把代码存到GitLab
3)使用Maven编译并打包源码
4)将war包部署到Tomcat

4.1安装maven

请参考链接文档进行安装:https://www.jianshu.com/p/b7dfc7c357ca

4.2在jenkins中调用maven

点击系统管理→全局工具配置


在Maven 配置这里分别设置默认和默认全局settings提供


下拉到Maven,点击“新增Maven”,Name这里自定义即可,然后把“自动安装”前面方框里的对勾取消,填写MAVEN HOME为/usr/local/maven



配置JDK

之所以要配置JDK是因为后续的Maven操作需要设置JAVA_HOME这个变量。点击“系统管理”、“全局工具配置”,下拉到JDK,点击“JDK安装”,“别名”设置为jdk,“JAVA_HOME”设置为/usr/java/jdk


这个JAVA_HOME路径其实就是你的JDK安装路径,如果用yum安装的openjdk,则在/usr/lib/jvm/java-xxxx(这里的xxxx是jdk版本)。

4.3用Jenkins部署JAVA项目

4.3.1安装插件
首先需要安装Maven Integration plugin 和 Deploy to container Plugin。
到Jenkins逐次点击系统管理、插件管理、可选插件,在右上角的“过滤”文本框里输入“integration”,会出现两个插件,选择下面的插件,点击直接安装。

等它安装完后,用同样的方式再安装Deploy to container。



两个插件完成安装后,重启一下Jenkins服务

[root@jenkins ~]# systemctl restart jenkins

4.3.2模拟开发建立git本地工作目录和本地仓库

#这里的源码使用的码云上源码,你可以自行下载使用即可。
[root@gitlab ~]# mkdir /jeesns
[root@gitlab ~]# cd /jeesns/
[root@gitlab /jeesns]#
[root@gitlab ~/jeesns]# git config --global user.name "Administrator"
[root@gitlab ~/jeesns]# git config --global user.email "admin@example.com"
[root@gitlab ~/jeesns]# git init
Initialized empty Git repository in /jeesns/.git/
[root@gitlab ~/jeesns]# git add .
[root@gitlab ~/jeesns]# git commit -m "第一次提交项目"
[root@gitlab ~/jeesns]# git remote add origin git@10.0.0.56:jeesns/jeesns.git
[root@gitlab ~/jeesns]# git push -u origin --all

web界面查看项目


4.3.3新建任务
重启完成后,再次访问Jenkins的WEB界面,点击左侧的“新建任务”,任务名称自定义(jeesns),选择“构建一个maven项目”


点击左下角的“确定”按钮后,进入配置页,下拉到“源码管理”,点击"git",“Repositories"填写GitLab的jeesns项目地址

这里需要如之前的一样将Jenkins的服务器上生成秘钥的公钥塞到gitlab的用户的sshkey下,也可以点击“添加”按钮,紧接着点击“Jenkins”进入如下页面

类型选择“SSH Username with private key”,username填写git,Private Key右侧小圆点点击一下,把在git客户端生成的私钥(/root/.ssh/id_rsa)粘贴到此处,最后点“添加”,返回到刚才的页面,Credentials这里选择刚刚添加的“git”

Pre Steps设置,这里可以设置切换数据库,生产中可以用于切换测试库和生产库



build 构建设置,这里设置源码编译的参数



Post Steps设置,这里在源码包编译完成后通过ansible实现代码的批量上线
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
禁止转载,如需转载请通过简信或评论联系作者。
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,670评论 5 460
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,928评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,926评论 0 320
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,238评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,112评论 4 356
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,138评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,545评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,232评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,496评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,596评论 2 310
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,369评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,226评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,600评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,906评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,185评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,516评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,721评论 2 335

推荐阅读更多精彩内容