【踩坑记】基于Docker搭建开发测试环境--网络·缓存

Docker网络类型

[www@BJ-TEST-SHZF ~]$ ifconfig
 docker0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.0.1  netmask 255.255.240.0  broadcast 0.0.0.0
        ether 02:42:0d:31:29:64  txqueuelen 0  (Ethernet)
        RX packets 774354  bytes 122153704 (116.4 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 823043  bytes 271440422 (258.8 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0`

[www@BJ-TEST-SHZF ~]$ sudo docker network ls
 NETWORK ID          NAME                DRIVER              SCOPE
 0d8ae0f3d65c        bridge              bridge              local
 3f9b0cbe5c53        host                host                local
 8de6293034ce        none                null                local

docker有三种网络类型bridge、host、none,默认bridge。bridge的意思是容器拥有独立的网络环境通过docker0进行通信,host的意思是容器跟宿主机共用同一个网络,none即无网络环境。

docker0是Docker 服务默认会创建的一个网桥(其上有一个 docker0 内部接口),它在内核层连通了其他的物理或虚拟网卡,这就将所有容器和本地主机都放到同一个物理网络。

要做的事 —— 搭建开发环境

先说一下背景。我们之前有大量的未docker化的项目,现在有一小部分项目开始docker化,但是又不想维护两台服务器(因为之前的服务器是cenos6,docker要求最低cenos7)。因此想要搭建一个共用的php环境,这样我们就可以把未docker化的项目统一在这个环境运行。如下图:

开发环境

如图,Project-1和Project-2是docker化后的项目,即采用独立容器的方式。project-a,project-b,project-c等项目是通过挂载的方式挂到一个共用的开发环境store-dev。

Dockerfile
FROM registry.cn-beijing.aliyuncs.com/xxxx/php:5.6-onbuild

#启动时将项目根目录挂载到/data/web
ENV APP_PATH /data/web
WORKDIR $APP_PATH

RUN ln -s $APP_PATH/docker $APP_HOME/docker

EXPOSE 80

CMD ["supervisord"]

基础镜像包含了nginx、php及项目所用到的一些扩展,因此Dockerfile文件基本没什么内容,主要是做一个软链,将docker目录链到$APP_HOME下的docker目录。$APP_HOME是基础镜像定义的,因为nginx.conf里的include是$APP_HOME/docker/nginx/*.conf

Nginx配置
server{
    listen       80;
    server_name  sapi.dev.com;

    if (!-e $request_filename) {
        rewrite ^/(.*)  /index.php?$1 last;
    }

    root /data/web/sapi;
    location / {
        index index.html index.php;
    }

    location ~ \.php$ {
        fastcgi_pass   unix:/dev/shm/php.sock;
        fastcgi_index  index.php;
        fastcgi_param  SCRIPT_FILENAME  $document_root$fastcgi_script_name;
        include        fastcgi_params;
    }

}

这里的话主要就是修改下server_name和root即可,注意Dockerfile里提到了,我们是挂载到/data/web下,所以如图的路径就是/data/web/project-x

部署Shell
 #!/bin/bash
 
appname="store-dev"
logpath="/opt/ljgit/logs/php5"         #修改成自己的日志目录
apppath="/opt/ljgit/store"             #修改成自己项目的上级目录
 
cd $apppath/docker
docker build -t $name -f Dockerfile .
docker kill $name
docker rm $name
docker run -v $logpath:/data/logs -v $apppath:/data/web/ -p 80:80 --name $name -d $name

其实最重要的是这个脚本,我们通过它来挂载目录及暴露端口。

这样,基本上只要修改下logpath和apppath,然后执行这个脚本,就可以一键部署好我们的开发环境了。

Tips: 电脑重启后并不用重新执行这个脚本,直接执行docker start store-dev即可。

mac下的一个坑 —— 没有docker0

在开发环境中,如果我们想要调用宿主机本身的一个地址该如何调用呢。前面提到了,docker默认采用的是bridge模式,也就是网桥docker0。所以理论上说也很简单啦,直接调用docker0的ip即可。但是,很可悲的是mac下并没有docker0...

ifconfig-mac

这就尴尬了。那么如何调用宿主机呢?

通过Google大法查了下,给lo0设置一个别名就可以了。注意看上图的lo0与你的lo0有什么区别!

方法如下:
ifconfig lo0 alias 10.10.10.1

Tips: Docker的核心技术是基于Linux的虚拟化,Mac之所以能用Docker其实是在Mac上装了个小型Linux,然后再这个Linux上实现的Docker。所以在Mac上找不到docker0。

要做的事 —— 搭建测试环境

测试环境其实跟开发环境是一样的,不一样的就是监听的域名不同,那么我们就只需要改一下nginx的server_name即可。

这里主要说下docker化后的项目如何部署。

deploy.sh
#!/bin/bash

port=""
if [ $appport ] ; then
    randport=$RANDOM
    port='-p '$randport':'$appport
    echo $port
fi

logpath=$(dirname $apppath)/logs

# 更新代码并拉取配置文件
cd $apppath/$appname
git checkout $branch && git pull
git clone -b $branch $(cat docker/CONF_REPO) docker/configs

# 打包并重启
sudo docker build -t image-$appname -f docker/Dockerfile --network host .
sudo docker kill $appname
sudo docker rm $appname
sudo docker run -v /etc/hosts:/etc/hosts -v $logpath/$appname:/data/logs -e RUN_ENV=$env $port --name $appname -d image-$appname
rm -rf docker/configs

# 加入代理并重启
if [ $appport ] ; then
    echo $appport

    cd /data/nginx/
    sed 's/appname/'$appname'/g;s/appport/'$randport'/g' testing.com/app.tpl > didatrip.com/$appname.testing.com.conf
    sh restart.sh
fi
project-a.sh
#!/bin/bash

export env="testing"
export branch="release"
export appname="project-a"
export appport=7321
export apppath="/data/didatrip/alone"      #修改成自己项目的上级目录

sh deploy.sh

我们提供了一个通用的脚本,通过它可以实现更新代码、拉取配置文件、打包、重启、加入代理。因为我们的配置文件是通过一个git库来维护,所以每个项目的docker目录下都会有CONF_REPO文件,里面记录了配置文件的git库地址。

第二个坑 —— 打包无法请求内网资源

这里简单说一下docker build的实质。

在build的时候会依据Dockerfile中的指令执行相应的操作,其中的RUN、COPY、ADD等命令其实都是在一个容器内执行,并不是直接在宿主机执行!

因为在打包过程中会拉取gitlab中的一些代码,然后就发现无法请求到gitlab。。。

因为我们的gitlab是私有的,外网禁止访问。。。

但是docker的网络默认的是bridge模式,所以在build过程中肯定是无法请求宿主机的内网资源的。。。

我们都知道docker run是可以通过--net参数来指定网络类型,但是build如何指定呢?

还是通过Google大法,终于查到build可以用--network来制定,即
sudo docker build -t image-$appname -f docker/Dockerfile --network host .

要做的事 —— 另一个开发环境

可以看到上面的deploy.sh的最后一步有个代理,那么这是个什么鬼呢?

这就要说到另外一个开发环境。因为前后端分离的原因,我们一直有一个供前端同学调用的开发环境。

现在问题就来了,大家都把项目docker化后,前端同学去调谁呢?显然调谁都是不合适的。

因为不想浪费服务器资源,所以我们决定在这台测试服务器上再搭一个开发环境。

因为有了docker,复制一份环境出来变得异常简单。

但是也是存在一个问题,一个服务器只有一个80端口。新的开发环境怎么办呢?

由此我们引入了一个nginx代理,通过它做了一个泛解析,将不同域名的请求转发给不同的容器。如下图:


基于docker构建的开发&测试环境架构图
泛解析
server{
    listen      80;
    server_name ~^(?<subdomain>.+)\.testing\.com$;
    access_log /data/logs/testing.com.log;

    location / {
       proxy_pass http://192.168.0.1:8080;
       proxy_set_header Host $host;
       proxy_set_header X-Real-IP $remote_addr;
       proxy_set_header X-Forwarded-For  $proxy_add_x_forwarded_for;
    }
}

可以看到,这里的192.168.0.1就是docker0的ip。

独立容器Nginx模板

其实每个独立容器所需要的代理文件都是一样的,但是这一步又不可或缺,那么我们就可以把它做成自动化。

server{
    listen      80;
    server_name appname.testing.com;
    access_log /data/logs/appname.testing.com.log;

    location / {
       proxy_pass http://192.168.0.1:appport;
       proxy_set_header Host $host;
       proxy_set_header X-Real-IP $remote_addr;
       proxy_set_header X-Forwarded-For  $proxy_add_x_forwarded_for;
    }
}
# 加入代理并重启
if [ $appport ] ; then
    echo $appport

    cd /data/nginx/
    sed 's/appname/'$appname'/g;s/appport/'$randport'/g' testing.com/app.tpl > didatrip.com/$appname.testing.com.conf
    sh restart.sh
fi

这样你就可以理解这段脚本了吧?

部署独立容器的时候会随机分配一个端口号,然后自动将之加入到Nginx的代理中。

最后一个坑 —— 打包过程缓存不生效

一切都很完美,但是每次打包都很慢,这令我很痛苦。前面提到打包的过程中会到gitlab上拉取一些代码,这里的代码其实指的是我们自己的一些包。另外还有一些第三方的包在github上,每次都拉取代码实在是不能忍。

前面说过了,docker build过程是在独立的容器内执行,并不是在宿主机本身。其实这里的独立容器并不是一个而是多个,在打包过程中其实会生成多个独立的临时容器(具体可以自行Google)。

由于这个问题,其实Dockerfile的书写是可以做很大的文章的。下面我们就来看一下。

FROM registry-internal.cn-beijing.aliyuncs.com/xxxx/golang:1.7-govendor AS build-env
ADD . /go/src/gitlab.xxxx.com/shzf/goscron
WORKDIR /go/src/gitlab.xxxx.com/shzf/goscron
RUN govendor sync -v
RUN go build -v -o /build/server


FROM registry-internal.cn-beijing.aliyuncs.com/xxxx/alpine:3.4

ENV APP_HOME /data/src
WORKDIR $APP_HOME

COPY docker $APP_HOME/docker
RUN cp -r docker/configs $APP_HOME/conf

COPY --from=build-env /build/server /data/src/goscron


EXPOSE 8080

ENTRYPOINT ["docker/entrypoint.sh"]
CMD ["supervisord"]
FROM registry-internal.cn-beijing.aliyuncs.com/xxxx/golang:1.7-govendor AS build-env

ENV ROOT_PATH /go/src/gitlab.xxxx.com/shzf/goscron
WORKDIR $ROOT_PATH

ADD vendor $ROOT_PATH/vendor
RUN govendor sync -v

ADD . $ROOT_PATH
RUN go build -v -o /build/server


FROM registry-internal.cn-beijing.aliyuncs.com/xxxx/alpine:3.4

ENV APP_HOME /data/src
WORKDIR $APP_HOME

COPY docker $APP_HOME/docker
RUN cp -r docker/configs $APP_HOME/conf

COPY --from=build-env /build/server /data/src/goscron

ENTRYPOINT ["docker/entrypoint.sh"]
CMD ["supervisord"]

第一个是优化之前,第二个是优化之后。

拉取代码是RUN govendor sync -v这句。

是否使用缓存是由打包的文件内容是否和缓存的文件内容一致决定的,而每次部署之前的git pull会导致.git目录下的文件发生改变,所以就会导致缓存不生效。

由此,我们可以把vendor目录拎出来单独ADD,然后执行RUN govendor sync -v

这样成功命中缓存~

特别鸣谢

感谢第一貂蝉@青云在我掉坑里的时候递的梯子!


我是闫大伯,一只不断踩坑爬坑的野生程序猿

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,491评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,856评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,745评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,196评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,073评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,112评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,531评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,215评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,485评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,578评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,356评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,215评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,583评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,898评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,497评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,697评论 2 335

推荐阅读更多精彩内容