使用docker封装古董web.py+postgresql应用


title: 使用docker封装古董python web.py + postgresql应用
author: fanzhh
category:
- 技术笔记
tag:
- docker
- web.py
- python
- postgresql
date: 2019-07-24 15:50


So,6年之前使用python2web.py框架+postgresql搭建的项目,今年年初起停止使用,但偶尔地又需要访问一下数据。大家都知道搭建项目环境多么难,在这台电脑上运行得好好的,换台电脑出现各种错误。近期开始学习docker,相见恨晚哪。于是有了这篇边学习边实践的笔记。

web.py项目

requirements.txt文件

主程序名称为index.py,运行中需使用3个包,pip freeze > requirements.txt,内容如下:

psycopg2==2.8.3
pygal==2.4.0
web.py==0.39

Dockerfile文件

web.py项目目录下新建Dockerfile文件,内容如下:

FROM python:2.7

COPY requirements.txt /code/
WORKDIR /code/
RUN pip install -r requirements.txt

COPY . /code/

ENTRYPOINT ["python"]
CMD ["index.py"]

第1行FROM python:2.7,指明使用python:2.7镜像。
第2行拷贝requirements.txt文件到Docker的/code/目录。
第3行指明/code/为工作目录。
第4行在docker中安装需要的包。
第5行拷贝当前目录下所有文件到docker工作目录中。
第6行、第7行指明启动python index.py

建立image

web.py项目目录下,输入(jifdaypk_mini是image名称):

$ docker build -t jifdaypk_mini:latest .

会有一系列输出,最后出现这个,说明创建成功:

Successfully tagged jifdaypk_mini:latest

执行docker image ls,应该能够看到刚刚创建的image了。

运行容器

输入:

$ docker run -p 8080:8080 jifdaypk_mini

回车,打开浏览器输入:localhost:8080,浏览器出现internal server error提示。看命令行,出现一大坨错误,其中一行内容是:

OperationalError: could not connect to server: No such file or directory
    Is the server running locally and accepting
    connections on Unix domain socket "/var/run/postgresql/.s.PGSQL.5432"?

这就对了,因为我还没有配置postgresql嘛。

配置postgres

拉取postgres

因为我使用postgres的版本为9.5,所以拉取:

$ docker pull postgre:9.5

命令之后成功后,使用docker image ls,应该可以看到postgres:9.5的镜像了。

执行postgres容器

命令行输入:

$ docker run postgres:9.5

一大坨输出之后,出现PostgreSQL init process complete; ready for start up.说明容器运行成功,Ctrl+C退出。

导入数据

原来项目中的数据需要导入postgres中,原导出的格式为pd_dump生成的sql文件。

前提

要在本机和docker容器之间传输文件,需明白3个前提:

  1. 每个docker容器都有自己的卷(volumes),将它们想象为你本机的磁盘就好。
  2. 可以在本机上执行容器中的命令,格式为:`docker exec <容器名字> <你的命令>。
  3. 当你打算在容器中运行操作具体文件的命令,这些文件应该在容器自身的卷(volumes)中。

找到运行postgres实例的容器名字

$ docker ps
190723_docker_ps_postgres.png

找到这个容器中的卷

$ docker inspect -f '{{ json .Mounts }}' <容器id> | python -m json.tool

结果:

[
    {
        "Type": "volume",
        "Name": "a515c798849fd4e2e79a24ce16dc0d",
        "Source": "/mnt/docker-data/volumes/a51fd60a2c9a10438849fd4e2e79a24ce16dc0d/_data",
        "Destination": "/var/lib/postgresql/data",
        "Driver": "local",
        "Mode": "",
        "RW": true,
        "Propagation": ""
    }
]

那么,/var/lib/postgresql/data便是我们要找的卷路径。

拷贝备份文件到卷上

于是我运行:

$ docker cp 2019_07_22_16_11.sql <容器id>:/var/lib/postgresql/data/

创建用户和数据库

创建用户:

$ docker exec -it <容器id> psql -U postgres -c "create user user1 with password '123456';"

创建数据库:

$ docker exec -it <容器id> psql -U postgres -c "create database mydb with owner 'fanzhh' encoding 'UTF8' lc_collate='en_US.UTF-8' lc_ctype='en_US.UTF-8' TEMPLATE template0;"

导入数据

按照google的教程,应该将备份文件拷贝到卷中后导入,其实不拷贝备份文件,以下方式也可导入。

$ cat 2019_07_22_16_11.sql | docker exec -i aa06d5a52006 psql -U user1 -d mydb

试一下看看导入成功没:

$ docker exec -it <容器id> psql -U user1 -d mydb -c "select id,check_date from checkrecord limit 1;"
 id  | check_date 
-----+------------
 158 | 2013-06-20
(1 row)

可以说非常OK了。

使用docker-compose多容器协作

虽然上一步导入数据到postgres了,但不要高兴太早,结束容器再重启之后,数据消失无影了。因为容器是动态存在的,kill之后,容器内的一切数据不再存在。若要永久保存,需要将容器的volume映射到本地。以上分别建立的image之间并没什么关系,现在要用到docker-compose神器,部署多容器之间协作了。

docker-compose文件

web.py项目目录下新建docker-compose文件:

version: '2'

services:
  db:
    image: postgres:9.5
    container_name: postgres_ypk
    restart: always
    environment:
        - POSTGRES_USER=${POSTGRES_USER}
        - POSTGRES_PASSWORD=${POSTGRES_PASSWORD}
        - POSTGRES_DB=${POSTGRES_DB}
    volumes:
        - ./postgres-data/postgres:/var/lib/postgresql/data
    ports:
        - "5432:5432"

  web:
    build: .
    entrypoint: ["python", "index.py"]
    restart: always
    volumes:
      - .:/code
    ports:
      - "8080:8080"
    depends_on:
      - db

dbvolumes将本地文件夹映射至容器卷中,实现数据永久保存。注意dbenvironment的内容,在相同目录下新建.env文件存放环境变量:

POSTGRES_USER=user1
POSTGRES_PASSWORD=123456
POSTGRES_DB=mydb

docker-compose建立和运行

输入以下命令建立docker-compose

$ docker-compose build

输入以下命令运行docker-compose

$ docker-compose up

会出现一坨结果,大意是说dbweb分别启动了。

再次导入数据

我们访问数据库容器:

$ docker exec -ti <容器id> bash

进入容器操作界面,输入:

$ psql -U user1 mydb

进入数据库界面,输入:

mydb=# create database mydb2 with owner 'user1' encoding 'UTF8' lc_collate='en_US.UTF-8' lc_ctype='en_US.UTF-8' TEMPLATE template0;

建立数据库。为什么不直接用mydb?因为数据库内容有中文,新建数据库指定utf8放心。
退出数据库界面,退出容器界面,输入:

$ cat 2019_07_22_16_11.sql | docker exec -i <容器id> psql -U user1 -d mydb2

导入数据。关掉docker-compose,重启,再次访问数据库,数据依然在,OK。

但现在, 浏览器访问localhost:8080依然显示internal server error。不慌,慢慢解决。

明明postgres容器已经启动,在本地使用psql -h localhost -U user1 -d mydb可以访问数据,但localhost:8080页面始终无法访问,后台显示错误:

could not connect to server: Cannot assign requested address
web_1  |    Is the server running on host "localhost" (::1) and accepting
web_1  |    TCP/IP connections on port 5432?

(1天时间过去了。。。)

终于在这个地方发现问题所在,我原来的连接参数为:

db=web.database(
    dbn='postgres',
    host='localhost',
    db='ypkdb2',
    user='fanzhh',
    password='56805696',
    port='5432'
)

修改host内容,将localhost改为容器名字,问题解决!

python镜像安装app

应用中需要用到abiword,镜像默认没有安装这个应用,报错,于是:

docker exec -it 4351e2d268de apt-get update
docker exec -it 4351e2d268de apt-get install abiword

OK。

上传镜像

我使用的滴滴云容器服务器,先登陆:

docker login --username=<仓库用户名> hub.didiyun.com

输入密码。

将公共镜像改为似有镜像:

docker tag [镜像名称:Tag]或[镜像ID] hub.didiyun.com/[命名空间]/[仓库名称]:[版本号(Tag)]

推送标志好的镜像到镜像仓库:

docker push hub.didiyun.com/[命名空间]/[仓库名称]:[版本号(Tag)]

参考

  1. How to Restore Database Dumps for Postgres in Docker Container
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,905评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,140评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,791评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,483评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,476评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,516评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,905评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,560评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,778评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,557评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,635评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,338评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,925评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,898评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,142评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,818评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,347评论 2 342

推荐阅读更多精彩内容