python2编码问题

由于工作的需要,用了很久的python3又转回来用Python2,所以编码问题又摆在了面前。
先看一下python2 和python3字符类型的差别,python2中的str等于python3中的bytes,python2中的unicode等于python3中的str:

python2 type python3 type
b'abc','abc' str b'abc' bytes
u'abc' unicode u'abc','abc' str

python2中str 和unicode类型转换

  • decode是从str转换到unicode,这时,必须要知道str的编码方式,按编码方式去解码;
# 单独打印出每个汉字
# 需要先解码成unicode再按下标进行打印
import chardet
s = '我有一头小毛驴'
encoding = chardet.detect(s)['encoding ']
print s.decode(encoding)[0]  # 我
print s.decode(encoding)[1]  # 有
  • encode是从unicode转换到str,需要指定编码方式;
u = u"我有一头小毛驴"
print u[0]  # 我
print u[1]  # 有
u.encode("gbk")

python2读取文本

# 假如txtname是gbk编码
import codecs
with codecs.open(txtname, "r", "gbk") as fr:
    for line in fr:
        print line  # line是unicode类型
# 假如txtname是utf-8编码,读取时可以指定编码方式,也可以不指定,但是不指定编码方式的话,需要单独取某个汉字的时候还是需要把str decode成unicode。
import codecs
with codecs.open(txtname, "r", "utf-8") as fr:
    for line in fr:
        print line  # line是unicode类型
with open(txtname, "r") as fr:
    for line in fr:
        print line  # line是str类型

所以建议文本使用的是什么编码格式,就采取什么编码格式进行读取,这样读取出来的一律都是unicode。

Python2写入文本

  • 指定编码方式写入文本
    write()的参数形式上必须是unicode类型,其实写入文本的还是str类型,写入文本之前,codecs模块帮我们把unicode字符串编码为str类型字符串。
# coding:utf-8
#  gbk编码
with codecs.open("test.txt", "w", "gbk") as fw: 
    fw.write(u"我有一头小毛驴")
# utf-8编码
with codecs.open("test1.txt", "w", "utf-8") as fw:
    fw.write(u"我有一头小毛驴")
  • 不指定编码方式写入文本
    write()的参数是str类型
# coding:utf-8
# utf-8编码
with open("test2.txt", "w") as fw:
    fw.write("我有一头小毛驴")
# ------------------------------------------
# gbk编码
with open("test3.txt", "w") as fw:
    fw.write("abc")
# ------------------------------------------
# utf-8编码
with open("test4.txt", "w") as fw:
    fw.write("abc我有一头小毛驴")

上面第二块代码,得到的文本test3.txt 用编辑器检查编码方式,会发现它与上下两块代码得到的文件编码方式不一致,它是GBK编码,对这个现象深感不解,经大神指点过后才明白,原来,编辑器去检查文件编码的时候都是靠猜的,哪个编码方式的概率最高就显示是哪个编码方式,可以验证,如果把test3.txt另存为utf-8-无BOM的方式,再次打开test3.txt还是会显示GBK编码。

Python3读写文本

  • python3写入文本就简单容易多了,不管带不带codecs指定编码方式,write只接收str类型参数(等价于python2中的unicode),写入文本时,python3会有一个隐形的任务,就是把str编码为二进制。
  • python3读入文本时,也有一个隐形的任务,就是把二进制解码为str,解码方式为系统默认的方式或指定方式或脚本开头指定的编码方式。
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,098评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,213评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,960评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,519评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,512评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,533评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,914评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,574评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,804评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,563评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,644评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,350评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,933评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,908评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,146评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,847评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,361评论 2 342

推荐阅读更多精彩内容