Python自然语言处理学习笔记(一)


操作平台:Fedora 22, Python 3.4 (偶尔使用2.7查看差异)

正式接触NLTK(Natural Language Toolkit)工具包。

重点学习NLP和NLTK的使用,不过分纠结于Python语言本身。



1. 安装与下载

在官网上安装NLTK后,开始下载所需的包。

启动Python解释器,执行如下两行命令:

>>>import nltk

>>>nltk.download()

Python 3.4下在字符界面提示下载或更新相应的包,Python 2.7下是弹出GUI提示相应的操作。

可用from nltk.book import *验证是否下载成功。

(已下载全部语料,放在/home/annefu/nltk_data下)

2. 搜索文本

示例文本text1~text9所属的类为nltk.text.Text(该类是否继承了list有待查证)。

以下为该类中的一些方法(这些方法对指定词不区分大小写):

(1)concordance(word, width=79, lines=25)

显示指定单词在文本中的出现情况,同时还显示了该单词所在的上下文。

(2)similar(word, num=20)

找到与指定词出现在相同上下文中的其他词,优先列出最相似的那些词。

(3)common_contexts([word1, word2, ...])

显示共用这些词汇的上下文。

(4)dispersion_plot([word1, word2, ...])

构造文本的词汇分布图。(未成功导入Numpy和Matplotlib,该方法的验证先搁置)

(5)generate():新版本的NLTK已无此方法。

3. 文本词汇的统计

(1)BIF len(text)

可用来获取文本的标识符个数(标识符:指代单词或标点符号)。

(3)BIF sorted(set(text))

去掉文本中重复的元素后,将这些元素排序(标点符号->大写单词->小写单词)。

词类型:一个词在一个文本中独一无二的出现或拼写形式。

(3)计算文本词汇相似度

len(text) / len(set(text))    

(4)某个词在文本中占据的百分比

100* text.count(word) / len(text)

4. 频率分布

>>>from nltk.probability import *

(1)获得每个词在文本中出现的频率

fdist = FreqDist(text)

v = fdist.keys()     #v的类型为<dict_keys>,返回的结果是无序的

list(v)[:50]     #将v转化为列表后再显示前50项

sorted(fdist.items(), key=lambda fdist: fdist[1], reverse=True)     """设置以字典值排序,使频率从高到低显示"""

fdist.hapaxes()     #显示低频词

5. 词语搭配和双连词

(1)获取双连词

list(bigrams([word1, word2, ....]))

如对于['I', 'love', 'NLP']显示结果是[('I', 'love'), ('love', 'NLP')]

(2)获取搭配

搭配:不经常在一起出现的词序列。特点是其中的词不能被类似的词置换。

text.collocations()    

6. 一些语言理解技术

(1)词意消歧(Word Sense Disambiguation)

针对有不同词意的词,要分析出特定上下文中的词被赋予的是哪个意思。

(2)指代消解(Anaphora Resolution)

确定代词或名词短语指代的对象。

(3)语义角色标注(Semantic Role Labeling)

确定名词短语如何与动词相关联(如代理,受事,工具,etc.)

(4)自动问答(Question Answering)

NLTK提供了一个原始的对话系统:运行nltk.chat.chatbots()

(5)机器翻译(Machine Translation)

文本对齐(text alignment):根据两种语言的文档或双语词典,自动配对组成句子。

*无法使用nltk中的babelizer

(6)文本含义识别(Recognizing Textual Entailment)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,802评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,109评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,683评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,458评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,452评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,505评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,901评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,550评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,763评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,556评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,629评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,330评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,898评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,897评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,140评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,807评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,339评论 2 342

推荐阅读更多精彩内容