python大数据挖掘系列之基础知识入门(numpy、pandas)

数据分析的模块有哪些:

  1. numpy 高效处理数据,提供数组支持,很多模块都依赖它,比如pandas,scipy,matplotlib都依赖他,所以这个模块都是基础。所以必须先安装numpy。
  2. pandas 主要用于进行数据的采集与分析
  3. scipy 主要进行数值计算。同时支持矩阵运算,并提供了很多高等数据处理功能,比如积分,微分方程求样等。
  4. matplotlib 作图模块,结合其他数据分析模块,解决可视化问题
  5. statsmodels 这个模块主要用于统计分析
  6. Gensim 这个模块主要用于文本挖掘
  7. sklearn,keras 前者机器学习,后者深度学习。

下面就说说这些模块的基础使用。

numpy模块安装与使用

安装:
下载地址是:http://www.lfd.uci.edu/~gohlke/pythonlibs/
我这里下载的包是1.11.3版本,地址是:http://www.lfd.uci.edu/~gohlke/pythonlibs/f9r7rmd8/numpy-1.11.3+mkl-cp35-cp35m-win_amd64.whl
下载好后,使用pip install "numpy-1.11.3+mkl-cp35-cp35m-win_amd64.whl"
安装的numpy版本一定要是带mkl版本的,这样能够更好支持numpy

numpy使用

'''
1.numpy 高效处理数据,提供数组支持,很多模块都依赖它,比如pandas,scipy,matplotlib都依赖他,所以这个模块都是基础。所以必须先安装numpy。
2.pandas 主要用于进行数据的采集与分析
3.scipy 主要进行数值计算。同时支持矩阵运算,并提供了很多高等数据处理功能,比如积分,微分方程求样等。
4.matplotlib 作图模块,结合其他数据分析模块,解决可视化问题
5.statsmodels 这个模块主要用于统计分析
6.Gensim 这个模块主要用于文本挖掘
7.sklearn,keras 前者机器学习,后者深度学习。

    '''
    
    import numpy
    
    x=numpy.array([11,22,33,4,5,6,7,])  #创建一维数组  array数组、阵列
    print(x)
    '''
    [11 22 33  4  5  6  7]
    '''
    
    x2=numpy.array([['asfas','asdfsdf','dfdf',11],['1iojasd','123',989012],["jhyfsdaeku","jhgsda"]])    #创建二维数组,注意是([])
    print(x2)
    '''
    [list(['asfas', 'asdfsdf', 'dfdf', 11]) list(['1iojasd', '123', 989012]) list(['jhyfsdaeku', 'jhgsda'])]
    '''
    
    x.sort()   #排序,没有返回值的,修改原处的值,这里等于修改了X
    print(x)
    x.max()    # 最大值,对二维数组都管用
    print(x.max() )
    x.min()    # 最小值,对二维数组都管用
    print(x.min())
    x1=x[1:3]   # 取区间,和python的列表没有区别
    print(x1)
    '''
    [ 4  5  6  7 11 22 33]
    33
    4
    [5 6]
    '''
    
    
    data = numpy.random.random_integers(10,20,10)   #生成整形随机数
    # numpy.random.random_integers(最小值,最大值,个数)  获取的是整数
    print(data)
    '''
    [19 10 20 10 10 20 19 17 13 11]
    '''
    
    data1 = numpy.random.normal(10,20,4)   # 生成浮点型且是正负数的随机数
    #正态随机数  numpy.random.normal(均值,偏离值,个数)  偏离值决定了每个数之间的差 ,当偏离值大于开始值的时候,那么会产生负数的。
    print(data1)
    '''
    [23.56606939 30.49792155 28.06999632 19.60559134]
    '''

pandas 使用

    import pandas
    a=pandas.Series([1,2,33,44])  # 等于一维数组
    print(a)
    b = pandas.DataFrame([[1,2,33,4],["sdaf","dsaf","18hd"],[1463],['QWQ']])    #二维数组
    print(b)
    '''
          0     1     2    3
    0     1     2    33  4.0
    1  sdaf  dsaf  18hd  NaN
    2  1463  None  None  NaN
    3   QWQ  None  None  NaN
    '''
    
    print(b.head())  # 默认取头部前5行,可以看源码得知
    '''
          0     1     2    3
    0     1     2    33  4.0
    1  sdaf  dsaf  18hd  NaN
    2  1463  None  None  NaN
    3   QWQ  None  None  NaN
    '''
    print(b.head(2))  # 直接传入参数,如我写的那样
    '''
          0     1     2    3
    0     1     2    33  4.0
    1  sdaf  dsaf  18hd  NaN
    '''
    print(b.tail())   # 默认取尾部前后5行
    '''
          0     1     2    3
    0     1     2    33  4.0
    1  sdaf  dsaf  18hd  NaN
    2  1463  None  None  NaN
    3   QWQ  None  None  NaN
    '''
    print(b.tail(1))     # 直接传入参数,如我写的那样
    '''
         0     1     2   3
    3  QWQ  None  None NaN
    '''
    
    
    print(b.describe())#显示统计数据信息
    '''
             3      # 3表示这个二维数组总共多少个元素
    count  1.0      # 总数
    mean   4.0      # 平均数
    std    NaN      # 标准数
    min    4.0      # 最小数
    25%    4.0      # 分位数
    50%    4.0      # 分位数
    75%    4.0      # 分位数
    max    4.0      # 最大值
    '''
    
    
    print(b.T)  #转置:行变列,列变行
    '''
        0     1     2     3
    0   1  sdaf  1463   QWQ
    1   2  dsaf  None  None
    2  33  18hd  None  None
    3   4   NaN   NaN   NaN
    '''

通过pandas导入数据

pandas支持多种输入格式,我这里就简单罗列日常生活最常用的几种,对于更多的输入方式可以查看源码后者官网

CSV文件

csv文件导入后显示输出的话,是按照csv文件默认的行输出的,有多少列就输出多少列,比如我有五列数据,那么它就在prinit输出结果的时候,就显示五列

    csv_data = pandas.read_csv('F:\Learnning\CSDN-python大数据\hexun.csv')
    print(csv_data)
excel表格

依赖于xlrd模块,请安装它。
老样子,原滋原味的输出显示excel本来的结果,只不过在每一行的开头加上了一个行数

    excel_data = pandas.read_excel('F:\Learnning\CSDN-python大数据\cxla.xls')
    print(excel_data)
读取SQL

依赖于PyMySQL,所以需要安装它。pandas把sql作为输入的时候,需要制定两个参数,第一个是sql语句,第二个是sql连接实例。

    conn=pymysql.connect(host="127.0.0.1",user="root",passwd="root",db="test")
    sql="select * from fortest"
    e=pda.read_sql(sql,conn)
读取HTML

依赖于lxml模块,请安装它。
对于HTTPS的网页,依赖于BeautifulSoup4,html5lib模块。
读取HTML只会读取HTML里的表格,也就是只读取<table>标签包裹的内容.
显示的是时候是通过python的列表展示,同时添加了行与列的标识

    html_data = pandas.read_html('F:\Learnning\CSDN-python大数据\shitman.html')   # 读取本地html文件。
    html_from_online = pandas.read_html('https://book.douban.com/')  # 读取互联网的html文件
    print(html_data)
    print('html_from_online')
读取txt文件

输出显示的时候同时添加了行与列的标识

    text_data = pandas.read_table('F:\Learnning\CSDN-python大数据\dforsay.txt')
    print(text_data)
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 200,667评论 5 472
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,361评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 147,700评论 0 333
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,027评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,988评论 5 361
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,230评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,705评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,366评论 0 255
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,496评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,405评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,453评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,126评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,725评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,803评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,015评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,514评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,111评论 2 341