数据分析与挖掘技能通讲(一)框架

理解一门学问,最重要的是先搭建起框架。框架就犹如是房屋的梁和柱,只有框架搭得稳,才能扎根牢、立得住。

数据分析技能的框架,可以归为以下:

采集(数据获取)——清洗(数据整理)——探索——分析——建模——展示

这是按照数据从产生到最后产生价值的流程进行的归纳总结。

本质上讲,数据分析工作的实质就在于利用各种工具(领域知识、数据知识、计算机知识),加工数据,产生商业价值。

采集

数据来源

埋点上报

什么是埋点

埋点的作用

埋点开发流程

互联网资源

工具:爬虫

什么是爬虫

爬虫工作流程

清洗

Hadoop生态及其组件

HDFS

block

MapReduce

streaming

WordCount Example

combiner/partitioner/comparator

提交streaming任务

Yarn

Hive

DDL 和 DML

正则解析器

Views

UDF

优化

Partitioning/Bucketing/Sampling

Map-side Join

Data Skew

Compression

Spark

RDD

Transformation

Action

广播变量与累加器

DataFrame

过滤

Fuctions

聚合

Join

用户自定义函数

时间处理

窗口函数

优化

Shuffle

Optimizing Joins

持久化

资源分布

动态分布

内存管理

部署环境

探索

常见统计指标

集中趋势

分散趋势

形态度量

特征相关性

异常值检验

常用图表

散点图

箱型图

小提琴图

分析

分析思路

提出假设

多维拆解

路径分析

数据验证

建模

机器学习的数学基础

线性代数

矩阵运算

矩阵LU分解

四个基本子空间

矩阵投影

行列式

特征值

奇异值分解

概率论

随机变量

离散型随机分布:两点、二项、泊松

连续性随机分布:均匀、指数、正态

多元随机变量极其分布

边缘分布

条件分布

独立性

大数定理与中心极限定理

抽样分布理论

抽样分布

参数估计

极大似然估计

微积分

梯度、偏导数

链式法则

拉格朗日乘法

泰勒展开

监督学习

常见算法

逻辑回归

朴素贝叶斯

SVM

决策树

K近邻

提升方法

EM

机器学习理论基础

霍夫丁不等式

VC dimension

有噪音情况下的学习

非监督学习

聚类

K-means

混合高斯分布

特征缩放

特征选择

特征转化

PCA

ICA

RCA

强化学习

马尔科夫决策

Q-learning

深度学习

工程基础

python基础

数据结构

控制语句

面向对象

pandas

numpy

scala基础

数据结构

控制结构

函数编程

集合操作

TensorFlow基础

基础结构

构建神经网络

过拟合

droppout

卷积神经网络

循环神经网络

LTSM

批标准化

展示

图表类型

单变量

二变量

多变量

绘图工具

matplot/seaborn

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,098评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,213评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,960评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,519评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,512评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,533评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,914评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,574评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,804评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,563评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,644评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,350评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,933评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,908评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,146评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,847评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,361评论 2 342

推荐阅读更多精彩内容