Numpy中的stack,轴,广播以及CNN介绍

在[神经网络学习之Ndarray对象和CNN入门](https://mp.weixin.qq.com/s?__biz=MzI1NjEyMzgxMw==&mid=2247484918&idx=1&sn=1f50dcf1421e487e44f57ef188c3ae23&chksm=ea2a333cdd5dba2af85bce11c4f4ea3ca04f4d4084d0dd6ae76585595ccdec02380bbdfc1f8e&token=363512284&lang=zh_CN#rd) 中,主要介绍了Ndarray维度的概念和CNN的大体流程图,本文基于此介绍Ndarray中比较重要的一个函数**stack函数**的使用以及**numpy中的广播**, 简单介绍下CNN。
@[toc]
###  Stack函数
官方API介绍,我是没看懂,不排除有大神看一眼就懂,如果没看懂也没关系,可以继续往下读,相信一定能理解stack究竟是怎么工作的。
```python
numpy.stack(arrays, axis=0, out=None)[source]

Join a sequence of arrays along a new axis.

The axis parameter specifies the index of the new axis in the
dimensions of the result. For example, if axis=0 it will be the first
dimension and if axis=-1 it will be the last dimension.

笔者查阅了大量的资料,不过总感觉少了点什么,就是感觉始终不能理解诶stack是怎么堆叠的。于是就只好去看源码了,如果从一开始就看源码,或许可以节省很多时间。

源码

源码:

@array_function_dispatch(_stack_dispatcher)
def stack(arrays, axis=0, out=None):
    if not overrides.ARRAY_FUNCTION_ENABLED:
        # raise warning if necessary
        _arrays_for_stack_dispatcher(arrays, stacklevel=2)

    arrays = [asanyarray(arr) for arr in arrays]
    if not arrays:
        raise ValueError('need at least one array to stack')

    shapes = {arr.shape for arr in arrays}
    if len(shapes) != 1:
        raise ValueError('all input arrays must have the same shape')

    result_ndim = arrays[0].ndim + 1
    axis = normalize_axis_index(axis, result_ndim)

    sl = (slice(None),) * axis + (_nx.newaxis,)
    expanded_arrays = [arr[sl] for arr in arrays]
    return _nx.concatenate(expanded_arrays, axis=axis, out=out)
@的作用

@在python中是函数装饰器,和Java中的注解是不一样的。
猜猜下面下面的代码会出现什么样子的结果(注意这里funB是多参数的)

def funA(fn):
    print("funA is invoked first")
    # 定义一个嵌套函数,和JavaScript有点类似
    def innerFun(*args, **kwargs):
        fn(*args, **kwargs)
    return innerFun

@funA
def funB(name, value):
    print("迎关注我的微信公众号" + name + ",", "phpMyAdmin端口配置和mysql主从复制这篇文章" + value)

funB("无情剑客", "很棒");

使用函数装饰器 A() 去装饰另一个函数 B(),其底层执行了如下 2 步操作:

  1. 将 B 作为参数传给 A() 函数;
  2. 将 A() 函数执行完成的返回值反馈回B。

以上代码等价于下面的代码:

funB = funA(funB)
funB("无情剑客", "很棒")

最终的运行结果:

funA is invoked first
迎关注我的微信公众号无情剑客, phpMyAdmin端口配置和mysql主从复制这篇文章很棒

知道了@的作用具体的过程可以自己动手debug,过程比较复杂,后续抽空补上。

关键代码解读
asanyarray
arrays = [asanyarray(arr) for arr in arrays]

举个例子:

import numpy as np

a = np.arange(24)
print(a.ndim)

b = a.reshape(2, 3, 4)
print(b)

c = np.stack(b, axis=2)
print(c.shape)
print(c)

当调用stack方法步过这段代码的时候,arrays的结果是一个list,里面的元素如下图所示:



看下面这段代码,就基本知道上面的list是怎么来的的,

arr = [1,2,5]
list_arr = [arr1 for arr1 in arr]
print(list_arr)

arrs = [asanyarray(arr1) for arr1 in arr]
print(arrs)

运行结果是:

[1, 2, 5]
[array(1), array(2), array(5)]

关于asanyarray: Convert the input to an ndarray, but pass ndarray subclasses through.

维度+1

这是和concatenate函数很重要的一个区别,也体现了API中的new axis.

result_ndim = arrays[0].ndim + 1
axis = normalize_axis_index(axis, result_ndim)
expanded_arrays

如何实现维度+1的那,下面这段代码是关键:

sl = (slice(None),) * axis + (_nx.newaxis,)
expanded_arrays = [arr[sl] for arr in arrays]

可知s1的值是个tuple。
这个sl是怎么计算出来的,举个例子:


sl = (slice(None),) *2 + (None,)
sl

运行结果如下:
(slice(None, None, None), slice(None, None, None), None)

e = slice(None)
e

运行结果是: slice(None, None, None)

那么arr[sl]是怎么计算出来的那?

numpy.newaxis
The newaxis object can be used in all slicing operations to create an axis of length one. newaxis is an alias for ‘None’, and ‘None’ can be used in place of this with the same result

(1)slice基本语法


按照公式计算一下:
i = 1, j =7, k=2
1, 3, 1+(m-1)2 m = q+r
q = (7-1)/2 = 3 r = 0 m = 3
因此最终结果是[1, 3, 5]
(1)slice default处理
等价于x[5:4:1]*

(3) 高维数组处理

通过下面的note可知,x[1:2]等价于x[(1:2), ],很明显,它的纬度是小于N(=2)的。因此这里面的1代表的是取索引是1的二维数组

可以将3维数组想象成行和列的组合,只不过这里的列是一个二维数组。

对于二维数组可以通过下图来看,解释一下第一个,其他的同理。

arr[:2,1:]代表取到第一行(<2),从第一列到最后一列,显然shape就是(2,2)

Note: In Python, x[(exp1, exp2, ..., expN)] is equivalent to x[exp1, exp2, ..., expN]; the latter is just syntactic sugar for the former.

(4) 省略号

使选择元组的长度与数组的维度相同。显然选择元组的长度是2,数组的维度也是2。
(5) newaxis
以前是(2,3,1),因为The added dimension is the position of the newaxis object in the selection tuple, 所以新的数组的shape是(2,1,3,1)。翻译下就是2个三维数组,每个3维数组中有1个2维数组,每个2维数组中有3个1维数组,每个1维数组中有1也元素。

(6) slice构造函数
Remember that a slicing tuple can always be constructed as obj and used in the x[obj] notation. Slice objects can be used in the construction in place of the [start:stop:step] notation. For example, x[1:10:5,::-1] can also be implemented as obj = (slice(1,10,5), slice(None,None,-1)); x[obj] . This can be useful for constructing generic code that works on arrays of arbitrary dimension.

通过前面的分析可知arr[sl]是这样算出来的的:
arr[(slice(None, None, None), slice(None, None, None), None)]
等价与:arr[: , :, np.newaxis]
以前的arr的shape是(3,4),经过这样的操作之后,就变成了(3,4,1),也就是3个2维数组,每个2维度数组中有4个1维数组,每个1维数组中有1个元素。

因此expanded_arraays最终的结果就是:

concatenate

从最内侧的轴进行拼接。


轴的概念


我在图中标注出了哪些是外边的轴,哪些是第二个轴,哪些是最里边的轴,有一个比较简单的方法来判断这些轴,就是观察一下方括号,方括号数量越多的轴,越是在外层的轴,在这个例子中,最外侧的轴有两层方括号,从外边数第二个轴有一层方括号,这里还好一点,最难理解的是最里边的轴,最后来看一下最内侧的轴。


numpy中的广播

广播(Broadcast)是 numpy 对不同形状(shape)的数组进行数值计算的方式。

下面的图片展示了数组 b 如何通过广播来与数组 a 兼容。


卷积神经网络入门

卷积神经网络主要用在图像领域。当然也可以用在文本分类,不过NLP领域,在NLP领域需要一些处理技巧。后续文章会详细介绍。

简单看看CNN网络能够做什么:

输入 -> CNN 网络 ->输出

如果做图像识别,输入就是要识别的图像,输出就是可能的图像的概率,概率越大,自然可能性越大。


CNN 网络这个黑盒要2个重要的概念:
(1)卷积核,也就是特征是CNN网路uo自动生成的。通过大量的训集来不断调整特征和优化参数,提高准确度,因此数据阅读自然越准确
(2)感受野,类比人的眼睛,看的越多,自然提取的特征就越多。横看成岭侧成峰

对于分类人任务,需要标签。监督学习的类别

后续会详细介绍CNN,这里先有一个初步的印象。

参考

公众号

更多机器学习内容,欢迎关注我的微信公众号: 无情剑客。



©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,056评论 5 474
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,842评论 2 378
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 148,938评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,296评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,292评论 5 363
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,413评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,824评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,493评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,686评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,502评论 2 318
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,553评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,281评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,820评论 3 305
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,873评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,109评论 1 258
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,699评论 2 348
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,257评论 2 341

推荐阅读更多精彩内容