anacoda

conda create -n tensorflow python=3.5 现在可以支持3.6

所以
· 首先创建一个tensorflow的environment
· tensorflow这个包内 运行conda list发现很多东西都没有 所以在包内再次安装
'''install anaconda'''

镜像https://mirrors6.tuna.tsinghua.edu.cn/

解决keras的mnist没法加载数据集的问题 因为网络

从网上找镜像下载 放到本地目录 在load方法里修改path为本地路径 取消MD5检验
或者
在mnist_方法里加入load方法里的语句 直接处理本地文件

https://blog.csdn.net/sunyangwei1993/article/details/73998297

Try

http://friskit.me/2015/06/29/keras-mnist/

问题

因为训练集的图片都是黑底白字,所以自己写的也应该是黑底白字!

https://blog.csdn.net/Sparta_117/article/details/66965760
TensorFlow™ 是一个采用数据流图,用于数值计算的开源软件库。它是一个不严格的“神经网络”库,可以利用它提供的模块搭建大多数类型的神经网络。
MNIST是一个巨大的手写数字数据集,被广泛应用于机器学习识别领域。MNIST有60000张训练集数据和10000张测试集数据,每一个训练元素都是28*28像素的手写数字图片。作为一个常见的数据集,MNIST经常被用来测试神经网络,也是比较基本的应用。

过滤器,即卷积核

便可得到这一部分的特征值,即图中的卷积特征。

下面我们就要对它进行预处理,缩小它的大小为28*28像素,并转变为灰度图,进行二值化处理。我使用的是Opencv对图像进行处理,

权重初始化init方法为normal,激活函数activation的类型为relu。输出层具有10个神经元,权重初始化方法为normal,激活函数的类型为softmax。我们选择的损失函数loss类型为categorical_crossentropy,即 Logarithmic 损失函数,优化方式类型选用的是adam,即 ADAM 梯度下降算法。

model.predict_proba 和 model.predict_classes

https://stackoverflow.com/questions/43963435/keras-predict-proba-predict-and-predict-classes-issues

"""
def predict_proba(self, x, batch_size=None, verbose=0, steps=None):
"""Generates class probability predictions for the input samples.

    The input samples are processed batch by batch.

    # Arguments
        x: input data, as a Numpy array or list of Numpy arrays
            (if the model has multiple inputs).
        batch_size: Integer. If unspecified, it will default to 32.
        verbose: verbosity mode, 0 or 1.
        steps: Total number of steps (batches of samples)
            before declaring the prediction round finished.
            Ignored with the default value of `None`.


    # Returns
        A Numpy array of probability predictions.
    """
    preds = self.predict(x, batch_size, verbose, steps=steps)
    if preds.min() < 0. or preds.max() > 1.:
        warnings.warn('Network returning invalid probability values. '
                      'The last layer might not normalize predictions '
                      'into probabilities '
                      '(like softmax or sigmoid would).')
    return preds

def predict_classes(self, x, batch_size=None, verbose=0, steps=None):
    """Generate class predictions for the input samples.

    The input samples are processed batch by batch.

    # Arguments
        x: input data, as a Numpy array or list of Numpy arrays
            (if the model has multiple inputs).
        batch_size: Integer. If unspecified, it will default to 32.
        verbose: verbosity mode, 0 or 1.
        steps: Total number of steps (batches of samples)
            before declaring the prediction round finished.
            Ignored with the default value of `None`.

    # Returns
        A numpy array of class predictions.
    """
    proba = self.predict(x, batch_size=batch_size, verbose=verbose,
                         steps=steps)
    if proba.shape[-1] > 1:
        return proba.argmax(axis=-1)
    else:
        return (proba > 0.5).astype('int32')

"""

classes的代码中有'''
if proba.shape[-1] > 1:
return proba.argmax(axis=-1)
else:
return (proba > 0.5).astype('int32')
'''
其中proba是numpy下的list,shape返回每一维的大小。
这里程序运行的时候classes返回的数据都是1,也就是这里的原因。所以要搞清楚的是proba.shape[-1]<=1代表什么?
从数组的角度,shape[-1]代表的是数组的最后一个值,在这里也就是proba中最后一维数据的大小,<=1即代表没有数据或者只有一个数据。
那么,proba的数据是什么?

A Numpy array of predictions.

目前的思路:
由于在classes的方法内部,要判断predict返回的数组最后一维的数据是不是多于1个。而在拟合一次函数的程序中,神经网络的输出的确是一维输出,所以产生的效果是只返回了1.

梯度爆炸

https://www.jianshu.com/p/9018d08773e6
学习率 参数 损失函数

损失函数和激活函数的选择

https://blog.csdn.net/Mbx8X9u/article/details/78140236
http://www.csuldw.com/2016/03/26/2016-03-26-loss-function/

机器学习拟合高次函数

https://blog.csdn.net/cymy001/article/details/78647933

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,830评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,992评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,875评论 0 331
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,837评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,734评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,091评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,550评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,217评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,368评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,298评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,350评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,027评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,623评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,706评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,940评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,349评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,936评论 2 341

推荐阅读更多精彩内容