Keras学习笔记
Keras是一个高层神经网络API,Keras由纯Python编写而成并基Tensorflow、Theano以及CNTK后端.
Keras的设计原则是
用户友好:Keras是为人类而不是天顶星人设计的API。用户的使用体验始终是我们考虑的首要和中心内容。Keras遵循减少认知困难的最佳实践:Keras提供一致而简洁的API, 能够极大减少一般应用下用户的工作量,同时,Keras提供清晰和具有实践意义的bug反馈。
模块性:模型可理解为一个层的序列或数据的运算图,完全可配置的模块可以用最少的代价自由组合在一起。具体而言,网络层、损失函数、优化器、初始化策略、激活函数、正则化方法都是独立的模块,你可以使用它们来构建自己的模型。
易扩展性:添加新模块超级容易,只需要仿照现有的模块编写新的类或函数即可。创建新模块的便利性使得Keras更适合于先进的研究工作。
与Python协作:Keras没有单独的模型配置文件类型(作为对比,caffe有),模型由python代码描述,使其更紧凑和更易debug,并提供了扩展的便利性。
Keras的一个核心理念就是简明易用,同时保证用户对Keras的绝对控制力度,用户可以根据自己的需要定制自己的模型、网络层,甚至修改源代码。
安装CNTK
# Linux系统上CNTK依赖于OpenMPI
sudo apt install openmpi-bin
# install cntk
pip install https://cntk.ai/PythonWheel/CPU-Only/cntk-2.5.1-cp36-cp36m-linux_x86_64.whl
安装TensorFlow
pip install tensorflow
安装Keras
pip install keras
# 查看配置文件
cat ~/.keras/keras.josn
"""
{
"floatx": "float32",
"epsilon": 1e-07,
"backend": "tensorflow",
"image_data_format": "channels_last"
}
"""
#
from keras import backend
print(backend._BACKEND)
FutureWarning: Conversion of the second argument of issubdtype from float
to np.floating
is deprecated. In future, it will be treated as np.float64 == np.dtype(float).type
.
解决方案:
pip install h5py==2.8.0rc1
使用Keras构建深度学习模型
主要精力放在如何构建模型.序貫模型(Sequential)是多个网络层的线性堆叠。
当创建一个序贯模型时,按照希望执行计算的顺序向其添加图层,一旦完成定义,通过使用底层框架编译模型来优化模型计算。
在编译模型时,可以指定要使用的损失函数和优化器来优化模型。
- 定义模型——创建一序贯模型并添加配置层
- 编译模型——指定损失函数和优化器,并调用模型的compile()函数, 完成模型编译
- 训练模型——通过调用模型fit()函数来训练模型
- 执行预测——调用模型的evaluate()或predict()等函数对新数据进行预测
Keras使用Dense类来定义完全连接层
keras.layers.core.Dense(units, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', kernel_regularizer=None, bias_regularizer=None, activity_regularizer=None, kernel_constraint=None, bias_constraint=None)
inputshape: 2维 tensor(nb_samples, input_dim)
outputshape: 2维 tensor(nb_samples, output_dim)
参数:
units:大于0的整数,代表该层的输出维度。
activation:激活函数,为预定义的激活函数名(参考激活函数),或逐元素(element-wise)的Theano函数。如果不指定该参数,将不会使用任何激活函数(即使用线性激活函数:a(x)=x)
use_bias: 布尔值,是否使用偏置项
kernel_initializer:权值初始化方法,为预定义初始化方法名的字符串,或用于初始化权重的初始化器。参考initializers
bias_initializer:偏置向量初始化方法,为预定义初始化方法名的字符串,或用于初始化偏置向量的初始化器。参考initializers
kernel_regularizer:施加在权重上的正则项,为Regularizer对象
bias_regularizer:施加在偏置向量上的正则项,为Regularizer对象
activity_regularizer:施加在输出上的正则项,为Regularizer对象
kernel_constraints:施加在权重上的约束项,为Constraints对象
bias_constraints:施加在偏置上的约束项,为Constraints对象
input_dim:可以指定输入数据的维度,这个参数会在模型的第一层中用到。
keras 模型构建步骤
在设计一个神经网络时,输入层的节点数需要与特征的维度匹配,输出层的节点数要与目标的维度匹配。
一般步骤:
- 导入数据
- 定义模型 创建
- 编译模型
- 训练模型
- 评估模型