TensorFlow笔记(2)——利用TensorFlow训练一个最简单的一元线性模型

前言

这是一次使用《TensorFlow笔记(1)——TensorFlow中的相关基本概念》中学习到的知识进行机器学习的实验,一来是为了理解机器学习大概是什么样的,另一方面也算是将之前学习到的一些知识活学活用。
本次实现的环境为:

  • macOS Mojave 10.14.1
  • python 3.7.0(pyenv)
  • Tensorflow 1.12.0
  • numpy 1.15.4

简单介绍下机器学习是什么

机器学习和人类学习的过程:

image

如果觉得上图不好理解的话就再举一个栗子:

假设你有个女朋友,她特别爱美。为了互相了解,你们每周末都会一起约会吃饭;已经约会有8周了,每周吃饭你女朋友都会比约定时间晚到10分钟-30分钟,所以你每次约会也会比约定时间晚10-30分钟,并且你总结了一个规律(如果约会前打电话她说从家走了,那么基本都是晚到30分钟左右,如果她说就快到了,那么基本会晚到10分钟),不过你女朋友后来迟到的时间从10、30分钟变成了15、45分钟,你也自己调整了约定时间后到达的时间。

根据上述栗子🌰我们来类比下:

机器学习方法是计算机利用已有的数据(8次约会的经验),得出了某种模型(迟到的规律),并利用此模型预测未来(是否迟到)的一种方法。

Tensorflow的基础知识

基础知识在这里我就不多说了,详见《TensorFlow笔记(1)——TensorFlow中的相关基本概念》

构建一个线性模型

先来说明下我们需要构建的这个简单的线性模型是什么东西:

假设我们有个线性模型(一元一次函数):y=0.1x+0.2,我们知道这个线性模型长啥样,就是一条直线嘛,但是我现在想让机器也知道这条直线,该怎么做?还记得上面说的那个栗子吗,我们可以提供一系列类似(x,y)的数据,然后带入y=k*x_data+b,求出k和b的值之后,机器也就知道了这个线性模型长啥样了。

一个线性模型示例

上图就是一个典型的线性模型示例图,下面来点数学化的介绍:

给定一个大小为n的点集 𝑆={(𝑥1,𝑦1),(𝑥2,𝑦2),…(𝑥𝑛,𝑦𝑛)} ,

线性模型的目标就是寻找一组 K 和 𝑏 构成的直线 𝑦=K𝑥+𝑏 ,

使得所有点的损失值 𝑙𝑜𝑠𝑠=\sum_{i}^{n}(K𝑥_𝑖+𝑏−𝑦_𝑖)^2越小越好,因为𝑙𝑜𝑠𝑠越小就表明预测值与真实值的差距越小。

因为如果我们找到了这么一组 K 和 𝑏 ,我们就可以预测某一个 𝑥_𝑚𝑦_𝑚 值。

这里我想多说几句,线性模型在实际应用中不一定能很好的预测 𝑦_𝑚 的值,这是因为实际的数据分布也许不是线性的,可能是二次、三次、圆形甚至无规则,所以判断什么时候能用线性模型很重要。只是因为我们在这里知道了这是线性模型才这么做的,真正构建模型的时候是需要相应的方法的。

代码解读

话不多少,分段来看代码:

  1. 导入相应的python包,这里我们使用了tensorflow和numpy
# tensorflow简单示例
import tensorflow as tf
import numpy as np
  1. 使用numpy生成1000个随机点,关于numpy的使用,可以查看我的numpy系列笔记
# 使用numpy生成1000个随机点
x_data = np.random.rand(1000)
y_data = x_data*0.1+0.2         # 真实值
  1. 构造一个线性模型
# 构造一个线性模型
b = tf.Variable(0.)
k = tf.Variable(0.)
y = k*x_data+b                  # 预测值
  1. 定义损失函数,用于判断y 真实值和y 预测值之间的差距
# 二次代价函数(损失函数)
loss = tf.reduce_mean(tf.square(y_data-y))

依次来解释下每个部分的含义:

  • y_data-y:这个地方没啥好解释的,就是真实值和预测值之间的差
  • tf.square:这个函数的作用就是求平方
  • tf.reduce_mean: 函数用于计算张量tensor沿着指定的数轴(tensor的某一维度)上的的平均值,主要用作降维或者计算tensor(图像)的平均值。

所以上面这三个函数合在一起就是计算loss值。

  1. 使用GradientDescentOptimizer类创建一个优化器来优化模型,减少loss值,这个类的原理是梯度下降,至于什么是梯度下降,可以参考其他教程,日后会介绍,目前只要知道这么写就好了。
# 定义一个梯度下降法来进行训练的优化器
optimizer = tf.train.GradientDescentOptimizer(0.2)
  1. 使用优化器来减少loss值,minimize是优化器的一个方法
# 定义一个最小化代价函数
train = optimizer.minimize(loss)
  1. 初始化上面的所有变量
# 初始化变量
init = tf.global_variables_initializer()
  1. 利用Session训练我们的模型
with tf.Session() as sess:  # 定义会话上下文
    sess.run(init)  # 执行初始化操作
    for step in range(3000):  # 训练3000次
        sess.run(train) # 执行训练操作
        if step % 20 == 0:  # 每隔20步
            print(step, sess.run([k, b]))   # 打印出k和b的值

至此,一个最简单的线性模型也就完成了。下面是所有代码:

# tensorflow简单示例
import tensorflow as tf
import numpy as np

# 使用numpy生成1000个随机点
x_data = np.random.rand(1000)
y_data = x_data*0.1+0.2         # 真实值

# 构造一个线性模型
b = tf.Variable(0.)
k = tf.Variable(0.)
y = k*x_data+b                  # 预测值

# 二次代价函数(损失函数)
loss = tf.reduce_mean(tf.square(y_data-y))
# 定义一个梯度下降法来进行训练的优化器
optimizer = tf.train.GradientDescentOptimizer(0.2)
# 定义一个最小化代价函数
train = optimizer.minimize(loss)

# 初始化变量
init = tf.global_variables_initializer()

with tf.Session() as sess:
    sess.run(init)
    for step in range(3000):
        sess.run(train)
        if step % 20 == 0:
            print(step, sess.run([k, b]))

运行结果的部分截图:

训练0-240次的结果
训练2700-2980次的结果

从上面两张图我们可以明显的看出来,在训练到第2980次的时候,k的结果已经非常非常接近0.1,b也非常非常接近0.2了,由此可以看出,这个模型还是较为正确的。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,902评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,037评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,978评论 0 332
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,867评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,763评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,104评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,565评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,236评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,379评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,313评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,363评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,034评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,637评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,719评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,952评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,371评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,948评论 2 341

推荐阅读更多精彩内容