变量作用域

TensorFlow中的两个作用域:

variable_scope name_scope
variable_name或者op_name加前缀 op_name加前缀

variable_scope

variable_scope变量作用机制在TensorFlow中主要由两部分组成:

v = tf.get_variable(name,shape,dtype,initializer)  #通过所给名字创建或者返回一个变量
tf.variable_scope(<scope_name>)#为变量指定命名空间

当tf.getvariable_scope().reuse==False时,variable_scope作用域只能用来创建新变量。

with tf.variable_scope("foo"):
    v = tf.get_variable("v",[1])
    v2 = tf.get_variable("v",[1])
assert v.name == "foo/v:0"

上述程序会抛出ValueError错误,因为v这个变量已经被定义过了,但是tf.get_variable_scope().reuse默认为False,所以不能重用。
当tf.get_variable_scope().reuse==True 时,作用域可以共享变量:

with tf.get_variable_scope("foo") as scope:
    v = tf.get_variable(v,[1])
with tf.get_variable_scope("foo",reuse==True)
#也可以写成
#scope.reuse_variables()
v1=tf.get_variable("v",[1])
assert v1 == v
获取变量作用域

可以直接通过tf.variable_scope()来获取变量作用域:

with tf.variable_scope("foo") as foo_scope:
    v = tf.get_variable("v",[1])
with tf.variable_scope("foo_scope")
    w = tf.get_variable("w",[1])

注意,如果在开启的一个变量作用域里使用之前预先定义的一个作用域,则会跳过当前变量的作用域,保持预先存在的作用域不变。

变量作用域的初始化

变量作用域可以默认携带一个初始化器,在这个作用域中的子作用域或变量都可以继承或者重写父作用域初始化的值。

with tf.variable_scope("foo",initializer=tf.constant_initializer(0.4)):
    v = tf.get_variable("v",[1])
with tf.variable_scope("bar")
    with tf.variable_scope("baz") as other_scope:
        assert other_scope.name == "bar/baz"
        with tf.variable_scope(foo_scope) as foo_scope2:
            assert foo_scope2.name == "foo" #保持不变

同样的在variable_scope作用域下的op.name也会被加上加上前缀。
variable_scope主要用在循环神经网络(RNN)的操作中,其中需要大量的共享变量。

name_scope

TensorFlow中的节点用name_scope来为变量划分范围,在可视化中,这表示在计算图中的一个层级。
name_scope会影响op.name,不会影响用get_variable创建的变量,而会影响通过Variable()创建的变量。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,607评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,047评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,496评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,405评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,400评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,479评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,883评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,535评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,743评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,544评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,612评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,309评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,881评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,891评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,136评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,783评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,316评论 2 342

推荐阅读更多精彩内容

  • 1、引言 最近在刷leetcode题的时候,遇到一个求最长回文子串的题目,于是,我写了如下的代码: 哎呀,写了两个...
    文哥的学习日记阅读 14,289评论 6 32
  • 1.1 基本类型和引用类型的值 ECMAScript变量可能包含两种不同数据类型的值:基本类型值和引用类型值。基本...
    Jackandjohn阅读 293评论 0 0
  •   按照 ECMA-262 的定义,JavaScript 的变量与其他语言的变量有很大区别。   JavaScri...
    霜天晓阅读 361评论 0 0
  • 撑一把荷叶伞 天水间 与清风共舞 采集一路花香 撑一把荷叶伞 花海里 与暗香同歌 品尝初夏的滋味 撑一把荷叶伞 静静守候
    阳光冬雨阅读 223评论 0 2
  • 二十年缘悭一面,相隔万里莫逆于心。 海莲·汉芙和弗兰克·德尔,互相写信二十年却从未谋面,书缘?情缘? 或许心中已住...
    伊晓阅读 672评论 1 3