1 resnet简介 关于resnet，网上有大量的文章讲解其原理和思路，简单来说，resnet巧妙地利用了shortcut连接，解决了深度网络中模型退化的问题。 2 论...
发简信
IP属地：上海
-
resnet18 50网络结构以及pytorch实现代码 -
【原创】复数神经网络的反向传播算法，及pytorch实现方法复函数的可导性 复变函数按照是否可导，分为全纯函数holomothic和nonholomophic，判断条件为Cauchy-Riemann方程。 对于不可导的nonholom...
-
AI的输出
当一个AI系统能产生有物理意义的输出（分类，文字，音视，动作）时，该系统性能才是可衡量的。 若系统无物理输出，而只有隐变量的输出，由于隐变量没有明确的物理含义，所以我们无从判...
-
时序数据预测模型
给定无穷时序数据x...0,1...， 已知过去x...,0，任一总结函数s0=f(x...,0)，可以得到状态表象s...0,1,...。 提出问题：求最优总结函数f0，使...
-
一种新的rnn：NRU 非饱和循环网络
RNN目标是解决序列数据的学习问题，方法是每一刻给所有历史一个总结：Si = f(xi, Si_1);这就是一种状态机。 对RNN唯一的约束就是长程相关性：当前Sn状态允许对...
-
why机制=信息收集机制
当数据以序列输入时，长期信息记忆和收集能力就是必须的。 当d(y,y~)较大时，人就会感到奇怪，寻因的过程就是why也就是收集信息。 长期记忆存储方式k->v，也是以方便检索...
-
注意力机制与链式条件几率
我们的目标是给定X，求Y的分布：P(Y|X)，其中X，Y是多维向量。 实际情况中，y1可能和x1关系更大，y2和x3,x5更相关... 所以我们改写P(Y|X) = p(y1...
-
深度学习环境搭建 - 1 攒机
在2个网站上模拟攒机，配了台机器：http://zj.zol.com.cn/https://pcpartpicker.com/（会自动帮你查兼容性） 一个国内一个国外，参照着...