1 resnet简介 关于resnet，网上有大量的文章讲解其原理和思路，简单来说，resnet巧妙地利用了shortcut连接，解决了深度网络中模型退化的问题。 2 论...
发简信
IP属地：上海
-
resnet18 50网络结构以及pytorch实现代码 -
凶手是C的话, A说"我离开医生家的时候，他还活着。"就不是谎话了.
所以凶手应该是A谁杀害了医生?
在我心中，医生是神圣的职业，一个是迎接新的生命，救死扶伤，所以才有天使之说。一名医生在家里被人杀害，抓到了4名嫌疑犯。警方根据目击者的证词得知，在医生死亡那天，只有这4个病人...
-
2个性质和1个结论
做个记录， 1,Isx,y -Ix,y=I(s,y)|x 讨论： 1) x~粗粒度时，求证分段I(s,y)|x~最大 => I(s,y)|x最大，（反之不一定成立。） 2) ...
-
IBN能促进条件独立吗
已知分布P(x,y1)*P(x,y2)，混合为P(x,z1,z2)后，IBN能还原吗？ ibn保证了y的合并，聚块貌似没用 ibn对P(x,y1)*P(x,y2)*P(y3)...
-
边缘独立于条件独立互无关系
Marginal independence does NOT imply conditional independence. Conditional independence...
-
小波分析的物理意义，及基于神经网络的自适应基选择
给定时间序列{xt}，我们对其做时频分析： 其中f表示尺度参数（一般是频率），t是时间。 尺度因子f是序列内在的分析指标，因为对于时间序列x(t)，我们...
-
【原创】复数神经网络的反向传播算法，及pytorch实现方法复函数的可导性 复变函数按照是否可导，分为全纯函数holomothic和nonholomophic，判断条件为Cauchy-Riemann方程。 对于不可导的nonholom...
-
【转】随机过程的自相关函数与功率谱转自http://www.360doc.com/content/16/0905/20/26322521_588652168.shtml 说说自相关函数，功率谱与白噪声 所以，...
-
思想是唯一能照亮历史和未来方向的光，人要有光。
-
AI的输出
当一个AI系统能产生有物理意义的输出（分类，文字，音视，动作）时，该系统性能才是可衡量的。 若系统无物理输出，而只有隐变量的输出，由于隐变量没有明确的物理含义，所以我们无从判...
-
s0|s1应改成x0|x1
时序数据预测模型
给定无穷时序数据x...0,1...， 已知过去x...,0，任一总结函数s0=f(x...,0)，可以得到状态表象s...0,1,...。 提出问题：求最优总结函数f0，使...
-
时序数据预测模型
给定无穷时序数据x...0,1...， 已知过去x...,0，任一总结函数s0=f(x...,0)，可以得到状态表象s...0,1,...。 提出问题：求最优总结函数f0，使...
-
神经网络的计算图如何发现？
神经网络可以看作是一个大的变分优化器： 给定 y=f(x1, x2..., w)，求w使L(y, x..)最小 x是输入，y输出，w是网络参数，L是损失函数。 而任一函数y...
-
5部电影问题
1，同时观看5部电影，状态S与规律O互不相关。 2，5部电影交替播放，每次5分钟 相当于5个子系统的预测，在why机制研究其规律时，会发现需要独立处理 这里的问题是规律形成过...
-
包容度和怪异度
正态分布p对正态分布q的相似度C(p,q)定义为： C(p,q) = Exp[ (1+ln2pi- vq^2)/( (vq^2 +(mp-mq)^2 )/vp^2 +ln2p...
-
why机制=信息收集机制
当数据以序列输入时，长期信息记忆和收集能力就是必须的。 当d(y,y~)较大时，人就会感到奇怪，寻因的过程就是why也就是收集信息。 长期记忆存储方式k->v，也是以方便检索...
-
pyTorch上的TimeDistributed
Keras有个TimeDistributed包装器，pytorch上用nn.Linear就能实现。老是忘在这里记录下： 给定输入in[batch, steps, in_dim...
-
一种新的rnn：NRU 非饱和循环网络
RNN目标是解决序列数据的学习问题，方法是每一刻给所有历史一个总结：Si = f(xi, Si_1);这就是一种状态机。 对RNN唯一的约束就是长程相关性：当前Sn状态允许对...
