轻量化网络，在实际上最有效。 全连接网络里，多加一层，参数变少，相当于中间压缩了。 每个通道有个核，对应卷积，再使用1×1卷积核，融合不同通道的...
投稿
收录了4篇文章 · 1人关注
-
模型压缩（四）：调整架构设计 -
模型压缩（三）：量化用更少的bit来存参数，（例如32个bit改成16个bit） 把参数分群，用更少的bit来代表参数 通过霍夫曼编码，把出现频率高的值用更少的bi...
-
模型压缩（二）：知识蒸馏先训练一个大模型，再训练一个小模型学习大模型的输出。 大模型不仅学到了类别，还学到了类别之间相似的东西，比真实label更多信息，不知告诉这个图...
-
模型压缩（一）：剪枝李宏毅 network compression https://www.youtube.com/watch?v=dPp8rCAnU_A 因为现在...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1877421/%E4%B8%8B%E8%BD%BD.png', '推荐专题《模型压缩》（ 分享自 @简书 ）','https://jianshuapi.com/c/5fd6210b0e41?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','页面编码gb2312|utf-8默认gb2312'));){kind=link}