模型压缩和加速是两个不同的话题，有时候压缩并不一定能带来加速的效果．压缩重点在于较少网络参数量，加速则侧重在降低计算复杂度，提升并行能力．模型压缩和优化可以从主要三个层次上来...
发简信
IP属地：浙江
-
常用深度学习模型压缩和加速 -
Ch01-01.Tensor操作(Pytorch入门)
1. 以_结尾操作 2. .size()和.view()方法类似与numpy里面的.shape和.reshape() 3.以结尾的操作都会用结果替换原来变量， 例如x.cop...
-
2020-08-21 GPT3简介GPT-1 论文 Improving Language Understanding by Generative Pre-Training(2018) GPT-2 论文 Lan...
-
(一)Transformer及其attention详解GPT-2是基于海量数据集上训练的基于Transformer的巨大模型。本文探索GPT-2模型架构，重点阐述其中关键的自注意力(self-attention)层。 Part1...