2
0
1.Transformer为何使用多头注意力机制？（为什么不使用一个头） 答案解析参考这里：为什么Transformer 需要进行 Multi-head Attention？...
最近在做文本聚类和小样本图像分割，跑代码时，碰到了一些问题。总结如下: 1、loss 不收敛 将学习率改为指数衰减 2、冻结网络出现无参数可求导 观察冻结网络是否正确冻结 3...
