Content 此篇论文主要完成了:1.通过数学推导，找到并证明了限制RNN-based LMs的性能瓶颈之一——Softmax Bottleneck问题2.针对这个瓶颈，提...
发简信
IP属地：江苏
-
Breaking the Softmax Bottleneck:A High-rank RNN Language Model -
神经网络语言建模系列之六：字符级模型语言建模一直均以分词为最小单位，即词级语言模型。后来研究者尝试在字符级别进行语言建模，提出了数种字符级的语言模型，其中最为成功是Y. Kim and et. al. (201...