清明节假期写论文,忙得昏天黑地。
这周Pytorch学的还算顺利,至少比之前AllenNLP要舒服一些,跑完Seq2Seq就要试着复现模型。
现在梳理一下自己手里的锤子:
- 转到Pytorch,
使用AllenNLP - 了解Transformer、了解LSTM
- 了解jieba等分词工具
- 了解Gensim等NLP处理工具
接下来要做的:
- 基于Pytorch搞定LSTM和Transformer(使用Finetuning)
- 复现一篇论文,对比其中传统RNN模型和新的Transformer模型的区别
基本上就这么多吧。