本文首发于｜微｜信｜公｜众｜号｜：包包算法笔记。包大人班车原创内容分享。 主题是深度学习中的预训练技术发展，基本思路是顺着CV和NLP双线的预训练技术发展演进。看他们怎么影响...
发简信
IP属地：浙江
-
一文串起从NLP到CV 预训练技术和范式演进
-
深度学习调参技巧 调参trick
｜公｜众｜号｜包包算法笔记｜ 背景 事情的起因其实这样，实验室老同学的论文要冲分，问我有没有啥在NN上，基本都有用的刷点方法，最好是就是短小精悍，代码量不大，不需要怎么调参。...
-
Bert原理： Rethinking Positional Encoding in Language Pre-training
背景 之前在知乎上回答了一个问题，为什么Bert的三个Embedding可以相加。这是个老问题了。这次重答一下顺便打自己脸，然后推一下国霖（LightGBM作者）在ICLR2...
-
对比学习 RDrop: Regularized Dropout for Neural Networks
关注微|信|公|众|号 包包算法笔记 背景 今天给大家讲一点轻松又有用的：5行代码实现的对比学习，效果超好！ 其实我特别喜欢这类方法，足够简单明了，背后的思想也足够深刻，效果...
-
算法工业界文本分类避坑指南完整的思维导图关注包包算法笔记回复【避坑指南】获取下载查看链接。 公众号包包算法笔记，包包（包大人）的机器学习笔记，分享算法，机器学习，程序员，职场等算法工程师话题。 背景 ...
-
华科的一个少年。<br>工作了，不是少年了。
-
关于web.py页面静态资源加载慢的问题记一个程序员改bug的心路历程，以及具体的方法。方法论上可以模仿，具体的过程谨慎尝试，生命宝贵。 起因 2017年夏天的风静静地吹过，敲着键盘，开开心心地打代码，一切有条不紊...
-
seq2seq模型初探
本文是seq2seq模型的第一篇，本文根据论文Sutskever, Vinyals and Le (2014)而来 github地址：https://github.com/z...
-
-
-
一种使用快速、简单有效的文本分类方法
问题及需求 使用CNN，LSTM，Attention based model建立一个文本分类深度模型固然很好很强大，但是实际情况是，数据集和模型同等重要，到哪里去搞质量好的打...
-
pymysql访问数据库线程安全问题
访问数据库的线程安全等级在下表中定义：Integer constant stating the level of thread safety the interface su...
-
关于软件工程的一些浅见关于软件工程的一些浅见 今天上午考完了整个大学阶段最后一门专业课。就对自己的专业--软件工程做个总结吧。个人浅见，仅供参考。 软件工程，顾名思义，是一个工程学科。什么是工程？...
-
北大研究生在读，专业方向为计算机视觉，兴趣方向为机器学习，数据挖掘。平常会写写博客以及打打Kaggle比赛，欢迎联系~<br>zhengliangfeng001@gmail.com
