@馒头好不好 static的意思是被mask的那些token在训练中都是不变的，永远是那15%的token，dynamic mask是说被mask的token在不同的训练阶段是不同的
改进版的RoBERTa到底改进了什么？在XLNet全面超越Bert后没多久，Facebook提出了RoBERTa（a Robustly Optimized BERT Pretraining Approach）。再...
发简信
IP属地：广东
-
-
@kakaymi 可以先把数据copy几份，然后每一份都随机mask，在不同的轮次使用不同的数据。即可。
改进版的RoBERTa到底改进了什么？
在XLNet全面超越Bert后没多久，Facebook提出了RoBERTa（a Robustly Optimized BERT Pretraining Approach）。再...
-
c++开发面经收集
c++基础知识部分 c++：浅拷贝、深拷贝当对象存在指针类型的成员，不能用浅拷贝，否则拷贝对象指针类型数据改变，被拷贝对象的指针类型数据也会改变要用深拷贝，在复制构造函数中定...
-
哪些算法需要进行数据归一化？
数据标准化分为三种：标准化、线性归一化、非线性归一化。 归一化的作用有两个：第一，加快运算速度。第二，提高计算精度。 一般来说，概率树结构的算法不需要进行数据归一化处理。寻找...
-
真省事
pip换源一行命令直接搞定
首先打开cmd:输入 直接一步到位，不用费劲巴拉的创文件之类的。 然后贴几个国内源： 阿里云 http://mirrors.aliyun.com/pypi/simple/中国...
-
pip换源一行命令直接搞定
首先打开cmd:输入 直接一步到位，不用费劲巴拉的创文件之类的。 然后贴几个国内源： 阿里云 http://mirrors.aliyun.com/pypi/simple/中国...
-
朴素贝叶斯是线性分类器吗
http://www.algorithmdog.com/%E6%9C%B4%E7%B4%A0%E8%B4%9D%E5%8F%B6%E6%96%AF%E5%88%86%E7%B...
-
生成式模型和判别式模型
特点： 产生式模型:从统计的角度表示数据的分布情况，能够反映同类数据本身的相似度，不关心判别边界。 判别式模型：寻找不同类别之间的最优分类面，反映的是异类数据之间的差异。 区...
-
-
对话系统设计思路对话系统的设计思路大致如下：(以下内容摘自贾熹滨, 李让, 胡长建,等. 智能对话系统研究综述[J]. 北京工业大学学报, 2017(9).) 自然语言理解(NLU)部分 自...
-
文字检测与识别
检测 Text instance level: Anchor-based methods EAST Region proposal methods R2CNN Compone...
-
目标检测算法滑窗（SW）：其基本原理就是采用不同大小和比例（宽高比）的窗口在整张图片上以一定的步长进行滑动，然后对这些窗口对应的区域做图像分类，这样就可以实现对整张图片的检测了。缺点：致...
-
CLion新建/编译/执行 C++ 程序C++ 是一种中级语言，它是由 Bjarne Stroustrup 于 1979 年在贝尔实验室开始设计开发的。C++ 进一步扩充和完善了 C 语言，是一种面向对象的程序设...
-
各种预训练的词向量(Pretrained Word Embeddings)
English Corpus word2vec Pre-trained vectors trained on part of Google News dataset (abo...
-
遍历二叉树复杂度分析
前序，中序，后序遍历：时间复杂度O(n)， 空间复杂度O(n)（递归本身占用stack空间或者用户自定义的stack）DFS，BFS：时间复杂度O(n)，空间复杂度O(n)（...
-
Dynamic Routing Between Capsules.引言 斯蒂文认为机器学习有时候像婴儿学习，特别是在物体识别上。比如婴儿首先学会识别边界和颜色，然后将这些信息用于识别形状和图形等更复杂的实体。比如在人脸识别上，他们学会从眼睛...
-
ALBERT
1、对Embedding因式分解（Factorized embedding parameterization） 在BERT中，词embedding与encoder输出的emb...
