两个问题：
1. 加载预训练模型文件夹名称里面需要包含以下字符串"gpt2, gpt2-medium, gpt2-large, gpt2-xl, distilgpt2"，比如文件夹名称为"openai_gpt2_base"；否则需要在config.json里面显式指定model_type: gpt2。
2. 预训练模型文件夹下面需要['vocab.json', 'merges.txt'] 文件，否则无法加载词典。
Hugging Face的Transformers库简单用法1. 基本用法 Hugging face提供的transformers库主要用于预训练模型的载入，需要载入三个基本对象 BertConfig是该库中模型配置的class。 B...
可以自己指定checkpoint_path参数
Tensor2Tensor使用入门1. 简介 Tensor2Tensor是google出品的一个神仙级工具包，能大大简化类似模型的开发调试时间。在众多的深度学习工具中，个人认为这货属于那种门槛还比较高的工具。...
http://www.emeditor.org/en/faq_setup_setup_intermediate_certificates.html The digital s...
为了方便起见，推荐把fastcopy的目录加入到用户PATH变量中。 然后在TC的目录下的usercmd.ini文件中加入以下配置： fastcopy的参数说明没啥好说的，参...
第一种写法，多进程的函数是没有返回值的，需要放在Queue中来取值 join()用于等待子进程退出，输出为 第二种写法，线程池 输出类似 其中这个pool.join()要不要...
1. 简介 Tensor2Tensor是google出品的一个神仙级工具包，能大大简化类似模型的开发调试时间。在众多的深度学习工具中，个人认为这货属于那种门槛还比较高的工具。...
1. 基本用法 Hugging face提供的transformers库主要用于预训练模型的载入，需要载入三个基本对象 BertConfig是该库中模型配置的class。 B...
Windows文档使用的是\r\n作为换行符Linux中是使用\n作为换行符这时就遇到个问题了，如果使用的vim(:set ff=unix)等比较智能的程序打开文档，一般不必...
PWI的那个例子计算感觉有些问题，公式中是词出现的概率，用词频来做的时候应该是：log_2 \frac{10 * N}{15 * 20}, 其中N为语料总数或者词的总数。
基于互信息和左右熵的新词发现算法——python实现今天笔者来介绍一下新词发现算法，顾名思义，新词发现算法饿的目的就是帮助我们发现新词。我们如果采用现在的分词技术，有时候一下生僻词或者专有词汇经常会被分错，而改进措施就是可以用...
srilm是著名的约翰霍普金斯夏季研讨会（Johns Hopkins Summer Workshop）的产物，诞生于1995年，由SRI实验室的Andreas Stolcke...
Github上BERT的README里面已经给出了相当详细的使用说明，GOOGLE BERT地址。Fine-tuning就是载入预训练好的Bert模型，在自己的语料上再训练一...
问题场景 已知两组向量为：现在要计算中每一个向量和中每一个向量的欧式距离。 解决思路一 把中向量使用tf.tile复制m次，把中向量复制n次。然后按照向量距离公式就可以得到的...
Tensorflow Session.run过程中的报错，run的函数参数为： tensorflow在Session.run过程中会通过for_fetch(fetch)sta...
在tensorflow的feed_dict过程中报错： 目前遇上这个错误，都是源于feed_dict中value值的问题。Tensorflow在session.run fee...
官方文档 http://facelessuser.github.io/BracketHighlighter/customize/ 官方文档不知道为什么这么多，如果只需要高亮下...
1. 映像劫持notepad HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows NT\CurrentVersion\Image Fi...
以下内容已在Win7和Win10系统中验证，参考了VSCode安装时使用的注册表项目 在Windows系统中，文件右键菜单中的使用XX打开是由HKEY_LOCAL_MACHI...
在使用Idea的时候，它的注释模板很简单，不够详细；所有大多数开发者都想设置一个比较详细的注释模板，我现在把我了解的创建类注释模板和方法注释模板的操作记录下来，分享给大家...