使用Transformers加载大模型， 并使用流式输出进行文本生成 使用Transformers加载大模型， 并使用流式输出进行对话 这种有简单的历史对话功能 更完善的维护...
发简信
IP属地：北京
-
-
-
-
pytorch-lightning的一些记录
收集每个GPU上的输出在分布式训练时，每个GPU都会有一部分数据，当我们需要使用全部的数据进行计算时，我们需要收集所有GPU的tensor。比如两个GPU，第一个GPU有16...
-
机器学习一些代码记录计算多分类时的每个类别的F1 接口 示例： pytorch 使用K-折交叉验证 pytorch 使用K-折交叉验证[https://github.com/christianv...
-
pytorch的一些操作取出标签对应的样本特征 第一种操作 第二种操作 取出预测置信度大于预测置信度阈值的数据 取出预测置信度大于熵阈值的数据 torch.Tensor.index_add_函数 用...
-
Slrum 分布式训练+提交作业
创建分布式+采样 模型部署 由于模型已被包装，这时候直接调用模型组件会报错，比如：model.fc， 会显示没有属性， 因此一下操作 损失loss、 梯度和准确度等整合。 由...
-
加载训练好的BERT参数
将预训练模型中的bert部分取出来加载上去 base_model = BaseModel(config)base_model_dict = base_model.state_...
-
Bert中transformers的一些问题记录
我觉得最详细的就是这个：这里[https://www.cnblogs.com/dogecheng/p/11911909.html] dataset返回多模态信息 在处理个人数...
-
学习笔记：Numpy
np.array() numpy.array(object, dtype = None, copy = True, order = None, subok = False, ...
-
-
-
self-attention（自注意力机制）计算过程感觉这个视频讲的特别清楚：第一节第二节所以做了这个图记录一下： 矩阵是我们需要学习的矩阵 的时候要除以，其中为向量维数 都是对向量的操作 最终的结果可以看做一个单词在句子中的...