长链式思维（CoT）示例微调的检查点 DeepSeek-R1 的训练流程中的第一阶段是 Cold Start（冷启动，SFT 阶段），会使用人工收集的数千条高质量长链思维（C...
发简信
IP属地：江苏
-
2025-02-13 长链式思维（CoT）示例微调的检查点
-
2025-02-13 监督微调（SFT）数据
监督微调（SFT）数据 是用于对预训练模型进行监督微调的有标注数据慕课网CSDN博客。以下是关于它的一些要点： 数据特点 标注性：与预训练使用的大量无监督数据不同，SFT 数...
-
两次全球大危机的比较研究
金融危机似乎再次上演。 19年以来，中美贸易战、境内疫情爆发、全球疫情蔓延、国际油价暴跌，可谓黑天鹅成群结伴。2020年2月19日至3月23日，标普500从最高3393.52...
-
2025-02-08 大型语言模型的多阶段训练流程
大型语言模型的多阶段训练流程主要包括预训练、监督学习微调、奖励模型训练和强化学习微调四个阶段，具体如下： 预训练阶段 目标：让模型学习语言的统计模式和语义信息，通过大规模未标...
-
2025-02-07 DeepSeek 的冷启动数据
DeepSeek 的冷启动数据 数据来源与收集方式 few-shot prompting 方式：设计带有长思维链（CoT）的少量示例提示，为模型提供典型的推理模式和思路，让模...
-
2025-02-07 DeepSeek技术论文拆解出于对DeepSeek如何实现强大的思考、总结和表达能力的好奇，我去搜索了DeepSeek的技术论文，试图了解其实现方法，并在这篇及系列文章中用尽量非专业化的语言表达出来。 ...
-
2025-02-07 监督学习
监督学习 定义 监督学习是机器学习的一种类型，指利用一组已知类别的样本调整分类器的参数，使其达到所要求性能的过程，也称为监督训练或有教师学习。通过已有的标记数据，监督学习模型...
-
2025-02-07 纯强化学习（RL）
纯强化学习 是一种机器学习技术，强调智能体仅通过与环境进行交互并基于环境反馈的奖励信号来学习最优行为策略，而不依赖于监督学习[https://www.jianshu.com/...
-
2024-09-02 蛤蟆先生去看心理医生
自我状态的三位一体 儿童自我状态：行为和感受像个孩子。由童年残留的遗迹搭建而成，包含小时候体验的所有情感（儿童的基本情感）和随后演变的行为模式。 父母自我状态：表现得像自己的...
-
2023-07-16 《八次危机》读书笔记（九）
本节部分：第六次危机，1993年——1994年改革以来的第三次经济危机 这次危机是建国以来历次危机内发型经济危机和输入型危机的过渡期，也是分水岭。表现是财政、金融和外汇三大赤...
-
2023-07-15《八次危机》读书笔记（八）
本节部分：第五次危机，1988年——1990年改革以来的第二次经济危机 1988年，发生了年度CPI高达18.6%的恶性通货膨胀。 1989年，发生了企业“连锁负债”为表象的...
-
2023-07-13《八次危机》读书笔记（七）
本节部分：第四次危机，1979年——1980年改革以来的第一次经济危机 第四次危机来源主要两个方面：一是20世纪70年代以来的投资过度积累下来的财政赤字；二是1978以来，处...
-
2023-07-12 舞台表达与自控
“当你在台上演唱的时候，让观众去哭泣，而你，不能哭”。这是那英指导歌手的一句话。 感情过于充沛，会影响歌手的演绎。腾格尔则能以微笑的状态演唱悲怆的情感，使得音乐的演绎完整而触...
-
2023-07-09 《八次危机》读书笔记（六）
从改革开始到1997年，其间发生的三次经济危机有一个共同特点，就是都不可能再像改革之前那样直接向“三农”转嫁代价。 在城市经济已成为政府财政收入的主要来源之后，农村集体化就已...
-
2023-07-06《八次危机》读书笔记（四）
本节部分：第二次危机，1968年——1970年“三线建设”中的国家战略调整与经济危机 第二次危机的发生，有着极强的“上层建筑反作用于经济基础”的特点。 1960年以后，周边地...
-
2023-07-05 《八次危机》读书笔记（三）
本节部分：第一次危机，1958年——1960年苏联援华投资中断 由于当时中国坚决维护领土完整和主权独立，苏联提供的援华投资于1957年突然中断，国民经济连续快速回落。 为应对...