算法概述 动量法:梯度转化为速度 AdaGrad:每个参数反比于历史梯度平方总和的平方根 RMSProp:AdaGrad的升级(将梯度积累替换为滑动平均) Adadelta:...
这里开始机器学习的笔记记录。今天的这篇是一个分类方法--决策树。 方法适用问题模型特点模型类别学习策略学习的损失函数学习算法 决策树多类分类,回归分类树,回归树判别模型正则化...
首先,在这里回答一个问题, SVM算法问什么要转为对偶问题?原因就在于,SVM的代价函数里我们要求最大间隔分隔超平面,传统的方法就是通过样本计算出最优解w,b,但是这种做法严...
一面:1、链表反转2、字符串的最长公共子序列(输出该子序列,用的动态规划)动态规划的思路: 3、介绍项目4、XGBOOst和GBDT的区别。• 传统GBDT以CART作为...
9.15笔试,10.30面试,这波操作666哈哈哈,不过面试体验还不错,聊的也蛮开心。 一面:1、简单聊了下简历2、说一下deepfm模型的结构,与wide & deep相比...
思维导图如下: 在机器学习应用中,特征工程扮演重要的角色,可以说特征工程时机器学习应用的基础。我们都知道,数据和特征决定了机器学习算法的上限,而模型和算法只是不断逼近这个上限...
预备知识 为了更好的理解fastText,我们先来了解一些预备知识。第一个是BoW模型,也叫做词袋模型。BoW模型(Bag of words)应用于自然语言处理、信息检索和图...
07 主题模型 - 知识补充 - 概率知识、二项\多项\Beta\Dirichlet分布 八、LDA 隐含狄利克雷分布(Latent Dirichlet Allocation...
02 EM算法 - K-means算法回顾、EM概述 利用EM算法处理聚类问题的步骤: 样本数据x={x1,x2,...,xm},联合分布p(x,z;θ),条件分布p(z|x...
04 EM算法 - EM算法收敛证明 GMM(Gaussian Mixture Model, 高斯混合模型)是指该算法由多个高斯模型线性叠加混合而成。每个高斯模型称之为com...
之前介绍过梯度下降法与牛顿法,GBDT与XGBoost就与这两种方法有关。 boosting(包括GBDT、XGBoost)是一个加法模型,有以下优缺点: 优点:• 可解释性...
xgboost 已然火爆机器学习圈,相信不少朋友都使用过。要想彻底掌握xgboost,就必须搞懂其内部的模型原理。这样才能将各个参数对应到模型内部,进而理解参数的含义,根据需...
之前整理过一篇关于逻辑回归的帖子,但是只是简单介绍了一下了LR的基本思想,面试的时候基本用不上,那么这篇帖子就深入理解一下LR的一些知识,希望能够对面试有一定的帮助。 1、逻...