
1 SVM原理 SVM是一种二分类模型。它的基本模型是在特征空间中寻找间隔最大化的分离超平面的线性分类器。(间隔最大化是它的独特之处),通过该超...
1 k近邻法(k-nearest neighbor, kNN) 给定测试实例,基于某种距离度量找出训练集中与其最靠近的k个实例点,然后基于这k个...
偏差与方差:https://www.cnblogs.com/daguankele/p/6561419.html 对于测试样本x,令yD为x在数据...
xgboost是时下热门的机器学习算法,在面试和竞赛中出现的频率非常高,但网上却没有一篇能够完全讲清楚的文章,因此,本文旨在用尽量少的公式,将x...
n为特征数, m为训练样本数。 (1)如果相较于m而言, n要大许多,即训练集数据量不够支持我们训练一个复杂的非线性模型,我们选用逻辑回归模型或...
核函数的定义 核函数包括线性核函数、多项式核函数、高斯核函数等,其中高斯核函数最常用,可以将数据映射到无穷维,也叫做径向基函数(Radial B...
为何进行梯度检验? 神经网络算法使用反向传播计算目标函数关于每个参数的梯度,可以看做解析梯度。由于计算过程中涉及到的参数很多,反向传播计算的梯度...
本文主要基于论文Vinyals O, Toshev A, Bengio S, et al. Show and tell: A neural im...
通常机器学习每一个算法中都会有一个目标函数,算法的求解过程是通过对这个目标函数优化的过程。在分类或者回归问题中,常使用损失函数(代价函数)作为其...
文集作者