XGBoost是经典的提升树学习框架，其配套论文和PPT分享也相当经典，本文简单梳理其思路，原文见XGBoost原理简介。 整体思路 和一般提升...

Linear/Logistic/Softmax Regression是常见的机器学习模型，且都是广义线性模型的一种，有诸多相似点，详细对比之。原...

关于经典决策树算法ID3、C4.5及CART树的部分细节梳理。 决策树 决策树可以从两个视角理解。 If-Then规则的集合 定义在特征空间与类...

损失函数(Loss Function)用来估量模型的预测值 与真实值 的不一致程度。这里做一个简单梳理，以备忘。 回归问题 常见的回归问题损...

Kmeans聚类 K-means算法是很典型的基于距离的聚类算法，采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。该算法...