本篇内容主要来源于白板书推导 背景介绍 过拟合 增加Data 正则化 降维 直接降维：特征选择 线性降维：PCA、MDS 非线性降维：流形LSOMAP、LLE 维度灾难 集合角度 数据稀疏，且分布不均 预备知识 基础知识 数据： x=(x1⋯xn)nxpT=(x1 ...

原理总结： 对偶的目的：使用核技巧 L=∑i=1mαi−12∑i=1m∑j=1mαiαjy(i)y(j)x(i)Tx(j)L = \sum_{i=1}^m\alpha_i-\frac{1}{2}\sum_{i=1}^m\sum_{j=1}^m\alpha_i\alpha_jy^{(i)}y^{ ...

本文的jupyter-notebook地址：https://nbviewer.jupyter.org/github/wangjs-jacky/Jupyter-notebook/blob/master/00_API_document/交叉验证.ipynb 说明：本文的标题取得是数据划分，而jupy ...

Example01:利用PolynomialFeatures解决过拟合问题 线性回归模型实在是太简单了，非常容易导致欠拟合，根据前文中解决欠拟合的手段一共有两个： 增加物理特征，如房屋的地段，房屋的朝向等 增加无意义的数学变量。使用sklearn.preprocessing.Polynomi ...

逻辑回归的核心公式 成本函数： J(θ)=−1m[∑i=1myilog(hθ(xi)+(1−yi)log(1−hθ(xi))]J(\theta)=-\frac{1}{m}[\sum_{i=1}^my_ilog(h_\theta(x_i)+(1-y_i)log(1-h_{\theta}(x_i))] ...

原理说明： DecisionTreeClassifier from sklearn.tree import DecisionTreeClassifierdecision_tree = DecisionTreeClassifier(criterion='gini', splitter='best', ...

0 前言基础 1 科普 关键字/函数/方法 关键字：del list[0] 函数：print("str") - print是一个函数 方法：list.append()方法是基于对象的基础上说的。 1 列表【List】 1.1 对 列表 的方法 查阅方法：在Ipyth ...

K-近邻 算法说明 K近邻的基本算法很好理解：新的样本，由离它近的几个邻居投票决定的。 所以算法就很好写出来了： 计算新的样本与所有样本的距离，存在一个变量,假设是A。 对A进行排序，选出最近k个距离对应的label标签值。 根据lable标签，决定新样本的label 算法优缺点： 优点 ...

过拟合和欠拟合 PolynomialFeatures验证欠拟合和过拟合案例 成本函数 最小二乘误差作为成本函数，但是sklearn用score来作为判断依据。 学习曲线学习 gridSearchCV网格搜索 Pipeline实践与学习曲线learning_curve ...

Git的背景 Git是什么？ 目前世界上最先进的分布式版本控制系统 版本控制 现实情况 希望做到的样子 集中式vs分布式 集中式：版本库是集中存放在中央服务器的，而干活的时候，用的都是自己的电脑，所以要先从中央服务器取得最新的版本，然后开始干活，干完活了， ...