简要介绍1 .超参数1 .引言2 .超参数的定义3 .超参数的特点4 .超参数与模型参数的区别5 .超参数示例6 .超参数优化1 .超参数优化
一.超参数1 .引言
机器学习模式一般有两种参数。
需要从数据中学习和推断的类称为模型参数(Parameter )，是模型本身的参数。 例如，线性回归直线的权重系数(斜率)及其偏差项)截距)都是模型参数。
另一个是机器学习算法中的调谐参数(tuning parameters )，需要被称为超级参数)的人工设置。 例如，正则化系数，决策树模型中的树的深度。
2 .超参数定义度母定义：
在机器学习的上下文中，超级参数是在开始学习过程之前设置值的参数，而不是通过培训获得的参数数据。 通常，需要优化超级参数，选择最适合学习机器的一组超级参数，以提高学习的性能和效果。
狐仙补充：
超参数也是参数，是未知变量，但与训练中的参数不同，它是能够影响训练中获得参数的参数，需要训练者手动输入，并进行调整以优化训练模型的效果。
3 .超参数特征1 .定义关于模型的更高级别的概念，如复杂性和学习能力。
2 .不能直接从标准模型训练中的数据中学习。 需要预先定义。
3 .可以通过设置不同的值，训练不同的模型，选择更好的测试值来确定
4 .超参数与模型参数的区别模型参数是模型内部的配置变量，需要通过数据估算模型参数值；
模型超级参数是模型外部的设置，必须手动设置超级参数的值。
机器学习中一直所说的“调整参数”，实际上不是调整“参数”，而是调整“超参数”。
5 .超参数示例1 .树的数量或树的深度
2 .矩阵分解中潜在因素的数量
3 .学习率(多种模式) )。
4 .深层神经网络的隐藏层数
5.k均值聚类中的簇数
6 .超参数优化1 .超参数优化的目的学习率可能是最重要的超参数。
[1]超参数优化或模型选择是选择最适合学习算法的一组超参数的问题，其目的通常是优化算法在独立数据集上性能的测量。 通常，该泛化性能是使用交叉验证估计的。
[2]超参数优化与实际学习问题形成对比，这些问题通常也被转化为优化问题，但优化了训练集上的损失函数。 实际上，学习算法的学习可以很好地对输入的参数进行建模/重构，而超参数优化是避免模型像归一化一样通过调整过滤数据。
2 .超参数优化的方法1 .网格搜索
2 .贝叶斯优化
3 .随机搜索
4 .基于坡度的优化
二.超平面度母的定义：
超平面必须是n维欧氏空间中的剩余维数等于1的线性子空间，即(n-1 )维。
这是平面中直线、空间中平面的推广(n大于3才称为“超”平面)，是一个纯数学概念，而不是现实物理概念。 因为是子空间，所以超平面一定会通过原点。
我相信大家读了定义后，脑海里应该会有一万头神兽奔腾而过。 也就是说，对于度娘的定义，我们的理解是什么，会说话吗，这个时候，我必须狐仙登场。
狐仙的定义：
1 .我们知道零维点可以把一维线分成两部分：
2 .一维线可以将二维面分为两部分：
3 .二维的面可以把三维的身体分成两部分：
这样，n-1维子空间可以将n维空间分成两个部分。
因此，超平面是该n-1维子空间，是三维空间中的平面，可以用于分割n维空间。