<aside> 📖 维度,又称维数,英文为dimension,在数学中表示独立参数的数目。

在物理学中,维度指独立的时空坐标的数目。

</aside>

1. 数据几何学、高维灾难

<aside> 📖 数据要在几何学中表示,数据特征的维度需和几何空间维度相同。

就像使用维度分析几何学一样,数据的分析也离不开维

</aside>

<aside> 📖 高维灾难

高维灾难又叫做维度灾难 (curse of dimensionality),

最早由理查德.贝尔曼 (Richard E.Bellman) 在考虑优化问题时首次提出来,用来描述当(数学)空间维度增加时,分析和组织高维空间(通常有成百上千维)时,因体积指数增加而遇到各种问题的场景。这样的难题在低维空间中不会遇到。

</aside>

<aside> 📖 过拟合

给定一个假设空间$H$,一个假设$h$属于$H$,如果存在其他的假设 $h'$属于$H$,使得在训练样例上$h$的错误率比$h'$小,但在整个实例分布上$h'$比$h$的错误率小,那么就说假设 $h$ 过度拟合训练数据。

</aside>