人工智能发展阶段中数据驱动阶段包括大数据、运算能力、训练数据。

岭回归的误差函数的惩罚项是学习参数的绝对值之和

正则化通过向损失函数增加惩罚项的方式对模型施加制约，以提高模型的泛化能力

采用不同的分割方案对数据集进行划分并进行验证，即所谓的“交叉验证”，可有效防止过拟合

对于超参数的设置可采用网格搜索法确定其最优值

对训练数据的预测效果很好，但对验证数据的预测效果不好的现象称为过拟合

t-SNE(t-Distributed Stochastic Neighbor Embedding)是一种将高维的复杂数据降为二维（或三维）的算法，用于低维空间的可视化

LLE(Locally Linear Embedding)可以将以弯曲或扭曲的状态埋藏在高维空间中的结构简单地表示在低维空间中

混合高斯分布对呈椭圆形分布的数据聚类效果较好，而k-means算法对从重心开始呈圆形分布的数据聚类效果较好

混合高斯分布通过使用多个高斯分布的线性组合来实现聚类

k-means算法中确定簇的数量这个超参数时，可以使用Elbow方法