PCA（主成分分析）是十大经典机器学习算法之一。PCA是Pearson在1901年提出的，后来由Hotelling在1933年加以发展提出的一种多变量的统计方法。
PCA（主成分分析）算法目的是在“信息”损失较小的前提下，将高维的数据转换到低维，通过析取主成分显出的最大的个别差异，也可以用来削减回归分析和聚类分析中变量的数目，从而减小计算量。
PCA（主成分分析）通常用于高维数据集的探索与可视化，还可以用于数据压缩，数据预处理等。
PCA（PrincipalComponentAnalysis）主成分分析，也称为卡尔胡宁－勒夫变换（Karhunen－LoeveTransform），是一种用于探索高维数据结构的技术。
PCA算法本质就是找一些投影方向，使得数据在这些投影方向上的方差最大，而且这些投影方向是相互正交的。这其实就是找新的正交基的过程，计算原始数据在这些正交基上投影的方差，方差越大，就说明在对应正交基上包含了更多的信息量。原始数据协方差矩阵的特征值越大，对应的方差越大，在对应的特征向量上投影的信息量就越大。反之，如果特征值较小，则说明数据在这些特征向量上投影的信息量很小，可以将小特征值对应方向的数据删除，从而达到了降维的目的。
样本的“信息量”指的是样本在特征方向上投影的方差。方差越大，则样本在该特征上的差异就越大，因此该特征就越重要。在分类问题里，样本的方差越大，越容易将不同类别的样本区分开。
希望投影后投影值尽可能分散，而这种分散程度，可以用数学上的方差来表述。在统计描述中，方差用来计算每一个变量（观察值）与总体均数之间的差异。此处，一个字段的方差可以看做是每个元素与字段均值的差的平方和的均值，即：
PCA理论基础如下：
1）最大方差理论。
2）最小错误理论。
PCA算法流程：
1）去平均值，即每一位特征减去各自的平均值；
2）计算协方差矩阵；
3）计算协方差矩阵的特征值与特征向量；
4）对特征值从大到小排序；
5）保留最大的个特征向量；
6）将数据转换到个特征向量构建的新空间中。
1）最近重构性：样本集中所有点，重构后的点距离原来的点的误差之和最小。
2）最大可分性：样本在低维空间的投影尽可能分开。
1）使得数据集更易使用；
2）降低算法的计算开销；
3）去除噪声；
4）使得结果容易理解；
5）完全无参数限制。
1）如果用户对观测对象有一定的先验知识，掌握了数据的一些特征，却无法通过参数化等方法对处理过程进行干预，可能会得不到预期的效果，效率也不高；
2）特征值分解有一些局限性，比如变换的矩阵必须是方阵；
3）在非高斯分布情况下，PCA方法得出的主元可能并不是最优的。
PCA算法已经被广泛的应用于高维数据集的探索与可视化，还可以用于数据压缩，数据预处理等领域。在机器学习当中应用很广，比如图像，语音，通信的分析处理。PCA算法最主要的用途在于“降维”，去除掉数据的一些冗余信息和噪声，使数据变得更加简单高效，提高其他机器学习任务的计算效率。