主成分分析的基本思想：主成分分析就是设法将原来众多具有一定相关性的指标重新组合成一组新的相互无关的综合指标来代替原来指标。
通常数学上的处理就是将原来P个指标做线性组合，作为新的综合指标。但是这种线性组合如果不加限制则可以有很多。如果将第一个线性组合即第一个综合指标记为F1，则希望F1尽可能多地反映原来指标的信息，这里的方法就是用F1的方差来表达，即VAR（F1）越大，表示F1包含的信息越多。因此，在所有的线性组合中所选取的F1应该是方差最大的，故称F1为第一主成分。
第一主成分不足以代表原来P个指标的信息时，再考虑选取F2，F1已有的信息不需要再出现在F2中。此类推可以构造出第三，四，……，第P个主成分。这些主成分不仅不相关，而且他们的方差依次递减。