1、因子分析因子分析SPSSSPSS因子分析的定义和数学模型因子分析的定义和数学模型1SPSSSPSS中实现过程中实现过程2 因子分析是将现实生活中众多相关、重叠的信息进行合并和综合，将原始的多个变量和指标变成较少的几个综合变量和综合指标，以利于分析判定。1.因子分析的定义2.因子分析的数学模型3.因子分析在SPSS中的实现过程统计学上的定义统计学上的定义 在社会、政治、经济和医学等领域的研究中往往需要对反映事物的多个变量进行大量的观察，收集大量的数据以便进行分析，寻找规律。在大多数情况下，许多变量之间存在大多数情况下，许多变量之间存在一定的相关关系。在一定的相关关系。有可能用较少的综合指标分析存
2、在于各变量中的各类信息，有可能用较少的综合指标分析存在于各变量中的各类信息，而各综合指标之间彼此是不相关的，代表各类信息的综合而各综合指标之间彼此是不相关的，代表各类信息的综合指标称为因子。指标称为因子。定义：定义：因子分析就是用少数几个因子来描述许因子分析就是用少数几个因子来描述许多指标或因素之间的联系，以较少几个因子反多指标或因素之间的联系，以较少几个因子反映原资料的大部分信息的统计学方法。映原资料的大部分信息的统计学方法。因子分析有如下特点：因子变量的数量远少于原有的指标变量的数量，对因子变量的分析能够减少分析中的计算工作量。因子变量不是对原有变量的取舍，而是根据原始变量的信息进行重新组
3、构，它能够反映原有变量大部分的信息。因子变量之间不存在线性相关关系，对变量的分析比较方便。因子变量具有命名解释性，即该变量是对某些原始变量信息的综合和反映。对多变量的平面数据进行最佳综合和简化，即在保证数据信息丢失最少的原则下，对高维变量空间进行降维处理。显然，在一个低维空间解释系统，要比在一个高维系统空间容易得多。英国统计学家Moser Scott在1961年对英国157个城镇发展水平进行调查时，原始测量的变量有57个，而通过因子分析发现，只需要用5个新的综合变量（它们是原始变量的线性组合），就可以解释95%的原始信息。对问题的研究从57维度降低到5个维度，因此可以进行更容易的分析。数学模型
4、数学模型因子分析中的几个概念因子分析中的几个概念1因子载荷因子载荷 在各个因子变量不相关情况下，因子载荷在各个因子变量不相关情况下，因子载荷aij就是第就是第i个个原有变量和第原有变量和第j个因子变量的相关系数，即个因子变量的相关系数，即xi在第在第j个公个公共因子变量上的相对重要性，因此共因子变量上的相对重要性，因此aij绝对值越大，则绝对值越大，则公共因子公共因子Fj和原有变量和原有变量xi关系越强。关系越强。2变量共同度变量共同度 变量公共度也称为公共方差，反映全部公共因子变量对变量公共度也称为公共方差，反映全部公共因子变量对原有变量原有变量xi的总方差解释说明比例。越接近于的总方差解释
5、说明比例。越接近于1说明公说明公共因子解释原有变量越多的信息。共因子解释原有变量越多的信息。3公共因子公共因子Fj的方差贡献的方差贡献 反映了该因子对所有原始变总方差的解释能力，其值越反映了该因子对所有原始变总方差的解释能力，其值越高，说明因子重要程度越高。高，说明因子重要程度越高。因子分析有两个核心问题：因子分析有两个核心问题：一是如何构造因子变量；一是如何构造因子变量；二是如何对因子变量进行命名解释。二是如何对因子变量进行命名解释。因子分析有下面因子分析有下面4 4个基本步骤。个基本步骤。（1 1）确定待分析的原有若干变量是否适合于因子）确定待分析的原有若干变量是否适合于因子分析。分析。（
6、2 2）构造因子变量。）构造因子变量。（3 3）利用旋转使得因子变量更具有可解释性。）利用旋转使得因子变量更具有可解释性。（4 4）计算因子变量的得分。）计算因子变量的得分。因子分析的因子分析的4个基本步骤个基本步骤因子分析是从众多的原始变量中构造出少数几个具因子分析是从众多的原始变量中构造出少数几个具有代表意义的因子变量，这里面有一个潜在的要求，有代表意义的因子变量，这里面有一个潜在的要求，即即原有变量之间要具有比较强的相关性原有变量之间要具有比较强的相关性。如果原有。如果原有变量之间不存在较强的相关关系，那么就无法从中变量之间不存在较强的相关关系，那么就无法从中综合出能反映某些变量共同特性
7、的少数公共因子变综合出能反映某些变量共同特性的少数公共因子变量来。因此，在因子分析时，需要对原有变量作相量来。因此，在因子分析时，需要对原有变量作相关分析。关分析。最简单的方法就是计算变量之间的相关系数矩最简单的方法就是计算变量之间的相关系数矩阵。如果相关系数矩阵在进行统计检验中，大阵。如果相关系数矩阵在进行统计检验中，大部分相关系数都小于部分相关系数都小于0.30.3，并且未通过统计检验，并且未通过统计检验，那么这些变量就不适合于进行因子分析。那么这些变量就不适合于进行因子分析。确定待分析的原有若干变量是否适确定待分析的原有若干变量是否适合于因子分析合于因子分析1巴特利特球形检验（Bartl
8、ett Test of Sphericity）2反映像相关矩阵检验（Antiimage correlation matrix）3KMO（Kaiser-Meyer-Olkin）检验因子分析中有多种确定因子变量的方法，如基因子分析中有多种确定因子变量的方法，如基于主成分模型的主成分分析法和基于因子分析于主成分模型的主成分分析法和基于因子分析模型的主轴因子法、极大似然法、最小二乘法模型的主轴因子法、极大似然法、最小二乘法等。其中基于主成分模型的主成分分析法是使等。其中基于主成分模型的主成分分析法是使用最多的因子分析方法之一。用最多的因子分析方法之一。构造因子变量构造因子变量主成分分析主成分分析的基本
9、思想主成分分析的基本思想主成分的计算主成分的计算主成分分析的应用主成分分析的应用主成分分析的基本思想主成分分析的基本思想 主成分分析就是把原有的多个指标转化成少数几个主成分分析就是把原有的多个指标转化成少数几个代表性较好的综合指标，这少数几个指标能够反映原来代表性较好的综合指标，这少数几个指标能够反映原来指标指标大部分大部分的信息（的信息（85%以上以上），并且各个指标之间保），并且各个指标之间保持独立，避免出现重叠信息。主成分分析主要起着持独立，避免出现重叠信息。主成分分析主要起着降维降维和和简化数据结构简化数据结构的作用。的作用。1 1 基本思想基本思想2 2 数学模型与几何解释数学模型与
10、几何解释假设我们所讨论的实际问题中，有假设我们所讨论的实际问题中，有p个指标，我们把这个指标，我们把这p个指个指标看作标看作p个随机变量，记为个随机变量，记为X1，X2，Xp，主成分分析就，主成分分析就是要把这是要把这p个指标的问题，转变为讨论个指标的问题，转变为讨论 m 个新的指标个新的指标F1，F2，Fm(mp），按照保留主要信息量的原则充分反映），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。原指标的信息，并且相互独立。npnnppXXXXXXXXXX212222111211 pXXX21 niiiiXXXX21其中其中ppppppppppXaXaXaFXaXaXaFXaX
11、aXaF 22112222112212211111 这种由讨论这种由讨论多个指标多个指标降为降为少数几个少数几个综合指标的过程在数学上就综合指标的过程在数学上就叫做叫做降维降维。主成分分析通常的做法是，。主成分分析通常的做法是，寻求原指标的线性组合寻求原指标的线性组合Fi。满足如下的条件：满足如下的条件：122221 piiiaaapjijiFFCovji，），（210 )()(21pFVarFVarFVar ）（主成分之间相互独立，即无重叠的信息。即主成分之间相互独立，即无重叠的信息。即主成分的方差依次递减，重要性依次递减，即主成分的方差依次递减，重要性依次递减，即每个主成分的系数平方和为每
12、个主成分的系数平方和为1。即。即2x2x1F2F主成分分析的几何解释主成分分析的几何解释旋转坐标轴旋转坐标轴 2121212211cossinsincoscossinsincosxxFFxxFxxF 旋转变换的目的是为了使得旋转变换的目的是为了使得n个个样本点在样本点在F1轴方向上的离散程度轴方向上的离散程度最大，即最大，即F1的方差最大，变量的方差最大，变量F1代表了原始数据的绝大部分信息，代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑在研究某经济问题时，即使不考虑变量变量F2也损失不多的信息。也损失不多的信息。F1与与F2除起了浓缩作用外，还具除起了浓缩作用外，还具有不相关性
13、。有不相关性。F1称为第一主成分，称为第一主成分，F2称为第二称为第二主成分。主成分。主成分的计算主成分的计算先讨论二维情形先讨论二维情形212122211211XXXXXXXXXnn求第一主成分求第一主成分F1和和F2。21,xx 我们已经把主成分我们已经把主成分F1和和F2 的坐标原点放的坐标原点放在平均值在平均值 所在处，从而使得所在处，从而使得F1和和F2 成为成为中心化的变量，即中心化的变量，即F1和和F2 的样本均值都为零。的样本均值都为零。因此F1可以表示为)()(222111111xxaxxaF),(2111aa关键是，寻找合适的单位向量 ，使F1的方差最大。1问题的答案是：X
14、的协方差矩阵S 的最大特征根 所对应的单位特征向量即为 。并且 就是F1的方差。2111,aa1同样，同样，F2可以表示为可以表示为)()(222211122xxaxxaF),(2212aa寻找合适的单位向量寻找合适的单位向量 ，使，使F2与与F1独立，独立，且使且使F2的方差（除的方差（除F1之外）最大。之外）最大。2问题的答案问题的答案是：是：X的协方差矩阵的协方差矩阵S 的第二大特征根的第二大特征根 所对应的单位特征向量即为所对应的单位特征向量即为 。并且。并且 就就是是F2的方差。的方差。2212,aa2)()(222111111xxaxxaF)()(222211122xxaxxaF其
15、中，其中，aij称为因子载荷量称为因子载荷量因子载荷量：主成分与变量间的相关系数，因子载荷量：主成分与变量间的相关系数，即：因子载荷量的大小和它前面的正负号直接反映了即：因子载荷量的大小和它前面的正负号直接反映了主成分与相应变量之间关系的密切程度和方向。从而可以说主成分与相应变量之间关系的密切程度和方向。从而可以说明各主成分的意义明各主成分的意义求解主成分的步骤：求解主成分的步骤：1.求样本均值求样本均值 和样本协方差矩阵和样本协方差矩阵S;),(21xxX 2.求求S的特征根的特征根求解特征方程求解特征方程 ，其中，其中I是单位矩阵，是单位矩阵，解得解得2个特征根个特征根 0 IS2121,
16、3.求特征根所对应的单位特征向量求特征根所对应的单位特征向量4.写出主成分的表达式写出主成分的表达式)()(222111111xxaxxaF)()(222211122xxaxxaF身高身高x1(cm)胸围胸围x2(cm)体重体重x3(kg)149.5162.5162.7162.2156.5156.1172.0173.2159.5157.769.577.078.587.574.574.576.581.574.579.038.555.550.865.549.045.551.059.543.553.5例例1 下表是下表是10位学生的身高位学生的身高1x、胸围、胸围2x、体重、体重3x的数据。的数据。
17、对此进行主成分分析。对此进行主成分分析。1.求样本均值和样本协方差矩阵求样本均值和样本协方差矩阵 2.513.772.161321xxx53.5558.3200.3011.2112.1767.46S 2.求解协方差矩阵的特征方程求解协方差矩阵的特征方程 0 IS 053.5558.3200.3058.3211.2112.1700.3012.1767.463.解得三个特征值解得三个特征值 15.98160.23256.13)71.0,42.0,56.0(),(312111aaa)48.0,33.0,81.0(),(322212aaa)53.0,85.0,03.0(),(332313aaa和对应的
18、单位特征向量：和对应的单位特征向量：4.由此我们可以写出三个主成分的表达式：)2.51(71.0)3.77(42.0)2.161(56.03211xxxF)2.51(48.0)3.77(33.0)2.161(81.03212xxxF)2.51(53.0)3.77(85.0)2.161(03.03213xxxF5.主成分的含义F1表示学生身材大小。F2反映学生的体形特征 三个主成分的方差贡献率分别为：%6.7931.12315.9856.160.2315.9815.98311ii%1.1931.12360.23312ii%3.131.12356.1313ii前两个主成分的累积方差贡献率为：%7.
19、9831.12375.1213121ii在一般情况下，设有n个样品，每个样品观测p个指 标，将原始数据排成如下矩阵：npnnppxxxxxxxxx.212222111211多指标多指标 求解主成分的步骤：求解主成分的步骤：),.,(21pxxxX1.求样本均值和样本协方差矩阵S;2.求解特征方程IS=0,其中I是单位矩阵,解得p个特征根p,.,21).(21p3.求k所对应的单位特征向量k),.,2,1(pk 解得),.,(21pkkkkaaa4.写出主成分的表达式 )(.)()(222111pppkkkkxxaxxaxxaF ppkkkkxaxaxaF .2211或或根据累积贡献率的大小取前
20、面m 个(mp)主成分选取原则：且%=8580111piimii%85801piiimii主成分个数的选取原则例例 设设 的协方差矩阵为的协方差矩阵为作主成分分析。作主成分分析。12(,)TXX X144 100解：解：如果从如果从 出发作主成分分析，易求得其特征出发作主成分分析，易求得其特征值和相应的正交单位化特征向量为值和相应的正交单位化特征向量为 的两个主成分分别为的两个主成分分别为 第一主成分的贡献率为第一主成分的贡献率为1122100.16,(0.040,0.999),0.84,(0.999,0.040).TTeeX1122120.0400.999,0.9990.040.YXXYXX
21、112100.1699.2%101SPSS中实现步骤中实现步骤 研究问题研究问题表表2 2所示为所示为2020名大学生关于价值观的名大学生关于价值观的9 9项测验结项测验结果，包括合作性、对分配的看法、行为出发点、果，包括合作性、对分配的看法、行为出发点、工作投入程度、对发展机会的看法、社会地位工作投入程度、对发展机会的看法、社会地位的看法、权力距离、对职位升迁的态度、以及的看法、权力距离、对职位升迁的态度、以及领导风格的偏好。领导风格的偏好。合作性合作性分分 配配出发点出发点工作投入工作投入发展机会发展机会社会地位社会地位权力距离权力距离职位升迁职位升迁领导风格领导风格16161318161
22、715161618191516181818171917171714171816161617171716191819201916151616181815161620171617181817191818161620151619141716161318161715161618191516181818171917171714171816161617171716191819201916151616181815161620171617181817191818161620151619141716161318161715161618191516181818171917171714171816161617171
23、7161918192019161516161818151616201716171818171918 实现步骤实现步骤（1 1）SPSSSPSS输出结果文件中的第一部分如下表所示。输出结果文件中的第一部分如下表所示。SPSS结果解释结果解释（2 2）SPSSSPSS输出结果文件中的第二部分如下表所示。输出结果文件中的第二部分如下表所示。（3 3）SPSSSPSS输出结果文件中的第三部分如下表所示。输出结果文件中的第三部分如下表所示。（4 4）SPSSSPSS输出结果文件中的第四部分如下表所示。输出结果文件中的第四部分如下表所示。（5 5）SPSSSPSS输出结果文件中的第五部分如下表所示。输出结
24、果文件中的第五部分如下表所示。（6 6）SPSSSPSS输出结果文件中的第六部分如下表所示。输出结果文件中的第六部分如下表所示。（7 7）SPSSSPSS输出结果文件中的第七部分为输出结果文件中的第七部分为Total Variance Total Variance ExplainedExplained表格。如下表所示。表格。如下表所示。（8 8）SPSSSPSS输出结果文件中的第八部分如图所示。输出结果文件中的第八部分如图所示。（9 9）SPSSSPSS输出结果文件中的第九部分如下表所示。输出结果文件中的第九部分如下表所示。（1010）SPSSSPSS输出结果文件中的第十部分如下表所示。输出结
25、果文件中的第十部分如下表所示。（1111）SPSSSPSS输出结果文件中的第十一部分如下表所示。输出结果文件中的第十一部分如下表所示。（1212）SPSSSPSS输出结果文件中的第十二部分如图所示。输出结果文件中的第十二部分如图所示。（1313）SPSSSPSS输出结果文件中的第十三部分如下表所示。输出结果文件中的第十三部分如下表所示。（1414）SPSSSPSS输出结果文件中的第十四部分如下表所示。输出结果文件中的第十四部分如下表所示。因子分析是对现实生活中众多的相关、重因子分析是对现实生活中众多的相关、重叠信息进行合并和综合，它以最少的信息叠信息进行合并和综合，它以最少的信息丢失，将原始的
26、众多变量和指标变成较少丢失，将原始的众多变量和指标变成较少的几个综合变量，以利于分析判定。的几个综合变量，以利于分析判定。在研究中，因子分析得到的结果经常用于在研究中，因子分析得到的结果经常用于综合判定。综合判定。讨论讨论因子分析是由因子分析是由Charles SpearmanCharles Spearman在在19041904年首年首次提出，其在某种程度上可以被看成是主成分次提出，其在某种程度上可以被看成是主成分分析的推广和扩展。因子分析就是用少量几个分析的推广和扩展。因子分析就是用少量几个因子来描述许多指标或因素之间的联系，以较因子来描述许多指标或因素之间的联系，以较少的几个因子反应原资料
27、的大部分信息的统计少的几个因子反应原资料的大部分信息的统计方法。方法。因子分析有两个核心问题：一是如何构造因子分析有两个核心问题：一是如何构造变量，二是如何对因子变量命名解释。因子分变量，二是如何对因子变量命名解释。因子分析的基本步骤有四步：（析的基本步骤有四步：（1 1）确定带分析的原）确定带分析的原有若干变量是否适于因子分析；（有若干变量是否适于因子分析；（2 2）构造因）构造因子变量；（子变量；（3 3）利用旋转使得因子变量更具有）利用旋转使得因子变量更具有可解释性；（可解释性；（4 4）计算因子变量得分。）计算因子变量得分。选中选中SPSSSPSS中中“AnalyzeAnalyze”/“Data Data ReductionReduction”/“FactorFactor”子菜单可进行因子分析，子菜单可进行因子分析，应计算相应的因子得分。应计算相应的因子得分。
