1、重点重点v什么是因子分析？什么是因子分析？v理解因子分析的基本思想理解因子分析的基本思想v因子分析的数学模型以及模型中公共因子、因因子分析的数学模型以及模型中公共因子、因 子载荷变量共同度的统计意义子载荷变量共同度的统计意义v因子分析的基本步骤因子分析的基本步骤v因子旋转的意义因子旋转的意义 引入n研究事物时候，需要影响该对象的各种变量的大量数据。但是过多的变量会影响数据的采集和数据的分析。n大多数情况下，多变量会出现相关，利用传统的多元回归就出现了大问题。n如果删减指标，有时会损失很多有用的信息。n需要在减少指标的同时，尽量减少对于原指标所包含信息的损失。n由于各变量之间相关，所以有可能用较
2、少的综合指标分别综合存在于各变量中的各类信息，从而达到降维的目的。降维思路：降维思路：身高身高体重体重数据数据 变量观测量i身高h体重w1h1w12h2w23h3w34h4w4nhnwn主成分概念示意图主成分概念示意图 用p1一个指标来代替原始变量h、w研究n个观测对象的差异。p1、p2可以用原始变量h、w的线性组合来表示：wlhlpwlhlp2221212111一、因子分析的基本理论一、因子分析的基本理论 1 1、什么是因子分析、什么是因子分析 利用利用降维降维的思想，由研究原始变量相关矩阵或协的思想，由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发，把一些具有错综复杂方差矩阵的内部依赖
3、关系出发，把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元关系的多个变量归结为少数几个综合因子的一种多元统计分析方法。统计分析方法。2 2、历史、历史 由心理学家发展起来的，由心理学家发展起来的，19041904年，斯皮尔曼年，斯皮尔曼在美国心理学杂志上发表了第一篇有关因子分析在美国心理学杂志上发表了第一篇有关因子分析的文章，来解释人类的行为和能力。的文章，来解释人类的行为和能力。5050年代后，年代后，在社会学、经济学、医学、地质学、气象学和市在社会学、经济学、医学、地质学、气象学和市场营销学中得到了广泛的应用。场营销学中得到了广泛的应用。3 3、应用方面、应用方面n1、寻求
4、基本结构寻求基本结构summarizationsummarizationn2 2、数据简化、数据简化 data reductiondata reduction应用第一方面：寻求基本结构应用第一方面：寻求基本结构n多元统计中，多变量如果存在较强的相关多元统计中，多变量如果存在较强的相关性。意味着他们所反映的信息高度重合，性。意味着他们所反映的信息高度重合，通过因子分析可以找到较少的代表因子。通过因子分析可以找到较少的代表因子。n例如，某快餐店为了了解市场竞争力进行例如，某快餐店为了了解市场竞争力进行消费者调查，通过定性研究设计了消费者调查，通过定性研究设计了3030个调个调查项目，这查项目，这3
5、030个项目可能反映了快餐的质个项目可能反映了快餐的质量、价格、就餐环境和服务四个基本方面。量、价格、就餐环境和服务四个基本方面。通过因子分析我们能找到反映这四个通过因子分析我们能找到反映这四个 因子因子和和3030个观测变量之间的关系。个观测变量之间的关系。应用第二方面：数据简化数据简化 n数据简化n通过因子分析把一组观测变量化为较少的几个因子后，利用这些因子代替原来的观测变量进行其他的统计分析，比如：回归分析、路径分析、判别分析和聚类分析，利用因子值还可以直接对样本进行分类和综合评价。n把每个研究变量分解为几个影响因素变量，将每个原始变量分解成两部分因素，一部分是由所有变量共同具有的少数几
6、个公共因子组成的，另一部分是每个变量独自具有的因素，即特殊因子。因子分析的基本思想因子分析的基本思想因子分析原理n因为任何一个变量都可以经过标准化处理，并且经过这样的标准化转化不改变变量间的相关系数。n不失一般性，假设我们讨论的都是标准化变量。n因子分析模型和多元回归模型类似n每个观测变量由一组因子的线性组合来表示。n设有p个观测变量都是0均值，单位方差的标准化变量。4 4、因子分析模型、因子分析模型 设设 个变量，如果表示为个变量，如果表示为iX),2,1(pip11iiiimmiXa Fa F)(pm 11111211122212222212mmpppppmpmXaaaFXaaaFXaaa
7、F或XAF或（1 1）（2 2）称为称为 公共因子，是不可观测的变量，公共因子，是不可观测的变量，他们的系数称为因子载荷。他们的系数称为因子载荷。是特殊因子，是不能被是特殊因子，是不能被前前m m个公共因子包含的部分。其中：个公共因子包含的部分。其中：mFFF,21icov(,)0,F,F不相关；不相关；IFD111)(mFFF,21即即 互不相关，方差为互不相关，方差为1 1。（3 3）22221)(pD即互不相关，方差不一定相等，即互不相关，方差不一定相等，。满足以上条件的，称为满足以上条件的，称为正交因子模型正交因子模型如果（）不成立，即如果（）不成立，即 各公共因子之间不独立，各公共因
8、子之间不独立，则因子分析模型为则因子分析模型为斜交因子模型斜交因子模型),0(2iiNIFD)(5 5、因子分析的目的、因子分析的目的l因子分析的目的之一，因子分析的目的之一，简化变量维数。简化变量维数。即要使因素结构即要使因素结构简单化，希望以最少的共同因素（公共因子），能对总简单化，希望以最少的共同因素（公共因子），能对总变异量作最大的解释，因而抽取得因子愈少愈好，但抽变异量作最大的解释，因而抽取得因子愈少愈好，但抽取因子的累积解释的变异量愈大愈好。取因子的累积解释的变异量愈大愈好。l在因子分析的公共因子抽取中，应最先抽取特征值最大在因子分析的公共因子抽取中，应最先抽取特征值最大的公共因子
9、，其次是次大者，最后抽取公共因子的特征的公共因子，其次是次大者，最后抽取公共因子的特征值最小的，通常会接近值最小的，通常会接近0 0。v案例案例1 1：在企业形象或品牌形象的研究中，消费者可以通：在企业形象或品牌形象的研究中，消费者可以通过一个有过一个有2424个指标构成的评价体系，评价百货商场的个指标构成的评价体系，评价百货商场的2424个个方面的优劣。方面的优劣。v但消费者主要关心的是三个方面，即商店的环境、商店的但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过服务和商品的价格。因子分析方法可以通过2424个变量，找个变量，找出反映商店环境、商店服务
10、水平和商品价格的三个潜在的出反映商店环境、商店服务水平和商品价格的三个潜在的因子，对商店进行综合评价。而这三个公共因子可以表示因子，对商店进行综合评价。而这三个公共因子可以表示为：为：iiiiiiFFFx332211321FFF、iv是不可观测的潜在因子是不可观测的潜在因子,称为公共因子。称为公共因子。2424个变量共享这三个因个变量共享这三个因子子.v但是每个变量又有自己的个性，不被包含的部分，称为特殊因但是每个变量又有自己的个性，不被包含的部分，称为特殊因子。子。公因子公因子F1公因子公因子F2共同度共同度hi特殊因子特殊因子ix1=代数代数10.8960.3410.9190.081x2=
11、代数代数20.8020.4960.8890.111x3=几何几何0.5160.8550.9970.003x4=三角三角0.8410.4440.9040.096x5=解析几何解析几何0.8330.4340.8820.118特征值特征值 G3.1131.4794.9590.409方差贡献率方差贡献率（变异量）（变异量）62.26%29.58%91.85%因子分析案例因子分析案例2F F1 1 体现逻辑思维和运算能力，体现逻辑思维和运算能力，F F2 2 体现空间思维和推理能力体现空间思维和推理能力公因子公因子F1公因子公因子F2x1=代数代数10.8960.341x2=代数代数20.8020.49
12、6x3=几何几何0.5160.855x4=三角三角0.8410.444x5=解析几何解析几何0.8330.434因子分析案例因子分析案例2该案例是对数学专业的五门专业课进行相关性因子分析该案例是对数学专业的五门专业课进行相关性因子分析6 6、因子分析模型中的几个重要统计量的意义、因子分析模型中的几个重要统计量的意义（1 1）因子负荷量（或称因子载荷）因子负荷量（或称因子载荷）-是指因子结构是指因子结构中原始变量与因子分析时抽取出的公共因子的相关程中原始变量与因子分析时抽取出的公共因子的相关程度。度。*ii1 1i2 2im mixFFFaaam*ijji 1mjii 1ijCov(x,F)co
13、v(,F)cov(,F)cov(,Fj)ikkiikka Fa Fa)var(*)var()*,cov(rijjijiFxFxr 注意：注意：在各公共因子不相关的前提下，在各公共因子不相关的前提下，（载荷矩阵中第（载荷矩阵中第i i行，行，第第j j列的元素）列的元素）是随机变量是随机变量xi*与公共因子与公共因子F Fj j的相关系数，的相关系数，表示表示x xi i*依赖于依赖于F Fj j的程度。的程度。反映了第反映了第i i个原始变量在第个原始变量在第j j个公共因子上的相对重要性。因此个公共因子上的相对重要性。因此 绝对值越大，则绝对值越大，则公共因子公共因子F Fj j与原有变量与
14、原有变量x xi i的关系越强。的关系越强。ijaija（2 2）共同度共同度-又称共性方差或公因子方差又称共性方差或公因子方差（community或或common variance）就是观测变量的方差中由公因子决就是观测变量的方差中由公因子决定的比例。当因子正交时，等于每个公共因子之负荷量的定的比例。当因子正交时，等于每个公共因子之负荷量的平方总和（一行中所有因素负荷量的平方和）。平方总和（一行中所有因素负荷量的平方和）。变量变量 的共同度是因子载荷矩阵的第的共同度是因子载荷矩阵的第i i行的元素的平方和。记为行的元素的平方和。记为 iX。mjijiah122 从共同性的大小可以判断这个原始
15、实测从共同性的大小可以判断这个原始实测变量与公共因子间之关系程度。变量与公共因子间之关系程度。特殊因子方差特殊因子方差（剩余方差）（剩余方差）-各变量的特殊因素影响大小就是各变量的特殊因素影响大小就是1 1减掉该变量共同度的值。减掉该变量共同度的值。统计意义统计意义：imimiiFaFaX11*两边求方差两边求方差)()()()(2112imimiiVarFVaraFVaraXVar221221iimjiijha 所有的公共因子和特殊因子对变量所有的公共因子和特殊因子对变量 的贡献为的贡献为1 1。h hi i2 2反映了全反映了全部公共因子对变量部公共因子对变量X Xi i*的影响，是全部公
16、共因子对变量方差所做出的的影响，是全部公共因子对变量方差所做出的贡献，或者说贡献，或者说X Xi i*对公共因子的共同依赖程度，称为公共因子对变量对公共因子的共同依赖程度，称为公共因子对变量X Xi i*的方差贡献。的方差贡献。h hi i2 2接近于接近于1 1，表明该变量的原始信息几乎都被选取的公共因子，表明该变量的原始信息几乎都被选取的公共因子说明了。说明了。特殊因子的方差，反映了原有变量方差中无法被公共因子特殊因子的方差，反映了原有变量方差中无法被公共因子描述的比例。描述的比例。*iX2i公因子公因子F1公因子公因子F2共同度共同度hi特殊因子特殊因子ix1=代数代数10.8960.3
17、410.9190.081x2=代数代数20.8020.4960.8890.111x3=几何几何0.5160.8550.9970.003x4=三角三角0.8410.4440.9040.096x5=解析几何解析几何0.8330.4340.8820.118因子分析案例因子分析案例2第一个观测变量共同度第一个观测变量共同度h h1 12 2=(0.896)=(0.896)平方平方+(0.341)+(0.341)平方平方=0.919=0.919同时，它的剩余方差是：同时，它的剩余方差是：（3 3）特征值特征值-是第是第j j个公共因子个公共因子F Fj j对于对于X X*的每一分量的每一分量X Xi i
18、*所提供的方差的总和。又称第所提供的方差的总和。又称第j j个公共因子的方差贡献。个公共因子的方差贡献。即即每个变量与某一共同因子之因子负荷量的平方总和每个变量与某一共同因子之因子负荷量的平方总和（因子载荷矩阵中某一公共因子列所有因子负荷量的平（因子载荷矩阵中某一公共因子列所有因子负荷量的平方和）。方和）。如因子分析案例中如因子分析案例中 F1F1的特征值的特征值 G=G=（0.8960.896）平方平方 +（0.8020.802）平方）平方 +（0.5160.516）平方）平方 +（0.8410.841）平方）平方 +（0.8330.833）平方）平方 =3.113 =3.113表示了每个公
19、因子表示了每个公因子对数据的届时能力对数据的届时能力（4 4）方差贡献率）方差贡献率实际中更常用的指标实际中更常用的指标-指每个因子所解释的方差占所指每个因子所解释的方差占所有变量总方差的比例。即公有变量总方差的比例。即公共因子对实测变量的贡献，共因子对实测变量的贡献，变量方差贡献率变量方差贡献率=特征值特征值G/pG/p，是衡量公共因子相对重要性的指是衡量公共因子相对重要性的指标，标，G Gi i越大，表明公共因子越大，表明公共因子F Fj j对对X X*的的贡献越大，该因子的重要程贡献越大，该因子的重要程度越高度越高如因子分析案例中如因子分析案例中 F1F1的贡献率的贡献率为为3.113/
20、5=62.26%3.113/5=62.26%7 7、主成分分析分析、主成分分析分析principal componentsprincipal components与因子分析的联系和差异与因子分析的联系和差异 联系：联系：（1 1）因子分析是主成分分析的推广，是主成分分析的逆问）因子分析是主成分分析的推广，是主成分分析的逆问题。（题。（2 2）二者都是以）二者都是以降维降维为目的，都是从协方差矩阵或相关系数为目的，都是从协方差矩阵或相关系数矩阵出发。矩阵出发。区别区别：（1 1）主成分分析模型是原始变量的线性组合，是将原始变主成分分析模型是原始变量的线性组合，是将原始变量加以综合、归纳，仅仅是变
21、量变换；而因子分析是将原始变量加以分量加以综合、归纳，仅仅是变量变换；而因子分析是将原始变量加以分解，描述原始变量协方差矩阵结构的模型；只有当提取的公因子个数等解，描述原始变量协方差矩阵结构的模型；只有当提取的公因子个数等于原始变量个数时，因子分析才对应变量变换。（于原始变量个数时，因子分析才对应变量变换。（2 2）主成分分析，中）主成分分析，中每个主成分对应的系数是唯一确定的；因子分析中每个因子的相应系数每个主成分对应的系数是唯一确定的；因子分析中每个因子的相应系数即因子载荷不是唯一的。（即因子载荷不是唯一的。（3 3）因子分析中因子载荷的不唯一性有利于）因子分析中因子载荷的不唯一性有利于对
22、公共因子进行有效解释；而主成分分析对提取的主成分的解释能力有对公共因子进行有效解释；而主成分分析对提取的主成分的解释能力有限。限。目的不同！一个侧重降维，一个侧重解释！目的不同！一个侧重降维，一个侧重解释！二、因子分析的基本内容二、因子分析的基本内容1 1、因子分析的基本步骤、因子分析的基本步骤（1 1）因子分析的前提条件鉴定）因子分析的前提条件鉴定 考察原始变量之间是否存在较强的相关关系，是否适考察原始变量之间是否存在较强的相关关系，是否适合进行因子分析。因为：合进行因子分析。因为：因子分析的主要任务之一就是对原有变量中信息重叠因子分析的主要任务之一就是对原有变量中信息重叠的部分提取和综合成
23、因子，最终实现减少变量个数的目的。的部分提取和综合成因子，最终实现减少变量个数的目的。所以要求原有变量之间应存在较强的相关关系。否则，如所以要求原有变量之间应存在较强的相关关系。否则，如果原有变量相互独立，不存在信息重叠，也就无需进行综果原有变量相互独立，不存在信息重叠，也就无需进行综合和因子分析。合和因子分析。（2 2）因子提取）因子提取 研究如何在样本数据的基础上提取综合因子。研究如何在样本数据的基础上提取综合因子。（3 3）因子旋转）因子旋转 通过正交旋转或斜交旋转使提取出的因子具有可解通过正交旋转或斜交旋转使提取出的因子具有可解释性。释性。（4 4）计算因子得分）计算因子得分 通过各种
24、方法求解各样本在各因子上的得分，为进通过各种方法求解各样本在各因子上的得分，为进一步分析奠定基础。一步分析奠定基础。2 2、因子分析前提条件、因子分析前提条件相关性分析相关性分析分析方法主要有：分析方法主要有：（1 1）计算相关系数矩阵）计算相关系数矩阵(correlation correlation coefficients matrix)coefficients matrix)如果相关系数矩阵中的大部分相关系数值均如果相关系数矩阵中的大部分相关系数值均小于小于0.30.3，即各变量间大多为弱相关，原则上，即各变量间大多为弱相关，原则上这些变量不适合进行因子分析。这些变量不适合进行因子分析。
25、（2 2）计算反映象相关矩阵（）计算反映象相关矩阵（Anti-image Anti-image correlation matrix)correlation matrix)反映象相关矩阵，如果其主对角线外的元素大多绝反映象相关矩阵，如果其主对角线外的元素大多绝对值较小，对角线上的元素值较接近对值较小，对角线上的元素值较接近1 1，则说明这些变，则说明这些变量的相关性较强，适合进行因子分析。量的相关性较强，适合进行因子分析。其中主对角线上的元素为某变量的其中主对角线上的元素为某变量的MSA(MeasureMSA(Measure of of Sample Adequacy)Sample Adequ
26、acy)：是变量是变量 和变量和变量 （）间的简单相关系数，是间的简单相关系数，是变量变量 和变量和变量 （）在控制了其他变量影响下的偏在控制了其他变量影响下的偏相关系数，即净相关系数。相关系数，即净相关系数。取值在取值在0 0和和1 1之间，越接之间，越接近近1 1，意味着变量，意味着变量 与其他变量间的相关性越强，越接与其他变量间的相关性越强，越接近近0 0则相关性越弱。则相关性越弱。ijijijijijijiprrMSA222ijrixjxijijpixjxijiMSAix（3 3）巴特利特球度检验（）巴特利特球度检验（Bartlett test of Bartlett test of
27、sphericitysphericity)该检验以原有变量的相关系数矩阵为出发点，其零假该检验以原有变量的相关系数矩阵为出发点，其零假设设H0H0是：相关系数矩阵为单位矩阵，即相关系数矩阵主对是：相关系数矩阵为单位矩阵，即相关系数矩阵主对角元素均为角元素均为1 1，非主对角元素均为，非主对角元素均为0 0。（即原始变量之间无。（即原始变量之间无相关关系）。相关关系）。依据相关系数矩阵的行列式计算可得其近似服从卡依据相关系数矩阵的行列式计算可得其近似服从卡方分布。如果统计量卡方值较大且对应的方分布。如果统计量卡方值较大且对应的sigsig值小于给定值小于给定的显著性水平的显著性水平a a时，零假
28、设不成立。即说明相关系数矩阵时，零假设不成立。即说明相关系数矩阵不太可能是单位矩阵，变量之间存在相关关系，适合做因不太可能是单位矩阵，变量之间存在相关关系，适合做因子分析。子分析。（4 4）KMO(Kaiser-Meyer-OlkinKMO(Kaiser-Meyer-Olkin)检验检验 KMOKMO检验的统计量是用于比较变量间简单相关系数矩阵检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标，数学定义为：和偏相关系数的指标，数学定义为：KMO KMO与与MSAMSA区别是它将相关系数矩阵中的所有元素都加入区别是它将相关系数矩阵中的所有元素都加入到了平方和计算中。到了平方和计算中。
29、KMOKMO值越接近值越接近1 1，意味着变量间的相，意味着变量间的相关性越强，原有变量适合做因子分析；越接近关性越强，原有变量适合做因子分析；越接近0 0，意味，意味变量间的相关性越弱，越不适合作因子分析。变量间的相关性越弱，越不适合作因子分析。KaiserKaiser给出的给出的KMOKMO度量标准：度量标准：0.90.9以上非常适合；以上非常适合；0.80.8表示适合；表示适合；0.70.7表示一般；表示一般；0.60.6表示不太适合；表示不太适合；0.50.5以下表示极不适以下表示极不适合。合。ijijijijijijiprrKMO2223 3、因子提取和因子载荷矩阵的求解、因子提取和
30、因子载荷矩阵的求解 因子载荷矩阵求解的方法：因子载荷矩阵求解的方法：（1 1）基于主成分模型的主成分分析法）基于主成分模型的主成分分析法 （2 2）基于因子分析模型的主轴因子法）基于因子分析模型的主轴因子法 （3 3）极大似然法极大似然法 （4 4）最小二乘法）最小二乘法 （5 5）a a因子提取法因子提取法 （6 6）映象分析法）映象分析法（1 1）基于主成分模型的主成分分析法）基于主成分模型的主成分分析法Principal Principal componentscomponents 设随机向量 的均值为，协方差为,为的特征根，为对应的标准化特征向量，则pxxx,21x021pp21u,u
31、,u12p=UUAA+Dn上式给出的上式给出的 表达式是精确的，然而，它实际上是毫无价表达式是精确的，然而，它实际上是毫无价值的，因为我们的目的是寻求用少数几个公共因子解释，值的，因为我们的目的是寻求用少数几个公共因子解释，故略去后面的故略去后面的p-mp-m项的贡献，有：项的贡献，有：p2uuuuuuppp21122111100p212ppuuuuuu21111mmmmmmp1122ppu uu uu uuuu un上式有一个假定，模型中的特殊因子是不重要的，因而从上式有一个假定，模型中的特殊因子是不重要的，因而从 的分解中忽略了特殊因子的方差。的分解中忽略了特殊因子的方差。12 mmm11
32、22AA+Du uu uu uD22212(,)pdiagD其中221miiiijjsa1121122 mmp mpmmp2uuuuuDAADu 例例:假定某地固定资产投资率假定某地固定资产投资率 ，通货膨胀率，通货膨胀率 ，失业率失业率 ，相关系数矩阵为，相关系数矩阵为试用主成分分析法求因子分析模型。试用主成分分析法求因子分析模型。1x2x3x15/25/15/215/15/15/11(1)(1)求解特征根求解特征根(2)(2)求解特征向量：求解特征向量：(3)(3)因子载荷矩阵：因子载荷矩阵：55.11 85.02 6.03 6.0707.085.0331.055.1629.06.0707
33、.085.0331.055.1629.0085.0883.055.1475.0A707.0331.0629.0707.0331.0629.00883.0475.0U548.0305.0783.0548.0305.0783.00814.0569.0(4)(4)因子分析模型：因子分析模型：可取前两个因子可取前两个因子F1F1和和F F2 2为公共因子，第一公因子为公共因子，第一公因子F F1 1物价物价就业因子，对就业因子，对X X的贡献为的贡献为1.551.55。第一公因子。第一公因子F F2 2为投资因子，为投资因子，对对X X的贡献为的贡献为0.850.85。共同度分别为。共同度分别为1 1
34、，0.7060.706，0.7060.706。211814.0569.0FFx3212548.0305.0783.0FFFx3213548.0305.0783.0FFFx（2 2）基于因子分析模型的主轴因子法）基于因子分析模型的主轴因子法Principal axis Principal axis factoringfactoring 是对主成分方法的修正，假定我们首先对变量进行是对主成分方法的修正，假定我们首先对变量进行标准化变换。则标准化变换。则 R=AAR=AA+D+D R R*=AA=AA=R-D=R-D称称R R*为约相关矩阵，为约相关矩阵，R R*对角线上的元素是对角线上的元素是 ,
35、而不是而不是1 1。2ih 直接求直接求R R*的前的前p p个特征根和对应的正交特征向个特征根和对应的正交特征向量。得如下的矩阵：量。得如下的矩阵：2112122122212ppppphrrrhrRrrhR-D*1122ppAuuu*10pR特征根：*12,pu uu正交特征向量：当特殊因子当特殊因子 的方差的方差已知：已知：i21222pRR*11*221122*ppppuuuuuu*1122mmAuuu2121100phhD方差矩阵未知，估计的方法有如下几种：方差矩阵未知，估计的方法有如下几种：1 1）取）取 ，在这个情况下主因子解与主成分解等价；，在这个情况下主因子解与主成分解等价；2
36、 2）取）取 ，为为x xi i与其他所有的原始变量与其他所有的原始变量x xj j的复相关系的复相关系数的平方，即数的平方，即x xi i对其余的对其余的p-1p-1个个x xj j的回归方程的判定系数，这是的回归方程的判定系数，这是因为因为x xi i 与公共因子的关系是通过其余的与公共因子的关系是通过其余的p-1p-1个个x xj j 的线性组合联的线性组合联系起来的；系起来的；3 3）取）取 ，这意味着取，这意味着取x xi i与其余的与其余的x xj j的简的简单相关系数的绝对值最大者；单相关系数的绝对值最大者；12ih22iiRh 2iR)(|max2ijrhiji 4 4）取）取
37、 ，其中要求该值为正数。，其中要求该值为正数。5 5）取）取 ，其中，其中 是是 的对角元素。的对角元素。pjijijirph,1211iiirh/12iir1R 例：例：假定某地固定资产投资率假定某地固定资产投资率 ，通货膨胀率，通货膨胀率 ，失业率，失业率 ，相关系数矩阵为相关系数矩阵为试用主轴因子分析法求因子分析模型。假定用试用主轴因子分析法求因子分析模型。假定用代替初始的代替初始的 。1x2x3x15/25/15/215/15/15/11)(|max2ijrhiji2ih52,1,51232221hhh221251111515/25/25/15/215/15/15/15/1*R（1 1
38、）求解特征根：）求解特征根：（2 2）对应的非）对应的非0 0特征向量：特征向量：（3 3）因子载荷矩阵表：）因子载荷矩阵表：9123.010877.0203261.0657.0261.0657.0929.0369.00877.0261.09123.0657.00877.0261.09123.0657.00877.0929.09123.0369.0077.0628.0077.0628.0275.0352.0（4 4）因子分析模型：）因子分析模型：（5 5）新的共同度：）新的共同度：1211275.0352.0FFx2212077.0625.0FFx3211077.0682.0FFx18129.
39、0275.0352.02221h3966.0077.0625.02222h4710.0077.0682.02223h4 4、因子旋转、因子旋转为什么要旋转因子？为什么要旋转因子？建立了因子分析数学目的不仅仅要找出公共因子以及建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组，更重要的要知道每个公共因子的意义，对变量进行分组，更重要的要知道每个公共因子的意义，以便进行进一步的分析，如果每个公共因子的含义不清，以便进行进一步的分析，如果每个公共因子的含义不清，则不便于进行实际背景的解释。则不便于进行实际背景的解释。由于因子载荷阵是不惟一由于因子载荷阵是不惟一的，所以应该对因子载荷阵进行旋
40、转。的，所以应该对因子载荷阵进行旋转。目的是目的是使每个变量使每个变量在尽可能少的因子上有比较高的载荷，让某个变量在某个在尽可能少的因子上有比较高的载荷，让某个变量在某个因子上的载荷趋于因子上的载荷趋于1 1，而在其他因子上的载荷趋于，而在其他因子上的载荷趋于0 0。即：。即：使载荷矩阵每列或行的元素平方值向使载荷矩阵每列或行的元素平方值向0 0和和1 1两极分化。两极分化。案例案例3 3：奥运会十项全能运动项目：奥运会十项全能运动项目得分数据的因子分析得分数据的因子分析 百米跑成绩百米跑成绩 跳远成绩跳远成绩 铅球成绩铅球成绩 跳高成绩跳高成绩 400 400米跑成绩米跑成绩 百米跨栏百米跨
41、栏 铁饼成绩铁饼成绩 撑杆跳远成绩撑杆跳远成绩 标枪成绩标枪成绩 1500 1500米跑成绩米跑成绩 1X2X3X4X5X6X7X8X9X10X102.017.002.001.039.018.008.009.007.0124.034.018.013.017.044.021.011.0124.033.023.039.024.036.020.0132.017.027.073.031.028.0134.046.036.052.040.0129.019.049.063.0138.051.034.0142.035.0159.01因因子子载载荷荷矩矩阵阵因子载荷矩阵可以看出，除第一因子在所有的变量在公共因
42、子因子载荷矩阵可以看出，除第一因子在所有的变量在公共因子上有较大的正载荷，可以称为一般运动因子。其他的上有较大的正载荷，可以称为一般运动因子。其他的3 3个因个因子不太容易解释。似乎是跑和投掷的能力对比，似乎是长跑子不太容易解释。似乎是跑和投掷的能力对比，似乎是长跑耐力和短跑速度的对比。于是考虑旋转因子，得下表耐力和短跑速度的对比。于是考虑旋转因子，得下表变量共同度0.6910.217-0.58-0.2060.840.7890.184-0.1930.0920.70.7020.5350.047-0.1750.80.6740.1340.1390.3960.650.620.551-0.084-0.4
43、190.870.6870.042-0.1610.3450.620.621-0.5210.109-0.2340.720.5380.0870.4110.440.660.434-0.4390.372-0.2350.570.1470.5960.658-0.2790.891F2F3F4F1X2X3X4X5X6X7X8X9X10X变量共同度0.844*0.1360.156-0.1130.840.631*0.1940.515*-0.0060.70.2430.825*0.223-0.1480.810.2390.150.750*0.0760.650.797*0.0750.1020.4680.870.4040.1
44、530.635*-0.170.620.1860.814*0.147-0.0790.72-0.0360.1760.762*0.2170.66-0.0480.735*0.110.1410.570.045-0.0410.1120.934*0.891F2F3F4F1X2X3X4X5X6X7X8X9X10X旋转变换后因子载荷矩阵旋转变换后因子载荷矩阵 通过旋转，因子有了较为明确的含义。通过旋转，因子有了较为明确的含义。百米跑，百米跑，跳远和跳远和 400 400米跑，需要爆发力的项目在米跑，需要爆发力的项目在 有较大的载有较大的载荷，荷，可以称为短跑速度因子；可以称为短跑速度因子；铅球，铅球，铁饼和铁饼
45、和 标枪在标枪在 上有较大的载荷，可上有较大的载荷，可以称为爆发性臂力因子；以称为爆发性臂力因子；百米跨栏，百米跨栏，撑杆跳远，撑杆跳远，跳远和为跳远和为 跳高在跳高在 上有较大的载荷，上有较大的载荷，爆发腿力因子；爆发腿力因子；长跑耐力因子。长跑耐力因子。2X5X1F1F3X7X9X2F6X8X2X4X3F3F4F1X因子旋转的方法因子旋转的方法有：有：（1 1）正交旋转；（）正交旋转；（2 2）斜交旋转）斜交旋转（1 1）正交旋转）正交旋转 由初始载荷矩阵由初始载荷矩阵A A左乘一正交矩阵得到；左乘一正交矩阵得到；目的是新的载目的是新的载荷系数尽可能的接近于荷系数尽可能的接近于0 0或尽可
46、能的远离或尽可能的远离0 0；只是在；只是在旋转后旋转后的新的公因子仍保持独立性。主要有以下方法：的新的公因子仍保持独立性。主要有以下方法：varimaxvarimax:方差最大旋转。简化对因子的解释方差最大旋转。简化对因子的解释quartmaxquartmax:四次最大正交旋转。简化对变量的解释四次最大正交旋转。简化对变量的解释equamaxequamax:等量正交旋转等量正交旋转A A、方差最大法方差最大法 方差最大法从简化因子载荷矩阵的每一方差最大法从简化因子载荷矩阵的每一列列出发，使和出发，使和每个因子有关的载荷的平方的方差最大。当只有少数几个每个因子有关的载荷的平方的方差最大。当只有
47、少数几个变量在某个因子上有较高的载荷时，对因子的解释最简单。变量在某个因子上有较高的载荷时，对因子的解释最简单。方差最大的直观意义是希望通过因子旋转后，使每个因子方差最大的直观意义是希望通过因子旋转后，使每个因子上的载荷尽量拉开距离，一部分的载荷趋于上的载荷尽量拉开距离，一部分的载荷趋于 1 1，另一部分，另一部分趋于趋于0 0。B B、四次方最大旋转四次方最大旋转 四次方最大旋转是从简化载荷矩阵的四次方最大旋转是从简化载荷矩阵的行行出发，出发，通过旋转初始因子，使每个变量只在一个因子上通过旋转初始因子，使每个变量只在一个因子上有较高的载荷，而在其它的因子上尽可能低的载有较高的载荷，而在其它的
48、因子上尽可能低的载荷。如果每个变量只在一个因子上有非零的载荷，荷。如果每个变量只在一个因子上有非零的载荷，这时的因子解释这时的因子解释是最简单的。是最简单的。四次方最大法通过使因子载荷矩阵中每一行四次方最大法通过使因子载荷矩阵中每一行的因子载荷平方的方差达到最大。的因子载荷平方的方差达到最大。C C、等量最大法等量最大法 等量最大法把四次方最大法和方差最大法结合起来等量最大法把四次方最大法和方差最大法结合起来求行和列因子载荷平方的方差的加权平均最大。求行和列因子载荷平方的方差的加权平均最大。（2 2）斜交旋转）斜交旋转 目的是新的载荷系数尽可能的接近于目的是新的载荷系数尽可能的接近于0 0或尽
49、可或尽可能的远离能的远离0 0；只是在旋转时，放弃了因子之间彼；只是在旋转时，放弃了因子之间彼此独立的限制，旋转后的新公因子更容易解释。此独立的限制，旋转后的新公因子更容易解释。主要有以下的方法：主要有以下的方法：direct direct obliminoblimin:直接斜交旋转。允许因子之间具直接斜交旋转。允许因子之间具有相关性；有相关性；promaxpromax:斜交旋转方法。允许因子之间具有相关性；斜交旋转方法。允许因子之间具有相关性；5 5、因子得分、因子得分因子得分的概念因子得分的概念 前面我们主要解决了用公共因子的线性组合来表示前面我们主要解决了用公共因子的线性组合来表示一组观
50、测变量的有关问题。如果我们要使用这些因子做其一组观测变量的有关问题。如果我们要使用这些因子做其他的研究，比如把得到的因子作为自变量来做回归分析，他的研究，比如把得到的因子作为自变量来做回归分析，对样本进行分类或评价，这就需要我们对公共因子进行测对样本进行分类或评价，这就需要我们对公共因子进行测度，即给出度，即给出公共因子的值公共因子的值。例：例：人均要素变量因子分析人均要素变量因子分析。对我国。对我国3232个省市自治区的要素状况个省市自治区的要素状况作因子分析。指标体系中有如下指标：作因子分析。指标体系中有如下指标：X1 X1：人口（万人）人口（万人）X2 X2：面积（万平方公里）面积（万平
