1、1因子分析因子分析2 1 1 引言引言 因子分析(factor analysis)是一种数据简化的技术。它通过研究众多变量之间的内部依赖关系，探求观测数据中的基本结构，并用少数几个假想变量来表示其基本的数据结构。这几个假想变量能够反映原来众多变量的主要信息。原始的变量是可观测的显在变量，而假想变量是不可观测的潜在变量，称为因子。例如，在企业形象或品牌形象的研究中，消费者可以通过一个有24个指标构成的评价体系，评价百货商场的24个方面的优劣。3 但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格的三个潜在的
2、因子，对商店进行综合评价。而这三个公共因子可以表示为：iiiiiiFFFx33221124,1i 称 是不可观测的潜在因子。24个变量共享这三个因子，但是每个变量又有自己的个性，不被包含的部分 ，称为特殊因子。321FFF、i4注：注：因子分析与回归分析不同，因子分析中的因因子分析与回归分析不同，因子分析中的因子是一个比较抽象的概念，而回归因子有非常明子是一个比较抽象的概念，而回归因子有非常明确的实际意义；确的实际意义；主成分分析分析与因子分析也有不同，主成主成分分析分析与因子分析也有不同，主成分分析仅仅是变量变换，而因子分析需要构造因分分析仅仅是变量变换，而因子分析需要构造因子模型。子模型。
3、主成分分析主成分分析:原始变量的线性组合表示新的原始变量的线性组合表示新的综合变量，即主成分；综合变量，即主成分；因子分析：潜在的假想变量和随机影响变因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。量的线性组合表示原始变量。5 2 因子分析模型因子分析模型 一、数学模型一、数学模型 设 个变量，如果表示为iX),2,1(pip11iiiimmiXa Fa F)(pm 11111211122212222212mmpppppmpmXFXFXF或XAF或6 称为 公共因子，是不可观测的变量，他们的系数称为因子载荷。是特殊因子，是不能被前m个公共因子包含的部分。并且满足：mFFF,21i
4、IFD111)(cov(,)0,F,F即不相关；mFFF,21即 互不相关，方差为1。722221)(pD即互不相关，方差不一定相等，。),0(2iiN8用矩阵的表达方式X-=AF+()EF0()E0()VarFI22212()(,)pVardiagcov()()EF,F09二、因子分析模型的性质 1、原始变量X的协 方差矩阵的分解（例8.2.1）X-=AF+()()()VarVarVarX-=AF A+x=AA+DA是因子模型的系数22212()(,)pVardiagD D的主对角线上的元素值越小，则公共因子共享的成分越多。10 2、模型不受计量单位的影响 将原始变量X做变换X*=CX,这里
5、Cdiag(c1,c2,cn),ci0。)C(X-)=C(AF+CXC+CAF+C*XC+CAF+C*X+A F+*FF11*()EF0*()E0*()VarFI*22212()(,)pVardiag*cov()()EF,F 012 3、因子载荷不是惟一的 设T为一个pp的正交矩阵，令A*=AT，F*=TF，则模型可以表示为*X+A F+()ET F0()E0*()()()VarVarVarFT FTF TI22212()(,)pVardiag*cov()()EF,F 0且满足条件因子模型的条件13 三、三、因子载荷矩阵中的几个统计特征因子载荷矩阵中的几个统计特征 1 1、因子载荷、因子载荷a
6、 aijij的统计意义的统计意义 因子载荷 是第i个变量与第j个公共因子的相关系数 ija模型为 imimiiFaFaX11 在上式的左右两边乘以 jF,再求数学期望)()()()()(11jijmimjjijjijiFEFFEaFFEFFEaFXE 根据公共因子的模型性质，有ijFxji （载荷矩阵中第i行，第j列的元素）反映了第i个变量与第j个公共因子的相关重要性。绝对值越大，相关的密切程度越高。14 2 2、变量共同度的统计意义、变量共同度的统计意义定义：定义：变量 的共同度是因子载荷矩阵的第i行的元素的平方和。记为iX统计意义统计意义：imimiiFaFaX11两边求方差)()()()
7、(2112imimiiVarFVaraFVaraXVarmjiija1221 所有的公共因子和特殊因子对变量 的贡献为1。如果 非常靠近1，非常小，则因子分析的效果好，从原变量空间到公共因子空间的转化性质好。iXmjija122imjija12。mjijiah12215 3 3、公共因子、公共因子 方差贡献的统计意义方差贡献的统计意义jF因子载荷矩阵中各列元素的平方和 称为所有的 对 的方差贡献和。衡量的相对重要性。piijjaS12),1(mjjFiXjF16 3 3 因子载荷矩阵的估计方法因子载荷矩阵的估计方法 设随机向量 的均值为，协方差为,为的特征根，为对应的标准化特征向量，则pxxx
8、,21x021pp21u,u,u12p=AA+DUU（一）主成分分析法（一）主成分分析法17 上式给出的 表达式是精确的，然而，它实际上是毫无价值的，因为我们的目的是寻求用少数几个公共因子解释，故略去后面的p-m1项的贡献，有12p1122ppu uu uu up2uuuuuuppp21122111100p212ppuuuuuu18 12 mmm1122AA+Du uu uu uD1121122 mmpm2uuuuuDAADu 上式有一个假定，模型中的特殊因子是不重要的，因而从 的分解中忽略了特殊因子的方差。22212(,)pdiagD其中221miiiijjsa19注：残差矩阵 SAAD20
9、 （二）主因子法（二）主因子法 主因子方法是对主成分方法的修正，假定我们首先对变量进行标准化变换。则 R=AA+D R*=AA=R-D称R*为约相关矩阵，为约相关矩阵，R*对角线上的元素是对角线上的元素是 ,而不是1。即2ih212112122122212ppppphrrrhrRrrhR-D直接求R*的前m个特征根和对应的特征向量。*1122mmuuu221121122mmmm2uuRuuuu 当特殊因子当特殊因子 的方差不为零时，的方差不为零时，如果特性方差是已知的，问题非常好解决。i21222p23 R*=AA=RX-D，我们在前面已经讨论了因子载荷矩阵A的列平方和是 称为Fj对所有的Xi
10、的方差贡献，用来衡量Fj的相对重要性。因此我们希望先求出贡献大的因子，然后在依次求出贡献相对较小的因子。由因子模型可知R*=AA 为R*=AA中的元素piijjaS12),1(mjmkkjikijaar1*24 设使S21最大的向量为 ，显然向量必须满足p2个约束条件，因此这是一个条件极值的问题，用拉格朗日乘数法由目标函数121111paaaa mkijjkikpipjijraaST1*1121)(2121 可以证明，使目标函数T最大的 S21是R*=AA的最大的特征根，其单位特征向量为u1，则 1111111uuaa 类推可以求的载荷矩阵的其他列。25UUpR21*p21p21uuuuuup
11、2126p21p21uuuuuuAApp212127PA21P21uuu28 若 ，。而有非零特征根对应得特征向量分别为 m101pmm21u,u,ummA21uuu21mmAuuu212129 在实际的应用中，个性方差矩阵一般都是未知的，可以通过一组样本来估计。估计的估计的方法有如下几种方法有如下几种：首先，求 的初始估计值，构造出 2ih*R 1）取 ，在这个情况下主因子解与主成分解等价；2）取 ，为xi与其他所有的原始变量xj的复相关系数的平方，即xi对其余的p-1个xj的回归方程的判定系数；12ih22iiRh 2iR30 2）取 ，这意味着取xi与其余的xj的简单相关系数的绝对值最大
12、者；)(|max2ijrhiji 4）取 ，其中要求该值为正数。pjijijirph,1211 5）取 ，其中 是 的对角元素。iiirh/12iir1R31 （三）极大似然估计法 如果假定公共因子F和特殊因子 服从正态分布，那么可以得到因子载荷和特殊因子方差的极大似然估计。设 为来自正态总体Np(,)的随机样本。n21x,x,xAA )()(21exp)(112 iininp2XX12 ()()()()()nLff Xf Xf X,A,DX)()(21exp)2(12121 iipnixx32 它通过 依赖 和 。上式并不能唯一确定,为此可添加一个唯一性条件：这里 式一个对角矩阵，用数值极大
13、化的方法可以得到极大似然估计 。极大似然估计 将使 为对角阵，且似然函数达到最大。相应的共同度的似然估计为：第J个因子对总方差的贡献：1和x和、1222212imiiiaaah222212pjjjjaaaS33 例例 假定某地固定资产投资率 ，通货膨胀率 ，失业率 ，相关系数矩阵为试用主成分分析法求因子分析模型。1x2x3x15/25/15/215/15/15/1134 特征根为：55.11 85.02 6.03 6.0707.085.0331.055.1629.06.0707.085.0331.055.1629.0085.0883.055.1475.0A707.0331.0629.0707.
14、0331.0629.00883.0475.0U548.0305.0783.0548.0305.0783.00814.0569.035 可取前两个因子F1和F2为公共因子，第一公因子F1物价就业因子，对X的贡献为1.55。第一公因子F2为投资因子，对X的贡献为0.85。共同度分别为1，0.706，0.706。211814.0569.0FFx3212548.0305.0783.0FFFx3213548.0305.0783.0FFFx36 假定某地固定资产投资率 ，通货膨胀率 ，失业率 ，相关系数矩阵为试用主因子分析法求因子分析模型。假定用代替初始的 。1x2x3x15/25/15/215/15/1
15、5/11)(|max2ijrhiji2ih52,1,51232221hhh221221111515/25/25/15/25/25/15/15/15/1*R37 特征根为：9123.010877.0203 对应的非零特征向量为：261.0657.0261.0657.0929.0369.00877.0261.09123.0657.00877.0261.09123.0657.00877.0929.09123.0369.0077.0628.0077.0628.0275.0352.0381211275.0352.0FFx2212077.0625.0FFx3211077.0682.0FFx新的共同度为：1
16、8129.0275.352.02221oh3966.0077.0625.02222h4710.0077.0682.02223h39 4 因子旋转（正交变换）建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组，更重要的要知道每个公共因子的意义，以便进行进一步的分析，如果每个公共因子的含义不清，则不便于进行实际背景的解释。由于因子载荷阵是不惟一的，所以应该对因子载荷阵进行旋转。目的是使因子载荷阵的结构简化，使载荷矩阵每列或行的元素平方值向0和1两极分化。有三种主要的正交旋转法。四次方最大法、方差最大法和等量最大法。（一）为什么要旋转因子（一）为什么要旋转因子40 百米跑成绩 跳远成绩 铅
17、球成绩 跳高成绩 400米跑成绩 百米跨栏 铁饼成绩 撑杆跳远成绩 标枪成绩 1500米跑成绩 1X2X3X4X5X6X7X8X9X10X奥运会十项全能运动项目奥运会十项全能运动项目得分数据的因子分析得分数据的因子分析 41102.017.002.001.039.018.008.009.007.0124.034.018.013.017.044.021.011.0124.033.023.039.024.036.020.0132.017.027.073.031.028.0134.046.036.052.040.0129.019.049.063.0138.051.034.0142.035.0159.
18、0142变量共同度0.6910.217-0.58-0.2060.840.7890.184-0.1930.0920.70.7020.5350.047-0.1750.80.6740.1340.1390.3960.650.620.551-0.084-0.4190.870.6870.042-0.1610.3450.620.621-0.5210.109-0.2340.720.5380.0870.4110.440.660.434-0.4390.372-0.2350.570.1470.5960.658-0.2790.891F2F3F4F1X2X3X4X5X6X7X8X9X10X 因子载荷矩阵可以看出，除第一
19、因子在所有的变量在公共因子上有较大的正载荷，可以称为一般运动因子。其他的3个因子不太容易解释。似乎是跑和投掷的能力对比，似乎是长跑耐力和短跑速度的对比。于是考虑旋转因子，得下表 43变量共同度0.844*0.1360.156-0.1130.840.631*0.1940.515*-0.0060.70.2430.825*0.223-0.1480.810.2390.150.750*0.0760.650.797*0.0750.1020.4680.870.4040.1530.635*-0.170.620.1860.814*0.147-0.0790.72-0.0360.1760.762*0.2170.66
20、-0.0480.735*0.110.1410.570.045-0.0410.1120.934*0.891F2F3F4F1X2X3X4X5X6X7X8X9X10X44 通过旋转，因子有了较为明确的含义。百米跑，跳远和 400米跑，需要爆发力的项目在 有较大的载荷，可以称为短跑速度因子；铅球，铁饼和 标枪在 上有较大的载荷，可以称为爆发性臂力因子；百米跨栏，撑杆跳远，跳远和为 跳高在 上有较大的载荷，爆发腿力因子；长跑耐力因子。2X5X1F1F3X7X9X2F6X8X2X4X3F3F4F1X45变换后因子的共同度变换后因子的共同度设 正交矩阵，做正交变换正交矩阵，做正交变换 AB)()(1mllj
21、ilppijabBmjmjmlljilijiabh111222)()(B mjmlmjmlmljttjljitilljilaaa1 11 1 122)(2111222Aimlmjmlilljilhaa变换后因子的共同度化没有发生！变换后因子的共同度化没有发生！（二）旋转方法（二）旋转方法46变换后因子贡献变换后因子贡献设 正交矩阵，做正交变换正交矩阵，做正交变换 AB)()(1qlljilppijabBpipiqlljilijjabS111222)()(B piqlpiqlqltttjljitilljilaaa1111 122piqlqlljjljilSa1112222)(A变换后因子的贡献发
22、生了变化变换后因子的贡献发生了变化！47 1、方差最大法 方差最大法从简化因子载荷矩阵的每一列出发，使和每个因子方差最大法从简化因子载荷矩阵的每一列出发，使和每个因子有关的载荷的平方的方差最大。当只有少数几个变量在某个因子有关的载荷的平方的方差最大。当只有少数几个变量在某个因子上又较高的载荷时，对因子的解释最简单。上又较高的载荷时，对因子的解释最简单。方差最大的直观意义是希望通过因子旋转后，使每个因子上的载荷尽量拉开距离，一部分的载荷趋于1，另一部分趋于0。2122211211ppaaaaaaA221122212122121111FaFaXFaFaXFaFaXppp48cossinsincos
23、T设旋转矩阵为：cossinsincosAATB则cossinsincoscossinsincos112112111211ppppaaaaaaaa211211ppbbbb49max)1(21 112222 mjpipiiijiijhbphbV简化准则为：max)(1212111222222 mjpimjpiiijiijhbhbppV最终简化准则为：50 1 1、四次方最大旋转、四次方最大旋转 四次方最大旋转是从简化载荷矩阵的行出发，通过旋转初始四次方最大旋转是从简化载荷矩阵的行出发，通过旋转初始因子，使每个变量只在一个因子上又较高的载荷，而在其它的因子，使每个变量只在一个因子上又较高的载荷，而
24、在其它的因子上尽可能低的载荷。因子上尽可能低的载荷。如果每个变量只在一个因子上又非零的载荷，这是的因子解释是最简单的。四次方最大法通过使因子载荷矩阵中每一行的因子载荷平方的方差达到最大。51max)1(2112 pimjijmbQ简化准则为：pimjijijpimjijmbmbmbQ112242112)112()1(pimjpimjijpimjijmbmb111122114)112(pimjpimjijpimjijmbmb111122114)112(pimjijmpb114)2(MAXbQpimjij 114最终的简化准则为：52 3、等量最大法 等量最大法把四次方最大法和方差最大法结等量最大
25、法把四次方最大法和方差最大法结合起来求合起来求Q Q和和V V的加权平均最大。的加权平均最大。MAXpbbEpimjmjpiijij 1111224/)(最终的简化准则为：权数等于m/2，因子数有关。53 5 因子得分因子得分（一）因子得分的概念（一）因子得分的概念 前面我们主要解决了用公共因子的线性组合来表示一组观测变量的有关问题。如果我们要使用这些因子做其他的研究，比如把得到的因子作为自变量来做回归分析，对样本进行分类或评价，这就需要我们对公共因子进行测度，即给出公共因子的值。54 人均要素变量因子分析人均要素变量因子分析。对我国32个省市自治区的要素状况作因子分析。指标体系中有如下指标：
26、X1：人口（万人）X2：面积（万平方公里）X3：GDP（亿元）X4：人均水资源（立方米/人）X5：人均生物量（吨/人）X6：万人拥有的大学生数（人）X7：万人拥有科学家、工程师数（人）Rotated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 -0.21522 -0.27397 0.89092 X2 0.63973 -0.28739 -0.28755 X3 -0.15791 0.06334 0.94855 X4 0.95898 -0.01501 -0.07556 X5 0.97224 -0.06778 -0.17535 X6 -0.11416 0.983
27、28 -0.08300 X7 -0.11041 0.97851 -0.0724655 高载荷指标 因子命名 因子1X2；面积（万平方公里）X4:人均水资源（立方米/人）X5:人均生物量（吨/人）自然资源因子 因子2X6：万人拥有的大学生数（人）X7：万人拥有的科学家、工程师数（人）人力资源因子 因子3 X1;人口（万人）X3:GDP(亿元)经济发展总量因子 X1=-0.21522F1-0.27397F2+0.89092F3 X2=0.63973F1-0.28739F2-0.28755F3 X3=-0.15791F1+0.06334F2+0.94855F3 X4=0.95898F1-0.0150
28、1F2-0.07556F3 X5=0.97224F1-0.06778F2-0.17535F3 X6=-0.11416F1+0.98328F2-0.08300F3 X7=-0.11041F1+0.97851F2-0.07246F356 Standardized Scoring Coefficients FACTOR1 FACTOR2 FACTOR3 X1 0.05764 -0.06098 0.50391 X2 0.22724 -0.09901 -0.07713 X3 0.14635 0.12957 0.59715 X4 0.47920 0.11228 0.17062 X5 0.45583 0.0
29、7419 0.10129 X6 0.05416 0.48629 0.04099 X7 0.05790 0.48562 0.04822F1=0.05764X1+0.22724X2+0.14635X3+0.47920X4+0.45583X5+0.05416X6+0.05790X7F1=0.05764X1+0.22724X2+0.14635X3+0.47920X4+0.45583X5+0.05416X6+0.05790X7F2=-0.06098X1-0.09901X2+0.12957X3+0.11228X4+0.07419X5+0.48629X6+0.48562X7F2=-0.06098X1-0.0
30、9901X2+0.12957X3+0.11228X4+0.07419X5+0.48629X6+0.48562X7F3=0.50391X1-0.07713X2+0.59715X3+0.17062X4+0.10129X5+0.04099X6+0.04822X7F3=0.50391X1-0.07713X2+0.59715X3+0.17062X4+0.10129X5+0.04099X6+0.04822X757REGION FACTOR1FACTOR2FACTOR3beijing-0.081694.23473-0.37983tianjin-0.474221.31789-0.87891hebei-0.22
31、192-0.358020.86263shanxi1-0.48214-0.32643-0.54219neimeng0.54446-0.66668-0.92621liaoning-0.205110.463770.34087jilin-0.214990.10608-0.57431heilongj 0.10839-0.11717-0.02219shanghai-0.200692.38962-0.04259前三个因子得分58 因子分析的数学模型为：mpmppmmnFFFXXX2121222211121121 原变量被表示为公共因子的线性组合，当载荷矩阵旋转之后，公共因子可以做出解释，通常的情况下，我们还
32、想反过来把公共因子表示为原标量的线性组合。因子得分函数：pjpjjXXF11mj,1可见，要求得每个因子的得分，必须求得分函数的系数，而由于pm，所以不能得到精确的得分，只能通过估计。591、巴特莱特因子得分(加权最小二乘法）巴特莱特因子得分计算方法的思想：把 看作因变量；把因子载荷矩阵 看成自变量的观测；把某个个案的得分 看着最小二乘法需要求的系数。iixpmppmm212222111211ijF60mmpmpppipmmimmifafafaxfafafaxfafafax221122222121221121211111由于特殊因子的方差相异，所以用加权最小二乘法求得分，每个各案作一次，要求出
33、所有样品的得分，需要作 次。nmin/)()(1222211pjimimiiiijfafafax61 2、Thompson方法 nmnmnnmmnFFFXXX212121222211121121pjpjjXbXbF11mj,1mmpmmppbbbbbbbbbbbb2121222211121162)(jiFxijFXEji)(11pjpjiXbXbXEipjpijbb11jpjjipiibbbrrr2121 则，我们有如下的方程组：63pjjjjpjjppppppaaabbb2121212222111211j=1,2,m矩阵为原始变量的相关系数pppppp21222211121164个因子得分函
34、数的系数为第 jbbbjpjj21列为载荷矩阵的第 jaaapjjj21 注：共需要解注：共需要解m次才能解次才能解出出 所有的得分函数的系数。所有的得分函数的系数。65国民生活质量的因素分析 国家发展的最终目标，是为了全面提高全体国民的生活质量，满足广大国民日益增长的物质和文化的合理需求。在可持续发展消费的统一理念下，增加社会财富，创自更多的物质文明和精神文明，保持人类的健康延续和生生不息，在人类与自然协同进化的基础上，维系人类与自然的平衡，达到完整的代际公平和区际公平(即时间过程的最大合理性与空间分布的最大合理化)。从1990年开始，联合国开发计划署(UYNP)首次采用“人文发展系数”指标
35、对于国民生活质量进行测度。人文发展系数利用三类内涵丰富的指标组合，即人的健康状况(使用出生时的人均预期寿命表达)、人的智力程度(使用组合的教育成就表达)、人的福利水平(使用人均国民收入或人均GDP表达)，并且特别强调三类指标组合的整体表达内涵，去衡量一个国家或地区的社会发展总体状况以及国民生活质量的总水平。66在这个指标体系中有如下的指标：X1预期寿命X2成人识字率X3综合入学率X4人均GDP（美圆）X5预期寿命指数X6教育成就指数X7人均GDP指数67 旋转后的因子结构 Rotated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 0.38129 0.4
36、1765 0.81714 X2 0.12166 0.84828 0.45981 X3 0.64803 0.61822 0.22398 X4 0.90410 0.20531 0.34100 X5 0.38854 0.43295 0.80848 X6 0.28207 0.85325 0.43289 X7 0.90091 0.20612 0.35052 FACTOR1为经济发展因子 FACTOR2为教育成就因子 FACTOR3为健康水平因子68 被每个因子解释的方差和共同度 Variance explained by each factor FACTOR1 FACTOR2 FACTOR3 2.439
37、700 2.276317 2.009490 Final Communality Estimates:Total=6.725507 X1 X2 X3 X4 X5 0.987530 0.945796 0.852306 0.975830 0.992050 X6 X7 0.994995 0.976999 69 Standardized Scoring Coefficients标准化得分系数 FACTOR1 FACTOR2 FACTOR3 X1 -0.18875 -0.34397 0.85077 X2 -0.24109 0.60335 -0.10234 X3 0.35462 0.50232 -0.598
38、95 X4 0.53990 -0.17336 -0.10355 X5 -0.17918 -0.31604 0.81490 X6 -0.09230 0.62258 -0.24876*6*5*4*3*2*109230.017918.05399.035462.024109.018875.01xxxxxxf*6*5*4*3*2*162258.031604.017336.050232.060335.034397.02xxxxxxf*6*5*4*3*2*124876.081490.010335.059895.010234.085077.03xxxxxxf70生育率的影响因素分析 生育率受社会、经济、文化、
39、计划生育政策等很多因素影响，但这些因素对生育率的影响并不是完全独立的，而是交织在一起，如果直接用选定的变量对生育率进行多元回归分析，最终结果往往只能保留两三个变量，其他变量的信息就损失了。因此，考虑用因子分析的方法，找出变量间的数据结构，在信息损失最少的情况下用新生成的因子对生育率进行分析。选择的变量有：多子率、综合节育率、初中以上文化程度比例、城镇人口比例、人均国民收入。下表是1990年中国30个省、自治区、直辖市的数据。71多子率（%）综合节育率（%）初中以上文化程度比例（%）人均国民收入（元）城镇人口比例（%）0.9489.8964.51357773.082.5892.3255.4129
40、8168.6513.4690.7138.2114819.0812.4690.0445.12112427.688.9490.4641.83108036.122.890.1750.64201150.868.9191.4346.32138342.658.8290.7847.33162847.170.891.4762.36482266.235.9490.3140.85169621.242.692.4235.14171732.817.0787.9729.5193317.914.4488.7129.04131321.3615.2489.4331.0594320.43.1690.2137.85137227.
41、349.0488.7639.7188015.5212.0287.2838.76124828.9111.1589.1336.3397618.2322.4687.7238.38184536.7724.3484.8631.0779815.133.2183.7939.44119324.054.7890.5731.2690320.2521.568622.3865419.9314.0980.8621.4995614.7232.3187.67.786512.5911.1889.7141.0193021.4913.886.3329.6993822.0425.3481.5631.3110027.3520.848
42、1.4534.59102425.8239.664.938.47137431.9172EigenvalueDifferenceProportionCumulative3.249175972.034642910.64980.64981.214533060.962968000.24290.89270.251565070.067433970.05030.94310.184131090.083536290.03680.97990.100594800.0201 1.0000特征根与各因子的贡献特征根与各因子的贡献73 Factor1Factor2x1-0.760620.55316x20.56898-0.7
43、6662x30.891840.25374x40.870660.34618x50.890760.36962没有旋转的因子结构没有旋转的因子结构74Factor1可解释方差Factor2可解释方差2.99754292.1642615各旋转后的共同度各旋转后的共同度0.884540230.911439980.859770610.877894530.9300636975 在这个例子中我们得到了两个因子，第一个因子是社会经济发展水平因子，第二个是计划生育因子。有了因子得分值后，则可以利用因子得分为变量，进行其他的统计分析。Factor1Factor2x1-0.35310-0.87170 x20.0775
44、70.95154x30.891140.25621x40.922040.16655x50.951490.15728 Factor1Factor2x1-0.05897-0.49252x2-0.058050.58056x30.330420.03497x40.35108-0.02506x50.36366-0.03493方差最大旋转后的因子结构方差最大旋转后的因子结构标准化得分函数标准化得分函数76 6 因子分析的步骤、展望和建议 计算所选原始变量的相关系数矩阵计算所选原始变量的相关系数矩阵 相关系数矩阵描述了原始变量之间的相关关系。可以帮助判断原始变量之间是否存在相关关系，这对因子分析是非常重要的，因
45、为如果所选变量之间无关系，做因子分析是不恰当的。并且相关系数矩阵是估计因子结构的基础。选择分析的变量选择分析的变量 用定性分析和定量分析的方法选择变量，因子分析的前提条件是观测变量间有较强的相关性，因为如果变量之间无相关性或相关性较小的话，他们不会有共享因子,所以原始变量间应该有较强的相关性。一、因子分析通常包括以下五个步骤77 提取公共因子提取公共因子 这一步要确定因子求解的方法和因子的个数。需要根据研究者的设计方案或有关的经验或知识事先确定。因子个数的确定可以根据因子方差的大小。只取方差大于1(或特征值大于1)的那些因子，因为方差小于1的因子其贡献可能很小；按照因子的累计方差贡献率来确定，
46、一般认为要达到60才能符合要求；因子旋转因子旋转 通过坐标变换使每个原始变量在尽可能少的因子之间有密切的关系，这样因子解的实际意义更容易解释,并为每个潜在因子赋予有实际意义的名字。78 计算因子得分计算因子得分 求出各样本的因子得分，有了因子得分值，则可以在许多分析中使用这些因子，例如以因子的得分做聚类分析的变量，做回归分析中的回归因子。79 （二）展望和建议 在因子分析研究中，必须做出许多决策。大概最重要的决策是选择公共因子数m。虽然已知m时对模型充分性有大样本检验，但这只是对近似正态分布的数据适用。而且，若变量数和观测数都大，检验将会很有把握地拒绝小m的模型，而正是此时因子分析可提供一个有
47、用的近似。最为常见的是，m最后的选定基于下述考虑的综合：(1)所解释的样本方差的比例；(2)题材知识；(3)结论的“合理程度”。80 解法和旋转类型的选择并非决定性的决策，事实上，大多数满意的因子分析都试用了不止一种旋转并且所有结果实质上都确认同一因子结构。在现阶段，因子分析仍然是一种艺术，并且尚没有一种单一的策略可以获得完美的成功。建议和详细阐述一种合情合理的选择：1执行主成分因子分析。这个方法对第一次考察数据尤其合适。(不要求R或S是非奇异的)。(a)画因子得分图，找可疑观测值。计算对各观测值的标准化得分。(b)试用最大方差旋转。81 5对大数据集，将它们分为两半并且对每一半都执行因子分析
48、。比较这两个结果，并与从完整数据集所得结果做比较，以检查解的稳定性。(数据可以随机划分或是把前一半放在一组中，把后一半放在另一组中。)2执行包括最大方差旋转在内的最大似然因子分析。3比较从两个因子分析得到的解。(a)载荷的分组方式是否相同?(b)画出从主成分得到的因子得分图，对比从最大似然分析得到的图形。4对其他的公共因子数m，重复前三个步骤。有必要将额外的因子放入来理解和阐述该数据吗?82 因子分析是十分主观的，在许多出版的资料中，因子分析模型都用少数可阐述因子提供了合理解释。实际上，绝大多数因子分析并没有产生如此明确的结果。不幸的是，评价因子分析质量的法则尚未很好量化，质量问题只好依赖一个
49、“哇”准则 如果在仔细检查因子分析的时候，研究这能够喊出“哇，我明白这些因子”的时候，就可看着是成功运用了因子分析方法。83补充：变量聚类分析补充：变量聚类分析 一、简介一、简介 在实际工作中，变量聚类的应用也十分重要。在系统分析或评估过程中，为了避免某些重要因素的遗漏，人们往往在一开始选取指标时，尽可能多地考虑所有的相关因素。而这样做的结果，则是变量过多，变量相关度高，给系统分析与建模带来很大的不便。因此，人们常常希望能研究变量间的相似关系，按照变量的相关关系把他们聚合为若干类，从而观察和解释影响系统的主要原因。SAS/VARCLUS过程试图把一组变量分为不重叠的一些类，所以VARCLUS过
50、程可以用来压缩变量，用信息损失很少的类分量来代替含有很多变量的变量集。例如，一种教育情况的检查可能包括有50项指标，VARCLUS分析将这些项分为几类，比如5个类，每类做部分检查，检查类分量的得分。84二、二、变量聚类的步骤变量聚类的步骤VARCLUS过程开始把所有变量看为一个类,然后重复下面的步骤:1、首先挑选一个将被分裂的类首先挑选一个将被分裂的类变量聚类分析的想法是，VARCLUS过程首先找出该大类的第一和第二公共因子，这两个公共因子经过正交坐标变换，即因子分析中常用的Quartimax（四次方最大方法）旋转，让原始变量仅仅在一个公共因子上有高载荷。变量被指定归入一个与其相关系数的平方较
