1、第六章 典型相关分析第六章 典型相关分析n第一节 典型相关分析的基本原理n第二节 典型变量与典型相关系数的求法n第三节 典型相关系数的检验n第四节 典型相关分析的计算步骤n第五节 典型相关分析的SPSS实现第一节 典型相关分析的基本原理n一、什么是典型相关分析n在对经济问题的研究和管理研究中,不仅经常需要考察两个变量之间的相关程度,而且还经常需要考察多个变量与多个变量之间即两组变量之间的相关性。典型相关分析就是测度两组变量之间相关程度的一种多元统计方法。 n 通常情况下,为了研究两组变量n 的相关关系,可以用最原始的方法,分别计算两组变量之间的全部相关系数,一共有pq个简单相关系数,这样又烦琐
2、又不能抓住问题的本质。如果能够采用类似于主成分的思想,分别找出两组变量的各自的某个线性组合,讨论线性组合之间的相关关系,则更简捷。),(21pxxx),(21qyyy二、典型相关分析的基本思想三、典型相关分析的数学描述四、典型相关分析的应用n典型相关分析的用途很广。在实际分析问题中,当我们面临两组多变量数据,并希望研究两组变量之间的关系时,就要用到典型相关分析。n例如,为了研究扩张性财政政策实施以后对宏观经济发展的影响,就需要考察有关财政政策的一系列指标如财政支出总额的增长率、财政赤字增长率、国债发行额的增长率、税率降低率等与经济发展的一系列指标,如国内生产总值增长率、就业增长率、物价上涨率等
3、两组变量之间的相关程度。n又如,为了研究宏观经济走势与股票市场走势之间的关系,就需要考察各种宏观经济指标如经济增长率、失业率、物价指数、进出口增长率等与各种反映股票市场状况的指标如股票价格指数、股票市场融资金额等两组变量之间的相关关系。n再如,工厂要考察所使用的原料的质量对所生产的产品的质量的影响,就需要对所生产产品的各种质量指标与所使用的原料的各种质量指标之间的相关关系进行测度。第二节 典型变量与典型相关系数的求法n一、总体典型变量和典型相关系数二、原始变理与变型变量之间的相关系数三、样本典型相关变量和样本典型相关系数第三节 典型相关系数的检验典型相关分析是否恰当,应该取决于两组原变量之间是
4、否相关,如果两组变量之间毫无相关性而言,则不应该作典型相关分析。用样本来估计总体的典型相关系数是否有误,需要进行检验。(一)整体检验)0:; 0:(10 xyxyHH|0yyxxSSS0:10rH不为零中至少11), 2 , 1(:riHi检验的统计量:yyyxxyxxSSSSSI0SSISSSSISS0Ixy1xxyyyxxyxx1xxyxxy1xxyxyyxxSSSS00S所以,两边同时求行列式,有yyyxxyxxxy1xxyyyxxyxx1xxyxSSSSI0SSISSSSISS0I事实上yx1yyxyxxyyyyyxxyxxSSSSSSSSS|S|yx1yyxy1xxxxyySSSSI
5、SSMISSSSI|S|S|S|yx1yyxy1xxyyxx0 由于 所以若M的特征根为 ,则(l-M)的特征根为(1-)。根据矩阵行列式与特征根的关系,可得:)()1 (MIIMIIIMI111|xxxyyyyxxxyySIS S S SIMSS 222121(1)(1)(1)(1)ppii11H 小,支持。在原假设为真的情况下,检验的统计量 近似服从自由度为pq的2分布。在给定的显著性水平下,如果22 (pq),则拒绝原假设,认为至少第一对典型变量之间的相关性显著。111(3) ln2Qnpq 依此类推,再检验下一对典型变量之间的相关性。直至相关性不显著为止。对两组变量x和y进行典型相关分
6、析,采用的也是一种降维技术。我们希望使用尽可能少的典型变量对数,为此需要对一些较小的典型相关系数是否为零进行假设检验。H0经检验被拒绝,则应进一步检验假设。 若原假设H0被接受,则认为只有第二对典型变量是有用的;若原假设H0被拒绝,则认为第二对典型变量也是有用的,并进一步检验假设。 (二)部分总体典型相关系数为零的检验023rH:=123:,rH至少有一非零034rH:=134:,rH 至少有一非零如此进行下去.直至对某个k014krH:=114:,krH至少有一非零检验的统计量211(1)rkii k 2111(3)ln2kiki kQnkpq 近似服从自由度为(p-k)(q-k)的2分布。
7、在给定的显著性水平下,如果22 (p-k)(q-k),则拒绝原假设,认为至少第k+1对典型变量之间的相关性显著。第四节 典型相关分析的计算步骤 在实际应用中,总体的协方差矩阵常常是未知的,类似于其他的统计分析方法,需要从总体中抽出一个样本,根据样本对总体的协方差或相关系数矩阵进行估计,然后利用估计得到的协方差或相关系数矩阵进行分析。由于估计中抽样误差的存在,所以估计以后还需要进行有关的假设检验。 1、假设有X组和Y组变量,样本容量为n。假设( X1, Y1), ( X2, Y2), ( Xn, Yn),观测值矩阵为:nqnnpnqpqpqpqpyyxxyyxxyyxxyyxxyyxxZ1144
8、1441331231221221111111yyyxxyxxSSSSnn1111ZZ样本的协方差:qnqnpnpnqqppqqppqqppqqppyyyyxxxxyyyyxxxxyyyyxxxxyyyyxxxxyyyyxxxx111141414141313121312121212111111111Z 2、计算特征根和特征向量 求M1和 M2的特征根 ,对应的特征向量 。则特征向量构成典型变量的系数,特征根为典型变量相关系数的平方。)(111yxyyxyxxSSSSM令:)(112xyxxyxyySSSSM令:22221r), 2 , 1(riii和第五节 邮电业与国民经济的典型相关分析 n二、
9、数据分析n 我们将基于2019年到2019年我国国民经济数据(数据来自于中国统计年鉴),利用Stata软件来做邮电业和国民经济之间的典型相关分析。数据具体见表1. n我们将采用如下指标来衡量我国各年份的邮电业:采用下面的指标来衡量我国各年份的经济(单位都是万亿)n. canon (x1-x4) (y1-y4) e = exact, a = approximate, u = upper bound on F Roys largest root 3 30 08 8. .1 19 9 4 4 8 8 6 61 16 6. .3 38 80 03 3 0 0. .0 00 00 00 0 u uLaw
10、ley-Hotelling trace 3 31 18 8. .0 08 81 1 1 16 6 1 14 4 6 69 9. .5 58 80 02 2 0 0. .0 00 00 00 0 a a Pillais trace 2 2. .2 22 24 47 78 8 1 16 6 3 32 2 2 2. .5 50 06 65 5 0 0. .0 01 13 31 1 a a Wilks lambda . .0 00 00 02 21 16 61 10 01 1 1 16 6 1 15 5. .9 91 12 29 9 1 14 4. .7 75 59 96 6 0 0. .0 00 0
11、0 00 0 a a Statistic df1 df2 F ProbFTests of significance of all canonical correlations 0 0. .9 99 98 84 4 0 0. .9 95 51 12 2 0 0. .4 44 43 36 6 0 0. .3 35 55 57 7Canonical correlations: y4 0 0. .0 00 00 00 0 - -0 0. .0 00 00 03 3 - -0 0. .0 00 00 01 1 - -0 0. .0 00 00 00 0 y3 0 0. .0 00 00 01 1 0 0
12、. .0 00 01 13 3 - -0 0. .0 01 10 03 3 - -0 0. .0 00 07 75 5 y2 - -0 0. .0 00 00 00 0 0 0. .0 00 00 02 2 0 0. .0 00 01 15 5 0 0. .0 00 00 06 6 y1 0 0. .0 00 00 01 1 - -0 0. .0 00 00 01 1 - -0 0. .0 00 00 05 5 0 0. .0 00 01 16 6 1 2 3 4 Raw coefficients for the second variable set x4 0 0. .0 00 00 00
13、0 - -0 0. .0 00 00 04 4 - -0 0. .0 00 00 04 4 0 0. .0 00 00 04 4 x3 0 0. .0 00 00 00 0 0 0. .0 00 00 03 3 0 0. .0 00 00 03 3 - -0 0. .0 00 00 03 3 x2 0 0. .0 00 00 00 0 - -0 0. .0 00 00 00 0 - -0 0. .0 00 00 01 1 0 0. .0 00 00 00 0 x1 - -0 0. .0 00 06 69 9 - -0 0. .0 04 45 57 7 - -0 0. .0 00 03 38 8
14、 - -0 0. .0 06 62 29 9 1 2 3 4 Raw coefficients for the first variable setCanonical correlation analysis Number of obs = 1 13 3n. canon (x1-x4) (y1-y4), test(1 2 3 4) Roys largest root 3 30 08 8. .1 19 9 4 4 8 8 6 61 16 6. .3 38 80 03 3 0 0. .0 00 00 00 0 u uLawley-Hotelling trace 3 31 18 8. .0 08 8
15、1 1 1 16 6 1 14 4 6 69 9. .5 58 80 02 2 0 0. .0 00 00 00 0 a a Pillais trace 2 2. .2 22 24 47 78 8 1 16 6 3 32 2 2 2. .5 50 06 65 5 0 0. .0 01 13 31 1 a a Wilks lambda . .0 00 00 02 21 16 61 10 01 1 1 16 6 1 15 5. .9 91 12 29 9 1 14 4. .7 75 59 96 6 0 0. .0 00 00 00 0 a a Statistic df1 df2 F ProbFTe
16、sts of significance of all canonical correlations 0 0. .9 99 98 84 4 0 0. .9 95 51 12 2 0 0. .4 44 43 36 6 0 0. .3 35 55 57 7Canonical correlations: y4 0 0. .0 00 00 00 0 - -0 0. .0 00 00 03 3 - -0 0. .0 00 00 01 1 - -0 0. .0 00 00 00 0 y3 0 0. .0 00 00 01 1 0 0. .0 00 01 13 3 - -0 0. .0 01 10 03 3
17、- -0 0. .0 00 07 75 5 y2 - -0 0. .0 00 00 00 0 0 0. .0 00 00 02 2 0 0. .0 00 01 15 5 0 0. .0 00 00 06 6 y1 0 0. .0 00 00 01 1 - -0 0. .0 00 00 01 1 - -0 0. .0 00 00 05 5 0 0. .0 00 01 16 6 1 2 3 4 Raw coefficients for the second variable set x4 0 0. .0 00 00 00 0 - -0 0. .0 00 00 04 4 - -0 0. .0 00
18、00 04 4 0 0. .0 00 00 04 4 x3 0 0. .0 00 00 00 0 0 0. .0 00 00 03 3 0 0. .0 00 00 03 3 - -0 0. .0 00 00 03 3 x2 0 0. .0 00 00 00 0 - -0 0. .0 00 00 00 0 - -0 0. .0 00 00 01 1 0 0. .0 00 00 00 0 x1 - -0 0. .0 00 06 69 9 - -0 0. .0 04 45 57 7 - -0 0. .0 00 03 38 8 - -0 0. .0 06 62 29 9 1 2 3 4 Raw coe
19、fficients for the first variable setCanonical correlation analysis Number of obs = 1 13 3 e = exact, a = approximate, u = upper bound on F Wilks lambda . .8 87 73 34 49 97 7 1 1 8 8 1 1. .1 15 58 86 6 0 0. .3 31 13 31 1 e e Statistic df1 df2 F ProbFTest of significance of canonical correlation 4 Wil
20、ks lambda . .7 70 01 16 64 42 2 4 4 1 14 4 0 0. .6 67 78 84 4 0 0. .6 61 18 82 2 e e Statistic df1 df2 F ProbFTest of significance of canonical correlations 3-4 Wilks lambda . .0 06 66 68 81 16 63 3 9 9 1 14 4. .7 75 53 3 3 3. .3 34 43 37 7 0 0. .0 01 19 96 6 a a Statistic df1 df2 F ProbFTest of sig
21、nificance of canonical correlations 2-4 Wilks lambda . .0 00 00 02 21 16 61 10 01 1 1 16 6 1 15 5. .9 91 12 29 9 1 14 4. .7 75 59 96 6 0 0. .0 00 00 00 0 a a Statistic df1 df2 F ProbFTest of significance of canonical correlations 1-4 n用似然比法检验典型相关系数与零的差别是否显著,检验r1时,其零假设为r1以及小于r1的所有典型相关系数都为零;检验时r2,其零假设
22、为r2以及小于r2的所有典型相关系数都为零,依此类推。所求的似然比统计量近似服从,其值说明第1和第2典型相关系数分别具有非常显著和显著的意义。n. canon (x1-x4) (y1-y4), stdcoef e = exact, a = approximate, u = upper bound on F Roys largest root 3 30 08 8. .1 19 9 4 4 8 8 6 61 16 6. .3 38 80 03 3 0 0. .0 00 00 00 0 u uLawley-Hotelling trace 3 31 18 8. .0 08 81 1 1 16 6 1
23、14 4 6 69 9. .5 58 80 02 2 0 0. .0 00 00 00 0 a a Pillais trace 2 2. .2 22 24 47 78 8 1 16 6 3 32 2 2 2. .5 50 06 65 5 0 0. .0 01 13 31 1 a a Wilks lambda . .0 00 00 02 21 16 61 10 01 1 1 16 6 1 15 5. .9 91 12 29 9 1 14 4. .7 75 59 96 6 0 0. .0 00 00 00 0 a a Statistic df1 df2 F ProbFTests of signif
24、icance of all canonical correlations 0 0. .9 99 98 84 4 0 0. .9 95 51 12 2 0 0. .4 44 43 36 6 0 0. .3 35 55 57 7Canonical correlations: y4 0 0. .7 72 25 54 4 - -7 7. .8 83 31 10 0 - -2 2. .4 48 82 25 5 - -0 0. .4 49 98 84 4 y3 0 0. .2 20 04 41 1 3 3. .9 97 78 84 4 - -3 32 2. .4 42 20 07 7 - -2 23 3.
25、 .6 65 53 38 8 y2 - -0 0. .2 22 24 47 7 4 4. .2 27 79 92 2 3 37 7. .4 47 76 69 9 1 16 6. .4 42 29 91 1 y1 0 0. .2 29 99 92 2 - -0 0. .4 40 06 65 5 - -2 2. .5 59 93 33 3 7 7. .7 75 53 34 4 1 2 3 4 Standardized coefficients for the second variable set x4 0 0. .4 41 13 33 3 - -5 5. .2 24 42 21 1 - -4 4
26、. .7 76 68 80 0 4 4. .7 79 94 44 4 x3 0 0. .4 46 60 04 4 5 5. .7 74 45 58 8 6 6. .4 47 77 70 0 - -4 4. .8 88 85 58 8 x2 0 0. .1 18 85 54 4 - -0 0. .8 85 52 29 9 - -2 2. .3 35 50 01 1 0 0. .2 28 82 24 4 x1 - -0 0. .0 09 93 37 7 - -0 0. .6 62 23 35 5 - -0 0. .0 05 51 18 8 - -0 0. .8 85 59 95 5 1 2 3 4
27、 Standardized coefficients for the first variable setCanonical correlation analysis Number of obs = 1 13 3n从标准化变量出发的典型系数 ,对分析结果进行整理。n样本资料是从2019到2019年,即样本数是13,第一组变量数p=4,第二组变量数q=4。从Stata分析结果看,4个典型相关系数分别为:r1=0.9984,r2=0.9512,r3=0.4436,r4=0.3556. 经似然比检验的结果,前两对典型变量在0.05显著水平下显著相关。n前两对标准化的典型变量的线性组合是:n对结果进行
28、经济意义解释。n. estat loading y4 0 0. .9 99 96 67 7 - -0 0. .0 03 39 90 0 0 0. .0 01 11 10 0 - -0 0. .0 01 11 15 5 y3 0 0. .9 99 93 37 7 0 0. .0 08 86 68 8 0 0. .0 00 04 40 0 - -0 0. .0 01 10 09 9 y2 0 0. .9 99 94 41 1 0 0. .0 07 79 91 1 0 0. .0 01 14 47 7 - -0 0. .0 00 08 82 2 y1 0 0. .9 98 89 92 2 0 0.
29、.0 09 94 48 8 - -0 0. .0 01 18 84 4 0 0. .0 02 29 92 2 1 2 3 4 Correlation between variable list 2 and canonical variates from list 1 x4 0 0. .9 95 59 94 4 - -0 0. .2 20 09 95 5 0 0. .0 07 71 15 5 0 0. .0 01 16 61 1 x3 0 0. .9 98 89 95 5 - -0 0. .0 06 64 42 2 0 0. .0 04 42 21 1 - -0 0. .0 02 23 31 1
30、 x2 0 0. .7 78 80 09 9 0 0. .2 26 63 39 9 - -0 0. .2 21 19 97 7 - -0 0. .0 09 91 13 3 x1 - -0 0. .0 01 16 62 2 - -0 0. .7 71 16 69 9 0 0. .0 08 87 74 4 - -0 0. .2 22 22 29 9 1 2 3 4 Correlation between variable list 1 and canonical variates from list 2 y4 0 0. .9 99 98 83 3 - -0 0. .0 04 41 10 0 0 0
31、. .0 02 24 49 9 - -0 0. .0 03 32 24 4 y3 0 0. .9 99 95 53 3 0 0. .0 09 91 13 3 0 0. .0 00 09 90 0 - -0 0. .0 03 30 06 6 y2 0 0. .9 99 95 57 7 0 0. .0 08 83 32 2 0 0. .0 03 33 32 2 - -0 0. .0 02 23 30 0 y1 0 0. .9 99 90 08 8 0 0. .0 09 99 97 7 - -0 0. .0 04 41 14 4 0 0. .0 08 82 21 1 1 2 3 4 Canonica
32、l loadings for variable list 2 x4 0 0. .9 96 61 10 0 - -0 0. .2 22 20 02 2 0 0. .1 16 61 12 2 0 0. .0 04 45 53 3 x3 0 0. .9 99 91 11 1 - -0 0. .0 06 67 75 5 0 0. .0 09 94 49 9 - -0 0. .0 06 64 48 8 x2 0 0. .7 78 82 22 2 0 0. .2 27 77 75 5 - -0 0. .4 49 95 53 3 - -0 0. .2 25 56 67 7 x1 - -0 0. .0 01
33、16 62 2 - -0 0. .7 75 53 37 7 0 0. .1 19 96 69 9 - -0 0. .6 62 26 68 8 1 2 3 4 Canonical loadings for variable list 1n. findit canred. canred 1Canonical redundancy analysis for canonical correlation1Canonical correlation coefficient 0.9984Squared canonical correlation coefficient 0.9968own oppositeP
34、roportion of standardized variance variate variate of u variables with . 0.6294 0.6274of v variables with . 0.9901 0.9869. canred 2Canonical redundancy analysis for canonical correlation2Canonical correlation coefficient 0.9512Squared canonical correlation coefficient 0.9048own oppositeProportion of
35、 standardized variance variate variate of u variables with . 0.1745 0.1579of v variables with . 0.0067 0.0061n. predict u1, u corr(1)n . predict u2, u corr(2)n. predict v1, v corr(1)n . predict v2, v corr(2)第五节 利用SPSS进行典型相关分析n例:研究人口出生与受教育程度、生活水平等的相关,如表所示:X1 X2 X3 X4 X5 分别代表多孩率、综合节育率、初中及以上受教育程度的人口比例、
36、人均国民收入和城镇人口比例。 数据准备SPSS中没有现成的菜单可以做典型相关分析,需要使用语法窗口:点击运行按纽ninclude c:program filesspsscanonical correlation.sps.ncancorr set1=x1 x2n/set2=x3 x4 x5.n两组变量内部的相关系数:输出结果: n典型相关系数及其显著性检验:基本可以认为第一典型相关系数在10%水平上显著。第二典型相关系数不显著。故只分析第一典型相关系数。n典型变量的系数211486. 0319. 1xxU5431274. 0292. 0997. 0 xxxVn典型结构分析:Canonical l
37、oadings 表示一组原始变量与其相应的典型变量间的相关关系。Cross loadings 表示一组原始变量与其对立的典型变量间的相关关系。n典型冗余分析:表示各典型变量对原始变量组整体的变差解释程度。来自出生指标的第一典型变量U1可解释相应的出生变量组的58.4%的组内方差,第二典型变量U2可以解释41.6%的组内方差。来自受教育和生活水平指标的第一典型变量V1可解释对立的出生变量组的19.54%的组内方差,第二典型V2变量可以解释0%的组内方差。来自受教育和生活水平指标的第一典型变量V1可解释相应的变量组的78.0%的组内方差,第二典型变量V2可以解释5.3%的组内方差。可见第二典型变量的解释能力不够强。65谢谢!谢谢!