1、第三章第三章统计分析方法统计分析方法v1地理要素间的相关分析地理要素间的相关分析v2地理要素间的回归分析地理要素间的回归分析v3 时间序列分析法时间序列分析法v4 系统聚类分析方法系统聚类分析方法v5 主成分分析方法主成分分析方法v6 马尔可夫预测方法马尔可夫预测方法v7地理系统的空间趋势面分析地理系统的空间趋势面分析v主成分分析的原理主成分分析的原理v主成分分析的解法主成分分析的解法 v主成分分析方法应用实例主成分分析方法应用实例问题的提出问题的提出v地理系统是多要素的复杂系统。变量太多,会增加分析地理系统是多要素的复杂系统。变量太多,会增加分析问题的难度与复杂性,而且多个变量之间是具有一定
2、的问题的难度与复杂性,而且多个变量之间是具有一定的相关关系的相关关系的v能否在相关分析的基础上,用较少的新变量代替能否在相关分析的基础上,用较少的新变量代替原来较多的旧变量,而且使这些较少的新变量尽原来较多的旧变量,而且使这些较少的新变量尽可能多地保留原来变量所反映的信息?可能多地保留原来变量所反映的信息?v主成分分析方法主成分分析方法就是综合处理这种问题的一种强有就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。从数学角度来看,这是综合指标的一种统计分析方法。从数学角度来看,这是一种降维处
3、理技术一种降维处理技术1 主成分分析方法的基本原理主成分分析方法的基本原理 假定有假定有n个地理样本,每个样本共有个地理样本,每个样本共有p p个个变量,构成一个变量,构成一个np阶的地理数据矩阵阶的地理数据矩阵npnnppxxxxxxxxxX212222111211v 当当p较大时,在较大时,在p维空间中考察问题比较麻烦。维空间中考察问题比较麻烦。为了克服这一困难,就需要进行降维处理为了克服这一困难,就需要进行降维处理.要求要求:较少的几个综合指标尽量多地反映原来较:较少的几个综合指标尽量多地反映原来较多变量指标所反映的信息,同时它们之间又是多变量指标所反映的信息,同时它们之间又是彼此独立的
4、彼此独立的例,成绩数据v100个学生的数学、物理、化学、语文、历史、英语的成绩如下表(部分)。v对于多维变量的情况和二维类似,也有高对于多维变量的情况和二维类似,也有高维的椭球,只不过无法直观地看见维的椭球,只不过无法直观地看见v首先把高维椭球的主轴找出来,再用代表首先把高维椭球的主轴找出来,再用代表大多数数据信息的最长的几个轴作为新变大多数数据信息的最长的几个轴作为新变量;这样,主成分分析就基本完成量;这样,主成分分析就基本完成v注意,和二维情况类似,高维椭球的主轴注意,和二维情况类似,高维椭球的主轴也是互相垂直的。这些互相正交的新变量也是互相垂直的。这些互相正交的新变量是原先变量的线性组合
5、,叫做主成分是原先变量的线性组合,叫做主成分.v正如二维椭圆有两个主轴,三维椭球有三个正如二维椭圆有两个主轴,三维椭球有三个主轴一样,有几个变量,就有几个主成分主轴一样,有几个变量,就有几个主成分v选择越少的主成分,降维就越好。什么是标选择越少的主成分,降维就越好。什么是标准呢?那就是这些被选的主成分所代表的主准呢?那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。轴的长度之和占了主轴长度总和的大部分。有些文献建议,所选的主轴总长度占所有主有些文献建议,所选的主轴总长度占所有主轴长度之和的大约轴长度之和的大约85%即可,其实,这只是即可,其实,这只是一个大体的说法;具体选几
6、个,要看实际情一个大体的说法;具体选几个,要看实际情况而定况而定定义:定义:记记x x1 1,x x2 2,x xP P为原变量指标,为原变量指标,z z1 1,z z2 2,z zmm(mmp p)为新变量指标)为新变量指标pmpmmmppppxlxlxlzxlxlxlzxlxlxlz22112222121212121111v系数系数l lij ij的确定原则:的确定原则:z zi i与与z zj j(i ij j;i i,j j=1=1,2 2,mm)相互无关)相互无关z z1 1是是x x1 1,x x2 2,x xP P的一切线性组合中方差最大者,的一切线性组合中方差最大者,z z2
7、2是是与与z z1 1不相关的不相关的x x1 1,x x2 2,x xP P的所有线性组合中方差最大的所有线性组合中方差最大者;者;z zmm是与是与z z1 1,z z2 2,z zmm1 1都不相关的都不相关的x x1 1,x x2 2,x xP P,的所有线性组合中方差最大者。则新变量指的所有线性组合中方差最大者。则新变量指标标z z1 1,z z2 2,z zmm分别称为原变量指标分别称为原变量指标x x1 1,x x2 2,x xP P的的第一,第二,第一,第二,第,第mm主成分主成分 v从以上的分析可以看出,主成分分析的实质就从以上的分析可以看出,主成分分析的实质就是确定原来变量
8、是确定原来变量x xj j(j j=1=1,2 2,p p)在诸主)在诸主成分成分z zi i(i i=1=1,2 2,mm)上的荷载)上的荷载 l lij ij(i i=1=1,2 2,mm;j j=1=1,2 2,p p)v从几何上看从几何上看,找主成分的问题找主成分的问题,就是找出就是找出P P维空间维空间中椭球体的主轴问题;从数学上容易知道,从中椭球体的主轴问题;从数学上容易知道,从数学上可以证明,数学上可以证明,它们分别是相关矩阵的它们分别是相关矩阵的mm个个较大的特征值所对应的特征向量较大的特征值所对应的特征向量2 主成分分析的解法主成分分析的解法v对原始地理数据对原始地理数据np
9、nnppxxxxxxxxxX212222111211v进行标准化处理进行标准化处理(标准标准差标准化差标准化),即),即v其中其中jjjjxxx*212)(1jjNjjjxxxNxv计算相关系数矩阵计算相关系数矩阵R22)()()(yyxxyyxxrxy*1)(1jijijjiiijxxNxxxxNrv计算特征值和特征向量计算特征值和特征向量根据特征方程根据特征方程 计算特征值,即解计算特征值,即解的特征多项式,求的特征多项式,求 并使特征值按从大到并使特征值按从大到小的顺序排列,即小的顺序排列,即列出关于每个特征值的特征向量列出关于每个特征值的特征向量 0 IR00111rrrrPnPnP,
10、21021P0)(Re,21kkkTkpkkkeEReeeee),2,1(,112mkepjkj|计算主成分贡献率及累计贡献率计算主成分贡献率及累计贡献率 贡献率贡献率:累计贡献率累计贡献率:一般取累计贡献率达一般取累计贡献率达8595%8595%的特征值的特征值所对应的第一、第二、所对应的第一、第二、第、第mm(mpmp)个主成分)个主成分m,21),2,1(1pkpiikkjpiij11/v计算主成分载荷计算主成分载荷(主成分主成分Z Zk k与变量与变量x xi i之间的相关系之间的相关系数数),2,1;,2,1,(),(mkpiexZPkikikmPmPPmmmmkieeeeeeeee
11、lL221122221211212111)(v各主成分的得分:各主成分的得分:nmnnmmzzzzzzzzzZ212222111211*22*11*2*222*1212*1*212*1111pmpmmmppppxlxlxlzxlxlxlzxlxlxlz3 特征值与特征向量的计算方法特征值与特征向量的计算方法v雅可比法雅可比法适合于对称矩阵适合于对称矩阵任一实对称矩阵任一实对称矩阵A,均存在一正交变换矩阵,均存在一正交变换矩阵T,使,使那么那么 就是就是A的特征值,而的特征值,而变陈之积的各列就是相应的特征向量变陈之积的各列就是相应的特征向量pATT21P21二维情况二维情况v如令如令v 则则v
12、将原始矩阵将原始矩阵A化成了对角矩阵化成了对角矩阵 。22211211aaaaAcossinsincosT2211121221aaatg2221221122212211coscossin2sin00sincossin2cosaaaaaaATTT2100雅可比法的计算步骤雅可比法的计算步骤v1、选择对称矩阵中非对角线元素最大者,记、选择对称矩阵中非对角线元素最大者,记为为v2、作正交变换、作正交变换)0(00)0(00)0(001221jjiijiaaatg ijjijijiaaamax0000)0(v一般的一般的44040)0()0(0000时,取时,取jijiaa假设在原始矩阵的对角线以外元
13、素中,以的绝对假设在原始矩阵的对角线以外元素中,以的绝对值为最大。设,作一个转轴变换值为最大。设,作一个转轴变换0000000001cossin1sincos1jijiT4 主成分分析方法应用实例主成分分析方法应用实例例例2,2,根据表根据表1 1中给出的数据,对某农业生态经济系统中给出的数据,对某农业生态经济系统做主成分分析做主成分分析样本序号x1:人口密度(人/km2)x 2:人均耕地面积(ha)x 3:森林覆盖率(%)x 4:农民人均纯收入(元/人)x 5:人均粮食产量(kg/人)x 6:经济作物占农作物播面比例()x 7:耕地占土地面积比率()x 8:果园与林地面积之比()x 9:灌溉
14、田占耕地面积之比()1363.9120.35216.101192.11295.3426.72418.4922.23126.2622141.5031.68424.3011752.35452.2632.31414.4641.45527.0663100.6951.06765.6011181.54270.1218.2660.1627.47412.4894143.7391.33633.2051436.12354.2617.48611.8051.89217.5345131.4121.62316.6071405.09586.5940.68314.4010.30322.932表表1 1 某农业生态经济系统各区
15、域单元的有关数据某农业生态经济系统各区域单元的有关数据 668.3372.03276.2041540.29216.398.1284.0650.0114.861795.4160.80171.106926.35291.528.1354.0630.0124.862862.9011.65273.3071501.24225.2518.3522.6450.0343.201986.6240.84168.904897.36196.3716.8615.1760.0556.1671091.3940.81266.502911.24226.5118.2795.6430.0764.4771176.9120.85850.
16、302103.52217.0919.7934.8810.0016.1651251.2741.04164.609968.33181.384.0054.0660.0155.4021368.8310.83662.804957.14194.049.114.4840.0025.791477.3010.62360.102824.37188.0919.4095.7215.0558.4131576.9481.02268.0011255.42211.5511.1023.1330.013.4251699.2650.65460.7021251.03220.914.3834.6150.0115.59317118.50
17、50.66163.3041246.47242.1610.7066.0530.1548.70118141.4730.73754.206814.21193.4611.4196.4420.01212.94519137.7610.59855.9011124.05228.449.5217.8810.06912.65420117.6121.24554.503805.67175.2318.1065.7890.0488.46121122.7810.73149.1021313.11236.2926.7247.1620.09210.078步骤如下:将表中的数据作标准差标准化处理,步骤如下:将表中的数据作标准差标准
18、化处理,然后将它们代入公式计算相关系数矩阵然后将它们代入公式计算相关系数矩阵x1x2x3x4x5x6x7x8x9x11-0.327-0.714-0.3360.3090.4080.790.1560.744x2-0.331-0.0350.6440.420.2550.009-0.0780.094x3-0.71-0.03510.07-0.74-0.755-0.93-0.109-0.924x4-0.340.6440.0710.3830.069-0.05-0.0310.073x50.3090.42-0.740.38310.7340.6720.0980.747x60.4080.255-0.7550.0690
19、.73410.6580.2220.707x70.790.009-0.93-0.0460.6720.6581-0.030.89x80.156-0.078-0.109-0.0310.0980.222-0.0310.29x90.7440.094-0.9240.0730.7470.7070.890.291表表2 2相关系数矩阵相关系数矩阵 (2 2)由相关系数矩阵计算特征值,以及)由相关系数矩阵计算特征值,以及各个主成分的贡献率与累计贡献率(见表各个主成分的贡献率与累计贡献率(见表3 3)。由表)。由表3 3可知,第一,第二,第三主成分可知,第一,第二,第三主成分的累计贡献率已高达的累计贡献率已高达8
20、6.596%86.596%(大于(大于85%85%),故只需要求出第一、第二、第三主),故只需要求出第一、第二、第三主成分成分z z1 1,z z2 2,z z3 3即可。即可。主成分特征值贡献率(%)累积贡献率(%)z14.66151.79151.791z22.08923.21675.007z31.04311.58986.596z40.5075.63892.234z50.3153.50295.736z60.1932.1497.876z70.1141.27199.147z80.04530.50499.65z90.03150.35100表表3 3特征值及主成分贡献率特征值及主成分贡献率 (3 3
21、)对于特征值)对于特征值=4.6610=4.6610,=2.0890=2.0890,=1.0430=1.0430分别求出其特征向量分别求出其特征向量e e1 1,e e2 2,e e3 3,再,再用公式计算各变量用公式计算各变量x x1 1,x x2 2,x x9 9在主成分在主成分z z1 1,z z2 2,z z3 3上的载荷(表上的载荷(表4 4)。)。z1z2z3占方差的百分数(%)x10.739-0.532-0.006182.918x20.1230.887-0.002880.191x3-0.9640.00960.009592.948x40.00420.8680.003775.346x
22、50.8130.444-0.001185.811x60.8190.1790.12571.843x70.933-0.133-0.25195.118x80.197-0.10.9798.971x90.964-0.00250.009292.939上述计算过程,可以借助于SPSS或MATLAB软件系统实现。表表4 4 主成分载荷主成分载荷 第一主成分第一主成分z1与与x1,x5,x6,x7,x9呈显出较强呈显出较强的正相关,与的正相关,与x3呈显出较强的负相关,而这几呈显出较强的负相关,而这几个变量则综合反映了生态经济结构状况,因此个变量则综合反映了生态经济结构状况,因此可以认为第一主成分可以认为第一主
23、成分z1是生态经济结构的代表。是生态经济结构的代表。第二主成分第二主成分z2与与x2,x4,x5呈显出较强的正相呈显出较强的正相关,与关,与x1呈显出较强的负相关,其中,除了呈显出较强的负相关,其中,除了x1为人口总数外,为人口总数外,x2,x4,x5都反映了人均占有资都反映了人均占有资源量的情况,因此可以认为第二主成分源量的情况,因此可以认为第二主成分z2代表代表了人均资源量了人均资源量 分析:分析:显然,用三个主成分z1、z2、z3代替原来9个变量(x1,x2,x9),描述农业生态经济系统,可以使问题更进一步简化、明了第三主成分第三主成分z z3 3,与,与x x8 8呈显出的正相关程度最
24、高,呈显出的正相关程度最高,其次是其次是x x6 6,而与,而与x x7 7呈负相关,因此可以认为第三呈负相关,因此可以认为第三主成分在一定程度上代表了农业经济结构主成分在一定程度上代表了农业经济结构 另外,表另外,表4 4中最后一列(占方差的百分数),中最后一列(占方差的百分数),在一定程度反映了三个主成分在一定程度反映了三个主成分z z1 1、z z2 2、z z3 3包含原包含原变量(变量(x x1 1,x x2 2,x x9 9)的信息量多少)的信息量多少例例3 3 下面,我们根据表下面,我们根据表3.4.53.4.5给出的数据,对某农业生给出的数据,对某农业生态经济系统做主成分分析,
25、态经济系统做主成分分析,样本序号x1:人口密度(人/km2)x 2:人均耕地面积(ha)x 3:森林覆盖率(%)x 4:农民人均纯收入(元/人)x 5:人均粮食产量(kg/人)x 6:经济作物占农作物播面比例()x 7:耕地占土地面积比率()x 8:果园与林地面积之比()x 9:灌溉田占耕地面积之比()1363.9120.35216.101192.11295.3426.72418.4922.23126.2622141.5031.68424.3011752.35452.2632.31414.4641.45527.0663100.6951.06765.6011181.54270.1218.2660
26、.1627.47412.4894143.7391.33633.2051436.12354.2617.48611.8051.89217.5345131.4121.62316.6071405.09586.5940.68314.4010.30322.932表表3.4.5 3.4.5 某农业生态经济系统各区域单元的有关数据某农业生态经济系统各区域单元的有关数据 668.3372.03276.2041540.29216.398.1284.0650.0114.861795.4160.80171.106926.35291.528.1354.0630.0124.862862.9011.65273.307150
27、1.24225.2518.3522.6450.0343.201986.6240.84168.904897.36196.3716.8615.1760.0556.1671091.3940.81266.502911.24226.5118.2795.6430.0764.4771176.9120.85850.302103.52217.0919.7934.8810.0016.1651251.2741.04164.609968.33181.384.0054.0660.0155.4021368.8310.83662.804957.14194.049.114.4840.0025.791477.3010.6236
28、0.102824.37188.0919.4095.7215.0558.4131576.9481.02268.0011255.42211.5511.1023.1330.013.4251699.2650.65460.7021251.03220.914.3834.6150.0115.59317118.5050.66163.3041246.47242.1610.7066.0530.1548.70118141.4730.73754.206814.21193.4611.4196.4420.01212.94519137.7610.59855.9011124.05228.449.5217.8810.06912
29、.65420117.6121.24554.503805.67175.2318.1065.7890.0488.46121122.7810.73149.1021313.11236.2926.7247.1620.09210.078步骤如下:(步骤如下:(1)将表)将表3.4.5中的数据作标准差标准中的数据作标准差标准化处理,然后将它们代入公式(化处理,然后将它们代入公式(3.5.4)计算相关系)计算相关系数矩阵(见表数矩阵(见表3.5.1)。)。x1x2x3x4x5x6x7x8x9x11-0.327-0.714-0.3360.3090.4080.790.1560.744x2-0.331-0.0350
30、.6440.420.2550.009-0.0780.094x3-0.71-0.03510.07-0.74-0.755-0.93-0.109-0.924x4-0.340.6440.0710.3830.069-0.05-0.0310.073x50.3090.42-0.740.38310.7340.6720.0980.747x60.4080.255-0.7550.0690.73410.6580.2220.707x70.790.009-0.93-0.0460.6720.6581-0.030.89x80.156-0.078-0.109-0.0310.0980.222-0.0310.29x90.7440.
31、094-0.9240.0730.7470.7070.890.291表表3.5.13.5.1相关系数矩阵相关系数矩阵 (2)由相关系数矩阵计算特征值,以及各个主)由相关系数矩阵计算特征值,以及各个主成分的贡献率与累计贡献率(见表成分的贡献率与累计贡献率(见表3.5.2)。由表)。由表3.5.2可知,第一,第二,第三主成分的累计贡献可知,第一,第二,第三主成分的累计贡献率已高达率已高达86.596%(大于(大于85%),故只需要求出),故只需要求出第一、第二、第三主成分第一、第二、第三主成分z1,z2,z3即可。即可。主成分特征值贡献率(%)累积贡献率(%)z14.66151.79151.791z
32、22.08923.21675.007z31.04311.58986.596z40.5075.63892.234z50.3153.50295.736z60.1932.1497.876z70.1141.27199.147z80.04530.50499.65z90.03150.35100表表3.5.23.5.2特征值及主成分贡献率特征值及主成分贡献率 (3 3)对于特征值)对于特征值=4.6610=4.6610,=2.0890=2.0890,=1.0430=1.0430分别求出其特征向量分别求出其特征向量e1 1,e2 2,e3 3,再用,再用公式(公式(3.5.53.5.5)计算各变量)计算各变量
33、x x1 1,x2 2,x9 9在主在主成分成分z1 1,z2 2,z3 3上的载荷(表上的载荷(表3.5.33.5.3)。)。z1z2z3占方差的百分数(%)x10.739-0.532-0.006182.918x20.1230.887-0.002880.191x3-0.9640.00960.009592.948x40.00420.8680.003775.346x50.8130.444-0.001185.811x60.8190.1790.12571.843x70.933-0.133-0.25195.118x80.197-0.10.9798.971x90.964-0.00250.009292.9
34、39上述计算过程,可以借助于SPSS或MATLAB软件系统实现。表表3.5.3 3.5.3 主成分载荷主成分载荷 第一主成分第一主成分z1与与x1,x5,x6,x7,x9呈显出较强的呈显出较强的正相关,与正相关,与x3呈显出较强的负相关,而这几个变量呈显出较强的负相关,而这几个变量则综合反映了生态经济结构状况,因此可以认为第则综合反映了生态经济结构状况,因此可以认为第一主成分一主成分z1是生态经济结构的代表。是生态经济结构的代表。第二主成分第二主成分z2与与x2,x4,x5呈显出较强的正相关,呈显出较强的正相关,与与x1呈显出较强的负相关,其中,除了呈显出较强的负相关,其中,除了x1为人口总为
35、人口总数外,数外,x2,x4,x5都反映了人均占有资源量的情况,都反映了人均占有资源量的情况,因此可以认为第二主成分因此可以认为第二主成分z2代表了人均资源量。代表了人均资源量。分析:分析:显然,用三个主成分z1、z2、z3代替原来9个变量(x1,x2,x9),描述农业生态经济系统,可以使问题更进一步简化、明了。第三主成分第三主成分z3,与,与x8呈显出的正相关程度最高,其呈显出的正相关程度最高,其次是次是x6,而与,而与x7呈负相关,因此可以认为第三主成分呈负相关,因此可以认为第三主成分在一定程度上代表了农业经济结构。在一定程度上代表了农业经济结构。另外,表另外,表3.5.3中最后一列(占方差的百分数),在中最后一列(占方差的百分数),在一定程度反映了三个主成分一定程度反映了三个主成分z1、z2、z3包含原变量(包含原变量(x1,x2,x9)的信息量多少。)的信息量多少。ruyipingtaiguanwang 俎英华檶