逐步回归和通径分析课件.ppt

1、12目录目录逐步回归逐步回归通径分析通径分析逐步回归逐步回归通径分析通径分析3逐步回归逐步回归通径分析通径分析概念：逐步回归分析方法是针对多个自变量建立最优回归方程的一种统计方法。在有p个自变量的情况下，根据自变量的不同组合可能建立的回归方程众多。这些回归方程的效果有好有坏，而人们希望的是回归效果最好的，即“最优”的回归方程。要求：（1）回归效果最佳 （2）自变量的个数最少 一方面对因变量起显著作用的自变量都选进回归 方程，另一方面对因变量作用不显著的自变量都剔除 回归方程，选择一个最佳的变量组合。4逐步回归逐步回归通径分析通径分析方法逐步剔除法逐步引入法逐步剔除法主要步骤：（1）从包含全部p

2、个自变量组合的回归方程中逐个检验回归系数，剔除对因变量作用不显著的自变量；（2）对剔除后剩下的q个自变量建立对因变量的多元回归方程，再逐个检验回归系数，剔除不显著的变量；（3）重复上述步骤，直到保留在回归方程中自变量的作用都显著为止缺点：一开始把全部自变量都要引入回归方程，计算量很大，实际上有些不重要的就不必引入 5逐步回归逐步回归通径分析通径分析逐步引入法基本步骤：（1）先逐个比较 xl,xp 对 y 的回归方程哪些是显著的，从显著的方程中挑选 F 值最大的，相应的自变量 x 就被“引入”方程。无妨设 x 就是x1（2）再逐个比较(x1,x2)、(x1,x3)、(x1,xp)对y的回归方程，

3、看有没有F值显著的，此时的F就是考虑添加xi之后，xi的回归系数是否显著地不为0，将显著的F中最大的F所相应的变量“引入”方程。无妨设第二次“引入”的自变量是x2（3）再考察以x1、x2为基础，逐个添加x3、x4、xp之后的回归方程，是否较x1、x2的方程有显著的改进，有就再“引入”新的自变量，这样下去，终于到某一步就没有可以再“引入”的自变量了。这时就获得了最后的回归方程.缺点：不能反映后来变化的状况，设想x1、x2、x3引入后，又引入了x6，也许x3、x6引入后，x1的作用就不重要了，应该予以剔除，而“逐步引入”法不能达到这个要求6逐步回归逐步回归通径分析通径分析例14.1 测定了”丰产3

4、号“小麦15株的单株穗数x1、每穗结实小穗数x2、百粒重x3（g）、株高x4（cm）、单株籽粒产量y（g），结果列于表14-1，试建立y依xi的最优回归方程。P2547 逐步回归逐步回归通径分析通径分析1、逐步剔除法（1）建立m元线性回归方程表1 表14-1资料四元线性回归和偏回归系数的假设检验表1表明，四元线性回归方程达极显著，但x2和x4偏回归系数都不显著，其中以x4的偏回归平方和最小，所以，应首先剔除x4。8逐步回归逐步回归通径分析通径分析（2）建立m-1元线性回归方程：表2 表14-1资料三元线性回归和偏回归系数的假设检验表2表明，三元线性回归方程和三个自变量的偏回归系数均极显著或者显

5、著，因此不需要再作自变量的剔除。最优线性回归方程：y=-46.9663+2.013139x1+0.674643x2+7.830227x39逐步回归逐步回归通径分析通径分析2、逐步引入法 P260（1）计算相关矩阵（2）选择第一个自变量 首先，计算各自变量的标准偏回归平方和。其次，对偏回归平方和最大的变量进行F检验。题中x1的最大，经检验引入该变量。最后，变换相关矩阵（3）选择第二个自变量：先计算余下自变量的标准偏回归平方和。接下来是重复（2）过程。选入x3（4）选择第三个自变量。选入x2（5）选择第四个自变量。x4不显著，不选入。（6）选择计算偏回归系数，建立最优回归方程。最优线性回归方程：y

6、=-46.9713+2.0131x1+0.6746x2+7.8302x3 10逐步回归逐步回归通径分析通径分析通径系数的基本概念通径系数的基本概念 多元线性回归系数间不能直接比较各因子间的效应大小,因为各回归系数间都带有不同的量纲,再者多变量的关系中,往往都不是独立的,有时还要研究xi通过xj对依变量y的影响,而通径系数就能有效的表示相关变量间原因对结果的直接影响或间接影响的效应,从而区分因子的相对重要性及其关系。通径图通径图yx1x2图14-1a x1与x2独立时yx1x2图14-1b x1与x2不独立时直接通径:间接通径:x1 x2 y,x2 x1 y符号：表示通径线x1 y,x2 y11

7、逐步回归逐步回归通径分析通径分析通径系数的概念通径系数的概念表示各条通径对于改变y变量的相对重要性的统计量称通径系数,常用q表示。直接通径系数就是逐步回归中的偏回归系数bi。通径系数的性质通径系数的性质 1.当自变量为 p 时,共有p个直接通径,p(p-1)个间接通径系数。2.通径系数能够表示变量间的因果关系,所以具有回归系数的性质。3.通径系数是相对数,且有方向性,因而具有相关系数的性质。12逐步回归逐步回归通径分析通径分析通径系数的计算过程1、通径系数正规方程组前面已经提过,直接通径系数就是逐步回归分析中变量标准化变换后的偏回归系数,所以可解下列正规方程组求得 q ,q ,q。(q=b)p

8、ypyp ppppp2 2p2p21 1p1p12y2yp p2p2p2 222221 121211y1yp p1p1p2 212121 11111r rq qr r.q qr rq qr r.r rq qr r.q qr rq qr rr rq qr r.q qr rq qr r每个自变量xi与y的相关系数均可剖分为xi对y的直接作用和间接作用的代数和。13逐步回归逐步回归通径分析通径分析3 32 232321 131313y3y3 323232 21 121212y2y3 313132 212121 11y1yq qq qr rq qr rr rq qr rq qq qr rr rq qr

9、 rq qr rq qr r xi 对 y 的直接通径 xi y xi 对 y 的间接通径 xi xj y由方程1可看出第1个自变量x1与y的相关关系r 可看成 x1对y的直接通径部分q ;还有 x1 与 x2;x1与x3的间接通径 r q 和 r q 部分。如：当 P=3 时xi对y的相关关系可列出方程式 通式:122 133 1y114逐步回归逐步回归通径分析通径分析例题：计算例14.1资料的通径系数P265 前面已经计算出相关系数，将其带入方程，得标准正规方程组（由于x4已经剔除，不再参加通径分析）。yx3x2x1e15逐步回归逐步回归通径分析通径分析通径分析的假设检验回归方程的检验通径

10、系数的检验16逐步回归逐步回归通径分析通径分析exbxbxbaymm2211（1）对（1）进行标准化变换，令：ySSyyyiiiiSSxxxmmxbxbxby.2211标准化变量的m元线性回归方程为：（2）17逐步回归逐步回归通径分析通径分析令iibq则（2）可改为mmxqxqxqy.2211（3）22iiqR 决定系数自变量 通过 对依变量y的间接决定系数ixjxjijiijqrqR22而决定系数R2等于各直接与间接决定系数之和。18逐步回归逐步回归通径分析通径分析回归平方和U为：22211.RrqrqrqUmymyy 剩余因子e假设与各个xi独立，其通径系数qe为：21Rqe则有：2221

11、RqRQee剩余平方和则对标准化变量多元线性回归方程检验的F值为：)1/()1(/22mnRmRF19逐步回归逐步回归通径分析通径分析各xi对y的通径系数qi的检验可用F检验和t检验两种方法。1、F检验)1/()1(/22mnRcqFiiii2、t检验先求出通径系数的标准误sqiiiicmnRsq)1/()1(2其t值为：iisqqt 注意：这里介绍的F检验和t检验是等价的，在实际进行通径系数假设检验时，只须选其中一种方法即可。20逐步回归逐步回归通径分析通径分析例题：对上个例题所计算的通径系数进行显著性检验p268（1）对标准化变量多元线性回归方程检验的F值为：F=42.4388*说明每株穗数x1、每穗结实小穗数x2、百粒重x3标准化后的 多元线性回归方程呈极显著水平。（2）对通径系数进行检验 F1=58.5276*，F2=5.3443*，F3=11.9710*t1=7.6503*，t2=2.3118*，t3=3.4599*从以上数据可看出，F检验与t检验的结果是一样的，皆为通径系数q1、q3达到极显著的水平，而q2仅达显著水平。21