1、3.6 受约束回归受约束回归 在建立回归模型时，有时根据经济理论需对 模型中变量的参数施加一定的约束条件。 如： 0阶齐次性阶齐次性 条件的消费需求函数 1阶齐次性阶齐次性 条件的C-D生产函数 模型施加约束条件后进行回归模型施加约束条件后进行回归，称为受约束受约束 回归回归（restricted regression）; 不加任何约束的回归称不加任何约束的回归称为无约束回归无约束回归 （unrestricted regression）。）。 受约束回归受约束回归 一、模型参数的线性约束一、模型参数的线性约束 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量 三、参数的稳定性三
2、、参数的稳定性 *四、非线性约束四、非线性约束 一、模型参数的线性约束一、模型参数的线性约束 对模型 kk XXXY 22110 施加约束 1 21 kk 1 得 * 11121110 )1 ( kkkk XXXXY 或* 1133 * 110 * kk XXXY (*) (*) 如果对（*）式回归得出 1310 , , , k 则由约束条件可得： 12 1 1 kk 然而，对所考查的具体问题能否施加约束能否施加约束？ 需进一步进行相应的检验。常用的检验有常用的检验有： F检验、x2检验与t检验， 主要介绍主要介绍F检验检验 在同一样本下，记无约束无约束样本回归模型为 eXY 受约束受约束样本
3、回归模型为 * eXY 于是 )X(eXeXXYe * 受约束受约束样本回归模型的残差平方和残差平方和RSSR )X(X)(eeee * 于是 eeee * ee为无约束无约束样本回归模型的残差平方残差平方和RSSU (*) 受约束受约束与无约束无约束模型都有相同的相同的TSS 由（*）式 RSSR RSSU 从而 ESSR ESSU 这意味着这意味着，通常情况下，对模型施加约束通常情况下，对模型施加约束 条件会降低模型的解释能力条件会降低模型的解释能力。 但是但是，如果如果约束条件约束条件为为真真，则，则受约束受约束回归回归 模型与模型与无约束无约束回归模型具有相同的解释能力回归模型具有相同
4、的解释能力， RSSR 与 RSSU的差异变小。 可用可用RSSR - RSSU的大小来检验约束的真实性的大小来检验约束的真实性 根据数理统计学的知识： ) 1(/ 22 UU knRSS ) 1(/ 22 RR knRSS )(/ )( 22 RUUR kkRSSRSS 于是： ) 1,( ) 1/( )/()( URU UU RUUR knkkF knRSS kkRSSRSS F 讨论：讨论： 如果约束条件无效， RSSR 与 RSSU的差异较大， 计算的F值也较大。 于是，可用计算的F统计量的值与所给定的显著 性水平下的临界值作比较，对约束条件的真实性进 行检验。 注意，kU - kR恰
5、为约束条件的个数。 例例3.6.13.6.1 中国城镇居民对食品的人均消费需求中国城镇居民对食品的人均消费需求 实例中实例中，对零阶齐次性零阶齐次性检验： 231. 0 10/003240. 0 1/ )003240. 0003315. 0( F 取=5%，查得临界值临界值F0.05(1,10)=4.96 判断：不能拒绝中国城镇居民对食品的人不能拒绝中国城镇居民对食品的人 均消费需求函数具有零阶齐次特性这一假设均消费需求函数具有零阶齐次特性这一假设。 无约束回归:RSSU=0.00324， kU=3 受约束回归:RSSR=0.00332， KR=2 样本容量n=14， 约束条件个数kU - k
6、R=3-2=1 这里的这里的F F检验适合所有关于参数线性约束的检验检验适合所有关于参数线性约束的检验 如：多元回归中对方程总体线性性方程总体线性性的F检验： H0： j=0 j=1,2,k 这里：受约束回归模型为 *0 Y ) 1/( / ) 1/( / )( ) 1/( / )( ) 1/( )/()( knRSS kESS knRSS kRSSTSS knRSS kRSSESSTSS knRSS kkRSSRSS F U U U U U UR UU RUUR 这里，运用了ESSR 0。 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量 考虑如下两个回归模型 kk XXY
7、110 qkqkkkkk XXXXY 11110 (*) (*) (*)式可看成是（*）式的受约束回归：受约束回归： H0： 0 21 qkkk 相应的统计量为： )1(,( )1(/( / )( )1(/( / )( qknqF qknRSS qESSESS qknRSS qRSSRSS F U RU U UR 如果约束条件为真，即额外的变量Xk+1, , Xk+q 对没有解释能力，则统计量较小； 否则，约束条件为假，意味着额外的变量对 有较强的解释能力，则统计量较大。 因此，可通过F的计算值计算值与临界值临界值的比较，来判 断额外变量是否应包括在模型中。 讨论：讨论： 统计量的另一个等价式
8、统计量的另一个等价式 )1(/()1 ( / )( 2 22 qknR qRR F U RU 三、参数的稳定性三、参数的稳定性 1 1、邹氏参数稳定性检验、邹氏参数稳定性检验 建立模型时往往希望模型的参数是稳定的，即 所谓的结构不变结构不变，这将提高模型的预测与分析功 能。如何检验？如何检验？ 假设需要建立的模型需要建立的模型为 kk XXY 110 在两个连续的时间序列（1,2,，n 1 ）与 （n1+1,，n1+n2）中，相应的模型分别为： 1110 kk XXY 2110 kk XXY 合并两个时间序列为( 1,2,，n1 ，n1+1,，n1+n2 )， 则可写出如下无约束回无约束回归模
9、型 2 1 2 1 2 1 X0 0X Y Y 如果 = ，表示没有发生结构变化，因此可针对 如下假设进行检验： H0: = (*)式施加上述约束后变换为受约束受约束回归模型 (*) 2 1 2 1 2 1 X X Y Y （*） 因此，检验的F统计量为： )1(2, )1(2/ / )( 21 21 knnkF knnRSS kRSSRSS F U UR 记RSS1与RSS2为在两时间段上分别回归后所得的 残差平方和，容易验证， 21 RSSRSSRSSU 于是 )1(2, )1(2/)( /)( 21 2121 21 knnkF knnRSSRSS kRSSRSSRSS F R 参数稳定性
10、的检验步骤：参数稳定性的检验步骤： （1）分别以两连续时间序列作为两个样本进行回 归，得到相应的残差平方： RSS1与RSS2 （2）将两序列并为一个大样本后进行回归， 得到大样本下的残差平方和RSSR （3）计算F统计量的值，与临界值比较： 若F值大于临界值，则拒绝原假设，认为发 生了结构变化，参数是非稳定的。 该 检 验 也 被 称 为 邹 氏 参 数 稳 定 性 检 验邹 氏 参 数 稳 定 性 检 验 （Chow test for parameter stability）。 2 2、邹氏预测检验、邹氏预测检验 上述参数稳定性检验要求n2k。 如果出现n2F(n2, n1-k-1) ，则
11、拒绝原假设，认为预测期发生了 结构变化。 例例3.6.2 中国城镇居民食品人均消费需求的邹氏 检验。 1、参数稳定性检验、参数稳定性检验 19811994： )ln(92. 0)ln(08. 0)ln(05. 163. 3) ln( 01 PPXQ RSS1=0.003240 19952001： 01 ln71. 0ln06. 3ln55. 078.13lnPPXQ (9.96) (7.14) (-5.13) (1.81) 19812001: 01 ln39. 1ln14. 0ln21. 100. 5lnPPXQ (14.83) (27.26) (-3.24) (-11.17) 34.10 )
12、821/()000058. 0003240. 0( 4/)0000580. 0003240. 0(013789. 0 F 给定=5%，查表得临界值F0.05(4, 13)=3.18 判断：判断：F值值临界值，拒绝参数稳定的原假设，表临界值，拒绝参数稳定的原假设，表 明中国城镇居民食品人均消费需求在明中国城镇居民食品人均消费需求在1994年前后发年前后发 生了显著变化。生了显著变化。 2、邹氏预测邹氏预测检验检验 65. 4 ) 1314/(003240. 0 7/ )003240. 0013789. 0( F 给定=5%，查表得临界值F0.05(7, 10)=3.18 判断判断： F值值临界值
13、，拒绝参数稳定的原假设临界值，拒绝参数稳定的原假设 *四、非线性约束四、非线性约束 也可对模型参数施加非线性约束非线性约束,如对模型 kk XXXY 22110 施加非线性约束12=1,得到受约束回归模型受约束回归模型: * 2 1 110 1 kk XXXY 该 模 型 必 需 采 用 非 线 性 最 小 二 乘 法非 线 性 最 小 二 乘 法 （nonlinear least squares）进行估计。 非线性约束检验非线性约束检验是建立在最大似然原理最大似然原理基 础上的,有最大似然比检验最大似然比检验、沃尔德检验沃尔德检验与拉拉 格朗日乘数检验格朗日乘数检验. . 1、最大似然比检验
14、、最大似然比检验 (likelihood ratio test, LR) 估计估计: :无约束回归模型与受约束回归模型， 方法方法: :最大似然法， 检验检验: :两个似然函数的值的差异是否“足够”大。 记L( ,2)为一似然函数: 无约束回归无约束回归 : Max: ), ( 2 L 受约束回归受约束回归 : Max: ) , ( 2 L 或求极值： )(),( 2 gL g( ):以各约束条件为元素的列向量, ：以相应拉格朗日乘数为元素的行向量 约束：g( )=0 受约束受约束的函数值不会超过的函数值不会超过无约束无约束的函数值的函数值，但 如果约束条件为真约束条件为真，则两个函数值就非常
15、“接接 近近”。 22 ，L，L 由此，定义似然比似然比（likelihood ratio）: 如果如果比值很小，说明说明两似然函数值差距较大， 则应拒绝拒绝约束条件为真的假设； 如果如果比值接近于，说明说明两似然函数值很接近， 应接受接受约束条件为真的假设。 具体检验具体检验时，由于大样本下： )(), (ln) , (ln2 222 hLLLR h是约束条件的个数。因此： 通过通过LR统计量的统计量的 2 2分布特性来进行判断。分布特性来进行判断。 在中国城镇居民人均食品消费需求例中国城镇居民人均食品消费需求例中，对零阶零阶 齐次性齐次性的检验： LR= -2(38.57-38.73)=0
16、.32 给出=5%、查得临界值临界值 2 20.05(1)(1)3.84， 判断判断： LR 2 20.05(1),(1),不拒绝原约束的假设，不拒绝原约束的假设， 表明表明: :中国城镇居民对食品的人均消费需求函中国城镇居民对食品的人均消费需求函 数满足零阶齐次性条件数满足零阶齐次性条件。 、沃尔德检验、沃尔德检验（Wald test, W） 沃尔德检验中，只须估计无约束模型。如对 kk XXXY 22110 在所有古典假设都成立的条件下，容易证明 ),( 2 2121 21 N 因此，在1+2=1的约束条件下 )1 ,0( 1 21 21 Nz 记 )( 22 21 Xf 可建立沃尔德统计
17、量沃尔德统计量: ) 1 ( ) 1 ( 2 2 2 21 21 W 如果有h个约束条件，可得到h个统计量z1,z2,zh 约束条件为真时，可建立大样本大样本下的服从自由度为h的 渐近 2 分布统计量 )( 2 hWZCZ 1 其中，Z为以zi为元素的列向量，C是Z的方差-协方差矩阵。 因此，W从总体上测量了无约束回归不满足约束条件的程度。从总体上测量了无约束回归不满足约束条件的程度。 对对非线性约束非线性约束，沃尔德统计量，沃尔德统计量W的算法描述要复杂得多。的算法描述要复杂得多。 3、拉格朗日乘数检验、拉格朗日乘数检验 拉格朗日乘数检验则只需估计受约束受约束模型. 受约束回归是求最大似然法
18、的极值问题: )(),( 2 gL 是拉格朗日乘数行向量，衡量各约束条件对最 大似然函数值的影响程度。 如果某一约束为真，则该约束条件对最大似然 函数值的影响很小，于是，相应的拉格朗日乘数 的值应接近于零。 因此，拉格朗日乘数检验就是检验某些拉格朗 日乘数的值是否“足够大”，如果“足够大”， 则拒绝约束条件为真的假设。 拉格朗日统计量LM本身是一个关于拉格朗日乘数的复杂 的函数，在各约束条件为真的情况下，服从一自由度恰为 约束条件个数的渐近2分布。 2 nRLM n为样本容量，R2为如下被称为辅助回归辅助回归（auxiliary regression）的可决系数: kkR XXXe 22110 如果约束是非线性的，辅助回归方程的估计比较复杂， 但仍可按（*）式计算LM统计量的值。 最后，一般地有最后，一般地有:LMLRW 同样地，如果为线性约束，LM服从一精确的2分布： (*)
