1、1 本章讨论加权最小二乘估计，异方差性和自相关一致协本章讨论加权最小二乘估计，异方差性和自相关一致协方差估计，两阶段最小二乘估计（方差估计，两阶段最小二乘估计（TSLS），非线性最小二乘），非线性最小二乘估计和广义矩估计（估计和广义矩估计（GMM）。这里的大多数方法在第十二章）。这里的大多数方法在第十二章的联立方程系统中也适用。的联立方程系统中也适用。本章中某些估计方法中含有本章中某些估计方法中含有AR和和MA误差项，这些概念误差项，这些概念将在第五章中深入介绍。将在第五章中深入介绍。2 ikikiituxxxy22110i=1,2,N 在普通最小二乘法中，为保证参数估计量具有良好的性质，在普
2、通最小二乘法中，为保证参数估计量具有良好的性质，通常对模型提出若干基本假设：通常对模型提出若干基本假设：1解释变量之间互不相关；解释变量之间互不相关；2随机误差项具有随机误差项具有0均值和同方差。即均值和同方差。即 0)(iuE2)(iuVari=1,2,N 即随机误差项的方差是与观测时点即随机误差项的方差是与观测时点t无关的常数；无关的常数；3不同时点的随机误差项互不相关（序列不相关），即不同时点的随机误差项互不相关（序列不相关），即 0),(siiuuCovs 0,i=1,2,N 3 当随机误差项满足假定当随机误差项满足假定1 4时，将回归模型时，将回归模型”称为称为“标准回归模型标准回归
3、模型”，当随机误差项满足假定，当随机误差项满足假定1 5时，将回时，将回归模型称为归模型称为“标准正态回归模型标准正态回归模型”。如果实际模型满足不。如果实际模型满足不了这些假定，普通最小二乘法就不再适用，而要发展其他了这些假定，普通最小二乘法就不再适用，而要发展其他方法来估计模型。方法来估计模型。5随机误差项服从随机误差项服从0均值、同方差的正态分布。即均值、同方差的正态分布。即),0(2Niui=1,2,N 4随机误差项与解释变量之间互不相关。即随机误差项与解释变量之间互不相关。即 0),(ijiuxCov j=1,2,k,i=1,2,N 4 古典线性回归模型的一个重要假设是总体回归方程的
4、随机古典线性回归模型的一个重要假设是总体回归方程的随机扰动项扰动项 ui 同方差，即他们具有相同的方差同方差，即他们具有相同的方差 2。如果随机扰动项。如果随机扰动项的方差随观测值不同而异，即的方差随观测值不同而异，即ui 的方差为的方差为 i2，就是异方差。用，就是异方差。用符号表示异方差为符号表示异方差为E(ui2)=i2。异方差性在许多应用中都存在，但主要出现在截面数据分异方差性在许多应用中都存在，但主要出现在截面数据分析中。例如我们调查不同规模公司的利润，会发现大公司的利析中。例如我们调查不同规模公司的利润，会发现大公司的利润变化幅度要比小公司的利润变化幅度大，即大公司利润的方润变化幅
5、度要比小公司的利润变化幅度大，即大公司利润的方差比小公司利润的方差大。利润方差的大小取决于公司的规模、差比小公司利润的方差大。利润方差的大小取决于公司的规模、产业特点、研究开发支出多少等因素。又如在分析家庭支出模产业特点、研究开发支出多少等因素。又如在分析家庭支出模式时，我们会发现高收入家庭通常比低收入家庭对某些商品的式时，我们会发现高收入家庭通常比低收入家庭对某些商品的支出有更大的方差。支出有更大的方差。5 变量变量可支配收入可支配收入 交通和通讯支出交通和通讯支出变量变量可支配收入可支配收入交通和通讯支出交通和通讯支出 地区地区INCUM地区地区INCUM 甘甘 肃肃 山山 西西 宁宁 夏
6、夏 吉吉 林林 河河 南南 陕陕 西西 青青 海海 江江 西西黑龙江黑龙江内蒙古内蒙古 贵贵 州州 辽辽 宁宁 安安 徽徽 湖湖 北北 海海 南南4009.614098.734112.414206.644219.424220.244240.134251.424268.504353.024565.394617.244770.474826.364852.87159.60137.11231.51172.65193.65191.76197.04176.39185.78206.91227.21201.87237.16214.37265.98新新 疆疆 河河 北北四四 川川山山 东东广广 西西湖湖 南南重
7、重 庆庆江江 苏苏云云 南南福福 建建天天 津津浙浙 江江北北 京京上上 海海广广 东东5000.795084.645127.085380.085412.245434.265466.576017.856042.786485.637110.547836.768471.988773.108839.68212.30270.09212.46255.53252.37255.79337.83255.65266.48346.75258.56388.79369.54384.49640.566我们研究人均家庭交通及通讯支出我们研究人均家庭交通及通讯支出(cum)和可支配收和可支配收入入(in)的关系，考虑如下方
8、程的关系，考虑如下方程：cumi=0+1ini+ui 利用普通最小二乘法，得到如下回归模型利用普通最小二乘法，得到如下回归模型：cumi=-56.917+0.05807 ini (4.1.4)(-1.57)(8.96)R2=0.74 D.W.=2.0087 从图形上可以看出，平均而言，城镇居民家庭交通和通从图形上可以看出，平均而言，城镇居民家庭交通和通讯支出随可支配收入的增加而增加。但是，值得注意的是：讯支出随可支配收入的增加而增加。但是，值得注意的是：随着可支配收入的增加，交通和通讯支出的变动幅度也增大随着可支配收入的增加，交通和通讯支出的变动幅度也增大了，可能存在异方差。如果我们把回归方程
9、中得到的残差对了，可能存在异方差。如果我们把回归方程中得到的残差对各个观测值作图，则可以清楚地看到这一点。各个观测值作图，则可以清楚地看到这一点。异方差的存在并不破坏普通最小二乘法的无偏性，但是异方差的存在并不破坏普通最小二乘法的无偏性，但是估计量却不是有效的，即使对大样本也是如此，因为缺乏有估计量却不是有效的，即使对大样本也是如此，因为缺乏有效性，所以通常的假设检验值不可靠。因此怀疑存在异方差效性，所以通常的假设检验值不可靠。因此怀疑存在异方差或者已经检测到异方差的存在，则采取补救措施就很重要。或者已经检测到异方差的存在，则采取补救措施就很重要。8 观察是否存在明显的散点扩大、缩小或复杂型趋
10、势（即观察是否存在明显的散点扩大、缩小或复杂型趋势（即不在一个固定的带型域中）不在一个固定的带型域中）9 首先采用首先采用OLS方法估计模型，以求得随机误差项方法估计模型，以求得随机误差项u的方差的方差 i2的的估计量估计量(注意，该估计量是不严格的注意，该估计量是不严格的)，我们称之为，我们称之为“近似估计近似估计量量”，用，用 ei2 表示。于是有表示。于是有(4.1.5)22)()var(iiieuEu即用即用 ei2 来表示随机误差项的方差。用来表示随机误差项的方差。用 解释变量解释变量x 和和 ei2的散点图的散点图进行进行观察是否随着观察是否随着x增加，出现方差的逐渐增加、下降或者
11、不规增加，出现方差的逐渐增加、下降或者不规则变化。则变化。10ei2 ei2 X X 同方差 递增异方差ei2 ei2 X X 递减异方差 复杂型异方差11 White(1980)提出了对最小二乘回归中残差的异方提出了对最小二乘回归中残差的异方差性的检验。包括有交叉项和无交叉项两种检验。普通差性的检验。包括有交叉项和无交叉项两种检验。普通最小二乘估计虽然在存在异方差性时是一致的，但是通最小二乘估计虽然在存在异方差性时是一致的，但是通常计算的标准差不再有效。如果发现存在异方差性，利常计算的标准差不再有效。如果发现存在异方差性，利用加权最小二乘法可以获得更有效的估计。用加权最小二乘法可以获得更有效
12、的估计。12 检验统计量是通过利用解释变量所有可能的交叉乘积对残检验统计量是通过利用解释变量所有可能的交叉乘积对残差进行回归来计算的。例如：假设估计如下方程差进行回归来计算的。例如：假设估计如下方程(4.1.6)式中式中b是估计系数，是估计系数，i 是残差。检验统计量基于辅助回归：是残差。检验统计量基于辅助回归：(4.1.7)EViews显示两个检验统计量：显示两个检验统计量：F统计量和统计量和 Obs*R2 统计量。统计量。（也就是，式（也就是，式（4.1.7）中除中除 0以外的所有系数都为以外的所有系数都为0成立）成立）。iiiiuzxy321iiiiiiiizxzxzxu52423210
13、213 White证明出：证明出：（4.1.8）其中：其中：N是样本容量，是样本容量，k为自由度，等于式（为自由度，等于式（4.1.7）中解释变）中解释变量个数（不包含截距项）。如果计算的量个数（不包含截距项）。如果计算的 2值大于给定显著性水值大于给定显著性水平对应的临界值，则可以拒绝原假设，得出存在异方差的结论。平对应的临界值，则可以拒绝原假设，得出存在异方差的结论。也就是说，回归方程（也就是说，回归方程（4.1.7）的）的R2越大，说明残差平方受到解越大，说明残差平方受到解释变量影响越显著，也就越倾向于认为存在异方差。释变量影响越显著，也就越倾向于认为存在异方差。如果原模型中包含的解释变
14、量较多，那么辅助回归中将包如果原模型中包含的解释变量较多，那么辅助回归中将包含太多的变量，这会迅速降低自由度。因此，在引入变量太多含太多的变量，这会迅速降低自由度。因此，在引入变量太多时，必须谨慎一些。时，必须谨慎一些。White检验的另外一种形式，就是辅助回检验的另外一种形式，就是辅助回归中不包含交叉项。归中不包含交叉项。因此因此White检验有两个选项：交叉项和无检验有两个选项：交叉项和无交叉项。交叉项。22kRN14人均家庭交通及通讯支出人均家庭交通及通讯支出(CUM)和可支配收入和可支配收入(IN)的回归方程的的回归方程的 White 异方差检验的结果：异方差检验的结果：该结果该结果F
15、 统计量和统计量和 Obs*R2 统计量的统计量的P值均很小，表明值均很小，表明拒绝原假设，即残差存在异方差性。拒绝原假设，即残差存在异方差性。15 考虑一个一元回归线性方程：考虑一个一元回归线性方程：（4.1.11）假设已知随机误差项的真实的方差，假设已知随机误差项的真实的方差，var(ui)=i2，则令，则令wi=1/i，将模型两端同乘将模型两端同乘wi，变换为变换为 （4.1.12）令令ui*=wiui，则则 （4.1.13）因此，变换后的模型（因此，变换后的模型（4.1.12）不再存在异方差的问题，可）不再存在异方差的问题，可以用以用OLS估计。加权最小化残差平方和为：估计。加权最小化
16、残差平方和为：（4.1.14）由此获得的估计量就是权重序列为由此获得的估计量就是权重序列为 wi的加权最小二乘估计量。的加权最小二乘估计量。iiiuxy10Ni,2,1iiiiiiiuwxwwyw)(101/)var()var()var(2*iiiiiuuwu2102)()(bxbywSiiiib16 假设有已知形式的异方差性，并且假设有已知形式的异方差性，并且。这时可以采用权数序列为。这时可以采用权数序列为w 的加权最小二乘的加权最小二乘估计来修正异方差性。对加权最小化残差平方和得到估计结果估计来修正异方差性。对加权最小化残差平方和得到估计结果:22)()(xiiiiywS其中其中 是是k
17、1维向量。在矩阵概念下，令权数序列维向量。在矩阵概念下，令权数序列 w 在权数矩阵在权数矩阵W的对角线上，其他地方是零，即的对角线上，其他地方是零，即W 矩阵是对角矩阵，矩阵是对角矩阵，y 和和X是是因变量和自变量矩阵。则加权最小二乘估计量为：因变量和自变量矩阵。则加权最小二乘估计量为：（4.1.18）估计协方差矩阵为：估计协方差矩阵为：（4.1.19）WyWXWXWXb1)(WLS12)(WXWXsWLS17 由于一般不知道异方差的形式，人们通常采用的经验方由于一般不知道异方差的形式，人们通常采用的经验方法是，并不对原模型进行异方差检验，而是直接选择加权最法是，并不对原模型进行异方差检验，而
18、是直接选择加权最小二乘法，尤其是采用截面数据作样本时。如果确实存在异小二乘法，尤其是采用截面数据作样本时。如果确实存在异方差性，则被有效地消除了；如果不存在异方差性，则加权方差性，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。最小二乘法等价于普通最小二乘法。具体步骤是：具体步骤是：1选择普通最小二乘法估计原模型，得到随机误差项选择普通最小二乘法估计原模型，得到随机误差项的近似估计量的近似估计量 t；2建立建立 wi=1/|t|的权数序列；的权数序列；3选择加权最小二乘法，以选择加权最小二乘法，以 wi=1/|t|序列作为权，序列作为权，进行估计得到参数估计量。实际
19、上是以进行估计得到参数估计量。实际上是以 1/|t|乘原模型的两乘原模型的两边，得到一个新模型，采用普通最小二乘法估计新模型。边，得到一个新模型，采用普通最小二乘法估计新模型。18 使用加权最小二乘法估计方程，首先到主使用加权最小二乘法估计方程，首先到主菜单中选菜单中选Quick/Estimate Equation ,然后然后选择选择LS-Least Squares(NLS and ARMA)。在。在对话框中输入方程说明和样本，然后按对话框中输入方程说明和样本，然后按Options钮钮,出现如下对话框：出现如下对话框：19 单击单击Weighted LS/TSLS选项在选项在Weighted
20、项后填写权数序列项后填写权数序列名，单击名，单击OK。例子：。例子：2021 EViews会打开结果窗口显示标准系数结果（如上图），会打开结果窗口显示标准系数结果（如上图），包括加权统计量和未加权统计量。加权统计结果是用加权数包括加权统计量和未加权统计量。加权统计结果是用加权数据计算得到的：据计算得到的：)(WLSiiiiywubx 未加权结果是基于原始数据计算的残差得到的：未加权结果是基于原始数据计算的残差得到的：WLSiiiyubx 估计后，未加权残差存放在估计后，未加权残差存放在RESID序列中。序列中。如果残差方差假设正确，则加权残差不应具有异方差性。如果残差方差假设正确，则加权残差不
21、应具有异方差性。如果方差假设正确的话，未加权残差应具有异方差性，残差如果方差假设正确的话，未加权残差应具有异方差性，残差标准差的倒数在每个时刻标准差的倒数在每个时刻t与与w成比例。成比例。22 当异方差性形式未知时，使用加权最小二乘法提供在当异方差性形式未知时，使用加权最小二乘法提供在异方差存在时的一致参数估计，但通常的异方差存在时的一致参数估计，但通常的OLS标准差将不标准差将不正确。正确。在描述协方差估计技术之前，应注意：在描述协方差估计技术之前，应注意：使用使用White异方差一致协方差或异方差一致协方差或Newey-West异方差异方差一致协方差估计不会改变参数的点估计，只改变参数的估
22、一致协方差估计不会改变参数的点估计，只改变参数的估计标准差。计标准差。可以结合几种方法来计算异方差和序列相关。如把加可以结合几种方法来计算异方差和序列相关。如把加权最小二乘估计与权最小二乘估计与White 或或Newey-West协方差矩阵估计协方差矩阵估计相结合。相结合。23 White(1980)得出在存在未知形式的异方差时，对系数协方得出在存在未知形式的异方差时，对系数协方差进行正确估计的异方差一致协方差估计量。差进行正确估计的异方差一致协方差估计量。White 协方差矩协方差矩阵公式为：阵公式为：1121)()(XXxxXXNiiiiWukNN其中其中N是观测值数，是观测值数，k是回归
23、变量数，是回归变量数，i 是最小二乘残差。是最小二乘残差。EViews在标准在标准OLS公式中提供公式中提供White协方差估计选项。打协方差估计选项。打开方程对话框，说明方程，然后按开方程对话框，说明方程，然后按Options钮。接着，单击异方钮。接着，单击异方差一致协方差差一致协方差(Heteroskedasticity Consistent Covariance)，选，选择择White 钮，接受选项估计方程。钮，接受选项估计方程。24在输出结果中，在输出结果中，EViews会包含一行文字说明表明使用了会包含一行文字说明表明使用了White估计量。估计量。25 前面描述的前面描述的Whit
24、e协方差矩阵假设被估计方程的残差是协方差矩阵假设被估计方程的残差是序列不相关的。序列不相关的。Newey和和West(1987)提出了一个更一般的提出了一个更一般的估计量，在有未知形式的异方差和自相关存在时仍保持一估计量，在有未知形式的异方差和自相关存在时仍保持一致。致。Newey-West估计量为：估计量为：其中其中 11)()(XXXXNWNtqvNviiiviviviviiitttuuuuqukNN1112)(11xxxxxx26 q 是滞后截尾，一个用于评价是滞后截尾，一个用于评价OLS随机误差项随机误差项 ut 的动态的自相关数目的参数。根据的动态的自相关数目的参数。根据Newey-
25、West 假设，假设，EViews中令中令q为：为：Newey-West异方差一致协方差估计量，不能和加异方差一致协方差估计量，不能和加权最小二乘法一起使用。权最小二乘法一起使用。使用使用Newey-West 方法，在方法，在估计对话框中按估计对话框中按Options钮。在异方差一致协方差项中钮。在异方差一致协方差项中选选Newey-West钮。钮。)100(4(92Tfloorq 27 Newey-West估计量为：估计量为：28 回归分析的一个基本假设是方程的解释变量与回归分析的一个基本假设是方程的解释变量与扰动项不相关。但是，由于解释变量测量误差的存扰动项不相关。但是，由于解释变量测量误
26、差的存在，用于估计模型参数的数据经常与它们的理论值在，用于估计模型参数的数据经常与它们的理论值不一致；或者由于遗漏了变量，使得随机误差项中不一致；或者由于遗漏了变量，使得随机误差项中含有可能与解释变量相关的变量，这些都可能导致含有可能与解释变量相关的变量，这些都可能导致解释变量与扰动项的相关。解释变量与扰动项的相关。出现这种问题时，出现这种问题时，OLS和和WLS估计量都有偏差估计量都有偏差且不一致，因而要采用其他方法估计。最常用的估且不一致，因而要采用其他方法估计。最常用的估计方法是二阶段最小二乘法。计方法是二阶段最小二乘法。29 考虑多元线性回归模型的矩阵形式考虑多元线性回归模型的矩阵形式
27、 （4.2.1）其中：其中：y 和和 X 是因变量和解释变量数据矩阵，是因变量和解释变量数据矩阵，是系数是系数向量。向量。为简化起见，我们称与残差相关的变量为内生变量，为简化起见，我们称与残差相关的变量为内生变量，与残差不相关的变量为外生变量或前定变量。与残差不相关的变量为外生变量或前定变量。解决方程右边解释变量与残差相关的方法是使用工解决方程右边解释变量与残差相关的方法是使用工具变量回归。就是要找到一组变量满足下面两个条件：具变量回归。就是要找到一组变量满足下面两个条件：（1）与方程解释变量相关；）与方程解释变量相关；（2）与扰动项不相关；）与扰动项不相关；uXy30 选择选择 zi=(z1
28、i,z2i,zki)作为工具变量，它与解释作为工具变量，它与解释变量相关，但与扰动项不相关，即变量相关，但与扰动项不相关，即 （4.2.2）这些变量就可成为工具变量。用这些工具变量来这些变量就可成为工具变量。用这些工具变量来消除右边解释变量与扰动项之间的相关性。消除右边解释变量与扰动项之间的相关性。0),cov(iiuz31 二阶段最小二乘方法（二阶段最小二乘方法（two stage least square，TSLS）本质上属于工具变量法，它包括两个阶段：）本质上属于工具变量法，它包括两个阶段：第一个阶段，找到一组第一个阶段，找到一组工具工具变量，模型中每个解释变量，模型中每个解释变量分别关
29、于这组变量作最小二乘回归；变量分别关于这组变量作最小二乘回归；第二个阶段，所有变量用第一个阶段回归得到的拟第二个阶段，所有变量用第一个阶段回归得到的拟合值来代替，对原方程进行回归，这样求得的回归系数合值来代替，对原方程进行回归，这样求得的回归系数就是就是TSLS估计值。可以证明二阶段最小二乘估计量是估计值。可以证明二阶段最小二乘估计量是一致估计量。一致估计量。32 不必担心不必担心TSLS估计中分离的阶段，因为估计中分离的阶段，因为EViews会使会使用工具变量技术同时估计两个阶段。令用工具变量技术同时估计两个阶段。令 Z 为工具变量矩为工具变量矩阵阵，y 和和 X 是因变量和解释变量矩阵。则
30、二阶段最小二乘是因变量和解释变量矩阵。则二阶段最小二乘估计的系数由下式计算出来：估计的系数由下式计算出来：yZZZZXXZZZZXb111)()(TSLS 系数估计的协方差矩阵为：系数估计的协方差矩阵为：112)(XZZZZXsTSLS其中其中 s2 是回归标准差（估计残差协方差）。是回归标准差（估计残差协方差）。33 使用二阶段最小二乘估计，打开方程说明对话框，选择使用二阶段最小二乘估计，打开方程说明对话框，选择Method中的中的TSLS估计。随着选择的变化，方程对话框也会估计。随着选择的变化，方程对话框也会发生变化，包括一个工具变量列表对话框。发生变化，包括一个工具变量列表对话框。34
31、输入工具变量时，应注意以下问题：输入工具变量时，应注意以下问题：1.使用使用TSLS估计，方程说明必需满足识别的阶条件，估计，方程说明必需满足识别的阶条件，即工具变量的个数至少与方程的系数一样多。参见即工具变量的个数至少与方程的系数一样多。参见Davidson和和MacKinnon(1994)和和Johnston和和DiNardo(1997)的讨论。的讨论。2.根据经济计量学理论，与扰动项不相关的解释变根据经济计量学理论，与扰动项不相关的解释变量可以用作工具变量。量可以用作工具变量。3.常数常数c是一个合适的工具变量，如果忽略了它，是一个合适的工具变量，如果忽略了它，EViews会自动把它加进
32、去。会自动把它加进去。35 下面我们利用中国下面我们利用中国1978 2000的宏观数据的宏观数据计算城镇居民消计算城镇居民消费增量费增量D(cs)关于城镇居民收入增量关于城镇居民收入增量D(inc)和利率和利率D(rate)、居、居民消费价格民消费价格 D(cpi)的的OLS估计：估计：36 注意到，利率注意到，利率D(rate)和居民消费价格和居民消费价格 D(cpi)与残差相与残差相关，于是采用关，于是采用TSLS估计。工具变量选择估计。工具变量选择c、D(cs(-1)、D(cpi(-1)、D(rate(-1)、D(inc(-2)、D(tax)。37 经典的计量经济学模型理论与方法是在线
33、性模型的基经典的计量经济学模型理论与方法是在线性模型的基础上发展、完善起来的，因而线性计量经济学模型领域的础上发展、完善起来的，因而线性计量经济学模型领域的理论与方法已经相当成熟。但是，现实经济活动并不都能理论与方法已经相当成熟。但是，现实经济活动并不都能抽象为线性模型，所以非线性计量经济学模型在计量经济抽象为线性模型，所以非线性计量经济学模型在计量经济学模型中占据重要的位置，关于它的理论与方法的研究是学模型中占据重要的位置，关于它的理论与方法的研究是计量经济学理论与方法研究的一个广泛的领域。计量经济学理论与方法研究的一个广泛的领域。假设回归方程为：假设回归方程为：tttufy),(x其中其中
34、f 是解释变量和参数是解释变量和参数 的函数。最小二乘估计就是要的函数。最小二乘估计就是要选择参数选择参数 的估计值的估计值 b 使残差平方和最小：使残差平方和最小：tttfyfyfyS),(),(),()(2bXbXbxb38 如果如果 f 关于参数的导数不依赖于参数关于参数的导数不依赖于参数，则我们称模型为则我们称模型为参数线性的，反之，则是参数非线性的。例如，参数线性的，反之，则是参数非线性的。例如，是参数线性的，是参数线性的，f 关于参数的导数与参数关于参数的导数与参数 无关。无关。而而其函数的导数仍依赖于参数其函数的导数仍依赖于参数，所以它是参数非线性的。对于所以它是参数非线性的。对
35、于这个模型，没有办法使用普通最小二乘估计来最小化残差平这个模型，没有办法使用普通最小二乘估计来最小化残差平方和。必须使用非线性最小二乘估计技术来估计模型参数。方和。必须使用非线性最小二乘估计技术来估计模型参数。ttttuKLyloglog321ttttuKLy32139 非线性最小二乘估计根据参数非线性最小二乘估计根据参数 的估计值的估计值 b 选择最小化残选择最小化残差平方和。最小化的一阶条件是：差平方和。最小化的一阶条件是：其中其中 G(b)是是 f(X,b)关于关于b 的导数。的导数。估计协方差矩阵为：估计协方差矩阵为：关于非线性估计的详细讨论，参见关于非线性估计的详细讨论，参见Pind
36、ick和和Rubinfeld(1991,231-245页页)或或Davidson和和MacKinon(1993)。0),(),(2)(itttffySbbxbxbb即即0),()(bXybfGbbxb),()(tfG令令12)()(NLLSNLLSNLLSGGsbb40 估计非线性最小二乘模型很简单，对于任何系数非线性的估计非线性最小二乘模型很简单，对于任何系数非线性的方程，方程，EViews自动应用非线性最小二乘估计，会使用迭代算法自动应用非线性最小二乘估计，会使用迭代算法估计模型。估计模型。对于非线性最小二乘模型，必须使用直接包含系数约束的对于非线性最小二乘模型，必须使用直接包含系数约束的
37、EViews表达式以方程形式来说明。可以使用缺省系数向量表达式以方程形式来说明。可以使用缺省系数向量C中中的元素的元素(例如，例如，c(1),c(2),c(34),c(87)，也可以定义使用其它系，也可以定义使用其它系数向量。例如：数向量。例如：Y=c(1)+c(2)*(Kc(3)+Lc(4)就是缺省系数向量就是缺省系数向量C的的4个元素从个元素从c(1)到到c(4)。41 如果设定例如果设定例3.1中的消费函数为非线性形式：中的消费函数为非线性形式：（4.3.11）其中：其中：cst 是实际居民消费是实际居民消费，inct 是实际可支配收入是实际可支配收入。利用我国利用我国1978年年200
38、2年的年度数据估计此非线性方程，由于用迭代法年的年度数据估计此非线性方程，由于用迭代法计算，首先要赋初值，比如可以设计算，首先要赋初值，比如可以设 3 的估计值的估计值 b3 初值是初值是1，则，则可以利用可以利用OLS估计值估计值(例例3.1中，中，b1=414.88，b2=0.51)作为作为b1，b2 的初值。经过迭代，得到的非线性消费方程为的初值。经过迭代，得到的非线性消费方程为 （4.3.12）b1，b2，b3 的标准差分别为的标准差分别为386.3，0.21和和0.096。tttuinccs3210857.12139.036.774ttincsc42非线性形式的边际消费倾向为非线性形
39、式的边际消费倾向为 即即 MPCt=c(2)c(3)inct(C(3)-1)=0.214*1.0857*inc(1.0857-1)1323)(ddttttincinccsMPC43 因此，非线性情况下的因此，非线性情况下的MPC是时变的，根据式（是时变的，根据式（4.3.11）计）计算得到的边际消费倾向序列如图算得到的边际消费倾向序列如图4.3所示。注意所示。注意，inc 的平均值的平均值(9795.355)对应的边际消费倾向为对应的边际消费倾向为 MPC=0.2139*1.0857*9795.355(1.0857-1)=0.51等于线性模型估计值，因为线性模型的参数反映的是变量之间等于线性模
40、型估计值，因为线性模型的参数反映的是变量之间平均意义上的影响关系。平均意义上的影响关系。44 迭代估计要求模型系数有初始值。选择参数初始值没有迭代估计要求模型系数有初始值。选择参数初始值没有通用的法则。越接近于真值越好，因此，如果你对参数值有通用的法则。越接近于真值越好，因此，如果你对参数值有一个合理的猜测值，将是很有用的。在某些情况下，可以用一个合理的猜测值，将是很有用的。在某些情况下，可以用最小二乘法估计严格形式的模型得到良好的初始值。总体说最小二乘法估计严格形式的模型得到良好的初始值。总体说来，必须进行试验以找到初始值。在开始迭代估计时，来，必须进行试验以找到初始值。在开始迭代估计时，E
41、Views使用系数向量中的值。很容易检查并改变系数的初始使用系数向量中的值。很容易检查并改变系数的初始值。要察看初始值，双击系数向量。如果初始值是合理的，值。要察看初始值，双击系数向量。如果初始值是合理的，可以对模型进行估计。如果想改变初始值，首先确定系数向可以对模型进行估计。如果想改变初始值，首先确定系数向量表使处于编辑状态，然后输入系数值。完成初始值设定后，量表使处于编辑状态，然后输入系数值。完成初始值设定后，关闭系数向量窗口，估计模型。关闭系数向量窗口，估计模型。45 也可以从命令窗口使用也可以从命令窗口使用PARAM命令设定初始系命令设定初始系数值。只需输入关键词数值。只需输入关键词P
42、ARAM，然后是每个系数和，然后是每个系数和想要的初值：想要的初值：param c(1)414.88 c(2)0.51 c(3)1 中设定中设定c(1)=414.88，c(2)=0.51 和和c(3)=1。详情参见附。详情参见附录录E。46 可以通过说明收敛标准和最大迭代次数来控制迭代过可以通过说明收敛标准和最大迭代次数来控制迭代过程。按程。按Options钮并输入想要的数值。如果系数变化的最大钮并输入想要的数值。如果系数变化的最大值低于阈值，值低于阈值，EViews报告估计过程已经收敛。例如，设定报告估计过程已经收敛。例如，设定阈值为阈值为0.001，则，则EViews会通过检查系数的最大变
43、化是不是会通过检查系数的最大变化是不是小于小于0.001来决定是否收敛。来决定是否收敛。在大多数情况下，不许改变最大迭代次数。然而，对在大多数情况下，不许改变最大迭代次数。然而，对于某些难于估计的模型，在最大迭代次数下迭代过程不收于某些难于估计的模型，在最大迭代次数下迭代过程不收敛。这时，只需单击敛。这时，只需单击Options钮，然后，增加最大迭代次数钮，然后，增加最大迭代次数并点并点OK接受选项接受选项，开始估计。，开始估计。EViews会使用最后一组参会使用最后一组参数值作为初始值进行估计。数值作为初始值进行估计。47 广义矩估计方法（广义矩估计方法（GMM）是基于模型实际参数满足）是基
44、于模型实际参数满足一些矩条件而形成的一种参数估计方法，是矩估计方法的一些矩条件而形成的一种参数估计方法，是矩估计方法的一般化。如果模型的设定是正确的，则总能找到该模型实一般化。如果模型的设定是正确的，则总能找到该模型实际参数满足的若干矩条件而采用际参数满足的若干矩条件而采用GMM方法。方法。GMM估计的估计的出发点是参数应满足的一种理论关系。其思想是选择参数出发点是参数应满足的一种理论关系。其思想是选择参数估计尽可能接近理论上的关系。把理论上的关系用样本近估计尽可能接近理论上的关系。把理论上的关系用样本近似值代替，并且估计量的选择就是要最小化理论值和实际似值代替，并且估计量的选择就是要最小化理
45、论值和实际值之间的加权距离。值之间的加权距离。48 由于传统的计量经济模型估计方法，例如普通最小二由于传统的计量经济模型估计方法，例如普通最小二乘法、工具变量法、极大似然法等，都有它们的局限性，乘法、工具变量法、极大似然法等，都有它们的局限性，其参数估计量必须在模型满足某些假设时才具有良好的性其参数估计量必须在模型满足某些假设时才具有良好的性质，如只有当模型的随机误差项服从正态分布或某一已知质，如只有当模型的随机误差项服从正态分布或某一已知分布，极大似然法估计量才是可靠的估计量；而分布，极大似然法估计量才是可靠的估计量；而GMM估估计是一个稳健估计量，因为它不要求扰动项的准确分布信计是一个稳健
46、估计量，因为它不要求扰动项的准确分布信息，允许随机误差项存在异方差和序列相关，所得到的参息，允许随机误差项存在异方差和序列相关，所得到的参数估计量比其他参数估计方法更合乎实际；而且可以证明，数估计量比其他参数估计方法更合乎实际；而且可以证明，GMM包容了许多常用的估计方法，普通最小二乘法、工包容了许多常用的估计方法，普通最小二乘法、工具变量法、极大似然法都是它的特例。具变量法、极大似然法都是它的特例。49 矩估计是基于实际参数满足一些矩条件而形成的一种矩估计是基于实际参数满足一些矩条件而形成的一种参数估计方法，如果随机变量参数估计方法，如果随机变量Yt的期望值是的期望值是，即，即 （4.4.1
47、）则则 是满足相应的样本矩条件，即是满足相应的样本矩条件，即 （4.4.2）0)(YE0)(11TityT50 现在，考虑一元古典线性回归模型中的假设条件：现在，考虑一元古典线性回归模型中的假设条件：（4.4.3）（4.4.4）其所对应的样本矩条件分别为其所对应的样本矩条件分别为 （4.4.5）这就是这就是OLS估计量的正规方程组。因此，估计量的正规方程组。因此，OLS估计量是估计量是一个矩法估计量。一个矩法估计量。0)(tuE0)(ttuxE0)(110)(1111011101TttttTtttTtttTttxbbyxTuxTxbbyTuT51 再比如二阶段普通最小二乘法中，假定解释变量与随
48、再比如二阶段普通最小二乘法中，假定解释变量与随机扰动项可能相关，找到一组与扰动项不相关的工具变量机扰动项可能相关，找到一组与扰动项不相关的工具变量Z，因而正规方程组发生变化，由因而正规方程组发生变化，由式（式（4.2.2）的矩条件：的矩条件：得到了式（得到了式（4.2.3）的参数估计量形式。）的参数估计量形式。因此许多标准估计量，包括所有因此许多标准估计量，包括所有EViews提供的系统估提供的系统估计量，都可以看作计量，都可以看作GMM估计量的特例。估计量的特例。0),cov(iiuzyZZZZXXZZZZXb111)()(TSLS52 参数要满足的理论关系通常是参数函数参数要满足的理论关系
49、通常是参数函数 f()与工具与工具变量变量zt t 之间的正则条件：之间的正则条件：0)(ZfE 是被估计参数是被估计参数 其中其中m()=f()Z,A是加权矩阵；任何对称正定矩阵是加权矩阵；任何对称正定矩阵A都是都是 的一致估计。然而，可以推出要得到的一致估计。然而，可以推出要得到。用函数表示为：用函数表示为：)()()(AmmQ53 下面考虑多元线性回归模型的下面考虑多元线性回归模型的GMM参数估计，假设回参数估计，假设回归方程为归方程为 t=1,2,T （4.3.9）其中：解释变量向量其中：解释变量向量 xt=(x1t，x2t，xkt)，参数向量，参数向量 =(1，2，k)，T 是样本个
50、数。对于是样本个数。对于 k 维单方程参数向量维单方程参数向量 的的GMM估计，由于解释变量向量估计，由于解释变量向量 xt 与随机扰动项与随机扰动项 ut 可能相可能相关，因此可以假设存在含有关，因此可以假设存在含有L(L k)个分量的工具变量向量个分量的工具变量向量 zt 与随机扰动项不相关（如果假设与随机扰动项不相关（如果假设 xt 与随机扰动不相关，与随机扰动不相关，zt 就就是是 xt），），t 时刻含有时刻含有 L 个变量的向量个变量的向量 zt 与与 ut满足满足 L 个正交的个正交的矩条件：矩条件：（4.4.10）其中：其中：zt=(z1t，z2t，zJt)是是L维向量维向量。
