21计量经济学模型的最大似然估计课件.ppt

1、2.1 2.1 计量经济学模型的最大似然估计计量经济学模型的最大似然估计 一、单方程模型的最大似然估计一、单方程模型的最大似然估计二、因变量的参数变换二、因变量的参数变换三、异方差性的非线性方法三、异方差性的非线性方法四、序列相关性的非线性方法四、序列相关性的非线性方法五、条件异方差性的非线性方法五、条件异方差性的非线性方法说明说明 计量经济学模型的计量经济学模型的3 3类估计方法类估计方法LSLSMLMLMMMM 本科教学内容本科教学内容LSLS 非经典模型的估计非经典模型的估计MLML、GMMGMM 教材教材3.13.1、5.55.5节节参数模型（非参数模型的权函数估计、级数估计等）基于样

2、本信息（综合样本信息和先验信息的贝叶斯估计）均值回归模型（分位数回归，Quantile Regression,QREG）一、单方程模型的最大似然估计一、单方程模型的最大似然估计经典线性单方程模型的经典线性单方程模型的最大似然估计最大似然估计yxxxiiikkii 01122i=1,2,n 2(,)iYNiX 2(0,)iN)()(21)(212122222211022)2(1)2(1),(),(XYXYeeYYYPLnXXXYnnnkikiiin参数估计结果与参数的参数估计结果与参数的OLSOLS估计相同估计相同*2()1(2)()()2MaxLLn LnLn YXYX()()MinYXYXY

3、XXX1)(简单非线性单方程模型的简单非线性单方程模型的最大似然估计最大似然估计yf xiii(,)i=1,2,n2(0,)iN),(2XifNYi222),(21212)2(1),(),(iinXfYnneYYYPL 面临面临NLSNLS同样的过程，得到相同的估计结果同样的过程，得到相同的估计结果。22*),(21)2()(iiXfYnLnLLnMaxL2),(iiXfYMin3.3.一般非线性模型的一般非线性模型的MLML估计估计 以上是一般非线性模型的完整描述。以上是一般非线性模型的完整描述。iiiuxgyh),(),(ni,1),0(),(21INuunkiiiixxxx21随机项满足

4、随机项满足经典假设经典假设 模型参数的一种估计方法是最小二乘法模型参数的一种估计方法是最小二乘法，即最小，即最小化化 2),(),(),(iiixgyhS 模型参数的另一种估计方法是最大似然法。得模型参数的另一种估计方法是最大似然法。得到广泛应用。到广泛应用。最大似然估计最大似然估计 yi的密度函数的密度函数222/122),(),(exp)2(iiiixgyhyuiiiiiiJyyhyuyJ),(),(雅可比行列式雅可比行列式雅可比行列式雅可比行列式正态分布密度函数正态分布密度函数222/122),(exp)2(iixgyiiiuxgy),(因变量样本的对数似然函数为：因变量样本的对数似然函

5、数为：iiyJnnL),(lnln22ln2ln2iiixgyh22),(),(21 很明显很明显若没有雅可比行列式项，参数的非线性最若没有雅可比行列式项，参数的非线性最小二乘估计将是最大似然估计小二乘估计将是最大似然估计；但是，如果雅可比；但是，如果雅可比行列式包括行列式包括，最小二乘法不是最大似然法。，最小二乘法不是最大似然法。最大化对数似然函数的一阶条件为：最大化对数似然函数的一阶条件为：0),(1ln2iiixguL0),(11ln2iiiiiiyhuJJL0212ln2422iiunL 一般是得到中心化对数似然函数，然后最大化一般是得到中心化对数似然函数，然后最大化 iiiicunn

6、nyJL21ln2)2ln(1 2),(lnln 如果变换的雅可比行列式是如果变换的雅可比行列式是1，则不存在因变量，则不存在因变量的参数变换；如果变换的雅可比行列式包含的参数变换；如果变换的雅可比行列式包含，则，则称为因变量的参数变换模型。称为因变量的参数变换模型。iiun221二、二、因变量的参数变换因变量的参数变换 Box-Cox Box-Cox变换变换 一种将变量之间的非线性关系变换为线性关系的一种将变量之间的非线性关系变换为线性关系的方法。方法。Box和和Cox（1964）提出的变换关系：）提出的变换关系：1)(xx要求变量要求变量x为正值。为正值。取值可以是整个实数域但多数应用有取

7、值可以是整个实数域但多数应用有意义的取值范围为意义的取值范围为-2，2。当当=2，是二次变换；当，是二次变换；当=0.5，是平方根变换；当，是平方根变换；当=1，是线性变换；当是线性变换；当=-1，是倒数变换；当，是倒数变换；当=0，是对数变换。，是对数变换。例如：例如：2221102xxy)2(22)1(110)2(xxy21112122)2(21)1(12)2(xxxxyyxyln10)0(10)1(xy 如果已知被解释变量和解释变量各自进行何种如果已知被解释变量和解释变量各自进行何种的的B-C变换，可以先变换，然后估计线性模型。变换，可以先变换，然后估计线性模型。一般情况下，何种一般情况

8、下，何种未知，作为一组参数引入模未知，作为一组参数引入模型，对变换后的模型进行非线性模型估计，同时型，对变换后的模型进行非线性模型估计，同时得到得到和和的估计量。的估计量。许多应用软件，例如许多应用软件，例如GAUSS、SAS可以实现。可以实现。这就引出了这就引出了B-C变换的更重要的价值：变换的更重要的价值：如果不知如果不知道被解释变量和解释变量之间存在何种形式的函道被解释变量和解释变量之间存在何种形式的函数关系，可以通过数关系，可以通过“B-C变换非线性模型估计变换非线性模型估计”确定函数关系。确定函数关系。Box-Cox Box-Cox非线性回归模型的参数估计非线性回归模型的参数估计 模

9、型中被解释变量样本的对数似然函数为：模型中被解释变量样本的对数似然函数为：)(),()()(110)(10kkikiiiiixxyxyfu),0(),(21INuuunniiyuunxyL10222ln)1()/(21)ln()2ln(21),|,(ln 中心化对数似然函数：中心化对数似然函数：niicyuunnnxyL10ln)1()ln(21ln)2ln(1 21),|,(ln)ln(21lnln)2ln(1 211uunynnnii)/(/01nnyyuu响应系数和弹性系数为：110/ijijijijiiyxyfxfxyj 示例：示例：假定被解释变量假定被解释变量y与解释变量与解释变量x

10、和和z之间的关系为：之间的关系为：vzxy)(3)(21)(321 施加施加相同约束的估计结果相同约束的估计结果真值：1=2，2=1，3=1，=1 未施加未施加相同约束的估计结果相同约束的估计结果为什么结果很差？三、异方差性的非线性方法三、异方差性的非线性方法思路思路 将异方差问题看成一类非线性问题，采用将异方差问题看成一类非线性问题，采用NML估估计，比较简单，可以同时得到参数估计量和反映计，比较简单，可以同时得到参数估计量和反映异方差特征的量。异方差特征的量。iiiuxyf),(ni,1)(,0(),(21NuuUn 被解释变量样本的对数似然函数为：被解释变量样本的对数似然函数为：)ln(

11、)2ln(21),|,(ln22nxyLniiiyuUU121|)ln(|/21|)ln(|21)ln()2ln(1 21),|,(lnnnxyLcniiiyuUUn11|)ln(|)ln(21|)ln(|21 对异方差的结构给出假定，可以对模型的参数和对异方差的结构给出假定，可以对模型的参数和异方差的结构参数进行最大似然估计。异方差的结构参数进行最大似然估计。针对不同的问题假定不同的异方差结构；针对同针对不同的问题假定不同的异方差结构；针对同一个问题假定不同的异方差结构，进行估计和比一个问题假定不同的异方差结构，进行估计和比较。较。典型的异方差结构及其对应的对数似然函数，见典型的异方差结构及

12、其对应的对数似然函数，见教材。教材。),0(2iiNu)(22iih例题例题州 开支 收入 州 开支 收入 州 开支 收入 AL 275 6247 AK 821 10851 AZ 339 7374 AR 275 6183 CA 387 8850 CO 452 8001 CT 531 8914 DE 424 8604 DC 428 10022 FL 316 7505 GA 265 6700 HI 403 8380 ID 304 6813 IL 437 8745 IN 345 7696 IA 431 7873 KS 355 8001 KY 260 6615 LA 316 6640 ME 327 6

13、333 MD 427 8306 MA 427 8063 MI 466 8442 MN 477 7847 uXXY2210MS 259 5736 MO 274 7342 MT 433 7051 NB 294 7391 NV 359 9032 NH 279 7277 NJ 423 8818 NM 388 6505 NY 447 8267 NC 335 6607 ND 311 7478 OH 322 7812 OK 320 6951 OR 397 7839 PA 412 7733 RI 342 7526 SC 315 6242 SD 321 6841 TN 268 6489 TX 315 7697

14、UT 417 6622 VT 353 6541 VA 356 7624 WA 415 8450 WV 320 6456 WI NA 7597 WY 500 9096 Coefficient Std.Error z-Statistic Prob.C 832.9144 327.2925 2.544862 0.0109 X-0.183420 0.082899-2.212588 0.0269 X2 1.59E-05 5.19E-06 3.057433 0.0022 Variable Coefficient Std.Error t-Statistic Prob.C 832.9144 327.2925 2

15、.544862 0.0143 X-0.183420 0.082899-2.212588 0.0318 X2 1.59E-05 5.19E-06 3.057433 0.0037 OLSML22iiX22exp()iiX 线性模型，截面样本，一般存在异方差。线性模型，截面样本，一般存在异方差。采用非线性最大似然法估计，可以得到关于异方采用非线性最大似然法估计，可以得到关于异方差结构的估计结果。差结构的估计结果。在某些情况下，得到异方差结构的估计结果比模在某些情况下，得到异方差结构的估计结果比模型参数估计量更重要。型参数估计量更重要。这就是异方差性的非线性方法的意义所在。这就是异方差性的非线性方法的

16、意义所在。四、序列相关性的非线性方法四、序列相关性的非线性方法 见教材见教材 首先假定模型随机误差项的序列相关结构。一般首先假定模型随机误差项的序列相关结构。一般以以AR(1)、MA(1)、ARMA(1,1)为常见。为常见。求出随机误差项对被解释变量的偏导数表达式。求出随机误差项对被解释变量的偏导数表达式。构造最大似然函数。构造最大似然函数。同时得到模型参数和随机误差项的序列相关结构同时得到模型参数和随机误差项的序列相关结构的估计结果。的估计结果。五、条件异方差性的非线性方法五、条件异方差性的非线性方法ARCHAuto Regressive Conditional Hoteroskedasti

17、city 条件异方差现象条件异方差现象 通常横截面数据问题会产生异方差，而一般时间通常横截面数据问题会产生异方差，而一般时间序列问题没有异方差现象。序列问题没有异方差现象。如果时间序列数据问题出现异方差，经常以条件如果时间序列数据问题出现异方差，经常以条件异方差形式。异方差形式。所谓条件异方差，实际上是指所谓条件异方差，实际上是指“异方差异方差”的的“异异”具有序列相关性。具有序列相关性。Engle于于1982年分析英国通货膨胀率时首先发现年分析英国通货膨胀率时首先发现条件异方差现象。条件异方差现象。被广泛应用于金融市场时间序列分析。被广泛应用于金融市场时间序列分析。Engle,R.F.:19

18、82,Autoregressive Conditional Heteroskedasticity With Estimates of the Variance of U.K.Inflation,Econometrica 50:987-1008.The application in Engle(1982)involved macroeconomic series such as the inflation rate,but Engle quickly realized that the ARCH model was useful in financial economics,as well.Ri

19、sk evaluation is at the core of activities on financial markets.Investors assess expected returns of an asset against its risk.Banks and other financial institutions would like to ensure that the value of their assets does not fall below some minimum level that would expose the bank to insolvency.Su

20、ch evaluations cannot be made without measuring the volatility of asset returns.Robert Engle developed improved methods for carrying out these kinds of evaluations.Percentage daily returns on an investment in the Standard&Poor 500 stock index May 16,1995April 29,2003.The returns averaged 5.3 percent

21、 per year.At the same time there were days,when the fluctuations in prices were greater(plus or minus)than 5 percent.The standard deviation in daily returns measured over the entire period was 1.2 percent.Closer inspection reveals,however,that the volatility varies over time:large changes(upwards or

22、 downwards)are often followed by further large fluctuations,and small changes tend to be followed by small fluctuations.Standard deviation for percentage daily returns on an investment in the Standard&Poor 500 stock index,May 16,1995April 29,2003,computed from data for the four preceding weeks.Many

23、financial time series are characterized by similar time variation in volatility.Many financial economists are concerned with modeling volatility in asset returns.ARCH ARCH（q q）模型）模型),(tttxyfu),0(|1ttthNuqiitituh12020)(tuB具有异方差性异方差是有规律的：自回归 设样本有设样本有n个观察个数，则对数似然函数为：个观察个数，则对数似然函数为：TtttTtthuhTxyL121)/(2

24、1)ln(21)2ln(21),|,(lnTtttyu1ln 模型估计的困难：长记忆下的高阶滞后。模型估计的困难：长记忆下的高阶滞后。GARCHGARCH（p,qp,q）模型）模型),0(|1ttthNupiitiqiitithuh1120TtttTtthuhTxyL121)/(21)ln(21)2ln(21),|,(lnTtttyu1ln Bollerslev,T.:1986,Generalized autoregressive conditional heteroskedasticity,Journal of Econometrics 31,307-327 The best-known e

25、xtension is the generalized ARCH model(GARCH)developed by Tim Bollerslev in 1986.Here,the variance of the random error in a certain period depends not only on previous errors,but also on the variance itself in earlier periods.This development has turned out to be very useful;GARCH is the model most

26、often applied today.Taylor(1986)suggested p=q=1,the most popular ARCH model in practice.ARCH-M(qARCH-M(q）模型）模型 iiiittthxyhxyfu),(),0(|1ttthNuqiitituh120TtttTtthuhTxyL121)/(21)ln(21)2ln(21),|,(ln为什么比ARCH少1项？1ttyu GARCH-M(p,q GARCH-M(p,q）模型）模型 iiiittthxyhxyfu),(),0(|1ttthNupiitiqiitithuh1120TtttTtthuhTxyL121)/(21)ln(21)2ln(21),|,(ln