一元线性回归分析课件.ppt

1、数学模型与数学建模之数学模型与数学建模之于晶贤E-mail:一元线性回归分析回归分析的几个任务回归分析的几个任务（1 1）从一组样本数据出发，确定变量之间的数学关系式；）从一组样本数据出发，确定变量之间的数学关系式；（2 2）对这些关系式的可信程度进行各种统计检验，并从影响）对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著；些不显著；（3 3）利用所求的关系式，根据一个或几个变量的取值来预测）利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制

2、的或控制另一个特定变量的取值，并给出这种预测或控制的精确程度；精确程度；回归分析回归分析多元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线性线性回归回归非线性非线性回归回归回归分析的分类回归分析的分类一元线性回归模型一元线性回归模型一一 总总体体回回归归函函数数是是随随机机误误差差项项，又又称称随随机机干干扰扰项项，它它是是一一个个特特殊殊的的随随机机变变量量，反反映映未未列列入入方方程程式式的的其其他他各各种种因因素素对对 的的影影响响。01()ttttYXuuY二二 样样本本回回归归函函数数(称称为为残残差差，与与总总体体的的误误差差项项 对对应应，为为样样本本的的容容

3、量量。01()1,2,3,)ttttttYXtneYYun样本回归函数与总体回归函数区别样本回归函数与总体回归函数区别1、总体回归线是未知的，只有一条。样本回归线是根据样本数、总体回归线是未知的，只有一条。样本回归线是根据样本数据拟合的，每抽取一组样本，便可以拟合一条样本回归线。据拟合的，每抽取一组样本，便可以拟合一条样本回归线。2、总体回归函数中的、总体回归函数中的0和和1是未知的参数，表现为常数。而样是未知的参数，表现为常数。而样本回归函数中的本回归函数中的 是随机变量，其具体数值随所抽取是随机变量，其具体数值随所抽取的样本观测值不同而变动。的样本观测值不同而变动。3、总体回归函数中的、总

4、体回归函数中的ut是是t与未知的总体回归线之间的纵向距与未知的总体回归线之间的纵向距离，它是离，它是不可直接观测不可直接观测的。而样本回归函数中的的。而样本回归函数中的t 是是t与与样本回归线之间的纵向距离，当根据样本观测值拟合出样本样本回归线之间的纵向距离，当根据样本观测值拟合出样本回归线之后，可以计算出回归线之后，可以计算出t 的具体数值。的具体数值。和和01 误差项的基本标准假定误差项的基本标准假定22(1)(0,),(1,2,3,)()0,().tttuNtnE uVar u (2)()0,(,1,2,3,;)tsCov u ut sn ts由由上上知知：01()ttE YXXYtY

5、。ut 0101()()ttE YX01ttYX参数参数 0和和 1的点估计的点估计最小二乘法：最小二乘法：通过使得残差平方和通过使得残差平方和（各样本点与拟合直（各样本点与拟合直线的纵向距离的平方线的纵向距离的平方和）为最小来估计回和）为最小来估计回归系数的一种方法。归系数的一种方法。1X2XtXnX1Y2YtYnY残残差差平平方方和和：22201111()()nnnttttttttQeYYYX0100QQ 0110112()02()0ntttnttttYXX YX 0111201111nnttttnnntttttttnXYXXX Y 11111222111()()()nnnnttttttt

6、tttnnnttttttnX YXYXX YYXXnXX 11101nnttttYXYXnn 是是两两个个随随机机变变量量，当当得得到到一一组组样样本本观观察察值值时时，它它们们就就是是两两个个常常数数，样样本本的的观观察察值值不不同同，它它们们的的取取值值一一般般也也不不同同。01,食品序号食品序号脂肪脂肪X Xt t热量热量Y Yt tX Xt t平方平方Y Yt t平方平方X Xt tY Yt t1 14 4110110161612100121004404402 26 6120120363614400144007207203 36 6120120363614400144007207204

7、 48 816416464642689626896131213125 51919430430361361184900184900817081706 611111921921211213686436864211221127 712121751751441443062530625210021008 812122362361441445569655696283228329 9262642942967667618404118404111154111541010212131831844144110112410112466786678111111112492491211216200162001273927

8、39121216162812812562567896178961449644961313141416016019619625600256002240224014149 9147147818121609216091323132315159 9210210818144100441001890189016165 512012025251440014400600600求和求和18918934613461279927999077179077174952649526例例11112211216 49562189346115.2584162799189nnntttttttnnttttnX YXYnXX 111

9、0136.0725nnttttYXYXnn 36.072515.2584ttYX总体方差总体方差2 2估计估计2212ntteSn 即即是是的的无无偏偏估估计计2222().E SS 利利用用最最小小二二乘乘法法计计算算出出的的和和，可可以以得得到到残残差差平平方方和和的的另另一一个个计计算算公公式式：012220111111()nnnnntttttttttttteYYYYX Y最小二乘估计的性质最小二乘估计的性质即即和和分分别别为为和和的的无无偏偏估估计计00110101(),(),EE（02220211()nttXVarnXX （122121()nttVarXX 根据误差项的基本标准假定根

10、据误差项的基本标准假定22(1)(0,),(1,2,3,)()0,().(2)()0,(,1,2,3,;)ttttsuNtnE uVar uCov u ut sn ts 可以证明可以证明01220011(,),(,)NN 参数参数 0 0和和 1 1的区间估计的区间估计010011(0,1),(0,1)NN 和和中中未未知知，所所以以想想用用代代替替，有有0122222S00222(2)(2)nSn 11222(2)(2)nSn （0222211)nttXSSnXX （12221)nttSSXX 所所以以根根据据 分分布布的的定定义义，有有t010011(2),(2)t nt nSS 进进而而

11、得得出出了了的的置置信信水水平平为为-区区间间估估计计为为01002(2)tnS 112(2)tnS 的的置置信信水水平平为为-区区间间估估计计为为11回归分析的回归分析的ExcelExcel实现实现“工具工具”-“数据分析数据分析”-“-“回归回归”0 1 0S 1S 002(2)tnS 112(2)tnS 一元线性回归模型的检验一元线性回归模型的检验回归模型的检验包括：理论意义的检验、一级检验、二级检验。回归模型的检验包括：理论意义的检验、一级检验、二级检验。(1)理论意义检验：理论意义检验：主要检查参数估计值的符号和取值区间的合主要检查参数估计值的符号和取值区间的合理性，如果它们与实质性

12、科学的理论以及人们的实践经验不相理性，如果它们与实质性科学的理论以及人们的实践经验不相符，则说明模型不能很好地解释现实的现象。符，则说明模型不能很好地解释现实的现象。(2)一级检验：一级检验：又称为统计学检验，具体分为拟合程度评价和显又称为统计学检验，具体分为拟合程度评价和显著性检验（回归方程的显著性检验和回归方程中参数的显著性著性检验（回归方程的显著性检验和回归方程中参数的显著性检验）。检验）。(3)二级检验：二级检验：对标准线性回归模型的假定条件能否满足进行检对标准线性回归模型的假定条件能否满足进行检验，主要包括：序列相关检验、异方差检验、多重共线性检验验，主要包括：序列相关检验、异方差检

13、验、多重共线性检验等。等。拟合程度评价拟合程度评价拟合程度是指样本观测值聚集在样本回归线周围的紧拟合程度是指样本观测值聚集在样本回归线周围的紧 密程度密程度.()()()ttttYYYYYY222111()()()nnnttttttYYYYYY总总离离差差平平方方和和，记记为为回回归归平平方方和和，记记为为残残差差平平法法和和，即即,记记为为21212211():;():;():;nttnttnntttttYYSSTYYSSRYYeSSE SSTSSRSSE决决定定系系数数21SSRSSErSSTSST决定系数越大，模型拟合程度越好；决定系数越小，决定系数越大，模型拟合程度越好；决定系数越小，

14、模型拟合程度越差；模型拟合程度越差；修修正正自自由由度度的的决决定定系系数数2/(2)1/(1)SSEnRSSTn 对于一元线性回归分析，决定系数就是两变量之间对于一元线性回归分析，决定系数就是两变量之间相关系数的平方。相关系数的平方。r2r2R2Sn回归方程的显著性检验回归方程的显著性检验可可以以证证明明：2222(1),(2)SSRSSEn 一一元元线线性性回回归归分分析析的的方方差差分分析析表表离差名称离差名称平方和平方和自由度自由度均方差均方差F回归平方和回归平方和SSR1SSR/1残差平方和残差平方和SSEn-2SSE/n-2总离差平方和总离差平方和SSTn-1所所以以/1(1,2)

15、/2SSRFFnSSE n/1/2SSRSSE n 如如果果回回归归方方程程显显著著，意意味味着着应应该该比比较较小小,所所以以值值应应该该比比较较大大，所所以以当当时时，拒拒绝绝原原假假设设，认认为为回回归归方方程程显显著著(为为显显著著性性水水平平）。(1,2)SSEFFFn 回回归归方方程程不不显显著著,回回归归方方程程显显著著01:HHP值是由检验统计量的样本观察值得出的原假设可被值是由检验统计量的样本观察值得出的原假设可被拒绝的最小显著性水平。拒绝的最小显著性水平。P值越小值越小(P值小于显著性水平值小于显著性水平)，越拒绝原假设。，越拒绝原假设。回回归归方方程程不不显显著著,回回归

16、归方方程程显显著著01(1):HH给给定定显显著著性性水水平平(2).（）检检验验统统计计量量/13(1,2)/2SSRFFnSSE n 拒拒绝绝域域(4)(1,2)FFn 判判断断是是否否拒拒绝绝原原假假设设(5)也也可可以以用用P P值值检检验验回归方程的显著性检验过程回归方程的显著性检验过程参数的显著性检验参数的显著性检验提提出出假假设设：0111(1):0,:0HH给给定定显显著著性性水水平平(2).（）检检验验统统计计量量=1103(2)tt nS 拒拒绝绝域域|2(4)(2)ttn 也也可可以以用用P P值值检检验验判判断断是是否否拒拒绝绝原原假假设设(5)此此检检验验是是双双侧侧

17、检检验验，当当然然也也可可以以做做单单侧侧检检验验，修修改改一一下下拒拒绝绝域域即即可可。P P值值很很小小，拒拒绝绝原原假假设设，认认为为显显著著异异于于.10 检检验验统统计计量量的的值值一元线性回归模型的预测一元线性回归模型的预测回回归归预预测测的的基基本本公公式式：01ffYX预预测测误误差差：()0fE e 01010011()()()()ffffffffeYYXuXXu由由回回归归系系数数的的期期望望与与方方差差，有有2221()1()1()ffnttXXVar enXX 在在标标准准假假设设条条件件下下，(0,()ffeNVar e区区间间预预测测：其其中中：221()11()f

18、fenttXXSSnXX 可可以以证证明明：(2)fffeYYt nS 的的置置信信水水平平为为1-1-的的置置信信区区间间为为2(-2)ffefYtnYS 续例：假定一种新型点心中含有续例：假定一种新型点心中含有10克脂肪，利用样本克脂肪，利用样本的回归方程和相关数据，计算置信度为的回归方程和相关数据，计算置信度为95%的热量的的热量的预测区间预测区间.预预测测值值为为：36.072515.2584188.6565ftYX置置信信度度：1-=1-=95%0.0544.0632S 221()1145.543()ffenttXXSSnXX 所所求求置置信信区区间间为为：(188.656597.6

19、806)回归分析的回归分析的SPSS实现实现“Analyze-Regression-Linear”练习：练习：某国营农场在试验田上研究耕种深度对水稻产量的关系，所得某国营农场在试验田上研究耕种深度对水稻产量的关系，所得资料如下表。要求资料如下表。要求:(1)(1)试求水稻产量与耕种深度的直线回归方程；试求水稻产量与耕种深度的直线回归方程；(2)(2)计算相关系数；计算相关系数；(3)(3)在显著性水平在显著性水平=0.05=0.05时，对回归方程进行显著性检验；时，对回归方程进行显著性检验；(4)(4)计算估计标准误差；计算估计标准误差；(5)(5)若耕种深度为若耕种深度为1717厘米，在厘米

20、，在95%95%的概率保证下，试推算水稻产的概率保证下，试推算水稻产量的区间范围。量的区间范围。耕种深度（厘米）耕种深度（厘米）81012141618公顷产量（吨）公顷产量（吨）6.07.57.89.210.812.066611112662116(1)0.596tttttttttttX YXYXX 66111011.213366ttttYXYX 直直线线回回归归方方程程：1.21330.59ttYX （）61662211()20.9895tttttttXXYYrXXYY 离差名称离差名称平方和平方和 自由度自由度均方差均方差F回归平方和回归平方和24.37124.37187.46残差平方和残差

21、平方和0.5240.13总离差平方和总离差平方和24.895（）3由由于于所所以以认认为为回回归归方方程程是是显显著著的的。0.05187.46(1,4)7.71,FF6622211()(4)0.366262ttttteYYSS(5)1.21330.59 1711.2433fY 2621()110.42526()ffettXXSSXX 所所求求置置信信区区间间为为：即即.2.2(11.24332.7764 0.4252),(114331.1805)作业：作业：(要求有过程）要求有过程）为了研究旅行社广告费用对销售额的影响，收集到为了研究旅行社广告费用对销售额的影响，收集到7 7家旅行社家旅行社

22、的销售额与广告费用的数据如下表。要求的销售额与广告费用的数据如下表。要求:(1)(1)试求广告费用与销售额的直线回归方程；试求广告费用与销售额的直线回归方程；(2)(2)计算相关系数；计算相关系数；(3)(3)在显著性水平在显著性水平=0.05=0.05时，对回归方程进行显著性检验；时，对回归方程进行显著性检验；(4)(4)计算估计标准误差计算估计标准误差;(5)(5)若广告费用为若广告费用为45004500，在，在95%95%的概率保证下，试销售额的区的概率保证下，试销售额的区间范围。间范围。用到的分位点查用到的分位点查概率论与数理统计概率论与数理统计教材教材广告费用广告费用2000200050003000900080007000销售额销售额15000 30000 30000 25000 55000 45000 60000谢谢 谢谢 大大 家家