(共25张PPT)
一元线性回归模型的应用
例 经验表明,一般树的胸径 (树的主干在地面以上1.3m处的直径)越大, 树就越高 . 由于测量树高比测量胸径困难,因此研究人员希望由胸径预测树高 . 在研究树高与胸径之间的关系时,某林场收集了某种树的一些数据如下表,试根据这些数据建立树高关于胸径的经验回归方程.
编号 1 2 3 4 5 6
胸径/cm 18.1 20.1 22.2 24.4 26.0 28.3
树高/m 18.8 19.2 21.0 21.0 22.1 22.1
编号 7 8 9 10 11 12
胸径/cm 29.6 32.4 33.7 35.7 38.3 40.2
树高/m 22.4 22.6 23.0 24.3 23.9 24.7
例 根据下面数据建立树高关于胸径的经验回归方程.
编号 1 2 3 4 5 6
胸径/cm 18.1 20.1 22.2 24.4 26.0 28.3
树高/m 18.8 19.2 21.0 21.0 22.1 22.1
编号 7 8 9 10 11 12
胸径/cm 29.6 32.4 33.7 35.7 38.3 40.2
树高/m 22.4 22.6 23.0 24.3 23.9 24.7
分析:因为要由胸径预测树高,所以要以成对样本数据的胸径为横坐标、树高为纵坐标描出散点,进而得到散点图,再根据散点图推断树高与胸径是否线性相关 . 如果是,再利用公式计算出,即可.
解: 以胸径为横坐标,树高为纵坐标作散点图如下:
在右图中,散点大致分布在一条从左下角到右上角的直线附近,表明两个变量线性相关,并且是正相关,因此可以用一元线性回归模型刻画树高与胸径之间的关系.
用d表示胸径 , h表示树高 , 根据据最小二乘法 , 计算可得经验回归方程为
相应的经验回归直线如图所示.
编号 胸径/cm 树高观测值/m 树高预测值/m 残差/m
1 18.1 18.8 19.4 -0.6
2 20.1 19.2 19.9 -0.7
3 22.2 21.0 20.4 0.6
4 24.4 21.0 20.9 0.1
5 26.0 22.1 21.3 0.8
6 28.3 22.1 21.9 0.2
7 29.6 22.4 22.2 0.2
8 32.4 22.6 22.9 -0.3
9 33.7 23.0 23.2 -0.2
10 35.7 24.3 23.7 0.6
11 38.3 23.9 24.4 -0.5
12 40.2 24.7 24.9 -0.2
根据经验回归方程,由胸径的数据可以计算出树高的预测值(精确到0.1)以及相应的残差,如下表所示.
以胸径为横坐标, 残差为纵坐标, 作残差图, 得到下图.
观察残差表和残差图,可以看到,残差的绝对值最大是0.8,所有残差分布在以横轴为对称轴、宽度小于2的带状区域内 . 可见经验回归方程较好地刻画了树高与胸径的关系,我们可以根据经验回归方程由胸径预测树高.
编号 1 2 3 4 5 6 7 8
年份 1896 1912 1921 1930 1936 1956 1960 1968
记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95
问题 人们常将男子短跑100m的高水平运动员称为百米飞人 . 下表给出了1968年之前男子短跑100m世界纪录产生的年份和世界纪录的数据 . 试依据这些成对数据, 建立男子短跑100m世界纪录关于纪录产生年份的经验回归方程.
以成对数据中的世界纪录产生年份为横坐标 , 世界纪录为纵坐标作散点图 , 得到下图.
在上图中,散点看上去大致分布在一条直线附近,似乎可用一元线性回归模型建立经验回归方程.
用Y表示男子短跑100m的世界纪录 , t表示纪录产生的年份 , 利用一元线性回归模型来刻画世界纪录和世界纪录产生年份之间的关系 .
根据最小二乘法 , 由表中的数据得到经验回归方程为:
将经验回归直线叠加到散点图,得到下图:
观察! 从图中可以看到 , 经验回归方程较好地刻画了散点的变化趋 , 请再仔细观察图形 , 你能看出其中存在的问题吗
以经验回归直线为参照,可以发现经验回归方程的不足之处,以及散点的更为精细的分布特征.
例如,第一个世界纪录所对应的散点远离经验回归直线,并且前后两时间段中的散点都在经验回归直线的上方,中间时间段的散点都在经验回归直线的下方.
这说明散点并不是随机分布在经验回归直线的周围,而是围绕着经验回归直线有一定的变化规律,即成对样本数据呈现出明显的非线性相关的特征.
思考 你能对模型进行修改, 以使其更好地反映散点的分布特征吗
仔细观察右图, 可以发现散点更趋向于落在中间下凸且递减的某条曲线附近.
回顾已有的函数知识,可以发现函数y=-lnx的图象具有类似的形状特征.
注意到100m短跑的第一个世界纪录产生于1896年 , 因此可以认为散点是集中在曲线y=f(t)=c1+c2ln(t-1895)的周围,其中c1、c2为未知参数,且c2<0.
散点集中在曲线y=f(t)=c1+c2ln(t-1895)的周围,其中c1、c2为未知参数,且c2<0.
用上述函数刻画数据变化的趋势,这是一个非线性经验回归函数,其中c1 , c2是待定的参数 ,现在问题转化为如何利用成对数据估计参数c1和c2.
为了利用一元线性回归模型估计参数c1和c2 ,我们引进一个中间变量x,令x=ln(t-1895),通过x=ln(t-1895) ,将年份变量数据进行变换,得到新的成对数据,如下表.
编号 1 2 3 4 5 6 7 8
年份/t 1896 1912 1921 1930 1936 1956 1960 1968
x 0.00 2.83 3.26 3.56 3.71 4.11 4.17 4.29
记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95
如果上表对应的散点图呈现出很强的线性相关特征,我们就可以借助一元线性回归模型和新的成对数据,对参数c1 和 c2作出估计,进而可以得到Y关于t的非线性经验回归方程.
令x=ln(t-1895) , 则Y=c2 x+c1 .
在直角坐标系中画出上表中成对数据的散点图,如下图所示,散点分布呈现出很强的线性相关特征.
因此,用一元线性回归模型
拟合上表中的数据,得到经验回归方程
在上图中画出经验回归直线,如图所示.
上图表明 , 经验回归方程对于上表中的成对数据具有非常好的拟合精度 . 将两个回归直线进行对比, 可以发现x和Y之间的线性相关程度比原始样本数据的线性相关程度强得多.
将x=ln(t-1895)代入
得到由创纪录年份预报世界纪录的经验回归方程.
在同一坐标系中画出成对数据散点图、非线性经验回归方程②的图像(蓝色)以及经验回归方程①的图像(红色),如图所示.
②
我们发现,散点图中各散点都非常靠近②的图像, 表明非线性经验回归方程②对于原始数据的拟合效果远远好于经验回归方程①.
下面通过残差来比较这两个经验回归方程对数据刻画
的好坏 . 用ti表示编号为i的年份数据,用yi表示编号为i的记录数据,则经验回归方程①和②的残差计算公式分别为
观察各项残差的绝对值,发现经验回归方程②远远小于①,即经验回归方程②的拟合效果要远远好于①.
编号 1 2 3 4 5 6 7 8
t 1896 1912 1921 1930 1936 1956 1960 1968
0.591 -0.284 -0.301 -0.218 -0.196 0.111 0.092 0.205
-0.001 0.007 -0.012 0.015 -0.018 0.052 -0.021 -0.022
两个经验回归方程的残差(精确到0.001)如下表所示.
在一般情况下,直接比较两个模型的残差比较困难,因为在某些散点上一个模型的残差的绝对值比另一个模型小,而另一些散点的情况则相反. 可以通过比较残差的平方和来比较两个模型的效果. 由
可知Q2小于Q1,因此在残差平方和最小的标准下,非线性回归模型
的拟合效果要优于一元线性回归模型的拟合效果.
也可以用决定系数R2来比较两个模型的拟合效果.
R2的计算公式为
在R2的表达式中,
与经验
回归方程无关;
残差平方和
与经验
回归方程有关.
因此R2越大,表示残差平方和越小,即模型的拟合效果越好,R2越小,表示残差平方和越大,即模型拟合效果越差.
容易算出经验回归方程①和②的R2分别约为0.7325和0.9983,因此,经验回归方程②的刻画效果比经验回归方程①的好得多.
另外,我们还可以用新的观测数据来检验模型的拟合效果. 事实上,我们还有1968年之后的男子短跑100m世界纪录数据,如下表所示.
编号 9 10 11 12 13 14 15
t 1983 1988 1991 1991 1994 1996 1999
Y/s 9.93 9.92 9.90 9.86 9.85 9.84 9.79
编号 16 17 18 19 20 21
t 2002 2005 2007 2008 2008 2009
Y/s 9.78 9.77 9.74 9.72 9.69 9.58
在散点图中继续绘制上表中的散点(绿色),再添加经验回归方程①所对应的经验回归直线,以及经验回归方程②所对应的经验回归曲线,得到下图.
显然绿色散点分布在蓝色经验回归曲线的附近,远离红色经验回归直线,表明经验回归方程②对于新数据的预报效果远远好于①.
思考 在上述问题情境中,男子短跑100m世界纪录和纪录产生年份之间呈现出对数关系,能借助样本相关系数刻画这种关系的强弱吗
在使用经验回归方程进行预测时 , 需注意以下问题:
1.回归方程只适用于我们所研究的样本的总体 . 例如,根据我国父亲身高与儿子身高数据建立的经验回归方程, 不能用来描述美国父亲身高与儿子身高之间关系. 同样,根据生长在南方多雨地区的树高与胸径的数据建立的经验回归方程,不能用来描述北方干旱地区的树高与胸径之间的关系.
3. 解释变量的取值不能离样本数据的范围太远. 一般解释变量的取值在样本范围内,经验回归方程的预报效果会比较好,超出这个范围越远,预报效果越差.
4.不能期望经验回归方程得到的预报值就是响应变量的精确值 . 事实上 , 它是响应变量的可取值的平均值.
2.经验回归回归方程一般都有时间性 . 例如,根据20世纪80年代父亲身高与儿子身高数据建立的经验回归方程, 不能用来描述现在的父亲身高与儿子身高之间关系.
归纳小结
1.残差平方和:
2.最小二乘法
将 称为Y 关于x 的经验回归方程.
3.判断模型拟合的效果: 残差分析
R2越大,模型的拟合效果越好,
R2越小,模型拟合效果越差.