回归分析的基本思想及其初步应用
------------必修三内容回顾------------
如:正方形的面积y与正方形的边长x之间的
函数关系是
y = x2
确定性关系
如:某水田水稻产量y与施肥量x之间没有一个确定性的关系
在 7 块并排、形状大小相同的试验田上 进行施肥量对水稻产量影响的试验,得到如下所示的一组数据:
施化肥量x 15 20 25 30 35 40 45
水稻产量y 330 345 365 405 445 450 455
1、变量之间的两种关系---函数关系和相关关系
自变量取值一定时,因变量的取值带有一定随机性的两个变量之间的关系叫做相关关系。
相关关系是一种不确定性关系;
例、下列各组变量中,不是相关关系的是( )
A.销售人员工作年限与销售额大小
B.圆的周长与它的半径
C.光照时间与果树的亩产量
D.数学成绩与物理成绩
B
正相关
负相关
2、散点图
3、回归直线方程
称为样本点的中心。
性质:回归直线过样本点的中心
1、计算 ;
2、计算未知参数 ;
3、写出线性回归方程
4、求线性回归直线方程的步骤
统计检验通过后,最后是利用回归模型,根据自变量去估计、预测因变量。
回归分析通过一个变量或一些变量的变化解释另一变量的变化。
其主要内容和步骤是:
首先根据理论和对问题的分析判断,将变量分为自变量和因变量;
其次,设法找出合适的数学方程式(即回归模型)描述变量间的关系;
由于涉及到的变量具有不确定性,接着还要对回归模型进行统计检验;
5、回归分析的内容和步骤
例、下表是某小卖部6天卖出热茶的杯数(y)与当天气温(x)的对比表:
(1)试用最小二乘法求出线性回归方程;
(2)如果某天的气温是-3℃,请预测这天可能会卖出热茶多少杯
(1)作散点图如图所示
解
由散点图知两个变量是线性相关的
于是:
由
于是,线性回归方程为? y=57.557-1.648x
2)由回归方程知,当某天的气温是-3℃时,卖出的热茶杯数为
57.557-1.648×(-3)≈63(杯)
------------线性回归模型------------
例1 从某大学中随机选取8名女大学生,其身高和体重数据如表1-1所示。
编号
1
2
3
4
5
6
7
8
身高/cm
165
165
157
170
175
165
155
170
体重/kg
48
57
50
54
64
61
43
59
求根据一名女大学生的身高预报她的体重的回归方程,并预报一名身高为
172cm的女大学生的体重。
案例:女大学生的身高与体重
解:1、选取身高为自变量x,体重为因变量y,作散点图:
2、由散点图知道身高和体重有比较好的线性相关关系,因此可以用线性回归方程刻画它们之间的关系。
分析:由于问题中要求根据身高预报体重,因此选取身高为自变量,体重为因变量.
2.回归方程:
1. 散点图;
例1 从某大学中随机选取8名女大学生,其身高和体重数据如表1-1所示。
编号
1
2
3
4
5
6
7
8
身高/cm
165
165
157
170
175
165
155
170
体重/kg
48
57
50
54
64
61
43
59
求根据一名女大学生的身高预报她的体重的回归方程,并预报一名身高为
172cm的女大学生的体重。
案例1:女大学生的身高与体重
解:1、选取身高为自变量x,体重为因变量y,作散点图:
2、由散点图知道身高和体重有比较好的线性相关关系,因此可以用线性回归方程刻画它们之间的关系。
3、从散点图还看到,样本点散布在某一条直线的附近,而不是在一条直线上,所以不能用一次函数y=bx+a描述它们关系。
探究:
身高为172cm的女大学生的体重一定是60.316kg吗?如果不是,你能解析一下原因吗?
思考:
产生随机误差项e的原因是什么?
我们可以用下面的线性回归模型来表示:
y=bx+a+e,其中a和b为模型的未知参数,
e称为随机误差。
随机误差e的来源(可以推广到一般):
1、忽略了其它因素的影响:影响身高 y 的因素不只是体重 x,可能还包括遗传基因、饮食习惯、生长环境等因素;
2、用线性回归模型近似真实模型所引起的误差;
3、身高 y 的观测误差。
以上三项误差越小,说明我们的回归模型的拟合效果越好。
函数模型与回归模型之间的差别
函数模型:
回归模型:
可以提供
选择模型的准则
函数模型:
回归模型:
线性回归模型y=bx+a+e增加了随机误差项e,
因变量y的值由自变量x和随机误差项e共同确定,
即自变量x只能解释部分y的变化。
在统计中,我们也把自变量x称为解释变量,
因变量y称为预报变量。
---------------残差分析---------------
1、残差分析与残差图的定义:
然后,我们可以通过残差 来判断模型
拟合的效果,判断原始数据中是否存在可疑数据,这方面的
分析工作称为残差分析。
我们可以利用图形来分析残差特性,作图时纵坐标为残差,
横坐标可以选为样本编号,或身高数据,或体重估计值等,
这样作出的图形称为残差图。
数据点和它在回归直线上相应位置的差异 是随机误差
的效应,称 为残差。
注意:1 残差分析步骤:
1)计算每组数据的残差,即样本值减预测值
2)画残差图。纵坐标为残差,横坐标为自变量。
3)分析残差图
4)找异常值
2 残差图的制作:
坐标纵轴为残差变量,横轴可以有不同的选择.横轴为编号:可以考察残差与编号次序之间的关系,常用于调查数据错误.
横轴为解释变量:可以考察残差与解释变量的关系,常用于研究模型是否有改进的余地.
下表列出了女大学生身高和体重的原始数据以及相应的残差数据。
编号
1
2
3
4
5
6
7
8
身高/cm
165
165
157
170
175
165
155
170
体重/kg
48
57
50
54
64
61
43
59
残差
-6.373
2.627
2.419
-4.618
1.137
6.627
-2.883
0.382
残差图
问题数据
越窄越好
注意:残差图的作用:
1)发现原始数据中的可疑数据,问题数据
2)判断模型的适用性,若模型选择的正确,残差图中的点应该比较均匀地落在
以横轴为中心的水平的带状区域中
带状区域的宽度越窄,说明模型拟合精度越高,回归方程的预报精度越高,
说明选用的模型较合适。
---------------R2检验---------------
回归模型:
我们用回归方程 中的 估计上式中的
。由于 ,所以 是e的估计量。
对于样本点
其估计值为
成为相应于点 的残差。
我们可以用相关指数R2来刻画回归的效果,其计算公式是
相关指数R2
1.公式
反映回归直线的拟合程度
取值范围在 [ 0 , 1 ] 之间
R2 ?1,说明回归方程拟合的越好;R2?0,说明回归方程拟合的越差
例2、在一段时间内,某种商品的价格x元和需求量Y件之间的一组数据为:
求出Y对x的回归直线方程,并说明拟合效果的好坏。
价格x
14
16
18
20
22
需求量Y
12
10
7
5
3
解:
价格x
14
16
18
20
22
需求量Y
12
10
7
5
3
列出残差表为
0.994
因而,拟合效果较好。
0
0.3
-0.4
-0.1
0.2
4.6
2.6
-0.4
-2.4
-4.4
用身高预报体重时,需要注意下列问题:
1、回归方程只适用于我们所研究的样本的总体;
2、我们所建立的回归方程一般都有时间性;
3、样本采集的范围会影响回归方程的适用范围;
4、不能期望回归方程得到的预报值就是预报变量的精确值。
事实上,它是预报变量的可能取值的平均值。
——这些问题也使用于其他问题。
涉及到统计的一些思想:
模型适用的总体;
模型的时间性;
样本的取值范围对模型的影响;
模型预报结果的正确理解。
小结
一般地,建立回归模型的基本步骤为:
(1)确定研究对象,明确哪个变量是解析变量,哪个变量是预报变量。
(2)画出确定好的解析变量和预报变量的散点图,观察它们之间的关系
(如是否存在线性关系等)。
(3)由经验确定回归方程的类型(如我们观察到数据呈线性关系,则选用线性回归方程y=bx+a).
(4)按一定规则估计回归方程中的参数(如最小二乘法)。
(5)得出结果后分析残差图是否有异常(个别数据对应残差过大,或残差呈现不随机的规律性,等等),过存在异常,则检查数据是否有误,或模型是否合适等。
相关系数
1.计算公式
2.相关系数的性质
(1)|r|≤1.
(2)|r|越接近于1,相关程度越大;|r|越接近于0,相关程度越小.
问题:达到怎样程度,x、y线性相关呢?它们的相关程度怎样呢?
相关系数
r>0正相关;r<0负相关.通常, r∈[-1,-0.75]--负相关很强; r∈[0.75,1]—正相关很强; r∈[-0.75,-0.3]--负相关一般; r∈[0.3, 0.75]—正相关一般; r∈[-0.25, 0.25]--相关性较弱;
相关关系的测度
(相关系数取值及其意义)
-1.0
+1.0
0
-0.5
+0.5
完全负相关
无线性相关
完全正相关
负相关程度增加
r
正相关程度增加