回归分析(2) 一元回归模型
创始人
2024-05-26 11:45:29
0

        如上所述,为了易于确定回归函数μ(x)中的未知参数,我们来讨论变量Y与x之间存在着线性相关关系的情形

 散布在某一条直线的周围.于是,我们可以用线性回归方程

 来描述Y与x之间的相关关系,并假设相应的误差(称为随机误差)

 服从正态分布N(0,\sigma^2),其中a,b,\sigma^2 都是不依赖于x的未知参数,参数b 称为回归系数

        对Y作这样的假设, 相当于假设对于x (在某个区间内)的每一个值,都有

 于是对x 与Y的每一组独立试验(或样本)

 也有

 式(5. 8)或式(5.10)称为一元(正态)线性回归模型.若将试验观测值(5.6)代入,则
可获得随机误差\varepsilon _i的一组观测值

 对于一元线性回归模型,需要研究下面几个问题:

(1)根据样本(5. 9)估计参数a,b,\sigma^2,从而建立线性回归模型;

(2)线性相关关系的显著性检验;

(3)利用所获得的线性回归模型对变量Y的取值进行预测.

1.参数a,b 的无偏估计及其分布

对于一元线性回归模型(5. 10),这时的离差平方和(5.4)为

为了使s取得最小值,按最小二乘法,分别求s对a及b的偏导,有

 令这两个偏导数为零,得

 

 整理,得

 或者

 其中

 分别为样本的各种矩,方程组(5. 13) 或方程组(5. 14) 称为正规方程(组).解此正规
方程可得a与b的估计值(分别记作\widehat{a}\widehat{b})

 其中

x_1,x_2,...,x_n的二阶中心矩.

``       与式(5.16)相对应的估计量可表示为

 

 作为正规方程的解,估计量a与b自然应满足正规方程(5. 13)和方程组(5.14),即

 或

 这时残差平方和(即s的最小值)可表示为

 将通过式(5. 16)计算得到的a 与b 的值代入方程(5.7),就可得到Y对x 的(经验)线性回归方程

 和相应的回归值(或拟合值)

 方程(5.22)的图形称为(经验)线性回归直线.

 

 该式表明,经验回归直线过由点集(5.6)构成的散点图的几何中心(\overline{x},\overline{y})

        下面讨论估计量\widehat{b}的分布.由估计量(5.18)的第一式知

所以\widehat{b}是随机变量Y_1,Y_2,..,Y_n的线性组合.再注意到x_i(i = 1,2,...,n)的非随机
性及Y1 ,Y2, …,Y"是独立的正态随机变量,且

 

 则可知\widehat{b}也服从正态分布,且有

 故\widehat{b}是b的无偏估计.同样,我们可算得

 

 这样,我们已经证明并获得了

定理5.2.1 在上述记号下,估计量\widehat{b}是b的无偏估计,且

 其中

 同理可证

是a的无偏估计(见习题5.1,由读者自己证明),并且有下述定理.

定理5.2.2 估计量\widehat{a}是a的无偏估计,且

5.2.2 参数\sigma^2的无偏估计及其分布

        为了获得\sigma^2的无偏估计,我们作离差分解

 

 由式(5. 19)知上式的最后两个和式均为0,故有

 其中右端第一项正是式(5. 21)定义的残差平方和

于是我们得到

 其中右端三项的自由度分别为又由于

 且相互独立,故由定理1. 2. 2可得如下的定理.

 定理5.2.3 在上述记号下, S_E,\overline{Y},\widehat{b}相互独立且

 由于卡方分布的期望是它的自由度,故由式(5. 32)

从而

 因此

 是\sigma^2的无偏估计.在此记号下,定理5.2. 3又可改写成如下形式.

2. 一元线性回归参数的计算

为了计算无偏估计\sigma^2,将

 代入式(5.33),得

 再注意到式(5.18)的第一式,有

 并引进计算器容易获得其值的二阶中心矩的记号

 则有

 式(5.38)中的\sigma^2,\widehat{a},\widehat{b},也可利用表5.1及计算器的统计功能方便地获得.

例题

 

 

相关内容

热门资讯

iOSapp移植到安卓系统,i... 你有没有想过,那些在iOS上让你爱不释手的app,是不是也能在安卓系统上大放异彩呢?今天,就让我带你...
现在安卓随便换系统,探索个性化... 你知道吗?现在安卓手机换系统简直就像换衣服一样简单!没错,就是那种随时随地、随心所欲的感觉。今天,就...
安卓系统安装按钮灰色,探究原因... 最近发现了一个让人头疼的小问题,那就是安卓手机的安装按钮突然变成了灰色,这可真是让人摸不着头脑。你知...
安卓7.1.1操作系统,系统特... 你知道吗?最近我在手机上发现了一个超级酷的新玩意儿——安卓7.1.1操作系统!这可不是什么小打小闹的...
安卓os系统怎么设置,并使用`... 你有没有发现,你的安卓手机有时候就像一个不听话的小孩子,有时候设置起来真是让人头疼呢?别急,今天就来...
安卓降低系统版本5.1,探索安... 你知道吗?最近安卓系统又来了一次大动作,竟然把系统版本给降到了5.1!这可真是让人有点摸不着头脑,不...
解放安卓系统被保护,解放安卓系... 你有没有想过,你的安卓手机其实可以更加自由地呼吸呢?是的,你没听错,我说的就是解放安卓系统被保护的束...
校务帮安卓系统下载,便捷校园生... 你有没有想过,你的手机里装了一个神奇的助手——校务帮安卓系统下载?没错,就是那个能让你轻松管理学校事...
安卓系统没有拼多多,拼多多崛起... 你知道吗?最近我在手机上发现了一个小小的秘密,那就是安卓系统里竟然没有拼多多这个应用!这可真是让我大...
甜城麻将安卓系统,解锁全新麻将... 你有没有听说过那个超级火的甜城麻将安卓系统?没错,就是那个让无数麻将爱好者为之疯狂的软件!今天,就让...
安卓系统卸载的软件,深度揭秘卸... 手机里的软件越来越多,是不是感觉内存不够用了?别急,今天就来教你怎么在安卓系统里卸载那些不再需要的软...
安卓系统推荐好游戏,畅享指尖乐... 手机里的游戏可是咱们休闲娱乐的好伙伴,尤其是安卓系统的用户,选择面那可是相当广呢!今天,就让我来给你...
王者安卓系统怎么卖,揭秘如何轻... 你有没有听说最近王者安卓系统的火爆程度?没错,就是那个让无数玩家沉迷其中的王者荣耀!今天,我就来给你...
安卓开发系统内置证书,基于安卓... 你有没有想过,你的安卓手机里那些神秘的内置证书,它们到底是个啥玩意儿?别急,今天就来给你揭秘这些隐藏...
荣耀安装安卓原生系统,深度体验... 你知道吗?最近荣耀手机界可是掀起了一股热潮,那就是——荣耀安装安卓原生系统!这可不是什么小打小闹,而...
安卓13小米系统,创新功能与流... 你知道吗?最近安卓13系统可谓是风头无两,各大手机厂商纷纷推出自家的新版系统,其中小米的安卓13系统...
鸿蒙系统底层安卓10,融合与创... 你知道吗?最近手机圈里可是热闹非凡呢!华为的新操作系统鸿蒙系统,竟然在底层采用了安卓10的架构。这可...
安卓系统辅助在哪关闭,轻松关闭... 你有没有发现,安卓系统的辅助功能真是贴心到不行啊!不过,有时候这些功能太多,用起来有点乱糟糟的。别急...
安卓系统outlook邮件设置... 你有没有发现,自从你把手机升级到了安卓系统,邮件管理变得有点复杂呢?别急,今天就来手把手教你如何设置...
安卓系统停止向华为,自主操作系... 你知道吗?最近科技圈可是炸开了锅!安卓系统突然宣布停止向华为提供技术支持,这可不仅仅是两家公司之间的...