回归方程a和b的计算公式
线性回归可以理解为一个回归算法,我们可以结合线性回归算法来做预测值。这篇文章里,作者就总结了线性回归算法的基本原理、应用场景、优劣势等方面,一起来看看吧。
![](https://p0.ssl.img.360kuai.com/t01b35250c3375c56e0.jpg)
前两篇文章我们介绍了两个解决分类问题的算法:K近邻和朴素贝叶斯,今天我们一起来学习回归问题中最经典的线性回归(Linear Regression)算法。
一、基本原理
生活中,大家都排过队,我印象最深的应该是排队做核酸的队伍,前后间隔一米,随着做核酸的人越来越多,新来的人看到队伍,都会自动排到队伍的末尾,同样间隔一米,大家“齐心协力”排出了一条长线。
有了这条长线之后,我们就可以对新来的人排队的位置做出预测,这就是线性回归的基本逻辑。
所以线性回归算法的思路就是:根据已有的数据去寻找一条“直线”,让它尽可能的接近这些数据,再根据这条直线去预测新数据的结果。
那么具体要怎么找这条“直线”呢?初中数学里描述一条直线时,用的是一元一次方程:y=ax+b,这里的a表示直线的斜率,b表示截距,如下图所示:
![](https://p0.ssl.img.360kuai.com/t01e230685f98f732cc.jpg)
以排队为例,我们已知x是人的顺序,y是排的位置,将已有的x和y数据代入到公式中,可以得到一组合适a和b的值来描述这条直线,也就是我们找到了这条直线的分布。
排队的例子比较简单,只有一个x变量,在实际的应用中,会有很多个影响结果的变量,比如预测贷款额度时,会有工资、是否有房等变量,用线性回归的思路解决类似的问题,就要构建多元回归方程了,公式也就变成了 y = a1x1 + a2x2 + … + b。
当有两个变量时,线性回归的分布也就不是一条简单的直线了,而是一个平面,如下图所示:
![](https://p0.ssl.img.360kuai.com/t01dda68d216e4588bb.jpg)
如果有更多的变量,分布就是一个超平面,找到它的分布也会变得更复杂。
二、如何计算最优解
如果每个人的站位(实际值)距离理想站位(预测值)的距离(误差)最小,那就说明我们得到的线性回归分布是最优解。
机器学习中,评价模型的预测值和实际值差异的公式叫做损失函数,损失函数值越小,模型性能越好。
平方残差和就是一种场景的损失函数,其计算公式为 loss=SUM(真实值-预测值)²,就是把每个节点的预测差求平方再求和,前面回归模型评估的文章里提到的MSE就是平方残差和除以样本数量。
三、应用场景
线性回归的应用场景非常广泛,只要数据是符合线性分布的,理论上都可以用线性回归来进行预测:
- 预测房价:通过分析房屋特征(如面积、位置、房间数量等)与价格之间的关系。
- 预测员工绩效:通过分析员工的教育背景、工作经验、培训等因素与绩效之间的关系。
- 营销分析:分析市场调研数据,预测产品销售量,并确定哪些因素对销售量有显著影响。
- 交通规划:预测交通流量,通过分析道路特征、人口密度等因素与交通流量之间的关系。
- 环境科学:分析环境数据,如气候变化、污染物排放等因素与生态系统的影响。
四、优缺点
线性回归算法的优点:
- 简单而直观:易于理解和解释,适用于初学者入门。
- 计算效率高:计算速度较快,适用于大规模数据集。
- 可解释性强:可以提供每个特征对目标变量的影响程度,有助于理解变量之间的关系。
- 可扩展性强:可以通过添加交互项、多项式特征等进行扩展,以适应更复杂的数据模式。
线性回归算法的缺点:
- 仅适用于线性关系:线性回归假设自变量与因变量之间存在线性关系,对于非线性关系的数据拟合效果较差。
- 对异常值敏感:线性回归对异常值较为敏感,异常值的存在可能会对模型的拟合产生较大影响。
- 忽略了特征之间的复杂关系:线性回归无法捕捉到特征之间的非线性、交互作用等复杂关系。
- 对多重共线性敏感:当自变量之间存在高度相关性时,线性回归模型的稳定性和可靠性可能会受到影响。
五、总结
本文我们介绍了线性回归算法的原理、应用场景和优缺点,线性回归是一个回归算法,常用来做预测值,和之前介绍的分类模型的输出是有区别的,需要注意一下。
下篇文章,我们来聊一聊逻辑回归算法,敬请期待。
本文由 @AI小当家 原创发布于人人都是产品经理,未经许可,禁止转载
题图来自 Unsplash,基于 CC0 协议
该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。
","gnid":"986e0d62b5c4aaf5e","img_data":[{"flag":2,"img":[{"desc":"","height":"420","title":"","url":"https://p0.ssl.img.360kuai.com/t01b35250c3375c56e0.jpg","width":"900"},{"desc":"","height":"710","title":"","url":"https://p0.ssl.img.360kuai.com/t01e230685f98f732cc.jpg","width":"1323"},{"desc":"","height":"783","title":"","url":"https://p0.ssl.img.360kuai.com/t01dda68d216e4588bb.jpg","width":"720"}]}],"original":0,"pat":"art_src_3,sexf,sex4,sexc,fts0,sts0","powerby":"pika","pub_time":1705890180000,"pure":"","rawurl":"http://zm.news.so.com/f1804ee21bcc84664ec444b1a1980982","redirect":0,"rptid":"6c6c54f1e1479e00","rss_ext":[],"s":"t","src":"人人都是产品经理","tag":[],"title":"线性回归算法:用“线性外推”的思路做预测
桑袁乖3139一元线性回归方程的公式是怎样推算的 -
车庙物18121362124 ______[答案] 假设线性回归方程为: y=ax+b (1) a,b为回归系数,要用观测数据(x1,x2,...,xn和y1,y2,...,yn)确定之. 为此构造 Q(a,b)=Σ(i=1->n)[yi-(axi+b)]^2 (2) 使Q(a,b)取最小值的a,b为所求. 令: ∂Q/∂a= 2Σ(i=1->n)[yi-(axi+b)](-xi)= 0 (3) ∂Q/∂b= 2Σ(i=1->n)[yi-(axi+...
桑袁乖3139回归方程y=bx+a中的b和a怎么求如题 -
车庙物18121362124 ______[答案] 回归方程:y = ax + b (1) xi、yi为原始数据个数为n 根据最小2乘法原理得到求回归系数a、b的两个方程: a E(x^2) + b E(x) = E(xy) (2) a E(x) + b n = E(y) (3) 其中:E(x),E(y),E(xy),E(x^2) 分别是:x,y,xy的平均值及x的均方值;n原始数据的个数. 由(2)...
桑袁乖3139回归方程r2计算公式
车庙物18121362124 ______ 回归方程r2计算公式是R2=1-ni=1(yi- ̂yi)2(yi-y)2 .回归方程是根据样本资料通过回归分析所得到的反映一个变量(因变量)对另一个或一组变量(自变量)的回归关系的数学表达式.回归直线方程用得比较多,可以用最小二乘法求回归直线方程中的a,b,从而得到回归直线方程.回归直线方程指在一组具有相关关系的变量的数据(x与y)间,一条最好地反映x与y之间的关系直线.
桑袁乖3139一元线性回归方程怎么求? -
车庙物18121362124 ______ 1. 列计算表,求∑ 2.计算Lxx,Lyy,Lxy Lyy=∑(y-yˇ)(y-yˇ) Lxy=∑(x-xˇ)(y-yˇ) 3.求相关系数,并检验; r = Lxy /( Lxx Lyy)1/2 2. 求回归系数b和常数a; b=Lxy /Lxx a=y - bx 3. 列回归方程.
桑袁乖3139一元线性回归案例中最小二乘法y=bx+a,其中的b和a的公式! -
车庙物18121362124 ______[答案] 见上传的图片 那个符号的意思是求和,例如把把所有X的值相加,有平方号的是把X平方后再相加 可能B的分子比较难明,前一项是对应的X与Y相乘后再相加,得出的和再乘以N 后一项是所有X求和后乘以所有Y的求和.
桑袁乖3139高中数学的回归线方程是什么怎么求的 -
车庙物18121362124 ______ 回归方程是根据样本资料通过回归分析所得到的反映一个变量(因变量)对另一个或一组变量(自变量)的回归关系的数学表达式.回归直线方程用得比较多,可以用最小二乘法求回归直线方程中的a,b,从而得到回归直线方程. 回归线方程公式是: b=((x1+x2+...+xi)(y1+y2+..+yi)-nxy)/(x1^2+x2^2+...+xi^2-n*(x^2)) a=y-bx x,y为平均数
桑袁乖3139经验回归公式有哪些? -
车庙物18121362124 ______ 经验回归方程公式介绍如下: 回归方程公式:b=(x1y1+x2y2+...xnyn-nXY)/(x1+x2+xn-nX). 计算b:b=分子/分母.用最小二乘法估计参数b,设服从正态分布,分别求对a、b的偏导数并令它们等于零,先求x,y的平均值X,Y,再用公式代入求解,后...
桑袁乖3139数学回归方程公式 -
车庙物18121362124 ______ y=bx+a 回归分析 regression analysis 回归分析是处理多变量间相关关系的一种数学方法.相关关系不同于函数关系,后者反映变量间的严格依存性,而前者则表现出一定程度的波动性或随机性,对自变量的每一取值,因变量可以有多个数值与...