回归方程公式

前两篇文章我们介绍了两个解决分类问题的算法：K近邻和朴素贝叶斯，今天我们一起来学习回归问题中最经典的线性回归（Linear Regression）算法。

一、基本原理

生活中，大家都排过队，我印象最深的应该是排队做核酸的队伍，前后间隔一米，随着做核酸的人越来越多，新来的人看到队伍，都会自动排到队伍的末尾，同样间隔一米，大家“齐心协力”排出了一条长线。

有了这条长线之后，我们就可以对新来的人排队的位置做出预测，这就是线性回归的基本逻辑。

所以线性回归算法的思路就是：根据已有的数据去寻找一条“直线”，让它尽可能的接近这些数据，再根据这条直线去预测新数据的结果。

那么具体要怎么找这条“直线”呢？初中数学里描述一条直线时，用的是一元一次方程：y=ax+b，这里的a表示直线的斜率，b表示截距，如下图所示：

以排队为例，我们已知x是人的顺序，y是排的位置，将已有的x和y数据代入到公式中，可以得到一组合适a和b的值来描述这条直线，也就是我们找到了这条直线的分布。

排队的例子比较简单，只有一个x变量，在实际的应用中，会有很多个影响结果的变量，比如预测贷款额度时，会有工资、是否有房等变量，用线性回归的思路解决类似的问题，就要构建多元回归方程了，公式也就变成了 y = a1x1 + a2x2 + … + b。

当有两个变量时，线性回归的分布也就不是一条简单的直线了，而是一个平面，如下图所示：

如果有更多的变量，分布就是一个超平面，找到它的分布也会变得更复杂。

二、如何计算最优解

如果每个人的站位（实际值）距离理想站位（预测值）的距离（误差）最小，那就说明我们得到的线性回归分布是最优解。

机器学习中，评价模型的预测值和实际值差异的公式叫做损失函数，损失函数值越小，模型性能越好。

平方残差和就是一种场景的损失函数，其计算公式为 loss=SUM（真实值-预测值）²，就是把每个节点的预测差求平方再求和，前面回归模型评估的文章里提到的MSE就是平方残差和除以样本数量。

三、应用场景

线性回归的应用场景非常广泛，只要数据是符合线性分布的，理论上都可以用线性回归来进行预测：

• 预测房价：通过分析房屋特征（如面积、位置、房间数量等）与价格之间的关系。
• 预测员工绩效：通过分析员工的教育背景、工作经验、培训等因素与绩效之间的关系。
• 营销分析：分析市场调研数据，预测产品销售量，并确定哪些因素对销售量有显著影响。
• 交通规划：预测交通流量，通过分析道路特征、人口密度等因素与交通流量之间的关系。
• 环境科学：分析环境数据，如气候变化、污染物排放等因素与生态系统的影响。

四、优缺点

线性回归算法的优点：

• 简单而直观：易于理解和解释，适用于初学者入门。
• 计算效率高：计算速度较快，适用于大规模数据集。
• 可解释性强：可以提供每个特征对目标变量的影响程度，有助于理解变量之间的关系。
• 可扩展性强：可以通过添加交互项、多项式特征等进行扩展，以适应更复杂的数据模式。

线性回归算法的缺点：

• 仅适用于线性关系：线性回归假设自变量与因变量之间存在线性关系，对于非线性关系的数据拟合效果较差。
• 对异常值敏感：线性回归对异常值较为敏感，异常值的存在可能会对模型的拟合产生较大影响。
• 忽略了特征之间的复杂关系：线性回归无法捕捉到特征之间的非线性、交互作用等复杂关系。
• 对多重共线性敏感：当自变量之间存在高度相关性时，线性回归模型的稳定性和可靠性可能会受到影响。

五、总结

本文我们介绍了线性回归算法的原理、应用场景和优缺点，线性回归是一个回归算法，常用来做预测值，和之前介绍的分类模型的输出是有区别的，需要注意一下。

下篇文章，我们来聊一聊逻辑回归算法，敬请期待。

本文由 @AI小当家 原创发布于人人都是产品经理，未经许可，禁止转载

题图来自 Unsplash，基于 CC0 协议

该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。

伊莲凝2003回归方程公式的详解,到底怎么算啊,拜求! -
廖德环19443996317 ______[答案] ...x 还知道把= = 例如 西安大雁塔高64米,比小雁塔高度的2倍少22米 设小雁塔的高x米.2x-22=64 2x=64+22 x=43 这是小学... 80x=1200*2 80x=2400 x=30 = = 我已经换过单位了= = 我在写作业,挂在百度,顺便看下= = x是未知数.方程是解x.希望对你有...

伊莲凝2003线性回归方程a b公式推导公式in addition. -
廖德环19443996317 ______[答案] 和式号(音译:西格马)以“∑”来表示和式号(Sign of summation)是欧拉(1707-1783)於1755年首先使用的,这个符号是源于希腊文(增加)的字头,“∑”正是σ的大写.示例:∑An=A1+A2+...+An∑是数列求和的简记号,...

伊莲凝2003回归平方和计算公式
廖德环19443996317 ______ 回归平方和计算公式:R^2=SSR/SST=1-SSE/SST,回归平方和ESS(Explained Sum of Squares)是因变量回归值ŷ-因变量平均值y的离差平方和,数值上=∑(ŷ-ȳ)2,也称为解释平方和.用回归方程或回归线来描述变量之间的统计关系时,实验值yi与按回归线预测的值ŷ并不一定完全一致.ESS越大说明多元线性回归线对样本观测值的拟合情况越好.

伊莲凝2003回归方程公式 -
廖德环19443996317 ______ 先这么看:y=-1.5x+2 a=2, b=-1.5 现在要知道b的意义是:1.代表斜率*2.当变量x每增加一个单位时,y就平均增加b个单位,在这里,y就将平均增加-1.5个单位.(特别注意:因为这里是负一点五,所以就相当于减少了1.5个单位,如果是正数的话,那就说是增加了.) 这样解释能不能懂啊?不懂再问吧.

伊莲凝2003一元线性回归方程公式的公式以及ab怎么求 -
廖德环19443996317 ______[答案] 建议你先到 http://baike.baidu.com/view/954762.htm 这个地方看一下.b的计算有两个公式,计算结果相同.(不过,我更喜欢使用 △(即差值)计算的那个公式).回归流程 我 通常这样进行:1)由所给出的系列值分别计算两...

伊莲凝2003回归方程公式中的b=∑(xi - X)(yi - Y)/∑(xi - X)^2怎么化简成∑(xiyi - nXY) -
廖德环19443996317 ______[答案] 这只是分子∑(xi-X)(yi-Y)可以化简成:∑(xiyi)-nXY 如下: ∑(xi-X)(yi-Y) =∑(xiyi-xiY-Xyi+XY) =∑(xiyi)-Y∑xi-X∑yi+∑XY =∑(xiyi)-Y*nX-X*nY+nXY =∑(xiyi)-nXY

伊莲凝2003高中数学的回归线方程是什么怎么求的 -
廖德环19443996317 ______ 回归方程是根据样本资料通过回归分析所得到的反映一个变量(因变量)对另一个或一组变量(自变量)的回归关系的数学表达式.回归直线方程用得比较多,可以用最小二乘法求回归直线方程中的a,b,从而得到回归直线方程. 回归线方程公式是: b=((x1+x2+...+xi)(y1+y2+..+yi)-nxy)/(x1^2+x2^2+...+xi^2-n*(x^2)) a=y-bx x,y为平均数

伊莲凝2003回归方程xi怎么求
廖德环19443996317 ______ 回归方程的xi是已知的各个数据,不用求,把题目所有的数据代入即可.回归方程是根据样本资料通过回归分析所得到的反映一个变量(因变量)对另一个或一组变量(自变量)的回归关系的数学表达式.回归直线方程用得比较多,可以用最小二乘法求回归直线方程中的a,b,从而得到回归直线方程.

伊莲凝2003回归方程中a,b怎么求 -
廖德环19443996317 ______ 回归直线的求法 最小二乘法: 总离差不能用n个离差之和 来表示,通常是用离差的平方和,即 作为总离差,并使之达到最小,这样回归直线就是所有直线中Q取最小值的那一条,这种使“离差平方和最小”的方法,叫做最小二乘法: 由于绝对值使得计算不变,在实际应用中人们更喜欢用:Q=(y1-bx1-a)²+(y2-bx-a²)+...+(yn-bxn-a)² 这样,问题就归结于:当a,b取什么值时Q最小,即到点直线y=bx+a的“整体距离”最小. 用最小二乘法求回归直线方程中的a,b有下面的公式:

伊莲凝2003线性回归方程公式 怎么证明? -
廖德环19443996317 ______ 举个最简单的例子 回归方程: y=ax+b (1) a,b未知,要用观测数据(x1,x2,...,xn和y1,y2,...,yn)确定之. 为此构造 Q(a,b)=Σ(i=1->n)[yi-(axi+b)]^2 (2) 使(2)取极小值:令 ∂Q/∂a= 2Σ(i=1->n)[yi-(axi+b)](-xi)= 0 (3) ∂Q/∂b= 2Σ(i=1->n)[yi-(axi+b)] = 0 (4) 根据(3)、(4)解出a ,b就确定了回归方程(1).