一、基本原理

生活中，大家都排过队，我印象最深的应该是排队做核酸的队伍，前后间隔一米，随着做核酸的人越来越多，新来的人看到队伍，都会自动排到队伍的末尾，同样间隔一米，大家“齐心协力”排出了一条长线。

有了这条长线之后，我们就可以对新来的人排队的位置做出预测，这就是线性回归的基本逻辑。

所以线性回归算法的思路就是：根据已有的数据去寻找一条“直线”，让它尽可能的接近这些数据，再根据这条直线去预测新数据的结果。

那么具体要怎么找这条“直线”呢？初中数学里描述一条直线时，用的是一元一次方程：y=ax+b，这里的a表示直线的斜率，b表示截距，如下图所示：

以排队为例，我们已知x是人的顺序，y是排的位置，将已有的x和y数据代入到公式中，可以得到一组合适a和b的值来描述这条直线，也就是我们找到了这条直线的分布。

排队的例子比较简单，只有一个x变量，在实际的应用中，会有很多个影响结果的变量，比如预测贷款额度时，会有工资、是否有房等变量，用线性回归的思路解决类似的问题，就要构建多元回归方程了，公式也就变成了 y = a1x1 + a2x2 + … + b。

当有两个变量时，线性回归的分布也就不是一条简单的直线了，而是一个平面，如下图所示：

如果有更多的变量，分布就是一个超平面，找到它的分布也会变得更复杂。

二、如何计算最优解

如果每个人的站位（实际值）距离理想站位（预测值）的距离（误差）最小，那就说明我们得到的线性回归分布是最优解。

机器学习中，评价模型的预测值和实际值差异的公式叫做损失函数，损失函数值越小，模型性能越好。

平方残差和就是一种场景的损失函数，其计算公式为 loss=SUM（真实值-预测值）²，就是把每个节点的预测差求平方再求和，前面回归模型评估的文章里提到的MSE就是平方残差和除以样本数量。

三、应用场景

线性回归的应用场景非常广泛，只要数据是符合线性分布的，理论上都可以用线性回归来进行预测：

预测房价：通过分析房屋特征（如面积、位置、房间数量等）与价格之间的关系。
预测员工绩效：通过分析员工的教育背景、工作经验、培训等因素与绩效之间的关系。
营销分析：分析市场调研数据，预测产品销售量，并确定哪些因素对销售量有显著影响。
交通规划：预测交通流量，通过分析道路特征、人口密度等因素与交通流量之间的关系。
环境科学：分析环境数据，如气候变化、污染物排放等因素与生态系统的影响。

四、优缺点

线性回归算法的优点：

简单而直观：易于理解和解释，适用于初学者入门。
计算效率高：计算速度较快，适用于大规模数据集。
可解释性强：可以提供每个特征对目标变量的影响程度，有助于理解变量之间的关系。
可扩展性强：可以通过添加交互项、多项式特征等进行扩展，以适应更复杂的数据模式。

线性回归算法的缺点：

仅适用于线性关系：线性回归假设自变量与因变量之间存在线性关系，对于非线性关系的数据拟合效果较差。
对异常值敏感：线性回归对异常值较为敏感，异常值的存在可能会对模型的拟合产生较大影响。
忽略了特征之间的复杂关系：线性回归无法捕捉到特征之间的非线性、交互作用等复杂关系。
对多重共线性敏感：当自变量之间存在高度相关性时，线性回归模型的稳定性和可靠性可能会受到影响。

五、总结

本文我们介绍了线性回归算法的原理、应用场景和优缺点，线性回归是一个回归算法，常用来做预测值，和之前介绍的分类模型的输出是有区别的，需要注意一下。

下篇文章，我们来聊一聊逻辑回归算法，敬请期待。

本文由 @AI小当家原创发布于人人都是产品经理，未经许可，禁止转载

题图来自 Unsplash，基于 CC0 协议

该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。

","gnid":"986e0d62b5c4aaf5e","img_data":[{"flag":2,"img":[{"desc":"","height":"420","title":"","url":"https://p0.ssl.img.360kuai.com/t01b35250c3375c56e0.jpg","width":"900"},{"desc":"","height":"710","title":"","url":"https://p0.ssl.img.360kuai.com/t01e230685f98f732cc.jpg","width":"1323"},{"desc":"","height":"783","title":"","url":"https://p0.ssl.img.360kuai.com/t01dda68d216e4588bb.jpg","width":"720"}]}],"original":0,"pat":"art_src_3,sexf,sex4,sexc,fts0,sts0","powerby":"pika","pub_time":1705890180000,"pure":"","rawurl":"http://zm.news.so.com/f1804ee21bcc84664ec444b1a1980982","redirect":0,"rptid":"6c6c54f1e1479e00","rss_ext":[],"s":"t","src":"人人都是产品经理","tag":[],"title":"线性回归算法：用“线性外推”的思路做预测

虞月味1382在加速度一章中什么叫斜率?怎么算? -
宰谢婕19587637221 ______[答案] 斜率,亦称“角系数”,表示一条直线相对于横坐标轴的倾斜程度.一条直线与某平面直角坐标系横坐标轴正半轴方向的夹角的正切值即该直线相对于该坐标系的斜率.如果直线与x轴互相垂直,直角的正切直无穷大,故此直线,不存在斜率.当直线L的...

虞月味1382斜率公式 -
宰谢婕19587637221 ______[答案] 1 设直线倾斜角为 α 斜率为 k k=tanα=y/x 2 设已知点为(a b) 未知点为(x y) k=(y-b)/(x-a) 3 导数:曲线上某一点的导数值为该点在这条曲线上切线的斜率

虞月味1382斜率k的公式a分之b
宰谢婕19587637221 ______ 斜率k的公式a分之b,而且若知公式是ax+by+c=0 ,则斜率=-a/b;若知坐标为(x1,y1)(x2,y2),则斜率=(y2-y1)/(x2-x1).斜率是数学、几何学名词,是表示一条直线关于坐标轴倾斜程度的量;并且它通常用直线与坐标轴夹角的正切,或两点的纵坐标之差与横坐标之差的比来表示.

虞月味1382已知直线的两点坐标求直线斜率那个公式是什么? -
宰谢婕19587637221 ______[答案] A(X1,Y1) B(X2,Y2)则AB斜率=(Y1-Y2)/(X1-X2)

虞月味1382已知PA,PB的斜率求直线AB的斜率,我记得好像有一个有关斜率的公式来着 -
宰谢婕19587637221 ______ 解:到角公式 tana=k2-k1/1+k1k2 很高兴为您解答,祝你学习进步!【学习宝典】团队为您答题. 有不明白的可以追问!如果您认可我的回答. 请点击下面的【选为满意回答】按钮,谢谢!

虞月味1382请问已知2点坐标a(5,8);b(13,21)怎么用三角函数式表达ab二点间的斜率?按照直线斜率公式表达我会,记得三角函数式也可以表达的,但忘记.这样计算我... -
宰谢婕19587637221 ______[答案] 因为:k=(y2-y1)/(x2-x1),( x1不等于x2 ); 所以:k=(21-8)/13-5=13/8 直线斜率公式就是由三角函数来的,在坐标上建立这个斜线,以斜线建立直角三角形(两条直角边分别是x,y轴的平行线,然后求tan(斜线与x轴平行线的夹角),就是斜线的斜率.

虞月味1382已知直线与抛物线y^2=2px交于AB两点,且OA⊥OB,OD⊥AB交AB于D,D坐标为(2,1),求P的值我是先用D点坐标算OD的斜率k,然后算AB斜率k',因为... -
宰谢婕19587637221 ______[答案] 楼主的方法很复杂,没治细看,不过可以推荐一个更好的方法:两条垂直的直线的斜率想成结果为-1 即把OA OB看成两条直线,因为直线斜率知道,就可以设未知数a b来表示OA OB两直线,由我给的结论能得到仪的关于ab 的解析式,然后AB两点...

虞月味1382运用经过两点P1(x1,y1),P2(x2,y2)的直线的斜率公式计算斜率与AB两点坐标的顺序有关吗有没有规定一定要是K=y2 - y1/x2 - x1,X2和X1可以互换位置吗?又或者y... -
宰谢婕19587637221 ______[答案] 解X2和X1可以互换位置,此时y1和y2也要互换位置此时K=y2-y1/x2-x1=-(y1-y2)/-(x1-x2)=y1-y2/x1-x2

虞月味1382标准曲线中的斜率和截距的计算公式是什么?我只记得相关系数的计算公式了,a b的计算方法却忘了.我不要做图求来的那种完全是公式的运算方法!是化... -
宰谢婕19587637221 ______[答案] 斜率是通过对函数表达式求导 y轴截距就是x=0时y的值,x轴上的截距就是y为0时x的值

虞月味1382直线a的斜率为1/2,直线b与直线a相垂直,直线b过坐标1,0那b斜率怎么算的? -
宰谢婕19587637221 ______[答案] 直线b与直线a相垂直,设直线b的斜率为k,则½*k=-1, ∴k=-2

（编辑：自媒体）