伯努利分布

逻辑回归算法是机器学习中的一位“老司机”，尽管名字里有“回归”，但它却是个不折不扣的分类高手。

逻辑回归主要用来解决二分类问题，例如判断一封邮件是垃圾邮件还是非垃圾邮件，预测一个人是否患有某种疾病等。它属于软分类算法，这意味着它不仅能告诉你一个样本属于哪一类，还能告诉你这个概率，让你更加确切地了解样本的归属。

接下来，让我为你揭秘逻辑回归的神秘面纱，让你明白它到底是何方神圣，如何施展魅力。

一、逻辑回归算法的原理

逻辑回归的原理其实挺简单的，就是将线性回归的输出结果通过一个神奇的函数（Sigmoid函数）转换成概率值。

具体来说，可以分为两个部分：线性部分和逻辑部分。

1. 线性部分就是我们熟悉的线性回归，负责计算特征和标签之间的线性关系；
2. 逻辑部分则是一个神奇的函数（Sigmoid函数），它能将线性部分的输出结果转换成0到1之间的概率值。

这两个部分组合在一起，构成了逻辑回归模型。

二、逻辑回归案例之预测适合的候选人

假设我们有一个面试候选人的数据集，其中包括候选人的各项特征（如学历、工作经验、面试表现等）和面试官是否选择该候选人的标签。

我们可以使用逻辑回归算法来预测面试官是否会选择候选人，具体如下：

1. 数据预处理：收集面试候选人的学历、工作经验、年龄等特征，构建输入特征矩阵X（例如，3个特征：学历（continuous）、工作经验（continuous）、年龄（continuous））。同时，为每个候选人分配一个目标向量Y（0或1，表示是否录用）。
2. 数据划分：将数据集划分为训练集和测试集，用于训练模型和评估模型性能。
3. 模型搭建：使用逻辑回归算法，初始化模型参数（权重向量w和偏置b）。
4. 训练模型：采用随机梯度下降（SGD）或其他优化算法，通过迭代优化过程，不断调整模型参数。
5. 模型评估：在测试集上计算模型性能，如准确率、精确率、召回率等指标。
6. 使用模型：对于新的候选人数据，计算预测概率，结合阈值判断是否录用。
7. Sigmod函数应用：在计算预测概率时，将模型输出的对数几率（Log-odds）通过Sigmoid函数转换为概率。Sigmoid函数为：σ(x) = 1 / (1 + exp(-x))。
8. 定义概率阈值：根据业务需求，设定一个概率阈值。当预测概率大于该阈值时，认为候选人有较高的录用可能性。

需要注意的是，阈值是对结果衡量的关键参照，但一次性很难确定出一个阈值，需要不断的调试。

具体怎么定义阈值呢？

1. 分析实际场景：首先，了解面试候选人数据集中的类别分布，分析业务场景对预测结果的需求。例如，在选拔面试候选人的场景中，我们希望选拔出具有较高能力水平的候选人。
2. 确定阈值范围：根据实际场景和需求，设定一个合适的概率阈值范围。一般情况下，我们可以选择0.5作为默认阈值，即当预测概率大于0.5时，认为候选人有较高的录用可能性。
3. 调整阈值：可以通过交叉验证（Cross-Validation）方法，在训练过程中评估不同概率阈值下的模型性能。选择在训练集和验证集上表现最佳的概率阈值作为最终阈值。
4. 结合业务经验：在确定概率阈值时，还可以结合面试官的经验和业务专家的意见。例如，面试官可能会根据实际经验，认为预测概率在0.6或0.7以上的候选人具有较高的录用可能性。
5. 持续优化：在实际应用中，根据模型的表现和业务需求，不断调整和优化概率阈值。

三、逻辑回归算法的应用步骤

计算方式，主要有以下六个步骤：

准备输入特征矩阵X（大小为n×m，其中n为样本数，m为特征数）和对应的目标向量Y（大小为n）。对于连续型特征，进行标准化处理，使其均值为0，方差为1。对于离散型特征，进行独热编码（One-hot Encoding）转换。

设置初始权重向量w（大小为m）和偏置b为0或一个较小的随机数。

• a. 计算预测概率：对于每个样本x，计算预测概率P(y=1|x) = 1 / (1 + exp(-wTx + b))。
• b. 计算损失函数：采用二元交叉熵损失（Binary Cross-Entropy Loss）衡量模型预测与实际标签之间的差异。损失函数为L(w, b) = -Σ[y * log(P(y=1|x)) + (1-y) * log(1-P(y=1|x))]，其中y为实际标签，P(y=1|x)为预测概率。
• c. 梯度下降：根据损失函数求解权重向量w和偏置b的梯度，更新模型参数。
• d. 判断收敛：当模型收敛或达到预设迭代次数时，停止迭代。

选取迭代过程中损失函数最小时的模型参数作为最优模型。

根据业务需求，设定一个概率阈值。

使用最优模型参数，计算新样本的预测概率，从而预测其类别。

四、逻辑回归算法的适用边界和优缺点

逻辑回归算法适用于二分类问题，即数据只有两个类别。

对于多分类问题，我们可以使用多个逻辑回归模型来解决。此外，逻辑回归算法还要求数据满足一定的假设条件，比如特征之间是线性可分的，数据服从伯努利分布等。

• 首先，它的原理简单，易于理解和实现。
• 其次，它的计算速度非常快，适合处理大规模数据。
• 最后，逻辑回归模型的结果可以转化为概率值，方便我们进行解释和分析。

• 首先，它只能解决线性可分的问题，对于非线性问题，我们需要使用其他更复杂的模型。
• 其次，逻辑回归算法容易受到过拟合的影响，需要我们采取一些方法来防止过拟合。
• 最后，逻辑回归算法对异常值和噪声非常敏感，我们需要对数据进行预处理和清洗。

五、最后的话

总的来说，逻辑回归，这个看似简单的算法，在机器学习中却发挥着重要作用。它虽然名为回归，但实际上是个不折不扣的分类高手。

通过寻找最优模型参数，逻辑回归可以实现对样本的分类，并为我们提供预测概率。虽然它在处理非线性问题时略显乏力，但其在实际应用中的简单易懂、易于并行化和可解释性强等优点，使其在众多领域焕发光彩。

如果用一句话来概括它，那就是“线性模型+Sigmoid函数 → 二分类”。

本文由 @柳星聊产品 原创发布于人人都是产品经理。未经许可，禁止转载。

题图来自Unsplash，基于 CC0 协议

该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。

虞喻陶2563二项分布公式 -
屈民喻13266976901 ______ 设一次成功的概率为p,n次独立实验,成功k次的概率是:C(n,k)p^k(1-p)^(n-k) 您说的是这个公式吧?

虞喻陶2563古典概型与二项分布到底有什么区别,另,投掷一枚硬币到底属于上述两种的哪一种?谢 -
屈民喻13266976901 ______[答案] 古典概型是指实验有有限多种可能的结果,并且每种结果发生的概率是相同的,它对多次实验的独立性没有要求.而二项分布,要求单次实验的结果只有相互对立的两种可能,但是这两种可能结果的概率不做要求,同时它要求多次实验之间是互相独立...

虞喻陶2563一批产品中任意连续取出2件服从超几何分布还是二项分布 -
屈民喻13266976901 ______[答案] 应该是超几何分布 超几何分布是统计学上一种离散概率分布.它描述了由有限个物件中抽出n个物件,成功抽出指定种类的物件的次数(不归还). 二项分布即重复n次独立的伯努利试验.在每次试验中只有两种可能的结果,而且两种结果发生与否...

虞喻陶2563怎样区别二项分布和超几何分布 -
屈民喻13266976901 ______ 就一句话,一个是有放回抽取(二项分布),另一个是无放回抽取(超几何分布).具一个例子,20个小球里面有5个黑的,15个白的.从中抽取3次,有X个黑球.如果每次抽出都放回去,第二次再抽,就每次抽到黑球概率都是1/4,这一次与其他次...

虞喻陶2563几何分布是怎么样的分布? -
屈民喻13266976901 ______ 几何分布(Geometric distribution)是离散型机率分布.其中一种定义为:在第n次伯努利试验,才得到第一次成功的机率.详细的说,是:n次伯努利试验,前n-1次皆失败,第n次才成功的机率. 公式: 它分两种情况: 1. 得到1次成功而进行,n次伯努利实验,n的概率分布,取值范围为『1,2,3,...』; 2. m = n-1次失败,第n次成功,m的概率分布,取值范围为『0,1,2,3,...』. 由两种不同情况而得出的期望和方差如下: E(n) = 1/p, var(n) = (1-p)/p^2; E(m) = (1-p)/p, var(m) = (1-p)/p^2.

虞喻陶2563负二项分布描述的是多重伯努里试验中,发生确定次数成功试验所需要...
屈民喻13266976901 ______ 二项式定理,又称牛顿二项式定理,由艾萨克·牛顿于1664、1665年间提出.此定理指出:其中,二项式系数指...等号右边的多项式叫做二项展开式.二项展开式的通项公式为:...其i项系数可表示为:...,即n取i的组合数目.因此系数亦可表示...

虞喻陶2563什么是几何分布?如何形象理解几何分布? -
屈民喻13266976901 ______ 几何分布是离散型概率分布.其中一种定义为:在第n次伯努利试验中,试验k次才得到第一次成功的机率.详细的说,是:前k-1次皆失败,第k次成功的概率.

虞喻陶2563二项式分布和超几何分布期望的关系为什么有的超几何分布的期望值可以用二项分布期望公式来求值? -
屈民喻13266976901 ______[答案] 二项式分布是超几何分布的特例.若令从样本m中抽出的个体数目为n,那么: 当n=1时,此时的超几何分布就是伯努利分布; 当n->无穷大时,此时的超几何分布就是二项式分布.