大型语言模型 (LLM) 的最新突破引发了人们对人工智能 (AI) 领域的浓厚兴趣。 受欢迎程度的飙升导致许多人在这个快速扩张的行业中追求职业生涯。然而,一个经常被忽视的关键基础元素是人工神经元,它是人工神经网络的基石。 对人工神经元的透彻理解对于掌握这些网络的复杂性至关重要。本教程将解释人工神经元的功能,也称为逻辑回归。尽管人工神经元很简单,但事实证明它在解决各种分类问题方面非常有效,包括垃圾邮件检测、糖尿病预测和信用风险评估。
要充分理解这项技术,了解机器学习模型的分类至关重要。 机器学习是人工智能的一个子集,专注于开发能够自动学习和从数据中改进的系统。机器学习模型大致分为监督、无监督和强化学习模型。
监督模型从标记示例中学习。相比之下,无监督技术可以在不事先了解数据模式的情况下识别这些模式。 强化学习模型通过反复试验进行学习,并以奖励的形式接收反馈。
逻辑回归作为人工神经元的实现,属于监督学习的范畴。监督模型进一步分为分类和回归系统。
逻辑回归解释分类模型旨在识别给定输入的正确类别。例如,系统可能会分析一个人的财务数据以确定贷款资格。 另一个例子涉及根据动物的特征对动物进行分类(哺乳动物、爬行动物、鸟类等)。 另一方面,
回归模型根据输入数据预测数值。 使用金融数据预测通货膨胀率是金融领域的常见应用。
尽管有它的名字,逻辑回归是一种分类技术。 分类可以是二元的(两个类别,例如,是/否)或多类别(多个类别,例如,词性)。
为了区分逻辑回归和线性回归,让我们考虑使用两个输入的视觉表示(为了简单起见)。在线性回归中,目标是将一条线拟合到一组点,捕获总体趋势。
机器学习模型的分类。
然后使用这条线根据另一个轴值(3D 空间中的平面,更高维度的超平面)来预测一个轴值。
然而,逻辑回归旨在产生二元决策(是/否等)。 直线不足以达到此目的。 考虑根据工资确定贷款资格。 对该数据拟合一条线是有问题的。
线性回归示例。
然而,“S”形曲线提供了更有效的解决方案。 靠近曲线上部的点表示“是”,而靠近曲线下部的点表示“否”。 引入非线性将直线转变为曲线。
线性回归分类不足的说明。
逻辑函数引入了这种非线性。其公式为:
此函数具有几个关键属性:
证明“S”形曲线适合分类。
逻辑函数的图形表示。
可微分性允许计算曲线上任意点的斜率,这对于在训练期间调整模型至关重要。
逻辑函数中点的切线的图形表示。
让我们用贷款审批数据集来说明逻辑回归。 该数据集包含工资和贷款金额等特征,以及指示批准 (1) 或拒绝 (0) 的标签。 我们将使用一部分进行训练,另一部分用于测试。
数据集。
模型计算输入的加权和(工资和贷款金额)加上偏差项(Z)。 初始权重和偏差是随机的,并在训练过程中进行调整。
计算Z值的示例
sigmoid 函数然后将 Z 转换为概率 (0-1)。 值≥0.5被分类为“是”,并且
这个过程类似于生物神经元:输入(树突)、加权连接、求和、阈值(S形)和输出(轴突)。
逻辑回归计算流程的图形表示。
神经元
形式上,给定输入向量 x、权重向量 w 和偏差 b:
Z = wTx b
sigmoid 函数生成输出。
符号约定。
向量乘法。
sigmoid 函数在 Z 上的应用。
Python 实现如下所示,说明了计算和误差计算。 训练过程(权重调整)将在后续教程中介绍。
<code class="language-python">from math import exp def sigmoide(x): return 1 / (1 + exp(-x)) # Input X[0] Wage, x[1] Loan X = [[3,10],[1.5,11.8],[5.5,20.0],[3.5,15.2],[3.1,14.5], [7.6,15.5],[1.5,3.5],[6.9,8.5],[8.6,2.0],[7.66,3.5]] Y = [0 , 0 , 0 , 0 , 0 , 1 , 1 , 1 , 1, 1] m = len(X) w=[0.2,0.1] b=0.1 for j in range(m): z = X[j][0]*w[0]+X[j][1]*w[1]+b yhat = sigmoide(z) # Calculates error erro = yhat-Y[j] print(" Wage:{0:5.2f} Wage:{1:5.2f} Expected value:{2} ". format( X[j][0]*1000, X[j][1], Y[j])) print(" z:{0:2.3f} yhat:{1:2.3f} error:{2:2.3f}\n ".format( z, yhat, erro))</code>
逻辑回归的计算示例。
程序发出的输出。
本教程到此结束。 训练过程将在以后的文章中解释。
以上是人工神经元:人工智能的核心的详细内容。更多信息请关注PHP中文网其他相关文章!