单元,又称为节点或神经元,是神经网络的核心。每个单元接收一个或多个输入,将每个输入乘以一个权重,然后将加权输入与偏置值相加。接下来,该值将被输入到激活函数中。在神经网络中,单元的输出可以被发送给其他神经元。
多层感知器,又称为前馈神经网络,是目前使用最广泛且最简单的人工神经网络模型。它由多个层次相互连接而成,每一层都将输入特征与目标值进行连接。这种网络结构被称为“前馈”,是因为输入特征值在网络中以“前向”方式传递,每一层都会对特征值进行转换,直到最终输出与目标输出一致。
在前馈神经网络中,有三种类型的层。每个单元包含输入层中单个特征的观察值。如果有100个特征的观察,那么输入层就会有100个节点。输出层将隐藏层的输出转换为神经网络的有用值。为了实现二元分类,我们可以在输出层使用sigmoid函数,将输出缩放到0或1的类概率。隐藏层位于输入层和输出层之间,负责处理来自输入层的特征值。最后,输出层将它们转换成类似于目标类的值。
神经网络的参数通常初始化为小随机值,这些值可以来自高斯分布或正态均匀分布。损失函数被用来衡量网络的输出值与观察值之间的差异,通过网络馈送后的真实值进行比较。前向传播算法用于确定哪些参数对预测值和真实值之间的差异贡献最大。通过优化算法,每个权重根据确定的大小进行调整。
神经网络通过多次反复的前向传播和反向传播过程对训练数据中的每个观察值进行学习。每个观察值通过网络发送的次数被称为epoch,通常训练由多个epoch组成,以便迭代地调整参数。
以上是初步认识神经网络的详细内容。更多信息请关注PHP中文网其他相关文章!