人工神经网络

作者 : 开心源码 本文共555个字,预计阅读时间需要2分钟 发布时间: 2022-05-12 共275人阅读

人工神经网络(artificial neural network)是感知器(perceptron)和激活(activation)函数的集合,网络的隐藏层由多个感知器所组成,隐藏层提供非线性化,将输入层映射为低维的输出层。映射是累加输入层与权重的乘积,再加上偏移值。模型(model)就是网络结构的一律权重值(weight)和一律偏移值(bias)。

ANN

模型的训练过程,就是为了确定最合适的权重和偏移的值。在训练开始时,模型的值会被随机初始化。使用损失函数(loss function),比照训练的结果与真值(ground truth)的差异。根据损失值,在步骤中,参数不断地被调整。当损失值不能进一步下降时,训练被中止。在训练中,模型学习到数据的特征(feature)。特征是原始图像的笼统。

在通用的逼近定理(approximation theory)中,神经网络可以近似任何函数。隐藏层也可以被称之为全连接层(dense layer)。每一层都含有一个激活函数。层的数量取决于问题的难度。

反向传播:

  1. 随机初始化参数;
  2. 根据反向传播原理,链式求导,取得计算参数梯度的公式;
  3. 将其余参数,带入梯度公式,即w1的导数值,由其余参数w决定;
  4. 取得梯度值,再乘以学习率,下降的具体梯度值;
  5. 参数值,减去梯度值,完成梯度下降;

参考1、 参考2

说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » 人工神经网络

发表回复