文章插图
神经网络简介神经网络是深度学习系统的基石 。为了在深度学习方面取得成功,我们需要从回顾神经网络的基础知识开始,包括架构、神经网络算法等等 。
什么是神经网络?
神经网络技术起源于上世纪五、六十年代,当时叫感知机(perceptron),拥有输入层、输出层和一个隐含层
许多涉及智能、模式识别和物体检测的任务都极难自动化,但动物和幼儿似乎可以轻松自然地完成 。例如,小孩子如何学会区分校车和公交车之间的区别?我们自己的大脑是如何在不知不觉中每天下意识地执行复杂的识别任务的?我们是如何一眼就能区分猫与狗的?
我们每个人都包含一个现实生活中的生物神经网络,它与我们的神经系统相连——这个网络由大量相互连接的神经元(神经细胞)组成 。
“人工神经网络”是一种试图模仿我们神经系统中的神经连接的计算系统 。人工神经网络也被称为“神经网络”或“人工神经系统” 。通常缩写人工神经网络并将它们称为“ANN”或简称为“NN” 。
对于一个被视为神经网络的系统,它必须包含一个带标签的图结构,图中的每个节点都执行一些简单的计算 。从图论中,我们知道图由一组节点(即顶点)和一组将节点对连接在一起的连接(即边)组成 。在下图 中,我们可以看到此类 NN 图的示例 。
一个简单的神经网络架构 。输入呈现给网络 。每个连接通过网络中的两个隐藏层承载一个信号 。最后一个函数计算输出类标签 。
每个节点执行一个简单的计算 。然后,每个连接将信号(即计算的输出)从一个节点传送到另一个节点,用权重标记,指示信号被放大或减弱的程度 。一些连接具有放大信号的正权重,表明信号在进行分类时非常重要 。其他的具有负权重,降低了信号的强度,从而指定节点的输出在最终分类中不太重要 。我们称这样的系统为人工神经网络
人工模型
让我们首先看看一个基本的神经网络,它对输入执行简单的加权求和 。值x 1 、x 2和 x 3是我们 NN的输入,通常对应于我们设计矩阵中的单行(即数据点) 。常数值 1 是我们的偏差,假定已嵌入到设计矩阵中 。我们可以将这些输入视为神经网络的输入特征向量 。
一个简单的神经网络,它采用输入x和权重w的加权和 。这个加权和然后通过激活函数来确定神经元是否激活 。
在实践中,这些输入可以是用于以系统的、预定义的方式量化图像内容的向量(例如,颜色直方图、定向梯度直方图、局部二进制模式等) 。在深度学习的背景下,这些输入是图像本身的原始像素强度 。
每个x通过一个由w 1 , w 2 , …, w n组成的权重向量W连接到一个神经元,这意味着对于每个输入x,我们也有一个关联的权重w 。
最后,右侧的输出节点取加权和,应用激活函数f(用于确定神经元是否“触发”),并输出一个值 。以数学方式表达输出,通常会遇到以下三种形式:
? f ( w 1 x 1 + w 2 x 2 + … + w n x n )
? f (∑ n i =1 w i x i )
? 或者简单地说,f ( net ),其中net = ∑ n i =1 w i x i
不管输出值如何表达,我们只是对输入进行加权求和,然后应用激活函数f
激活函数
最简单的激活函数是感知器算法使用的“阶跃函数” 。
从上面的等式我们可以看出,这是一个非常简单的阈值函数 。如果加权和 ∑ n i =1 w i x i > 0,则输出 1,否则输出 0 。
沿x轴输入值,沿y轴绘制f ( net )的输出,我们可以看到为什么这个激活函数由此得名 。当net小于或等于零时,f的输出始终为零 。如果net大于零,则f将返回 1 。
以上关于本文的内容,仅作参考!温馨提示:如遇健康、疾病相关的问题,请您及时就医或请专业人士给予相关指导!
「四川龙网」www.sichuanlong.com小编还为您精选了以下内容,希望对您有所帮助:- 智能灶台怎么选? 智能灶台有哪些功能
- 3款手机配6000毫安大容量电池 大容量电池智能手机6000毫安
- 这款华为智能眼镜有点与众不同 华为智能眼镜对比
- 全新华为智能眼镜闪耀来袭 华为新款智能眼镜
- 这3款智能手机 这三款手机
- 什么是手机刷新率? fps是什么
- 简述vpn的工作原理 vpn原理是什么
- 简述计算机系统的组成 计算机系统由什么组成
- 辽宁招生考试之窗:李彦宏百度智能汽车正在研发当中,预计2023年和大家见面
- 70岁才学会使用智能手机 70岁老人用智能手机