神经网络简介

开通VIP,畅享免费电子书等14项超值服

首页

好书

留言交流

下载APP

联系客服

2021.05.26

神经网络采用了一种仿生学的思想,通过模拟生物神经网络的结构和功能来实现建模。神经元细胞结构如下

在两侧分布着树突和轴突两种结构,树突用于接受其他神经元传递的信号,而轴突用于向其他神经元传递信号,信号在多个神经元之间传导,构成了神经网络。许许多多的神经元细胞构成了神经中枢,用于对刺激作出响应。

借鉴神经元这一生物结构,1943年MoCulloch和Pitts提出了人工神经元模型,即M-P神经元模型,结构如下

激活函数与线性组合的关系表示如下

其中的θ表示阈值,ω表示权重,在MP神经元模型中,权重和阈值是固定值,是一个不需要学习的模型。

为了让机器具备学习的能力,在MP神经元模型的基础上,提出了最早的神经网络模型,单层感知器perceptron,结构如下

是一个两层的神经网络,第一层为输入层,第二层为输出层。因为只有在输出层需要进行计算,就是说只有一层计算层,所以称之为单层感知器。从形式上看,仅仅是将MP模型中的输入信号当作了独立的一层神经元,但是本质上却有很大差别。

感知器模型中权重和阈值不再是固定的了,而是计算机"学习"出来的结果。引入了损失函数的概念,通过迭代不断调整权重和阈值,使得损失函数最小,以此来寻找最佳的权重和阈值。

单层感知器只可以解决线性可分的问题,在单层感知器的基础上,再引入一层神经元,构成一个3层的神经网络,结构如下

这样的一个神经网络模型,适用范围更广,涵盖了线性和非线性可分的场景。其中的每一层称之为layer,除了输出层和输出层之外,还有中间的隐藏层。这样的神经网络模型,通过反向传播算法来求解。

增加一层的好处在于更好的数据表示和函数拟合的能力,在3层的基础上,再引入更多的隐藏层,就变成了深度神经网络,图示如下

虽然耗费计算资源,但是深度学习的优点也很突出,相比机器学习,模型自动完成特征提取,不需要人工的特征工程,这一点对于高维数据的处理特别重要,二者的对比图如下

由输入层,隐藏层,输出层这3种典型结构组成的神经网络统称为前馈神经网络,通过反向传播算法来迭代更新参数。

除此之外,还有卷积神经网络,循环神经网络,生成对抗网络等多种变种,在计算机视觉,自然语言处理,图像生成等领域,各自发挥着重大作用。

THE END
1.有关循环神经网络的详细内容- 循环神经网络是一类用于处理序列数据的神经网络。与传统的前馈神经网络不同,RNN具有循环连接,能够对序列中的历史信息进行记忆和利用。它的神经元不仅接收当前输入,还接收来自上一时刻的隐藏状态作为输入,这种结构使得它在处理具有时间序列或序列依赖关系的数据时非常有效。 https://blog.csdn.net/m0_63243562/article/details/144358010
2.重磅!神经网络浅讲:从神经元到深度学习腾讯云开发者社区神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向–深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法,同时也可以更好地帮助你理解深度学习技术。 本文以一种简单的,循序的方式讲解神经网络。适合对神经网络了解不多的同学。本文对阅读没有一定的前提要求,但是懂一些机器学习基础会更https://cloud.tencent.com/developer/article/1055312
3.神经网络机器之心在机器学习和认知科学领域,这是一种模仿生物神经网络(动物的中枢系統,特别是大脑)的结构和功能的数学模型或计算模型,用于对函数进行估计或近似。 [描述来源:Wikipedia; URL:https://zh.wikipedia.org/zh-hans/%E4%BA%BA%E5%B7%A5%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C] https://www.jiqizhixin.com/graph/technologies/72b0bcc0-d8f9-4edd-919f-fa7c2560388c
4.神经网络除了基本单元的构造外,神经元模型中还有很多参数需要进行学习,如权重和偏置等。权重表示了神经元处理不同输入信号时的重要程度,而偏置则表示了神经元产生输出信号的难易程度,因此这些参数的学习和调整对神经网络的训练和预测精度具有极大的影响。 神经网络的结构 编辑本段 神经网络是由多个神经元(也称节点或单元)组成https://vebaike.com/doc-view-943.html
5.神经网络神经网络是一个由生物神经元组成的网络或电路,或者从现代意义上讲,是一个由人工神经元或节点组成的人工神经网络。因此,一个神经网络要么是由生物神经元组成的生物神经网络,要么是用于解决人工智能(AI)问题的人工神经网络。生物神经元的连接在人工神经网络中被建模为节点之间的权重。正的权重反映了兴奋性连接,而负值https://vibaike.com/176101/
6.什么是神经网络?神经网络完整指南Elastic您可以使用矢量数据库、文本分类、数据注释、PyTorch和 Hugging Face 等一系列工具,为数据集训练模型,从而构建支持强大 AI 和 Machine Learning 的搜索体验。 神经网络资源 将Elasticsearch 与神经网络相结合识别个人数据 Machine Learning 指南 Elasticsearch 入门https://www.elastic.co/cn/what-is/neural-network
7.一文搞懂神经网络人工智能是这几年非常火的技术,上至九十九下至刚会走都对人工智能或多或少的了解。神经网络是人工智能的核心,也就是说没有神经网络就没有人工智能,那么这篇文章就带大家学习一下神经网络相关的知识。这篇文章没有数学公式、没有代码,旨在帮助读者快速掌握神经网络的核心知识。 https://www.51cto.com/article/606086.html
8.神经网络(豆瓣)写影评 分享到 推荐 神经网络的剧情简介· ··· 《神经网络》讲述的是一位卧底潜入毒品犯罪集团的惊险故事。警察局在获得情报后追踪一个大犯罪集团,毒贩中的卧底冒着生命危险配合行动,最后却被陷害牺牲。 神经网络的图片· ···(添加图片)https://movie.douban.com/subject/25863069/
9.神经网络(NeuralNetwork)③ 偏置的大小度量了神经元产生激励(激活)的难易程度。 二. 激活函数 1.概念 (1)定义:也称为转换函数,是一种将输入 (input) 转成输出 (output) 的函数。 (2)作用:一般直线拟合的精确度要比曲线差很多,引入激活函数能给神经网络增加一些非线性的特性。 https://www.jianshu.com/p/bcf32f779972
10.什么是神经网络?神经网络的类型CloudflareAcme 公司会计部的运作方式有点像神经网络。员工提交费用报告就好比是神经网络的输入层。每个经理和总监就好比是神经网络中的一个节点。 就像一位会计经理在将费用报告交给会计主管之前,可能会请另一位经理协助解读报告一样,神经网络也可以用多种方式构建。节点可进行多向通信。 有哪些类型的神经网络? 神经网络的节点https://www.cloudflare-cn.com/learning/ai/what-is-neural-network/