神经网络：未来人工智能的摇篮还是另一种技术趋势？

在 JavaRush 的资料中，我们已经以某种方式触及了人工智能 (AI)、机器学习以及其他与 AI 相关的技术主题。特别是，我们已经讨论了人工智能与 Java 编程的关系，讨论了有关人工智能的神话和恐怖故事，并且在许多文章中我们提到了该领域使用的关键技术。 因此，我们认为现在是更深入地研究人工智能领域，并仔细研究现代人工智能和机器学习的真正基础技术——神经网络的好时机。即：神经网络的概念最初是如何起源的，这项技术是如何转变为当前状态的，人工神经网络与人脑神经元有何不同，它们是否真的知道如何学习，以及它们今天真正有能力做什么。

人工神经网络和人脑。相同的？

最初，计算机神经网络之所以得此名称，是因为其设计原理类似于人脑中的神经元系统。因此，人类大脑平均包含超过 1 亿个称为神经元的微小细胞。事实上，没有人确切知道人脑中实际上有多少个这样的细胞 - 估计范围从 50 到 5000 亿。每个神经元由一个带有许多所谓树突（细胞输入 - 将信息传输到细胞）的细胞体组成。 ）和一个轴突（细胞输出 - 从细胞传输信息）。神经元非常小，在一平方毫米的面积内可以放置大约一百个这样的细胞。在计算机内部，相当于神经元的是称为晶体管的微型开关器件。最新的现代微处理器（单芯片计算机）包含超过 300 亿个晶体管。即使是大约 20 年前创建的第一个奔腾微处理器，也将大约 5000 万个晶体管封装到面积仅为 25 毫米的集成电路中。事实上，专家表示，这就是计算机处理器和人脑神经元之间连接的终点，因为否则它们彼此非常不同，工作方式也完全不同。计算机晶体管以相对简单的串联电路连接，每个晶体管可以与另外两个或三个电路连接，而大脑中的神经元则以复杂的并联方式紧密连接。因此，科学家计算出每个神经元可以与其一万多个邻居连接。

什么是人工神经网络？

因此，计算机和大脑神经元之间最显着的结构差异在于它们的工作方式。神经网络背后的基本思想是以简化的形式模拟或建模大脑中许多互连神经元的操作。这使得神经网络能够做普通微处理器无法做的事情，即学习、识别模式并按照类似于人脑的原理做出决策。然而，需要强调的是，目前神经网络只是大脑神经元工作的简单软件模拟。 典型的神经网络包含数十到数百、数千甚至数百万个人工神经元（称为单元），排列在多层中。其中一些单元称为输入单元，负责从外界接收各种形式的信息，然后神经网络将尝试以其他方式学习、记忆和处理这些信息。其他单元（称为输出单元）位于网络的另一侧，负责网络如何与此信息交互。这两层之间是进行计算并构成神经网络大部分的其他单元。大多数神经网络都是互连的，这意味着每个单元都与两侧的其他单元分层连接。单元之间的连接由称为权重的数字表示。神经网络中的权重可以是正值（如果一个单元激活另一个单元）或负值（如果一个单元抑制或削弱另一个单元）。权重越高，一个单位对另一个单位的影响就越大。一个旨在解决简单问题的简单神经网络可能只包含三个基本层，如图所示。然而，在输入层和输出层之间可以有许多执行不同功能的不同层。结构更复杂（比上图所示）的神经网络称为深度神经网络，通常用于解决复杂问题。理论上，深度结构的使用允许神经网络将任何类型的输入数据映射到任何类型的输出数据，从而使其能够解决任何问题。然而，为此，神经网络将需要认真而漫长的“训练”，其中包括处理网络需要处理的数百万甚至数十亿个信息示例。

神经网络：一点历史

好吧，我们已经整理出了神经网络本质上的基本解释，现在我们可以退一步讨论一下理论，谈谈这项技术的历史以及它的出现时间。这可能会让很多人感到惊讶，但神经网络早在 70 多年前就出现在科学中了。这一概念最早由芝加哥大学的两名研究人员 Warren McCullough 和 Walter Pitts 于 1944 年提出，他们于 1952 年转到麻省理工学院，并在那里成立了第一个认知科学研究小组。直到 1969 年，神经网络实际上都是神经科学和计算机科学的一个主要研究领域。也就是说，这项作为现代人工智能系统基础的技术，用现代术语来说，已经被炒作了整整十年——从五十年代中期到六十年代末。据信，这种炒作的“杀手”是由两位计算机科学家——马文·明斯基和西摩·帕佩特——撰写的一本书，他们在工作中揭示了神经网络的所有局限性。事实上，早期的神经网络只有一两个可训练层。明斯基和帕珀特表明，这种简单的网络在数学上无法对复杂的现实世界现象进行建模。结果，人们对神经网络作为一项技术失去了兴趣很多年——整个七十年代和八十年代上半叶，客观上很少有人关注它们。直到 1986 年，随着一篇介绍反向传播概念的论文（一种训练深度神经网络的实用方法）的发表，人们的兴趣才重新燃起。由于反向传播，深度神经网络变得更加计算友好，但仍然需要大量的计算资源来运行。20 世纪 90 年代和 2000 年代的研究经常表明，复杂的神经网络在效率方面并没有产生预期的结果。结果，神经网络一度脱离了炒作浪潮，直到 2000 年代第二个十年才回归，这很大程度上是由于图形芯片计算能力的增强，使得深度神经网络比以前更高效地工作。整个科学中的这种周期性现象得到了很好的解释麻省理工学院教授托马索·波吉奥（Tomaso Poggio）：“有一种解释认为，科学思想的传播方式与病毒的传播方式大致相同。例如，流感病毒有五六种主要毒株，每种毒株大约每 25 年复发一次。人们被感染，产生免疫力，并在接下来的 25 年内免受感染。然后新一代出现并再次感染同一株病毒。在科学领域，人们爱上想法并为之努力直至精疲力尽，以至于他们以想法疲劳的形式产生免疫力。然后这个想法又被新一代科学家带回来了。” 鉴于神经网络和人工智能技术仍然是一项相当新且不发达的技术，围绕它的炒作可能很快就会再次开始减弱，直到再过几十年才会再次回归。

神经网络如何学习？

通常，信息以两种方式通过神经网络。当网络刚刚学习或训练后已经运行时，信息模式通过输入单元进入网络，输入单元启动隐藏单元层，隐藏单元依次进入输出单元。这种整体结构称为前馈网络。并非所有单位同时工作。每个单元接收来自左侧单元的传入数据，并将其乘以它所经过的连接的权重。每个单元都会以这种方式将其接收到的所有数据相加，在最简单的网络类型中，如果总和超过特定阈值，该单元就会激活与其连接的其他单元（右侧的单元）。任何神经网络能够学习的关键点之一是反馈。就像孩子需要由成人抚养一样，成人会告诉他什么是好，什么是坏，神经网络也需要反馈和指导。他们使用一种称为反向传播的训练方法。在这种方法中，网络将其产生的输出与应产生的输出进行比较，并使用这两个因素之间的差异来改变网络中单元之间连接的权重，从输出单元，通过中间单元到输入单元 -也就是说，反之亦然。随着时间的推移，反向传播迫使网络进行学习，将实际输出和估计输出之间的差异缩小到完全匹配的程度。

神经网络如何工作以及它们在哪里使用？

最后，让我们看一个例子来说明这种神经网络是如何工作的。一旦神经网络有足够的数据示例可供训练，它就会达到用户可以向其提供网络以前从未处理过的全新数据并从中获得所需结果的程度。例如，假设您训练神经网络来检测武器出现在安全摄像头视野范围内的某处。您可以通过向网络显示数百、数千甚至数万张不同类型武器（例如手枪和步枪）的图像来训练网络。在某个时候，您上传了一张以前从未向她展示过的新型武器的图像，例如枪。结果，网络根据一些基本标准（例如总体形状、是否存在手柄和枪托、是否存在扳机等）成功将该物体识别为武器。也就是说，神经网络根据许多“学习”的模式来确定图像中的武器。当然，同时这并不意味着神经网络可以像人一样查看新数据并独立做出决策。它以二进制代码的形式接收所有信息，并且每个输入单元（进入网络的信息）只能处于两个位置：开或关。因此，如果您使用同一示例训练神经网络来寻找武器，则信息将通过一组回答基本“是/否”问题的输入单元。例如，如：该对象是否有触发器？；有枪口吗？该物品是金属制成的吗？它的形状与手枪的形状相符吗？因此，对于一把枪，网络的响应将是：“是，是，是，否”或二进制代码的“1110”。当然，在真实的系统中会有更多这样的问题，但本质仍然是一样的：神经网络以二进制代码的形式接收数据，并在其帮助下学会区分必要的信息和不必要的信息。现在，了解了神经网络的基本机制，就很容易想象这项技术如何用于解决当今的各种问题。例如，一个典型的例子是使用神经网络来防止银行欺诈——当系统学会独立查找并立即阻止那些出于某种原因看起来可疑的转账时。或者，例如，将神经网络用于汽车或飞机的基本自动驾驶仪：当输入单元从不同的控制系统接收信息时，输出单元根据给定的航向调整驾驶模式。

结论

现在您会看到，神经网络是一种相对简单的整体技术，它确实使计算机和计算机系统向前迈进了一步，更加贴近人类。另一方面，很明显神经网络仍然不如人脑复杂和高效。因此，让我们庆幸的是，我们生来大脑中就内置了先进的神经网络，让我们更频繁地利用这种自然财富，例如，用于学习和自我完善。