如果你跟上科技新闻，你可能会遇到神经网络（也称为神经网络）的概念。

例如，2016年，谷歌的AlphaGo神经网络以4比1击败了世界上最好的职业围棋选手之一。YouTube还宣布，他们将使用神经网络来更好地理解其视频。许多其他的故事可能会浮现在脑海中。

但究竟什么是神经网络？它是如何工作的？为什么它在机器学习中如此流行？

像大脑一样的计算机

现代神经科学家经常把大脑当作一种计算机来讨论。神经网络的目的恰恰相反：构建一台功能类似大脑的计算机。

当然，我们对大脑极其复杂的功能只有一个粗略的了解，但通过创建一个大脑处理数据的简化模拟，我们可以构建一种功能与标准计算机截然不同的计算机。

计算机处理器按顺序处理数据。它们对一组数据执行许多操作，一次一个。并行处理（“一次处理多个流”）通过使用多个处理器串联，大大加快了计算机的速度。

在下图中，并行处理示例需要五个不同的处理器：

人工神经网络（即所谓的区别于大脑中实际的神经网络）有着根本不同的结构。它是高度互联的。这使它能够非常快速地处理数据，从数据中学习，并更新自己的内部结构以提高性能。

然而，高度的相互联系产生了一些惊人的影响。例如，神经网络非常擅长识别数据中的模糊模式。

学习的能力

神经网络的学习能力是它最大的优点。在标准计算架构下，程序员必须开发一种算法，告诉计算机如何处理传入的数据，以确保计算机输出正确的响应。

输入-输出响应可以简单到“按下A键时，在屏幕上显示‘A’”，也可以复杂到执行复杂的统计。另一方面，神经网络不需要同样的算法。通过学习机制，他们基本上可以设计自己的算法来确保正确执行。

需要注意的是，由于神经网络是在使用标准串行处理硬件的机器上编写的软件程序，因此当前的技术仍然存在局限性。实际上，构建一个神经网络的硬件版本完全是另一个问题。

从神经元到节点

现在我们已经为神经网络的功能奠定了基础，我们可以开始研究一些细节了。人工神经网络的基本结构如下：

每个圆被称为一个“节点”，它模拟一个神经元。左边是输入节点，中间是隐藏节点，右边是输出节点。

在非常基本的术语中，输入节点接受输入值，可以是二进制1或0、RGB颜色值的一部分、棋子的状态或其他任何内容。这些节点表示流入网络的信息。

每个输入节点连接到多个隐藏节点（有时连接到每个隐藏节点，有时连接到子集）。输入节点获取给定的信息并将其传递给隐藏层。

例如，如果一个输入节点收到1，它可能会发送一个信号（用神经科学的说法是“fire”），如果收到0，它可能会保持休眠状态。每个隐藏节点都有一个阈值：如果它的所有总输入都达到某个值，它就会触发。

从突触到连接

每一个连接，相当于解剖上的突触，也被赋予了特定的权重，这使得网络能够更加强调特定节点的作用。举个例子：

如您所见，连接B的权重高于连接A和C的权重。假设隐藏节点4只有在接收到2或更大的总输入时才会触发。这意味着，如果1或3自己触发，那么4将不会被触发，但1和3一起将触发节点。节点2也可以通过连接B自己触发节点。

让我们以天气为例。假设你设计了一个简单的神经网络来确定是否应该有一个冬季风暴警报。

使用上述连接和权重，节点4可能仅在温度低于0华氏度且风速高于30英里/小时时才会触发，或者在降雪概率超过70%时才会触发。温度将被输入节点1，风将被输入节点3，而降雪的可能性将被输入节点2。现在节点4在确定要发送到输出层的信号时可以考虑所有这些。

总比简单的逻辑好

当然，这个函数可以通过简单的和/或逻辑门来实现。但是更复杂的神经网络，如下面的，能够进行更复杂的操作。

输出层节点的功能与隐藏层节点相同：输出节点对来自隐藏层的输入求和，如果达到某个值，输出节点就会触发并发送特定的信号。在处理结束时，输出层将发送一组指示输入结果的信号。

虽然上面显示的网络很简单，但深层神经网络可以有许多隐藏层和数百个节点。

纠错

到目前为止，这个过程相对简单。但神经网络真正闪耀的地方在于学习。大多数神经网络使用一种称为反向传播的过程，它通过网络向后发送信号。

在程序员部署一个神经网络之前，他们将其运行到一个训练阶段，在这个阶段，它接收一组具有已知结果的输入。例如，程序员可能会教神经网络识别图像。输入可以是一辆汽车的图片，正确的输出应该是单词“car”

程序员提供图像作为输入，并查看输出节点输出的内容。如果网络以“飞机”回应，程序员会告诉计算机这是不正确的。

然后网络对自己的连接进行调整，改变节点之间不同链接的权重。此操作由添加到网络中的特定学习算法引导。网络将继续调整连接权重，直到提供正确的输出。

这是一个简化，但神经网络可以学习高度复杂的操作使用类似的原则。

持续改进

即使在训练之后，反向传播仍在继续——这就是神经网络变得非常酷的地方。他们在使用的过程中不断学习，整合新的信息，调整不同连接的权重，在他们设计的任务中变得越来越有效和高效。

这可以像图像识别一样简单，也可以像玩围棋一样复杂。

这样，神经网络就不断地变化和改进。这可能会产生令人惊讶的效果，从而导致网络将程序员不想优先考虑的事情作为优先次序。

除了上述过程，也就是所谓的监督学习，还有另一种方法：无监督学习。

在这种情况下，神经网络接受一个输入并尝试在输出中准确地重新创建它，使用反向传播来更新它们的连接。这听起来像是一个徒劳无益的练习，但通过这种方式，网络学习提取有用的特征并概括这些特征以改进其模型。

深度问题

反向传播是一种非常有效的方法来教神经网络。。。当它们只有几层深的时候。随着隐藏层数量的增加，反向传播的有效性降低。这是深层网络的一个问题。使用反向传播，它们通常不比简单的网络更有效。

科学家们已经提出了许多解决这个问题的方法，其中的细节相当复杂，超出了本文的介绍范围。简单地说，这些解决方案中的许多都试图通过训练网络“压缩”数据来降低网络的复杂性。

为了做到这一点，网络学习提取输入的少量识别特征，最终提高计算效率。实际上，网络正在进行概括和抽象，这与人类学习的方式非常相似。

学习之后，网络可以删减它认为不太重要的节点和连接。这使得网络更加高效，学习变得更加容易。

神经网络应用

因此，神经网络模拟了大脑如何通过使用多层节点——输入、隐藏和输出——来学习，它们能够在有监督和无监督的情况下学习。复杂的网络能够进行抽象和概括，使它们更有效，学习能力更强。

我们能用这些迷人的系统做什么？

理论上，我们几乎可以用神经网络处理任何事情。而且你可能一直在使用它们而没有意识到。例如，它们在语音和视觉识别中非常常见，因为它们可以学会辨别声音或图像的共同特征。

因此，当你问Siri最近的加油站在哪里时，你的iPhone正在通过神经网络来理解你在说什么。也许还有另一种神经网络可以学习预测你可能会要求的事情。

自动驾驶汽车可能使用神经网络来处理视觉数据，从而遵循道路规则并避免碰撞。所有类型的机器人都可以受益于帮助他们学习高效完成任务的神经网络。电脑可以学习下棋、围棋和雅达利经典游戏。如果你曾经和聊天机器人交谈过，它很可能是在使用神经网络来提供适当的反应。

网络搜索可以从神经网络中获益匪浅，因为高效的并行处理模型可以快速地处理大量数据。神经网络还可以学习你的习惯，使你的搜索结果个性化，或者预测你在不久的将来要搜索什么。这种预测模型显然对营销人员（以及其他需要预测复杂人类行为的人）非常有价值。

图像识别、光学字符识别、股市预测、寻路、大数据处理、医疗成本分析、销售预测、电子游戏人工智能。。。可能性几乎是无穷无尽的。神经网络学习模式、进行归纳和成功预测行为的能力使其在无数情况下都很有价值。

神经网络的未来

神经网络已经从非常简单的模型发展到高度复杂的学习模拟。它们存在于我们的**、平板电脑中，运行着我们使用的许多网络服务。还有很多其他的机器学习系统。

但是神经网络，因为它们与人脑的相似性（以一种非常简单的方式），是最吸引人的部分。当我们继续开发和完善模型时，不知道它们能做什么。

你知道神经网络有什么有趣的用途吗？你自己有经验吗？你觉得这项技术最有趣的是什么？在下面的评论中分享你的想法！