TensorFlow构建机器学习项目

第5章　简单的前向神经网络

神经网络是Tensorflow最擅长的机器学习领域。TensorFlow拥有一套符号引擎，它使得训练复杂模型变得更简单和方便。通过这套符号引擎，我们能够实现许多的模型结构和算法。

本章中，我们处理的问题相对于之前的章节，输入变量的数目将会变多，也会变得更加复杂。我们将学习和掌握处理这类问题的方法。

本章中，我们将会覆盖以下内容：

① 神经网络的基本概念；

② 神经网络用于回归非线性合成函数；

③ 使用非线性回归预测汽车燃料效率；

④ 学习葡萄酒分类——一种多类分类。

5.1　基本概念

在正式地使用和建立神经网络之前，我们需要学习以下神经网络的基本概念，这对于我们后面的学习非常有用。

5.1.1　人工神经元

人工神经元就是使用一个数学函数来对生物的神经元建模。

简单来说，一个人工神经元就是接受一个或者多个输入（训练数据），对它们加和，并产生一个输出。一般来说，这里面的加和指的是加权求和（每个输入乘上权重，并加上一个偏差），然后将加和的输入传递给一个非线性函数（一般称作激活函数或者转移函数）。

1．最简单的人工神经元——感知器

感知器是实现人工神经元最简单的方法，它的历史可以追溯到20世纪50年代，在20世纪60年代的时候，首次被实现。

简单来说，感知器就是一个二元分类函数，它将输入映射到一个二元输出，如图5-1所示。

图5-1　单层感知器

2．感知器算法

简化版的感知器算法如下：

① 以一个随机分布初始化权值和偏差（通常比较小）；

② 选择一个输入向量，并将其放入神经网络中； ...