深度学习：tf.keras实现模型搭建、模型训练和预测

在sklearn中，模型都是现成的。tf.Keras是一个神经网络库,我们需要根据数据和标签值构建神经网络。神经网络可以发现特征与标签之间的复杂关系。神经网络是一个高度结构化的图，其中包含一个或多个隐藏层。每个隐藏层都包含一个或多个神经元。神经网络有多种类别，该程序使用的是密集型神经网络，也称为全连接神经网络：一个层中的神经元将从上一层中的每个神经元获取输入连接。例如，图 2 显示了一个密集型神经网络，其中包含 1 个输入层、2 个隐藏层以及 1 个输出层，如下图所示：

上图 中的模型经过训练并馈送未标记的样本时，它会产生 3 个预测结果：相应鸢尾花属于指定品种的可能性。对于该示例，输出预测结果的总和是 1.0。该预测结果分解如下：山鸢尾为 0.02，变色鸢尾为 0.95，维吉尼亚鸢尾为 0.03。这意味着该模型预测某个无标签鸢尾花样本是变色鸢尾的概率为 95%。

TensorFlow tf.keras API 是创建模型和层的首选方式。通过该 API，您可以轻松地构建模型并进行实验，而将所有部分连接在一起的复杂工作则由 Keras 处理。

tf.keras.Sequential 模型是层的线性堆叠。该模型的构造函数会采用一系列层实例;在本示例中，采用的是 2 个密集层(分别包含 10 个节点)以及 1 个输出层(包含 3 个代表标签预测的节点)。第一个层的 input_shape 参数对应该数据集中的特征数量：

# 利用sequential方式构建模型model = Sequential([  # 隐藏层1，激活函数是relu,输入大小有input_shape指定  Dense(10, activation="relu", input_shape=(4,)),    # 隐藏层2，激活函数是relu  Dense(10, activation="relu"),  # 输出层  Dense(3,activation="softmax")])

通过model.summary可以查看模型的架构：

激活函数可决定层中每个节点的输出形状。这些非线性关系很重要，如果没有它们，模型将等同于单个层。激活函数有很多，但隐藏层通常使用 ReLU。

隐藏层和神经元的理想数量取决于问题和数据集。与机器学习的多个方面一样，选择最佳的神经网络形状需要一定的知识水平和实验基础。一般来说，增加隐藏层和神经元的数量通常会产生更强大的模型，而这需要更多数据才能有效地进行训练。

模型训练和预测

在训练和评估阶段，我们都需要计算模型的损失。这样可以衡量模型的预测结果与预期标签有多大偏差，也就是说，模型的效果有多差。我们希望尽可能减小或优化这个值，所以我们设置优化策略和损失函数，以及模型精度的计算方法：

# 设置模型的相关参数：优化器，损失函数和评价指标model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=["accuracy"])

接下来与在sklearn中相同，分别调用fit和predict方法进行预测即可。

# 模型训练：epochs,训练样本送入到网络中的次数，batch_size:每次训练的送入到网络中的样本个数model.fit(train_X, train_y_ohe, epochs=10, batch_size=1, verbose=1);

上述代码完成的是：

1. 迭代每个epoch。通过一次数据集即为一个epoch。

2. 在一个epoch中，遍历训练 Dataset 中的每个样本，并获取样本的特征 (x) 和标签 (y)。

3. 根据样本的特征进行预测，并比较预测结果和标签。衡量预测结果的不准确性，并使用所得的值计算模型的损失和梯度。

4. 使用 optimizer 更新模型的变量。

5. 对每个epoch重复执行以上步骤，直到模型训练完成。

训练过程展示如下：

Epoch 1/1075/75 [==============================] - 0s 616us/step - loss: 0.0585 - accuracy: 0.9733Epoch 2/1075/75 [==============================] - 0s 535us/step - loss: 0.0541 - accuracy: 0.9867Epoch 3/1075/75 [==============================] - 0s 545us/step - loss: 0.0650 - accuracy: 0.9733Epoch 4/1075/75 [==============================] - 0s 542us/step - loss: 0.0865 - accuracy: 0.9733Epoch 5/1075/75 [==============================] - 0s 510us/step - loss: 0.0607 - accuracy: 0.9733Epoch 6/1075/75 [==============================] - 0s 659us/step - loss: 0.0735 - accuracy: 0.9733Epoch 7/1075/75 [==============================] - 0s 497us/step - loss: 0.0691 - accuracy: 0.9600Epoch 8/1075/75 [==============================] - 0s 497us/step - loss: 0.0724 - accuracy: 0.9733Epoch 9/1075/75 [==============================] - 0s 493us/step - loss: 0.0645 - accuracy: 0.9600Epoch 10/1075/75 [==============================] - 0s 482us/step - loss: 0.0660 - accuracy: 0.9867

与sklearn中不同，对训练好的模型进行评估时，与sklearn.score方法对应的是tf.keras.evaluate()方法，返回的是损失函数和在compile模型时要求的指标:

# 计算模型的损失和准确率loss, accuracy = model.evaluate(test_X, test_y_ohe, verbose=1)print("Accuracy = {:.2f}".format(accuracy))

分类器的准确率为：

3/3 [==============================] - 0s 591us/step - loss: 0.1031 - accuracy: 0.9733Accuracy = 0.97

到此我们对tf.kears的使用有了一个基本的认知，在接下来的课程中会给大家解释神经网络以及在计算机视觉中的常用的CNN的使用。