1. 概览
在本实验中，您将学习如何构建 Keras 分类器。我们并不尝试找出神经网络层的完美组合来识别花卉，而是首先使用一种名为迁移学习的技术使强大的预训练模型适应我们的数据集。
本实验包含有关神经网络的必要理论说明，是开发者学习深度学习的好起点。
本实验是“Keras on TPU”系列的第 2 部分。您可以按以下顺序执行这些操作，也可以单独执行这些操作。
- TPU 速度数据流水线：tf.data.Dataset 和 TFRecords
- [本实验] 您的第一个 Keras 模型，包含迁移学习功能
- 包含 Keras 和 TPU 的卷积神经网络
- 现代卷积神经网络、squeezenet、Xception 以及 Keras 和 TPU
学习内容
- 使用 softmax 层和交叉熵损失构建您自己的 Keras 图像分类器
- 如需作弊 😈，请使用迁移学习，而不是构建自己的模型。
反馈
如果您发现此 Codelab 中存在错误，请告诉我们。您可以通过 GitHub 问题 [反馈链接] 提供反馈。
2. Google Colaboratory 快速入门
本实验使用 Google 协作工具，您无需进行任何设置。Colaboratory 是一个用于教育目的的在线笔记本平台。它提供免费的 CPU、GPU 和 TPU 训练。
您可以打开此示例笔记本并运行几个单元，以熟悉 Colaboratory。
选择 TPU 后端
在 Colab 菜单中，依次选择运行时 > 更改运行时类型，然后选择 TPU。在此 Codelab 中，您将使用一个支持硬件加速训练的强大 TPU（张量处理单元）。首次执行时会自动连接到运行时，您也可以使用右上角的“Connect”（连接）按钮。
笔记本执行
通过点击单元格并使用 Shift-ENTER 一次执行一个单元格。您还可以依次选择 Runtime > Run all 来运行整个笔记本
目录
所有笔记本都有一个目录。您可以使用左侧的黑色箭头打开该菜单。
隐藏单元格
部分单元格将仅显示标题。这是 Colab 特有的笔记本功能。您可以双击它们查看内部代码，但通常这些代码并不太有趣。通常是支持函数或可视化函数。您仍然需要运行这些单元格，才能定义其中的函数。
Authentication
如果您使用已获授权的账号进行身份验证，则 Colab 可以访问您的私有 Google Cloud Storage 存储分区。上述代码段将触发身份验证流程。
3. [INFO] 神经网络分类器 101
简要说明
如果你已经知道下一段落中以粗体显示的所有术语，可以接着进行下一个练习。如果您刚刚开始接触深度学习，欢迎继续阅读。
对于以一系列层构建的模型，Keras 提供了 Sequential API。例如，使用三个密集层的图片分类器可在 Keras 中编写为：
model = tf.keras.Sequential([
tf.keras.layers.Flatten(input_shape=[192, 192, 3]),
tf.keras.layers.Dense(500, activation="relu"),
tf.keras.layers.Dense(50, activation="relu"),
tf.keras.layers.Dense(5, activation='softmax') # classifying into 5 classes
])
# this configures the training of the model. Keras calls it "compiling" the model.
model.compile(
optimizer='adam',
loss= 'categorical_crossentropy',
metrics=['accuracy']) # % of correct answers
# train the model
model.fit(dataset, ... )
密集神经网络
这是用于对图像进行分类的最简单的神经网络。它由层层排列的“神经元”组成。第一层会处理输入数据，并将其输出馈送到其他层。之所以称为“密集”，是因为每个神经元都与前一层中的所有神经元相连。
您可以将图片的所有像素的 RGB 值展平为一个长向量，并将其用作输入，以便将图片馈送到此类网络。这并不是图片识别的最佳技术，但我们日后会对其进行改进。
中子、激活、RELU
“神经元”会计算其所有输入的加权和，添加一个名为“偏差”的值，并通过所谓的“激活函数”馈送结果。权重和偏差一开始是未知的。它们会随机初始化，并通过大量已知数据训练神经网络“学习”。
最常用的激活函数称为 RELU（修正线性单元）。如上图所示，这是一个非常简单的函数。
Softmax 激活
上述网络以 5 神经元层结尾，因为我们将花卉分为 5 类（玫瑰、郁金香、蒲公英、雏菊、向日葵）。中间层中的神经元使用传统的 RELU 激活函数进行激活。不过，在最后一层，我们希望计算介于 0 到 1 之间的数字，表示这朵花是玫瑰、郁金香等的概率。为此，我们将使用一个名为“softmax”的激活函数。
对向量应用 Softmax 的方法是取每个元素的指数，然后对向量进行归一化，通常使用 L1 范数（绝对值总和），使值加起来为 1，并且可以解释为概率。
交叉熵损失
现在，我们的神经网络可以根据输入图像生成预测结果，我们需要衡量这些结果的准确性，即网络告诉我们的结果与正确答案（通常称为“标签”）之间的距离。请注意，我们为数据集中的所有图片都提供了正确的标签。
任何距离都可以，但对于分类问题，所谓的“交叉熵距离”是最有效的。我们将其称为错误或“损失”函数：
梯度下降法
对神经网络进行“训练”实际上是指使用训练图片和标签来调整权重和偏差，以最大限度地减少交叉熵损失函数。具体流程如下。
交叉熵是训练图片的权重、偏差、像素及其已知类别的函数。
如果我们计算交叉熵相对于所有权重和所有偏差的偏导数，则会得到一个“梯度”，该梯度是针对给定图像、标签以及权重和偏差的当前值计算得出的。请记住，我们可以有数百万个权重和偏差，因此计算梯度声就像是大量的工作。幸运的是，Tensorflow 会为我们完成这项工作。渐变的数学属性是它指向“向上”。由于我们希望找到交叉熵较低的位置，因此我们会朝相反的方向移动。我们以梯度的分数更新权重和偏差。然后，我们在训练循环中使用下一批训练图片和标签重复执行相同的操作。我们希望这可以收敛到交叉熵极低的位置，但无法保证此最小值是唯一的。
小批量和动量
您可以仅对一张样本图片计算梯度，并立即更新权重和偏差，但对一批 128 张图片（例如 128 张图片）执行此操作将产生一个梯度，该梯度可以更好地表示不同样本图片施加的限制，因此可能会更快地收敛于解决方案。小批次的大小是一个可调节的参数。
这种技术有时也称为“随机梯度下降”，还有一个更实用的优势：处理批处理也意味着处理更大的矩阵，而这些矩阵通常更容易在 GPU 和 TPU 上进行优化。
不过，收敛过程可能仍然有些混乱，如果梯度矢量全为零，收敛过程甚至可能会停止。这是否意味着我们找到了最小值？不一定。在最小值或最大值处，梯度分量可以为零。如果梯度矢量包含数百万个元素，并且这些元素全为零，那么每个零对应于最小值且没有任何零对应于最大值的概率非常小。在具有很多维度的空间中，马鞍点很常见，我们不想就此止步。
插图：鞍点。梯度为 0，但并非在所有方向上的最小值。（图片出处 维基媒体：Nicoguaro - 自创内容，CC BY 3.0）
解决方法是向优化算法添加一些动量，以便它能够不停顿地越过鞍点。
术语库
batch 或 mini-batch：始终对批量训练数据和标签执行训练。这样做有助于算法收敛。“批次”维度通常是数据张量的第一个维度。例如，形状为 [100, 192, 192, 3] 的张量包含 100 张 192x192 像素的图片，每个像素有三个值 (RGB)。
交叉熵损失：分类器中常用的一种特殊损失函数。
密集层：一层神经元，其中每个神经元都连接到前一层中的所有神经元。
特征：神经网络的输入有时称为“特征”。确定要将数据集的哪些部分（或部分组合）输入神经网络以获得良好预测结果的艺术称为“特征工程”。
标签：监督式分类问题中“类别”或正确答案的别名
学习速率：在训练循环的每次迭代中用于更新权重和偏差的梯度的一部分。
logits：在应用激活函数之前，一层神经元的输出称为“logits”。该术语源自“逻辑函数”（也称为“sigmoid 函数”），该函数曾经是最流行的激活函数。“逻辑函数之前的神经元输出”已缩写为“logits”。
loss：用于将神经网络输出与正确答案进行比较的误差函数
神经元：计算其输入的加权和，添加偏差，并通过激活函数馈送结果。
one-hot 编码：第 3 个类（占 5 个类中的 3 个）编码为 5 个元素的矢量，其中除了第 3 个元素为 1 之外，所有元素均为 0。
relu：修正线性单元。一种热门的神经元激活函数。
S 型函数：另一种过去很流行的激活函数，在特殊情况下仍然有用。
softmax：一个作用于向量的特殊激活函数，用于增大最大分量与所有其他分量之间的差值，并将此向量归一化，使其总和为 1，以便将其解释为概率向量。用作分类器中的最后一步。
张量：“张量”类似于矩阵，但具有任意数量的维度。一维张量是向量。二维张量就是一个矩阵。然后，您可以得到具有 3 个、4 个、5 个或更多维度的张量。
4. 迁移学习
对于图像分类问题，密集层可能不够用。我们必须了解卷积层以及排列卷积层的多种方式。
不过，我们也可以走捷径！有经过全面训练的卷积神经网络可供下载。您可以截断其最后一层（softmax 分类头），并将其替换为您自己的分类头。所有训练好的权重和偏差保持不变，您只需重新训练添加的 softmax 层。这种技术称为“迁移学习”，令人惊奇的是，只要神经网络的预训练数据集与您的数据集“足够接近”，这种方法就能发挥作用。
动手实践
请打开以下笔记本，执行单元格 (Shift-ENTER)，然后按照显示“需要完成的工作”标签处的说明操作。
Keras Flowers transfer learning (playground).ipynb
其他信息
借助迁移学习，您可以同时受益于顶尖研究人员开发的先进卷积神经网络架构，以及在庞大的图像数据集上进行的预训练。在本例中，我们将从在 ImageNet 上训练的网络中进行迁移学习。ImageNet 是一个图片数据库，其中包含许多植物和户外场景图片，这些图片与花卉非常接近。
示例：将已训练的复杂卷积神经网络用作黑盒，仅重新训练分类头。这是迁移学习。我们稍后将了解这些复杂的卷积层排列方式的运作方式。目前，这是其他人的责任。
Keras 中的迁移学习
在 Keras 中，您可以将 tf.keras.applications.* 集合中的预训练模型实例化。例如，MobileNet V2 是一种非常出色的卷积架构，其大小保持在合理范围内。选择 include_top=False 后，您将获得不含最终 softmax 层的预训练模型，以便您添加自己的 softmax 层：
pretrained_model = tf.keras.applications.MobileNetV2(input_shape=[*IMAGE_SIZE, 3], include_top=False)
pretrained_model.trainable = False
model = tf.keras.Sequential([
pretrained_model,
tf.keras.layers.Flatten(),
tf.keras.layers.Dense(5, activation='softmax')
])
另请注意 pretrained_model.trainable = False 设置。它会冻结预训练模型的权重和偏差，以便您仅训练 softmax 层。这通常涉及的权重相对较少，并且可以快速完成，而无需非常庞大的数据集。不过，如果您有大量数据，pretrained_model.trainable = True 可以让迁移学习效果更出色。然后，预训练的权重会提供出色的初始值，并且仍然可以通过训练进行调整，从而更好地拟合您的问题。
最后，请注意在密集 softmax 层之前插入的 Flatten() 层。稠密层适用于扁平数据矢量，但我们不知道预训练模型是否会返回这种数据。因此，我们需要进行扁平化。在下一章中，我们将深入探讨卷积架构，并介绍卷积层返回的数据格式。
使用这种方法，准确率应该接近 75%。
解决方案
以下是解决方案笔记本。如果您遇到困难，可以使用它。
Keras Flowers transfer learning (solution).ipynb
所学内容
- 🤔? 如何在 Keras 中编写分类器
- 🤓? 配置了 softmax 最后一层和交叉熵损失
- 😈? 迁移学习
- 🤔? 训练您的首个模型
- 🧐 跟踪训练期间的损失和准确率
请花点时间回想一下这份核对清单。
5. 恭喜！
现在，您可以构建 Keras 模型了。请继续完成下一个实验，了解如何组建卷积层。
- TPU 速度数据流水线：tf.data.Dataset 和 TFRecords
- [本实验] 您的第一个 Keras 模型，包含迁移学习功能
- 包含 Keras 和 TPU 的卷积神经网络
- 现代卷积神经网络、squeezenet、Xception 以及 Keras 和 TPU
实际使用 TPU
TPU 和 GPU 可在 Cloud AI Platform 上使用：
- 在 Deep Learning VM 上
- 在 AI Platform Notebooks 中
- 在 AI Platform Training 作业中
最后，我们非常欢迎您提供反馈。如果您发现此实验存在任何问题或认为有待改进，请告诉我们。您可以通过 GitHub 问题 [ feedback link] 提供反馈。
|
