全连接层

全连接层位于模型的最后部分，用于将特征图展平并输出分类结果。本研究在全连接层中使用了softmax函数进行多分类任务。

普通CNN和VGG16结果对比

本研究对比了普通CNN与VGG16在肿瘤识别任务上的表现。实验结果表明，VGG16模型在准确率等评估指标上均优于普通CNN模型。此外，通过调整模型的超参数和优化算法，可以进一步提高VGG16模型的性能。

可下载资源

1 软件包的下载和安装

1.1 下载 keras

我们可以通过CRAN调用install.packages(“keras”)来获得。

默认和推荐的后端是TensorFlow。通过调用install_keras()，它将为TensorFlow安装所有需要的依赖项。下面的单元格需要一分钟左右的时间来运行。

2.2 训练和测试数据集

MNIST数据集的数据结构简单明了，有两块。(1) 训练集：x（即特征）：60000x28x28张量，对应于60000张28×28像素的图像，采用灰度表示（即每个28×28矩阵中所有的值都是0到255之间的整数），y（即因变量）：一个长度为60000的向量，包含相应的数字，整数值在0到9之间。(2) 测试集：与训练集相同，但只有10000个图像和因变量。数据集的详细结构可以通过下面的str(mnist)看到。

str(mnist)

这里是上述图像的原始28×28矩阵。

input_matrix

3 卷积神经网络模型

在本节中，我们将展示如何使用卷积神经网络（CNN）对MNIST手写数据集进行分类，将图像分为数字。这与我们之前学习的问题完全相同，但CNN是一种比一般的深度神经网络更好的图像识别深度学习方法。CNN利用了二维图像中相邻像素之间的关系来获得更好的性能。它还避免了为全彩的高分辨率图像生成数千或数百万的特征。

3.1 数据集导入和参数设置

现在让我们再次从头开始导入MNIST数据集，因为我们已经专门为深度神经网络模型做了一些预处理。对于CNN，有不同的预处理步骤。我们还定义了一些以后要使用的参数。

#加载mnist数据的训练和测试数据集
x_train <- train$x
y_train <- train$y
x_test <- test$x
y_test <- test$y

这里是重塑图像的结构，第一维是图像索引，第2-4维是一个三维张量，尽管只有一个通道。

str(x_train)

3.2.2 标准化

与DNN模型一样，为了在优化过程中同样考虑数值的稳定性，我们将输入值标准化为0和1之间。

x\_train <- x\_train / 255
x\_test <- x\_test / 255

3.2.3 将因变量转换为分类变量

与DNN模型一样，因变量被转换为分类变量。

#将类向量转换为二进制类矩阵
to_categorical(train, numclass)

3.3 构建一个CNN模型

正如我们所讨论的，CNN模型包含一系列二维卷积层，其中有几个参数。(1)kernal\_size，通常是3×3或5×5；(2)过滤器的数量，对应于输出张量中的通道数量（即第三维）；(3)激活函数。对于第一层，还有一个input\_shape参数，即输入图像的尺寸和通道。为了防止过度拟合和加快计算速度，通常在一个或几个二维卷积层之后应用一个池化层。一个典型的池化层将2×2池大小的最大值作为输出的新值，这基本上是将大小减少到一半。除了池化邻居值之外，也可以使用Dropout。

3.3.1 定义一个CNN模型结构

现在我们定义一个CNN模型，其中有两个带有最大池的二维卷积层，第2层带有附加滤波以防止过拟合。然后将输出扁平化，并使用两个密集层连接到图像的类别。

#定义模型结构 
  conv_2d(filters = 32,size = c(3,3)) %>% 
  max\_pooling\_2d(size = c(2, 2)) %>% 
  conv_2d(filters = 64, size = c(3,3),  'relu') %>% 
  max_pooling(size = c(2, 2)) %>% 
  dropout(rate = 0.25) %>% 
  layer_flatten() %>%

summary(model)

3.3.2  编译模型

# 训练模型
fit(
  x\_train, y\_train,
  validation_split = 0.2
)

plot(cnn)

可以在测试数据集上评估训练后的模型准确性，这是很好的。

 evaluate(x\_test, y\_test)

3.4 模型预测

对于任何新的图像，在经过同样的预处理后，我们可以用训练好的模型来预测该图像属于哪一个数字。

#
# 模型预测

 
              predict\_classes(x\_test)

3.5 检查误判的图像

现在让我们检查几张被误判的图像，看看是否能比这个简单的CNN模型做得更好。

## 错分类图像的数量
sum(cnn_pred != testy)

x\[cnn_pred != test$y,\]
y\[cnn_pred !=test$y\]
cnn\_pred\[cnn\_pred !=test$y\]

index_image = 6 ## 改变这个索引以看到不同的图像。
image(1:28,  output_matrix

您可能知道，“ medv”是波士顿住房数据集中的y数据输出，它是其中的最后一列。其余列是x输入数据。
检查维度。
 

dim(xtrain)
[1] 432  13
 

dim(ytrain)
[1] 432   1

定义和拟合模型

我们定义Keras模型，添加一维卷积层。输入形状变为上面定义的（13,1）。我们添加Flatten和Dense层，并使用“ Adam”优化器对其进行编译。

 
 
model %>% summary()
________________________________________________________________________
Layer (type)                    Output Shape                  Param #    
========================================================================
conv1d_2 (Conv1D)               (None, 12, 64)                192        
________________________________________________________________________
flatten_2 (Flatten)             (None, 768)                   0          
________________________________________________________________________
dense_3 (Dense)                 (None, 32)                    24608      
________________________________________________________________________
dense_4 (Dense)                 (None, 1)                     33         
========================================================================
Total params: 24,833
Trainable params: 24,833
Non-trainable params: 0
________________________________________________________________________
 
​

 
print(scores)
    loss 
24.20518

预测和可视化结果

现在，我们可以使用训练的模型来预测测试数据。

最后，我们将在图表中可视化结果检查误差。
 

x_axes = seq(1:length(ypred))
 
lines(x_axes, ypred, col = "red", type = "l", lwd = 2)
legend("topl

  在本教程中，我们简要学习了如何使用R中的keras CNN模型拟合和预测回归数据。

可下载资源

与传统的多层感知器架构不同，它使用两个称为 convolution 和 pooling 的操作将图像简化为其基本特征，并使用这些特征来理解和分类图像。

卷积通过使用输入数据的小方块学习图像特征来保留像素之间的关系。这是一个数学运算，需要两个输入，例如 image matrix 和 filter 或 kernel。然后图像矩阵的卷积乘以过滤器矩阵，称为 Feature Map。

Maxout：Maxout 激活是 ReLU 和leaky ReLU 函数的泛化。

ELU:Exponential Linear Unit 或简称ELU，也是Rectiufied Linear Unit (ReLU)的一种变体。与leaky relu和parametric ReLU函数不同，ELU不是直线，而是使用对数曲线来定义负值。

填充

padding 意味着在数据的边界处提供额外的像素。有时过滤器不能完全适合输入图像，那么我们将使用填充。

我们有两个选择：

• 用零填充图片（零填充），使其适合
• 删除过滤器不适合的图像部分。这称为有效填充，它只保留图像的有效部分。

池化层

A pooling layer 是在卷积层之后添加的新层。具体来说，在对卷积层输出的特征图应用非线性（例如 ReLU）之后；

当图像太大时，池化层部分会减少参数的数量。 Spatial pooling 也称为 subsampling 或 downsampling 减少每个地图的维数但保留重要信息。

空间池可以有不同的类型：

• 最大池化
• 平均池化

Max pooling 从校正后的特征图中取最大元素。计算特征图上每个补丁的平均值称为 average pooling。特征图调用中每个补丁的所有元素的总和为 sum pooling.

下载数据和模型构建

该 数据集包含 60,000 张彩色图像 10 classes，每个类别有 6,000 张图像。数据集分为 50,000 张训练图像和 10,000 张测试图像。这些类是互斥的，它们之间没有重叠。

X\_train = X\_train/255
X\_test = X\_test/255
X\_train.shape, X\_test.shape

验证数据

plt.imshow(X_test\[0\])

y_test

构建 CNN 模型

下面的 8 行代码使用一个通用模式定义了卷积基：一堆 Conv2D 、MaxPooling2D  、 Dropout和Flatten 层 Dense 。

model.add(Flatten())
model.add(Dense(units = 128, activation='relu'))
model.add(Dense(units=10, activation='softmax'))
model.summary()

编译和训练模型

这是 compiling 模型和 fitting 训练数据。我们将使用 10 epochs 来训练模型。一个时期是对所提供的整个数据的迭代。  是在每个 epoch 结束时validation_data 评估和任何模型指标的 数据。loss模型不会根据这些数据进行训练。由于指标 = ['sparse_categorical_accuracy'] 模型将基于 accuracy.

history = model.fit(X_train

我们现在将绘制 model accuracy and  model loss。在模型准确度中，我们将绘制训练准确度和验证准确度，在模型损失中，我们将绘制训练损失和验证损失。

# 绘制训练和验证的准确值
epoch_range = range(1, 11)
plt.plot(epoch\_range, history.history\['sparse\_categorical_accuracy'\])


# 绘制训练和验证的损失值
plt.plot(epoch_range, history.history\['loss'\])

y\_pred = model.predict\_classes(X_test)


confusion_matrix
mat

plot

结论：

在本教程中，我们训练了简单的卷积神经网络 (CNN) 来对 图像进行分类。从学习曲线图中我们观察到，在 3 个 epoch 之后，验证准确度低于训练集准确度，即我们的模型是过拟合，这意味着我们增加了模型的复杂性。还使用混淆矩阵评估模型。观察到该模型对鸟、猫、鹿、狗等标签的预测精度较低。