R语言基于Keras的小数据集深度学习图像分类

By 图像处理, 大数据部落, 数理统计, 机器学习, 计算机科学与技术, , ,

必须使用非常少的数据训练图像分类模型是一种常见情况，如果您在专业环境中进行计算机视觉，则在实践中可能会遇到这种情况。

WeChat Tencent QQ email print

由Kaizong Ye，Coin Ge撰写

“少数”样本可以表示从几百到几万个图像的任何地方。


作为一个实际例子，我们将重点放在将图像分类为狗或猫的数据集中，其中包含4,000张猫狗图片（2,000只猫，2,000只狗）。我们将使用2,000张图片进行训练- 1,000张用于验证，1,000张用于测试。

可下载资源

     完整程序、数据和文档（word）

深度学习与小数据问题的相关性

您有时会听到深度学习仅在有大量数据可用时才有效。这部分是有效的：深度学习的一个基本特征是它可以自己在训练数据中找到有趣的特征，而不需要手动特征工程，这只有在有大量训练样例可用时才能实现。对于输入样本非常高维的问题（如图像）尤其如此。

让我们从数据开始吧。

下载数据

使用 Dogs vs. Cats数据集 。   

这里有些例子：

自适应网页宽度的 Youku 视频

视频

CNN（卷积神经网络）模型以及R语言实现

探索见解 ➜

去bilibili观看 ➜

探索更多视频 ➜

视频

神经网络正则化技术减少过拟合和R语言CNN卷积神经网络手写数字图像数据MNIST分类

探索见解 ➜

去bilibili观看 ➜

探索更多视频 ➜

该数据集包含25,000张狗和猫的图像（每类12,500张），543 MB  。下载并解压缩后，您将创建一个包含三个子集的新数据集：每个类包含1,000个样本的训练集，每个类500个样本的验证集，以及每个类500个样本的测试集。

以下是执行此操作的代码：

original\_dataset\_dir < - “〜/ Downloads / kaggle\_original\_data”
base\_dir < - “〜/ Downloads / cats\_and\_dogs\_small”dir.create（base_dir）
train\_dir < -  file.path（base\_dir，“train”）
dir.create（train_dir）
validation\_dir < -  file。 path（base\_dir，“validation”）

使用预训练的convnet

在小图像数据集上深入学习的一种常见且高效的方法是使用预训练网络。一个预训练的网络是一个先前在大型数据集上训练的已保存网络，通常是在大规模图像分类任务上。如果这个原始数据集足够大且足够通用，则预训练网络学习的特征的空间层次结构可以有效地充当视觉世界的通用模型，因此其特征可以证明对许多不同的计算机视觉问题有用，甚至虽然这些新问题可能涉及与原始任务完全不同的类。 

有两种方法可以使用预训练网络：特征提取和微调。 让我们从特征提取开始。

特征提取

特征提取包括使用先前网络学习的表示来从新样本中提取感兴趣的特征。然后，这些功能将通过一个新的分类器运行，该分类器从头开始训练。

为什么只重用卷积基数？您是否可以重复使用密集连接的分类器？一般来说，应该避免这样做。原因是卷积基础学习的表示可能更通用，因此更具可重用性 。

注意，由特定卷积层提取的表示的一般性（以及因此可重用性）的级别取决于模型中的层的深度。模型中较早出现的图层会提取局部的，高度通用的特征贴图（例如可视边缘，颜色和纹理），而较高层的图层会提取更抽象的概念（例如“猫耳朵”或“狗眼”） 。因此，如果您的新数据集与训练原始模型的数据集有很大不同，那么最好只使用模型的前几层来进行特征提取，而不是使用整个卷积基础。

让我们通过使用在ImageNet上训练的VGG16网络的卷积基础来实现这一点，从猫和狗图像中提取有趣的特征，然后在这些特征之上训练狗与猫的分类器。

让我们实例化VGG16模型。

 conv\_base < -  application\_vgg16（weights =“imagenet”，include\_top = FALSE，input\_shape = c（150,150,3））

将三个参数传递给函数：

  • weights 指定从中初始化模型的权重。
  • include_top“密集连接”是指在网络顶部包括（或不包括）密集连接的分类器。默认情况下，此密集连接的分类器对应于ImageNet的1,000个类。
  • input_shape是您将提供给网络的图像张量的形状。这个参数是可选的：如果你不传递它，网络将能够处理任何大小的输入。

它类似于你已经熟悉的简单的网络：

最受欢迎的见解

1.R语言实现CNN（卷积神经网络）模型进行回归

2.r语言实现拟合神经网络预测和结果可视化

3.python用遗传算法-神经网络-模糊逻辑控制算法对乐透分析

4.R语言结合新冠疫情COVID-19股票价格预测：ARIMA，KNN和神经网络时间序列分析

5.Python TensorFlow循环神经网络RNN-LSTM神经网络预测股票市场价格时间序列和MSE评估准确性

6.Matlab用深度学习长短期记忆（LSTM）神经网络对文本数据进行分类

7.用于NLP的seq2seq模型实例用Keras实现神经机器翻译

8.R语言用FNN-LSTM假近邻长短期记忆人工神经网络模型进行时间序列深度学习预测

9.Python用RNN循环神经网络：LSTM长期记忆、GRU门循环单元、回归和ARIMA对COVID-19新冠疫情新增人数时间序列预测

summary(conv_base)

Layer (type)                     Output Shape          Param #  
================================================================
input_1 (InputLayer)             (None, 150, 150, 3)   0       
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block1_conv1 (Convolution2D)     (None, 150, 150, 64)  1792     
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block1_conv2 (Convolution2D)     (None, 150, 150, 64)  36928    
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block1_pool (MaxPooling2D)       (None, 75, 75, 64)    0        
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block2_conv1 (Convolution2D)     (None, 75, 75, 128)   73856    
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block2_conv2 (Convolution2D)     (None, 75, 75, 128)   147584   
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block2_pool (MaxPooling2D)       (None, 37, 37, 128)   0        
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block3_conv1 (Convolution2D)     (None, 37, 37, 256)   295168   
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block3_conv2 (Convolution2D)     (None, 37, 37, 256)   590080   
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block3_conv3 (Convolution2D)     (None, 37, 37, 256)   590080   
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block3_pool (MaxPooling2D)       (None, 18, 18, 256)   0        
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block4_conv1 (Convolution2D)     (None, 18, 18, 512)   1180160  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block4_conv2 (Convolution2D)     (None, 18, 18, 512)   2359808  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block4_conv3 (Convolution2D)     (None, 18, 18, 512)   2359808  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block4_pool (MaxPooling2D)       (None, 9, 9, 512)     0        
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block5_conv1 (Convolution2D)     (None, 9, 9, 512)     2359808  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block5_conv2 (Convolution2D)     (None, 9, 9, 512)     2359808  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block5_conv3 (Convolution2D)     (None, 9, 9, 512)     2359808  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
block5_pool (MaxPooling2D)       (None, 4, 4, 512)     0        
================================================================
Total params: 14,714,688
Trainable params: 14,714,688
Non-trainable params: 0

此时，有两种方法可以继续：

  • 在数据集上运行卷积 。
  • conv_base通过在顶部添加密集层来扩展您的模型（） 。

在这篇文章中，我们将详细介绍第二种技术 。请注意， 只有在您可以访问GPU时才应该尝试 。

基于keras平台CNN神经网络模型的服装识别分析

阅读文章 ➜

 特征提取

由于模型的行为与图层类似，因此您可以像添加图层一样将模型（如conv_base）添加到顺序模型中。

model < -  keras\_model\_sequential（）％>％conv\_base％>％layer\_flatten（）％>％layer\_dense（ = 256，activation =“relu”）％>％layer\_dense（u its =  ，   “sigmoid”）

这就是模型现在的样子：

summary(model)

Layer (type)                     Output Shape          Param #  
================================================================
vgg16 (Model)                    (None, 4, 4, 512)     14714688                                     
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
flatten_1 (Flatten)              (None, 8192)          0        
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
dense_1 (Dense)                  (None, 256)           2097408  
\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_\_
dense_2 (Dense)                  (None, 1)             257      
================================================================
Total params: 16,812,353
Trainable params: 16,812,353
Non-trainable params: 0

随时关注您喜欢的主题

如您所见，VGG16的卷积基数有14,714,688个参数，非常大。 

在Keras中， 使用以下freeze_weights()函数冻结网络：

freeze\_weights（conv\_base）
length（model $ trainable_weights）

使用数据扩充

过度拟合是由于过多的样本需要学习，导致无法训练可以推广到新数据的模型。 

在Keras中，这可以通过配置对读取的图像执行的多个随机变换来完成，image\_data\_generator()。例如：

train\_datagen = image\_data\_generator（rescale = 1/255，  = 40，width\_shift\_range = 0.2，height\_shift\_range = 0.2，  = 0.2，zoom\_range = 0.2，horizo  = TRUE，fill_mode =“nearest”）

浏览一下这段代码：

  • rotation_range 是一个度数（0-180）的值，一个随机旋转图片的范围。
  • width\_shift并且height\_shift是在垂直或水平方向上随机平移图片的范围。
  • shear_range 用于随机应用剪切变换。
  • zoom_range 用于随机缩放图片内部。
  • horizontal_flip 用于水平地随机翻转一半图像 – 当没有水平不对称假设时相关（例如，真实世界的图片）。
  • fill_mode 是用于填充新创建的像素的策略，可以在旋转或宽度/高度偏移后出现。

现在我们可以使用图像数据生成器训练我们的模型：

model％>％compile（loss =“binary\_crossentropy”，optimizer = optimizer\_rmsprop（lr = 2e-5），metrics = c（“accuracy”））
history < -  model％>％fit\_generator（train\_generator，steps\_per\_epoch = 100，

绘制结果。 准确率达到约90％。

另一种广泛使用的模型重用技术，是对特征提取的补充，是微调 ，微调网络的步骤如下：

微调

  • 在已经训练过的基础网络上添加自定义网络。
  • 冻结基础网络。
  • 训练你添加的部分。
  • 解冻基础网络中的某些层。
  • 联合训练这些层和您添加的部分。

在进行特征提取时，您已经完成了前三个步骤。让我们继续第4步：您将解冻您的内容conv_base，然后冻结其中的各个图层。

现在您可以开始微调网络了。

model％>％compile（lo ropy”，optimizer = opt imizer_rmsprop（lr = 1e-5），metrics = c（“accuracy”））
his el％>％fit\_generator（train\_ g steps\_per\_epoch = 100，epochs = 100 ，validation\_data = validation\_genera tor，validation_steps = 50）

让我们绘制结果：

·

你可以看到准确度有6％的提升，从大约90％到高于96％。

您现在可以最终在测试数据上评估此模型：

test\_generator < -   （test\_dir，test\_datagen，target\_size = c（150,150），batch_size = 20，  =“binary”）

model％>％evaluate_generator（ ，steps = 50）
$ loss

\[1\] 0.2158171

 

$ acc

\[1\] 0.965

在这里，您可以获得96.5％的测试精度。 

可下载资源

关于作者

Kaizong Ye是拓端研究室（TRL）的研究员。在此对他对本文所作的贡献表示诚挚感谢，他在上海财经大学完成了统计学专业的硕士学位，专注人工智能领域。擅长Python.Matlab仿真、视觉处理、神经网络、数据分析。

本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。

​非常感谢您阅读本文，如需帮助请联系我们！

 
QQ在线咨询
售前咨询热线
15121130882
售后咨询热线
0571-63341498
微信扫一扫
关注拓端助手

关注有关新文章的微信公众号

永远不要错过任何见解。当新文章发表时，我们会通过微信公众号向您推送。

技术干货

最新洞察

This will close in 0 seconds