Python深度学习pytorch神经网络汇聚层理解

作者:Supre_yuan 时间:2022-08-05 11:57:15 

我们的机器学习任务通常会跟全局图像的问题有关(例如,“图像是否包含一只猫呢?”),所以我们最后一层的神经元应该对整个输入的全局敏感。通过逐渐聚合信息,生成越来越粗糙的映射,最终实现学习全局表示的目标,同时将卷积图层的所有有时保留在中间层。

此外,当检测较底层的特征时(例如之前讨论的边缘),我们通常希望这些特征保持某种程度上的平移不变性。例如,如果我们拍摄黑白之间轮廓清晰的图像X,并将整个图像向右移动一个像素,即Z[i, j] = X[i, j+1],则新图像Z的输出可能大不相同。而在现实中,随着拍摄角度的移动,任何物体几乎不可能发生在同一像素上。即使用三脚架拍摄一个静止的物体,由于快门的移动而引起的相机振动,可能会使所有物体左右移动一个像素(除了高端相机配备了特殊功能来解决这个问题)。

本节将介绍池化(pooling)层,它具有双重目的:降低卷积层对位置的敏感性,同时降低对空间降采样表示的敏感性。

最大汇聚层和平均汇聚层

与卷积层类似,汇聚层运算符由一个固定形状的窗口组成,该窗口根据其步幅大小在输入的所有区域上滑动,为固定形状窗口(有时称为池化窗口)遍历的每个位置计算一个输出。然而,不同域卷积层的输入与卷积核之间的互相关计算,汇聚层不包含参数。相反,池运算符是确定性的,我们通常计算池化窗口中所有元素的最大值或平均值。这些操作分别称为最大汇聚层(maximum pooling)和平均汇聚层(average pooling)。

在这两种情况下,与互相关运算符一样,池化窗口从输入张量的左上角开始,从左到右、从上到下的在输入张量内移动。

Python深度学习pytorch神经网络汇聚层理解

填充和步幅

和先前一样,我们可以通过填充和步幅以获得所需的输出形状。

多个通道

在处理多通道输入数据时,汇聚层在每个输入通道上单独运算,而不是像卷积层一样在通道上对输入进行汇总。这意味着汇聚层的输出通道数与输入通道数相同。

来源:https://blog.csdn.net/weixin_43880225/article/details/120618101

标签:pytorch,深度学习,神经网络,汇聚层
0
投稿

猜你喜欢

  • Golang最大递减数算法问题分析

    2023-07-16 13:49:21
  • Python enumerate()计数器简化循环

    2022-07-31 22:15:43
  • 适宜做简单搜索的MySQL数据库全文索引

    2009-01-04 13:11:00
  • ASP 快速执行网页

    2020-07-07 11:14:17
  • 几种修复ACCESS数据库的实用方法

    2008-11-20 17:37:00
  • asp如何制作一个简单的翻页程序?

    2010-06-29 21:26:00
  • 谈谈设计师的发展

    2009-03-17 18:20:00
  • 用Dreamweaver设计Wordpress留言板教程(一)

    2010-03-17 15:44:00
  • 学习ASP.NET八天入门:第八天

    2007-08-07 13:55:00
  • Python实现平行坐标图的两种方法小结

    2023-07-30 20:45:34
  • MySQL数据库中使用GRANT语句增添新用户

    2008-12-17 14:45:00
  • 拒绝盗图!教你怎么用python给图片加水印

    2022-05-29 21:42:51
  • 在Python中使用M2Crypto模块实现AES加密的教程

    2022-09-29 17:43:59
  • ASP+XML制作菜单管理

    2008-05-19 12:38:00
  • django url到views参数传递的实例

    2023-10-17 13:53:42
  • 一个网页设计师的成长经历

    2008-05-27 12:38:00
  • python PyTorch参数初始化和Finetune

    2023-04-26 08:53:44
  • linux安装Python3.4.2的操作方法

    2022-06-17 19:19:15
  • Python读取配置文件的实战操作

    2021-08-12 19:48:09
  • Python中的lambda和apply用法及说明

    2023-08-12 14:56:46
  • asp之家 网络编程 m.aspxhome.com