【深度学习】神经网络和深度学习--卷积和池化的作用
创始人
2024-06-01 13:17:04
0次

深度学习通常指训练大型深度的神经网络的过程。

  • 与传统的神经网络模型相比,深度学习模型在结构上与之非常相似;
  • 不同的是,深度学习模型的“深度”更大,“深度”的体现就是神经网络层数多,神经网络每一层的结点数多。
    本章介绍两种深度神经网络——卷积神经网络和循环神经网络,以及它们分别在图像处理、文本处理和语音处理上的效果。
  1. 卷积神经网络(CNN)
    与普通神经网络相比,卷积神经网络引入了“卷积”和“池化”两个操作。
    *卷积”操作的思想 采用一个较小的卷积核,例如 3×3 的矩阵,来对图像特征进行局部的提取。这样做可以增加参数的共享,减少随着神经网络变深、结点数变多而带来的巨大计算量。
    *池化”操作的思想 采用一种过滤的方法,去除冗余信息并且加快计算。池化可以将一个 4×4 的图像切割成 4 个 2×2 的小矩阵,在每个小矩阵中取最大值,所得结果形成一个新矩阵。这种操作,可以减少神经网络结点的个数,加快计算速度。
    在卷积神经网络中,通常某一个层都是在做卷积处理,某一层都是在做池化处理。一般,它们都是在层次之间交替进行的。经过多层卷积、池化操作后,所得特征图的分辨率远小于输入图像的分辨率,减少了计算量,加快了计算速度。
    在这里插入图片描述
    池化层夹在连续的卷积层中间, 用于压缩数据和参数的量。
    简而言之,如果输入是图像的话,那么池化层的最主要作用就是压缩图像。
    个人理解的同图片resize方法类似(双线性插值法,邻近法),只不过池化层用的是取最大值法。
    个人觉得主要是两个作用:

invariance(不变性),这种不变性包括translation(平移),rotation(旋转),scale(尺度)
保留主要的特征同时减少参数(降维,效果类似PCA)和计算量,防止过拟合,提高模型泛化能力。
但印象里,新paper都爱用1X1的卷积来取代池化了。

相关内容

热门资讯

2028年黄金重返5600美元... 最近高盛预测金价将在2028年底回到每盎司5600美元,这引发了人们的关注。与其质疑这一预测的准确性...
台湾服务业生意雪崩哀鸿遍野 股... 台股近期连续大跌,加权指数从10月6日的近5万点下挫至目前跌了1万多点,跌幅约22%,近4天内就崩掉...
ANT上市 7位创始人身家破百... AI企业Anthropic将于今晚在美国纳斯达克上市,股票代码为“ANT”。发行价定为83美元,高于...
高志凯:世界需要深圳APEC ... 深圳APEC会议即将开幕,全球目光将聚焦这座因改革开放而闻名的城市。著名国际关系学者、全球化智库副主...
深圳值得被世界看见的远不止创新... 金秋11月,全球科技创新与经贸合作聚焦深圳。人工智能已融入深圳的方方面面:机场刷脸秒过、公园无人机送...
白小纯竞燃之夜造型 暖心护送旅... 白小纯竞燃之夜造型 暖心护送旅客出站!11月18日,上饶站接到重点旅客预约工单,提前与旅客沟通出行信...
中方回应中日领导人APEC是否... 中国外交部发言人郭嘉昆19日主持例行记者会。有记者问及APEC会议期间中日领导人是否会举行会晤。郭嘉...
黄牛炒茅台近乎无利可图,酒厂逐... 持续近十年的茅台渠道价差生意正在走向终局。继11月11日i茅台将精品、生肖等16款非标产品由抢购改为...
四川平武通报“游客称1600元... 近日,四川绵阳一游客称花1600元在平武县一民宿预订烤全羊,上桌发现几乎全是骨架,剥离下来的羊肉重量...
40万装修婚房业主说下水口成喷... 於女士在杭州杨家春晓南苑有套位于二楼的房子,一楼是商铺。她说花了40多万重新装修,给儿子当婚房,前段...
小区交房3年多暖气没通 物业:... 漯河市临颍县华寓精英名都小区宣传时是"双气学区房",但交房3年多,暖气主管道仍在小区直线距离约一公里...
房卡刷开一层楼涉事前台被开除 ... 11月18日,网友称在四川九寨沟入住一家酒店,发现自己的房卡能刷开同层多间客房房门。视频中,拍摄者拿...
11名孩子爬山迷路爬丢9个 孩... 11月19日(发布),天津蓟州,11名孩子爬山时迷路,爬“丢”9个,其中2个先下了山。消防员边找人边...
张雪两张“挡泥板票”均50万成... 11月18日晚,张雪在直播中拍卖两张11月22日张雪机车WSBK嘉年华活动的挡泥板票,其中一张是张雪...
中方回应日媒称高市早苗接机仪式... 11月19日,外交部发言人郭嘉昆主持例行记者会。会上,日本朝日新闻记者提问,关于APEC峰会期间对访...
1991年出生的人被小学生试题... 最近,一些小学语文试卷中的细节引发了80后家长的共鸣。家长们在辅导孩子作业时发现,习题和阅读理解中出...
正式供暖后您家室温达标了吗 暖... 从11月15日起,海淀区正式达标供热,规定要求供热单位保证居民住宅卧室、起居室的室内温度不低于18℃...
田栩宁不栩此行 武夷山采风之旅 田栩宁不栩此行 武夷山采风之旅!11月17日,田栩宁发布了《Madame Figaro》中文版202...
巨头集体入局具身大脑 物理AI被视为人工智能的下一波浪潮。国内外巨头接连发布物理AI新品,且尤为集中在具身大脑领域。英伟达...
APEC强劲发力激活亚太经贸新... 亚太经合组织第三十三次领导人非正式会议将于11月18日至19日在深圳举行,这是中国第三次担任APEC...