增加层的缺陷
在达到一定深度后加入更多层,模型可能产生梯度消失或爆炸的问题
可以通过更好的初始化权重、添加BN层等解决
现代架构,试图通过引入不同的技术来解决这些问题,如残差连接
CNN



卷积层



标准化








文章作者: YuKiFuHaNe
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 YuKiFuHaNeの博客!
相关推荐

2023-07-14
200 种鸟类分类(多分类问题)
import tensorflow as tffrom tensorflow import keras import matplotlib.pyplot as plt %matplotlib inline import glob import numpy as np 打印Tensorflow版本1print('Tensorflow version:{}'.format(tf.__version__)) 打印是否能使用GPU加速运行1print(tf.test.is_gpu_available()) 获取图片路径1imgs_path = glob.glob("birds/*/*.jpg") 从路径中截取鸟类名称123img_p.split('\\')[1].split('.')[1]all_labels_name = [img_p.split('\\')[1].split('.')[1] for img_p in imgs_path]l...

2023-07-14
VGG 网络
VGG

2023-07-14
卷积神经网络
from tensorflow import keras from tensorflow.keras import layers import tensorflow as tf import numpy as np import matplotlib.pyplot as plt %matplotlib inline 加载fashion_mnist数据集12fashion_mnist = keras.datasets.fashion_mnist(train_images,train_labels),(test_images,test_labels) = fashion_mnist.load_data() 维度扩增12train_images = np.expand_dims(train_images,-1)#扩张维度 -1表示扩增最后一个维度test_images = np.expand_dims(test_images,-1) 模型搭建123456789101112131415161718192021222324252627282930313233343536373839m...

2023-07-14
著名的CNN架构
VGG ImageNet 预训练网络 Keras内置预训练网络 VGG两个很大的缺点 网络架构weight数量相当大,很消耗磁盘空间。 训练非常慢 由于其全连接节点的数量较多,再加上网络比较深,VGG16 有533MB+,VGG19有574MB。这使得部署VGG比较耗时。 微调:==冻结模型库的底部的卷积层, 共同训练新添加的分类器层和顶部部分卷积层。==底部卷积层:提取通用特征(通用纹理,细小规则) 顶部卷积层:随着窗口视野的扩大,形成抽象特征(特点物品识别) ==微调步骤== 在预训练卷积基上添加自定义层 冻结卷积基所有层 训练添加的分类层 解冻卷积基的一部分层 联合训练解冻的卷积层和添加的自定义层}

2023-07-14
多输出模型实例
import tensorflow as tf from tensorflow import keras import matplotlib.pyplot as plt %matplotlib inline import numpy as np import pathlib 打印Tensorflow版本1print('Tensorflow version:{}'.format(tf.__version__)) 打印是否支持GPU加速1print(tf.test.is_gpu_available()) 图片文件根目录1data_dir = './dataset/moc' 1data_root = pathlib.Path(data_dir) 12data_rootWindowsPath('dataset/moc') 获取所有图片路径1all_image_paths = list(data_root.glob('*/*')) 12345678910all_image_pa...

2023-07-14
一维卷积概念
