DCGAN 概念与设计要点

发表于2023-07-14|更新于2026-09-01|教程深度学习

|总字数:217|阅读时长:1分钟|浏览量:

DCGAN的设计

取消所有pooling层。G网络中使用转置卷积（ transposed convolutional layer）进行上采样，D网络中用加入stride的卷积代替pooling。
去掉FC层，使网络变为全卷积网络
G网络中使用ReLU作为激活函数，最后一层使用tanh
D网络中使用LeakyReLU作为激活函数
在generator和discriminator上都使用batchnorm。解决初始化差的问题帮助梯度传播到每一层防止generator把所有的样本都收敛到同一个点。直接将BN应用到所有层会导致样本震荡和模型不稳定，通过在 generator输出层和discriminator输入层不采用BN可以防止这种现象
使用Adam优化器， beta1(一阶矩估计的指数衰减率)的值设置为0.5
论文参数 LeakyReLU的斜率是0.2. learning rate=0.0002 batch size是128

文章作者: YuKiFuHaNe

文章链接: https://blog.yukifuhane.cn.eu.org/2023/07/14/DCGAN-%E6%A6%82%E5%BF%B5%E4%B8%8E%E8%AE%BE%E8%AE%A1%E8%A6%81%E7%82%B9/

版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 YuKiFuHaNeの博客！

GAN DCGAN 转置卷积 BatchNorm Adam优化器

相关推荐

DCGAN 实战：MNIST 手写数字生成

import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers import matplotlib.pyplot as plt %matplotlib inline import numpy as np import glob import os 查看tensorflow版本1tf.__version__ 查看是否支持GPU1tf.test.is_gpu_available() 加载mnist手写数据集1(train_image,train_labels),(_,_) = tf.keras.datasets.mnist.load_data() 查看数据12train_image.shape(60000, 28, 28) 12train_image.dtypedtype('uint8') 数据转换1train_image = train_image.reshape(train_image.shape[0],28,28,1).astype(...

DCGAN 生成动漫头像实战

import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers import matplotlib.pyplot as plt %matplotlib inline import numpy as np import glob import os 查看tensorflow版本1tf.__version__ 查看是否支持GPU1tf.test.is_gpu_available() 获取图片路径1image_path = glob.glob('E:anime-face/Anime Faces/*') 定义加载函数1234567def load_image(image_path): img = tf.io.read_file(image_path) img = tf.image.decode_jpeg(img,channels=3)# img = tf.image.resize(img,[64,64]) img = tf...

ACGAN 网络结构

ACGAN结构生成器判别器损失

图像语义分割 FCN 概念

输入和输出网络的输入可以为任意尺寸的彩色图像；输出与输入尺寸相同，通道数为：n（目标类别数）+1（背景）。全卷积网络在CNN卷积部分不用全连接而是替换成卷积的目的是允许输入的图片为超过某一尺寸的任意大小。上采样 Upsampling由于在卷积过程中，我们的特征图像变得很小（比如长宽变为原图像的1/32），为了得到原图像大小的稠密像素预测，我们需要进行上采样。容易想到三种方式，分别对应最大池化、平均池化和卷积操作的反过来使用。插值法反池化反卷积（转置卷积） 12345678910111213141516171819tf.keras.layers.Conv2DTranspose( filters, kernel_size, strides=(1, 1), padding='valid', output_padding=None, data_format=None, dilation_rate=(1, 1), activation=None, use_bias=T...

InfoGAN 核心概念解析

概念InfoGAN所要达到的目标就是通过非监督学习得到可分解的特征表示。使用GAN加上最大化生成的图片和输入编码之间的互信息。最大的好处就是可以不需要监督学习，而且不需要大量额外的计算花销就能得到可解释的特征实现InfoGAN的出发点，它试图利用z，寻找一个可解释的表达，于是它将z进行了拆解，一是噪声z，二是可解释的隐变量c，而我们希望通过约束c与生成数据之间的关系，可以使得c里面包含有对数据的可解释的信息。如对MNIST数据，c可以分为categorical latent code代来表数字种类信息（0~9），以及continuous latent code来表示倾斜度、笔画粗细等等在生成器中除了原先的噪声z还增加了一个隐含编码c，所谓 InfoGAN，其中Info代表互信息，它表示生成数据x与隐藏编码c之间关联程度的大小，为了使的x与c之间关联密切，所以我们需要最大化互信息的值，据此对原始GAN模型的值函数做了一点修改，相当于加了一个互信息的正则化项互信息：我们可以把互信息看成当观测到y值而造成的x的不确定性的减小。如果x，y是相互独立没...

CycleGAN 概述

Cycle GAN解决了模型需要成对数据进行训练的困难 CycleGAN的原理可以概述为：将一类图片转换成另一类图片。也就是说，现在有两个样本空间，x和Y，我们希望把x空间中的样本转换成Y空间中的样本。（获取一个数据集的特征，并转化成另一个数据集的特征）单独对抗损失Loss不能保证学习函数可以将单个输入Xi映射到期望输出Yi 在足够大的样本容量下，网络可以将相同的输入图像集合映射到目标域中图像的任何随机排列，其中任亻可学习的映射可以归纳出与目标分布匹配的输出分布（即：映射F完全可以将所有×都映射为Y空间中的同一张图片，使损失无效化）。循环一致性损失（cycle consistency loss）将X的图片转换到Y空间后，应该还可以转换回来。这样就杜绝模型把所有X的图片都转换为Y空间中的同一张图片了判别器Loss 生成器Loss 一个单向GAN有两个loss,而CycleGAN加起来总共有四个loss 局限性==对颜色、纹理等的转换效果比较好，对多样性高的、多变的转换效果不好（如几何转换）==