激活函数
12345relu simgmoid tanh Leak relu binary_crossentropy relu sigmoid 逻辑回归 tanh Leak relu ==交叉熵 keras 使用binary_crossentropy== 在 Keras 的二元交叉熵损失函数(tf.keras.losses.BinaryCrossentropy,下面简称为 bce)中,有 from_logits 这个参数。在使用时需要分下面 2 种情况: 1.如果输入给 bce 的是一个 logit 值(值域范围 [-∞, +∞] ),则应该设置 from_logits=True 。2.如果输入给 bce 的是一个概率值 probability (值域范围 [0, 1] ),则应该设置为 from_logits=False 。 多分类问题使用-categorical_crossentropy(label独热编码) -sparse_categorical_crossentrop...
激活函数与梯度消失详解
本文整理/翻译自AYOOSH KATHURIA的博客:Intro to Optimization in Deep Learning: Vanishing Gradients and Choosing the Right Activation Function, 整理过程中加入了一些自己的观点,欢迎讨论/指正/点赞! 12345678910111213#***文章大纲***#1. Sigmoid 和梯度消失(Vanishing Gradients) 1.1 梯度消失是如何发生的? 1.2 饱和神经元(Saturated Neurons)2. ReLU 和神经元“死亡”(dying ReLU problem) 2.1 ReLU可以解决梯度消失问题 2.2 单侧饱和 2.3 神经元“死亡”(dying ReLU problem) 2.4 梯度更新方向的锯齿路径3. LeakyReLU和PReLU 3.1 LeakyReLU可以解决神经元”死亡“问题4. 集大成者ELU(Exponential Linear Un...
猫狗数据集与图片增强
import tensorflow as tf from tensorflow import keras import matplotlib.pyplot as plt %matplotlib inline import numpy as np import glob import os 打印Tensorflow版本1print('Tensorflow version:{}'.format(tf.__version__)) 打印是否能使用GPU加速运行1print(tf.test.is_gpu_available()) 读取train、test数据集图片路径12train_image_path = glob.glob('./dc_2000/train/*.jpg')test_image_path = glob.glob('./dc_2000/test/*.jpg') 将路径的图片名称提取出来12train_image_label = [label.split('\\')[1...
直方图均衡化处理
12345678910111213141516171819202122232425262728#均衡化处理# equalizeHist()import cv2import matplotlib.pyplot as pltimport numpy as npimg = cv2.imread("dm.png",0)plt.hist(img.ravel(),256)plt.show()#均衡化(全部,会丢失局部自己的特征)equ = cv2.equalizeHist(img)plt.hist(equ.ravel(),256)plt.show()res = np.hstack((img,equ))cv2.imshow('res',res)cv2.waitKey(0)#自适应直方图均衡化(分成好几块做,最后在整合到一块)clahe = cv2.createCLAHE(clipLimit=2.0,tileGridSize=(8,8))res_clahe = clahe.apply(img)res2 = np.vstack((img,equ,res_c...
自动图运算
当被 @tf.function 修饰的函数第一次被调用的时候, 进行以下操作:(1)在 Eager Execution 模式关闭的环境下,函数内的 代码依次运行。也就是说,每个 tf. 方法都只是定义了计 算节点,而并没有进行任何实质的计算。这与 TensorFlow 1.X 的 Graph Execution 是一致的 (2)使用 AutoGraph 将函数中的 Python 控制流语句 转换成 TensorFlow 计算图中的对应节点 (比如说 while 和 for 语句转换为 tf.while , if 语句转 换为 tf.cond 等等; (3)基于上面的两步,建立函数内代码的计算图表示 (为了保证图的计算顺序,图中还会自动加入一些 tf.control_dependencies 节点) (4)运行一次这个计算图 (5)基于函数的名字和输入的函数参数的类型生成一个 哈希值,并将建立的计算图缓存到一个哈希表中。 (6)在被 @tf.function 修饰的函数之后再次被调用的 时候,根据函数名和输入的函数参数的类型计算哈希值, 检查哈希表中是否已经有了对应计...
自定义层与自定义模型方法介绍
推荐使用高阶api,也就是 tf.keras 中的层 大多数模型都是对于这些基础层的堆叠使用, 使用标准的层,更加容易阅读和维护。 自定义层自定义层方法创建一个继承自: tf.keras.layers.Layer 的子类,这个类要实现必须实现两个方法: init , 初始化方法 call 方法, 前向传播计算 自定义模型自定义模型方法创建一个继承自: tf.keras.Model 的子类,这个类要实现必须实现两个方法: init , 初始化方法 call 方法, 前向传播计算
自定义层和自定义模型
创建一个自定义的全连接层(Dense)123456789101112131415class Linear(keras.layers.Layer): def __init__(self,units=32,input_dim=32): super(Linear,self).__init__() w_init = tf.random_normal_initializer()#标准正态分布进行初始化(提供初始值) self.w = tf.Variable( w_init(shape=(input_dim,units),dtype='float32'), trainable=True ) b_init = tf.zeros_initializer()#根据形状全0初始化 self.b = tf.Variable( b_init(shape=(units,),dtype...
自定义控件
Qt提供了比较丰富的内置控件,一些常规的开发通常够用。 但是有时,还是需要我们自己开发特殊用途的自定义控件。 比如, 在我们的项目实战3中,要求开发一个模拟充电桩、洗车机等设备的测试工具。 模拟这些设备的控件,就需要我们自己定制开发。 QPainter我们前面学过的内置控件,比如按钮、输入框、选择框,它们的视觉界面是怎么呈现出来的呢? 其实都是 Qt 画出来的。 Qt是通过 QPainter 类实现画出各种控件的。 QPainter 类对象可以在 任何继承自 QPaintDevice (比如QWidget, QImage, QPixmap )的实例上 绘制 图形、文字 控件的视觉界面,其实就是通过画出各种 线条、矩形、圆形,等这些形状组合出来的。 画线比如,下面的代码调用 QPainter 对象的 drawLine 方法 画一条线, 123456789101112131415161718192021222324from PySide2 import QtGui, QtWidgets # 自定义一个QWidget的子类class MyWidget(QtWidgets.QWidge...
自编码器与变分自编码器概念
(1)自动编码器是数据相关的,这意味着自动编码器只能压缩那些与训练数据类似的数据。(2)自动编码器是有损的,与无损压缩算法不同。(3)自动编码器是从数据样本中自动学习的 自编码器应用 数据去噪 降维 图像生成 变分自编码器(VAE)变分自编码器(VariationalAuto-Encoders,VAE)作为深度生成模型的一种形式,是于2014年提出的生成式网络结构。它以概率的方式描述对潜在空间的观察,在数据生成方面表现出了巨大的应用价值。 变分编码器可以随机生成隐含变量提高网络的泛化能力,比普通的自动编码器要好 缺点就是生成的图片会有点模糊
获取 Windows 用户名
123456789101112import socket, getpass, os# 获取当前系统主机名host_name = socket.gethostname()# 获取当前系统用户名user_name = getpass.getuser()# 获取当前系统用户目录user_home = os.path.expanduser('~')print('主机名 --> %s' % host_name)print('用户名 --> %s' % user_name)print('用户目录 --> %s' % user_home)





