全连接层的输入输出,神经网络全连接层

TensorFlow2 一小时学会全连接层 概述keras.layers.Densekeras.Squential

概述

全链接层 (Fully Connected Layer) 会把一个特质空间线性变换到另一个特质空间, 在整个网络中起到分类器的作用.

keras.layers.Dense

keras.layers.Dense可以帮助我们实现全连接.

格式:

tf.keras.layers.Dense( units, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', kernel_regularizer=None, bias_regularizer=None, activity_regularizer=None, kernel_constraint=None, bias_constraint=None, **kwargs) 参数介绍units正整数, 输出空间维度activation激活函数, 若不指定, 则不适用激活函数use_bias布尔值, 该层是否使用偏置向量kernel_initializerkernel权值矩阵的初始化器bias_initializer偏执向量的初始化器kernel_regulaizer运用到偏执项的正则化函数bias_regularizer运用到偏执项的的正则化函数activity_regulatizer运用到层的输出正则化函数kernel_constrint运用到kernel权值矩阵的约束函数bias_constraint运用到偏执向量的约束函数

例子:

# 创建正态分布x = tf.random.normal([256, 784])# 创建全连接层, 输出为512net = tf.keras.layers.Dense(512)out = net(x)# 调试输出print("w:", net.kernel.shape)print("b:", net.bias.shape)

输出结果:

w: (784, 512)b: (512,) keras.Squential

Squential (序列模型) 是各层次之间依次顺序的线性关系. 模型结构通过一个列表来制定.

格式:

tf.keras.Sequential( layers=None, name=None)

参数:

layers: 添加的层name: 数据名称

例子:

# 创建正态分布x = tf.random.normal([256, 784])# 建立网络模型model = tf.keras.Sequential([ tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(128, activation="relu"), tf.keras.layers.Dense(10, activation="relu"),])# 传入xmodel(x)# 调试输出权重和偏置顶名字和形状for p in model.trainable_variables: print(p.name, p.shape)

输出结果:

w: (784, 512)b: (512,)dense_1/kernel:0 (784, 256)dense_1/bias:0 (256,)dense_2/kernel:0 (256, 128)dense_2/bias:0 (128,)dense_3/kernel:0 (128, 10)dense_3/bias:0 (10,)