一、基本介绍
Keras.layers.dense是Keras中最为基本的全连接层，也是最常用的层之一。在深度学习中，一般使用多个dense层组合实现神经网络模型的各种结构。
该层的基本形式为keras.layers.dense(units,activation)，其中units表示该层输出的维度，activation表示激活函数。
from keras.layers import Input, Dense
input = Input(shape=(100,))
dense = Dense(50, activation='relu')(input)
上述代码即构建了一个50输出节点，激活函数为relu的全连接层。
二、输入形状
在使用dense层时，需要注意输入形状的设置，该层接收的是一个尺寸为(batch_size,input_dim)的2D张量。
下面是一个input_shape为(20,30)的例子。
from keras.layers import Input, Dense
input = Input(shape=(20,30))
dense = Dense(50, activation='relu')(input)
三、常用参数
1. units
units参数表示该层输出的维度。
from keras.layers import Input, Dense
input = Input(shape=(100,))
dense = Dense(50, activation='relu')(input)
上述代码即构建了一个50输出节点的全连接层。
2. activation
激活函数是深度学习中非常重要的一部分，它可以增强模型的非线性性质，也可以缓解梯度消失等问题。
Keras提供了许多常见的激活函数，例如sigmoid、tanh、relu等，也支持用户自定义激活函数。
from keras.layers import Input, Dense
input = Input(shape=(100,))
dense = Dense(50, activation='relu')(input)
上述代码即构建了一个50输出节点，激活函数为relu的全连接层。
3. use_bias
use_bias是一个布尔值，表示该层是否使用偏置项。默认值为True。
from keras.layers import Input, Dense
input = Input(shape=(100,))
dense = Dense(50, activation='relu', use_bias=False)(input)
上述代码即构建了一个50输出节点，不带偏置项的全连接层。
4. kernel_initializer
kernel_initializer是Dense层权重参数的初始化方法，有很多不同的初始化方法，例如RandomNormal、RandomUniform、glorot_uniform等。
from keras.layers import Input, Dense
from keras import initializers
input = Input(shape=(100,))
dense = Dense(50, activation='relu', kernel_initializer=initializers.RandomNormal(stddev=0.01))(input)
上述代码即构建了一个50输出节点，初始化方法为RandomNormal，标准差为0.01的全连接层。
5. bias_initializer
bias_initializer是Dense层偏置项的初始化方法，有很多不同的初始化方法，例如Zeros、Ones等。
from keras.layers import Input, Dense
from keras import initializers
input = Input(shape=(100,))
dense = Dense(50, activation='relu', bias_initializer=initializers.Zeros())(input)
上述代码即构建了一个50输出节点，初始化方法为Zeros的全连接层。
6. kernel_regularizer
kernel_regularizer是权重的正则化方法，正则化是防止过拟合的重要手段之一。常见的正则化方法有L1、L2正则化等。
from keras.layers import Input, Dense
from keras import regularizers
input = Input(shape=(100,))
dense = Dense(50, activation='relu', kernel_regularizer=regularizers.l2(0.01))(input)
上述代码即构建了一个50输出节点，使用L2正则化方法，正则项系数为0.01的全连接层。
7. bias_regularizer
bias_regularizer是偏置项的正则化方法。
from keras.layers import Input, Dense
from keras import regularizers
input = Input(shape=(100,))
dense = Dense(50, activation='relu', bias_regularizer=regularizers.l2(0.01))(input)
上述代码即构建了一个50输出节点，使用L2正则化方法，正则项系数为0.01的全连接层。
8. activity_regularizer
activity_regularizer是激活值的正则化方法。
from keras.layers import Input, Dense
from keras import regularizers
input = Input(shape=(100,))
dense = Dense(50, activation='relu', activity_regularizer=regularizers.l2(0.01))(input)
上述代码即构建了一个50输出节点，使用L2正则化方法，正则项系数为0.01的全连接层。
四、总结
本文详细介绍了keras.layers.dense中的各种参数与用法，希望能对读者深入了解该层的实现原理和使用方法有所帮助。
原创文章，作者：DERG，如若转载，请注明出处：https://www.506064.com/n/145898.html
微信扫一扫 
支付宝扫一扫 