다층신경망
다층 신경망
model = tf.keras.Sequential([
Flatten(),
Dense(16, activation='relu'), # 은닉층
Dense(1, activation='sigmoid') # 출력층
])
정칙화
layers.Dense(16, kernel_regularizer=tf.keras.regularizers.L1(0.01))
드롭아웃(dropout)
tf.keras.layers.Dropout(rate=0.5)
Batch Normalization
tf.keras.layers.BatchNormalization()
Layer Normalization
tf.keras.layers.LayerNormalization()
레이블 스무딩
모델 컴파일에서 손실 함수(loss)를 정할 때, 레이블 스무딩 설정
model.compile(
loss=tf.keras.losses.BinaryCrossentropy(
label_smoothing=0.2))
y가 one-hot encoding 되어 있는 경우
model.compile(
loss=tf.keras.losses.CategoricalCrossentropy(
label_smoothing=0.2))
tf.keras.losses.SparseCategoricalCrossentropy
는 지원 X