다층신경망 :: 컴퓨터 비전 - mindscale
Skip to content

다층신경망

다층 신경망

model = tf.keras.Sequential([
    Flatten(),
    Dense(16, activation='relu'),  # 은닉층
    Dense(1, activation='sigmoid') # 출력층
])

정칙화

layers.Dense(16, kernel_regularizer=tf.keras.regularizers.L1(0.01))

드롭아웃(dropout)

tf.keras.layers.Dropout(rate=0.5)

Batch Normalization

tf.keras.layers.BatchNormalization()

Layer Normalization

tf.keras.layers.LayerNormalization()

레이블 스무딩

모델 컴파일에서 손실 함수(loss)를 정할 때, 레이블 스무딩 설정

model.compile(
    loss=tf.keras.losses.BinaryCrossentropy(
        label_smoothing=0.2))

y가 one-hot encoding 되어 있는 경우

model.compile(
    loss=tf.keras.losses.CategoricalCrossentropy(
        label_smoothing=0.2))

tf.keras.losses.SparseCategoricalCrossentropy는 지원 X