728x90
대표적인 Regulazation 기법이다.
오버피팅(OverFitting)을 방지할 수 있도록 만들어주는 기법을 총칭해서 Regularization기법 이라고 부른다.
드롭아웃(Dropout)은 대표적인 Regularization 기법 중 하나이다.
드랍아웃 기법은 학습 과정에서 일부 노드를 사용하지 않는 형태로 만들어서
오버 피팅(OverFitting) 을 방지할 수 있도록 만들어주는 Regularization기법이다.
학습할 때 범위를 랜덤하게 설정해서, 일부 노드를 덜어낸다 라고 이해하면 된다.
이렇게 덜어냄으로써 일정부분만 학습하게 되면 트레이닝데이터 에서만 정확도가 높아지는걸 방지할 수 있다.
TrainingData에 대해서는 오버피팅을 방지하기 위해서는 드랍아웃을 수행하지만, TestData에 대해서는 Dropout을 수행하지 않는다.
최대결과값을 보여주어야 하기 때문에, 일부를 덜어낼 필요가 없기 때문.
Tensworflow에서 사용하는 방식은 아래 참조.
https://www.tensorflow.org/api_docs/python/tf/nn/dropout
tf.nn.dropout | TensorFlow v2.16.1
Computes dropout: randomly sets elements to zero to prevent overfitting.
www.tensorflow.org
728x90
'알고리즘' 카테고리의 다른 글
순환신경망 (RNN)[Recurrent Neural Network] (1) | 2024.06.18 |
---|---|
TensorFlow 2.0을 이용한 CIFAR-10 이미지 분류 CNN구현 (2) | 2024.06.18 |
CNN을 사용한 MNIST숫자분류기 구현 (0) | 2024.06.18 |
컨볼루션(COnvolution), 풀링(Polling) (0) | 2024.06.18 |
CNN기반 컴퓨터비전처리 (0) | 2024.06.17 |