알고리즘

드랍아웃(Dropout)

WDmil 2024. 6. 18. 01:31
728x90

대표적인 Regulazation 기법이다.

 

오버피팅(OverFitting)을 방지할 수 있도록 만들어주는 기법을 총칭해서 Regularization기법 이라고 부른다.

 

드롭아웃(Dropout)은 대표적인 Regularization 기법 중 하나이다.

 

드랍아웃 기법은 학습 과정에서 일부 노드를 사용하지 않는 형태로 만들어서

오버 피팅(OverFitting) 을 방지할 수 있도록 만들어주는 Regularization기법이다.

 

 

학습할 때 범위를 랜덤하게 설정해서, 일부 노드를 덜어낸다 라고 이해하면 된다.

이렇게 덜어냄으로써 일정부분만 학습하게 되면 트레이닝데이터 에서만 정확도가 높아지는걸 방지할 수 있다.

 

TrainingData에 대해서는 오버피팅을 방지하기 위해서는 드랍아웃을 수행하지만, TestData에 대해서는 Dropout을 수행하지 않는다.

 

최대결과값을 보여주어야 하기 때문에, 일부를 덜어낼 필요가 없기 때문.

 

Tensworflow에서 사용하는 방식은 아래 참조.

 

https://www.tensorflow.org/api_docs/python/tf/nn/dropout

 

tf.nn.dropout  |  TensorFlow v2.16.1

Computes dropout: randomly sets elements to zero to prevent overfitting.

www.tensorflow.org

 

 

728x90