알고리즘
드랍아웃(Dropout)
WDmil
2024. 6. 18. 01:31
728x90
대표적인 Regulazation 기법이다.
오버피팅(OverFitting)을 방지할 수 있도록 만들어주는 기법을 총칭해서 Regularization기법 이라고 부른다.
드롭아웃(Dropout)은 대표적인 Regularization 기법 중 하나이다.
드랍아웃 기법은 학습 과정에서 일부 노드를 사용하지 않는 형태로 만들어서
오버 피팅(OverFitting) 을 방지할 수 있도록 만들어주는 Regularization기법이다.
학습할 때 범위를 랜덤하게 설정해서, 일부 노드를 덜어낸다 라고 이해하면 된다.
이렇게 덜어냄으로써 일정부분만 학습하게 되면 트레이닝데이터 에서만 정확도가 높아지는걸 방지할 수 있다.
TrainingData에 대해서는 오버피팅을 방지하기 위해서는 드랍아웃을 수행하지만, TestData에 대해서는 Dropout을 수행하지 않는다.
최대결과값을 보여주어야 하기 때문에, 일부를 덜어낼 필요가 없기 때문.
Tensworflow에서 사용하는 방식은 아래 참조.
https://www.tensorflow.org/api_docs/python/tf/nn/dropout
728x90