교차 검증(K-Fold Cross Validation)

K-Fold Cross Validation Method  : k개의 fold를 만들어 진행하는 교차 검증

 

사용 이유

1) 총 데이터 갯수가 적은 데이터셋에 대해 정확도를 향상시킬 수 있음.

2) 기존의 Training / Validation / Test 세 개의 집단으로 분류하는 것보다 Training / Test 로만 분류했을 때 학습 데이터셋이 더 많기 때문.

3) 데이터 수가 적은데 검증과 테스트에 데이터를 더 뺏기면 underfitting 등 성능이 미달되는 모델이 학습됨.

 

5개의 fold로 나눈 모습

과정

1) 기존처럼 training과 test셋으로 나눈다.

2) training 셋을 k개의 fold로 나눈다.

3) 1개의 fold에 있는 데이터를 k개로 쪼갠다음, (k-1)개는 training data로 1개는 validation data로 지정.

4) 모델을 생성하고 예측을 진행해 이에 대한 error값 추출.

5) 다음 fold에서는 validation data셋을 바꿔서 지정하고, 이전 fold에서 validation 역할을 한 셋은 다시 training셋으로 활용.

6) 이를 k번 반복.

7) 각각의 fold의 시도에서 기록된 error를 바탕으로(error값들의 평균) 최적의 모델(조건)을 찾는다.

8) 해당 모델(조건)을 바탕으로 전체 training 셋의 학습을 진행.

9) 해당 모델을 처음에 분할하였던 test셋을 활용해 평가.

 

단점

기존 training과 test셋으로 진행하는 방식보다 시간 소요가 크다.