[혼공단 10기] 혼자 공부하는 머신러닝 + 딥러닝(혼공머신) - 4주차

혼공단10기 - 혼자 공부하는 머신러닝 + 딥러닝(혼공머신)

5장. 트리 알고리즘

 

기본 미션: 교차 검증을 그림으로 나타내기

05-2 교차 검증과 그리드 서치

 

교차 검증 : 훈련 세트를 여러 폴드로 나눈 후 한 폴드가 검증 세트의 역할 & 나머지 폴드는 모델 훈련.

                  모든 폴드에 대해 검증 점수를 얻어 평균 처리.

 

출처: https://towardsai.net/p/machine-learning/k-fold-cross-validation-for-machine-learning-models

 

cross_validate: 머신 러닝 모델의 성능을 평가하기 위해 교차 검증을 수행하는 함수.

                        모델의 성능을 더 정확하게 평가 및 overfitting(과적합)을 방지.

 

GridSearchCV:  하이퍼파라미터 튜닝을 위해 사용, 최적의 모델 탐색.

                         (사용자가 지정한 하이퍼파라미터들의 가능한 모든 조합을 시도하여 최적의 조합 탐색)

 

RandomizedSearchCV: 하이퍼파라미터 튜닝을 수행.  랜덤한 하이퍼파라미터 조합을 탐색.

 

 

 

 

선택 미션: 앙상블 모델 코딩

05-3 트리의 앙상블 

 

 

RandomForest

 

 

XGBoost

 

 

LightGBM