안녕하세요 AI OASIS스터디입니다. 이번 시간에는 결정트리에 대해 알아보고자 해요. 머신러닝의 기본이 되는 결정트리를 이해하면 더 복잡한 알고리즘도 쉽게 이해할 수 있답니다. 함께 배워볼까요?
주요 내용:

결정트리의 기본 개념

분류와 회귀에 모두 사용 가능한 다목적 알고리즘
랜덤 포레스트의 기본 구성 요소


CART 알고리즘

지니 불순도와 엔트로피 개념
비용 함수와 최적 분할 방법


결정트리의 시각화

파이썬을 이용한 결정트리 구현과 시각화


결정트리의 장단점

해석이 쉽고 전처리가 간단함
축에 수직인 결정 경계로 인한 한계


과대적합 문제와 규제

max_depth, min_samples_leaf 등의 하이퍼파라미터 조정
프루닝(가지치기) 기법 소개


결정트리의 특징

특성 스케일에 둔감
계산 복잡도와 예측 속도


회귀 문제에서의 결정트리 활용
PCA를 이용한 축 민감도 개선 방법

결정트리는 직관적이고 이해하기 쉬운 알고리즘이지만, 과대적합 문제가 있어요. 하지만 이런 단점을 보완하면 매우 강력한 도구가 될 수 있답니다. 특히 앙상블 기법과 결합하면 놀라운 성능을 보여주죠.
다음 시간에는 결정트리를 기반으로 한 랜덤 포레스트에 대해 알아볼 거예요. 기대해 주세요!
지금까지 AI OASIS였습니다.

스터디신청 : [email protected]
참고 깃허브 : https://github.com/restful3/ds4th_study

#결정트리 #머신러닝 #CART알고리즘 #지니불순도 #엔트로피 #과대적합 #하이퍼파라미터튜닝 #PCA #데이터사이언스 #AIoasis