피처 엔지니어링 (2)

학습 목표

이 영상을 통해 머신러닝의 핵심 개념인 과적합(Overfitting)과 일반화(Generalization)의 차이를 명확히 이해하고, 의사결정 트리(Decision Tree) 모델의 깊이(depth)가 모델 성능에 미치는 영향을 실습을 통해 파악합니다. 또한, 지도 학습(Supervised Learning)과 비지도 학습(Unsupervised Learning)의 근본적인 차이점을 배우고, 비지도 학습의 평가가 어려운 이유와 그 대안을 학습합니다.

핵심 개념

• 과적합 (Overfitting): 모델이 학습 데이터에 지나치게 맞춰져 노이즈나 세부 패턴까지 학습하여 새로운 데이터에 대한 성능이 떨어지는 현상입니다. 학습 데이터 정확도는 높지만 테스트 데이터 정확도가 현저히 낮습니다.
• 일반화 (Generalization): 모델이 학습 데이터뿐만 아니라 처음 보는 새로운 데이터에서도 좋은 성능을 보이는 능력입니다. 과적합의 반대 개념입니다.
• 의사결정 트리 (Decision Tree): 데이터를 분류하거나 예측하기 위해 나무와 같은 구조를 사용하는 모델입니다. max_depth와 같은 하이퍼파라미터로 트리의 깊이를 조절하여 과적합/과소적합을 제어할 수 있습니다.
• 지도 학습 (Supervised Learning): 입력 데이터와 함께 정답(label)을 제공하여 모델을 학습시키는 방식입니다. 분류(Classification)나 회귀(Regression) 문제에 주로 사용됩니다.
• 비지도 학습 (Unsupervised Learning): 입력 데이터만 제공하고 정답 없이 데이터의 구조나 패턴을 찾는 방식입니다. 군집화(Clustering)나 차원 축소(Dimensionality Reduction) 등에 사용됩니다. 평가가 어렵다는 특징이 있습니다.

공부 방향성

이 영상을 시청하기 전에 머신러닝의 기본적인 개념과 파이썬 프로그래밍에 대한 이해가 있다면 더욱 효과적으로 학습할 수 있습니다. 영상 시청 후에는 과적합 및 일반화 개념을 다양한 모델에 적용해보고, 비지도 학습의 다양한 알고리즘과 평가 지표에 대해 추가적으로 학습하는 것을 추천합니다. 특히, 실제 데이터셋을 활용하여 모델의 하이퍼파라미터 튜닝을 직접 해보는 연습이 중요합니다.