27. PCA (주성분 분석)

차원 축소를 수행하는 방법에는 여러 가지가 있지만, 그 중에서도 가장 유명하고 널리 쓰이는 '데이터 다이어트의 정석'이 있다. 바로 PCA(주성분 분석, Principal Component Analysis)이다. 

이름에 '주성분'이라는 말이 들어가서 왠지 화학이나 영양학 용어 같지만, 사실 머신러닝과 데이터 분석에서 절대 빠질 수 없는 핵심 수학 기법이다. 

 

1. PCA(주성분 분석)란 무엇인가요 ?

PCA(Principal Component Analysis) 는 데이터가 가진 여러 가지 특징(차원)중에서, 데이터의 차이를 가장 잘 설명해 주는 '주요 성분(Principal Component)'을 찾아내어 데이터를 압축하는 기법이다.

데이터 분석에서 가장 중요한 것은 '데이터들이 서로 어떻게 다른가(분산)'를 파악하는 것이다. 모두가 똑같은 값을 가지는 특징은 분석할 가치가 없기 때문이죠. PCA는 데이터가 가장 넓게 퍼져 있는 방향(분산이 가장 큰 방향)을 찾아내어, 그 방향을 새로운 기준축으로 삼아 데이터를 요약한다. 

쉬운 비유로 이해하기 : 피자 사진 찍기

아주 맛있게 생긴 '입체적인 둥근 피자(3차원 데이터)'를 친구에게 자랑하려고 스마트폰으로 사진(2차원 데이터)을 찍는다고 상상해 보세요 . 

• 잘못된 각도(PCA 실패): 피자를 옆면에서 수평으로 찍으면? 그냥 얇은 선이나 직사각형처럼 보일 것이다. 피자의 토핑이 뭔지, 크기가 얼마나 큰지 전혀 알 수 없죠. 데이터의 특징이 다 뭉개져 버렸다. 
• 완벽한 각도(PCA성공): 피자를 위에서 수직으로 내려다보고(항공샷)찍으면? 피자의 둥근 모양, 페퍼로니와 치즈의 위치 등 피자의 가장 중요한 특징(분산)이 최대한 넓게 잘 보이게 된다. 

PCA는 바로 이 '항공샷'을 찍는 완벽한 각도(주성분)를 수학적으로 찾아내어, 3차원 피자를 2차원 사진으로 가장 정보 손실 없이 압축해 주는 카마라맨과 같다!

-> 데이터가 가장 넓게 퍼져 있는 방향(분산이 가장 큰 축)을 찾아내어 그쪽으로 데이터를 투영시키는 가장 대표적이고 고전적인 방법이다. 

 

반응형

 

2. PCA는 어떻게 작동할까요 ? (핵심 원리)

PCA가 데이터의 '항공샷'을 찾는 과증은 크게 3단계로 요약할 수 있다. 

1. 데이터의 중심 맞추기: 흩어져 있는 데이터들의 평균을 구해서, 모든 데이터의 중심을 원점(0,0)으로 이동시킨다. (영점 조절)
2. 첫 번째 주성분(PC1) 찾기 : 데이터가 가장 길게, 가장 넓게 퍼져 있는 방향( 분산이 최대인 방향)에 선을 긋는다. 이것이 데이터의 특징을 가장 잘 설명하는 제1주성분이다. 
3. 두 번째 주성분(PC2) 찾기 : 첫 번째 선(PC1)과 직각(직교)을 이루면서, 그다음으로  데이터가 많이 퍼져 있는 방향에 선을 긋는다. 

이렇게 찾은 새로운 선(주성분)들을 기준으로 데이터를 다시 표현하면, 100개의 특징을 단 2~3개의 주성분만으로도 훌륭하게 요약할 수 있게 된다. 

 

728x90

 

3. 자연어 처리 (NLP)에서 PCA 의 역할

자연어 처리에서는 단어 하나하나가 차원이 되기 때문에 데이터가 수만 차원에 달한다. 여기서 PCA는 어떤 역할을 할까요 ?

• 단어 임베딩 시각화 : Word2Vec 등으로 만든 100차원, 300차원의 밀집 행렬(Dense Matrix)은 사람이 눈으로 볼 수 없다. 이때 PCA를 사용해 2차원이나 3차원으로 압축하면, '왕'과 '여왕', '남자'와 '여자' 같은 단어들이 모니터 화면 위에서 어떻게 군집을 이루고 있는지 그래프로 그려볼 수 있다. 
• 노이즈 제거 : 문서 데이터에서 중요하지 않은 자잘한 단어들의 영향력(노이즈)을 제거하고, 문서를 관통하는 핵심 주제(주성분)만 남겨 분석의 정확도를 높여준다. 

 

4. 비교; 원본 데이터 vs PCA 압축 데이터

비교 항목	원본 데이터	PCA 압축 데이터
특징(차원)의 수	매우 많음 (예: 100개)	매우 적음(예: 2~3개의 주성분)
정보의 상태	모든 정보가 날것 그대로 섞여 있음	데이터의 차이(분산)
변수의 의미	'키', '몸무게' 등 직관적인 의미를 가짐	여러 변수가 섞인 새로운 축이므로 직관적 해석이 어려움
주요 용도	원본 데이터 저장 및 정밀 분석	데이터 시각화, 노이즈 제거, 머신러닝 학습 속도 향상

 

마무리

PCA(주성분 분석) 는 복잡한 데이터 덩어리에서 가장 정보가 풍부한 완벽한 각도(주성분)를 찾아내어, 정보 손실을 최소화하면서 데이터를 압축하는 최고의 카메라 맨이다. 

최신 AI 모델들은 더 복잡한 딥러닝 기반의 압축 방식을 사용하기도 하지만, 데이터의 본질을 파악하고 시각화하는 데 있어서 PCA는 여전히 데이터 과학자와 AI엔지니어들이 가장 먼저 꺼내 드는 강력한 무기이다. 

 

 

제미나이, 챗지피티 등을 이용 하여 작성