상관분석과 회귀분석, 무엇이 다를까?
통계 분석에서 두 변수 사이의 관계를 살펴볼 때 가장 많이 사용하는 방법이 상관분석과 회귀분석입니다. 이 두 분석은 겉보기에 비슷해 보이지만, 목적과 해석 방식에 근본적인 차이가 있습니다. 잘못 선택하면 연구 질문에 적합하지 않은 결과를 보고하게 되므로, 차이를 명확히 이해하는 것이 중요합니다.
상관분석의 목적과 사용 시점
상관분석이란?
상관분석은 두 연속형 변수 사이에 선형적 관계가 있는지, 있다면 그 방향과 강도가 어떠한지를 파악하는 분석입니다. 결과값으로 상관계수(r)를 산출하며, 이 값은 -1에서 +1 사이의 범위를 가집니다.
- r = +1: 완전한 양의 상관 (한 변수가 증가하면 다른 변수도 증가)
- r = 0: 상관 없음
- r = -1: 완전한 음의 상관 (한 변수가 증가하면 다른 변수는 감소)
언제 상관분석을 사용할까?
상관분석은 다음과 같은 상황에서 적합합니다.
- 두 변수 간에 관련성이 있는지 탐색하고 싶을 때
- 독립변수와 종속변수의 구분이 없거나 불필요할 때
- 여러 변수 쌍의 관계를 한꺼번에 개관하고 싶을 때
- 연구의 초기 단계에서 변수 간 관계를 탐색적으로 살펴볼 때
상관분석 예시
대학생 120명을 대상으로 공부 시간과 시험 점수의 관계를 조사했습니다.
공부 시간과 시험 점수 사이에는 통계적으로 유의한 양의 상관이 나타났다, r(118) = .54, p < .001.
이 결과는 공부 시간이 많을수록 시험 점수가 높은 경향이 있다는 것을 의미합니다. 하지만 이것만으로 공부 시간이 시험 점수를 높인다고 결론짓는 것은 부적절합니다.
상관계수 해석 기준
Cohen(1988)의 기준에 따른 상관계수 해석은 다음과 같습니다.
| |r| | 해석 | |---------|------| | .10 ~ .29 | 약한 상관 | | .30 ~ .49 | 중간 상관 | | .50 이상 | 강한 상관 |
단, 이 기준은 절대적인 것이 아니며 연구 분야에 따라 다르게 적용될 수 있습니다.
회귀분석의 목적과 사용 시점
회귀분석이란?
회귀분석은 하나 이상의 독립변수가 종속변수를 얼마나 잘 예측하는지를 분석하는 방법입니다. 상관분석과 달리 변수 간에 방향성을 설정합니다. 즉, 어떤 변수가 원인(예측변수)이고 어떤 변수가 결과(결과변수)인지를 명시합니다.
단순 회귀분석의 회귀방정식은 다음과 같습니다.
Y = b0 + b1X
여기서 b0은 절편, b1은 회귀계수(기울기)입니다. 회귀계수는 독립변수가 한 단위 변할 때 종속변수가 평균적으로 얼마나 변하는지를 나타냅니다.
언제 회귀분석을 사용할까?
회귀분석은 다음과 같은 상황에서 적합합니다.
- 독립변수로 종속변수를 예측하고 싶을 때
- 독립변수가 종속변수에 미치는 영향력의 크기를 알고 싶을 때
- 여러 독립변수의 상대적 기여도를 비교하고 싶을 때 (다중 회귀분석)
- 특정 독립변수 값에서의 종속변수 예측값을 구하고 싶을 때
회귀분석 예시
앞의 공부 시간과 시험 점수 데이터에 단순 회귀분석을 적용합니다.
공부 시간은 시험 점수를 통계적으로 유의하게 예측하였다, b = 3.72, SE = 0.58, t(118) = 6.41, p < .001, R² = .29.
이 결과의 의미는 다음과 같습니다.
- 공부 시간이 1시간 증가할 때 시험 점수는 평균적으로 3.72점 증가합니다.
- 공부 시간은 시험 점수 전체 변동의 **29%**를 설명합니다.
핵심 차이점 비교
상관분석과 회귀분석의 차이를 표로 정리하면 다음과 같습니다.
| 구분 | 상관분석 | 회귀분석 | |------|---------|---------| | 목적 | 관계의 방향과 강도 파악 | 예측 및 영향력 추정 | | 변수 역할 | 구분 없음 (대칭적) | 독립변수 → 종속변수 (비대칭적) | | 주요 결과값 | 상관계수 r | 회귀계수 b, 결정계수 R² | | 예측 가능 여부 | 불가능 | 가능 (회귀방정식 사용) | | 다변수 확장 | 상관행렬 | 다중 회귀분석 | | 질문 유형 | "관계가 있는가?" | "얼마나 영향을 미치는가?" |
핵심적으로, 상관분석은 탐색적이고 회귀분석은 설명적 또는 예측적인 성격을 가집니다.
상관계수 r과 결정계수 R²의 관계
단순 회귀분석(독립변수 1개)에서는 상관계수를 제곱한 값이 결정계수와 같습니다.
R² = r²
예를 들어, r = .54이면 R² = .54² = .29입니다.
이 관계가 의미하는 것은 다음과 같습니다.
- r = .54는 두 변수 사이에 강한 양의 상관이 있음을 뜻합니다.
- R² = .29는 독립변수가 종속변수 변동의 29%를 설명한다는 뜻입니다.
- 나머지 71%는 다른 요인에 의해 설명됩니다.
같은 데이터라도 상관분석에서는 r = .54로 "강한 상관"이라고 할 수 있지만, 회귀분석 관점에서는 설명력이 29%에 불과하여 다른 변수를 추가로 고려할 필요가 있습니다. 이처럼 두 분석은 같은 데이터에서 다른 관점의 정보를 제공합니다.
실제 연구 예시 비교
"수면 시간과 학업 성취도의 관계"를 연구한다고 가정해 봅시다.
상관분석 접근
수면 시간과 GPA 사이에 통계적으로 유의한 양의 상관이 있는지 확인하고자 한다.
연구 결과: r(98) = .38, p < .001
해석: 수면 시간과 GPA 사이에 유의한 중간 수준의 양의 상관이 있다. 수면 시간이 길수록 GPA가 높은 경향이 있다.
회귀분석 접근
수면 시간이 GPA를 유의하게 예측하는지, 수면 시간이 1시간 변할 때 GPA가 얼마나 변하는지 추정하고자 한다.
연구 결과: b = 0.15, R² = .14, p < .001
해석: 수면 시간이 1시간 증가하면 GPA가 평균 0.15점 증가한다. 수면 시간은 GPA 변동의 14%를 설명한다.
같은 데이터이지만 분석 목적에 따라 보고하는 정보와 해석의 초점이 달라집니다.
인과관계 해석 주의사항
상관분석과 회귀분석 모두에서 가장 흔한 오류는 상관 또는 예측 관계를 인과관계로 해석하는 것입니다.
상관이 인과가 아닌 이유
- 제3변수 문제: 아이스크림 판매량과 익사 사고 건수는 높은 양의 상관을 보이지만, 이는 둘 다 기온이라는 제3변수의 영향을 받기 때문입니다.
- 역인과 가능성: 자존감과 학업 성적의 상관에서, 자존감이 성적에 영향을 주는 것인지 성적이 자존감에 영향을 주는 것인지 알 수 없습니다.
- 우연한 상관: 충분히 많은 변수를 비교하면 실제로는 관계가 없는 변수 사이에서도 통계적으로 유의한 상관이 나타날 수 있습니다.
인과관계를 주장하려면 무선 배정을 포함한 실험 설계가 필요합니다. 관찰 연구에서의 상관이나 회귀 결과는 "관련이 있다" 또는 "예측한다"로 표현하고, "영향을 준다" 또는 "원인이 된다"라는 표현은 피해야 합니다.
StatMate에서 상관분석과 회귀분석 수행하기
StatMate를 활용하면 두 분석을 간편하게 수행할 수 있습니다.
상관분석 계산기에서는 데이터를 입력하면 Pearson 상관계수, 유의확률, 95% 신뢰구간을 자동으로 계산하고, 산점도를 통해 관계를 시각적으로 확인할 수 있습니다.
회귀분석 계산기에서는 회귀계수, 표준오차, t 통계량, 결정계수 R²를 산출하며, 회귀선이 포함된 산점도로 예측 모형을 직관적으로 파악할 수 있습니다.
두 분석의 결과를 함께 비교하면 데이터에 대한 더 풍부한 이해를 얻을 수 있습니다.
마무리
상관분석은 두 변수 간의 관계 유무와 강도를 파악하는 데, 회귀분석은 독립변수가 종속변수를 얼마나 잘 예측하는지 파악하는 데 초점을 둡니다. 연구 질문이 "관계가 있는가?"라면 상관분석을, "어느 정도 예측하는가?"라면 회귀분석을 선택하세요. 그리고 어떤 분석을 하든, 결과를 인과관계로 해석하는 오류는 반드시 경계해야 합니다.