[20260406] 빅데이터분석기사 필기 8일차_회귀분석2

번호	핵심 키워드	상세 설명
1	회귀 분석 가정	회귀 분석 모델이 유효하기 위해 충족해야 하는 전제 조건으로, 선형성, 정규성, 독립성, 등분산성이 있습니다.
2	오차 검정 지표 (MAE, MSE, RMSE)	회귀 모델의 예측 오차를 정량화하는 지표로, MAE(평균 절대 오차), MSE(평균 제곱 오차), RMSE(평균 제곱근 오차)가 있으며 값이 낮을수록 좋은 모델입니다.
3	결정 계수 (R-squared)	회귀 모델이 종속 변수의 분산을 얼마나 잘 설명하는지 나타내는 지표로, 0에서 1 사이의 값을 가지며 1에 가까울수록 설명력이 높습니다.
4	수정된 결정 계수 (Adjusted R-squared)	다중 선형 회귀 분석에서 독립 변수의 개수 증가에 따른 결정 계수의 과대평가를 보정하는 지표로, 설명력이 낮은 변수 추가 시 값이 감소합니다.
5	다중 공선성 (Multicollinearity)	다중 선형 회귀 분석에서 독립 변수들 간에 높은 상관관계가 존재하는 현상으로, VIF(분산 팽창 요인) 지수를 통해 진단하며, 10 이상일 경우 문제가 있다고 판단합니다.

 

Q1. 실제값이 20일 때 네 모형의 예측값 중 MAE 기준으로 가장 좋은 모형은?

 

A: 모형 4 (예측값 30)

B: 모형 2 (예측값 17)

C: 모형 3 (예측값 25)

D: 모형 1 (예측값 13)

 

 

정답이에요!

B. 모형2는 오차가 |20-17|=3으로 네 모형 중 가장 작으므로 MAE 기준에서 최적인 모형이에요. MAE는 관측값과 예측값 간 절대차의 평균을 나타내며 값이 작을수록 모형 성능이 좋아요.

 

 

Q2. 잔차의 Q‑Q 플롯은 직선에 가깝게 정규성을 만족하지만, 잔차가 특정 구간에서 점점 퍼져 '깔때기' 모양을 보일 때 위배된 회귀모형 가정은 무엇인가요?

 

A: 등분산성(잔차의 분산이 모든 구간에서 일정해야 함)

B: 정규성(오차항이 정규분포를 따라야 함)

C: 선형성(독립변수와 종속변수 간의 관계가 선형이어야 함)

D: 독립성(오차항들이 서로 독립이어야 함)

 

 

정답이에요!

A. 잔차가 특정 구간에서 퍼지는 '깔때기' 형태는 잔차 분산이 일정하지 않다는 뜻으로 등분산성 가정이 위배된 경우예요. 등분산성은 모든 관측치에서 오차의 분산이 동일해야 한다는 가정이에요.

 

 

Q3. 독립변수가 하나이고 종속변수가 두 범주(예: 성공/실패)를 가지는 자료를 분석할 때 적절한 회귀분석 방법은?

 

A: 로지스틱회귀

B: 다중선형회귀

C: 단순선형회귀

D: 다항회귀

 

 

정답이에요!

A. 종속변수가 범주형(특히 이진)이면 로지스틱회귀가 적절해요. 로지스틱회귀는 범주형 종속변수를 설명하기 위해 사용하는 회귀방법이라는 점을 기억하세요.

 

 

Q4. 회귀분석에서 오차항의 정규성(정상성)을 검정하는 데 적합하지 않은 방법은 무엇인가?

 

A: 콜모고로프‑스미르노프(KS) 검정

B: Durbin‑Watson 검정

C: QQ 플롯

D: Shapiro‑Wilk 검정

 

 

아쉬워요. C

정답이에요!

B. Durbin‑Watson 검정은 잔차의 자기상관(독립성)을 검사하는 도구라서 정규성 검정이 아니에요. 정규성은 QQ플롯이나 Shapiro‑Wilk, Kolmogorov‑Smirnov 같은 방법으로 확인합니다.

 

 

Q5. 실제값이 20일 때 네 모형의 예측값이 각각 13, 17, 25, 30일 때, 잔차의 절댓값이 작다는 기준으로 가장 좋은 모형은 무엇인가?

 

A: 모형 4 (예측값 30)

B: 모형 3 (예측값 25)

C: 모형 2 (예측값 17)

D: 모형 1 (예측값 13)

 

 

정답이에요!

C. 예측값 17의 잔차는 3으로 네 모형 중 절댓값이 가장 작아서 좋은 모형이에요. 잔차의 절댓값이 작을수록 실제값과 예측값의 차이가 작아 예측 성능이 좋다는 점을 기억하세요.

 

 

Q6. 다중선형회귀에서 일부 설명변수의 VIF가 12로 높고 모델에 불필요한 변수가 포함된 것으로 보일 때, 모델을 개선하기 위해 가장 적절한 조치는 무엇인가?

 

A: 예측력을 높이기 위해 가능한 모든 변수를 남겨둔 채 MSE를 최소화하도록 회귀계수를 재추정한다.

B: VIF가 높은 변수를 제거하거나 전진·후진·단계적 변수선택을 적용하고 AIC/BIC로 후보 모형을 비교하여 더 간결한 모형을 선택한다.

C: 잔차 정규성 여부를 Durbin‑Watson 검정으로 먼저 확인한다.

D: 종속변수를 로그 변환하여 모델을 추정한다.

 

 

정답이에요!

B. VIF가 12이면 다중공선성을 의심해야 하므로 높은 VIF 변수를 제거하거나 변수선택 기법으로 불필요한 변수를 제거하고 정보기준으로 모형을 비교하는 것이 적절해요. 다중공선성은 회귀계수의 분산을 키워 추정의 불안정성을 초래하니 더 간결한 모형을 선택하는 것이 좋습니다.

 

 

Q7. 선형 회귀식 y_i = α + β x_i + ε_i에서 회귀계수를 최소제곱법으로 추정하는 주된 이유는 무엇인가요?

 

A: 잔차(residual)의 제곱합을 최소화하여 관측값과 예측값 간의 전체 오차를 가장 작게 만들기 위해

B: 오차항의 분산을 최대화하여 모델의 설명력을 높이기 위해

C: 잔차의 절대값 합을 최소화하여 이상치의 영향을 완전히 제거하기 위해

D: 독립변수와 종속변수의 상관계수를 1로 만들기 위해

 

 

정답이에요!

A. 회귀계수는 관측값과 회귀선으로 예측된 값의 차이인 잔차들의 제곱합을 최소화하도록 추정되기 때문에 최소제곱법을 사용합니다. 잔차는 관측값과 예측값의 차이이고, 최소제곱법은 이 차이들의 제곱합을 가장 작게 만드는 추세선을 찾는 방법이에요.

 

 

Q8. 다수의 설명변수를 추가했더니 R²는 증가했으나 Adjusted R²가 감소했습니다. 이 결과의 가장 적절한 해석은?

 

A: 모형의 RMSE가 반드시 증가했음을 의미합니다.

B: 추가한 변수가 잔차의 정규성을 깨뜨렸음을 의미합니다.

C: 추가한 변수들로 인해 다중공선성이 반드시 심해졌다는 신호입니다.

D: 추가한 변수가 모형의 설명력을 충분히 개선하지 못해 불필요한 변수일 가능성이 큽니다.

 

 

정답이에요!

D. Adjusted R²는 변수 추가에 대한 페널티를 적용하기 때문에 값이 감소하면 새 변수가 설명력을 충분히 개선하지 못했다는 뜻이에요. 불필요한 변수는 제거하거나 변수선택 기준(AIC/BIC 등)으로 재검토하세요.

 

 

Q9. 한 단순선형회귀모형에서 잔차 제곱합(∑(y_i−ŷ_i)^2)이 100이고 관측치 수가 25일 때, 이 모형의 MSE와 RMSE는 각각 얼마인가?

 

A: MSE = 25, RMSE = 5

B: MSE = 4, RMSE = 2

C: MSE = 100, RMSE = 10

D: MSE = 2, RMSE = 4

 

 

아쉬워요. D

정답이에요!

B. MSE는 100을 25로 나눈 4이고 RMSE는 그 제곱근인 2이므로 해당 값이 맞아요. MSE는 평균 제곱 오차이고 RMSE는 그 평균 제곱근으로 예측오차의 크기를 나타냅니다.

 

 

Q10. 선형회귀 모형에서 특정 설명변수의 VIF가 12로 관측될 때 강의 내용에 따라 가장 적절한 다음 조치는 무엇인가?

 

A: 해당 변수의 제거 또는 전진·후진·단계적 변수선택을 통해 모델을 재구성하고 AIC/BIC로 비교한다.

B: VIF가 높더라도 그대로 두고 모델을 유지한다.

C: 모형을 이진종속 문제로 간주하여 로지스틱 회귀로 전환한다.

D: 종속변수에 로그 변환을 적용하여 다중공선성을 해소한다.

 

 

정답이에요!

A. VIF가 12이면 다중공선성이 의심되어 관련 변수를 제거하거나 전진·후진·단계적 선택으로 불필요한 변수를 정리하는 것이 적절해요. 강의에서는 VIF 확인과 함께 전진·후진·단계적 방법 및 AIC/BIC로 변수선택을 진행하라고 설명했음을 기억하세요.

 

 

Q4.[오답 퀴즈] 예측 정확도를 목표로 회귀모형을 구축했더니 일부 설명변수의 VIF가 15 이상으로 높고, 잔차가 비정규·이분산·양의 자기상관(Durbin‑Watson≈1.2)을 보이며, 변수 제거 시 AIC가 악화됩니다. 예측 성능을 최적화하기 위해 가장 적절한 전략은 무엇인가?

 

A: 교차검증을 통해 규제(릿지/LASSO)나 차원축소(주성분회귀)를 적용해 다중공선성과 과적합을 완화하고, 잔차의 자기상관은 적절한 표준오차 보정이나 시계열적 모델링으로 처리한다.

B: 회귀계수의 해석성을 위해 VIF가 큰 변수를 제거한 뒤 표준 OLS로 모델을 확정한다.

C: AIC가 낮아지는 소수 변수 모델을 무조건 선택하고 잔차의 분포·상관 문제는 예측에 큰 영향이 없으므로 무시한다.

D: 종속변수를 로그 등으로 변환하여 잔차의 정규성만 맞춘 후 기존 OLS 절차를 그대로 따른다.

 

 

정답이에요!

A. 규제 기법과 교차검증은 다중공선성과 과적합을 줄여 외부 데이터에 대한 예측력을 개선하고, 자기상관은 표준오차 보정이나 시계열적 모델링으로 처리해야 예측치 신뢰성이 확보됩니다. 예측 목적이면 규제와 검증을 통해 모델의 일반화 능력을 우선 확보하세요.

 

 

Q9.[오답 퀴즈] Galton의 관찰(매우 큰/작은 부모의 자손이 모집단 평균에 더 가까워지는 경향)을 가장 타당하게 설명하는 해석은 무엇인가?

 

A: 부모의 키가 자손에게 부분적으로 유전되지만 유전력이 1보다 작아 무작위 변동 때문에 극단값은 평균으로 회귀한다.

B: 세대를 거치며 자연선택이 작용해 극단적 키가 점진적으로 모집단 평균으로 수렴한다.

C: 부모의 키는 전혀 유전되지 않아 자손의 키는 항상 모집단 평균으로 수렴한다.

D: 관측된 경향은 주로 표본오차나 측정오류의 결과이며 유전적 영향은 무시할 수 없다.

 

 

정답이에요!

A. 부모의 형질이 부분적으로만 유전되면 극단적인 부모일수록 자손은 평균 쪽으로 되돌아오는 경향이 생기므로 회귀 효과가 설명됩니다. 이를 회귀(regression to the mean)라고 하며 유전력<1과 환경적·무작위 변동이 원인이라는 점을 기억하세요.

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.