[20260407] 빅데이터분석기사 필기 9일차_인공 신경망

번호	핵심 키워드	상세 설명
1	인공신경망 (ANN)	인간의 신경세포인 뉴런을 모방하여 만든 기계 학습 모델로, 딥러닝의 기본 개념이며 입력층, 은닉층, 출력층으로 구성됩니다.
2	퍼셉트론	인공신경망의 가장 기본적인 모델로, 입력층과 출력층으로 구성되며, 단층 퍼셉트론은 선형 분리만 가능하고 다층 퍼셉트론은 은닉층을 추가하여 비선형 분리가 가능합니다.
3	활성화 함수	순 입력 함수로부터 받은 값을 특정 기준에 따라 판단하여 출력 값을 내는 역할을 하며, 시그모이드, 계단 함수, 부호 함수, ReLU 등 다양한 종류가 있습니다.
4	손실 함수 (비용 함수)	예측값과 실제값의 차이인 오차를 수치화하는 함수로, 이 값을 최소화하는 방향으로 모델을 학습시키며, MSE, MAE, 교차 엔트로피 등이 있습니다.
5	경사 하강법	손실 함수 값을 최소화하는 가중치를 찾기 위한 최적화 알고리즘으로, 임의의 초기 가중치에서 시작하여 기울기를 따라 손실이 가장 낮은 지점으로 이동하며 가중치를 업데이트합니다.

 

Q1. 왜 단층 퍼셉트론은 XOR 문제를 해결할 수 없는가?

 

A: 경사하강법이 XOR의 손실함수에 적용될 수 없기 때문에.

B: 가중치 초기화가 무작위라서 XOR 패턴을 안정적으로 학습할 수 없기 때문에.

C: 입력의 가중치 선형결합과 단일 활성화만으로는 XOR의 비선형 결정경계를 표현할 수 없기 때문에.

D: 퍼셉트론의 활성화함수가 항상 연속 함수여서 이진 출력으로 수렴하지 않기 때문에.

 

 

정답이에요!

C. 단층 퍼셉트론은 입력의 선형결합과 하나의 활성화로만 결정경계를 만들 수 있어 XOR처럼 선형분리가 불가능한 문제는 풀 수 없어요. 은닉층이나 비선형 변환을 추가하면 비선형 경계를 형성해 XOR을 해결할 수 있다는 점을 기억하세요.

 

 

Q2. 단층 퍼셉트론이 XOR 문제를 해결하지 못해 다층 퍼셉트론(MLP)을 도입한 이유로 가장 적절한 설명은?

 

A: 출력층의 뉴런 수를 늘리면 XOR 같은 비선형 문제를 선형적으로 해결할 수 있기 때문이다.

B: 단층 퍼셉트론의 학습 횟수(에폭)를 늘리면 XOR 문제를 해결할 수 없지만 MLP는 학습률을 높여 해결하기 때문이다.

C: 은닉층과 비선형 활성화함수를 통해 입력을 비선형적으로 변환해 선형 분리가 가능하게 만들기 때문이다.

D: 은닉층을 추가하면 가중치 초기값이 자동으로 최적화되어 학습 수렴이 빨라지기 때문이다.

 

 

정답이에요!

C. 은닉층에 비선형 활성화함수를 적용하면 입력을 비선형적으로 변환해 선형 분리가 가능한 특징공간으로 매핑할 수 있어서 MLP가 XOR을 해결할 수 있어요. 즉 은닉층과 활성화함수의 비선형성이 비선형 문제 해결의 핵심입니다.

 

 

Q3. XOR 문제를 학습하려는 단층 퍼셉트론이 반복 학습해도 오류를 줄이지 못할 때 가장 적절한 해결책은 무엇인가?

 

A: 출력층의 활성함수를 ReLU로 변경한다.

B: 드롭아웃을 적용하여 과적합을 줄인다.

C: 은닉층을 추가하여 다층 퍼셉트론(MLP/DNN)으로 확장한다.

D: 합성곱 신경망(CNN)을 적용한다.

 

 

정답이에요!

C. 은닉층을 추가하면 네트워크가 비선형 결정을 표현할 수 있어 XOR 같은 비선형 문제를 해결할 수 있어요. 단층 퍼셉트론은 선형 분류만 가능하지만 MLP/DNN은 은닉층의 비선형 변환으로 비선형 문제를 처리할 수 있다는 점을 기억하세요.

 

 

Q4. 딥러닝에서 시그모이드 함수보다 ReLU 활성화함수를 선호하는 주된 이유는 무엇인가?

 

A: 입력이 양수일 때 출력이 입력에 비례하여 기울기가 유지되므로 역전파 시 기울기 소실을 완화하기 때문이다.

B: 출력이 -1에서 1 사이로 대칭적이어서 편향 보정에 유리하기 때문이다.

C: 음수 입력에 대해 항상 1을 출력하여 뉴런이 과대적합되는 것을 방지하기 때문이다.

D: 출력이 항상 0과 1 사이로 정규화되어 학습이 안정적이기 때문이다.

 

 

정답이에요!

A. ReLU는 양수 영역에서 출력이 입력에 비례하므로 역전파할 때 기울기가 0이 아니어서 기울기 소실 문제를 완화해요. 활성화 함수 선택은 깊은 신경망에서 기울기 보존 여부와 밀접하게 관련되어 있다는 점을 기억하세요.

 

 

Q5. 이미지 분류용 심층 신경망을 학습할 때 학습 손실은 줄지만 검증 손실은 증가하고(과대적합), 초기 층의 기울기가 매우 작게 관측됩니다(기울기 소실). 강의 내용에 따라 이 두 문제를 동시에 완화하기 위한 가장 적절한 조치는 무엇인가요?

 

A: 모델의 은닉층을 제거하거나 파라미터 수를 크게 줄여 단순화한다.

B: 은닉층 활성화를 시그모이드 대신 ReLU 또는 Leaky ReLU로 변경하고 드롭아웃 및 데이터 증강을 적용한다.

C: 활성함수는 유지한 채 은닉층을 더 깊게 늘려 표현력을 키운다.

D: 모델을 CNN 구조로만 전환하고 학습/정규화 기법은 그대로 둔다.

 

 

정답이에요!

B. ReLU나 Leaky ReLU는 심층망에서 기울기 소실을 완화하고, 드롭아웃과 데이터 증강은 모델의 과대적합을 줄여 검증 성능을 개선해요. 따라서 활성화 함수를 변경하고 정규화 및 데이터 증강을 병행하는 것이 문제 해결에 적절해요.

 

 

Q6. 단층 퍼셉트론이 XOR 문제를 해결하지 못하는 주된 이유는 무엇인가?

 

A: 합성곱 연산을 사용하지 않아 이미지의 공간적 특징을 추출할 수 없기 때문에.

B: 학습에 필요한 데이터가 너무 많아 과대적합이 발생하기 때문에.

C: 활성화 함수(예: ReLU)가 없어 기울기 소실로 학습이 불가능하기 때문에.

D: 입력의 가중치 선형결합만으로 선형 결정 경계만 만들 수 있어 XOR의 비선형 분리를 표현하지 못하기 때문에.

 

 

정답이에요!

D. 단층 퍼셉트론은 입력의 선형결합으로만 결정 경계를 만들 수 있어 XOR 같은 비선형 문제를 분리하지 못해요. 은닉층을 추가하면 비선형 변환이 가능해져 MLP·DNN이 XOR을 해결할 수 있다는 점을 기억하세요.

 

 

Q7. 시그모이드의 기울기 소실을 개선하려 ReLU를 도입했더니 음수 입력에서 일부 뉴런이 완전히 출력 0이 되어 학습에 기여하지 못하는 문제가 발생했다. 강의에서 이 문제를 완화하는 활성화 함수는 무엇인가?

 

A: ReLU 함수

B: 하이퍼볼릭 탄젠트 함수(tanh)

C: 시그모이드 함수

D: Leaky ReLU 함수

 

 

정답이에요!

D. Leaky ReLU는 음의 입력 영역에 작은 기울기를 두어 뉴런이 완전히 죽는 현상을 방지하므로 해당 문제를 완화합니다. 활성화 함수는 기울기 소실과 음수 영역의 기울기 유무를 함께 고려해 선택해야 합니다.

 

 

Q8. 깊은 신경망에서 기울기 소실이 발생하고 일부 뉴런이 '죽는'(출력이 0으로 고정되는) 현상도 관찰될 때 이를 모두 완화하는 활성화 함수는 무엇인가요?

 

A: 계단 함수 (Step function)

B: 시그모이드 함수 (Sigmoid)

C: ReLU 함수

D: Leaky ReLU 함수

 

 

정답이에요!

D. Leaky ReLU는 양수 영역에서 선형적으로 증가해 기울기 소실을 완화하고 음수 영역에서는 작은 기울기를 유지해 뉴런이 완전히 죽는 것을 방지해요. 따라서 기울기 소실과 죽은 뉴런 문제를 동시에 완화하려면 Leaky ReLU가 적절합니다.

 

 

Q9. 다층 퍼셉트론(MLP)에서 기울기 소실과 과대적합 문제를 각각 완화하기 위한 적절한 기법의 조합은?

 

A: 시그모이드 활성화 함수와 드롭아웃 사용

B: ReLU 활성화 함수와 드롭아웃 사용

C: ReLU 활성화 함수와 L2 정규화

D: 시그모이드 활성화 함수와 데이터 증강

 

 

정답이에요!

B. ReLU는 시그모이드보다 도함수가 0으로 수렴하지 않아 기울기 소실을 완화하고, 드롭아웃은 학습 중 일부 뉴런을 무작위로 생략해 특정 학습 데이터에 대한 과대적합을 줄여요. 따라서 MLP에서는 ReLU와 드롭아웃을 함께 사용하는 것이 두 문제를 완화하는데 효과적입니다.

 

 

Q10. 단층 퍼셉트론이 XOR 문제를 해결하지 못하는 주된 이유와 이를 해결하는 핵심 방법은 무엇인가?

 

A: 가중치 초기화나 학습률 조정만으로 단층 퍼셉트론이 XOR을 해결할 수 있다.

B: 활성화 함수를 시그모이드 대신 ReLU로 바꾸면 단층 퍼셉트론도 XOR을 해결할 수 있다.

C: 단층 퍼셉트론은 입력의 선형 결합만으로 결정 경계를 만들기 때문에 XOR 같은 비선형 문제를 풀지 못하며, 은닉층과 비선형 활성화 함수를 추가한 다층 퍼셉트론이 해결한다.

D: 단층 퍼셉트론의 한계는 과대적합 때문이며, 드롭아웃을 쓰면 XOR 문제도 해결된다.

 

 

정답이에요!

C. 단층 퍼셉트론은 단일 선형 결정 경계를 학습하므로 XOR처럼 서로 다른 클래스가 선형으로 분리되지 않는 문제를 풀 수 없어요. 따라서 은닉층과 비선형 활성화 함수를 가진 다층 퍼셉트론(MLP)이 비선형 경계를 학습해 XOR 문제를 해결합니다.

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.