Deep-Learning 용어정리 (인공 신경망)

---

인공 신경망

ANN에 대해서 알아보자

---

ANN

Artificial Neural Network의 약자인 ANN 즉 인공 신경망은 인간의 뇌를 모방하여 만든 시스템이다.

 

이는 이전 신경망의 설명에 거의 중복되는 내용이므로, 그 내용을 보면 될 것이다.

 

 

Deep-Learning 용어정리 (신경망) — 승열의 프로그래밍 시네마

Deep-Learning 용어정리 (신경망)

 

 

---

동작 방식

---

순전파

Forward Propagation 이라고도 하는 순전파는 기본적인 방향을 뜻한다.

입력 층을 지나 은닉층을 통해 출력층으로 가는 것을 의미한다.

 

이때 손실함수를 뽑아 최적화 알고리즘을 사용하여 다시 학습하게 되는데 이를 역전파 라고 한다.

 

---

손실계산

손실계산을 손실함수를 사용하여 예측 값과 실제 값의 차이를 계산하는것을 의미한다.

이때 생긴 오차를 최소화 하기 위해 역전파를 실행시킨다.

 

---

역전파

역전파란 손실 함수의 기울기를 출력층에서 입력층 방향으로 계산라고, 이를 바탕으로 가중치를 업데이트 하여

재 학습 시키는 것을 의미한다.

 

 

 

---

 

출력레이어의 유형과 활용

출력레이어는 신경망의 마지막 레이어이며 최종 예측값을 출력하는 층이다.

문제의 유형에 따라 다른 형태의값을 출력할 수 있다.

---

회귀 문제

Regression 이라고도 한다. 

출력 레이어의 뉴런 수는 예측 하려는 연속적인 값의 차원과 동일하다.

활성화 함수로는 선형 함수를 주로 사용한다.

 

 

---

이진 분류 문제

Binary Classification이라고도 한다.

출력 레이어의 뉴런 수는 1이다.

활성화 함수로 시그모이드 함수를 사용하여, 출력 값으로 0 과 1사이로 변경한다.

 

---

다중 클래스 분류 문제

출력 레이어의 뉴런 수는 예측 하려는 클래스 수와 동일하다.

활성화 함수로는 소프트맥스 함수를 사용하며, 각 클래스에 속할 확률을 출력한다.

 

소프트맥스는 숫자의 배열을 각각의 값을 0과 1사이의 확률로 변환하여 합이 1이 되게 하는 함수이다.

 

각각의 값이 전체의 몇퍼센트의 확률일지 나타낸다.

 

---

실습

ANN.ipynb - Colab

ANN.ipynb