[DL] 신경망 (Neural Network) (수정중)

Perceptron
; 초기의 인공신경망으로 다수의 입력으로부터 하나의 결과를 내보내는 알고리즘

신경 세포 뉴런

퍼셉트론은 우리의 실제 뇌를 구성하는 신경세포 뉴런의 동작과 유사하다.

신경세포 뉴런의 그림을 보면 가지돌기로 신호를 받아들이고, 이 신호가 일정치 이상의 크기를 가지면 축삭돌기를 통해서 신호를 전달한다. 

단층 퍼셉트론

여러 입력이 있는 단일 뉴런

실제 퍼셉트론은 여러 뉴런으로 구성되어 있다. 하나의 뉴런이 어떻게 이루어져 있는지 위 그림으로 살펴볼 수 있다.

x는 입력값을 의미하며, w는 가중치 (weight), b는 편향값 (bias), y는 출력값이다. 그림 가운데의 +원은 인공 뉴런에 해당된다.

x 입력값이 뉴런으로 들어가는데 이때 각 입력마다 가중치가 곱해진다. 이때 가중치의 값이 크면 클수록 해당 입력값이 중요하다는 것을 의미한다. 

편향 또한 뉴런의 입력으로 사용되는데, 그림에서는 입력값이 1이고, 편향b가 곱해지는 변수로 표현된다. 

이렇게 각 입력값에 대해 각각 가중치가 곱해지고, 이 합을 출력 y로 표현할 수 있다.

y = (x0 * w0) + (x1 * w1) + (x2 * w2) + b

 

 

다층 퍼셉트론 (Multilayer Perceptron , MLP)

다층 퍼셉트론 = 단층 퍼셉트론 + 은닉층( Hidden Layer )

다층 퍼셉트론

심층 신경망

복잡한 문제를 해결하기 위해서 다층 퍼셉트론은 입력층과 출력층 중간에 수많은 은닉층 (Hidden Layer)를 추가할 수 있다.

은닉층의 개수는 2개가 될 수도 있고, 수십개가 될 수도 있다. 위와 같이 은닉층이 2개 이상인 신경망을 심층 신경망(Deep Neural Network, DNN) 이라고 한다.

 

 

 

 

인공신경망
(Artificial Neural Network)

피드포워드 신경망 ( Feed-Forward Neural Network)

다층 퍼셉트론과 같이 오직 입력층에서 출력층 방향으로 연산이 전개되는 신경망을 피드포워드 신경망이라고 한다.

 

RNN (Recurrent Neural Network)

FFNN에 속하지 않는 RNN 신경망을 나타낸다. 이 신경망은 은닉층의 출력값을 출력층으로도 보내지만, 동시에 은닉층의 출력값이 다시 은닉층의 입력으로 사용된다.