인공지능 - 인공신경망

신경망

• 최근에 많은 인기를 끌고 있는 딥러닝(deep learning)의 시작은 1950년대부터 연구되어 온 인공 신경망(artificial neural network: ANN)
• 인공 신경망은 생물학적인 신경망에서 영감을 받아서 만들어진 컴퓨팅 구조

신경망의 장점

• 학습이 가능
• 몇 개의 소자가 오동작하더라도 전체적으로는 큰 문제가 발생하지 않음

퍼셉트론

• 뉴런에서는 입력 신호의 가중치 합이 어떤 임계값을 넘는 경우에만 뉴런이 활성화되어서 1을 출력, 아니면 0을 출력

MLP

• 다층 퍼셉트론 : 입력층과 출력층 사이에 은닉층을 가지고 있는 신경망

활성화 함수

• 퍼셉트론에서는 계단 함수를 활성화 함수로 사용하였지만, MLP에서는 다양한 비선형 함수들을 활성화 함수로 사용
• Sigmid, TanH, ReLU

손실 함수

• 전체 오차는 목표 출력값에서 실제 출력값을 빼서 제곱한 값을 모든 출력 노드에 대하여 합한 값으로 계산

경사 하강법

• 현재 위치에서 함수의 그래디언트 값을 계산한 후에 그래디언트의 반대 방향으로 움직이는 방법
• 그래디언트 : 접선의 기울기