인공신경회로망(Artificial Neural Networks; ANN) (인공)신경회로망 (ANN or NN) 생물학적 신경계와 같은 방식으로 동작할 수 있도록 단순하지만 적응적인 요소들을 대량으로 병렬 연결한 망들의 계층적 조직 AI 연결주의 (Connectionism) 두뇌가 동작하는 방식을 컴퓨터에서 실현하기 위한 연구 (‘how the brain act’) 인공적으로 구성된 신경망에 대한 연구 기호주의 (Symbolism) 두뇌가 하는 일을 컴퓨터가 할 수 있기 위한 연구 (‘what the brain do’) 탐색, 계획 등 AI연구의 주류를 형성

개요 인공신경회로망(Artificial Neural Networks; ANN) 생물학적 시스템의 계산틀 → 컴퓨터로 모방 불가 → 생물학적 정보체계 연구를 위해 시작 - 심리학,신경과학,인지과학, 시스템 이론 병합 기본 작업 학습(learning): 패턴 부류에 따라 신경망의 연결가중치 조정 재생(recall): 학습된 가중치와 입력벡터와의 거리 계산하여 가장 가까운 클래스로 분류 → 사람과 같은 학습 능력: 패턴 분류, 인식, 최적화, 예측 → 기존 인공지능 문제 해결의 새로운 계산틀 제공 (인공)신경회로망 인간의 두뇌작용을 신경 세포들간의 연결관계로 모델링 → 인간의 학습을 모델링

컴퓨터 vs 신경망 vs 인간 두뇌 (표 9.1) 구분 진화 성능 신호 데이타 작동 결함 허용성 비교적 우위 종족의 급격한 진화 개체 능력은 변화 않음 적응적 변화가 가능한 프로그램 종족의 완만한 진화 개체 능력의 급속한 발달 성능 속도 빠름(ns, ps) GB의 기억용량 컴퓨터보다 느린 처리속도사람보다 작은 기억용량 느린 처리속도(ms) 큰 기억용량 (4x1010GB) 신호 전기 화학반응에 의한 전기 데이타 디지털 디지털, 아날로그 아날로그 작동 기정된 알고리즘에 의한 최적의 결과 목표 학습할 수 있는 적응적 알고리즘 적응적이며 휴리스틱한 유형 기정의 알고리즘은 없음 결함 허용성 조금의 결함이라도 시스템의 작동에 치명적임 다수의 병렬 연결 구조는 경미한 결함을 허용함 경미한 손상은 전체적으로 별다른 영향을 미치지 않음 비교적 우위 계산과 자료의 저장 컴퓨터를 이용한 판단과 인식 판단과 인식

개요 생물학적 뉴런 신경기능 탐구 핵 세포체 신경절 생물학적 신경회로망: 인간의 생체 기능 연구(생물, 생리, 신경과학자) → 동물 생체 실험 → 학습능력의 원천 밝힘 인공신경회로망 - 신경회로망의 기능, 구조를 H/W, S/W적으로 실현 → 수학적 모델 연구(기존의 시뮬레이션으로 구현된 알고리즘을 H/W화) 핵 세포체 신경절 수상돌기 축색돌기

역사 (1943) McCulloch와 Pitts - 신경세포들을 단순히 연결한 신경회로망은 산술 및 논리연산을 수행할 수 있다. (1949) Hebb의 법칙 최초의 인공 신경회로망의 학습규칙 제안 신경회로망이 학습을 수행함을 증명 50, 60 년대 단층의 인공세포의 신경회로망 Rosenblatt, Widrow의 Perceptron- 일기예보, 심전도 해석, 인공시각 69년 Minsky 등에 의해 한계 지적(퍼셉트론은 XOR 문제해결 불가) 신경망 연구 침체 → 기호주의 AI 활성화 80 년대 중반이후 기호주의 AI 한계 Hopfield: 신경회로망  에너지 개념 오류역전파 학습 알고리즘(Rumelhart, McCleland): 다층 퍼셉트론 학습 → 신경회로망 연구 부흥

정의 및 특징 신경회로망의 정의, 특징 신경 세포가 신경절로 연결되어 정보전달 노드 또는 처리요소(processing element)를 연결 → 신경회로망 인공 신경회로망의 뉴런(처리요소)의 구조 뉴런1개는 단순기능 → 다중으로 연결되면 강력한 기능(그림9.4 단층) X1 W1 ∑i Xi • Wi -  F X2 W2 OUT = F(∑i Xi • Wi -  ) Wn 다른 뉴런의 입력으로 연결됨 Xn - 1 가중치 입력 임계치

정의 및 특징 신경회로망이 커지고 복잡해질수록 더 나은 기능 수행 다층 신경회로망: 입력층과 출력층 사이에 새로운 층 추가 → 은닉층(hidden layer) 또는 중간층(internal layer) 예를 통한 학습, 일반화, 연상기억, 결함 허용성의 특징을 보인다 예를 통한 학습 - 예를 계속적으로 제시함으로써 원하는 형태의 사상(mapping)을 만듦 : 지도 학습/비지도 학습 일반화 - 학습이 완료된 신경회로망은 학습되지 않은 입력에 대해서도 올바른 결과를 출력 연상기억 - 새로운 입력, 일부 유실된 정보 → 유사한 출력 결함 허용성 - 일부 뉴런 고장, 단절 → 남아 있는 뉴런들에 의해 작동 보장 연결가중치 조정방법 지도학습: 입력이 주어짐에 따라 원하는 출력값이 활성화 되도록 가중치를 조절 (Hopfield 학습규칙, 델타규칙, 오류 역전파 학습규칙) 비지도학습: 목표값 없이 학습 데이터만 입력, 스스로 연결가중치들을 학습 →미리 결정된 해가 불필요 (경쟁학습, ART 모델)

종류 신경회로망 모델 종류 입력형식 학습방식 신경회로망 모델 지도 학습 Hopfield network 지도 학습 및 비지도 Counterpropagation network 이진입력 학습을 결합한 학습 비지도 학습 ART model Perceptron Multilayer Perceptron 지도 학습 실수입력 Competitive learning SOM 비지도 학습

Hopfield 신경회로망 신경회로망의 동작: energy + dynamic system 조직 모든 뉴런이 양방향으로 연결(자신 제외) 전달(활성화)함수 : hard limiter 함수 사용 입력 : 2진수 출력 : +1, -1(양과 음의 에너지 상태를 표시) 1 2 N-1 I0 I1 I2 IN-1

Hopfield 신경회로망의 동작 규칙 1단계 : M개의 패턴을 이용하여 N개 뉴런 사이의 연결 가중치를 지정 wij: 뉴런 i에서 뉴런 j로의 연결가중치 Xsi: s 클래스에 속하는 학습패턴의 i번째 요소값(+1 or -1) 2단계 : 미지의 입력패턴을 신경회로망에 제시 3단계 : 뉴런들의 출력과 가중치를 곱한 값을 합하여 전달함수를 통과 4단계 : 수렴(출력의 변화가 없음)할 때까지 3단계를 계속 반복 5단계 : 2단계로 분기

Hopfield 신경회로망 - 비고 예제 예제: 각 패턴 크기: (5x5) 대상 : {ㄱ, ㄴ, ㄷ, ㄹ}으로 학습 2개의 4차원 학습패턴벡터: P0=(1,1,1,-1), P1=(1,-1,1,-1)일때 wij는? w00 = w11 = w22 = w33 = 0 w01=X00X01+X10X11=1x1+1x(-1) = 0 예제: 각 패턴 크기: (5x5) 대상 : {ㄱ, ㄴ, ㄷ, ㄹ}으로 학습 테스트 패턴: {ㄱ, ㄴ, ㄹ}으로 테스트 테스트 결과 ㄱ, ㄴ: 제대로 인식 ㄹ: ㄷ으로 오인식 → 회로망 크기 vs 저장가능한 패턴수 문제 → Hopfield에서는 뉴런 수가 N인 경우, 0.15N개의 패턴 저장 가능 (이 예제의 경우 25x0.15 = 3.75 → 4개 미만의 패턴 인식) 수렴결과가 최적인지 보장 안됨

단층 퍼셉트론(Perceptron) 눈의 망막을 모델화함(Rosenblatt) 지도학습, 이진 & 아날로그 입력처리 알고리즘 : 전체 출력뉴런들에 대하여 계산된 출력값과 목표값과의 차이를 최소화시킴(Widrow-Hoff 규칙(델타규칙)이 유명) →만일 계산된 출력값과 목표값간에 차이가 없으면 연결 가중치는 변경되지 않으며,차이가 있으면 차이를 줄이는 방향으로 가중치를 변경. 학습단계 1단계. 가중치(Wi(0))와 임계치()를 초기화. 2단계. 새로운 입력패턴(X0, X1, … )과 목표출력 패턴(d(t))을 제시 3단계. 하드리미터 함수를 사용하여 실제 출력값(y(t))을 계산 4단계. 가중치를 갱신 5단계. 2단계로 분기하여 반복 수행

AND, XOR 예제 뉴런에 입력되는 가중치의 합이 임계치를 초과하면 1, 아니면 0 AND → W0, W1 : 0.3 or 0.4 입력 출력 X0 X1 AND XOR X0 W0  = 0.5 Y 입력 출력 1 1 X1 W1 1 1 1 1 1

XOR의 경우 → 만족하는 W0, W1 는 존재하지 않음 → 간단한 XOR 문제도 해결하지 못함 이러한 문제를 해결하기 위해서 2개 또는 3개의 층(layer)을 사용 다층 퍼셉트론: 3층 퍼셉트론으로 어떤 문제도 해결가능 퍼셉트론은 다층 퍼셉트론 및 오류역전파 알고리즘의 기반 모델이 됨

다층 퍼셉트론 (Multi-Layer Perceptron) 입력층과 출력층 사이에 하나 이상의 은닉층을 가지는 전방향 신경회로망 단층 퍼셉트론의 문제점을 해결 → 효과적인 학습 알고리즘이 없어서 60-70년대 사용되지 않았다. 80년대 중반 오류 역전파(EBP)알고리즘 학습규칙(Rumelhart) → 일반화된 델타 규칙(generalized delta rule) 알고리즘 : 원하는 목표값(d)과 실제 출력값(o) 사이의 오차제곱합으로 정의된 비용함수(cost function) E의 값을 경사하강추적법(gradient-descent method)에 의해 최소화 하는 방향으로 학습 p: p번째 학습 패턴 Ep: p번째 패턴에 대한 오차 dpj: p번째 패턴에 대한 j번째 요소 opj: 실제 출력의 j번째 요소

2층 퍼셉트론 k M-1 …… ……  k Wkj 임계치 j L-1  j 임계치 Wji i N-1 …… …… Xp0 Xpi k M-1 …… ……  k Wkj 임계치 j L-1  j 임계치 Wji i N-1 …… …… Xp0 Xpi XpN-1

학습 규칙(초기화->전방향진행->오류역전파에 의한 수정->제어) 활성화 함수: 시그모이드 함수 1단계. 가중치와 임계치를 초기화 2단계. 입력과 목표 출력을 제시 3단계. 제시된 입력벡터를 이용하여 은닉층 j번째 뉴런으로 입력값 계산 4단계. 시그모이드 함수를 사용하여 은닉층의 출력(Opj)을 계산 5단계.은닉층의 출력을 이용하여 출력층 뉴런 k로의 입력값을 계산 6단계. 시그모이드 함수를 사용하여 출력층의 출력(Opk)을 계산 7단계. 입력패턴의 목표출력(dpk)과 실제 출력 (Opk) 과의 오차값(pk)을 계산하고 출력층 오차합(E)을 학습패턴의 오차(Ep)로 누적 시킨다.

8단계. 출력층 오차값(pk)과 은닉층과 출력층의 가중치값(Wkj)을 이용하여 은닉층의 오차(pj)를 계산한다. 9단계. 4단계와 7단계에서 구한 은닉층 뉴런 j의 출력값(Opj)과 출력층의 오차 값(pk)을 사용하여 출력층의 가중치(Wkj)를 갱신한다(임계치도 조정) 10단계. 출력층에서와 마찬가지로 입력층과 은닉층의 가중치 값과 임계치값을 갱신한다. 11단계. 모든 학습패턴에 대하여 전부 학습 할 때까지 2단계로 분기하여 반복 수행한다. 12단계. 출력층의 오차합 E가 허용값 이하이거나 최대 반복회수보다 크면 종료, 그렇지 않으면 2단계로 가서 반복한다.

오류역전파(error backpropagation) 개념 은닉층의 학습을 위해 출력층에서 발생한 오류를 이용하여 은닉층 오차계산 다시 이 값을 입력층으로 역전파시켜 출력층의 오차가 원하는 수준이 될 때까지 반복 실제 적용시 고려사항 최소평균제곱 비용함수의 국부 최적해를 위해 뉴런수를 증가 이득항(, )을 낮출 필요 있음 초기 가중치를 다르게 하여 여러 번 학습하는 방법 문제점 상위층의 목표값과 실제 출력값 간의 오류를 하위층으로 역전파시키는 것은 생물학적으로 타당하지 않음 (목표를 알지 못함) 오류 수렴까지 많은 회수의 학습 반복 지도학습에서 효율성 나타냄 → 보편적으로 많이 사용

다층망 예제 함수 근사화(function approximation) 문제 (예제 9.5) 시뮬레이션에 사용된 신경망과 학습의 결과 NN 주어진 데이터로 1,000회학습후 10,000회학습후 20,000회학습후

경쟁학습 (Competitive Learning) 알고리즘 : 입력벡터들을 신경회로망에 계속적으로 제시하면서 자율적으로 연결가중치를 변경시키는 방법 단순하면서 하드웨어 구현 시 구조 간단 통계학의 k-means 군집화 알고리즘을 기초: 주어진 데이터를 k개의 클래스로 어느 오차수준 이하로 구분될 때까지 반복 → 패턴분류 단순 구조 한 개의 입력층과 한 개의 출력층 입력층과 출력층이 완전 연결 입력층과 출력층 뉴런사이엔 흥분적으로 연결 출력층의 뉴런들간에는 억제적으로 연결 출력뉴런들은 승자 뉴런이 되기 위해 경쟁하고 오직 승자만이 학습함

단순 경쟁학습 신경회로망의 구조 억제연결 흥분연결

자기조직화(self-organizing) 알고리즘 초기 경쟁학습은 매번 승자뉴런만을 학습시키므로 초기 가중치벡터들의 분포에 따라 전혀 학습이 이루어지지 않은 출력뉴런들이 생기는 문제점 자기조직화(self-organizing) 알고리즘 인접한 출력뉴런들은 비슷한 기능을 수행할 것이라는 예측(뇌의 위치에 따라 인지 종류가 다름) 기존의 경쟁학습을 개선하여 입력벡터와 가장 가까운 출력뉴런의 이웃뉴런들을 함께 학습 시키는 알고리즘 승자뉴런뿐만 아니라 위상적으로 이웃한 뉴런들도 함께 학습 학습규칙 1단계. 연결가중치를 초기화 2단계. 새로운 입력패턴을 입력뉴런에 제시한다. 3단계. 입력벡터와 모든 출력 뉴런들과의 거리(입력-가중치)를 계산 4단계. 최소거리를 가지는 승자뉴런을 구한다. 5단계. 그 승자뉴런과 이웃한 출력뉴런에 연결된 가중치들을 갱신한다. 6단계. 2단계로 가서 새로운 입력벡터를 처리한다. 7단계. 지정된 학습회수까지 2단계부터 6단계의 과정을 반복

자기조직화 (Self-Organizing Feature Map) 신경회로망 경쟁층 N-1 입력층 1

예제 d0 = (0.1-0.5)2 + (0.9-0.9)2 = 0.16, d1 = 0.05, d2 = 0.02(승자뉴런) W02(t+1) = 0.2+0.5(0.1-0.2) =0.15 W12(t+1) = 0.8+0.5(0.9-0.8) =0.85 → 제시된 입력과 가장 유사한 출력뉴런의 가중치벡터가 입력을 향하여 이동 출력층 d2 d1 입력: X=(0.1, 0.9) d0 0.2 0.9 1.0 0.3 0.5 0.8 입력층 (단, 학습률은 0.5) 0.1 0.9

Self-Organizing Feature Map (SOM) algorithm [단계 1] 연결강도를 초기화한다. N개의 입력으로부터 M개의 출력 뉴런 사이의 연결강도를 임의의 값으로 초기화 초기의 이웃반경은 아래 그림에서와 같이 모든 뉴런들이 포함될 수 있도록 충분히 크게 잡았다가 점차로 줄어든다. [단계 2] 새로운 입력벡터를 제시한다. [단계 3] 입력벡터와 모든 뉴런들간의 거리를 계산한다. 입력과 출력 뉴런 j사이의 거리 dj는 (식 2)와 같이 계산한다. N-1 2 dj =  (Xi(t) - Wij(t)) (식 2) i=0 여기서 xi(t)는 시각 t에서의 i번째 입력벡터이고, wij(t)는 시각 t에서의 i번째 입력벡터와 j번째 출력 뉴런 사이의 연결강도이다. [단계 4] 최소 거리에 있는 출력 뉴런을 선택한다. 최소 거리 dj인 출력 뉴런 j*를 선택한다.

[단계 5] 뉴련 j*와 그 이웃들의 연결강도를 재조정한다. wij(t+1)=wij(t)+α(xi(t)-wji(t)) (식 3) 여기서 j는 j*의 이웃 반경내의 뉴런이고, i는 0에서 N-1까지의 정수값이다. α는 0과 1사이의 값을 가지는 이득항(gain term)인데 시간이 경과함에 따라 점차 작아진다. [단계 6] 단계 2로 가서 반복한다. 이웃반경의 크기 조정

유전 알고리즘 (Genetic Algorithm) 신경망과 같이 자연적 현상을 모델로 Holland가 초기연구의 대표적 인물 자연의 진화과정을 모델링 (다윈의 적자생존 법칙과 유사) 알고리즘의 주요한 구성요소 해의 표현법 - 해나 가설은 염색체로 구성되는 개체로 인식 - 각 개체의 유전적 구조는 이진수로 표현 - (예) 사과의 색깔={적, 녹, 황}을 각각 001, 010, 100으로 표현하면, 적or녹=011, 적or황=101, …, “don’t care”=111 복제기법 - 교차변이(crossover): 교차점 이후에서 부모 값을 교환 (예) (111111)과 (000000)의 부모개체와 교차점 4의 교차변이는 (111100)과 (000011) - 돌연변이(mutation): 비트값을 변환(1->0, 0->1) (예) (1111)을 3번째 비트에서 돌연변이 시키면 (1101)

알고리즘의 주요한 구성요소 (게속) 적합도 함수 - 개체로 표현된 해가 얼마나 좋은가를 [0,1]의 실수로 표현 선택의 기준 - 적합도가 높은 개체가 다음 세대에서 생존할 수 있도록 - 비례선택법: 평균이상의 적합도를 가진 개체가 1개이상의 자식을 복제할 수 있도록 (i개체의 자식의 개수=f(i)/faverage) 알고리즘 procedure GA() { initialize population; find the fitness function of population; while (termination criterion is not met) begin select solutions for next population; do crossover and/or mutation; end }

신경회로망 응용 화상처리, 문자인식, 음성인식 등의 패턴인식에 많이 응용 패턴인식: 미리 알고 있는 사실과 자료에 따라 미지의 입력을 클래스별로 분류하는 기술 연상기억: 일부 유실 되거나 변형이 가하여진 자료로부터 완전한 정보를 추출하는 기술 최적화 문제: 기존의 디지털 컴퓨터로는 다차 함수 시간 안에 풀 수 없는 NP문제이다. 알고리즘적 한계가 있으므로 Hopfield 신경회로망이나 Kohonen 신경회로망 등을 사용하여 TSP문제, 그래프 색칠하기, 채널 경로배정 문제를 해결 최근에는 정보여과, 데이터 마이닝 등에 응용