신경회로망 Perceptron 알고리즘 200724577 윤병국 200524264 양락준 200424469 양영준.

Presentation on theme: "신경회로망 Perceptron 알고리즘 200724577 윤병국 200524264 양락준 200424469 양영준."— Presentation transcript:

1 신경회로망 Perceptron 알고리즘 윤병국 양락준 양영준

2 Contents 1. 인공 신경 회로망의 정의 2. 신경 회로망의 역사 및 특징 3. Perceptron
[J]조 Contents

3 인공 신경 회로망의 정의 인공 신경 회로망이란? 인공신경회로망은 생물체의 신경망에서 출발한 것으로 많은 수의 단단한 프로세서들이 서로 연결되어 있는 병렬 계산 시스템이다. 인공신경회로망은 인간의 뇌에서 사용된다고 생각되는 어떤 조직화의 원리를 이용하려고 시도한다. 이러한 시도는 역으로 생체신경망을 인공신경회로망으로 모델링함으로서 생물학적인 작용을 이해하는데 도움을 줄 수도 있다 [J]조 정의

4 인공 뉴런의 모형 [J]조 정의

5 비 교 디지털 컴퓨터와 신경회로망의 비교 디지털 컴퓨터 신경회로망 디지털 데이터의 처리 아날로그 데이터 처리
디지털 컴퓨터 신경회로망 디지털 데이터의 처리 수학/논리적 함수이용 구조화된 자료처리로 결과 예견 가능 정확한 답 특정자료를 집중적 저장 아날로그 데이터 처리 불완전, 모순된자료 자료처리 독집적 조직화 복잡한 문제도 근사한 답 자동검색이 가능하게 자료를 분산 [J]조 비 교

6 신경 회로망의 역사 제 1기(1940년대 - 1960년대):초기 모방기
1943년 McCulloch와 Pitts는 뇌의 기본 구성단위인 뉴런을 단순 모델화하여 연산 작용과 기억 체계등에 이용하고자 함. Weiner의 Cybernetics와 Rosenblatt의 Perceptron 모델은 인간의 뇌가 학습한다는 중요한 원리 제공해준 계기. [J]조 정의

7 신경 회로망의 역사 제 2기(1960년대 - 1980년대): 침체기
- 1969년 신경 회로망의 한계성에 관한 Minsky와 Papert의 신경 회로망의 한계성에 관한 연구에 따라 컴퓨터와 뇌의 연구가 점차 분리 - Minsky는 퍼셉트론이란 책에서 신경 회로망의 결함 발표: 퍼셉트론의 신뢰성 할당 문제 논리 연산 기능 중 XOR 문제에 정확한 해를 제시 할 수 없음. [J]조 정의

8 신경 회로망의 역사 제 3기(1980년대 - 현재): 발전기
- Hopfield교수의 연구로 인해 신경회로망이 매우 활기를 띠기 시작 - 제 2기의 Minsky가 제시한 문제점에 대한 해 제시 XOR문제는 오류 역전파 알고리즘을 이용하여 해결 60년대보다 신경회로망을 지원하는 하드웨어의 성능이 2000배 이상 증 다른 인공지능이 해결하지 못했던 패턴 인식 분야에 신경회로망이 이용되면서 좋은 결과 보여줌. [J]조 정의

9 신경 회로망의 특징 병렬 분산 처리 각 뉴런은 다른 뉴런들과 독립된 기능을 갖는다.
즉 출력이 자신의 연결을 통하여 직접 전달되는 정보에만 의존한다. 따라서 병렬처리가 가능하다. 일반화 뉴런들 사이의 연결이 매우 많다. 따라서 정보의 분산표현 및 처리가 가능하다. 또 중복성이 커서 오류의 영향을 크게 받지 않으며 연상 기억 특성을 갖는다. 학습 학습이나 훈련을 통해 결선강도를 조절함으로써 새로운 정보를 추가하거나 변경할 수 있는 적응성 이 있다. [J]조 정의

10 Perceptron 이란? Perceptron 은 1957 년 Frank Rosenblatt 에 의해 개발된
 신경망의 한 종류로서 가장 오래되고 가장 많이 논의되고 가장 쉽게 배울수 있는 신경망 모델이다. 처음 소개 되었을 당시에는 상당한 센세이션을 불러 일으켰지만, 곧 여러 단계의 패턴들을 인식하도록 훈련할 수 없다는 것이 증명되었다. 즉, 하나나 두 개의 layer 를 가진 simple perceptron 은 선형 분리가능한 패턴만을 학습할 수 있다는 것이다. 1969 년에 Minsky 에 의한 ‘퍼셉트론즈’ 라는 유명한 논문에서 XOR 함수를 학습시키는 것이 불가능하다는 것을 보였다. 역전파 알고리즘을 사용한 다층 퍼셉트론 은 이러한 문제들을 가지지 않는다는 것이 1980 연대에 발견되었고, 그것으로 신경망 연구가 다시 부활하게 되었다. [J]조 정의

11 단층 Perceptron 한계 -패턴을 두 구역으로 밖에 나눌 수 없다.
-3가지 이상의 패턴이 입력될 경우 처리가 불가능 하다. [J]조 한계

12 다층 Perceptron 입력층과 출력층 사이에 하나 이상의 은닉층을 갖는 신경 회로망 [J]조 한계

13 Perceptron 알고리즘 가중치의 초기화 입력 값에 대한 희망출력 값 설정 실제출력 값 계산
실제출력 값 = Σ 가중치 X 입력 값 여기서 활성화 함수 가중치 조정 새로운 가중치 = 기존 가중치 + 운동량 X (목표값 – 실제 값 ) X 입력값 희망출력 값과 실제출력 값이 같을 때 까지 3~4과정을 반복 [J]조 정의

14 숫자 디자인 [J]조 숫자 디자인

15 Perceptron 알고리즘 [J]조 알고리즘

16 일반화에 대한 예시 실제 2의 디자인 9개의 잡음을 넣은 2 10개의 잡음을 넣은2 [J]조 일반화에 대한 예시

17 프로그램 시연 작업환경 ‘C’