기계는 생각 할 수 있는가?

근본적인 질문들 생각한다는 것, 느낀다는 것은 무엇인가? 마음은 무엇인가? 마음은 실제로 존재하는가? 마음은 그 물리적 구조물과 어떤 관계인가? 마음은 특정한 물리적 구조의 기능인가? 그 물리적 구조는 꼭 뇌여야만 하는가? 기계도 마음을 가질 수 있는가? …

데카르트의 이원론 인간 Human 신체 Body 마음Mind 생각하는 존재 기계 데카르트에게 마음과 신체는 배타적 존재. 마음과 신체를 연결하는 곳이 필요한 데 그곳이 뇌의 한 부분인 송과선. 마음은 공간을 차지하고 있지 않음. 데카르트에게, 마음은 ‘생각하는 존재’인 반면, 신체는 기계에 불과. 또한 동물은 마음이 없는 자동기계에 불과하다고 생각함. 이러한 관점은 이후 생물학의 발전으로 뇌와 마음 사이의 관련성이 밝혀짐으로써 엄청난 도전을 받게 됨. 그리고 한편으로는 컴퓨터의 개발로 심각한 도전을 받게 됨.

인간을 감쪽같이 닮은 자동 기계가 있다면 기계와 인간을 어떻게 구별할 수 있을까? 동영상에서 나온 검사는 외양까지 검사. 동공 변화 검사. 그러나 가장 중요한 검사는 질문-답변을 통한 검사. 이 검사는 바로 앨런 튜링의 1950년 논문 <계산 기계와 마음>에서 “흉내내기 게임”으로 처음 등장하여 이후 “튜링 테스트”로 불리게 됨. 인간을 감쪽같이 닮은 자동 기계가 있다면 기계와 인간을 어떻게 구별할 수 있을까?

튜링 테스트 (1950) 음성은 눈치 챌 수 없도록 질문과 대답은 타이핑으로. 이러한 테스트를 통해, 질문자가 기계와 사람을 혼동할 수 있을까?

튜링의 주장 테스트에서 기계와 인간을 구별할 수 없다면, 그 기계는 생각을 한다고 할 수 있다. 그 기계의 후보는 바로 추상적으로는 튜링 기계, 구체적으로는 디지털 컴퓨터 (프로그램에 따른 기호 처리기)

가능한 반론들에 대한 검토 신학적 반론 진실 회피형 반론 수학적 반박 의식을 근거로 한 주장 여러 결함을 근거로 한 주장 러블레이스 부인의 반론 신경계의 연속성을 근거로 한 주장 행위의 비형식성을 근거로 한 주장 초감각적 지각을 근거로 하는 논의

수학적 반박 괴델의 정리에 따르면, 어떤 일관된 논리 체계이든, 그 체계 내에서 증명도 반증도 할 수 없는 언명이 정식화될 수 있다. 일관된 논리 체계에 기반한 디지털 컴퓨터 역시도, 아무리 질문에 그럴듯한 답을 잘 하게 만든 컴퓨터라도, 엉뚱한 답을 하거나 아무리 많은 시간을 주더라도 아무런 답을 내놓지 못하는 질문이 존재할 것이다.

튜링의 반론 어떤 특정한 기계의 능력에 한계가 있음을 인정할 수는 있다 하더라도, 똑같은 한계가 사람의 지성에도 적용될 수 없다는 것은 전혀 증명되지 않았다. 사람 역시 엉뚱한 답을 하곤 하지 않는가? 그럼에도 사람은 어떻게든 위기를 모면할 수 있지만, 기계는 내부 알고리즘에 의해 영영 빠져나올 수 없는 상황이 있지 않나?

의식을 근거로 한 주장 “기호가 어떤 우연으로 만들어지는 것이 아니고, 사고나 느낌에 의해 기계가 14행시를 짓거나 협주곡을 작곡할 수 있게 될 때 비로소 우리는 기계가 뇌에 필적한다고, 즉 기계가 단지 14행시를 쓴 것만이 아니라 그것을 쓴 사실을 알고 있다는 데 동의할 수 있다. 어떤 기계 장치도 그것이 성공했을 때의 기쁨을 느끼거나 (단지 인위적으로 신호를 보내는 간편한 장치로서가 아니라), 진공관이 끊어졌을 때 슬픔을 느낄 수는 없다. 또한 아첨을 받았을 때 기분이 좋아지거나 실수를 범했을 때 비참한 기분이 드는 일도 없다. 성적으로 매료되지도 않고, 원하는 것을 손에 넣지 못해서 노하거나 우울해지지도 않는다.” (제퍼슨, 1949)

튜링의 반론 다른 ‘사람’이 그런 의식적 특징들(이해, 기쁨, 슬픔, 흥분, 분노, 우울 등)을 가진다는 것은 어떻게 믿느냐? 만약 기계가 튜링 테스트에서 이해를 보여주는 듯한 답변을 훌륭하게 해낸다면, 제퍼슨은 무슨 말을 할 수 있을까? ‘정말 프로그래밍된 컴퓨터가 그러한 답변을 훌륭하게 해낼 수 있을까?’의 문제는 논외로 하자.

여러 결함을 근거로 한 주장 인간 사고가 가진 여러 특징을 컴퓨터는 가지지 못한다는 주장 예: 주체적일 것, 유머 감각을 가질 것, 선악을 분간할 것, 실수를 할 것, 좋아하거나 싫어할 것, 경험으로부터 배울 것, 생각의 주체가 될 것, 행동의 다양성을 가질 것, 전혀 새로운 일을 할 것…

튜링의 반론 과거의 기계들로부터 잘못된 귀납한 결과 기계도 실수를 할 수 있다! 기계도 자신의 프로그램을 수정하며 기계 조작의 주체가 될 수 있다. 기억 용량만 커진다면 기계도 행동의 다양성을 보일 수 있다. 정해진 절차에 의한 결과라도 새롭다고 할 수 있다.

행위의 비형식성에 근거한 주장 생각할 수 있는 모든 상황 집합에서 어떤 사람이 무슨 일을 할 것인지를 기술하기 위한 규칙들의 집합을 만들어낸다는 것은 불가능. 따라서 사람은 규칙에 따라 작동할 뿐인 기계일 수 없다.

튜링의 반론 ‘행위 규칙’과 ‘행동 법칙’ 구분 의식적으로 지키는 ‘행위 규칙’은 모든 상황에 대해 존재할 수 없지만, 자연 법칙으로서의 완전한 행동 법칙이 존재하지 않는다는 것은 확신할 수 없다. 기계가 인간을 따라 수행해야 하는 규칙은 행동 법칙이지 행위 규칙이 아니다.

튜링 요약 튜링 테스트로 인간과 구별이 안 되는 기계는 생각을 한다고 할 수 있다. 디지털 컴퓨터로 계산 가능한 한계 = 생각의 한계 마음은 특정한 종류의 기계, 디지털 컴퓨터(프로그램에 따른 기호 처리기)이다. “인공 지능” 연구 탄생

인공 지능 연구들의 성과 그레이 월터의 ‘거북(tortoise)’ (1950년대) 튜링 테스트 통과를 위한 채팅 봇들 http://www.elbot.com/ (2009) 체스 컴퓨터 딥 블루 패턴 인식, 기계 학습 … 체스는 인간을 흉내내다 못해 능가해버렸음. 그럼에도 이 수행에서도 컴퓨터와 인간은 특징적인 차이를 보임. 컴퓨터는 아주 짧은 시간 내에 두어야 할 경우에 능력 잘 발휘하는 반면, 사람은 각각의 수에 시간이 충분히 주어진 경우에 능력을 더 잘 발휘함. 컴퓨터는 정밀하고 빠른 계산에 근거하여 결정을 내리지만, 인간은 비교적 느린 의식적 평가에 근거한 ‘판단력’을 많이 이용. 인간은 이러한 판단력을 이용하여 각 계산 단계에서 고려해야 할 가능한 상황의 개수를 대폭 줄임. (이런 차이를 어떻게 알지? 어떻게 수를 뒀는지 물어봄으로써)

‘즐거움’과 ‘고통’의 문제 배터리가 떨어져 충전기로 돌아가는 ‘거북’ : “배가 고파서” “충전의 욕구가 생긴다”? 기본적인 AI 시뮬레이션 기법 : P(leasure)-P(ain) 계수 극대화 기법 내-외부 정보에 따른 p-p 값을 미리 정의해 두고, 그것을 극대화하는 방향으로 움직이도록 프로그래밍. 예를 들어, 동종의 기계를 만날 때마다 pp 계수를 높여 그들과 가까이하고픈 ‘욕망’을 심어주거나, 외부 세계의 사실을 메모리에 저장할 때마다 pp 계수를 높임으로써 ‘학구열’을 심어줄 수도 있다.

그러나 기계가 p-p 계수의 변화에 따라 기쁨이나 아픔을 ‘느낀다’고 할 수 있는가? Yes: 강한 인공지능(strong AI) No: 약한 인공지능(weak AI) 오히려 pp 계수에 따른 기계의 행동은 의식적 행동보다는 반사작용과 비슷! 아픔을 줄이기 “위해서” 또는 즐거움을 얻기 “위해서” 행동하는 것이 아닌 것 같음. 강한 인공지능에 따르면, 심지어 ‘온도 조절 장치’에도 마음이 있게 된다.

존 설의 중국어 방 사고실험 강한 인공지능에 대한 비판을 위해 설계 튜링 테스트의 통과가 마음의 존재를 보이기에 충분히 않음을 주장 의도성(intentionality)의 문제 부각 프로그램을 넘어서는 물리적 인과 관계에 대한 관심 부각 기호 조작을 넘어서는 의미의 문제 부각

중국어방 상황 나는 방 안에서 중국어로 스토리와 질문을 받아 중국어로 대답을 제출 그러나 나는 중국어를 그림 기호처럼 볼 수만 있을 뿐, 중국어를 하지 못함 다만 나는 스토리와 질문에 적힌 중국어 기호를 다루는 규칙이 명세된 한글책에 따라 그 일을 수행할 뿐 과연 나는 스토리의 내용을 이해하고 있을까?

존 설의 주장 나의 입력과 출력은 중국인과 똑같음에도, 컴퓨터 프로그램처럼 일을 수행한 나는 스토리를 전혀 이해하지 못한다! 마찬가지로, 프로그램에 따라 기호를 조작할 뿐인 컴퓨터가 인간과 똑같은 입력을 받아 출력을 준다 하더라도, 인간처럼 이해를 가질 수 없다! (강한 인공지능 비판)

읽을거리와 과제 존 설, “마음, 뇌, 프로그램” 중국어방에서 내가 중국어 질문을 받아 대답하는 상황과 한글로 된 질문을 받아 대답하는 상황 사이의 본질적인 차이란 무엇일까? 이에 대해 존 설은 어떤 답을 가지고 있는가? 존 설의 답에 대해 어떻게 생각하는가? 당신이라면 어떤 답을 하고 싶은가?

참고자료 앨런 튜링, “계산 기계와 지능” [『이런, 이게 바로 나야』 1권에 수록] 존 설, “마음, 뇌, 프로그램” [『이런, 이게 바로 나야』 2권에 수록] 호프스태터 & 대닛, 『이런, 이게 바로 나야』 총 2권 (사이언스북스, 2001) 로저 펜로즈, 『황제의 새 마음』 (이화여자대학교출판부, 1996), 1장 “컴퓨터도 마음을 소유할 수 있는가?”