도덕, 윤리 권효은 남형욱 이병재 이정은

About tit-for-tat 랜덤 : 50 : 50 확률로 배신과 협력을 무작위적으로 반복. 아무 생각이 없는 애다. 다우닝1 : 머리 굴리는 애. 상대방의 패턴을 파악하고 응대하려고 한다. 그런데, 상 대방이 최초에는 배신할 거라고 생각하고 자기도 일단 배신해보는 비관적인 애. 다우닝2 : 다우닝1처럼 머리를 굴리는데, 단, 처음에는 협력할 거라고 가정하는 낙 천적인 애. 그러므로 처음에 협력부터 시작한다. 테스터 : 일단 처음엔 배반. 그 다음엔 팃포탯. 즉, 첨에 배반해봐서 즉, 테스트 해 봐서 상대방이 봐주면 계속 등쳐먹고, 안 봐주면 고분고분 잘 협력해준다. 팃포탯 : 눈에는 눈 이에는 이. 처음에는 상대방이 협력할 거라고 가정하고 자기도 협력을 해 준다. 근데 배신했어? 그러면 다음 게임에서 자기도 배신한다. 배신에는 배신, 협력에는 협력으로 갚는다. 그렇지만 세 번째 게임에서는 다시 모든 기억을 포맷하고 협력을 다시 시도한다. 즉, 용서해준다. 단순하게 이것뿐이다.

올디 : 언제나 배신한다. 아주 치사하고 나쁜 사기꾼 같은 놈 올디 : 언제나 배신한다. 아주 치사하고 나쁜 사기꾼 같은 놈. 상대방이 어떻게 나오건 일관 적으로 계속 남을 뒤통수 치는 배신밖에 모르는 놈이다. 프리드먼 : 기본적으로 팃포탯과 같지만 단 하나, 용서를 모른다. 한번 자기를 배신한 애와 는 죽어도 다시 협력하지 않는다. 트랜퀼라이저 : 협력 잘 하다가 느닷없이 뒤통수친다. 요스: 10% 확률로 배반한다. 즉, 지금까지 잘 해왔으니 상대방이 봐주지 않을까 하는 요행 을 바라는 애다. 팃포투탯: 용서를 두 번 하는 팃포탯. 상대방이 한 번 배신했다 해도 일단 한번은 더 기회를 주고 협력해 준다. 두 번 배신하면 그 다음에서야 배신한다. 해링턴 : 착취적 전략을 먹잇감으로 삼는다. 즉 사기꾼 머리 위에 있는 사기꾼. 룩어헤드 : 인공지능, 겁나 똑똑한 애. 패턴 분석하고 장난아님.

The nature of ‘human’ altruism 인간의 이타심은 다른 동물과 비교되는 독특한 특징이다. 1.대규모 협동 2.유전적으로 관련이 없는 사람들에게도 이타적 행위를 함

이타적행동의동기 1.punishment

Ultimatum game proposer Fixed sum of money responder

Dictator game proposer responder Fixed sum of money

위 두가지의 게임은 자기자신과 직결되는 상호 호혜적인 문제 들을 가정한 게임(reciprocal) 그러나, 인간은 자신과 관계없는 일도 3자의 입장에서 사회적 규범을 지키도록 강제하는 경향이 있다.

Third-party punishment game recipient allocator punishment

2.rewarding

Truster-trustee game basic structure Truster’s MU (Multiflied) Trustee’s MU

Trustee가 자신의 자원을 분배하지 않고자 하는 동기가 일어 나기 쉬움에도 불구하고, 50%이상은 받은 자원이 많을수록 자신도 많은 자원을 돌려주었다.

이타적 전략의 쇠퇴 가능성과 해결방안 1.협력은 소수의 이기적인 개인들만으로도 공동체 내에서 사 라질 수 있다. 1.협력은 소수의 이기적인 개인들만으로도 공동체 내에서 사 라질 수 있다. Strong reciprocator 역시도 협력에 대한 믿음 없이는 이타성 을 발휘하려 하지 않기 때문에, 이를 막기 위해서는 다른 개인 이 협력할 것이라는 믿음이 필수적이다.

Public good game Public Good A C D B

그렇다면 어떻게? Strong reciprocator Targeted Punishment 이타적 전략의 생존

Donor Recipient 3.Reputation..? After Public good game.. Altruistic reward??

Reciprocal altruism Reputation-seeking 자신의 명성을 속일 가능성 4~8명 정도의 작은 그룹에 국한된 설명 계속해서 상호작용이 이루어져야한다는 가정 필요 장기적인 관점에서 자신에게 이익이 되는 행동을 해야 하지만, strong reciprocal behavior(장기적인 관점에서도 순이익이 없는 경우)를 설명하기 어렵다. Reputation-seeking Genetic mixing 또는 이주의 가능성 좋은 명성을 명확하게 개념짓기가 어려움 자신의 명성을 속일 가능성 Dyadic cooperation을 넘어선 큰 그룹에서의 설명이 어려움 인간이 현재의 이타적 행위로 얻는 장기적인 이익을 과대평가 한다고 가정하지 않을 경우, strong reciprocator의 존재를 설명하기가 어려움

Gene-culture coevolution Purely genetic group selection Large scale cooperation Strong reciprocity

Morality comes from…? Kohlberg의 도덕성 발달 6단계 “affective primacy” 이론 어린아이가 reasoning하는 방식을 통해 도덕성의 발 달 설명 “affective primacy” 이론 (Zajonc) 도덕성 = Moral intuition (affect) & Moral reasoning (cognition)

Intuition & Reasoning positive & negative의 판단 Reasoning : 자각 상태에서 intuition보다 느리 게 일어나는 과정. Intuition에 대한 이유를 찾아나가는 것

Social Intuition Model 사건발생 이유?? 즉각적 반응

Initial intuitive의 번복 ① conscious verbal reasoning ② reframe a situation see a new angle ③ talk with people who raise new argument (social interaction) → WHY?

intuitive SCIENTIST? POLITICIAN? Thinking is for Doing ↓ (Moral) Thinking is for (Social) Doing Every society = Gossip society Then, What should we do?

How to survive ① 모든 행동을 조심하라 ② ‘내가 무엇을 했느냐’보다 ‘사람들이 무엇을 했다고 생 각해주는지’가 중요함을 알라 ③ 다른 사람이 나를 속이거나 조종할 수 있으니 경계하라 다른 사람의 Reputation을 파악하고 나의 Reputation을 관리하는 능력이 필요

작화증 (Confabulation) take/often reasoning 실험 Gossip society에서 살아남기 위한 전략 How did human develop gossip communities in the first place?

Morality binds and builds! Kin selection & Reciprocal altruism → stranger에 대한 호의, 비혈연집단 위한 희생 Morality binds and builds! ?

Moral community 선행 Reputation 협력 Share norms Cooperation = 이득 Violation = 처벌 indirect reciprocity free-rider : reputation을 기반으로 무시. 선행 Reputation 협력

* 종교집단(Religion) Selfish gene의 방해 가능성 group-beneficial behaviors로 인한 보상 selfishness에 대한 처벌 → 그룹 결속력을 유지시키는 역할 * 종교집단(Religion)

OVER the harms and fairness..

무슨 생각을 할까요?

철학자들의 생각 흄 : 윤리의 원천은 감정이다 Moral Intuition 칸트 : 윤리의 원천은 이성이다 Moral Reasoning

Conflict Processing model(Greene) 아이를 학대하면 안된다 VS 많은 사람을 살려야 한다

Somatic marker 감정기능과 관련이 깊은 부위 손상될 경우 도덕적 의사 결정 능력이 크게 떨어진다

IOWA Gambling Task 정상인  C나 D에서만 카드를 계속 뽑음 vmPFC 손상 환자  아무거나 혹은 A,B에 집중 = 미래에 대한 예측과 의사결정을 연결시키지 못함

Social Response Reversal OFC 손상 환자 J.S. 심각한 사회성 장애를 보임 Aggressiveness with no regression 그러나 Iowa gambling task에선 좋은 성적을 나타냈다?

Facial expression recognition test J.S.는 화남, 역겨움, 두려움, 슬픔 등의 감정을 인지해내지 못함 = 도덕적 판단에는 사회적인 Response reversal 능력이 필요하다

목적론적 사고  도덕적 판단은 Goal-oriented 사고이다 어머니는 말씀하셨다 너는 공부를 열심히 해야 한다(당위성 명제) 서울대를 들어가기 위해서는 공부를 잘해야 하니까 좋은 직장을 얻기 위해서는 서울대 출신이 유리하기 때문에  도덕적 판단은 Goal-oriented 사고이다

Structured event complex framework Ex) 수업에 오기 SEC: 잠을 깬다  씻고 나온다  버스를 타고 학교에 온다  교실에 들어간다 Overlearned SEC Novel and Multitasking SEC Emotional Social SEC Goal-oriented moral reasoning

Moral Sensitivity Moore: 옳고 그름은 정의 불가능한 단순 개념이다

Limitations Ecological validity of Experimental designs Brain process and representation Culture and the brain

EFECs Model Structured event knowledge Social perceptual and functional features Central motive states “Integrated cortical-limbic network”

Structured Event Knowledge Prefrontal Cortex Medial posterior PFC Dorsal-lateral PFC (DLPFC) SEC Anterior PFC Ventro-medial PFC

Social Perceptual and Functional Features Temporal Cortex 표정, 시선, 몸짓, 등 Social Perceptual Features Posterior STS Semantic Functional Features Anterior temporal cortex

Central Motive States Limbic & Paralimbic 슬픔, 애착, 배고픔, 불안, 행복, 동정심… Hypothalamus: undiracted emotionality

Explaining moral cognition “Integrated cortical-limbic network” Moral emotions Moral values, norms Fairness - Ultimatum Game Long-term goals

discussion 도덕적 의사 결정의 주체는 intuition인가 reasoning인가? 보편적인 도덕적 직관들의 존재는 어떻게 설명할 수 있을까? (예 : fairness, 측은지심 등)