Artificial Intelligence Ethics of Artificial Intelligence 응용영어통번역학과 이승희 영어영문학과 김희웅 2019101557 2019101485

Ethics of Artificial Intelligence Two points about AI issues Domain Specific AI Artificial General Intelligence Machines with Moral Status

인간 및 도덕적으로 관련 있는 존재들을 해치지 않는다. Two points about AI issues (AI 이슈와 관련된 두 가지 쟁점) 인간 및 도덕적으로 관련 있는 존재들을 해치지 않는다. CONTENTS 기계 스스로의 도덕적 지위를 해치지 않는다.

Domain Specific AI (특수목적용 인공지능) CONTENTS CONTENTS CONTENTS

인간이 활용을 어떻게 하느냐에 따른 책임이 이슈가 되어 Domain Specific AI (특수목적용 인공지능) 특정 문제만을 해결할 수 있는 인공지능 제한된 분야에서 기능 범용 인공지능에 비해 예측 용이 인간이 활용을 어떻게 하느냐에 따른 책임이 이슈가 되어 개발 과정에서의 공정성과 투명성이 중요함 CONTENTS CONTENTS CONTENTS

모든 상황에서 생각, 학습, 창작할 수 있는 인공지능 Artificial General Intelligence (범용 인공지능) 모든 상황에서 생각, 학습, 창작할 수 있는 인공지능 범용성 인간의 지능과 유사 하거나 동등

수많은 상황에서 안전하게 작동하는 인공지능 시스템을 만들려면? Artificial General Intelligence (범용 인공지능) 수많은 상황에서 안전하게 작동하는 인공지능 시스템을 만들려면?

행동의 결과가 장기적으로 끼치는 영향을 추론하는 것까지 포함한다. Artificial General Intelligence (범용 인공지능) 하지만 대처 과정에서 윤리적인 행동을 할 거라 보장할 수는 없다. “ 결과가 사람을 해롭지 않게 하는 행위” 와 같이 행동 양식을 정해야 한다. 행동의 결과가 장기적으로 끼치는 영향을 추론하는 것까지 포함한다.

Artificial General Intelligence (범용 인공지능) 신뢰할만한 AGI란?

따라서, 범용인공지능에 적용되는 AI 윤리규율은 비인지 기술을 윤리 규율과 근본적으로 다르다. Artificial General Intelligence (범용 인공지능) 윤리를 고려하는 인간엔지니어처럼 ‘생각하는’ 범용인공지능이 필요 따라서, 범용인공지능에 적용되는 AI 윤리규율은 비인지 기술을 윤리 규율과 근본적으로 다르다.

Machines with Moral Status (도덕적 지위를 가지는 기계) 감각성 현상적인 경험에서 오는 감각과 관련된 능력 지혜 자기 인식과 같이 더 높은 지능과 관련된 능력

비차별 원칙 Machines with Moral Status (도덕적 지위를 가지는 기계) 감각성 지혜 감각성 지혜 살아있는 동물과 유사, 특정 도덕적 지위 가짐 비차별 원칙 감각성 지혜 인간의 지위와 동등한 도덕적 지위를 지니게 됨

Machines with Moral Status (도덕적 지위를 가지는 기계) 물질 비차별의 원칙 두 개체가 같은 기능과 의식적 경험을 지니고, 이루는 물질이 다르다면 둘은 같은 도덕적 지위를 가진다. 존재론 비차별의 원칙 두 개체가 같은 기능과 의식적 경험을 지니고, 어떻게 그들이 존재하게 되었는지만 다르다면, 둘은 같은 도덕적 지위를 가진다. 피부색이 다르더라도 모든 인간은 동등한 도덕적 지위를 가짐. 체외 수정을 통해 태어난 인간과 자연분만으로 태어난 인간이 동등한 도덕적 지위를 가짐.

Machines with Moral Status (도덕적 지위를 가지는 기계) 두 비차별 원칙이 받아들여지면 인간에게 적용하는 도덕 원리를 인공지능에게 적용함으로써 인공지능 대우에 있어서 상당 부분 해결 가능 인간의 마인드를 대우하듯 인공지능의 마인드를 대우해야 함. 그러나 인공지능의 마인드는 매우 다른 특성을 지니므로 이 특성이 인공지능 마인드의 도덕적 지위에 어떻게 영향을 미치는지 주시해야 함. 또한, 우리가 그것을 존중하는 것이 무엇을 의미하는지 고려해야 함.

Minds with exotic properties

인간과는 다른 인공지능의 특징 Sapience VS Sentience 주관적 시간 도덕적 - 지위 업로드 *업로드: 인간이나 다른 동물의 지능이 유기적 두뇌에서 구현되었던 것처럼 디지털 컴퓨터로 이전하는 가상의 미래 기술

Principle of Subjective Rate of Time *주관적 시간 비율의 원리 *1초=17분 *어떻게 처벌할까? *중간 수준의 윤리

4. Minds with Exotic Properties 인공지능의 번식 기하급수적 자기복제 인공지능의 생존을 위한 사회복지제도? 중간수준의 윤리와 기본적 규범

Super intelligence

5. Superintelligence (초지능) 지능 폭발 Weak Superintelligence 처리속도를 높임으로서 실현 가능 유드코우스키 AI 능력 시각화를 위한 3가지 지표

유드코우스키 3 Metaphor Families 1. 인간 간의 개별 지능 차이에서 영감을 얻은 지표: AI는 새로운 발명품을 특허 출원하거나, 획기적인 연구 논문을 발표하거나, 정치적 권력을 주도할 것이다. 2. 과거와 현재의 인류 문명 간의 지식 차이에서 영감을 얻은 지표: AI는 분자 나 노 기술이나 성간 여행을 실현하고 미래를 예측하는 능력을 발명할 것이다. 3. 인간과 다른 생물학적 유기체 간의 뇌 구조 차이에서 영감을 얻은 지표: 개의 정신 에 가해지는 시간을 가속한다고 하자. 천 년의 시간이 지난다고 개가 인 간의 식견을 가질 수 있을까?

AI, 선할까 악할까? 아시모프 3원칙 간디의 예시 윤리적 변화의 비극

우리의 생각 Domain-Specific AI Algorithms Artificial General Intelligence Machines with Moral Status Exotic Properties Super intelligence 예측가능성과 딜레마 인공지능 크리에이터가 지니는 특별한 의무와 사회적 차원의 규범 정립 초지능의 윤리적 기준이 인간 멸종을 불러온다면? 범용인공지능의 윤리적 기준을 어떻게 정할까? 인공지능의 동족살해?