The Ethics of Artificial Intelligence 2014103432 생물학과 이종환 2014103424 생물학과 이드림

Contents 1. 기타 영역 특이적 알고리즘과 기계학습에서의 윤리 2. Artificial General Intelligence (AGI) 3. 도덕적 지위를 가진 기계 4. 이질적인 가치의 사고방식 5. Superintelligence (초지능) 6. Conclusion 7. 대안

Algorithms and Ethics

1. 기타 영역 특이적 알고리즘과 기계학습에서의 윤리 대출 신청서를 승인해주지 않는 AI 알고리즘 알고리즘이 인종 차별을 한다면? 인권, 도덕성

1. 기타 영역 특이적 알고리즘과 기계학습에서의 윤리 투명성과 예측가능성 법적 선례구속의 원칙 폭발물 감지의 사례 실전 투입을 대비한 제도적 장치 누가 책임을 질 것인가? 책임감, 투명성, 청렴성, 예측성... 사람의 판단을 대신할 수 있는 알고리즘

AGI

2. Artificial General Intelligence (AGI) AI 에게 모자란 것? Deep Blue '진짜' AI 일반성 : AGI 벌집짓는 비버와 댐 짓는 벌 토스터 패러다임 지능의 발달

2. Artificial General Intelligence (AGI) 윤리적 결과를 이끌기 위해 'X : X의 결과가 인간에게 해롭지 않음' '이 비행기는 안전하게 설계되었지만 날개로 날지, 어떤 방법으로 날지는 모릅니다.' 검증은 믿을만한 방식으로 AI가 정말로 안전해질 때 '철학자의 돌이 납을 금으로 바꾸는게 확실하다.'

2. Artificial General Intelligence (AGI) ① 프로그래머가 모든 것을 제대로 했을지라도 AI의 특정한 행동은 예측할 수 없다. ② 모든 상황에서의 안전한 동작을 확인할 수 있는 것이 아니라, 시스템이 수행하려는 작업을 확인해야 하므로 시스템의 안전성을 확인하는 것이 더 큰 과제가 된다. ③ 윤리적 인식 자체가 공학의 주제로 받아들여져야만 한다.

3. Machines with moral status

3. 도덕적 지위를 가진 기계 도덕적 지위 무엇이 인간에게 도덕적 지위를 주는가? 지금까지와는 다른 문제 Francis Kamm의 도덕적 지위 그 자체를 목적으로 대우하는 것 도덕적 대우 무엇이 인간에게 도덕적 지위를 주는가? Sentience Sapience 지금까지와는 다른 문제 Sentient AI system 인간의 sapience를 지닌 AI 1. 도덕적 대우는 도덕적 지위에서 나온다. 2. 도덕적 지위는 두 가지 특징에서 나온다. 3. 두 가지 특징을 지닌 것은 재질과 출신에 상관 없이 사람과 같이 대우해야 한다.

3. 도덕적 지위를 가진 기계 의도적으로 만들어졌다는 사실은 상관없다. 비차별의 원칙이 의무를 지워주진 않는다. 기질 비차별의 원칙 피부색의 문제 의도적으로 만들어졌다는 사실은 상관없다. 개체발생 비차별의 원칙 선택과 설계의 요소가 도입되는 인간 복제의 경우 비차별의 원칙이 의무를 지워주진 않는다. 부모가 가지는 특별한 의무 프로그래머가 가지는 특별한 의무 3. 두 가지 특징을 지닌 것은 재질과 출신에 상관 없이 사람과 같이 대우해야 한다. 실제로 문제가 되는 경우는 프로그램 자체가 인간의 지위를 가지게 되는 것이다. 목적성을 가지고 복제된 인간 배아의 경우는 예외이다.

4. Minds with exotic properties

Slice Computer - Upload 4. 이질적인 가치의 사고방식 역 발상 Sapience는 있지만 sentience 가 없는 AI 도덕적 지위도 같은가? - Upload Slice Computer

4. 이질적인 가치의 사고방식 Principle of subjective rate of time 주관적 경험 지속 시간 수천 배 빠른 Upload 처벌이나 치료의 경우

4. 이질적인 가치의 사고방식 기계와 인간의 차이점 AI의 복제 시스템은 인간과 다르다 AI를 위한 제도적 규범 중간수준의 윤리 AI의 복제 시스템은 인간과 다르다 AI는 소프트웨어다 생식의 규제가 없는 AI AI를 위한 제도적 규범 생명 유지를 위한 복지 제도 근본적 규범과 혼동하지 말 것

5. Superintelligence

5. 초지능 자체 설계를 이해하는 AI 'weak' Superintelligence 인간보다 똑똑한 AI에 대한 메타포 Positive feedback 사람에게도 적용 가능 'weak' Superintelligence 가장 활성되는 뉴런 : 1000 times/sec 가장 빠른 axon fiber : 150 m/sec 백만 배 빠른 뇌 주관적 시간의 변화 인간보다 똑똑한 AI에 대한 메타포 개인 지능 차 과거와 현재의 지식 차 유기체의 뇌 구조 차이 → 수많은 시간이 필요할 것이다.

5. 초지능 그럼에도 AI는 새로운 윤리적 기준을 요구할 것이다. Good story bias 미래를 대비 인간이 풀지 못하는 문제를 해결할 것이다. 지적 생명체의 전멸 vs 발전 Good story bias 대재앙의 현실화 가능성 고려 Will they be good? or evil? AI에서 선악을 판단하는 것 정확히 어떤 설계인가?

5. 초지능 결과적으로 AI에게 특정 윤리를 입력하는 것은 위험하다. 더 뛰어난 윤리적 사고의 구축 필요 간디가 사람을 죽이고 싶어질 수 있을까? 초기설정 AI에게 특정 윤리를 입력하는 것은 위험하다. 변화하는 인류의 윤리관 변화하는 윤리관 인식의 문제 Bayesian branch 더 뛰어난 윤리적 사고의 구축 필요

6. Conclusion ① 알고리즘에 의해 수요가 충족될 것이다. ② AGI는 더 이상 예측가능한 상황속에서 실행되지 않을 것이다. ③ 초지능 AI는 윤리를 초월한 알고리즘을 요구한다.

7. 대안 역사에서 무엇을 배울 수 있는가 AI에게 필요한 두 가지 조건 AI 개발자 : 최후에 사라질 직업? 국제 정치의 역사 법체계 AI에게 필요한 두 가지 조건 법 제도 하에 기능하는 AI 정의와 윤리의 판단 AI 개발자 : 최후에 사라질 직업? 줄기를 자르고싶어하는 가지 지속적인 검증

EOD