Ethics of artificial intelligence

Presentation on theme: "Ethics of artificial intelligence"— Presentation transcript:

1 Ethics of artificial intelligence
무역학과 황교휘

2 contents 일상 속 인공지능 인공지능 윤리에 대한 논의 인공지능 윤리의 쟁점 황교휘

3 #이세돌 #알파고 #빅데이터 #구글카 #알고리즘 #사용자맞춤 #자율주행
일상 속 인공지능 #이세돌 #알파고 #빅데이터 #구글카 #알고리즘 #사용자맞춤 #자율주행 황교휘

4 인공지능 윤리에 대한 논의 IEEE <nature> [로봇공학] 아실로마 A.I 원칙 EU 황교휘

5 IEEE (Institute of Electrical and Electronics Engineers)
Nature( ) ▶ 인공지능은 인류의 보편적인 이익을 추구할 수 있어야 한다. ▶ 인공지능의 가치와 책임의 기준을 명확히 정립해야 한다. ▶ 인류적인 차원에서 인공지능을 이해하는 노력이 선행되어야 한다. ▶ 인공지능의 선구자 스튜어트 러셀(stuart russell)의 주장 ▶ 비용 대비 효율만을 고려한 인공지능 기술의 남용은 인류의 비극을 초래한다. ▶ 인공지능 연구와 활용의 보편적 제한을 제시하지 못하였다. 황교휘

6 아실로마 A.I 원칙 EU [A.I 윤리 가이드라인] ▶ 스티븐 호킹, 데미스 허사비스, 일론 머스크 ▶
▶ 고도의 인공지능 시스템은 작동하는 동안 인간의 가치와 일치하는 목표와 행동을 보여야 한다 ▶ 인공지능 시스템이 자기 복제를 통해 빠르게 성능이 좋아진다면 이 시스템은 다시 엄격한 통제 조치를 받아야 한다 ▶ EU 회원국 국민에 대한 데이터가 그들을 해치거나 차별하는 데 사용되지 않는 것을 보장한다. ▶ AI 시스템과 AI 알고리즘이 실수나 불일치를 안전하고 신뢰할 수 있도록 처리하는 책임성을 요구한다. ▶ 합법적이어야 하며 모든 관련 법규를 준수해야 한다. 황교휘

7 카카오 [AI 윤리 헌장] (카카오 알고리즘의 기본 원칙) 카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며, 이를 통해 인류의 편익과 행복을 추구한다. 2. (차별에 대한 경계) 알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다. 3. (학습 데이터 운영) 알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거하여 수집∙분석∙활용한다. 4. (알고리즘의 독립성) 알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리한다. 5. (알고리즘에 대한 설명) 이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다. 황교휘

8 인권 교육 투명성 책임 인공지능 윤리의 쟁점 AI 제작에 앞서 인권을 침해하고 있는지 그 여부를 판단해야 한다.
문제가 발생했을 경우 그 책임 정도를 물을 수 있는 잣대가 필요하다. 인공지능이 무슨 일을 하고 있는지 제작과정서부터 투명성을 유지해야 한다. 인공지능 발전 과정에서 잘못된 오용을 방지하기 위해 사회적으로 인식을 공유할 수 있는 장치를 마련해야 한다. 황교휘

9 Ethics of artificial intelligence