CSG6120-01 인지과학특강 I (Theory of Mind for Robots) Spring Semester, 2011

Teaching Staff Lecturer - Sung-Bae Cho (C515;  2123-2720; sbcho@cs.yonsei.ac.kr) - Kyung-Joong Kim ( 3408-3838, kimkj@sejong.ac.kr) Hours : 화요일 오후 2~4시, 오후 5시~6시 Place : A542 Office Hours : 화요일 4시~5시

Robot and Cognitive Science Cognitive Robotics Robot Psychology Experimental Robotics Developmental Robotics Bio-Inspired Robotics Cognitive Science Robotics

Cross Fertilization Biological Inspiration Computational Model Robotics Cognitive Science Engineering Inspiration Virtual Humans and Animals Reverse Engineering Cognitive Functions

Theory of Mind Theory of mind is the ability to attribute mental states—beliefs, intents, desires, pretending, knowledge, etc.—to oneself and others and to understand that others have beliefs, desires and intentions that are different from one's own from wikipedia

Course Goals Theory of Mind에 대한 이해 및 최신 연구 동향 파악 인지과학의 연구도구로 Robotics 기술 이해 Robot을 위한 Theory of Mind 관련 연구 이해 및 연구 주제 수행

Course Materials Reading in Theory of Mind for Robots Theoretical Foundations for Theory of Mind Theory, Neuroscience, Animal Study …. Applications for Simulated Robots Virtual Character, Robot Simulator Applications for Real-Robots Real Robots (E-Pucks, Humanoids, …)

Simulated Robot을 위한 ToM Term Project Final Presentation 논문 발표 (학생) Week 2시간 1시간 1 Course Introduction 2 E-Puck 로봇 소개 E-Puck Simulator 소개 IR 센서 소개 신경망, 진화연산 소개 3 PhysX 소개 OptiTrack 소개 진화 신경망 소개 4 ToM 기초 논문들 Simulated Robot을 위한 ToM 5 ToM을 로봇에 적용한 대표 사례 논문들 Real Robot을 위한 ToM 6 EEA 알고리즘 및 그 응용 제공 SW 소개 7 Term Project Proposal 8 Midterm Exam 9 로봇을 위한 ToM 프로젝트 진행 상황 Discussion 10 석가 탄신일 11 12 13 14 15 Term Project Final Presentation 16 Final Exam

Resources E-Pucks Optical Tracking Devices (OptiTrack) IR Light Source (SiMa Night Vision)

Evaluation Criteria Evaluation Criteria Term Project (written report and an oral presentation) : 70% Class Presentation : 20% Class Participation : 10% Term Project (Oral presentation is required) : Theoretical Issue (Analysis, Experiment, Simulation) : Originality Interesting Programming (Game, Demo, etc) : Performance Survey : Completeness

Basics in Theory of Mind

Mind Reading

Non-Human Theory of Mind They Can Do?

Theory of Mind Cartoons

Non Theory of Mind Cartoons

Recursive Nature of ToM

Robotics Approach (Self Modeling)

Robotics Approach (Theory of Mind)

Theory of Mind for Humanoids [MIT, 2000] Gazing Face Detection Infer Simple Intention [Brian Scassellati]

Mario et al. (2007) Mario built robot soccer player with theory of mind capability. The robot infers other robot’s future behavior based on own behavioral sets and current other robot’s movement. The problem is to choose one of the possible candidate actions from input information.

Robotics Approach (Neural-basis)

Theory of Mind in Robotic Society A: I Know “You”! B: I Know “You Know Me”! A: I Know “You Know I Know You”! B: … Predator Pray

Scenario 1 Infer Other’s Brain 2 Exploitation

From Virtual To Real 1 PhysX 2 EnKi 3 E-Puck

Controller (Neural Network) b1 Steering Angle Velocity Left Light Sensor Value Right Light Sensor Value w7 b4 w1 w2 w8 b2 w3 w9 w4 w10 b5 w11 w5 b3 w6 w12

0.730127 0.165689 0.528671 0.175013 -0.089475 -0.092134 -0.509588 -0.104083 0.238755 0.142167 0.936037 0.225135 -0.385503 0.438040 -0.329594 9.855262 0.172043

-0.068188 1.294771 832005120 0.036957 -0.117762 -47.859066 0.272120 -0.973429 66.393120 -1.448400 0.259941 -0.134075 0.192255 -4.037618 9.287920 0.426015 9.644485

[Reconstructed] [Original] Left Light Sensor Value speed [Reconstructed] Left Light Sensor Value Left Light Sensor Value Right Light Sensor Value Right Light Sensor Value

Real Robot Scenarios

Possible Projects

Overview Robot Behavior (Trajectories) ToM 알고리즘 인공 신경망 (Robot’s Mind) Estimated One

Possible Project Lists I (Survey) Theory of Mind를 설명하는 이론들에 대한 조사 Brain-Imaging을 통해 밝혀진 Theory of Mind 관련 사실들 조사 인간이 아닌 다른 동물들의 Theory of Mind에 대한 조사 Theory of Mind를 테스트 하는 방법에 대한 조사

Possible Project II (로봇 시뮬레이션) ToM 알고리즘의 종료 조건 테스트 (다양한 조건들 중에 어떤 것이 최적인지 실험적으로 테스트) ToM 알고리즘에서 상대방 로봇의 행동 데이터들을 어떻게 활용하는 것이 최적인지 테스트 (가장 최근에 얻어낸 데이터만 이용/과거 데이터도 모두 이용/가중치를 부여하여 이용) ToM 알고리즘에서 상대방 로봇의 행동 데이터를 어떻게 얻는 것이 최적인지 테스트 (random하게 얻어온다/능동적으로 필요한 데이터를 얻어온다) ToM 알고리즘에서 두 Trajectory가 닮았다는 것을 어떻게 측정하는 것이 좋은가? (Euclidean Distance, Derivatives …) ToM알고리즘에서 상대방 로봇의 행동 데이터를 사용할 때 그 trajectory의 각 segment가 서로 다른 중요도를 가진다고 보고, 그 중요도를 최적화 한다.

Possible Project III (실제 로봇) Reality Gap (Simulator와 실제 로봇) 최소화 OptiTrack 이용 Sensor Models (서로 다른 정밀도 지님) Motor Adjustment Parameters Reality Gap이 얼마나 줄어드는지 평가 Immature Neural Controller 진화 단순히 직진으로 빛을 따라가는 최적화한 제어기 보다는 회전하거나 커브를 그리는 형태의 제어기를 선호 Long-Term Exposure Shot으로 로봇 행동 촬영하기