Introduction Welcome Machine Learning

SPAM

기계학습(Machine Learning) AI 의 한 분야로 성장 컴퓨터의 새로운 능력 예: 데이터베이스 탐색(mining) 자동화/웹의 성장으로부터의 거대한 자료. 즉, 웹 클릭 자료, 의료기록,생물학,공학 손으로 프로그래밍할 수 없는 응용 즉, 자동 헬리콥터, 필체 인식, 대부분의 자연어 처리, 컴퓨터 비전. 자가-조절 프로그래밍 즉, Amazon, Netflix 제품 추천 사람 학습의 이해 (뇌, 실제 AI).

What is machine learning Introduction What is machine learning Machine Learning

Machine Learning definition Arthur Samuel (1959). 기계학습 : 컴퓨터에게 명시적인 프로그램 없이 학습능력을 제공하는 것에 대한 학문분야

Machine Learning definition Arthur Samuel (1959). 기계학습 : 컴퓨터에게 명시적인 프로그램 없이 학습능력을 제공하는 것에 대한 학문분야. Tom Mitchell (1998) 잘-구성된 학습 문제: 성능(performance) P로 측정되는 임무(task) T에 대한 성능이 경험(experience) E에 따라 향상된다면, 컴퓨터 프로그램은 어떤 임무 T 와 성능 측정 값 P 에 대한 경험 E로부터 학습하도록 한다.

“성능 P(performance)로 측정되는 임무 T(task)에 대한 성능이 경험 E(experience)에 따라서 향상된다면, 컴퓨터 프로그램은 어떤 임무 T와 성능 측정 값 P에 대한 경험 E로부터 학습을 한다고 말한다.” 당신의 이메일 프로그램이 당신이 어느 이메일을 스팸으로 또는 스팸이 아닌 것으로 표시하는 것을 관찰하고, 그것에 기초하여 스팸을 필터하는 더 나은 방법을 학습한다고 가정하자. 이러한 설정에서 임무 T 는 무엇인가? 이메일을 스팸 또는 스팸아님 으로 분류 당신이 이메일을 스팸 또는 스팸아님으로 라벨하는 것을 관찰. 스팸/스펨아님으로 정확히 분류된 이메일의 수(또는 비율) 위의 어느 것도 아님 – 이것은 기계학습 문제가 아님.

Others: 강화(Reinforcement) 학습, 추천시스템. 기계학습 알고리즘: 감독학습(Supervised learning) 무감독학습(Unsupervised learning) Others: 강화(Reinforcement) 학습, 추천시스템. Also talk about: 학습알고리즘을 적용하는데 있어서 실제적인 충고.

Introduction Supervised Learning Machine Learning

집 가격 예측 감독학습(Supervised Learning) 회귀(Regression): 연속된 값을 갖는 출력(가격)을 예측 Price ($) in 1000’s Size in feet2 ( ≈ 0.09 meter2 ) 감독학습(Supervised Learning) “정확한 답들이” 주어짐 회귀(Regression): 연속된 값을 갖는 출력(가격)을 예측

유방 암 (악성(Malignant), 양성(Benign)) 분류 이산적인 값 출력 (0 or 1) 1(Y) 악성? 0(N) 종양 크기(Tumor Size) 종양 크기(Tumor Size)

덩어리 두께 세포 크기의 균일함 세포 모양의 균일함 … 나이 종양 크기

당신은 회사를 운영하고 있으며, 두 가지 문제를 해결할 학습 알고리즘을 개발하고자 합니다. Problem 1: 당신은 동일한 품목의 큰 재고가 있습니다. 당신은 이 제품들이 다음 3개월 동안 얼마나 팔릴 지를 예측하고 싶습니다. Problem 2: 당신은 개별 고객의 계정을 살펴보고, 각 계정에 대하여 해킹됐는지/손상됐는지를 결정하는 소프트웨어를 원합니다. 이들을 회귀문제로 다루어야 하나, 또는 분류문제로 다루어야 하는가? 둘 다 분류문제로 다룬다. 문제 1은 분류문제로, 문제2는 회귀문제로 다룬다. 문제 1은 회귀문제로, 문제2는 분류문제로 다룬다. 둘 다 회귀문제로 다룬다.

Unsupervised Learning Introduction Unsupervised Learning Machine Learning

감독학습(Supervised Learning) x2 x1

무감독학습(Unsupervised Learning) x2 x1

Genes Individuals [Source: Daphne Koller]

Genes Individuals [Source: Daphne Koller]

Organize computing clusters Social network analysis Image credit: NASA/JPL-Caltech/E. Churchwell (Univ. of Wisconsin, Madison) Astronomical data analysis image obtained from NASA website. http://www.nasa.gov/multimedia/imagegallery/image_feature_874.html RCW 79 is seen in the southern Milky Way, 17,200 light-years from Earth in the constellation Centaurus. The bubble is 70-light years in diameter, and probably took about one million years to form from the radiation and winds of hot young stars. The balloon of gas and dust is an example of stimulated star formation. Such stars are born when the hot bubble expands into the interstellar gas and dust around it. RCW 79 has spawned at least two groups of new stars along the edge of the large bubble. Some are visible inside the small bubble in the lower left corner. Another group of baby stars appears near the opening at the top. NASA's Spitzer Space Telescope easily detects infrared light from the dust particles in RCW 79. The young stars within RCW79 radiate ultraviolet light that excites molecules of dust within the bubble. This causes the dust grains to emit infrared light that is detected by Spitzer and seen here as the extended red features. Image credit: NASA/JPL-Caltech/E. Churchwell (Univ. of Wisconsin, Madison) -------------------- From NASA use guidelines: http://www.nasa.gov/multimedia/guidelines/index.html Using NASA Imagery and Linking to NASA Web Sites 10.13.05 Still Images, Audio Files and Video NASA still images, audio files and video generally are not copyrighted. You may use NASA imagery, video and audio material for educational or informational purposes, including photo collections, textbooks, public exhibits and Internet Web pages. This general permission extends to personal Web pages. This general permission does not extend to use of the NASA insignia logo (the blue "meatball" insignia), the retired NASA logotype (the red "worm" logo) and the NASA seal. These images may not be used by persons who are not NASA employees or on products (including Web pages) that are not NASA sponsored. If the NASA material is to be used for commercial purposes, especially including advertisements, it must not explicitly or implicitly convey NASA's endorsement of commercial goods or services. If a NASA image includes an identifiable person, using the image for commercial purposes may infringe that person's right of privacy or publicity, and permission should be obtained from the person. Any questions regarding application of any NASA image or emblem should be directed to: Photo Department NASA Headquarters 300 E St. SW Washington, DC 20546 Tel: (202)358-1900 Fax: (202)358-4333 Linking to NASA Web Sites NASA Web sites are not copyrighted, and may be linked to from other Web sites, including individuals' personal Web sites, without explicit permission from NASA. However, such links may not explicitly or implicitly convey NASA's endorsement of commercial goods or services. NASA images may be used as graphic "hot links" to NASA Web sites, provided they are used within the guidelines above. This permission does not extend to use of the NASA insignia, the retired NASA logotype or the NASA seal. Restrictions Please be advised that: 1) NASA does not endorse or sponsor any commercial product, service, or activity. 2) The use of the NASA name, initials, any NASA emblems (including the NASA insignia, the NASA logo and the NASA seal) which would express or imply such endorsement or sponsorship is strictly prohibited. 3) Use of the NASA name or initials as an identifying symbol by organizations other than NASA (such as on foods, packaging, containers, signs, or any promotional material) is prohibited. 4) NASA does permit the use of the NASA logo and insignia on novelty and souvenir-type items. However, such items may be sold and manufactured only after a proposal has been submitted to and approved by a Visual Identity representative from the Public Outreach Division (Phone: 202/358-1750) in accordance with 14 CFR (Code of Federal Regulations) Part 1221. Permission is granted on a nonexclusive basis as it is not NASA's policy to grant exclusive rights to use any of the agency identities. 5) No approval for use is authorized by NASA when the use can be construed as an endorsement by NASA of a product, service or activity. 6) NASA emblems should be reproduced only from original reproduction proofs, transparencies, or computer files available from NASA Headquarters. Please be advised that approval must be granted by a Visual Identity representative from the Public Outreach Division ( Tel: 202/358-1750) before any reproduction materials can be obtained. Market segmentation Astronomical data analysis

Cocktail party problem Speaker #1 Microphone #1 Speaker #2 Microphone #2

Microphone #1: Microphone #2: Output #1: Output #2: Microphone #1: [Audio clips courtesy of Te-Won Lee.]

Cocktail party problem algorithm [W,s,v] = svd((repmat(sum(x.*x,1),size(x,1),1).*x)*x'); [Source: Sam Roweis, Yair Weiss & Eero Simoncelli]

다음의 예에서, 무감독 학습 알고리즘을 사용해야 하는 것은? (해당하는 것들을 모두 고르시오.) 스팸/스팸아님 으로 라벨된 이메일들이 주어진 경우, 스팸필터 학습. 웹에서 찾아진 뉴스기사들이 주어진 경우, 같은 소식에 대한 기사들끼리 그룹 짖기. 고객 자료의 데이타베이스가 주어진 경우, 자동적인 시장 부문 발견과, 시장 부문별로 고객들은 그룹짖기. 당뇨병이거나 또는 아닌 것으로 진단된 환자들의 자료들이 주어진 경우, 새로운 환자를 당뇨병 유무로 분류하는 방법 학습.