 Branch-and-Bound (분기한정)

Slides:



Advertisements
Similar presentations
1. 2 차원 배열  배열은 동일한 데이터 유형으로 여러 개의 변수를 사용할 경우 같은 이 름으로 지정하여 간편하게 사용할 수 있도록 하는 것으로서 앞에서 1 차원 배열을 공부하였습니다.  2 차원 배열은 바둑판을 생각하면 되며, 1 차원 배열에서 사용하는 첨자를 2.
Advertisements

이진 나무 구조 강윤섭 2008년 5월 23일.
재료수치해석 HW # 박재혁.
Report #5 - due: 4/13 다음 10*5의 희소 행렬 A, B를 고려하라.
되추적(Backtracking).
Report #2 - Solution 문제 #1: 다음과 같이 프로그램을 작성하라.
컴퓨터 프로그래밍 기초 [Final] 기말고사
되추적(Backtracking).
Chapter 02 순환 (Recursion).
 Branch-and-Bound (분기한정)
11장. 포인터 01_ 포인터의 기본 02_ 포인터와 Const.
알고리즘(Algorithm) – Backtracking (되추적)
그래프의 기본 연산 깊이-우선 탐색(DFS; Depth-First Search) (1) 출발 정점 v를 방문
보고서 #5(제출기한: 10/14) 다음 문제를 해결하시오.
CHAP 7: 트 리 (1) 한 성 대 학 교 정보통신공학과 봉 정 식.
부분집합의 합 구하기 문제 부분집합의 합 구하기(Sum-of-Subsets) 문제
CHAP 10:그래프 (2) 순천향대학교 하상호.
프로그래밍 개요
어서와 C언어는 처음이지 제14장.
박성진 컴퓨터 프로그래밍 기초 [09] 배열 part 1 박성진
자료구조: CHAP 7 트리 –review 순천향대학교 컴퓨터공학과 하 상 호.
문제 2명의 사형수가 있다. 둘에게는 검정색 모자와 흰색 모자를 임의로 씌우는데, 자기가 쓴 모자의 색은 절대로 알 수가 없다. 서로 상대의 모자색만을 볼 수 있고, 이들이 살기 위해선 자신의 쓴 색의 모자를 맞춰야 한다. 단, 둘 중 한명만이라도 자신이 쓴 모자의 색을.
Ch.06 Branch-and-Bound (분기한정법) (Ch.05-7 포함)
Ch.03 Dynamic Programming (동적 프로그래밍 or 동적 계획법)
Quiz #7 다음 수들을 합병 정렬과 퀵 정렬 알고리즘을 이용하여 오름 차순으로 정렬하였을 때, 데이터 이동 회수를 각각 구하라. 여러분은 정렬 과정을 단계별로 보이면서 이동 회수를 추적해야 한다. 단, 퀵 정렬시에 피봇으로 배열의 왼쪽 첫 번째 원소를 선택한다. 5.
8장. 상호 배타적 집합의 처리.
Term Projects 다음에 주어진 2개중에서 한 개를 선택하여 문제를 해결하시오. 기한: 중간 보고서: 5/30 (5)
 Dynamic Programming (동적 프로그래밍)
Chapter6 : JVM과 메모리 6.1 JVM의 구조와 메모리 모델 6.2 프로그램 실행과 메모리 6.3 객체생성과 메모리
Homework #5 (1/3) Backtracking, Branch-and-Bound
컴퓨터 프로그래밍 기초 - 10th : 포인터 및 구조체 -
행렬의 개요 행렬은 수를 원소로 지니는 다차원 배열이다. mn (“m by n”) 행렬은 m개의 행과 n개의 열을 갖는다.
행렬의 개요 행렬은 수를 원소로 지니는 다차원 배열이다. mn (“m by n”) 행렬은 m개의 행과 n개의 열을 갖는다.
P 등속 직선 운동 생각열기 – 자동차를 타고 고속도로를 달릴 때, 속력계 바늘이 일정한 눈금을 가리키며 움직이지 않을 때가 있다. 이 때 자동차의 속력은 어떠할까? ( 속력이 일정하다 .)
컴퓨터 프로그래밍 기초 - 8th : 함수와 변수 / 배열 -
보고서 #7 (기한: 6/2) 2개의 스택, stk1, stk2를 이용하여 큐를 구현하라.
동적계획법과 최적화 문제 Dynamic Programming을 사용한 최적화 문제를 해결하는 알고리즘 설계 절차
동적계획법과 최적화 문제 Dynamic Programming을 사용한 최적화 문제를 해결하는 알고리즘 설계 절차
균형이진탐색트리 이진 탐색(binary search)과 이진 탐색 트리(binary search tree)와의 차이점
알고리즘 강의 슬라이드 6 분기한정법 Branch-and-Bound
0-1 Knapsack – 개선된 BFS 기반 알고리즘
알고리즘 강의 슬라이드 5 되추적 Backtracking
에어 PHP 입문.
4장. 데이터 표현 방식의 이해. 4장. 데이터 표현 방식의 이해 4-1 컴퓨터의 데이터 표현 진법에 대한 이해 n 진수 표현 방식 : n개의 문자를 이용해서 데이터를 표현 그림 4-1.
보고서 #2(제출기한: 09/23) 다음 문제를 해결하시오. (7)
Chapter 1 단위, 물리량, 벡터.
DA :: 퀵 정렬 Quick Sort 퀵 정렬은 비교방식의 정렬 중 가장 빠른 정렬방법이다.
Ch.06 Branch-and-Bound (분기한정법) (Ch.05-7 포함)
5장. 선택 알고리즘.
Chapter 1 단위, 물리량, 벡터.
Homework #5 (1/3) Backtracking, Branch-and-Bound
쉽게 배우는 알고리즘 2장. 점화식과 점근적 복잡도 분석
Chapter 10 데이터 검색1.
MST – Kruskal 알고리즘 (추상적)
[CPA340] Algorithms and Practice Youn-Hee Han
11장 배열 1. 배열이란? 1.1 배열의 개요 1.2 배열의 선언과 사용.
부분집합의 합 구하기 문제 부분집합의 합 구하기(Sum-of-Subsets) 문제
상관계수.
Traveling Salesman Problem – 개요 (1/2)
이산수학(Discrete Mathematics)  술어와 한정기호 (Predicates and Quantifiers)
트리 (Logical) Data Structures Linear list Tree Graph Linear structures
어서와 C언어는 처음이지 제21장.
회로 전하 “펌핑”; 일, 에너지, 그리고 기전력 1. 기전력(electro-motive force: emf)과 기전력장치
문제풀이방식-맹목적 탐색 Ai4.
(Permutations and Combinations)
교착 상태 해결 : 교착 상태 탐지 교착 상태 탐지(Deadlock Detection)
C++ Espresso 제15장 STL 알고리즘.
6 객체.
Traveling Salesman Problem – 개요 (1/2)
Traveling Salesman Problem – 개요 (1/2)
Presentation transcript:

 Branch-and-Bound (분기한정) 알고리즘(Algorithm)  Branch-and-Bound (분기한정) 2019년 봄학기 강원대학교 컴퓨터과학전공 문양세

Traveling Salesman Problem 강의 순서 Branch-and-Bound Branch-and-Bound 개념 0-1 Knapsack Problem Depth-First Search (Backtracking) Breadth-First Search Best-First Search Traveling Salesman Problem Dynamic Programming Approach Branch-and-Bound Approach

되추적 기법과 유사하게 상태공간트리를 구축하여 문제를 해결한다. Branch-and-Bound? – 특징 Branch-and-Bound 되추적 기법과 유사하게 상태공간트리를 구축하여 문제를 해결한다. 최적의 해를 구하는 문제(optimization problem)에 적용할 수 있다. 최적의 해를 구하기 위해서는 궁극적으로 모든 해를 다 고려해 보아야 한다.  해를 찾거나 찾지 못하는 여부가 트리를 순회(traverse)하는 방법에 구애 받지는 않는다.

각 노드를 검색할 때 마다, 그 노드가 유망한지의 여부를 결정하기 위해서 한계치(bound)를 계산한다. Branch-and-Bound? – 원리 Branch-and-Bound 각 노드를 검색할 때 마다, 그 노드가 유망한지의 여부를 결정하기 위해서 한계치(bound)를 계산한다. 그 한계치는 그 노드로부터 가지를 뻗어나가서(branch) 얻을 수 있는 해답치의 한계를 나타낸다. 따라서 만약 그 한계치가 지금까지 찾은 최적의 해답치 보다 좋지 않은 경우는 더 이상 가지를 뻗어서 검색을 계속할 필요가 없으므로, 그 노드는 유망하지 않다고 할 수 있다. (이 경우, 해당 서브트리를 전지(pruning)한다.)

Traveling Salesman Problem 강의 순서 Branch-and-Bound Branch-and-Bound 개념 0-1 Knapsack Problem Depth-First Search (Backtracking) Breadth-First Search Best-First Search Traveling Salesman Problem Dynamic Programming Approach Branch-and-Bound Approach

0-1 Knapsack – Depth-First-Search 개념 Branch-and-Bound 분기한정 가지치기로 깊이우선검색 (= 되추적) 상태공간트리를 구축하여 되추적 기법으로 문제를 푼다. 루트 노드에서 왼쪽으로 가면 첫번째 아이템을 배낭에 넣는 경우이고, 오른쪽으로 가면 첫번째 아이템을 배낭에 넣지 않는 경우이다. 동일한 방법으로 트리의 수준 1에서 왼쪽으로 가면 두 번째 아이템을 배낭에 넣는 경우이고, 오른쪽으로 가면 그렇지 않는 경우이다. 이런 식으로 계속하여 상태공간트리를 구축하면, 루트 노드로부터 리프 노드까지의 모든 경로는 해답후보가 된다. 이 문제는 최적의 해를 찾는 문제(optimization problem)이므로 검색이 완전히 끝나기 전에는 해답을 알 수가 없다. 따라서 검색을 하는 과정 동안 항상 그 때까지 찾은 최적의 해를 기억해 두어야(메모리에 저장해 두어야) 한다.

0-1 Knapsack – DFS 기반 Generic Algorithm Branch-and-Bound void checknode(node v) { node u; if(value(v) is better than best) best = value(v); if(promising(v)) for(each child u of v) checknode(u); } best: 지금까지 찾은 제일 좋은 해답치 value(v): 노드 v에서의 해답치

0-1 Knapsack – DFS 기반 Algorithm Sketch (1/2) Branch-and-Bound wi와 pi를 각각 i번째 아이템의 무게와 값어치라고 하면, pi/wi 의 값이 큰 것부터 내림차순으로 아이템을 정렬한다. (일종의 탐욕적인 방법이 되는 셈이지만, 알고리즘 자체는 탐욕적인 알고리즘은 아니다.) 다음 값들을 각 노드에 대해서 계산한다. profit: 그 노드에 오기까지 넣었던 아이템 값어치의 합. weight: 그 노드에 오기까지 넣었던 아이템 무게의 합. bound(최대 이익): 노드가 수준 i에 있다고 하고, 수준 k에 있는 노드에서 총무게가 W를 넘는다고 하자. 그러면, 다음과 같이 bound를 구할 수 있다. maxprofit : 지금까지 찾은 최선의 해답이 주는 값어치 아이템 k-1까지의 이익 아이템 k을 부분적으로나마 넣을 수 있다고 했을 때의 이익

0-1 Knapsack – DFS 기반 Algorithm Sketch (2/2) Branch-and-Bound 초기값(루트 노드): maxprofit := $0; profit := $0; weight := 0 깊이우선순위로 각 노드를 방문하여 다음을 수행한다: 1. 그 노드의 profit과 weight를 계산한다. 2. 그 노드의 bound를 계산한다. 3. (weight < W) and (bound > maxprofit)이면, 검색을 계속한다; (무게가 초과하지 않았고, 향후 가치가 최대 가치보다 클 수 있다면) 그렇지 않으면, 되추적한다. 상기 과정을 모든 노드를 방문(실제로는 전지(가지치기)가 이뤄지므로, 모든 노드를 방문하지는 않음)할 때까지 수행한다. 고찰: 최선이라고 여겼던 노드를 선택했다고 해서 실제로 그 노드로부터 최적해가 항상 나온다는 보장은 없다.

0-1 Knapsack – DFS 기반 Algorithm 적용 예제 (1/2) Branch-and-Bound 보기: n = 4, W = 16이고, 다음과 같은 아이템 내역을 가진다. 이때, 되추적을 사용하여 구축되는 전지가 이루어진 상태공간트리를 그려 보시오.  다음 페이지 그림 참조

0-1 Knapsack – DFS 기반 Algorithm 적용 예제 (2/2) Branch-and-Bound profit weight bound maxprofit = 40 maxprofit = 90 maxprofit = 70 maxprofit = 80 maxprofit = 70 maxprofit = 90 maxprofit = 70 maxprofit = 90 maxprofit = 80 maxprofit = 90 maxprofit = 80

0-1 Knapsack – DFS 기반 Algorithm 분석 Branch-and-Bound 이 알고리즘이 점검하는 노드의 수는 (2n)이다. 예제의 경우: 점검한 노드는 13개이다. 이 알고리즘이 DP 기반으로 설계한 알고리즘(강의노트 07) 보다 좋은가? 확실하게 대답하기 불가능 하다. Horowitz와 Sahni(1978)는 Monte Carlo 기법을 사용하여 되추적 알고리즘이 DP 기반 알고리즘 보다 일반적으로 더 빠르다는 것을 입증하였다. Horowitz와 Sahni(1974)가 분할정복과 DP 기법을 적절히 조화하여 개발한 알고리즘은 (2n/2)의 시간복잡도를 가지는데, 이 알고리즘은 되추적 알고리즘 보다 일반적으로 빠르다고 한다.

Traveling Salesman Problem 강의 순서 Branch-and-Bound Branch-and-Bound 개념 0-1 Knapsack Problem Depth-First Search (Backtracking) Breadth-First Search Best-First Search Traveling Salesman Problem Dynamic Programming Approach Branch-and-Bound Approach

Breadth-First-Search (1/2) Branch-and-Bound 너비우선검색(Breadth-First Search)순서: (1) 루트 노드를 먼저 검색한다. (2) 다음에 수준 1에 있는 모든 노드를 검색한다. (왼쪽에서 오른쪽으로) (3) 다음에 수준 2에 있는 모든 노드를 검색한다 (4) ...

Breadth-First-Search (2/2) Branch-and-Bound A Generic Algorithm for Breadth-First-Search 재귀(recursive) 알고리즘을 작성하기는 상당히 복잡하다. 따라서 대기열(queue)을 사용한다. void breadth_first_search(tree T) { queue_of_node Q; node u, v; initialize(Q); v = root of T; visit v; enqueue(Q,v); while(!empty(Q)) { dequeue(Q,v); for(each child u of v) { visit u; enqueue(Q,u); }

BFS based Branch-and-Bound Algorithm void breadth_first_branch_and_bound (state_space_tree T, number& best) { queue_of_node Q; node u, v; initialize(Q); // Q는 빈 대기열로 초기화 v = root of T; // 루트 노드를 방문 enqueue(Q,v); best = value(v); while(!empty(Q)) { dequeue(Q,v); for(each child u of v) { // 각 자식 노드를 방문 if(value(u) is better than best) best = value(u); if(bound(u) is better than best) enqueue(Q,u); }

0-1 Knapsack – BFS 기반 상태트리 profit weight bound Branch-and-Bound mp = 40 mp = 40 mp = 70 mp = 70 mp = 70 mp = 70 mp = 90 mp = 70 mp = 70 mp = 90 mp = 90 mp = 90 mp = 90 mp = 90 mp = 90 mp = 90

0-1 Knapsack – BFS 기반 상태트리 Branch-and-Bound profit weight bound mp = 40 mp = 40 mp = 70 mp = 70 mp = 70 mp = 70 mp = 90 mp = 70 mp = 70 mp = 90 mp = 90 mp = 90 분기한정 가지치기로 BFS를 하여 상태공간트리를 그려보면, 검색하는 노드의 개수는 17이다.  되추적 알고리즘(DFS 기반 해결책)보다 좋지 않다! mp = 90 mp = 90 mp = 90 mp = 90

Traveling Salesman Problem 강의 순서 Branch-and-Bound Branch-and-Bound 개념 0-1 Knapsack Problem Depth-First Search (Backtracking) Breadth-First Search Best-First Search Traveling Salesman Problem Dynamic Programming Approach Branch-and-Bound Approach

Best-First-Search – Concept Branch-and-Bound 최적의 해답에 더 빨리 도달하기 위한 전략: 1. 주어진 노드의 모든 자식노드를 검색한 후, 2. 유망하면서 확장되지 않은(unexpanded) 노드를 살펴보고, 3. 그 중에서 가장 좋은(최고의) 한계치(bound)를 가진 노드를 확장한다. (일반적으로) 최고우선검색(Best-First Search)을 사용하면, 너비우선검색에 비해서 검색 성능이 좋아짐

Best-First-Search – Strategy Branch-and-Bound 최고의 한계를 가진 노드를 우선적으로 선택하기 위해서 우선순위 대기열(Priority Queue)을 사용한다. 우선순위 대기열은 힙(heap)을 사용하여 효과적으로 구현할 수 있다.

Best-FS based Branch-and-Bound Algorithm void breadth_first_branch_and_bound (state_space_tree T, number& best) { queue_of_node Q; node u, v; initialize(Q); v = root of T; enqueue(Q,v); best = value(v); while(!empty(Q)) { dequeue(Q,v); for(each child u of v) { if(value(u) is better than best) best = value(u); if(bound(u) is better than best) enqueue(Q,u); } Branch-and-Bound void best_first_branch_and_bound (state_space_tree T, number best) { priority_queue_of_node PQ; node u,v; initialize(PQ); // PQ를 빈 대기열로 v = root of T; // 초기화 best = value(v); insert(PQ,v); while(!empty(PQ)) { // 최고 한계 값을 가진 노드를 제거 remove(PQ,v); if(bound(v) is better than best) // 노드가 아직 유망한 지 점검 for(each child u of v) { if(value(u) is better than best) best = value(u); if(bound(u) is better than best) insert(PQ,u); }

0-1 Knapsack – Best-FS 기반 상태트리 Branch-and-Bound profit weight bound mp = 40 mp = 90 mp = 70 mp = 70 mp = 90 mp = 90 mp = 90 mp = 90 mp = 90 mp = 90

0-1 Knapsack – Best-FS 기반 상태트리 Branch-and-Bound profit weight bound mp = 40 mp = 90 mp = 70 mp = 70 mp = 90 mp = 90 mp = 90 mp = 90 분기한정 가지치기로 최고우선검색을 하여 상태공간트리를 그려보면, 검색하는 노드의 개수는 11로서, 앞서의 BFS보다 우수함을 알 수 있다. mp = 90 mp = 90

Traveling Salesman Problem 강의 순서 Branch-and-Bound Branch-and-Bound 개념 0-1 Knapsack Problem Depth-First Search (Backtracking) Breadth-First Search Best-First Search Traveling Salesman Problem Dynamic Programming Approach Branch-and-Bound Approach

Traveling Salesman Problem – 개요 (1/2) Branch-and-Bound 외판원이 자신의 집이 위치하고 있는 도시에서 출발하여 다른 도시들을 각각 한번씩만 방문하고, 다시 자기 도시로 돌아오는 가장 짧은 일주여행경로(tour)를 결정하는 문제이다. 일반적으로, 이 문제는 음이 아닌 가중치가 있는, 방향성 그래프를 대상으로 한다. 그래프 상에서 일주여행경로는 한 정점을 출발하여 다른 모든 정점을 한번씩 만 거쳐서 다시 그 정점으로 돌아오는 경로이다. 여러 개의 일주여행경로 중에서 길이가 최소가 되는 경로가 최적일주여행경로(optimal tour)가 된다.

Traveling Salesman Problem – 개요 (2/2) Branch-and-Bound 무작정 알고리즘: 가능한 모든 일주여행경로를 다 고려한 후, 그 중에서 가장 짧은 일주여행경로를 선택한다.  가능한 일주여행경로의 총 개수는 (n – 1)!이다. Why? (다음 예제를 보고 생각해 보세요.)

TSP – DP 기반 접근법 개념 (1/2) V는 모든 정점의 집합이고, A는 V의 부분집합이라고 하자. Branch-and-Bound V는 모든 정점의 집합이고, A는 V의 부분집합이라고 하자. D[vi][A]는 A에 속한 각 정점을 정확히 한번씩 만 거쳐서 vi에서 v1로 가는 최단경로의 길이라고 하자. 그러면 우리 예제에서 D[v2][A={v3, v4}]의 값은? (=20) D[v2][A] = min(len[v2, v3, v4, v1], len[v2, v4, v3, v1]) min(20, ) = 20

TSP – DP 기반 접근법 개념 (2/2) 최적 일주여행경로의 길이: Branch-and-Bound 최적 일주여행경로의 길이: 일반적으로 표현하면 i  1이고, vi가 A에 속하지 않을 때, 다음과 같이 나타난다. 예제  다음 슬라이드 v1에서 vj로의 거리와 vj를 뺏을 때 거리 합

TSP – DP 기반 접근법 예제 (1/2) 최적 일주여행경로의 길이 = D[v1][{v2, v3, v4}] 공집합인 경우 Branch-and-Bound 최적 일주여행경로의 길이 = D[v1][{v2, v3, v4}] 공집합인 경우 하나의 구성요소만 포함하는 경우

TSP – DP 기반 접근법 예제 (2/2) Branch-and-Bound 두 개의 구성요소를 포함하는 경우 최적 일주여행경로

TSP – DP 기반 접근법 알고리즘 (1/2) Branch-and-Bound 문제: 가중치(음수가 아닌 정수)가 있는 방향성 그래프에서 최적일주여행경로를 결정하시오. 입력: 가중치가 있는 방향성 그래프 그래프에 있는 정점의 개수 n 그래프는 행렬 W로 표시가 되는데, 여기서 W[i][j]는 vi에서 vj를 잇는 이음선 상에 있는 가중치를 나타낸다. V는 그래프 상의 모든 정점의 집합을 나타낸다. 출력: 최적일주여행경로의 길이 값을 가지는 변수 minlength 배열 P (이 배열로부터 최적일주여행경로를 구축할 수 있다). P[i][A]는 A에 속한 각 정점을 정확히 한번씩만 거쳐 vi에서 v1로 가는 최단경로 상에서, vi 다음의 도달하는 첫 번째 노드의 인덱스이다.

TSP – DP 기반 접근법 알고리즘 (2/2) 알고리즘 Branch-and-Bound 알고리즘 void travel(int n, const number W[][], index P[][], number& minlength) { index i, j, k; number D[1..n][subset of V-{v1}]; for(i=2; i<=n; i++) D[i][emptyset] := W[i][1]; for(k=1; k<=n-2; k++) // k = 부분집합 원소의 개수 for(all subsets A  V-{v1} containing k vertices) for(i such that i1 and vi  A){ D[i][A] = minimumvjA(W[i][j] + D[vj][A-{vj}]); P[i][A] = value of j that gave the minimum; } D[1][V-{v1}] = minimum2jn(W[1][j] + D[vj][A-{v1}]); P[1][V-{v1}] = value of j that gave the minimum; minlength = D[1][V-{v1}];

TSP – DP 기반 접근법 분석 (1/3) 정리: n  1를 만족하는 모든 n에 대해서 다음이 성립한다. 증명은 생략 Branch-and-Bound 정리: n  1를 만족하는 모든 n에 대해서 다음이 성립한다. 증명은 생략

TSP – DP 기반 접근법 분석 (2/3) - skip Branch-and-Bound 단위연산: 중간에 위치한 루프가 수행시간을 지배한다. 왜냐하면 이 루프는 여러 겹으로 쌓여 있기 때문이다. 따라서, 단위연산은 vj의 각 값에 대해서 수행되는 명령문이다. (덧셈하는 명령문 포함) 입력 크기: 그래프에서 정점의 개수 n 시간 복잡도 분석 for(k=1; k<=n-2; k++) (1) for(V-{v1}의 부분집합 중에서 k개의 정점을 가진 모든 부분집합 A) (2) for(i=1이 아니고 vi가 A에 속하지 않는 모든 i) (3) D[i][A] = minimumvjA(W[i][j] + D[vj][A-{vj}]); P[i][A] = value of j that gave the minimum;

TSP – DP 기반 접근법 분석 (3/3) - skip Branch-and-Bound (1)번 루프는 번 반복하고 (n-1개의 정점에서 k개를 뽑는 경우의 수), (2)번은 n - k - 1번 반복하고 (v1을 제외하고 A에 속하지 않는 정점 개수), (3)번 루프는 A의 크기가 k이므로 k번 반복한다(A에 속한 정점의 개수). 따라서 시간복잡도는 다음과 같다. 공간복잡도: 배열 D[vi][A]와 P[vi][A]가 얼마나 커야 하는지를 결정하면 된다. V - {v1}는 n - 1개의 정점을 가지고 있기 때문에, 이 배열은 2n-1개의 부분집합 A를 가지고 있다. (n개의 아이템이 포함되어 있는 어떤 집합의 부분집합의 개수는 2n이다.) 따라서 공간복잡도는 M(n) = 2  n  2n-1 = n2n  (n2n)이 된다.

Dynamic Programming 방법 또한 실용적인 해결책인 아니다. TSP – 무작정 vs. DP Branch-and-Bound n = 20일 때, 무작정 알고리즘: 각 일주여행경로의 길이를 계산하는데 걸리는 시간은 1sec이라고 할 때, (20 - 1)! = 19!sec = 3857년이 걸린다. DP 기반 알고리즘: 기본동작을 수행하는데 걸리는 시간을 1sec이라고 할 때, T(20) = (20 - 1)(20 - 2)220-3sec = 45초가 걸리나, M(20) = 20  220 = 20,971,520의 배열의 슬롯이 필요하다. n = 40이라면? DP 또한 6년 이상 걸린다. Dynamic Programming 방법 또한 실용적인 해결책인 아니다.

따라서 최적 일주여행경로는 [v1, v3, v4, v2, v1]이다. TSP – DP 기반 알고리즘 – 최적경로 출력 Branch-and-Bound 따라서 최적 일주여행경로는 [v1, v3, v4, v2, v1]이다.

Traveling Salesman Problem 강의 순서 Branch-and-Bound Branch-and-Bound 개념 0-1 Knapsack Problem Depth-First Search (Backtracking) Breadth-First Search Best-First Search Traveling Salesman Problem Dynamic Programming Approach Branch-and-Bound Approach

TSP – BnB 기반 접근법 – Running Example Branch-and-Bound n = 40일 때, 동적계획법 알고리즘은 6년 이상이 걸린다. 그러므로 분기한정법을 시도해 본다. 보기: 다음 인접행렬로 표현된 그래프를 살펴보시오. 완전 연결그래프의 인접행렬 표현 최적 일주여행경로

TSP – BnB 기반 상태공간트리 구축 (1/3) Branch-and-Bound 각 노드는 출발노드로부터의 일주여행경로를 나타내게 되는데, 몇 개 만 예를 들어 보면, 다음과 같다. 루트노드의 여행경로는 [1]이 되고, 루트노드에서 뻗어 나가는 수준 1에 있는 여행경로는 각각 [1,2], [1,3], …, [1,5]가 된다. 노드 [1,2]에서 뻗어 나가는 수준 2에 있는 노드들의 여행경로는 각각 [1,2,3], …, [1,2,5]가 된다. 이런 식으로 뻗어 나가서 단말노드에 도달하게 되면 완전한 일주여행경로를 가지게 된다.

TSP – BnB 기반 상태공간트리 구축 (2/3) Branch-and-Bound 구축된 상태공간 트리의 일부 예

TSP – BnB 기반 상태공간트리 구축 (3/3) Branch-and-Bound 최적일주여행경로를 구하는 방법: 단말노드에 있는 일주여행경로를 모두 검사하여 그 중에서 가장 길이가 짧은 일주여행경로를 찾으면 된다. 참고: 위 예에서 각 노드에 저장되어 있는 노드가 4개가 되면 더 이상 뻗어 나갈 필요가 없다. 왜냐하면, 남은 경로는 더 이상 뻗어 나가지 않고도 알 수 있기 때문이다.

TSP – Best First Search 기반 접근법 개요 (1/6) Branch-and-Bound 분기한정 가지치기로 최고우선 검색을 사용하기 위해서 각 노드의 한계치(bound)를 구할 수 있어야 한다. 이 문제에서는 주어진 노드에서 뻗어 나가서 얻을 수 있는 여행경로 길이의 하한(최소치, lower bound)을 구하여 한계치로 한다. 각 노드를 검색할 때 최소여행경로의 길이 보다 한계치가 작은 경우 그 노드는 유망하다고 한다. 반대로, 최소 여행경로의 길이가 한계치보다 큰 경우는 가지치기를 수행하여 검색 공간을 줄인다.

TSP – Best First Search 기반 접근법 개요 (2/6) Branch-and-Bound 한계치(lower bound)의 변화 최소여행경로의 초기값은 로 놓는다. 완전한 여행경로를 처음 얻을 때 까지는 한계치가 무조건 최소여행경로의 길이 보다 작게 되므로 모든 노드는 유망하다. 완전한 여행경로를 얻은 후에는 한계치가 갈수록 증가하여 가지치기의 효과가 커진다.

TSP – Best FS 기반 접근법 개요 (3/6) Branch-and-Bound 각 노드의 한계치는 어떻게 구하나? [1, …, k]의 여행경로를 가진 노드의 한계치는 다음과 같이 구한다. Let A = V – ([1,…,k] 경로에 속한 모든 노드의 집합) bound = [1, …, k] 경로 상의 총 거리a + vk에서 A에 속한 정점으로 가는 이음선의 길이들 중에서 최소치b + iA(vi에서 A{v1}-{vi}에 속한 정점으로 가는 이음선의 길이들 중 최소치)c  다음 페이지의 예제를 참조할 것

TSP – Best FS 기반 접근법 개요 (4/6) Branch-and-Bound 루트노드의 하한 구하기 근거: 어떤 일주여행경로라도, 각 정점을 최소한 한번은 떠나야 하므로, 각 정점을 떠나는 이음선의 최소값의 합이 하한이 된다. v1  min(14, 4, 10, 20) = 4 v2  min(14, 7, 8, 7) = 7 v3  min(4, 5, 7, 16) = 4 v4  min(11, 7, 9, 2) = 2 v5  min(18, 7, 17, 4) = 4 따라서, 일주여행경로 길이의 하한은 21(= 4+7+4+2+4)이 된다. 주의할 점은 “이 길이의 일주여행경로가 있다는 말이 아니라, 이 보다 더 짧은 일주여행경로가 있을 수 없다”는 것이다. 그래서 하한(lower bound)이라는 말을 사용한다.

TSP – Best FS 기반 접근법 개요 (5/6) Branch-and-Bound 노드 [1, 2]를 선택한 경우의 하한 구하기 근거: 이미 v2를 선택하였음을 의미하므로, v1  v2의 비용은 이음선의 가중치인 14가 된다. 나머지는 앞서와 동일한 방법으로 구한다. v1  = 14a v2  min(7, 8, 7) = 7b v3  min(4, 7, 16) = 4c v4  min(11, 9, 2) = 2c v5  min(18, 17, 4) = 4c 따라서, [1, 2]를 포함하는 노드에서 확장하여 구한 일주여행경로 길이의 하한은 31(= 14+7+4+2+4)가 된다.

TSP – Best FS 기반 접근법 개요 (6/6) Branch-and-Bound 노드 [1, 2, 3]를 선택한 경우의 하한 구하기 근거: 이미 v2와 v3를 선택하였음을 의미하므로, v1  v2  v3의 비용은 21(=14+7)이 된다. 나머지는 앞서와 동일한 방법으로 구한다. v1  = 14a v2  = 7a v3  min(7, 16) = 7b v4  min(11, 2) = 2c v5  min(18, 4) = 4c 따라서, [1, 2, 3]을 포함하는 노드에서 확장하여 구한 일주여행경로 길이의 하한은 34(= 14+7+7+2+4)이 된다.

TSP – Best FS 기반 상태공간트리 구축 (1/5) Branch-and-Bound 최종 결과 트리

TSP – Best FS 기반 상태공간트리 구축 (2/5) Branch-and-Bound 루트노드 구성 (LB = 21, minLen = ) 노드 [1, 2] (LB = 31) 노드 [1, 3] (LB = 22) 노드 [1, 4] (LB = 30) 노드 [1, 5] (LB = 42) BFS에 따라 한계 값이 가장 작은 [1, 3]을 방문한다.

TSP – Best FS 기반 상태공간트리 구축 (3/5) Branch-and-Bound 노드 [1, 3, 2] (LB = 22) 노드 [1, 3, 4] (LB = 27) 노드 [1, 3, 5] (LB = 39) BFS에 따라 한계 값이 가장 작은 [1, 3, 2]를 방문한다.

TSP – Best FS 기반 상태공간트리 구축 (4/5) Branch-and-Bound 노드 [1, 3, 2, 4] 단말노드 이므로 일주여행경로의 길이를 계산한다. 이 길이가 37이고, 37 < 이므로, minLen = 37이 된다. [1, 5]와 [1, 3, 5]는 한계값(각각 42, 39)이 minLen보다 크므로 가지치기 할 수 있다. 노드 [1, 3, 2, 5] 방문 결과 minLen = 31이 된다. [1, 2]를 가지치기 할 수 있다. 다음으로, [1, 3, 4]를 선택한다. 상기 과정을 계속 반복하면, 왼편 그림의 Length = 30을 최소 길이로 구할 수 있다.

TSP – Best FS 기반 상태공간트리 구축 (5/5) Branch-and-Bound 상태공간 트리의 전체 노드 개수는 41개이다. 왜냐면, 1 + 4 + 4 x 3 + 4 x 3 x 2 = 41이기 때문이다. 반면에, 왼편 그림을 보면 노드 개수가 17개이다. 결국, 효과적인 가지치기가 이뤄짐을 알 수 있다.

TSP – BFS 기반 알고리즘 자세한 알고리즘은 생략 (관심 있는 학생은 교재 참조) Branch-and-Bound 자세한 알고리즘은 생략 (관심 있는 학생은 교재 참조) 아직도 알고리즘의 시간복잡도는 지수적이거나 그보다 못하다! 다시 말해서 n = 40이 되면 문제를 풀 수 없는 것과 다름없다고 할 수 있다. 다른 방법이 있을까? 근사(approximation) 알고리즘: 최적의 해답을 준다는 보장은 없지만, 무리 없이 최적에 가까운 해답을 주는 알고리즘이다.  확률적 추론(진단) 방법

Homework #5 Branch-and-Bound