+ All Categories
Home > Documents > COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

Date post: 12-Jan-2016
Category:
Upload: sheng
View: 39 times
Download: 0 times
Share this document with a friend
Description:
COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness. Michael R. Garey / David S. Johnson (c) 1 979 Bell Telephone Laboratories, Incorporated. CONTENTS. Preface Computers, Complexity, and Intractability The Theory of NP-Completeness Proving NP-Completeness Results - PowerPoint PPT Presentation
108
1 COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP- Completeness Michael R. Garey / David S. Johnson (c) 1979 Bell Telephone Laboratories, Incorporated
Transcript
Page 1: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

1

COMPUTERS AND INTRACTABILITYA Guide to the Theory of NP-Completeness

Michael R. Garey / David S. Johnson

(c) 1979 Bell Telephone Laboratories, Incorporated

Page 2: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

2

CONTENTS

Preface1. Computers, Complexity, and Intractability2. The Theory of NP-Completeness3. Proving NP-Completeness Results4. Using NP-Completeness to Analyze Problems5. NP-Hardness6. Coping with NP-Complete Problems7. Beyond NP-CompletenessAppendix: A List of NP-Completeness Problems

Page 3: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

3

CHAPTER 1

Computers, Complexity, and Intractability

Page 4: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

4

CONTENTS (Chapter 1)

1. Introduction

2. Problems, Algorithms, and Complexity

3. Polynomial Time Algorithms and Intractable Problems

4. Provably Intractable Problems

5. NP-Complete Problems

6. An Outline of the Book

Page 5: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

5

目次 (Chapter 1)

1. イントロダクション2. 問題,アルゴリズム,複雑さ3. 多項式時間アルゴリズムと

‘‘ intractable’’ な問題4. 証明可能な ‘‘ intractable’’ な問題5. NP完全問題6. この本の概略

Page 6: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

6

イントロダクション• この本の主題は、次のような多少風変わ

りな例を通した紹介が良いかもしれない

Page 7: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

7

• あなたは雇われの身のアルゴリズムデザイナー

• 会社のために良いアルゴリズムを見つけるのが仕事

• ある日、あなたは上司に呼び出されます・・・

Page 8: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

8

上司の部屋で・・・

新しい市場に乗り出そうと思うんだがね

上司

は、はあ・・・

あなた

Page 9: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

9

上司の部屋で・・・

バンダースナッチを作ろうと思うんだ

上司

バンダースナッチ?

あなた

Page 10: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

10

バンダースナッチの作り方

構成要素1

構成要素2

構成要素3

・・・

・・・

・・・

・・・

Page 11: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

11

バンダースナッチの作り方構成要素1 ・・・

・・・構成要素2

・・・構成要素3

・・・

・・・構成要素 N

・・・

要求:コスト重量かっこよさetc.

Page 12: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

12

バンダースナッチ問題• 要求を満たしているかどうか

を調べる方法は?• 要求を満たすような構成要素

の組を見つける方法は?

アルゴリズムを探せ!

Page 13: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

13

上司の部屋で・・・

ということなんだがね

上司

は、はあ・・・

あなた

Page 14: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

14

上司の部屋で・・・

やってくれるかね

上司

わかりましたお任せください

あなた

Page 15: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

15

こうしてあなたはバンダースナッチ問題を解くべく必死に仕事に取り組みました

数週間後・・・

Page 16: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

16

上司の部屋で・・・

どうだね、できたかね

上司

一応できたことはできたんですが・・・

あなた

Page 17: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

17

上司の部屋で・・・

どれどれ・・・・・・・・・

上司

ゴクリ

あなた

Page 18: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

18

上司の部屋で・・・

なんだね これは!これじゃあ一つ設計するのに

一年もかかってしまう!

上司

すみません、もうすこし時間をください

あなた

Page 19: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

19

実はあなたは考えうるすべての設計を調べるという以外

に実質的に優れたアルゴリズムを提案できなかったのです

Page 20: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

20

あなたはこれからどうすればよいのでしょうか?

この数週間で、あなたのやる気はほとんど失われてしまいました。このまま続けてもおそらく同じでしょう。

Page 21: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

21

しかし、あなたは上司の部屋に行って、「私は頭が悪いので、能率的なアルゴリズムを見つけられませんでした」

とは報告したくない。これでは、たとえクビになったとしても文句は言えないでしょう。

Page 22: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

22

もし、バンダースナッチ問題のInherent Intractability(それを高速に解くことのできる

アルゴリズムが無いこと)を証明することができれば、会社でのあなたの地位に対する深刻な被害を避けることができる

Page 23: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

23

Inherent Intractability

• inherent  【形】  / inhi@[ ォ ]r[ ォ ]nt /

– <性質・属性・権利などが>本来備わっている,生れつき存在する; 固有の,持ち前の

• intractable  【形】  / i$ntrQ@kt ォ bl /

– [けなして] 手に負えない,扱いにくい,強情な,

– 処理[加工,治療]しにくい– intractability 【名】

ジーニアス英和辞典より

Page 24: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

24

• これが証明できれば、上司の部屋に行き、「私が能率的なアルゴリズムを発見できないのは、そのようなアルゴリズムが存在しないからだ!」と宣言できる。

Inherent Intractability

Page 25: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

25

Inherent Intractability

• しかしながら、問題のInherent Intractability

(能率的なアルゴリズムが無いこと)を証明するのは能率的なアルゴリズムを見つけるのと同じくらい難しい

⇒  NP完全性の理論

Page 26: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

26

Inherent Intractability とNP完全性

• Inherent Intractability– 問題に対する能率的なアルゴリズムが「絶対に無

い」こと• NP完全性

– 問題に対する能率的なアルゴリズムが「おそらく無い」であろうということ。

– なぜなら、NP完全性を持つ問題は、これまでに様々な 専門家たちによって考えられてきたが、未だに誰一人 能率的なアルゴリズムを発見できていないからである。

Page 27: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

27

NP完全性の理論• もし、バンダースナッチ問題が、NP完

全問題と「ちょうど同じ難しさ」であることがわかったらどうでしょうか?

• NP完全問題は、多くの有名な専門家たちが、能率的なアルゴリズムを見つけることができなかった問題です。

• このとき、あなたは上司の部屋へ行き、

Page 28: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

28

NP完全性の理論「私は能率的なアルゴリズムを発見できなかった。 しかし、これらの有名な専門家たちにも発見できていない!」 と公表できる。

Page 29: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

29

NP完全性の理論• このことは、少なくとも、あなたをクビにして、

他のアルゴリズムの専門家を雇うことは意味が無いことを上司に知らせるでしょう。

• そして、あなたはバンダースナッチ問題に対する能率的なアルゴリズムを探す責務から解放されるでしょう。

• しかし、すべてが解決したわけではありません。• バンダースナッチ問題は、実際に解かなければ

ならない問題なのです。

Page 30: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

30

NP完全性の理論• バンダースナッチ問題がNP完全性を持つという結果は、あなたに様々な情報を与えます。

• あなたがこれから何をすれば良いかの指針となります。

• 例えば:– 能率的ではないが、なるべく速く動くアルゴリズムを

探す– 最も良い解を出す保証は無いが、なるべく良い解を出

す能率的なアルゴリズムを探す– インスタンスが特別な場合にのみ有効な能率的なアル

ゴリズムを探す

Page 31: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

31

イントロダクション(まとめ)• 「NP完全性」が指し示すことは、

「アルゴリズムを探すことを諦めよ」ということではありません。

• 「NP完全性の理論」の最も重要な適用は、「アルゴリズムデザイナーの努力を、有用なアルゴリズムを導くための見込みのあるアプローチへ向けること」

である。

Page 32: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

32

目次 (Chapter 1)

1. イントロダクション2. 問題,アルゴリズム,複雑さ3. 多項式時間アルゴリズムと

‘‘ intractable’’ な問題4. 証明可能な ‘‘ intractable’’ な問題5. NP完全問題6. この本の概略

Page 33: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

33

問題,アルゴリズム,複雑さ• これからの議論を正確にするため、基本

的な言葉の意味を取り決めておく必要がある:– 問題 (Problems)– アルゴリズム (Algorithms)– 複雑さ (Complexity)

Page 34: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

34

問題,アルゴリズム,複雑さ• これからの議論を正確にするため、基本

的な言葉の意味を取り決めておく必要がある:– 問題 (Problems)

• パラメータ (Parameter)• インスタンス (Instance)• 例:巡回セールスマン問題

– アルゴリズム (Algorithms)– 複雑さ (Complexity)

Page 35: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

35

問題 (Problems)

• 答えることが可能な一般的な質問• いくつかのパラメータ・変数を持ち、その値は特定されない

• 問題は:– すべてのパラメータの一般的な記述– 解がどんな特性を満たすことを要求している

かの陳述を与えることで記述される。

• 問題のインスタンスはすべてのパラメータに対して特定の値を決めることによって得られる。

Page 36: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

36

例:巡回セールスマン問題(Traveling Salesman Problem)

• パラメータ:– 「都市」の有限集合 C={c1,c2,…,cm}

–都市の各組 ci,cj∈C の間の「距離」 d(ci,cj)

• 解:–都市の列 〈 cπ(1),cπ(2),…,cπ(m) 〉 のうち、

(∑1≦i≦m-1 d(cπ(i),cπ(i+1)))+d(cπ(m),cπ(1))

が最小となるもの

Page 37: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

37

例:巡回セールスマン問題(Traveling Salesman Problem)

• 次のグラフは巡回セールスマン問題の一つのインスタンスである:– C={c1,c2,c3,c4 }

– d(c1,c2)=10,

…,d(c3,c4 )=3

• 解:〈 c1,c2,c4 ,c3 〉• 順回路の長さ:

10+9+3+5 = 27

c1

c3

6

10

59

3

c2

c4

9

Page 38: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

38

問題,アルゴリズム,複雑さ• これからの議論を正確にするため、基本的

な言葉の意味を取り決めておく必要がある:– 問題 (Problems)– アルゴリズム (Algorithms)

• アルゴリズムの能率 (Efficiency)• 所要時間 (Time Requirement)• インスタンスサイズと入力長• Encoding Scheme

– 複雑さ (Complexity)

Page 39: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

39

アルゴリズム (Algorithms)

• 問題を解くための手続き• 具体的には、コンピュータプログラム• アルゴリズムが問題を解くとは:

– 問題のどんなインスタンスにも適用できる。– そのインスタンスに対して常に解を生成する

ことが保証されている。– 例えば、巡回セールスマン問題に対しては、常に最小な長さを与える列を構成することが必要。

Page 40: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

40

アルゴリズムの能率 (Efficiency)

• 広い意味では、アルゴリズムを実行するために必要なすべての計算資源に関係する– ハードウェア量,時間

• ここでは、「時間」だけを考える• アルゴリズムの所要時間 (Time Requirement) :

– 解を求めるまでにどのくらいの時間が必要か。– インスタンスの「サイズ」によって決まる。– サイズ: 例えば、巡回セールスマン問題では、一般的

には都市の数のこと。– インスタンスサイズが大きいほど、所要時間も大きくな

る。

Page 41: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

41

アルゴリズムの所要時間 (Time Requirement)

• 所要時間 ← インスタンスサイズ• インスタンスサイズ

– 数学的に正確に論じるには、都市の数だけでは不十分– 都市間の距離も入力情報の一部である

• 問題のインスタンス:– 有限個のアルファベットから選ばれた記号の有限文字列とみなす

– この文字列の長さを「入力長 (input length) 」という– 「入力長」をインスタンスサイズとして使う

Page 42: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

42

インスタンスサイズと入力長

Encoding Schemeアルファベット

{c,[,],/,0,1,2,3,4,5,6,7,8,9}

インスタンスの集合

有限文字列

グラフ

c[1]c[2]c[3]c[4]//10/5/9//6/9//3

c1

c3

6

10

59

3

c2

c4

9

Encoding Scheme

入力長 = 32

Page 43: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

43

Encoding Scheme

• encode  【動】  / enko@ud /– <通信文・データなどを>符号化[コード化]

する;符号化して発信する (⇔decode)

• scheme  【名】  / ski@ /– 計画,案;(政府)公共計画,(会社の)事業

計画–陰謀,たくらみ–大綱;図式;計画表– 組織,機構(哲学)体系;配列;配色

ジーニアス英和辞典より

Page 44: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

44

アルゴリズムの能率 (Efficiency)

• アルゴリズムの能率の良し悪し:–所要時間(問題を解くのに必要な時間)の大小– インスタンスのサイズが大きいほど必然的に多

くの時間が必要• インスタンスのサイズ:

–入力長– encoding scheme に依存

• 入力長と所要時間の関係は? ⇒ Time Complexity Function

Page 45: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

45

問題,アルゴリズム,複雑さ• これからの議論を正確にするため、基本

的な言葉の意味を取り決めておく必要がある:– 問題 (Problems)– アルゴリズム (Algorithms)– 複雑さ (Complexity)

• Time Complexity Function  (時間複雑さ関数)

Page 46: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

46

複雑さ (Complexity)

• Time Complexity Function–与えられた入力長に対して、その入力長をサ

イズとして持つインスタンスに対する解を求めるのに必要な時間の最大値を返す関数

入力長(整数)

インスタンス

インスタンス

インスタンス

インスタンス

インスタンス

インスタンス

32

26

512

42分

54分

16分

F(32) = 54 分

Page 47: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

47

Time Complexity Function

• Time Complexity Function を正確に定義するためには、次のものを固定する必要がある:– Encoding Scheme

• インスタンスから入力長を算出する– コンピュータモデル(コンピュータ)

• アルゴリズムが解を求めるのに必要な時間を算出する

Page 48: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

48

問題,アルゴリズム,複雑さ(まとめ)

• 問題 (Problems)– 例: 巡回セールスマン問題

• アルゴリズム (Algorithms)– アルゴリズムの能率: 所要時間– インスタンスのサイズ: 入力長

• 複雑さ (Complexity)– Time Complexity Function :

入力長に対する所要時間を表現

Page 49: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

49

目次 (Chapter 1)

1. イントロダクション2. 問題,アルゴリズム,複雑さ3. 多項式時間アルゴリズムと

‘‘ intractable’’ な問題4. 証明可能な ‘‘ intractable’’ な問題5. NP完全問題6. この本の概略

Page 50: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

50

多項式時間アルゴリズムと“ intractable” な問題

• アルゴリズムの能率の境界線• ‘‘intractable’’ な問題

Page 51: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

51

多項式時間アルゴリズムと“ intractable” な問題

• アルゴリズムの能率の境界線:– 多項式時間アルゴリズム vs. 指数関数時間ア

ルゴリズム–オーダー記法– 多項式の成長 vs. 指数関数の成長– コンピュータの性能向上の効果

• ‘‘intractable’’ な問題

Page 52: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

52

アルゴリズムの能率の境界線• アルゴリズムの能率は Time complexity function

で決まる。• アルゴリズムが

「十分能率的である」か「まったく非能率的である」かの区別をどこでつけるのか ?

多項式時間アルゴリズムvs.

指数関数時間アルゴリズム

Page 53: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

53

オーダー記法 (Big-Oh Notation)

• 任意の関数 f(n), g(n) に対して、 f(n) = O(g(n)) であるとは、ある定数 c, n0 が存在して、任意の n ≧n0 に対して、

|f(n)| ≦ c ・ |g(n)|が成り立つときをいう。

Page 54: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

54

多項式時間アルゴリズム(Polynomial Time Algorithms)

• アルゴリズムが多項式時間アルゴリズムであるとは、その Time complexity function F(n) に対して、ある多項式関数 p(n) が存在して、

F(n) = O(p(n))が成り立つときをいう。

• 多項式関数とは、

p(n) = ∑0≦i≦N ai ni ( N は自然数)で表される関数である(ただし、 ai は実数)。

Page 55: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

55

指数関数時間アルゴリズム(Exponential Time Algorithms)

• アルゴリズムが多項式時間アルゴリズムでないとき、指数関数時間アルゴリズムであるという。

• すなわち、アルゴリズムの Time complexity function F(n) が、すべての多項式関数 p(n) に対して、

F(n) = O(p(n))とならないときをいう。

Page 56: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

56

多項式時間アルゴリズムと指数関数時間アルゴリズム

• 多項式時間アルゴリズム:– Time complexity function が多項式で抑えられる

• 指数関数時間アルゴリズム:– Time complexity function が多項式で抑えられない

多項式時間アルゴリズム

指数関数時間アルゴリズム

アルゴリズム

Page 57: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

57

多項式時間アルゴリズム vs. 指数関数時間アルゴリズム

• 「多項式時間アルゴリズムと指数関数時間アルゴリズム」という区別にはどういう意味があるのか?

• 代表的な多項式関数 n, n2, n3, n5

と指数関数 2n, 3n

を Time complexity function として持つアルゴリズムに対して、インスタンスサイズを大きくしていったときの所要時間の成長を比較する。

Page 58: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

58

Time comp

. func.

インスタンスサイズ10 20 30 40 50 60

n1 .00001秒

.00002秒

.00003 秒

.00004 秒

.00005  秒

.00006  秒

n2 .0001 秒

.0004 秒

.0009 秒 .0016 秒 .0025 秒 .0036 秒

n3 .001 秒 .008 秒 .027 秒 .064 秒 .125 秒 .216 秒

n5 .1 秒 3.2 秒 24.3 秒 1.7 分 5.2 分 13.0 分

2n .001 秒 1.0 秒 17.9 分 12.7 日 35.7 年 366 世紀

3n .059 秒 58 分 6.5 年 3855 世紀

2×108 世紀

1.3×1013

世紀

多項式の成長 vs. 指数関数の成長

Page 59: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

59

多項式の成長 vs. 指数関数の成長

• 多項式の成長に比べ、指数関数の成長は著しく速い。

• 指数関数時間アルゴリズムでは、サイズの大きなインスタンスに対しては、現実的な時間で解くことができない。

• 指数関数時間アルゴリズム= 「非能率的なアルゴリズ

ム」

Page 60: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

60

コンピュータの性能向上の効果• コンピュータの性能が上がれば、指数関数時間

アルゴリズムでも、サイズの大きなインスタンスを現実的な時間で解くことができるようになるのではないか?

• それぞれの Time complexity function を持つアルゴリズムによって、1時間で解ける最大のインスタンスサイズを比較– 現在の計算機– 現在の計算機より 100倍速い計算機– 現在の計算機より 1000倍速い計算機

Page 61: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

61

1時間で解くことのできる最大のインスタンスサイズ

Time comp. func.

現在の計算機

100倍速い計算機

1000倍速い計算機

n1 N1 100 N1 1000 N1

n2 N2 10 N2 31.6 N2

n3 N3 4.64 N3 10 N3

n5 N4 2.5 N4 3.98 N4

2n N5 N5 + 6.64 N5 + 9.97

3n N6 N6 + 4.19 N6 + 6.29

Page 62: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

62

アルゴリズムの能率• 能率的なアルゴリズム:

多項式時間アルゴリズム• 非能率的なアルゴリズム:

指数関数時間アルゴリズム• ただし、あるインスタンスサイズまでは、指数関数時間アルゴリズムのほうが、多項式時間アルゴリズムよりも速いという場合もある。

Page 63: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

63

いくつかの注意点• Time complexity function が n100 や 1099n2 の

ようなとき、そのアルゴリズムは能率的といえるのか?

• 実際に現れた問題を多項式時間で解くことができるとき、その多項式は:– 次数は 2 か 3– 極端に大きな係数を持たない

という傾向にある。

Page 64: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

64

いくつかの注意点• 実際には有用な指数関数時間アルゴリズムも存

在する:– 線形計画法の Simplex Algorithm– ナップザック問題の Branch-and-Bound Algorithm

• これらのアルゴリズムは、「ワーストケース」のときにのみ、計算に指数関数時間必要である。( Time complexity function は、最大の所要時間で定義された。)

• このような状況が起こるのは稀である。

Page 65: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

65

多項式時間アルゴリズムと“ intractable” な問題

• アルゴリズムの能率の境界線• ‘‘intractable’’ な問題

– Encoding Scheme と計算機モデルの影響– “reasonable” な Encoding Scheme– “reasonable” な計算機モデル

Page 66: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

66

“intractable” な問題

• 問題が“ intractable” であるとは、その問題を解く多項式時間アルゴリズムが存在しないときをいう。

• 多項式時間アルゴリズム:– Time complexity function を多項式で抑えることができ

るアルゴリズム• Time complexity function は、

– Encoding Scheme– 計算機モデル

に依存する。

Page 67: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

67

Encoding Scheme と 計算機モデルの影響

• 問題が“ intractable” であるかどうかは、 Encoding Scheme と計算機モデルに依存するか?

• Encoding Scheme と計算機モデルを、それぞれ– “reasonable” な Encoding Scheme– “reasonable” な計算機モデル

に制限すれば、問題が“ intractable” であるかどうかに影響しない。

Page 68: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

68

“reasonable” な Encoding Scheme

• 例として、インスタンスがグラフ:G = (V,E)

のときを考える。• 例:右図のグラフの場合

V = {V1, V2, V3, V4}

E = {(V1,V2), (V2,V3)}

V1

V2

V3

V4

Page 69: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

69

“reasonable” な Encoding Scheme

• グラフの Encoding Scheme としては– 頂点リストと辺リスト– 隣接リスト– 隣接行列の行のリスト

が一般的に使われる。

Encoding Scheme 文字列 長さ頂点リストと辺リスト

V[1]V[2]V[3]V[4] (V[1]V[2])(V[2]V[3])

36

隣接リスト (V[2])(V[1]V[3])(V[2])() 24隣接行列の行リスト 0100/1010/0010/0000 19

V1

V2

V3

V4

Page 70: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

70

“reasonable” な Encoding Scheme

• グラフ G=(V,E) に対する、これらの Encoding Scheme による入力長の上限と下限を示す。(ただし、 v=|V|, e=|E| であり、 e < v2 )

• これらの Encoding Scheme による入力長は、高々多項式的に違うだけである。

Encoding Scheme 下限 上限頂点リストと辺リスト

4v+10e 4v+10e+(v+2e) ・ceil(log10v)

隣接リスト 2v+8e 2v+8e+2e ・ceil(log10v)

隣接行列の行リスト

v2+v-1 v2+v-1

Page 71: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

71

“reasonable” な Encoding Scheme

• “reasonable” の意味するもの:– 各インスタンスの encoding は簡潔であり、

必要のない情報は詰め込まれていない。– 各インスタンスに含まれる数字は二進(また

は十進,八進など、1以外の固定進)で提示されている。

• これらの条件を満たす Encoding Scheme に制限すれば、与えられた問題が“ intractable” かどうかの決定には影響しないだろう。

Page 72: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

72

“reasonable” な計算機モデル• 計算機モデルに対しても、同様なことが言える。• マシンBにおいて Time Complexity T(n) を持つアル

ゴリズムの、マシンAでの Time Complexity を示す。

Simulated machine B

Simulating machine A

1TM kTM RAM

1-Tape Turing Machine (1TM)

- O(T(n)) O(T(n)logT(n))

k-Tape Turing Machine (kTM)

O(T2(n)) - O(T(n)logT(n))

Random Access Machine (RAM)

O(T3(n)) O(T2(n)) -

Page 73: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

73

“reasonable” な計算機モデル• これらの計算機モデル上では、アルゴリズムの

複雑度は、多項式的かどうかの観点から見れば同じである。

• ここでの“ reasonable” の意味するものは、「単一時間内にこなせる仕事の総量に、多項式の限界があること」である。

• 例えば、勝手に並列処理を行う能力を持つような計算機モデルは“ reasonable” ではない。

Page 74: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

74

Encoding Scheme と 計算機モデルの影響

• “reasonable” な Encoding Scheme :– なるべく短い長さの文字列を出力する。– 出力する文字列の長さは、多項式的以上には異ならない。

• “reasonable” な計算機モデル:– 現実のコンピュータに近い。– 多項式的かどうかの観点から見れば、アルゴリズムの複

雑さは異ならない。• Encoding Scheme と計算機モデルに対して、こ

のような制限をおけば、問題が“ intractable” であるかどうかに影響しない。

Page 75: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

75

多項式時間アルゴリズムと“ intractable” な問題(まと

め)• アルゴリズムの能率:

– 多項式時間アルゴリズム = 能率的– 指数関数時間アルゴリズム = 非能率的

• “intractable” な問題– 問題を解く多項式時間アルゴリズムが無いこと。– Encoding Scheme 及び計算機モデルについて

は、“ reasonable” なものに制限することで、問題が“ intractable” かどうかへの影響を取り除くことができる。

Page 76: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

76

目次 (Chapter 1)

1. イントロダクション2. 問題,アルゴリズム,複雑さ3. 多項式時間アルゴリズムと

‘‘ intractable’’ な問題4. 証明可能な ‘‘ intractable’’ な問題5. NP完全問題6. この本の概略

Page 77: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

77

証明可能な“ intractable” な問題

• ‘‘intractable’’ な問題の存在– “undecidable” な問題– “nondeterministically” な問題

Page 78: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

78

“intractable” な問題の存在• “intractable” な問題(多項式時間アルゴリズ

ムでは解けない問題)は実際に存在するか?• 問題が“ intractable” となる要因:

– 問題が難しすぎて、解を求めるのに指数関数時間必要である。

– 解自身が大きすぎて、入力長の多項式関数で抑えられた長さの表現では記述できない。

Page 79: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

79

“intractable” な問題の存在• 解が大きすぎる問題:

例: 巡回セールスマン問題の変形• インスタンスに追加パラメータ B を持たせる。• 「長さが B 以下のすべての巡回路を求めよ」• この問題に対して、指数的に多くの巡回路が B 以下の長さを持つように、インスタンスを構成可能。

• すなわち、解を全て書き出すことのできる多項式時間アルゴリズムは存在しない。⇒“ intractable”

しかし、このような問題は非現実的である。• 我々が関心を向けるのは、一つめの要因に絞られる。

Page 80: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

80

“undecidable” な問題

• “undecidable” な問題:– その問題を解くアルゴリズムが存在しない問

題• 1936 年,アラン・チューリング

– 「任意のコンピュータプログラムと、そのプログラムへの任意の入力が与えられたとき、そのプログラムが有限時間内で停止するか否かを判定せよ」

– この問題を解くことのできるアルゴリズムは存在しないことを示した。

Page 81: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

81

“undecidable” な問題

• 現在、様々な“ undecidable” な問題が知られている:– 有限表現群に関する自明な問題 [Rabin,1958]– ヒルベルトの第十問題(整数上の多項式の解決可能

性) [Matijasevic,1970]– “Tiling the plane” の問題 [Berger,1966]

• これらの問題は、どんなアルゴリズムでも(ましてや多項式時間アルゴリズムなんかでは到底!)解けないので、強い意味で“ intractable”である。

Page 82: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

82

“nondeterministically” な問題

• “decidable” な(すなわち、“ undecidable” でない)問題の中に、“ intractable” な問題を最初に見つけたのは、Hartmains と Stearns [1965] であった。

• しかし、彼らの結果は、非常に特別な性質を持つ、「人工的な」問題に限られていた。

• これに対して、「自然な」“ decidable” 問題のうちで“ intractable” な問題は、 Meyer と Stockmeyer [1972] , Fischer と Rabin [1974] によって与えられた。

• これらの問題は、現在“ nondeterministically” な問題として類別されている。

Page 83: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

83

“nondeterministically” な問題

• “nondeterministically” な問題:– “nondeterministic” コンピュータモデルでは、多項

式時間では解けない問題

• “nondeterministic” コンピュータモデル:– 無限個の独立な計算を、並列に追跡する能力を持つ

計算機モデル

• 注: “ nondeterministic” コンピュータモデルは、“ reasonable” な計算機モデルではないが、NP完全性の理論において重要な役割を担っている。( Chapter 2 で詳しく説明)

Page 84: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

84

証明可能な“ intractable” な問題(まとめ)

• 現在知られている“ intractable” な問題は、– “undecidable” な問題– “nondeterministically” な問題

のどちらかである。• もし、このどちらかであることを示すことがで

きれば、問題が“ intractable” であることを証明できる。

• しかしながら、実際に遭遇する、一見“ intractable” に見える問題の多くは、上のどちらにも属さない。

Page 85: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

85

目次 (Chapter 1)

1. イントロダクション2. 問題,アルゴリズム,複雑さ3. 多項式時間アルゴリズムと

‘‘ intractable’’ な問題4. 証明可能な ‘‘ intractable’’ な問題5. NP完全問題6. この本の概略

Page 86: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

86

NP完全問題• 問題の間の相関関係• NP完全性の理論( Cook の論文)

Page 87: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

87

NP完全問題• 問題の間の相関関係

–帰着 (reducing)

• NP完全性の理論( Cook の論文)

Page 88: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

88

問題の間の相関関係• 問題と問題の間にある関係は、アルゴリズムデザ

イナーに有用な情報を提供する。• 二つの問題の間に関係があることを示すときに、

「帰着」という概念がよく使われる。• 問題 A を問題 B へ帰着 (reducing) するとは:

– A の任意のインスタンスから等価な B のインスタンスへの構成的な変換(写像)を与えること。

– このような変換は、 B を解くアルゴリズムを A を解くアルゴリズムに変換する方法を与える。

Page 89: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

89

解解

帰着 (reducing)

インスタンスの集合

問題 A

アルゴリズム

問題 B

インスタンスの集合

アルゴリズム

Page 90: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

90

帰着 (reducing)

問題 A 問題 B

問題2問題1

問題3

問題4問題5

これらの問題のうち、1つでも解ければ、他のすべての問題も解ける。

⇒ 同じ難しさの問題

問題 B が解ければ、問題 A も解ける。

Page 91: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

91

NP完全問題• 問題の間の相関関係• NP完全性の理論( Cook の論文)

– 多項式時間帰着可能性– クラスNP–充足可能性問題– NP完全問題

Page 92: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

92

NP完全性の理論• NP完全性の理論の基盤は、 1971 年に提出さ

れた Stephen Cook の論文:“The Complexity of Theorem Proving Procedures”

に用意されていた。• Cook は、まず多項式時間帰着可能性に注目し

た。• 多項式時間帰着可能:

–帰着に要求される変換が、多項式時間アルゴリズムによって実行できること

Page 93: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

93

多項式時間帰着可能性(Polynomial Time Reducibility)

インスタンスの集合

問題 A 問題 B

インスタンスの集合

アルゴリズム

多項式時間アルゴリズム

変換

多項式時間アルゴリズム

変換

Page 94: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

94

多項式時間帰着可能性(Polynomial Time Reducibility)

• 問題 A が問題 B へ多項式時間帰着可能であり、問題 B に対する多項式時間アルゴリズムが存在するとき、問題 A を解く多項式時間アルゴリズムの存在がいえる。

Page 95: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

95

多項式時間帰着可能性(Polynomial Time Reducibility)

インスタンスの集合

問題 A 問題 B

インスタンスの集合

多項式時間アルゴリズム

多項式時間アルゴリズム

多項式時間アルゴリズム

Page 96: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

96

クラスNP (Class NP)

• 次に Cook が注目したのは、クラスNPであった。

• クラスNP:– “nondeterministic” コンピュータ上で、多項

式時間で解くことのできる判定問題のクラス–判定問題: 解が“ yes” か“ no” である問題

• 実際に遭遇する“ intractable” に見える問題は、判定問題に言い換えたとき、このクラスに属する。

Page 97: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

97

クラスNP

判定問題

“undecidable” な問題

“nondeterministically” な問題

クラスNP (Class NP)

“intractable”

Page 98: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

98

充足可能性問題(Satisfiability Problem)

• 充足可能性問題は、クラスNPに属する問題の一つである。

• Cook は、次のことを証明した:– クラスNPに属するすべての問題は、充足可

能性問題に多項式時間帰着可能である。– すなわち、充足可能性問題を解く多項式時間

アルゴリズムが存在するならば、NPに属するすべての問題には、多項式時間アルゴリズムが存在する。

Page 99: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

99

充足可能性問題(Satisfiability Problem)

• このことは、充足可能性問題が、NPの中で、ある意味「最も難しい」問題であることを意味している。

充足可能性問題

問題問題 問題

問題

クラスNP

Page 100: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

100

NP完全問題(NP-Complete Problems)

• 最後に、 Cook は充足可能性問題の他にも、「最も難しい」という性質を持つ問題がNPの中にあることを予想した。

• この予想は事実であり、 1972 年、 Rechard Karp は、巡回セールスマン問題を含む、多くの組み合わせ問題の判定問題版が、充足可能性問題と「同じ難しさ」であることを証明した。

• その後も、多くの問題がこれらの問題と「同じ難しさ」であることが証明され、このような問題で構成されるクラスは「NP完全問題のクラス」と名付けられた。

Page 101: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

101

NP完全問題(NP-Complete Problems)

充足可能性問題

問題問題 問題

問題

クラスNP

問題問題

問題

問題

NP完全問題のクラス

Page 102: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

102

判定問題

クラスNP

“undecidable” な問題

“nondeterministically” な問題“intractable”

NP完全問題(NP-Complete Problems)

NP完全問題のクラス

Page 103: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

103

NP完全問題(NP-Complete Problems)

• 一つの単純な疑問:NP完全問題は“ intractable” か?

• この問題は未解決である。• 多くの研究者はNP完全問題

が“ intractable” であるという予想に同意している。

• 問題がNP完全であることは、少なくとも、それを解く多項式時間アルゴリズムを見つけるためには、重大な大発見が必要であることを示唆している。

Page 104: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

104

NP完全問題(まとめ)• 問題の間の相関関係

–帰着• NP完全性の理論( Cook の論文)

– 多項式時間帰着可能性– クラスNP–充足可能性問題– NP完全問題

Page 105: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

105

目次 (Chapter 1)

1. イントロダクション2. 問題,アルゴリズム,複雑さ3. 多項式時間アルゴリズムと

‘‘ intractable’’ な問題4. 証明可能な ‘‘ intractable’’ な問題5. NP完全問題6. この本の概略

Page 106: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

106

この本の概略• この本は、問題がNP完全であるかどうかを決定する方法における入門書である。

• さらに、NP完全であることが知られた問題を扱う際に利用できる、いくつかの方法についても議論する。

Page 107: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

107

この本の概略Chapter 2: The Theory of NP-Completeness

NP完全性の正式な定義 Cook の定理の証明

Chapter 3: Proving NP-Completeness Results 問題がNP完全であることの証明法(既知のNP完全問題からの多項式帰着)

Chapter 4: Using NP-Completeness to Analyze Problems

NP完全性を用いた問題の複雑さの解析Chapter 5: NP-Hardness

判定問題から一般の問題への拡張

Page 108: COMPUTERS AND INTRACTABILITY A Guide to the Theory of NP-Completeness

108

この本の概略Chapter 6: Coping with NP-Complete Problems

近似アルゴリズムに関する話題Chapter 7: Beyond NP-Completeness

計算の複雑さに関する話題Appendix: A List of NP-Completeness Problems

NP完全であることが知られている問題のリスト Open Problem


Recommended