atsp-aaai93-symp

8/6/2019 atsp-aaai93-symp

http://slidepdf.com/reader/full/atsp-aaai93-symp 1/7

P r o c . A A A I - 9 3 S p r i n g S y m p . o n A I a n d N P - H a r d P r o b l e m s , S t a n d o r d , C A , M a r c h 2 3 - 2 5 , 1 9 9 3 , p p . 1 6 0 - 6 .

T r u n c a t e d B r a n c h - a n d - B o u n d :

A C a s e S t u d y o n t h e A s y m m e t r i c T S P

W e i x i o n g Z h a n g

C o m p u t e r S c i e n c e D e p a r t m e n t

U n i v e r s i t y o f C a l i f o r n i a , L o s A n g e l e s

L o s A n g e l e s , C A 9 0 0 2 4

z h a n g @ c s . u c l a . e d u

A B S T R A C T

B r a n c h - a n d - b o u n d ( B n B ) i s a g e n e r a l p r o b l e m

s o l v i n g p a r a d i g m , e s p e c i a l l y u s e f u l f o r n d -

i n g o p t i m a l s o l u t i o n s t o m o s t N P - h a r d c o m -

b i n a t o r i a l p r o b l e m s . I n f a c t , B n B c a n a l s o

b e a d a p t e d a s a n e c i e n t a p p r o x i m a t i o n a l -

g o r i t h m , p r o v i d i n g a p r o m i s i n g n e w a l t e r n a -

t i v e i n p r a c t i c e . W e s h o w t h i s b y a n a p -

p r o x i m a t i o n s c h e m e f o r t h e a s y m m e t r i c t r a v -

e l i n g s a l e s m a n p r o b l e m ( A T S P ) . O u r m e t h o d

i s B n B t r u n c a t e d a t d i e r e n t s t o p p i n g p o i n t s ,

d e p e n d i n g u p o n t h e t o t a l c o m p u t a t i o n a v a i l -

a b l e . E x p e r i m e n t s i n d i c a t e t h a t t h i s m e t h o d

i s s u p e r i o r t o a l o c a l s e a r c h a l g o r i t h m t h a t i s

t h e b e s t e x i s t i n g a p p r o x i m a t i o n a l g o r i t h m f o r

t h e A T S P .

1 I n t r o d u c t i o n a n d O v e r v i e w

M a n y p r a c t i c a l p r o b l e m s , s u c h a s p l a n n i n g a n d s c h e d u l -

i n g , a r e c o m p u t a t i o n a l l y i n t r a c t a b l e , m e a n i n g t h a t t h e y

c a n n o t b e s o l v e d e x a c t l y w i t h l i m i t e d c o m p u t a t i o n t i m e

a n d m e m o r y . I n r e a l i t y , w e o f t e n d o n o t n e e d o p t i -

m a l s o l u t i o n s , b u t r a t h e r g o o d o n e s t h a t c a n b e f o u n d

q u i c k l y . T h e r e f o r e , a p p r o x i m a t i o n a l g o r i t h m s a r e o f

c o n s i d e r a b l e p r a c t i c a l i m p o r t a n c e .

B r a n c h - a n d - b o u n d ( B n B ) 1 5 , 2 , 1 3 ] i s a g e n e r a l

p r o b l e m - s o l v i n g p a r a d i g m f o r n d i n g o p t i m a l s o l u t i o n s

t o N P - c o m p l e t e 6 ] c o m b i n a t o r i a l o p t i m i z a t i o n p r o b -

l e m s . A l t h o u g h i t w a s o r i g i n a l l y d e v e l o p e d f o r o p t i m a l

s o l u t i o n s , i t c a n , i n f a c t , b e a d a p t e d f o r n d i n g a p p r o x -

i m a t e s o l u t i o n s a s w e l l . T h e i d e a , w h i c h i s w e l l - k n o w n

i n o p e r a t i o n s r e s e a r c h , i s t o t e r m i n a t e t h e e x e c u t i o n o f

B n B w h e n e v e r t h e l i m i t s o f c o m p u t a t i o n a l r e s o u r c e s a r e

m e t . T h e p r e v i o u s r e s e a r c h o n t h i s i d e a i s v e r y p r e l i m -

i n a r y . I t h a s o n l y b e e n a p p l i e d t o j o b - s h o p s c h e d u l i n g

p r o b l e m s w i t h t w o m a c h i n e s a n d u p t o 5 0 j o b s 1 , 1 2 ] ,

a n d s i m u l a t e d o n a t r e e m o d e l 7 ] .

T h e r e s e a r c h w a s s u p p o r t e d b y N S F G r a n t # I R I -

9 1 1 9 8 2 5 , a g r a n t f r o m R o c k w e l l I n t e r n a t i o n a l , a n d a G T E

f e l l o w s h i p .

W e f u r t h e r e x t e n d t h e i d e a o f a d a p t i n g B n B f o r a p -

p r o x i m a t e s o l u t i o n s t o l a r g e c o m b i n a t o r i a l o p t i m i z a t i o n

p r o b l e m s , a n d c o m p a r e i t t o o t h e r a p p r o x i m a t i o n a l -

g o r i t h m s . I n p a r t i c u l a r , w e p r e s e n t a n a p p r o x i m a t i o n

m e t h o d b a s e d o n B n B , c a l l e d t r u n c a t e d B n B , o n t h e

a s y m m e t r i c t r a v e l i n g s a l e s m a n p r o b l e m . G i v e n n c i t i e s

f 1 2 ; : : : ; n g a n d a c o s t m a t r i x ( c

i j

) t h a t d e n e s t h e c o s t

b e t w e e n e a c h p a i r o f c i t i e s , t h e t r a v e l i n g s a l e s m a n p r o b -

l e m ( T S P ) i s t o n d a m i n i m u m - c o s t t o u r t h a t v i s i t s

e a c h c i t y o n c e a n d r e t u r n s t o t h e s t a r t i n g c i t y . W h e n

t h e c o s t f r o m c i t y i t o c i t y j i s n o t n e c e s s a r i l y e q u a l t o

t h a t f r o m c i t y j t o c i t y i , t h e p r o b l e m i s t h e a s y m m e t r i c

T S P ( A T S P ) . W e c h o o s e t h e A T S P a s o u r b e n c h m a r k

p r o b l e m b e c a u s e i t i s a n i m p o r t a n t p r o b l e m , a n d m a n y

N P - c o m p l e t e p r o b l e m s c a n b e f o r m u l a t e d a s A T S P s ,

s u c h a s v e h i c l e r o u t i n g , w o r k s h o p s c h e d u l i n g , c o m p u t e r

w i r i n g , e t c 1 4 ] . A l t h o u g h w e p r e s e n t t h e a p p r o x i m a -

t i o n m e t h o d o n t h e A T S P , o u r a l g o r i t h m c a n b e s i m p l y

a p p l i e d t o o t h e r p r o b l e m s a s w e l l .

W e e m p i r i c a l l y c o m p a r e o u r a p p r o x i m a t i o n m e t h o d t o

a l o c a l s e a r c h a l g o r i t h m o f 9 ] , t h e b e s t e x i s t i n g a p -

p r o x i m a t i o n a l g o r i t h m f o r t h e A T S P w e f o u n d i n t h e

l i t e r a t u r e . G i v e n a n o n - o p t i m a l c o m p l e t e t o u r , a l o c a l

s e a r c h a l g o r i t h m r e p e a t e d l y i m p r o v e s t h e t o u r b y l o c a l

p e r t u r b a t i o n s 1 6 , 9 , 8 ] . I n o u r e x p e r i m e n t s , w e c o n s i d -

e r e d m a n y A T S P s w i t h d i e r e n t c o s t m a t r i x s t r u c t u r e s .

T h e c o s t m a t r i c e s w e u s e d i n c l u d e r a n d o m m a t r i c e s ,

m a t r i c e s w i t h t h e t r i a n g l e i n e q u a l i t y , r a n d o m m a t r i c e s

w i t h c

i j

f r o m f 0 1 ; : : : ; i j g , m a t r i c e s c o n v e r t e d f r o m

n o - w a i t w o r k s h o p s c h e d u l i n g f o r 4 m a c h i n e s , w h i c h i s

k n o w n t o b e N P - c o m p l e t e 2 0 ] , a n d m a t r i c e s f r o m r e a l

p r o b l e m s 1 8 ] . O u r e m p i r i c a l r e s u l t s i n d i c a t e t h a t t h e

a v e r a g e t o u r q u a l i t y f r o m o u r m e t h o d i s b e t t e r t h a n

t h a t f r o m t h e l o c a l s e a r c h a l g o r i t h m , w i t h l e s s o r c o m -

p a r a b l e c o m p u t a t i o n t i m e . T h u s , t h e n e w a p p r o x i m a -

t i o n a l g o r i t h m p r o v i d e s a p r o m i s i n g a l t e r n a t i v e i n p r a c -

t i c e .

S e c t i o n 2 d i s c u s s e s t h e a p p r o x i m a t i o n a l g o r i t h m f o r t h e

A T S P , a n d S e c t i o n 3 p r e s e n t s t h e e x p e r i m e n t a l r e s u l t s .

O u r d i s c u s s i o n i s i n S e c t i o n 4 , a n d c o n c l u s i o n s a p p e a r

i n S e c t i o n 5 . F o r i n t e r e s t e d r e a d e r s , t h e d e t a i l e d d e -

s c r i p t i o n a n d e x p e r i m e n t a l r e s u l t s o f t h e l o c a l s e a r c h



a l g o r i t h m o f 9 ] c a n b e f o u n d i n 2 5 ] .

2 T r u n c a t e d B n B o n t h e A T S P

2 . 1 I n t r o d u c t i o n : B r a n c h - a n d - B o u n d

S i n c e o u r n e w a p p r o x i m a t i o n m e t h o d i s b a s e d o n

t h e b r a n c h - a n d - b o u n d ( B n B ) s u b t o u r e l i m i n a t i o n a l -

g o r i t h m 2 ] f o r o p t i m a l l y s o l v i n g t h e A T S P , w e r s t

d e s c r i b e t h i s a l g o r i t h m .

T h e B n B s u b t o u r e l i m i n a t i o n a l g o r i t h m u s e s t h e a s -

s i g n m e n t p r o b l e m a s a l o w e r - b o u n d f u n c t i o n . G i v e n n

c i t i e s a n d a c o s t m a t r i x ( c

i j

) , t h e a s s i g n m e n t p r o b l e m

( A P ) 1 7 ] i s t o a s s i g n t o e a c h c i t y i a n o t h e r c i t y j , w i t h

c

i j

a s t h e c o s t o f t h i s a s s i g n m e n t , s u c h t h a t t h e t o -

t a l c o s t o f a l l a s s i g n m e n t s i s m i n i m i z e d . T h e A P i s a

g e n e r a l i z a t i o n o f t h e A T S P w i t h o u t t h e r e s t r i c t i o n o f

a s i n g l e t o u r , a l l o w i n g c o l l e c t i o n s o f d i s j o i n t s u b t o u r s .

S p e c i c a l l y , t h e s o l u t i o n o f t h e A P i s a p e r m u t a t i o n o f

t h e n c i t i e s w h i c h i s e i t h e r a c o m p l e t e t o u r , o r a c o l l e c -

t i o n o f s u b t o u r s , a n d c a n b e c o m p u t e d i n O ( n

3

) t i m e

1 7 ] . I f t h e A P s o l u t i o n h a p p e n s t o b e a c o m p l e t e t o u r ,

i t i s t h e s o l u t i o n t o t h e A T S P a s w e l l .

F i g u r e 1 i s a s i m p l e e x a m p l e o f B n B s u b t o u r e l i m i n a -

t i o n . T h e e d g e c o s t s a n d t h e c a l c u l a t i o n o f t h e A P c o s t s

a r e n o t s h o w n . T h e A P s o l u t i o n t o t h e o r i g i n a l A T S P

c o n t a i n s t w o s u b t o u r s t h a t a r e i n t h e o v a l a t t h e r o o t o f

t h e t r e e . A s s u m e t h a t t h e c o s t o f t h e A P s o l u t i o n i s 2 ,

a s s h o w n i n t h e b l a c k b o x . T h e s u b t o u r 2 3 2 i s c h o -

s e n t o b e e l i m i n a t e d . T h e p r o b l e m i s t h e n d e c o m p o s e d

i n t o t w o s u b p r o b l e m s , s u b p r o b l e m A w i t h c o s t 4 , a n d

s u b p r o b l e m B w i t h c o s t 3 . T h e l o w e s t - c o s t s u b p r o b l e m ,

B , i s s e l e c t e d f o r d e c o m p o s i t i o n n e x t . B y b r e a k i n g t h e

s u b t o u r 2 3 6 2 , s u b p r o b l e m B p r o d u c e s s u b p r o b -

l e m s C a n d D D i s t h e n e x t l o w e s t - c o s t s u b p r o b l e m

a m o n g a l l u n d e c o m p o s e d o n e s , A C a n d D . T h e A P

s o l u t i o n t o D i s a c o m p l e t e t o u r . T h e a l g o r i t h m t e r m i -

n a t e s w i t h t h e c o m p l e t e t o u r i n n o d e D , a n d i t s c o s t 3 ,

s i n c e s u b p r o b l e m s A a n d C h a v e c o s t s g r e a t e r t h a n 3 ,

a n d h e n c e c a n n o t g e n e r a t e a b e t t e r s o l u t i o n t h a n t h e

o n e i n n o d e D ( e x p l a i n e d b e l o w ) .

B n B s u b t o u r e l i m i n a t i o n r s t s o l v e s t h e A P f o r a l l n

c i t i e s . I f t h e s o l u t i o n i s n o t a s i n g l e t o u r , t h e n t h e p r o b -

l e m i s d e c o m p o s e d i n t o s u b p r o b l e m s b y e x c l u d i n g d i f -

f e r e n t a r c s i n a s u b t o u r , w h i c h e l i m i n a t e s t h e s u b t o u r .

A s u b p r o b l e m h a s s o m e e x c l u d e d a r c s t h a t a r e f o r b i d -

d e n f r o m i t s s o l u t i o n , a n d s o m e i n c l u d e d a r c s t h a t m u s t

b e p r e s e n t i n i t s s o l u t i o n , a n d i s u s e d t o d e c o m p o s e t h e

p r o b l e m s p a c e i n t o m u t u a l l y e x c l u s i v e c o m p o n e n t s . A

s u b p r o b l e m i s t h e n s e l e c t e d f r o m a l l s u b p r o b l e m s t h a t

h a v e b e e n g e n e r a t e d b u t n o t d e c o m p o s e d , w h i c h a r e

c a l l e d a c t i v e s u b p r o b l e m s . I f t h e A P s o l u t i o n t o t h i s

s e l e c t e d s u b p r o b l e m i s a c o m p l e t e t o u r , a n d i t s c o s t i s

l e s s t h a n t h e c o s t o f t h e c u r r e n t b e s t t o u r f o u n d , t h e n

t h e c u r r e n t b e s t t o u r i s r e p l a c e d b y t h e A P s o l u t i o n t o

t h i s s u b p r o b l e m , a n d a n o t h e r s u b p r o b l e m i s s e l e c t e d .

1 4

5 6

2 3

1 4

6 3

2 52 3

6

1 4

5

6 2 3

4 1 5

E={(2,3)}

I={}

E={(3,2)}

I={(2,3)}

E={(3,2),(6,2)}

I={(2,3)}

E={(3,2),(3,6)}

I={(2,3),(6,2)}

2

3

4 3

52 3 6

4 1 5

A B

C D

F i g u r e 1 : B n B s u b t o u r e l i m i n a t i o n o n t h e A T S P .

T h e p r o c e s s o f s u b p r o b l e m s e l e c t i o n a n d d e c o m p o s i -

t i o n r e p e a t s u n t i l a l l a c t i v e s u b p r o b l e m s h a v e A P c o s t s

g r e a t e r t h a n o r e q u a l t o t h e c o s t o f t h e b e s t t o u r o b -

t a i n e d s o f a r , o r n o a c t i v e s u b p r o b l e m s r e m a i n . M o r e

s p e c i c a l l y , w i t h a n a c t i v e l i s t A , c o n t a i n i n g a l l a c t i v e

s u b p r o b l e m s , a v a r i a b l e B T , r e p r e s e n t i n g t h e b e s t t o u r

o b t a i n e d s o f a r , a n d i t s c o s t U , t h e p r o c e s s o f B n B

s u b t o u r e l i m i n a t i o n i s a s f o l l o w s .

1 ( I n i t i a l i z a t i o n ) S e t t h e a c t i v e l i s t A = f X

0

g , t h e

b e s t t o u r B T = ; , a n d i t s c o s t U = 1 , w h e r e X

0

i s t h e o r i g i n a l p r o b l e m t o b e s o l v e d .

2 ( S u b p r o b l e m s e l e c t i o n ) I f A = ; , s t o p . B T i s a n

o p t i m a l t o u r w i t h c o s t U

O t h e r w i s e , s e l e c t a n X 2 A , a n d r e m o v e i t f r o m

A

3 ( L o w e r - b o u n d i n g ) L e t A P b e t h e a s s i g n m e n t p r o b -

l e m o f X , a n d A p T b e i t s s o l u t i o n , w h o s e c o s t i s

C

I f C U , g o t o 2 . ( T h i s s u b p r o b l e m i s p r u n e d . )

I f C < U a n d A p T i s a s i n g l e t o u r , B T = A p T

U = C , a n d g o t o 2 . ( T h i s i s a b e t t e r t o u r . )

O t h e r w i s e , g o t o 4 .

4 ( D e c o m p o s i t i o n ) E x p a n d X , g e n e r a t i n g s u b p r o b -

l e m s X

1

X

2

; : : : ; X

t

, w i t h t h e c o s t s o f t h e i r A P s o -

l u t i o n s C

1

C

2

; : : : ; C

t

, r e s p e c t i v e l y .

A = A f X

i

C

i

< U ; i = 1 2 ; : : : ; t g . G o t o 2 .

T h e o r i g i n a l p r o b l e m h a s e m p t y e x c l u d e d a n d i n c l u d e d

s e t s . A n e w l y g e n e r a t e d s u b p r o b l e m r s t i n h e r i t s i t s e x -

c l u d e d a n d i n c l u d e d s e t s f r o m i t s p a r e n t , a n d a d d s o n e

n e w e x c l u d e d a r c t o i t s e x c l u d e d s e t , a n d n e w i n c l u d e d

a r c s , i f a n y , t o i t s i n c l u d e d s e t . S i n c e a s u b p r o b l e m

h a s m o r e e x c l u d e d a n d i n c l u d e d a r c s , a n d t h u s i s m o r e

c o n s t r a i n e d t h a n i t s p a r e n t , l e s s c h o i c e s o f a r c s a r e l e f t

f o r t h e A P t o t h e s u b p r o b l e m t h a n f o r t h e A P t o i t s

p a r e n t . T h e r e f o r e , t h e A P c o s t i s m o n o t o n i c a l l y n o n d e -

c r e a s i n g , i n t h e s e n s e t h a t t h e A P c o s t s o f s u b p r o b l e m s



a l o n g a p a t h s t a r t i n g a t t h e r o o t c a n o n l y i n c r e a s e .

T w o c o m m o n s t r a t e g i e s c a n b e u s e d t o s e l e c t a s u b p r o b -

l e m f r o m a l l a c t i v e o n e s . T h e b e s t - r s t s t r a t e g y c h o o s e s

a s u b p r o b l e m w i t h t h e m i n i m u m A P c o s t a m o n g a l l a c -

t i v e s u b p r o b l e m s . T h e d e p t h - r s t s t r a t e g y s e l e c t s a s u b -

p r o b l e m w h i c h w a s m o s t r e c e n t l y g e n e r a t e d , a n d h a s a

m i n i m u m A P c o s t a m o n g i t s s i b l i n g s . O n e i m p o r t a n t

f e a t u r e o f t h e b e s t - r s t s t r a t e g y i s t h a t a l l s u b p r o b l e m s

s e l e c t e d h a v e c o s t s l e s s t h a n o r e q u a l t o t h e c o s t o f t h e

o p t i m a l s o l u t i o n t o t h e e n t i r e p r o b l e m . T h e b e s t - r s t

s t r a t e g y g e n e r a t e s t h e f e w e s t s u b p r o b l e m s , a m o n g a l l

s t r a t e g i e s u s i n g t h e s a m e m o n o t o n i c c o s t f u n c t i o n 4 ] .

T o t h i s e n d , i t n e e d s t o s t o r e a l l a c t i v e s u b p r o b l e m s i n

A , w h o s e s i z e i s u s u a l l y e x p o n e n t i a l i n t h e m a x i m u m

s e a r c h d e p t h . B e c a u s e o f t h i s e x p o n e n t i a l s p a c e r e q u i r e -

m e n t , t h e b e s t - r s t s t r a t e g y i s o n l y a p p l i c a b l e t o s m a l l

p r o b l e m s i n p r a c t i c e . I n c o n t r a s t , t h e d e p t h - r s t s t r a t -

e g y o n l y m a i n t a i n s t h e s u b p r o b l e m s o n t h e p a t h f r o m

o r i g i n a l p r o b l e m t o t h e s u b p r o b l e m t h a t i s n o w b e i n g

c o n s i d e r e d , p l u s t h e i r i m m e d i a t e s i b l i n g s , a n d t h u s t h e

s p a c e u s e d i s o n l y l i n e a r i n t h e m a x i m u m s e a r c h d e p t h .

I t m a y , h o w e v e r , d e c o m p o s e s u b p r o b l e m s w h o s e c o s t s

a r e g r e a t e r t h a n t h e c o s t o f t h e s o l u t i o n t o t h e i n i t i a l

p r o b l e m .

W h i c h s u b t o u r t o e l i m i n a t e , a n d h o w t o e x p a n d a p r o b -

l e m c o n s t i t u t e t h e d e c o m p o s i t i o n r u l e . O n e s u c h r u l e i s

d u e t o C a r p a n e t o a n d T o t h 3 ] . A s u b t o u r i s c h o s e n

s u c h t h a t t h e n u m b e r o f n e w l y g e n e r a t e d s u b p r o b l e m s

i s a s s m a l l a s p o s s i b l e , i n o r d e r t o r e d u c e t h e t o t a l n u m -

b e r o f s u b p r o b l e m s g e n e r a t e d . S i n c e e x c l u d i n g o n e a r c

o f a s u b t o u r i s s u c i e n t f o r e l i m i n a t i n g t h e s u b t o u r , a

s u b t o u r w i t h t h e m i n i m u m n u m b e r o f f r e e a r c s , o n e s

n e i t h e r i n c l u d e d n o r e x c l u d e d i n t h e c o r r e s p o n d i n g A P

s o l u t i o n , i s s e l e c t e d f o r e l i m i n a t i o n . S u b p r o b l e m s a r e

g e n e r a t e d i n s u c h a w a y t h a t t h e y a r e m u t u a l l y e x c l u -

s i v e , s o t h a t t h e r e a r e n o d u p l i c a t e s u b p r o b l e m s . L e t I

b e t h e i n c l u d e d s e t a n d E t h e e x c l u d e d s e t o f t h e s u b -

p r o b l e m t o b e e x p a n d e d , a n d l e t X = f x

1

x

2

; : : : ; x

t

g

b e t h e a r c s t h a t a r e n e i t h e r i n c l u d e d n o r e x c l u d e d f r o m

t h e s u b p r o b l e m . T h e k - t h n e w l y g e n e r a t e d s u b p r o b l e m

t h e n h a s i n c l u d e d s e t I

k

a n d e x c l u d e d s e t E

k

s a t i s f y i n g

E

k

= E f x

k

g

I

k

= I f x

1

x

2

; : : : ; x

k 1

g

f o r k = 1 2 ; : : : ; t , w h e r e s t a n d s f o r t h e s e t u n i o n o p e r -

a t i o n . S i n c e x

k

i s a n e x c l u d e d a r c o f t h e k - t h s u b p r o b -

l e m , x

k

2 E

k

, a n d i t i s a n i n c l u d e d a r c o f t h e k + 1 - s t

s u b p r o b l e m , x

k

2 I

k + 1

, a t o u r o b t a i n e d f r o m t h e k - t h

s u b p r o b l e m d o e s n o t c o n t a i n a r c x

k

, b u t a t o u r o b -

t a i n e d f r o m t h e k + 1 - s t s u b p r o b l e m m u s t h a v e a r c x

k

T h u s a t o u r f r o m t h e k - t h s u b p r o b l e m c a n n o t b e g e n -

e r a t e d f r o m t h e k + 1 - s t o n e , a n d v i c e v e r s a . I n o t h e r

w o r d s , a l l g e n e r a t e d s u b p r o b l e m s a r e m u t u a l l y e x c l u -

s i v e . T h e r e f o r e , t h e s t a t e s p a c e o f t h e A T S P u n d e r

C a r p a n e t o a n d T o t h ' s d e c o m p o s i t i o n r u l e c a n b e r e p -

r e s e n t e d b y a s e a r c h t r e e , i n w h i c h t h e r o o t r e p r e s e n t s

t h e i n i t i a l p r o b l e m , n o n - r o o t n o d e s a r e s u b p r o b l e m s ,

i

j(i)

(j)

F i g u r e 2 : A n ( i j ) - p a t c h i n g o p e r a t i o n .

t r e e l i n k s b e t w e e n a n o d e a n d i t s c h i l d r e n r e p r e s e n t t h e

d e c o m p o s i t i o n o f t h e p a r e n t , a n d l e a f n o d e s a r e s u b -

p r o b l e m s w h o s e A P s o l u t i o n s a r e c o m p l e t e t o u r s .

2 . 2 T r u n c a t e d B n B f o r A p p r o x i m a t e

S o l u t i o n s

T h e B n B s u b t o u r e l i m i n a t i o n a l g o r i t h m c a n a l s o b e

a u g m e n t e d b y a n u p p e r - b o u n d f u n c t i o n . T h i s f u n c -

t i o n i s a p p l i e d t o a s u b p r o b l e m w h o s e A P s o l u t i o n i s

n o t a s i n g l e t o u r , a n d c o n s t r u c t s a s i n g l e t o u r b a s e d o n

t h e s u b p r o b l e m . T h e t o u r c o s t t h u s o b t a i n e d i s g r e a t e r

t h a n o r e q u a l t o t h e c o s t o f a n o p t i m a l t o u r f o r t h e s u b -

p r o b l e m , a n d t h u s g i v e s a n u p p e r b o u n d o n t h e o p t i m a l

t o u r c o s t t o t h i s s u b p r o b l e m .

K a r p a n d S t e e l e ' s p a t c h i n g a l g o r i t h m 1 0 , 1 1 ] c a n s e r v e

a s a n u p p e r - b o u n d f u n c t i o n . T h i s a l g o r i t h m a l s o u s e s

t h e A P a l g o r i t h m , p l u s a p o s t - p r o c e s s i n g o p e r a t i o n .

L e t i a n d j b e t w o c i t i e s t h a t a p p e a r i n t w o d i s j o i n t

s u b t o u r s , a s s h o w n i n F i g u r e 2 . T h e ( i j ) - p a t c h i n g o p -

e r a t i o n j o i n s t h e s u b t o u r s i n t o o n e b y i n s e r t i n g t h e a r c s

( i ( j ) ) a n d ( j ( i ) ) a n d d e l e t i n g t h e a r c s ( i ( i ) ) a n d

( j ( j ) ) , w h e r e ( i ) i s t h e s u c c e s s o r o f i i n t h e s u b t o u r .

T h i s o p e r a t i o n c h a n g e s t h e t o t a l c o s t b y

( ; i ; j ) = c

i ( j )

+ c

j ( i )

c

i ( i )

c

j ( j )

( ; i ; j ) i s c a l l e d t h e c o s t o f t h e ( i j ) - p a t c h i n g o p e r -

a t i o n . U s i n g t h i s o p e r a t i o n , t h e p a t c h i n g a l g o r i t h m

w o r k s a s f o l l o w s . F i r s t s o l v e t h e A P o f t h e n c i t i e s ,

r e s u l t i n g i n a p e r m u t a t i o n I f i s a s i n g l e t o u r , i t i s

a l s o a s o l u t i o n t o t h e A T S P . I f i s n o t a s i n g l e t o u r ,

s e l e c t t w o s u b t o u r s w i t h t h e l a r g e s t n u m b e r s o f a r c s ,

a n d j o i n t h e m b y a n ( i j ) - p a t c h i n g o p e r a t i o n t h a t h a s

m i n i m u m c o s t . R e c u r s i v e l y a p p l y t h e a b o v e p r o c e s s t o

t h e r e m a i n i n g s u b t o u r s u n t i l b e c o m e s a t o u r . T h i s a l -

g o r i t h m h a s t h e s a m e c o m p l e x i t y a s t h e A P a l g o r i t h m ,

w h i c h i s O ( n

3

)

B y a p p l y i n g a n u p p e r - b o u n d f u n c t i o n t o e v e r y g e n e r -

a t e d i n t e r n a l n o d e o f s e a r c h t r e e , b e s t - r s t s e a r c h a l -

w a y s h a s a f e a s i b l e s o l u t i o n a v a i l a b l e . T h e q u a l i t y o f t h e

b e s t s o l u t i o n o b t a i n e d s o f a r i n c r e a s e s w i t h t h e n u m -

b e r o f n o d e s g e n e r a t e d u p t o t h a t p o i n t . M o r e o v e r , t h e

u p p e r - b o u n d f u n c t i o n s i g n i c a n t l y i m p a c t s d e p t h - r s t

B n B . A l t h o u g h d e p t h - r s t s e a r c h m a y n d f e a s i b l e s o -

l u t i o n s d u r i n g t h e s e a r c h w i t h o u t a n u p p e r - b o u n d f u n c -

t i o n , t h e q u a l i t y o f t h e b e s t s o l u t i o n f o u n d s o f a r c a n

b e i m p r o v e d b y t h e u p p e r - b o u n d f u n c t i o n . I n a d d i t i o n ,

a n u p p e r b o u n d o n a n o d e c a n r e d u c e t h e o v e r a l l u p -



p e r b o u n d f o r s e a r c h i n g t h e s u b p r o b l e m s p a c e , w h i c h i n

t u r n r e d u c e s t h e n u m b e r o f s u b p r o b l e m s d e c o m p o s e d .

O n e c o m m o n f e a t u r e o f b e s t - r s t s e a r c h a n d d e p t h - r s t

s e a r c h a u g m e n t e d b y a n u p p e r - b o u n d f u n c t i o n i s t h a t

t h e r e e x i s t s a f e a s i b l e s o l u t i o n a t a n y p o i n t d u r i n g t h e

s e a r c h . T h e r e f o r e , w h e n a u g m e n t e d b y a n u p p e r - b o u n d

f u n c t i o n , B n B i s a n a n y t i m e a l g o r i t h m , m e a n i n g t h a t

i t c a n s t o p a t a n y t i m e a n d p r o v i d e a s o l u t i o n w h o s e

q u a l i t y i m p r o v e s w i t h t h e t o t a l a m o u n t o f c o m p u t a -

t i o n t i m e u s e d . T h e B n B s u b t o u r e l i m i n a t i o n a l g o r i t h m

a u g m e n t e d b y t h e p a t c h i n g a l g o r i t h m i s a n a n y t i m e a l -

g o r i t h m f o r t h e A T S P .

O u r a p p r o x i m a t i o n s c h e m e i s v e r y s i m p l e . I t e x e c u t e s

t h e B n B s u b t o u r e l i m i n a t i o n a l g o r i t h m , a u g m e n t e d b y

t h e p a t c h i n g a l g o r i t h m w h i c h i s a p p l i e d t o a g e n e r a t e d

s u b p r o b l e m w h o s e A P s o l u t i o n i s n o t a c o m p l e t e t o u r ,

a n d t e r m i n a t e s a f t e r a n o p t i m a l t o u r i s f o u n d , o r w h e n

t h e t o t a l a v a i l a b l e c o m p u t a t i o n t i m e r u n s o u t . T h e b e s t

t o u r t h u s o b t a i n e d i s t h e n u s e d a s a n a p p r o x i m a t e s o l u -

t i o n . S i n c e t h i s m e t h o d i s s i m p l y B n B s u b t o u r e l i m i n a -

t i o n , t r u n c a t e d a t d i e r e n t s t o p p i n g p o i n t s d e p e n d i n g

u p o n t h e t o t a l a v a i l a b l e c o m p u t a t i o n , w e c a l l t h i s a p -

p r o x i m a t i o n s c h e m e t r u n c a t e d B n B o r T B n B f o r s h o r t .

T h e p a t c h i n g a l g o r i t h m a n d t h e o r i g i n a l B n B s u b t o u r

e l i m i n a t i o n a l g o r i t h m a r e s p e c i a l c a s e s o f T B n B . I f t h e

a l g o r i t h m s t o p s w i t h o u t d e c o m p o s i n g t h e o r i g i n a l p r o b -

l e m o n l y a f t e r a p p l y i n g t h e p a t c h i n g a l g o r i t h m , i t d e -

g e n e r a t e s t o t h e p a t c h i n g a l g o r i t h m . I f t h e a l g o r i t h m

t e r m i n a t e s a f t e r a l l s u b p r o b l e m s w h o s e A P c o s t s a r e

l e s s t h a n t h e c u r r e n t b e s t t o u r c o s t a r e d e c o m p o s e d ,

i t b e c o m e s t h e o r i g i n a l B n B s u b t o u r e l i m i n a t i o n a l g o -

r i t h m . I f t h e a l g o r i t h m s t o p s i n t h e m i d d l e o f t h e s e

t w o e x t r e m e c a s e s , i t p r o v i d e s a t o u r w h o s e c o s t l i e s i n

b e t w e e n t h e t o u r c o s t f r o m t h e p a t c h i n g a l g o r i t h m o n

t h e o r i g i n a l p r o b l e m , a n d t h e o p t i m a l t o u r c o s t . T h e

t o u r c o s t d e c r e a s e s w i t h t h e t o t a l c o m p u t a t i o n t i m e ,

a n d c o n v e r g e s t o t h e o p t i m a l t o u r c o s t i f t h e t o t a l c o m -

p u t a t i o n t i m e i s u n c o n s t r a i n e d .

W e u s e t h e d e p t h - r s t s e a r c h s t r a t e g y , a n d c h o o s e a

p a r t i c u l a r s t o p p i n g p o i n t t o i m p l e m e n t T B n B . I t r s t

s o l v e s t h e A P o f t h e n c i t i e s . I f t h e s o l u t i o n i s a t o u r ,

i t t e r m i n a t e s w i t h t h i s t o u r a s t h e n a l s o l u t i o n , w h i c h

i s o p t i m a l . I f t h e s o l u t i o n i s a s e t o f s u b t o u r s , i t c o n -

s t r u c t s a c o m p l e t e t o u r b y t h e p a t c h i n g a l g o r i t h m , a n d

t a k e s i t s c o s t a s a n u p p e r b o u n d . I t t h e n g e n e r a t e s

a l l c h i l d r e n o f t h e c u r r e n t s u b p r o b l e m u s i n g C a r p a n e t o

a n d T o t h ' s d e c o m p o s i t i o n r u l e . I t i g n o r e s t h o s e c h i l d r e n

w h o s e A P c o s t s a r e g r e a t e r t h a n o r e q u a l t o , s i n c e s o -

l u t i o n s f r o m t h e m w i l l n o t b e b e t t e r t h a n t h e b e s t t o u r

o b t a i n e d s o f a r . T h e r e m a i n i n g n e w l y g e n e r a t e d c h i l d

p r o b l e m s ( n o t a l l a c t i v e s u b p r o b l e m s ) c o n s t i t u t e a s e t

R I f R i s e m p t y , i t s t o p s w i t h t h e b e s t t o u r o b t a i n e d s o

f a r a s a n a p p r o x i m a t e s o l u t i o n . I f t h e A P s o l u t i o n o f a

p r o b l e m i n R i s a c o m p l e t e t o u r , i t t e r m i n a t e s w i t h t h i s

t o u r . I f n o n e o f t h e A P s o l u t i o n s o f t h e s u b p r o b l e m s i n

R i s a c o m p l e t e t o u r , i t t a k e s t h e s u b p r o b l e m i n R w h i c h

h a s t h e m i n i m u m A P c o s t a s t h e n e x t c u r r e n t p r o b l e m ,

a n d r e p e a t s t h e a b o v e p r o c e s s . O v e r a l l , t h i s a l g o r i t h m

s e a r c h e s a l o n g o n e p a r t i c u l a r p a t h f r o m t h e r o o t o f t h e

s e a r c h t r e e t o a l e a f n o d e . T h i s s t o p p i n g c r i t e r i o n i s

a l s o c a l l e d n o n b a c k t r a c k B n B a n d w a s i m p l e m e n t e d o n

t w o - m a c h i n e s c h e d u l i n g p r o b l e m s 1 , 1 2 ] .

3 E x p e r i m e n t a l R e s u l t s

W e c o m p a r e d T B n B w i t h t h e l o c a l s e a r c h a l g o r i t h m

o f 9 ] , t h e b e s t e x i s t i n g a p p r o x i m a t i o n a l g o r i t h m f o r

t h e A T S P w e f o u n d i n l i t e r a t u r e . T h e l o c a l s e a r c h a l -

g o r i t h m r e p e a t e d l y i m p r o v e s a g i v e n i n i t i a l t o u r , w h i c h

m a y n o t b e o p t i m a l , b y l o c a l p e r t u r b a t i o n s . A s a s t a r t -

i n g p o i n t , w e r s t e x a m i n e d a l l p o l y n o m i a l - t i m e t o u r

c o n s t r u c t i o n a l g o r i t h m s w e f o u n d i n t h e l i t e r a t u r e , i n -

c l u d i n g n e a r e s t n e i g h b o r 5 , 8 ] , n e a r e s t i n s e r t i o n 5 , 8 ] ,

g r e e d y 5 , 8 ] , r e p e a t e d a s s i g n m e n t 5 ] a n d K a r p a n d

S t e e l e ' s p a t c h i n g a l g o r i t h m 1 0 , 1 1 ] . T h e b e s t a l g o -

r i t h m w a s t h e n u s e d t o b u i l d t h e i n i t i a l t o u r f o r t h e

l o c a l s e a r c h

1

, s o t h a t o u r e x p e r i m e n t a l c o m p a r i s o n w a s

s e t o n a f a i r b a s i s . F r o m o u r e x p e r i m e n t s , t h e b e s t

p o l y n o m i a l - t i m e i n i t i a l t o u r c o n s t r u c t i o n a l g o r i t h m w a s

t h e p a t c h i n g a l g o r i t h m .

W e u s e d t h e f o l l o w i n g d i e r e n t c o s t m a t r i x s t r u c t u r e s :

( a ) r a n d o m m a t r i c e s w i t h c

i j

f r o m f 0 1 2 ; : : : 2

3 1

1 g

( b ) m a t r i c e s w i t h t h e t r i a n g l e i n e q u a l i t y ; ( c ) r a n d o m

m a t r i c e s w i t h c

i j

f r o m f 0 1 ; : : : ; i j g , w h i c h a r e k n o w n

t o b e m o r e d i c u l t f o r m a n y m e t h o d s b a s e d o n A P

a l g o r i t h m s 1 9 ] ; ( d ) m a t r i c e s c o n v e r t e d f r o m n o - w a i t

w o r k s h o p s c h e d u l i n g f o r 4 m a c h i n e s ; a n d ( e ) m a t r i -

c e s f r o m s o m e a c t u a l p r o b l e m s e n c o u n t e r e d i n i n d u s t r y

1 8 ] . W e u s e a l a r g e c o s t r a n g e f o r t h e r s t s t r u c t u r e b e -

c a u s e t h e r e e x i s t s a n a v e r a g e - c a s e c o m p l e x i t y t r a n s i t i o n

f o r B n B s u b t o u r e l i m i n a t i o n 2 3 , 2 4 , 2 5 ] . I n p a r t i c u l a r ,

t h e A T S P i s r e l a t i v e l y e a s y t o s o l v e w h e n t h e r a n g e r o f

i n t e r c i t y c o s t s i s s m a l l , w i t h r e s p e c t t o t h e n u m b e r o f

c i t i e s n . S i n c e r n , t h e p r o b l e m i n s t a n c e s w e c h o s e

a r e a l s o r e l a t i v e l y d i c u l t f o r o u r n e w a p p r o x i m a t i o n

m e t h o d , s i n c e i t i s b a s e d o n B n B s u b t o u r e l i m i n a t i o n .

F o r p r o b l e m s w i t h c o s t m a t r i c e s s a t i s f y i n g t h e t r i a n g l e

i n e q u a l i t y , w e r s t g e n e r a t e d r a n d o m m a t r i c e s a s a b o v e ,

a n d t h e n u s e d a c l o s u r e a l g o r i t h m t o e n f o r c e t h e t r i a n -

g l e i n e q u a l i t y , c

i j

c

i k

+ c

k j

, f o r a l l i ; j ; k 2 ( c

i j

)

F o r t h e A T S P s w i t h c

i j

i n f 0 1 ; : : : ; i j g , w e c h o s e

c

i j

i n d e p e n d e n t l y a n d u n i f o r m l y f r o m f 0 1 ; : : : ; i j g

F o r t h e A T S P s c o r r e s p o n d i n g t o n o - w a i t s c h e d u l i n g , w e

r s t g e n e r a t e d r a n d o m s c h e d u l i n g p r o b l e m s , b y s e t t i n g

t h e r e q u i r e d p r o c e s s i n g t i m e o f a j o b o n a m a c h i n e t o

b e a n i n t e g e r i n d e p e n d e n t l y a n d u n i f o r m l y c h o s e n f r o m

f 0 1 2 ; : : : ; 2

3 1

1 g , a n d t h e n c o n v e r t e d t h e s c h e d u l i n g

p r o b l e m s i n t o A T S P s u s i n g t h e m e t h o d s u g g e s t e d i n

2 2 ] .

1

D e t a i l e d d e s c r i p t i o n s o f o u r e x p e r i m e n t s o n t h e

p o l y n o m i a l - t i m e t o u r c o n s t r u c t i o n a l g o r i t h m s a n d t h e l o c a l

s e a r c h a l g o r i t h m a r e i n 2 5 ] .



W e i m p l e m e n t e d t h e i n i t i a l t o u r c o n s t r u c t i o n a l g o -

r i t h m s , l o c a l s e a r c h a l g o r i t h m , a n d o u r n e w a p p r o x i m a -

t i o n m e t h o d i n C a n d r a n t h e m o n a S u n 4 / s p a r c - 4 6 0

w i t h 3 2 M b y t e s o f m e m o r y . T h e p r o b l e m s w e r e i n t h e

r a n g e o f 1 0 0 t o 1 0 0 0 c i t i e s , i n 1 0 0 c i t y i n c r e m e n t s . F o r

1 0 0 - c i t y t o 5 0 0 - c i t y i n s t a n c e s , a l l r e s u l t s a r e a v e r a g e s o f

1 0 0 0 t r i a l s e a c h , a n d f o r 6 0 0 - t o 1 0 0 0 - c i t i e s , t h e r e s u l t s

a r e a v e r a g e s o f 1 0 0 t r i a l s e a c h .

F i g u r e 3 s u m m a r i z e s o u r r e s u l t s . S i n c e t h e l o c a l s e a r c h

a l g o r i t h m a n d T B n B u s e t h e p a t c h i n g a l g o r i t h m a s

s t a r t i n g p o i n t , w e a l s o i n c l u d e t h e p e r f o r m a n c e o f t h e

p a t c h i n g a l g o r i t h m f o r c o m p a r i s o n . T h e h o r i z o n t a l a x e s

o f t h e g u r e s a r e t h e n u m b e r s o f c i t i e s . F o r t h e g u r e s

i n t h e l e f t c o l u m n , t h e v e r t i c a l a x e s a r e t h e r e l a t i v e e r -

r o r s o f t o u r c o s t s w i t h r e s p e c t t o t h e A P l o w e r b o u n d s ,

w h i c h i s l e s s t h a n t h e a c t u a l r e l a t i v e e r r o r s . F o r t h e

g u r e s i n t h e r i g h t c o l u m n , t h e v e r t i c a l a x e s a r e t h e

C P U t i m e s o f t h e a l g o r i t h m s . T h e r e l a t i v e t o u r e r r o r

o f T B n B i s l e s s t h a n 1 5 % f o r 1 0 0 - c i t y p r o b l e m s , a n d

d e c r e a s e s t o l e s s t h a n 0 1 5 % f o r 1 0 0 0 - c i t y i n s t a n c e s o n

a l l c o s t m a t r i c e s . O n r a n d o m m a t r i c e s a n d m a t r i c e s

w i t h c

i j

c h o s e n f r o m f 0 1 ; : : : ; i j g , t h e r e l a t i v e t o u r

e r r o r s o f T B n B a r e s i g n i c a n t l y s m a l l e r t h a n t h o s e o f

t h e l o c a l s e a r c h , a n d t h e e x e c u t i o n t i m e o f T B n B i s

c o m p e t i t i v e . O n m a t r i c e s w i t h t h e t r i a n g l e i n e q u a l i t y ,

T B n B s i g n i c a n t l y o u t p e r f o r m s t h e l o c a l s e a r c h , b o t h

i n t e r m s o f t o u r q u a l i t y a n d e x e c u t i o n t i m e . F o r t h e

A T S P f r o m n o - w a i t w o r k s h o p s c h e d u l i n g , t h e r e l a t i v e

t o u r e r r o r s o f b o t h T B n B a n d l o c a l s e a r c h a r e l e s s t h a n

0 0 3 % i n a l l c a s e s . M e a n w h i l e , T B n B t a k e s m u c h l e s s

C P U t i m e t h a n t h e l o c a l s e a r c h . T h e c o s t m a t r i c e s

f r o m n o - w a i t s c h e d u l i n g p r o b l e m s a r e a l s o s u b j e c t t o

t h e t r i a n g l e i n e q u a l i t y 9 ] . T h i s s u g g e s t s t h a t T B n B

i s a b e t t e r a p p r o x i m a t i o n a l g o r i t h m w h e n t h e t r i a n g l e

i n e q u a l i t y i s s a t i s e d .

W e a l s o e x a m i n e d T B n B o n t w o p a r t i c u l a r p r o b l e m s

f r o m i n d u s t r y 1 8 ] , a 2 3 - c i t y a n d a 4 3 - c i t y A T S P . T h e s e

t w o p r o b l e m s h a v e A P c o s t s 8 5 a n d 4 3 , b u t o p t i m a l

A T S P c o s t s 2 5 9 a n d 5 6 2 0 , r e s p e c t i v e l y . T h e B n B s u b -

t o u r e l i m i n a t i o n a l g o r i t h m i s n o t e c i e n t o n t h e s e p r o b -

l e m s . A l t h o u g h t h e f a s t a l g o r i t h m i n 1 9 ] n d s a n a p -

p r o x i m a t e t o u r o f c o s t 5 6 2 5 t o t h e 4 3 - c i t y A T S P a l -

m o s t i m m e d i a t e l y , i t c a n n o t o p t i m a l l y s o l v e t h i s p r o b -

l e m 1 8 ] . F o r t h e 4 3 - c i t y p r o b l e m , o u r i m p l e m e n t a t i o n

o f B n B s u b t o u r e l i m i n a t i o n w i t h C a r p a n e t o a n d T o t h ' s

d e c o m p o s i t i o n r u l e s a n d t h e d e p t h - r s t s t r a t e g y d o e s

n o t n d a n o p t i m a l t o u r a f t e r g e n e r a t i n g 3 0 m i l l i o n s u b -

p r o b l e m s , a n d a b e s t - r s t s t r a t e g y r u n s o u t o f m e m o r y

o n a 3 2 M b y t e m a c h i n e . T B n B n d s a n o p t i m a l t o u r o f

c o s t 2 5 9 o n t h e 2 3 - c i t y p r o b l e m , w h i l e t h e l o c a l s e a r c h

s t o p s a t a n o n - o p t i m a l t o u r o f c o s t 2 6 2 . F o r t h e 4 3 - c i t y

A T S P , T B n B n d s a t o u r o f c o s t 5 6 2 3 i n 1 s e c o n d o f

C P U t i m e b y e x p a n d i n g 5 4 s u b p r o b l e m s a n d g e n e r a t -

i n g 1 7 3 s u b p r o b l e m s . T h i s r e s u l t i s s l i g h t l y b e t t e r t h a n

t h e t o u r o f c o s t 5 6 2 7 f r o m t h e l o c a l s e a r c h a l g o r i t h m ,

a l s o w i t h 1 s e c o n d o f C P U t i m e .

B o t h a l g o r i t h m s w e r e a l s o t e s t e d o n c o n s t r u c t e d A T S P s

t h a t a r e d i c u l t f o r t h e l o c a l s e a r c h a l g o r i t h m 2 1 ] . F o r

a n A T S P w i t h n = 6 k c i t i e s , t h e r e i s a n o p t i m a l t o u r

w i t h c o s t 0 , a n d ( k 1 ) ! l o c a l o p t i m u m s t h a t h a v e a r b i -

t r a r i l y l a r g e c o s t s . N o t s u r p r i s i n g l y , t h e l o c a l s e a r c h a l -

g o r i t h m s t o p s a t a l o c a l m i n i m u m w h i c h i s n o t a g l o b a l

o p t i m a l , w h i l e T B n B n d s t h e o p t i m a l t o u r b y e x p a n d -

i n g o n l y t h e o r i g i n a l p r o b l e m a n d g e n e r a t i n g f o u r s u b -

p r o b l e m s .

4 D i s c u s s i o n

T h e g o o d p e r f o r m a n c e o f T B n B i s d u e p r i m a r i l y t o

t h e A P l o w e r - b o u n d f u n c t i o n . A s o b s e r v e d i n p r e -

v i o u s r e s e a r c h 2 ] a n d i n o u r e x p e r i m e n t s , t h e A P

l o w e r - b o u n d f u n c t i o n i s v e r y e e c t i v e . I n o u r e x p e r -

i m e n t s o n t h e r a n d o m A T S P w i t h t h e e l e m e n t s o f

c o s t m a t r i c e s i n d e p e n d e n t l y a n d u n i f o r m l y c h o s e n f r o m

f 0 1 2 ; : : : ; 2

3 1

1 g , t h e A P c o s t i s 9 9 . 0 9 0 % o f t h e A T S P

c o s t o n t h e a v e r a g e f o r 1 0 0 - c i t y i n s t a n c e s , 9 9 . 8 1 6 % f o r

5 0 0 - c i t y i n s t a n c e s , a n d 9 9 . 9 1 6 % f o r 1 0 0 0 - c i t y i n s t a n c e s .

T h e e c i e n c y o f T B n B i s a l s o d u e t o t h e A T S P s e a r c h

t r e e u n d e r B n B s u b t o u r e l i m i n a t i o n , w h i c h h a s i n t e r -

n a l n o d e s w h o s e A P s o l u t i o n s a r e n o t c o m p l e t e t o u r s .

T h u s B n B s e a r c h e s t h e s p a c e o f a l l c i t y p e r m u t a t i o n s ,

w h i l e t h e l o c a l s e a r c h e x p l o r e s o n l y t h e s p a c e o f c y c l i c

c i t y p e r m u t a t i o n s . I n a d d i t i o n , b y t h e p a t c h i n g a l g o -

r i t h m , T B n B c o n s i d e r s o n l y t h o s e s u b p r o b l e m s w h o s e

A P c o s t s a r e l e s s t h a n t h e i n i t i a l u p p e r b o u n d , w h i c h

d e c r e a s e s d u r i n g t h e s e a r c h . T h u s t h e s u b p r o b l e m s e x -

p l o r e d b y T B n B h a v e s m a l l A P c o s t s , a n d t h e n a l t o u r

c o s t c a n b e s i g n i c a n t l y s m a l l e r t h a n t h e i n i t i a l u p p e r

b o u n d .

T o r e i t e r a t e , t h e t o u r q u a l i t y c a n b e c o n t i n u o u s l y i m -

p r o v e d b y T B n B i f i t k e e p s b a c k t r a c k i n g w h e n m o r e

c o m p u t a t i o n t i m e i s a v a i l a b l e .

T h e a v e r a g e c o m p l e x i t y o f T B n B i s d e t e r m i n e d b y t h e

a v e r a g e d e p t h o f t h e l e a f n o d e s i n t h e s e a r c h t r e e . I n

o u r e x p e r i m e n t s , t h e a v e r a g e d e p t h o f l e a f n o d e s w a s

l e s s t h a n l n ( n ) o n a v e r a g e f o r a l l c o s t m a t r i c e s u s e d .

T h e A P o f t h e i n i t i a l p r o b l e m c a n b e s o l v e d i n O ( n

3

)

t i m e , a n d t h e A P o f a n i n t e r n a l t r e e n o d e c a n b e i n c r e -

m e n t a l l y s o l v e d i n O ( n

2

) t i m e 1 7 ] . S i n c e a t r e e n o d e

h a s a t m o s t n c h i l d r e n , t h e a v e r a g e c o m p l e x i t y o f T B n B

a p p e a r s t o b e a p p r o x i m a t e l y O ( n

3

l n ( n ) ) f r o m o u r e x -

p e r i m e n t s .

5 C o n c l u s i o n s

B r a n c h - a n d - b o u n d ( B n B ) i s n o t o n l y a g e n e r a l

p r o b l e m - s o l v i n g t e c h n i q u e f o r o p t i m a l l y s o l v i n g m o s t

N P - h a r d c o m b i n a t o r i a l p r o b l e m s , b u t c a n a l s o b e

a d a p t e d t o a n e c i e n t a p p r o x i m a t i o n a l g o r i t h m . W e

p r e s e n t e d s u c h a n a l g o r i t h m f o r t h e a s y m m e t r i c t r a v e l -

i n g s a l e s m a n p r o b l e m ( A T S P ) . O u r e x p e r i m e n t s i n d i -



matrix with

c(i,j) from {0,1,2,...,2 -1}

patch

error relative to AP (%)

# of cities

1.0

3.0

5.0

7.0

9.0

200 400 600 800 1000

TBnB

TBnB

patch

CPU time (s)

# of cities

20

60

100

140

200 400 600 800 1000

matrix with

c(i,j) from {0,1,...,i*j}

TBnB

patch


# of cities

0

1.0

2.0

3.0

4.0

5.0

200 400 600 800 1000

TBnB

patch

CPU time (sec.)

# of cities

0

50

100

150

200

250

200 400 600 800 1000

matrix with triangle inequality

TBnB

patch

full local search


# of cities

0

0.4

0.8

1.2

200 400 600 800 1000

matrix with triangle inequality

TBnB

patch

CPU time (sec.)

# of cities

0

40

80

120

200 400 600 800 1000

nowait scheduling

TBnB

patch


# of cities

0

0.01

0.02

0.03

0.04

200 400 600 800 1000

nowait scheduling

TBnB

patch

CPU time (sec.)

# of cities

0

200

400

600

800

200 400 600 800 1000

matrix with

c(i,j) from {0,1,...,i*j}

full local search

full local search

full local searchfull local search

full local search

full local search

full local search

31matrix with

c(i,j) from {0,1,2,...,2 -1}31

F i g u r e 3 : C o m p a r i s o n o f p a t c h i n g , l o c a l s e a r c h , a n d t r u n c a t e d B n B .



c a t e t h a t t h e n e w a l g o r i t h m i s s u p e r i o r t o a l o c a l s e a r c h

a l g o r i t h m , w h i c h i s t h e b e s t e x i s t i n g a p p r o x i m a t i o n a l -

g o r i t h m f o r t h e A T S P .

W e a r e e x t e n d i n g t h e i d e a o f d e v e l o p i n g n e w a p p r o x -

i m a t i o n a l g o r i t h m s u s i n g B n B , t o o t h e r N P - c o m p l e t e

c o m b i n a t o r i a l p r o b l e m s , i n c l u d i n g t h e s y m m e t r i c T S P

a n d s c h e d u l i n g p r o b l e m s .

A c k n o w l e d g e m e n t s

I g r a t e f u l l y a c k n o w l e d g e h e l p f u l d i s c u s s i o n s w i t h

R i c h a r d K a r p , D a v i d J o h n s o n , D o n a l d M i l l e r , J o s e p h

P e k n y a n d B r u n o R e p e t t o , c o m m e n t s f r o m D a v i d J o h n -

s o n a n d D o n a l d M i l l e r o n a n e a r l y d r a f t . S p e c i a l t h a n k s

a r e d u e t o m y a d v i s o r , R i c h K o r f , f o r s u p p o r t , d i s c u s -

s i o n s , c o m m e n t s a n d m a n y d r a f t r e a d i n g s .

R e f e r e n c e s

1 ] A s h o u r , S . , \ A n e x p e r i m e n t a l i n v e s t i g a t i o n a n d

c o m p a r a t i v e e v a l u a t i o n o f o w - s h o p s c h e d u l i n g

t e c h n i q u e s , " O p e r a t i o n s R e s e a r c h , 1 8 ( 1 9 7 0 ) 5 4 1 - 9 .

2 ] B a l a s , E . , a n d P . T o t h , \ B r a n c h a n d b o u n d

m e t h o d s , " T h e T r a v e l i n g S a l e s m a n P r o b l e m s , E . L .

L a w l e r , e t a l . ( e d s . ) J o h n W i l e y a n d S o n s , 1 9 8 5 ,

p p . 3 6 1 - 4 0 1 .

3 ] C a r p a n e t o , G . , a n d P . T o t h , \ S o m e n e w b r a n c h -

i n g a n d b o u n d i n g c r i t e r i a f o r t h e a s y m m e t r i c t r a v -

e l i n g s a l e s m a n p r o b l e m , " M a n a g e m e n t S c i e n c e , 2 6

( 1 9 8 0 ) 7 3 6 - 4 3 .

4 ] D e c h t e r , R . , a n d J . P e a r l , \ G e n e r a l i z e d b e s t - r s t

s e a r c h s t r a t e g i e s a n d t h e o p t i m a l i t y o f A

" J . o f

A C M 3 2 ( 1 9 8 5 ) 5 0 5 - 3 6 .

5 ] F r i e z e , A . , G . G a l b i a t i , a n d F . M a o l i , \ O n t h e

w o r s t - c a s e p e r f o r m a n c e o f s o m e a l g o r i t h m s f o r t h e

a s y m m e t r i c t r a v e l i n g s a l e s m a n p r o b l e m , " N e t w o r k ,

1 2 ( 1 9 8 2 ) 2 3 - 3 9 .

6 ] G a r e y , M . R . , a n d D . S . J o h n s o n , C o m p u t e r s a n d

I n t r a c t a b i l i t y : A G u i d e t o t h e T h e o r y o f N P -

C o m p l e t e n e s s , F r e e m a n , 1 9 7 9

7 ] I b a r a k i , T . , S . M u r o , T . M u r a k a m i , a n d T .

H a s e g a w a \ U s i n g b r a n c h - a n d - b o u n d a l g o r i t h m s t o

o b t a i n s u b o p t i m a l s o l u t i o n s , " Z e i t c h r i f t f u r O p e r a -

t i o n s R e s e a r c h 2 7 ( 1 9 8 3 ) 1 7 7 - 2 0 2 .

8 ] J o h n s o n , D . S . , \ L o c a l o p t i m i z a t i o n a n d t h e t r a v -

e l i n g s a l e s m a n p r o b l e m , " P r o c 1 7 t h I n t e r n . C o l l o -

q u i u m o n A u t o m a t a , L a n g u a g e s a n d P r o g r a m m i n g ,

E n g l a n d , J u l y 1 6 - 2 0 , 1 9 9 0 .

9 ] K a n e l l a k i s , P . C . , a n d C . H . P a p a d i m i t r i o u , \ L o c a l

s e a r c h f o r t h e a s y m m e t r i c t r a v e l i n g s a l e s m a n p r o b -

l e m , " O p e r a t i o n s R e s e a r c h , 2 8 ( 1 9 8 0 ) 1 0 8 6 - 9 9 .

1 0 ] K a r p , R . M . , \ A p a t c h i n g a l g o r i t h m f o r t h e n o n -

s y m m e t r i c T r a v e l i n g - S a l e s m a n P r o b l e m , " S I A M J .

C o m p u t . 8 ( 1 9 7 9 ) 5 6 1 - 7 3 .

1 1 ] K a r p , R . M . , a n d J . M . S t e e l e , \ P r o b a b i l i s t i c a n a l -

y s i s o f h e u r i s t i c , " i n T h e T r a v e l i n g S a l e s m a n P r o b -

l e m , E . L . L a w l e r , e t a l . ( e d s . ) J o h n W i l e y & S o n s ,

1 9 8 5 , p p . 1 8 1 - 2 0 5 .

1 2 ] K o h l e r , W . H . , a n d K . S t e i g l i t z , \ E n u m e r a t i v e a n d

i t e r a t i v e c o m p u t a t i o n a l a p p r o a c h e s , " i n C o m p u t e r

a n d J o b - S h o p S c h e d u l i n g T h e o r y , E . G . C o m a n , J r .

( e d . ) J o h n W i l e y & S o n s , 1 9 7 6 .

1 3 ] K u m a r , V . , \ S e a r c h , b r a n c h - a n d - b o u n d , " i n E n -

c y c l o p e d i a o f A r t i c i a l I n t e l l i g e n c e , 2 n d E d , S . C .

S h a p i r o ( e d . ) W i l e y - I n t e r s c i e n c e , 1 9 9 2 , p p . 1 4 6 8 - 7 2 .

1 4 ] L a w l e r , E . L . , J . K . L e n s t r a , A . H . G R i n n o o y K a n ,

a n d D . B . S h m o y s , T h e T r a v e l i n g S a l e s m a n P r o b -

l e m , ( e d s . ) J o h n W i l e y & S o n s , 1 9 8 5 .

1 5 ] L a w l e r , E . L . , a n d D . E . W o o d , \ B r a n c h - a n d - b o u n d

m e t h o d s : A s u r v e y , " O p e r a t i o n s R e s e a r c h 1 4

( 1 9 6 6 ) 6 9 9 - 7 1 9 .

1 6 ] S . L i n , a n d B . W . K e r n i g h a n , \ A n e e c t i v e h e u r i s -

t i c a l g o r i t h m f o r t h e t r a v e l i n g s a l e s m a n p r o b l e m , "

O p e r a t i o n s R e s e a r c h , 2 1 ( 1 9 7 3 ) p p . 4 9 8 - 5 1 6 .

1 7 ] M a r t e l l o , S . , a n d P . T o t h , \ L i n e a r a s s i g n m e n t

p r o b l e m s , " A n n a l s o f D i s c r e t e M a t h e m a t i c s , 3 1

( 1 9 8 7 ) 2 5 9 - 8 2 .

1 8 ] M i l l e r , D . L . , p e r s o n a l c o m m u n i c a t i o n s , 1 9 9 2 .

1 9 ] M i l l e r , D . L . , a n d J . F . P e k n y , \ E x a c t s o l u t i o n

o f l a r g e a s y m m e t r i c t r a v e l i n g s a l e s m a n p r o b l e m s , "

S c i e n c e , 2 5 1 ( 1 9 9 1 ) 7 5 4 - 6 1 .

2 0 ] P a p a d i m i t r i o u , C . H . , a n d P . C . K a n e l l a k i s , \ F l o w -

s h o p s c h e d u l i n g w i t h l i m i t e d t e m p o r a r y s t o r a g e , " J

A C M , 2 7 ( 1 9 8 0 ) 5 3 3 - 4 9 .

2 1 ] P a p a d i m i t r i o u , C . H . , a n d K . S t e i g l i t z , \ S o m e e x -

a m p l e s o f d i c u l t t r a v e l i n g s a l e s m a n p r o b l e m s , "

O p e r a t i o n s R e s e a r c h , 2 6 ( 1 9 7 8 ) 4 3 4 - 4 4 3 .

2 2 ] R e d d i , S . S . , a n d C . V . R a m a m o o r t h y , \ O n t h e o w -

s h o p s e q u e n c i n g p r o b l e m w i t h n o w a i t i n p r o c e s s , "

O p e r a t i o n a l R e s e a r c h Q u a r t e r l y , 2 3 ( 1 9 7 2 ) 3 2 3 - 3 1 .

2 3 ] Z h a n g , W . , a n d R . K o r f , \ A n a v e r a g e - c a s e a n a l y s i s

o f b r a n c h - a n d - b o u n d w i t h a p p l i c a t i o n s : S u m m a r y

o f r e s u l t s , " P r o c . 1 0 - t h N a t i o n a l C o n f . o n A r t i c i a l

I n t e l l i g e n c e , A A A I - 9 2 , S a n J o s e , C A , J u l y 1 2 - 1 7 ,

1 9 9 2 , p p . 5 4 5 - 5 0 .

2 4 ] Z h a n g , W . , a n d R . K o r f , \ P e r f o r m a n c e o f l i n e a r -

s p a c e b r a n c h - a n d - b o u n d a l g o r i t h m s , " s u b m i t t e d t o

A r t i c i a l I n t e l l i g e n c e , 1 9 9 2 .

2 5 ] Z h a n g , W . , a n d R . K o r f , \ O n t h e a s y m m e t r i c t r a v -

e l i n g s a l e s m a n p r o b l e m u n d e r s u b t o u r e l i m i n a t i o n

a n d l o c a l s e a r c h , " M a n u s c r i p t i n p r e p a r a t i o n .

Date post:	07-Apr-2018
Category:	Documents
Upload:	alexey-solodovnikov
View:	217 times
Download:	0 times

atsp-aaai93-symp

Documents