Sequential Patterns Original Agrawal

8/6/2019 Sequential Patterns Original Agrawal

1/24

R e s e a r c h R e p o r t

M i n i n g S e q u e n t i a l P a t t e r n s

R a k e s h A g r a w a l

R a m a k r i s h n a n S r i k a n t

I B M R e s e a r c h D i v i s i o n

A l m a d e n R e s e a r c h C e n t e r

6 5 0 H a r r y R o a d

S a n J o s e , C A 9 5 1 2 0 - 6 0 9 9

L I M I T E D D I S T R I B U T I O N N O T I C E

T h i s r e p o r t h a s b e e n s u b m i t t e d f o r p u b l i c a t i o n o u t s i d e o f I B M a n d w i l l p r o b a b l y b e c o p y r i g h t e d i f a c c e p t e d f o r p u b l i c a t i o n . I t h a s b e e n

i s s u e d a s a R e s e a r c h R e p o r t f o r e a r l y d i s s e m i n a t i o n o f i t s c o n t e n t s . I n v i e w o f t h e t r a n s f e r o f c o p y r i g h t t o t h e o u t s i d e p u b l i s h e r , i t s

d i s t r i b u t i o n o u t s i d e o f I B M p r i o r t o p u b l i c a t i o n s h o u l d b e l i m i t e d t o p e e r c o m m u n i c a t i o n s a n d s p e c i c r e q u e s t s . A f t e r o u t s i d e p u b l i c a t i o n ,

r e q u e s t s s h o u l d b e l l e d o n l y b y r e p r i n t s o r l e g a l l y o b t a i n e d c o p i e s o f t h e a r t i c l e e . g . , p a y m e n t o f r o y a l t i e s .

I B M

R e s e a r c h D i v i s i o n

Y o r k t o w n H e i g h t s , N e w Y o r k S a n J o s e , C a l i f o r n i a Z u r i c h , S w i t z e r l a n d


2/24

M i n i n g S e q u e n t i a l P a t t e r n s

R a k e s h A g r a w a l

R a m a k r i s h n a n S r i k a n t

I B M R e s e a r c h D i v i s i o n

A l m a d e n R e s e a r c h C e n t e r

6 5 0 H a r r y R o a d

S a n J o s e , C A 9 5 1 2 0 - 6 0 9 9

A B S T R A C T : W e a r e g i v e n a l a r g e d a t a b a s e o f c u s t o m e r t r a n s a c t i o n s , w h e r e e a c h t r a n s a c t i o n c o n s i s t s

o f c u s t o m e r - i d , t r a n s a c t i o n t i m e , a n d t h e i t e m s b o u g h t i n t h e t r a n s a c t i o n . W e i n t r o d u c e t h e p r o b l e m

o f m i n i n g s e q u e n t i a l p a t t e r n s o v e r s u c h d a t a b a s e s . W e p r e s e n t t h r e e a l g o r i t h m s t o s o l v e t h i s p r o b l e m ,

a n d e m p i r i c a l l y e v a l u a t e t h e i r p e r f o r m a n c e u s i n g s y n t h e t i c d a t a . T w o o f t h e p r o p o s e d a l g o r i t h m s ,

A p r i o r i S o m e a n d A p r i o r i A l l , h a v e c o m p a r a b l e p e r f o r m a n c e , a l b e i t A p r i o r i S o m e p e r f o r m s a l i t t l e b e t t e r

w h e n t h e m i n i m u m n u m b e r o f c u s t o m e r s t h a t m u s t s u p p o r t a s e q u e n t i a l p a t t e r n i s l o w . S c a l e - u p

e x p e r i m e n t s s h o w t h a t b o t h A p r i o r i S o m e a n d A p r i o r i A l l s c a l e l i n e a r l y w i t h t h e n u m b e r o f c u s t o m e r

t r a n s a c t i o n s . T h e y a l s o h a v e e x c e l l e n t s c a l e - u p p r o p e r t i e s w i t h r e s p e c t t o t h e n u m b e r o f t r a n s a c t i o n s

p e r c u s t o m e r a n d t h e n u m b e r o f i t e m s i n a t r a n s a c t i o n .


3/24

1 . I n t r o d u c t i o n

D a t a b a s e m i n i n g i s m o t i v a t e d b y t h e d e c i s i o n s u p p o r t p r o b l e m f a c e d b y m o s t l a r g e r e t a i l o r g a -

n i z a t i o n s S

+

9 3 . P r o g r e s s i n b a r - c o d e t e c h n o l o g y h a s m a d e i t p o s s i b l e f o r r e t a i l o r g a n i z a t i o n s t o

c o l l e c t a n d s t o r e m a s s i v e a m o u n t s o f s a l e s d a t a , r e f e r r e d t o a s t h e b a s k e t d a t a . A r e c o r d i n s u c h d a t a

t y p i c a l l y c o n s i s t s o f t h e t r a n s a c t i o n d a t e a n d t h e i t e m s b o u g h t i n t h e t r a n s a c t i o n . V e r y o f t e n , d a t a

r e c o r d s a l s o c o n t a i n c u s t o m e r - i d , p a r t i c u l a r l y w h e n t h e p u r c h a s e h a s b e e n m a d e u s i n g a c r e d i t c a r d o r

a f r e q u e n t - b u y e r c a r d . C a t a l o g c o m p a n i e s a l s o c o l l e c t s u c h d a t a u s i n g t h e o r d e r s t h e y r e c e i v e .

W e i n t r o d u c e t h e p r o b l e m o f m i n i n g s e q u e n t i a l p a t t e r n s o v e r t h i s d a t a . A n e x a m p l e o f s u c h a

p a t t e r n i s t h a t c u s t o m e r s t y p i c a l l y r e n t S t a r W a r s " , t h e n E m p i r e S t r i k e s B a c k " , a n d t h e n R e t u r n

o f t h e J e d i " . N o t e t h a t t h e s e r e n t a l s n e e d n o t b e c o n s e c u t i v e . C u s t o m e r s w h o r e n t s o m e o t h e r v i d e o s

i n b e t w e e n a l s o s u p p o r t t h i s s e q u e n t i a l p a t t e r n . E l e m e n t s o f a s e q u e n t i a l p a t t e r n n e e d n o t b e s i m p l e

i t e m s . F i t t e d S h e e t a n d a t s h e e t a n d p i l l o w c a s e s " , f o l l o w e d b y c o m f o r t e r " , f o l l o w e d b y d r a p e s

a n d r u e s " i s a n e x a m p l e o f a s e q u e n t i a l p a t t e r n i n w h i c h t h e e l e m e n t s a r e s e t s o f i t e m s . A l t h o u g h

o u r w o r k h a s b e e n d r i v e n b y e x a m p l e s f r o m t h e r e t a i l i n g i n d u s t r y , t h e r e s u l t s a p p l y t o m a n y s c i e n t i c

a n d b u s i n e s s d o m a i n s .

1 . 1 . P r o b l e m S t a t e m e n t

W e a r e g i v e n a d a t a b a s e D o f c u s t o m e r t r a n s a c t i o n s . E a c h t r a n s a c t i o n c o n s i s t s o f t h e f o l l o w i n g

e l d s : c u s t o m e r - i d , t r a n s a c t i o n - t i m e , a n d t h e i t e m s p u r c h a s e d i n t h e t r a n s a c t i o n . N o c u s t o m e r h a s

m o r e t h a n o n e t r a n s a c t i o n w i t h t h e s a m e t r a n s a c t i o n - t i m e . W e d o n o t c o n s i d e r q u a n t i t i e s o f i t e m s

b o u g h t i n a t r a n s a c t i o n : e a c h i t e m i s a b i n a r y v a r i a b l e r e p r e s e n t i n g w h e t h e r a n i t e m w a s b o u g h t o r

n o t .

A n i t e m s e t i s a n o n - e m p t y s e t o f i t e m s . A s e q u e n c e i s a n o r d e r e d l i s t o f i t e m s e t s . W i t h o u t l o s s o f

g e n e r a l i t y , w e a s s u m e t h a t t h e s e t o f i t e m s i s m a p p e d t o a s e t o f c o n t i g u o u s i n t e g e r s . W e d e n o t e a n

i t e m s e t i b y i

1

i

2

: : : i

m

, w h e r e i

j

i s a n i t e m . W e d e n o t e a s e q u e n c e s b y h s

1

s

2

: : : s

n

i , w h e r e s

j

i s a n

i t e m s e t .

A s e q u e n c e h a

1

a

2

: : : a

n

i i s c o n t a i n e d i n a n o t h e r s e q u e n c e h b

1

b

2

: : : b

m

i i f t h e r e e x i s t i n t e g e r s i

1

i

2

: : : i

n

s u c h t h a t a

1

b

i

1

, a

2

b

i

2

, . . . , a

n

b

i

n

. W e u s e t h e s y m b o l " t o d e n o t e t h e i s c o n t a i n e d

i n " r e l a t i o n s h i p . F o r e x a m p l e , t h e s e q u e n c e h 3 4 5 8 i h 7 3 8 9 4 5 6 8 i , s i n c e 3

3 8 , 4 5 4 5 6 a n d 8 8 . H o w e v e r , t h e s e q u e n c e h 3 5 i i s n o t c o n t a i n e d i n h 3 5 i a n d

v i c e v e r s a . T h e f o r m e r r e p r e s e n t s i t e m s 3 a n d 5 b e i n g b o u g h t o n e a f t e r t h e o t h e r , w h i l e t h e l a t t e r

r e p r e s e n t s i t e m s 3 a n d 5 b e i n g b o u g h t t o g e t h e r . I n a s e t o f s e q u e n c e s , a s e q u e n c e s i s m a x i m a l i f s i s

n o t c o n t a i n e d i n a n y o t h e r s e q u e n c e .

A l l t h e t r a n s a c t i o n s o f a c u s t o m e r c a n t o g e t h e r b e v i e w e d a s a s e q u e n c e , w h e r e e a c h t r a n s a c -

t i o n c o r r e s p o n d s t o a s e t o f i t e m s , a n d t h e l i s t o f t r a n s a c t i o n s , o r d e r e d b y i n c r e a s i n g t r a n s a c t i o n -

t i m e , c o r r e s p o n d s t o a s e q u e n c e . W e c a l l s u c h a s e q u e n c e a c u s t o m e r - s e q u e n c e . F o r m a l l y , l e t t h e

t r a n s a c t i o n s o f a c u s t o m e r , o r d e r e d b y i n c r e a s i n g t r a n s a c t i o n - t i m e , b e T

1

, T

2

, . . . , T

n

. L e t t h e s e t

o f i t e m s i n T

i

b e d e n o t e d b y i t e m s e t T

i

. T h e c u s t o m e r - s e q u e n c e f o r t h i s c u s t o m e r i s t h e s e q u e n c e

h i t e m s e t T

1

i t e m s e t T

2

. . . i t e m s e t T

n

i

A c u s t o m e r s u p p o r t s a s e q u e n c e s i f s i s c o n t a i n e d i n t h e c u s t o m e r - s e q u e n c e f o r t h i s c u s t o m e r . T h e

s u p p o r t f o r a s e q u e n c e i s d e n e d a s t h e f r a c t i o n o f t o t a l c u s t o m e r s w h o s u p p o r t t h i s s e q u e n c e .

1


4/24

T r a n s a c t i o n T i m e C u s t o m e r I d I t e m s B o u g h t

J u n e 1 0 ' 9 3 2 1 0 , 2 0

J u n e 1 2 ' 9 3 5 9 0

J u n e 1 5 ' 9 3 2 3 0

J u n e 2 0 ' 9 3 2 4 0 , 6 0 , 7 0

J u n e 2 5 ' 9 3 4 3 0

J u n e 2 5 ' 9 3 3 3 0 , 5 0 , 7 0

J u n e 2 5 ' 9 3 1 3 0

J u n e 3 0 ' 9 3 1 9 0

J u n e 3 0 ' 9 3 4 4 0 , 7 0

J u l y 2 5 ' 9 3 4 9 0

F i g u r e 1 : O r i g i n a l D a t a b a s e

C u s t o m e r I d T r a n s a c t i o n T i m e I t e m s B o u g h t

1 J u n e 2 5 ' 9 3 3 0

1 J u n e 3 0 ' 9 3 9 0

2 J u n e 1 0 ' 9 3 1 0 , 2 0

2 J u n e 1 5 ' 9 3 3 0

2 J u n e 2 0 ' 9 3 4 0 , 6 0 , 7 0

3 J u n e 2 5 ' 9 3 3 0 , 5 0 , 7 0

4 J u n e 2 5 ' 9 3 3 0

4 J u n e 3 0 ' 9 3 4 0 , 7 0

4 J u l y 2 5 ' 9 3 9 0

5 J u n e 1 2 ' 9 3 9 0

F i g u r e 2 : D a t a b a s e S o r t e d b y C u s t o m e r I d a n d T r a n s a c t i o n T i m e

G i v e n a d a t a b a s e D o f c u s t o m e r t r a n s a c t i o n s , t h e p r o b l e m o f m i n i n g s e q u e n t i a l p a t t e r n s i s t o n d

t h e m a x i m a l s e q u e n c e s a m o n g a l l s e q u e n c e s t h a t h a v e a c e r t a i n u s e r - s p e c i e d m i n i m u m s u p p o r t . E a c h

s u c h m a x i m a l s e q u e n c e r e p r e s e n t s a s e q u e n t i a l p a t t e r n

W e c a l l a s e q u e n c e s a t i s f y i n g t h e m i n i m u m s u p p o r t c o n s t r a i n t a l a r g e s e q u e n c e .

E x a m p l e . C o n s i d e r t h e d a t a b a s e s h o w n i n F i g . 1 . F i g . 2 s h o w s t h i s d a t a b a s e s o r t e d o n c u s t o m e r - i d

a n d t r a n s a c t i o n - t i m e . F i g . 3 s h o w s t h i s d a t a b a s e e x p r e s s e d a s a s e t o f c u s t o m e r s e q u e n c e s .

W i t h m i n i m u m s u p p o r t s e t t o 2 5 , i . e . , a m i n i m u m s u p p o r t o f 2 c u s t o m e r s , t w o s e q u e n c e s :

h 3 0 9 0 i a n d h 3 0 4 0 7 0 i a r e m a x i m a l a m o n g t h o s e s a t i s f y i n g t h e s u p p o r t c o n s t r a i n t , a n d a r e

t h e d e s i r e d s e q u e n t i a l p a t t e r n s . T h e s e q u e n t i a l p a t t e r n h 3 0 9 0 i i s s u p p o r t e d b y c u s t o m e r s 1 a n d 4 .

C u s t o m e r 4 b u y s i t e m s 4 0 7 0 i n b e t w e e n i t e m s 3 0 a n d 9 0 , b u t s u p p o r t s t h e p a t t e r n h 3 0 9 0 i s i n c e

w e a r e l o o k i n g f o r p a t t e r n s t h a t a r e n o t n e c e s s a r i l y c o n t i g u o u s . T h e s e q u e n t i a l p a t t e r n h 3 0 4 0 7 0 i i s

s u p p o r t e d b y c u s t o m e r s 2 a n d 4 . C u s t o m e r 2 b u y s 6 0 a l o n g w i t h 4 0 a n d 7 0 , b u t s u p p o r t s t h i s p a t t e r n

s i n c e 4 0 7 0 i s a s u b s e t o f 4 0 6 0 7 0 .

A n e x a m p l e o f a s e q u e n c e t h a t d o e s n o t h a v e m i n i m u m s u p p o r t i s t h e s e q u e n c e h 1 0 2 0 3 0 i ,

w h i c h i s o n l y s u p p o r t e d b y c u s t o m e r 2 . T h e s e q u e n c e s h 3 0 i , h 4 0 i , h 7 0 i , h 9 0 i , h 3 0 4 0 i ,

2


5/24

C u s t o m e r I d C u s t o m e r S e q u e n c e

1 h 3 0 9 0 i

2 h 1 0 2 0 3 0 4 0 6 0 7 0 i

3 h 3 0 5 0 7 0 i

4 h 3 0 4 0 7 0 9 0 i

5 h 9 0 i

F i g u r e 3 : C u s t o m e r - S e q u e n c e V e r s i o n o f t h e D a t a b a s e

S e q u e n t i a l P a t t e r n s

w i t h s u p p o r t 2 5

h 3 0 9 0 i

h 3 0 4 0 7 0 i

F i g u r e 4 : T h e a n s w e r s e t

h 3 0 7 0 i a n d h 4 0 7 0 i , t h o u g h h a v i n g m i n i m u m s u p p o r t , a r e n o t i n t h e a n s w e r b e c a u s e t h e y

a r e n o t m a x i m a l . F o r s o m e a p p l i c a t i o n s , t h e u s e r m a y w a n t t o l o o k a t a l l s e q u e n c e s , o r l o o k a t

s u b s e q u e n c e s w h o s e s u p p o r t i s m u c h h i g h e r t h a n t h e s u p p o r t o f t h e c o r r e s p o n d i n g m a x i m a l s e q u e n c e .

I t i s s t r a i g h t f o r w a r d t o m o d i f y t h e A p r i o r i A l l a l g o r i t h m t o g i v e t h e s u b s e q u e n c e s t o o .

1 . 2 . R e l a t e d W o r k

I n A I S 9 3 , t h e p r o b l e m o f d i s c o v e r i n g w h a t i t e m s a r e b o u g h t t o g e t h e r i n a t r a n s a c t i o n " o v e r b a s k e t

d a t a w a s i n t r o d u c e d . A l t e r n a t i v e a l g o r i t h m s f o r n d i n g s u c h p a t t e r n s h a v e b e e n p r e s e n t e d i n A S 9 4

H S 9 3 M T V 9 4 . W h i l e r e l a t e d , t h e p r o b l e m o f n d i n g w h a t i t e m s a r e b o u g h t t o g e t h e r i s c o n c e r n e d

w i t h n d i n g i n t r a - t r a n s a c t i o n p a t t e r n s , w h e r e a s t h e p r o b l e m o f n d i n g s e q u e n t i a l p a t t e r n s i s c o n c e r n e d

w i t h i n t e r - t r a n s a c t i o n p a t t e r n s . A p a t t e r n i n t h e r s t p r o b l e m c o n s i s t s o f a n u n o r d e r e d s e t o f i t e m s

w h e r e a s a p a t t e r n i n t h e l a t t e r c a s e i s a n o r d e r e d l i s t o f s e t s o f i t e m s .

D i s c o v e r i n g p a t t e r n s i n s e q u e n c e s o f e v e n t s h a s b e e n a n a r e a o f a c t i v e r e s e a r c h i n A I s e e , f o r

e x a m p l e , D M 8 5 . H o w e v e r , t h e f o c u s i n t h i s b o d y o f w o r k i s o n d i s c o v e r i n g t h e r u l e u n d e r l y i n g t h e

g e n e r a t i o n o f a g i v e n s e q u e n c e i n o r d e r t o b e a b l e t o p r e d i c t a p l a u s i b l e s e q u e n c e c o n t i n u a t i o n e . g .

t h e r u l e t o p r e d i c t w h a t n u m b e r w i l l c o m e n e x t , g i v e n a s e q u e n c e o f n u m b e r s . W e o n t h e h a n d a r e

i n t e r e s t e d i n n d i n g a l l c o m m o n p a t t e r n s e m b e d d e d i n a d a t a b a s e o f s e q u e n c e s o f s e t s o f e v e n t s i t e m s .

O u r p r o b l e m i s r e l a t e d t o t h e p r o b l e m o f n d i n g t e x t s u b s e q u e n c e s t h a t m a t c h a g i v e n r e g u l a r

e x p r e s s i o n c . f . t h e U N I X g r e p u t i l i t y . T h e r e a l s o h a s b e e n w o r k o n n d i n g t e x t s u b s e q u e n c e s t h a t

a p p r o x i m a t e l y m a t c h a g i v e n s t r i n g e . g . C R 9 3 W M 9 2 . T h e s e t e c h n i q u e s a r e o r i e n t e d t o w a r d

n d i n g m a t c h e s f o r o n e p a t t e r n . I n o u r p r o b l e m , t h e d i c u l t y i s i n g u r i n g o u t w h a t p a t t e r n s t o t r y

a n d t h e n e c i e n t l y n d i n g o u t w h i c h o n e s a r e c o n t a i n e d i n a c u s t o m e r s e q u e n c e .

T e c h n i q u e s b a s e d o n m u l t i p l e a l i g n m e n t W a t 8 9 h a v e b e e n p r o p o s e d t o n d e n t i r e t e x t s e q u e n c e s

t h a t a r e s i m i l a r . T h e r e a l s o h a s b e e n w o r k t o n d l o c a l l y s i m i l a r s u b s e q u e n c e s A G M

+

9 0 R o y 9 2

V A 8 9 . H o w e v e r , a s p o i n t e d o u t i n W C M

+

9 4 , t h e s e t e c h n i q u e s a p p l y w h e n t h e d i s c o v e r e d p a t t e r n s

c o n s i s t o f c o n s e c u t i v e c h a r a c t e r s o r m u l t i p l e l i s t s o f c o n s e c u t i v e c h a r a c t e r s s e p a r a t e d b y a x e d l e n g t h

o f n o i s e c h a r a c t e r s .

3


6/24

C l o s e s t t o o u r p r o b l e m i s t h e p r o b l e m f o r m u l a t i o n i n W C M

+

9 4 i n t h e c o n t e x t o f d i s c o v e r i n g

s i m i l a r i t i e s i n a d a t a b a s e o f g e n e t i c s e q u e n c e s . T h e p a t t e r n s t h e y w i s h t o d i s c o v e r a r e s u b s e q u e n c e s

m a d e u p o f c o n s e c u t i v e c h a r a c t e r s s e p a r a t e d b y a v a r i a b l e n u m b e r o f n o i s e c h a r a c t e r s . A s e q u e n c e i n

o u r p r o b l e m c o n s i s t s o f l i s t o f s e t s o f c h a r a c t e r s i t e m s , r a t h e r t h a n b e i n g s i m p l y a l i s t o f c h a r a c t e r s .

T h u s , a n e l e m e n t o f t h e s e q u e n t i a l p a t t e r n w e d i s c o v e r c a n b e a s e t o f c h a r a c t e r s i t e m s , r a t h e r t h a n

b e i n g s i m p l y a c h a r a c t e r . O u r s o l u t i o n a p p r o a c h i s e n t i r e l y d i e r e n t . T h e s o l u t i o n i n W C M

+

9 4 i s n o t

g u a r a n t e e d t o b e c o m p l e t e , w h e r e a s w e g u a r a n t e e t h a t w e h a v e d i s c o v e r e d a l l s e q u e n t i a l p a t t e r n s o f

i n t e r e s t t h a t a r e p r e s e n t i n a s p e c i e d m i n i m u m n u m b e r o f s e q u e n c e s . T h e a l g o r i t h m i n W C M

+

9 4 i s

a m a i n m e m o r y a l g o r i t h m b a s e d o n g e n e r a l i z e d s u x t r e e H u i 9 2 a n d w a s t e s t e d a g a i n s t a d a t a b a s e o f

1 5 0 s e q u e n c e s a l t h o u g h t h e p a p e r d o e s c o n t a i n s o m e h i n t s o n h o w t h e y m i g h t e x t e n d t h e i r a p p r o a c h

t o h a n d l e l a r g e r d a t a b a s e s . O u r s o l u t i o n i s t a r g e t e d a t m i l l i o n s o f c u s t o m e r s e q u e n c e s .

1 . 3 . O r g a n i z a t i o n o f t h e P a p e r

W e s o l v e t h e p r o b l e m o f n d i n g a l l s e q u e n t i a l p a t t e r n s i n v e p h a s e s : i s o r t p h a s e , i i l i t e m s e t

p h a s e , i i i t r a n s f o r m a t i o n p h a s e , i v s e q u e n c e p h a s e , a n d v m a x i m a l p h a s e . S e c t i o n 2 g i v e s t h i s p r o b l e m

d e c o m p o s i t i o n . S e c t i o n 3 e x a m i n e s t h e s e q u e n c e p h a s e i n d e t a i l a n d p r e s e n t s a l g o r i t h m s f o r t h i s p h a s e .

W e e m p i r i c a l l y e v a l u a t e t h e p e r f o r m a n c e o f t h e s e a l g o r i t h m s a n d s t u d y t h e i r s c a l e - u p p r o p e r t i e s i n

S e c t i o n 4 . W e c o n c l u d e w i t h a s u m m a r y a n d d i r e c t i o n s f o r f u t u r e w o r k i n S e c t i o n 5 .

2 . F i n d i n g S e q u e n t i a l P a t t e r n s

T e r m i n o l o g y . T h e l e n g t h o f a s e q u e n c e i s t h e n u m b e r o f i t e m s e t s i n t h e s e q u e n c e . A s e q u e n c e o f

l e n g t h k i s c a l l e d a k - s e q u e n c e . T h e s e q u e n c e f o r m e d b y t h e c o n c a t e n a t i o n o f t w o s e q u e n c e s x a n d y

i s d e n o t e d a s x y

T h e s u p p o r t f o r a n i t e m s e t i i s d e n e d a s t h e f r a c t i o n o f c u s t o m e r s w h o b o u g h t t h e i t e m s i n i i n

a s i n g l e t r a n s a c t i o n . T h u s t h e i t e m s e t i a n d t h e 1 - s e q u e n c e h i i h a v e t h e s a m e s u p p o r t . A n i t e m s e t

w i t h m i n i m u m s u p p o r t i s c a l l e d a l a r g e i t e m s e t o r l i t e m s e t . N o t e t h a t e a c h i t e m s e t i n a l a r g e s e q u e n c e

m u s t h a v e m i n i m u m s u p p o r t . H e n c e , a n y l a r g e s e q u e n c e m u s t b e a l i s t o f l i t e m s e t s .

2 . 1 . T h e A l g o r i t h m

W e s p l i t t h e p r o b l e m o f m i n i n g s e q u e n t i a l p a t t e r n s i n t o t h e f o l l o w i n g p h a s e s :

1 S o r t P h a s e . T h e d a t a b a s e D i s s o r t e d , w i t h c u s t o m e r - i d a s t h e m a j o r k e y a n d t r a n s a c t i o n - t i m e

a s t h e m i n o r k e y . T h i s s t e p i m p l i c i t l y c o n v e r t s t h e o r i g i n a l t r a n s a c t i o n d a t a b a s e i n t o a d a t a b a s e

o f c u s t o m e r s e q u e n c e s . F i g . 2 s h o w s t h e s o r t e d d a t a b a s e f o r t h e e x a m p l e d a t a b a s e i n F i g . 1 .

2 L i t e m s e t P h a s e . I n t h i s p h a s e w e n d t h e s e t o f a l l l i t e m s e t s L . W e a r e a l s o s i m u l t a n e o u s l y

n d i n g t h e s e t o f a l l l a r g e 1 - s e q u e n c e s , s i n c e t h i s s e t i s j u s t f h l i l 2 L g

T h e p r o b l e m o f n d i n g l a r g e i t e m s e t s i n a g i v e n s e t o f c u s t o m e r t r a n s a c t i o n s , a l b e i t w i t h a

s l i g h t l y d i e r e n t d e n i t i o n o f s u p p o r t , h a s b e e n c o n s i d e r e d i n A I S 9 3 A S 9 4 H S 9 3 M T V 9 4 .

I n t h e s e p a p e r s , t h e s u p p o r t f o r a n i t e m s e t h a s b e e n d e n e d a s t h e f r a c t i o n o f t r a n s a c t i o n s i n

w h i c h a n i t e m s e t i s p r e s e n t , w h e r e a s i n t h e s e q u e n t i a l p a t t e r n n d i n g p r o b l e m , t h e s u p p o r t i s

4


7/24

L a r g e I t e m s e t s M a p p e d T o

3 0 1

4 0 2

7 0 3

4 0 7 0 4

9 0 5

F i g u r e 5 : L a r g e I t e m s e t s

t h e f r a c t i o n o f c u s t o m e r s w h o b o u g h t t h e i t e m s e t i n a n y o n e o f t h e i r p o s s i b l y m a n y t r a n s a c t i o n s .

I t i s s t r a i g h t f o r w a r d t o a d a p t a n y o f t h e a l g o r i t h m s i n A I S 9 3 A S 9 4 H S 9 3 M T V 9 4 t o n d

l i t e m s e t s . T h e m a i n d i e r e n c e i s t h a t t h e s u p p o r t c o u n t s h o u l d b e i n c r e m e n t e d o n l y o n c e p e r

c u s t o m e r e v e n i f t h e c u s t o m e r b u y s t h e s a m e s e t o f i t e m s i n t w o d i e r e n t t r a n s a c t i o n s .

T h e s e t o f l i t e m s e t s i s m a p p e d t o a s e t o f c o n t i g u o u s i n t e g e r s . I n t h e e x a m p l e d a t a b a s e g i v e n i n

F i g . 1 , t h e l a r g e i t e m s e t s a r e 3 0 , 4 0 , 7 0 , 4 0 7 0 a n d 9 0 . A p o s s i b l e m a p p i n g f o r t h i s s e t

i s s h o w n i n F i g . 5 . T h e r e a s o n f o r t h i s m a p p i n g i s t h a t b y t r e a t i n g l i t e m s e t s a s s i n g l e e n t i t i e s , w e

c a n c o m p a r e t w o l i t e m s e t s f o r e q u a l i t y i n c o n s t a n t t i m e , a n d r e d u c e t h e t i m e r e q u i r e d t o c h e c k

i f a s e q u e n c e i s c o n t a i n e d i n a c u s t o m e r s e q u e n c e .

3 T r a n s f o r m a t i o n P h a s e . A s w e w i l l s e e i n S e c t i o n 3 , w e n e e d t o r e p e a t e d l y d e t e r m i n e w h i c h o f

a g i v e n s e t o f l a r g e s e q u e n c e s a r e c o n t a i n e d i n a c u s t o m e r s e q u e n c e . T o m a k e t h i s t e s t f a s t , w e

t r a n s f o r m e a c h c u s t o m e r s e q u e n c e i n t o a n a l t e r n a t i v e r e p r e s e n t a t i o n .

I n a t r a n s f o r m e d c u s t o m e r s e q u e n c e , e a c h t r a n s a c t i o n i s r e p l a c e d b y t h e s e t o f a l l l i t e m s e t s

c o n t a i n e d i n t h a t t r a n s a c t i o n . I f a t r a n s a c t i o n d o e s n o t c o n t a i n a n y l i t e m s e t , i t i s n o t r e t a i n e d i n

t h e t r a n s f o r m e d s e q u e n c e . I f a c u s t o m e r s e q u e n c e d o e s n o t c o n t a i n a n y l i t e m s e t , t h i s s e q u e n c e

i s d r o p p e d f r o m t h e t r a n s f o r m e d d a t a b a s e . H o w e v e r , i t s t i l l c o n t r i b u t e s t o t h e c o u n t o f t o t a l

n u m b e r o f c u s t o m e r s . A c u s t o m e r s e q u e n c e i s n o w r e p r e s e n t e d b y a l i s t o f s e t s o f l i t e m s e t s . E a c h

s e t o f l i t e m s e t s i s r e p r e s e n t e d b y f l

1

; l

2

; ; l

n

g , w h e r e l

i

i s a l i t e m s e t .

T h i s t r a n s f o r m e d d a t a b a s e i s c a l l e d D

T

. D e p e n d i n g o n t h e d i s k a v a i l a b i l i t y , w e c a n p h y s i c a l l y

c r e a t e t h i s t r a n s f o r m e d d a t a b a s e , o r t h i s t r a n s f o r m a t i o n c a n b e d o n e o n - t h e - y , a s w e r e a d e a c h

c u s t o m e r s e q u e n c e d u r i n g a p a s s .

T h e t r a n s f o r m a t i o n o f t h e d a t a b a s e i n F i g . 3 i s s h o w n i n F i g . 6 . F o r e x a m p l e , d u r i n g t h e t r a n s -

f o r m a t i o n o f t h e c u s t o m e r s e q u e n c e w i t h I d 2 , t h e t r a n s a c t i o n 1 0 2 0 i s d r o p p e d b e c a u s e i t d o e s

n o t c o n t a i n a n y l i t e m s e t a n d t h e t r a n s a c t i o n 4 0 6 0 7 0 i s r e p l a c e d b y t h e s e t o f l i t e m s e t s f 4 0 ,

7 0 , 4 0 7 0 g

4 S e q u e n c e P h a s e . U s e t h e s e t o f l i t e m s e t s t o n d t h e d e s i r e d s e q u e n c e s . A l g o r i t h m s f o r t h i s

p h a s e a r e d e s c r i b e d i n S e c t i o n 3 .

5 M a x i m a l P h a s e . F i n d t h e m a x i m a l s e q u e n c e s a m o n g t h e s e t o f l a r g e s e q u e n c e s . I n s o m e

a l g o r i t h m s i n S e c t i o n 3 , t h i s p h a s e i s c o m b i n e d w i t h t h e s e q u e n c e p h a s e t o r e d u c e t h e t i m e

w a s t e d i n c o u n t i n g n o n - m a x i m a l s e q u e n c e s .

H a v i n g f o u n d t h e s e t o f a l l l a r g e s e q u e n c e s S i n t h e s e q u e n c e p h a s e , t h e f o l l o w i n g a l g o r i t h m c a n

b e u s e d f o r n d i n g m a x i m a l s e q u e n c e s . L e t t h e l e n g t h o f t h e l o n g e s t s e q u e n c e b e n . T h e n ,

5


8/24


9/24

L

1

= f l a r g e 1 - s e q u e n c e s g ; R e s u l t o f t h e l i t e m s e t p h a s e

f o r k = 2 ; L

k , 1

6= ; ; k + + d o

b e g i n

C

k

= N e w c a n d i d a t e s g e n e r a t e d f r o m L

k , 1

s e e S e c t i o n 3 . 1 . 1 .

f o r e a c h c u s t o m e r - s e q u e n c e c i n t h e d a t a b a s e d o

I n c r e m e n t t h e c o u n t o f a l l c a n d i d a t e s i n C

k

t h a t a r e c o n t a i n e d i n c

L

k

= C a n d i d a t e s i n C

k

w i t h m i n i m u m s u p p o r t .

e n d

A n s w e r = M a x i m a l S e q u e n c e s i n

S

k

L

k

;

F i g u r e 7 : A l g o r i t h m A p r i o r i A l l

A s w e w i l l s e e m o m e n t a r i l y , A p r i o r i S o m e g e n e r a t e s c a n d i d a t e s f o r a p a s s u s i n g o n l y t h e l a r g e s e q u e n c e s

f o u n d i n t h e p r e v i o u s p a s s a n d t h e n m a k e s a p a s s o v e r t h e d a t a t o n d t h e i r s u p p o r t . D y n a m i c S o m e

g e n e r a t e s c a n d i d a t e s o n - t h e - y u s i n g t h e l a r g e s e q u e n c e s f o u n d i n t h e p r e v i o u s p a s s e s a n d t h e c u s t o m e r

s e q u e n c e s r e a d f r o m t h e d a t a b a s e .

N o t a t i o n . I n a l l t h e a l g o r i t h m s , L

k

d e n o t e s t h e s e t o f a l l l a r g e k - s e q u e n c e s , a n d C

k

t h e s e t o f

c a n d i d a t e k - s e q u e n c e s .

3 . 1 . A l g o r i t h m A p r i o r i A l l

T h e a l g o r i t h m i s g i v e n i n F i g . 7 . I n e a c h p a s s , w e u s e t h e l a r g e s e q u e n c e s f r o m t h e p r e v i o u s p a s s t o

g e n e r a t e t h e c a n d i d a t e s e q u e n c e s a n d t h e n m e a s u r e t h e i r s u p p o r t b y m a k i n g a p a s s o v e r t h e d a t a b a s e .

A t t h e e n d o f t h e p a s s , t h e s u p p o r t o f t h e c a n d i d a t e s i s u s e d t o d e t e r m i n e t h e l a r g e s e q u e n c e s . I n t h e

r s t p a s s , t h e o u t p u t o f t h e l i t e m s e t p h a s e i s u s e d t o i n i t i a l i z e t h e s e t o f l a r g e 1 - s e q u e n c e s .

3 . 1 . 1 . A p r i o r i C a n d i d a t e G e n e r a t i o n . T h e a p r i o r i - g e n e r a t e f u n c t i o n t a k e s a s a r g u m e n t L

k , 1

,

t h e s e t o f a l l l a r g e k , 1 - s e q u e n c e s . T h e f u n c t i o n w o r k s a s f o l l o w s . F i r s t , j o i n L

k , 1

w i t h L

k , 1

:

i n s e r t i n t o C

k

s e l e c t p . l i t e m s e t

1

p . l i t e m s e t

2

, . . . , p . l i t e m s e t

k 1

q . l i t e m s e t

k 1

f r o m L

k 1

p L

k 1

q

w h e r e p . l i t e m s e t

1

= q . l i t e m s e t

1

, . . . , p . l i t e m s e t

k 2

= q . l i t e m s e t

k 2

N e x t , d e l e t e a l l s e q u e n c e s c 2 C

k

s u c h t h a t s o m e k , 1 - s u b s e q u e n c e o f c i s n o t i n L

k , 1

:

f o r a l l s e q u e n c e s c 2 C

k

d o

f o r a l l k , 1 - s u b s e q u e n c e s s o f c d o

i f s 62 L

k 1

t h e n

d e l e t e c f r o m C

k

F o r e x a m p l e , c o n s i d e r t h e s e t o f 3 - s e q u e n c e s L

3

s h o w n i n F i g . 8 . I f t h i s i s g i v e n a s i n p u t t o t h e

a p r i o r i - g e n e r a t e f u n c t i o n , w e w i l l g e t t h e s e q u e n c e s s h o w n i n F i g . 9 a f t e r t h e j o i n . A f t e r p r u n i n g o u t

s e q u e n c e s w h o s e s u b s e q u e n c e s a r e n o t i n L

3

, t h e s e q u e n c e s s h o w n i n F i g . 1 0 w i l l b e l e f t . F o r e x a m p l e ,

h 1 2 4 3 i i s p r u n e d o u t b e c a u s e t h e s u b s e q u e n c e h 2 4 3 i i s n o t i n L

3

7


10/24

S e q u e n c e S u p p o r t

h 1 2 3 i 2

h 1 2 4 i 2

h 1 3 4 i 3

h 1 3 5 i 2

h 2 3 4 i 2

F i g u r e 8 : L a r g e 3 - S e q u e n c e s

h 1 2 3 4 i

h 1 2 4 3 i

h 1 3 4 5 i

h 1 3 5 4 i

F i g u r e 9 : C a n d i d a t e 4 - S e q u e n c e s a f t e r j o i n

h 1 2 3 4 i

F i g u r e 1 0 : C a n d i d a t e 4 - S e q u e n c e s a f t e r p r u n i n g

C o r r e c t n e s s . W e n e e d t o s h o w t h a t C

k

L

k

. C l e a r l y , a n y s u b s e q u e n c e o f a l a r g e s e q u e n c e m u s t a l s o

h a v e m i n i m u m s u p p o r t . H e n c e , i f w e e x t e n d e d e a c h s e q u e n c e i n L

k , 1

w i t h a l l p o s s i b l e l a r g e i t e m s e t s

a n d t h e n d e l e t e d a l l t h o s e w h o s e k , 1 - s u b s e q u e n c e s w e r e n o t i n L

k , 1

, w e w o u l d b e l e f t w i t h a s u p e r s e t

o f t h e s e q u e n c e s i n L

k

T h e j o i n i s e q u i v a l e n t t o e x t e n d i n g L

k , 1

w i t h e a c h l a r g e i t e m e t a n d t h e n d e l e t i n g t h o s e s e q u e n c e s

f o r w h i c h t h e k , 1 - s e q u e n c e o b t a i n e d b y d e l e t i n g t h e k , 1 t h i t e m s e t i s n o t i n L

k , 1

. T h u s , a f t e r t h e

j o i n s t e p , C

k

L

k

. B y s i m i l a r r e a s o n i n g , t h e p r u n e s t e p , w h e r e w e d e l e t e f r o m C

k

a l l s e q u e n c e s w h o s e

k , 1 - s u b s e q u e n c e s a r e n o t i n L

k , 1

, a l s o d o e s n o t d e l e t e a n y s e q u e n c e t h a t c o u l d b e i n L

k

3 . 1 . 2 . E x a m p l e . C o n s i d e r a d a t a b a s e w i t h t h e c u s t o m e r - s e q u e n c e s s h o w n i n F i g . 1 1 . W e h a v e n o t

s h o w n t h e o r i g i n a l d a t a b a s e i n t h i s e x a m p l e . T h e c u s t o m e r s e q u e n c e s a r e i n t r a n s f o r m e d f o r m w h e r e

e a c h t r a n s a c t i o n h a s b e e n r e p l a c e d b y t h e s e t o f l i t e m s e t s c o n t a i n e d i n t h e t r a n s a c t i o n a n d t h e l i t e m s e t s

h a v e b e e n r e p l a c e d b y i n t e g e r s . T h e m i n i m u m s u p p o r t h a s b e e n s p e c i e d t o b e 4 0 i . e . 2 c u s t o m e r

s e q u e n c e s . T h e r s t p a s s o v e r t h e d a t a b a s e i s m a d e i n t h e l i t e m s e t p h a s e , a n d w e d e t e r m i n e t h e

l a r g e 1 - s e q u e n c e s s h o w n i n F i g . 1 2 . T h e l a r g e s e q u e n c e s t o g e t h e r w i t h t h e i r s u p p o r t a t t h e e n d o f t h e

s e c o n d , t h i r d , a n d f o u r t h p a s s e s a r e s h o w n i n F i g . 1 3 , F i g . 1 4 , a n d F i g . 1 5 r e s p e c t i v e l y . N o c a n d i d a t e

i s g e n e r a t e d f o r t h e f t h p a s s . T h e m a x i m a l l a r g e s e q u e n c e s w o u l d b e t h e t h r e e s e q u e n c e s s h o w n i n

F i g . 1 6 .

3 . 1 . 3 . S u b s e q u e n c e F u n c t i o n . C a n d i d a t e s e q u e n c e s C

k

a r e s t o r e d i n a h a s h - t r e e , s i m i l a r t o t h e

o n e d e s c r i b e d i n A S 9 4 . A n o d e o f t h e h a s h - t r e e e i t h e r c o n t a i n s a l i s t o f s e q u e n c e s a l e a f n o d e o r

a h a s h t a b l e a n i n t e r i o r n o d e . I n a n i n t e r i o r n o d e , e a c h b u c k e t o f t h e h a s h t a b l e p o i n t s t o a n o t h e r

h f 1 5 g f 2 g f 3 g f 4 g i

h f 1 g f 3 g f 4 g f 3 5 g i

h f 1 g f 2 g f 3 g f 4 g i

h f 1 g f 3 g f 5 g i

h f 4 g f 5 g i

F i g u r e 1 1 : C u s t o m e r S e q u e n c e s


h 1 i 4

h 2 i 2

h 3 i 4

h 4 i 4

h 5 i 2

F i g u r e 1 2 : L a r g e 1 - S e q u e n c e s

8


11/24


h 1 2 i 2

h 1 3 i 4

h 1 4 i 3

h 1 5 i 3

h 2 3 i 2

h 2 4 i 2

h 3 4 i 3

h 3 5 i 2

h 4 5 i 2



h 1 2 3 i 2

h 1 2 4 i 2

h 1 3 4 i 3

h 1 3 5 i 2

h 2 3 4 i 2



h 1 2 3 4 i 2



h 1 2 3 4 i 2

h 1 3 5 i 2

h 4 5 i 2

F i g u r e 1 6 : M a x i m a l L a r g e S e q u e n c e s

n o d e . T h e r o o t o f t h e h a s h - t r e e i s d e n e d t o b e a t d e p t h 1 . A n i n t e r i o r n o d e a t d e p t h d p o i n t s t o

n o d e s a t d e p t h d + 1 . S e q u e n c e s a r e s t o r e d i n t h e l e a v e s . W h e n w e a d d a n s e q u e n c e c , w e s t a r t f r o m

t h e r o o t a n d g o d o w n t h e t r e e u n t i l w e r e a c h a l e a f . A t a n i n t e r i o r n o d e a t d e p t h d , w e d e c i d e w h i c h

b r a n c h t o f o l l o w b y a p p l y i n g a h a s h f u n c t i o n t o t h e d t h l i t e m s e t o f t h e s e q u e n c e . A l l n o d e s a r e i n i t i a l l y

c r e a t e d a s l e a f n o d e s . W h e n t h e n u m b e r o f s e q u e n c e s i n a l e a f n o d e e x c e e d s a s p e c i e d t h r e s h o l d , t h e

l e a f n o d e i s c o n v e r t e d t o a n i n t e r i o r n o d e .

S t a r t i n g f r o m t h e r o o t n o d e , t h e s u b s e q u e n c e f u n c t i o n n d s a l l t h e c a n d i d a t e s c o n t a i n e d i n a

c u s t o m e r s e q u e n c e c a s f o l l o w s . I f w e a r e a t a l e a f , w e n d w h i c h o f t h e s e q u e n c e s i n t h e l e a f a r e

c o n t a i n e d i n c a n d a d d r e f e r e n c e s t o t h e m t o t h e a n s w e r s e t . I f w e a r e a t a n i n t e r i o r n o d e a n d w e h a v e

r e a c h e d i t b y h a s h i n g t h e l i t e m s e t i , w e h a s h o n e a c h l i t e m s e t i n c t h a t o c c u r s i n a t r a n s a c t i o n a f t e r t h e

t r a n s a c t i o n c o n t a i n i n g i a n d r e c u r s i v e l y a p p l y t h i s p r o c e d u r e t o t h e n o d e i n t h e c o r r e s p o n d i n g b u c k e t .

F o r t h e r o o t n o d e , w e h a s h o n e v e r y l i t e m s e t i n c

T o s e e w h y t h e s u b s e q u e n c e f u n c t i o n r e t u r n s t h e d e s i r e d s e t o f r e f e r e n c e s , c o n s i d e r w h a t h a p p e n s

a t t h e r o o t n o d e . F o r a n y s e q u e n c e s c o n t a i n e d i n c u s t o m e r c , t h e r s t l i t e m s e t o f s m u s t b e i n c A t

t h e r o o t , b y h a s h i n g o n e v e r y l i t e m s e t i n c , w e e n s u r e t h a t w e o n l y i g n o r e s e q u e n c e s t h a t s t a r t w i t h a n

l i t e m s e t n o t i n c . S i m i l a r a r g u m e n t s a p p l y a t l o w e r d e p t h s . T h e o n l y a d d i t i o n a l f a c t o r i s t h a t , s i n c e

t h e l i t e m s e t s i n a n y c a n d i d a t e o r l a r g e s e q u e n c e r e p r e s e n t i t e m s e t s b o u g h t i n d i e r e n t t r a n s a c t i o n s , i f

w e r e a c h t h e c u r r e n t n o d e b y h a s h i n g t h e l i t e m s e t i , w e o n l y n e e d t o c o n s i d e r t h e l i t e m s e t s i n c t h a t

o c c u r i n t r a n s a c t i o n s a f t e r t h e t r a n s a c t i o n c o n t a i n i n g i

3 . 2 . A l g o r i t h m A p r i o r i S o m e

T h i s a l g o r i t h m i s g i v e n i n F i g . 1 7 . I n t h e f o r w a r d p a s s , w e o n l y c o u n t s e q u e n c e s o f c e r t a i n l e n g t h s .

F o r e x a m p l e , w e m i g h t c o u n t s e q u e n c e s o f l e n g t h 1 , 2 , 4 a n d 6 i n t h e f o r w a r d p a s s a n d c o u n t s e q u e n c e s

o f l e n g t h 3 a n d 5 i n t h e b a c k w a r d p a s s . T h e f u n c t i o n n e x t t a k e s a s p a r a m e t e r t h e l e n g t h o f s e q u e n c e s

9


12/24

c o u n t e d i n t h e l a s t p a s s a n d r e t u r n s t h e l e n g t h o f s e q u e n c e s t o b e c u n t e d i n t h e n e x t p a s s . T h u s , t h i s

f u n c t i o n d e t e r m i n e s e x a c t l y w h i c h s e q u e n c e s a r e c o u n t e d , a n d b a l a n c e s t h e t r a d e o b e t w e e n t h e t i m e

w a s t e d i n c o u n t i n g n o n - m a x i m a l s e q u e n c e s v e r s u s c o u n t i n g e x t e n s i o n s o f s m a l l c a n d i d a t e s e q u e n c e s .

O n e e x t r e m e i s n e x t k = k + 1 k i s t h e l e n g t h f o r w h i c h c a n d i d a t e s w e r e c o u n t e d l a s t , w h e n a l l n o n -

m a x i m a l s e q u e n c e s a r e c o u n t e d , b u t n o e x t e n s i o n s o f s m a l l c a n d i d a t e s e q u e n c e s a r e c o u n t e d . I n t h i s

c a s e , A p r i o r i S o m e d e g e n e r a t e s i n t o A p r i o r i A l l . T h e o t h e r e x t r e m e i s a f u n c t i o n l i k e n e x t k = 1 0 0 k ,

w h e n a l m o s t n o n o n - m a x i m a l l a r g e s e q u e n c e i s c o u n t e d , b u t l o t s o f e x t e n s i o n s o f s m a l l c a n d i d a t e s a r e

c o u n t e d .

L e t h i t

k

d e n o t e t h e r a t i o o f t h e n u m b e r o f l a r g e k - s e q u e n c e s t o t h e n u m b e r o f c a n d i d a t e k - s e q u e n c e s

i . e . , L

k

= C

k

. T h e n e x t f u n c t i o n w e u s e d i n t h e e x p e r i m e n t s i s g i v e n b e l o w . T h e i n t u i t i o n b e h i n d

t h e h e u r i s t i c i s t h a t a s t h e p e r c e n t a g e o f c a n d i d a t e s c o u n t e d i n t h e c u r r e n t p a s s w h i c h h a d m i n i m u m

s u p p o r t i n c r e a s e s , t h e t i m e w a s t e d b y c o u n t i n g e x t e n s i o n s o f s m a l l c a n d i d a t e s w h e n w e s k i p a l e n g t h

g o e s d o w n .

f u n c t i o n n e x t k i n t e g e r

b e g i n

i f h i t

k

0 . 6 6 6 r e t u r n k + 1

e l s i f h i t

k

0 . 7 5 r e t u r n k + 2

e l s i f h i t

k

0 . 8 0 r e t u r n k + 3

e l s i f h i t

k

0 . 8 5 r e t u r n k + 4

e l s e r e t u r n k + 5

e n d

W e u s e t h e a p r i o r i - g e n e r a t e f u n c t i o n g i v e n i n S e c t i o n 3 . 1 . 1 t o g e n e r a t e n e w c a n d i d a t e s e q u e n c e s .

H o w e v e r , i n t h e k t h p a s s , w e m a y n o t h a v e t h e l a r g e s e q u e n c e s e t L

k , 1

a v a i l a b l e a s w e d i d n o t c o u n t t h e

k , 1 - c a n d i d a t e s e q u e n c e s . I n t h a t c a s e , w e u s e t h e c a n d i d a t e s e t C

k , 1

t o g e n e r a t e C

k

. C o r r e c t n e s s

i s m a i n t a i n e d b e c a u s e C

k , 1

L

k , 1

I n t h e b a c k w a r d p h a s e , w e c o u n t s e q u e n c e s f o r t h e l e n g t h s w e s k i p p e d o v e r d u r i n g t h e f o r w a r d

p h a s e , a f t e r r s t d e l e t i n g a l l s e q u e n c e s c o n t a i n e d i n s o m e l a r g e s e q u e n c e . T h e s e s m a l l e r s e q u e n c e s

c a n n o t b e i n t h e a n s w e r b e c a u s e w e a r e o n l y i n t e r e s t e d i n m a x i m a l s e q u e n c e s . W e a l s o d e l e t e t h e l a r g e

s e q u e n c e s f o u n d i n t h e f o r w a r d p h a s e t h a t a r e n o n - m a x i m a l .

I n t h e i m p l e m e n t a t i o n , t h e f o r w a r d a n d b a c k w a r d p h a s e s a r e i n t e r s p e r s e d t o r e d u c e t h e m e m o r y

u s e d b y t h e c a n d i d a t e s . H o w e v e r , w e h a v e o m i t t e d t h i s d e t a i l i n F i g . 1 7 t o s i m p l i f y t h e e x p o s i t i o n .

3 . 2 . 1 . E x a m p l e . U s i n g a g a i n t h e d a t a b a s e u s e d i n t h e e x a m p l e f o r t h e A p r i o r i A l l a l g o r i t h m , w e n d

t h e l a r g e 1 - s e q u e n c e s s h o w n i n F i g . 1 2 i n i n t h e l i t e m s e t p h a s e d u r i n g t h e r s t p a s s o v e r t h e d a t a b a s e .

T a k e f o r i l l u s t r a t i o n s i m p l i c i t y , f k = 2 k . I n t h e s e c o n d p a s s , w e c o u n t C

2

t o g e t L

2

F i g . 1 3 . A f t e r

t h e t h i r d p a s s , a p r i o r i - g e n e r a t e i s c a l l e d w i t h L

2

a s a r g u m e n t t o g e t C

3

. T h e c a n d i d a t e s i n C

3

a r e

s h o w n i n F i g . 1 8 . W e d o n o t c o u n t C

3

, a n d h e n c e d o n o t g e n e r a t e L

3

. N e x t , a p r i o r i - g e n e r a t e i s c a l l e d

w i t h C

3

t o g e t C

4

, w h i c h a f t e r p r u n i n g , t u r n s o u t t o b e t h e s a m e C

4

s h o w n i n F i g . 1 0 . A f t e r c o u n t i n g

C

4

t o g e t L

4

F i g . 1 5 , w e t r y g e n e r a t i n g C

5

, w h i c h t u r n s o u t t o b e e m p t y .

W e t h e n s t a r t t h e b a c k w a r d p h a s e . N o t h i n g g e t s d e l e t e d f r o m L

4

s i n c e t h e r e a r e n o l o n g e r s e q u e n c e s .

W e h a d s k i p p e d c o u n t i n g t h e s u p p o r t f o r s e q u e n c e s i n C

3

i n t h e f o r w a r d p h a s e . A f t e r d e l e t i n g t h o s e

s e q u e n c e s i n C

3

t h a t a r e s u b s e q u e n c e s o f s e q u e n c e s i n L

4

, i . e . , s u b s e q u e n c e s o f h 1 2 3 4 i , w e a r e l e f t

1 0


13/24

F o r w a r d P h a s e

L

1


C

1

= L

1

; s o t h a t w e h a v e a n i c e l o o p c o n d i t i o n

l a s t = 1 ; w e l a s t c o u n t e d C

l a s t

f o r k = 2 ; C

k , 1

6= ; a n d L

l a s t

6= ; ; k + + d o

b e g i n

i f L

k , 1

k n o w n t h e n

C

k


k , 1

;

e l s e

C

k

= N e w c a n d i d a t e s g e n e r a t e d f r o m C

k , 1

;

i f k = = n e x t l a s t t h e n b e g i n

f o r e a c h c u s t o m e r - s e q u e n c e c i n t h e d a t a b a s e d o


k


L

k


k


l a s t = k ;

e n d

e n d

B a c k w a r d P h a s e

f o r k , , ; k = 1 ; k , , d o

i f L

k

w a s n o t d e t e r m i n e d i n t h e f o r w a r d p h a s e t h e n b e g i n

D e l e t e a l l s e q u e n c e s i n C

k

c o n t a i n e d i n s o m e L

i

, i k ;

f o r e a c h c u s t o m e r - s e q u e n c e c i n D

T

d o


k


L

k


k


e n d

e l s e b e g i n L

k

a l r e a d y k n o w n

D e l e t e a l l s e q u e n c e s i n L

k

c o n t a i n e d i n s o m e L

i

, i k

e n d

A n s w e r =

S

k

L

k

;

F i g u r e 1 7 : A l g o r i t h m A p r i o r i S o m e

1 1


14/24

h 1 2 3 i

h 1 2 4 i

h 1 3 4 i

h 1 3 5 i

h 2 3 4 i

h 3 4 5 i

F i g u r e 1 8 : C a n d i d a t e 3 - s e q u e n c e s

h 1 3 5 i

h 3 4 5 i

F i g u r e 1 9 : C a n d i d a t e 3 - s e q u e n c e s a f t e r d e l e t i n g s u b s e q u e n c e s o f l a r g e 4 - s e q u e n c e s

w i t h t h e s e q u e n c e s s h o w n i n F i g . 1 9 . T h e s e w o u l d b e c o u n t e d t o g e t h 1 3 5 i a s a m a x i m a l l a r g e

3 - s e q u e n c e . N e x t , a l l t h e s e q u e n c e s i n L

2

e x c e p t h 4 5 i a r e d e l e t e d s i n c e t h e y a r e c o n t a i n e d i n s o m e

l o n g e r s e q u e n c e . F o r t h e s a m e r e a s o n , a l l s e q u e n c e s i n L

1

a r e a l s o d e l e t e d .

I n t h i s e x a m p l e , A p r i o r i S o m e o n l y c o u n t e d t w o 3 - s e q u e n c e s a s a g a i n s t s i x 3 - s e q u e n c e s c o u n t e d b y

A p r i o r i A l l , a n d i t d i d n o t c o u n t a n y s e q u e n c e t h a t w a s n o t c o u n t e d b y A p r i o r i A l l a s w e l l . H o w e v e r , i n

g e n e r a l , A p r i o r i S o m e w i l l c o u n t s o m e e x t e n s i o n s o f s m a l l c a n d i d a t e s e q u e n c e s , w h i c h a r e n o t c o u n t e d

b y A p r i o r i A l l . I t w o u l d h a v e h a p p e n e d i n t h i s e x a m p l e i f t h e C

4

g e n e r a t e d f r o m C

3

w e r e l a r g e r t h a n

C

4

g e n e r a t e d f r o m L

3

3 . 3 . A l g o r i t h m D y n a m i c S o m e

T h e D y n a m i c S o m e a l g o r i t h m i s s h o w n i n F i g . 2 0 . L i k e A p r i o r i S o m e , w e s k i p c o u n t i n g c a n d i d a t e

s e q u e n c e s o f c e r t a i n l e n g t h s i n t h e f o r w a r d p h a s e . T h e c a n d i d a t e s e q u e n c e s t h a t a r e c o u n t e d i s d e -

t e r m i n e d b y t h e v a r i a b l e s t e p . I n t h e i n i t i a l i z a t i o n p h a s e , a l l t h e c a n d i d a t e s e q u e n c e s o f l e n g t h u p t o

a n d i n c l u d i n g s t e p a r e c o u n t e d . T h e n i n t h e f o r w a r d p h a s e , a l l s e q u e n c e s w h o s e l e n g t h s a r e m u l t i p l e s

o f s t e p a r e c o u n t e d . T h u s , w i t h s t e p s e t t o 3 , w e w i l l c o u n t s e q u e n c e s o f l e n g t h s 1 , 2 , a n d 3 i n t h e

i n i t i a l i z a t i o n p h a s e , a n d 6 , 9 , 1 2 , . . . i n t h e f o r w a r d p h a s e . W e r e a l l y w a n t e d t o c o u n t o n l y s e q u e n c e s

o f l e n g t h s 3 , 6 , 9 , 1 2 , . . . W e c a n g e n e r a t e s e q u e n c e s o f l e n g t h 6 b y j o i n i n g s e q u e n c e s o f l e n g t h 3 . W e

c a n g e n e r a t e s e q u e n c e s o f l e n g t h 9 b y j o i n i n g s e q u e n c e s o f l e n g t h 6 w i t h s e q u e n c e s o f l e n g t h 3 , e t c .

H o w e v e r , t o g e n e r a t e t h e s e q u e n c e s o f l e n g t h 3 , w e n e e d s e q u e n c e s o f l e n g t h s 1 a n d 2 , a n d h e n c e t h e

i n i t i a l i z a t i o n p h a s e .

A s i n A p r i o r i S o m e , d u r i n g t h e b a c k w a r d p h a s e , w e c o u n t s e q u e n c e s f o r t h e l e n g t h s w e s k i p p e d

o v e r d u r i n g t h e f o r w a r d p h a s e . H o w e v e r , u n l i k e i n A p r i o r i S o m e , t h e s e c a n d i d a t e s e q u e n c e s w e r e n o t

g e n e r a t e d i n t h e f o r w a r d p h a s e . T h e i n t e r m e d i a t e p h a s e g e n e r a t e s t h e m . T h e n t h e b a c k w a r d p h a s e i s

i d e n t i c a l t o t h e o n e f o r A p r i o r i S o m e . F o r e x a m p l e , a s s u m e t h a t w e c o u n t L

3

a n d L

6

, a n d L

9

t u r n s o u t

t o b e e m p t y i n t h e f o r w a r d p h a s e . W e g e n e r a t e C

7

a n d C

8

i n t e r m e d i a t e p h a s e , a n d t h e n c o u n t C

8

f o l l o w e d b y C

7

a f t e r d e l e t i n g n o n - m a x i m a l s e q u e n c e s b a c k w a r d p a s s . T h i s p r o c e s s i s t h e n r e p e a t e d

f o r C

4

a n d C

5

. I n a c t u a l i m p l e m e n t a t i o n , t h e i n t e r m e d i a t e p h a s e i s i n t e r s p e r s e d w i t h t h e b a c k w a r d

p h a s e , b u t w e h a v e o m i t t e d t h i s d e t a i l i n F i g . 2 0 t o s i m p l i f y e x p o s i t i o n .

W e u s e a p r i o r i - g e n e r a t e i n t h e i n i t i a l i z a t i o n a n d i n t e r m e d i a t e p h a s e s , b u t u s e o t f - g e n e r a t e

1 2


15/24

s t e p i s a n i n t e g e r 1

I n i t i a l i z a t i o n P h a s e

L

1


f o r k = 2 ; k = s t e p a n d L

k , 1

6= ; ; k + + d o

b e g i n

C

k


k , 1

;

f o r e a c h c u s t o m e r - s e q u e n c e c i n D

T

d o


k


L

k


k


e n d

F o r w a r d P h a s e

f o r k = s t e p ; L

k

6= ; ; k + = s t e p d o n d L

k + s t e p

f r o m L

k

a n d L

s t e p

b e g i n

C

k + s t e p

= ; ;

f o r e a c h c u s t o m e r s e q u e n c e s c i n D

T

d o

b e g i n

X = o t f - g e n e r a t e c , L

k

, L

s t e p

; S e e S e c t i o n 3 . 3 . 1

F o r e a c h s e q u e n c e x 2 X

0

, i n c r e m e n t i t s c o u n t i n C

k + s t e p

a d d i n g i t t o C

k + s t e p

i f n e c e s s a r y .

e n d

L

k + s t e p


k + s t e p


e n d

I n t e r m e d i a t e P h a s e

f o r k , , ; k 1 ; k , , d o

i f L

k

n o t y e t d e t e r m i n e d t h e n

i f L

k , 1

k n o w n t h e n

C

k


k , 1

;

e l s e

C

k

= N e w c a n d i d a t e s g e n e r a t e d f r o m C

k , 1

;

B a c k w a r d P h a s e : I d e n t i c a l t o B a c k w a r d P h a s e o f A p r i o r i S o m e

F i g u r e 2 0 : A l g o r i t h m D y n a m i c S o m e

1 3


16/24

S e q u e n c e E n d S t a r t

h 1 2 i 2 1

h 1 3 i 3 1

h 1 4 i 4 1

h 2 3 i 3 2

h 2 4 i 4 2

h 3 4 i 4 3

F i g u r e 2 1 : S t a r t a n d E n d V a l u e s

i n t h e f o r w a r d p h a s e . T h e o t f - g e n e r a t e p r o c e d u r e i s g i v e n i n S e c t i o n 3 . 3 . 1 . T h e r e a s o n i s t h a t

a p r i o r i - g e n e r a t e g e n e r a t e s l e s s c a n d i d a t e s t h a n o t f - g e n e r a t e w h e n w e g e n e r a t e C

k + 1

f r o m L

k

A S 9 4 . H o w e v e r , t h i s m a y n o t h o l d w h e n w e t r y t o n d L

k + s t e p

f r o m L

k

a n d L

s t e p

2

, a s i s t h e c a s e i n

t h e f o r w a r d p h a s e . I n a d d i t i o n , i f t h e s i z e o f L

k

+ L

s t e p

i s l e s s t h a n t h e s i z e o f C

k + s t e p

g e n e r a t e d

b y a p r i o r i - g e n e r a t e , i t m a y b e f a s t e r t o n d a l l m e m b e r s o f L

k

a n d L

s t e p

c o n t a i n e d i n c t h a n t o n d

a l l m e m b e r s o f C

k + s t e p

c o n t a i n e d i n c

3 . 3 . 1 . O n - t h e - y C a n d i d a t e G e n e r a t i o n . T h e o t f - g e n e r a t e f u n c t i o n t a k e s a s a r g u m e n t s L

k

,

t h e s e t o f l a r g e k - s e q u e n c e s , L

j

, t h e s e t o f l a r g e j - s e q u e n c e s , a n d t h e c u s t o m e r s e q u e n c e c . I t r e t u r n s

t h e s e t o f c a n d i d a t e k + j - s e q u e n c e s c o n t a i n e d i n c

T h e i n t u i t i o n b e h i n d t h i s g e n e r a t i o n p r o c e d u r e i s t h a t i f s

k

2 L

k

a n d s

j

2 L

j

a r e b o t h c o n t a i n e d

i n c , a n d t h e y d o n ' t o v e r l a p i n c , t h e n h s

k

s

j

i i s a c a n d i d a t e k + j - s e q u e n c e . L e t c b e t h e s e q u e n c e

h c

1

c

2

: : : c

n

i . T h e i m p l e m e n t a t i o n o f t h i s f u n c t i o n i s a s s h o w n b e l o w :

c i s t h e s e q u e n c e h c

1

c

2

: : : c

n

i

X

k

= s u b s e q L

k

c

f o r a l l s e q u e n c e s x 2 X

k

d o

x . e n d = m i n f j x h c

1

c

2

: : : c

j

i g

X

j

= s u b s e q L

j

c

f o r a l l s e q u e n c e s x 2 X

j

d o

x . s t a r t = m a x f j x h c

j

c

j + 1

: : : c

n

i g

A n s w e r = j o i n o f X

k

w i t h X

j

w i t h t h e j o i n c o n d i t i o n X

k

. e n d X

j

. s t a r t ;

F o r e x a m p l e , c o n s i d e r L

2

t o b e t h e s e t o f s e q u e n c e s i n F i g . 1 3 , a n d l e t o t f - g e n e r a t e b e c a l l e d w i t h

p a r a m e t e r s L

2

, L

2

a n d t h e c u s t o m e r - s e q u e n c e h f 1 g f 2 g f 3 7 g 4 i . T h u s c

1

c o r r e s p o n d s t o f 1 g , c

2

t o

f 2 g , e t c . T h e e n d a n d s t a r t v a l u e s f o r e a c h s e q u e n c e i n L

2

w h i c h i s c o n t a i n e d i n c a r e s h o w n i n F i g . 2 1 .

T h u s , t h e r e s u l t o f t h e j o i n w i t h t h e j o i n c o n d i t i o n X

2

: e n d X

2

: s t a r t w h e r e X

2

d e n o t e s t h e s e t o f

s e q u e n c e s o f l e n g t h 2 i s t h e s i n g l e s e q u e n c e h 1 2 3 4 i

3 . 3 . 2 . E x a m p l e . C o n t i n u i n g w i t h o u r e x a m p l e o f S e c t i o n 3 . 1 . 2 , c o n s i d e r a s t e p o f 2 . I n t h e i n i -

t i a l i z a t i o n p h a s e , w e d e t e r m i n e L

2

s h o w n i n F i g . 1 3 . T h e n , i n t h e f o r w a r d p h a s e , w e g e t c a n d i d a t e

s e q u e n c e s C

4

s h o w n i n F i g . 2 2 . O u t o f t h e s e , o n l y h 1 2 3 4 i i s l a r g e . I n t h e n e x t p a s s , w e n d C

6

t o

2

T h e a p r i o r i - g e n e r a t e p r o c e d u r e i n S e c t i o n 3 . 1 . 1 n e e d s t o b e g e n e r a l i z e d t o g e n e r a t e C

k + j

f r o m L

k

. E s s e n t i a l l y , t h e

j o i n c o n d i t i o n h a s t o b e c h a n g e d t o r e q u i r e e q u a l i t y o f t h e r s t k , j t e r m s , a n d t h e c o n c a t e n a t i o n o f t h e r e m a i n i n g t e r m s .

1 4


17/24


h 1 2 3 4 i 2

h 1 3 4 5 i 1

F i g u r e 2 2 : C a n d i d a t e 4 - S e q u e n c e s

b e e m p t y . N o w , i n t h e i n t e r m e d i a t e p h a s e , w e g e n e r a t e C

3

f r o m L

2

, a n d C

5

f r o m L

4

. S i n c e C

5

t u r n s

o u t t o b e e m p t y , w e c o u n t j u s t C

3

d u r i n g t h e b a c k w a r d p h a s e t o g e t L

3

4 . P e r f o r m a n c e

T o a s s e s s t h e r e l a t i v e p e r f o r m a n c e o f t h e a l g o r i t h m s a n d s t u d y t h e i r s c a l e - u p p r o p e r t i e s , w e p e r -

f o r m e d s e v e r a l e x p e r i m e n t s o n a n I B M R S 6 0 0 0 5 3 0 H w o r k s t a t i o n w i t h a C P U c l o c k r a t e o f 3 3 M H z ,

6 4 M B o f m a i n m e m o r y , a n d r u n n i n g A I X 3 . 2 . T h e d a t a r e s i d e d i n t h e A I X l e s y s t e m a n d w a s s t o r e d

o n a 2 G B S C S I 3 . 5 " d r i v e , w i t h m e a s u r e d s e q u e n t i a l t h r o u g h p u t o f a b o u t 2 M B s e c o n d .

4 . 1 . G e n e r a t i o n o f S y n t h e t i c D a t a

T o e v a l u a t e t h e p e r f o r m a n c e o f t h e a l g o r i t h m s o v e r a l a r g e r a n g e o f d a t a c h a r a c t e r i s t i c s , w e g e n -

e r a t e d s y n t h e t i c c u s t o m e r t r a n s a c t i o n s . T h e s e t r a n s a c t i o n s m i m i c t h e t r a n s a c t i o n s i n t h e r e t a i l i n g

e n v i r o n m e n t . I n o u r m o d e l o f t h e r e a l " w o r l d , p e o p l e b u y s e q u e n c e s o f s e t s o f i t e m s . E a c h s u c h

s e q u e n c e o f i t e m s e t s i s p o t e n t i a l l y a m a x i m a l l a r g e s e q u e n c e . A n e x a m p l e o f s u c h a s e q u e n c e m i g h t b e

s h e e t s a n d p i l l o w c a s e s , f o l l o w e d b y a c o m f o r t e r , f o l l o w e d b y s h a m s a n d r u e s . H o w e v e r , s o m e p e o p l e

m a y b u y o n l y s o m e o f t h e i t e m s f r o m s u c h a s e q u e n c e . F o r i n s t a n c e , s o m e p e o p l e m i g h t b u y o n l y

s h e e t s a n d p i l l o w c a s e s f o l l o w e d b y a c o m f o r t e r , a n d s o m e o n l y c o m f o r t e r s . A c u s t o m e r - s e q u e n c e m a y

c o n t a i n m o r e t h a n o n e s u c h s e q u e n c e . F o r e x a m p l e , a c u s t o m e r m i g h t p l a c e a n o r d e r f o r a d r e s s a n d

j a c k e t w h e n o r d e r i n g s h e e t s a n d p i l l o w c a s e s , w h e r e t h e d r e s s a n d j a c k e t t o g e t h e r f o r m p a r t o f a n o t h e r

s e q u e n c e . C u s t o m e r - s e q u e n c e s i z e s a r e t y p i c a l l y c l u s t e r e d a r o u n d a m e a n a n d a f e w c u s t o m e r s m a y

h a v e m a n y t r a n s a c t i o n s . S i m i l a r l y , t r a n s a c t i o n s i z e s a r e u s u a l l y c l u s t e r e d a r o u n d a m e a n a n d a f e w

t r a n s a c t i o n s h a v e m a n y i t e m s . T h i s m o d e l i s a g e n e r a l i z a t i o n o f t h e s y n t h e t i c d a t a g e n e r a t i o n m o d e l

u s e d i n A S 9 4 .

T h e s y n t h e t i c d a t a g e n e r a t i o n p r o g r a m t a k e s t h e p a r a m e t e r s s h o w n i n T a b l e 1 .

T a b l e 1 : P a r a m e t e r s

D N u m b e r o f c u s t o m e r s = s i z e o f D a t a b a s e

C A v e r a g e n u m b e r o f t r a n s a c t i o n s p e r C u s t o m e r

T A v e r a g e n u m b e r o f i t e m s p e r T r a n s a c t i o n

S A v e r a g e l e n g t h o f m a x i m a l p o t e n t i a l l y l a r g e S e q u e n c e s

I A v e r a g e s i z e o f I t e m s e t s i n m a x i m a l p o t e n t i a l l y l a r g e s e q u e n c e s

N

S

N u m b e r o f m a x i m a l p o t e n t i a l l y l a r g e S e q u e n c e s

N

I

N u m b e r o f m a x i m a l p o t e n t i a l l y l a r g e I t e m s e t s

N N u m b e r o f i t e m s

W e r s t d e t e r m i n e t h e n u m b e r o f t r a n s a c t i o n s f o r t h e n e x t c u s t o m e r , a n d t h e a v e r a g e s i z e o f e a c h

1 5


18/24

T a b l e 2 : P a r a m e t e r s e t t i n g s S y n t h e t i c d a t a s e t s

N a m e C T S I D S i z e M b

C 1 0 - T 2 . 5 - S 4 - I 1 . 2 5 1 0 2 . 5 4 1 . 2 5 2 5 K 3 . 7

C 1 0 - T 5 - S 4 - I 1 . 2 5 1 0 5 4 1 . 2 5 2 5 K 5 . 8

C 1 0 - T 5 - S 4 - I 2 . 5 1 0 5 4 2 . 5 2 5 K 6 . 0

C 2 0 - T 2 . 5 - S 4 - I 1 . 2 5 2 0 2 . 5 4 1 . 2 5 2 5 K 6 . 9

C 2 0 - T 2 . 5 - S 4 - I 2 . 5 2 0 2 . 5 4 2 . 5 2 5 K 7 . 9

C 2 0 - T 2 . 5 - S 8 - I 1 . 2 5 2 0 2 . 5 8 1 . 2 5 2 5 K 7 . 8

t r a n s a c t i o n f o r t h i s c u s t o m e r . T h e n u m b e r o f t r a n s a c t i o n s i s p i c k e d f r o m a P o i s s o n d i s t r i b u t i o n w i t h

m e a n e q u a l t o C , a n d t h e a v e r a g e s i z e o f t h e t r a n s a c t i o n i s p i c k e d f o r m a P o i s s o n d i s t r i b u t i o n w i t h

e q u a l t o T

W e t h e n a s s i g n i t e m s t o t h e t r a n s a c t i o n s o f t h e c u s t o m e r . E a c h c u s t o m e r i s a s s i g n e d a s e r i e s o f

p o t e n t i a l l y l a r g e s e q u e n c e s . I f t h e l a r g e s e q u e n c e o n h a n d d o e s n o t t i n t h e c u s t o m e r - s e q u e n c e , t h e

i t e m s e t i s p u t i n t h e c u s t o m e r - s e q u e n c e a n y w a y i n h a l f t h e c a s e s , a n d t h e i t e m s e t i s m o v e d t o t h e n e x t

c u s t o m e r - s e q u e n c e t h e r e s t o f t h e c a s e s .

L a r g e s e q u e n c e s a r e c h o s e n f r o m a t a b l e T o f s u c h s e q u e n c e s . T h e n u m b e r o f s e q u e n c e s i n T i s

s e t t o N

S

. T h e r e i s a n i n v e r s e r e l a t i o n s h i p b e t w e e n N

S

a n d t h e a v e r a g e s u p p o r t f o r p o t e n t i a l l y l a r g e

s e q u e n c e s . A s e q u e n c e i n T i s g e n e r a t e d b y r s t p i c k i n g t h e n u m b e r o f i t e m s e t s i n t h e s e q u e n c e f r o m a

P o i s s o n d i s t r i b u t i o n w i t h m e a n e q u a l t o S . I t e m s e t s i n t h e r s t s e q u e n c e a r e c h o s e n r a n d o m l y f r o m

a t a b l e o f l a r g e i t e m s e t s . T h e t a b l e o f l a r g e i t e m s e t s i s s i m i l a r t o t h e t a b l e o f l a r g e s e q u e n c e s . S i n c e

t h e s e q u e n c e s o f t e n h a v e c o m m o n i t e m s , s o m e f r a c t i o n o f i t e m s e t s i n s u b s e q u e n t s e q u e n c e s a r e c h o s e n

f r o m t h e p r e v i o u s s e q u e n c e g e n e r a t e d . W e u s e a n e x p o n e n t i a l l y d i s t r i b u t e d r a n d o m v a r i a b l e w i t h m e a n

e q u a l t o t h e c o r r e l a t i o n l e v e l t o d e c i d e t h i s f r a c t i o n f o r e a c h i t e m s e t . T h e r e m a i n i n g i t e m s e t s a r e p i c k e d

a t r a n d o m . I n t h e d a t a s e t s u s e d i n t h e e x p e r i m e n t s , t h e c o r r e l a t i o n l e v e l w a s s e t t o 0 . 2 5 .

E a c h s e q u e n c e i n T h a s a w e i g h t a s s o c i a t e d w i t h i t , w h i c h c o r r e s p o n d s t o t h e p r o b a b i l i t y t h a t t h i s

s e q u e n c e w i l l b e p i c k e d . T h i s w e i g h t i s p i c k e d f r o m a n e x p o n e n t i a l d i s t r i b u t i o n w i t h u n i t m e a n , a n d i s

t h e n n o r m a l i z e d s o t h a t t h e s u m o f t h e w e i g h t s f o r a l l t h e i t e m s e t s i n T i s 1 . T h e n e x t s e q u e n c e t o b e

p u t i n a c u s t o m e r s e q u e n c e i s c h o s e n f r o m T b y t o s s i n g a n N

S

- s i d e d w e i g h t e d c o i n , w h e r e t h e w e i g h t

f o r a s i d e i s t h e p r o b a b i l i t y o f p i c k i n g t h e a s s o c i a t e d s e q u e n c e .

S i n c e a l l t h e i t e m s i n a l a r g e s e q u e n c e a r e n o t a l w a y s b o u g h t t o g e t h e r , w e a s s i g n e a c h s e q u e n c e i n

T a c o r r u p t i o n l e v e l c . W h e n a d d i n g a s e q u e n c e t o a t r a n s a c t i o n , w e k e e p d r o p p i n g a n i t e m f r o m t h e

s e q u e n c e a s l o n g a s a u n i f o r m l y d i s t r i b u t e d r a n d o m n u m b e r b e t w e e n 0 a n d 1 i s l e s s t h a n c . T h u s f o r

a s e q u e n c e o f s i z e l , w e w i l l a d d l i t e m s t o t h e t r a n s a c t i o n 1 , c o f t h e t i m e , l , 1 i t e m s c 1 , c o f t h e

t i m e , l , 2 i t e m s c

2

1 , c o f t h e t i m e , e t c . T h e c o r r u p t i o n l e v e l f o r a s e q u e n c e i s x e d a n d i s o b t a i n e d

f r o m a n o r m a l d i s t r i b u t i o n w i t h m e a n 0 . 7 5 a n d v a r i a n c e 0 . 1 .

W e g e n e r a t e d d a t a s e t s b y s e t t i n g N

S

= 5 0 0 0 , N

I

= 2 5 0 0 0 a n d N = 1 0 0 0 0 . T a b l e 2 s u m m a r i z e s

t h e d a t a s e t p a r a m e t e r s e t t i n g s .

4 . 2 . R e l a t i v e P e r f o r m a n c e

1 6


19/24

C 1 0 - T 2 . 5 - S 4 - I 1 . 2 5 C 1 0 - T 5 - S 4 - I 1 . 2 5

0

50

100

150

200

250

300

350

0.20.250.330.50.751

Time(sec)

Minimum Support

DynamicSomeApriori

AprioriSome

0

50

100

150

200

250

300

350

400

450

0.20.250.330.50.751

Time(sec)

Minimum Support

DynamicSomeApriori

AprioriSome

C 1 0 - T 5 - S 4 - I 2 . 5 C 2 0 - T 2 . 5 - S 4 - I 1 . 2 5

0

200

400

600

800

1000

1200

1400

1600

1800

2000

0.20.250.330.50.751

Time(sec)

Minimum Support

DynamicSomeApriori

AprioriSome

0

100

200

300

400

500

600

700

0.20.250.330.50.751

Time(sec)

Minimum Support

DynamicSomeApriori

AprioriSome

C 2 0 - T 2 . 5 - S 4 - I 2 . 5 C 2 0 - T 2 . 5 - S 8 - I 1 . 2 5

0

200

400

600

800

1000

1200

1400

1600

1800

0.20.250.330.50.751

Time(sec)

Minimum Support

DynamicSomeApriori

AprioriSome

0

200

400

600

800

1000

1200

1400

0.20.250.330.50.751

Time(sec)

Minimum Support

DynamicSomeApriori

AprioriSome

F i g u r e 2 3 : E x e c u t i o n t i m e s

1 7


20/24

F i g . 2 3 s h o w s t h e r e l a t i v e e x e c u t i o n t i m e s f o r t h e t h r e e a l g o r i t h m s f o r t h e s i x d a t a s e t s g i v e n i n

T a b l e 2 a s t h e m i n i m u m s u p p o r t i s d e c r e a s e d f r o m 1 s u p p o r t t o 0 . 2 s u p p o r t . W e h a v e n o t p l o t t e d

t h e e x e c u t i o n t i m e s f o r D y n a m i c S o m e f o r l o w v a l u e s o f m i n i m u m s u p p o r t s i n c e i t g e n e r a t e d t o o m a n y

c a n d i d a t e s a n d r a n o u t o f m e m o r y . E v e n i f D y n a m i c S o m e h a d m o r e m e m o r y , t h e c o s t o f n d i n g t h e

s u p p o r t f o r t h a t m a n y c a n d i d a t e s w o u l d h a v e e n s u r e d e x e c u t i o n t i m e s m u c h l a r g e r t h a n t h o s e f o r

A p r i o r i o r A p r i o r i S o m e . A s e x p e c t e d , t h e e x e c u t i o n t i m e s o f a l l t h e a l g o r i t h m s i n c r e a s e a s t h e s u p p o r t

i s d e c r e a s e d b e c a u s e o f a l a r g e i n c r e a s e i n t h e n u m b e r o f l a r g e s e q u e n c e s i n t h e r e s u l t .

D y n a m i c S o m e p e r f o r m s w o r s e t h a n t h e o t h e r t w o a l g o r i t h m s m a i n l y b e c a u s e i t g e n e r a t e s a n d

c o u n t s a m u c h l a r g e r n u m b e r o f c a n d i d a t e s i n t h e f o r w a r d p h a s e . T h e d i e r e n c e i n t h e n u m b e r

o f c a n d i d a t e s g e n e r a t e d i s d u e t o t h e o t f - g e n e r a t e c a n d i d a t e g e n e r a t i o n p r o c e d u r e i t u s e s . T h e

a p r i o r i - g e n e r a t e d o e s n o t c o u n t a n y c a n d i d a t e s e q u e n c e t h a t c o n t a i n s a n y s u b s e q u e n c e w h i c h i s n o t

l a r g e . T h e o t f - g e n e r a t e d o e s n o t h a v e t h i s p r u n i n g c a p a b i l i t y .

T h e m a j o r a d v a n t a g e o f A p r i o r i S o m e o v e r A p r i o r i A l l i s t h a t i t a v o i d s c o u n t i n g m a n y n o n - m a x i m a l

s e q u e n c e s . H o w e v e r , t h i s a d v a n t a g e i s r e d u c e d b e c a u s e o f t w o r e a s o n s . F i r s t , c a n d i d a t e s C

k

i n A p r i o -

r i A l l a r e g e n e r a t e d u s i n g L

k , 1

, w h e r e a s A p r i o r i S o m e s o m e t i m e s u s e s C

k , 1

f o r t h i s p u r p o s e . S i n c e

C

k , 1

L

k , 1

, t h e n u m b e r o f c a n d i d a t e s g e n e r a t e d u s i n g A p r i o r i S o m e c a n b e l a r g e r . S e c o n d , a l t h o u g h

A p r i o r i S o m e s k i p s o v e r c o u n t i n g c a n d i d a t e s o f s o m e l e n g t h s , t h e y a r e g e n e r a t e d n o n e t h e l e s s a n d s t a y

m e m o r y r e s i d e n t . I f m e m o r y g e t s l l e d u p , A p r i o r i S o m e i s f o r c e d t o c o u n t t h e l a s t s e t o f c a n d i d a t e s

g e n e r a t e d e v e n i f t h e h e u r s t i c s u g g e s t s s k i p p i n g s o m e m o r e c a n d i d a t e s e t s . T h i s e e c t d e c r e a s e s t h e

s k i p p i n g d i s t a n c e b e t w e e n t h e t w o c a n d i d a t e s e t s t h a t a r e i n d e e d c o u n t e d , a n d A p r i o r i S o m e s t a r t s

b e h a v i n g m o r e l i k e A p r i o r i A l l . F o r l o w e r s u p p o r t s , t h e r e a r e l o n g e r l a r g e s e q u e n c e s , a n d h e n c e m o r e

n o n - m a x i m a l s e q u e n c e s , a n d A p r i o r i S o m e d o e s b e t t e r .

4 . 3 . S c a l e - u p

W e w i l l p r e s e n t i n t h i s s e c t i o n t h e r e s u l t s o f s c a l e - u p e x p e r i m e n t s f o r t h e A p r i o r i S o m e a l g o r i t h m .

W e a l s o p e r f o r m e d t h e s a m e e x p e r i m e n t s f o r A p r i o r i A l l , a n d f o u n d t h e r e s u l t s t o b e v e r y s i m i l a r . W e

d o n o t r e p o r t t h e A p r i o r i A l l r e s u l t s t o c o n s e r v e s p a c e . W e w i l l p r e s e n t t h e s c a l e - u p r e s u l t s f o r s o m e

s e l e c t e d d a t a s e t s . S i m i l a r r e s u l t s w e r e o b t a i n e d f o r o t h e r d a t a s e t s .

F i g . 2 4 s h o w s h o w A p r i o r i S o m e s c a l e s u p a s t h e n u m b e r o f c u s t o m e r s i s i n c r e a s e d h u n d r e d t i m e s

f r o m 2 5 , 0 0 0 t o 2 . 5 m i l l i o n . W e s h o w t h e r e s u l t s f o r t h e d a t a s e t C 1 0 - T 2 . 5 - S 4 - I 1 . 2 5 w i t h t h r e e l e v e l s

o f m i n i m u m s u p p o r t . T h e s i z e o f t h e d a t a s e t f o r 2 . 5 m i l l i o n c u s t o m e r s w a s 3 6 8 M B . T h e e x e c u t i o n

t i m e s a r e n o r m a l i z e d w i t h r e s p e c t t o t h e t i m e s f o r t h e 2 5 , 0 0 0 c u s t o m e r s d a t a s e t i n t h e r s t g r a p h , a n d

w i t h r e s p e c t t o t h e 2 5 0 , 0 0 0 c u s t o m e r d a t a s e t i n t h e s e c o n d . A s s h o w n , t h e e x e c u t i o n t i m e s s c a l e q u i t e

l i n e a r l y .

N e x t , w e i n v e s t i g a t e d t h e s c a l e - u p a s w e i n c r e a s e d t h e t o t a l n u m b e r o f i t e m s i n a c u s t o m e r s e q u e n c e .

T h i s i n c r e a s e w a s a c h i e v e d i n t w o d i e r e n t w a y s : i b y i n c r e a s i n g t h e a v e r a g e n u m b e r o f t r a n s a c t i o n s

p e r c u s t o m e r , k e e p i n g t h e a v e r a g e n u m b e r o f i t e m s p e r t r a n s a c t i o n t h e s a m e ; a n d i i b y i n c r e a s i n g t h e

a v e r a g e n u m b e r o f i t e m s p e r t r a n s a c t i o n , k e e p i n g t h e a v e r a g e n u m b e r t r a n s a c t i o n s p e r c u s t o m e r t h e

s a m e . T h e a i m o f t h i s e x p e r i m e n t w a s t o s e e h o w o u r d a t a s t r u c t u r e s s c a l e d w i t h t h e c u s t o m e r - s e q u e n c e

s i z e , i n d e p e n d e n t o f o t h e r f a c t o r s l i k e t h e d a t a b a s e s i z e a n d t h e n u m b e r o f l a r g e s e q u e n c e s . W e k e p t

t h e s i z e o f t h e d a t a b a s e r o u g h l y c o n s t a n t b y k e e p i n g t h e p r o d u c t o f t h e a v e r a g e c u s t o m e r - s e q u e n c e

s i z e a n d t h e n u m b e r o f c u s t o m e r s c o n s t a n t . W e x e d t h e m i n i m u m s u p p o r t i n t e r m s o f t h e n u m b e r o f

t r a n s a c t i o n s i n t h i s e x p e r i m e n t . F i x i n g t h e m i n i m u m s u p p o r t a s a p e r c e n t a g e w o u l d h a v e l e d t o l a r g e

1 8


21/24

1

2

4

6

8

10

25 50 100 150 200 250

RelativeTime

Number of Customers (000s)

2%1%

0.5%

1

2

4

6

8

10

250 1000 1750 2500

RelativeTime

Number of Customers (000s)

2%1%

0.5%

F i g u r e 2 4 : S c a l e - u p : N u m b e r o f c u s t o m e r s

i n c r e a s e s i n t h e n u m b e r o f l a r g e s e q u e n c e s a n d w e w a n t e d t o k e e p t h e s i z e o f t h e a n s w e r s e t r o u g h l y

t h e s a m e . A l l t h e e x p e r i m e n t s h a d t h e l a r g e s e q u e n c e l e n g t h s e t t o 4 a n d t h e l a r g e i t e m s e t s i z e s e t t o

1 . 2 5 . T h e a v e r a g e t r a n s a c t i o n s i z e w a s s e t t o 2 . 5 i n t h e r s t g r a p h , w h i l e t h e n u m b e r o f t r a n s a c t i o n s

p e r c u s t o m e r w a s s e t t o 1 0 i n t h e s e c o n d . T h e n u m b e r s i n t h e k e y e . g . 1 0 0 r e f e r t o t h e m i n i m u m

s u p p o r t .

T h e r e s u l t s a r e s h o w n i n F i g . 2 5 . A s s h o w n , t h e e x e c u t i o n t i m e s u s u a l l y i n c r e a s e d w i t h t h e c u s t o m e r -

s e q u e n c e s i z e , b u t o n l y g r a d u a l l y . T h e m a i n r e a s o n f o r t h e i n c r e a s e w a s t h a t i n s p i t e o f s e t t i n g t h e

m i n i m u m s u p p o r t i n t e r m s o f t h e n u m b e r o f c u s t o m e r s , t h e n u m b e r o f l a r g e s e q u e n c e s i n c r e a s e d w i t h

i n c r e a s i n g c u s t o m e r - s e q u e n c e s i z e . A s e c o n d a r y r e a s o n w a s t h a t n d i n g t h e c a n d i d a t e s p r e s e n t i n a

c u s t o m e r s e q u e n c e t o o k a l i t t l e m o r e t i m e . F o r s u p p o r t l e v e l o f 2 0 0 , t h e e x e c t i o n t i m e a c t u a l l y w e n t

d o w n a l i t t l e w h e n t h e t r a n s a c t i o n s i z e w a s i n c r e a s e d . T h e r e a s o n f o r t h i s d e c r e a s e i s t h a t t h e r e i s

a n o v e r h e a d a s s o c i a t e d w i t h r e a d i n g a t r a n s a c t i o n . A t h i g h l e v e l o f s u p p o r t , t h i s o v e r h e a d c o m p r i s e s

a s i g n i c a n t p a r t o f t h e t o t a l e x e c u t i o n t i m e . S i n c e t h i s d e c r e a s e s w h e n t h e n u m b e r o f t r a n s a c t i o n s

d e c r e a s e , t h e t o t a l e x e c u t i o n t i m e a l s o d e c r e a s e s a l i t t l e .

F i n a l l y , w e i n c r e a s e d t h e s i z e o f t h e m a x i m a l l a r g e s e q u e n c e s i n t e r m s o f t h e t o t a l n u m b e r o f i t e m s

i n t h e m w h i l e k e e p i n g o t h e r f a c t o r s c o n s t a n t . A g a i n , w e i n c r e a s e d t h i s s i z e i n t w o w a y s : i i n c r e a s i n g

t h e t h e a v e r a g e l e n g t h o f t h e p o t e n t i a l l a r g e s e q u e n c e s t h e n u m b e r o f e l e m e n t s i n t h e s e q u e n c e s ; a n d

i i i n c r e a s i n g t h e n u m b e r o f i t e m s i n t h e l a r g e i t e m s e t s i n t h e l a r g e s e q u e n c e s t h e s i z e o f t h e e l e m e n t s .

T h e r s t e x p e r i m e n t w a s r u n w i t h a n a v e r a g e o f 2 0 t r a n s a c t i o n s p e r c u s t o m e r , 2 . 5 i t e m s p e r t r a n s a c t i o n

a n d l a r g e i t e m s e t s i z e o f 1 . 2 5 . T h e s e c o n d w a s r u n w i t h a n a v e r a g e o f 1 0 t r a n s a c t i o n s p e r c u s t o m e r , 5

i t e m s p e r t r a n s a c t i o n a n d l a r g e s e q u e n c e l e n g t h o f 4 .

F i g . 2 6 s h o w s t h e r e s u l t s o f t h i s e x p e r i m e n t . A s s h o w n , t h e e x e c u t i o n t i m e s i n c r e a s e s o m e w h a t

w i t h t h e s i z e o f m a x i m a l l a r g e s e q u e n c e s a t l o w l e v e l s o f s u p p o r t , b u t a g a i n d e c r e a s e a t h i g h e r l e v e l s o f

s u p p o r t . S i n c e t h e p r o b a b i l i t y t h a t a s p e c i c s e q u e n c e i s i n c l u d e d i n a c u s t o m e r - s e q u e n c e i s p r o p o r t i o n a l

t o t h e a v e r a g e s i z e o f t h e p o t e n t i a l l a r g e s e q u e n c e s , i n c r e a s i n g t h e t o t a l n u m b e r o f i t e m s i n t h e p o t e n t i a l

l a r g e s e q u e n c e s l e a d s t o f e w e r m a x i m a l l a r g e s e q u e n c e s . F o r h i g h v a l u e s o f m i n i m u m s u p p o r t , f e w e r

m a x i m a l l a r g e s e q u e n c e s i m p l i e s f e w e r l a r g e s e q u e n c e s a n d h e n c e f a s t e r e x e c u t i o n t i m e s . B u t f o r l o w e r

m i n i m u m s u p p o r t , t h i s e e c t i s o u t w e i g h e d b y t h e f a c t t h a t l o n g e r l a r g e s e q u e n c e s h a v e m a n y m o r e

1 9


22/24

0

0.5

1

1.5

2

2.5

3

10 20 30 40 50

RelativeTime

# of Transactions Per Customer

20010050

0

0.5

1

1.5

2

2.5

3

2.5 5 7.5 10 12.5

RelativeTime

Transaction Size

20010050

F i g u r e 2 5 : S c a l e - u p : N u m b e r o f I t e m s p e r C u s t o m e r

s u b s e q u e n c e s , a n d h e n c e t h e e x e c u t i o n t i m e i n c r e a s e s .

0

0.5

1

1.5

2

2.5

3

2 4 6 8 10

RelativeTime

Large Sequence Length (# Transactions)

2%1%

0.5%

0

0.5

1

1.5

2

2.5

3

1 2 3 4 5

RelativeTime

Large Itemset Size

2%1%

0.5%

F i g u r e 2 6 : S c a l e - u p : N u m b e r o f I t e m s p e r L a r g e S e q u e n c e

5 . C o n c l u s i o n s a n d F u t u r e W o r k

W e i n t r o d u c e d a n e w p r o b l e m o f m i n i n g s e q u e n t i a l p a t t e r n s f r o m a d a t a b a s e o f c u s t o m e r s a l e s

t r a n s a c t i o n s a n d p r e s e n t e d t h r e e a l g o r i t h m s f o r s o l v i n g t h i s p r o b l e m . T w o o f t h e a l g o r i t h m s , A p r i o r i -

S o m e a n d A p r i o r i A l l , h a v e c o m p a r a b l e p e r f o r m a n c e , a l t h o u g h A p r i o r i S o m e p e r f o r m s a l i t t l e b e t t e r f o r

t h e l o w e r v a l u e s o f t h e m i n i m u m n u m b e r o f c u s t o m e r s t h a t m u s t s u p p o r t a s e q u e n t i a l p a t t e r n . S c a l e - u p

e x p e r i m e n t s s h o w t h a t b o t h A p r i o r i S o m e a n d A p r i o r i A l l s c a l e l i n e a r l y w i t h t h e n u m b e r o f c u s t o m e r

t r a n s a c t i o n s . T h e y a l s o h a v e e x c e l l e n t s c a l e - u p p r o p e r t i e s w i t h r e s p e c t t o t h e n u m b e r o f t r a n s a c t i o n s

i n a c u s t o m e r s e q u e n c e a n d t h e n u m b e r o f i t e m s i n a t r a n s a c t i o n .

I n s o m e a p p l i c a t i o n s , t h e u s e r m a y w a n t t o k n o w t h e r a t i o o f t h e n u m b e r o f p e o p l e w h o b o u g h t

t h e r s t k + 1 i t e m s i n a s e q u e n c e t o t h e n u m b e r o f p e o p l e w h o b o u g h t t h e r s t k i t e m s , f o r 0 k

2 0


23/24

l e n g t h o f s e q u e n c e . I n t h i s c a s e , w e w i l l h a v e t o m a k e a n a d d i t i o n a l p a s s o v e r t h e d a t a t o g e t c o u n t s

f o r a l l p r e x e s o f l a r g e s e q u e n c e s i f w e w e r e u s i n g t h e A p r i o r i S o m e a l g o r i t h m s . W i t h t h e A p r i o r i A l l

a l g o r i t h m , w e a l r e a d y h a v e t h e s e c o u n t s . I n s u c h a p p l i c a t i o n s , t h e r e f o r e , A p r i o r i A l l w i l l b e c o m e t h e

p r e f e r r e d a l g o r i t h m .

T h e s e a l g o r i t h m s h a v e b e e n i m p l e m e n t e d o n s e v e r a l d a t a r e p o s i t o r i e s , i n c l u d i n g t h e A I X l e s y s t e m

a n d D B 2 6 0 0 0 , a n d h a v e b e e n r u n a g a i n s t c u s t o m e r d a t a . I n t h e f u t u r e , w e p l a n t o e x t e n d t h i s w o r k

a l o n g t h e f o l l o w i n g l i n e s :

E x t e n s i o n o f t h e a l g o r i t h m s t o d i s c o v e r s e q u e n t i a l p a t t e r n s a c r o s s i t e m c a t e g o r i e s . A n e x a m p l e

o f s u c h a c a t e g o r y i s t h a t a d i s h w a s h e r i s a k i t c h e n a p p l i a n c e i s a h e a v y e l e c t r i c a p p l i a n c e , e t c .

T r a n s p o s i t i o n o f c o n s t r a i n t s i n t o t h e d i s c o v e r y a l g o r i t h m s . T h e r e c o u l d b e i t e m c o n s t r a i n t s e . g .

s e q u e n t i a l p a t t e r n s i n v o l v i n g h o m e a p p l i a n c e s o r t i m e c o n s t r a i n t s e . g . t h e e l e m e n t s o f t h e

p a t t e r n s s h o u l d c o m e f r o m t r a n s a c t i o n s t h a t a r e a t l e a s t d

1

a n d a t m o s t d

2

d a y s a p a r t .

R e f e r e n c e s .

A G M

+

9 0 S . F . A l t s c h u l , W . G i s h , W . M i l l e r , E . W . M y e r s , a n d D . J . L i p m a n . A b a s i c l o c a l a l i g n m e n t

s e a r c h t o o l . J o u r n a l o f M o l e c u l a r B i o l o g y , 1 9 9 0 .

A I S 9 3 R a k e s h A g r a w a l , T o m a s z I m i e l i n s k i , a n d A r u n S w a m i . M i n i n g a s s o c i a t i o n r u l e s b e t w e e n

s e t s o f i t e m s i n l a r g e d a t a b a s e s . I n P r o c . o f t h e A C M S I G M O D C o n f e r e n c e o n M a n a g e m e n t

o f D a t a , W a s h i n g t o n , D . C . , M a y 1 9 9 3 .

A S 9 4 R a k e s h A g r a w

Date post:	07-Apr-2018
Category:	Documents
Upload:	karthikeyan-purusothaman
View:	221 times
Download:	0 times

Sequential Patterns Original Agrawal

Documents