Rice University; Fundamentals of EE I

7/30/2019 Rice University; Fundamentals of EE I

http://slidepdf.com/reader/full/rice-university-fundamentals-of-ee-i 1/333

Fundamentals of Electrical Engineering I

By:

Don Johnson





Fundamentals of Electrical Engineering I

By:

Don Johnson

Online:< http://cnx.org/content/col10040/1.9/ >

C O N N E X I O N S

Rice University, Houston, Texas



T h i s s e l e c t i o n a n d a r r a n g e m e n t o f c o n t e n t a s a c o l l e c t i o n i s c o p y r i g h t e d b y D o n J o h n s o n . I t i s l i c e n s e d u n d e r t h e

C r e a t i v e C o m m o n s A t t r i b u t i o n 1 . 0 l i c e n s e ( h t t p : / / c r e a t i v e c o m m o n s . o r g / l i c e n s e s / b y / 1 . 0 ) .

C o l l e c t i o n s t r u c t u r e r e v i s e d : A u g u s t 6 , 2 0 0 8

P D F g e n e r a t e d : J a n u a r y 1 6 , 2 0 1 3

F o r c o p y r i g h t a n d a t t r i b u t i o n i n f o r m a t i o n f o r t h e m o d u l e s c o n t a i n e d i n t h i s c o l l e c t i o n , s e e p . 3 1 2 .



T a b l e o f C o n t e n t s

1 I n t r o d u c t i o n

1 . 1 T h e m e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1 . 2 S i g n a l s R e p r e s e n t I n f o r m a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

1 . 3 S t r u c t u r e o f C o m m u n i c a t i o n S y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

1 . 4 T h e F u n d a m e n t a l S i g n a l . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

1 . 5 I n t r o d u c t i o n P r o b l e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1

2 S i g n a l s a n d S y s t e m s

2 . 1 C o m p l e x N u m b e r s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 3

2 . 2 E l e m e n t a l S i g n a l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 7

2 . 3 S i g n a l D e c o m p o s i t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2

2 . 4 D i s c r e t e - T i m e S i g n a l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2

2 . 5 I n t r o d u c t i o n t o S y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5

2 . 6 S i m p l e S y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7

2 . 7 S i g n a l s a n d S y s t e m s P r o b l e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 7

3 A n a l o g S i g n a l P r o c e s s i n g

3 . 1 V o l t a g e , C u r r e n t , a n d G e n e r i c C i r c u i t E l e m e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 9

3 . 2 I d e a l C i r c u i t E l e m e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 0

3 . 3 I d e a l a n d R e a l - W o r l d C i r c u i t E l e m e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 3

3 . 4 E l e c t r i c C i r c u i t s a n d I n t e r c o n n e c t i o n L a w s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 3

3 . 5 P o w e r D i s s i p a t i o n i n R e s i s t o r C i r c u i t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 6

3 . 6 S e r i e s a n d P a r a l l e l C i r c u i t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 8

3 . 7 E q u i v a l e n t C i r c u i t s : R e s i s t o r s a n d S o u r c e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 3

3 . 8 C i r c u i t s w i t h C a p a c i t o r s a n d I n d u c t o r s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 8

3 . 9 T h e I m p e d a n c e C o n c e p t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 9

3 . 1 0 T i m e a n d F r e q u e n c y D o m a i n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 0

3 . 1 1 P o w e r i n t h e F r e q u e n c y D o m a i n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 3

3 . 1 2 E q u i v a l e n t C i r c u i t s : I m p e d a n c e s a n d S o u r c e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 4

3 . 1 3 T r a n s f e r F u n c t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 6

3 . 1 4 D e s i g n i n g T r a n s f e r F u n c t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 9

3 . 1 5 F o r m a l C i r c u i t M e t h o d s : N o d e M e t h o d . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1

3 . 1 6 P o w e r C o n s e r v a t i o n i n C i r c u i t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 6

3 . 1 7 E l e c t r o n i c s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 7

3 . 1 8 D e p e n d e n t S o u r c e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 7

3 . 1 9 O p e r a t i o n a l A m p l i e r s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 0

3 . 2 0 T h e D i o d e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 6

3 . 2 1 A n a l o g S i g n a l P r o c e s s i n g P r o b l e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 8

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 6

4 F r e q u e n c y D o m a i n

4 . 1 I n t r o d u c t i o n t o t h e F r e q u e n c y D o m a i n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 9

4 . 2 C o m p l e x F o u r i e r S e r i e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 9

4 . 3 C l a s s i c F o u r i e r S e r i e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 2 4

4 . 4 A S i g n a l ' s S p e c t r u m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 2 6

4 . 5 F o u r i e r S e r i e s A p p r o x i m a t i o n o f S i g n a l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 2 8

4 . 6 E n c o d i n g I n f o r m a t i o n i n t h e F r e q u e n c y D o m a i n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 3 3

4 . 7 F i l t e r i n g P e r i o d i c S i g n a l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 3 5



i v

4 . 8 D e r i v a t i o n o f t h e F o u r i e r T r a n s f o r m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 3 7

4 . 9 L i n e a r T i m e I n v a r i a n t S y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 4 2

4 . 1 0 M o d e l i n g t h e S p e e c h S i g n a l . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 4 5

4 . 1 1 F r e q u e n c y D o m a i n P r o b l e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 5 2

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 6 7

5 D i g i t a l S i g n a l P r o c e s s i n g

5 . 1 I n t r o d u c t i o n t o D i g i t a l S i g n a l P r o c e s s i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 6 9

5 . 2 I n t r o d u c t i o n t o C o m p u t e r O r g a n i z a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 6 9

5 . 3 T h e S a m p l i n g T h e o r e m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 7 3

5 . 4 A m p l i t u d e Q u a n t i z a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 7 6

5 . 5 D i s c r e t e - T i m e S i g n a l s a n d S y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 7 9

5 . 6 D i s c r e t e - T i m e F o u r i e r T r a n s f o r m ( D T F T ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 8 1

5 . 7 D i s c r e t e F o u r i e r T r a n s f o r m s ( D F T ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 8 6

5 . 8 D F T : C o m p u t a t i o n a l C o m p l e x i t y . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 8 8

5 . 9 F a s t F o u r i e r T r a n s f o r m ( F F T ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 8 9

5 . 1 0 S p e c t r o g r a m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 9 1

5 . 1 1 D i s c r e t e - T i m e S y s t e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 9 5

5 . 1 2 D i s c r e t e - T i m e S y s t e m s i n t h e T i m e - D o m a i n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 9 6

5 . 1 3 D i s c r e t e - T i m e S y s t e m s i n t h e F r e q u e n c y D o m a i n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 9 9

5 . 1 4 F i l t e r i n g i n t h e F r e q u e n c y D o m a i n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 0 0

5 . 1 5 E c i e n c y o f F r e q u e n c y - D o m a i n F i l t e r i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 0 4

5 . 1 6 D i s c r e t e - T i m e F i l t e r i n g o f A n a l o g S i g n a l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 0 7

5 . 1 7 D i g i t a l S i g n a l P r o c e s s i n g P r o b l e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 0 8

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2 1

6 I n f o r m a t i o n C o m m u n i c a t i o n

6 . 1 I n f o r m a t i o n C o m m u n i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2 5

6 . 2 T y p e s o f C o m m u n i c a t i o n C h a n n e l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2 6

6 . 3 W i r e l i n e C h a n n e l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2 6

6 . 4 W i r e l e s s C h a n n e l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 1

6 . 5 L i n e - o f - S i g h t T r a n s m i s s i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 2

6 . 6 T h e I o n o s p h e r e a n d C o m m u n i c a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 3

6 . 7 C o m m u n i c a t i o n w i t h S a t e l l i t e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 4

6 . 8 N o i s e a n d I n t e r f e r e n c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 4

6 . 9 C h a n n e l M o d e l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 5

6 . 1 0 B a s e b a n d C o m m u n i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 6

6 . 1 1 M o d u l a t e d C o m m u n i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 7

6 . 1 2 S i g n a l - t o - N o i s e R a t i o o f a n A m p l i t u d e - M o d u l a t e d S i g n a l . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 3 9

6 . 1 3 D i g i t a l C o m m u n i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4 0

6 . 1 4 B i n a r y P h a s e S h i f t K e y i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4 1

6 . 1 5 F r e q u e n c y S h i f t K e y i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4 4

6 . 1 6 D i g i t a l C o m m u n i c a t i o n R e c e i v e r s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4 5

6 . 1 7 D i g i t a l C o m m u n i c a t i o n i n t h e P r e s e n c e o f N o i s e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4 7

6 . 1 8 D i g i t a l C o m m u n i c a t i o n S y s t e m P r o p e r t i e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4 9

6 . 1 9 D i g i t a l C h a n n e l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 0

6 . 2 0 E n t r o p y . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 1

6 . 2 1 S o u r c e C o d i n g T h e o r e m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 2

6 . 2 2 C o m p r e s s i o n a n d t h e H u m a n C o d e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 4

6 . 2 3 S u b t l i e s o f C o d i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 6

6 . 2 4 C h a n n e l C o d i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 9

6 . 2 5 R e p e t i t i o n C o d e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 5 9

6 . 2 6 B l o c k C h a n n e l C o d i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 6 1

A v a i l a b l e f o r f r e e a t C o n n e x i o n s < h t t p : / / c n x . o r g / c o n t e n t / c o l 1 0 0 4 0 / 1 . 9 >



v

6 . 2 7 E r r o r - C o r r e c t i n g C o d e s : H a m m i n g D i s t a n c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 6 2

6 . 2 8 E r r o r - C o r r e c t i n g C o d e s : C h a n n e l D e c o d i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 6 4

6 . 2 9 E r r o r - C o r r e c t i n g C o d e s : H a m m i n g C o d e s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 6 6

6 . 3 0 N o i s y C h a n n e l C o d i n g T h e o r e m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 6 8

6 . 3 1 C a p a c i t y o f a C h a n n e l . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 6 9

6 . 3 2 C o m p a r i s o n o f A n a l o g a n d D i g i t a l C o m m u n i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 0

6 . 3 3 C o m m u n i c a t i o n N e t w o r k s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 1

6 . 3 4 M e s s a g e R o u t i n g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 2

6 . 3 5 N e t w o r k a r c h i t e c t u r e s a n d i n t e r c o n n e c t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 3

6 . 3 6 E t h e r n e t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 4

6 . 3 7 C o m m u n i c a t i o n P r o t o c o l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 6

6 . 3 8 I n f o r m a t i o n C o m m u n i c a t i o n P r o b l e m s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7 8

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 9 4

7 A p p e n d i x

7 . 1 D e c i b e l s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 9 9

7 . 2 P e r m u t a t i o n s a n d C o m b i n a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0 1

7 . 3 F r e q u e n c y A l l o c a t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0 2

S o l u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0 4

I n d e x . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0 5

A t t r i b u t i o n s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1 2




v i




C h a p t e r 1

I n t r o d u c t i o n

1 . 1 T h e m e s

1

F r o m i t s b e g i n n i n g s i n t h e l a t e n i n e t e e n t h c e n t u r y , e l e c t r i c a l e n g i n e e r i n g h a s b l o s s o m e d f r o m f o c u s i n g o n

e l e c t r i c a l c i r c u i t s f o r p o w e r , t e l e g r a p h y a n d t e l e p h o n y t o f o c u s i n g o n a m u c h b r o a d e r r a n g e o f d i s c i p l i n e s .

H o w e v e r , t h e u n d e r l y i n g t h e m e s a r e r e l e v a n t t o d a y : P o w e r c r e a t i o n a n d t r a n s m i s s i o n a n d i n f o r m a t i o n

h a v e b e e n t h e u n d e r l y i n g t h e m e s o f e l e c t r i c a l e n g i n e e r i n g f o r a c e n t u r y a n d a h a l f . T h i s c o u r s e c o n c e n t r a t e s

o n t h e l a t t e r t h e m e : t h e r e p r e s e n t a t i o n , m a n i p u l a t i o n , t r a n s m i s s i o n , a n d r e c e p t i o n o f i n f o r m a t i o n

b y e l e c t r i c a l m e a n s . T h i s c o u r s e d e s c r i b e s w h a t i n f o r m a t i o n i s , h o w e n g i n e e r s q u a n t i f y i n f o r m a t i o n , a n d

h o w e l e c t r i c a l s i g n a l s r e p r e s e n t i n f o r m a t i o n .

I n f o r m a t i o n c a n t a k e a v a r i e t y o f f o r m s . W h e n y o u s p e a k t o a f r i e n d , y o u r t h o u g h t s a r e t r a n s l a t e d b y

y o u r b r a i n i n t o m o t o r c o m m a n d s t h a t c a u s e v a r i o u s v o c a l t r a c t c o m p o n e n t s t h e j a w , t h e t o n g u e , t h e l i p s t o

m o v e i n a c o o r d i n a t e d f a s h i o n . I n f o r m a t i o n a r i s e s i n y o u r t h o u g h t s a n d i s r e p r e s e n t e d b y s p e e c h , w h i c h m u s t

h a v e a w e l l d e n e d , b r o a d l y k n o w n s t r u c t u r e s o t h a t s o m e o n e e l s e c a n u n d e r s t a n d w h a t y o u s a y . U t t e r a n c e s

c o n v e y i n f o r m a t i o n i n s o u n d p r e s s u r e w a v e s , w h i c h p r o p a g a t e t o y o u r f r i e n d ' s e a r . T h e r e , s o u n d e n e r g y i s

c o n v e r t e d b a c k t o n e u r a l a c t i v i t y , a n d , i f w h a t y o u s a y m a k e s s e n s e , s h e u n d e r s t a n d s w h a t y o u s a y . Y o u r

w o r d s c o u l d h a v e b e e n r e c o r d e d o n a c o m p a c t d i s c ( C D ) , m a i l e d t o y o u r f r i e n d a n d l i s t e n e d t o b y h e r o n

h e r s t e r e o . I n f o r m a t i o n c a n t a k e t h e f o r m o f a t e x t l e y o u t y p e i n t o y o u r w o r d p r o c e s s o r . Y o u m i g h t s e n d

t h e l e v i a e - m a i l t o a f r i e n d , w h o r e a d s i t a n d u n d e r s t a n d s i t . F r o m a n i n f o r m a t i o n t h e o r e t i c v i e w p o i n t , a l l

o f t h e s e s c e n a r i o s a r e e q u i v a l e n t , a l t h o u g h t h e f o r m s o f t h e i n f o r m a t i o n r e p r e s e n t a t i o n s o u n d w a v e s , p l a s t i c

a n d c o m p u t e r l e s a r e v e r y d i e r e n t .

E n g i n e e r s , w h o d o n ' t c a r e a b o u t i n f o r m a t i o n c o n t e n t , c a t e g o r i z e i n f o r m a t i o n i n t o t w o d i e r e n t f o r m s :

a n a l o g a n d d i g i t a l . A n a l o g i n f o r m a t i o n i s c o n t i n u o u s v a l u e d ; e x a m p l e s a r e a u d i o a n d v i d e o . D i g i t a l

i n f o r m a t i o n i s d i s c r e t e v a l u e d ; e x a m p l e s a r e t e x t ( l i k e w h a t y o u a r e r e a d i n g n o w ) a n d D N A s e q u e n c e s .

T h e c o n v e r s i o n o f i n f o r m a t i o n - b e a r i n g s i g n a l s f r o m o n e e n e r g y f o r m i n t o a n o t h e r i s k n o w n a s e n e r g y

c o n v e r s i o n o r t r a n s d u c t i o n . A l l c o n v e r s i o n s y s t e m s a r e i n e c i e n t s i n c e s o m e i n p u t e n e r g y i s l o s t a s h e a t ,

b u t t h i s l o s s d o e s n o t n e c e s s a r i l y m e a n t h a t t h e c o n v e y e d i n f o r m a t i o n i s l o s t . C o n c e p t u a l l y w e c o u l d u s e a n y

f o r m o f e n e r g y t o r e p r e s e n t i n f o r m a t i o n , b u t e l e c t r i c s i g n a l s a r e u n i q u e l y w e l l - s u i t e d f o r i n f o r m a t i o n r e p r e -

s e n t a t i o n , t r a n s m i s s i o n ( s i g n a l s c a n b e b r o a d c a s t f r o m a n t e n n a s o r s e n t t h r o u g h w i r e s ) , a n d m a n i p u l a t i o n

( c i r c u i t s c a n b e b u i l t t o r e d u c e n o i s e a n d c o m p u t e r s c a n b e u s e d t o m o d i f y i n f o r m a t i o n ) . T h u s , w e w i l l b e

c o n c e r n e d w i t h h o w t o

• r e p r e s e n t a l l f o r m s o f i n f o r m a t i o n w i t h e l e c t r i c a l s i g n a l s ,

• e n c o d e i n f o r m a t i o n a s v o l t a g e s , c u r r e n t s , a n d e l e c t r o m a g n e t i c w a v e s ,

• m a n i p u l a t e i n f o r m a t i o n - b e a r i n g e l e c t r i c s i g n a l s w i t h c i r c u i t s a n d c o m p u t e r s , a n d

• r e c e i v e e l e c t r i c s i g n a l s a n d c o n v e r t t h e i n f o r m a t i o n e x p r e s s e d b y e l e c t r i c s i g n a l s b a c k i n t o a u s e f u l

f o r m .

1

T h i s c o n t e n t i s a v a i l a b l e o n l i n e a t < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 0 0 / 2 . 1 8 / > .


1



2

C H A P T E R 1 . I N T R O D U C T I O N

T e l e g r a p h y r e p r e s e n t s t h e e a r l i e s t e l e c t r i c a l i n f o r m a t i o n s y s t e m , a n d i t d a t e s f r o m 1 8 3 7 . A t t h a t t i m e ,

e l e c t r i c a l s c i e n c e w a s l a r g e l y e m p i r i c a l , a n d o n l y t h o s e w i t h e x p e r i e n c e a n d i n t u i t i o n c o u l d d e v e l o p t e l e g r a p h

s y s t e m s . E l e c t r i c a l s c i e n c e c a m e o f a g e w h e n J a m e s C l e r k M a x w e l l

2

p r o c l a i m e d i n 1 8 6 4 a s e t o f e q u a t i o n s

t h a t h e c l a i m e d g o v e r n e d a l l e l e c t r i c a l p h e n o m e n a . T h e s e e q u a t i o n s p r e d i c t e d t h a t l i g h t w a s a n e l e c t r o -

m a g n e t i c w a v e , a n d t h a t e n e r g y c o u l d p r o p a g a t e . B e c a u s e o f t h e c o m p l e x i t y o f M a x w e l l ' s p r e s e n t a t i o n , t h e

d e v e l o p m e n t o f t h e t e l e p h o n e i n 1 8 7 6 w a s d u e l a r g e l y t o e m p i r i c a l w o r k . O n c e H e i n r i c h H e r t z c o n r m e d

M a x w e l l ' s p r e d i c t i o n o f w h a t w e n o w c a l l r a d i o w a v e s i n a b o u t 1 8 8 2 , M a x w e l l ' s e q u a t i o n s w e r e s i m p l i e d

b y O l i v e r H e a v i s i d e a n d o t h e r s , a n d w e r e w i d e l y r e a d . T h i s u n d e r s t a n d i n g o f f u n d a m e n t a l s l e d t o a q u i c k

s u c c e s s i o n o f i n v e n t i o n s t h e w i r e l e s s t e l e g r a p h ( 1 8 9 9 ) , t h e v a c u u m t u b e ( 1 9 0 5 ) , a n d r a d i o b r o a d c a s t i n g t h a t

m a r k e d t h e t r u e e m e r g e n c e o f t h e c o m m u n i c a t i o n s a g e .

D u r i n g t h e r s t p a r t o f t h e t w e n t i e t h c e n t u r y , c i r c u i t t h e o r y a n d e l e c t r o m a g n e t i c t h e o r y w e r e a l l a n

e l e c t r i c a l e n g i n e e r n e e d e d t o k n o w t o b e q u a l i e d a n d p r o d u c e r s t - r a t e d e s i g n s . C o n s e q u e n t l y , c i r c u i t t h e o r y

s e r v e d a s t h e f o u n d a t i o n a n d t h e f r a m e w o r k o f a l l o f e l e c t r i c a l e n g i n e e r i n g e d u c a t i o n . A t m i d - c e n t u r y , t h r e e

" i n v e n t i o n s " c h a n g e d t h e g r o u n d r u l e s . T h e s e w e r e t h e r s t p u b l i c d e m o n s t r a t i o n o f t h e r s t e l e c t r o n i c

c o m p u t e r ( 1 9 4 6 ) , t h e i n v e n t i o n o f t h e t r a n s i s t o r ( 1 9 4 7 ) , a n d t h e p u b l i c a t i o n o f A M a t h e m a t i c a l T h e o r y

o f C o m m u n i c a t i o n b y C l a u d e S h a n n o n

3

( 1 9 4 8 ) . A l t h o u g h c o n c e i v e d s e p a r a t e l y , t h e s e c r e a t i o n s g a v e b i r t h

t o t h e i n f o r m a t i o n a g e , i n w h i c h d i g i t a l a n d a n a l o g c o m m u n i c a t i o n s y s t e m s i n t e r a c t a n d c o m p e t e f o r d e s i g n

p r e f e r e n c e s . A b o u t t w e n t y y e a r s l a t e r , t h e l a s e r w a s i n v e n t e d , w h i c h o p e n e d e v e n m o r e d e s i g n p o s s i b i l i t i e s .

T h u s , t h e p r i m a r y f o c u s s h i f t e d f r o m h o w t o b u i l d c o m m u n i c a t i o n s y s t e m s ( t h e c i r c u i t t h e o r y e r a ) t o w h a t

c o m m u n i c a t i o n s s y s t e m s w e r e i n t e n d e d t o a c c o m p l i s h . O n l y o n c e t h e i n t e n d e d s y s t e m i s s p e c i e d c a n a n

i m p l e m e n t a t i o n b e s e l e c t e d . T o d a y ' s e l e c t r i c a l e n g i n e e r m u s t b e m i n d f u l o f t h e s y s t e m ' s u l t i m a t e g o a l ,

a n d u n d e r s t a n d t h e t r a d e o s b e t w e e n d i g i t a l a n d a n a l o g a l t e r n a t i v e s , a n d b e t w e e n h a r d w a r e a n d s o f t w a r e

c o n g u r a t i o n s i n d e s i g n i n g i n f o r m a t i o n s y s t e m s .

n o t e : T h a n k s t o t h e t r a n s l a t i o n e o r t s o f R i c e U n i v e r s i t y ' s D i s a b i l i t y S u p p o r t S e r v i c e s

4

, t h i s

c o l l e c t i o n i s n o w a v a i l a b l e i n a B r a i l l e - p r i n t a b l e v e r s i o n . P l e a s e c l i c k h e r e

5

t o d o w n l o a d a . z i p l e

c o n t a i n i n g a l l t h e n e c e s s a r y . d x b a n d i m a g e l e s .

1 . 2 S i g n a l s R e p r e s e n t I n f o r m a t i o n

6

W h e t h e r a n a l o g o r d i g i t a l , i n f o r m a t i o n i s r e p r e s e n t e d b y t h e f u n d a m e n t a l q u a n t i t y i n e l e c t r i c a l e n g i n e e r i n g :

t h e s i g n a l . S t a t e d i n m a t h e m a t i c a l t e r m s , a s i g n a l i s m e r e l y a f u n c t i o n . A n a l o g s i g n a l s a r e c o n t i n u o u s -

v a l u e d ; d i g i t a l s i g n a l s a r e d i s c r e t e - v a l u e d . T h e i n d e p e n d e n t v a r i a b l e o f t h e s i g n a l c o u l d b e t i m e ( s p e e c h , f o r

e x a m p l e ) , s p a c e ( i m a g e s ) , o r t h e i n t e g e r s ( d e n o t i n g t h e s e q u e n c i n g o f l e t t e r s a n d n u m b e r s i n t h e f o o t b a l l

s c o r e ) .

1 . 2 . 1 A n a l o g S i g n a l s

A n a l o g s i g n a l s a r e u s u a l l y s i g n a l s d e n e d o v e r c o n t i n u o u s i n d e p e n d e n t v a r i a b l e ( s ) . S p e e c h

( S e c t i o n 4 . 1 0 ) i s p r o d u c e d b y y o u r v o c a l c o r d s e x c i t i n g a c o u s t i c r e s o n a n c e s i n y o u r v o c a l t r a c t . T h e r e s u l t

i s p r e s s u r e w a v e s p r o p a g a t i n g i n t h e a i r , a n d t h e s p e e c h s i g n a l t h u s c o r r e s p o n d s t o a f u n c t i o n h a v i n g i n d e -

p e n d e n t v a r i a b l e s o f s p a c e a n d t i m e a n d a v a l u e c o r r e s p o n d i n g t o a i r p r e s s u r e : s (x, t) ( H e r e w e u s e v e c t o r

n o t a t i o n x t o d e n o t e s p a t i a l c o o r d i n a t e s ) . W h e n y o u r e c o r d s o m e o n e t a l k i n g , y o u a r e e v a l u a t i n g t h e s p e e c h

s i g n a l a t a p a r t i c u l a r s p a t i a l l o c a t i o n , x0 s a y . A n e x a m p l e o f t h e r e s u l t i n g w a v e f o r m s (x0, t) i s s h o w n i n t h i s

g u r e ( F i g u r e 1 . 1 : S p e e c h E x a m p l e ) .

2

h t t p : / / w w w - g r o u p s . d c s . s t - a n d r e w s . a c . u k /

∼h i s t o r y / M a t h e m a t i c i a n s / M a x w e l l . h t m l

3

h t t p : / / w w w . l u c e n t . c o m / m i n d s / i n f o t h e o r y /

4

h t t p : / / w w w . d s s . r i c e . e d u /

5

h t t p : / / c n x . o r g / c o n t e n t / m 0 0 0 0 / l a t e s t / F u n d E l e c E n g B r a i l l e . z i p

6





3

S p e e c h E x a m p l e

-0.5

-0.4

-0.3

-0.2

-0.1

0

0.1

0.2

0.3

0.4

0.5

A m

p l i t u d e

F i g u r e 1 . 1 : A s p e e c h s i g n a l ' s a m p l i t u d e r e l a t e s t o t i n y a i r p r e s s u r e v a r i a t i o n s . S h o w n i s a r e c o r d i n g

o f t h e v o w e l " e " ( a s i n " s p e e c h " ) .

P h o t o g r a p h s a r e s t a t i c , a n d a r e c o n t i n u o u s - v a l u e d s i g n a l s d e n e d o v e r s p a c e . B l a c k - a n d - w h i t e i m a g e s

h a v e o n l y o n e v a l u e a t e a c h p o i n t i n s p a c e , w h i c h a m o u n t s t o i t s o p t i c a l r e e c t i o n p r o p e r t i e s . I n F i g -

u r e 1 . 2 ( L e n a ) , a n i m a g e i s s h o w n , d e m o n s t r a t i n g t h a t i t ( a n d a l l o t h e r i m a g e s a s w e l l ) a r e f u n c t i o n s o f t w o

i n d e p e n d e n t s p a t i a l v a r i a b l e s .




4


L e n a

( a ) ( b )

F i g u r e 1 . 2 : O n t h e l e f t i s t h e c l a s s i c L e n a i m a g e , w h i c h i s u s e d u b i q u i t o u s l y a s a t e s t i m a g e . I t

c o n t a i n s s t r a i g h t a n d c u r v e d l i n e s , c o m p l i c a t e d t e x t u r e , a n d a f a c e . O n t h e r i g h t i s a p e r s p e c t i v e d i s p l a y

o f t h e L e n a i m a g e a s a s i g n a l : a f u n c t i o n o f t w o s p a t i a l v a r i a b l e s . T h e c o l o r s m e r e l y h e l p s h o w w h a t

s i g n a l v a l u e s a r e a b o u t t h e s a m e s i z e . I n t h i s i m a g e , s i g n a l v a l u e s r a n g e b e t w e e n 0 a n d 2 5 5 ; w h y i s t h a t ?

C o l o r i m a g e s h a v e v a l u e s t h a t e x p r e s s h o w r e e c t i v i t y d e p e n d s o n t h e o p t i c a l s p e c t r u m . P a i n t e r s l o n g a g o

f o u n d t h a t m i x i n g t o g e t h e r c o m b i n a t i o n s o f t h e s o - c a l l e d p r i m a r y c o l o r s r e d , y e l l o w a n d b l u e c a n p r o d u c e

v e r y r e a l i s t i c c o l o r i m a g e s . T h u s , i m a g e s t o d a y a r e u s u a l l y t h o u g h t o f a s h a v i n g t h r e e v a l u e s a t e v e r y p o i n t

i n s p a c e , b u t a d i e r e n t s e t o f c o l o r s i s u s e d : H o w m u c h o f r e d , g r e e n a n d b l u e i s p r e s e n t . M a t h e m a t i c a l l y ,

c o l o r p i c t u r e s a r e m u l t i v a l u e d v e c t o r - v a l u e d s i g n a l s : s (x) = (r (x) , g (x) , b (x))T

.

I n t e r e s t i n g c a s e s a b o u n d w h e r e t h e a n a l o g s i g n a l d e p e n d s n o t o n a c o n t i n u o u s v a r i a b l e , s u c h a s t i m e , b u t

o n a d i s c r e t e v a r i a b l e . F o r e x a m p l e , t e m p e r a t u r e r e a d i n g s t a k e n e v e r y h o u r h a v e c o n t i n u o u s a n a l o g v a l u e s ,

b u t t h e s i g n a l ' s i n d e p e n d e n t v a r i a b l e i s ( e s s e n t i a l l y ) t h e i n t e g e r s .

1 . 2 . 2 D i g i t a l S i g n a l s

T h e w o r d " d i g i t a l " m e a n s d i s c r e t e - v a l u e d a n d i m p l i e s t h e s i g n a l h a s a n i n t e g e r - v a l u e d i n d e p e n d e n t v a r i a b l e .

D i g i t a l i n f o r m a t i o n i n c l u d e s n u m b e r s a n d s y m b o l s ( c h a r a c t e r s t y p e d o n t h e k e y b o a r d , f o r e x a m p l e ) . C o m -

p u t e r s r e l y o n t h e d i g i t a l r e p r e s e n t a t i o n o f i n f o r m a t i o n t o m a n i p u l a t e a n d t r a n s f o r m i n f o r m a t i o n . S y m b o l s

d o n o t h a v e a n u m e r i c v a l u e , a n d e a c h i s r e p r e s e n t e d b y a u n i q u e n u m b e r . T h e A S C I I c h a r a c t e r c o d e h a s t h e

u p p e r - a n d l o w e r c a s e c h a r a c t e r s , t h e n u m b e r s , p u n c t u a t i o n m a r k s , a n d v a r i o u s o t h e r s y m b o l s r e p r e s e n t e d

b y a s e v e n - b i t i n t e g e r . F o r e x a m p l e , t h e A S C I I c o d e r e p r e s e n t s t h e l e t t e r a a s t h e n u m b e r 97 a n d t h e l e t t e r

A a s 65. T a b l e 1 . 1 : A S C I I T a b l e s h o w s t h e i n t e r n a t i o n a l c o n v e n t i o n o n a s s o c i a t i n g c h a r a c t e r s w i t h i n t e g e r s .

A S C I I T a b l e




5

0 0 n u l 0 1 s o h 0 2 s t x 0 3 e t x 0 4 e o t 0 5 e n q 0 6 a c k 0 7 b e l

0 8 b s 0 9 h t 0 A n l 0 B v t 0 C n p 0 D c r 0 E s o 0 F s i

1 0 d l e 1 1 d c 1 1 2 d c 2 1 3 d c 3 1 4 d c 4 1 5 n a k 1 6 s y n 1 7 e t b

1 8 c a r 1 9 e m 1 A s u b 1 B e s c 1 C f s 1 D g s 1 E r s 1 F u s

2 0 s p 2 1 ! 2 2 " 2 3 # 2 4 $ 2 5 % 2 6 & 2 7 '

2 8 ( 2 9 ) 2 A * 2 B + 2 C , 2 D - 2 E . 2 F /

3 0 0 3 1 1 3 2 2 3 3 3 3 4 4 3 5 5 3 6 6 3 7 7

3 8 8 3 9 9 3 A : 3 B ; 3 C

<3 D = 3 E

>3 F ?

4 0 @ 4 1 A 4 2 B 4 3 C 4 4 D 4 5 E 4 6 F 4 7 G

4 8 H 4 9 I 4 A J 4 B K 4 C L 4 D M 4 E N 4 F 0

5 0 P 5 1 Q 5 2 R 5 3 S 5 4 T 5 5 U 5 6 V 5 7 W

5 8 X 5 9 Y 5 A Z 5 B [ 5 C

\5 D ] 5 E ^ 5 F _

6 0 ' 6 1 a 6 2 b 6 3 c 6 4 d 6 5 e 6 6 f 6 7 g

6 8 h 6 9 i 6 A j 6 B k 6 C l 6 D m 6 E n 6 F o

7 0 p 7 1 q 7 2 r 7 3 s 7 4 t 7 5 u 7 6 v 7 7 w

7 8 x 7 9 y 7 A z 7 B 7 C | 7 D 7 E ∼ 7 F d e l

T a b l e 1 . 1

: T h e A S C I I t r a n s l a t i o n t a b l e s h o w s h o w s t a n d a r d k e y b o a r d c h a r a c t e r s a r e r e p r e s e n t e d b y

i n t e g e r s . I n p a i r s o f c o l u m n s , t h i s t a b l e d i s p l a y s r s t t h e s o - c a l l e d 7 - b i t c o d e ( h o w m a n y c h a r a c t e r s i n a

s e v e n - b i t c o d e ? ) , t h e n t h e c h a r a c t e r t h e n u m b e r r e p r e s e n t s . T h e n u m e r i c c o d e s a r e r e p r e s e n t e d i n

h e x a d e c i m a l ( b a s e - 1 6 ) n o t a t i o n . M n e m o n i c c h a r a c t e r s c o r r e s p o n d t o c o n t r o l c h a r a c t e r s , s o m e o f w h i c h m a y

b e f a m i l i a r ( l i k e c r f o r c a r r i a g e r e t u r n ) a n d s o m e n o t ( b e l m e a n s a " b e l l " ) .

1 . 3 S t r u c t u r e o f C o m m u n i c a t i o n S y s t e m s

7

F u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n

Source Transmitter Channel Receiver Sink

message modulated

message

corrupted

modulatedmessage

demodulated

message

s(t) x(t) r(t) s(t)

F i g u r e 1 . 3 : T h e F u n d a m e n t a l M o d e l o f C o m m u n i c a t i o n .

7





6


D e n i t i o n o f a s y s t e m

System

x(t) y(t)

F i g u r e 1 . 4 : A s y s t e m o p e r a t e s o n i t s i n p u t s i g n a l x (t) t o p r o d u c e a n o u t p u t y (t).

T h e f u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n s i s p o r t r a y e d i n F i g u r e 1 . 3 ( F u n d a m e n t a l m o d e l o f c o m m u n i -

c a t i o n ) . I n t h i s f u n d a m e n t a l m o d e l , e a c h m e s s a g e - b e a r i n g s i g n a l , e x e m p l i e d b y

s (t), i s a n a l o g a n d i s a

f u n c t i o n o f t i m e . A s y s t e m o p e r a t e s o n z e r o , o n e , o r s e v e r a l s i g n a l s t o p r o d u c e m o r e s i g n a l s o r t o s i m p l y

a b s o r b t h e m ( F i g u r e 1 . 4 ( D e n i t i o n o f a s y s t e m ) ) . I n e l e c t r i c a l e n g i n e e r i n g , w e r e p r e s e n t a s y s t e m a s a b o x ,

r e c e i v i n g i n p u t s i g n a l s ( u s u a l l y c o m i n g f r o m t h e l e f t ) a n d p r o d u c i n g f r o m t h e m n e w o u t p u t s i g n a l s . T h i s

g r a p h i c a l r e p r e s e n t a t i o n i s k n o w n a s a b l o c k d i a g r a m . W e d e n o t e i n p u t s i g n a l s b y l i n e s h a v i n g a r r o w s

p o i n t i n g i n t o t h e b o x , o u t p u t s i g n a l s b y a r r o w s p o i n t i n g a w a y . A s t y p i e d b y t h e c o m m u n i c a t i o n s m o d e l ,

h o w i n f o r m a t i o n o w s , h o w i t i s c o r r u p t e d a n d m a n i p u l a t e d , a n d h o w i t i s u l t i m a t e l y r e c e i v e d i s s u m m a r i z e d

b y i n t e r c o n n e c t i n g b l o c k d i a g r a m s : T h e o u t p u t s o f o n e o r m o r e s y s t e m s s e r v e a s t h e i n p u t s t o o t h e r s .

I n t h e c o m m u n i c a t i o n s m o d e l , t h e s o u r c e p r o d u c e s a s i g n a l t h a t w i l l b e a b s o r b e d b y t h e s i n k . E x a m p l e s

o f t i m e - d o m a i n s i g n a l s p r o d u c e d b y a s o u r c e a r e m u s i c , s p e e c h , a n d c h a r a c t e r s t y p e d o n a k e y b o a r d . S i g n a l s

c a n a l s o b e f u n c t i o n s o f t w o v a r i a b l e s a n i m a g e i s a s i g n a l t h a t d e p e n d s o n t w o s p a t i a l v a r i a b l e s o r m o r e

t e l e v i s i o n p i c t u r e s ( v i d e o s i g n a l s ) a r e f u n c t i o n s o f t w o s p a t i a l v a r i a b l e s a n d t i m e . T h u s , i n f o r m a t i o n s o u r c e s

p r o d u c e s i g n a l s . I n p h y s i c a l s y s t e m s , e a c h s i g n a l c o r r e s p o n d s t o a n e l e c t r i c a l v o l t a g e o r c u r r e n t .

T o b e a b l e t o d e s i g n s y s t e m s , w e m u s t u n d e r s t a n d e l e c t r i c a l s c i e n c e a n d t e c h n o l o g y . H o w e v e r , w e r s t n e e d

t o u n d e r s t a n d t h e b i g p i c t u r e t o a p p r e c i a t e t h e c o n t e x t i n w h i c h t h e e l e c t r i c a l e n g i n e e r w o r k s .

I n c o m m u n i c a t i o n s y s t e m s , m e s s a g e s s i g n a l s p r o d u c e d b y s o u r c e s m u s t b e r e c a s t f o r t r a n s m i s s i o n .

T h e b l o c k d i a g r a m h a s t h e m e s s a g e s (t) p a s s i n g t h r o u g h a b l o c k l a b e l e d t r a n s m i t t e r t h a t p r o d u c e s t h e

s i g n a l x (t). I n t h e c a s e o f a r a d i o t r a n s m i t t e r , i t a c c e p t s a n i n p u t a u d i o s i g n a l a n d p r o d u c e s a s i g n a l t h a t

p h y s i c a l l y i s a n e l e c t r o m a g n e t i c w a v e r a d i a t e d b y a n a n t e n n a a n d p r o p a g a t i n g a s M a x w e l l ' s e q u a t i o n s p r e d i c t .

I n t h e c a s e o f a c o m p u t e r n e t w o r k , t y p e d c h a r a c t e r s a r e e n c a p s u l a t e d i n p a c k e t s , a t t a c h e d w i t h a d e s t i n a t i o n

a d d r e s s , a n d l a u n c h e d i n t o t h e I n t e r n e t . F r o m t h e c o m m u n i c a t i o n s y s t e m s b i g p i c t u r e p e r s p e c t i v e , t h e

s a m e b l o c k d i a g r a m a p p l i e s a l t h o u g h t h e s y s t e m s c a n b e v e r y d i e r e n t . I n a n y c a s e , t h e t r a n s m i t t e r s h o u l d

n o t o p e r a t e i n s u c h a w a y t h a t t h e m e s s a g e s (t) c a n n o t b e r e c o v e r e d f r o m x (t) . I n t h e m a t h e m a t i c a l s e n s e ,

t h e i n v e r s e s y s t e m m u s t e x i s t , e l s e t h e c o m m u n i c a t i o n s y s t e m c a n n o t b e c o n s i d e r e d r e l i a b l e . ( I t i s r i d i c u l o u s

t o t r a n s m i t a s i g n a l i n s u c h a w a y t h a t n o o n e c a n r e c o v e r t h e o r i g i n a l . H o w e v e r , c l e v e r s y s t e m s e x i s t t h a t

t r a n s m i t s i g n a l s s o t h a t o n l y t h e i n c r o w d c a n r e c o v e r t h e m . S u c h c r y t o g r a p h i c s y s t e m s u n d e r l i e s e c r e t

c o m m u n i c a t i o n s . )

T r a n s m i t t e d s i g n a l s n e x t p a s s t h r o u g h t h e n e x t s t a g e , t h e e v i l c h a n n e l . N o t h i n g g o o d h a p p e n s t o a

s i g n a l i n a c h a n n e l : I t c a n b e c o m e c o r r u p t e d b y n o i s e , d i s t o r t e d , a n d a t t e n u a t e d a m o n g m a n y p o s s i b i l i t i e s .

T h e c h a n n e l c a n n o t b e e s c a p e d ( t h e r e a l w o r l d i s c r u e l ) , a n d t r a n s m i t t e r d e s i g n a n d r e c e i v e r d e s i g n f o c u s

o n h o w b e s t t o j o i n t l y f e n d o t h e c h a n n e l ' s e e c t s o n s i g n a l s . T h e c h a n n e l i s a n o t h e r s y s t e m i n o u r b l o c k

d i a g r a m , a n d p r o d u c e s r (t) , t h e s i g n a l r e c e i v e d b y t h e r e c e i v e r . I f t h e c h a n n e l w e r e b e n i g n ( g o o d l u c k

n d i n g s u c h a c h a n n e l i n t h e r e a l w o r l d ) , t h e r e c e i v e r w o u l d s e r v e a s t h e i n v e r s e s y s t e m t o t h e t r a n s m i t t e r ,

a n d y i e l d t h e m e s s a g e w i t h n o d i s t o r t i o n . H o w e v e r , b e c a u s e o f t h e c h a n n e l , t h e r e c e i v e r m u s t d o i t s b e s t

t o p r o d u c e a r e c e i v e d m e s s a g e s (t) t h a t r e s e m b l e s s (t) a s m u c h a s p o s s i b l e . S h a n n o n

8

s h o w e d i n h i s 1 9 4 8

p a p e r t h a t r e l i a b l e f o r t h e m o m e n t , t a k e t h i s w o r d t o m e a n e r r o r - f r e e d i g i t a l c o m m u n i c a t i o n w a s p o s s i b l e

o v e r a r b i t r a r i l y n o i s y c h a n n e l s . I t i s t h i s r e s u l t t h a t m o d e r n c o m m u n i c a t i o n s s y s t e m s e x p l o i t , a n d w h y m a n y

8





7

c o m m u n i c a t i o n s s y s t e m s a r e g o i n g d i g i t a l . T h e m o d u l e o n I n f o r m a t i o n C o m m u n i c a t i o n ( S e c t i o n 6 . 1 ) d e t a i l s

S h a n n o n ' s t h e o r y o f i n f o r m a t i o n , a n d t h e r e w e l e a r n o f S h a n n o n ' s r e s u l t a n d h o w t o u s e i t .

F i n a l l y , t h e r e c e i v e d m e s s a g e i s p a s s e d t o t h e i n f o r m a t i o n s i n k t h a t s o m e h o w m a k e s u s e o f t h e m e s s a g e .

I n t h e c o m m u n i c a t i o n s m o d e l , t h e s o u r c e i s a s y s t e m h a v i n g n o i n p u t b u t p r o d u c i n g a n o u t p u t ; a s i n k h a s

a n i n p u t a n d n o o u t p u t .

U n d e r s t a n d i n g s i g n a l g e n e r a t i o n a n d h o w s y s t e m s w o r k a m o u n t s t o u n d e r s t a n d i n g s i g n a l s , t h e n a t u r e

o f t h e i n f o r m a t i o n t h e y r e p r e s e n t , h o w i n f o r m a t i o n i s t r a n s f o r m e d b e t w e e n a n a l o g a n d d i g i t a l f o r m s , a n d

h o w i n f o r m a t i o n c a n b e p r o c e s s e d b y s y s t e m s o p e r a t i n g o n i n f o r m a t i o n - b e a r i n g s i g n a l s . T h i s u n d e r s t a n d i n g

d e m a n d s t w o d i e r e n t e l d s o f k n o w l e d g e . O n e i s e l e c t r i c a l s c i e n c e : H o w a r e s i g n a l s r e p r e s e n t e d a n d m a -

n i p u l a t e d e l e c t r i c a l l y ? T h e s e c o n d i s s i g n a l s c i e n c e : W h a t i s t h e s t r u c t u r e o f s i g n a l s , n o m a t t e r w h a t t h e i r

s o u r c e , w h a t i s t h e i r i n f o r m a t i o n c o n t e n t , a n d w h a t c a p a b i l i t i e s d o e s t h i s s t r u c t u r e f o r c e u p o n c o m m u n i c a t i o n

s y s t e m s ?

1 . 4 T h e F u n d a m e n t a l S i g n a l

9

1 . 4 . 1 T h e S i n u s o i d

T h e m o s t u b i q u i t o u s a n d i m p o r t a n t s i g n a l i n e l e c t r i c a l e n g i n e e r i n g i s t h e s i n u s o i d .

S i n e D e n i t i o n

s (t) = Acos(2πf t + φ) o r

Acos(ωt + φ) ( 1 . 1 )

Ai s k n o w n a s t h e s i n u s o i d ' s a m p l i t u d e , a n d d e t e r m i n e s t h e s i n u s o i d ' s s i z e . T h e a m p l i t u d e c o n v e y s t h e

s i n u s o i d ' s p h y s i c a l u n i t s ( v o l t s , l u m e n s , e t c ) . T h e f r e q u e n c y f h a s u n i t s o f H z ( H e r t z ) o r s−1 , a n d d e t e r m i n e s

h o w r a p i d l y t h e s i n u s o i d o s c i l l a t e s p e r u n i t t i m e . T h e t e m p o r a l v a r i a b l e t a l w a y s h a s u n i t s o f s e c o n d s , a n d

t h u s t h e f r e q u e n c y d e t e r m i n e s h o w m a n y o s c i l l a t i o n s / s e c o n d t h e s i n u s o i d h a s . A M r a d i o s t a t i o n s h a v e c a r r i e r

f r e q u e n c i e s o f a b o u t 1 M H z ( o n e m e g a - h e r t z o r 106 H z ) , w h i l e F M s t a t i o n s h a v e c a r r i e r f r e q u e n c i e s o f a b o u t

1 0 0 M H z . F r e q u e n c y c a n a l s o b e e x p r e s s e d b y t h e s y m b o l ω , w h i c h h a s u n i t s o f r a d i a n s / s e c o n d . C l e a r l y ,

ω = 2πf . I n c o m m u n i c a t i o n s , w e m o s t o f t e n e x p r e s s f r e q u e n c y i n H e r t z . F i n a l l y , φ i s t h e p h a s e , a n d

d e t e r m i n e s t h e s i n e w a v e ' s b e h a v i o r a t t h e o r i g i n ( t = 0 ) . I t h a s u n i t s o f r a d i a n s , b u t w e c a n e x p r e s s i t i n

d e g r e e s , r e a l i z i n g t h a t i n c o m p u t a t i o n s w e m u s t c o n v e r t f r o m d e g r e e s t o r a d i a n s . N o t e t h a t i f

φ = −π2

, t h e

s i n u s o i d c o r r e s p o n d s t o a s i n e f u n c t i o n , h a v i n g a z e r o v a l u e a t t h e o r i g i n .

Asin(2πf t + φ) = Acos

2πf t + φ − π

2

( 1 . 2 )

T h u s , t h e o n l y d i e r e n c e b e t w e e n a s i n e a n d c o s i n e s i g n a l i s t h e p h a s e ; w e t e r m e i t h e r a s i n u s o i d .

W e c a n a l s o d e n e a d i s c r e t e - t i m e v a r i a n t o f t h e s i n u s o i d : Acos(2πf n + φ) . H e r e , t h e i n d e p e n d e n t

v a r i a b l e i s n a n d r e p r e s e n t s t h e i n t e g e r s . F r e q u e n c y n o w h a s n o d i m e n s i o n s , a n d t a k e s o n v a l u e s b e t w e e n 0

a n d 1 .

E x e r c i s e 1 . 4 . 1

( S o l u t i o n o n p . 1 1 . )

S h o w t h a t cos (2πf n) = cos (2π (f + 1) n), w h i c h m e a n s t h a t a s i n u s o i d h a v i n g a f r e q u e n c y l a r g e r

t h a n o n e c o r r e s p o n d s t o a s i n u s o i d h a v i n g a f r e q u e n c y l e s s t h a n o n e .

n o t e : N o t i c e t h a t w e s h a l l c a l l e i t h e r s i n u s o i d a n a n a l o g s i g n a l . O n l y w h e n t h e d i s c r e t e - t i m e

s i g n a l t a k e s o n a n i t e s e t o f v a l u e s c a n i t b e c o n s i d e r e d a d i g i t a l s i g n a l .

E x e r c i s e 1 . 4 . 2

( S o l u t i o n o n p . 1 1 . )

C a n y o u t h i n k o f a s i m p l e s i g n a l t h a t h a s a n i t e n u m b e r o f v a l u e s b u t i s d e n e d i n c o n t i n u o u s

t i m e ? S u c h a s i g n a l i s a l s o a n a n a l o g s i g n a l .

9





8


1 . 4 . 2 C o m m u n i c a t i n g I n f o r m a t i o n w i t h S i g n a l s

T h e b a s i c i d e a o f c o m m u n i c a t i o n e n g i n e e r i n g i s t o u s e a s i g n a l ' s p a r a m e t e r s t o r e p r e s e n t e i t h e r r e a l n u m b e r s o r

o t h e r s i g n a l s . T h e t e c h n i c a l t e r m i s t o m o d u l a t e t h e c a r r i e r s i g n a l ' s p a r a m e t e r s t o t r a n s m i t i n f o r m a t i o n

f r o m o n e p l a c e t o a n o t h e r . T o e x p l o r e t h e n o t i o n o f m o d u l a t i o n , w e c a n s e n d a r e a l n u m b e r ( t o d a y ' s

t e m p e r a t u r e , f o r e x a m p l e ) b y c h a n g i n g a s i n u s o i d ' s a m p l i t u d e a c c o r d i n g l y . I f w e w a n t e d t o s e n d t h e d a i l y

t e m p e r a t u r e , w e w o u l d k e e p t h e f r e q u e n c y c o n s t a n t ( s o t h e r e c e i v e r w o u l d k n o w w h a t t o e x p e c t ) a n d c h a n g e

t h e a m p l i t u d e a t m i d n i g h t . W e c o u l d r e l a t e t e m p e r a t u r e t o a m p l i t u d e b y t h e f o r m u l a A = A0 (1 + kT ) ,

w h e r e

A0 a n d

ka r e c o n s t a n t s t h a t t h e t r a n s m i t t e r a n d r e c e i v e r m u s t b o t h k n o w .

I f w e h a d t w o n u m b e r s w e w a n t e d t o s e n d a t t h e s a m e t i m e , w e c o u l d m o d u l a t e t h e s i n u s o i d ' s f r e q u e n c y

a s w e l l a s i t s a m p l i t u d e . T h i s m o d u l a t i o n s c h e m e a s s u m e s w e c a n e s t i m a t e t h e s i n u s o i d ' s a m p l i t u d e a n d

f r e q u e n c y ; w e s h a l l l e a r n t h a t t h i s i s i n d e e d p o s s i b l e .

N o w s u p p o s e w e h a v e a s e q u e n c e o f p a r a m e t e r s t o s e n d . W e h a v e e x p l o i t e d a l l o f t h e s i n u s o i d ' s t w o

p a r a m e t e r s . W h a t w e c a n d o i s m o d u l a t e t h e m f o r a l i m i t e d t i m e ( s a y T s e c o n d s ) , a n d s e n d t w o p a r a m e t e r s

e v e r y T . T h i s s i m p l e n o t i o n c o r r e s p o n d s t o h o w a m o d e m w o r k s . H e r e , t y p e d c h a r a c t e r s a r e e n c o d e d i n t o

e i g h t b i t s , a n d t h e i n d i v i d u a l b i t s a r e e n c o d e d i n t o a s i n u s o i d ' s a m p l i t u d e a n d f r e q u e n c y . W e ' l l l e a r n h o w

t h i s i s d o n e i n s u b s e q u e n t m o d u l e s , a n d m o r e i m p o r t a n t l y , w e ' l l l e a r n w h a t t h e l i m i t s a r e o n s u c h d i g i t a l

c o m m u n i c a t i o n s c h e m e s .

1 . 5 I n t r o d u c t i o n P r o b l e m s

1 0

P r o b l e m 1 . 1 : R M S V a l u e s

T h e r m s ( r o o t - m e a n - s q u a r e ) v a l u e o f a p e r i o d i c s i g n a l i s d e n e d t o b e

s =

1

T

T 0

s2 (t) dt

w h e r e T i s d e n e d t o b e t h e s i g n a l ' s p e r i o d : t h e s m a l l e s t p o s i t i v e n u m b e r s u c h t h a t s (t) = s (t + T ).

a ) W h a t i s t h e p e r i o d o f

s (t) = Asin (2πf 0t + φ)?

b ) W h a t i s t h e r m s v a l u e o f t h i s s i g n a l ? H o w i s i t r e l a t e d t o t h e p e a k v a l u e ?

c ) W h a t i s t h e p e r i o d a n d r m s v a l u e o f t h e d e p i c t e d ( F i g u r e 1 . 5 ) s q u a r e w a v e , g e n e r i c a l l y d e n o t e d b y

sq (t)?

d ) B y i n s p e c t i n g a n y d e v i c e y o u p l u g i n t o a w a l l s o c k e t , y o u ' l l s e e t h a t i t i s l a b e l e d " 1 1 0 v o l t s A C " . W h a t

i s t h e e x p r e s s i o n f o r t h e v o l t a g e p r o v i d e d b y a w a l l s o c k e t ? W h a t i s i t s r m s v a l u e ?

1 0

T h i s c o n t e n t i s a v a i l a b l e o n l i n e a t < h t t p : / / c n x . o r g / c o n t e n t / m 1 0 3 5 3 / 2 . 1 8 / > .




9

–A

A

t

sq(t)

2 –2

• • • • • •

F i g u r e 1 . 5

P r o b l e m 1 . 2 : M o d e m s

T h e w o r d " m o d e m " i s s h o r t f o r " m o d u l a t o r - d e m o d u l a t o r . " M o d e m s a r e u s e d n o t o n l y f o r c o n n e c t i n g c o m -

p u t e r s t o t e l e p h o n e l i n e s , b u t a l s o f o r c o n n e c t i n g d i g i t a l ( d i s c r e t e - v a l u e d ) s o u r c e s t o g e n e r i c c h a n n e l s . I n

t h i s p r o b l e m , w e e x p l o r e a s i m p l e k i n d o f m o d e m , i n w h i c h b i n a r y i n f o r m a t i o n i s r e p r e s e n t e d b y t h e p r e s -

e n c e o r a b s e n c e o f a s i n u s o i d ( p r e s e n c e r e p r e s e n t i n g a " 1 " a n d a b s e n c e a " 0 " ) . C o n s e q u e n t l y , t h e m o d e m ' s

t r a n s m i t t e d s i g n a l t h a t r e p r e s e n t s a s i n g l e b i t h a s t h e f o r m

x (t) = Asin(2πf 0t) , 0 ≤ t ≤ T

W i t h i n e a c h b i t i n t e r v a l T , t h e a m p l i t u d e i s e i t h e r A o r z e r o .

a ) W h a t i s t h e s m a l l e s t t r a n s m i s s i o n i n t e r v a l t h a t m a k e s s e n s e w i t h t h e f r e q u e n c y f 0 ?

b ) A s s u m i n g t h a t t e n c y c l e s o f t h e s i n u s o i d c o m p r i s e a s i n g l e b i t ' s t r a n s m i s s i o n i n t e r v a l , w h a t i s t h e

d a t a r a t e o f t h i s t r a n s m i s s i o n s c h e m e ?

c ) N o w s u p p o s e i n s t e a d o f u s i n g " o n - o " s i g n a l i n g , w e a l l o w o n e o f s e v e r a l d i e r e n t v a l u e s f o r t h e

a m p l i t u d e d u r i n g a n y t r a n s m i s s i o n i n t e r v a l . I f N a m p l i t u d e v a l u e s a r e u s e d , w h a t i s t h e r e s u l t i n g

d a t a r a t e ?

d ) T h e c l a s s i c c o m m u n i c a t i o n s b l o c k d i a g r a m a p p l i e s t o t h e m o d e m . D i s c u s s h o w t h e t r a n s m i t t e r m u s t

i n t e r f a c e w i t h t h e m e s s a g e s o u r c e s i n c e t h e s o u r c e i s p r o d u c i n g l e t t e r s o f t h e a l p h a b e t , n o t b i t s .

P r o b l e m 1 . 3 : A d v a n c e d M o d e m s

T o t r a n s m i t s y m b o l s , s u c h a s l e t t e r s o f t h e a l p h a b e t , R U c o m p u t e r m o d e m s u s e t w o f r e q u e n c i e s ( 1 6 0 0

a n d 1 8 0 0 H z ) a n d s e v e r a l a m p l i t u d e l e v e l s . A t r a n s m i s s i o n i s s e n t f o r a p e r i o d o f t i m e

T ( k n o w n a s t h e

t r a n s m i s s i o n o r b a u d i n t e r v a l ) a n d e q u a l s t h e s u m o f t w o a m p l i t u d e - w e i g h t e d c a r r i e r s .

x (t) = A1sin(2πf 1t) + A2sin(2πf 2t) , 0 ≤ t ≤ T

W e s e n d s u c c e s s i v e s y m b o l s b y c h o o s i n g a n a p p r o p r i a t e f r e q u e n c y a n d a m p l i t u d e c o m b i n a t i o n , a n d s e n d i n g

t h e m o n e a f t e r a n o t h e r .

a ) W h a t i s t h e s m a l l e s t t r a n s m i s s i o n i n t e r v a l t h a t m a k e s s e n s e t o u s e w i t h t h e f r e q u e n c i e s g i v e n a b o v e ?

I n o t h e r w o r d s , w h a t s h o u l d T b e s o t h a t a n i n t e g e r n u m b e r o f c y c l e s o f t h e c a r r i e r o c c u r s ?

b ) S k e t c h ( u s i n g M a t l a b ) t h e s i g n a l t h a t m o d e m p r o d u c e s o v e r s e v e r a l t r a n s m i s s i o n i n t e r v a l s . M a k e s u r e

y o u a x e s a r e l a b e l e d .




1 0


c ) U s i n g y o u r s i g n a l t r a n s m i s s i o n i n t e r v a l , h o w m a n y a m p l i t u d e l e v e l s a r e n e e d e d t o t r a n s m i t A S C I I

c h a r a c t e r s a t a d a t a r a t e o f 3 , 2 0 0 b i t s / s ? A s s u m e u s e o f t h e e x t e n d e d ( 8 - b i t ) A S C I I c o d e .

n o t e : W e u s e a d i s c r e t e s e t o f v a l u e s f o r

A1a n d

A2. I f w e h a v e

N 1v a l u e s f o r a m p l i t u d e

A1, a n d

N 2 v a l u e s f o r A2 , w e h a v e N 1N 2 p o s s i b l e s y m b o l s t h a t c a n b e s e n t d u r i n g e a c h T s e c o n d i n t e r v a l .

T o c o n v e r t t h i s n u m b e r i n t o b i t s ( t h e f u n d a m e n t a l u n i t o f i n f o r m a t i o n e n g i n e e r s u s e t o q u a l i f y

t h i n g s ) , c o m p u t e log2 (N 1N 2).




1 1

S o l u t i o n s t o E x e r c i s e s i n C h a p t e r 1

S o l u t i o n t o E x e r c i s e 1 . 4 . 1 ( p . 7 )

A s cos(α + β ) = cos (α)cos(β )

−sin(α)sin(β ) , cos(2π (f + 1) n) = cos (2πf n)cos(2πn)

−sin(2πf n)sin(2πn) = cos(2πf n).

S o l u t i o n t o E x e r c i s e 1 . 4 . 2 ( p . 7 )

A s q u a r e w a v e t a k e s o n t h e v a l u e s 1 a n d −1 a l t e r n a t e l y . S e e t h e p l o t i n t h e m o d u l e E l e m e n t a l S i g n a l s

( S e c t i o n 2 . 2 . 6 : S q u a r e W a v e ) .




1 2





C h a p t e r 2

S i g n a l s a n d S y s t e m s

2 . 1 C o m p l e x N u m b e r s

1

W h i l e t h e f u n d a m e n t a l s i g n a l u s d i n e l e c t r i c a l e n g i n e e r i n g i s t h e s i n u s o i d , i t c a n b e e x p r e s s e d m a t h e m a t i c a l l y

i n t e r m s o f a n e v e n m o r e f u n d a m e n t a l s i g n a l : t h e c o m p l e x e x p o n e n t i a l . R e p r e s e n t i n g s i n u s o i d s i n t e r m s o f

c o m p l e x e x p o n e n t i a l s i s n o t a m a t h e m a t i c a l o d d i t y . F l u e n c y w i t h c o m p l e x n u m b e r s a n d r a t i o n a l f u n c t i o n s

o f c o m p l e x v a r i a b l e s i s a c r i t i c a l s k i l l a l l e n g i n e e r s m a s t e r . U n d e r s t a n d i n g i n f o r m a t i o n a n d p o w e r s y s t e m

d e s i g n s a n d d e v e l o p i n g n e w s y s t e m s a l l h i n g e o n u s i n g c o m p l e x n u m b e r s . I n s h o r t , t h e y a r e c r i t i c a l t o

m o d e r n e l e c t r i c a l e n g i n e e r i n g , a r e a l i z a t i o n m a d e o v e r a c e n t u r y a g o .

2 . 1 . 1 D e n i t i o n s

T h e n o t i o n o f t h e s q u a r e r o o t o f −1 o r i g i n a t e d w i t h t h e q u a d r a t i c f o r m u l a : t h e s o l u t i o n o f c e r t a i n q u a d r a t i c

e q u a t i o n s m a t h e m a t i c a l l y e x i s t s o n l y i f t h e s o - c a l l e d i m a g i n a r y q u a n t i t y

√ −1 c o u l d b e d e n e d . E u l e r

2

r s t

u s e d i f o r t h e i m a g i n a r y u n i t b u t t h a t n o t a t i o n d i d n o t t a k e h o l d u n t i l r o u g h l y A m p è r e ' s t i m e . A m p è r e

3

u s e d t h e s y m b o l

it o d e n o t e c u r r e n t ( i n t e n s i t é d e c u r r e n t ) . I t w a s n ' t u n t i l t h e t w e n t i e t h c e n t u r y t h a t t h e

i m p o r t a n c e o f c o m p l e x n u m b e r s t o c i r c u i t t h e o r y b e c a m e e v i d e n t . B y t h e n , u s i n g

if o r c u r r e n t w a s e n t r e n c h e d

a n d e l e c t r i c a l e n g i n e e r s c h o s e j f o r w r i t i n g c o m p l e x n u m b e r s .

A n i m a g i n a r y n u m b e r h a s t h e f o r m jb =√ −b2 . A c o m p l e x n u m b e r , z , c o n s i s t s o f t h e o r d e r e d p a i r

( a, b) , a i s t h e r e a l c o m p o n e n t a n d b i s t h e i m a g i n a r y c o m p o n e n t ( t h e j i s s u p p r e s s e d b e c a u s e t h e i m a g i n a r y

c o m p o n e n t o f t h e p a i r i s a l w a y s i n t h e s e c o n d p o s i t i o n ) . T h e i m a g i n a r y n u m b e r jb e q u a l s ( 0 , b) . N o t e t h a t

a a n d b a r e r e a l - v a l u e d n u m b e r s .

F i g u r e 2 . 1 ( T h e C o m p l e x P l a n e ) s h o w s t h a t w e c a n l o c a t e a c o m p l e x n u m b e r i n w h a t w e c a l l t h e c o m p l e x

p l a n e . H e r e , a, t h e r e a l p a r t , i s t h e x- c o o r d i n a t e a n d b , t h e i m a g i n a r y p a r t , i s t h e y - c o o r d i n a t e .

1


2

h t t p : / / w w w - g r o u p s . d c s . s t - a n d . a c . u k /

∼h i s t o r y / M a t h e m a t i c i a n s / E u l e r . h t m l

3


∼h i s t o r y / M a t h e m a t i c i a n s / A m p e r e . h t m l


1 3



1 4

C H A P T E R 2 . S I G N A L S A N D S Y S T E M S

T h e C o m p l e x P l a n e

F i g u r e 2 . 1 : A c o m p l e x n u m b e r i s a n o r d e r e d p a i r (

a,

b) t h a t c a n b e r e g a r d e d a s c o o r d i n a t e s i n t h e

p l a n e . C o m p l e x n u m b e r s c a n a l s o b e e x p r e s s e d i n p o l a r c o o r d i n a t e s a s r∠θ .

F r o m a n a l y t i c g e o m e t r y , w e k n o w t h a t l o c a t i o n s i n t h e p l a n e c a n b e e x p r e s s e d a s t h e s u m o f v e c t o r s , w i t h

t h e v e c t o r s c o r r e s p o n d i n g t o t h e x a n d y d i r e c t i o n s . C o n s e q u e n t l y , a c o m p l e x n u m b e r z c a n b e e x p r e s s e d

a s t h e ( v e c t o r ) s u m z = a + jb w h e r e j i n d i c a t e s t h e y - c o o r d i n a t e . T h i s r e p r e s e n t a t i o n i s k n o w n a s t h e

C a r t e s i a n f o r m o f z . A n i m a g i n a r y n u m b e r c a n ' t b e n u m e r i c a l l y a d d e d t o a r e a l n u m b e r ; r a t h e r , t h i s

n o t a t i o n f o r a c o m p l e x n u m b e r r e p r e s e n t s v e c t o r a d d i t i o n , b u t i t p r o v i d e s a c o n v e n i e n t n o t a t i o n w h e n w e

p e r f o r m a r i t h m e t i c m a n i p u l a t i o n s .

S o m e o b v i o u s t e r m i n o l o g y . T h e r e a l p a r t o f t h e c o m p l e x n u m b e r z = a + jb , w r i t t e n a s Re (z), e q u a l s

a. W e c o n s i d e r t h e r e a l p a r t a s a f u n c t i o n t h a t w o r k s b y s e l e c t i n g t h a t c o m p o n e n t o f a c o m p l e x n u m b e r

n o t m u l t i p l i e d b y

j. T h e i m a g i n a r y p a r t o f

z, Im (z), e q u a l s

b: t h a t p a r t o f a c o m p l e x n u m b e r t h a t i s

m u l t i p l i e d b y

j. A g a i n , b o t h t h e r e a l a n d i m a g i n a r y p a r t s o f a c o m p l e x n u m b e r a r e r e a l - v a l u e d .

T h e c o m p l e x c o n j u g a t e o f

z, w r i t t e n a s

z∗, h a s t h e s a m e r e a l p a r t a s

zb u t a n i m a g i n a r y p a r t o f t h e

o p p o s i t e s i g n .

z = Re (z) + jIm (z)

z∗ = Re (z) − jIm (z)( 2 . 1 )

U s i n g C a r t e s i a n n o t a t i o n , t h e f o l l o w i n g p r o p e r t i e s e a s i l y f o l l o w .

• I f w e a d d t w o c o m p l e x n u m b e r s , t h e r e a l p a r t o f t h e r e s u l t e q u a l s t h e s u m o f t h e r e a l p a r t s a n d t h e

i m a g i n a r y p a r t e q u a l s t h e s u m o f t h e i m a g i n a r y p a r t s . T h i s p r o p e r t y f o l l o w s f r o m t h e l a w s o f v e c t o r

a d d i t i o n .

a1 + jb1 + a2 + jb2 = a1 + a2 + j (b1 + b2)

I n t h i s w a y , t h e r e a l a n d i m a g i n a r y p a r t s r e m a i n s e p a r a t e .

•T h e p r o d u c t o f j a n d a r e a l n u m b e r i s a n i m a g i n a r y n u m b e r : ja . T h e p r o d u c t o f j a n d a n i m a g i n a r y

n u m b e r i s a r e a l n u m b e r : j ( jb) = −b b e c a u s e j2 = −1 . C o n s e q u e n t l y , m u l t i p l y i n g a c o m p l e x n u m b e r

b y j r o t a t e s t h e n u m b e r ' s p o s i t i o n b y 90 d e g r e e s .

E x e r c i s e 2 . 1 . 1

( S o l u t i o n o n p . 3 7 . )

U s e t h e d e n i t i o n o f a d d i t i o n t o s h o w t h a t t h e r e a l a n d i m a g i n a r y p a r t s c a n b e e x p r e s s e d a s a

s u m / d i e r e n c e o f a c o m p l e x n u m b e r a n d i t s c o n j u g a t e . Re (z) = z+z∗2 a n d Im (z) = z−z∗

2j .

C o m p l e x n u m b e r s c a n a l s o b e e x p r e s s e d i n a n a l t e r n a t e f o r m , p o l a r f o r m , w h i c h w e w i l l n d q u i t e u s e f u l .

P o l a r f o r m a r i s e s a r i s e s f r o m t h e g e o m e t r i c i n t e r p r e t a t i o n o f c o m p l e x n u m b e r s . T h e C a r t e s i a n f o r m o f a




1 5

c o m p l e x n u m b e r c a n b e r e - w r i t t e n a s

a + jb =

a2 + b2

a√

a2 + b2+ j

b√ a2 + b2

B y f o r m i n g a r i g h t t r i a n g l e h a v i n g s i d e s a a n d b , w e s e e t h a t t h e r e a l a n d i m a g i n a r y p a r t s c o r r e s p o n d t o t h e

c o s i n e a n d s i n e o f t h e t r i a n g l e ' s b a s e a n g l e . W e t h u s o b t a i n t h e p o l a r f o r m f o r c o m p l e x n u m b e r s .

z = a + jb = r∠θ

r = |z| =√

a2 + b2

a = rcos(θ)

b = rsin(θ)

θ = arctanba

T h e q u a n t i t y r i s k n o w n a s t h e m a g n i t u d e o f t h e c o m p l e x n u m b e r z , a n d i s f r e q u e n t l y w r i t t e n a s |z| . T h e

q u a n t i t y θ i s t h e c o m p l e x n u m b e r ' s a n g l e . I n u s i n g t h e a r c - t a n g e n t f o r m u l a t o n d t h e a n g l e , w e m u s t t a k e

i n t o a c c o u n t t h e q u a d r a n t i n w h i c h t h e c o m p l e x n u m b e r l i e s .

E x e r c i s e 2 . 1 . 2

( S o l u t i o n o n p . 3 7 . )

C o n v e r t 3 − 2 j t o p o l a r f o r m .

2 . 1 . 2 E u l e r ' s F o r m u l a

S u r p r i s i n g l y , t h e p o l a r f o r m o f a c o m p l e x n u m b e r z c a n b e e x p r e s s e d m a t h e m a t i c a l l y a s

z = rejθ ( 2 . 2 )

T o s h o w t h i s r e s u l t , w e u s e E u l e r ' s r e l a t i o n s t h a t e x p r e s s e x p o n e n t i a l s w i t h i m a g i n a r y a r g u m e n t s i n t e r m s

o f t r i g o n o m e t r i c f u n c t i o n s .

ejθ = cos(θ) + jsin(θ) ( 2 . 3 )

cos(θ) =ejθ + e−(jθ)

2( 2 . 4 )

sin(θ) =ejθ − e−(jθ)

2 j

T h e r s t o f t h e s e i s e a s i l y d e r i v e d f r o m t h e T a y l o r ' s s e r i e s f o r t h e e x p o n e n t i a l .

ex = 1 +x

1!+

x2

2!+

x3

3!+ . . .

S u b s t i t u t i n g jθ f o r x, w e n d t h a t

e

jθ

= 1 + j

θ

1! −θ2

2! − j

θ3

3! + . . .

b e c a u s e j2 = −1, j3 = − j , a n d j4 = 1 . G r o u p i n g s e p a r a t e l y t h e r e a l - v a l u e d t e r m s a n d t h e i m a g i n a r y - v a l u e d

o n e s ,

ejθ = 1 − θ2

2!+ · · · + j

θ

1!− θ3

3!+ . . .

T h e r e a l - v a l u e d t e r m s c o r r e s p o n d t o t h e T a y l o r ' s s e r i e s f o r cos(θ), t h e i m a g i n a r y o n e s t o sin(θ) , a n d E u l e r ' s

r s t r e l a t i o n r e s u l t s . T h e r e m a i n i n g r e l a t i o n s a r e e a s i l y d e r i v e d f r o m t h e r s t . B e c a u s e o f , w e s e e t h a t

m u l t i p l y i n g t h e e x p o n e n t i a l i n ( 2 . 3 ) b y a r e a l c o n s t a n t c o r r e s p o n d s t o s e t t i n g t h e r a d i u s o f t h e c o m p l e x

n u m b e r b y t h e c o n s t a n t .




1 6


2 . 1 . 3 C a l c u l a t i n g w i t h C o m p l e x N u m b e r s

A d d i n g a n d s u b t r a c t i n g c o m p l e x n u m b e r s e x p r e s s e d i n C a r t e s i a n f o r m i s q u i t e e a s y : Y o u a d d ( s u b t r a c t ) t h e

r e a l p a r t s a n d i m a g i n a r y p a r t s s e p a r a t e l y .

z1 ± z2 = (a1 ± a2) + j (b1 ± b2) ( 2 . 5 )

T o m u l t i p l y t w o c o m p l e x n u m b e r s i n C a r t e s i a n f o r m i s n o t q u i t e a s e a s y , b u t f o l l o w s d i r e c t l y f r o m f o l l o w i n g

t h e u s u a l r u l e s o f a r i t h m e t i c .

z1z2 = (a1 + jb1) (a2 + jb2)

= a1a2 − b1b2 + j (a1b2 + a2b1)( 2 . 6 )

N o t e t h a t w e a r e , i n a s e n s e , m u l t i p l y i n g t w o v e c t o r s t o o b t a i n a n o t h e r v e c t o r . C o m p l e x a r i t h m e t i c p r o v i d e s

a u n i q u e w a y o f d e n i n g v e c t o r m u l t i p l i c a t i o n .

E x e r c i s e 2 . 1 . 3

( S o l u t i o n o n p . 3 7 . )

W h a t i s t h e p r o d u c t o f a c o m p l e x n u m b e r a n d i t s c o n j u g a t e ?

D i v i s i o n r e q u i r e s m a t h e m a t i c a l m a n i p u l a t i o n . W e c o n v e r t t h e d i v i s i o n p r o b l e m i n t o a m u l t i p l i c a t i o n p r o b l e m

b y m u l t i p l y i n g b o t h t h e n u m e r a t o r a n d d e n o m i n a t o r b y t h e c o n j u g a t e o f t h e d e n o m i n a t o r .

z1z2

= a1+jb1a2+jb2

= a1+jb1a2+jb2

a2−jb2a2−jb2

= (a1+jb1)(a2−jb2)a22+b22

= a1a2+b1b2+j(a2b1−a1b2)a22+b22

( 2 . 7 )

B e c a u s e t h e n a l r e s u l t i s s o c o m p l i c a t e d , i t ' s b e s t t o r e m e m b e r h o w t o p e r f o r m d i v i s i o n m u l t i p l y i n g

n u m e r a t o r a n d d e n o m i n a t o r b y t h e c o m p l e x c o n j u g a t e o f t h e d e n o m i n a t o r t h a n t r y i n g t o r e m e m b e r t h e

n a l r e s u l t .

T h e p r o p e r t i e s o f t h e e x p o n e n t i a l m a k e c a l c u l a t i n g t h e p r o d u c t a n d r a t i o o f t w o c o m p l e x n u m b e r s m u c h

s i m p l e r w h e n t h e n u m b e r s a r e e x p r e s s e d i n p o l a r f o r m .

z1z2 = r1ejθ1r2ejθ2

= r1r2ej(θ1+θ2)( 2 . 8 )

z1z2

=r1ejθ1

r2ejθ2=

r1r2

ej(θ1−θ2)

T o m u l t i p l y , t h e r a d i u s e q u a l s t h e p r o d u c t o f t h e r a d i i a n d t h e a n g l e t h e s u m o f t h e a n g l e s . T o d i v i d e ,

t h e r a d i u s e q u a l s t h e r a t i o o f t h e r a d i i a n d t h e a n g l e t h e d i e r e n c e o f t h e a n g l e s . W h e n t h e o r i g i n a l

c o m p l e x n u m b e r s a r e i n C a r t e s i a n f o r m , i t ' s u s u a l l y w o r t h t r a n s l a t i n g i n t o p o l a r f o r m , t h e n p e r f o r m i n g t h e

m u l t i p l i c a t i o n o r d i v i s i o n ( e s p e c i a l l y i n t h e c a s e o f t h e l a t t e r ) . A d d i t i o n a n d s u b t r a c t i o n o f p o l a r f o r m s

a m o u n t s t o c o n v e r t i n g t o C a r t e s i a n f o r m , p e r f o r m i n g t h e a r i t h m e t i c o p e r a t i o n , a n d c o n v e r t i n g b a c k t o p o l a r

f o r m .

E x a m p l e 2 . 1

W h e n w e s o l v e c i r c u i t p r o b l e m s , t h e c r u c i a l q u a n t i t y , k n o w n a s a t r a n s f e r f u n c t i o n , w i l l a l w a y s b e

e x p r e s s e d a s t h e r a t i o o f p o l y n o m i a l s i n t h e v a r i a b l e

s = j2πf . W h a t w e ' l l n e e d t o u n d e r s t a n d t h e

c i r c u i t ' s e e c t i s t h e t r a n s f e r f u n c t i o n i n p o l a r f o r m . F o r i n s t a n c e , s u p p o s e t h e t r a n s f e r f u n c t i o n

e q u a l s

s + 2

s2 + s + 1( 2 . 9 )

s = j2πf ( 2 . 1 0 )




1 7

P e r f o r m i n g t h e r e q u i r e d d i v i s i o n i s m o s t e a s i l y a c c o m p l i s h e d b y r s t e x p r e s s i n g t h e n u m e r a t o r a n d

d e n o m i n a t o r e a c h i n p o l a r f o r m , t h e n c a l c u l a t i n g t h e r a t i o . T h u s ,

s + 2

s2 + s + 1 =

j2πf + 2

4π2f 2 + j2πf + 1( 2 . 1 1 )

=

4 + 4π2f 2ejarctan(πf )

(1 − 4π2f 2)2

+ 4π2f 2ejarctan

“2πf

1−4π2f 2

”( 2 . 1 2 )

=

4 + 4π2f 2

1 − 4π2f 2 + 16π4f 4ej“arctan(πf )−arctan

“2πf

1−4π2f 2

””( 2 . 1 3 )

2 . 2 E l e m e n t a l S i g n a l s

4

E l e m e n t a l s i g n a l s a r e t h e b u i l d i n g b l o c k s w i t h w h i c h w e b u i l d c o m p l i c a t e d s i g n a l s . B y d e n i t i o n ,

e l e m e n t a l s i g n a l s h a v e a s i m p l e s t r u c t u r e . E x a c t l y w h a t w e m e a n b y t h e " s t r u c t u r e o f a s i g n a l " w i l l u n f o l d i n

t h i s s e c t i o n o f t h e c o u r s e . S i g n a l s a r e n o t h i n g m o r e t h a n f u n c t i o n s d e n e d w i t h r e s p e c t t o s o m e i n d e p e n d e n t

v a r i a b l e , w h i c h w e t a k e t o b e t i m e f o r t h e m o s t p a r t . V e r y i n t e r e s t i n g s i g n a l s a r e n o t f u n c t i o n s s o l e l y o f

t i m e ; o n e g r e a t e x a m p l e o f w h i c h i s a n i m a g e . F o r i t , t h e i n d e p e n d e n t v a r i a b l e s a r e x a n d y ( t w o - d i m e n s i o n a l

s p a c e ) . V i d e o s i g n a l s a r e f u n c t i o n s o f t h r e e v a r i a b l e s : t w o s p a t i a l d i m e n s i o n s a n d t i m e . F o r t u n a t e l y , m o s t

o f t h e i d e a s u n d e r l y i n g m o d e r n s i g n a l t h e o r y c a n b e e x e m p l i e d w i t h o n e - d i m e n s i o n a l s i g n a l s .

2 . 2 . 1 S i n u s o i d s

P e r h a p s t h e m o s t c o m m o n r e a l - v a l u e d s i g n a l i s t h e s i n u s o i d .

s (t) = Acos(2πf 0t + φ) ( 2 . 1 4 )

F o r t h i s s i g n a l , A i s i t s a m p l i t u d e , f 0 i t s f r e q u e n c y , a n d φ i t s p h a s e .

2 . 2 . 2 C o m p l e x E x p o n e n t i a l s

T h e m o s t i m p o r t a n t s i g n a l i s c o m p l e x - v a l u e d , t h e c o m p l e x e x p o n e n t i a l .

s (t) = Aej(2πf 0t+φ)

= Aejφej2πf 0t( 2 . 1 5 )

H e r e , j d e n o t e s

√ −1 . Aejφ i s k n o w n a s t h e s i g n a l ' s c o m p l e x a m p l i t u d e . C o n s i d e r i n g t h e c o m p l e x

a m p l i t u d e a s a c o m p l e x n u m b e r i n p o l a r f o r m , i t s m a g n i t u d e i s t h e a m p l i t u d e A a n d i t s a n g l e t h e s i g n a l p h a s e .

T h e c o m p l e x a m p l i t u d e i s a l s o k n o w n a s a p h a s o r . T h e c o m p l e x e x p o n e n t i a l c a n n o t b e f u r t h e r d e c o m p o s e d

i n t o m o r e e l e m e n t a l s i g n a l s , a n d i s t h e m o s t i m p o r t a n t s i g n a l i n e l e c t r i c a l e n g i n e e r i n g ! M a t h e m a t i c a l

m a n i p u l a t i o n s a t r s t a p p e a r t o b e m o r e d i c u l t b e c a u s e c o m p l e x - v a l u e d n u m b e r s a r e i n t r o d u c e d . I n f a c t ,

e a r l y i n t h e t w e n t i e t h c e n t u r y , m a t h e m a t i c i a n s t h o u g h t e n g i n e e r s w o u l d n o t b e s u c i e n t l y s o p h i s t i c a t e d

t o h a n d l e c o m p l e x e x p o n e n t i a l s e v e n t h o u g h t h e y g r e a t l y s i m p l i e d s o l v i n g c i r c u i t p r o b l e m s . S t e i n m e t z

5

i n t r o d u c e d c o m p l e x e x p o n e n t i a l s t o e l e c t r i c a l e n g i n e e r i n g , a n d d e m o n s t r a t e d t h a t " m e r e " e n g i n e e r s c o u l d

4


5

h t t p : / / w w w . i n v e n t . o r g / h a l l _ o f _ f a m e / 1 3 9 . h t m l




1 8


u s e t h e m t o g o o d e e c t a n d e v e n o b t a i n r i g h t a n s w e r s ! S e e C o m p l e x N u m b e r s ( S e c t i o n 2 . 1 ) f o r a r e v i e w o f

c o m p l e x n u m b e r s a n d c o m p l e x a r i t h m e t i c .

T h e c o m p l e x e x p o n e n t i a l d e n e s t h e n o t i o n o f f r e q u e n c y : i t i s t h e o n l y s i g n a l t h a t c o n t a i n s o n l y o n e

f r e q u e n c y c o m p o n e n t . T h e s i n u s o i d c o n s i s t s o f t w o f r e q u e n c y c o m p o n e n t s : o n e a t t h e f r e q u e n c y

f 0 a n d t h e

o t h e r a t −f 0 .

E u l e r r e l a t i o n : T h i s d e c o m p o s i t i o n o f t h e s i n u s o i d c a n b e t r a c e d t o E u l e r ' s r e l a t i o n .

cos(2πf t) =ej2πft + e−(j2πft)

2( 2 . 1 6 )

sin(2πf t) =ej2πft − e−(j2πft)

2 j( 2 . 1 7 )

ej2πft = cos (2πf t) + jsin(2πf t) ( 2 . 1 8 )

D e c o m p o s i t i o n : T h e c o m p l e x e x p o n e n t i a l s i g n a l c a n t h u s b e w r i t t e n i n t e r m s o f i t s r e a l a n d

i m a g i n a r y p a r t s u s i n g E u l e r ' s r e l a t i o n . T h u s , s i n u s o i d a l s i g n a l s c a n b e e x p r e s s e d a s e i t h e r t h e r e a l

o r t h e i m a g i n a r y p a r t o f a c o m p l e x e x p o n e n t i a l s i g n a l , t h e c h o i c e d e p e n d i n g o n w h e t h e r c o s i n e o r

s i n e p h a s e i s n e e d e d , o r a s t h e s u m o f t w o c o m p l e x e x p o n e n t i a l s . T h e s e t w o d e c o m p o s i t i o n s a r e

m a t h e m a t i c a l l y e q u i v a l e n t t o e a c h o t h e r .

Acos(2πf t + φ) = Re

Aejφej2πft

( 2 . 1 9 )

Asin(2πf t + φ) = Im

Aejφej2πft

( 2 . 2 0 )




1 9

F i g u r e 2 . 2 : G r a p h i c a l l y , t h e c o m p l e x e x p o n e n t i a l s c r i b e s a c i r c l e i n t h e c o m p l e x p l a n e a s t i m e e v o l v e s .

I t s r e a l a n d i m a g i n a r y p a r t s a r e s i n u s o i d s . T h e r a t e a t w h i c h t h e s i g n a l g o e s a r o u n d t h e c i r c l e i s t h e

f r e q u e n c y f a n d t h e t i m e t a k e n t o g o a r o u n d i s t h e p e r i o d T . A f u n d a m e n t a l r e l a t i o n s h i p i s T = 1f

.

U s i n g t h e c o m p l e x p l a n e , w e c a n e n v i s i o n t h e c o m p l e x e x p o n e n t i a l ' s t e m p o r a l v a r i a t i o n s a s s e e n i n t h e

a b o v e g u r e ( F i g u r e 2 . 2 ) . T h e m a g n i t u d e o f t h e c o m p l e x e x p o n e n t i a l i s A, a n d t h e i n i t i a l v a l u e o f t h e

c o m p l e x e x p o n e n t i a l a t t = 0 h a s a n a n g l e o f φ. A s t i m e i n c r e a s e s , t h e l o c u s o f p o i n t s t r a c e d b y t h e c o m p l e x

e x p o n e n t i a l i s a c i r c l e ( i t h a s c o n s t a n t m a g n i t u d e o f A) . T h e n u m b e r o f t i m e s p e r s e c o n d w e g o a r o u n d t h e

c i r c l e e q u a l s t h e f r e q u e n c y f . T h e t i m e t a k e n f o r t h e c o m p l e x e x p o n e n t i a l t o g o a r o u n d t h e c i r c l e o n c e i s

k n o w n a s i t s p e r i o d T , a n d e q u a l s

1f . T h e p r o j e c t i o n s o n t o t h e r e a l a n d i m a g i n a r y a x e s o f t h e r o t a t i n g

v e c t o r r e p r e s e n t i n g t h e c o m p l e x e x p o n e n t i a l s i g n a l a r e t h e c o s i n e a n d s i n e s i g n a l o f E u l e r ' s r e l a t i o n ( ( 2 . 1 6 ) ) .




2 0


2 . 2 . 3 R e a l E x p o n e n t i a l s

A s o p p o s e d t o c o m p l e x e x p o n e n t i a l s w h i c h o s c i l l a t e , r e a l e x p o n e n t i a l s ( F i g u r e 2 . 3 ) d e c a y .

s (t) = e−tτ

( 2 . 2 1 )

Exponential

tτ

e –1

1

F i g u r e 2 . 3 : T h e r e a l e x p o n e n t i a l .

T h e q u a n t i t y τ i s k n o w n a s t h e e x p o n e n t i a l ' s t i m e c o n s t a n t , a n d c o r r e s p o n d s t o t h e t i m e r e q u i r e d f o r

t h e e x p o n e n t i a l t o d e c r e a s e b y a f a c t o r o f

1e

, w h i c h a p p r o x i m a t e l y e q u a l s 0.368. A d e c a y i n g c o m p l e x

e x p o n e n t i a l i s t h e p r o d u c t o f a r e a l a n d a c o m p l e x e x p o n e n t i a l .

s (t) = Aejφe−tτ ej2πft

= Aejφe(− 1τ +j2πf )t

( 2 . 2 2 )

I n t h e c o m p l e x p l a n e , t h i s s i g n a l c o r r e s p o n d s t o a n e x p o n e n t i a l s p i r a l . F o r s u c h s i g n a l s , w e c a n d e n e

c o m p l e x f r e q u e n c y a s t h e q u a n t i t y m u l t i p l y i n g t .

2 . 2 . 4 U n i t S t e p

T h e u n i t s t e p f u n c t i o n ( F i g u r e 2 . 4 ) i s d e n o t e d b y u (t) , a n d i s d e n e d t o b e

u (t) =

0 i f

t < 0

1 i f t > 0( 2 . 2 3 )

t

u(t)

1

F i g u r e 2 . 4 : T h e u n i t s t e p .

O r i g i n w a r n i n g : T h i s s i g n a l i s d i s c o n t i n u o u s a t t h e o r i g i n . I t s v a l u e a t t h e o r i g i n n e e d n o t b e

d e n e d , a n d d o e s n ' t m a t t e r i n s i g n a l t h e o r y .




2 1

T h i s k i n d o f s i g n a l i s u s e d t o d e s c r i b e s i g n a l s t h a t " t u r n o n " s u d d e n l y . F o r e x a m p l e , t o m a t h e m a t i c a l l y r e p r e -

s e n t t u r n i n g o n a n o s c i l l a t o r , w e c a n w r i t e i t a s t h e p r o d u c t o f a s i n u s o i d a n d a s t e p :

s (t) = Asin(2πf t) u (t) .

2 . 2 . 5 P u l s e

T h e u n i t p u l s e ( F i g u r e 2 . 5 ) d e s c r i b e s t u r n i n g a u n i t - a m p l i t u d e s i g n a l o n f o r a d u r a t i o n o f ∆ s e c o n d s , t h e n

t u r n i n g i t o .

p∆ (t) =

0 i f

t < 0

1 i f 0 < t < ∆

0 i f t > ∆

( 2 . 2 4 )

1

∆ t

p∆(t)

F i g u r e 2 . 5 : T h e p u l s e .

W e w i l l n d t h a t t h i s i s t h e s e c o n d m o s t i m p o r t a n t s i g n a l i n c o m m u n i c a t i o n s .

2 . 2 . 6 S q u a r e W a v e

T h e s q u a r e w a v e ( F i g u r e 2 . 6 ) sq (t) i s a p e r i o d i c s i g n a l l i k e t h e s i n u s o i d . I t t o o h a s a n a m p l i t u d e a n d a

p e r i o d , w h i c h m u s t b e s p e c i e d t o c h a r a c t e r i z e t h e s i g n a l . W e n d s u b s e q u e n t l y t h a t t h e s i n e w a v e i s a

s i m p l e r s i g n a l t h a n t h e s q u a r e w a v e .

t

Square Wave

A

T

F i g u r e 2 . 6 : T h e s q u a r e w a v e .




2 2


2 . 3 S i g n a l D e c o m p o s i t i o n

6

A s i g n a l ' s c o m p l e x i t y i s n o t r e l a t e d t o h o w w i g g l y i t i s . R a t h e r , a s i g n a l e x p e r t l o o k s f o r w a y s o f d e c o m p o s i n g

a g i v e n s i g n a l i n t o a s u m o f s i m p l e r s i g n a l s , w h i c h w e t e r m t h e s i g n a l d e c o m p o s i t i o n . T h o u g h w e w i l l

n e v e r c o m p u t e a s i g n a l ' s c o m p l e x i t y , i t e s s e n t i a l l y e q u a l s t h e n u m b e r o f t e r m s i n i t s d e c o m p o s i t i o n . I n

w r i t i n g a s i g n a l a s a s u m o f c o m p o n e n t s i g n a l s , w e c a n c h a n g e t h e c o m p o n e n t s i g n a l ' s g a i n b y m u l t i p l y i n g

i t b y a c o n s t a n t a n d b y d e l a y i n g i t . M o r e c o m p l i c a t e d d e c o m p o s i t i o n s c o u l d c o n t a i n d e r i v a t i v e s o r i n t e g r a l s

o f s i m p l e s i g n a l s .

E x a m p l e 2 . 2

A s a n e x a m p l e o f s i g n a l c o m p l e x i t y , w e c a n e x p r e s s t h e p u l s e p∆ (t) a s a s u m o f d e l a y e d u n i t s t e p s .

p∆ (t) = u (t) − u (t − ∆) ( 2 . 2 5 )

T h u s , t h e p u l s e i s a m o r e c o m p l e x s i g n a l t h a n t h e s t e p . B e t h a t a s i t m a y , t h e p u l s e i s v e r y u s e f u l

t o u s .

E x e r c i s e 2 . 3 . 1

( S o l u t i o n o n p . 3 7 . )

E x p r e s s a s q u a r e w a v e h a v i n g p e r i o d

T a n d a m p l i t u d e

Aa s a s u p e r p o s i t i o n o f d e l a y e d a n d

a m p l i t u d e - s c a l e d p u l s e s .

B e c a u s e t h e s i n u s o i d i s a s u p e r p o s i t i o n o f t w o c o m p l e x e x p o n e n t i a l s , t h e s i n u s o i d i s m o r e c o m p l e x . W e c o u l d

n o t p r e v e n t o u r s e l v e s f r o m t h e p u n i n t h i s s t a t e m e n t . C l e a r l y , t h e w o r d " c o m p l e x " i s u s e d i n t w o d i e r e n t

w a y s h e r e . T h e c o m p l e x e x p o n e n t i a l c a n a l s o b e w r i t t e n ( u s i n g E u l e r ' s r e l a t i o n ( 2 . 1 6 ) ) a s a s u m o f a s i n e a n d

a c o s i n e . W e w i l l d i s c o v e r t h a t v i r t u a l l y e v e r y s i g n a l c a n b e d e c o m p o s e d i n t o a s u m o f c o m p l e x e x p o n e n t i a l s ,

a n d t h a t t h i s d e c o m p o s i t i o n i s v e r y u s e f u l . T h u s , t h e c o m p l e x e x p o n e n t i a l i s m o r e f u n d a m e n t a l , a n d E u l e r ' s

r e l a t i o n d o e s n o t a d e q u a t e l y r e v e a l i t s c o m p l e x i t y .

2 . 4 D i s c r e t e - T i m e S i g n a l s

7

S o f a r , w e h a v e t r e a t e d w h a t a r e k n o w n a s a n a l o g s i g n a l s a n d s y s t e m s . M a t h e m a t i c a l l y , a n a l o g s i g n a l s a r e

f u n c t i o n s h a v i n g c o n t i n u o u s q u a n t i t i e s a s t h e i r i n d e p e n d e n t v a r i a b l e s , s u c h a s s p a c e a n d t i m e . D i s c r e t e - t i m e

s i g n a l s ( S e c t i o n 5 . 5 ) a r e f u n c t i o n s d e n e d o n t h e i n t e g e r s ; t h e y a r e s e q u e n c e s . O n e o f t h e f u n d a m e n t a l r e s u l t s

o f s i g n a l t h e o r y ( S e c t i o n 5 . 3 ) w i l l d e t a i l c o n d i t i o n s u n d e r w h i c h a n a n a l o g s i g n a l c a n b e c o n v e r t e d i n t o a

d i s c r e t e - t i m e o n e a n d r e t r i e v e d w i t h o u t e r r o r . T h i s r e s u l t i s i m p o r t a n t b e c a u s e d i s c r e t e - t i m e s i g n a l s c a n

b e m a n i p u l a t e d b y s y s t e m s i n s t a n t i a t e d a s c o m p u t e r p r o g r a m s . S u b s e q u e n t m o d u l e s d e s c r i b e h o w v i r t u a l l y

a l l a n a l o g s i g n a l p r o c e s s i n g c a n b e p e r f o r m e d w i t h s o f t w a r e .

A s i m p o r t a n t a s s u c h r e s u l t s a r e , d i s c r e t e - t i m e s i g n a l s a r e m o r e g e n e r a l , e n c o m p a s s i n g s i g n a l s d e r i v e d

f r o m a n a l o g o n e s a n d s i g n a l s t h a t a r e n ' t . F o r e x a m p l e , t h e c h a r a c t e r s f o r m i n g a t e x t l e f o r m a s e q u e n c e ,

w h i c h i s a l s o a d i s c r e t e - t i m e s i g n a l . W e m u s t d e a l w i t h s u c h s y m b o l i c v a l u e d ( p . 1 8 0 ) s i g n a l s a n d s y s t e m s

a s w e l l .

A s w i t h a n a l o g s i g n a l s , w e s e e k w a y s o f d e c o m p o s i n g r e a l - v a l u e d d i s c r e t e - t i m e s i g n a l s i n t o s i m p l e r c o m -

p o n e n t s . W i t h t h i s a p p r o a c h l e a d i n g t o a b e t t e r u n d e r s t a n d i n g o f s i g n a l s t r u c t u r e , w e c a n e x p l o i t t h a t

s t r u c t u r e t o r e p r e s e n t i n f o r m a t i o n ( c r e a t e w a y s o f r e p r e s e n t i n g i n f o r m a t i o n w i t h s i g n a l s ) a n d t o e x t r a c t i n -

f o r m a t i o n ( r e t r i e v e t h e i n f o r m a t i o n t h u s r e p r e s e n t e d ) . F o r s y m b o l i c - v a l u e d s i g n a l s , t h e a p p r o a c h i s d i e r e n t :

W e d e v e l o p a c o m m o n r e p r e s e n t a t i o n o f a l l s y m b o l i c - v a l u e d s i g n a l s s o t h a t w e c a n e m b o d y t h e i n f o r m a t i o n

t h e y c o n t a i n i n a u n i e d w a y . F r o m a n i n f o r m a t i o n r e p r e s e n t a t i o n p e r s p e c t i v e , t h e m o s t i m p o r t a n t i s s u e

b e c o m e s , f o r b o t h r e a l - v a l u e d a n d s y m b o l i c - v a l u e d s i g n a l s , e c i e n c y ; W h a t i s t h e m o s t p a r s i m o n i o u s a n d

c o m p a c t w a y t o r e p r e s e n t i n f o r m a t i o n s o t h a t i t c a n b e e x t r a c t e d l a t e r .

6


7





2 3

2 . 4 . 1 R e a l - a n d C o m p l e x - v a l u e d S i g n a l s

A d i s c r e t e - t i m e s i g n a l i s r e p r e s e n t e d s y m b o l i c a l l y a s s (n), w h e r e n = . . . , −1, 0, 1, . . . . W e u s u a l l y d r a w

d i s c r e t e - t i m e s i g n a l s a s s t e m p l o t s t o e m p h a s i z e t h e f a c t t h e y a r e f u n c t i o n s d e n e d o n l y o n t h e i n t e g e r s .

W e c a n d e l a y a d i s c r e t e - t i m e s i g n a l b y a n i n t e g e r j u s t a s w i t h a n a l o g o n e s . A d e l a y e d u n i t s a m p l e h a s t h e

e x p r e s s i o n δ (n − m) , a n d e q u a l s o n e w h e n n = m .

D i s c r e t e - T i m e C o s i n e S i g n a l

n

sn

1

…

…

F i g u r e 2 . 7 : T h e d i s c r e t e - t i m e c o s i n e s i g n a l i s p l o t t e d a s a s t e m p l o t . C a n y o u n d t h e f o r m u l a f o r t h i s

s i g n a l ?


T h e m o s t i m p o r t a n t s i g n a l i s , o f c o u r s e , t h e c o m p l e x e x p o n e n t i a l s e q u e n c e .

s (n) = ej2πfn ( 2 . 2 6 )

2 . 4 . 3 S i n u s o i d s

D i s c r e t e - t i m e s i n u s o i d s h a v e t h e o b v i o u s f o r m s (n) = Acos(2πf n + φ) . A s o p p o s e d t o a n a l o g c o m p l e x

e x p o n e n t i a l s a n d s i n u s o i d s t h a t c a n h a v e t h e i r f r e q u e n c i e s b e a n y r e a l v a l u e , f r e q u e n c i e s o f t h e i r d i s c r e t e -

t i m e c o u n t e r p a r t s y i e l d u n i q u e w a v e f o r m s o n l y w h e n f l i e s i n t h e i n t e r v a l

−12 , 12

. T h i s p r o p e r t y c a n b e

e a s i l y u n d e r s t o o d b y n o t i n g t h a t a d d i n g a n i n t e g e r t o t h e f r e q u e n c y o f t h e d i s c r e t e - t i m e c o m p l e x e x p o n e n t i a l

h a s n o e e c t o n t h e s i g n a l ' s v a l u e .

ej2π(f +m)n = ej2πfnej2πmn

= ej2πfn( 2 . 2 7 )

T h i s d e r i v a t i o n f o l l o w s b e c a u s e t h e c o m p l e x e x p o n e n t i a l e v a l u a t e d a t a n i n t e g e r m u l t i p l e o f 2π e q u a l s o n e .

2 . 4 . 4 U n i t S a m p l e

T h e s e c o n d - m o s t i m p o r t a n t d i s c r e t e - t i m e s i g n a l i s t h e u n i t s a m p l e , w h i c h i s d e n e d t o b e

δ (n) =

1 i f

n = 0

0 o t h e r w i s e

( 2 . 2 8 )




2 4


U n i t S a m p l e

1

n

δn

F i g u r e 2 . 8 : T h e u n i t s a m p l e .

E x a m i n a t i o n o f a d i s c r e t e - t i m e s i g n a l ' s p l o t , l i k e t h a t o f t h e c o s i n e s i g n a l s h o w n i n F i g u r e 2 . 7 ( D i s c r e t e -

T i m e C o s i n e S i g n a l ) , r e v e a l s t h a t a l l s i g n a l s c o n s i s t o f a s e q u e n c e o f d e l a y e d a n d s c a l e d u n i t s a m p l e s . B e c a u s e

t h e v a l u e o f a s e q u e n c e a t e a c h i n t e g e r m i s d e n o t e d b y s (m) a n d t h e u n i t s a m p l e d e l a y e d t o o c c u r a t m i s

w r i t t e n δ (n − m), w e c a n d e c o m p o s e a n y s i g n a l a s a s u m o f u n i t s a m p l e s d e l a y e d t o t h e a p p r o p r i a t e l o c a t i o n

a n d s c a l e d b y t h e s i g n a l v a l u e .

s (n) =

∞m=−∞

s (m) δ (n − m) ( 2 . 2 9 )

T h i s k i n d o f d e c o m p o s i t i o n i s u n i q u e t o d i s c r e t e - t i m e s i g n a l s , a n d w i l l p r o v e u s e f u l s u b s e q u e n t l y .

D i s c r e t e - t i m e s y s t e m s c a n a c t o n d i s c r e t e - t i m e s i g n a l s i n w a y s s i m i l a r t o t h o s e f o u n d i n a n a l o g s i g n a l s

a n d s y s t e m s . B e c a u s e o f t h e r o l e o f s o f t w a r e i n d i s c r e t e - t i m e s y s t e m s , m a n y m o r e d i e r e n t s y s t e m s c a n

b e e n v i s i o n e d a n d c o n s t r u c t e d w i t h p r o g r a m s t h a n c a n b e w i t h a n a l o g s i g n a l s . I n f a c t , a s p e c i a l c l a s s o f

a n a l o g s i g n a l s c a n b e c o n v e r t e d i n t o d i s c r e t e - t i m e s i g n a l s , p r o c e s s e d w i t h s o f t w a r e , a n d c o n v e r t e d b a c k i n t o

a n a n a l o g s i g n a l , a l l w i t h o u t t h e i n c u r s i o n o f e r r o r . F o r s u c h s i g n a l s , s y s t e m s c a n b e e a s i l y p r o d u c e d i n

s o f t w a r e , w i t h e q u i v a l e n t a n a l o g r e a l i z a t i o n s d i c u l t , i f n o t i m p o s s i b l e , t o d e s i g n .

2 . 4 . 5 S y m b o l i c - v a l u e d S i g n a l s

A n o t h e r i n t e r e s t i n g a s p e c t o f d i s c r e t e - t i m e s i g n a l s i s t h a t t h e i r v a l u e s d o n o t n e e d t o b e r e a l n u m b e r s . W e

d o h a v e r e a l - v a l u e d d i s c r e t e - t i m e s i g n a l s l i k e t h e s i n u s o i d , b u t w e a l s o h a v e s i g n a l s t h a t d e n o t e t h e s e q u e n c e

o f c h a r a c t e r s t y p e d o n t h e k e y b o a r d . S u c h c h a r a c t e r s c e r t a i n l y a r e n ' t r e a l n u m b e r s , a n d a s a c o l l e c t i o n o f

p o s s i b l e s i g n a l v a l u e s , t h e y h a v e l i t t l e m a t h e m a t i c a l s t r u c t u r e o t h e r t h a n t h a t t h e y a r e m e m b e r s o f a s e t .

M o r e f o r m a l l y , e a c h e l e m e n t o f t h e s y m b o l i c - v a l u e d s i g n a l s (n) t a k e s o n o n e o f t h e v a l u e s a1, . . . , aK w h i c h

c o m p r i s e t h e a l p h a b e t A. T h i s t e c h n i c a l t e r m i n o l o g y d o e s n o t m e a n w e r e s t r i c t s y m b o l s t o b e i n g m e m -

b e r s o f t h e E n g l i s h o r G r e e k a l p h a b e t . T h e y c o u l d r e p r e s e n t k e y b o a r d c h a r a c t e r s , b y t e s ( 8 - b i t q u a n t i t i e s ) ,

i n t e g e r s t h a t c o n v e y d a i l y t e m p e r a t u r e . W h e t h e r c o n t r o l l e d b y s o f t w a r e o r n o t , d i s c r e t e - t i m e s y s t e m s a r e

u l t i m a t e l y c o n s t r u c t e d f r o m d i g i t a l c i r c u i t s , w h i c h c o n s i s t e n t i r e l y o f a n a l o g c i r c u i t e l e m e n t s . F u r t h e r m o r e ,

t h e t r a n s m i s s i o n a n d r e c e p t i o n o f d i s c r e t e - t i m e s i g n a l s , l i k e e - m a i l , i s a c c o m p l i s h e d w i t h a n a l o g s i g n a l s a n d

s y s t e m s . U n d e r s t a n d i n g h o w d i s c r e t e - t i m e a n d a n a l o g s i g n a l s a n d s y s t e m s i n t e r t w i n e i s p e r h a p s t h e m a i n

g o a l o f t h i s c o u r s e .

[ M e d i a O b j e c t ]

8

8

T h i s m e d i a o b j e c t i s a L a b V I E W V I . P l e a s e v i e w o r d o w n l o a d i t a t

< S i g n a l A p p r o x . l l b >




2 5

2 . 5 I n t r o d u c t i o n t o S y s t e m s

9

S i g n a l s a r e m a n i p u l a t e d b y s y s t e m s . M a t h e m a t i c a l l y , w e r e p r e s e n t w h a t a s y s t e m d o e s b y t h e n o t a t i o n

y (t) = S (x (t)), w i t h x r e p r e s e n t i n g t h e i n p u t s i g n a l a n d y t h e o u t p u t s i g n a l .

D e n i t i o n o f a s y s t e m

Systemx(t) y(t)

F i g u r e 2 . 9 : T h e s y s t e m d e p i c t e d h a s i n p u t

x (t) a n d o u t p u t

y (t). M a t h e m a t i c a l l y , s y s t e m s o p e r a t e

o n f u n c t i o n ( s ) t o p r o d u c e o t h e r f u n c t i o n ( s ) . I n m a n y w a y s , s y s t e m s a r e l i k e f u n c t i o n s , r u l e s t h a t y i e l d a

v a l u e f o r t h e d e p e n d e n t v a r i a b l e ( o u r o u t p u t s i g n a l ) f o r e a c h v a l u e o f i t s i n d e p e n d e n t v a r i a b l e ( i t s i n p u t

s i g n a l ) . T h e n o t a t i o n y (t) = S (x (t)) c o r r e s p o n d s t o t h i s b l o c k d i a g r a m . W e t e r m S (·) t h e i n p u t - o u t p u t

r e l a t i o n f o r t h e s y s t e m .

T h i s n o t a t i o n m i m i c s t h e m a t h e m a t i c a l s y m b o l o g y o f a f u n c t i o n : A s y s t e m ' s i n p u t i s a n a l o g o u s t o a n

i n d e p e n d e n t v a r i a b l e a n d i t s o u t p u t t h e d e p e n d e n t v a r i a b l e . F o r t h e m a t h e m a t i c a l l y i n c l i n e d , a s y s t e m i s a

f u n c t i o n a l : a f u n c t i o n o f a f u n c t i o n ( s i g n a l s a r e f u n c t i o n s ) .

S i m p l e s y s t e m s c a n b e c o n n e c t e d t o g e t h e r o n e s y s t e m ' s o u t p u t b e c o m e s a n o t h e r ' s i n p u t t o a c c o m p l i s h

s o m e o v e r a l l d e s i g n . I n t e r c o n n e c t i o n t o p o l o g i e s c a n b e q u i t e c o m p l i c a t e d , b u t u s u a l l y c o n s i s t o f w e a v e s o f

t h r e e b a s i c i n t e r c o n n e c t i o n f o r m s .

2 . 5 . 1 C a s c a d e I n t e r c o n n e c t i o n

c a s c a d e

S1[•] S2[•]x(t) y(t)w(t)

F i g u r e 2 . 1 0 : T h e m o s t r u d i m e n t a r y w a y s o f i n t e r c o n n e c t i n g s y s t e m s a r e s h o w n i n t h e g u r e s i n t h i s

s e c t i o n . T h i s i s t h e c a s c a d e c o n g u r a t i o n .

T h e s i m p l e s t f o r m i s w h e n o n e s y s t e m ' s o u t p u t i s c o n n e c t e d o n l y t o a n o t h e r ' s i n p u t . M a t h e m a t i c a l l y ,

w (t) = S 1 (x (t)), a n d

y (t) = S 2 (w (t)), w i t h t h e i n f o r m a t i o n c o n t a i n e d i n

x (t) p r o c e s s e d b y t h e r s t , t h e n

t h e s e c o n d s y s t e m . I n s o m e c a s e s , t h e o r d e r i n g o f t h e s y s t e m s m a t t e r , i n o t h e r s i t d o e s n o t . F o r e x a m p l e , i n

t h e f u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ( F i g u r e 1 . 3 : F u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ) t h e o r d e r i n g

m o s t c e r t a i n l y m a t t e r s .

9





2 6


2 . 5 . 2 P a r a l l e l I n t e r c o n n e c t i o n

p a r a l l e l

x(t)

x(t)

x(t)

+y(t)

S1[•]

S2[•]

F i g u r e 2 . 1 1 : T h e p a r a l l e l c o n g u r a t i o n .

A s i g n a l x (t) i s r o u t e d t o t w o ( o r m o r e ) s y s t e m s , w i t h t h i s s i g n a l a p p e a r i n g a s t h e i n p u t t o a l l s y s t e m s

s i m u l t a n e o u s l y a n d w i t h e q u a l s t r e n g t h . B l o c k d i a g r a m s h a v e t h e c o n v e n t i o n t h a t s i g n a l s g o i n g t o m o r e

t h a n o n e s y s t e m a r e n o t s p l i t i n t o p i e c e s a l o n g t h e w a y . T w o o r m o r e s y s t e m s o p e r a t e o n

x (t) a n d t h e i r

o u t p u t s a r e a d d e d t o g e t h e r t o c r e a t e t h e o u t p u t

y (t) . T h u s ,

y (t) = S 1 (x (t))+ S 2 (x (t)), a n d t h e i n f o r m a t i o n

i n

x (t) i s p r o c e s s e d s e p a r a t e l y b y b o t h s y s t e m s .

2 . 5 . 3 F e e d b a c k I n t e r c o n n e c t i o n

f e e d b a c k

S1[•]x(t) e(t) y(t)

S2[•]

–

+

F i g u r e 2 . 1 2 : T h e f e e d b a c k c o n g u r a t i o n .

T h e s u b t l e s t i n t e r c o n n e c t i o n c o n g u r a t i o n h a s a s y s t e m ' s o u t p u t a l s o c o n t r i b u t i n g t o i t s i n p u t . E n g i n e e r s

w o u l d s a y t h e o u t p u t i s " f e d b a c k " t o t h e i n p u t t h r o u g h s y s t e m 2 , h e n c e t h e t e r m i n o l o g y . T h e m a t h e m a t i c a l

s t a t e m e n t o f t h e f e e d b a c k i n t e r c o n n e c t i o n ( F i g u r e 2 . 1 2 : f e e d b a c k ) i s t h a t t h e f e e d - f o r w a r d s y s t e m p r o d u c e s

t h e o u t p u t :

y (t) = S 1 (e (t)). T h e i n p u t

e (t) e q u a l s t h e i n p u t s i g n a l m i n u s t h e o u t p u t o f s o m e o t h e r s y s t e m ' s

o u t p u t t o

y (t):

e (t) = x (t) − S 2 (y (t)). F e e d b a c k s y s t e m s a r e o m n i p r e s e n t i n c o n t r o l p r o b l e m s , w i t h t h e

e r r o r s i g n a l u s e d t o a d j u s t t h e o u t p u t t o a c h i e v e s o m e c o n d i t i o n d e n e d b y t h e i n p u t ( c o n t r o l l i n g ) s i g n a l .




2 7

F o r e x a m p l e , i n a c a r ' s c r u i s e c o n t r o l s y s t e m , x (t) i s a c o n s t a n t r e p r e s e n t i n g w h a t s p e e d y o u w a n t , a n d y (t)i s t h e c a r ' s s p e e d a s m e a s u r e d b y a s p e e d o m e t e r . I n t h i s a p p l i c a t i o n , s y s t e m 2 i s t h e i d e n t i t y s y s t e m ( o u t p u t

e q u a l s i n p u t ) .

2 . 6 S i m p l e S y s t e m s

1 0

S y s t e m s m a n i p u l a t e s i g n a l s , c r e a t i n g o u t p u t s i g n a l s d e r i v e d f r o m t h e i r i n p u t s . W h y t h e f o l l o w i n g a r e c a t e -

g o r i z e d a s " s i m p l e " w i l l o n l y b e c o m e e v i d e n t t o w a r d s t h e e n d o f t h e c o u r s e .

2 . 6 . 1 S o u r c e s

S o u r c e s p r o d u c e s i g n a l s w i t h o u t h a v i n g i n p u t . W e l i k e t o t h i n k o f t h e s e a s h a v i n g c o n t r o l l a b l e p a r a m e t e r s ,

l i k e a m p l i t u d e a n d f r e q u e n c y . E x a m p l e s w o u l d b e o s c i l l a t o r s t h a t p r o d u c e p e r i o d i c s i g n a l s l i k e s i n u s o i d s a n d

s q u a r e w a v e s a n d n o i s e g e n e r a t o r s t h a t y i e l d s i g n a l s w i t h e r r a t i c w a v e f o r m s ( m o r e a b o u t n o i s e s u b s e q u e n t l y ) .

S i m p l y w r i t i n g a n e x p r e s s i o n f o r t h e s i g n a l s t h e y p r o d u c e s p e c i e s s o u r c e s . A s i n e w a v e g e n e r a t o r m i g h t

b e s p e c i e d b y

y (t) = Asin(2πf 0t) u (t) , w h i c h s a y s t h a t t h e s o u r c e w a s t u r n e d o n a t

t = 0 t o p r o d u c e a

s i n u s o i d o f a m p l i t u d e A a n d f r e q u e n c y f 0 .

2 . 6 . 2 A m p l i e r s

A n a m p l i e r ( F i g u r e 2 . 1 3 : a m p l i e r ) m u l t i p l i e s i t s i n p u t b y a c o n s t a n t k n o w n a s t h e a m p l i e r g a i n .

y (t) = Gx (t) ( 2 . 3 0 )

a m p l i e r

Amplifier G

1G

F i g u r e 2 . 1 3 : A n a m p l i e r .

T h e g a i n c a n b e p o s i t i v e o r n e g a t i v e ( i f n e g a t i v e , w e w o u l d s a y t h a t t h e a m p l i e r i n v e r t s i t s i n p u t ) a n d

c a n b e g r e a t e r t h a n o n e o r l e s s t h a n o n e . I f l e s s t h a n o n e , t h e a m p l i e r a c t u a l l y a t t e n u a t e s . A r e a l - w o r l d

e x a m p l e o f a n a m p l i e r i s y o u r h o m e s t e r e o . Y o u c o n t r o l t h e g a i n b y t u r n i n g t h e v o l u m e c o n t r o l .

2 . 6 . 3 D e l a y

A s y s t e m s e r v e s a s a t i m e d e l a y ( F i g u r e 2 . 1 4 : d e l a y ) w h e n t h e o u t p u t s i g n a l e q u a l s t h e i n p u t s i g n a l a t a n

e a r l i e r t i m e .

y (t) = x (t − τ ) ( 2 . 3 1 )

1 0





2 8


d e l a y

Delayτ

τ

F i g u r e 2 . 1 4 : A d e l a y .

H e r e ,

τ i s t h e d e l a y . T h e w a y t o u n d e r s t a n d t h i s s y s t e m i s t o f o c u s o n t h e t i m e o r i g i n : T h e o u t p u t a t

t i m e t = τ e q u a l s t h e i n p u t a t t i m e t = 0 . T h u s , i f t h e d e l a y i s p o s i t i v e , t h e o u t p u t e m e r g e s l a t e r t h a n t h e

i n p u t , a n d p l o t t i n g t h e o u t p u t a m o u n t s t o s h i f t i n g t h e i n p u t p l o t t o t h e r i g h t . T h e d e l a y c a n b e n e g a t i v e ,

i n w h i c h c a s e w e s a y t h e s y s t e m a d v a n c e s i t s i n p u t . S u c h s y s t e m s a r e d i c u l t t o b u i l d ( t h e y w o u l d h a v e

t o p r o d u c e s i g n a l v a l u e s d e r i v e d f r o m w h a t t h e i n p u t w i l l b e ) , b u t w e w i l l h a v e o c c a s i o n t o a d v a n c e s i g n a l s

i n t i m e .

2 . 6 . 4 T i m e R e v e r s a l

H e r e , t h e o u t p u t s i g n a l e q u a l s t h e i n p u t s i g n a l i p p e d a b o u t t h e t i m e o r i g i n .

y (t) = x (−t) ( 2 . 3 2 )

t i m e r e v e r s a l

Time

Reverse

F i g u r e 2 . 1 5 : A t i m e r e v e r s a l s y s t e m .

A g a i n , s u c h s y s t e m s a r e d i c u l t t o b u i l d , b u t t h e n o t i o n o f t i m e r e v e r s a l o c c u r s f r e q u e n t l y i n c o m m u n i -

c a t i o n s s y s t e m s .

E x e r c i s e 2 . 6 . 1

( S o l u t i o n o n p . 3 7 . )

M e n t i o n e d e a r l i e r w a s t h e i s s u e o f w h e t h e r t h e o r d e r i n g o f s y s t e m s m a t t e r e d . I n o t h e r w o r d s , i f

w e h a v e t w o s y s t e m s i n c a s c a d e , d o e s t h e o u t p u t d e p e n d o n w h i c h c o m e s r s t ? D e t e r m i n e i f t h e

o r d e r i n g m a t t e r s f o r t h e c a s c a d e o f a n a m p l i e r a n d a d e l a y a n d f o r t h e c a s c a d e o f a t i m e - r e v e r s a l

s y s t e m a n d a d e l a y .




2 9

2 . 6 . 5 D e r i v a t i v e S y s t e m s a n d I n t e g r a t o r s

S y s t e m s t h a t p e r f o r m c a l c u l u s - l i k e o p e r a t i o n s o n t h e i r i n p u t s c a n p r o d u c e w a v e f o r m s s i g n i c a n t l y d i e r e n t

t h a n p r e s e n t i n t h e i n p u t . D e r i v a t i v e s y s t e m s o p e r a t e i n a s t r a i g h t f o r w a r d w a y : A r s t - d e r i v a t i v e s y s t e m

w o u l d h a v e t h e i n p u t - o u t p u t r e l a t i o n s h i p

y (t) =ddtx (t)

. I n t e g r a l s y s t e m s h a v e t h e c o m p l i c a t i o n t h a t t h e

i n t e g r a l ' s l i m i t s m u s t b e d e n e d . I t i s a s i g n a l t h e o r y c o n v e n t i o n t h a t t h e e l e m e n t a r y i n t e g r a l o p e r a t i o n h a v e

a l o w e r l i m i t o f −∞, a n d t h a t t h e v a l u e o f a l l s i g n a l s a t t = −∞ e q u a l s z e r o . A s i m p l e i n t e g r a t o r w o u l d

h a v e i n p u t - o u t p u t r e l a t i o n

y (t) =

t−∞

x (α) dα ( 2 . 3 3 )

2 . 6 . 6 L i n e a r S y s t e m s

L i n e a r s y s t e m s a r e a c l a s s o f s y s t e m s r a t h e r t h a n h a v i n g a s p e c i c i n p u t - o u t p u t r e l a t i o n . L i n e a r s y s t e m s

f o r m t h e f o u n d a t i o n o f s y s t e m t h e o r y , a n d a r e t h e m o s t i m p o r t a n t c l a s s o f s y s t e m s i n c o m m u n i c a t i o n s . T h e y

h a v e t h e p r o p e r t y t h a t w h e n t h e i n p u t i s e x p r e s s e d a s a w e i g h t e d s u m o f c o m p o n e n t s i g n a l s , t h e o u t p u t

e q u a l s t h e s a m e w e i g h t e d s u m o f t h e o u t p u t s p r o d u c e d b y e a c h c o m p o n e n t . W h e n

S (·) i s l i n e a r ,

S (G1x1 (t) + G2x2 (t)) = G1S (x1 (t)) + G2S (x2 (t)) ( 2 . 3 4 )

f o r a l l c h o i c e s o f s i g n a l s a n d g a i n s .

T h i s g e n e r a l i n p u t - o u t p u t r e l a t i o n p r o p e r t y c a n b e m a n i p u l a t e d t o i n d i c a t e s p e c i c p r o p e r t i e s s h a r e d b y

a l l l i n e a r s y s t e m s .

• S (Gx (t)) = GS (x (t)) T h e c o l l o q u i a l i s m s u m m a r i z i n g t h i s p r o p e r t y i s " D o u b l e t h e i n p u t , y o u d o u b l e

t h e o u t p u t . " N o t e t h a t t h i s p r o p e r t y i s c o n s i s t e n t w i t h a l t e r n a t e w a y s o f e x p r e s s i n g g a i n c h a n g e s : S i n c e

2x (t) a l s o e q u a l s x (t) + x (t), t h e l i n e a r s y s t e m d e n i t i o n p r o v i d e s t h e s a m e o u t p u t n o m a t t e r w h i c h

o f t h e s e i s u s e d t o e x p r e s s a g i v e n s i g n a l .

• S (0) = 0 I f t h e i n p u t i s i d e n t i c a l l y z e r o f o r a l l t i m e , t h e o u t p u t o f a l i n e a r s y s t e m m u s t b e z e r o .

T h i s p r o p e r t y f o l l o w s f r o m t h e s i m p l e d e r i v a t i o n S (0) = S (x (t)

−x (t)) = S (x (t))

−S (x (t)) = 0 .

J u s t w h y l i n e a r s y s t e m s a r e s o i m p o r t a n t i s r e l a t e d n o t o n l y t o t h e i r p r o p e r t i e s , w h i c h a r e d i v u l g e d t h r o u g h o u t

t h i s c o u r s e , b u t a l s o b e c a u s e t h e y l e n d t h e m s e l v e s t o r e l a t i v e l y s i m p l e m a t h e m a t i c a l a n a l y s i s . S a i d a n o t h e r

w a y , " T h e y ' r e t h e o n l y s y s t e m s w e t h o r o u g h l y u n d e r s t a n d ! "

W e c a n n d t h e o u t p u t o f a n y l i n e a r s y s t e m t o a c o m p l i c a t e d i n p u t b y d e c o m p o s i n g t h e i n p u t i n t o s i m p l e

s i g n a l s . T h e e q u a t i o n a b o v e ( 2 . 3 4 ) s a y s t h a t w h e n a s y s t e m i s l i n e a r , i t s o u t p u t t o a d e c o m p o s e d i n p u t i s

t h e s u m o f o u t p u t s t o e a c h i n p u t . F o r e x a m p l e , i f

x (t) = e−t + sin (2πf 0t)

t h e o u t p u t S (x (t)) o f a n y l i n e a r s y s t e m e q u a l s

y (t) = S

e−t

+ S (sin (2πf 0t))

2 . 6 . 7 T i m e - I n v a r i a n t S y s t e m s

S y s t e m s t h a t d o n ' t c h a n g e t h e i r i n p u t - o u t p u t r e l a t i o n w i t h t i m e a r e s a i d t o b e t i m e - i n v a r i a n t . T h e m a t h e m a t -

i c a l w a y o f s t a t i n g t h i s p r o p e r t y i s t o u s e t h e s i g n a l d e l a y c o n c e p t d e s c r i b e d i n S i m p l e S y s t e m s ( S e c t i o n 2 . 6 . 3 :

D e l a y ) .

(y (t) = S (x (t))) ⇒ (y (t − τ ) = S (x (t − τ ))) ( 2 . 3 5 )

I f y o u d e l a y ( o r a d v a n c e ) t h e i n p u t , t h e o u t p u t i s s i m i l a r l y d e l a y e d ( a d v a n c e d ) . T h u s , a t i m e - i n v a r i a n t

s y s t e m r e s p o n d s t o a n i n p u t y o u m a y s u p p l y t o m o r r o w t h e s a m e w a y i t r e s p o n d s t o t h e s a m e i n p u t a p p l i e d

t o d a y ; t o d a y ' s o u t p u t i s m e r e l y d e l a y e d t o o c c u r t o m o r r o w .




3 0


T h e c o l l e c t i o n o f l i n e a r , t i m e - i n v a r i a n t s y s t e m s a r e t h e m o s t t h o r o u g h l y u n d e r s t o o d s y s t e m s . M u c h o f

t h e s i g n a l p r o c e s s i n g a n d s y s t e m t h e o r y d i s c u s s e d h e r e c o n c e n t r a t e s o n s u c h s y s t e m s . F o r e x a m p l e , e l e c t r i c

c i r c u i t s a r e , f o r t h e m o s t p a r t , l i n e a r a n d t i m e - i n v a r i a n t . N o n l i n e a r o n e s a b o u n d , b u t c h a r a c t e r i z i n g t h e m

s o t h a t y o u c a n p r e d i c t t h e i r b e h a v i o r f o r a n y i n p u t r e m a i n s a n u n s o l v e d p r o b l e m .

L i n e a r , T i m e - I n v a r i a n t T a b l e

I n p u t - O u t p u t R e l a t i o n L i n e a r T i m e - I n v a r i a n t

y (t) = ddt (x) y e s y e s

y (t) = d2

dt2 (x) y e s y e s

y (t) =ddt (x)

2n o y e s

y (t) = dxdt + x y e s y e s

y (t) = x1 + x2 y e s y e s

y (t) = x (t

−τ ) y e s y e s

y (t) = cos(2πf t) x (t) y e s n o

y (t) = x (−t) y e s n o

y (t) = x2 (t) n o y e s

y (t) = |x (t) | n o y e s

y (t) = mx (t) + b n o y e s

T a b l e 2 . 1

2 . 7 S i g n a l s a n d S y s t e m s P r o b l e m s

1 1

P r o b l e m 2 . 1 : C o m p l e x N u m b e r A r i t h m e t i c

F i n d t h e r e a l p a r t , i m a g i n a r y p a r t , t h e m a g n i t u d e a n d a n g l e o f t h e c o m p l e x n u m b e r s g i v e n b y t h e f o l l o w i n g

e x p r e s s i o n s .

a ) −1

b )

1+√ 3j

2c ) 1 + j + ej

π2

d )

ejπ3 + ejπ + e−(j π

3 )

P r o b l e m 2 . 2 : D i s c o v e r i n g R o o t s

C o m p l e x n u m b e r s e x p o s e a l l t h e r o o t s o f r e a l ( a n d c o m p l e x ) n u m b e r s . F o r e x a m p l e , t h e r e s h o u l d b e t w o

s q u a r e - r o o t s , t h r e e c u b e - r o o t s , e t c . o f a n y n u m b e r . F i n d t h e f o l l o w i n g r o o t s .

a ) W h a t a r e t h e c u b e - r o o t s o f 2 7 ? I n o t h e r w o r d s , w h a t i s 2713

?

b ) W h a t a r e t h e f t h r o o t s o f 3 ( 315

) ?

c ) W h a t a r e t h e f o u r t h r o o t s o f o n e ?

P r o b l e m 2 . 3 : C o o l E x p o n e n t i a l s

S i m p l i f y t h e f o l l o w i n g ( c o o l ) e x p r e s s i o n s .

1 1





3 1

a ) jj

b )

j2j

c )

jjj

P r o b l e m 2 . 4 : C o m p l e x - v a l u e d S i g n a l s

C o m p l e x n u m b e r s a n d p h a s o r s p l a y a v e r y i m p o r t a n t r o l e i n e l e c t r i c a l e n g i n e e r i n g . S o l v i n g s y s t e m s f o r

c o m p l e x e x p o n e n t i a l s i s m u c h e a s i e r t h a n f o r s i n u s o i d s , a n d l i n e a r s y s t e m s a n a l y s i s i s p a r t i c u l a r l y e a s y .

a ) F i n d t h e p h a s o r r e p r e s e n t a t i o n f o r e a c h , a n d r e - e x p r e s s e a c h a s t h e r e a l a n d i m a g i n a r y p a r t s o f a

c o m p l e x e x p o n e n t i a l . W h a t i s t h e f r e q u e n c y ( i n H z ) o f e a c h ? I n g e n e r a l , a r e y o u r a n s w e r s u n i q u e ? I f

s o , p r o v e i t ; i f n o t , n d a n a l t e r n a t i v e a n s w e r f o r t h e c o m p l e x e x p o n e n t i a l r e p r e s e n t a t i o n .

i ) 3sin (24t)i i )

√ 2cos

2π60t + π

4

i i i ) 2cos

t + π

6

+ 4sin

t − π

3

b ) S h o w t h a t f o r l i n e a r s y s t e m s h a v i n g r e a l - v a l u e d o u t p u t s f o r r e a l i n p u t s , t h a t w h e n t h e i n p u t i s t h e

r e a l p a r t o f a c o m p l e x e x p o n e n t i a l , t h e o u t p u t i s t h e r e a l p a r t o f t h e s y s t e m ' s o u t p u t t o t h e c o m p l e x

e x p o n e n t i a l ( s e e F i g u r e 2 . 1 6 ) .

S

Re

Aej2πft

= Re

S

Aej2πft

Re[•] S [•]

Re[•]S [•]

Ae j2πft

Ae j2πft

S [Re[Ae j2πft]]

Re[S [Ae j2πft]]

F i g u r e 2 . 1 6

P r o b l e m 2 . 5 :

F o r e a c h o f t h e i n d i c a t e d v o l t a g e s , w r i t e i t a s t h e r e a l p a r t o f a c o m p l e x e x p o n e n t i a l ( v (t) = Re (V est) ) .

E x p l i c i t l y i n d i c a t e t h e v a l u e o f t h e c o m p l e x a m p l i t u d e V a n d t h e c o m p l e x f r e q u e n c y s . R e p r e s e n t e a c h

c o m p l e x a m p l i t u d e a s a v e c t o r i n t h e V - p l a n e , a n d i n d i c a t e t h e l o c a t i o n o f t h e f r e q u e n c i e s i n t h e c o m p l e x

s - p l a n e .

a ) v (t) = cos(5t)b ) v (t) = sin

8t + π

4

c ) v (t) = e−t

d ) v (t) = e−(3t)sin

4t + 3π4

e )

v (t) = 5e(2t)sin(8t + 2π)f ) v (t) = −2

g ) v (t) = 4sin (2t) + 3cos (2t)h ) v (t) = 2cos

100πt + π

6

− √ 3sin

100πt + π

2




3 2


P r o b l e m 2 . 6 :

E x p r e s s e a c h o f t h e f o l l o w i n g s i g n a l s ( F i g u r e 2 . 1 7 ) a s a l i n e a r c o m b i n a t i o n o f d e l a y e d a n d w e i g h t e d s t e p

f u n c t i o n s a n d r a m p s ( t h e i n t e g r a l o f a s t e p ) .




3 3

10

t1

s(t)

( a )

10

t1

s(t)

2

( b )

10

t1

s(t)

2

( c )

t1

s(t)

–1 –1

2

( d )

t1

s(t)

-1

1

2 3 4 …

( e )




3 4


P r o b l e m 2 . 7 : L i n e a r , T i m e - I n v a r i a n t S y s t e m s

W h e n t h e i n p u t t o a l i n e a r , t i m e - i n v a r i a n t s y s t e m i s t h e s i g n a l

x (t) , t h e o u t p u t i s t h e s i g n a l

y (t) ( F i g -

u r e 2 . 1 8 ) .

t1

1

x(t)

2 3

1

–1

1 2 3t

y(t)

F i g u r e 2 . 1 8

a ) F i n d a n d s k e t c h t h i s s y s t e m ' s o u t p u t w h e n t h e i n p u t i s t h e d e p i c t e d s i g n a l ( F i g u r e 2 . 1 9 ) .

b ) F i n d a n d s k e t c h t h i s s y s t e m ' s o u t p u t w h e n t h e i n p u t i s a u n i t s t e p .

t1

1

x(t)

2 3

0.5

F i g u r e 2 . 1 9

P r o b l e m 2 . 8 : L i n e a r S y s t e m s

T h e d e p i c t e d i n p u t ( F i g u r e 2 . 2 0 ) x (t) t o a l i n e a r , t i m e - i n v a r i a n t s y s t e m y i e l d s t h e o u t p u t y (t) .




3 5

x(t)

t1

y(t)

t1

1/2

–1/2

1

12

F i g u r e 2 . 2 0

a ) W h a t i s t h e s y s t e m ' s o u t p u t t o a u n i t s t e p i n p u t u (t) ?

b ) W h a t w i l l t h e o u t p u t b e w h e n t h e i n p u t i s t h e d e p i c t e d s q u a r e w a v e ( F i g u r e 2 . 2 1 ) ?

x(t)

t1

2

2 3 4

•••

–2

F i g u r e 2 . 2 1

P r o b l e m 2 . 9 : C o m m u n i c a t i o n C h a n n e l

A p a r t i c u l a r l y i n t e r e s t i n g c o m m u n i c a t i o n c h a n n e l c a n b e m o d e l e d a s a l i n e a r , t i m e - i n v a r i a n t s y s t e m . W h e n

t h e t r a n s m i t t e d s i g n a l x (t) i s a p u l s e , t h e r e c e i v e d s i g n a l r (t) i s a s s h o w n ( F i g u r e 2 . 2 2 ) .

x(t)

t1

1r(t)

t1

1

2

F i g u r e 2 . 2 2

a ) W h a t w i l l b e t h e r e c e i v e d s i g n a l w h e n t h e t r a n s m i t t e r s e n d s t h e p u l s e s e q u e n c e ( F i g u r e 2 . 2 3 )

x1 (t)?




3 6


b ) W h a t w i l l b e t h e r e c e i v e d s i g n a l w h e n t h e t r a n s m i t t e r s e n d s t h e p u l s e s i g n a l ( F i g u r e 2 . 2 3 ) x2 (t) t h a t

h a s h a l f t h e d u r a t i o n a s t h e o r i g i n a l ?

x1(t)

t1

1

2 3

t1

1

1/2

x2(t)

F i g u r e 2 . 2 3

P r o b l e m 2 . 1 0 : A n a l o g C o m p u t e r s

S o - c a l l e d a n a l o g c o m p u t e r s u s e c i r c u i t s t o s o l v e m a t h e m a t i c a l p r o b l e m s , p a r t i c u l a r l y w h e n t h e y i n v o l v e

d i e r e n t i a l e q u a t i o n s . S u p p o s e w e a r e g i v e n t h e f o l l o w i n g d i e r e n t i a l e q u a t i o n t o s o l v e .

dy (t)

dt+ ay (t) = x (t)

I n t h i s e q u a t i o n , a i s a c o n s t a n t .

a ) W h e n t h e i n p u t i s a u n i t s t e p (

x (t) = u (t) ) , t h e o u t p u t i s g i v e n b y

y (t) =

1 − e−(at)

u (t) . W h a t i s

t h e t o t a l e n e r g y e x p e n d e d b y t h e i n p u t ?

b ) I n s t e a d o f a u n i t s t e p , s u p p o s e t h e i n p u t i s a u n i t p u l s e ( u n i t - a m p l i t u d e , u n i t - d u r a t i o n ) d e l i v e r e d t o

t h e c i r c u i t a t t i m e t = 10 . W h a t i s t h e o u t p u t v o l t a g e i n t h i s c a s e ? S k e t c h t h e w a v e f o r m .




3 7


S o l u t i o n t o E x e r c i s e 2 . 1 . 1 ( p . 1 4 )

z + z∗ = a + jb + a

− jb = 2a = 2Re (z) . S i m i l a r l y , z

−z∗ = a + jb

−(a

− jb) = 2 jb = 2 ( j, Im (z))


T o c o n v e r t 3 − 2 j t o p o l a r f o r m , w e r s t l o c a t e t h e n u m b e r i n t h e c o m p l e x p l a n e i n t h e f o u r t h q u a d r a n t .

T h e d i s t a n c e f r o m t h e o r i g i n t o t h e c o m p l e x n u m b e r i s t h e m a g n i t u d e r , w h i c h e q u a l s

√ 13 =

32 + (−2)

2.

T h e a n g l e e q u a l s −arctan23

o r −0.588 r a d i a n s ( −33.7 d e g r e e s ) . T h e n a l a n s w e r i s

√ 13∠ (−33.7) d e g r e e s .


zz∗ = (a + jb) (a − jb) = a2 + b2 . T h u s , zz∗ = r2 = (|z|)2 .


sq (t) =∞

n=−∞ (−1)nApT/2

t − nT

2


I n t h e r s t c a s e , o r d e r d o e s n o t m a t t e r ; i n t h e s e c o n d i t d o e s . " D e l a y " m e a n s t → t − τ . " T i m e - r e v e r s e "

m e a n s

t → −tC a s e 1

y (t) = Gx (t

−τ ) , a n d t h e w a y w e a p p l y t h e g a i n a n d d e l a y t h e s i g n a l g i v e s t h e s a m e r e s u l t .

C a s e 2 T i m e - r e v e r s e t h e n d e l a y : y (t) = x (− (t − τ )) = x (−t + τ ) . D e l a y t h e n t i m e - r e v e r s e : y (t) =x ((−t) − τ ).




3 8





C h a p t e r 3

A n a l o g S i g n a l P r o c e s s i n g

3 . 1 V o l t a g e , C u r r e n t , a n d G e n e r i c C i r c u i t E l e m e n t s

1

W e k n o w t h a t i n f o r m a t i o n c a n b e r e p r e s e n t e d b y s i g n a l s ; n o w w e n e e d t o u n d e r s t a n d h o w s i g n a l s a r e

p h y s i c a l l y r e a l i z e d . O v e r t h e y e a r s , e l e c t r i c s i g n a l s h a v e b e e n f o u n d t o b e t h e e a s i e s t t o u s e . V o l t a g e a n d

c u r r e n t s c o m p r i s e t h e e l e c t r i c i n s t a n t i a t i o n s o f s i g n a l s . T h u s , w e n e e d t o d e l v e i n t o t h e w o r l d o f e l e c t r i c i t y

a n d e l e c t r o m a g n e t i s m . T h e s y s t e m s u s e d t o m a n i p u l a t e e l e c t r i c s i g n a l s d i r e c t l y a r e c a l l e d c i r c u i t s , a n d t h e y

r e n e t h e i n f o r m a t i o n r e p r e s e n t a t i o n o r e x t r a c t i n f o r m a t i o n f r o m t h e v o l t a g e o r c u r r e n t . I n m a n y c a s e s , t h e y

m a k e n i c e e x a m p l e s o f l i n e a r s y s t e m s .

A g e n e r i c c i r c u i t e l e m e n t p l a c e s a c o n s t r a i n t b e t w e e n t h e c l a s s i c v a r i a b l e s o f a c i r c u i t : v o l t a g e a n d c u r r e n t .

V o l t a g e i s e l e c t r i c p o t e n t i a l a n d r e p r e s e n t s t h e " p u s h " t h a t d r i v e s e l e c t r i c c h a r g e f r o m o n e p l a c e t o a n o t h e r .

W h a t c a u s e s c h a r g e t o m o v e i s a p h y s i c a l s e p a r a t i o n b e t w e e n p o s i t i v e a n d n e g a t i v e c h a r g e . A b a t t e r y

g e n e r a t e s , t h r o u g h e l e c t r o c h e m i c a l m e a n s , e x c e s s p o s i t i v e c h a r g e a t o n e t e r m i n a l a n d n e g a t i v e c h a r g e a t t h e

o t h e r , c r e a t i n g a n e l e c t r i c e l d . V o l t a g e i s d e n e d a c r o s s a c i r c u i t e l e m e n t , w i t h t h e p o s i t i v e s i g n d e n o t i n g

a p o s i t i v e v o l t a g e d r o p a c r o s s t h e e l e m e n t . W h e n a c o n d u c t o r c o n n e c t s t h e p o s i t i v e a n d n e g a t i v e p o t e n t i a l s ,

c u r r e n t o w s , w i t h p o s i t i v e c u r r e n t i n d i c a t i n g t h a t p o s i t i v e c h a r g e o w s f r o m t h e p o s i t i v e t e r m i n a l t o t h e

n e g a t i v e . E l e c t r o n s c o m p r i s e c u r r e n t o w i n m a n y c a s e s . B e c a u s e e l e c t r o n s h a v e a n e g a t i v e c h a r g e , e l e c t r o n s

m o v e i n t h e o p p o s i t e d i r e c t i o n o f p o s i t i v e c u r r e n t o w : N e g a t i v e c h a r g e o w i n g t o t h e r i g h t i s e q u i v a l e n t t o

p o s i t i v e c h a r g e m o v i n g t o t h e l e f t .

I t i s i m p o r t a n t t o u n d e r s t a n d t h e p h y s i c s o f c u r r e n t o w i n c o n d u c t o r s t o a p p r e c i a t e t h e i n n o v a t i o n o f

n e w e l e c t r o n i c d e v i c e s . E l e c t r i c c h a r g e c a n a r i s e f r o m m a n y s o u r c e s , t h e s i m p l e s t b e i n g t h e e l e c t r o n . W h e n

w e s a y t h a t " e l e c t r o n s o w t h r o u g h a c o n d u c t o r , " w h a t w e m e a n i s t h a t t h e c o n d u c t o r ' s c o n s t i t u e n t a t o m s

f r e e l y g i v e u p e l e c t r o n s f r o m t h e i r o u t e r s h e l l s . " F l o w " t h u s m e a n s t h a t e l e c t r o n s h o p f r o m a t o m t o a t o m

d r i v e n a l o n g b y t h e a p p l i e d e l e c t r i c p o t e n t i a l . A m i s s i n g e l e c t r o n , h o w e v e r , i s a v i r t u a l p o s i t i v e c h a r g e .

E l e c t r i c a l e n g i n e e r s c a l l t h e s e h o l e s , a n d i n s o m e m a t e r i a l s , p a r t i c u l a r l y c e r t a i n s e m i c o n d u c t o r s , c u r r e n t

o w i s a c t u a l l y d u e t o h o l e s . C u r r e n t o w a l s o o c c u r s i n n e r v e c e l l s f o u n d i n y o u r b r a i n . H e r e , n e u r o n s

" c o m m u n i c a t e " u s i n g p r o p a g a t i n g v o l t a g e p u l s e s t h a t r e l y o n t h e o w o f p o s i t i v e i o n s ( p o t a s s i u m a n d s o d i u m

p r i m a r i l y , a n d t o s o m e d e g r e e c a l c i u m ) a c r o s s t h e n e u r o n ' s o u t e r w a l l . T h u s , c u r r e n t c a n c o m e f r o m m a n y

s o u r c e s , a n d c i r c u i t t h e o r y c a n b e u s e d t o u n d e r s t a n d h o w c u r r e n t o w s i n r e a c t i o n t o e l e c t r i c e l d s .

1



3 9



4 0

C H A P T E R 3 . A N A L O G S I G N A L P R O C E S S I N G

G e n e r i c C i r c u i t E l e m e n t

+

–

v

i

F i g u r e 3 . 1 : T h e g e n e r i c c i r c u i t e l e m e n t .

C u r r e n t o w s t h r o u g h c i r c u i t e l e m e n t s , s u c h a s t h a t d e p i c t e d i n F i g u r e 3 . 1 ( G e n e r i c C i r c u i t E l e m e n t ) ,

a n d t h r o u g h c o n d u c t o r s , w h i c h w e i n d i c a t e b y l i n e s i n c i r c u i t d i a g r a m s . F o r e v e r y c i r c u i t e l e m e n t w e d e n e

a v o l t a g e a n d a c u r r e n t . T h e e l e m e n t h a s a v - i r e l a t i o n d e n e d b y t h e e l e m e n t ' s p h y s i c a l p r o p e r t i e s . I n

d e n i n g t h e v - i r e l a t i o n , w e h a v e t h e c o n v e n t i o n t h a t p o s i t i v e c u r r e n t o w s f r o m p o s i t i v e t o n e g a t i v e v o l t a g e

d r o p . V o l t a g e h a s u n i t s o f v o l t s , a n d b o t h t h e u n i t a n d t h e q u a n t i t y a r e n a m e d f o r V o l t a

2

. C u r r e n t h a s

u n i t s o f a m p e r e s , a n d i s n a m e d f o r t h e F r e n c h p h y s i c i s t A m p è r e

3

.

V o l t a g e s a n d c u r r e n t s a l s o c a r r y p o w e r . A g a i n u s i n g t h e c o n v e n t i o n s h o w n i n F i g u r e 3 . 1 ( G e n e r i c C i r c u i t

E l e m e n t ) f o r c i r c u i t e l e m e n t s , t h e i n s t a n t a n e o u s p o w e r a t e a c h m o m e n t o f t i m e c o n s u m e d b y t h e e l e m e n t

i s g i v e n b y t h e p r o d u c t o f t h e v o l t a g e a n d c u r r e n t .

p (t) = v (t) i (t)

A p o s i t i v e v a l u e f o r p o w e r i n d i c a t e s t h a t a t t i m e t t h e c i r c u i t e l e m e n t i s c o n s u m i n g p o w e r ; a n e g a t i v e v a l u e

m e a n s i t i s p r o d u c i n g p o w e r . W i t h v o l t a g e e x p r e s s e d i n v o l t s a n d c u r r e n t i n a m p e r e s , p o w e r d e n e d t h i s

w a y h a s u n i t s o f w a t t s . J u s t a s i n a l l a r e a s o f p h y s i c s a n d c h e m i s t r y , p o w e r i s t h e r a t e a t w h i c h e n e r g y i s

c o n s u m e d o r p r o d u c e d . C o n s e q u e n t l y , e n e r g y i s t h e i n t e g r a l o f p o w e r .

E (t) = t−∞

p (α) dα

A g a i n , p o s i t i v e e n e r g y c o r r e s p o n d s t o c o n s u m e d e n e r g y a n d n e g a t i v e e n e r g y c o r r e s p o n d s t o e n e r g y p r o d u c -

t i o n . N o t e t h a t a c i r c u i t e l e m e n t h a v i n g a p o w e r p r o l e t h a t i s b o t h p o s i t i v e a n d n e g a t i v e o v e r s o m e t i m e

i n t e r v a l c o u l d c o n s u m e o r p r o d u c e e n e r g y a c c o r d i n g t o t h e s i g n o f t h e i n t e g r a l o f p o w e r . T h e u n i t s o f e n e r g y

a r e j o u l e s s i n c e a w a t t e q u a l s j o u l e s / s e c o n d .

E x e r c i s e 3 . 1 . 1 ( S o l u t i o n o n p . 1 1 6 . )

R e s i d e n t i a l e n e r g y b i l l s t y p i c a l l y s t a t e a h o m e ' s e n e r g y u s a g e i n k i l o w a t t - h o u r s . I s t h i s r e a l l y a

u n i t o f e n e r g y ? I f s o , h o w m a n y j o u l e s e q u a l s o n e k i l o w a t t - h o u r ?

3 . 2 I d e a l C i r c u i t E l e m e n t s

4

T h e e l e m e n t a r y c i r c u i t e l e m e n t s t h e r e s i s t o r , c a p a c i t o r , a n d i n d u c t o r i m p o s e l i n e a r r e l a t i o n s h i p s b e t w e e n

v o l t a g e a n d c u r r e n t .

2

h t t p : / / w w w . b i o a n a l y t i c a l . c o m / i n f o / c a l e n d a r / 9 7 / v o l t a . h t m

3


∼h i s t o r y / M a t h e m a t i c i a n s / A m p e r e . h t m l

4





4 1

3 . 2 . 1 R e s i s t o r

R e s i s t o r

R

+

–

v

i

F i g u r e 3 . 2 : R e s i s t o r . v = Ri

T h e r e s i s t o r i s f a r a n d a w a y t h e s i m p l e s t c i r c u i t e l e m e n t . I n a r e s i s t o r , t h e v o l t a g e i s p r o p o r t i o n a l t o t h e

c u r r e n t , w i t h t h e c o n s t a n t o f p r o p o r t i o n a l i t y R, k n o w n a s t h e r e s i s t a n c e .

v (t) = Ri (t)

R e s i s t a n c e h a s u n i t s o f o h m s , d e n o t e d b y Ω, n a m e d f o r t h e G e r m a n e l e c t r i c a l s c i e n t i s t G e o r g O h m

5

.

S o m e t i m e s , t h e v - i r e l a t i o n f o r t h e r e s i s t o r i s w r i t t e n

i = Gv, w i t h

G, t h e c o n d u c t a n c e , e q u a l t o

1R .

C o n d u c t a n c e h a s u n i t s o f S i e m e n s ( S ) , a n d i s n a m e d f o r t h e G e r m a n e l e c t r o n i c s i n d u s t r i a l i s t W e r n e r v o n

S i e m e n s

6

.

W h e n r e s i s t a n c e i s p o s i t i v e , a s i t i s i n m o s t c a s e s , a r e s i s t o r c o n s u m e s p o w e r . A r e s i s t o r ' s i n s t a n t a n e o u s

p o w e r c o n s u m p t i o n c a n b e w r i t t e n o n e o f t w o w a y s .

p (t) = Ri2 (t) =1

Rv2 (t)

A s t h e r e s i s t a n c e a p p r o a c h e s i n n i t y , w e h a v e w h a t i s k n o w n a s a n o p e n c i r c u i t : N o c u r r e n t o w s b u t a

n o n - z e r o v o l t a g e c a n a p p e a r a c r o s s t h e o p e n c i r c u i t . A s t h e r e s i s t a n c e b e c o m e s z e r o , t h e v o l t a g e g o e s t o z e r o

f o r a n o n - z e r o c u r r e n t o w . T h i s s i t u a t i o n c o r r e s p o n d s t o a s h o r t c i r c u i t . A s u p e r c o n d u c t o r p h y s i c a l l y

r e a l i z e s a s h o r t c i r c u i t .

3 . 2 . 2 C a p a c i t o r

C a p a c i t o r

C

+

–

v

i

F i g u r e 3 . 3 : C a p a c i t o r .

i = C dv(t)dt

5


∼h i s t o r y / M a t h e m a t i c i a n s / O h m . h t m l

6

h t t p : / / w 4 . s i e m e n s . d e / a r c h i v / e n / p e r s o e n l i c h k e i t e n / w e r n e r _ v o n _ s i e m e n s . h t m l




4 2


T h e c a p a c i t o r s t o r e s c h a r g e a n d t h e r e l a t i o n s h i p b e t w e e n t h e c h a r g e s t o r e d a n d t h e r e s u l t a n t v o l t a g e i s

q = Cv. T h e c o n s t a n t o f p r o p o r t i o n a l i t y , t h e c a p a c i t a n c e , h a s u n i t s o f f a r a d s ( F ) , a n d i s n a m e d f o r t h e

E n g l i s h e x p e r i m e n t a l p h y s i c i s t M i c h a e l F a r a d a y

7

. A s c u r r e n t i s t h e r a t e o f c h a n g e o f c h a r g e , t h e v - i r e l a t i o n

c a n b e e x p r e s s e d i n d i e r e n t i a l o r i n t e g r a l f o r m .

i (t) = C dv (t)

dto r v (t) =

1

C

t−∞

i (α) dα ( 3 . 1 )

I f t h e v o l t a g e a c r o s s a c a p a c i t o r i s c o n s t a n t , t h e n t h e c u r r e n t o w i n g i n t o i t e q u a l s z e r o . I n t h i s s i t u a t i o n ,

t h e c a p a c i t o r i s e q u i v a l e n t t o a n o p e n c i r c u i t . T h e p o w e r c o n s u m e d / p r o d u c e d b y a v o l t a g e a p p l i e d t o a

c a p a c i t o r d e p e n d s o n t h e p r o d u c t o f t h e v o l t a g e a n d i t s d e r i v a t i v e .

p (t) = Cv (t)dv (t)

dt

T h i s r e s u l t m e a n s t h a t a c a p a c i t o r ' s t o t a l e n e r g y e x p e n d i t u r e u p t o t i m e t i s c o n c i s e l y g i v e n b y

E (t) =1

2Cv2 (t)

T h i s e x p r e s s i o n p r e s u m e s t h e f u n d a m e n t a l a s s u m p t i o n o f c i r c u i t t h e o r y : a l l v o l t a g e s a n d c u r r e n t s i n

a n y c i r c u i t w e r e z e r o i n t h e f a r d i s t a n t p a s t ( t = −∞ ) .

3 . 2 . 3 I n d u c t o r

I n d u c t o r

L+

–

v

i

F i g u r e 3 . 4 : I n d u c t o r .

v = Ldi(t)dt

T h e i n d u c t o r s t o r e s m a g n e t i c u x , w i t h l a r g e r v a l u e d i n d u c t o r s c a p a b l e o f s t o r i n g m o r e u x . I n d u c t a n c e h a s

u n i t s o f h e n r i e s ( H ) , a n d i s n a m e d f o r t h e A m e r i c a n p h y s i c i s t J o s e p h H e n r y

8

. T h e d i e r e n t i a l a n d i n t e g r a l

f o r m s o f t h e i n d u c t o r ' s v - i r e l a t i o n a r e

v (t) = Ldi (t)

dto r i (t) =

1

L

t−∞

v (α) dα ( 3 . 2 )

T h e p o w e r c o n s u m e d / p r o d u c e d b y a n i n d u c t o r d e p e n d s o n t h e p r o d u c t o f t h e i n d u c t o r c u r r e n t a n d i t s

d e r i v a t i v e

p (t) = Li (t)di (t)

dta n d i t s t o t a l e n e r g y e x p e n d i t u r e u p t o t i m e t i s g i v e n b y

E (t) =1

2Li2 (t)

7

h t t p : / / w w w . i e e . o r g . u k / p u b l i s h / f a r a d a y / f a r a d a y 1 . h t m l

8

h t t p : / / w w w . s i . e d u / a r c h i v e s / / i h d / j h p /




4 3

3 . 2 . 4 S o u r c e s

S o u r c e s

+

–

v

i

vs+

–

( a )

+

–

v

i

is

( b )

F i g u r e 3 . 5 : T h e v o l t a g e s o u r c e o n t h e l e f t a n d c u r r e n t s o u r c e o n t h e r i g h t a r e l i k e a l l c i r c u i t e l e m e n t s

i n t h a t t h e y h a v e a p a r t i c u l a r r e l a t i o n s h i p b e t w e e n t h e v o l t a g e a n d c u r r e n t d e n e d f o r t h e m . F o r t h e

v o l t a g e s o u r c e , v = vs f o r a n y c u r r e n t i; f o r t h e c u r r e n t s o u r c e , i = −is f o r a n y v o l t a g e v .

S o u r c e s o f v o l t a g e a n d c u r r e n t a r e a l s o c i r c u i t e l e m e n t s , b u t t h e y a r e n o t l i n e a r i n t h e s t r i c t s e n s e o f l i n e a r

s y s t e m s . F o r e x a m p l e , t h e v o l t a g e s o u r c e ' s v - i r e l a t i o n i s v = vs r e g a r d l e s s o f w h a t t h e c u r r e n t m i g h t b e .

A s f o r t h e c u r r e n t s o u r c e , i = −is r e g a r d l e s s o f t h e v o l t a g e . A n o t h e r n a m e f o r a c o n s t a n t - v a l u e d v o l t a g e

s o u r c e i s a b a t t e r y , a n d c a n b e p u r c h a s e d i n a n y s u p e r m a r k e t . C u r r e n t s o u r c e s , o n t h e o t h e r h a n d , a r e m u c h

h a r d e r t o a c q u i r e ; w e ' l l l e a r n w h y l a t e r .

3 . 3 I d e a l a n d R e a l - W o r l d C i r c u i t E l e m e n t s

9

S o u r c e a n d l i n e a r c i r c u i t e l e m e n t s a r e i d e a l c i r c u i t e l e m e n t s . O n e c e n t r a l n o t i o n o f c i r c u i t t h e o r y i s c o m b i n i n g

t h e i d e a l e l e m e n t s t o d e s c r i b e h o w p h y s i c a l e l e m e n t s o p e r a t e i n t h e r e a l w o r l d . F o r e x a m p l e , t h e 1 k Ωr e s i s t o r y o u c a n h o l d i n y o u r h a n d i s n o t e x a c t l y a n i d e a l 1 k Ω r e s i s t o r . F i r s t o f a l l , p h y s i c a l d e v i c e s

a r e m a n u f a c t u r e d t o c l o s e t o l e r a n c e s ( t h e t i g h t e r t h e t o l e r a n c e , t h e m o r e m o n e y y o u p a y ) , b u t n e v e r h a v e

e x a c t l y t h e i r a d v e r t i s e d v a l u e s . T h e f o u r t h b a n d o n r e s i s t o r s s p e c i e s t h e i r t o l e r a n c e ; 1 0 % i s c o m m o n . M o r e

p e r t i n e n t t o t h e c u r r e n t d i s c u s s i o n i s a n o t h e r d e v i a t i o n f r o m t h e i d e a l : I f a s i n u s o i d a l v o l t a g e i s p l a c e d a c r o s s

a p h y s i c a l r e s i s t o r , t h e c u r r e n t w i l l n o t b e e x a c t l y p r o p o r t i o n a l t o i t a s f r e q u e n c y b e c o m e s h i g h , s a y a b o v e

1 M H z . A t v e r y h i g h f r e q u e n c i e s , t h e w a y t h e r e s i s t o r i s c o n s t r u c t e d i n t r o d u c e s i n d u c t a n c e a n d c a p a c i t a n c e

e e c t s . T h u s , t h e s m a r t e n g i n e e r m u s t b e a w a r e o f t h e f r e q u e n c y r a n g e s o v e r w h i c h h i s i d e a l m o d e l s m a t c h

r e a l i t y w e l l .

O n t h e o t h e r h a n d , p h y s i c a l c i r c u i t e l e m e n t s c a n b e r e a d i l y f o u n d t h a t w e l l a p p r o x i m a t e t h e i d e a l , b u t

t h e y w i l l a l w a y s d e v i a t e f r o m t h e i d e a l i n s o m e w a y . F o r e x a m p l e , a a s h l i g h t b a t t e r y , l i k e a C - c e l l , r o u g h l y

c o r r e s p o n d s t o a 1 . 5 V v o l t a g e s o u r c e . H o w e v e r , i t c e a s e s t o b e m o d e l e d b y a v o l t a g e s o u r c e c a p a b l e o f

s u p p l y i n g a n y c u r r e n t ( t h a t ' s w h a t i d e a l o n e s c a n d o ! ) w h e n t h e r e s i s t a n c e o f t h e l i g h t b u l b i s t o o s m a l l .

3 . 4 E l e c t r i c C i r c u i t s a n d I n t e r c o n n e c t i o n L a w s

1 0

A c i r c u i t c o n n e c t s c i r c u i t e l e m e n t s t o g e t h e r i n a s p e c i c c o n g u r a t i o n d e s i g n e d t o t r a n s f o r m t h e s o u r c e

s i g n a l ( o r i g i n a t i n g f r o m a v o l t a g e o r c u r r e n t s o u r c e ) i n t o a n o t h e r s i g n a l t h e o u t p u t t h a t c o r r e s p o n d s t o

t h e c u r r e n t o r v o l t a g e d e n e d f o r a p a r t i c u l a r c i r c u i t e l e m e n t . A s i m p l e r e s i s t i v e c i r c u i t i s s h o w n i n F i g u r e 3 . 6 .

9

T h i s c o n t e n t i s a v a i l a b l e o n l i n e a t < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 1 3 / 2 . 9 / > .

1 0





4 4


T h i s c i r c u i t i s t h e e l e c t r i c a l e m b o d i m e n t o f a s y s t e m h a v i n g i t s i n p u t p r o v i d e d b y a s o u r c e s y s t e m p r o d u c i n g

vi n

(t).

vin+

–

R1

R2

+

–

vout

( a )

vin +

–

R1

R2

+

–

vout

iout

+ – v1i1

+

–

v

i

( b )

Systemvin(t) vout(t)

Source

( c )

F i g u r e 3 . 6 : T h e c i r c u i t s h o w n i n t h e t o p t w o g u r e s i s p e r h a p s t h e s i m p l e s t c i r c u i t t h a t p e r f o r m s a

s i g n a l p r o c e s s i n g f u n c t i o n . O n t h e b o t t o m i s t h e b l o c k d i a g r a m t h a t c o r r e s p o n d s t o t h e c i r c u i t . T h e

i n p u t i s p r o v i d e d b y t h e v o l t a g e s o u r c e vi n

a n d t h e o u t p u t i s t h e v o l t a g e vo u t

a c r o s s t h e r e s i s t o r l a b e l R2 .

A s s h o w n i n t h e m i d d l e , w e a n a l y z e t h e c i r c u i t u n d e r s t a n d w h a t i t a c c o m p l i s h e s b y d e n i n g c u r r e n t s

a n d v o l t a g e s f o r a l l c i r c u i t e l e m e n t s , a n d t h e n s o l v i n g t h e c i r c u i t a n d e l e m e n t e q u a t i o n s .

T o u n d e r s t a n d w h a t t h i s c i r c u i t a c c o m p l i s h e s , w e w a n t t o d e t e r m i n e t h e v o l t a g e a c r o s s t h e r e s i s t o r

l a b e l e d b y i t s v a l u e R2 . R e c a s t i n g t h i s p r o b l e m m a t h e m a t i c a l l y , w e n e e d t o s o l v e s o m e s e t o f e q u a t i o n s s o

t h a t w e r e l a t e t h e o u t p u t v o l t a g e vo u t

t o t h e s o u r c e v o l t a g e . I t w o u l d b e s i m p l e a l i t t l e t o o s i m p l e a t t h i s

p o i n t i f w e c o u l d i n s t a n t l y w r i t e d o w n t h e o n e e q u a t i o n t h a t r e l a t e s t h e s e t w o v o l t a g e s . U n t i l w e h a v e m o r e

k n o w l e d g e a b o u t h o w c i r c u i t s w o r k , w e m u s t w r i t e a s e t o f e q u a t i o n s t h a t a l l o w u s t o n d a l l t h e v o l t a g e s

a n d c u r r e n t s t h a t c a n b e d e n e d f o r e v e r y c i r c u i t e l e m e n t . B e c a u s e w e h a v e a t h r e e - e l e m e n t c i r c u i t , w e h a v e

a t o t a l o f s i x v o l t a g e s a n d c u r r e n t s t h a t m u s t b e e i t h e r s p e c i e d o r d e t e r m i n e d . Y o u c a n d e n e t h e d i r e c t i o n s

f o r p o s i t i v e c u r r e n t o w a n d p o s i t i v e v o l t a g e d r o p a n y w a y y o u l i k e . O n c e t h e v a l u e s f o r t h e v o l t a g e s a n d

c u r r e n t s a r e c a l c u l a t e d , t h e y m a y b e p o s i t i v e o r n e g a t i v e a c c o r d i n g t o y o u r d e n i t i o n . W h e n t w o p e o p l e

d e n e v a r i a b l e s a c c o r d i n g t o t h e i r i n d i v i d u a l p r e f e r e n c e s , t h e s i g n s o f t h e i r v a r i a b l e s m a y n o t a g r e e , b u t

c u r r e n t o w a n d v o l t a g e d r o p v a l u e s f o r e a c h e l e m e n t w i l l a g r e e . D o r e c a l l i n d e n i n g y o u r v o l t a g e a n d

c u r r e n t v a r i a b l e s ( S e c t i o n 3 . 2 ) t h a t t h e v - i r e l a t i o n s f o r t h e e l e m e n t s p r e s u m e t h a t p o s i t i v e c u r r e n t o w i s i n

t h e s a m e d i r e c t i o n a s p o s i t i v e v o l t a g e d r o p . O n c e y o u d e n e v o l t a g e s a n d c u r r e n t s , w e n e e d s i x n o n r e d u n d a n t

e q u a t i o n s t o s o l v e f o r t h e s i x u n k n o w n v o l t a g e s a n d c u r r e n t s . B y s p e c i f y i n g t h e s o u r c e , w e h a v e o n e ; t h i s




4 5

a m o u n t s t o p r o v i d i n g t h e s o u r c e ' s v - i r e l a t i o n . T h e v - i r e l a t i o n s f o r t h e r e s i s t o r s g i v e u s t w o m o r e . W e a r e

o n l y h a l f w a y t h e r e ; w h e r e d o w e g e t t h e o t h e r t h r e e e q u a t i o n s w e n e e d ?

W h a t w e n e e d t o s o l v e e v e r y c i r c u i t p r o b l e m a r e m a t h e m a t i c a l s t a t e m e n t s t h a t e x p r e s s h o w t h e c i r c u i t

e l e m e n t s a r e i n t e r c o n n e c t e d . S a i d a n o t h e r w a y , w e n e e d t h e l a w s t h a t g o v e r n t h e e l e c t r i c a l c o n n e c t i o n o f

c i r c u i t e l e m e n t s . F i r s t o f a l l , t h e p l a c e s w h e r e c i r c u i t e l e m e n t s a t t a c h t o e a c h o t h e r a r e c a l l e d n o d e s .

T w o n o d e s a r e e x p l i c i t l y i n d i c a t e d i n F i g u r e 3 . 6 ; a t h i r d i s a t t h e b o t t o m w h e r e t h e v o l t a g e s o u r c e a n d

r e s i s t o r R2 a r e c o n n e c t e d . E l e c t r i c a l e n g i n e e r s t e n d t o d r a w c i r c u i t d i a g r a m s s c h e m a t i c s i n a r e c t i l i n e a r

f a s h i o n . T h u s t h e l o n g l i n e c o n n e c t i n g t h e b o t t o m o f t h e v o l t a g e s o u r c e w i t h t h e b o t t o m o f t h e r e s i s t o r

i s i n t e n d e d t o m a k e t h e d i a g r a m l o o k p r e t t y . T h i s l i n e s i m p l y m e a n s t h a t t h e t w o e l e m e n t s a r e c o n n e c t e d

t o g e t h e r . K i r c h h o ' s L a w s , o n e f o r v o l t a g e ( S e c t i o n 3 . 4 . 2 : K i r c h h o ' s V o l t a g e L a w ( K V L ) ) a n d o n e

f o r c u r r e n t ( S e c t i o n 3 . 4 . 1 : K i r c h h o ' s C u r r e n t L a w ) , d e t e r m i n e w h a t a c o n n e c t i o n a m o n g c i r c u i t e l e m e n t s

m e a n s . T h e s e l a w s a r e e s s e n t i a l t o a n a l y z i n g t h i s a n d a n y c i r c u i t . T h e y a r e n a m e d f o r G u s t a v K i r c h h o

1 1

,

a n i n e t e e n t h c e n t u r y G e r m a n p h y s i c i s t .

3 . 4 . 1 K i r c h h o ' s C u r r e n t L a w

A t e v e r y n o d e , t h e s u m o f a l l c u r r e n t s e n t e r i n g o r l e a v i n g a n o d e m u s t e q u a l z e r o . W h a t t h i s l a w m e a n s

p h y s i c a l l y i s t h a t c h a r g e c a n n o t a c c u m u l a t e i n a n o d e ; w h a t g o e s i n m u s t c o m e o u t . I n t h e e x a m p l e ,

F i g u r e 3 . 6 , b e l o w w e h a v e a t h r e e - n o d e c i r c u i t a n d t h u s h a v e t h r e e K C L e q u a t i o n s .

(−i) − i1 = 0

i1 − i2 = 0

i + i2 = 0

N o t e t h a t t h e c u r r e n t e n t e r i n g a n o d e i s t h e n e g a t i v e o f t h e c u r r e n t l e a v i n g t h e n o d e .

G i v e n a n y t w o o f t h e s e K C L e q u a t i o n s , w e c a n n d t h e o t h e r b y a d d i n g o r s u b t r a c t i n g t h e m . T h u s , o n e

o f t h e m i s r e d u n d a n t a n d , i n m a t h e m a t i c a l t e r m s , w e c a n d i s c a r d a n y o n e o f t h e m . T h e c o n v e n t i o n i s t o

d i s c a r d t h e e q u a t i o n f o r t h e ( u n l a b e l e d ) n o d e a t t h e b o t t o m o f t h e c i r c u i t .

vin+

–

R1

R2

+

–

vout

( a )

vin

+

–

R1

R2

+

–

vout

iout

+ – v1i1

+

–

v

i

( b )

F i g u r e 3 . 7 : T h e c i r c u i t s h o w n i s p e r h a p s t h e s i m p l e s t c i r c u i t t h a t p e r f o r m s a s i g n a l p r o c e s s i n g f u n c t i o n .

T h e i n p u t i s p r o v i d e d b y t h e v o l t a g e s o u r c e vi n

a n d t h e o u t p u t i s t h e v o l t a g e vo u t

a c r o s s t h e r e s i s t o r

l a b e l l e d

R2

.

E x e r c i s e 3 . 4 . 1

( S o l u t i o n o n p . 1 1 6 . )

I n w r i t i n g K C L e q u a t i o n s , y o u w i l l n d t h a t i n a n n- n o d e c i r c u i t , e x a c t l y o n e o f t h e m i s a l w a y s

r e d u n d a n t . C a n y o u s k e t c h a p r o o f o f w h y t h i s m i g h t b e t r u e ? H i n t : I t h a s t o d o w i t h t h e f a c t

t h a t c h a r g e w o n ' t a c c u m u l a t e i n o n e p l a c e o n i t s o w n .

1 1

h t t p : / / e n . w i k i p e d i a . o r g / w i k i / G u s t a v _ K i r c h h o




4 6


3 . 4 . 2 K i r c h h o ' s V o l t a g e L a w ( K V L )

T h e v o l t a g e l a w s a y s t h a t t h e s u m o f v o l t a g e s a r o u n d e v e r y c l o s e d l o o p i n t h e c i r c u i t m u s t e q u a l z e r o . A

c l o s e d l o o p h a s t h e o b v i o u s d e n i t i o n : S t a r t i n g a t a n o d e , t r a c e a p a t h t h r o u g h t h e c i r c u i t t h a t r e t u r n s y o u

t o t h e o r i g i n n o d e . K V L e x p r e s s e s t h e f a c t t h a t e l e c t r i c e l d s a r e c o n s e r v a t i v e : T h e t o t a l w o r k p e r f o r m e d

i n m o v i n g a t e s t c h a r g e a r o u n d a c l o s e d p a t h i s z e r o . T h e K V L e q u a t i o n f o r o u r c i r c u i t i s

v1 + v2 − v = 0

I n w r i t i n g K V L e q u a t i o n s , w e f o l l o w t h e c o n v e n t i o n t h a t a n e l e m e n t ' s v o l t a g e e n t e r s w i t h a p l u s s i g n w h e n

t r a v e r s i n g t h e c l o s e d p a t h , w e g o f r o m t h e p o s i t i v e t o t h e n e g a t i v e o f t h e v o l t a g e ' s d e n i t i o n .

F o r t h e e x a m p l e c i r c u i t ( F i g u r e 3 . 7 ) , w e h a v e t h r e e v - i r e l a t i o n s , t w o K C L e q u a t i o n s , a n d o n e K V L

e q u a t i o n f o r s o l v i n g f o r t h e c i r c u i t ' s s i x v o l t a g e s a n d c u r r e n t s .

v - i : v = vi n

v1 = R1i1

vo u t

= R2io u t

K C L : (−i) − i1 = 0

i1 − io u t

= 0

K V L : −v + v1 + vo u t

= 0

W e h a v e e x a c t l y t h e r i g h t n u m b e r o f e q u a t i o n s ! E v e n t u a l l y , w e w i l l d i s c o v e r s h o r t c u t s f o r s o l v i n g c i r c u i t

p r o b l e m s ; f o r n o w , w e w a n t t o e l i m i n a t e a l l t h e v a r i a b l e s b u t vo u t

a n d d e t e r m i n e h o w i t d e p e n d s o n vi n

a n d

o n r e s i s t o r v a l u e s . T h e K V L e q u a t i o n c a n b e r e w r i t t e n a s vi n

= v1 + vo u t

. S u b s t i t u t i n g i n t o i t t h e r e s i s t o r ' s

v - i r e l a t i o n , w e h a v e vi n

= R1i1 + R2io u t

. Y e s , w e t e m p o r a r i l y e l i m i n a t e t h e q u a n t i t y w e s e e k . T h o u g h

n o t o b v i o u s , i t i s t h e s i m p l e s t w a y t o s o l v e t h e e q u a t i o n s . O n e o f t h e K C L e q u a t i o n s s a y s i1 = io u t

, w h i c h

m e a n s t h a t v i n = R1io u t + R2io u t = (R1 + R2) io u t

. S o l v i n g f o r t h e c u r r e n t i n t h e o u t p u t r e s i s t o r , w e h a v e

io u t

= vi n

R1+R2. W e h a v e n o w s o l v e d t h e c i r c u i t : W e h a v e e x p r e s s e d o n e v o l t a g e o r c u r r e n t i n t e r m s o f

s o u r c e s a n d c i r c u i t - e l e m e n t v a l u e s . T o n d a n y o t h e r c i r c u i t q u a n t i t i e s , w e c a n b a c k s u b s t i t u t e t h i s a n s w e r

i n t o o u r o r i g i n a l e q u a t i o n s o r o n e s w e d e v e l o p e d a l o n g t h e w a y . U s i n g t h e v - i r e l a t i o n f o r t h e o u t p u t r e s i s t o r ,

w e o b t a i n t h e q u a n t i t y w e s e e k .

vo u t

=R2

R1 + R2v

i n


R e f e r r i n g b a c k t o F i g u r e 3 . 6 , a c i r c u i t s h o u l d s e r v e s o m e u s e f u l p u r p o s e . W h a t k i n d o f s y s t e m

d o e s o u r c i r c u i t r e a l i z e a n d , i n t e r m s o f e l e m e n t v a l u e s , w h a t a r e t h e s y s t e m ' s p a r a m e t e r ( s ) ?

3 . 5 P o w e r D i s s i p a t i o n i n R e s i s t o r C i r c u i t s

1 2

W e c a n n d v o l t a g e s a n d c u r r e n t s i n s i m p l e c i r c u i t s c o n t a i n i n g r e s i s t o r s a n d v o l t a g e o r c u r r e n t s o u r c e s . W e

s h o u l d e x a m i n e w h e t h e r t h e s e c i r c u i t s v a r i a b l e s o b e y t h e C o n s e r v a t i o n o f P o w e r p r i n c i p l e : s i n c e a c i r c u i t i s

a c l o s e d s y s t e m , i t s h o u l d n o t d i s s i p a t e o r c r e a t e e n e r g y . F o r t h e m o m e n t , o u r a p p r o a c h i s t o i n v e s t i g a t e

r s t a r e s i s t o r c i r c u i t ' s p o w e r c o n s u m p t i o n / c r e a t i o n . L a t e r , w e w i l l p r o v e t h a t b e c a u s e o f K V L a n d K C L

a l l c i r c u i t s c o n s e r v e p o w e r .

1 2

T h i s c o n t e n t i s a v a i l a b l e o n l i n e a t < h t t p : / / c n x . o r g / c o n t e n t / m 1 7 3 0 5 / 1 . 7 / > .




4 7

A s d e n e d o n p . 4 0 , t h e i n s t a n t a n e o u s p o w e r c o n s u m e d / c r e a t e d b y e v e r y c i r c u i t e l e m e n t e q u a l s t h e

p r o d u c t o f i t s v o l t a g e a n d c u r r e n t . T h e t o t a l p o w e r c o n s u m e d / c r e a t e d b y a c i r c u i t e q u a l s t h e s u m o f e a c h

e l e m e n t ' s p o w e r .

P = k

vkik

R e c a l l t h a t e a c h e l e m e n t ' s c u r r e n t a n d v o l t a g e m u s t o b e y t h e c o n v e n t i o n t h a t p o s i t i v e c u r r e n t i s d e n e d t o

e n t e r t h e p o s i t i v e - v o l t a g e t e r m i n a l . W i t h t h i s c o n v e n t i o n , a p o s i t i v e v a l u e o f

vkik c o r r e s p o n d s t o c o n s u m e d

p o w e r , a n e g a t i v e v a l u e t o c r e a t e d p o w e r . B e c a u s e t h e t o t a l p o w e r i n a c i r c u i t m u s t b e z e r o ( P = 0 ) , s o m e

c i r c u i t e l e m e n t s m u s t c r e a t e p o w e r w h i l e o t h e r s c o n s u m e i t .

C o n s i d e r t h e s i m p l e s e r i e s c i r c u i t s h o u l d i n F i g u r e 3 . 6 . I n p e r f o r m i n g o u r c a l c u l a t i o n s , w e d e n e d t h e

c u r r e n t io u t

t o o w t h r o u g h t h e p o s i t i v e - v o l t a g e t e r m i n a l s o f b o t h r e s i s t o r s a n d f o u n d i t t o e q u a l io u t

=v

i n

R1+R2. T h e v o l t a g e a c r o s s t h e r e s i s t o r R2 i s t h e o u t p u t v o l t a g e a n d w e f o u n d i t t o e q u a l v

o u t

= R2

R1+R2v

i n

.

C o n s e q u e n t l y , c a l c u l a t i n g t h e p o w e r f o r t h i s r e s i s t o r y i e l d s

P 2 =R2

(R1 + R2)2 v

i n

2

C o n s e q u e n t l y , t h i s r e s i s t o r d i s s i p a t e s p o w e r b e c a u s e P 2 i s p o s i t i v e . T h i s r e s u l t s h o u l d n o t b e s u r p r i s i n g s i n c e

w e s h o w e d ( p . 4 1 ) t h a t t h e p o w e r c o n s u m e d b y a n y r e s i s t o r e q u a l s e i t h e r o f t h e f o l l o w i n g .

v2

Ro r

i2R( 3 . 3 )

S i n c e r e s i s t o r s a r e p o s i t i v e - v a l u e d , r e s i s t o r s a l w a y s d i s s i p a t e p o w e r . B u t w h e r e d o e s a r e s i s t o r ' s p o w e r

g o ? B y C o n s e r v a t i o n o f P o w e r , t h e d i s s i p a t e d p o w e r m u s t b e a b s o r b e d s o m e w h e r e . T h e a n s w e r i s n o t

d i r e c t l y p r e d i c t e d b y c i r c u i t t h e o r y , b u t i s b y p h y s i c s . C u r r e n t o w i n g t h r o u g h a r e s i s t o r m a k e s i t h o t ; i t s

p o w e r i s d i s s i p a t e d b y h e a t .

n o t e : A p h y s i c a l w i r e h a s a r e s i s t a n c e a n d h e n c e d i s s i p a t e s p o w e r ( i t g e t s w a r m j u s t l i k e a r e s i s t o r

i n a c i r c u i t ) . I n f a c t , t h e r e s i s t a n c e o f a w i r e o f l e n g t h

La n d c r o s s - s e c t i o n a l a r e a

Ai s g i v e n b y

R =

ρL

AT h e q u a n t i t y

ρi s k n o w n a s t h e r e s i s t i v i t y a n d p r e s e n t s t h e r e s i s t a n c e o f a u n i t - l e n g t h , u n i t c r o s s -

s e c t i o n a l a r e a m a t e r i a l c o n s t i t u t i n g t h e w i r e . R e s i s t i v i t y h a s u n i t s o f o h m - m e t e r s . M o s t m a t e r i a l s

h a v e a p o s i t i v e v a l u e f o r ρ, w h i c h m e a n s t h e l o n g e r t h e w i r e , t h e g r e a t e r t h e r e s i s t a n c e a n d t h u s

t h e p o w e r d i s s i p a t e d . T h e t h i c k e r t h e w i r e , t h e s m a l l e r t h e r e s i s t a n c e . S u p e r c o n d u c t o r s h a v e z e r o

r e s i s t i v i t y a n d h e n c e d o n o t d i s s i p a t e p o w e r . I f a r o o m - t e m p e r a t u r e s u p e r c o n d u c t o r c o u l d b e f o u n d ,

e l e c t r i c p o w e r c o u l d b e s e n t t h r o u g h p o w e r l i n e s w i t h o u t l o s s !

E x e r c i s e 3 . 5 . 1

( S o l u t i o n o n p . 1 1 6 . )

C a l c u l a t e t h e p o w e r c o n s u m e d / c r e a t e d b y t h e r e s i s t o r R1 i n o u r s i m p l e c i r c u i t e x a m p l e .

W e c o n c l u d e t h a t b o t h r e s i s t o r s i n o u r e x a m p l e c i r c u i t c o n s u m e p o w e r , w h i c h p o i n t s t o t h e v o l t a g e s o u r c e

a s t h e p r o d u c e r o f p o w e r . T h e c u r r e n t o w i n g i n t o t h e s o u r c e ' s p o s i t i v e t e r m i n a l i s −io u t

. C o n s e q u e n t l y ,

t h e p o w e r c a l c u l a t i o n f o r t h e s o u r c e y i e l d s

− (vi n

io u t

) = −

1

R1 + R2v

i n

2

W e c o n c l u d e t h a t t h e s o u r c e p r o v i d e s t h e p o w e r c o n s u m e d b y t h e r e s i s t o r s , n o m o r e , n o l e s s .

E x e r c i s e 3 . 5 . 2

( S o l u t i o n o n p . 1 1 6 . )

C o n r m t h a t t h e s o u r c e p r o d u c e s e x a c t l y t h e t o t a l p o w e r c o n s u m e d b y b o t h r e s i s t o r s .

T h i s r e s u l t i s q u i t e g e n e r a l : s o u r c e s p r o d u c e p o w e r a n d t h e c i r c u i t e l e m e n t s , e s p e c i a l l y r e s i s t o r s , c o n s u m e

i t . B u t w h e r e d o s o u r c e s g e t t h e i r p o w e r ? A g a i n , c i r c u i t t h e o r y d o e s n o t m o d e l h o w s o u r c e s a r e c o n s t r u c t e d ,

b u t t h e t h e o r y d e c r e e s t h a t a l l s o u r c e s m u s t b e p r o v i d e d e n e r g y t o w o r k .




4 8


3 . 6 S e r i e s a n d P a r a l l e l C i r c u i t s

1 3

vin+

–

R1

R2

+

–

vout

( a )

vin

+

–

R1

R2

+

–

vout

iout

+ – v1i1

+

–

v

i

( b )

F i g u r e 3 . 8 : T h e c i r c u i t s h o w n i s p e r h a p s t h e s i m p l e s t c i r c u i t t h a t p e r f o r m s a s i g n a l p r o c e s s i n g f u n c t i o n .

T h e i n p u t i s p r o v i d e d b y t h e v o l t a g e s o u r c e vin a n d t h e o u t p u t i s t h e v o l t a g e vout a c r o s s t h e r e s i s t o r

l a b e l l e d

R2 .

T h e r e s u l t s s h o w n i n o t h e r m o d u l e s ( c i r c u i t e l e m e n t s ( S e c t i o n 3 . 4 ) , K V L a n d K C L ( S e c t i o n 3 . 4 ) , i n t e r c o n -

n e c t i o n l a w s ( S e c t i o n 3 . 4 ) ) w i t h r e g a r d t o t h i s c i r c u i t ( F i g u r e 3 . 8 ) , a n d t h e v a l u e s o f o t h e r c u r r e n t s a n d

v o l t a g e s i n t h i s c i r c u i t a s w e l l , h a v e p r o f o u n d i m p l i c a t i o n s .

R e s i s t o r s c o n n e c t e d i n s u c h a w a y t h a t c u r r e n t f r o m o n e m u s t o w o n l y i n t o a n o t h e r c u r r e n t s i n a l l

r e s i s t o r s c o n n e c t e d t h i s w a y h a v e t h e s a m e m a g n i t u d e a r e s a i d t o b e c o n n e c t e d i n s e r i e s . F o r t h e t w o

s e r i e s - c o n n e c t e d r e s i s t o r s i n t h e e x a m p l e , t h e v o l t a g e a c r o s s o n e r e s i s t o r e q u a l s t h e r a t i o o f t h a t

r e s i s t o r ' s v a l u e a n d t h e s u m o f r e s i s t a n c e s t i m e s t h e v o l t a g e a c r o s s t h e s e r i e s c o m b i n a t i o n .

T h i s c o n c e p t i s s o p e r v a s i v e i t h a s a n a m e : v o l t a g e d i v i d e r .

T h e i n p u t - o u t p u t r e l a t i o n s h i p f o r t h i s s y s t e m , f o u n d i n t h i s p a r t i c u l a r c a s e b y v o l t a g e d i v i d e r , t a k e s

t h e f o r m o f a r a t i o o f t h e o u t p u t v o l t a g e t o t h e i n p u t v o l t a g e .

voutvin

=R2

R1 + R2

I n t h i s w a y , w e e x p r e s s h o w t h e c o m p o n e n t s u s e d t o b u i l d t h e s y s t e m a e c t t h e i n p u t - o u t p u t r e l a t i o n s h i p .

B e c a u s e t h i s a n a l y s i s w a s m a d e w i t h i d e a l c i r c u i t e l e m e n t s , w e m i g h t e x p e c t t h i s r e l a t i o n t o b r e a k d o w n i f

t h e i n p u t a m p l i t u d e i s t o o h i g h ( W i l l t h e c i r c u i t s u r v i v e i f t h e i n p u t c h a n g e s f r o m 1 v o l t t o o n e m i l l i o n v o l t s ? )

o r i f t h e s o u r c e ' s f r e q u e n c y b e c o m e s t o o h i g h . I n a n y c a s e , t h i s i m p o r t a n t w a y o f e x p r e s s i n g i n p u t - o u t p u t

r e l a t i o n s h i p s a s a r a t i o o f o u t p u t t o i n p u t p e r v a d e s c i r c u i t a n d s y s t e m t h e o r y .

T h e c u r r e n t

i1 i s t h e c u r r e n t o w i n g o u t o f t h e v o l t a g e s o u r c e . B e c a u s e i t e q u a l s

i2 , w e h a v e t h a t

vini1

= R1 + R2 :

R e s i s t o r s i n s e r i e s : T h e s e r i e s c o m b i n a t i o n o f t w o r e s i s t o r s a c t s , a s f a r a s t h e v o l t a g e s o u r c e i s

c o n c e r n e d , a s a s i n g l e r e s i s t o r h a v i n g a v a l u e e q u a l t o t h e s u m o f t h e t w o r e s i s t a n c e s .

T h i s r e s u l t i s t h e r s t o f s e v e r a l e q u i v a l e n t c i r c u i t i d e a s : I n m a n y c a s e s , a c o m p l i c a t e d c i r c u i t w h e n v i e w e d

f r o m i t s t e r m i n a l s ( t h e t w o p l a c e s t o w h i c h y o u m i g h t a t t a c h a s o u r c e ) a p p e a r s t o b e a s i n g l e c i r c u i t e l e m e n t

( a t b e s t ) o r a s i m p l e c o m b i n a t i o n o f e l e m e n t s a t w o r s t . T h u s , t h e e q u i v a l e n t c i r c u i t f o r a s e r i e s c o m b i n a t i o n

o f r e s i s t o r s i s a s i n g l e r e s i s t o r h a v i n g a r e s i s t a n c e e q u a l t o t h e s u m o f i t s c o m p o n e n t r e s i s t a n c e s .

1 3





4 9

vin+

–

R1

R2 vin+ –

R1+R2

F i g u r e 3 . 9 : T h e r e s i s t o r ( o n t h e r i g h t ) i s e q u i v a l e n t t o t h e t w o r e s i s t o r s ( o n t h e l e f t ) a n d h a s a

r e s i s t a n c e e q u a l t o t h e s u m o f t h e r e s i s t a n c e s o f t h e o t h e r t w o r e s i s t o r s .

T h u s , t h e c i r c u i t t h e v o l t a g e s o u r c e " f e e l s " ( t h r o u g h t h e c u r r e n t d r a w n f r o m i t ) i s a s i n g l e r e s i s t o r h a v i n g

r e s i s t a n c e R1 + R2 . N o t e t h a t i n m a k i n g t h i s e q u i v a l e n t c i r c u i t , t h e o u t p u t v o l t a g e c a n n o l o n g e r b e d e n e d :

T h e o u t p u t r e s i s t o r l a b e l e d R2 n o l o n g e r a p p e a r s . T h u s , t h i s e q u i v a l e n c e i s m a d e s t r i c t l y f r o m t h e v o l t a g e

s o u r c e ' s v i e w p o i n t .

R1 R2

iout

iinR1 R2

iouti1

+

v1

+

v2iin

+

v

F i g u r e 3 . 1 0 : A s i m p l e p a r a l l e l c i r c u i t .

O n e i n t e r e s t i n g s i m p l e c i r c u i t ( F i g u r e 3 . 1 0 ) h a s t w o r e s i s t o r s c o n n e c t e d s i d e - b y - s i d e , w h a t w e w i l l t e r m

a p a r a l l e l c o n n e c t i o n , r a t h e r t h a n i n s e r i e s . H e r e , a p p l y i n g K V L r e v e a l s t h a t a l l t h e v o l t a g e s a r e i d e n t i c a l :

v1 = va n d

v2 = v. T h i s r e s u l t t y p i e s p a r a l l e l c o n n e c t i o n s . T o w r i t e t h e K C L e q u a t i o n , n o t e t h a t t h e t o p

n o d e c o n s i s t s o f t h e e n t i r e u p p e r i n t e r c o n n e c t i o n s e c t i o n . T h e K C L e q u a t i o n i s

iin − i1 − i2 = 0 . U s i n g t h e

v - i r e l a t i o n s , w e n d t h a t

iout =R1

R1 + R2

iin

E x e r c i s e 3 . 6 . 1

( S o l u t i o n o n p . 1 1 6 . )

S u p p o s e t h a t y o u r e p l a c e d t h e c u r r e n t s o u r c e i n F i g u r e 3 . 1 0 b y a v o l t a g e s o u r c e . H o w w o u l d

ioutb e r e l a t e d t o t h e s o u r c e v o l t a g e ? B a s e d o n t h i s r e s u l t , w h a t p u r p o s e d o e s t h i s r e v i s e d c i r c u i t h a v e ?

T h i s c i r c u i t h i g h l i g h t s s o m e i m p o r t a n t p r o p e r t i e s o f p a r a l l e l c i r c u i t s . Y o u c a n e a s i l y s h o w t h a t t h e p a r a l l e l

c o m b i n a t i o n o f R1 a n d R2 h a s t h e v - i r e l a t i o n o f a r e s i s t o r h a v i n g r e s i s t a n c e

1R1

+ 1R2

−1= R1R2

R1+R2. A

s h o r t h a n d n o t a t i o n f o r t h i s q u a n t i t y i s R1 R2 . A s t h e r e c i p r o c a l o f r e s i s t a n c e i s c o n d u c t a n c e ( S e c t i o n 3 . 2 . 1 :




5 0


R e s i s t o r ) , w e c a n s a y t h a t f o r a p a r a l l e l c o m b i n a t i o n o f r e s i s t o r s , t h e e q u i v a l e n t c o n d u c t a n c e i s

t h e s u m o f t h e c o n d u c t a n c e s .

R1 R2R1R2

R1+R2

F i g u r e 3 . 1 1

S i m i l a r t o v o l t a g e d i v i d e r ( p . 4 8 ) f o r s e r i e s r e s i s t a n c e s , w e h a v e c u r r e n t d i v i d e r f o r p a r a l l e l r e s i s t a n c e s .

T h e c u r r e n t t h r o u g h a r e s i s t o r i n p a r a l l e l w i t h a n o t h e r i s t h e r a t i o o f t h e c o n d u c t a n c e o f t h e r s t t o t h e s u m

o f t h e c o n d u c t a n c e s . T h u s , f o r t h e d e p i c t e d c i r c u i t , i2 = G2

G1+G2i. E x p r e s s e d i n t e r m s o f r e s i s t a n c e s , c u r r e n t

d i v i d e r t a k e s t h e f o r m o f t h e r e s i s t a n c e o f t h e o t h e r r e s i s t o r d i v i d e d b y t h e s u m o f r e s i s t a n c e s : i2 = R1

R1+R2i .

R1 R2

i

i2

F i g u r e 3 . 1 2




5 1

vin

+

–

R1

R2

+

– vout RL

source system sink

F i g u r e 3 . 1 3 : T h e s i m p l e a t t e n u a t o r c i r c u i t ( F i g u r e 3 . 8 ) i s a t t a c h e d t o a n o s c i l l o s c o p e ' s i n p u t . T h e

i n p u t - o u t p u t r e l a t i o n f o r t h e a b o v e c i r c u i t w i t h o u t a l o a d i s :

vout = R2R1+R2

vin .

S u p p o s e w e w a n t t o p a s s t h e o u t p u t s i g n a l i n t o a v o l t a g e m e a s u r e m e n t d e v i c e , s u c h a s a n o s c i l l o s c o p e o r

a v o l t m e t e r . I n s y s t e m - t h e o r y t e r m s , w e w a n t t o p a s s o u r c i r c u i t ' s o u t p u t t o a s i n k . F o r m o s t a p p l i c a t i o n s ,

w e c a n r e p r e s e n t t h e s e m e a s u r e m e n t d e v i c e s a s a r e s i s t o r , w i t h t h e c u r r e n t p a s s i n g t h r o u g h i t d r i v i n g t h e

m e a s u r e m e n t d e v i c e t h r o u g h s o m e t y p e o f d i s p l a y . I n c i r c u i t s , a s i n k i s c a l l e d a l o a d ; t h u s , w e d e s c r i b e a

s y s t e m - t h e o r e t i c s i n k a s a l o a d r e s i s t a n c e RL . T h u s , w e h a v e a c o m p l e t e s y s t e m b u i l t f r o m a c a s c a d e o f

t h r e e s y s t e m s : a s o u r c e , a s i g n a l p r o c e s s i n g s y s t e m ( s i m p l e a s i t i s ) , a n d a s i n k .

W e m u s t a n a l y z e a f r e s h h o w t h i s r e v i s e d c i r c u i t , s h o w n i n F i g u r e 3 . 1 3 , w o r k s . R a t h e r t h a n d e n i n g e i g h t

v a r i a b l e s a n d s o l v i n g f o r t h e c u r r e n t i n t h e l o a d r e s i s t o r , l e t ' s t a k e a h i n t f r o m o t h e r a n a l y s i s ( s e r i e s r u l e s

( p . 4 8 ) , p a r a l l e l r u l e s ( p . 4 9 ) ) . R e s i s t o r s R2 a n d RL a r e i n a p a r a l l e l c o n g u r a t i o n : T h e v o l t a g e s a c r o s s

e a c h r e s i s t o r a r e t h e s a m e w h i l e t h e c u r r e n t s a r e n o t . B e c a u s e t h e v o l t a g e s a r e t h e s a m e , w e c a n n d t h e

c u r r e n t t h r o u g h e a c h f r o m t h e i r v - i r e l a t i o n s : i2 = voutR2

a n d iL = voutRL

. C o n s i d e r i n g t h e n o d e w h e r e a l l t h r e e

r e s i s t o r s j o i n , K C L s a y s t h a t t h e s u m o f t h e t h r e e c u r r e n t s m u s t e q u a l z e r o . S a i d a n o t h e r w a y , t h e c u r r e n t

e n t e r i n g t h e n o d e t h r o u g h R1 m u s t e q u a l t h e s u m o f t h e o t h e r t w o c u r r e n t s l e a v i n g t h e n o d e . T h e r e f o r e ,

i1 = i2 + iL , w h i c h m e a n s t h a t i1 = vout 1R2 + 1RL

.

L e t Req d e n o t e t h e e q u i v a l e n t r e s i s t a n c e o f t h e p a r a l l e l c o m b i n a t i o n o f R2 a n d RL . U s i n g R1 ' s v - i

r e l a t i o n , t h e v o l t a g e a c r o s s i t i s v1 = R1voutReq

. T h e K V L e q u a t i o n w r i t t e n a r o u n d t h e l e f t m o s t l o o p h a s

vin = v1 + vout ; s u b s t i t u t i n g f o r v1 , w e n d

vin = vout

R1

Req+ 1

o r

voutvin

=Req

R1 + Req

T h u s , w e h a v e t h e i n p u t - o u t p u t r e l a t i o n s h i p f o r o u r e n t i r e s y s t e m h a v i n g t h e f o r m o f v o l t a g e d i v i d e r ,

b u t i t d o e s n o t e q u a l t h e i n p u t - o u t p u t r e l a t i o n o f t h e c i r c u i t w i t h o u t t h e v o l t a g e m e a s u r e m e n t d e v i c e . W e

c a n n o t m e a s u r e v o l t a g e s r e l i a b l y u n l e s s t h e m e a s u r e m e n t d e v i c e h a s l i t t l e e e c t o n w h a t w e a r e t r y i n g t o

m e a s u r e . W e s h o u l d l o o k m o r e c a r e f u l l y t o d e t e r m i n e i f a n y v a l u e s f o r t h e l o a d r e s i s t a n c e w o u l d l e s s e n i t s

i m p a c t o n t h e c i r c u i t . C o m p a r i n g t h e i n p u t - o u t p u t r e l a t i o n s b e f o r e a n d a f t e r , w h a t w e n e e d i s Req R2 .

A s

Req =

1R2

+ 1RL

−1, t h e a p p r o x i m a t i o n w o u l d a p p l y i f

1R2

1RL

o r

R2 RL . T h i s i s t h e c o n d i t i o n w e

s e e k :

V o l t a g e m e a s u r e m e n t : V o l t a g e m e a s u r e m e n t d e v i c e s m u s t h a v e l a r g e r e s i s t a n c e s c o m p a r e d

w i t h t h a t o f t h e r e s i s t o r a c r o s s w h i c h t h e v o l t a g e i s t o b e m e a s u r e d .




5 2


E x e r c i s e 3 . 6 . 2

( S o l u t i o n o n p . 1 1 6 . )

L e t ' s b e m o r e p r e c i s e : H o w m u c h l a r g e r w o u l d a l o a d r e s i s t a n c e n e e d t o b e t o a e c t t h e i n p u t -

o u t p u t r e l a t i o n b y l e s s t h a n 1 0 % ? b y l e s s t h a n 1 % ?

E x a m p l e 3 . 1

R1

R2 R3

R4

F i g u r e 3 . 1 4

W e w a n t t o n d t h e t o t a l r e s i s t a n c e o f t h e e x a m p l e c i r c u i t . T o a p p l y t h e s e r i e s a n d p a r a l l e l

c o m b i n a t i o n r u l e s , i t i s b e s t t o r s t d e t e r m i n e t h e c i r c u i t ' s s t r u c t u r e : W h a t i s i n s e r i e s w i t h w h a t

a n d w h a t i s i n p a r a l l e l w i t h w h a t a t b o t h s m a l l - a n d l a r g e - s c a l e v i e w s . W e h a v e R2 i n p a r a l l e l

w i t h R3 ; t h i s c o m b i n a t i o n i s i n s e r i e s w i t h R4 . T h i s s e r i e s c o m b i n a t i o n i s i n p a r a l l e l w i t h R1 . N o t e

t h a t i n d e t e r m i n i n g t h i s s t r u c t u r e , w e s t a r t e d a w a y f r o m t h e t e r m i n a l s , a n d w o r k e d t o w a r d t h e m .

I n m o s t c a s e s , t h i s a p p r o a c h w o r k s w e l l ; t r y i t r s t . T h e t o t a l r e s i s t a n c e e x p r e s s i o n m i m i c s t h e

s t r u c t u r e :

RT = R1 (R2 R3 + R4)

RT = R1R2R3 + R1R2R4 + R1R3R4

R1R2 + R1R3 + R2R3 + R2R4 + R3R4

S u c h c o m p l i c a t e d e x p r e s s i o n s t y p i f y c i r c u i t " s i m p l i c a t i o n s . " A s i m p l e c h e c k f o r a c c u r a c y i s t h e

u n i t s : E a c h c o m p o n e n t o f t h e n u m e r a t o r s h o u l d h a v e t h e s a m e u n i t s ( h e r e Ω3) a s w e l l a s i n t h e

d e n o m i n a t o r ( Ω2) . T h e e n t i r e e x p r e s s i o n i s t o h a v e u n i t s o f r e s i s t a n c e ; t h u s , t h e r a t i o o f t h e

n u m e r a t o r ' s a n d d e n o m i n a t o r ' s u n i t s s h o u l d b e o h m s . C h e c k i n g u n i t s d o e s n o t g u a r a n t e e a c c u r a c y ,

b u t c a n c a t c h m a n y e r r o r s .

A n o t h e r v a l u a b l e l e s s o n e m e r g e s f r o m t h i s e x a m p l e c o n c e r n i n g t h e d i e r e n c e b e t w e e n c a s c a d i n g s y s t e m s a n d

c a s c a d i n g c i r c u i t s . I n s y s t e m t h e o r y , s y s t e m s c a n b e c a s c a d e d w i t h o u t c h a n g i n g t h e i n p u t - o u t p u t r e l a t i o n

o f i n t e r m e d i a t e s y s t e m s . I n c a s c a d i n g c i r c u i t s , t h i s i d e a l i s r a r e l y t r u e u n l e s s t h e c i r c u i t s a r e s o d e s i g n e d .

D e s i g n i s i n t h e h a n d s o f t h e e n g i n e e r ; h e o r s h e m u s t r e c o g n i z e w h a t h a v e c o m e t o b e k n o w n a s l o a d i n g

e e c t s . I n o u r s i m p l e c i r c u i t , y o u m i g h t t h i n k t h a t m a k i n g t h e r e s i s t a n c e RL l a r g e e n o u g h w o u l d d o t h e t r i c k .

B e c a u s e t h e r e s i s t o r s R1 a n d R2 c a n h a v e v i r t u a l l y a n y v a l u e , y o u c a n n e v e r m a k e t h e r e s i s t a n c e o f y o u r

v o l t a g e m e a s u r e m e n t d e v i c e b i g e n o u g h . S a i d a n o t h e r w a y , a c i r c u i t c a n n o t b e d e s i g n e d i n i s o l a t i o n

t h a t w i l l w o r k i n c a s c a d e w i t h a l l o t h e r c i r c u i t s . E l e c t r i c a l e n g i n e e r s d e a l w i t h t h i s s i t u a t i o n t h r o u g h

t h e n o t i o n o f s p e c i c a t i o n s : U n d e r w h a t c o n d i t i o n s w i l l t h e c i r c u i t p e r f o r m a s d e s i g n e d ? T h u s , y o u w i l l

n d t h a t o s c i l l o s c o p e s a n d v o l t m e t e r s h a v e t h e i r i n t e r n a l r e s i s t a n c e s c l e a r l y s t a t e d , e n a b l i n g y o u t o d e t e r m i n e

w h e t h e r t h e v o l t a g e y o u m e a s u r e c l o s e l y e q u a l s w h a t w a s p r e s e n t b e f o r e t h e y w e r e a t t a c h e d t o y o u r c i r c u i t .

F u r t h e r m o r e , s i n c e o u r r e s i s t o r c i r c u i t f u n c t i o n s a s a n a t t e n u a t o r , w i t h t h e a t t e n u a t i o n ( a f a n c y w o r d f o r

g a i n s l e s s t h a n o n e ) d e p e n d i n g o n l y o n t h e r a t i o o f t h e t w o r e s i s t o r v a l u e s

R2

R1+R2=

1 + R1

R2

−1, w e c a n

s e l e c t a n y v a l u e s f o r t h e t w o r e s i s t a n c e s w e w a n t t o a c h i e v e t h e d e s i r e d a t t e n u a t i o n . T h e d e s i g n e r o f t h i s




5 3

c i r c u i t m u s t t h u s s p e c i f y n o t o n l y w h a t t h e a t t e n u a t i o n i s , b u t a l s o t h e r e s i s t a n c e v a l u e s e m p l o y e d s o t h a t

i n t e g r a t o r s p e o p l e w h o p u t s y s t e m s t o g e t h e r f r o m c o m p o n e n t s y s t e m s c a n c o m b i n e s y s t e m s t o g e t h e r a n d

h a v e a c h a n c e o f t h e c o m b i n a t i o n w o r k i n g .

F i g u r e 3 . 1 5 ( s e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s ) s u m m a r i z e s t h e s e r i e s a n d p a r a l l e l c o m b i n a t i o n r e s u l t s .

T h e s e r e s u l t s a r e e a s y t o r e m e m b e r a n d v e r y u s e f u l . K e e p i n m i n d t h a t f o r s e r i e s c o m b i n a t i o n s , v o l t a g e a n d

r e s i s t a n c e a r e t h e k e y q u a n t i t i e s , w h i l e f o r p a r a l l e l c o m b i n a t i o n s c u r r e n t a n d c o n d u c t a n c e a r e m o r e i m p o r t a n t .

I n s e r i e s c o m b i n a t i o n s , t h e c u r r e n t s t h r o u g h e a c h e l e m e n t a r e t h e s a m e ; i n p a r a l l e l o n e s , t h e v o l t a g e s a r e t h e

s a m e .

s e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s

…

R1

R2

RN

+

–

v2

+

–

v

R

T

( a ) s e r i e s c o m b i n a t i o n r u l e

G1 G2… GNGT

i2

i

( b ) p a r a l l e l c o m b i n a t i o n r u l e

F i g u r e 3 . 1 5 : S e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s . ( a ) RT =PN

n=1Rn vn = Rn

RT v ( b ) GT =

PN n=1Gn

in = Gn

GT i

E x e r c i s e 3 . 6 . 3

( S o l u t i o n o n p . 1 1 6 . )

C o n t r a s t a s e r i e s c o m b i n a t i o n o f r e s i s t o r s w i t h a p a r a l l e l o n e . W h i c h v a r i a b l e ( v o l t a g e o r c u r r e n t )

i s t h e s a m e f o r e a c h a n d w h i c h d i e r s ? W h a t a r e t h e e q u i v a l e n t r e s i s t a n c e s ? W h e n r e s i s t o r s a r e

p l a c e d i n s e r i e s , i s t h e e q u i v a l e n t r e s i s t a n c e b i g g e r , i n b e t w e e n , o r s m a l l e r t h a n t h e c o m p o n e n t

r e s i s t a n c e s ? W h a t i s t h i s r e l a t i o n s h i p f o r a p a r a l l e l c o m b i n a t i o n ?

3 . 7 E q u i v a l e n t C i r c u i t s : R e s i s t o r s a n d S o u r c e s

1 4

W e h a v e f o u n d t h a t t h e w a y t o t h i n k a b o u t c i r c u i t s i s t o l o c a t e a n d g r o u p p a r a l l e l a n d s e r i e s r e s i s t o r

c o m b i n a t i o n s . T h o s e r e s i s t o r s n o t i n v o l v e d w i t h v a r i a b l e s o f i n t e r e s t c a n b e c o l l a p s e d i n t o a s i n g l e r e s i s t a n c e .

T h i s r e s u l t i s k n o w n a s a n e q u i v a l e n t c i r c u i t : f r o m t h e v i e w p o i n t o f a p a i r o f t e r m i n a l s , a g r o u p o f r e s i s t o r s

f u n c t i o n s a s a s i n g l e r e s i s t o r , t h e r e s i s t a n c e o f w h i c h c a n u s u a l l y b e f o u n d b y a p p l y i n g t h e p a r a l l e l a n d s e r i e s

r u l e s .

1 4





5 4


vin+

–

R1

R2

+

–

v

i

F i g u r e 3 . 1 6

T h i s r e s u l t g e n e r a l i z e s t o i n c l u d e s o u r c e s i n a v e r y i n t e r e s t i n g a n d u s e f u l w a y . L e t ' s c o n s i d e r o u r s i m p l e

a t t e n u a t o r c i r c u i t ( s h o w n i n t h e g u r e ( F i g u r e 3 . 1 6 ) ) f r o m t h e v i e w p o i n t o f t h e o u t p u t t e r m i n a l s . W e w a n t

t o n d t h e v - i r e l a t i o n f o r t h e o u t p u t t e r m i n a l p a i r , a n d t h e n n d t h e e q u i v a l e n t c i r c u i t f o r t h e b o x e d c i r c u i t .

T o p e r f o r m t h i s c a l c u l a t i o n , u s e t h e c i r c u i t l a w s a n d e l e m e n t r e l a t i o n s , b u t d o n o t a t t a c h a n y t h i n g t o t h e

o u t p u t t e r m i n a l s . W e s e e k t h e r e l a t i o n b e t w e e n v a n d i t h a t d e s c r i b e s t h e k i n d o f e l e m e n t t h a t l u r k s w i t h i n

t h e d a s h e d b o x . T h e r e s u l t i s

v = (R1 R2) i +R2

R1 + R2vin ( 3 . 4 )

I f t h e s o u r c e w e r e z e r o , i t c o u l d b e r e p l a c e d b y a s h o r t c i r c u i t , w h i c h w o u l d c o n r m t h a t t h e c i r c u i t d o e s

i n d e e d f u n c t i o n a s a p a r a l l e l c o m b i n a t i o n o f r e s i s t o r s . H o w e v e r , t h e s o u r c e ' s p r e s e n c e m e a n s t h a t t h e c i r c u i t

i s n o t w e l l m o d e l e d a s a r e s i s t o r .

veq+

–

Req

+

–

v

i

F i g u r e 3 . 1 7 : T h e T h é v e n i n e q u i v a l e n t c i r c u i t .

I f w e c o n s i d e r t h e s i m p l e c i r c u i t o f F i g u r e 3 . 1 7 , w e n d i t h a s t h e v - i r e l a t i o n a t i t s t e r m i n a l s o f

v = Reqi + veq ( 3 . 5 )

C o m p a r i n g t h e t w o v - i r e l a t i o n s , w e n d t h a t t h e y h a v e t h e s a m e f o r m . I n t h i s c a s e t h e T h é v e n i n

e q u i v a l e n t r e s i s t a n c e i s Req = R1 R2 a n d t h e T h é v e n i n e q u i v a l e n t s o u r c e h a s v o l t a g e veq =R2

R1+R2vin . T h u s , f r o m v i e w p o i n t o f t h e t e r m i n a l s , y o u c a n n o t d i s t i n g u i s h t h e t w o c i r c u i t s . B e c a u s e t h e

e q u i v a l e n t c i r c u i t h a s f e w e r e l e m e n t s , i t i s e a s i e r t o a n a l y z e a n d u n d e r s t a n d t h a n a n y o t h e r a l t e r n a t i v e .

F o r a n y c i r c u i t c o n t a i n i n g r e s i s t o r s a n d s o u r c e s , t h e v - i r e l a t i o n w i l l b e o f t h e f o r m

v = Reqi + veq ( 3 . 6 )




5 5

a n d t h e T h é v e n i n e q u i v a l e n t c i r c u i t f o r a n y s u c h c i r c u i t i s t h a t o f F i g u r e 3 . 1 7 . T h i s e q u i v a l e n c e a p p l i e s

n o m a t t e r h o w m a n y s o u r c e s o r r e s i s t o r s m a y b e p r e s e n t i n t h e c i r c u i t . I n t h e e x a m p l e ( E x a m p l e 3 . 2 ) b e l o w ,

w e k n o w t h e c i r c u i t ' s c o n s t r u c t i o n a n d e l e m e n t v a l u e s , a n d d e r i v e t h e e q u i v a l e n t s o u r c e a n d r e s i s t a n c e .

B e c a u s e T h é v e n i n ' s t h e o r e m a p p l i e s i n g e n e r a l , w e s h o u l d b e a b l e t o m a k e m e a s u r e m e n t s o r c a l c u l a t i o n s

o n l y f r o m t h e t e r m i n a l s t o d e t e r m i n e t h e e q u i v a l e n t c i r c u i t .

T o b e m o r e s p e c i c , c o n s i d e r t h e e q u i v a l e n t c i r c u i t o f t h i s g u r e ( F i g u r e 3 . 1 7 ) . L e t t h e t e r m i n a l s b e o p e n -

c i r c u i t e d , w h i c h h a s t h e e e c t o f s e t t i n g t h e c u r r e n t i t o z e r o . B e c a u s e n o c u r r e n t o w s t h r o u g h t h e r e s i s t o r ,

t h e v o l t a g e a c r o s s i t i s z e r o ( r e m e m b e r , O h m ' s L a w s a y s t h a t v = Ri ) . C o n s e q u e n t l y , b y a p p l y i n g K V L

w e h a v e t h a t t h e s o - c a l l e d o p e n - c i r c u i t v o l t a g e voc e q u a l s t h e T h é v e n i n e q u i v a l e n t v o l t a g e . N o w c o n s i d e r

t h e s i t u a t i o n w h e n w e s e t t h e t e r m i n a l v o l t a g e t o z e r o ( s h o r t - c i r c u i t i t ) a n d m e a s u r e t h e r e s u l t i n g c u r r e n t .

R e f e r r i n g t o t h e e q u i v a l e n t c i r c u i t , t h e s o u r c e v o l t a g e n o w a p p e a r s e n t i r e l y a c r o s s t h e r e s i s t o r , l e a v i n g t h e

s h o r t - c i r c u i t c u r r e n t t o b e

isc = − veqReq

. F r o m t h i s p r o p e r t y , w e c a n d e t e r m i n e t h e e q u i v a l e n t r e s i s t a n c e .

veq = voc ( 3 . 7 )

Req =

−

voc

isc

( 3 . 8 )

E x e r c i s e 3 . 7 . 1

( S o l u t i o n o n p . 1 1 6 . )

U s e t h e o p e n / s h o r t - c i r c u i t a p p r o a c h t o d e r i v e t h e T h é v e n i n e q u i v a l e n t o f t h e c i r c u i t s h o w n i n

F i g u r e 3 . 1 8 .

vin+

–

R1

R2

+

–

v

i

F i g u r e 3 . 1 8

E x a m p l e 3 . 2

R1

R2

R3iin

F i g u r e 3 . 1 9

F o r t h e c i r c u i t d e p i c t e d i n F i g u r e 3 . 1 9 , l e t ' s d e r i v e i t s T h é v e n i n e q u i v a l e n t t w o d i e r e n t w a y s .

S t a r t i n g w i t h t h e o p e n / s h o r t - c i r c u i t a p p r o a c h , l e t ' s r s t n d t h e o p e n - c i r c u i t v o l t a g e voc . W e h a v e




5 6


a c u r r e n t d i v i d e r r e l a t i o n s h i p a s R1 i s i n p a r a l l e l w i t h t h e s e r i e s c o m b i n a t i o n o f R2 a n d R3 . T h u s ,

voc = iinR3R1

R1+R2+R3. W h e n w e s h o r t - c i r c u i t t h e t e r m i n a l s , n o v o l t a g e a p p e a r s a c r o s s

R3 , a n d t h u s

n o c u r r e n t o w s t h r o u g h i t . I n s h o r t ,

R3 d o e s n o t a e c t t h e s h o r t - c i r c u i t c u r r e n t , a n d c a n b e

e l i m i n a t e d . W e a g a i n h a v e a c u r r e n t d i v i d e r r e l a t i o n s h i p :

isc =

−iinR1

R1+R2

. T h u s , t h e T h é v e n i n

e q u i v a l e n t r e s i s t a n c e i s

R3(R1+R2)R1+R2+R3

.

T o v e r i f y , l e t ' s n d t h e e q u i v a l e n t r e s i s t a n c e b y r e a c h i n g i n s i d e t h e c i r c u i t a n d s e t t i n g t h e c u r r e n t

s o u r c e t o z e r o . B e c a u s e t h e c u r r e n t i s n o w z e r o , w e c a n r e p l a c e t h e c u r r e n t s o u r c e b y a n o p e n c i r c u i t .

F r o m t h e v i e w p o i n t o f t h e t e r m i n a l s , r e s i s t o r R3 i s n o w i n p a r a l l e l w i t h t h e s e r i e s c o m b i n a t i o n o f

R1 a n d R2 . T h u s , Req = R3 R1 + R2 , a n d w e o b t a i n t h e s a m e r e s u l t .

veq+

–

Req

+

–

v

i

Sourcesand

Resistors

+

–

v

i

+

–

v

i

Reqieq

Thévenin EquivalentMayer-Norton Equivalent

F i g u r e 3 . 2 0 : A l l c i r c u i t s c o n t a i n i n g s o u r c e s a n d r e s i s t o r s c a n b e d e s c r i b e d b y s i m p l e r e q u i v a l e n t

c i r c u i t s . C h o o s i n g t h e o n e t o u s e d e p e n d s o n t h e a p p l i c a t i o n , n o t o n w h a t i s a c t u a l l y i n s i d e t h e c i r c u i t .

A s y o u m i g h t e x p e c t , e q u i v a l e n t c i r c u i t s c o m e i n t w o f o r m s : t h e v o l t a g e - s o u r c e o r i e n t e d T h é v e n i n e q u i v -

a l e n t

1 5

a n d t h e c u r r e n t - s o u r c e o r i e n t e d M a y e r - N o r t o n e q u i v a l e n t ( F i g u r e 3 . 2 0 ) . T o d e r i v e t h e l a t t e r , t h e

v - i r e l a t i o n f o r t h e T h é v e n i n e q u i v a l e n t c a n b e w r i t t e n a s

v = Reqi + veq ( 3 . 9 )

o r

i =v

Req− ieq ( 3 . 1 0 )

w h e r e ieq =veqReq

i s t h e M a y e r - N o r t o n e q u i v a l e n t s o u r c e . T h e M a y e r - N o r t o n e q u i v a l e n t s h o w n i n F i g u r e 3 . 2 0

b e e a s i l y s h o w n t o h a v e t h i s v - i r e l a t i o n . N o t e t h a t b o t h v a r i a t i o n s h a v e t h e s a m e e q u i v a l e n t r e s i s t a n c e .

T h e s h o r t - c i r c u i t c u r r e n t e q u a l s t h e n e g a t i v e o f t h e M a y e r - N o r t o n e q u i v a l e n t s o u r c e .

1 5

" F i n d i n g T h é v e n i n E q u i v a l e n t C i r c u i t s " < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 2 1 / l a t e s t / >




5 7

E x e r c i s e 3 . 7 . 2

( S o l u t i o n o n p . 1 1 6 . )

F i n d t h e M a y e r - N o r t o n e q u i v a l e n t c i r c u i t f o r t h e c i r c u i t b e l o w .

R1

R2

R3iin

F i g u r e 3 . 2 1

E q u i v a l e n t c i r c u i t s c a n b e u s e d i n t w o b a s i c w a y s . T h e r s t i s t o s i m p l i f y t h e a n a l y s i s o f a c o m p l i c a t e d

c i r c u i t b y r e a l i z i n g t h e a n y p o r t i o n o f a c i r c u i t c a n b e d e s c r i b e d b y e i t h e r a T h é v e n i n o r M a y e r - N o r t o n

e q u i v a l e n t . W h i c h o n e i s u s e d d e p e n d s o n w h e t h e r w h a t i s a t t a c h e d t o t h e t e r m i n a l s i s a s e r i e s c o n g u r a t i o n

( m a k i n g t h e T h é v e n i n e q u i v a l e n t t h e b e s t ) o r a p a r a l l e l o n e ( m a k i n g M a y e r - N o r t o n t h e b e s t ) .

A n o t h e r a p p l i c a t i o n i s m o d e l i n g . W h e n w e b u y a a s h l i g h t b a t t e r y , e i t h e r e q u i v a l e n t c i r c u i t c a n a c c u -

r a t e l y d e s c r i b e i t . T h e s e m o d e l s h e l p u s u n d e r s t a n d t h e l i m i t a t i o n s o f a b a t t e r y . S i n c e b a t t e r i e s a r e l a b e l e d

w i t h a v o l t a g e s p e c i c a t i o n , t h e y s h o u l d s e r v e a s v o l t a g e s o u r c e s a n d t h e T h é v e n i n e q u i v a l e n t s e r v e s a s

t h e n a t u r a l c h o i c e . I f a l o a d r e s i s t a n c e RL i s p l a c e d a c r o s s i t s t e r m i n a l s , t h e v o l t a g e o u t p u t c a n b e f o u n d

u s i n g v o l t a g e d i v i d e r : v =veqRL

RL+Req. I f w e h a v e a l o a d r e s i s t a n c e m u c h l a r g e r t h a n t h e b a t t e r y ' s e q u i v a l e n t

r e s i s t a n c e , t h e n , t o a g o o d a p p r o x i m a t i o n , t h e b a t t e r y d o e s s e r v e a s a v o l t a g e s o u r c e . I f t h e l o a d r e s i s t a n c e

i s m u c h s m a l l e r , w e c e r t a i n l y d o n ' t h a v e a v o l t a g e s o u r c e ( t h e o u t p u t v o l t a g e d e p e n d s d i r e c t l y o n t h e l o a d

r e s i s t a n c e ) . C o n s i d e r n o w t h e M a y e r - N o r t o n e q u i v a l e n t ; t h e c u r r e n t t h r o u g h t h e l o a d r e s i s t a n c e i s g i v e n b y

c u r r e n t d i v i d e r , a n d e q u a l s i = − ieqReq

RL+Req. F o r a c u r r e n t t h a t d o e s n o t v a r y w i t h t h e l o a d r e s i s t a n c e , t h i s

r e s i s t a n c e s h o u l d b e m u c h s m a l l e r t h a n t h e e q u i v a l e n t r e s i s t a n c e . I f t h e l o a d r e s i s t a n c e i s c o m p a r a b l e t o

t h e e q u i v a l e n t r e s i s t a n c e , t h e b a t t e r y s e r v e s n e i t h e r a s a v o l t a g e s o u r c e o r a c u r r e n t c o u r s e . T h u s , w h e n

y o u b u y a b a t t e r y , y o u g e t a v o l t a g e s o u r c e i f i t s e q u i v a l e n t r e s i s t a n c e i s m u c h s m a l l e r t h a n t h e e q u i v a l e n t

r e s i s t a n c e o f t h e c i r c u i t t o w h i c h y o u a t t a c h i t . O n t h e o t h e r h a n d , i f y o u a t t a c h i t t o a c i r c u i t h a v i n g a

s m a l l e q u i v a l e n t r e s i s t a n c e , y o u b o u g h t a c u r r e n t s o u r c e .

L é o n C h a r l e s T h é v e n i n : H e w a s a n e n g i n e e r w i t h F r a n c e ' s P o s t e s , T é l é g r a p h e e t T é l é p h o n e . I n

1 8 8 3 , h e p u b l i s h e d ( t w i c e ! ) a p r o o f o f w h a t i s n o w c a l l e d t h e T h é v e n i n e q u i v a l e n t w h i l e d e v e l o p i n g

w a y s o f t e a c h i n g e l e c t r i c a l e n g i n e e r i n g c o n c e p t s a t t h e É c o l e P o l y t e c h n i q u e . H e d i d n o t r e a l i z e t h a t

t h e s a m e r e s u l t h a d b e e n p u b l i s h e d b y H e r m a n n H e l m h o l t z

1 6

, t h e r e n o w n e d n i n e t e e n t h c e n t u r y

p h y s i c i s t , t h i r y y e a r s e a r l i e r .

H a n s F e r d i n a n d M a y e r : A f t e r e a r n i n g h i s d o c t o r a t e i n p h y s i c s i n 1 9 2 0 , h e t u r n e d t o c o m -

m u n i c a t i o n s e n g i n e e r i n g w h e n h e j o i n e d S i e m e n s & H a l s k e i n 1 9 2 2 . I n 1 9 2 6 , h e p u b l i s h e d i n a

G e r m a n t e c h n i c a l j o u r n a l t h e M a y e r - N o r t o n e q u i v a l e n t . D u r i n g h i s i n t e r e s t i n g c a r e e r , h e r o s e t o

l e a d S i e m e n ' s C e n t r a l L a b o r a t o r y i n 1 9 3 6 , s u r r u p t i o u s l y l e a k e d t o t h e B r i t i s h a l l h e k n e w o f G e r m a n

w a r f a r e c a p a b i l i t i e s a m o n t h a f t e r t h e N a z i s i n v a d e d P o l a n d , w a s a r r e s t e d b y t h e G e s t a p o i n 1 9 4 3

f o r l i s t e n i n g t o B B C r a d i o b r o a d c a s t s , s p e n t t w o y e a r s i n N a z i c o n c e n t r a t i o n c a m p s , a n d w e n t t o

t h e U n i t e d S t a t e s f o r f o u r y e a r s w o r k i n g f o r t h e A i r F o r c e a n d C o r n e l l U n i v e r s i t y b e f o r e r e t u r n i n g

t o S i e m e n s i n 1 9 5 0 . H e r o s e t o a p o s i t i o n o n S i e m e n ' s B o a r d o f D i r e c t o r s b e f o r e r e t i r i n g .

1 6

h t t p : / / w w w - g a p . d c s . s t - a n d . a c . u k /

∼h i s t o r y / M a t h e m a t i c i a n s / H e l m h o l t z . h t m l




5 8


E d w a r d L . N o r t o n : E d w a r d N o r t o n

1 7

w a s a n e l e c t r i c a l e n g i n e e r w h o w o r k e d a t B e l l L a b o r a t o r y

f r o m i t s i n c e p t i o n i n 1 9 2 2 . I n t h e s a m e m o n t h w h e n M a y e r ' s p a p e r a p p e a r e d , N o r t o n w r o t e i n a n

i n t e r n a l t e c h n i c a l m e m o r a n d u m a p a r a g r a p h d e s c r i b i n g t h e c u r r e n t - s o u r c e e q u i v a l e n t . N o e v i d e n c e

s u g g e s t s N o r t o n k n e w o f M a y e r ' s p u b l i c a t i o n .

3 . 8 C i r c u i t s w i t h C a p a c i t o r s a n d I n d u c t o r s

1 8

vin+

–

R

C vout

+

–

F i g u r e 3 . 2 2 : A s i m p l e RC c i r c u i t .

L e t ' s c o n s i d e r a c i r c u i t h a v i n g s o m e t h i n g o t h e r t h a n r e s i s t o r s a n d s o u r c e s . B e c a u s e o f K V L , w e k n o w t h a t

vin = vR + vout . T h e c u r r e n t t h r o u g h t h e c a p a c i t o r i s g i v e n b y i = C dvoutdt , a n d t h i s c u r r e n t e q u a l s t h a t

p a s s i n g t h r o u g h t h e r e s i s t o r . S u b s t i t u t i n g vR = Ri i n t o t h e K V L e q u a t i o n a n d u s i n g t h e v - i r e l a t i o n f o r t h e

c a p a c i t o r , w e a r r i v e a t

RC dvout

dt+ vout = vin ( 3 . 1 1 )

T h e i n p u t - o u t p u t r e l a t i o n f o r c i r c u i t s i n v o l v i n g e n e r g y s t o r a g e e l e m e n t s t a k e s t h e f o r m o f a n o r d i n a r y

d i e r e n t i a l e q u a t i o n , w h i c h w e m u s t s o l v e t o d e t e r m i n e w h a t t h e o u t p u t v o l t a g e i s f o r a g i v e n i n p u t . I n

c o n t r a s t t o r e s i s t i v e c i r c u i t s , w h e r e w e o b t a i n a n e x p l i c i t i n p u t - o u t p u t r e l a t i o n , w e n o w h a v e a n i m p l i c i t

r e l a t i o n t h a t r e q u i r e s m o r e w o r k t o o b t a i n a n s w e r s .

A t t h i s p o i n t , w e c o u l d l e a r n h o w t o s o l v e d i e r e n t i a l e q u a t i o n s . N o t e r s t t h a t e v e n n d i n g t h e d i e r e n t i a l

e q u a t i o n r e l a t i n g a n o u t p u t v a r i a b l e t o a s o u r c e i s o f t e n v e r y t e d i o u s . T h e p a r a l l e l a n d s e r i e s c o m b i n a t i o n

r u l e s t h a t a p p l y t o r e s i s t o r s d o n ' t d i r e c t l y a p p l y w h e n c a p a c i t o r s a n d i n d u c t o r s o c c u r . W e w o u l d h a v e t o s l o g

o u r w a y t h r o u g h t h e c i r c u i t e q u a t i o n s , s i m p l i f y i n g t h e m u n t i l w e n a l l y f o u n d t h e e q u a t i o n t h a t r e l a t e d t h e

s o u r c e ( s ) t o t h e o u t p u t . A t t h e t u r n o f t h e t w e n t i e t h c e n t u r y , a m e t h o d w a s d i s c o v e r e d t h a t n o t o n l y m a d e

n d i n g t h e d i e r e n t i a l e q u a t i o n e a s y , b u t a l s o s i m p l i e d t h e s o l u t i o n p r o c e s s i n t h e m o s t c o m m o n s i t u a t i o n .

A l t h o u g h n o t o r i g i n a l w i t h h i m , C h a r l e s S t e i n m e t z

1 9

p r e s e n t e d t h e k e y p a p e r d e s c r i b i n g t h e i m p e d a n c e

a p p r o a c h i n 1 8 9 3 . I t a l l o w s c i r c u i t s c o n t a i n i n g c a p a c i t o r s a n d i n d u c t o r s t o b e s o l v e d w i t h t h e s a m e m e t h o d s

w e h a v e l e a r n e d t o s o l v e d r e s i s t o r c i r c u i t s . T o u s e i m p e d a n c e s , w e m u s t m a s t e r c o m p l e x n u m b e r s . T h o u g h

t h e a r i t h m e t i c o f c o m p l e x n u m b e r s i s m a t h e m a t i c a l l y m o r e c o m p l i c a t e d t h a n w i t h r e a l n u m b e r s , t h e i n c r e a s e d

i n s i g h t i n t o c i r c u i t b e h a v i o r a n d t h e e a s e w i t h w h i c h c i r c u i t s a r e s o l v e d w i t h i m p e d a n c e s i s w e l l w o r t h t h e

d i v e r s i o n . B u t m o r e i m p o r t a n t l y , t h e i m p e d a n c e c o n c e p t i s c e n t r a l t o e n g i n e e r i n g a n d p h y s i c s , h a v i n g a

r e a c h f a r b e y o n d j u s t c i r c u i t s .

1 7

h t t p : / / w w w . e c e . r i c e . e d u /

∼d h j / n o r t o n

1 8


1 9





5 9

3 . 9 T h e I m p e d a n c e C o n c e p t

2 0

R a t h e r t h a n s o l v i n g t h e d i e r e n t i a l e q u a t i o n t h a t a r i s e s i n c i r c u i t s c o n t a i n i n g c a p a c i t o r s a n d i n d u c t o r s , l e t ' s

p r e t e n d t h a t a l l s o u r c e s i n t h e c i r c u i t a r e c o m p l e x e x p o n e n t i a l s h a v i n g t h e s a m e f r e q u e n c y . A l t h o u g h t h i s

p r e t e n s e c a n o n l y b e m a t h e m a t i c a l l y t r u e , t h i s c t i o n w i l l g r e a t l y e a s e s o l v i n g t h e c i r c u i t n o m a t t e r w h a t

t h e s o u r c e r e a l l y i s .

S i m p l e C i r c u i t

vin+

–

R

C vout

+

–

F i g u r e 3 . 2 3 : A s i m p l e RC c i r c u i t .

F o r t h e a b o v e e x a m p l e RC c i r c u i t ( F i g u r e 3 . 2 3 ( S i m p l e C i r c u i t ) ) , l e t vin = V inej2πft . T h e c o m p l e x

a m p l i t u d e

V in d e t e r m i n e s t h e s i z e o f t h e s o u r c e a n d i t s p h a s e . T h e c r i t i c a l c o n s e q u e n c e o f a s s u m i n g t h a t

s o u r c e s h a v e t h i s f o r m i s t h a t a l l v o l t a g e s a n d c u r r e n t s i n t h e c i r c u i t a r e a l s o c o m p l e x e x p o n e n t i a l s , h a v i n g

a m p l i t u d e s g o v e r n e d b y K V L , K C L , a n d t h e v - i r e l a t i o n s a n d t h e s a m e f r e q u e n c y a s t h e s o u r c e . T o a p p r e c i a t e

w h y t h i s s h o u l d b e t r u e , l e t ' s i n v e s t i g a t e h o w e a c h c i r c u i t e l e m e n t b e h a v e s w h e n e i t h e r t h e v o l t a g e o r c u r r e n t

i s a c o m p l e x e x p o n e n t i a l . F o r t h e r e s i s t o r , v = Ri . W h e n v = V ej2πft ; t h e n i = V Rej2πft . T h u s , i f t h e

r e s i s t o r ' s v o l t a g e i s a c o m p l e x e x p o n e n t i a l , s o i s t h e c u r r e n t , w i t h a n a m p l i t u d e

I =

V

R( d e t e r m i n e d b y t h e

r e s i s t o r ' s v - i r e l a t i o n ) a n d a f r e q u e n c y t h e s a m e a s t h e v o l t a g e . C l e a r l y , i f t h e c u r r e n t w e r e a s s u m e d t o b e

a c o m p l e x e x p o n e n t i a l , s o w o u l d t h e v o l t a g e . F o r a c a p a c i t o r , i = C dvdt . L e t t i n g t h e v o l t a g e b e a c o m p l e x

e x p o n e n t i a l , w e h a v e i = CV j2πf ej2πft . T h e a m p l i t u d e o f t h i s c o m p l e x e x p o n e n t i a l i s I = CV j2πf . F i n a l l y ,

f o r t h e i n d u c t o r , w h e r e v = Ldidt , a s s u m i n g t h e c u r r e n t t o b e a c o m p l e x e x p o n e n t i a l r e s u l t s i n t h e v o l t a g e

h a v i n g t h e f o r m v = LIj 2πf ej2πft , m a k i n g i t s c o m p l e x a m p l i t u d e V = LIj 2πf .

T h e m a j o r c o n s e q u e n c e o f a s s u m i n g c o m p l e x e x p o n e n t i a l v o l t a g e a n d c u r r e n t s i s t h a t t h e

r a t i o Z = V I f o r e a c h e l e m e n t d o e s n o t d e p e n d o n t i m e , b u t d o e s d e p e n d o n s o u r c e f r e q u e n c y .

T h i s q u a n t i t y i s k n o w n a s t h e e l e m e n t ' s i m p e d a n c e .

2 0





6 0


I m p e d a n c e

R

+

–

v

i

( a )

C+

–

v

i

( b )

L +

–

v

i

( c )

F i g u r e 3 . 2 4 : ( a ) R e s i s t o r :

Z R = R( b ) C a p a c i t o r :

Z C = 1j2πfC ( c ) I n d u c t o r :

Z L = j2πfL

T h e i m p e d a n c e i s , i n g e n e r a l , a c o m p l e x - v a l u e d , f r e q u e n c y - d e p e n d e n t q u a n t i t y . F o r e x a m p l e , t h e m a g n i -

t u d e o f t h e c a p a c i t o r ' s i m p e d a n c e i s i n v e r s e l y r e l a t e d t o f r e q u e n c y , a n d h a s a p h a s e o f −π2 . T h i s o b s e r v a t i o n

m e a n s t h a t i f t h e c u r r e n t i s a c o m p l e x e x p o n e n t i a l a n d h a s c o n s t a n t a m p l i t u d e , t h e a m p l i t u d e o f t h e v o l t a g e

d e c r e a s e s w i t h f r e q u e n c y .

L e t ' s c o n s i d e r K i r c h o ' s c i r c u i t l a w s . W h e n v o l t a g e s a r o u n d a l o o p a r e a l l c o m p l e x e x p o n e n t i a l s o f t h e

s a m e f r e q u e n c y , w e h a v e nn vn =

nn V nej2πft

= 0( 3 . 1 2 )

w h i c h m e a n s nn

V n = 0 ( 3 . 1 3 )

t h e c o m p l e x a m p l i t u d e s o f t h e v o l t a g e s o b e y K V L . W e c a n e a s i l y i m a g i n e t h a t t h e c o m p l e x a m p l i -

t u d e s o f t h e c u r r e n t s o b e y K C L .

W h a t w e h a v e d i s c o v e r e d i s t h a t s o u r c e ( s ) e q u a l i n g a c o m p l e x e x p o n e n t i a l o f t h e s a m e f r e q u e n c y f o r c e s

a l l c i r c u i t v a r i a b l e s t o b e c o m p l e x e x p o n e n t i a l s o f t h e s a m e f r e q u e n c y . C o n s e q u e n t l y , t h e r a t i o o f v o l t a g e t o

c u r r e n t f o r e a c h e l e m e n t e q u a l s t h e r a t i o o f t h e i r c o m p l e x a m p l i t u d e s , w h i c h d e p e n d s o n l y o n t h e s o u r c e ' s

f r e q u e n c y a n d e l e m e n t v a l u e s .

T h i s s i t u a t i o n o c c u r s b e c a u s e t h e c i r c u i t e l e m e n t s a r e l i n e a r a n d t i m e - i n v a r i a n t . F o r e x a m p l e , s u p p o s e w e

h a d a c i r c u i t e l e m e n t w h e r e t h e v o l t a g e e q u a l e d t h e s q u a r e o f t h e c u r r e n t : v (t) = Ki2 (t) . I f i (t) = Iej2πft ,

v (t) = KI 2ej2π2ft , m e a n i n g t h a t v o l t a g e a n d c u r r e n t n o l o n g e r h a d t h e s a m e f r e q u e n c y a n d t h a t t h e i r r a t i o

w a s t i m e - d e p e n d e n t .

B e c a u s e f o r l i n e a r c i r c u i t e l e m e n t s t h e c o m p l e x a m p l i t u d e o f v o l t a g e i s p r o p o r t i o n a l t o t h e c o m p l e x

a m p l i t u d e o f c u r r e n t V = ZI a s s u m i n g c o m p l e x e x p o n e n t i a l s o u r c e s m e a n s c i r c u i t e l e m e n t s b e h a v e

a s i f t h e y w e r e r e s i s t o r s , w h e r e i n s t e a d o f r e s i s t a n c e , w e u s e i m p e d a n c e . B e c a u s e c o m p l e x a m p l i t u d e s

f o r v o l t a g e a n d c u r r e n t a l s o o b e y K i r c h o ' s l a w s , w e c a n s o l v e c i r c u i t s u s i n g v o l t a g e a n d

c u r r e n t d i v i d e r a n d t h e s e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s b y c o n s i d e r i n g t h e e l e m e n t s t o

b e i m p e d a n c e s .

3 . 1 0 T i m e a n d F r e q u e n c y D o m a i n s

2 1

W h e n w e n d t h e d i e r e n t i a l e q u a t i o n r e l a t i n g t h e s o u r c e a n d t h e o u t p u t , w e a r e f a c e d w i t h s o l v i n g t h e

c i r c u i t i n w h a t i s k n o w n a s t h e t i m e d o m a i n . W h a t w e e m p h a s i z e h e r e i s t h a t i t i s o f t e n e a s i e r t o n d

t h e o u t p u t i f w e u s e i m p e d a n c e s . B e c a u s e i m p e d a n c e s d e p e n d o n l y o n f r e q u e n c y , w e n d o u r s e l v e s i n t h e

2 1





6 1

f r e q u e n c y d o m a i n . A c o m m o n e r r o r i n u s i n g i m p e d a n c e s i s k e e p i n g t h e t i m e - d e p e n d e n t p a r t , t h e c o m p l e x

e x p o n e n t i a l , i n t h e f r a y . T h e e n t i r e p o i n t o f u s i n g i m p e d a n c e s i s t o g e t r i d o f t i m e a n d c o n c e n t r a t e o n

f r e q u e n c y . O n l y a f t e r w e n d t h e r e s u l t i n t h e f r e q u e n c y d o m a i n d o w e g o b a c k t o t h e t i m e d o m a i n a n d p u t

t h i n g s b a c k t o g e t h e r a g a i n .

T o i l l u s t r a t e h o w t h e t i m e d o m a i n , t h e f r e q u e n c y d o m a i n a n d i m p e d a n c e s t t o g e t h e r , c o n s i d e r t h e t i m e

d o m a i n a n d f r e q u e n c y d o m a i n t o b e t w o w o r k r o o m s . S i n c e y o u c a n ' t b e t w o p l a c e s a t t h e s a m e t i m e , y o u

a r e f a c e d w i t h s o l v i n g y o u r c i r c u i t p r o b l e m i n o n e o f t h e t w o r o o m s a t a n y p o i n t i n t i m e . I m p e d a n c e s a n d

c o m p l e x e x p o n e n t i a l s a r e t h e w a y y o u g e t b e t w e e n t h e t w o r o o m s . S e c u r i t y g u a r d s m a k e s u r e y o u d o n ' t t r y

t o s n e a k t i m e d o m a i n v a r i a b l e s i n t o t h e f r e q u e n c y d o m a i n r o o m a n d v i c e v e r s a . F i g u r e 3 . 2 5 ( T w o R o o m s )

s h o w s h o w t h i s w o r k s .

T w o R o o m s

time-domainroom

f

Only signals

differential equationsKVL, KCLsuperposition

frequency-domainroom

Only complex amplitudes

impedancestransfer functionsvoltage & current dividerKVL, KCL

superposition

t

vin+

–

R

C v

out

+

–

vout(t) = … Vout = Vin•H(f)

v(t) = Ve j2πft

i(t) = Ie j2πft

F i g u r e 3 . 2 5 : T h e t i m e a n d f r e q u e n c y d o m a i n s a r e l i n k e d b y a s s u m i n g s i g n a l s a r e c o m p l e x e x p o n e n t i a l s .

I n t h e t i m e d o m a i n , s i g n a l s c a n h a v e a n y f o r m . P a s s i n g i n t o t h e f r e q u e n c y d o m a i n w o r k r o o m , s i g n a l s

a r e r e p r e s e n t e d e n t i r e l y b y c o m p l e x a m p l i t u d e s .

A s w e u n f o l d t h e i m p e d a n c e s t o r y , w e ' l l s e e t h a t t h e p o w e r f u l u s e o f i m p e d a n c e s s u g g e s t e d b y S t e i n m e t z

2 2

g r e a t l y s i m p l i e s s o l v i n g c i r c u i t s , a l l e v i a t e s u s f r o m s o l v i n g d i e r e n t i a l e q u a t i o n s , a n d s u g g e s t s a g e n e r a l w a y

o f t h i n k i n g a b o u t c i r c u i t s . B e c a u s e o f t h e i m p o r t a n c e o f t h i s a p p r o a c h , l e t ' s g o o v e r h o w i t w o r k s .

1 . E v e n t h o u g h i t ' s n o t , p r e t e n d t h e s o u r c e i s a c o m p l e x e x p o n e n t i a l . W e d o t h i s b e c a u s e t h e i m p e d a n c e

a p p r o a c h s i m p l i e s n d i n g h o w i n p u t a n d o u t p u t a r e r e l a t e d . I f i t w e r e a v o l t a g e s o u r c e h a v i n g v o l t a g e

vin = p (t) ( a p u l s e ) , s t i l l l e t vin = V inej2πft . W e ' l l l e a r n h o w t o " g e t t h e p u l s e b a c k " l a t e r .

2 . W i t h a s o u r c e e q u a l i n g a c o m p l e x e x p o n e n t i a l , a l l v a r i a b l e s i n a l i n e a r c i r c u i t w i l l a l s o b e c o m p l e x

e x p o n e n t i a l s h a v i n g t h e s a m e f r e q u e n c y . T h e c i r c u i t ' s o n l y r e m a i n i n g " m y s t e r y " i s w h a t e a c h v a r i a b l e ' s

2 2





6 2


c o m p l e x a m p l i t u d e m i g h t b e . T o n d t h e s e , w e c o n s i d e r t h e s o u r c e t o b e a c o m p l e x n u m b e r ( V in h e r e )

a n d t h e e l e m e n t s t o b e i m p e d a n c e s .

3 . W e c a n n o w s o l v e u s i n g s e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s h o w t h e c o m p l e x a m p l i t u d e o f a n y v a r i a b l e

r e l a t e s t o t h e s o u r c e s c o m p l e x a m p l i t u d e .

E x a m p l e 3 . 3

T o i l l u s t r a t e t h e i m p e d a n c e a p p r o a c h , w e r e f e r t o t h e RC c i r c u i t ( F i g u r e 3 . 2 6 ( S i m p l e C i r c u i t s ) )

b e l o w , a n d w e a s s u m e t h a t vin = V inej2πft .

S i m p l e C i r c u i t s

vin+

–

R

C vout

+

–

( a )

Vin+

Vout

+

ZC

ZR

( b )

F i g u r e 3 . 2 6 : ( a ) A s i m p l e

RC c i r c u i t . ( b ) T h e i m p e d a n c e c o u n t e r p a r t f o r t h e

RC c i r c u i t . N o t e t h a t

t h e s o u r c e a n d o u t p u t v o l t a g e a r e n o w c o m p l e x a m p l i t u d e s .

U s i n g i m p e d a n c e s , t h e c o m p l e x a m p l i t u d e o f t h e o u t p u t v o l t a g e V out c a n b e f o u n d u s i n g v o l t a g e

d i v i d e r :

V out =Z C

Z C + Z RV in

V out =1j2πfC

1j2πfC + R

V in

V out =1

j2πfRC + 1V in

I f w e r e f e r t o t h e d i e r e n t i a l e q u a t i o n f o r t h i s c i r c u i t ( s h o w n i n C i r c u i t s w i t h C a p a c i t o r s a n d I n d u c t o r s

( S e c t i o n 3 . 8 ) t o b e RC dvoutdt + vout = vin ) , l e t t i n g t h e o u t p u t a n d i n p u t v o l t a g e s b e c o m p l e x e x p o n e n t i a l s ,

w e o b t a i n t h e s a m e r e l a t i o n s h i p b e t w e e n t h e i r c o m p l e x a m p l i t u d e s . T h u s , u s i n g i m p e d a n c e s i s e q u i v a l e n t t o

u s i n g t h e d i e r e n t i a l e q u a t i o n a n d s o l v i n g i t w h e n t h e s o u r c e i s a c o m p l e x e x p o n e n t i a l .

I n f a c t , w e c a n n d t h e d i e r e n t i a l e q u a t i o n d i r e c t l y u s i n g i m p e d a n c e s . I f w e c r o s s - m u l t i p l y t h e r e l a t i o n

b e t w e e n i n p u t a n d o u t p u t a m p l i t u d e s ,

V out ( j2πfRC + 1) = V in

a n d t h e n p u t t h e c o m p l e x e x p o n e n t i a l s b a c k i n , w e h a v e

RCj 2πf V outej2πft + V oute

j2πft = V inej2πft

I n t h e p r o c e s s o f d e n i n g i m p e d a n c e s , n o t e t h a t t h e f a c t o r

j2πf a r i s e s f r o m t h e d e r i v a t i v e o f a c o m p l e x

e x p o n e n t i a l . W e c a n r e v e r s e t h e i m p e d a n c e p r o c e s s , a n d r e v e r t b a c k t o t h e d i e r e n t i a l e q u a t i o n .

RC dvout

dt+ vout = vin




6 3

T h i s i s t h e s a m e e q u a t i o n t h a t w a s d e r i v e d m u c h m o r e t e d i o u s l y i n C i r c u i t s w i t h C a p a c i t o r s a n d I n d u c t o r s

( S e c t i o n 3 . 8 ) . F i n d i n g t h e d i e r e n t i a l e q u a t i o n r e l a t i n g o u t p u t t o i n p u t i s f a r s i m p l e r w h e n w e u s e i m p e d a n c e s

t h a n w i t h a n y o t h e r t e c h n i q u e .

E x e r c i s e 3 . 1 0 . 1

( S o l u t i o n o n p . 1 1 6 . )

S u p p o s e y o u h a d a n e x p r e s s i o n w h e r e a c o m p l e x a m p l i t u d e w a s d i v i d e d b y j2πf . W h a t t i m e -

d o m a i n o p e r a t i o n c o r r e s p o n d s t o t h i s d i v i s i o n ?

3 . 1 1 P o w e r i n t h e F r e q u e n c y D o m a i n

2 3

R e c a l l i n g t h a t t h e i n s t a n t a n e o u s p o w e r c o n s u m e d b y a c i r c u i t e l e m e n t o r a n e q u i v a l e n t c i r c u i t t h a t r e p r e s e n t s

a c o l l e c t i o n o f e l e m e n t s e q u a l s t h e v o l t a g e t i m e s t h e c u r r e n t e n t e r i n g t h e p o s i t i v e - v o l t a g e t e r m i n a l , p (t) =v (t) i (t) , w h a t i s t h e e q u i v a l e n t e x p r e s s i o n u s i n g i m p e d a n c e s ? T h e r e s u l t i n g c a l c u l a t i o n r e v e a l s m o r e a b o u t

p o w e r c o n s u m p t i o n i n c i r c u i t s a n d t h e i n t r o d u c t i o n o f t h e c o n c e p t o f a v e r a g e p o w e r .

W h e n a l l s o u r c e s p r o d u c e s i n u s o i d s o f f r e q u e n c y f , t h e v o l t a g e a n d c u r r e n t f o r a n y c i r c u i t e l e m e n t o r

c o l l e c t i o n o f e l e m e n t s a r e s i n u s o i d s o f t h e s a m e f r e q u e n c y .

v (t) = |V |cos (2πf t + φ)

i (t) = |I |cos (2πf t + θ)

H e r e , t h e c o m p l e x a m p l i t u d e o f t h e v o l t a g e V e q u a l s |V |ejφ a n d t h a t o f t h e c u r r e n t i s |I |ejθ . W e c a n a l s o

w r i t e t h e v o l t a g e a n d c u r r e n t i n t e r m s o f t h e i r c o m p l e x a m p l i t u d e s u s i n g E u l e r ' s f o r m u l a ( S e c t i o n 2 . 1 . 2 :

E u l e r ' s F o r m u l a ) .

v (t) = 12

V ej2πft + V ∗e−(j2πft)

i (t) = 1

2

Iej2πft + I ∗e−(j2πft)

M u l t i p l y i n g t h e s e t w o e x p r e s s i o n s a n d s i m p l i f y i n g g i v e s

p (t) =

14V I ∗ + V ∗I + V Iej4πft + V ∗I ∗e−(j4πft)

=

12Re (V I ∗) + 1

2Re

V Iej4πft

=

12

Re (V I ∗) + 12 |V ||I |cos(4πf t + φ + θ)

W e d e n e

12V I ∗ t o b e c o m p l e x p o w e r . T h e r e a l - p a r t o f c o m p l e x p o w e r i s t h e r s t t e r m a n d s i n c e i t d o e s

n o t c h a n g e w i t h t i m e , i t r e p r e s e n t s t h e p o w e r c o n s i s t e n t l y c o n s u m e d / p r o d u c e d b y t h e c i r c u i t . T h e s e c o n d

t e r m v a r i e s w i t h t i m e a t a f r e q u e n c y t w i c e t h a t o f t h e s o u r c e . C o n c e p t u a l l y , t h i s t e r m d e t a i l s h o w p o w e r

" s l o s h e s " b a c k a n d f o r t h i n t h e c i r c u i t b e c a u s e o f t h e s i n u s o i d a l s o u r c e .

F r o m a n o t h e r v i e w p o i n t , t h e r e a l - p a r t o f c o m p l e x p o w e r r e p r e s e n t s l o n g - t e r m e n e r g y c o n s u m p -

t i o n / p r o d u c t i o n . E n e r g y i s t h e i n t e g r a l o f p o w e r a n d , a s t h e i n t e g r a t i o n i n t e r v a l i n c r e a s e s , t h e r s t t e r m

a p p r e c i a t e s w h i l e t h e t i m e - v a r y i n g t e r m " s l o s h e s . " C o n s e q u e n t l y , t h e m o s t c o n v e n i e n t d e n i t i o n o f t h e a v -

e r a g e p o w e r c o n s u m e d / p r o d u c e d b y a n y c i r c u i t i s i n t e r m s o f c o m p l e x a m p l i t u d e s .

P a v e

=1

2Re (V I ∗) ( 3 . 1 4 )

E x e r c i s e 3 . 1 1 . 1

( S o l u t i o n o n p . 1 1 6 . )

S u p p o s e t h e c o m p l e x a m p l i t u d e s o f t h e v o l t a g e a n d c u r r e n t h a v e x e d m a g n i t u d e s . W h a t p h a s e

r e l a t i o n s h i p b e t w e e n v o l t a g e a n d c u r r e n t m a x i m i z e s t h e a v e r a g e p o w e r ? I n o t h e r w o r d s , h o w a r e φa n d θ r e l a t e d f o r m a x i m u m p o w e r d i s s i p a t i o n ?

2 3





6 4


B e c a u s e t h e c o m p l e x a m p l i t u d e s o f t h e v o l t a g e a n d c u r r e n t a r e r e l a t e d b y t h e e q u i v a l e n t i m p e d a n c e , a v e r a g e

p o w e r c a n a l s o b e w r i t t e n a s

P a v e

=

1

2 Re (Z ) (|I |)2

=

1

2 Re 1

Z (|V |)2

T h e s e e x p r e s s i o n s g e n e r a l i z e t h e r e s u l t s ( 3 . 3 ) w e o b t a i n e d f o r r e s i s t o r c i r c u i t s . W e h a v e d e r i v e d a f u n d a m e n t a l

r e s u l t : O n l y t h e r e a l p a r t o f i m p e d a n c e c o n t r i b u t e s t o l o n g - t e r m p o w e r d i s s i p a t i o n . O f t h e c i r c u i t

e l e m e n t s , o n l y t h e r e s i s t o r d i s s i p a t e s p o w e r . C a p a c i t o r s a n d i n d u c t o r s d i s s i p a t e n o p o w e r i n t h e l o n g t e r m .

I t i s i m p o r t a n t t o r e a l i z e t h a t t h e s e s t a t e m e n t s a p p l y o n l y f o r s i n u s o i d a l s o u r c e s . I f y o u t u r n o n a c o n s t a n t

v o l t a g e s o u r c e i n a n R C - c i r c u i t , c h a r g i n g t h e c a p a c i t o r d o e s c o n s u m e p o w e r .

E x e r c i s e 3 . 1 1 . 2

( S o l u t i o n o n p . 1 1 6 . )

I n a n e a r l i e r p r o b l e m ( S e c t i o n 1 . 5 . 1 : R M S V a l u e s ) , w e f o u n d t h a t t h e r m s v a l u e o f a s i n u s o i d w a s

i t s a m p l i t u d e d i v i d e d b y

√ 2. W h a t i s a v e r a g e p o w e r e x p r e s s e d i n t e r m s o f t h e r m s v a l u e s o f t h e

v o l t a g e a n d c u r r e n t ( V r m s

a n d I r m s

r e s p e c t i v e l y ) ?

3 . 1 2 E q u i v a l e n t C i r c u i t s : I m p e d a n c e s a n d S o u r c e s

2 4

W h e n w e h a v e c i r c u i t s w i t h c a p a c i t o r s a n d / o r i n d u c t o r s a s w e l l a s r e s i s t o r s a n d s o u r c e s , T h é v e n i n a n d M a y e r -

N o r t o n e q u i v a l e n t c i r c u i t s c a n s t i l l b e d e n e d b y u s i n g i m p e d a n c e s a n d c o m p l e x a m p l i t u d e s f o r v o l t a g e a n d

c u r r e n t s . F o r a n y c i r c u i t c o n t a i n i n g s o u r c e s , r e s i s t o r s , c a p a c i t o r s , a n d i n d u c t o r s , t h e i n p u t - o u t p u t r e l a t i o n

f o r t h e c o m p l e x a m p l i t u d e s o f t h e t e r m i n a l v o l t a g e a n d c u r r e n t i s

V = Z eqI + V eq

I =V

Z eq− I eq

w i t h V eq = Z eqI eq . T h u s , w e h a v e T h é v e n i n a n d M a y e r - N o r t o n e q u i v a l e n t c i r c u i t s a s s h o w n i n F i g u r e 3 . 2 7

( E q u i v a l e n t C i r c u i t s ) .

2 4





6 5

E q u i v a l e n t C i r c u i t s

veq+

–

Req

+

–

v

i

Sourcesand

Resistors

+

–

v

i

+

–

v

i

Reqieq

Thévenin Equivalent Mayer-Norton Equivalent

( a ) E q u i v a l e n t c i r c u i t s w i t h r e s i s t o r s .

+

–

V

I

ZeqIeq

Mayer-Norton Equivalent

Veq+

–

Zeq

+

–

V

I

Thévenin Equivalent

Sources,Resistors,

Capacitors,Inductors

+

–

V

I

( b ) E q u i v a l e n t c i r c u i t s w i t h i m p e d a n c e s .

F i g u r e 3 . 2 7 : C o m p a r i n g t h e r s t , s i m p l e r , g u r e w i t h t h e s l i g h t l y m o r e c o m p l i c a t e d s e c o n d g u r e , w e

s e e t w o d i e r e n c e s . F i r s t o f a l l , m o r e c i r c u i t s ( a l l t h o s e c o n t a i n i n g l i n e a r e l e m e n t s i n f a c t ) h a v e e q u i v a l e n t

c i r c u i t s t h a t c o n t a i n e q u i v a l e n t s . S e c o n d l y , t h e t e r m i n a l a n d s o u r c e v a r i a b l e s a r e n o w c o m p l e x a m p l i t u d e s ,

w h i c h c a r r i e s t h e i m p l i c i t a s s u m p t i o n t h a t t h e v o l t a g e s a n d c u r r e n t s a r e s i n g l e c o m p l e x e x p o n e n t i a l s , a l l

h a v i n g t h e s a m e f r e q u e n c y .

E x a m p l e 3 . 4




6 6


S i m p l e R C C i r c u i t

Vin+

–

R

C

+

–

V

I

F i g u r e 3 . 2 8

L e t ' s n d t h e T h é v e n i n a n d M a y e r - N o r t o n e q u i v a l e n t c i r c u i t s f o r F i g u r e 3 . 2 8 ( S i m p l e R C C i r -

c u i t ) . T h e o p e n - c i r c u i t v o l t a g e a n d s h o r t - c i r c u i t c u r r e n t t e c h n i q u e s s t i l l w o r k , e x c e p t w e u s e

i m p e d a n c e s a n d c o m p l e x a m p l i t u d e s . T h e o p e n - c i r c u i t v o l t a g e c o r r e s p o n d s t o t h e t r a n s f e r f u n c t i o n

w e h a v e a l r e a d y f o u n d . W h e n w e s h o r t t h e t e r m i n a l s , t h e c a p a c i t o r n o l o n g e r h a s a n y e e c t o n t h e

c i r c u i t , a n d t h e s h o r t - c i r c u i t c u r r e n t I sc e q u a l s

V outR . T h e e q u i v a l e n t i m p e d a n c e c a n b e f o u n d b y

s e t t i n g t h e s o u r c e t o z e r o , a n d n d i n g t h e i m p e d a n c e u s i n g s e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s .

I n o u r c a s e , t h e r e s i s t o r a n d c a p a c i t o r a r e i n p a r a l l e l o n c e t h e v o l t a g e s o u r c e i s r e m o v e d ( s e t t i n g

i t t o z e r o a m o u n t s t o r e p l a c i n g i t w i t h a s h o r t - c i r c u i t ) . T h u s ,

Z eq = R 1j2πfC = R

1+j2πfRC .

C o n s e q u e n t l y , w e h a v e

V eq =1

1 + j2πfRC V in

I eq =1

RV in

Z eq = R1 + j2πfRC

A g a i n , w e s h o u l d c h e c k t h e u n i t s o f o u r a n s w e r . N o t e i n p a r t i c u l a r t h a t j2πfRC m u s t b e d i m e n -

s i o n l e s s . I s i t ?

3 . 1 3 T r a n s f e r F u n c t i o n s

2 5

T h e r a t i o o f t h e o u t p u t a n d i n p u t a m p l i t u d e s f o r F i g u r e 3 . 2 9 ( S i m p l e C i r c u i t ) , k n o w n a s t h e t r a n s f e r

f u n c t i o n o r t h e f r e q u e n c y r e s p o n s e , i s g i v e n b y

V out

V in = H (f )= 1

j2πfRC +1

( 3 . 1 5 )

I m p l i c i t i n u s i n g t h e t r a n s f e r f u n c t i o n i s t h a t t h e i n p u t i s a c o m p l e x e x p o n e n t i a l , a n d t h e o u t p u t i s a l s o a

c o m p l e x e x p o n e n t i a l h a v i n g t h e s a m e f r e q u e n c y . T h e t r a n s f e r f u n c t i o n r e v e a l s h o w t h e c i r c u i t m o d i e s t h e

i n p u t a m p l i t u d e i n c r e a t i n g t h e o u t p u t a m p l i t u d e . T h u s , t h e t r a n s f e r f u n c t i o n c o m p l e t e l y d e s c r i b e s h o w

t h e c i r c u i t p r o c e s s e s t h e i n p u t c o m p l e x e x p o n e n t i a l t o p r o d u c e t h e o u t p u t c o m p l e x e x p o n e n t i a l . T h e c i r c u i t ' s

f u n c t i o n i s t h u s s u m m a r i z e d b y t h e t r a n s f e r f u n c t i o n . I n f a c t , c i r c u i t s a r e o f t e n d e s i g n e d t o m e e t t r a n s f e r

2 5





6 7

f u n c t i o n s p e c i c a t i o n s . B e c a u s e t r a n s f e r f u n c t i o n s a r e c o m p l e x - v a l u e d , f r e q u e n c y - d e p e n d e n t q u a n t i t i e s , w e

c a n b e t t e r a p p r e c i a t e a c i r c u i t ' s f u n c t i o n b y e x a m i n i n g t h e m a g n i t u d e a n d p h a s e o f i t s t r a n s f e r f u n c t i o n

( F i g u r e 3 . 3 0 ( M a g n i t u d e a n d p h a s e o f t h e t r a n s f e r f u n c t i o n ) ) .

S i m p l e C i r c u i t

vin+

–

R

C vout

+

–

F i g u r e 3 . 2 9 : A s i m p l e

RC c i r c u i t .

M a g n i t u d e a n d p h a s e o f t h e t r a n s f e r f u n c t i o n

-1 0 1

1

1 / √ 2

|H(f)|

1

2πRC

1

2πRC

f

( a )

-1 1

π / 4

– π / 4

– π / 2

π / 2

∠H(f)

f0 1

2πRC

1

2πRC

( b )

F i g u r e 3 . 3 0 : M a g n i t u d e a n d p h a s e o f t h e t r a n s f e r f u n c t i o n o f t h e R C c i r c u i t s h o w n i n F i g u r e 3 . 2 9

( S i m p l e C i r c u i t ) w h e n RC = 1 . ( a ) |H (f ) | = 1√ (2πfRC )2+1

( b ) ∠ (H (f )) = −arctan (2πfRC )

T h i s t r a n s f e r f u n c t i o n h a s m a n y i m p o r t a n t p r o p e r t i e s a n d p r o v i d e s a l l t h e i n s i g h t s n e e d e d t o d e t e r m i n e

h o w t h e c i r c u i t f u n c t i o n s . F i r s t o f a l l , n o t e t h a t w e c a n c o m p u t e t h e f r e q u e n c y r e s p o n s e f o r b o t h p o s i t i v e

a n d n e g a t i v e f r e q u e n c i e s . R e c a l l t h a t s i n u s o i d s c o n s i s t o f t h e s u m o f t w o c o m p l e x e x p o n e n t i a l s , o n e h a v i n g

t h e n e g a t i v e f r e q u e n c y o f t h e o t h e r . W e w i l l c o n s i d e r h o w t h e c i r c u i t a c t s o n a s i n u s o i d s o o n . D o n o t e

t h a t t h e m a g n i t u d e h a s e v e n s y m m e t r y : T h e n e g a t i v e f r e q u e n c y p o r t i o n i s a m i r r o r i m a g e o f t h e p o s i t i v e




6 8


f r e q u e n c y p o r t i o n : |H (−f ) | = |H (f ) | . T h e p h a s e h a s o d d s y m m e t r y : ∠ (H (−f )) = −∠ (H (f )). T h e s e

p r o p e r t i e s o f t h i s s p e c i c e x a m p l e a p p l y f o r a l l t r a n s f e r f u n c t i o n s a s s o c i a t e d w i t h c i r c u i t s . C o n s e q u e n t l y , w e

d o n ' t n e e d t o p l o t t h e n e g a t i v e f r e q u e n c y c o m p o n e n t ; w e k n o w w h a t i t i s f r o m t h e p o s i t i v e f r e q u e n c y p a r t .

T h e m a g n i t u d e e q u a l s

1

√ 2o f i t s m a x i m u m g a i n ( 1 a t

f = 0 ) w h e n 2πfRC = 1 ( t h e t w o t e r m s i n t h e

d e n o m i n a t o r o f t h e m a g n i t u d e a r e e q u a l ) . T h e f r e q u e n c y f c = 12πRC d e n e s t h e b o u n d a r y b e t w e e n t w o

o p e r a t i n g r a n g e s .

• F o r f r e q u e n c i e s b e l o w t h i s f r e q u e n c y , t h e c i r c u i t d o e s n o t m u c h a l t e r t h e a m p l i t u d e o f t h e c o m p l e x

e x p o n e n t i a l s o u r c e .

• F o r f r e q u e n c i e s g r e a t e r t h a n f c , t h e c i r c u i t s t r o n g l y a t t e n u a t e s t h e a m p l i t u d e . T h u s , w h e n t h e s o u r c e

f r e q u e n c y i s i n t h i s r a n g e , t h e c i r c u i t ' s o u t p u t h a s a m u c h s m a l l e r a m p l i t u d e t h a n t h a t o f t h e s o u r c e .

F o r t h e s e r e a s o n s , t h i s f r e q u e n c y i s k n o w n a s t h e c u t o f r e q u e n c y . I n t h i s c i r c u i t t h e c u t o f r e q u e n c y

d e p e n d s o n l y o n t h e p r o d u c t o f t h e r e s i s t a n c e a n d t h e c a p a c i t a n c e . T h u s , a c u t o f r e q u e n c y o f 1 k H z o c c u r s

w h e n

12πRC = 103 o r

RC = 10−32π = 1.59 × 10−4 . T h u s r e s i s t a n c e - c a p a c i t a n c e c o m b i n a t i o n s o f 1 . 5 9 k Ω a n d

1 0 0 n F o r 1 0 Ω a n d 1 . 5 9

µF r e s u l t i n t h e s a m e c u t o f r e q u e n c y .

T h e p h a s e s h i f t c a u s e d b y t h e c i r c u i t a t t h e c u t o f r e q u e n c y p r e c i s e l y e q u a l s

−π4 . T h u s , b e l o w t h e c u t o

f r e q u e n c y , p h a s e i s l i t t l e a e c t e d , b u t a t h i g h e r f r e q u e n c i e s , t h e p h a s e s h i f t c a u s e d b y t h e c i r c u i t b e c o m e s

−π2 . T h i s p h a s e s h i f t c o r r e s p o n d s t o t h e d i e r e n c e b e t w e e n a c o s i n e a n d a s i n e .

W e c a n u s e t h e t r a n s f e r f u n c t i o n t o n d t h e o u t p u t w h e n t h e i n p u t v o l t a g e i s a s i n u s o i d f o r t w o r e a s o n s .

F i r s t o f a l l , a s i n u s o i d i s t h e s u m o f t w o c o m p l e x e x p o n e n t i a l s , e a c h h a v i n g a f r e q u e n c y e q u a l t o t h e n e g a t i v e

o f t h e o t h e r . S e c o n d l y , b e c a u s e t h e c i r c u i t i s l i n e a r , s u p e r p o s i t i o n a p p l i e s . I f t h e s o u r c e i s a s i n e w a v e , w e

k n o w t h a t

vin (t) = Asin(2πf t)

= A2j

ej2πft − e−(j2πft)

( 3 . 1 6 )

S i n c e t h e i n p u t i s t h e s u m o f t w o c o m p l e x e x p o n e n t i a l s , w e k n o w t h a t t h e o u t p u t i s a l s o a s u m o f t w o

s i m i l a r c o m p l e x e x p o n e n t i a l s , t h e o n l y d i e r e n c e b e i n g t h a t t h e c o m p l e x a m p l i t u d e o f e a c h i s m u l t i p l i e d b y

t h e t r a n s f e r f u n c t i o n e v a l u a t e d a t e a c h e x p o n e n t i a l ' s f r e q u e n c y .

vout (t) = A2 j

H (f ) ej2πft − A2 j

H (−f ) e−(j2πft)( 3 . 1 7 )

A s n o t e d e a r l i e r , t h e t r a n s f e r f u n c t i o n i s m o s t c o n v e n i e n t l y e x p r e s s e d i n p o l a r f o r m : H (f ) =|H (f ) |ej∠(H (f ))

. F u r t h e r m o r e , |H (−f ) | = |H (f ) | ( e v e n s y m m e t r y o f t h e m a g n i t u d e ) a n d ∠ (H (−f )) =−∠ (H (f )) ( o d d s y m m e t r y o f t h e p h a s e ) . T h e o u t p u t v o l t a g e e x p r e s s i o n s i m p l i e s t o

vout (t) = A2j |H (f ) |ej2πft+∠(H (f )) − A

2j |H (f ) |e(−(j2πft))−∠(H (f ))

= A|H (f ) |sin(2πf t +∠ (H (f )))( 3 . 1 8 )

T h e c i r c u i t ' s o u t p u t t o a s i n u s o i d a l i n p u t i s a l s o a s i n u s o i d , h a v i n g a g a i n e q u a l t o t h e

m a g n i t u d e o f t h e c i r c u i t ' s t r a n s f e r f u n c t i o n e v a l u a t e d a t t h e s o u r c e f r e q u e n c y a n d a p h a s e

e q u a l t o t h e p h a s e o f t h e t r a n s f e r f u n c t i o n a t t h e s o u r c e f r e q u e n c y . I t w i l l t u r n o u t t h a t t h i s

i n p u t - o u t p u t r e l a t i o n d e s c r i p t i o n a p p l i e s t o a n y l i n e a r c i r c u i t h a v i n g a s i n u s o i d a l s o u r c e .

E x e r c i s e 3 . 1 3 . 1 ( S o l u t i o n o n p . 1 1 7 . )

T h i s i n p u t - o u t p u t p r o p e r t y i s a s p e c i a l c a s e o f a m o r e g e n e r a l r e s u l t . S h o w t h a t i f t h e s o u r c e c a n

b e w r i t t e n a s t h e i m a g i n a r y p a r t o f a c o m p l e x e x p o n e n t i a l

vin (t) = Im

V ej2πft

t h e o u t p u t

i s g i v e n b y vout (t) = Im

V H (f ) ej2πft

. S h o w t h a t a s i m i l a r r e s u l t a l s o h o l d s f o r t h e r e a l p a r t .

T h e n o t i o n o f i m p e d a n c e a r i s e s w h e n w e a s s u m e t h e s o u r c e s a r e c o m p l e x e x p o n e n t i a l s . T h i s a s s u m p t i o n

m a y s e e m r e s t r i c t i v e ; w h a t w o u l d w e d o i f t h e s o u r c e w e r e a u n i t s t e p ? W h e n w e u s e i m p e d a n c e s t o n d t h e

t r a n s f e r f u n c t i o n b e t w e e n t h e s o u r c e a n d t h e o u t p u t v a r i a b l e , w e c a n d e r i v e f r o m i t t h e d i e r e n t i a l e q u a t i o n

t h a t r e l a t e s i n p u t a n d o u t p u t . T h e d i e r e n t i a l e q u a t i o n a p p l i e s n o m a t t e r w h a t t h e s o u r c e m a y b e . A s




6 9

w e h a v e a r g u e d , i t i s f a r s i m p l e r t o u s e i m p e d a n c e s t o n d t h e d i e r e n t i a l e q u a t i o n ( b e c a u s e w e c a n u s e

s e r i e s a n d p a r a l l e l c o m b i n a t i o n r u l e s ) t h a n a n y o t h e r m e t h o d . I n t h i s s e n s e , w e h a v e n o t l o s t a n y t h i n g b y

t e m p o r a r i l y p r e t e n d i n g t h e s o u r c e i s a c o m p l e x e x p o n e n t i a l .

I n f a c t w e c a n a l s o s o l v e t h e d i e r e n t i a l e q u a t i o n u s i n g i m p e d a n c e s ! T h u s , d e s p i t e t h e a p p a r e n t r e s t r i c -

t i v e n e s s o f i m p e d a n c e s , a s s u m i n g c o m p l e x e x p o n e n t i a l s o u r c e s i s a c t u a l l y q u i t e g e n e r a l .

3 . 1 4 D e s i g n i n g T r a n s f e r F u n c t i o n s

2 6

I f t h e s o u r c e c o n s i s t s o f t w o ( o r m o r e ) s i g n a l s , w e k n o w f r o m l i n e a r s y s t e m t h e o r y t h a t t h e o u t p u t v o l t a g e

e q u a l s t h e s u m o f t h e o u t p u t s p r o d u c e d b y e a c h s i g n a l a l o n e . I n s h o r t , l i n e a r c i r c u i t s a r e a s p e c i a l c a s e

o f l i n e a r s y s t e m s , a n d t h e r e f o r e s u p e r p o s i t i o n a p p l i e s . I n p a r t i c u l a r , s u p p o s e t h e s e c o m p o n e n t s i g n a l s a r e

c o m p l e x e x p o n e n t i a l s , e a c h o f w h i c h h a s a f r e q u e n c y d i e r e n t f r o m t h e o t h e r s . T h e t r a n s f e r f u n c t i o n p o r t r a y s

h o w t h e c i r c u i t a e c t s t h e a m p l i t u d e a n d p h a s e o f e a c h c o m p o n e n t , a l l o w i n g u s t o u n d e r s t a n d h o w t h e c i r c u i t

w o r k s o n a c o m p l i c a t e d s i g n a l . T h o s e c o m p o n e n t s h a v i n g a f r e q u e n c y l e s s t h a n t h e c u t o f r e q u e n c y p a s s

t h r o u g h t h e c i r c u i t w i t h l i t t l e m o d i c a t i o n w h i l e t h o s e h a v i n g h i g h e r f r e q u e n c i e s a r e s u p p r e s s e d . T h e c i r c u i t

i s s a i d t o a c t a s a l t e r , l t e r i n g t h e s o u r c e s i g n a l b a s e d o n t h e f r e q u e n c y o f e a c h c o m p o n e n t c o m p l e x

e x p o n e n t i a l . B e c a u s e l o w f r e q u e n c i e s p a s s t h r o u g h t h e l t e r , w e c a l l i t a l o w p a s s l t e r t o e x p r e s s m o r e

p r e c i s e l y i t s f u n c t i o n .

W e h a v e a l s o f o u n d t h e e a s e o f c a l c u l a t i n g t h e o u t p u t f o r s i n u s o i d a l i n p u t s t h r o u g h t h e u s e o f t h e t r a n s f e r

f u n c t i o n . O n c e w e n d t h e t r a n s f e r f u n c t i o n , w e c a n w r i t e t h e o u t p u t d i r e c t l y a s i n d i c a t e d b y t h e o u t p u t o f

a c i r c u i t f o r a s i n u s o i d a l i n p u t ( 3 . 1 8 ) .

E x a m p l e 3 . 5

R L c i r c u i t

vin

+

–

R

+

–

v

i

L

iout

F i g u r e 3 . 3 1

L e t ' s a p p l y t h e s e r e s u l t s t o a n a l e x a m p l e , i n w h i c h t h e i n p u t i s a v o l t a g e s o u r c e a n d t h e

o u t p u t i s t h e i n d u c t o r c u r r e n t . T h e s o u r c e v o l t a g e e q u a l s V in = 2cos(2π60t) + 3. W e w a n t t h e

c i r c u i t t o p a s s c o n s t a n t ( o s e t ) v o l t a g e e s s e n t i a l l y u n a l t e r e d ( s a v e f o r t h e f a c t t h a t t h e o u t p u t i s a

c u r r e n t r a t h e r t h a n a v o l t a g e ) a n d r e m o v e t h e 6 0 H z t e r m . B e c a u s e t h e i n p u t i s t h e s u m o f t w o

s i n u s o i d s a c o n s t a n t i s a z e r o - f r e q u e n c y c o s i n e o u r a p p r o a c h i s

1 . n d t h e t r a n s f e r f u n c t i o n u s i n g i m p e d a n c e s ;

2 . u s e i t t o n d t h e o u t p u t d u e t o e a c h i n p u t c o m p o n e n t ;

3 . a d d t h e r e s u l t s ;

4 . n d e l e m e n t v a l u e s t h a t a c c o m p l i s h o u r d e s i g n c r i t e r i a .

2 6





7 0


B e c a u s e t h e c i r c u i t i s a s e r i e s c o m b i n a t i o n o f e l e m e n t s , l e t ' s u s e v o l t a g e d i v i d e r t o n d t h e t r a n s f e r

f u n c t i o n b e t w e e n

V in a n d

V , t h e n u s e t h e v - i r e l a t i o n o f t h e i n d u c t o r t o n d i t s c u r r e n t .

I out

V in= j2πfL

R+j2πfL

1

j2πfL= 1

j2πfL+R

= H (f )

( 3 . 1 9 )

w h e r e

voltage divider =j2πf L

R + j2πf L

a n d

inductor admittance =1

j2πf L

[ D o t h e u n i t s c h e c k ? ] T h e f o r m o f t h i s t r a n s f e r f u n c t i o n s h o u l d b e f a m i l i a r ; i t i s a l o w p a s s l t e r ,

a n d i t w i l l p e r f o r m o u r d e s i r e d f u n c t i o n o n c e w e c h o o s e e l e m e n t v a l u e s p r o p e r l y .

T h e c o n s t a n t t e r m i s e a s i e s t t o h a n d l e . T h e o u t p u t i s g i v e n b y

3|H (0) | =

3

R. T h u s , t h e v a l u e w e

c h o o s e f o r t h e r e s i s t a n c e w i l l d e t e r m i n e t h e s c a l i n g f a c t o r o f h o w v o l t a g e i s c o n v e r t e d i n t o c u r r e n t .

F o r t h e 6 0 H z c o m p o n e n t s i g n a l , t h e o u t p u t c u r r e n t i s 2|H (60) |cos(2π60t +∠ (H (60))). T h e t o t a l

o u t p u t d u e t o o u r s o u r c e i s

iout = 2|H (60) |cos (2π60t +∠ (H (60))) + 3 × H (0) ( 3 . 2 0 )

T h e c u t o f r e q u e n c y f o r t h i s l t e r o c c u r s w h e n t h e r e a l a n d i m a g i n a r y p a r t s o f t h e t r a n s f e r

f u n c t i o n ' s d e n o m i n a t o r e q u a l e a c h o t h e r . T h u s , 2πf cL = R, w h i c h g i v e s

f c = R2πL . W e w a n t t h i s

c u t o f r e q u e n c y t o b e m u c h l e s s t h a n 6 0 H z . S u p p o s e w e p l a c e i t a t , s a y , 1 0 H z . T h i s s p e c i c a t i o n

w o u l d r e q u i r e t h e c o m p o n e n t v a l u e s t o b e r e l a t e d b y

RL = 20π = 62.8 . T h e t r a n s f e r f u n c t i o n a t 6 0

H z w o u l d b e

| 1

j2π60L + R| =

1

R| 1

6 j + 1| =

1

R

1√ 37

0.16 × 1

R( 3 . 2 1 )

w h i c h y i e l d s a n a t t e n u a t i o n ( r e l a t i v e t o t h e g a i n a t z e r o f r e q u e n c y ) o f a b o u t 1/6 , a n d r e s u l t i n

a n o u t p u t a m p l i t u d e o f

0.3R r e l a t i v e t o t h e c o n s t a n t t e r m ' s a m p l i t u d e o f

3R . A f a c t o r o f 1 0 r e l a t i v e

s i z e b e t w e e n t h e t w o c o m p o n e n t s s e e m s r e a s o n a b l e . H a v i n g a 1 0 0 m H i n d u c t o r w o u l d r e q u i r e a

6 . 2 8 Ω r e s i s t o r . A n e a s i l y a v a i l a b l e r e s i s t o r v a l u e i s 6 . 8 Ω; t h u s , t h i s c h o i c e r e s u l t s i n c h e a p l y

a n d e a s i l y p u r c h a s e d p a r t s . T o m a k e t h e r e s i s t a n c e b i g g e r w o u l d r e q u i r e a p r o p o r t i o n a l l y l a r g e r

i n d u c t o r . U n f o r t u n a t e l y , e v e n a 1 H i n d u c t o r i s p h y s i c a l l y l a r g e ; c o n s e q u e n t l y l o w c u t o f r e q u e n c i e s

r e q u i r e s m a l l - v a l u e d r e s i s t o r s a n d l a r g e - v a l u e d i n d u c t o r s . T h e c h o i c e m a d e h e r e r e p r e s e n t s o n l y o n e

c o m p r o m i s e .

T h e p h a s e o f t h e 6 0 H z c o m p o n e n t w i l l v e r y n e a r l y b e −π2 , l e a v i n g i t t o b e

0.3R cos

2π60t − π

2

=

0.3R sin (2π60t). T h e w a v e f o r m s f o r t h e i n p u t a n d o u t p u t a r e s h o w n i n F i g u r e 3 . 3 2 ( W a v e f o r m s ) .




7 1

W a v e f o r m s

0 0.10

1

2

3

4

5

Time (s)

V o l t a g

e ( v ) o r C u r r e n t ( A )

input

voltage

outputcurrent

F i g u r e 3 . 3 2 : I n p u t a n d o u t p u t w a v e f o r m s f o r t h e e x a m p l e

RLc i r c u i t w h e n t h e e l e m e n t v a l u e s a r e

R = 6.28Ω a n d L = 100mH.

N o t e t h a t t h e s i n u s o i d ' s p h a s e h a s i n d e e d s h i f t e d ; t h e l o w p a s s l t e r n o t o n l y r e d u c e d t h e 6 0 H z s i g n a l ' s

a m p l i t u d e , b u t a l s o s h i f t e d i t s p h a s e b y 9 0

.

3 . 1 5 F o r m a l C i r c u i t M e t h o d s : N o d e M e t h o d

2 7

I n s o m e ( c o m p l i c a t e d ) c a s e s , w e c a n n o t u s e t h e s i m p l i c a t i o n t e c h n i q u e s s u c h a s p a r a l l e l o r s e r i e s c o m b i -

n a t i o n r u l e s t o s o l v e f o r a c i r c u i t ' s i n p u t - o u t p u t r e l a t i o n . I n o t h e r m o d u l e s , w e w r o t e v - i r e l a t i o n s a n d

K i r c h o ' s l a w s h a p h a z a r d l y , s o l v i n g t h e m m o r e o n i n t u i t i o n t h a n p r o c e d u r e . W e n e e d a f o r m a l m e t h o d t h a t

p r o d u c e s a s m a l l , e a s y s e t o f e q u a t i o n s t h a t l e a d d i r e c t l y t o t h e i n p u t - o u t p u t r e l a t i o n w e s e e k . O n e s u c h

t e c h n i q u e i s t h e n o d e m e t h o d .

2 7





7 2


N o d e V o l t a g e

vin+

–

R1

R2 R3

e1 e2

F i g u r e 3 . 3 3

T h e n o d e m e t h o d b e g i n s b y n d i n g a l l n o d e s p l a c e s w h e r e c i r c u i t e l e m e n t s a t t a c h t o e a c h o t h e r i n t h e

c i r c u i t . W e c a l l o n e o f t h e n o d e s t h e r e f e r e n c e n o d e ; t h e c h o i c e o f r e f e r e n c e n o d e i s a r b i t r a r y , b u t i t i s

u s u a l l y c h o s e n t o b e a p o i n t o f s y m m e t r y o r t h e " b o t t o m " n o d e . F o r t h e r e m a i n i n g n o d e s , w e d e n e n o d e

v o l t a g e s en t h a t r e p r e s e n t t h e v o l t a g e b e t w e e n t h e n o d e a n d t h e r e f e r e n c e . T h e s e n o d e v o l t a g e s c o n s t i t u t e

t h e o n l y u n k n o w n s ; a l l w e n e e d i s a s u c i e n t n u m b e r o f e q u a t i o n s t o s o l v e f o r t h e m . I n o u r e x a m p l e , w e

h a v e t w o n o d e v o l t a g e s . T h e v e r y a c t o f d e n i n g n o d e v o l t a g e s i s e q u i v a l e n t t o u s i n g a l l t h e K V L

e q u a t i o n s a t y o u r d i s p o s a l . T h e r e a s o n f o r t h i s s i m p l e , b u t a s t o u n d i n g , f a c t i s t h a t a n o d e v o l t a g e i s

u n i q u e l y d e n e d r e g a r d l e s s o f w h a t p a t h i s t r a c e d b e t w e e n t h e n o d e a n d t h e r e f e r e n c e . B e c a u s e t w o p a t h s

b e t w e e n a n o d e a n d r e f e r e n c e h a v e t h e s a m e v o l t a g e , t h e s u m o f v o l t a g e s a r o u n d t h e l o o p e q u a l s z e r o .

I n s o m e c a s e s , a n o d e v o l t a g e c o r r e s p o n d s e x a c t l y t o t h e v o l t a g e a c r o s s a v o l t a g e s o u r c e . I n s u c h c a s e s ,

t h e n o d e v o l t a g e i s s p e c i e d b y t h e s o u r c e a n d i s n o t a n u n k n o w n . F o r e x a m p l e , i n o u r c i r c u i t ,

e1 = vin ;

t h u s , w e n e e d o n l y t o n d o n e n o d e v o l t a g e .

T h e e q u a t i o n s g o v e r n i n g t h e n o d e v o l t a g e s a r e o b t a i n e d b y w r i t i n g K C L e q u a t i o n s a t e a c h n o d e h a v i n g

a n u n k n o w n n o d e v o l t a g e , u s i n g t h e v - i r e l a t i o n s f o r e a c h e l e m e n t . I n o u r e x a m p l e , t h e o n l y c i r c u i t e q u a t i o n

i s

e2 − vinR1

+e2R2

+e2R3

= 0 ( 3 . 2 2 )

A l i t t l e r e e c t i o n r e v e a l s t h a t w h e n w r i t i n g t h e K C L e q u a t i o n s f o r t h e s u m o f c u r r e n t s l e a v i n g a n o d e ,

t h a t n o d e ' s v o l t a g e w i l l a l w a y s a p p e a r w i t h a p l u s s i g n , a n d a l l o t h e r n o d e v o l t a g e s w i t h a m i n u s s i g n .

S y s t e m a t i c a p p l i c a t i o n o f t h i s p r o c e d u r e m a k e s i t e a s y t o w r i t e n o d e e q u a t i o n s a n d t o c h e c k t h e m b e f o r e

s o l v i n g t h e m . A l s o r e m e m b e r t o c h e c k u n i t s a t t h i s p o i n t : E v e r y t e r m s h o u l d h a v e u n i t s o f c u r r e n t . I n o u r

e x a m p l e , s o l v i n g f o r t h e u n k n o w n n o d e v o l t a g e i s e a s y :

e2 =R2R3

R1R2 + R1R3 + R2R3vin ( 3 . 2 3 )

H a v e w e r e a l l y s o l v e d t h e c i r c u i t w i t h t h e n o d e m e t h o d ? A l o n g t h e w a y , w e h a v e u s e d K V L , K C L , a n d

t h e v - i r e l a t i o n s . P r e v i o u s l y , w e i n d i c a t e d t h a t t h e s e t o f e q u a t i o n s r e s u l t i n g f r o m a p p l y i n g t h e s e l a w s i s

n e c e s s a r y a n d s u c i e n t . T h i s r e s u l t g u a r a n t e e s t h a t t h e n o d e m e t h o d c a n b e u s e d t o " s o l v e " a n y c i r c u i t .

O n e f a l l o u t o f t h i s r e s u l t i s t h a t w e m u s t b e a b l e t o n d a n y c i r c u i t v a r i a b l e g i v e n t h e n o d e v o l t a g e s a n d

s o u r c e s . A l l c i r c u i t v a r i a b l e s c a n b e f o u n d u s i n g t h e v - i r e l a t i o n s a n d v o l t a g e d i v i d e r . F o r e x a m p l e , t h e

c u r r e n t t h r o u g h

R3 e q u a l s

e2R3

.




7 3

R1

R2

R3

e1 e2

iin

i

F i g u r e 3 . 3 4

T h e p r e s e n c e o f a c u r r e n t s o u r c e i n t h e c i r c u i t d o e s n o t a e c t t h e n o d e m e t h o d g r e a t l y ; j u s t i n c l u d e i t i n

w r i t i n g K C L e q u a t i o n s a s a c u r r e n t l e a v i n g t h e n o d e . T h e c i r c u i t h a s t h r e e n o d e s , r e q u i r i n g u s t o d e n e

t w o n o d e v o l t a g e s . T h e n o d e e q u a t i o n s a r e

e1R1

+e1 − e2

R2− iin = 0 ( N o d e 1 )

e2 − e1R2

+e2R3

= 0 ( N o d e 2 )

N o t e t h a t t h e n o d e v o l t a g e c o r r e s p o n d i n g t o t h e n o d e t h a t w e a r e w r i t i n g K C L f o r e n t e r s w i t h a p o s i t i v e

s i g n , t h e o t h e r s w i t h a n e g a t i v e s i g n , a n d t h a t t h e u n i t s o f e a c h t e r m i s g i v e n i n a m p e r e s . R e w r i t e t h e s e

e q u a t i o n s i n t h e s t a n d a r d s e t - o f - l i n e a r - e q u a t i o n s f o r m .

e1 1

R1 +

1

R2− e2

1

R2 = iin

e11

R2+ e2

1

R2+

1

R3

= 0

S o l v i n g t h e s e e q u a t i o n s g i v e s

e1 =R2 + R3

R3e2

e2 =R1R3

R1 + R2 + R3iin

T o n d t h e i n d i c a t e d c u r r e n t , w e s i m p l y u s e

i = e2R3

.

E x a m p l e 3 . 6 : N o d e M e t h o d E x a m p l e




7 4


e1 e2

i

vin

+

–

1 1

1 1

2

F i g u r e 3 . 3 5

I n t h i s c i r c u i t ( F i g u r e 3 . 3 5 ) , w e c a n n o t u s e t h e s e r i e s / p a r a l l e l c o m b i n a t i o n r u l e s : T h e v e r t i c a l

r e s i s t o r a t n o d e 1 k e e p s t h e t w o h o r i z o n t a l 1 Ω r e s i s t o r s f r o m b e i n g i n s e r i e s , a n d t h e 2 Ω r e s i s t o r

p r e v e n t s t h e t w o 1 Ω r e s i s t o r s a t n o d e 2 f r o m b e i n g i n s e r i e s . W e r e a l l y d o n e e d t h e n o d e m e t h o d

t o s o l v e t h i s c i r c u i t ! D e s p i t e h a v i n g s i x e l e m e n t s , w e n e e d o n l y d e n e t w o n o d e v o l t a g e s . T h e n o d e

e q u a t i o n s a r e

e1 − vin1

+e11

+e1 − e2

1= 0 ( N o d e 1 )

e2 − vin2

+e21

+e2 − e1

1= 0 ( N o d e 2 )

S o l v i n g t h e s e e q u a t i o n s y i e l d s e1 = 613vin a n d e2 = 5

13vin . T h e o u t p u t c u r r e n t e q u a l s

e21 = 5

13vin .

O n e u n f o r t u n a t e c o n s e q u e n c e o f u s i n g t h e e l e m e n t ' s n u m e r i c v a l u e s f r o m t h e o u t s e t i s t h a t i t

b e c o m e s i m p o s s i b l e t o c h e c k u n i t s w h i l e s e t t i n g u p a n d s o l v i n g e q u a t i o n s .


W h a t i s t h e e q u i v a l e n t r e s i s t a n c e s e e n b y t h e v o l t a g e s o u r c e ?

N o d e M e t h o d a n d I m p e d a n c e s

+

– C

R1

Vin R2

+

–

Vout

E

F i g u r e 3 . 3 6 : M o d i c a t i o n o f t h e c i r c u i t s h o w n o n t h e l e f t t o i l l u s t r a t e t h e n o d e m e t h o d a n d t h e e e c t

o f a d d i n g t h e r e s i s t o r

R2 .

T h e n o d e m e t h o d a p p l i e s t o R L C c i r c u i t s , w i t h o u t s i g n i c a n t m o d i c a t i o n f r o m t h e m e t h o d s u s e d o n

s i m p l e r e s i s t i v e c i r c u i t s , i f w e u s e c o m p l e x a m p l i t u d e s . W e r e l y o n t h e f a c t t h a t c o m p l e x a m p l i t u d e s s a t i s f y




7 5

K V L , K C L , a n d i m p e d a n c e - b a s e d v - i r e l a t i o n s . I n t h e e x a m p l e c i r c u i t , w e d e n e c o m p l e x a m p l i t u d e s f o r

t h e i n p u t a n d o u t p u t v a r i a b l e s a n d f o r t h e n o d e v o l t a g e s . W e n e e d o n l y o n e n o d e v o l t a g e h e r e , a n d i t s K C L

e q u a t i o n i s

E

−V in

R1 + Ej 2πf C +

E

R2 = 0

w i t h t h e r e s u l t

E =R2

R1 + R2 + j2πf R1R2C V in

T o n d t h e t r a n s f e r f u n c t i o n b e t w e e n i n p u t a n d o u t p u t v o l t a g e s , w e c o m p u t e t h e r a t i o

E V in

. T h e t r a n s f e r

f u n c t i o n ' s m a g n i t u d e a n d a n g l e a r e

|H (f ) | =R2

(R1 + R2)2

+ (2πf R1R2C )2

∠ (H (f )) = −arctan2πf R1R2C

R1 + R2 T h i s c i r c u i t d i e r s f r o m t h e o n e s h o w n p r e v i o u s l y ( F i g u r e 3 . 2 9 : S i m p l e C i r c u i t ) i n t h a t t h e r e s i s t o r R2 h a s

b e e n a d d e d a c r o s s t h e o u t p u t . W h a t e e c t h a s i t h a d o n t h e t r a n s f e r f u n c t i o n , w h i c h i n t h e o r i g i n a l c i r c u i t

w a s a l o w p a s s l t e r h a v i n g c u t o f r e q u e n c y

f c = 12πR1C

? A s s h o w n i n F i g u r e 3 . 3 7 ( T r a n s f e r F u n c t i o n ) ,

a d d i n g t h e s e c o n d r e s i s t o r h a s t w o e e c t s : i t l o w e r s t h e g a i n i n t h e p a s s b a n d ( t h e r a n g e o f f r e q u e n c i e s f o r

w h i c h t h e l t e r h a s l i t t l e e e c t o n t h e i n p u t ) a n d i n c r e a s e s t h e c u t o f r e q u e n c y .

T r a n s f e r F u n c t i o n

0 10

1

f

|H(f)|

No R2

R1=1, R2=1

12πRC

1

2π

R1C

•R1+R2

R2

F i g u r e 3 . 3 7 : T r a n s f e r f u n c t i o n s o f t h e c i r c u i t s s h o w n i n F i g u r e 3 . 3 6 ( N o d e M e t h o d a n d I m p e d a n c e s ) .

H e r e , R1 = 1 , R2 = 1 , a n d C = 1 .




7 6


W h e n R2 = R1 , a s s h o w n o n t h e p l o t , t h e p a s s b a n d g a i n b e c o m e s h a l f o f t h e o r i g i n a l , a n d t h e c u t o

f r e q u e n c y i n c r e a s e s b y t h e s a m e f a c t o r . T h u s , a d d i n g

R2 p r o v i d e s a ' k n o b ' b y w h i c h w e c a n t r a d e p a s s b a n d

g a i n f o r c u t o f r e q u e n c y .

E x e r c i s e 3 . 1 5 . 2

( S o l u t i o n o n p . 1 1 7 . )

W e c a n c h a n g e t h e c u t o f r e q u e n c y w i t h o u t a e c t i n g p a s s b a n d g a i n b y c h a n g i n g t h e r e s i s t a n c e

i n t h e o r i g i n a l c i r c u i t . D o e s t h e a d d i t i o n o f t h e R2 r e s i s t o r h e l p i n c i r c u i t d e s i g n ?

3 . 1 6 P o w e r C o n s e r v a t i o n i n C i r c u i t s

2 8

N o w t h a t w e h a v e a f o r m a l m e t h o d t h e n o d e m e t h o d f o r s o l v i n g c i r c u i t s , w e c a n u s e i t t o p r o v e a p o w e r f u l

r e s u l t : K V L a n d K C L a r e a l l t h a t a r e r e q u i r e d t o s h o w t h a t a l l c i r c u i t s c o n s e r v e p o w e r , r e g a r d l e s s o f w h a t

e l e m e n t s a r e u s e d t o b u i l d t h e c i r c u i t .

P a r t o f a g e n e r a l c i r c u i t t o p r o v e C o n s e r v a t i o n o f P o w e r

a

bc

1 2

3i3

i2

i1

F i g u r e 3 . 3 8

F i r s t o f a l l , d e n e n o d e v o l t a g e s f o r a l l n o d e s i n a g i v e n c i r c u i t . A n y n o d e c h o s e n a s t h e r e f e r e n c e w i l l d o .

F o r e x a m p l e , i n t h e p o r t i o n o f a l a r g e c i r c u i t ( F i g u r e 3 . 3 8 : P a r t o f a g e n e r a l c i r c u i t t o p r o v e C o n s e r v a t i o n

o f P o w e r ) d e p i c t e d h e r e , w e d e n e n o d e v o l t a g e s f o r n o d e s a , b a n d c . W i t h t h e s e n o d e v o l t a g e s , w e c a n

e x p r e s s t h e v o l t a g e a c r o s s a n y e l e m e n t i n t e r m s o f t h e m . F o r e x a m p l e , t h e v o l t a g e a c r o s s e l e m e n t 1 i s g i v e n

b y v1

= eb

− ea

. T h e i n s t a n t a n e o u s p o w e r f o r e l e m e n t 1 b e c o m e s

v1

i1

= (eb

− ea

) i1

= eb

i1

− ea

i1

W r i t i n g t h e p o w e r f o r t h e o t h e r e l e m e n t s , w e h a v e

v2

i2

=

ec

i2

− ea

i2

v3

i3

= ec

i3

− eb

i3

W h e n w e a d d t o g e t h e r t h e e l e m e n t p o w e r t e r m s , w e d i s c o v e r t h a t o n c e w e c o l l e c t t e r m s i n v o l v i n g a p a r t i c u l a r

n o d e v o l t a g e , i t i s m u l t i p l i e d b y t h e s u m o f c u r r e n t s l e a v i n g t h e n o d e m i n u s t h e s u m o f c u r r e n t s e n t e r i n g .

F o r e x a m p l e , f o r n o d e b , w e h a v e eb

(i3

− i1

). W e s e e t h a t t h e c u r r e n t s w i l l o b e y K C L t h a t m u l t i p l y e a c h

n o d e v o l t a g e . C o n s e q u e n t l y , w e c o n c l u d e t h a t t h e s u m o f e l e m e n t p o w e r s m u s t e q u a l z e r o i n a n y

c i r c u i t r e g a r d l e s s o f t h e e l e m e n t s u s e d t o c o n s t r u c t t h e c i r c u i t .k

vk

ik

= 0

2 8





7 7

T h e s i m p l i c i t y a n d g e n e r a l i t y w i t h w h i c h w e p r o v e d t h i s r e s u l t s g e n e r a l i z e s t o o t h e r s i t u a t i o n s a s w e l l .

I n p a r t i c u l a r , n o t e t h a t t h e c o m p l e x a m p l i t u d e s o f v o l t a g e s a n d c u r r e n t s o b e y K V L a n d K C L , r e s p e c t i v e l y .

C o n s e q u e n t l y , w e h a v e t h a t

k V

k

I k

= 0 . F u r t h e r m o r e , t h e c o m p l e x - c o n j u g a t e o f c u r r e n t s a l s o s a t i s e s

K C L , w h i c h m e a n s w e a l s o h a v e k V k

I k

∗ = 0 . A n d n a l l y , w e k n o w t h a t e v a l u a t i n g t h e r e a l - p a r t o f a n

e x p r e s s i o n i s l i n e a r . F i n d i n g t h e r e a l - p a r t o f t h i s p o w e r c o n s e r v a t i o n g i v e s t h e r e s u l t t h a t a v e r a g e p o w e r

i s a l s o c o n s e r v e d i n a n y c i r c u i t . k

1

2Re (V

k

I k

∗) = 0

n o t e : T h i s p r o o f o f p o w e r c o n s e r v a t i o n c a n b e g e n e r a l i z e d i n a n o t h e r v e r y i n t e r e s t i n g w a y . A l l

w e n e e d i s a s e t o f v o l t a g e s t h a t o b e y K V L a n d a s e t o f c u r r e n t s t h a t o b e y K C L . T h u s , f o r a g i v e n

c i r c u i t t o p o l o g y ( t h e s p e c i c w a y e l e m e n t s a r e i n t e r c o n n e c t e d ) , t h e v o l t a g e s a n d c u r r e n t s c a n b e

m e a s u r e d a t d i e r e n t t i m e s a n d t h e s u m o f v - i p r o d u c t s i s z e r o .

kv

k

(t1) ik

(t2) = 0

E v e n m o r e i n t e r e s t i n g i s t h e f a c t t h a t t h e e l e m e n t s d o n ' t m a t t e r . W e c a n t a k e a c i r c u i t a n d m e a s u r e

a l l t h e v o l t a g e s . W e c a n t h e n m a k e e l e m e n t - f o r - e l e m e n t r e p l a c e m e n t s a n d , i f t h e t o p o l o g y h a s n o t

c h a n g e d , w e c a n m e a s u r e a s e t o f c u r r e n t s . T h e s u m o f t h e p r o d u c t o f e l e m e n t v o l t a g e s a n d c u r r e n t s

w i l l a l s o b e z e r o !

3 . 1 7 E l e c t r o n i c s

2 9

S o f a r w e h a v e a n a l y z e d e l e c t r i c a l c i r c u i t s : T h e s o u r c e s i g n a l h a s m o r e p o w e r t h a n t h e o u t p u t v a r i a b l e ,

b e i t a v o l t a g e o r a c u r r e n t . P o w e r h a s n o t b e e n e x p l i c i t l y d e n e d , b u t n o m a t t e r . R e s i s t o r s , i n d u c t o r s ,

a n d c a p a c i t o r s a s i n d i v i d u a l e l e m e n t s c e r t a i n l y p r o v i d e n o p o w e r g a i n , a n d c i r c u i t s b u i l t o f t h e m w i l l n o t

m a g i c a l l y d o s o e i t h e r . S u c h c i r c u i t s a r e t e r m e d e l e c t r i c a l i n d i s t i n c t i o n t o t h o s e t h a t d o p r o v i d e p o w e r

g a i n : e l e c t r o n i c c i r c u i t s . P r o v i d i n g p o w e r g a i n , s u c h a s y o u r s t e r e o r e a d i n g a C D a n d p r o d u c i n g s o u n d , i s

a c c o m p l i s h e d b y s e m i c o n d u c t o r c i r c u i t s t h a t c o n t a i n t r a n s i s t o r s . T h e b a s i c i d e a o f t h e t r a n s i s t o r i s t o l e t t h e

w e a k i n p u t s i g n a l m o d u l a t e a s t r o n g c u r r e n t p r o v i d e d b y a s o u r c e o f e l e c t r i c a l p o w e r t h e p o w e r s u p p l y t o

p r o d u c e a m o r e p o w e r f u l s i g n a l . A p h y s i c a l a n a l o g y i s a w a t e r f a u c e t : B y t u r n i n g t h e f a u c e t b a c k a n d

f o r t h , t h e w a t e r o w v a r i e s a c c o r d i n g l y , a n d h a s m u c h m o r e p o w e r t h a n e x p e n d e d i n t u r n i n g t h e h a n d l e .

T h e w a t e r p o w e r r e s u l t s f r o m t h e s t a t i c p r e s s u r e o f t h e w a t e r i n y o u r p l u m b i n g c r e a t e d b y t h e w a t e r u t i l i t y

p u m p i n g t h e w a t e r u p t o y o u r l o c a l w a t e r t o w e r . T h e p o w e r s u p p l y i s l i k e t h e w a t e r t o w e r , a n d t h e f a u c e t

i s t h e t r a n s i s t o r , w i t h t h e t u r n i n g a c h i e v e d b y t h e i n p u t s i g n a l . J u s t a s i n t h i s a n a l o g y , a p o w e r s u p p l y i s a

s o u r c e o f c o n s t a n t v o l t a g e a s t h e w a t e r t o w e r i s s u p p o s e d t o p r o v i d e a c o n s t a n t w a t e r p r e s s u r e .

A d e v i c e t h a t i s m u c h m o r e c o n v e n i e n t f o r p r o v i d i n g g a i n ( a n d o t h e r u s e f u l f e a t u r e s a s w e l l ) t h a n t h e

t r a n s i s t o r i s t h e o p e r a t i o n a l a m p l i e r , a l s o k n o w n a s t h e o p - a m p . A n o p - a m p i s a n i n t e g r a t e d c i r c u i t ( a

c o m p l i c a t e d c i r c u i t i n v o l v i n g s e v e r a l t r a n s i s t o r s c o n s t r u c t e d o n a c h i p ) t h a t p r o v i d e s a l a r g e v o l t a g e g a i n i f

y o u a t t a c h t h e p o w e r s u p p l y . W e c a n m o d e l t h e o p - a m p w i t h a n e w c i r c u i t e l e m e n t : t h e d e p e n d e n t s o u r c e .

3 . 1 8 D e p e n d e n t S o u r c e s

3 0

A d e p e n d e n t s o u r c e i s e i t h e r a v o l t a g e o r c u r r e n t s o u r c e w h o s e v a l u e i s p r o p o r t i o n a l t o s o m e o t h e r v o l t a g e

o r c u r r e n t i n t h e c i r c u i t . T h u s , t h e r e a r e f o u r d i e r e n t k i n d s o f d e p e n d e n t s o u r c e s ; t o d e s c r i b e a n o p - a m p , w e

n e e d a v o l t a g e - d e p e n d e n t v o l t a g e s o u r c e . H o w e v e r , t h e s t a n d a r d c i r c u i t - t h e o r e t i c a l m o d e l f o r a t r a n s i s t o r

3 1

2 9


3 0


3 1

" S m a l l S i g n a l M o d e l f o r B i p o l a r T r a n s i s t o r " < h t t p : / / c n x . o r g / c o n t e n t / m 1 0 1 9 / l a t e s t / >




7 8


c o n t a i n s a c u r r e n t - d e p e n d e n t c u r r e n t s o u r c e . D e p e n d e n t s o u r c e s d o n o t s e r v e a s i n p u t s t o a c i r c u i t l i k e

i n d e p e n d e n t s o u r c e s . T h e y a r e u s e d t o m o d e l a c t i v e c i r c u i t s : t h o s e c o n t a i n i n g e l e c t r o n i c e l e m e n t s . T h e

R L C c i r c u i t s w e h a v e b e e n c o n s i d e r i n g s o f a r a r e k n o w n a s p a s s i v e c i r c u i t s .

d e p e n d e n t s o u r c e s

–

+

+

–

v kv

…

……

…

F i g u r e 3 . 3 9 : O f t h e f o u r p o s s i b l e d e p e n d e n t s o u r c e s , d e p i c t e d i s a v o l t a g e - d e p e n d e n t v o l t a g e s o u r c e

i n t h e c o n t e x t o f a g e n e r i c c i r c u i t .

F i g u r e 3 . 4 0 ( o p - a m p ) s h o w s t h e c i r c u i t s y m b o l f o r t h e o p - a m p a n d i t s e q u i v a l e n t c i r c u i t i n t e r m s o f a

v o l t a g e - d e p e n d e n t v o l t a g e s o u r c e .

o p - a m p

–

+a

b

c – +Rin G(ea –eb)

a

b

cRout

F i g u r e 3 . 4 0 : T h e o p - a m p h a s f o u r t e r m i n a l s t o w h i c h c o n n e c t i o n s c a n b e m a d e . I n p u t s a t t a c h t o

n o d e s a a n d b , a n d t h e o u t p u t i s n o d e c . A s t h e c i r c u i t m o d e l o n t h e r i g h t s h o w s , t h e o p - a m p s e r v e s a s

a n a m p l i e r f o r t h e d i e r e n c e o f t h e i n p u t n o d e v o l t a g e s .

H e r e , t h e o u t p u t v o l t a g e e q u a l s a n a m p l i e d v e r s i o n o f t h e d i e r e n c e o f n o d e v o l t a g e s a p p e a r i n g a c r o s s

i t s i n p u t s . T h e d e p e n d e n t s o u r c e m o d e l p o r t r a y s h o w t h e o p - a m p w o r k s q u i t e w e l l . A s i n m o s t a c t i v e c i r c u i t

s c h e m a t i c s , t h e p o w e r s u p p l y i s n o t s h o w n , b u t m u s t b e p r e s e n t f o r t h e c i r c u i t m o d e l t o b e a c c u r a t e . M o s t

o p e r a t i o n a l a m p l i e r s r e q u i r e b o t h p o s i t i v e a n d n e g a t i v e s u p p l y v o l t a g e s f o r p r o p e r o p e r a t i o n .

B e c a u s e d e p e n d e n t s o u r c e s c a n n o t b e d e s c r i b e d a s i m p e d a n c e s , a n d b e c a u s e t h e d e p e n d e n t v a r i a b l e

c a n n o t " d i s a p p e a r " w h e n y o u a p p l y p a r a l l e l / s e r i e s c o m b i n i n g r u l e s , c i r c u i t s i m p l i c a t i o n s s u c h a s c u r r e n t

a n d v o l t a g e d i v i d e r s h o u l d n o t b e a p p l i e d i n m o s t c a s e s . A n a l y s i s o f c i r c u i t s c o n t a i n i n g d e p e n d e n t s o u r c e s

e s s e n t i a l l y r e q u i r e s u s e o f f o r m a l m e t h o d s , l i k e t h e n o d e m e t h o d ( S e c t i o n 3 . 1 5 ) . U s i n g t h e n o d e m e t h o d f o r




7 9

s u c h c i r c u i t s i s n o t d i c u l t , w i t h n o d e v o l t a g e s d e n e d a c r o s s t h e s o u r c e t r e a t e d a s i f t h e y w e r e k n o w n ( a s

w i t h i n d e p e n d e n t s o u r c e s ) . C o n s i d e r t h e c i r c u i t s h o w n o n t h e t o p i n F i g u r e 3 . 4 1 ( f e e d b a c k o p - a m p ) .

f e e d b a c k o p - a m p

–

+vin

+

– RL

RFR

vout

+

–

+

– RL

RF

R

–

+Rin –Gv

Rout

vout

+

–

v

+

–

F i g u r e 3 . 4 1 : T h e t o p c i r c u i t d e p i c t s a n o p - a m p i n a f e e d b a c k a m p l i e r c o n g u r a t i o n . O n t h e b o t t o m

i s t h e e q u i v a l e n t c i r c u i t , a n d i n t e g r a t e s t h e o p - a m p c i r c u i t m o d e l i n t o t h e c i r c u i t .

N o t e t h a t t h e o p - a m p i s p l a c e d i n t h e c i r c u i t " u p s i d e - d o w n , " w i t h i t s i n v e r t i n g i n p u t a t t h e t o p a n d

s e r v i n g a s t h e o n l y i n p u t . A s w e e x p l o r e o p - a m p s i n m o r e d e t a i l i n t h e n e x t s e c t i o n , t h i s c o n g u r a t i o n w i l l

a p p e a r a g a i n a n d a g a i n a n d i t s u s e f u l n e s s d e m o n s t r a t e d . T o d e t e r m i n e h o w t h e o u t p u t v o l t a g e i s r e l a t e d t o

t h e i n p u t v o l t a g e , w e a p p l y t h e n o d e m e t h o d . O n l y t w o n o d e v o l t a g e s

va n d

vout n e e d b e d e n e d ; t h e

r e m a i n i n g n o d e s a r e a c r o s s s o u r c e s o r s e r v e a s t h e r e f e r e n c e . T h e n o d e e q u a t i o n s a r e

v − vinR

+v

Rin+

v − voutRF

= 0 ( 3 . 2 4 )

vout − (−G) v

Rout

+vout − v

RF

+voutRL

= 0 ( 3 . 2 5 )

N o t e t h a t n o s p e c i a l c o n s i d e r a t i o n s w e r e u s e d i n a p p l y i n g t h e n o d e m e t h o d t o t h i s d e p e n d e n t - s o u r c e c i r c u i t .

S o l v i n g t h e s e t o l e a r n h o w

vout r e l a t e s t o

vin y i e l d s RF Rout

Rout − GRF

1

Rout+

1

Rin+

1

RL

1

R+

1

Rin+

1

RF

− 1

RF

vout =

1

Rvin ( 3 . 2 6 )

T h i s e x p r e s s i o n r e p r e s e n t s t h e g e n e r a l i n p u t - o u t p u t r e l a t i o n f o r t h i s c i r c u i t , k n o w n a s t h e s t a n d a r d f e e d -

b a c k c o n g u r a t i o n . O n c e w e l e a r n m o r e a b o u t o p - a m p s ( S e c t i o n 3 . 1 9 ) , i n p a r t i c u l a r w h a t i t s t y p i c a l

e l e m e n t v a l u e s a r e , t h e e x p r e s s i o n w i l l s i m p l i f y g r e a t l y . D o n o t e t h a t t h e u n i t s c h e c k , a n d t h a t t h e p a r a m e -

t e r

Go f t h e d e p e n d e n t s o u r c e i s a d i m e n s i o n l e s s g a i n .




8 0


3 . 1 9 O p e r a t i o n a l A m p l i e r s

3 2

O p - A m p

–

+a

b

c

–

+Rin G(ea –eb)

a

b

cRout

F i g u r e 3 . 4 2 : T h e o p - a m p h a s f o u r t e r m i n a l s t o w h i c h c o n n e c t i o n s c a n b e m a d e . I n p u t s a t t a c h t o

n o d e s a a n d b , a n d t h e o u t p u t i s n o d e c . A s t h e c i r c u i t m o d e l o n t h e r i g h t s h o w s , t h e o p - a m p s e r v e s a s

a n a m p l i e r f o r t h e d i e r e n c e o f t h e i n p u t n o d e v o l t a g e s .

O p - a m p s n o t o n l y h a v e t h e c i r c u i t m o d e l s h o w n i n F i g u r e 3 . 4 2 ( O p - A m p ) , b u t t h e i r e l e m e n t v a l u e s a r e v e r y

s p e c i a l .

• T h e i n p u t r e s i s t a n c e , Rin , i s t y p i c a l l y l a r g e , o n t h e o r d e r o f 1 M Ω.

• T h e o u t p u t r e s i s t a n c e , Rout , i s s m a l l , u s u a l l y l e s s t h a n 1 0 0 Ω.

• T h e v o l t a g e g a i n , G, i s l a r g e , e x c e e d i n g 105 .

T h e l a r g e g a i n c a t c h e s t h e e y e ; i t s u g g e s t s t h a t a n o p - a m p c o u l d t u r n a 1 m V i n p u t s i g n a l i n t o a 1 0 0 V o n e .

I f y o u w e r e t o b u i l d s u c h a c i r c u i t a t t a c h i n g a v o l t a g e s o u r c e t o n o d e a , a t t a c h i n g n o d e b t o t h e r e f e r e n c e ,

a n d l o o k i n g a t t h e o u t p u t y o u w o u l d b e d i s a p p o i n t e d . I n d e a l i n g w i t h e l e c t r o n i c c o m p o n e n t s , y o u c a n n o t

f o r g e t t h e u n r e p r e s e n t e d b u t n e e d e d p o w e r s u p p l y .

U n m o d e l e d l i m i t a t i o n s i m p o s e d b y p o w e r s u p p l i e s : I t i s i m p o s s i b l e f o r e l e c t r o n i c c o m p o -

n e n t s t o y i e l d v o l t a g e s t h a t e x c e e d t h o s e p r o v i d e d b y t h e p o w e r s u p p l y o r f o r t h e m t o y i e l d c u r r e n t s

t h a t e x c e e d t h e p o w e r s u p p l y ' s r a t i n g .

T y p i c a l p o w e r s u p p l y v o l t a g e s r e q u i r e d f o r o p - a m p c i r c u i t s a r e ± (15V ) . A t t a c h i n g t h e 1 m v s i g n a l n o t

o n l y w o u l d f a i l t o p r o d u c e a 1 0 0 V s i g n a l , t h e r e s u l t i n g w a v e f o r m w o u l d b e s e v e r e l y d i s t o r t e d . W h i l e a

d e s i r a b l e o u t c o m e i f y o u a r e a r o c k & r o l l a c i o n a d o , h i g h - q u a l i t y s t e r e o s s h o u l d n o t d i s t o r t s i g n a l s . A n o t h e r

c o n s i d e r a t i o n i n d e s i g n i n g c i r c u i t s w i t h o p - a m p s i s t h a t t h e s e e l e m e n t v a l u e s a r e t y p i c a l : C a r e f u l c o n t r o l o f

t h e g a i n c a n o n l y b e o b t a i n e d b y c h o o s i n g a c i r c u i t s o t h a t i t s e l e m e n t v a l u e s d i c t a t e t h e r e s u l t i n g g a i n ,

w h i c h m u s t b e s m a l l e r t h a n t h a t p r o v i d e d b y t h e o p - a m p .

3 2





8 1

o p a m p

–

+vin

+

– RL

RFR

vout

+

–

+ –

RL

RFR

–

+Rin –Gv

Rout

vout

+

–

v

+

–

F i g u r e 3 . 4 3 : T h e t o p c i r c u i t d e p i c t s a n o p - a m p i n a f e e d b a c k a m p l i e r c o n g u r a t i o n . O n t h e b o t t o m

i s t h e e q u i v a l e n t c i r c u i t , a n d i n t e g r a t e s t h e o p - a m p c i r c u i t m o d e l i n t o t h e c i r c u i t .

3 . 1 9 . 1 I n v e r t i n g A m p l i e r

T h e f e e d b a c k c o n g u r a t i o n s h o w n i n F i g u r e 3 . 4 3 ( o p a m p ) i s t h e m o s t c o m m o n o p - a m p c i r c u i t f o r o b t a i n i n g

w h a t i s k n o w n a s a n i n v e r t i n g a m p l i e r .RF Rout

Rout − GRF

1

Rout+

1

Rin+

1

RL

1

R+

1

Rin+

1

RF

− 1

RF

vout =

1

Rvin ( 3 . 2 7 )

p r o v i d e s t h e e x a c t i n p u t - o u t p u t r e l a t i o n s h i p . I n c h o o s i n g e l e m e n t v a l u e s w i t h r e s p e c t t o o p - a m p c h a r a c t e r -

i s t i c s , w e c a n s i m p l i f y t h e e x p r e s s i o n d r a m a t i c a l l y .

• M a k e t h e l o a d r e s i s t a n c e , RL , m u c h l a r g e r t h a n Rout . T h i s s i t u a t i o n d r o p s t h e t e r m

1RL

f r o m t h e

s e c o n d f a c t o r o f ( 3 . 2 7 ) .

•M a k e t h e r e s i s t o r , R, s m a l l e r t h a n Rin , w h i c h m e a n s t h a t t h e

1

Rin

t e r m i n t h e t h i r d f a c t o r i s n e g l i g i b l e .

W i t h t h e s e t w o d e s i g n c r i t e r i a , t h e e x p r e s s i o n ( ( 3 . 2 7 ) ) b e c o m e s RF

Rout − GRF

1

R+

1

RF

− 1

RF

vout =

1

Rvout ( 3 . 2 8 )

B e c a u s e t h e g a i n i s l a r g e a n d t h e r e s i s t a n c e Rout i s s m a l l , t h e r s t t e r m b e c o m e s − 1G , l e a v i n g u s w i t h

− 1

G

1

R+

1

RF

− 1

RF

vout =

1

Rvin ( 3 . 2 9 )




8 2


• I f w e s e l e c t t h e v a l u e s o f RF a n d R s o t h a t GR RF , t h i s f a c t o r w i l l n o l o n g e r d e p e n d o n t h e o p - a m p ' s

i n h e r e n t g a i n , a n d i t w i l l e q u a l − 1RF

.

U n d e r t h e s e c o n d i t i o n s , w e o b t a i n t h e c l a s s i c i n p u t - o u t p u t r e l a t i o n s h i p f o r t h e o p - a m p - b a s e d i n v e r t i n g a m -

p l i e r .

vout = −

RF

Rvin

( 3 . 3 0 )

C o n s e q u e n t l y , t h e g a i n p r o v i d e d b y o u r c i r c u i t i s e n t i r e l y d e t e r m i n e d b y o u r c h o i c e o f t h e f e e d b a c k r e s i s t o r

RF a n d t h e i n p u t r e s i s t o r R. I t i s a l w a y s n e g a t i v e , a n d c a n b e l e s s t h a n o n e o r g r e a t e r t h a n o n e i n

m a g n i t u d e . I t c a n n o t e x c e e d t h e o p - a m p ' s i n h e r e n t g a i n a n d s h o u l d n o t p r o d u c e s u c h l a r g e o u t p u t s t h a t

d i s t o r t i o n r e s u l t s ( r e m e m b e r t h e p o w e r s u p p l y ! ) . I n t e r e s t i n g l y , n o t e t h a t t h i s r e l a t i o n s h i p d o e s n o t d e p e n d

o n t h e l o a d r e s i s t a n c e . T h i s e e c t o c c u r s b e c a u s e w e u s e l o a d r e s i s t a n c e s l a r g e c o m p a r e d t o t h e o p - a m p ' s

o u t p u t r e s i s t a n c e . T h u s o b s e r v a t i o n m e a n s t h a t , i f c a r e f u l , w e c a n p l a c e o p - a m p c i r c u i t s i n c a s c a d e , w i t h o u t

i n c u r r i n g t h e e e c t o f s u c c e e d i n g c i r c u i t s c h a n g i n g t h e b e h a v i o r ( t r a n s f e r f u n c t i o n ) o f p r e v i o u s o n e s ; s e e t h i s

p r o b l e m ( P r o b l e m 3 . 4 4 ) .

3 . 1 9 . 2 A c t i v e F i l t e r s

A s l o n g a s d e s i g n r e q u i r e m e n t s a r e m e t , t h e i n p u t - o u t p u t r e l a t i o n f o r t h e i n v e r t i n g a m p l i e r a l s o a p p l i e s

w h e n t h e f e e d b a c k a n d i n p u t c i r c u i t e l e m e n t s a r e i m p e d a n c e s ( r e s i s t o r s , c a p a c i t o r s , a n d i n d u c t o r s ) .

o p a m p

ZFZ

Vin

Vout

+

–

+

– +

–

F i g u r e 3 . 4 4 :

V outV in

= −ZF

Z

E x a m p l e 3 . 7

L e t ' s d e s i g n a n o p - a m p c i r c u i t t h a t f u n c t i o n s a s a l o w p a s s l t e r . W e w a n t t h e t r a n s f e r f u n c t i o n

b e t w e e n t h e o u t p u t a n d i n p u t v o l t a g e t o b e

H (f ) =K

1 + jf f c

w h e r e K e q u a l s t h e p a s s b a n d g a i n a n d f c i s t h e c u t o f r e q u e n c y . L e t ' s a s s u m e t h a t t h e i n v e r s i o n

( n e g a t i v e g a i n ) d o e s n o t m a t t e r . W i t h t h e t r a n s f e r f u n c t i o n o f t h e a b o v e o p - a m p c i r c u i t i n m i n d ,

l e t ' s c o n s i d e r s o m e c h o i c e s .

• Z F = K , Z = 1 + jf f c

. T h i s c h o i c e m e a n s t h e f e e d b a c k i m p e d a n c e i s a r e s i s t o r a n d t h a t t h e

i n p u t i m p e d a n c e i s a s e r i e s c o m b i n a t i o n o f a n i n d u c t o r a n d a r e s i s t o r . I n c i r c u i t d e s i g n , w e

t r y t o a v o i d i n d u c t o r s b e c a u s e t h e y a r e p h y s i c a l l y b u l k i e r t h a n c a p a c i t o r s .




8 3

• Z F = 1

1+ jf f c

, Z = 1K . C o n s i d e r t h e r e c i p r o c a l o f t h e f e e d b a c k i m p e d a n c e ( i t s a d m i t t a n c e ) :

Z F −1 = 1 + jf

f c. S i n c e t h i s a d m i t t a n c e i s a s u m o f a d m i t t a n c e s , t h i s e x p r e s s i o n s u g g e s t s

t h e p a r a l l e l c o m b i n a t i o n o f a r e s i s t o r ( v a l u e = 1 Ω) a n d a c a p a c i t o r ( v a l u e =

1f c

F ) . W e

h a v e t h e r i g h t i d e a , b u t t h e v a l u e s ( l i k e 1 Ω) a r e n o t r i g h t . C o n s i d e r t h e g e n e r a l RC p a r a l l e l

c o m b i n a t i o n ; i t s a d m i t t a n c e i s

1RF

+ j2πf C . L e t t i n g t h e i n p u t r e s i s t a n c e e q u a l R, t h e t r a n s f e r

f u n c t i o n o f t h e o p - a m p i n v e r t i n g a m p l i e r n o w i s

H (f ) = −RF

R

1+j2πfRF C

T h u s , w e h a v e t h e g a i n e q u a l t o

RF

Ra n d t h e c u t o f r e q u e n c y

1RF C

.

C r e a t i n g a s p e c i c t r a n s f e r f u n c t i o n w i t h o p - a m p s d o e s n o t h a v e a u n i q u e a n s w e r . A s o p p o s e d t o d e s i g n

w i t h p a s s i v e c i r c u i t s , e l e c t r o n i c s i s m o r e e x i b l e ( a c a s c a d e o f c i r c u i t s c a n b e b u i l t s o t h a t e a c h h a s l i t t l e

e e c t o n t h e o t h e r s ; s e e P r o b l e m 3 . 4 4 ) a n d g a i n ( i n c r e a s e i n p o w e r a n d a m p l i t u d e ) c a n r e s u l t . T o c o m p l e t e

o u r e x a m p l e , l e t ' s a s s u m e w e w a n t a l o w p a s s l t e r t h a t e m u l a t e s w h a t t h e t e l e p h o n e c o m p a n i e s d o . S i g n a l s

t r a n s m i t t e d o v e r t h e t e l e p h o n e h a v e a n u p p e r f r e q u e n c y l i m i t o f a b o u t 3 k H z . F o r t h e s e c o n d d e s i g n c h o i c e ,

w e r e q u i r e RF C = 5.3×10−5 . T h u s , m a n y c h o i c e s f o r r e s i s t a n c e a n d c a p a c i t a n c e v a l u e s a r e p o s s i b l e . A 1 µF

c a p a c i t o r a n d a 3 3 0 Ω r e s i s t o r , 1 0 n F a n d 3 3 k Ω, a n d 1 0 p F a n d 3 3 M Ω w o u l d a l l t h e o r e t i c a l l y w o r k . L e t ' s

a l s o d e s i r e a v o l t a g e g a i n o f t e n : RF R = 10 , w h i c h m e a n s R = RF

10 . R e c a l l t h a t w e m u s t h a v e R < Rin . A s t h e

o p - a m p ' s i n p u t i m p e d a n c e i s a b o u t 1 M Ω, w e d o n ' t w a n t R t o o l a r g e , a n d t h i s r e q u i r e m e n t m e a n s t h a t t h e

l a s t c h o i c e f o r r e s i s t o r / c a p a c i t o r v a l u e s w o n ' t w o r k . W e a l s o n e e d t o a s k f o r l e s s g a i n t h a n t h e o p - a m p c a n

p r o v i d e i t s e l f . B e c a u s e t h e f e e d b a c k " e l e m e n t " i s a n i m p e d a n c e ( a p a r a l l e l r e s i s t o r c a p a c i t o r c o m b i n a t i o n ) ,

w e n e e d t o e x a m i n e t h e g a i n r e q u i r e m e n t m o r e c a r e f u l l y . W e m u s t h a v e

|Z F |R

< 105 f o r a l l f r e q u e n c i e s o f

i n t e r e s t . T h u s ,

RF |1+j2πfR F C|

R< 105 . A s t h i s i m p e d a n c e d e c r e a s e s w i t h f r e q u e n c y , t h e d e s i g n s p e c i c a t i o n o f

RF

R = 10 m e a n s t h a t t h i s c r i t e r i o n i s e a s i l y m e t . T h u s , t h e r s t t w o c h o i c e s f o r t h e r e s i s t o r a n d c a p a c i t o r

v a l u e s ( a s w e l l a s m a n y o t h e r s i n t h i s r a n g e ) w i l l w o r k w e l l . A d d i t i o n a l c o n s i d e r a t i o n s l i k e p a r t s c o s t m i g h t

e n t e r i n t o t h e p i c t u r e . U n l e s s y o u h a v e a h i g h - p o w e r a p p l i c a t i o n ( t h i s i s n ' t o n e ) o r a s k f o r h i g h - p r e c i s i o n

c o m p o n e n t s , c o s t s d o n ' t d e p e n d h e a v i l y o n c o m p o n e n t v a l u e s a s l o n g a s y o u s t a y c l o s e t o s t a n d a r d v a l u e s .

F o r r e s i s t o r s , h a v i n g v a l u e s r10d , e a s i l y o b t a i n e d v a l u e s o f r a r e 1 , 1 . 4 , 3 . 3 , 4 . 7 , a n d 6 . 8 , a n d t h e d e c a d e s

s p a n 0 - 8 .

E x e r c i s e 3 . 1 9 . 1

( S o l u t i o n o n p . 1 1 7 . )

W h a t i s s p e c i a l a b o u t t h e r e s i s t o r v a l u e s ; w h y t h e s e r a t h e r o d d - a p p e a r i n g v a l u e s f o r r ?

3 . 1 9 . 3 I n t u i t i v e W a y o f S o l v i n g O p - A m p C i r c u i t s

W h e n w e m e e t o p - a m p d e s i g n s p e c i c a t i o n s , w e c a n s i m p l i f y o u r c i r c u i t c a l c u l a t i o n s g r e a t l y , s o m u c h s o t h a t

w e d o n ' t n e e d t h e o p - a m p ' s c i r c u i t m o d e l t o d e t e r m i n e t h e t r a n s f e r f u n c t i o n . H e r e i s o u r i n v e r t i n g a m p l i e r .




8 4


o p a m p

vin+

– RL

RFR

–

+Rin –Gv

Routiin

i

iF

vout

+

–

+

–

v

F i g u r e 3 . 4 5

o p a m p

–

++

– RL

RFR

e

iin=0

+

–

vout

+ – v

F i g u r e 3 . 4 6

W h e n w e t a k e a d v a n t a g e o f t h e o p - a m p ' s c h a r a c t e r i s t i c s l a r g e i n p u t i m p e d a n c e , l a r g e g a i n , a n d s m a l l

o u t p u t i m p e d a n c e w e n o t e t h e t w o f o l l o w i n g i m p o r t a n t f a c t s .

• T h e c u r r e n t

iinm u s t b e v e r y s m a l l . T h e v o l t a g e p r o d u c e d b y t h e d e p e n d e n t s o u r c e i s

105

t i m e s t h e

v o l t a g e v . T h u s , t h e v o l t a g e v m u s t b e s m a l l , w h i c h m e a n s t h a t iin = vRin

m u s t b e t i n y . F o r e x a m p l e ,

i f t h e o u t p u t i s a b o u t 1 v , t h e v o l t a g e v = 10−5V , m a k i n g t h e c u r r e n t iin = 10−11A. C o n s e q u e n t l y , w e

c a n i g n o r e iin i n o u r c a l c u l a t i o n s a n d a s s u m e i t t o b e z e r o .

• B e c a u s e o f t h i s a s s u m p t i o n e s s e n t i a l l y n o c u r r e n t o w t h r o u g h Rin t h e v o l t a g e v m u s t a l s o b e

e s s e n t i a l l y z e r o . T h i s m e a n s t h a t i n o p - a m p c i r c u i t s , t h e v o l t a g e a c r o s s t h e o p - a m p ' s i n p u t i s b a s i c a l l y

z e r o .

A r m e d w i t h t h e s e a p p r o x i m a t i o n s , l e t ' s r e t u r n t o o u r o r i g i n a l c i r c u i t a s s h o w n i n F i g u r e 3 . 4 6 ( o p a m p ) .

T h e n o d e v o l t a g e e i s e s s e n t i a l l y z e r o , m e a n i n g t h a t i t i s e s s e n t i a l l y t i e d t o t h e r e f e r e n c e n o d e . T h u s , t h e




8 5

c u r r e n t t h r o u g h t h e r e s i s t o r R e q u a l s

vinR . F u r t h e r m o r e , t h e f e e d b a c k r e s i s t o r a p p e a r s i n p a r a l l e l w i t h t h e

l o a d r e s i s t o r . B e c a u s e t h e c u r r e n t g o i n g i n t o t h e o p - a m p i s z e r o , a l l o f t h e c u r r e n t o w i n g t h r o u g h

R o w s

t h r o u g h t h e f e e d b a c k r e s i s t o r (

iF = i) ! T h e v o l t a g e a c r o s s t h e f e e d b a c k r e s i s t o r

ve q u a l s

vinRF

R . B e c a u s e

t h e l e f t e n d o f t h e f e e d b a c k r e s i s t o r i s e s s e n t i a l l y a t t a c h e d t o t h e r e f e r e n c e n o d e , t h e v o l t a g e a c r o s s i t e q u a l s

t h e n e g a t i v e o f t h a t a c r o s s t h e o u t p u t r e s i s t o r : vout = −v = −vinRF

R . U s i n g t h i s a p p r o a c h m a k e s a n a l y z i n g

n e w o p - a m p c i r c u i t s m u c h e a s i e r . W h e n u s i n g t h i s t e c h n i q u e , c h e c k t o m a k e s u r e t h e r e s u l t s y o u o b t a i n

a r e c o n s i s t e n t w i t h t h e a s s u m p t i o n s o f e s s e n t i a l l y z e r o c u r r e n t e n t e r i n g t h e o p - a m p a n d n e a r l y z e r o v o l t a g e

a c r o s s t h e o p - a m p ' s i n p u t s .

E x a m p l e 3 . 8

T w o S o u r c e C i r c u i t

–

++

– RL

RF

R1

R2+

– vin

(2)

vout

+

–

e

i

+ – v

vin(1)

F i g u r e 3 . 4 7 : T w o - s o u r c e , s i n g l e - o u t p u t o p - a m p c i r c u i t e x a m p l e .

L e t ' s t r y t h i s a n a l y s i s t e c h n i q u e o n a s i m p l e e x t e n s i o n o f t h e i n v e r t i n g a m p l i e r c o n g u r a t i o n

s h o w n i n F i g u r e 3 . 4 7 ( T w o S o u r c e C i r c u i t ) . I f e i t h e r o f t h e s o u r c e - r e s i s t o r c o m b i n a t i o n s w e r e n o t

p r e s e n t , t h e i n v e r t i n g a m p l i e r r e m a i n s , a n d w e k n o w t h a t t r a n s f e r f u n c t i o n . B y s u p e r p o s i t i o n , w e

k n o w t h a t t h e i n p u t - o u t p u t r e l a t i o n i s

vout =

−

RF

R1v(1)in

− RF

R2v(2)in ( 3 . 3 1 )

W h e n w e s t a r t f r o m s c r a t c h , t h e n o d e j o i n i n g t h e t h r e e r e s i s t o r s i s a t t h e s a m e p o t e n t i a l a s t h e

r e f e r e n c e , e 0, a n d t h e s u m o f c u r r e n t s o w i n g i n t o t h a t n o d e i s z e r o . T h u s , t h e c u r r e n t i o w i n g

i n t h e r e s i s t o r RF e q u a l s

v(1)in

R1+

v(2)in

R2. B e c a u s e t h e f e e d b a c k r e s i s t o r i s e s s e n t i a l l y i n p a r a l l e l w i t h t h e

l o a d r e s i s t o r , t h e v o l t a g e s m u s t s a t i s f y v = −vout . I n t h i s w a y , w e o b t a i n t h e i n p u t - o u t p u t r e l a t i o n

g i v e n a b o v e .

W h a t u t i l i t y d o e s t h i s c i r c u i t h a v e ? C a n t h e b a s i c n o t i o n o f t h e c i r c u i t b e e x t e n d e d w i t h o u t

b o u n d ?




8 6


3 . 2 0 T h e D i o d e

3 3

D i o d e

0.5 v (V)

i (µa)

10

20

30

40

50

–0.5 –1.0

+

–

v

i

F i g u r e 3 . 4 8 : v - i r e l a t i o n a n d s c h e m a t i c s y m b o l f o r t h e d i o d e . H e r e , t h e d i o d e p a r a m e t e r s w e r e r o o m

t e m p e r a t u r e a n d

I 0 = 1 µA.

T h e r e s i s t o r , c a p a c i t o r , a n d i n d u c t o r a r e l i n e a r c i r c u i t e l e m e n t s i n t h a t t h e i r v - i r e l a t i o n s a r e l i n e a r i n t h e

m a t h e m a t i c a l s e n s e . V o l t a g e a n d c u r r e n t s o u r c e s a r e ( t e c h n i c a l l y ) n o n l i n e a r d e v i c e s : s t a t e d s i m p l y , d o u b l i n g

t h e c u r r e n t t h r o u g h a v o l t a g e s o u r c e d o e s n o t d o u b l e t h e v o l t a g e . A m o r e b l a t a n t , a n d v e r y u s e f u l , n o n l i n e a r

c i r c u i t e l e m e n t i s t h e d i o d e ( l e a r n m o r e

3 4

) . I t s i n p u t - o u t p u t r e l a t i o n h a s a n e x p o n e n t i a l f o r m .

i (t) = I 0

e

qkT

v(t) − 1

( 3 . 3 2 )

H e r e , t h e q u a n t i t y

q r e p r e s e n t s t h e c h a r g e o f a s i n g l e e l e c t r o n i n c o u l o m b s ,

ki s B o l t z m a n n ' s c o n s t a n t , a n d

T i s t h e d i o d e ' s t e m p e r a t u r e i n

K . A t r o o m t e m p e r a t u r e , t h e r a t i o

kT

q = 25mv. T h e c o n s t a n t

I 0i s t h e

l e a k a g e c u r r e n t , a n d i s u s u a l l y v e r y s m a l l . V i e w i n g t h i s v - i r e l a t i o n i n F i g u r e 3 . 4 8 ( D i o d e ) , t h e n o n l i n e a r i t y

b e c o m e s o b v i o u s . W h e n t h e v o l t a g e i s p o s i t i v e , c u r r e n t o w s e a s i l y t h r o u g h t h e d i o d e . T h i s s i t u a t i o n i s

k n o w n a s f o r w a r d b i a s i n g . W h e n w e a p p l y a n e g a t i v e v o l t a g e , t h e c u r r e n t i s q u i t e s m a l l , a n d e q u a l s

I 0 ,

k n o w n a s t h e l e a k a g e o r r e v e r s e - b i a s c u r r e n t . A l e s s d e t a i l e d m o d e l f o r t h e d i o d e h a s a n y p o s i t i v e c u r r e n t

o w i n g t h r o u g h t h e d i o d e w h e n i t i s f o r w a r d b i a s e d , a n d n o c u r r e n t w h e n n e g a t i v e b i a s e d . N o t e t h a t t h e

d i o d e ' s s c h e m a t i c s y m b o l l o o k s l i k e a n a r r o w h e a d ; t h e d i r e c t i o n o f c u r r e n t o w c o r r e s p o n d s t o t h e d i r e c t i o n

t h e a r r o w h e a d p o i n t s .

3 3


3 4

" P - N J u n c t i o n : P a r t I I " < h t t p : / / c n x . o r g / c o n t e n t / m 1 0 0 4 / l a t e s t / >




8 7

d i o d e c i r c u i t

vin

+

– R

+

–

vout

F i g u r e 3 . 4 9

B e c a u s e o f t h e d i o d e ' s n o n l i n e a r n a t u r e , w e c a n n o t u s e i m p e d a n c e s n o r s e r i e s / p a r a l l e l c o m b i n a t i o n r u l e s

a n a l y z e c i r c u i t s c o n t a i n i n g t h e m . T h e r e l i a b l e n o d e m e t h o d c a n a l w a y s b e u s e d ; i t o n l y r e l i e s o n K V L f o r

i t s a p p l i c a t i o n , a n d K V L i s a s t a t e m e n t a b o u t v o l t a g e d r o p s a r o u n d a c l o s e d p a t h r e g a r d l e s s o f w h e t h e r

t h e e l e m e n t s a r e l i n e a r o r n o t . T h u s , f o r t h i s s i m p l e c i r c u i t w e h a v e

voutR

= I 0

e

qkT

(vin−vout) − 1

( 3 . 3 3 )

T h i s e q u a t i o n c a n n o t b e s o l v e d i n c l o s e d f o r m . W e m u s t u n d e r s t a n d w h a t i s g o i n g o n f r o m b a s i c p r i n c i p l e s ,

u s i n g c o m p u t a t i o n a l a n d g r a p h i c a l a i d s . A s a n a p p r o x i m a t i o n , w h e n vin i s p o s i t i v e , c u r r e n t o w s t h r o u g h

t h e d i o d e s o l o n g a s t h e v o l t a g e vout i s s m a l l e r t h a n vin ( s o t h e d i o d e i s f o r w a r d b i a s e d ) . I f t h e s o u r c e i s

n e g a t i v e o r vout " t r i e s " t o b e b i g g e r t h a n vin , t h e d i o d e i s r e v e r s e - b i a s e d , a n d t h e r e v e r s e - b i a s c u r r e n t o w s

t h r o u g h t h e d i o d e . T h u s , a t t h i s l e v e l o f a n a l y s i s , p o s i t i v e i n p u t v o l t a g e s r e s u l t i n p o s i t i v e o u t p u t v o l t a g e s

w i t h n e g a t i v e o n e s r e s u l t i n g i n vout = − (RI 0).


vout

R

vin' vin

"vout

idiode

vout'

vout"

vout

vin

t

F i g u r e 3 . 5 0

W e n e e d t o d e t a i l t h e e x p o n e n t i a l n o n l i n e a r i t y t o d e t e r m i n e h o w t h e c i r c u i t d i s t o r t s t h e i n p u t v o l t a g e

w a v e f o r m . W e c a n o f c o u r s e n u m e r i c a l l y s o l v e F i g u r e 3 . 4 9 ( d i o d e c i r c u i t ) t o d e t e r m i n e t h e o u t p u t v o l t a g e




8 8


w h e n t h e i n p u t i s a s i n u s o i d . T o l e a r n m o r e , l e t ' s e x p r e s s t h i s e q u a t i o n g r a p h i c a l l y . W e p l o t e a c h t e r m a s a

f u n c t i o n o f

vout f o r v a r i o u s v a l u e s o f t h e i n p u t v o l t a g e

vin ; w h e r e t h e y i n t e r s e c t g i v e s u s t h e o u t p u t v o l t a g e .

T h e l e f t s i d e , t h e c u r r e n t t h r o u g h t h e o u t p u t r e s i s t o r , d o e s n o t v a r y i t s e l f w i t h

vin , a n d t h u s w e h a v e a x e d

s t r a i g h t l i n e . A s f o r t h e r i g h t s i d e , w h i c h e x p r e s s e s t h e d i o d e ' s v - i r e l a t i o n , t h e p o i n t a t w h i c h t h e c u r v e

c r o s s e s t h e vout a x i s g i v e s u s t h e v a l u e o f vin . C l e a r l y , t h e t w o c u r v e s w i l l a l w a y s i n t e r s e c t j u s t o n c e f o r a n y

v a l u e o f vin , a n d f o r p o s i t i v e vin t h e i n t e r s e c t i o n o c c u r s a t a v a l u e f o r vout s m a l l e r t h a n vin . T h i s r e d u c t i o n

i s s m a l l e r i f t h e s t r a i g h t l i n e h a s a s h a l l o w e r s l o p e , w h i c h c o r r e s p o n d s t o u s i n g a b i g g e r o u t p u t r e s i s t o r . F o r

n e g a t i v e vin , t h e d i o d e i s r e v e r s e - b i a s e d a n d t h e o u t p u t v o l t a g e e q u a l s − (RI 0).

W h a t u t i l i t y m i g h t t h i s s i m p l e c i r c u i t h a v e ? T h e d i o d e ' s n o n l i n e a r i t y c a n n o t b e e s c a p e d h e r e , a n d t h e

c l e a r l y e v i d e n t d i s t o r t i o n m u s t h a v e s o m e p r a c t i c a l a p p l i c a t i o n i f t h e c i r c u i t w e r e t o b e u s e f u l . T h i s c i r c u i t ,

k n o w n a s a h a l f - w a v e r e c t i e r , i s p r e s e n t i n v i r t u a l l y e v e r y A M r a d i o t w i c e a n d e a c h s e r v e s v e r y d i e r e n t

f u n c t i o n s ! W e ' l l l e a r n w h a t f u n c t i o n s l a t e r .


–

+vin

+

–

R

+

–

vout

F i g u r e 3 . 5 1

H e r e i s a c i r c u i t i n v o l v i n g a d i o d e t h a t i s a c t u a l l y s i m p l e r t o a n a l y z e t h a n t h e p r e v i o u s o n e . W e k n o w t h a t

t h e c u r r e n t t h r o u g h t h e r e s i s t o r m u s t e q u a l t h a t t h r o u g h t h e d i o d e . T h u s , t h e d i o d e ' s c u r r e n t i s p r o p o r t i o n a l

t o t h e i n p u t v o l t a g e . A s t h e v o l t a g e a c r o s s t h e d i o d e i s r e l a t e d t o t h e l o g a r i t h m o f i t s c u r r e n t , w e s e e t h a t

t h e i n p u t - o u t p u t r e l a t i o n i s

vout = −

kT

q ln

vin

RI 0+ 1

( 3 . 3 4 )

C l e a r l y , t h e n a m e l o g a r i t h m i c a m p l i e r i s j u s t i e d f o r t h i s c i r c u i t .

3 . 2 1 A n a l o g S i g n a l P r o c e s s i n g P r o b l e m s

3 5

P r o b l e m 3 . 1 : S i m p l e C i r c u i t A n a l y s i s

3 5





8 9

+

v

1

2

( a ) C i r c u i t a

+

v

1

1

( b ) C i r c u i t b

+

v

L

C

( c ) C i r c u i t c

F i g u r e 3 . 5 2

F o r e a c h c i r c u i t s h o w n i n F i g u r e 3 . 5 2 , t h e c u r r e n t i e q u a l s cos (2πt).

a ) W h a t i s t h e v o l t a g e a c r o s s e a c h e l e m e n t a n d w h a t i s t h e v o l t a g e v i n e a c h c a s e ?

b ) F o r t h e l a s t c i r c u i t , a r e t h e r e e l e m e n t v a l u e s t h a t m a k e t h e v o l t a g e v e q u a l z e r o f o r a l l t i m e ? I f s o ,

w h a t e l e m e n t v a l u e s w o r k ?

c ) A g a i n , f o r t h e l a s t c i r c u i t , i f z e r o v o l t a g e w e r e p o s s i b l e , w h a t c i r c u i t e l e m e n t c o u l d s u b s t i t u t e f o r t h e

c a p a c i t o r - i n d u c t o r s e r i e s c o m b i n a t i o n t h a t w o u l d y i e l d t h e s a m e v o l t a g e ?

P r o b l e m 3 . 2 : S o l v i n g S i m p l e C i r c u i t s

a ) W r i t e t h e s e t o f e q u a t i o n s t h a t g o v e r n C i r c u i t A ' s ( F i g u r e 3 . 5 3 ) b e h a v i o r .

b ) S o l v e t h e s e e q u a t i o n s f o r i1 : I n o t h e r w o r d s , e x p r e s s t h i s c u r r e n t i n t e r m s o f e l e m e n t a n d s o u r c e v a l u e s

b y e l i m i n a t i n g n o n - s o u r c e v o l t a g e s a n d c u r r e n t s .

c ) F o r C i r c u i t B , n d t h e v a l u e f o r RL

t h a t r e s u l t s i n a c u r r e n t o f 5 A p a s s i n g t h r o u g h i t .

d ) W h a t i s t h e p o w e r d i s s i p a t e d b y t h e l o a d r e s i s t o r RL

i n t h i s c a s e ?

vin

R2

R1

i1+

– iin

( a ) C i r c u i t A

RL20Ω15 A

( b ) C i r c u i t B

F i g u r e 3 . 5 3




9 0


P r o b l e m 3 . 3 : E q u i v a l e n t R e s i s t a n c e

F o r e a c h o f t h e f o l l o w i n g c i r c u i t s ( F i g u r e 3 . 5 4 ) , n d t h e e q u i v a l e n t r e s i s t a n c e u s i n g s e r i e s a n d p a r a l l e l

c o m b i n a t i o n r u l e s .

R1

R2

R3 R4

R5

( a ) c i r c u i t a

R1

R2 R3

R4

( b ) c i r c u i t b

R1R2

R3

R4

( c ) c i r c u i t c

1

1

1

1

1 1 1

( d ) c i r c u i t d

F i g u r e 3 . 5 4

C a l c u l a t e t h e c o n d u c t a n c e s e e n a t t h e t e r m i n a l s f o r c i r c u i t ( c ) i n t e r m s o f e a c h e l e m e n t ' s c o n d u c t a n c e .

C o m p a r e t h i s e q u i v a l e n t c o n d u c t a n c e f o r m u l a w i t h t h e e q u i v a l e n t r e s i s t a n c e f o r m u l a y o u f o u n d f o r c i r c u i t

( b ) . H o w i s t h e c i r c u i t ( c ) d e r i v e d f r o m c i r c u i t ( b ) ?

P r o b l e m 3 . 4 : S u p e r p o s i t i o n P r i n c i p l e

O n e o f t h e m o s t i m p o r t a n t c o n s e q u e n c e s o f c i r c u i t l a w s i s t h e S u p e r p o s i t i o n P r i n c i p l e : T h e c u r r e n t

o r v o l t a g e d e n e d f o r a n y e l e m e n t e q u a l s t h e s u m o f t h e c u r r e n t s o r v o l t a g e s p r o d u c e d i n t h e e l e m e n t b y

t h e i n d e p e n d e n t s o u r c e s . T h i s P r i n c i p l e h a s i m p o r t a n t c o n s e q u e n c e s i n s i m p l i f y i n g t h e c a l c u l a t i o n o f c i r u i t

v a r i a b l e s i n m u l t i p l e s o u r c e c i r c u i t s .

vin+

– iin

1/2

1

1/2

1/2

i

F i g u r e 3 . 5 5




9 1

a ) F o r t h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 5 5 ) , n d t h e i n d i c a t e d c u r r e n t u s i n g a n y t e c h n i q u e y o u l i k e ( y o u

s h o u l d u s e t h e s i m p l e s t ) .

b ) Y o u s h o u l d h a v e f o u n d t h a t t h e c u r r e n t

ii s a l i n e a r c o m b i n a t i o n o f t h e t w o s o u r c e v a l u e s :

i =C 1vin+C 2iin . T h i s r e s u l t m e a n s t h a t w e c a n t h i n k o f t h e c u r r e n t a s a s u p e r p o s i t i o n o f t w o c o m p o n e n t s ,

e a c h o f w h i c h i s d u e t o a s o u r c e . W e c a n n d e a c h c o m p o n e n t b y s e t t i n g t h e o t h e r s o u r c e s t o z e r o .

T h u s , t o n d t h e v o l t a g e s o u r c e c o m p o n e n t , y o u c a n s e t t h e c u r r e n t s o u r c e t o z e r o ( a n o p e n c i r c u i t ) a n d

u s e t h e u s u a l t r i c k s . T o n d t h e c u r r e n t s o u r c e c o m p o n e n t , y o u w o u l d s e t t h e v o l t a g e s o u r c e t o z e r o

( a s h o r t c i r c u i t ) a n d n d t h e r e s u l t i n g c u r r e n t . C a l c u l a t e t h e t o t a l c u r r e n t i u s i n g t h e S u p e r p o s i t i o n

P r i n c i p l e . I s a p p l y i n g t h e S u p e r p o s i t i o n P r i n c i p l e e a s i e r t h a n t h e t e c h n i q u e y o u u s e d i n p a r t ( 1 ) ?

P r o b l e m 3 . 5 : C u r r e n t a n d V o l t a g e D i v i d e r

U s e c u r r e n t o r v o l t a g e d i v i d e r r u l e s t o c a l c u l a t e t h e i n d i c a t e d c i r c u i t v a r i a b l e s i n F i g u r e 3 . 5 6 .

7sin 5t+

–

3 6

1

4

+

–

vout


6 6

2

1i


120+

–

6

180

12

5

i

48

20


F i g u r e 3 . 5 6

P r o b l e m 3 . 6 : T h é v e n i n a n d M a y e r - N o r t o n E q u i v a l e n t s

F i n d t h e T h é v e n i n a n d M a y e r - N o r t o n e q u i v a l e n t c i r c u i t s f o r t h e f o l l o w i n g c i r c u i t s ( F i g u r e 3 . 5 7 ) .




9 2


3 1 2

2π


+

–

+ –

1

1 1

1

1.5 v


10

3

6

20

2

+

– +

–

20 sin 5t


F i g u r e 3 . 5 7

P r o b l e m 3 . 7 : D e t e c t i v e W o r k

I n t h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 5 8 ) , t h e c i r c u i t

N 1 h a s t h e v - i r e l a t i o n

v1 = 3i1 + 7 w h e n

is = 2 .

a ) F i n d t h e T h é v e n i n e q u i v a l e n t c i r c u i t f o r c i r c u i t N 2 .

b ) W i t h

is = 2, d e t e r m i n e

Rs u c h t h a t

i1 = −1.

N25+

– is

R

1

+

–

v1

i1

N1

F i g u r e 3 . 5 8

P r o b l e m 3 . 8 : B r i d g e C i r c u i t s

C i r c u i t s h a v i n g t h e f o r m o f F i g u r e 3 . 5 9 a r e t e r m e d b r i d g e c i r c u i t s .




9 3

+

R1

iin

vout

R2

R3

R4

i

F i g u r e 3 . 5 9

a ) W h a t r e s i s t a n c e d o e s t h e c u r r e n t s o u r c e s e e w h e n n o t h i n g i s c o n n e c t e d t o t h e o u t p u t t e r m i n a l s ?

b ) W h a t r e s i s t o r v a l u e s , i f a n y , w i l l r e s u l t i n a z e r o v o l t a g e f o r vout ?

c ) A s s u m e

R1 = 1Ω,

R2 = 2Ω,

R3 = 2Ωa n d

R4 = 4Ω. F i n d t h e c u r r e n t

iw h e n t h e c u r r e n t s o u r c e

iini s

Im

(4 + 2 j) ej2π20t

. E x p r e s s y o u r a n s w e r a s a s i n u s o i d .

P r o b l e m 3 . 9 : C a r t e s i a n t o P o l a r C o n v e r s i o n

C o n v e r t t h e f o l l o w i n g e x p r e s s i o n s i n t o p o l a r f o r m . P l o t t h e i r l o c a t i o n i n t h e c o m p l e x p l a n e

3 6

.

a )

1 +

√ −32

b ) 3 + j4

c )

2−j 6√ 3

2+j 6√ 3

d )

4 − j3

1 + j 1

2

e ) 3ejπ + 4ej

π2

f ) √ 3 + j 2 × √ 2e−(jπ

4 )g )

31+j3π

P r o b l e m 3 . 1 0 : T h e C o m p l e x P l a n e

T h e c o m p l e x v a r i a b l e z i s r e l a t e d t o t h e r e a l v a r i a b l e u a c c o r d i n g t o

z = 1 + eju

• S k e t c h t h e c o n t o u r o f v a l u e s z t a k e s o n i n t h e c o m p l e x p l a n e .

• W h a t a r e t h e m a x i m u m a n d m i n i m u m v a l u e s a t t a i n a b l e b y |z|?

• S k e t c h t h e c o n t o u r t h e r a t i o n a l f u n c t i o n

z−1z+1 t r a c e s i n t h e c o m p l e x p l a n e .

P r o b l e m 3 . 1 1 : C o o l C u r v e s

I n t h e f o l l o w i n g e x p r e s s i o n s , t h e v a r i a b l e x r u n s f r o m z e r o t o i n n i t y . W h a t g e o m e t r i c s h a p e s d o t h e

f o l l o w i n g t r a c e i n t h e c o m p l e x p l a n e ?

a ) ejx

b ) 1 + ejx

c ) e−xejx

3 6

" T h e C o m p l e x P l a n e " < h t t p : / / c n x . o r g / c o n t e n t / m 1 0 5 9 6 / l a t e s t / >




9 4


d ) ejx + ej(x+π4 )

P r o b l e m 3 . 1 2 : T r i g o n o m e t r i c I d e n t i t i e s a n d C o m p l e x E x p o n e n t i a l s

S h o w t h e f o l l o w i n g t r i g o n o m e t r i c i d e n t i t i e s u s i n g c o m p l e x e x p o n e n t i a l s . I n m a n y c a s e s , t h e y w e r e d e r i v e d

u s i n g t h i s a p p r o a c h .

a ) sin(2u) = 2sin (u)cos(u)

b ) cos2 (u) = 1+cos(2u)2

c ) cos2 (u) + sin2 (u) = 1d )

ddu (sin(u)) = cos (u)

P r o b l e m 3 . 1 3 : T r a n s f e r F u n c t i o n s

F i n d t h e t r a n s f e r f u n c t i o n r e l a t i n g t h e c o m p l e x a m p l i t u d e s o f t h e i n d i c a t e d v a r i a b l e a n d t h e s o u r c e s h o w n

i n F i g u r e 3 . 6 0 . P l o t t h e m a g n i t u d e a n d p h a s e o f t h e t r a n s f e r f u n c t i o n .

vin+

–

1

1 2

+

–

v


vin+

–

1

2

+

–

v


ioutvin

+

1

1

4


ioutvin

+

1

1

1


F i g u r e 3 . 6 0

P r o b l e m 3 . 1 4 : U s i n g I m p e d a n c e s

F i n d t h e d i e r e n t i a l e q u a t i o n r e l a t i n g t h e i n d i c a t e d v a r i a b l e t o t h e s o u r c e ( s ) u s i n g i m p e d a n c e s f o r e a c h

c i r c u i t s h o w n i n F i g u r e 3 . 6 1 .




9 5

iout

vin+

R1

L

C

R2


vin

+

–

R1

L

iout

iinC

R2


+

–

v

L1

iin CR L2


iin 21 1

1

1

i


F i g u r e 3 . 6 1

P r o b l e m 3 . 1 5 : M e a s u r e m e n t C h a o s

T h e f o l l o w i n g s i m p l e c i r c u i t ( F i g u r e 3 . 6 2 ) w a s c o n s t r u c t e d b u t t h e s i g n a l m e a s u r e m e n t s w e r e m a d e h a p -

h a z a r d l y . W h e n t h e s o u r c e w a s sin(2πf 0t), t h e c u r r e n t i (t) e q u a l e d

√ 23 sin 2πf 0t + π

4 a n d t h e v o l t a g e

v2 (t) = 13sin(2πf 0t).

vin(t)

++

v2(t)

Z1

i(t)

Z2

+ v1(t)

F i g u r e 3 . 6 2

a ) W h a t i s t h e v o l t a g e v1 (t) ?

b ) F i n d t h e i m p e d a n c e s Z 1 a n d Z 2 .

c ) C o n s t r u c t t h e s e i m p e d a n c e s f r o m e l e m e n t a r y c i r c u i t e l e m e n t s .




9 6


P r o b l e m 3 . 1 6 : T r a n s f e r F u n c t i o n s

I n t h e f o l l o w i n g c i r c u i t ( F i g u r e 3 . 6 3 ) , t h e v o l t a g e s o u r c e e q u a l s

vin (t) = 10sint2

.

+

–

+

–

vout

1

2 4vin

F i g u r e 3 . 6 3

a ) F i n d t h e t r a n s f e r f u n c t i o n b e t w e e n t h e s o u r c e a n d t h e i n d i c a t e d o u t p u t v o l t a g e .

b ) F o r t h e g i v e n s o u r c e , n d t h e o u t p u t v o l t a g e .

P r o b l e m 3 . 1 7 : A S i m p l e C i r c u i t

Y o u a r e g i v e n t h i s s i m p l e c i r c u i t ( F i g u r e 3 . 6 4 ) .

1

iout

iin

1

2

1

21

2

F i g u r e 3 . 6 4

a ) W h a t i s t h e t r a n s f e r f u n c t i o n b e t w e e n t h e s o u r c e a n d t h e i n d i c a t e d o u t p u t c u r r e n t ?

b ) I f t h e o u t p u t c u r r e n t i s m e a s u r e d t o b e cos(2t), w h a t w a s t h e s o u r c e ?

P r o b l e m 3 . 1 8 : C i r c u i t D e s i g n




9 7

L

R

Cvin

+

–

+

–

vout

F i g u r e 3 . 6 5

a ) F i n d t h e t r a n s f e r f u n c t i o n b e t w e e n t h e i n p u t a n d t h e o u t p u t v o l t a g e s f o r t h e c i r c u i t s s h o w n i n F i g -

u r e 3 . 6 5 .

b ) A t w h a t f r e q u e n c y d o e s t h e t r a n s f e r f u n c t i o n h a v e a p h a s e s h i f t o f z e r o ? W h a t i s t h e c i r c u i t ' s g a i n a t

t h i s f r e q u e n c y ?

c ) S p e c i c a t i o n s d e m a n d t h a t t h i s c i r c u i t h a v e a n o u t p u t i m p e d a n c e ( i t s e q u i v a l e n t i m p e d a n c e ) l e s s t h a n

8 Ω f o r f r e q u e n c i e s a b o v e 1 k H z , t h e f r e q u e n c y a t w h i c h t h e t r a n s f e r f u n c t i o n i s m a x i m u m . F i n d e l e m e n t

v a l u e s t h a t s a t i s f y t h i s c r i t e r i o n .

P r o b l e m 3 . 1 9 : E q u i v a l e n t C i r c u i t s a n d P o w e r

S u p p o s e w e h a v e a n a r b i t r a r y c i r c u i t o f r e s i s t o r s t h a t w e c o l l a p s e i n t o a n e q u i v a l e n t r e s i s t o r u s i n g t h e s e r i e s

a n d p a r a l l e l r u l e s . I s t h e p o w e r d i s s i p a t e d b y t h e e q u i v a l e n t r e s i s t o r e q u a l t o t h e s u m o f t h e p o w e r s d i s s i p a t e d

b y t h e a c t u a l r e s i s t o r s c o m p r i s i n g t h e c i r c u i t ? L e t ' s s t a r t w i t h s i m p l e c a s e s a n d b u i l d u p t o a c o m p l e t e p r o o f .

a ) S u p p o s e r e s i s t o r s R1 a n d R2 a r e c o n n e c t e d i n p a r a l l e l . S h o w t h a t t h e p o w e r d i s s i p a t e d b y R1 R1

e q u a l s t h e s u m o f t h e p o w e r s d i s s i p a t e d b y t h e c o m p o n e n t r e s i s t o r s .

b ) N o w s u p p o s e R1 a n d R2 a r e c o n n e c t e d i n s e r i e s . S h o w t h e s a m e r e s u l t f o r t h i s c o m b i n a t i o n .

c ) U s e t h e s e t w o r e s u l t s t o p r o v e t h e g e n e r a l r e s u l t w e s e e k .

P r o b l e m 3 . 2 0 : P o w e r T r a n s m i s s i o n

T h e n e t w o r k s h o w n i n t h e g u r e r e p r e s e n t s a s i m p l e p o w e r t r a n s m i s s i o n s y s t e m . T h e g e n e r a t o r p r o d u c e s

6 0 H z a n d i s m o d e l e d b y a s i m p l e T h é v e n i n e q u i v a l e n t . T h e t r a n s m i s s i o n l i n e c o n s i s t s o f a l o n g l e n g t h o f

c o p p e r w i r e a n d c a n b e a c c u r a t e l y d e s c r i b e d a s a 5 0 Ω r e s i s t o r .

a ) D e t e r m i n e t h e l o a d c u r r e n t RL

a n d t h e a v e r a g e p o w e r t h e g e n e r a t o r m u s t p r o d u c e s o t h a t t h e l o a d

r e c e i v e s 1 , 0 0 0 w a t t s o f a v e r a g e p o w e r . W h y d o e s t h e g e n e r a t o r n e e d t o g e n e r a t e m o r e t h a n 1 , 0 0 0 w a t t s

o f a v e r a g e p o w e r t o m e e t t h i s r e q u i r e m e n t ?

b ) S u p p o s e t h e l o a d i s c h a n g e d t o t h a t s h o w n i n t h e s e c o n d g u r e . N o w h o w m u c h p o w e r m u s t t h e

g e n e r a t o r p r o d u c e t o m e e t t h e s a m e p o w e r r e q u i r e m e n t ? W h y i s i t m o r e t h a n i t h a d t o p r o d u c e t o

m e e t t h e r e q u i r e m e n t f o r t h e r e s i s t i v e l o a d ?

c ) T h e l o a d c a n b e c o m p e n s a t e d t o h a v e a u n i t y p o w e r f a c t o r ( s e e e x e r c i s e ( E x e r c i s e 3 . 1 1 . 2 ) ) s o t h a t

t h e v o l t a g e a n d c u r r e n t a r e i n p h a s e f o r m a x i m u m p o w e r e c i e n c y . T h e c o m p e n s a t i o n t e c h n i q u e i s t o

p l a c e a c i r c u i t i n p a r a l l e l t o t h e l o a d c i r c u i t . W h a t e l e m e n t w o r k s a n d w h a t i s i t s v a l u e ?

d ) W i t h t h i s c o m p e n s a t e d c i r c u i t , h o w m u c h p o w e r m u s t t h e g e n e r a t o r p r o d u c e t o d e l i v e r 1 , 0 0 0 a v e r a g e

p o w e r t o t h e l o a d ?




9 8


IL

Vg+

Rs RT

100

power generator lossy powertransmission line

load

( a ) S i m p l e p o w e r t r a n s m i s s i o n s y s t e m

1001

( b ) M o d i e d l o a d c i r -

c u i t

F i g u r e 3 . 6 6

P r o b l e m 3 . 2 1 : O p t i m a l P o w e r T r a n s m i s s i o n

T h e f o l l o w i n g g u r e ( F i g u r e 3 . 6 7 ) s h o w s a g e n e r a l m o d e l f o r p o w e r t r a n s m i s s i o n . T h e p o w e r g e n e r a t o r i s

r e p r e s e n t e d b y a T h é v i n i n e q u i v a l e n t a n d t h e l o a d b y a s i m p l e i m p e d a n c e . I n m o s t a p p l i c a t i o n s , t h e s o u r c e

c o m p o n e n t s a r e x e d w h i l e t h e r e i s s o m e l a t i t u d e i n c h o o s i n g t h e l o a d .

a ) S u p p o s e w e w a n t e d t h e m a x i m i z e " v o l t a g e t r a n s m i s s i o n : " m a k e t h e v o l t a g e a c r o s s t h e l o a d a s l a r g e a s

p o s s i b l e . W h a t c h o i c e o f l o a d i m p e d a n c e c r e a t e s t h e l a r g e s t l o a d v o l t a g e ? W h a t i s t h e l a r g e s t l o a d

v o l t a g e ?

b ) I f w e w a n t e d t h e m a x i m u m c u r r e n t t o p a s s t h r o u g h t h e l o a d , w h a t w o u l d w e c h o o s e t h e l o a d i m p e d a n c e

t o b e ? W h a t i s t h i s l a r g e s t c u r r e n t ?

c ) W h a t c h o i c e f o r t h e l o a d i m p e d a n c e m a x i m i z e s t h e a v e r a g e p o w e r d i s s i p a t e d i n t h e l o a d ? W h a t i s

m o s t p o w e r t h e g e n e r a t o r c a n d e l i v e r ?

n o t e : O n e w a y t o m a x i m i z e a f u n c t i o n o f a c o m p l e x v a r i a b l e i s t o w r i t e t h e e x p r e s s i o n i n

t e r m s o f t h e v a r i a b l e ' s r e a l a n d i m a g i n a r y p a r t s , e v a l u a t e d e r i v a t i v e s w i t h r e s p e c t t o e a c h , s e t b o t h

d e r i v a t i v e s t o z e r o a n d s o l v e t h e t w o e q u a t i o n s s i m u l t a n e o u s l y .

Vg+

Zg

ZL

F i g u r e 3 . 6 7




9 9

P r o b l e m 3 . 2 2 : B i g i s B e a u t i f u l

S a m m y w a n t s t o c h o o s e s p e a k e r s t h a t p r o d u c e v e r y l o u d m u s i c . H e h a s a n a m p l i e r a n d n o t i c e s t h a t t h e

s p e a k e r t e r m i n a l s a r e l a b e l e d " 8Ω s o u r c e . "

a ) W h a t d o e s t h i s m e a n i n t e r m s o f t h e a m p l i e r ' s e q u i v a l e n t c i r c u i t ?

b ) A n y s p e a k e r S a m m y a t t a c h e s t o t h e t e r m i n a l s c a n b e w e l l - m o d e l e d a s a r e s i s t o r . C h o o s i n g a s p e a k e r

a m o u n t s t o c h o o s i n g t h e v a l u e s f o r t h e r e s i s t o r . W h a t c h o i c e w o u l d m a x i m i z e t h e v o l t a g e a c r o s s t h e

s p e a k e r s ?

c ) S a m m y d e c i d e s t h a t m a x i m i z i n g t h e p o w e r d e l i v e r e d t o t h e s p e a k e r m i g h t b e a b e t t e r c h o i c e . W h a t

v a l u e s f o r t h e s p e a k e r r e s i s t o r s h o u l d b e c h o s e n t o m a x i m i z e t h e p o w e r d e l i v e r e d t o t h e s p e a k e r ?

P r o b l e m 3 . 2 3 : S h a r i n g a C h a n n e l

T w o t r a n s m i t t e r - r e c e i v e r p a i r s w a n t t o s h a r e t h e s a m e d i g i t a l c o m m u n i c a t i o n s c h a n n e l . T h e t r a n s m i t t e r

s i g n a l s w i l l b e a d d e d t o g e t h e r b y t h e c h a n n e l . R e c e i v e r d e s i g n i s g r e a t l y s i m p l i e d i f r s t w e r e m o v e t h e

u n w a n t e d t r a n s m i s s i o n ( a s m u c h a s p o s s i b l e ) . E a c h t r a n s m i t t e r s i g n a l h a s t h e f o r m

xi (t) = Asin(2πf it) , 0 ≤ t ≤ T

w h e r e t h e a m p l i t u d e i s e i t h e r z e r o o r A a n d e a c h t r a n s m i t t e r u s e s i t s o w n f r e q u e n c y f i . E a c h f r e q u e n c y i s

h a r m o n i c a l l y r e l a t e d t o t h e b i t i n t e r v a l d u r a t i o n T , w h e r e t h e t r a n s m i t t e r 1 u s e s t h e t h e f r e q u e n c y

1T

. T h e

d a t a r a t e i s 1 0 M b p s .

a ) D r a w a b l o c k d i a g r a m t h a t e x p r e s s e s t h i s c o m m u n i c a t i o n s c e n a r i o .

b ) F i n d c i r c u i t s t h a t t h e r e c e i v e r s c o u l d e m p l o y t o s e p a r a t e u n w a n t e d t r a n s m i s s i o n s . A s s u m e t h e r e c e i v e d

s i g n a l i s a v o l t a g e a n d t h e o u t p u t i s t o b e a v o l t a g e a s w e l l .

c ) F i n d t h e s e c o n d t r a n s m i t t e r ' s f r e q u e n c y s o t h a t t h e r e c e i v e r s c a n s u p p r e s s t h e u n w a n t e d t r a n s m i s s i o n

b y a t l e a s t a f a c t o r o f t e n .

P r o b l e m 3 . 2 4 : C i r c u i t D e t e c t i v e W o r k

I n t h e l a b , t h e o p e n - c i r c u i t v o l t a g e m e a s u r e d a c r o s s a n u n k n o w n c i r c u i t ' s t e r m i n a l s e q u a l s sin(t) . W h e n a

1 Ω r e s i s t o r i s p l a c e a c r o s s t h e t e r m i n a l s , a v o l t a g e o f

1√ 2

sin

t + π4

a p p e a r s .

a ) W h a t i s t h e T h é v e n i n e q u i v a l e n t c i r c u i t ?

b ) W h a t v o l t a g e w i l l a p p e a r i f w e p l a c e a 1 F c a p a c i t o r a c r o s s t h e t e r m i n a l s ?

P r o b l e m 3 . 2 5 : M y s t e r y C i r c u i t

W e w a n t t o d e t e r m i n e a s m u c h a s w e c a n a b o u t t h e c i r c u i t l u r k i n g i n t h e i m p e n e t r a b l e b o x s h o w n i n

F i g u r e 3 . 6 8 . A v o l t a g e s o u r c e vin = 2 v o l t s h a s b e e n a t t a c h e d t o t h e l e f t - h a n d t e r m i n a l s , l e a v i n g t h e r i g h t

t e r m i n a l s f o r t e s t s a n d m e a s u r e m e n t s .




1 0 0


+ Resistors

+

v

i

vin

F i g u r e 3 . 6 8

a ) S a m m y m e a s u r e s v = 10 v o l t s w h e n a 1 Ω r e s i s t o r i s a t t a c h e d t o t h e t e r m i n a l s . S a m a n t h a s a y s h e i s

w r o n g . W h o i s c o r r e c t a n d w h y ?

b ) W h e n n o t h i n g i s a t t a c h e d t o t h e r i g h t - h a n d t e r m i n a l s , a v o l t a g e o f v = 1 v o l t i s m e a s u r e d . W h a t c i r c u i t

c o u l d p r o d u c e t h i s o u t p u t ?

c ) W h e n a c u r r e n t s o u r c e i s a t t a c h e d s o t h a t i = 2 a m p , t h e v o l t a g e v i s n o w 3 v o l t s . W h a t r e s i s t o r c i r c u i t

w o u l d b e c o n s i s t e n t w i t h t h i s a n d t h e p r e v i o u s p a r t ?

P r o b l e m 3 . 2 6 : M o r e C i r c u i t D e t e c t i v e W o r k

T h e l e f t t e r m i n a l p a i r o f a t w o t e r m i n a l - p a i r c i r c u i t i s a t t a c h e d t o a t e s t i n g c i r c u i t . T h e t e s t s o u r c e vin (t)e q u a l s sin(t) ( F i g u r e 3 . 6 9 ) .

Circuit

+

–

v

i

+

–

1

vin

F i g u r e 3 . 6 9

W e m a k e t h e f o l l o w i n g m e a s u r e m e n t s .

• W i t h n o t h i n g a t t a c h e d t o t h e t e r m i n a l s o n t h e r i g h t , t h e v o l t a g e

v (t)e q u a l s

1

√ 2cos t +π

4 .

• W h e n a w i r e i s p l a c e d a c r o s s t h e t e r m i n a l s o n t h e r i g h t , t h e c u r r e n t

i (t) w a s −sin(t).

a ) W h a t i s t h e i m p e d a n c e s e e n f r o m t h e t e r m i n a l s o n t h e r i g h t ?

b ) F i n d t h e v o l t a g e v (t) i f a c u r r e n t s o u r c e i s a t t a c h e d t o t h e t e r m i n a l s o n t h e r i g h t s o t h a t i (t) = sin(t) .

P r o b l e m 3 . 2 7 : L i n e a r , T i m e - I n v a r i a n t S y s t e m s

F o r a s y s t e m t o b e c o m p l e t e l y c h a r a c t e r i z e d b y a t r a n s f e r f u n c t i o n , i t n e e d s n o t o n l y b e l i n e a r , b u t a l s o

t o b e t i m e - i n v a r i a n t . A s y s t e m i s s a i d t o b e t i m e - i n v a r i a n t i f d e l a y i n g t h e i n p u t d e l a y s t h e o u t p u t b y t h e




1 0 1

s a m e a m o u n t . M a t h e m a t i c a l l y , i f S (x (t)) = y (t), m e a n i n g y (t) i s t h e o u t p u t o f a s y s t e m S (•) w h e n x (t)i s t h e i n p u t ,

S (•) i s t h e t i m e - i n v a r i a n t i f

S (x (t − τ )) = y (t − τ ) f o r a l l d e l a y s

τ a n d a l l i n p u t s

x (t) . N o t e

t h a t b o t h l i n e a r a n d n o n l i n e a r s y s t e m s h a v e t h i s p r o p e r t y . F o r e x a m p l e , a s y s t e m t h a t s q u a r e s i t s i n p u t i s

t i m e - i n v a r i a n t .

a ) S h o w t h a t i f a c i r c u i t h a s x e d c i r c u i t e l e m e n t s ( t h e i r v a l u e s d o n ' t c h a n g e o v e r t i m e ) , i t s i n p u t - o u t p u t

r e l a t i o n s h i p i s t i m e - i n v a r i a n t . H i n t : C o n s i d e r t h e d i e r e n t i a l e q u a t i o n t h a t d e s c r i b e s a c i r c u i t ' s i n p u t -

o u t p u t r e l a t i o n s h i p . W h a t i s i t s g e n e r a l f o r m ? E x a m i n e t h e d e r i v a t i v e ( s ) o f d e l a y e d s i g n a l s .

b ) S h o w t h a t i m p e d a n c e s c a n n o t c h a r a c t e r i z e t i m e - v a r y i n g c i r c u i t e l e m e n t s ( R , L , a n d C ) . C o n s e q u e n t l y ,

s h o w t h a t l i n e a r , t i m e - v a r y i n g s y s t e m s d o n o t h a v e a t r a n s f e r f u n c t i o n .

c ) D e t e r m i n e t h e l i n e a r i t y a n d t i m e - i n v a r i a n c e o f t h e f o l l o w i n g . F i n d t h e t r a n s f e r f u n c t i o n o f t h e l i n e a r ,

t i m e - i n v a r i a n t ( L T I ) o n e ( s ) .

i ) d i o d e

i i ) y (t) = x (t)sin(2πf 0t)i i i ) y (t) = x (t − τ 0)

i v ) y (t) = x (t) + N (t)

P r o b l e m 3 . 2 8 : L o n g a n d S l e e p l e s s N i g h t s

S a m m y w e n t t o l a b a f t e r a l o n g , s l e e p l e s s n i g h t , a n d c o n s t r u c t e d t h e c i r c u i t s h o w n i n F i g u r e 3 . 7 0 . H e

c a n n o t r e m e m b e r w h a t t h e c i r c u i t , r e p r e s e n t e d b y t h e i m p e d a n c e Z , w a s . C l e a r l y , t h i s f o r g o t t e n c i r c u i t i s

i m p o r t a n t a s t h e o u t p u t i s t h e c u r r e n t p a s s i n g t h r o u g h i t .

a ) W h a t i s t h e T h é v e n i n e q u i v a l e n t c i r c u i t s e e n b y t h e i m p e d a n c e ?

b ) I n s e a r c h i n g h i s n o t e s , S a m m y n d s t h a t t h e c i r c u i t i s t o r e a l i z e t h e t r a n s f e r f u n c t i o n

H (f ) =1

j10πf + 2

F i n d t h e i m p e d a n c e Z a s w e l l a s v a l u e s f o r t h e o t h e r c i r c u i t e l e m e n t s .

+

– C

R

vin

iout

Z

F i g u r e 3 . 7 0

P r o b l e m 3 . 2 9 : A T e s t i n g C i r c u i t

T h e s i m p l e c i r c u i t h e r e ( F i g u r e 3 . 7 1 ) w a s g i v e n o n a t e s t .




1 0 2


1vin+

–

+

–

vout

Zi(t)

F i g u r e 3 . 7 1

W h e n t h e v o l t a g e s o u r c e i s

√ 5sin (t), t h e c u r r e n t i (t) =

√ 2cos

t − arctan (2) − π

4

.

a ) W h a t i s v o l t a g e

vout (t) ?

b ) W h a t i s t h e i m p e d a n c e

Z a t t h e f r e q u e n c y o f t h e s o u r c e ?

P r o b l e m 3 . 3 0 : B l a c k - B o x C i r c u i t

Y o u a r e g i v e n a c i r c u i t ( F i g u r e 3 . 7 2 ) t h a t h a s t w o t e r m i n a l s f o r a t t a c h i n g c i r c u i t e l e m e n t s .

Circuit

+

–

v(t)

i(t)

F i g u r e 3 . 7 2

W h e n y o u a t t a c h a v o l t a g e s o u r c e e q u a l i n g sin(t) t o t h e t e r m i n a l s , t h e c u r r e n t t h r o u g h t h e s o u r c e

e q u a l s 4sin

t + π4

−2sin (4t) . W h e n n o s o u r c e i s a t t a c h e d ( o p e n - c i r c u i t e d t e r m i n a l s ) , t h e v o l t a g e a c r o s s t h e

t e r m i n a l s h a s t h e f o r m Asin(4t + φ) .

a ) W h a t w i l l t h e t e r m i n a l c u r r e n t b e w h e n y o u r e p l a c e t h e s o u r c e b y a s h o r t c i r c u i t ?

b ) I f y o u w e r e t o b u i l d a c i r c u i t t h a t w a s i d e n t i c a l ( f r o m t h e v i e w p o i n t o f t h e t e r m i n a l s ) t o t h e g i v e n o n e ,

w h a t w o u l d y o u r c i r c u i t b e ?

c ) F o r y o u r c i r c u i t , w h a t a r e A a n d φ?

P r o b l e m 3 . 3 1 : S o l v i n g a M y s t e r y C i r c u i t

S a m m y m u s t d e t e r m i n e a s m u c h a s h e c a n a b o u t a m y s t e r y c i r c u i t b y a t t a c h i n g e l e m e n t s t o t h e t e r m i n a l

a n d m e a s u r i n g t h e r e s u l t i n g v o l t a g e . W h e n h e a t t a c h e s a 1 Ω r e s i s t o r t o t h e c i r c u i t ' s t e r m i n a l s , h e m e a s u r e s

t h e v o l t a g e a c r o s s t h e t e r m i n a l s t o b e 3sin (t). W h e n h e a t t a c h e s a 1 F c a p a c i t o r a c r o s s t h e t e r m i n a l s , t h e

v o l t a g e i s n o w 3 × √ 2sin

t − π

4

.

a ) W h a t v o l t a g e s h o u l d h e m e a s u r e w h e n h e a t t a c h e s n o t h i n g t o t h e m y s t e r y c i r c u i t ?




1 0 3

b ) W h a t v o l t a g e s h o u l d S a m m y m e a s u r e i f h e d o u b l e d t h e s i z e o f t h e c a p a c i t o r t o 2 F a n d a t t a c h e d i t t o

t h e c i r c u i t ?

P r o b l e m 3 . 3 2 : F i n d t h e L o a d I m p e d a n c e

T h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 7 3 ) h a s a t r a n s f e r f u n c t i o n b e t w e e n t h e o u t p u t v o l t a g e a n d t h e s o u r c e e q u a l

t o

H (f ) =−8π2f 2

8π2f 2 + 4 + j6πf .

1/2

4vin

+

–

+

–

voutZL

F i g u r e 3 . 7 3

a ) S k e t c h t h e m a g n i t u d e a n d p h a s e o f t h e t r a n s f e r f u n c t i o n .

b ) A t w h a t f r e q u e n c y d o e s t h e p h a s e e q u a l

π2

?

c ) F i n d a c i r c u i t t h a t c o r r e s p o n d s t o t h i s l o a d i m p e d a n c e . I s y o u r a n s w e r u n i q u e ? I f s o , s h o w i t t o b e s o ;

i f n o t , g i v e a n o t h e r e x a m p l e .

P r o b l e m 3 . 3 3 : A n a l o g H u m R e j e c t i o n

H u m r e f e r s t o c o r r u p t i o n f r o m w a l l s o c k e t p o w e r t h a t f r e q u e n t l y s n e a k s i n t o c i r c u i t s . H u m g e t s i t s n a m e

b e c a u s e i t s o u n d s l i k e a p e r s i s t e n t h u m m i n g s o u n d . W e w a n t t o n d a c i r c u i t t h a t w i l l r e m o v e h u m f r o m

a n y s i g n a l . A R i c e e n g i n e e r s u g g e s t s u s i n g a s i m p l e v o l t a g e d i v i d e r c i r c u i t ( F i g u r e 3 . 7 4 ) c o n s i s t i n g o f t w o

s e r i e s i m p e d a n c e s .

Vin

+

–

Z2

Z1

Vout

+

–

F i g u r e 3 . 7 4




1 0 4


a ) T h e i m p e d a n c e Z 1 i s a r e s i s t o r . T h e R i c e e n g i n e e r m u s t d e c i d e b e t w e e n t w o c i r c u i t s ( F i g u r e 3 . 7 5 ) f o r

t h e i m p e d a n c e

Z 2 . W h i c h o f t h e s e w i l l w o r k ?

b ) P i c k i n g o n e c i r c u i t t h a t w o r k s , c h o o s e c i r c u i t e l e m e n t v a l u e s t h a t w i l l r e m o v e h u m .

c ) S k e t c h t h e m a g n i t u d e o f t h e r e s u l t i n g f r e q u e n c y r e s p o n s e .

C

C

L

L

F i g u r e 3 . 7 5

P r o b l e m 3 . 3 4 : A n I n t e r e s t i n g C i r c u i t

6

iin

+ – vout

2

3

1

F i g u r e 3 . 7 6

a ) F o r t h e c i r c u i t s h o w n i n F i g u r e 3 . 7 6 , n d t h e t r a n s f e r f u n c t i o n .

b ) W h a t i s t h e o u t p u t v o l t a g e w h e n t h e i n p u t h a s t h e f o r m iin = 5sin(2000πt) ?

P r o b l e m 3 . 3 5 : A S i m p l e C i r c u i t

Y o u a r e g i v e n t h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 7 7 ) .




1 0 5

1

iin

+–

vout

1

1

1

1

F i g u r e 3 . 7 7

a ) W h a t i s t h e t r a n s f e r f u n c t i o n b e t w e e n t h e s o u r c e a n d t h e o u t p u t v o l t a g e ?

b ) W h a t w i l l t h e v o l t a g e b e w h e n t h e s o u r c e e q u a l s sin(t) ?

c ) M a n y f u n c t i o n g e n e r a t o r s p r o d u c e a c o n s t a n t o s e t i n a d d i t i o n t o a s i n u s o i d . I f t h e s o u r c e e q u a l s

1 + sin (t), w h a t i s t h e o u t p u t v o l t a g e ?

P r o b l e m 3 . 3 6 : A n I n t e r e s t i n g a n d U s e f u l C i r c u i t

T h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 7 8 ) h a s i n t e r e s t i n g p r o p e r t i e s , w h i c h a r e e x p l o i t e d i n h i g h - p e r f o r m a n c e

o s c i l l o s c o p e s .

R1

C1

probe

C2R2

+

–

vin

oscilloscope

+

–

vout

F i g u r e 3 . 7 8

T h e p o r t i o n o f t h e c i r c u i t l a b e l e d " O s c i l l o s c o p e " r e p r e s e n t s t h e s c o p e ' s i n p u t i m p e d a n c e . R2 = 1MΩa n d C 2 = 30pF ( n o t e t h e l a b e l u n d e r t h e c h a n n e l 1 i n p u t i n t h e l a b ' s o s c i l l o s c o p e s ) . A p r o b e i s a d e v i c e t o

a t t a c h a n o s c i l l o s c o p e t o a c i r c u i t , a n d i t h a s t h e i n d i c a t e d c i r c u i t i n s i d e i t .

a ) S u p p o s e f o r a m o m e n t t h a t t h e p r o b e i s m e r e l y a w i r e a n d t h a t t h e o s c i l l o s c o p e i s a t t a c h e d t o a c i r c u i t

t h a t h a s a r e s i s t i v e T h é v e n i n e q u i v a l e n t i m p e d a n c e . W h a t w o u l d b e t h e e e c t o f t h e o s c i l l o s c o p e ' s

i n p u t i m p e d a n c e o n m e a s u r e d v o l t a g e s ?

b ) U s i n g t h e n o d e m e t h o d , n d t h e t r a n s f e r f u n c t i o n r e l a t i n g t h e i n d i c a t e d v o l t a g e t o t h e s o u r c e w h e n

t h e p r o b e i s u s e d .




1 0 6


c ) P l o t t h e m a g n i t u d e a n d p h a s e o f t h i s t r a n s f e r f u n c t i o n w h e n R1 = 9MΩ a n d C 1 = 2pF.

d ) F o r a p a r t i c u l a r r e l a t i o n s h i p a m o n g t h e e l e m e n t v a l u e s , t h e t r a n s f e r f u n c t i o n i s q u i t e s i m p l e . F i n d t h a t

r e l a t i o n s h i p a n d d e s c r i b e w h a t i s s o s p e c i a l a b o u t i t .

e ) T h e a r r o w t h r o u g h

C 1 i n d i c a t e s t h a t i t s v a l u e c a n b e v a r i e d . S e l e c t t h e v a l u e f o r t h i s c a p a c i t o r t o

m a k e t h e s p e c i a l r e l a t i o n s h i p v a l i d . W h a t i s t h e i m p e d a n c e s e e n b y t h e c i r c u i t b e i n g m e a s u r e d f o r t h i s

s p e c i a l v a l u e ?

P r o b l e m 3 . 3 7 : A C i r c u i t P r o b l e m

Y o u a r e g i v e n t h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 7 9 ) .

1/3

2

1/6

+ – v

vin 4+

–

F i g u r e 3 . 7 9

a ) F i n d t h e d i e r e n t i a l e q u a t i o n r e l a t i n g t h e o u t p u t v o l t a g e t o t h e s o u r c e .

b ) W h a t i s t h e i m p e d a n c e s e e n b y t h e c a p a c i t o r ?

P r o b l e m 3 . 3 8 : A n a l o g C o m p u t e r s

B e c a u s e t h e d i e r e n t i a l e q u a t i o n s a r i s i n g i n c i r c u i t s r e s e m b l e t h o s e t h a t d e s c r i b e m e c h a n i c a l m o t i o n , w e

c a n u s e c i r c u i t m o d e l s t o d e s c r i b e m e c h a n i c a l s y s t e m s . A n E L E C 2 4 1 s t u d e n t w a n t s t o u n d e r s t a n d t h e

s u s p e n s i o n s y s t e m o n h i s c a r . W i t h o u t a s u s p e n s i o n , t h e c a r ' s b o d y m o v e s i n c o n c e r t w i t h t h e b u m p s i n t h e

r a o d . A w e l l - d e s i g n e d s u s p e n s i o n s y s t e m w i l l s m o o t h o u t b u m p y r o a d s , r e d u c i n g t h e c a r ' s v e r t i c a l m o t i o n .

I f t h e b u m p s a r e v e r y g r a d u a l ( t h i n k o f a h i l l a s a l a r g e b u t v e r y g r a d u a l b u m p ) , t h e c a r ' s v e r t i c a l m o t i o n

s h o u l d f o l l o w t h a t o f t h e r o a d . T h e s t u d e n t w a n t s t o n d a s i m p l e c i r c u i t t h a t w i l l m o d e l t h e c a r ' s m o t i o n .

H e i s t r y i n g t o d e c i d e b e t w e e n t w o c i r c u i t m o d e l s ( F i g u r e 3 . 8 0 ) .




1 0 7

+

–

+

vcar

1

vroad 1 1

–

+

–

+

vcar

1

vroad 1 1

–

F i g u r e 3 . 8 0

H e r e , r o a d a n d c a r d i s p l a c e m e n t s a r e r e p r e s e n t e d b y t h e v o l t a g e s vroad (t) a n d vcar (t) , r e s p e c t i v e l y .

a ) W h i c h c i r c u i t w o u l d y o u p i c k ? W h y ?

b ) F o r t h e c i r c u i t y o u p i c k e d , w h a t w i l l b e t h e a m p l i t u d e o f t h e c a r ' s m o t i o n i f t h e r o a d h a s a d i s p l a c e m e n t

g i v e n b y

vroad (t) = 1 + sin (2t)?

P r o b l e m 3 . 3 9 : T r a n s f e r F u n c t i o n s a n d C i r c u i t s

Y o u a r e g i v e n t h e d e p i c t e d n e t w o r k ( F i g u r e 3 . 8 1 ) .

+

–

+

–

vout

1/4

2vin 3/4

F i g u r e 3 . 8 1

a ) F i n d t h e t r a n s f e r f u n c t i o n b e t w e e n V in a n d V out .

b ) S k e t c h t h e m a g n i t u d e a n d p h a s e o f y o u r t r a n s f e r f u n c t i o n . L a b e l i m p o r t a n t f r e q u e n c y , a m p l i t u d e a n d

p h a s e v a l u e s .

c ) F i n d vout (t) w h e n vin (t) = sin t2 + π4

.

P r o b l e m 3 . 4 0 : F u n i n t h e L a b

Y o u a r e g i v e n a n u n o p e n a b l e b o x t h a t h a s t w o t e r m i n a l s s t i c k i n g o u t . Y o u a s s u m e t h e b o x c o n t a i n s a

c i r c u i t . Y o u m e a s u r e t h e v o l t a g e sin

t + π4

a c r o s s t h e t e r m i n a l s w h e n n o t h i n g i s c o n n e c t e d t o t h e m a n d

t h e c u r r e n t

√ 2cos(t) w h e n y o u p l a c e a w i r e a c r o s s t h e t e r m i n a l s .

a ) F i n d a c i r c u i t t h a t h a s t h e s e c h a r a c t e r i s t i c s .

b ) Y o u a t t a c h a 1 H i n d u c t o r a c r o s s t h e t e r m i n a l s . W h a t v o l t a g e d o y o u m e a s u r e ?




1 0 8


P r o b l e m 3 . 4 1 : D e p e n d e n t S o u r c e s

F i n d t h e v o l t a g e

vout i n e a c h o f t h e d e p i c t e d c i r c u i t s ( F i g u r e 3 . 8 2 ) .

iinR1 R2 RL

+

–

vout

βib

ib


–

++

– –61

1/3 3+

–

vout 3i

i


F i g u r e 3 . 8 2

P r o b l e m 3 . 4 2 : O p e r a t i o n a l A m p l i e r s

F i n d t h e t r a n s f e r f u n c t i o n b e t w e e n t h e s o u r c e v o l t a g e ( s ) a n d t h e i n d i c a t e d o u t p u t v o l t a g e f o r t h e c i r c u i t s

s h o w n i n F i g u r e 3 . 8 3 .




1 0 9

—

+

R1

R2

+

–

vin

+

–

vout

( a ) o p - a m p a

+

–

V(1)in

–

+

R1R2

R3

R4

Vout

+

– +

– V(2)in

( b ) o p - a m p b

–

+

+

– 10

5

5Vin Vout

+

–

( c ) o p - a m p c

–

+

vin

+

–

+

–

vout4

4

1

2

2

1

1

2

( d ) o p - a m p d

F i g u r e 3 . 8 3




1 1 0


P r o b l e m 3 . 4 3 : O p - A m p C i r c u i t

T h e f o l l o w i n g c i r c u i t ( F i g u r e 3 . 8 4 ) i s c l a i m e d t o s e r v e a u s e f u l p u r p o s e .

+

Vin

C

C

R

R

RL

Iout

F i g u r e 3 . 8 4

a ) W h a t i s t h e t r a n s f e r f u n c t i o n r e l a t i n g t h e c o m p l e x a m p l i t u d e o f t h e o u t p u t s i g n a l , t h e c u r r e n t I out , t o

t h e c o m p l e x a m p l i t u d e o f t h e i n p u t , t h e v o l t a g e

V in ?

b ) W h a t e q u i v a l e n t c i r c u i t d o e s t h e l o a d r e s i s t o r

RL s e e ?

c ) F i n d t h e o u t p u t c u r r e n t w h e n

vin = V 0e−tτ

.

P r o b l e m 3 . 4 4 : W h y O p - A m p s a r e U s e f u l

T h e c i r c u i t ( F i g u r e 3 . 8 5 ) o f a c a s c a d e o f o p - a m p c i r c u i t s i l l u s t r a t e t h e r e a s o n w h y o p - a m p r e a l i z a t i o n s o f

t r a n s f e r f u n c t i o n s a r e s o u s e f u l .

Z2

Z1

Z3

Z4

VinVout

+

–

+

–

+

– +

–

F i g u r e 3 . 8 5




1 1 1

a ) F i n d t h e t r a n s f e r f u n c t i o n r e l a t i n g t h e c o m p l e x a m p l i t u d e o f t h e v o l t a g e vout (t) t o t h e s o u r c e . S h o w

t h a t t h i s t r a n s f e r f u n c t i o n e q u a l s t h e p r o d u c t o f e a c h s t a g e ' s t r a n s f e r f u n c t i o n .

b ) W h a t i s t h e l o a d i m p e d a n c e a p p e a r i n g a c r o s s t h e r s t o p - a m p ' s o u t p u t ?

c ) F i g u r e 3 . 8 6 i l l u s t r a t e s t h a t s o m e t i m e s d e s i g n s c a n g o w r o n g . F i n d t h e t r a n s f e r f u n c t i o n f o r t h i s

o p - a m p c i r c u i t ( F i g u r e 3 . 8 6 ) , a n d t h e n s h o w t h a t i t c a n ' t w o r k ! W h y c a n ' t i t ?

–

+

vin

+

–

vout4.7 kΩ

1 kΩ 10 nF

1 µF

+

–

F i g u r e 3 . 8 6

P r o b l e m 3 . 4 5 : O p e r a t i o n a l A m p l i e r s

C o n s i d e r t h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 8 7 ) .

–

++

–

–

+

R1

R2

Vout

Vin

C1

R3

R4 C2

+

–

F i g u r e 3 . 8 7

a ) F i n d t h e t r a n s f e r f u n c t i o n r e l a t i n g t h e v o l t a g e vout (t) t o t h e s o u r c e .

b ) I n p a r t i c u l a r , R1 = 530Ω, C 1 = 1µF, R2 = 5.3kΩ, C 2 = 0.01µF, a n d R3 = R4 = 5.3kΩ. C h a r a c t e r i z e

t h e r e s u l t i n g t r a n s f e r f u n c t i o n a n d d e t e r m i n e w h a t u s e t h i s c i r c u i t m i g h t h a v e .




1 1 2


P r o b l e m 3 . 4 6 : D e s i g n i n g a B a n d p a s s F i l t e r

W e w a n t t o d e s i g n a b a n d p a s s l t e r t h a t h a s t r a n s f e r t h e f u n c t i o n

H (f ) = 10j2πf

j f f l

+ 1

j f f h

+ 1

H e r e , f l i s t h e c u t o f r e q u e n c y o f t h e l o w - f r e q u e n c y e d g e o f t h e p a s s b a n d a n d f h i s t h e c u t o f r e q u e n c y o f

t h e h i g h - f r e q u e n c y e d g e . W e w a n t f l = 1kHz a n d f h = 10kHz.

a ) P l o t t h e m a g n i t u d e a n d p h a s e o f t h i s f r e q u e n c y r e s p o n s e . L a b e l i m p o r t a n t a m p l i t u d e a n d p h a s e v a l u e s

a n d t h e f r e q u e n c i e s a t w h i c h t h e y o c c u r .

b ) D e s i g n a b a n d p a s s l t e r t h a t m e e t s t h e s e s p e c i c a t i o n s . S p e c i f y c o m p o n e n t v a l u e s .

P r o b l e m 3 . 4 7 : P r e - e m p h a s i s o r D e - e m p h a s i s ?

I n a u d i o a p p l i c a t i o n s , p r i o r t o a n a l o g - t o - d i g i t a l c o n v e r s i o n s i g n a l s a r e p a s s e d t h r o u g h w h a t i s k n o w n a s

a p r e - e m p h a s i s c i r c u i t t h a t l e a v e s t h e l o w f r e q u e n c i e s a l o n e b u t p r o v i d e s i n c r e a s i n g g a i n a t i n c r e a s i n g l y

h i g h e r f r e q u e n c i e s b e y o n d s o m e f r e q u e n c y

f 0 . D e - e m p h a s i s c i r c u i t s d o t h e o p p o s i t e a n d a r e a p p l i e d a f t e r

d i g i t a l - t o - a n a l o g c o n v e r s i o n . A f t e r p r e - e m p h a s i s , d i g i t i z a t i o n , c o n v e r s i o n b a c k t o a n a l o g a n d d e - e m p h a s i s ,

t h e s i g n a l ' s s p e c t r u m s h o u l d b e w h a t i t w a s .

T h e o p - a m p c i r c u i t h e r e ( F i g u r e 3 . 8 8 ) h a s b e e n d e s i g n e d f o r p r e - e m p h a s i s o r d e - e m p h a s i s ( S a m a n t h a

c a n ' t r e c a l l w h i c h ) .

C

R

+

–

–

+Vin

Vout

+

–

RF

R = 1 kΩ

RF = 1 kΩ

C = 80 nF

F i g u r e 3 . 8 8

a ) I s t h i s a p r e - e m p h a s i s o r d e - e m p h a s i s c i r c u i t ? F i n d t h e f r e q u e n c y f 0 t h a t d e n e s t h e t r a n s i t i o n f r o m

l o w t o h i g h f r e q u e n c i e s .

b ) W h a t i s t h e c i r c u i t ' s o u t p u t w h e n t h e i n p u t v o l t a g e i s sin(2πf t) , w i t h f = 4kHz ?

c ) W h a t c i r c u i t c o u l d p e r f o r m t h e o p p o s i t e f u n c t i o n t o y o u r a n s w e r f o r t h e r s t p a r t ?

P r o b l e m 3 . 4 8 : A c t i v e F i l t e r

F i n d t h e t r a n s f e r f u n c t i o n o f t h e d e p i c t e d a c t i v e l t e r ( F i g u r e 3 . 8 9 ) .




1 1 3

–

+

R2 C2Vin

+

–

R1

C1

R

R

–

+

R1

R2

–

+

Rf

Vout

F i g u r e 3 . 8 9

P r o b l e m 3 . 4 9 : T h i s i s a l t e r ?

Y o u a r e g i v e n a c i r c u i t ( F i g u r e 3 . 9 0 ) .

–

+

R1

R2

+

–

Vin

+

–

Vout

C

Rin

F i g u r e 3 . 9 0

a ) W h a t i s t h i s c i r c u i t ' s t r a n s f e r f u n c t i o n ? P l o t t h e m a g n i t u d e a n d p h a s e .

b ) I f t h e i n p u t s i g n a l i s t h e s i n u s o i d sin(2πf 0t) , w h a t w i l l t h e o u t p u t b e w h e n

f 0 i s l a r g e r t h a n t h e l t e r ' s

c u t o f r e q u e n c y ?

P r o b l e m 3 . 5 0 : O p t i c a l R e c e i v e r s

I n y o u r o p t i c a l t e l e p h o n e , t h e r e c e i v e r c i r c u i t h a d t h e f o r m s h o w n ( F i g u r e 3 . 9 1 ) .




1 1 4


–

+

Zf

Vout

F i g u r e 3 . 9 1

T h i s c i r c u i t s e r v e d a s a t r a n s d u c e r , c o n v e r t i n g l i g h t e n e r g y i n t o a v o l t a g e vout . T h e p h o t o d i o d e a c t s a s a

c u r r e n t s o u r c e , p r o d u c i n g a c u r r e n t p r o p o r t i o n a l t o t h e l i g h t i n t e s i t y f a l l i n g u p o n i t . A s i s o f t e n t h e c a s e i n

t h i s c r u c i a l s t a g e , t h e s i g n a l s a r e s m a l l a n d n o i s e c a n b e a p r o b l e m . T h u s , t h e o p - a m p s t a g e s e r v e s t o b o o s t

t h e s i g n a l a n d t o l t e r o u t - o f - b a n d n o i s e .

a ) F i n d t h e t r a n s f e r f u n c t i o n r e l a t i n g l i g h t i n t e n s i t y t o vout .

b ) W h a t s h o u l d t h e c i r c u i t r e a l i z i n g t h e f e e d b a c k i m p e d a n c e Z f b e s o t h a t t h e t r a n s d u c e r a c t s a s a 5 k H z

l o w p a s s l t e r ?

c ) A c l e v e r e n g i n e e r s u g g e s t s a n a l t e r n a t i v e c i r c u i t ( F i g u r e 3 . 9 2 ) t o a c c o m p l i s h t h e s a m e t a s k . D e t e r m i n e

w h e t h e r t h e i d e a w o r k s o r n o t . I f i t d o e s , n d t h e i m p e d a n c e

Z in t h a t a c c o m p l i s h e s t h e l o w p a s s l t e r i n g

t a s k . I f n o t , s h o w w h y i t d o e s n o t w o r k .

–

+

1Zin

Vout

F i g u r e 3 . 9 2

P r o b l e m 3 . 5 1 : R e v e r s e E n g i n e e r i n g

T h e d e p i c t e d c i r c u i t ( F i g u r e 3 . 9 3 ) h a s b e e n d e v e l o p e d b y t h e T B B G E l e c t r o n i c s d e s i g n g r o u p . T h e y a r e

t r y i n g t o k e e p i t s u s e s e c r e t ; w e , r e p r e s e n t i n g R U E l e c t r o n i c s , h a v e d i s c o v e r e d t h e s c h e m a t i c a n d w a n t t o

g u r e o u t t h e i n t e n d e d a p p l i c a t i o n . A s s u m e t h e d i o d e i s i d e a l .




1 1 5

+

–

–

+

R2

Vout

R1 C

+

–

Vin

R1= 1 kΩ

R2= 1 kΩ

C = 31.8 nF

F i g u r e 3 . 9 3

a ) A s s u m i n g t h e d i o d e i s a s h o r t - c i r c u i t ( i t h a s b e e n r e m o v e d f r o m t h e c i r c u i t ) , w h a t i s t h e c i r c u i t ' s

t r a n s f e r f u n c t i o n ?

b ) W i t h t h e d i o d e i n p l a c e , w h a t i s t h e c i r c u i t ' s o u t p u t w h e n t h e i n p u t v o l t a g e i s sin(2πf 0t) ?

c ) W h a t f u n c t i o n m i g h t t h i s c i r c u i t h a v e ?




1 1 6




O n e k i l o w a t t - h o u r e q u a l s 3 , 6 0 0 , 0 0 0 w a t t - s e c o n d s , w h i c h i n d e e d d i r e c t l y c o r r e s p o n d s t o 3 , 6 0 0 , 0 0 0 j o u l e s .


K C L s a y s t h a t t h e s u m o f c u r r e n t s e n t e r i n g o r l e a v i n g a n o d e m u s t b e z e r o . I f w e c o n s i d e r t w o n o d e s

t o g e t h e r a s a " s u p e r n o d e " , K C L a p p l i e s a s w e l l t o c u r r e n t s e n t e r i n g t h e c o m b i n a t i o n . S i n c e n o c u r r e n t s

e n t e r a n e n t i r e c i r c u i t , t h e s u m o f c u r r e n t s m u s t b e z e r o . I f w e h a d a t w o - n o d e c i r c u i t , t h e K C L e q u a t i o n o f

o n e m u s t b e t h e n e g a t i v e o f t h e o t h e r , W e c a n c o m b i n e a l l b u t o n e n o d e i n a c i r c u i t i n t o a s u p e r n o d e ; K C L

f o r t h e s u p e r n o d e m u s t b e t h e n e g a t i v e o f t h e r e m a i n i n g n o d e ' s K C L e q u a t i o n . C o n s e q u e n t l y , s p e c i f y i n g

n − 1 K C L e q u a t i o n s a l w a y s s p e c i e s t h e r e m a i n i n g o n e .


T h e c i r c u i t s e r v e s a s a n a m p l i e r h a v i n g a g a i n o f

R2

R1+R2.


T h e p o w e r c o n s u m e d b y t h e r e s i s t o r R1 c a n b e e x p r e s s e d a s

(vi n − v

o u t

) io u t

=

R1

(R1 + R2)2 vi n

2


1

R1 + R2v

i n

2 =R1

(R1 + R2)2

vi n

2 +R2

(R1 + R2)2

vi n

2


R e p l a c i n g t h e c u r r e n t s o u r c e b y a v o l t a g e s o u r c e d o e s n o t c h a n g e t h e f a c t t h a t t h e v o l t a g e s a r e i d e n t i c a l .

C o n s e q u e n t l y ,

vin = R2iout o r

iout = vinR2

. T h i s r e s u l t d o e s n o t d e p e n d o n t h e r e s i s t o r

R1 , w h i c h m e a n s t h a t

w e s i m p l y h a v e a r e s i s t o r ( R2 ) a c r o s s a v o l t a g e s o u r c e . T h e t w o - r e s i s t o r c i r c u i t h a s n o a p p a r e n t u s e .


Req = R2

1+R2RL

. T h u s , a 1 0 % c h a n g e m e a n s t h a t t h e r a t i o

R2

RLm u s t b e l e s s t h a n 0 . 1 . A 1 % c h a n g e m e a n s t h a t

R2RL

< 0.01.


I n a s e r i e s c o m b i n a t i o n o f r e s i s t o r s , t h e c u r r e n t i s t h e s a m e i n e a c h ; i n a p a r a l l e l c o m b i n a t i o n , t h e v o l t a g e

i s t h e s a m e . F o r a s e r i e s c o m b i n a t i o n , t h e e q u i v a l e n t r e s i s t a n c e i s t h e s u m o f t h e r e s i s t a n c e s , w h i c h w i l l b e

l a r g e r t h a n a n y c o m p o n e n t r e s i s t o r ' s v a l u e ; f o r a p a r a l l e l c o m b i n a t i o n , t h e e q u i v a l e n t c o n d u c t a n c e i s t h e s u m

o f t h e c o m p o n e n t c o n d u c t a n c e s , w h i c h i s l a r g e r t h a n a n y c o m p o n e n t c o n d u c t a n c e . T h e e q u i v a l e n t r e s i s t a n c e

i s t h e r e f o r e s m a l l e r t h a n a n y c o m p o n e n t r e s i s t a n c e .


voc = R2

R1+R2vin a n d isc = −vin

R1( r e s i s t o r R2 i s s h o r t e d o u t i n t h i s c a s e ) . T h u s , veq = R2

R1+R2vin a n d

Req = R1R2

R1+R2.


ieq = R1

R1+R2iin a n d

Req = R3 R1 + R2 .

S o l u t i o n t o E x e r c i s e 3 . 1 0 . 1 ( p . 6 3 )

D i v i s i o n b y j2πf a r i s e s f r o m i n t e g r a t i n g a c o m p l e x e x p o n e n t i a l . C o n s e q u e n t l y ,

1

j2πf V ⇔

V ej2πftdt


F o r m a x i m u m p o w e r d i s s i p a t i o n , t h e i m a g i n a r y p a r t o f c o m p l e x p o w e r s h o u l d b e z e r o . A s t h e c o m p l e x p o w e r

i s g i v e n b y

V I ∗ = |V ||I |ej(φ−θ) , z e r o i m a g i n a r y p a r t o c c u r s w h e n t h e p h a s e s o f t h e v o l t a g e a n d c u r r e n t s

a g r e e .




1 1 7


P a v e

= V r m s

I r m s

cos(φ − θ). T h e c o s i n e t e r m i s k n o w n a s t h e p o w e r f a c t o r .


T h e k e y n o t i o n i s w r i t i n g t h e i m a g i n a r y p a r t a s t h e d i e r e n c e b e t w e e n a c o m p l e x e x p o n e n t i a l a n d i t s

c o m p l e x c o n j u g a t e :

Im

V ej2πft

=V ej2πft − V ∗e−(j2πft)

2 j( 3 . 3 5 )

T h e r e s p o n s e t o

V ej2πfti s

V H (f ) ej2πft, w h i c h m e a n s t h e r e s p o n s e t o

V ∗e−(j2πft)i s

V ∗H (−f ) e−(j2πft).

A s

H (−f ) = H (f )∗

, t h e S u p e r p o s i t i o n P r i n c i p l e s a y s t h a t t h e o u t p u t t o t h e i m a g i n a r y p a r t i s

Im

V H (f ) ej2πft

. T h e s a m e a r g u m e n t h o l d s f o r t h e r e a l p a r t :

Re

V ej2πft → Re

V H (f ) ej2πft

.


T o n d t h e e q u i v a l e n t r e s i s t a n c e , w e n e e d t o n d t h e c u r r e n t o w i n g t h r o u g h t h e v o l t a g e s o u r c e . T h i s c u r r e n t

e q u a l s t h e c u r r e n t w e h a v e j u s t f o u n d p l u s t h e c u r r e n t o w i n g t h r o u g h t h e o t h e r v e r t i c a l 1 Ω r e s i s t o r . T h i s

c u r r e n t e q u a l s

e11 = 6

13vin , m a k i n g t h e t o t a l c u r r e n t t h r o u g h t h e v o l t a g e s o u r c e ( o w i n g o u t o f i t )

1113vin .

T h u s , t h e e q u i v a l e n t r e s i s t a n c e i s

1311Ω.


N o t n e c e s s a r i l y , e s p e c i a l l y i f w e d e s i r e i n d i v i d u a l k n o b s f o r a d j u s t i n g t h e g a i n a n d t h e c u t o f r e q u e n c y .


T h e r a t i o b e t w e e n a d j a c e n t v a l u e s i s a b o u t

√ 2.




1 1 8





C h a p t e r 4

F r e q u e n c y D o m a i n

4 . 1 I n t r o d u c t i o n t o t h e F r e q u e n c y D o m a i n

1

I n d e v e l o p i n g w a y s o f a n a l y z i n g l i n e a r c i r c u i t s , w e i n v e n t e d t h e i m p e d a n c e m e t h o d b e c a u s e i t m a d e s o l v i n g

c i r c u i t s e a s i e r . A l o n g t h e w a y , w e d e v e l o p e d t h e n o t i o n o f a c i r c u i t ' s f r e q u e n c y r e s p o n s e o r t r a n s f e r f u n c t i o n .

T h i s n o t i o n , w h i c h a l s o a p p l i e s t o a l l l i n e a r , t i m e - i n v a r i a n t s y s t e m s , d e s c r i b e s h o w t h e c i r c u i t r e s p o n d s t o a

s i n u s o i d a l i n p u t w h e n w e e x p r e s s i t i n t e r m s o f a c o m p l e x e x p o n e n t i a l . W e a l s o l e a r n e d t h e S u p e r p o s i t i o n

P r i n c i p l e f o r l i n e a r s y s t e m s : T h e s y s t e m ' s o u t p u t t o a n i n p u t c o n s i s t i n g o f a s u m o f t w o s i g n a l s i s t h e s u m

o f t h e s y s t e m ' s o u t p u t s t o e a c h i n d i v i d u a l c o m p o n e n t .

T h e s t u d y o f t h e f r e q u e n c y d o m a i n c o m b i n e s t h e s e t w o n o t i o n s a s y s t e m ' s s i n u s o i d a l r e s p o n s e i s e a s y t o

n d a n d a l i n e a r s y s t e m ' s o u t p u t t o a s u m o f i n p u t s i s t h e s u m o f t h e i n d i v i d u a l o u t p u t s t o d e v e l o p t h e

c r u c i a l i d e a o f a s i g n a l ' s s p e c t r u m . W e b e g i n b y n d i n g t h a t t h o s e s i g n a l s t h a t c a n b e r e p r e s e n t e d a s a

s u m o f s i n u s o i d s i s v e r y l a r g e . I n f a c t , a l l s i g n a l s c a n b e e x p r e s s e d a s a s u p e r p o s i t i o n o f s i n u s o i d s .

A s t h i s s t o r y u n f o l d s , w e ' l l s e e t h a t i n f o r m a t i o n s y s t e m s r e l y h e a v i l y o n s p e c t r a l i d e a s . F o r e x a m p l e ,

r a d i o , t e l e v i s i o n , a n d c e l l u l a r t e l e p h o n e s t r a n s m i t o v e r d i e r e n t p o r t i o n s o f t h e s p e c t r u m . I n f a c t , s p e c t r u m

i s s o i m p o r t a n t t h a t c o m m u n i c a t i o n s s y s t e m s a r e r e g u l a t e d a s t o w h i c h p o r t i o n s o f t h e s p e c t r u m t h e y c a n

u s e b y t h e F e d e r a l C o m m u n i c a t i o n s C o m m i s s i o n i n t h e U n i t e d S t a t e s a n d b y I n t e r n a t i o n a l T r e a t y f o r t h e

w o r l d ( s e e F r e q u e n c y A l l o c a t i o n s ( S e c t i o n 7 . 3 ) ) . C a l c u l a t i n g t h e s p e c t r u m i s e a s y : T h e F o u r i e r t r a n s f o r m

d e n e s h o w w e c a n n d a s i g n a l ' s s p e c t r u m .

4 . 2 C o m p l e x F o u r i e r S e r i e s

2

I n a n e a r l i e r m o d u l e ( E x e r c i s e 2 . 3 . 1 ) , w e s h o w e d t h a t a s q u a r e w a v e c o u l d b e e x p r e s s e d a s a s u p e r p o s i t i o n

o f p u l s e s . A s u s e f u l a s t h i s d e c o m p o s i t i o n w a s i n t h i s e x a m p l e , i t d o e s n o t g e n e r a l i z e w e l l t o o t h e r p e r i o d i c

s i g n a l s : H o w c a n a s u p e r p o s i t i o n o f p u l s e s e q u a l a s m o o t h s i g n a l l i k e a s i n u s o i d ? B e c a u s e o f t h e i m p o r t a n c e

o f s i n u s o i d s t o l i n e a r s y s t e m s , y o u m i g h t w o n d e r w h e t h e r t h e y c o u l d b e a d d e d t o g e t h e r t o r e p r e s e n t a l a r g e

n u m b e r o f p e r i o d i c s i g n a l s . Y o u w o u l d b e r i g h t a n d i n g o o d c o m p a n y a s w e l l . E u l e r

3

a n d G a u s s

4

i n p a r t i c u l a r

w o r r i e d a b o u t t h i s p r o b l e m , a n d J e a n B a p t i s t e F o u r i e r

5

g o t t h e c r e d i t e v e n t h o u g h t o u g h m a t h e m a t i c a l i s s u e s

w e r e n o t s e t t l e d u n t i l l a t e r . T h e y w o r k e d o n w h a t i s n o w k n o w n a s t h e F o u r i e r s e r i e s : r e p r e s e n t i n g a n y

p e r i o d i c s i g n a l a s a s u p e r p o s i t i o n o f s i n u s o i d s .

B u t t h e F o u r i e r s e r i e s g o e s w e l l b e y o n d b e i n g a n o t h e r s i g n a l d e c o m p o s i t i o n m e t h o d . R a t h e r , t h e F o u r i e r

s e r i e s b e g i n s o u r j o u r n e y t o a p p r e c i a t e h o w a s i g n a l c a n b e d e s c r i b e d i n e i t h e r t h e t i m e - d o m a i n o r t h e

1


2


3


∼h i s t o r y / M a t h e m a t i c i a n s / E u l e r . h t m l

4


∼h i s t o r y / M a t h e m a t i c i a n s / G u a s s . h t m l

5


∼h i s t o r y / M a t h e m a t i c i a n s / F o u r i e r . h t m l


1 1 9



1 2 0 C H A P T E R 4 . F R E Q U E N C Y D O M A I N

f r e q u e n c y - d o m a i n w i t h n o c o m p r o m i s e . L e t s (t) b e a p e r i o d i c s i g n a l w i t h p e r i o d T . W e w a n t t o s h o w

t h a t p e r i o d i c s i g n a l s , e v e n t h o s e t h a t h a v e c o n s t a n t - v a l u e d s e g m e n t s l i k e a s q u a r e w a v e , c a n b e e x p r e s s e d

a s s u m o f h a r m o n i c a l l y r e l a t e d s i n e w a v e s : s i n u s o i d s h a v i n g f r e q u e n c i e s t h a t a r e i n t e g e r m u l t i p l e s o f

t h e f u n d a m e n t a l f r e q u e n c y . B e c a u s e t h e s i g n a l h a s p e r i o d

T , t h e f u n d a m e n t a l f r e q u e n c y i s

1

T

. T h e

c o m p l e x F o u r i e r s e r i e s e x p r e s s e s t h e s i g n a l a s a s u p e r p o s i t i o n o f c o m p l e x e x p o n e n t i a l s h a v i n g f r e q u e n c i e s

kT ,

k = . . . , −1, 0, 1, . . . .

s (t) =

∞k=−∞

ckej2πkt

T ( 4 . 1 )

w i t h ck = 12 (ak − jbk) . T h e r e a l a n d i m a g i n a r y p a r t s o f t h e F o u r i e r c o e c i e n t s ck a r e w r i t t e n i n t h i s

u n u s u a l w a y f o r c o n v e n i e n c e i n d e n i n g t h e c l a s s i c F o u r i e r s e r i e s . T h e z e r o t h c o e c i e n t e q u a l s t h e s i g n a l ' s

a v e r a g e v a l u e a n d i s r e a l - v a l u e d f o r r e a l - v a l u e d s i g n a l s : c0 = a0 . T h e f a m i l y o f f u n c t i o n s

ej

2πktT

a r e c a l l e d

b a s i s f u n c t i o n s a n d f o r m t h e f o u n d a t i o n o f t h e F o u r i e r s e r i e s . N o m a t t e r w h a t t h e p e r i o d i c s i g n a l m i g h t

b e , t h e s e f u n c t i o n s a r e a l w a y s p r e s e n t a n d f o r m t h e r e p r e s e n t a t i o n ' s b u i l d i n g b l o c k s . T h e y d e p e n d o n t h e

s i g n a l p e r i o d T , a n d a r e i n d e x e d b y k .

K e y p o i n t : A s s u m i n g w e k n o w t h e p e r i o d , k n o w i n g t h e F o u r i e r c o e c i e n t s i s e q u i v a l e n t t o

k n o w i n g t h e s i g n a l . T h u s , i t m a k e s n o t d i e r e n c e i f w e h a v e a t i m e - d o m a i n o r a f r e q u e n c y - d o m a i n

c h a r a c t e r i z a t i o n o f t h e s i g n a l .

E x e r c i s e 4 . 2 . 1

( S o l u t i o n o n p . 1 6 7 . )

W h a t i s t h e c o m p l e x F o u r i e r s e r i e s f o r a s i n u s o i d ?

T o n d t h e F o u r i e r c o e c i e n t s , w e n o t e t h e o r t h o g o n a l i t y p r o p e r t y

T 0

ej2πkt

T e(−j)2πlt

T dt =

T

i f

k = l

0 i f k = l( 4 . 2 )

A s s u m i n g f o r t h e m o m e n t t h a t t h e c o m p l e x F o u r i e r s e r i e s " w o r k s , " w e c a n n d a s i g n a l ' s c o m p l e x F o u r i e r

c o e c i e n t s , i t s s p e c t r u m , b y e x p l o i t i n g t h e o r t h o g o n a l i t y p r o p e r t i e s o f h a r m o n i c a l l y r e l a t e d c o m p l e x e x p o -

n e n t i a l s . S i m p l y m u l t i p l y e a c h s i d e o f ( 4 . 1 ) b y e−(j2πlt) a n d i n t e g r a t e o v e r t h e i n t e r v a l [0, T ].

ck = 1T

T 0

s (t) e−(j 2πktT )dt

c0 = 1T

T 0

s (t) dt( 4 . 3 )

E x a m p l e 4 . 1

F i n d i n g t h e F o u r i e r s e r i e s c o e c i e n t s f o r t h e s q u a r e w a v e sqT (t) i s v e r y s i m p l e . M a t h e m a t i c a l l y ,

t h i s s i g n a l c a n b e e x p r e s s e d a s

sqT (t) =

1 i f 0 < t < T 2

−1 i f

T 2

< t < T

T h e e x p r e s s i o n f o r t h e F o u r i e r c o e c i e n t s h a s t h e f o r m

ck =1

T

T 2

0

e−(j 2πktT )dt − 1

T

T T 2

e−(j 2πktT )dt ( 4 . 4 )

n o t e : W h e n i n t e g r a t i n g a n e x p r e s s i o n c o n t a i n i n g j , t r e a t i t j u s t l i k e a n y o t h e r c o n s t a n t .




1 2 1

T h e t w o i n t e g r a l s a r e v e r y s i m i l a r , o n e e q u a l i n g t h e n e g a t i v e o f t h e o t h e r . T h e n a l e x p r e s s i o n

b e c o m e s

bk = −2j2πk

(−1)k − 1

=

2jπk i f k o d d

0 i f k e v e n

( 4 . 5 )

T h u s , t h e c o m p l e x F o u r i e r s e r i e s f o r t h e s q u a r e w a v e i s

sq (t) =

k∈...,−3,−1,1,3,...

2

jπke(j)

2πktT

( 4 . 6 )

C o n s e q u e n t l y , t h e s q u a r e w a v e e q u a l s a s u m o f c o m p l e x e x p o n e n t i a l s , b u t o n l y t h o s e h a v i n g

f r e q u e n c i e s e q u a l t o o d d m u l t i p l e s o f t h e f u n d a m e n t a l f r e q u e n c y

1T

. T h e c o e c i e n t s d e c a y s l o w l y

a s t h e f r e q u e n c y i n d e x k i n c r e a s e s . T h i s i n d e x c o r r e s p o n d s t o t h e k - t h h a r m o n i c o f t h e s i g n a l ' s

p e r i o d .

A s i g n a l ' s F o u r i e r s e r i e s s p e c t r u m ck

h a s i n t e r e s t i n g p r o p e r t i e s .

P r o p e r t y 4 . 1 :

I f

s (t) i s r e a l ,

ck = c−k∗ ( r e a l - v a l u e d p e r i o d i c s i g n a l s h a v e c o n j u g a t e - s y m m e t r i c s p e c t r a ) .

T h i s r e s u l t f o l l o w s f r o m t h e i n t e g r a l t h a t c a l c u l a t e s t h e ck f r o m t h e s i g n a l . F u r t h e r m o r e , t h i s r e s u l t m e a n s

t h a t Re (ck) = Re (c−k) : T h e r e a l p a r t o f t h e F o u r i e r c o e c i e n t s f o r r e a l - v a l u e d s i g n a l s i s e v e n . S i m i l a r l y ,

Im (ck) = −Im (c−k) : T h e i m a g i n a r y p a r t s o f t h e F o u r i e r c o e c i e n t s h a v e o d d s y m m e t r y . C o n s e q u e n t l y , i f

y o u a r e g i v e n t h e F o u r i e r c o e c i e n t s f o r p o s i t i v e i n d i c e s a n d z e r o a n d a r e t o l d t h e s i g n a l i s r e a l - v a l u e d , y o u

c a n n d t h e n e g a t i v e - i n d e x e d c o e c i e n t s , h e n c e t h e e n t i r e s p e c t r u m . T h i s k i n d o f s y m m e t r y , ck = c−k∗ , i s

k n o w n a s c o n j u g a t e s y m m e t r y .

P r o p e r t y 4 . 2 :

I f

s (−t) = s (t) , w h i c h s a y s t h e s i g n a l h a s e v e n s y m m e t r y a b o u t t h e o r i g i n ,

c−k = ck .

G i v e n t h e p r e v i o u s p r o p e r t y f o r r e a l - v a l u e d s i g n a l s , t h e F o u r i e r c o e c i e n t s o f e v e n s i g n a l s a r e r e a l - v a l u e d .

A r e a l - v a l u e d F o u r i e r e x p a n s i o n a m o u n t s t o a n e x p a n s i o n i n t e r m s o f o n l y c o s i n e s , w h i c h i s t h e s i m p l e s t

e x a m p l e o f a n e v e n s i g n a l .

P r o p e r t y 4 . 3 :

I f s (−t) = −s (t) , w h i c h s a y s t h e s i g n a l h a s o d d s y m m e t r y , c−k = −ck .

T h e r e f o r e , t h e F o u r i e r c o e c i e n t s a r e p u r e l y i m a g i n a r y . T h e s q u a r e w a v e i s a g r e a t e x a m p l e o f a n

o d d - s y m m e t r i c s i g n a l .

P r o p e r t y 4 . 4 :

T h e s p e c t r a l c o e c i e n t s f o r a p e r i o d i c s i g n a l d e l a y e d b y τ , s (t − τ ) , a r e cke−j2πkτ

T , w h e r e ck d e n o t e s

t h e s p e c t r u m o f s (t) . D e l a y i n g a s i g n a l b y τ s e c o n d s r e s u l t s i n a s p e c t r u m h a v i n g a l i n e a r p h a s e

s h i f t o f −2πkτ T i n c o m p a r i s o n t o t h e s p e c t r u m o f t h e u n d e l a y e d s i g n a l . N o t e t h a t t h e s p e c t r a l

m a g n i t u d e i s u n a e c t e d . S h o w i n g t h i s p r o p e r t y i s e a s y .

P r o o f :

1T

T 0

s (t − τ ) e(−j)2πkt

T dt = 1T

T −τ −τ s (t) e(−j)

2πk(t+τ )T dt

= 1T e

(−j) 2πkτ T

T −τ −τ s (t) e(−j)

2πktT dt

( 4 . 7 )

N o t e t h a t t h e r a n g e o f i n t e g r a t i o n e x t e n d s o v e r a p e r i o d o f t h e i n t e g r a n d . C o n s e q u e n t l y , i t s h o u l d

n o t m a t t e r h o w w e i n t e g r a t e o v e r a p e r i o d , w h i c h m e a n s t h a t

T −τ −τ (·) dt =

T 0 (·) dt, a n d w e h a v e

o u r r e s u l t .





T h e c o m p l e x F o u r i e r s e r i e s o b e y s P a r s e v a l ' s T h e o r e m , o n e o f t h e m o s t i m p o r t a n t r e s u l t s i n s i g n a l

a n a l y s i s . T h i s g e n e r a l m a t h e m a t i c a l r e s u l t s a y s y o u c a n c a l c u l a t e a s i g n a l ' s p o w e r i n e i t h e r t h e t i m e d o m a i n

o r t h e f r e q u e n c y d o m a i n .

T h e o r e m 4 . 1 : P a r s e v a l ' s T h e o r e m

A v e r a g e p o w e r c a l c u l a t e d i n t h e t i m e d o m a i n e q u a l s t h e p o w e r c a l c u l a t e d i n t h e f r e q u e n c y d o m a i n .

1

T

T 0

s2 (t) dt =∞

k=−∞(|ck|)2 ( 4 . 8 )

T h i s r e s u l t i s a ( s i m p l e r ) r e - e x p r e s s i o n o f h o w t o c a l c u l a t e a s i g n a l ' s p o w e r t h a n w i t h t h e r e a l - v a l u e d

F o u r i e r s e r i e s e x p r e s s i o n f o r p o w e r .

L e t ' s c a l c u l a t e t h e F o u r i e r c o e c i e n t s o f t h e p e r i o d i c p u l s e s i g n a l s h o w n h e r e ( F i g u r e 4 . 1 ) .

∆

T

∆

t

p(t)A

……

F i g u r e 4 . 1 : P e r i o d i c p u l s e s i g n a l .

T h e p u l s e w i d t h i s ∆, t h e p e r i o d T , a n d t h e a m p l i t u d e A. T h e c o m p l e x F o u r i e r s p e c t r u m o f t h i s s i g n a l

i s g i v e n b y

ck = 1T

∆0

Ae−j2πkt

T dt = − A j2πk

e−

j2πk∆T − 1

A t t h i s p o i n t , s i m p l i f y i n g t h i s e x p r e s s i o n r e q u i r e s k n o w i n g a n i n t e r e s t i n g p r o p e r t y .

1 − e−(jθ) = e−jθ2

e

jθ2 − e−

jθ2

= e−

jθ2 2 jsin

θ

2

A r m e d w i t h t h i s r e s u l t , w e c a n s i m p l y e x p r e s s t h e F o u r i e r s e r i e s c o e c i e n t s f o r o u r p u l s e s e q u e n c e .

ck = Ae−jπk∆

T sin

πk∆T

πk

( 4 . 9 )

B e c a u s e t h i s s i g n a l i s r e a l - v a l u e d , w e n d t h a t t h e c o e c i e n t s d o i n d e e d h a v e c o n j u g a t e s y m m e t r y : ck =

c−k∗ . T h e p e r i o d i c p u l s e s i g n a l h a s n e i t h e r e v e n n o r o d d s y m m e t r y ; c o n s e q u e n t l y , n o a d d i t i o n a l s y m m e t r y

e x i s t s i n t h e s p e c t r u m . B e c a u s e t h e s p e c t r u m i s c o m p l e x v a l u e d , t o p l o t i t w e n e e d t o c a l c u l a t e i t s m a g n i t u d e

a n d p h a s e .

|ck| = A|sinπk∆T

πk

| ( 4 . 1 0 )

∠ (ck) = −πk∆

T + πneg

sin

πk∆T

πk

sign(k)




1 2 3

T h e f u n c t i o n neg(·) e q u a l s - 1 i f i t s a r g u m e n t i s n e g a t i v e a n d z e r o o t h e r w i s e . T h e s o m e w h a t c o m p l i c a t e d

e x p r e s s i o n f o r t h e p h a s e r e s u l t s b e c a u s e t h e s i n e t e r m c a n b e n e g a t i v e ; m a g n i t u d e s m u s t b e p o s i t i v e , l e a v i n g

t h e o c c a s i o n a l n e g a t i v e v a l u e s t o b e a c c o u n t e d f o r a s a p h a s e s h i f t o f

π.

P e r i o d i c P u l s e S e q u e n c e

F i g u r e 4 . 2 : T h e m a g n i t u d e a n d p h a s e o f t h e p e r i o d i c p u l s e s e q u e n c e ' s s p e c t r u m i s s h o w n f o r p o s i t i v e -

f r e q u e n c y i n d i c e s . H e r e

∆

T = 0.2a n d

A = 1.

A l s o n o t e t h e p r e s e n c e o f a l i n e a r p h a s e t e r m ( t h e r s t t e r m i n ∠ (ck) i s p r o p o r t i o n a l t o f r e q u e n c y

kT ) .

C o m p a r i n g t h i s t e r m w i t h t h a t p r e d i c t e d f r o m d e l a y i n g a s i g n a l , a d e l a y o f

∆2

i s p r e s e n t i n o u r s i g n a l .

A d v a n c i n g t h e s i g n a l b y t h i s a m o u n t c e n t e r s t h e p u l s e a b o u t t h e o r i g i n , l e a v i n g a n e v e n s i g n a l , w h i c h i n

t u r n m e a n s t h a t i t s s p e c t r u m i s r e a l - v a l u e d . T h u s , o u r c a l c u l a t e d s p e c t r u m i s c o n s i s t e n t w i t h t h e p r o p e r t i e s

o f t h e F o u r i e r s p e c t r u m .

E x e r c i s e 4 . 2 . 2

( S o l u t i o n o n p . 1 6 7 . )

W h a t i s t h e v a l u e o f c0 ? R e c a l l i n g t h a t t h i s s p e c t r a l c o e c i e n t c o r r e s p o n d s t o t h e s i g n a l ' s a v e r a g e

v a l u e , d o e s y o u r a n s w e r m a k e s e n s e ?

T h e p h a s e p l o t s h o w n i n F i g u r e 4 . 2 ( P e r i o d i c P u l s e S e q u e n c e ) r e q u i r e s s o m e e x p l a n a t i o n a s i t d o e s n o t s e e m

t o a g r e e w i t h w h a t ( 4 . 1 0 ) s u g g e s t s . T h e r e , t h e p h a s e h a s a l i n e a r c o m p o n e n t , w i t h a j u m p o f π e v e r y t i m e

t h e s i n u s o i d a l t e r m c h a n g e s s i g n . W e m u s t r e a l i z e t h a t a n y i n t e g e r m u l t i p l e o f 2π c a n b e a d d e d t o a p h a s e

a t e a c h f r e q u e n c y w i t h o u t a e c t i n g t h e v a l u e o f t h e c o m p l e x s p e c t r u m . W e s e e t h a t a t f r e q u e n c y i n d e x 4

t h e p h a s e i s n e a r l y −π. T h e p h a s e a t i n d e x 5 i s u n d e n e d b e c a u s e t h e m a g n i t u d e i s z e r o i n t h i s e x a m p l e . A t

i n d e x 6 , t h e f o r m u l a s u g g e s t s t h a t t h e p h a s e o f t h e l i n e a r t e r m s h o u l d b e l e s s t h a n ( m o r e n e g a t i v e ) t h a n −π.

I n a d d i t i o n , w e e x p e c t a s h i f t o f −π i n t h e p h a s e b e t w e e n i n d i c e s 4 a n d 6 . T h u s , t h e p h a s e v a l u e p r e d i c t e d b y

t h e f o r m u l a i s a l i t t l e l e s s t h a n − (2π) . B e c a u s e w e c a n a d d 2π w i t h o u t a e c t i n g t h e v a l u e o f t h e s p e c t r u m

a t i n d e x 6 , t h e r e s u l t i s a s l i g h t l y n e g a t i v e n u m b e r a s s h o w n . T h u s , t h e f o r m u l a a n d t h e p l o t d o a g r e e . I n





p h a s e c a l c u l a t i o n s l i k e t h o s e m a d e i n M A T L A B , v a l u e s a r e u s u a l l y c o n n e d t o t h e r a n g e [−π, π) b y a d d i n g

s o m e ( p o s s i b l y n e g a t i v e ) m u l t i p l e o f 2πt o e a c h p h a s e v a l u e .

4 . 3 C l a s s i c F o u r i e r S e r i e s

6

T h e c l a s s i c F o u r i e r s e r i e s a s d e r i v e d o r i g i n a l l y e x p r e s s e d a p e r i o d i c s i g n a l ( p e r i o d T ) i n t e r m s o f h a r m o n i c a l l y

r e l a t e d s i n e s a n d c o s i n e s .

s (t) = a0 +

∞k=1

akcos

2πkt

T

+

∞k=1

bksin

2πkt

T

( 4 . 1 1 )

T h e c o m p l e x F o u r i e r s e r i e s a n d t h e s i n e - c o s i n e s e r i e s a r e i d e n t i c a l , e a c h r e p r e s e n t i n g a s i g n a l ' s

s p e c t r u m . T h e F o u r i e r c o e c i e n t s , ak a n d bk , e x p r e s s t h e r e a l a n d i m a g i n a r y p a r t s r e s p e c t i v e l y o f t h e

s p e c t r u m w h i l e t h e c o e c i e n t s ck o f t h e c o m p l e x F o u r i e r s e r i e s e x p r e s s t h e s p e c t r u m a s a m a g n i t u d e a n d

p h a s e . E q u a t i n g t h e c l a s s i c F o u r i e r s e r i e s ( 4 . 1 1 ) t o t h e c o m p l e x F o u r i e r s e r i e s ( 4 . 1 ) , a n e x t r a f a c t o r o f t w o

a n d c o m p l e x c o n j u g a t e b e c o m e n e c e s s a r y t o r e l a t e t h e F o u r i e r c o e c i e n t s i n e a c h .

ck =1

2(ak − jbk)

E x e r c i s e 4 . 3 . 1

( S o l u t i o n o n p . 1 6 7 . )

D e r i v e t h i s r e l a t i o n s h i p b e t w e e n t h e c o e c i e n t s o f t h e t w o F o u r i e r s e r i e s .

J u s t a s w i t h t h e c o m p l e x F o u r i e r s e r i e s , w e c a n n d t h e F o u r i e r c o e c i e n t s u s i n g t h e o r t h o g o n a l i t y

p r o p e r t i e s o f s i n u s o i d s . N o t e t h a t t h e c o s i n e a n d s i n e o f h a r m o n i c a l l y r e l a t e d f r e q u e n c i e s , e v e n t h e s a m e

f r e q u e n c y , a r e o r t h o g o n a l . T 0

sin

2πkt

T

cos

2πlt

T

dt = 0 , k ∈ Z l ∈ Z ( 4 . 1 2 )

T 0

sin

2πkt

T

sin

2πlt

T

dt =

T 2 i f (k = l) and (k = 0) and (l = 0)

0 i f (k = l) or (k = 0 = l)

T 0

cos

2πkt

T

cos

2πlt

T

dt =

T 2 i f (k = l) and (k = 0) and (l = 0)

T i f k = 0 = l

0 i f

k = l

T h e s e o r t h o g o n a l i t y r e l a t i o n s f o l l o w f r o m t h e f o l l o w i n g i m p o r t a n t t r i g o n o m e t r i c i d e n t i t i e s .

sin(α)sin(β ) = 12 (cos (α − β ) − cos(α + β ))

cos(α)cos(β ) =1

2 (cos(α + β ) + cos (α − β ))sin(α)cos(β ) = 1

2 (sin(α + β ) + sin (α − β ))

( 4 . 1 3 )

T h e s e i d e n t i t i e s a l l o w y o u t o s u b s t i t u t e a s u m o f s i n e s a n d / o r c o s i n e s f o r a p r o d u c t o f t h e m . E a c h t e r m i n

t h e s u m c a n b e i n t e g r a t i n g b y n o t i c i n g o n e o f t w o i m p o r t a n t p r o p e r t i e s o f s i n u s o i d s .

• T h e i n t e g r a l o f a s i n u s o i d o v e r a n i n t e g e r n u m b e r o f p e r i o d s e q u a l s z e r o .

• T h e i n t e g r a l o f t h e s q u a r e o f a u n i t - a m p l i t u d e s i n u s o i d o v e r a p e r i o d T e q u a l s

T 2

.

6





1 2 5

T o u s e t h e s e , l e t ' s , f o r e x a m p l e , m u l t i p l y t h e F o u r i e r s e r i e s f o r a s i g n a l b y t h e c o s i n e o f t h e l t h

h a r m o n i c

cos2πltT

a n d i n t e g r a t e . T h e i d e a i s t h a t , b e c a u s e i n t e g r a t i o n i s l i n e a r , t h e i n t e g r a t i o n w i l l s i f t o u t a l l b u t

t h e t e r m i n v o l v i n g

al .

T 0s (t)cos 2πlt

T dt = T

0a0cos 2πlt

T dt + ∞

k=1 ak T

0cos 2πkt

T cos 2πlt

T dt +

∞

k=1 bk

T 0

sin

2πktT

cos

2πltT

dt

( 4 . 1 4 )

T h e r s t a n d t h i r d t e r m s a r e z e r o ; i n t h e s e c o n d , t h e o n l y n o n - z e r o t e r m i n t h e s u m r e s u l t s w h e n t h e

i n d i c e s k a n d l a r e e q u a l ( b u t n o t z e r o ) , i n w h i c h c a s e w e o b t a i n

alT 2 . I f k = 0 = l , w e o b t a i n a0T .


al =2

T

T 0

s (t)cos

2πlt

T

dt , l = 0

A l l o f t h e F o u r i e r c o e c i e n t s c a n b e f o u n d s i m i l a r l y .

a0 = 1T

T

0s (t) dt

ak = 2T T 0 s (t)cos 2πktT

dt , k = 0

bk = 2T

T 0

s (t)sin2πktT

dt

( 4 . 1 5 )

E x e r c i s e 4 . 3 . 2

( S o l u t i o n o n p . 1 6 7 . )

T h e e x p r e s s i o n f o r

a0 i s r e f e r r e d t o a s t h e a v e r a g e v a l u e o f

s (t) . W h y ?

E x e r c i s e 4 . 3 . 3

( S o l u t i o n o n p . 1 6 7 . )

W h a t i s t h e F o u r i e r s e r i e s f o r a u n i t - a m p l i t u d e s q u a r e w a v e ?

E x a m p l e 4 . 2

L e t ' s n d t h e F o u r i e r s e r i e s r e p r e s e n t a t i o n f o r t h e h a l f - w a v e r e c t i e d s i n u s o i d .

s (t) = sin 2πtT i f 0 ≤ t < T

2

0 i f

T 2 ≤ t < T

( 4 . 1 6 )

B e g i n w i t h t h e s i n e t e r m s i n t h e s e r i e s ; t o n d bk w e m u s t c a l c u l a t e t h e i n t e g r a l

bk =2

T

T 2

0

sin

2πt

T

sin

2πkt

T

dt

( 4 . 1 7 )

U s i n g o u r t r i g o n o m e t r i c i d e n t i t i e s t u r n s o u r i n t e g r a l o f a p r o d u c t o f s i n u s o i d s i n t o a s u m o f i n t e g r a l s

o f i n d i v i d u a l s i n u s o i d s , w h i c h a r e m u c h e a s i e r t o e v a l u a t e .

T 2

0 sin2πtT

sin

2πktT

dt = 1

2

T 2

0 cos2π(k−1)t

T

− cos

2π(k+1)t

T

dt

= 12 i f k = 1

0 o t h e r w i s e

( 4 . 1 8 )

T h u s ,

b1 =1

2

b2 = b3 = · · · = 0





O n t o t h e c o s i n e t e r m s . T h e a v e r a g e v a l u e , w h i c h c o r r e s p o n d s t o a0 , e q u a l s

1π . T h e r e m a i n d e r

o f t h e c o s i n e c o e c i e n t s a r e e a s y t o n d , b u t y i e l d t h e c o m p l i c a t e d r e s u l t

ak = − 2π

1k2

−1 i f k

∈ 2, 4, . . .

0 i f k o d d

( 4 . 1 9 )

T h u s , t h e F o u r i e r s e r i e s f o r t h e h a l f - w a v e r e c t i e d s i n u s o i d h a s n o n - z e r o t e r m s f o r t h e a v e r a g e ,

t h e f u n d a m e n t a l , a n d t h e e v e n h a r m o n i c s .

4 . 4 A S i g n a l ' s S p e c t r u m

7

A p e r i o d i c s i g n a l , s u c h a s t h e h a l f - w a v e r e c t i e d s i n u s o i d , c o n s i s t s o f a s u m o f e l e m e n t a l s i n u s o i d s . A p l o t

o f t h e F o u r i e r c o e c i e n t s a s a f u n c t i o n o f t h e f r e q u e n c y i n d e x , s u c h a s s h o w n i n F i g u r e 4 . 3 ( F o u r i e r S e r i e s

s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n e w a v e ) , d i s p l a y s t h e s i g n a l ' s s p e c t r u m . T h e w o r d " s p e c t r u m " i m p l i e s

t h a t t h e i n d e p e n d e n t v a r i a b l e , h e r e k , c o r r e s p o n d s s o m e h o w t o f r e q u e n c y . E a c h c o e c i e n t i s d i r e c t l y r e l a t e d

t o a s i n u s o i d h a v i n g a f r e q u e n c y o f

kT . T h u s , i f w e h a l f - w a v e r e c t i e d a 1 k H z s i n u s o i d , k = 1 c o r r e s p o n d s

t o 1 k H z , k = 2 t o 2 k H z , e t c .

F o u r i e r S e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n e w a v e

k

ak

-0.5

0

0.5

bk

0 2 4 6 8 10

0

0.5

k

F i g u r e 4 . 3 : T h e F o u r i e r s e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n u s o i d i s s h o w n . T h e i n d e x i n d i c a t e s

t h e m u l t i p l e o f t h e f u n d a m e n t a l f r e q u e n c y a t w h i c h t h e s i g n a l h a s e n e r g y .

A s u b t l e , b u t v e r y i m p o r t a n t , a s p e c t o f t h e F o u r i e r s p e c t r u m i s i t s u n i q u e n e s s : Y o u c a n u n a m b i g u o u s l y

n d t h e s p e c t r u m f r o m t h e s i g n a l ( d e c o m p o s i t i o n ( 4 . 1 5 ) ) a n d t h e s i g n a l f r o m t h e s p e c t r u m ( c o m p o s i t i o n ) .

T h u s , a n y a s p e c t o f t h e s i g n a l c a n b e f o u n d f r o m t h e s p e c t r u m a n d v i c e v e r s a . A s i g n a l ' s f r e q u e n c y

d o m a i n e x p r e s s i o n i s i t s s p e c t r u m . A p e r i o d i c s i g n a l c a n b e d e n e d e i t h e r i n t h e t i m e d o m a i n ( a s a

f u n c t i o n ) o r i n t h e f r e q u e n c y d o m a i n ( a s a s p e c t r u m ) .

7





1 2 7

A f u n d a m e n t a l a s p e c t o f s o l v i n g e l e c t r i c a l e n g i n e e r i n g p r o b l e m s i s w h e t h e r t h e t i m e o r f r e q u e n c y d o m a i n

p r o v i d e s t h e m o s t u n d e r s t a n d i n g o f a s i g n a l ' s p r o p e r t i e s a n d t h e s i m p l e s t w a y o f m a n i p u l a t i n g i t . T h e

u n i q u e n e s s p r o p e r t y s a y s t h a t e i t h e r d o m a i n c a n p r o v i d e t h e r i g h t a n s w e r . A s a s i m p l e e x a m p l e , s u p p o s e

w e w a n t t o k n o w t h e ( p e r i o d i c ) s i g n a l ' s m a x i m u m v a l u e . C l e a r l y t h e t i m e d o m a i n p r o v i d e s t h e a n s w e r

d i r e c t l y . T o u s e a f r e q u e n c y d o m a i n a p p r o a c h w o u l d r e q u i r e u s t o n d t h e s p e c t r u m , f o r m t h e s i g n a l f r o m

t h e s p e c t r u m a n d c a l c u l a t e t h e m a x i m u m ; w e ' r e b a c k i n t h e t i m e d o m a i n !

A n o t h e r f e a t u r e o f a s i g n a l i s i t s a v e r a g e p o w e r . A s i g n a l ' s i n s t a n t a n e o u s p o w e r i s d e n e d t o b e i t s

s q u a r e . T h e a v e r a g e p o w e r i s t h e a v e r a g e o f t h e i n s t a n t a n e o u s p o w e r o v e r s o m e t i m e i n t e r v a l . F o r a p e r i o d i c

s i g n a l , t h e n a t u r a l t i m e i n t e r v a l i s c l e a r l y i t s p e r i o d ; f o r n o n p e r i o d i c s i g n a l s , a b e t t e r c h o i c e w o u l d b e e n t i r e

t i m e o r t i m e f r o m o n s e t . F o r a p e r i o d i c s i g n a l , t h e a v e r a g e p o w e r i s t h e s q u a r e o f i t s r o o t - m e a n - s q u a r e d

( r m s ) v a l u e . W e d e n e t h e r m s v a l u e o f a p e r i o d i c s i g n a l t o b e

rms(s) =

1

T

T 0

s2 (t) dt( 4 . 2 0 )

a n d t h u s i t s a v e r a g e p o w e r i s

power (s) = rms2 (s)= 1

T

T 0

s2 (t) dt( 4 . 2 1 )

E x e r c i s e 4 . 4 . 1

( S o l u t i o n o n p . 1 6 7 . )

W h a t i s t h e r m s v a l u e o f t h e h a l f - w a v e r e c t i e d s i n u s o i d ?

T o n d t h e a v e r a g e p o w e r i n t h e f r e q u e n c y d o m a i n , w e n e e d t o s u b s t i t u t e t h e s p e c t r a l r e p r e s e n t a t i o n o f t h e

s i g n a l i n t o t h i s e x p r e s s i o n .

power (s) =1

T

T 0

a0 +

∞k=1

akcos

2πkt

T

+

∞k=1

bksin

2πkt

T

2

dt

T h e s q u a r e i n s i d e t h e i n t e g r a l w i l l c o n t a i n a l l p o s s i b l e p a i r w i s e p r o d u c t s . H o w e v e r , t h e o r t h o g o n a l i t y p r o p e r -

t i e s ( 4 . 1 2 ) s a y t h a t m o s t o f t h e s e c r o s s t e r m s i n t e g r a t e t o z e r o . T h e s u r v i v o r s l e a v e a r a t h e r s i m p l e e x p r e s s i o n

f o r t h e p o w e r w e s e e k .

power (s) = a02 +

1

2

∞k=1

ak2 + bk

2( 4 . 2 2 )





P o w e r S p e c t r u m o f a H a l f - W a v e R e c t i e d S i n u s o i d

0 2 4 6 8 10

P s(k)

0

0.1

0.2

k

F i g u r e 4 . 4 : P o w e r s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n u s o i d .

I t c o u l d w e l l b e t h a t c o m p u t i n g t h i s s u m i s e a s i e r t h a n i n t e g r a t i n g t h e s i g n a l ' s s q u a r e . F u r t h e r m o r e ,

t h e c o n t r i b u t i o n o f e a c h t e r m i n t h e F o u r i e r s e r i e s t o w a r d r e p r e s e n t i n g t h e s i g n a l c a n b e m e a s u r e d b y i t s

c o n t r i b u t i o n t o t h e s i g n a l ' s a v e r a g e p o w e r . T h u s , t h e p o w e r c o n t a i n e d i n a s i g n a l a t i t s k t h h a r m o n i c i s

ak2+bk

2

2. T h e p o w e r s p e c t r u m , P s (k), s u c h a s s h o w n i n F i g u r e 4 . 4 ( P o w e r S p e c t r u m o f a H a l f - W a v e

R e c t i e d S i n u s o i d ) , p l o t s e a c h h a r m o n i c ' s c o n t r i b u t i o n t o t h e t o t a l p o w e r .


I n h i g h - e n d a u d i o , d e v i a t i o n o f a s i n e w a v e f r o m t h e i d e a l i s m e a s u r e d b y t h e t o t a l h a r m o n i c

d i s t o r t i o n , w h i c h e q u a l s t h e t o t a l p o w e r i n t h e h a r m o n i c s h i g h e r t h a n t h e r s t c o m p a r e d t o p o w e r

i n t h e f u n d a m e n t a l . F i n d a n e x p r e s s i o n f o r t h e t o t a l h a r m o n i c d i s t o r t i o n f o r a n y p e r i o d i c s i g n a l .

I s t h i s c a l c u l a t i o n m o s t e a s i l y p e r f o r m e d i n t h e t i m e o r f r e q u e n c y d o m a i n ?

4 . 5 F o u r i e r S e r i e s A p p r o x i m a t i o n o f S i g n a l s

8

I t i s i n t e r e s t i n g t o c o n s i d e r t h e s e q u e n c e o f s i g n a l s t h a t w e o b t a i n a s w e i n c o r p o r a t e m o r e t e r m s i n t o t h e

F o u r i e r s e r i e s a p p r o x i m a t i o n o f t h e h a l f - w a v e r e c t i e d s i n e w a v e ( E x a m p l e 4 . 2 ) . D e n e sK (t) t o b e t h e

s i g n a l c o n t a i n i n g K + 1 F o u r i e r t e r m s .

sK (t) = a0 +

K

k=1 akcos2πkt

T +

K

k=1 bksin2πkt

T ( 4 . 2 3 )

F i g u r e 4 . 5 ( F o u r i e r S e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n e w a v e ) s h o w s h o w t h i s s e q u e n c e o f s i g n a l s

p o r t r a y s t h e s i g n a l m o r e a c c u r a t e l y a s m o r e t e r m s a r e a d d e d .

8





1 2 9

F o u r i e r S e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n e w a v e

k

ak

-0.5

0

0.5

bk

0 2 4 6 8 10

0

0.5

k

( a )

0

0.5

1

K=0

t

0

1

K=1

t

0.5

0

0.5

1

K=2

t

0 0.5 1 1.5 2

0

0.5

1

K=4

t

( b )

F i g u r e 4 . 5 : T h e F o u r i e r s e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n u s o i d i s s h o w n i n t h e u p p e r p o r t i o n .

T h e i n d e x i n d i c a t e s t h e m u l t i p l e o f t h e f u n d a m e n t a l f r e q u e n c y a t w h i c h t h e s i g n a l h a s e n e r g y . T h e

c u m u l a t i v e e e c t o f a d d i n g t e r m s t o t h e F o u r i e r s e r i e s f o r t h e h a l f - w a v e r e c t i e d s i n e w a v e i s s h o w n i n

t h e b o t t o m p o r t i o n . T h e d a s h e d l i n e i s t h e a c t u a l s i g n a l , w i t h t h e s o l i d l i n e s h o w i n g t h e n i t e s e r i e s

a p p r o x i m a t i o n t o t h e i n d i c a t e d n u m b e r o f t e r m s , K + 1 .

W e n e e d t o a s s e s s q u a n t i t a t i v e l y t h e a c c u r a c y o f t h e F o u r i e r s e r i e s a p p r o x i m a t i o n s o t h a t w e c a n j u d g e

h o w r a p i d l y t h e s e r i e s a p p r o a c h e s t h e s i g n a l . W h e n w e u s e a K + 1 - t e r m s e r i e s , t h e e r r o r t h e d i e r e n c e





b e t w e e n t h e s i g n a l a n d t h e K + 1 - t e r m s e r i e s c o r r e s p o n d s t o t h e u n u s e d t e r m s f r o m t h e s e r i e s .

K (t) =∞

k=K +1

akcos2πkt

T +∞

k=K +1

bksin2πkt

T ( 4 . 2 4 )

T o n d t h e r m s e r r o r , w e m u s t s q u a r e t h i s e x p r e s s i o n a n d i n t e g r a t e i t o v e r a p e r i o d . A g a i n , t h e i n t e g r a l o f

m o s t c r o s s - t e r m s i s z e r o , l e a v i n g

rms(K ) =

1

2

∞k=K +1

ak2 + bk2

( 4 . 2 5 )

F i g u r e 4 . 6 ( A p p r o x i m a t i o n e r r o r f o r a h a l f - w a v e r e c t i e d s i n u s o i d ) s h o w s h o w t h e e r r o r i n t h e F o u r i e r s e r i e s

f o r t h e h a l f - w a v e r e c t i e d s i n u s o i d d e c r e a s e s a s m o r e t e r m s a r e i n c o r p o r a t e d . I n p a r t i c u l a r , t h e u s e o f f o u r

t e r m s , a s s h o w n i n t h e b o t t o m p l o t o f F i g u r e 4 . 5 ( F o u r i e r S e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n e w a v e

) , h a s a r m s e r r o r ( r e l a t i v e t o t h e r m s v a l u e o f t h e s i g n a l ) o f a b o u t 3 % . T h e F o u r i e r s e r i e s i n t h i s c a s e

c o n v e r g e s q u i c k l y t o t h e s i g n a l .

A p p r o x i m a t i o n e r r o r f o r a h a l f - w a v e r e c t i e d s i n u s o i d

0 2 4 6 8 100

0.2

0.4

0.6

0.8

1

R e l a t i v e r m s e r r o r

K

F i g u r e 4 . 6 : T h e r m s e r r o r c a l c u l a t e d a c c o r d i n g t o ( 4 . 2 5 ) i s s h o w n a s a f u n c t i o n o f t h e n u m b e r o f t e r m s

i n t h e s e r i e s f o r t h e h a l f - w a v e r e c t i e d s i n u s o i d . T h e e r r o r h a s b e e n n o r m a l i z e d b y t h e r m s v a l u e o f t h e

s i g n a l .

W e c a n l o o k a t F i g u r e 4 . 7 ( P o w e r s p e c t r u m a n d a p p r o x i m a t i o n e r r o r f o r a s q u a r e w a v e ) t o s e e t h e p o w e r

s p e c t r u m a n d t h e r m s a p p r o x i m a t i o n e r r o r f o r t h e s q u a r e w a v e .




1 3 1

P o w e r s p e c t r u m a n d a p p r o x i m a t i o n e r r o r f o r a s q u a r e w a v e

0 2 4 6 8 100

0.5

1P s(k)

k

R e l a t i v e r m

s e r r o r

0 2 4 6 8 100

0.5

1

K

F i g u r e 4 . 7 : T h e u p p e r p l o t s h o w s t h e p o w e r s p e c t r u m o f t h e s q u a r e w a v e , a n d t h e l o w e r p l o t t h e r m s

e r r o r o f t h e n i t e - l e n g t h F o u r i e r s e r i e s a p p r o x i m a t i o n t o t h e s q u a r e w a v e . T h e a s t e r i s k d e n o t e s t h e r m s

e r r o r w h e n t h e n u m b e r o f t e r m s K i n t h e F o u r i e r s e r i e s e q u a l s 9 9 .

B e c a u s e t h e F o u r i e r c o e c i e n t s d e c a y m o r e s l o w l y h e r e t h a n f o r t h e h a l f - w a v e r e c t i e d s i n u s o i d , t h e r m s

e r r o r i s n o t d e c r e a s i n g q u i c k l y . S a i d a n o t h e r w a y , t h e s q u a r e - w a v e ' s s p e c t r u m c o n t a i n s m o r e p o w e r a t h i g h e r

f r e q u e n c i e s t h a n d o e s t h e h a l f - w a v e - r e c t i e d s i n u s o i d . T h i s d i e r e n c e b e t w e e n t h e t w o F o u r i e r s e r i e s r e s u l t s

b e c a u s e t h e h a l f - w a v e r e c t i e d s i n u s o i d ' s F o u r i e r c o e c i e n t s a r e p r o p o r t i o n a l t o

1k2 w h i l e t h o s e o f t h e s q u a r e

w a v e a r e p r o p o r t i o n a l t o

1k . I f f a c t , a f t e r 9 9 t e r m s o f t h e s q u a r e w a v e ' s a p p r o x i m a t i o n , t h e e r r o r i s b i g g e r

t h a n 1 0 t e r m s o f t h e a p p r o x i m a t i o n f o r t h e h a l f - w a v e r e c t i e d s i n u s o i d . M a t h e m a t i c i a n s h a v e s h o w n t h a t

n o s i g n a l h a s a n r m s a p p r o x i m a t i o n e r r o r t h a t d e c a y s m o r e s l o w l y t h a n i t d o e s f o r t h e s q u a r e w a v e .

E x e r c i s e 4 . 5 . 1

( S o l u t i o n o n p . 1 6 7 . )

C a l c u l a t e t h e h a r m o n i c d i s t o r t i o n f o r t h e s q u a r e w a v e .

M o r e t h a n j u s t d e c a y i n g s l o w l y , F o u r i e r s e r i e s a p p r o x i m a t i o n s h o w n i n F i g u r e 4 . 8 ( F o u r i e r s e r i e s a p p r o x i -

m a t i o n o f a s q u a r e w a v e ) e x h i b i t s i n t e r e s t i n g b e h a v i o r .





F o u r i e r s e r i e s a p p r o x i m a t i o n o f a s q u a r e w a v e

0

1K=49

-1

t

-1

0

1K=1

t

-1

0

1K=5

t

-1

0

1 K=11

t

F i g u r e 4 . 8 : F o u r i e r s e r i e s a p p r o x i m a t i o n t o sq (t). T h e n u m b e r o f t e r m s i n t h e F o u r i e r s u m i s i n d i c a t e d

i n e a c h p l o t , a n d t h e s q u a r e w a v e i s s h o w n a s a d a s h e d l i n e o v e r t w o p e r i o d s .

A l t h o u g h t h e s q u a r e w a v e ' s F o u r i e r s e r i e s r e q u i r e s m o r e t e r m s f o r a g i v e n r e p r e s e n t a t i o n a c c u r a c y , w h e n

c o m p a r i n g p l o t s i t i s n o t c l e a r t h a t t h e t w o a r e e q u a l . D o e s t h e F o u r i e r s e r i e s r e a l l y e q u a l t h e s q u a r e w a v e

a t a l l v a l u e s o f t? I n p a r t i c u l a r , a t e a c h s t e p - c h a n g e i n t h e s q u a r e w a v e , t h e F o u r i e r s e r i e s e x h i b i t s a p e a k

f o l l o w e d b y r a p i d o s c i l l a t i o n s . A s m o r e t e r m s a r e a d d e d t o t h e s e r i e s , t h e o s c i l l a t i o n s s e e m t o b e c o m e m o r e

r a p i d a n d s m a l l e r , b u t t h e p e a k s a r e n o t d e c r e a s i n g . F o r t h e F o u r i e r s e r i e s a p p r o x i m a t i o n f o r t h e h a l f - w a v e

r e c t i e d s i n u s o i d ( F i g u r e 4 . 5 : F o u r i e r S e r i e s s p e c t r u m o f a h a l f - w a v e r e c t i e d s i n e w a v e ) , n o s u c h b e h a v i o r

o c c u r s . W h a t i s h a p p e n i n g ?

C o n s i d e r t h i s m a t h e m a t i c a l q u e s t i o n i n t u i t i v e l y : C a n a d i s c o n t i n u o u s f u n c t i o n , l i k e t h e s q u a r e w a v e , b e

e x p r e s s e d a s a s u m , e v e n a n i n n i t e o n e , o f c o n t i n u o u s s i g n a l s ? O n e s h o u l d a t l e a s t b e s u s p i c i o u s , a n d i n

f a c t , i t c a n ' t b e t h u s e x p r e s s e d . T h i s i s s u e b r o u g h t F o u r i e r

9

m u c h c r i t i c i s m f r o m t h e F r e n c h A c a d e m y o f

S c i e n c e ( L a p l a c e , L a g r a n g e , M o n g e a n d L a C r o i x c o m p r i s e d t h e r e v i e w c o m m i t t e e ) f o r s e v e r a l y e a r s a f t e r i t s

p r e s e n t a t i o n o n 1 8 0 7 . I t w a s n o t r e s o l v e d f o r a l s o a c e n t u r y , a n d i t s r e s o l u t i o n i s i n t e r e s t i n g a n d i m p o r t a n t

t o u n d e r s t a n d f r o m a p r a c t i c a l v i e w p o i n t .

9


∼h i s t o r y / M a t h e m a t i c i a n s / F o u r i e r . h t m l




1 3 3

T h e e x t r a n e o u s p e a k s i n t h e s q u a r e w a v e ' s F o u r i e r s e r i e s n e v e r d i s a p p e a r ; t h e y a r e t e r m e d G i b b ' s

p h e n o m e n o n a f t e r t h e A m e r i c a n p h y s i c i s t J o s i a h W i l l a r d G i b b s . T h e y o c c u r w h e n e v e r t h e s i g n a l i s d i s -

c o n t i n u o u s , a n d w i l l a l w a y s b e p r e s e n t w h e n e v e r t h e s i g n a l h a s j u m p s .

L e t ' s r e t u r n t o t h e q u e s t i o n o f e q u a l i t y ; h o w c a n t h e e q u a l s i g n i n t h e d e n i t i o n o f t h e F o u r i e r s e r i e s b e

j u s t i e d ? T h e p a r t i a l a n s w e r i s t h a t p o i n t w i s e e a c h a n d e v e r y v a l u e o f t e q u a l i t y i s n o t g u a r a n t e e d .

H o w e v e r , m a t h e m a t i c i a n s l a t e r i n t h e n i n e t e e n t h c e n t u r y s h o w e d t h a t t h e r m s e r r o r o f t h e F o u r i e r s e r i e s w a s

a l w a y s z e r o .

limitK →∞

rms(K ) = 0

W h a t t h i s m e a n s i s t h a t t h e e r r o r b e t w e e n a s i g n a l a n d i t s F o u r i e r s e r i e s a p p r o x i m a t i o n m a y n o t b e z e r o , b u t

t h a t i t s r m s v a l u e w i l l b e z e r o ! I t i s t h r o u g h t h e e y e s o f t h e r m s v a l u e t h a t w e r e d e n e e q u a l i t y : T h e u s u a l

d e n i t i o n o f e q u a l i t y i s c a l l e d p o i n t w i s e e q u a l i t y : T w o s i g n a l s s1 (t), s2 (t) a r e s a i d t o b e e q u a l p o i n t w i s e

i f s1 (t) = s2 (t) f o r a l l v a l u e s o f t . A n e w d e n i t i o n o f e q u a l i t y i s m e a n - s q u a r e e q u a l i t y : T w o s i g n a l s a r e

s a i d t o b e e q u a l i n t h e m e a n s q u a r e i f rms(s1 − s2) = 0 . F o r F o u r i e r s e r i e s , G i b b ' s p h e n o m e n o n p e a k s h a v e

n i t e h e i g h t a n d z e r o w i d t h . T h e e r r o r d i e r s f r o m z e r o o n l y a t i s o l a t e d p o i n t s w h e n e v e r t h e p e r i o d i c s i g n a l

c o n t a i n s d i s c o n t i n u i t i e s a n d e q u a l s a b o u t 9 % o f t h e s i z e o f t h e d i s c o n t i n u i t y . T h e v a l u e o f a f u n c t i o n a t a

n i t e s e t o f p o i n t s d o e s n o t a e c t i t s i n t e g r a l . T h i s e e c t u n d e r l i e s t h e r e a s o n w h y d e n i n g t h e v a l u e o f a

d i s c o n t i n u o u s f u n c t i o n , l i k e w e r e f r a i n e d f r o m d o i n g i n d e n i n g t h e s t e p f u n c t i o n ( S e c t i o n 2 . 2 . 4 : U n i t S t e p ) ,

a t i t s d i s c o n t i n u i t y i s m e a n i n g l e s s . W h a t e v e r y o u p i c k f o r a v a l u e h a s n o p r a c t i c a l r e l e v a n c e f o r e i t h e r t h e

s i g n a l ' s s p e c t r u m o r f o r h o w a s y s t e m r e s p o n d s t o t h e s i g n a l . T h e F o u r i e r s e r i e s v a l u e " a t " t h e d i s c o n t i n u i t y

i s t h e a v e r a g e o f t h e v a l u e s o n e i t h e r s i d e o f t h e j u m p .

4 . 6 E n c o d i n g I n f o r m a t i o n i n t h e F r e q u e n c y D o m a i n

1 0

T o e m p h a s i z e t h e f a c t t h a t e v e r y p e r i o d i c s i g n a l h a s b o t h a t i m e a n d f r e q u e n c y d o m a i n r e p r e s e n t a t i o n , w e

c a n e x p l o i t b o t h t o e n c o d e i n f o r m a t i o n i n t o a s i g n a l . R e f e r t o t h e F u n d a m e n t a l M o d e l o f C o m m u n i c a t i o n

( F i g u r e 1 . 3 : F u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ) . W e h a v e a n i n f o r m a t i o n s o u r c e , a n d w a n t t o c o n s t r u c t

a t r a n s m i t t e r t h a t p r o d u c e s a s i g n a l x (t) . F o r t h e s o u r c e , l e t ' s a s s u m e w e h a v e i n f o r m a t i o n t o e n c o d e e v e r y

T s e c o n d s . F o r e x a m p l e , w e w a n t t o r e p r e s e n t t y p e d l e t t e r s p r o d u c e d b y a n e x t r e m e l y g o o d t y p i s t ( a k e y i s

s t r u c k e v e r y T s e c o n d s ) . L e t ' s c o n s i d e r t h e c o m p l e x F o u r i e r s e r i e s f o r m u l a i n t h e l i g h t o f t r y i n g t o e n c o d e

i n f o r m a t i o n .

x (t) =K

k=−K

ckej2πkt

T ( 4 . 2 6 )

W e u s e a n i t e s u m h e r e m e r e l y f o r s i m p l i c i t y ( f e w e r p a r a m e t e r s t o d e t e r m i n e ) . A n i m p o r t a n t a s p e c t o f

t h e s p e c t r u m i s t h a t e a c h f r e q u e n c y c o m p o n e n t ck c a n b e m a n i p u l a t e d s e p a r a t e l y : I n s t e a d o f n d i n g t h e

F o u r i e r s p e c t r u m f r o m a t i m e - d o m a i n s p e c i c a t i o n , l e t ' s c o n s t r u c t i t i n t h e f r e q u e n c y d o m a i n b y s e l e c t i n g

t h e ck a c c o r d i n g t o s o m e r u l e t h a t r e l a t e s c o e c i e n t v a l u e s t o t h e a l p h a b e t . I n d e n i n g t h i s r u l e , w e w a n t t o

a l w a y s c r e a t e a r e a l - v a l u e d s i g n a l x (t). B e c a u s e o f t h e F o u r i e r s p e c t r u m ' s p r o p e r t i e s ( P r o p e r t y 4 . 1 , p . 1 2 1 ) ,

t h e s p e c t r u m m u s t h a v e c o n j u g a t e s y m m e t r y . T h i s r e q u i r e m e n t m e a n s t h a t w e c a n o n l y a s s i g n p o s i t i v e -

i n d e x e d c o e c i e n t s ( p o s i t i v e f r e q u e n c i e s ) , w i t h n e g a t i v e - i n d e x e d o n e s e q u a l i n g t h e c o m p l e x c o n j u g a t e o f t h e

c o r r e s p o n d i n g p o s i t i v e - i n d e x e d o n e s .

A s s u m e w e h a v e N l e t t e r s t o e n c o d e : a1, . . . , aN . O n e s i m p l e e n c o d i n g r u l e c o u l d b e t o m a k e a s i n g l e

F o u r i e r c o e c i e n t b e n o n - z e r o a n d a l l o t h e r s z e r o f o r e a c h l e t t e r . F o r e x a m p l e , i f an o c c u r s , w e m a k e cn = 1a n d ck = 0 , k = n. I n t h i s w a y , t h e nth

h a r m o n i c o f t h e f r e q u e n c y

1T i s u s e d t o r e p r e s e n t a l e t t e r . N o t e

t h a t t h e b a n d w i d t h t h e r a n g e o f f r e q u e n c i e s r e q u i r e d f o r t h e e n c o d i n g e q u a l s

N T . A n o t h e r p o s s i b i l i t y i s

t o c o n s i d e r t h e b i n a r y r e p r e s e n t a t i o n o f t h e l e t t e r ' s i n d e x . F o r e x a m p l e , i f t h e l e t t e r

a13 o c c u r s , c o n v e r t i n g

13 t o i t s b a s e 2 r e p r e s e n t a t i o n , w e h a v e 13 = 11012 . W e c a n u s e t h e p a t t e r n o f z e r o s a n d o n e s t o r e p r e s e n t

d i r e c t l y w h i c h F o u r i e r c o e c i e n t s w e " t u r n o n " ( s e t e q u a l t o o n e ) a n d w h i c h w e " t u r n o . "

1 0






E x e r c i s e 4 . 6 . 1

( S o l u t i o n o n p . 1 6 8 . )

C o m p a r e t h e b a n d w i d t h r e q u i r e d f o r t h e d i r e c t e n c o d i n g s c h e m e ( o n e n o n z e r o F o u r i e r c o e c i e n t

f o r e a c h l e t t e r ) t o t h e b i n a r y n u m b e r s c h e m e . C o m p a r e t h e b a n d w i d t h s f o r a 1 2 8 - l e t t e r a l p h a b e t .

S i n c e b o t h s c h e m e s r e p r e s e n t i n f o r m a t i o n w i t h o u t l o s s w e c a n d e t e r m i n e t h e t y p e d l e t t e r u n i q u e l y

f r o m t h e s i g n a l ' s s p e c t r u m b o t h a r e v i a b l e . W h i c h m a k e s m o r e e c i e n t u s e o f b a n d w i d t h a n d

t h u s m i g h t b e p r e f e r r e d ?

E x e r c i s e 4 . 6 . 2

( S o l u t i o n o n p . 1 6 8 . )

C a n y o u t h i n k o f a n i n f o r m a t i o n - e n c o d i n g s c h e m e t h a t m a k e s e v e n m o r e e c i e n t u s e o f t h e

s p e c t r u m ? I n p a r t i c u l a r , c a n w e u s e o n l y o n e F o u r i e r c o e c i e n t t o r e p r e s e n t N l e t t e r s u n i q u e l y ?

W e c a n c r e a t e a n e n c o d i n g s c h e m e i n t h e f r e q u e n c y d o m a i n ( p . 1 3 3 ) t o r e p r e s e n t a n a l p h a b e t o f l e t t e r s . B u t ,

a s t h i s i n f o r m a t i o n - e n c o d i n g s c h e m e s t a n d s , w e c a n r e p r e s e n t o n e l e t t e r f o r a l l t i m e . H o w e v e r , w e n o t e t h a t

t h e F o u r i e r c o e c i e n t s d e p e n d o n l y o n t h e s i g n a l ' s c h a r a c t e r i s t i c s o v e r a s i n g l e p e r i o d . W e c o u l d c h a n g e

t h e s i g n a l ' s s p e c t r u m e v e r y

T a s e a c h l e t t e r i s t y p e d . I n t h i s w a y , w e t u r n s p e c t r a l c o e c i e n t s o n a n d o a s

l e t t e r s a r e t y p e d , t h e r e b y e n c o d i n g t h e e n t i r e t y p e d d o c u m e n t . F o r t h e r e c e i v e r ( s e e t h e F u n d a m e n t a l M o d e l

o f C o m m u n i c a t i o n ( F i g u r e 1 . 3 : F u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ) ) t o r e t r i e v e t h e t y p e d l e t t e r , i t w o u l d

s i m p l y u s e t h e F o u r i e r f o r m u l a f o r t h e c o m p l e x F o u r i e r s p e c t r u m

1 1

f o r e a c h T - s e c o n d i n t e r v a l t o d e t e r m i n e

w h a t e a c h t y p e d l e t t e r w a s . F i g u r e 4 . 9 ( E n c o d i n g S i g n a l s ) s h o w s s u c h a s i g n a l i n t h e t i m e - d o m a i n .

E n c o d i n g S i g n a l s

0 T 2T 3T

-2

-1

0

1

2

t

x(t)

F i g u r e 4 . 9 : T h e e n c o d i n g o f s i g n a l s v i a t h e F o u r i e r s p e c t r u m i s s h o w n o v e r t h r e e " p e r i o d s . " I n t h i s e x -

a m p l e , o n l y t h e t h i r d a n d f o u r t h h a r m o n i c s a r e u s e d , a s s h o w n b y t h e s p e c t r a l m a g n i t u d e s c o r r e s p o n d i n g

t o e a c h

T - s e c o n d i n t e r v a l p l o t t e d b e l o w t h e w a v e f o r m s . C a n y o u d e t e r m i n e t h e p h a s e o f t h e h a r m o n i c s

f r o m t h e w a v e f o r m ?

I n t h i s F o u r i e r - s e r i e s e n c o d i n g s c h e m e , w e h a v e u s e d t h e f a c t t h a t s p e c t r a l c o e c i e n t s c a n b e i n d e p e n -

d e n t l y s p e c i e d a n d t h a t t h e y c a n b e u n i q u e l y r e c o v e r e d f r o m t h e t i m e - d o m a i n s i g n a l o v e r o n e " p e r i o d . " D o

1 1

" C o m p l e x F o u r i e r S e r i e s a n d T h e i r P r o p e r t i e s " , ( 2 ) < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 6 5 / l a t e s t / # c o m p l e x >




1 3 5

n o t e t h a t t h e s i g n a l r e p r e s e n t i n g t h e e n t i r e d o c u m e n t i s n o l o n g e r p e r i o d i c . B y u n d e r s t a n d i n g t h e F o u r i e r s e -

r i e s ' p r o p e r t i e s ( i n p a r t i c u l a r t h a t c o e c i e n t s a r e d e t e r m i n e d o n l y o v e r a

T - s e c o n d i n t e r v a l , w e c a n c o n s t r u c t

a c o m m u n i c a t i o n s s y s t e m . T h i s a p p r o a c h r e p r e s e n t s a s i m p l i c a t i o n o f h o w m o d e r n m o d e m s r e p r e s e n t t e x t

t h a t t h e y t r a n s m i t o v e r t e l e p h o n e l i n e s .

4 . 7 F i l t e r i n g P e r i o d i c S i g n a l s

1 2

T h e F o u r i e r s e r i e s r e p r e s e n t a t i o n o f a p e r i o d i c s i g n a l m a k e s i t e a s y t o d e t e r m i n e h o w a l i n e a r , t i m e - i n v a r i a n t

l t e r r e s h a p e s s u c h s i g n a l s i n g e n e r a l . T h e f u n d a m e n t a l p r o p e r t y o f a l i n e a r s y s t e m i s t h a t i t s i n p u t - o u t p u t

r e l a t i o n o b e y s s u p e r p o s i t i o n : L (a1s1 (t) + a2s2 (t)) = a1L (s1 (t)) + a2L (s2 (t)). B e c a u s e t h e F o u r i e r s e r i e s

r e p r e s e n t s a p e r i o d i c s i g n a l a s a l i n e a r c o m b i n a t i o n o f c o m p l e x e x p o n e n t i a l s , w e c a n e x p l o i t t h e s u p e r p o s i t i o n

p r o p e r t y . F u r t h e r m o r e , w e f o u n d f o r l i n e a r c i r c u i t s t h a t t h e i r o u t p u t t o a c o m p l e x e x p o n e n t i a l i n p u t i s j u s t t h e

f r e q u e n c y r e s p o n s e e v a l u a t e d a t t h e s i g n a l ' s f r e q u e n c y t i m e s t h e c o m p l e x e x p o n e n t i a l . S a i d m a t h e m a t i c a l l y ,

i f x (t) = ej2πkt

T , t h e n t h e o u t p u t y (t) = H

kT

ej

2πktT

b e c a u s e f = kT . T h u s , i f x (t) i s p e r i o d i c t h e r e b y

h a v i n g a F o u r i e r s e r i e s , a l i n e a r c i r c u i t ' s o u t p u t t o t h i s s i g n a l w i l l b e t h e s u p e r p o s i t i o n o f t h e o u t p u t t o e a c h

c o m p o n e n t .

y (t) =∞

k=−∞ckH

kT

ej

2πktT

( 4 . 2 7 )

T h u s , t h e o u t p u t h a s a F o u r i e r s e r i e s , w h i c h m e a n s t h a t i t t o o i s p e r i o d i c . I t s F o u r i e r c o e c i e n t s e q u a l

ckH kT

. T o o b t a i n t h e s p e c t r u m o f t h e o u t p u t , w e s i m p l y m u l t i p l y t h e i n p u t s p e c t r u m b y

t h e f r e q u e n c y r e s p o n s e . T h e c i r c u i t m o d i e s t h e m a g n i t u d e a n d p h a s e o f e a c h F o u r i e r c o e c i e n t . N o t e

e s p e c i a l l y t h a t w h i l e t h e F o u r i e r c o e c i e n t s d o n o t d e p e n d o n t h e s i g n a l ' s p e r i o d , t h e c i r c u i t ' s t r a n s f e r

f u n c t i o n d o e s d e p e n d o n f r e q u e n c y , w h i c h m e a n s t h a t t h e c i r c u i t ' s o u t p u t w i l l d i e r a s t h e p e r i o d v a r i e s .

1 2






F i l t e r i n g a p e r i o d i c s i g n a l

∆

T

∆

t

p(t)

A

……

( a )

0

0

0.2

0 1 20

1

0

0

0.2

0 1 20

1

0 1 20

1

0 10 20

0

0.2

p e c t r a

a g n t u

efc: 100 Hz fc: 1 kHz fc: 10 kHz

Frequency (kHz) Frequency (kHz) Frequency (kHz)

Time (ms) Time (ms) Time (ms)

A m p l i t u d e

10 2010 20

( b )

F i g u r e 4 . 1 0 : A p e r i o d i c p u l s e s i g n a l , s u c h a s s h o w n o n t h e l e f t p a r t (

∆T

= 0.2) , s e r v e s a s t h e i n p u t t o

a n

RC l o w p a s s l t e r . T h e i n p u t ' s p e r i o d w a s 1 m s ( m i l l i s e c o n d ) . T h e l t e r ' s c u t o f r e q u e n c y w a s s e t t o

t h e v a r i o u s v a l u e s i n d i c a t e d i n t h e t o p r o w , w h i c h d i s p l a y t h e o u t p u t s i g n a l ' s s p e c t r u m a n d t h e l t e r ' s

t r a n s f e r f u n c t i o n . T h e b o t t o m r o w s h o w s t h e o u t p u t s i g n a l d e r i v e d f r o m t h e F o u r i e r s e r i e s c o e c i e n t s

s h o w n i n t h e t o p r o w . ( a ) P e r i o d i c p u l s e s i g n a l ( b ) T o p p l o t s s h o w t h e p u l s e s i g n a l ' s s p e c t r u m f o r v a r i o u s

c u t o f r e q u e n c i e s . B o t t o m p l o t s s h o w t h e l t e r ' s o u t p u t s i g n a l s .

E x a m p l e 4 . 3

T h e p e r i o d i c p u l s e s i g n a l s h o w n o n t h e l e f t a b o v e s e r v e s a s t h e i n p u t t o a

RC - c i r c u i t t h a t h a s t h e

t r a n s f e r f u n c t i o n ( c a l c u l a t e d e l s e w h e r e ( F i g u r e 3 . 3 0 : M a g n i t u d e a n d p h a s e o f t h e t r a n s f e r f u n c t i o n ) )

H (f ) =1

1 + j2πfRC ( 4 . 2 8 )

F i g u r e 4 . 1 0 ( F i l t e r i n g a p e r i o d i c s i g n a l ) s h o w s t h e o u t p u t c h a n g e s a s w e v a r y t h e l t e r ' s c u t o

f r e q u e n c y . N o t e h o w t h e s i g n a l ' s s p e c t r u m e x t e n d s w e l l a b o v e i t s f u n d a m e n t a l f r e q u e n c y . H a v i n g

a c u t o f r e q u e n c y t e n t i m e s h i g h e r t h a n t h e f u n d a m e n t a l d o e s p e r c e p t i b l y c h a n g e t h e o u t p u t

w a v e f o r m , r o u n d i n g t h e l e a d i n g a n d t r a i l i n g e d g e s . A s t h e c u t o f r e q u e n c y d e c r e a s e s ( c e n t e r , t h e n

l e f t ) , t h e r o u n d i n g b e c o m e s m o r e p r o m i n e n t , w i t h t h e l e f t m o s t w a v e f o r m s h o w i n g a s m a l l r i p p l e .

E x e r c i s e 4 . 7 . 1

( S o l u t i o n o n p . 1 6 8 . )

W h a t i s t h e a v e r a g e v a l u e o f e a c h o u t p u t w a v e f o r m ? T h e c o r r e c t a n s w e r m a y s u r p r i s e y o u .




1 3 7

T h i s e x a m p l e a l s o i l l u s t r a t e s t h e i m p a c t a l o w p a s s l t e r c a n h a v e o n a w a v e f o r m . T h e s i m p l e RC l t e r u s e d

h e r e h a s a r a t h e r g r a d u a l f r e q u e n c y r e s p o n s e , w h i c h m e a n s t h a t h i g h e r h a r m o n i c s a r e s m o o t h l y s u p p r e s s e d .

L a t e r , w e w i l l d e s c r i b e l t e r s t h a t h a v e m u c h m o r e r a p i d l y v a r y i n g f r e q u e n c y r e s p o n s e s , a l l o w i n g a m u c h

m o r e d r a m a t i c s e l e c t i o n o f t h e i n p u t ' s F o u r i e r c o e c i e n t s .

M o r e i m p o r t a n t l y , w e h a v e c a l c u l a t e d t h e o u t p u t o f a c i r c u i t t o a p e r i o d i c i n p u t w i t h o u t w r i t i n g ,

m u c h l e s s s o l v i n g , t h e d i e r e n t i a l e q u a t i o n g o v e r n i n g t h e c i r c u i t ' s b e h a v i o r . F u r t h e r m o r e , w e m a d e t h e s e

c a l c u l a t i o n s e n t i r e l y i n t h e f r e q u e n c y d o m a i n . U s i n g F o u r i e r s e r i e s , w e c a n c a l c u l a t e h o w a n y l i n e a r c i r c u i t

w i l l r e s p o n d t o a p e r i o d i c i n p u t .

4 . 8 D e r i v a t i o n o f t h e F o u r i e r T r a n s f o r m

1 3

F o u r i e r s e r i e s c l e a r l y o p e n t h e f r e q u e n c y d o m a i n a s a n i n t e r e s t i n g a n d u s e f u l w a y o f d e t e r m i n i n g h o w c i r c u i t s

a n d s y s t e m s r e s p o n d t o p e r i o d i c i n p u t s i g n a l s . C a n w e u s e s i m i l a r t e c h n i q u e s f o r n o n p e r i o d i c s i g n a l s ? W h a t

i s t h e r e s p o n s e o f t h e l t e r t o a s i n g l e p u l s e ? A d d r e s s i n g t h e s e i s s u e s r e q u i r e s u s t o n d t h e F o u r i e r s p e c t r u m

o f a l l s i g n a l s , b o t h p e r i o d i c a n d n o n p e r i o d i c o n e s . W e n e e d a d e n i t i o n f o r t h e F o u r i e r s p e c t r u m o f a s i g n a l ,

p e r i o d i c o r n o t . T h i s s p e c t r u m i s c a l c u l a t e d b y w h a t i s k n o w n a s t h e F o u r i e r t r a n s f o r m .

L e t sT (t) b e a p e r i o d i c s i g n a l h a v i n g p e r i o d T . W e w a n t t o c o n s i d e r w h a t h a p p e n s t o t h i s s i g n a l ' s

s p e c t r u m a s w e l e t t h e p e r i o d b e c o m e l o n g e r a n d l o n g e r . W e d e n o t e t h e s p e c t r u m f o r a n y a s s u m e d v a l u e o f

t h e p e r i o d b y ck (T ). W e c a l c u l a t e t h e s p e c t r u m a c c o r d i n g t o t h e f a m i l i a r f o r m u l a

ck (T ) =1

T

T 2

−T 2

sT (t) e−j2πkt

T dt ( 4 . 2 9 )

w h e r e w e h a v e u s e d a s y m m e t r i c p l a c e m e n t o f t h e i n t e g r a t i o n i n t e r v a l a b o u t t h e o r i g i n f o r s u b s e q u e n t d e r i v a -

t i o n a l c o n v e n i e n c e . L e t f b e a x e d f r e q u e n c y e q u a l i n g

kT ; w e v a r y t h e f r e q u e n c y i n d e x k p r o p o r t i o n a l l y a s

w e i n c r e a s e t h e p e r i o d . D e n e

S T (f ) ≡ T ck (T ) = T 2

−T 2

sT (t) e−(j2πft)dt ( 4 . 3 0 )

m a k i n g t h e c o r r e s p o n d i n g F o u r i e r s e r i e s

sT (t) =∞

k=−∞S T (f ) ej2πft

1

T ( 4 . 3 1 )

A s t h e p e r i o d i n c r e a s e s , t h e s p e c t r a l l i n e s b e c o m e c l o s e r t o g e t h e r , b e c o m i n g a c o n t i n u u m . T h e r e f o r e ,

limitT →∞

sT (t) ≡ s (t) =

∞−∞

S (f ) ej2πftdf ( 4 . 3 2 )

w i t h

S (f ) = ∞

−∞s (t) e−(j2πft)dt

( 4 . 3 3 )

S (f ) i s t h e F o u r i e r t r a n s f o r m o f

s (t) ( t h e F o u r i e r t r a n s f o r m i s s y m b o l i c a l l y d e n o t e d b y t h e u p p e r c a s e

v e r s i o n o f t h e s i g n a l ' s s y m b o l ) a n d i s d e n e d f o r a n y s i g n a l f o r w h i c h t h e i n t e g r a l ( ( 4 . 3 3 ) ) c o n v e r g e s .

E x a m p l e 4 . 4

L e t ' s c a l c u l a t e t h e F o u r i e r t r a n s f o r m o f t h e p u l s e s i g n a l ( S e c t i o n 2 . 2 . 5 : P u l s e ) ,

p (t) .

P (f ) =

∞−∞

p (t) e−(j2πft)dt =

∆0

e−(j2πft)dt =1

− ( j2πf )

e−(j2πf ∆) − 1

1 3






P (f ) = e−(jπf ∆) sin(πf ∆)

πf

N o t e h o w c l o s e l y t h i s r e s u l t r e s e m b l e s t h e e x p r e s s i o n f o r F o u r i e r s e r i e s c o e c i e n t s o f t h e p e r i o d i c

p u l s e s i g n a l ( 4 . 1 0 ) .

S p e c t r u m

-20 -10 0 10 200

0.2T=5

Frequency (Hz)

S p e c t r a l M a g n i t u d e

0

0.2T=1

S p

e c t r a l M a g n i t u d e

F i g u r e 4 . 1 1 : T h e u p p e r p l o t s h o w s t h e m a g n i t u d e o f t h e F o u r i e r s e r i e s s p e c t r u m f o r t h e c a s e o f

T = 1w i t h t h e F o u r i e r t r a n s f o r m o f

p (t)s h o w n a s a d a s h e d l i n e . F o r t h e b o t t o m p a n e l , w e e x p a n d e d t h e p e r i o d

t o

T = 5, k e e p i n g t h e p u l s e ' s d u r a t i o n x e d a t 0 . 2 , a n d c o m p u t e d i t s F o u r i e r s e r i e s c o e c i e n t s .

F i g u r e 4 . 1 1 ( S p e c t r u m ) s h o w s h o w i n c r e a s i n g t h e p e r i o d d o e s i n d e e d l e a d t o a c o n t i n u u m o f c o e c i e n t s ,

a n d t h a t t h e F o u r i e r t r a n s f o r m d o e s c o r r e s p o n d t o w h a t t h e c o n t i n u u m b e c o m e s . T h e q u a n t i t y

sin(t)t h a s a

s p e c i a l n a m e , t h e s i n c ( p r o n o u n c e d " s i n k " ) f u n c t i o n , a n d i s d e n o t e d b y sinc (t). T h u s , t h e m a g n i t u d e o f t h e

p u l s e ' s F o u r i e r t r a n s f o r m e q u a l s |∆sinc (πf ∆) |.

T h e F o u r i e r t r a n s f o r m r e l a t e s a s i g n a l ' s t i m e a n d f r e q u e n c y d o m a i n r e p r e s e n t a t i o n s t o e a c h o t h e r . T h e

d i r e c t F o u r i e r t r a n s f o r m ( o r s i m p l y t h e F o u r i e r t r a n s f o r m ) c a l c u l a t e s a s i g n a l ' s f r e q u e n c y d o m a i n r e p r e s e n -

t a t i o n f r o m i t s t i m e - d o m a i n v a r i a n t ( ( 4 . 3 4 ) ) . T h e i n v e r s e F o u r i e r t r a n s f o r m ( ( 4 . 3 5 ) ) n d s t h e t i m e - d o m a i n

r e p r e s e n t a t i o n f r o m t h e f r e q u e n c y d o m a i n . R a t h e r t h a n e x p l i c i t l y w r i t i n g t h e r e q u i r e d i n t e g r a l , w e o f t e n

s y m b o l i c a l l y e x p r e s s t h e s e t r a n s f o r m c a l c u l a t i o n s a s F (s) a n d F −1 (S ), r e s p e c t i v e l y .

F (s) = S (f )

= ∞−∞ s (t) e−(j2πft)dt

( 4 . 3 4 )




1 3 9

F −1 (S ) = s (t)

= ∞−∞ S (f ) ej2πftdf

( 4 . 3 5 )

W e m u s t h a v e s (t) = F −1 (F (s (t))) a n d S (f ) = F F −1 (S (f ))

, a n d t h e s e r e s u l t s a r e i n d e e d v a l i d w i t h

m i n o r e x c e p t i o n s .

n o t e : R e c a l l t h a t t h e F o u r i e r s e r i e s f o r a s q u a r e w a v e g i v e s a v a l u e f o r t h e s i g n a l a t t h e d i s -

c o n t i n u i t i e s e q u a l t o t h e a v e r a g e v a l u e o f t h e j u m p . T h i s v a l u e m a y d i e r f r o m h o w t h e s i g n a l i s

d e n e d i n t h e t i m e d o m a i n , b u t b e i n g u n e q u a l a t a p o i n t i s i n d e e d m i n o r .

S h o w i n g t h a t y o u " g e t b a c k t o w h e r e y o u s t a r t e d " i s d i c u l t f r o m a n a n a l y t i c v i e w p o i n t , a n d w e w o n ' t t r y

h e r e . N o t e t h a t t h e d i r e c t a n d i n v e r s e t r a n s f o r m s d i e r o n l y i n t h e s i g n o f t h e e x p o n e n t .

E x e r c i s e 4 . 8 . 1

( S o l u t i o n o n p . 1 6 8 . )

T h e d i e r i n g e x p o n e n t s i g n s m e a n s t h a t s o m e c u r i o u s r e s u l t s o c c u r w h e n w e u s e t h e w r o n g s i g n .

W h a t i s F (S (f ))? I n o t h e r w o r d s , u s e t h e w r o n g e x p o n e n t s i g n i n e v a l u a t i n g t h e i n v e r s e F o u r i e r

t r a n s f o r m .

P r o p e r t i e s o f t h e F o u r i e r t r a n s f o r m a n d s o m e u s e f u l t r a n s f o r m p a i r s a r e p r o v i d e d i n t h e a c c o m p a n y i n g

t a b l e s ( T a b l e 4 . 1 : S h o r t T a b l e o f F o u r i e r T r a n s f o r m P a i r s a n d T a b l e 4 . 2 : F o u r i e r T r a n s f o r m P r o p e r t i e s ) .

E s p e c i a l l y i m p o r t a n t a m o n g t h e s e p r o p e r t i e s i s P a r s e v a l ' s T h e o r e m , w h i c h s t a t e s t h a t p o w e r c o m p u t e d

i n e i t h e r d o m a i n e q u a l s t h e p o w e r i n t h e o t h e r . ∞−∞

s2 (t) dt =

∞−∞

(|S (f ) |)2df ( 4 . 3 6 )

O f p r a c t i c a l i m p o r t a n c e i s t h e c o n j u g a t e s y m m e t r y p r o p e r t y : W h e n s (t) i s r e a l - v a l u e d , t h e s p e c t r u m a t

n e g a t i v e f r e q u e n c i e s e q u a l s t h e c o m p l e x c o n j u g a t e o f t h e s p e c t r u m a t t h e c o r r e s p o n d i n g p o s i t i v e f r e q u e n c i e s .

C o n s e q u e n t l y , w e n e e d o n l y p l o t t h e p o s i t i v e f r e q u e n c y p o r t i o n o f t h e s p e c t r u m ( w e c a n e a s i l y d e t e r m i n e t h e

r e m a i n d e r o f t h e s p e c t r u m ) .

E x e r c i s e 4 . 8 . 2

( S o l u t i o n o n p . 1 6 8 . )

H o w m a n y F o u r i e r t r a n s f o r m o p e r a t i o n s n e e d t o b e a p p l i e d t o g e t t h e o r i g i n a l s i g n a l b a c k :

F (· · · (F (s))) = s (t)?

N o t e t h a t t h e m a t h e m a t i c a l r e l a t i o n s h i p s b e t w e e n t h e t i m e d o m a i n a n d f r e q u e n c y d o m a i n v e r s i o n s o f t h e

s a m e s i g n a l a r e t e r m e d t r a n s f o r m s . W e a r e t r a n s f o r m i n g ( i n t h e n o n t e c h n i c a l m e a n i n g o f t h e w o r d ) a s i g n a l

f r o m o n e r e p r e s e n t a t i o n t o a n o t h e r . W e e x p r e s s F o u r i e r t r a n s f o r m p a i r s a s s (t) ↔ S (f ) . A s i g n a l ' s t i m e

a n d f r e q u e n c y d o m a i n r e p r e s e n t a t i o n s a r e u n i q u e l y r e l a t e d t o e a c h o t h e r . A s i g n a l t h u s " e x i s t s " i n b o t h

t h e t i m e a n d f r e q u e n c y d o m a i n s , w i t h t h e F o u r i e r t r a n s f o r m b r i d g i n g b e t w e e n t h e t w o . W e c a n d e n e a n

i n f o r m a t i o n c a r r y i n g s i g n a l i n e i t h e r t h e t i m e o r f r e q u e n c y d o m a i n s ; i t b e h o o v e s t h e w i s e e n g i n e e r t o u s e t h e

s i m p l e r o f t h e t w o .

A c o m m o n m i s u n d e r s t a n d i n g i s t h a t w h i l e a s i g n a l e x i s t s i n b o t h t h e t i m e a n d f r e q u e n c y d o m a i n s , a s i n g l e

f o r m u l a e x p r e s s i n g a s i g n a l m u s t c o n t a i n o n l y t i m e o r f r e q u e n c y : B o t h c a n n o t b e p r e s e n t s i m u l t a n e o u s l y .

T h i s s i t u a t i o n m i r r o r s w h a t h a p p e n s w i t h c o m p l e x a m p l i t u d e s i n c i r c u i t s : A s w e r e v e a l h o w c o m m u n i c a t i o n s

s y s t e m s w o r k a n d a r e d e s i g n e d , w e w i l l d e n e s i g n a l s e n t i r e l y i n t h e f r e q u e n c y d o m a i n w i t h o u t e x p l i c i t l y

n d i n g t h e i r t i m e d o m a i n v a r i a n t s . T h i s i d e a i s s h o w n i n a n o t h e r m o d u l e ( S e c t i o n 4 . 6 ) w h e r e w e d e n e

F o u r i e r s e r i e s c o e c i e n t s a c c o r d i n g t o l e t t e r t o b e t r a n s m i t t e d . T h u s , a s i g n a l , t h o u g h m o s t f a m i l i a r l y

d e n e d i n t h e t i m e - d o m a i n , r e a l l y c a n b e d e n e d e q u a l l y a s w e l l ( a n d s o m e t i m e s m o r e e a s i l y ) i n t h e f r e q u e n c y

d o m a i n . F o r e x a m p l e , i m p e d a n c e s d e p e n d o n f r e q u e n c y a n d t h e t i m e v a r i a b l e c a n n o t a p p e a r .

W e w i l l l e a r n ( S e c t i o n 4 . 9 ) t h a t n d i n g a l i n e a r , t i m e - i n v a r i a n t s y s t e m ' s o u t p u t i n t h e t i m e d o m a i n c a n

b e m o s t e a s i l y c a l c u l a t e d b y d e t e r m i n i n g t h e i n p u t s i g n a l ' s s p e c t r u m , p e r f o r m i n g a s i m p l e c a l c u l a t i o n i n t h e

f r e q u e n c y d o m a i n , a n d i n v e r s e t r a n s f o r m i n g t h e r e s u l t . F u r t h e r m o r e , u n d e r s t a n d i n g c o m m u n i c a t i o n s a n d

i n f o r m a t i o n p r o c e s s i n g s y s t e m s r e q u i r e s a t h o r o u g h u n d e r s t a n d i n g o f s i g n a l s t r u c t u r e a n d o f h o w s y s t e m s

w o r k i n b o t h t h e t i m e a n d f r e q u e n c y d o m a i n s .





T h e o n l y d i c u l t y i n c a l c u l a t i n g t h e F o u r i e r t r a n s f o r m o f a n y s i g n a l o c c u r s w h e n w e h a v e p e r i o d i c s i g n a l s

( i n e i t h e r d o m a i n ) . R e a l i z i n g t h a t t h e F o u r i e r s e r i e s i s a s p e c i a l c a s e o f t h e F o u r i e r t r a n s f o r m , w e s i m p l y

c a l c u l a t e t h e F o u r i e r s e r i e s c o e c i e n t s i n s t e a d , a n d p l o t t h e m a l o n g w i t h t h e s p e c t r a o f n o n p e r i o d i c s i g n a l s

o n t h e s a m e f r e q u e n c y a x i s .

S h o r t T a b l e o f F o u r i e r T r a n s f o r m P a i r s

s (t) S (f )

e−(at)u (t) 1j2πf +a

e−(a|t|) 2a4π2f 2+a2

p (t) =

1 i f |t| < ∆

2

0 i f |t| > ∆2

sin(πf ∆)πf

sin(2πWt)πt S (f ) =

1 i f |f | < W

0 i f

|f |

> W

T a b l e 4 . 1

F o u r i e r T r a n s f o r m P r o p e r t i e s

T i m e - D o m a i n F r e q u e n c y D o m a i n

L i n e a r i t y a1s1 (t) + a2s2 (t) a1S 1 (f ) + a2S 2 (f )

C o n j u g a t e S y m m e t r y s (t) ∈ R S (f ) = S (−f )∗

E v e n S y m m e t r y s (t) = s (−t) S (f ) = S (−f )

O d d S y m m e t r y

s (t) = −s (−t) S (f ) = −S (−f )

S c a l e C h a n g e s (at) 1

|a|S f

aT i m e D e l a y s (t − τ ) e−(j2πfτ )S (f )

C o m p l e x M o d u l a t i o n ej2πf 0ts (t) S (f − f 0)

A m p l i t u d e M o d u l a t i o n b y C o s i n e

s (t)cos(2πf 0t) S (f −f 0)+S (f +f 0)2

A m p l i t u d e M o d u l a t i o n b y S i n e s (t)sin(2πf 0t) S (f −f 0)−S (f +f 0)2j

D i e r e n t i a t i o n

ddts (t) j2πf S (f )

I n t e g r a t i o n

t−∞ s (α) dα 1

j2πf S (f ) i f

S (0) = 0

M u l t i p l i c a t i o n b y t ts (t) 1−(j2π)

dS (f )df

A r e a

∞−∞ s (t) dt S (0)

V a l u e a t O r i g i n s (0) ∞−∞ S (f ) df

P a r s e v a l ' s T h e o r e m

∞−∞ (|s (t) |)2dt

∞−∞ (|S (f ) |)2df

T a b l e 4 . 2

E x a m p l e 4 . 5

I n c o m m u n i c a t i o n s , a v e r y i m p o r t a n t o p e r a t i o n o n a s i g n a l

s (t) i s t o a m p l i t u d e m o d u l a t e i t .

U s i n g t h i s o p e r a t i o n m o r e a s a n e x a m p l e r a t h e r t h a n e l a b o r a t i n g t h e c o m m u n i c a t i o n s a s p e c t s h e r e ,

w e w a n t t o c o m p u t e t h e F o u r i e r t r a n s f o r m t h e s p e c t r u m o f

(1 + s (t))cos(2πf ct)




1 4 1

T h u s ,

(1 + s (t))cos(2πf ct) = cos(2πf ct) + s (t)cos(2πf ct)

F o r t h e s p e c t r u m o f cos (2πf ct), w e u s e t h e F o u r i e r s e r i e s . I t s p e r i o d i s

1f c

, a n d i t s o n l y n o n z e r o

F o u r i e r c o e c i e n t s a r e c±1 = 12 . T h e s e c o n d t e r m i s n o t p e r i o d i c u n l e s s s (t) h a s t h e s a m e p e r i o d

a s t h e s i n u s o i d . U s i n g E u l e r ' s r e l a t i o n , t h e s p e c t r u m o f t h e s e c o n d t e r m c a n b e d e r i v e d a s

s (t)cos(2πf ct) =

∞−∞

S (f ) ej2πftdf cos (2πf ct)

U s i n g E u l e r ' s r e l a t i o n f o r t h e c o s i n e ,

(s (t)cos(2πf ct)) =1

2

∞−∞

S (f ) ej2π(f +f c)tdf +1

2

∞−∞

S (f ) ej2π(f −f c)tdf

(s (t)cos(2πf ct)) =1

2

∞−∞

S (f − f c) ej2πftdf +1

2

∞−∞

S (f + f c) ej2πftdf

(s (t)cos(2πf ct)) = ∞−∞

S (f − f c) + S (f + f c)2

ej2πftdf

E x p l o i t i n g t h e u n i q u e n e s s p r o p e r t y o f t h e F o u r i e r t r a n s f o r m , w e h a v e

F (s (t)cos(2πf ct)) =S (f − f c) + S (f + f c)

2( 4 . 3 7 )

T h i s c o m p o n e n t o f t h e s p e c t r u m c o n s i s t s o f t h e o r i g i n a l s i g n a l ' s s p e c t r u m d e l a y e d a n d a d v a n c e d

i n f r e q u e n c y . T h e s p e c t r u m o f t h e a m p l i t u d e m o d u l a t e d s i g n a l i s s h o w n i n F i g u r e 4 . 1 2 .

S(f)

fW –W

X(f)

f –fc+W –fc –W fc+Wfc –W –fc fc

S(f–fc)S(f+fc)

F i g u r e 4 . 1 2 : A s i g n a l w h i c h h a s a t r i a n g u l a r s h a p e d s p e c t r u m i s s h o w n i n t h e t o p p l o t . I t s h i g h e s t

f r e q u e n c y t h e l a r g e s t f r e q u e n c y c o n t a i n i n g p o w e r i s

W H z . O n c e a m p l i t u d e m o d u l a t e d , t h e r e s u l t i n g

s p e c t r u m h a s " l i n e s " c o r r e s p o n d i n g t o t h e F o u r i e r s e r i e s c o m p o n e n t s a t ± (f c) a n d t h e o r i g i n a l t r i a n g u l a r

s p e c t r u m s h i f t e d t o c o m p o n e n t s a t ± (f c) a n d s c a l e d b y

12

.

N o t e h o w i n t h i s g u r e t h e s i g n a l s (t) i s d e n e d i n t h e f r e q u e n c y d o m a i n . T o n d i t s t i m e

d o m a i n r e p r e s e n t a t i o n , w e s i m p l y u s e t h e i n v e r s e F o u r i e r t r a n s f o r m .

E x e r c i s e 4 . 8 . 3

( S o l u t i o n o n p . 1 6 8 . )

W h a t i s t h e s i g n a l

s (t) t h a t c o r r e s p o n d s t o t h e s p e c t r u m s h o w n i n t h e u p p e r p a n e l o f F i g u r e 4 . 1 2 ?





E x e r c i s e 4 . 8 . 4

( S o l u t i o n o n p . 1 6 8 . )

W h a t i s t h e p o w e r i n

x (t), t h e a m p l i t u d e - m o d u l a t e d s i g n a l ? T r y t h e c a l c u l a t i o n i n b o t h t h e t i m e

a n d f r e q u e n c y d o m a i n s .

I n t h i s e x a m p l e , w e c a l l t h e s i g n a l

s (t)a b a s e b a n d s i g n a l b e c a u s e i t s p o w e r i s c o n t a i n e d a t l o w f r e q u e n c i e s .

S i g n a l s s u c h a s s p e e c h a n d t h e D o w J o n e s a v e r a g e s a r e b a s e b a n d s i g n a l s . T h e b a s e b a n d s i g n a l ' s b a n d w i d t h

e q u a l s W , t h e h i g h e s t f r e q u e n c y a t w h i c h i t h a s p o w e r . S i n c e x (t)' s s p e c t r u m i s c o n n e d t o a f r e q u e n c y b a n d

n o t c l o s e t o t h e o r i g i n ( w e a s s u m e f c W ) , w e h a v e a b a n d p a s s s i g n a l . T h e b a n d w i d t h o f a b a n d p a s s

s i g n a l i s n o t i t s h i g h e s t f r e q u e n c y , b u t t h e r a n g e o f p o s i t i v e f r e q u e n c i e s w h e r e t h e s i g n a l h a s p o w e r . T h u s ,

i n t h i s e x a m p l e , t h e b a n d w i d t h i s 2W Hz . W h y a s i g n a l ' s b a n d w i d t h s h o u l d d e p e n d o n i t s s p e c t r a l s h a p e

w i l l b e c o m e c l e a r o n c e w e d e v e l o p c o m m u n i c a t i o n s s y s t e m s .

4 . 9 L i n e a r T i m e I n v a r i a n t S y s t e m s

1 4

W h e n w e a p p l y a p e r i o d i c i n p u t t o a l i n e a r , t i m e - i n v a r i a n t s y s t e m , t h e o u t p u t i s p e r i o d i c a n d h a s F o u r i e r

s e r i e s c o e c i e n t s e q u a l t o t h e p r o d u c t o f t h e s y s t e m ' s f r e q u e n c y r e s p o n s e a n d t h e i n p u t ' s F o u r i e r c o e c i e n t s

( F i l t e r i n g P e r i o d i c S i g n a l s ( 4 . 2 7 ) ) . T h e w a y w e d e r i v e d t h e s p e c t r u m o f n o n - p e r i o d i c s i g n a l f r o m p e r i o d i c

o n e s m a k e s i t c l e a r t h a t t h e s a m e k i n d o f r e s u l t w o r k s w h e n t h e i n p u t i s n o t p e r i o d i c : I f x (t) s e r v e s a s

t h e i n p u t t o a l i n e a r , t i m e - i n v a r i a n t s y s t e m h a v i n g f r e q u e n c y r e s p o n s e H (f ), t h e s p e c t r u m o f

t h e o u t p u t i s X (f ) H (f ) .

E x a m p l e 4 . 6

L e t ' s u s e t h i s f r e q u e n c y - d o m a i n i n p u t - o u t p u t r e l a t i o n s h i p f o r l i n e a r , t i m e - i n v a r i a n t s y s t e m s t o

n d a f o r m u l a f o r t h e RC - c i r c u i t ' s r e s p o n s e t o a p u l s e i n p u t . W e h a v e e x p r e s s i o n s f o r t h e i n p u t ' s

s p e c t r u m a n d t h e s y s t e m ' s f r e q u e n c y r e s p o n s e .

P (f ) = e−(jπf ∆) sin(πf ∆)

πf ( 4 . 3 8 )

H (f ) =1

1 + j2πfRC

( 4 . 3 9 )

T h u s , t h e o u t p u t ' s F o u r i e r t r a n s f o r m e q u a l s

Y (f ) = e−(jπf ∆) sin(πf ∆)

πf

1

1 + j2πfRC ( 4 . 4 0 )

Y o u w o n ' t n d t h i s F o u r i e r t r a n s f o r m i n o u r t a b l e , a n d t h e r e q u i r e d i n t e g r a l i s d i c u l t t o e v a l u a t e

a s t h e e x p r e s s i o n s t a n d s . T h i s s i t u a t i o n r e q u i r e s c l e v e r n e s s a n d a n u n d e r s t a n d i n g o f t h e F o u r i e r

t r a n s f o r m ' s p r o p e r t i e s . I n p a r t i c u l a r , r e c a l l E u l e r ' s r e l a t i o n f o r t h e s i n u s o i d a l t e r m a n d n o t e t h e

f a c t t h a t m u l t i p l i c a t i o n b y a c o m p l e x e x p o n e n t i a l i n t h e f r e q u e n c y d o m a i n a m o u n t s t o a t i m e d e l a y .

L e t ' s m o m e n t a r i l y m a k e t h e e x p r e s s i o n f o r Y (f ) m o r e c o m p l i c a t e d .

e−(jπf ∆) sin(πf ∆)πf = e−(jπf ∆) ejπf ∆−e−(jπf ∆)

j2πf

= 1j2πf

1 − e−(j2πf ∆) ( 4 . 4 1 )


Y (f ) =1

j2πf

1 − e−(jπf ∆)

1

1 + j2πfRC ( 4 . 4 2 )

T h e t a b l e o f F o u r i e r t r a n s f o r m p r o p e r t i e s ( T a b l e 4 . 2 : F o u r i e r T r a n s f o r m P r o p e r t i e s ) s u g g e s t s

t h i n k i n g a b o u t t h i s e x p r e s s i o n a s a p r o d u c t o f t e r m s .

1 4





1 4 3

• M u l t i p l i c a t i o n b y

1j2πf m e a n s i n t e g r a t i o n .

• M u l t i p l i c a t i o n b y t h e c o m p l e x e x p o n e n t i a l e−(j2πf ∆)m e a n s d e l a y b y ∆ s e c o n d s i n t h e t i m e

d o m a i n .

•T h e t e r m

1 − e−(j2πf ∆)

m e a n s , i n t h e t i m e d o m a i n , s u b t r a c t t h e t i m e - d e l a y e d s i g n a l f r o m i t s

o r i g i n a l .

• T h e i n v e r s e t r a n s f o r m o f t h e f r e q u e n c y r e s p o n s e i s

1RC e

− tRC u (t) .

W e c a n t r a n s l a t e e a c h o f t h e s e f r e q u e n c y - d o m a i n p r o d u c t s i n t o t i m e - d o m a i n o p e r a t i o n s i n a n y

o r d e r w e l i k e b e c a u s e t h e o r d e r i n w h i c h m u l t i p l i c a t i o n s o c c u r d o e s n ' t a e c t t h e r e s u l t . L e t ' s

s t a r t w i t h t h e p r o d u c t o f

1j2πf ( i n t e g r a t i o n i n t h e t i m e d o m a i n ) a n d t h e t r a n s f e r f u n c t i o n :

1

j2πf

1

1 + j2πfRC ↔

1 − e−t

RC

u (t) ( 4 . 4 3 )

T h e m i d d l e t e r m i n t h e e x p r e s s i o n f o r Y (f ) c o n s i s t s o f t h e d i e r e n c e o f t w o t e r m s : t h e c o n s t a n t

1 a n d t h e c o m p l e x e x p o n e n t i a l e−(j2πf ∆). B e c a u s e o f t h e F o u r i e r t r a n s f o r m ' s l i n e a r i t y , w e s i m p l y

s u b t r a c t t h e r e s u l t s .

Y (f ) ↔

1 − e−t

RC

u (t) −

1 − e−

t−∆RC

u (t − ∆) ( 4 . 4 4 )

N o t e t h a t i n d e l a y i n g t h e s i g n a l h o w w e c a r e f u l l y i n c l u d e d t h e u n i t s t e p . T h e s e c o n d t e r m i n t h i s

r e s u l t d o e s n o t b e g i n u n t i l t = ∆. T h u s , t h e w a v e f o r m s s h o w n i n t h e F i l t e r i n g P e r i o d i c S i g n a l s

( F i g u r e 4 . 1 0 : F i l t e r i n g a p e r i o d i c s i g n a l ) e x a m p l e m e n t i o n e d a b o v e a r e e x p o n e n t i a l s . W e s a y t h a t

t h e t i m e c o n s t a n t o f a n e x p o n e n t i a l l y d e c a y i n g s i g n a l e q u a l s t h e t i m e i t t a k e s t o d e c r e a s e b y

1e

o f i t s o r i g i n a l v a l u e . T h u s , t h e t i m e - c o n s t a n t o f t h e r i s i n g a n d f a l l i n g p o r t i o n s o f t h e o u t p u t e q u a l

t h e p r o d u c t o f t h e c i r c u i t ' s r e s i s t a n c e a n d c a p a c i t a n c e .

E x e r c i s e 4 . 9 . 1

( S o l u t i o n o n p . 1 6 8 . )

D e r i v e t h e l t e r ' s o u t p u t b y c o n s i d e r i n g t h e t e r m s i n ( 4 . 4 1 ) i n t h e o r d e r g i v e n . I n t e g r a t e l a s t r a t h e r

t h a n r s t . Y o u s h o u l d g e t t h e s a m e a n s w e r .

I n t h i s e x a m p l e , w e u s e d t h e t a b l e e x t e n s i v e l y t o n d t h e i n v e r s e F o u r i e r t r a n s f o r m , r e l y i n g m o s t l y o n w h a t

m u l t i p l i c a t i o n b y c e r t a i n f a c t o r s , l i k e

1j2πf a n d e−(j2πf ∆)

, m e a n t . W e e s s e n t i a l l y t r e a t e d m u l t i p l i c a t i o n

b y t h e s e f a c t o r s a s i f t h e y w e r e t r a n s f e r f u n c t i o n s o f s o m e c t i t i o u s c i r c u i t . T h e t r a n s f e r f u n c t i o n

1j2πf

c o r r e s p o n d e d t o a c i r c u i t t h a t i n t e g r a t e d , a n d

e−(j2πf ∆)t o o n e t h a t d e l a y e d . W e e v e n i m p l i c i t l y i n t e r p r e t e d

t h e c i r c u i t ' s t r a n s f e r f u n c t i o n a s t h e i n p u t ' s s p e c t r u m ! T h i s a p p r o a c h t o n d i n g i n v e r s e t r a n s f o r m s b r e a k i n g

d o w n a c o m p l i c a t e d e x p r e s s i o n i n t o p r o d u c t s a n d s u m s o f s i m p l e c o m p o n e n t s i s t h e e n g i n e e r ' s w a y o f

b r e a k i n g d o w n t h e p r o b l e m i n t o s e v e r a l s u b p r o b l e m s t h a t a r e m u c h e a s i e r t o s o l v e a n d t h e n g l u i n g t h e r e s u l t s

t o g e t h e r . A l o n g t h e w a y w e m a y m a k e t h e s y s t e m s e r v e a s t h e i n p u t , b u t i n t h e r u l e Y (f ) = X (f ) H (f ) ,

w h i c h t e r m i s t h e i n p u t a n d w h i c h i s t h e t r a n s f e r f u n c t i o n i s m e r e l y a n o t a t i o n a l m a t t e r ( w e l a b e l e d o n e

f a c t o r w i t h a n X a n d t h e o t h e r w i t h a n H ) .

4 . 9 . 1 T r a n s f e r F u n c t i o n s

T h e n o t i o n o f a t r a n s f e r f u n c t i o n a p p l i e s w e l l b e y o n d l i n e a r c i r c u i t s . A l t h o u g h w e d o n ' t h a v e a l l w e n e e d

t o d e m o n s t r a t e t h e r e s u l t a s y e t , a l l l i n e a r , t i m e - i n v a r i a n t s y s t e m s h a v e a f r e q u e n c y - d o m a i n i n p u t - o u t p u t

r e l a t i o n g i v e n b y t h e p r o d u c t o f t h e i n p u t ' s F o u r i e r t r a n s f o r m a n d t h e s y s t e m ' s t r a n s f e r f u n c t i o n . T h u s ,

l i n e a r c i r c u i t s a r e a s p e c i a l c a s e o f l i n e a r , t i m e - i n v a r i a n t s y s t e m s . A s w e t a c k l e m o r e s o p h i s t i c a t e d p r o b l e m s

i n t r a n s m i t t i n g , m a n i p u l a t i n g , a n d r e c e i v i n g i n f o r m a t i o n , w e w i l l a s s u m e l i n e a r s y s t e m s h a v i n g c e r t a i n

p r o p e r t i e s ( t r a n s f e r f u n c t i o n s ) w i t h o u t w o r r y i n g a b o u t w h a t c i r c u i t h a s t h e d e s i r e d p r o p e r t y . A t t h i s p o i n t ,

y o u m a y b e c o n c e r n e d t h a t t h i s a p p r o a c h i s g l i b , a n d r i g h t l y s o . L a t e r w e ' l l s h o w t h a t b y i n v o l v i n g s o f t w a r e

t h a t w e r e a l l y d o n ' t n e e d t o b e c o n c e r n e d a b o u t c o n s t r u c t i n g a t r a n s f e r f u n c t i o n f r o m c i r c u i t e l e m e n t s a n d

o p - a m p s .





4 . 9 . 2 C o m m u t a t i v e T r a n s f e r F u n c t i o n s

A n o t h e r i n t e r e s t i n g n o t i o n a r i s e s f r o m t h e c o m m u t a t i v e p r o p e r t y o f m u l t i p l i c a t i o n ( e x p l o i t e d i n a n e x a m p l e

a b o v e ( E x a m p l e 4 . 6 ) ) : W e c a n r a t h e r a r b i t r a r i l y c h o s e a n o r d e r i n w h i c h t o a p p l y e a c h p r o d u c t . C o n s i d e r a

c a s c a d e o f t w o l i n e a r , t i m e - i n v a r i a n t s y s t e m s . B e c a u s e t h e F o u r i e r t r a n s f o r m o f t h e r s t s y s t e m ' s o u t p u t i s

X (f ) H 1 (f ) a n d i t s e r v e s a s t h e s e c o n d s y s t e m ' s i n p u t , t h e c a s c a d e ' s o u t p u t s p e c t r u m i s X (f ) H 1 (f ) H 2 (f ) .

B e c a u s e t h i s p r o d u c t a l s o e q u a l s X (f ) H 2 (f ) H 1 (f ), t h e c a s c a d e h a v i n g t h e l i n e a r s y s t e m s i n t h e

o p p o s i t e o r d e r y i e l d s t h e s a m e r e s u l t . F u r t h e r m o r e , t h e c a s c a d e a c t s l i k e a s i n g l e l i n e a r s y s t e m ,

h a v i n g t r a n s f e r f u n c t i o n

H 1 (f ) H 2 (f ). T h i s r e s u l t a p p l i e s t o o t h e r c o n g u r a t i o n s o f l i n e a r , t i m e - i n v a r i a n t

s y s t e m s a s w e l l ; s e e t h i s F r e q u e n c y D o m a i n P r o b l e m ( P r o b l e m 4 . 1 3 ) . E n g i n e e r s e x p l o i t t h i s p r o p e r t y b y

d e t e r m i n i n g w h a t t r a n s f e r f u n c t i o n t h e y w a n t , t h e n b r e a k i n g i t d o w n i n t o c o m p o n e n t s a r r a n g e d a c c o r d i n g t o

s t a n d a r d c o n g u r a t i o n s . U s i n g t h e f a c t t h a t o p - a m p c i r c u i t s c a n b e c o n n e c t e d i n c a s c a d e w i t h t h e t r a n s f e r

f u n c t i o n e q u a l i n g t h e p r o d u c t o f i t s c o m p o n e n t ' s t r a n s f e r f u n c t i o n ( s e e t h i s a n a l o g s i g n a l p r o c e s s i n g p r o b l e m

( P r o b l e m 3 . 4 4 ) ) , w e n d a r e a d y w a y o f r e a l i z i n g d e s i g n s . W e n o w u n d e r s t a n d w h y o p - a m p i m p l e m e n t a t i o n s

o f t r a n s f e r f u n c t i o n s a r e s o i m p o r t a n t .




1 4 5

4 . 1 0 M o d e l i n g t h e S p e e c h S i g n a l

1 5

V o c a l T r a c t

Nasal Cavity

Lungs

Vocal CordsTongue

Teeth

Lips

Oral Cavity

Air Flow

F i g u r e 4 . 1 3 : T h e v o c a l t r a c t i s s h o w n i n c r o s s - s e c t i o n . A i r p r e s s u r e p r o d u c e d b y t h e l u n g s f o r c e s

a i r t h r o u g h t h e v o c a l c o r d s t h a t , w h e n u n d e r t e n s i o n , p r o d u c e p u s o f a i r t h a t e x c i t e r e s o n a n c e s i n t h e

v o c a l a n d n a s a l c a v i t i e s . W h a t a r e n o t s h o w n a r e t h e b r a i n a n d t h e m u s c u l a t u r e t h a t c o n t r o l t h e e n t i r e

s p e e c h p r o d u c t i o n p r o c e s s .

1 5






M o d e l o f t h e V o c a l T r a c t

VocalTract

pT(t) s(t)VocalCords

Lungsl(t)

neuralcontrol

neuralcontrol

F i g u r e 4 . 1 4 : T h e s y s t e m s m o d e l f o r t h e v o c a l t r a c t . T h e s i g n a l s l (t), pT (t), a n d s (t) a r e t h e a i r

p r e s s u r e p r o v i d e d b y t h e l u n g s , t h e p e r i o d i c p u l s e o u t p u t p r o v i d e d b y t h e v o c a l c o r d s , a n d t h e s p e e c h

o u t p u t r e s p e c t i v e l y . C o n t r o l s i g n a l s f r o m t h e b r a i n a r e s h o w n a s e n t e r i n g t h e s y s t e m s f r o m t h e t o p .

C l e a r l y , t h e s e c o m e f r o m t h e s a m e s o u r c e , b u t f o r m o d e l i n g p u r p o s e s w e d e s c r i b e t h e m s e p a r a t e l y s i n c e

t h e y c o n t r o l d i e r e n t a s p e c t s o f t h e s p e e c h s i g n a l .

T h e i n f o r m a t i o n c o n t a i n e d i n t h e s p o k e n w o r d i s c o n v e y e d b y t h e s p e e c h s i g n a l . B e c a u s e w e s h a l l a n a l y z e

s e v e r a l s p e e c h t r a n s m i s s i o n a n d p r o c e s s i n g s c h e m e s , w e n e e d t o u n d e r s t a n d t h e s p e e c h s i g n a l ' s s t r u c t u r e

w h a t ' s s p e c i a l a b o u t t h e s p e e c h s i g n a l a n d h o w w e c a n d e s c r i b e a n d m o d e l s p e e c h p r o d u c t i o n . T h i s

m o d e l i n g e o r t c o n s i s t s o f n d i n g a s y s t e m ' s d e s c r i p t i o n o f h o w r e l a t i v e l y u n s t r u c t u r e d s i g n a l s , a r i s i n g f r o m

s i m p l e s o u r c e s , a r e g i v e n s t r u c t u r e b y p a s s i n g t h e m t h r o u g h a n i n t e r c o n n e c t i o n o f s y s t e m s t o y i e l d s p e e c h .

F o r s p e e c h a n d f o r m a n y o t h e r s i t u a t i o n s , s y s t e m c h o i c e i s g o v e r n e d b y t h e p h y s i c s u n d e r l y i n g t h e a c t u a l

p r o d u c t i o n p r o c e s s . B e c a u s e t h e f u n d a m e n t a l e q u a t i o n o f a c o u s t i c s t h e w a v e e q u a t i o n a p p l i e s h e r e a n d

i s l i n e a r , w e c a n u s e l i n e a r s y s t e m s i n o u r m o d e l w i t h a f a i r a m o u n t o f a c c u r a c y . T h e n a t u r a l n e s s o f l i n e a r

s y s t e m m o d e l s f o r s p e e c h d o e s n o t e x t e n d t o o t h e r s i t u a t i o n s . I n m a n y c a s e s , t h e u n d e r l y i n g m a t h e m a t i c s

g o v e r n e d b y t h e p h y s i c s , b i o l o g y , a n d / o r c h e m i s t r y o f t h e p r o b l e m a r e n o n l i n e a r , l e a v i n g l i n e a r s y s t e m s

m o d e l s a s a p p r o x i m a t i o n s . N o n l i n e a r m o d e l s a r e f a r m o r e d i c u l t a t t h e c u r r e n t s t a t e o f k n o w l e d g e t o

u n d e r s t a n d , a n d i n f o r m a t i o n e n g i n e e r s f r e q u e n t l y p r e f e r l i n e a r m o d e l s b e c a u s e t h e y p r o v i d e a g r e a t e r l e v e l

o f c o m f o r t , b u t n o t n e c e s s a r i l y a s u c i e n t l e v e l o f a c c u r a c y .

F i g u r e 4 . 1 3 ( V o c a l T r a c t ) s h o w s t h e a c t u a l s p e e c h p r o d u c t i o n s y s t e m a n d F i g u r e 4 . 1 4 ( M o d e l o f t h e V o c a l

T r a c t ) s h o w s t h e m o d e l s p e e c h p r o d u c t i o n s y s t e m . T h e c h a r a c t e r i s t i c s o f t h e m o d e l d e p e n d s o n w h e t h e r

y o u a r e s a y i n g a v o w e l o r a c o n s o n a n t . W e c o n c e n t r a t e r s t o n t h e v o w e l p r o d u c t i o n m e c h a n i s m . W h e n

t h e v o c a l c o r d s a r e p l a c e d u n d e r t e n s i o n b y t h e s u r r o u n d i n g m u s c u l a t u r e , a i r p r e s s u r e f r o m t h e l u n g s c a u s e s

t h e v o c a l c o r d s t o v i b r a t e . T o v i s u a l i z e t h i s e e c t , t a k e a r u b b e r b a n d a n d h o l d i t i n f r o n t o f y o u r l i p s . I f

h e l d o p e n w h e n y o u b l o w t h r o u g h i t , t h e a i r p a s s e s t h r o u g h m o r e o r l e s s f r e e l y ; t h i s s i t u a t i o n c o r r e s p o n d s

t o " b r e a t h i n g m o d e " . I f h e l d t a u t l y a n d c l o s e t o g e t h e r , b l o w i n g t h r o u g h t h e o p e n i n g c a u s e s t h e s i d e s o f t h e

r u b b e r b a n d t o v i b r a t e . T h i s e e c t w o r k s b e s t w i t h a w i d e r u b b e r b a n d . Y o u c a n i m a g i n e w h a t t h e a i r o w

i s l i k e o n t h e o p p o s i t e s i d e o f t h e r u b b e r b a n d o r t h e v o c a l c o r d s . Y o u r l u n g p o w e r i s t h e s i m p l e s o u r c e

r e f e r r e d t o e a r l i e r ; i t c a n b e m o d e l e d a s a c o n s t a n t s u p p l y o f a i r p r e s s u r e . T h e v o c a l c o r d s r e s p o n d t o t h i s

i n p u t b y v i b r a t i n g , w h i c h m e a n s t h e o u t p u t o f t h i s s y s t e m i s s o m e p e r i o d i c f u n c t i o n .

E x e r c i s e 4 . 1 0 . 1

( S o l u t i o n o n p . 1 6 8 . )

N o t e t h a t t h e v o c a l c o r d s y s t e m t a k e s a c o n s t a n t i n p u t a n d p r o d u c e s a p e r i o d i c a i r o w t h a t

c o r r e s p o n d s t o i t s o u t p u t s i g n a l . I s t h i s s y s t e m l i n e a r o r n o n l i n e a r ? J u s t i f y y o u r a n s w e r .

S i n g e r s m o d i f y v o c a l c o r d t e n s i o n t o c h a n g e t h e p i t c h t o p r o d u c e t h e d e s i r e d m u s i c a l n o t e . V o c a l c o r d

t e n s i o n i s g o v e r n e d b y a c o n t r o l i n p u t t o t h e m u s c u l a t u r e ; i n s y s t e m ' s m o d e l s w e r e p r e s e n t c o n t r o l i n p u t s a s

s i g n a l s c o m i n g i n t o t h e t o p o r b o t t o m o f t h e s y s t e m . C e r t a i n l y i n t h e c a s e o f s p e e c h a n d i n m a n y o t h e r c a s e s

a s w e l l , i t i s t h e c o n t r o l i n p u t t h a t c a r r i e s i n f o r m a t i o n , i m p r e s s i n g i t o n t h e s y s t e m ' s o u t p u t . T h e c h a n g e o f

s i g n a l s t r u c t u r e r e s u l t i n g f r o m v a r y i n g t h e c o n t r o l i n p u t e n a b l e s i n f o r m a t i o n t o b e c o n v e y e d b y t h e s i g n a l ,

a p r o c e s s g e n e r i c a l l y k n o w n a s m o d u l a t i o n . I n s i n g i n g , m u s i c a l i t y i s l a r g e l y c o n v e y e d b y p i t c h ; i n w e s t e r n




1 4 7

s p e e c h , p i t c h i s m u c h l e s s i m p o r t a n t . A s e n t e n c e c a n b e r e a d i n a m o n o t o n e f a s h i o n w i t h o u t c o m p l e t e l y

d e s t r o y i n g t h e i n f o r m a t i o n e x p r e s s e d b y t h e s e n t e n c e . H o w e v e r , t h e d i e r e n c e b e t w e e n a s t a t e m e n t a n d a

q u e s t i o n i s f r e q u e n t l y e x p r e s s e d b y p i t c h c h a n g e s . F o r e x a m p l e , n o t e t h e s o u n d d i e r e n c e s b e t w e e n " L e t ' s

g o t o t h e p a r k . " a n d " L e t ' s g o t o t h e p a r k ? " ;

F o r s o m e c o n s o n a n t s , t h e v o c a l c o r d s v i b r a t e j u s t a s i n v o w e l s . F o r e x a m p l e , t h e s o - c a l l e d n a s a l s o u n d s

" n " a n d " m " h a v e t h i s p r o p e r t y . F o r o t h e r s , t h e v o c a l c o r d s d o n o t p r o d u c e a p e r i o d i c o u t p u t . G o i n g b a c k t o

m e c h a n i s m , w h e n c o n s o n a n t s s u c h a s " f " a r e p r o d u c e d , t h e v o c a l c o r d s a r e p l a c e d u n d e r m u c h l e s s t e n s i o n ,

w h i c h r e s u l t s i n t u r b u l e n t o w . T h e r e s u l t i n g o u t p u t a i r o w i s q u i t e e r r a t i c , s o m u c h s o t h a t w e d e s c r i b e i t

a s b e i n g n o i s e . W e d e n e n o i s e c a r e f u l l y l a t e r w h e n w e d e l v e i n t o c o m m u n i c a t i o n p r o b l e m s .

T h e v o c a l c o r d s ' p e r i o d i c o u t p u t c a n b e w e l l d e s c r i b e d b y t h e p e r i o d i c p u l s e t r a i n pT (t) a s s h o w n i n t h e

p e r i o d i c p u l s e s i g n a l ( F i g u r e 4 . 1 ) , w i t h T d e n o t i n g t h e p i t c h p e r i o d . T h e s p e c t r u m o f t h i s s i g n a l ( 4 . 9 ) c o n t a i n s

h a r m o n i c s o f t h e f r e q u e n c y

1T , w h a t i s k n o w n a s t h e p i t c h f r e q u e n c y o r t h e f u n d a m e n t a l f r e q u e n c y

F0 . T h e p r i m a r y d i e r e n c e b e t w e e n a d u l t m a l e a n d f e m a l e / p r e p u b e s c e n t s p e e c h i s p i t c h . B e f o r e p u b e r t y ,

p i t c h f r e q u e n c y f o r n o r m a l s p e e c h r a n g e s b e t w e e n 1 5 0 - 4 0 0 H z f o r b o t h m a l e s a n d f e m a l e s . A f t e r p u b e r t y ,

t h e v o c a l c o r d s o f m a l e s u n d e r g o a p h y s i c a l c h a n g e , w h i c h h a s t h e e e c t o f l o w e r i n g t h e i r p i t c h f r e q u e n c y

t o t h e r a n g e 8 0 - 1 6 0 H z . I f w e c o u l d e x a m i n e t h e v o c a l c o r d o u t p u t , w e c o u l d p r o b a b l y d i s c e r n w h e t h e r t h e

s p e a k e r w a s m a l e o r f e m a l e . T h i s d i e r e n c e i s a l s o r e a d i l y a p p a r e n t i n t h e s p e e c h s i g n a l i t s e l f .

T o s i m p l i f y o u r s p e e c h m o d e l i n g e o r t , w e s h a l l a s s u m e t h a t t h e p i t c h p e r i o d i s c o n s t a n t . W i t h t h i s

s i m p l i c a t i o n , w e c o l l a p s e t h e v o c a l - c o r d - l u n g s y s t e m a s a s i m p l e s o u r c e t h a t p r o d u c e s t h e p e r i o d i c p u l s e

s i g n a l ( F i g u r e 4 . 1 4 ( M o d e l o f t h e V o c a l T r a c t ) ) . T h e s o u n d p r e s s u r e s i g n a l t h u s p r o d u c e d e n t e r s t h e m o u t h

b e h i n d t h e t o n g u e , c r e a t e s a c o u s t i c d i s t u r b a n c e s , a n d e x i t s p r i m a r i l y t h r o u g h t h e l i p s a n d t o s o m e e x t e n t

t h r o u g h t h e n o s e . S p e e c h s p e c i a l i s t s t e n d t o n a m e t h e m o u t h , t o n g u e , t e e t h , l i p s , a n d n a s a l c a v i t y t h e v o c a l

t r a c t . T h e p h y s i c s g o v e r n i n g t h e s o u n d d i s t u r b a n c e s p r o d u c e d i n t h e v o c a l t r a c t a n d t h o s e o f a n o r g a n

p i p e a r e q u i t e s i m i l a r . W h e r e a s t h e o r g a n p i p e h a s t h e s i m p l e p h y s i c a l s t r u c t u r e o f a s t r a i g h t t u b e , t h e

c r o s s - s e c t i o n o f t h e v o c a l t r a c t " t u b e " v a r i e s a l o n g i t s l e n g t h b e c a u s e o f t h e p o s i t i o n s o f t h e t o n g u e , t e e t h ,

a n d l i p s . I t i s t h e s e p o s i t i o n s t h a t a r e c o n t r o l l e d b y t h e b r a i n t o p r o d u c e t h e v o w e l s o u n d s . S p r e a d i n g t h e

l i p s , b r i n g i n g t h e t e e t h t o g e t h e r , a n d b r i n g i n g t h e t o n g u e t o w a r d t h e f r o n t p o r t i o n o f t h e r o o f o f t h e m o u t h

p r o d u c e s t h e s o u n d " e e . " R o u n d i n g t h e l i p s , s p r e a d i n g t h e t e e t h , a n d p o s i t i o n i n g t h e t o n g u e t o w a r d t h e

b a c k o f t h e o r a l c a v i t y p r o d u c e s t h e s o u n d " o h . " T h e s e v a r i a t i o n s r e s u l t i n a l i n e a r , t i m e - i n v a r i a n t s y s t e m

t h a t h a s a f r e q u e n c y r e s p o n s e t y p i e d b y s e v e r a l p e a k s , a s s h o w n i n F i g u r e 4 . 1 5 ( S p e e c h S p e c t r u m ) .





S p e e c h S p e c t r u m

0 5000-20

-10

0

10

20

30

F1

S p e c t r a l M a g n i t u d e ( d

B )

Frequency (Hz)

F2 F3 F4 F5

“oh”

0 5000-20

-10

0

10

20

30

F1

Frequency (Hz)

F2 F3 F4F5

“ee”

0 0.005 0.01 0.015 0.02-0.5

0

0.5

Time (s)

“oh”

A m p l i t u d e

0 0.005 0.01 0.015 0.02-0.5

0

0.5

Time (s)

“ee”

F i g u r e 4 . 1 5 : T h e i d e a l f r e q u e n c y r e s p o n s e o f t h e v o c a l t r a c t a s i t p r o d u c e s t h e s o u n d s " o h " a n d

" e e " a r e s h o w n o n t h e t o p l e f t a n d t o p r i g h t , r e s p e c t i v e l y . T h e s p e c t r a l p e a k s a r e k n o w n a s f o r m a n t s ,

a n d a r e n u m b e r e d c o n s e c u t i v e l y f r o m l o w t o h i g h f r e q u e n c y . T h e b o t t o m p l o t s s h o w s p e e c h w a v e f o r m s

c o r r e s p o n d i n g t o t h e s e s o u n d s .

T h e s e p e a k s a r e k n o w n a s f o r m a n t s . T h u s , s p e e c h s i g n a l p r o c e s s o r s w o u l d s a y t h a t t h e s o u n d " o h " h a s

a h i g h e r r s t f o r m a n t f r e q u e n c y t h a n t h e s o u n d " e e , " w i t h F2 b e i n g m u c h h i g h e r d u r i n g " e e . " F2 a n d F3( t h e s e c o n d a n d t h i r d f o r m a n t s ) h a v e m o r e e n e r g y i n " e e " t h a n i n " o h . " R a t h e r t h a n s e r v i n g a s a l t e r ,

r e j e c t i n g h i g h o r l o w f r e q u e n c i e s , t h e v o c a l t r a c t s e r v e s t o s h a p e t h e s p e c t r u m o f t h e v o c a l c o r d s . I n t h e

t i m e d o m a i n , w e h a v e a p e r i o d i c s i g n a l , t h e p i t c h , s e r v i n g a s t h e i n p u t t o a l i n e a r s y s t e m . W e k n o w t h a t

t h e o u t p u t t h e s p e e c h s i g n a l w e u t t e r a n d t h a t i s h e a r d b y o t h e r s a n d o u r s e l v e s w i l l a l s o b e p e r i o d i c .

E x a m p l e t i m e - d o m a i n s p e e c h s i g n a l s a r e s h o w n i n F i g u r e 4 . 1 5 ( S p e e c h S p e c t r u m ) , w h e r e t h e p e r i o d i c i t y i s

q u i t e a p p a r e n t .

E x e r c i s e 4 . 1 0 . 2

( S o l u t i o n o n p . 1 6 8 . )

F r o m t h e w a v e f o r m p l o t s s h o w n i n F i g u r e 4 . 1 5 ( S p e e c h S p e c t r u m ) , d e t e r m i n e t h e p i t c h p e r i o d

a n d t h e p i t c h f r e q u e n c y .

S i n c e s p e e c h s i g n a l s a r e p e r i o d i c , s p e e c h h a s a F o u r i e r s e r i e s r e p r e s e n t a t i o n g i v e n b y a l i n e a r c i r c u i t ' s r e s p o n s e

t o a p e r i o d i c s i g n a l ( 4 . 2 7 ) . B e c a u s e t h e a c o u s t i c s o f t h e v o c a l t r a c t a r e l i n e a r , w e k n o w t h a t t h e s p e c t r u m o f

t h e o u t p u t e q u a l s t h e p r o d u c t o f t h e p i t c h s i g n a l ' s s p e c t r u m a n d t h e v o c a l t r a c t ' s f r e q u e n c y r e s p o n s e . W e




1 4 9

t h u s o b t a i n t h e f u n d a m e n t a l m o d e l o f s p e e c h p r o d u c t i o n .

S (f ) = P T (f ) H V (f ) ( 4 . 4 5 )

H e r e , H V (f ) i s t h e t r a n s f e r f u n c t i o n o f t h e v o c a l t r a c t s y s t e m . T h e F o u r i e r s e r i e s f o r t h e v o c a l c o r d s '

o u t p u t , d e r i v e d i n t h i s e q u a t i o n ( p . 1 2 2 ) , i s

ck = Ae−jπk∆

T sin

πk∆T

πk

( 4 . 4 6 )

a n d i s p l o t t e d o n t h e t o p i n F i g u r e 4 . 1 6 ( v o i c e s p e c t r u m ) . I f w e h a d , f o r e x a m p l e , a m a l e s p e a k e r w i t h

a b o u t a 1 1 0 H z p i t c h ( T 9.1ms) s a y i n g t h e v o w e l " o h " , t h e s p e c t r u m o f h i s s p e e c h p r e d i c t e d b y o u r

m o d e l i s s h o w n i n F i g u r e 4 . 1 6 ( b ) ( v o i c e s p e c t r u m ) .

v o i c e s p e c t r u m

( a ) p u l s e

0 1000 2000 3000 4000 5000-20

-10

0

10

20

30

40

50

p e c t r a l

m p l i t u d e ( d

Frequency (Hz)

Pitch Lines

( b ) v o i c e s p e c t r u m

F i g u r e 4 . 1 6 : T h e v o c a l t r a c t ' s t r a n s f e r f u n c t i o n , s h o w n a s t h e t h i n , s m o o t h l i n e , i s s u p e r i m p o s e d o n

t h e s p e c t r u m o f a c t u a l m a l e s p e e c h c o r r e s p o n d i n g t o t h e s o u n d " o h . " T h e p i t c h l i n e s c o r r e s p o n d i n g t o

h a r m o n i c s o f t h e p i t c h f r e q u e n c y a r e i n d i c a t e d . ( a ) T h e v o c a l c o r d s ' o u t p u t s p e c t r u m P T (f ). ( b ) T h e

v o c a l t r a c t ' s t r a n s f e r f u n c t i o n ,

H V (f ) a n d t h e s p e e c h s p e c t r u m .





T h e m o d e l s p e c t r u m i d e a l i z e s t h e m e a s u r e d s p e c t r u m , a n d c a p t u r e s a l l t h e i m p o r t a n t f e a t u r e s . T h e

m e a s u r e d s p e c t r u m c e r t a i n l y d e m o n s t r a t e s w h a t a r e k n o w n a s p i t c h l i n e s , a n d w e r e a l i z e f r o m o u r m o d e l

t h a t t h e y a r e d u e t o t h e v o c a l c o r d ' s p e r i o d i c e x c i t a t i o n o f t h e v o c a l t r a c t . T h e v o c a l t r a c t ' s s h a p i n g o f t h e

l i n e s p e c t r u m i s c l e a r l y e v i d e n t , b u t d i c u l t t o d i s c e r n e x a c t l y , e s p e c i a l l y a t t h e h i g h e r f r e q u e n c i e s . T h e

m o d e l t r a n s f e r f u n c t i o n f o r t h e v o c a l t r a c t m a k e s t h e f o r m a n t s m u c h m o r e r e a d i l y e v i d e n t .

E x e r c i s e 4 . 1 0 . 3

( S o l u t i o n o n p . 1 6 8 . )

T h e F o u r i e r s e r i e s c o e c i e n t s f o r s p e e c h a r e r e l a t e d t o t h e v o c a l t r a c t ' s t r a n s f e r f u n c t i o n o n l y a t

t h e f r e q u e n c i e s

kT , k ∈ 1, 2, . . . ; s e e p r e v i o u s r e s u l t ( 4 . 9 ) . W o u l d m a l e o r f e m a l e s p e e c h t e n d t o

h a v e a m o r e c l e a r l y i d e n t i a b l e f o r m a n t s t r u c t u r e w h e n i t s s p e c t r u m i s c o m p u t e d ? C o n s i d e r , f o r

e x a m p l e , h o w t h e s p e c t r u m s h o w n o n t h e r i g h t i n F i g u r e 4 . 1 6 ( v o i c e s p e c t r u m ) w o u l d c h a n g e i f t h e

p i t c h w e r e t w i c e a s h i g h ( ≈ (300) Hz) .

W h e n w e s p e a k , p i t c h a n d t h e v o c a l t r a c t ' s t r a n s f e r f u n c t i o n a r e n o t s t a t i c ; t h e y c h a n g e a c c o r d i n g t o t h e i r

c o n t r o l s i g n a l s t o p r o d u c e s p e e c h . E n g i n e e r s t y p i c a l l y d i s p l a y h o w t h e s p e e c h s p e c t r u m c h a n g e s o v e r t i m e

w i t h w h a t i s k n o w n a s a s p e c t r o g r a m ( S e c t i o n 5 . 1 0 ) F i g u r e 4 . 1 7 ( s p e c t r o g r a m ) . N o t e h o w t h e l i n e s p e c t r u m ,

w h i c h i n d i c a t e s h o w t h e p i t c h c h a n g e s , i s v i s i b l e d u r i n g t h e v o w e l s , b u t n o t d u r i n g t h e c o n s o n a n t s ( l i k e t h e

c e i n " R i c e " ) .




1 5 1

s p e c t r o g r a m

Time (s)

F r e q u e n c y ( H z )

0 0.2 0.4 0.6 0.8 1 1.2 0

1000

2000

3000

4000

5000

Ri ce Uni ver si ty

F i g u r e 4 . 1 7 : D i s p l a y e d i s t h e s p e c t r o g r a m o f t h e a u t h o r s a y i n g " R i c e U n i v e r s i t y . " B l u e i n d i c a t e s l o w

e n e r g y p o r t i o n o f t h e s p e c t r u m , w i t h r e d i n d i c a t i n g t h e m o s t e n e r g e t i c p o r t i o n s . B e l o w t h e s p e c t r o g r a m

i s t h e t i m e - d o m a i n s p e e c h s i g n a l , w h e r e t h e p e r i o d i c i t i e s c a n b e s e e n .

T h e f u n d a m e n t a l m o d e l f o r s p e e c h i n d i c a t e s h o w e n g i n e e r s u s e t h e p h y s i c s u n d e r l y i n g t h e s i g n a l g e n -

e r a t i o n p r o c e s s a n d e x p l o i t i t s s t r u c t u r e t o p r o d u c e a s y s t e m s m o d e l t h a t s u p p r e s s e s t h e p h y s i c s w h i l e

e m p h a s i z i n g h o w t h e s i g n a l i s " c o n s t r u c t e d . " F r o m e v e r y d a y l i f e , w e k n o w t h a t s p e e c h c o n t a i n s a w e a l t h o f

i n f o r m a t i o n . W e w a n t t o d e t e r m i n e h o w t o t r a n s m i t a n d r e c e i v e i t . E c i e n t a n d e e c t i v e s p e e c h t r a n s m i s -

s i o n r e q u i r e s u s t o k n o w t h e s i g n a l ' s p r o p e r t i e s a n d i t s s t r u c t u r e ( a s e x p r e s s e d b y t h e f u n d a m e n t a l m o d e l o f

s p e e c h p r o d u c t i o n ) . W e s e e f r o m F i g u r e 4 . 1 7 ( s p e c t r o g r a m ) , f o r e x a m p l e , t h a t s p e e c h c o n t a i n s s i g n i c a n t

e n e r g y f r o m z e r o f r e q u e n c y u p t o a r o u n d 5 k H z .

E e c t i v e s p e e c h t r a n s m i s s i o n s y s t e m s m u s t b e a b l e t o c o p e w i t h s i g n a l s h a v i n g t h i s b a n d w i d t h . I t

i s i n t e r e s t i n g t h a t o n e s y s t e m t h a t d o e s n o t s u p p o r t t h i s 5 k H z b a n d w i d t h i s t h e t e l e p h o n e : T e l e p h o n e

s y s t e m s a c t l i k e a b a n d p a s s l t e r p a s s i n g e n e r g y b e t w e e n a b o u t 2 0 0 H z a n d 3 . 2 k H z . T h e m o s t i m p o r t a n t

c o n s e q u e n c e o f t h i s l t e r i n g i s t h e r e m o v a l o f h i g h f r e q u e n c y e n e r g y . I n o u r s a m p l e u t t e r a n c e , t h e " c e " s o u n d

i n " R i c e " " c o n t a i n s m o s t o f i t s e n e r g y a b o v e 3 . 2 k H z ; t h i s l t e r i n g e e c t i s w h y i t i s e x t r e m e l y d i c u l t t o

d i s t i n g u i s h t h e s o u n d s " s " a n d " f " o v e r t h e t e l e p h o n e . T r y t h i s y o u r s e l f : C a l l a f r i e n d a n d d e t e r m i n e i f t h e y





c a n d i s t i n g u i s h b e t w e e n t h e w o r d s " s i x " a n d " x " . I f y o u s a y t h e s e w o r d s i n i s o l a t i o n s o t h a t n o c o n t e x t

p r o v i d e s a h i n t a b o u t w h i c h w o r d y o u a r e s a y i n g , y o u r f r i e n d w i l l n o t b e a b l e t o t e l l t h e m a p a r t . R a d i o d o e s

s u p p o r t t h i s b a n d w i d t h ( s e e m o r e a b o u t A M a n d F M r a d i o s y s t e m s ( S e c t i o n 6 . 1 1 ) ) .

E c i e n t s p e e c h t r a n s m i s s i o n s y s t e m s e x p l o i t t h e s p e e c h s i g n a l ' s s p e c i a l s t r u c t u r e : W h a t m a k e s s p e e c h

s p e e c h ? Y o u c a n c o n j u r e m a n y s i g n a l s t h a t s p a n t h e s a m e f r e q u e n c i e s a s s p e e c h c a r e n g i n e s o u n d s , v i o l i n

m u s i c , d o g b a r k s b u t d o n ' t s o u n d a t a l l l i k e s p e e c h . W e s h a l l l e a r n l a t e r t h a t t r a n s m i s s i o n o f a n y 5 k H z

b a n d w i d t h s i g n a l r e q u i r e s a b o u t 8 0 k b p s ( t h o u s a n d s o f b i t s p e r s e c o n d ) t o t r a n s m i t d i g i t a l l y . S p e e c h s i g n a l s

c a n b e t r a n s m i t t e d u s i n g l e s s t h a n 1 k b p s b e c a u s e o f i t s s p e c i a l s t r u c t u r e . T o r e d u c e t h e " d i g i t a l b a n d w i d t h "

s o d r a s t i c a l l y m e a n s t h a t e n g i n e e r s s p e n t m a n y y e a r s t o d e v e l o p s i g n a l p r o c e s s i n g a n d c o d i n g m e t h o d s t h a t

c o u l d c a p t u r e t h e s p e c i a l c h a r a c t e r i s t i c s o f s p e e c h w i t h o u t d e s t r o y i n g h o w i t s o u n d s . I f y o u u s e d a s p e e c h

t r a n s m i s s i o n s y s t e m t o s e n d a v i o l i n s o u n d , i t w o u l d a r r i v e h o r r i b l y d i s t o r t e d ; s p e e c h t r a n s m i t t e d t h e s a m e

w a y w o u l d s o u n d n e .

E x p l o i t i n g t h e s p e c i a l s t r u c t u r e o f s p e e c h r e q u i r e s g o i n g b e y o n d t h e c a p a b i l i t i e s o f a n a l o g s i g n a l p r o c e s s i n g

s y s t e m s . M a n y s p e e c h t r a n s m i s s i o n s y s t e m s w o r k b y n d i n g t h e s p e a k e r ' s p i t c h a n d t h e f o r m a n t f r e q u e n c i e s .

F u n d a m e n t a l l y , w e n e e d t o d o m o r e t h a n l t e r i n g t o d e t e r m i n e t h e s p e e c h s i g n a l ' s s t r u c t u r e ; w e n e e d t o

m a n i p u l a t e s i g n a l s i n m o r e w a y s t h a n a r e p o s s i b l e w i t h a n a l o g s y s t e m s . S u c h e x i b i l i t y i s a c h i e v a b l e ( b u t

n o t w i t h o u t s o m e l o s s ) w i t h p r o g r a m m a b l e d i g i t a l s y s t e m s .

4 . 1 1 F r e q u e n c y D o m a i n P r o b l e m s

1 6

P r o b l e m 4 . 1 : S i m p l e F o u r i e r S e r i e s

F i n d t h e c o m p l e x F o u r i e r s e r i e s r e p r e s e n t a t i o n s o f t h e f o l l o w i n g s i g n a l s w i t h o u t e x p l i c i t l y c a l c u l a t i n g F o u r i e r

i n t e g r a l s . W h a t i s t h e s i g n a l ' s p e r i o d i n e a c h c a s e ?

a ) s (t) = sin(t)b ) s (t) = sin2 (t)

c )

s (t) = cos(t) + 2cos (2t)d )

s (t) = cos(2t)cos(t)e )

s (t) = cos 10πt + π6 (1 + cos (2πt))

f ) s (t) g i v e n b y t h e d e p i c t e d w a v e f o r m ( F i g u r e 4 . 1 8 ) .

t

s(t)1

18

14 13

8

F i g u r e 4 . 1 8

P r o b l e m 4 . 2 : F o u r i e r S e r i e s

F i n d t h e F o u r i e r s e r i e s r e p r e s e n t a t i o n f o r t h e f o l l o w i n g p e r i o d i c s i g n a l s ( F i g u r e 4 . 1 9 ) . F o r t h e t h i r d s i g n a l ,

n d t h e c o m p l e x F o u r i e r s e r i e s f o r t h e t r i a n g l e w a v e w i t h o u t p e r f o r m i n g t h e u s u a l F o u r i e r i n t e g r a l s . H i n t :

1 6





1 5 3

H o w i s t h i s s i g n a l r e l a t e d t o o n e f o r w h i c h y o u a l r e a d y h a v e t h e s e r i e s ?

t

s(t)

1 2 3

1

( a )

t

s t

1 2 3

1

( b )

t

s(t)

1 2 3

1

4

( c )

F i g u r e 4 . 1 9

P r o b l e m 4 . 3 : P h a s e D i s t o r t i o n

W e c a n l e a r n a b o u t p h a s e d i s t o r t i o n b y r e t u r n i n g t o c i r c u i t s a n d i n v e s t i g a t e t h e f o l l o w i n g c i r c u i t ( F i g -

u r e 4 . 2 0 ) .





+ –

1

1

+

–

1

1

vin(t)vout(t)

F i g u r e 4 . 2 0

a ) F i n d t h i s l t e r ' s t r a n s f e r f u n c t i o n .

b ) F i n d t h e m a g n i t u d e a n d p h a s e o f t h i s t r a n s f e r f u n c t i o n . H o w w o u l d y o u c h a r a c t e r i z e t h i s c i r c u i t ?

c ) L e t vin (t) b e a s q u a r e - w a v e o f p e r i o d T . W h a t i s t h e F o u r i e r s e r i e s f o r t h e o u t p u t v o l t a g e ?

d ) U s e M a t l a b t o n d t h e o u t p u t ' s w a v e f o r m f o r t h e c a s e s T = 0.01 a n d T = 2 . W h a t v a l u e o f T d e l i n e a t e s

t h e t w o k i n d s o f r e s u l t s y o u f o u n d ? T h e s o f t w a r e i n f o u r i e r 2 . m m i g h t b e u s e f u l .

e ) I n s t e a d o f t h e d e p i c t e d c i r c u i t , t h e s q u a r e w a v e i s p a s s e d t h r o u g h a s y s t e m t h a t d e l a y s i t s i n p u t , w h i c h

a p p l i e s a l i n e a r p h a s e s h i f t t o t h e s i g n a l ' s s p e c t r u m . L e t t h e d e l a y τ b e

T 4 . U s e t h e t r a n s f e r f u n c t i o n

o f a d e l a y t o c o m p u t e u s i n g M a t l a b t h e F o u r i e r s e r i e s o f t h e o u t p u t . S h o w t h a t t h e s q u a r e w a v e i s

i n d e e d d e l a y e d .

P r o b l e m 4 . 4 : A p p r o x i m a t i n g P e r i o d i c S i g n a l s

O f t e n , w e w a n t t o a p p r o x i m a t e a r e f e r e n c e s i g n a l b y a s o m e w h a t s i m p l e r s i g n a l . T o a s s e s s t h e q u a l i t y o f

a n a p p r o x i m a t i o n , t h e m o s t f r e q u e n t l y u s e d e r r o r m e a s u r e i s t h e m e a n - s q u a r e d e r r o r . F o r a p e r i o d i c s i g n a l

s (t),

2 =1

T

T 0

(s (t) − s (t))2dt

w h e r e s (t) i s t h e r e f e r e n c e s i g n a l a n d s (t) i t s a p p r o x i m a t i o n . O n e c o n v e n i e n t w a y o f n d i n g a p p r o x i m a t i o n s

f o r p e r i o d i c s i g n a l s i s t o t r u n c a t e t h e i r F o u r i e r s e r i e s .

s (t) =

K k=−K

ckej2πk

T t

T h e p o i n t o f t h i s p r o b l e m i s t o a n a l y z e w h e t h e r t h i s a p p r o a c h i s t h e b e s t ( i . e . , a l w a y s m i n i m i z e s t h e m e a n -

s q u a r e d e r r o r ) .

a ) F i n d a f r e q u e n c y - d o m a i n e x p r e s s i o n f o r t h e a p p r o x i m a t i o n e r r o r w h e n w e u s e t h e t r u n c a t e d F o u r i e r

s e r i e s a s t h e a p p r o x i m a t i o n .

b ) I n s t e a d o f t r u n c a t i n g t h e s e r i e s , l e t ' s g e n e r a l i z e t h e n a t u r e o f t h e a p p r o x i m a t i o n t o i n c l u d i n g a n y s e t o f

2K + 1 t e r m s : W e ' l l a l w a y s i n c l u d e t h e c0 a n d t h e n e g a t i v e i n d e x e d t e r m c o r r e s p o n d i n g t o ck . W h a t

s e l e c t i o n o f t e r m s m i n i m i z e s t h e m e a n - s q u a r e d e r r o r ? F i n d a n e x p r e s s i o n f o r t h e m e a n - s q u a r e d e r r o r

r e s u l t i n g f r o m y o u r c h o i c e .

c ) F i n d t h e F o u r i e r s e r i e s f o r t h e d e p i c t e d s i g n a l ( F i g u r e 4 . 2 1 ) . U s e M a t l a b t o n d t h e t r u n c a t e d a p p r o x -

i m a t i o n a n d b e s t a p p r o x i m a t i o n i n v o l v i n g t w o t e r m s . P l o t t h e m e a n - s q u a r e d e r r o r a s a f u n c t i o n o f K f o r b o t h a p p r o x i m a t i o n s .




1 5 5

1 2

1s(t)

t

F i g u r e 4 . 2 1

P r o b l e m 4 . 5 : L o n g , H o t D a y s

T h e d a i l y t e m p e r a t u r e i s a c o n s e q u e n c e o f s e v e r a l e e c t s , o n e o f t h e m b e i n g t h e s u n ' s h e a t i n g . I f t h i s w e r e

t h e d o m i n a n t e e c t , t h e n d a i l y t e m p e r a t u r e s w o u l d b e p r o p o r t i o n a l t o t h e n u m b e r o f d a y l i g h t h o u r s . T h e

p l o t ( F i g u r e 4 . 2 2 ) s h o w s t h a t t h e a v e r a g e d a i l y h i g h t e m p e r a t u r e d o e s n o t b e h a v e t h a t w a y .

0 50 100 150 200 250 300 35050

55

60

65

70

75

80

85

90

95

Day

A v e r a g e H i g h T e m p e r a t u r e

10

11

12

13

14

D a y l i gh t H o ur s

Temperature

Daylight

F i g u r e 4 . 2 2

I n t h i s p r o b l e m , w e w a n t t o u n d e r s t a n d t h e t e m p e r a t u r e c o m p o n e n t o f o u r e n v i r o n m e n t u s i n g F o u r i e r

s e r i e s a n d l i n e a r s y s t e m t h e o r y . T h e l e t e m p e r a t u r e . m a t c o n t a i n s t h e s e d a t a ( d a y l i g h t h o u r s i n t h e r s t

r o w , c o r r e s p o n d i n g a v e r a g e d a i l y h i g h s i n t h e s e c o n d ) f o r H o u s t o n , T e x a s .

a ) L e t t h e l e n g t h o f d a y s e r v e a s t h e s o l e i n p u t t o a s y s t e m h a v i n g a n o u t p u t e q u a l t o t h e a v e r a g e d a i l y

t e m p e r a t u r e . E x a m i n i n g t h e p l o t s o f i n p u t a n d o u t p u t , w o u l d y o u s a y t h a t t h e s y s t e m i s l i n e a r o r n o t ?

H o w d i d y o u r e a c h y o u c o n c l u s i o n ?





b ) F i n d t h e r s t v e t e r m s ( c0 , . . . , c4 ) o f t h e c o m p l e x F o u r i e r s e r i e s f o r e a c h s i g n a l .

c ) W h a t i s t h e h a r m o n i c d i s t o r t i o n i n t h e t w o s i g n a l s ? E x c l u d e

c0 f r o m t h i s c a l c u l a t i o n .

d ) B e c a u s e t h e h a r m o n i c d i s t o r t i o n i s s m a l l , l e t ' s c o n c e n t r a t e o n l y o n t h e r s t h a r m o n i c . W h a t i s t h e

p h a s e s h i f t b e t w e e n i n p u t a n d o u t p u t s i g n a l s ?

e ) F i n d t h e t r a n s f e r f u n c t i o n o f t h e s i m p l e s t p o s s i b l e l i n e a r m o d e l t h a t w o u l d d e s c r i b e t h e d a t a . C h a r -

a c t e r i z e a n d i n t e r p r e t t h e s t r u c t u r e o f t h i s m o d e l . I n p a r t i c u l a r , g i v e a p h y s i c a l e x p l a n a t i o n f o r t h e

p h a s e s h i f t .

f ) P r e d i c t w h a t t h e o u t p u t w o u l d b e i f t h e m o d e l h a d n o p h a s e s h i f t . W o u l d d a y s b e h o t t e r ? I f s o , b y

h o w m u c h ?

P r o b l e m 4 . 6 : F o u r i e r T r a n s f o r m P a i r s

F i n d t h e F o u r i e r o r i n v e r s e F o u r i e r t r a n s f o r m o f t h e f o l l o w i n g .

a ) x (t) = e−(a|t|)

b ) x (t) = te−(at)u (t)

c ) X (f ) = 1 i f

|f |

< W

0 i f |f | > W

d ) x (t) = e−(at)cos (2πf 0t) u (t)

P r o b l e m 4 . 7 : D u a l i t y i n F o u r i e r T r a n s f o r m s

" D u a l i t y " m e a n s t h a t t h e F o u r i e r t r a n s f o r m a n d t h e i n v e r s e F o u r i e r t r a n s f o r m a r e v e r y s i m i l a r . C o n s e -

q u e n t l y , t h e w a v e f o r m s (t) i n t h e t i m e d o m a i n a n d t h e s p e c t r u m s (f ) h a v e a F o u r i e r t r a n s f o r m a n d a n

i n v e r s e F o u r i e r t r a n s f o r m , r e s p e c t i v e l y , t h a t a r e v e r y s i m i l a r .

a ) C a l c u l a t e t h e F o u r i e r t r a n s f o r m o f t h e s i g n a l s h o w n b e l o w ( F i g u r e 4 . 2 3 ( a ) ) .

b ) C a l c u l a t e t h e i n v e r s e F o u r i e r t r a n s f o r m o f t h e s p e c t r u m s h o w n b e l o w ( F i g u r e 4 . 2 3 ( b ) ) .

c ) H o w a r e t h e s e a n s w e r s r e l a t e d ? W h a t i s t h e g e n e r a l r e l a t i o n s h i p b e t w e e n t h e F o u r i e r t r a n s f o r m o f

s (t)a n d t h e i n v e r s e t r a n s f o r m o f s (f )?

t

s(t)1

1

( a )

f

S(f)1

1

( b )

F i g u r e 4 . 2 3

P r o b l e m 4 . 8 : S p e c t r a o f P u l s e S e q u e n c e s

P u l s e s e q u e n c e s o c c u r o f t e n i n d i g i t a l c o m m u n i c a t i o n a n d i n o t h e r e l d s a s w e l l . W h a t a r e t h e i r s p e c t r a l

p r o p e r t i e s ?

a ) C a l c u l a t e t h e F o u r i e r t r a n s f o r m o f t h e s i n g l e p u l s e s h o w n b e l o w ( F i g u r e 4 . 2 4 ( a ) ) .




1 5 7

b ) C a l c u l a t e t h e F o u r i e r t r a n s f o r m o f t h e t w o - p u l s e s e q u e n c e s h o w n b e l o w ( F i g u r e 4 . 2 4 ( b ) ) .

c ) C a l c u l a t e t h e F o u r i e r t r a n s f o r m f o r t h e t e n - p u l s e s e q u e n c e s h o w n i n b e l o w ( F i g u r e 4 . 2 4 ( c ) ) . Y o u

s h o u l d l o o k f o r a g e n e r a l e x p r e s s i o n t h a t h o l d s f o r s e q u e n c e s o f a n y l e n g t h .

d ) U s i n g M a t l a b , p l o t t h e m a g n i t u d e s o f t h e t h r e e s p e c t r a . D e s c r i b e h o w t h e s p e c t r a c h a n g e a s t h e

n u m b e r o f r e p e a t e d p u l s e s i n c r e a s e s .

t

1

1 2

1

2

( a )

t

1

1 2

1

2

( b )

t

1

1 2

1

2

3 4 5 6 7 8 9

( c )

F i g u r e 4 . 2 4

P r o b l e m 4 . 9 : S p e c t r a o f D i g i t a l C o m m u n i c a t i o n S i g n a l s

O n e w a y t o r e p r e s e n t b i t s w i t h s i g n a l s i s s h o w n i n F i g u r e 4 . 2 5 . I f t h e v a l u e o f a b i t i s a 1 , i t i s r e p r e s e n t e d

b y a p o s i t i v e p u l s e o f d u r a t i o n T . I f i t i s a 0 , i t i s r e p r e s e n t e d b y a n e g a t i v e p u l s e o f t h e s a m e d u r a t i o n .

T o r e p r e s e n t a s e q u e n c e o f b i t s , t h e a p p r o p r i a t e l y c h o s e n p u l s e s a r e p l a c e d o n e a f t e r t h e o t h e r .

tT

tT

F i g u r e 4 . 2 5

a ) W h a t i s t h e s p e c t r u m o f t h e w a v e f o r m t h a t r e p r e s e n t s t h e a l t e r n a t i n g b i t s e q u e n c e . . . 0 1 0 1 0 1 0 1 . . . ?





b ) T h i s s i g n a l ' s b a n d w i d t h i s d e n e d t o b e t h e f r e q u e n c y r a n g e o v e r w h i c h 9 0 % o f t h e p o w e r i s c o n t a i n e d .

W h a t i s t h i s s i g n a l ' s b a n d w i d t h ?

c ) S u p p o s e t h e b i t s e q u e n c e b e c o m e s . . . 0 0 1 1 0 0 1 1 . . . . N o w w h a t i s t h e b a n d w i d t h ?

P r o b l e m 4 . 1 0 : L o w p a s s F i l t e r i n g a S q u a r e W a v e

L e t a s q u a r e w a v e ( p e r i o d T ) s e r v e a s t h e i n p u t t o a r s t - o r d e r l o w p a s s s y s t e m c o n s t r u c t e d a s a R C l t e r .

W e w a n t t o d e r i v e a n e x p r e s s i o n f o r t h e t i m e - d o m a i n r e s p o n s e o f t h e l t e r t o t h i s i n p u t .

a ) F i r s t , c o n s i d e r t h e r e s p o n s e o f t h e l t e r t o a s i m p l e p u l s e , h a v i n g u n i t a m p l i t u d e a n d w i d t h

T 2

. D e r i v e

a n e x p r e s s i o n f o r t h e l t e r ' s o u t p u t t o t h i s p u l s e .

b ) N o t i n g t h a t t h e s q u a r e w a v e i s a s u p e r p o s i t i o n o f a s e q u e n c e o f t h e s e p u l s e s , w h a t i s t h e l t e r ' s r e s p o n s e

t o t h e s q u a r e w a v e ?

c ) T h e n a t u r e o f t h i s r e s p o n s e s h o u l d c h a n g e a s t h e r e l a t i o n b e t w e e n t h e s q u a r e w a v e ' s p e r i o d a n d t h e

l t e r ' s c u t o f r e q u e n c y c h a n g e . H o w l o n g m u s t t h e p e r i o d b e s o t h a t t h e r e s p o n s e d o e s n o t a c h i e v e

a r e l a t i v e l y c o n s t a n t v a l u e b e t w e e n t r a n s i t i o n s i n t h e s q u a r e w a v e ? W h a t i s t h e r e l a t i o n o f t h e l t e r ' s

c u t o f r e q u e n c y t o t h e s q u a r e w a v e ' s s p e c t r u m i n t h i s c a s e ?

P r o b l e m 4 . 1 1 : M a t h e m a t i c s w i t h C i r c u i t s

S i m p l e c i r c u i t s c a n i m p l e m e n t s i m p l e m a t h e m a t i c a l o p e r a t i o n s , s u c h a s i n t e g r a t i o n a n d d i e r e n t i a t i o n . W e

w a n t t o d e v e l o p a n a c t i v e c i r c u i t ( i t c o n t a i n s a n o p - a m p ) h a v i n g a n o u t p u t t h a t i s p r o p o r t i o n a l t o t h e

i n t e g r a l o f i t s i n p u t . F o r e x a m p l e , y o u c o u l d u s e a n i n t e g r a t o r i n a c a r t o d e t e r m i n e d i s t a n c e t r a v e l e d f r o m

t h e s p e e d o m e t e r .

a ) W h a t i s t h e t r a n s f e r f u n c t i o n o f a n i n t e g r a t o r ?

b ) F i n d a n o p - a m p c i r c u i t s o t h a t i t s v o l t a g e o u t p u t i s p r o p o r t i o n a l t o t h e i n t e g r a l o f i t s i n p u t f o r a l l

s i g n a l s .

P r o b l e m 4 . 1 2 : W h e r e i s t h a t s o u n d c o m i n g f r o m ?

W e d e t e r m i n e w h e r e s o u n d i s c o m i n g f r o m b e c a u s e w e h a v e t w o e a r s a n d a b r a i n . S o u n d t r a v e l s a t a

r e l a t i v e l y s l o w s p e e d a n d o u r b r a i n u s e s t h e f a c t t h a t s o u n d w i l l a r r i v e a t o n e e a r b e f o r e t h e o t h e r . A s s h o w n

h e r e ( F i g u r e 4 . 2 6 ) , a s o u n d c o m i n g f r o m t h e r i g h t a r r i v e s a t t h e l e f t e a r

τ s e c o n d s a f t e r i t a r r i v e s a t t h e r i g h t

e a r .




1 5 9

τ

Soundwave

s(t)s(t-τ)

F i g u r e 4 . 2 6

O n c e t h e b r a i n n d s t h i s p r o p a g a t i o n d e l a y , i t c a n d e t e r m i n e t h e s o u n d d i r e c t i o n . I n a n a t t e m p t t o

m o d e l w h a t t h e b r a i n m i g h t d o , R U s i g n a l p r o c e s s o r s w a n t t o d e s i g n a n o p t i m a l s y s t e m t h a t d e l a y s e a c h

e a r ' s s i g n a l b y s o m e a m o u n t t h e n a d d s t h e m t o g e t h e r . ∆l a n d ∆r a r e t h e d e l a y s a p p l i e d t o t h e l e f t a n d r i g h t

s i g n a l s r e s p e c t i v e l y . T h e i d e a i s t o d e t e r m i n e t h e d e l a y v a l u e s a c c o r d i n g t o s o m e c r i t e r i o n t h a t i s b a s e d o n

w h a t i s m e a s u r e d b y t h e t w o e a r s .

a ) W h a t i s t h e t r a n s f e r f u n c t i o n b e t w e e n t h e s o u n d s i g n a l s (t) a n d t h e p r o c e s s o r o u t p u t y (t)?

b ) O n e w a y o f d e t e r m i n i n g t h e d e l a y τ i s t o c h o o s e ∆l a n d ∆r t o m a x i m i z e t h e p o w e r i n y (t). H o w a r e

t h e s e m a x i m u m - p o w e r p r o c e s s i n g d e l a y s r e l a t e d t o τ ?

P r o b l e m 4 . 1 3 : A r r a n g e m e n t s o f S y s t e m s

A r c h i t e c t i n g a s y s t e m o f m o d u l a r c o m p o n e n t s m e a n s a r r a n g i n g t h e m i n v a r i o u s c o n g u r a t i o n s t o a c h i e v e

s o m e o v e r a l l i n p u t - o u t p u t r e l a t i o n . F o r e a c h o f t h e f o l l o w i n g ( F i g u r e 4 . 2 7 ) , d e t e r m i n e t h e o v e r a l l t r a n s f e r

f u n c t i o n b e t w e e n

x (t) a n d

y (t).





x(t) y(t)H1(f)

H2(f)

( a ) s y s t e m a

H1(f)

H2(f)

x(t)

x(t)

x(t)

y(t)

( b ) s y s t e m b

H1(f)x(t) e(t) y(t)

H2(f)

–

( c ) s y s t e m c

F i g u r e 4 . 2 7

T h e o v e r a l l t r a n s f e r f u n c t i o n f o r t h e c a s c a d e ( r s t d e p i c t e d s y s t e m ) i s p a r t i c u l a r l y i n t e r e s t i n g . W h a t

d o e s i t s a y a b o u t t h e e e c t o f t h e o r d e r i n g o f l i n e a r , t i m e - i n v a r i a n t s y s t e m s i n a c a s c a d e ?

P r o b l e m 4 . 1 4 : F i l t e r i n g

L e t t h e s i g n a l s (t) = sin(πt)πt b e t h e i n p u t t o a l i n e a r , t i m e - i n v a r i a n t l t e r h a v i n g t h e t r a n s f e r f u n c t i o n s h o w n

b e l o w ( F i g u r e 4 . 2 8 ) . F i n d t h e e x p r e s s i o n f o r y (t) , t h e l t e r ' s o u t p u t .

f

H(f)

14

14

1

F i g u r e 4 . 2 8




1 6 1

P r o b l e m 4 . 1 5 : C i r c u i t s F i l t e r !

A u n i t - a m p l i t u d e p u l s e w i t h d u r a t i o n o f o n e s e c o n d s e r v e s a s t h e i n p u t t o a n R C - c i r c u i t h a v i n g t r a n s f e r

f u n c t i o n

H (f ) =

j2πf

4 + j2πf

a ) H o w w o u l d y o u c a t e g o r i z e t h i s t r a n s f e r f u n c t i o n : l o w p a s s , h i g h p a s s , b a n d p a s s , o t h e r ?

b ) F i n d a c i r c u i t t h a t c o r r e s p o n d s t o t h i s t r a n s f e r f u n c t i o n .

c ) F i n d a n e x p r e s s i o n f o r t h e l t e r ' s o u t p u t .

P r o b l e m 4 . 1 6 : R e v e r b e r a t i o n

R e v e r b e r a t i o n c o r r e s p o n d s t o a d d i n g t o a s i g n a l i t s d e l a y e d v e r s i o n .

a ) A s s u m i n g

τ r e p r e s e n t s t h e d e l a y , w h a t i s t h e i n p u t - o u t p u t r e l a t i o n f o r a r e v e r b e r a t i o n s y s t e m ? I s

t h e s y s t e m l i n e a r a n d t i m e - i n v a r i a n t ? I f s o , n d t h e t r a n s f e r f u n c t i o n ; i f n o t , w h a t l i n e a r i t y o r t i m e -

i n v a r i a n c e c r i t e r i o n d o e s r e v e r b e r a t i o n v i o l a t e .

b ) A m u s i c g r o u p k n o w n a s t h e R O w l s i s h a v i n g t r o u b l e s e l l i n g i t s r e c o r d i n g s . T h e r e c o r d c o m p a n y ' s

e n g i n e e r g e t s t h e i d e a o f a p p l y i n g d i e r e n t d e l a y t o t h e l o w a n d h i g h f r e q u e n c i e s a n d a d d i n g t h e r e s u l t

t o c r e a t e a n e w m u s i c a l e e c t . T h u s , t h e R O w l s ' a u d i o w o u l d b e s e p a r a t e d i n t o t w o p a r t s ( o n e l e s s

t h a n t h e f r e q u e n c y f 0 , t h e o t h e r g r e a t e r t h a n f 0 ) , t h e s e w o u l d b e d e l a y e d b y τ l a n d τ h r e s p e c t i v e l y ,

a n d t h e r e s u l t i n g s i g n a l s a d d e d . D r a w a b l o c k d i a g r a m f o r t h i s n e w a u d i o p r o c e s s i n g s y s t e m , s h o w i n g

i t s v a r i o u s c o m p o n e n t s .

c ) H o w d o e s t h e m a g n i t u d e o f t h e s y s t e m ' s t r a n s f e r f u n c t i o n d e p e n d o n t h e t w o d e l a y s ?

P r o b l e m 4 . 1 7 : E c h o e s i n T e l e p h o n e S y s t e m s

A f r e q u e n t l y e n c o u n t e r e d p r o b l e m i n t e l e p h o n e s i s e c h o . H e r e , b e c a u s e o f a c o u s t i c c o u p l i n g b e t w e e n t h e e a r

p i e c e a n d m i c r o p h o n e i n t h e h a n d s e t , w h a t y o u h e a r i s a l s o s e n t t o t h e p e r s o n t a l k i n g . T h a t p e r s o n t h u s

n o t o n l y h e a r s y o u , b u t a l s o h e a r s h e r o w n s p e e c h d e l a y e d ( b e c a u s e o f p r o p a g a t i o n d e l a y o v e r t h e t e l e p h o n e

n e t w o r k ) a n d a t t e n u a t e d ( t h e a c o u s t i c c o u p l i n g g a i n i s l e s s t h a n o n e ) . F u r t h e r m o r e , t h e s a m e p r o b l e m

a p p l i e s t o y o u a s w e l l : T h e a c o u s t i c c o u p l i n g o c c u r s i n h e r h a n d s e t a s w e l l a s y o u r s .

a ) D e v e l o p a b l o c k d i a g r a m t h a t d e s c r i b e s t h i s s i t u a t i o n .

b ) F i n d t h e t r a n s f e r f u n c t i o n b e t w e e n y o u r v o i c e a n d w h a t t h e l i s t e n e r h e a r s .

c ) E a c h t e l e p h o n e c o n t a i n s a s y s t e m f o r r e d u c i n g e c h o e s u s i n g e l e c t r i c a l m e a n s . W h a t s i m p l e s y s t e m

c o u l d n u l l t h e e c h o e s ?

P r o b l e m 4 . 1 8 : E e c t i v e D r u g D e l i v e r y

I n m o s t p a t i e n t s , i t t a k e s t i m e f o r t h e c o n c e n t r a t i o n o f a n a d m i n i s t e r e d d r u g t o a c h i e v e a c o n s t a n t l e v e l

i n t h e b l o o d s t r e a m . T y p i c a l l y , i f t h e d r u g c o n c e n t r a t i o n i n t h e p a t i e n t ' s i n t r a v e n o u s l i n e i s C du (t) , t h e

c o n c e n t r a t i o n i n t h e p a t i e n t ' s b l o o d s t r e a m i s

C p 1−

e−(at)u (t).

a ) A s s u m i n g t h e r e l a t i o n s h i p b e t w e e n d r u g c o n c e n t r a t i o n i n t h e p a t i e n t ' s d r u g a n d t h e d e l i v e r e d c o n c e n -

t r a t i o n c a n b e d e s c r i b e d a s a l i n e a r , t i m e - i n v a r i a n t s y s t e m , w h a t i s t h e t r a n s f e r f u n c t i o n ?

b ) S o m e t i m e s , t h e d r u g d e l i v e r y s y s t e m g o e s a w r y a n d d e l i v e r s d r u g s w i t h l i t t l e c o n t r o l . W h a t w o u l d t h e

p a t i e n t ' s d r u g c o n c e n t r a t i o n b e i f t h e d e l i v e r e d c o n c e n t r a t i o n w e r e a r a m p ? M o r e p r e c i s e l y , i f i t w e r e

C dtu (t) ?

c ) A c l e v e r d o c t o r w a n t s t o h a v e t h e e x i b i l i t y t o s l o w d o w n o r s p e e d u p t h e p a t i e n t ' s d r u g c o n c e n t r a t i o n .

I n o t h e r w o r d s , t h e c o n c e n t r a t i o n i s t o b e

C p

1 − e−(bt)

u (t) , w i t h

bb i g g e r o r s m a l l e r t h a n

a. H o w

s h o u l d t h e d e l i v e r e d d r u g c o n c e n t r a t i o n s i g n a l b e c h a n g e d t o a c h i e v e t h i s c o n c e n t r a t i o n p r o l e ?





P r o b l e m 4 . 1 9 : C a t c h i n g S p e e d e r s w i t h R a d a r

R U E l e c t r o n i c s h a s b e e n c o n t r a c t e d t o d e s i g n a D o p p l e r r a d a r s y s t e m . R a d a r t r a n s m i t t e r s e m i t a s i g n a l t h a t

b o u n c e s o a n y c o n d u c t i n g o b j e c t . S i g n a l d i e r e n c e s b e t w e e n w h a t i s s e n t a n d t h e r a d a r r e t u r n i s p r o c e s s e d

a n d f e a t u r e s o f i n t e r e s t e x t r a c t e d . I n D o p p l e r s y s t e m s , t h e o b j e c t ' s s p e e d a l o n g t h e d i r e c t i o n o f t h e r a d a r

b e a m i s t h e f e a t u r e t h e d e s i g n m u s t e x t r a c t . T h e t r a n s m i t t e d s i g n a l i s a s i n s u s o i d : x (t) = Acos(2πf ct) .

T h e m e a s u r e d r e t u r n s i g n a l e q u a l s Bcos(2π ((f c + ∆f) t + ϕ)), w h e r e t h e D o p p l e r o s e t f r e q u e n c y ∆f e q u a l s

10v , w h e r e v i s t h e c a r ' s v e l o c i t y c o m i n g t o w a r d t h e t r a n s m i t t e r .

a ) D e s i g n a s y s t e m t h a t u s e s t h e t r a n s m i t t e d a n d r e t u r n s i g n a l s a s i n p u t s a n d p r o d u c e s ∆f .

b ) O n e p r o b l e m w i t h d e s i g n s b a s e d o n o v e r l y s i m p l i s t i c d e s i g n g o a l s i s t h a t t h e y a r e s e n s i t i v e t o u n m o d e l e d

a s s u m p t i o n s . H o w w o u l d y o u c h a n g e y o u r d e s i g n , i f a t a l l , s o t h a t w h e t h e r t h e c a r i s g o i n g a w a y o r

t o w a r d t h e t r a n s m i t t e r c o u l d b e d e t e r m i n e d ?

c ) S u p p o s e t w o o b j e c t s t r a v e l i n g d i e r e n t s p e e d s p r o v i d e r e t u r n s . H o w w o u l d y o u c h a n g e y o u r d e s i g n , i f

a t a l l , t o a c c o m o d a t e m u l t i p l e r e t u r n s ?

P r o b l e m 4 . 2 0 : D e m o d u l a t i n g a n A M S i g n a l

L e t m (t) d e n o t e t h e s i g n a l t h a t h a s b e e n a m p l i t u d e m o d u l a t e d .

x (t) = A (1 + m (t))sin(2πf ct)

R a d i o s t a t i o n s t r y t o r e s t r i c t t h e a m p l i t u d e o f t h e s i g n a l m (t) s o t h a t i t i s l e s s t h a n o n e i n m a g n i t u d e . T h e

f r e q u e n c y f c i s v e r y l a r g e c o m p a r e d t o t h e f r e q u e n c y c o n t e n t o f t h e s i g n a l . W h a t w e a r e c o n c e r n e d a b o u t

h e r e i s n o t t r a n s m i s s i o n , b u t r e c e p t i o n .

a ) T h e s o - c a l l e d c o h e r e n t d e m o d u l a t o r s i m p l y m u l t i p l i e s t h e s i g n a l x (t) b y a s i n u s o i d h a v i n g t h e s a m e

f r e q u e n c y a s t h e c a r r i e r a n d l o w p a s s l t e r s t h e r e s u l t . A n a l y z e t h i s r e c e i v e r a n d s h o w t h a t i t w o r k s .

A s s u m e t h e l o w p a s s l t e r i s i d e a l .

b ) O n e i s s u e i n c o h e r e n t r e c e p t i o n i s t h e p h a s e o f t h e s i n u s o i d u s e d b y t h e r e c e i v e r r e l a t i v e t o t h a t u s e d

b y t h e t r a n s m i t t e r . A s s u m i n g t h a t t h e s i n u s o i d o f t h e r e c e i v e r h a s a p h a s e φ, h o w d o e s t h e o u t p u t

d e p e n d o n

φ? W h a t i s t h e w o r s t p o s s i b l e v a l u e f o r t h i s p h a s e ?

c ) T h e i n c o h e r e n t r e c e i v e r i s m o r e c o m m o n l y u s e d b e c a u s e o f t h e p h a s e s e n s i t i v i t y p r o b l e m i n h e r e n t i n

c o h e r e n t r e c e p t i o n . H e r e , t h e r e c e i v e r f u l l - w a v e r e c t i e s t h e r e c e i v e d s i g n a l a n d l o w p a s s l t e r s t h e

r e s u l t ( a g a i n i d e a l l y ) . A n a l y z e t h i s r e c e i v e r . D o e s i t s o u t p u t d i e r f r o m t h a t o f t h e c o h e r e n t r e c e i v e r

i n a s i g n i c a n t w a y ?

P r o b l e m 4 . 2 1 : U n u s u a l A m p l i t u d e M o d u l a t i o n

W e w a n t t o s e n d a b a n d - l i m i t e d s i g n a l h a v i n g t h e d e p i c t e d s p e c t r u m ( F i g u r e 4 . 2 9 ( a ) ) w i t h a m p l i t u d e m o d -

u l a t i o n i n t h e u s u a l w a y . I . B . D i e r e n t s u g g e s t s u s i n g t h e s q u a r e - w a v e c a r r i e r s h o w n b e l o w ( F i g u r e 4 . 2 9 ( b ) ) .

W e l l , i t i s d i e r e n t , b u t h i s f r i e n d s w o n d e r i f a n y t e c h n i q u e c a n d e m o d u l a t e i t .

a ) F i n d a n e x p r e s s i o n f o r X (f ) , t h e F o u r i e r t r a n s f o r m o f t h e m o d u l a t e d s i g n a l .

b ) S k e t c h t h e m a g n i t u d e o f X (f ) , b e i n g c a r e f u l t o l a b e l i m p o r t a n t m a g n i t u d e s a n d f r e q u e n c i e s .

c ) W h a t d e m o d u l a t i o n t e c h n i q u e o b v i o u s l y w o r k s ?

d ) I . B . c h a l l e n g e s t h r e e o f h i s f r i e n d s t o d e m o d u l a t e x (t) s o m e o t h e r w a y . O n e f r i e n d s u g g e s t s m o d u l a t i n g

x (t) w i t h cosπt2

, a n o t h e r w a n t s t o t r y m o d u l a t i n g w i t h cos(πt) a n d t h e t h i r d t h i n k s cos

3πt2

w i l l

w o r k . S k e t c h t h e m a g n i t u d e o f t h e F o u r i e r t r a n s f o r m o f t h e s i g n a l e a c h s t u d e n t ' s a p p r o a c h p r o d u c e s .

W h i c h s t u d e n t c o m e s c l o s e s t t o r e c o v e r i n g t h e o r i g i n a l s i g n a l ? W h y ?




1 6 3

1/4

S(f)

f

1

/4

( a )

t

1

1 3

( b )

F i g u r e 4 . 2 9

P r o b l e m 4 . 2 2 : S a m m y F a l l s A s l e e p . . .

W h i l e s i t t i n g i n E L E C 2 4 1 c l a s s , h e f a l l s a s l e e p d u r i n g a c r i t i c a l t i m e w h e n a n A M r e c e i v e r i s b e i n g d e s c r i b e d .

T h e r e c e i v e d s i g n a l h a s t h e f o r m r (t) = A (1 + m (t))cos(2πf ct + φ) w h e r e t h e p h a s e φ i s u n k n o w n . T h e

m e s s a g e s i g n a l i s m (t) ; i t h a s a b a n d w i d t h o f W H z a n d a m a g n i t u d e l e s s t h a n 1 ( |m (t) | < 1 ) . T h e p h a s e φi s u n k n o w n . T h e i n s t r u c t o r d r e w a d i a g r a m ( F i g u r e 4 . 3 0 ) f o r a r e c e i v e r o n t h e b o a r d ; S a m m y s l e p t t h r o u g h

t h e d e s c r i p t i o n o f w h a t t h e u n k n o w n s y s t e m s w h e r e .

r(t)

cos 2πfct

sin 2πfct

LPFW Hz

LPFW Hz

?

?

xc(t)

xs(t)

?

F i g u r e 4 . 3 0

a ) W h a t a r e t h e s i g n a l s xc (t) a n d xs (t) ?

b ) W h a t w o u l d y o u p u t i n f o r t h e u n k n o w n s y s t e m s t h a t w o u l d g u a r a n t e e t h a t t h e n a l o u t p u t c o n t a i n e d

t h e m e s s a g e r e g a r d l e s s o f t h e p h a s e ?

H i n t : T h i n k o f a t r i g o n o m e t r i c i d e n t i t y t h a t w o u l d p r o v e u s e f u l .

c ) S a m m y m a y h a v e b e e n a s l e e p , b u t h e c a n t h i n k o f a f a r s i m p l e r r e c e i v e r . W h a t i s i t ?





P r o b l e m 4 . 2 3 : J a m m i n g

S i d R i c h a r d s o n c o l l e g e d e c i d e s t o s e t u p i t s o w n A M r a d i o s t a t i o n K S R R . T h e r e s i d e n t e l e c t r i c a l e n g i n e e r

d e c i d e s t h a t s h e c a n c h o o s e a n y c a r r i e r f r e q u e n c y a n d m e s s a g e b a n d w i d t h f o r t h e s t a t i o n . A r i v a l c o l l e g e

d e c i d e s t o j a m i t s t r a n s m i s s i o n s b y t r a n s m i t t i n g a h i g h - p o w e r s i g n a l t h a t i n t e r f e r e s w i t h r a d i o s t h a t t r y t o

r e c e i v e K S R R . T h e j a m m i n g s i g n a l jam (t) i s w h a t i s k n o w n a s a s a w t o o t h w a v e ( d e p i c t e d i n F i g u r e 4 . 3 1 )

h a v i n g a p e r i o d k n o w n t o K S R R ' s e n g i n e e r .

… …

t

jam(t)

T 2T –T

A

F i g u r e 4 . 3 1

a ) F i n d t h e s p e c t r u m o f t h e j a m m i n g s i g n a l .

b ) C a n K S R R e n t i r e l y c i r c u m v e n t t h e a t t e m p t t o j a m i t b y c a r e f u l l y c h o o s i n g i t s c a r r i e r f r e q u e n c y a n d

t r a n s m i s s i o n b a n d w i d t h ? I f s o , n d t h e s t a t i o n ' s c a r r i e r f r e q u e n c y a n d t r a n s m i s s i o n b a n d w i d t h i n

t e r m s o f

T , t h e p e r i o d o f t h e j a m m i n g s i g n a l ; i f n o t , s h o w w h y n o t .

P r o b l e m 4 . 2 4 : A M S t e r e o

A s t e r e o p h o n i c s i g n a l c o n s i s t s o f a " l e f t " s i g n a l

l (t)a n d a " r i g h t " s i g n a l

r (t)t h a t c o n v e y s s o u n d s c o m i n g

f r o m a n o r c h e s t r a ' s l e f t a n d r i g h t s i d e s , r e s p e c t i v e l y . T o t r a n s m i t t h e s e t w o s i g n a l s s i m u l t a n e o u s l y , t h e

t r a n s m i t t e r r s t f o r m s t h e s u m s i g n a l

s+ (t) = l (t) + r (t) a n d t h e d i e r e n c e s i g n a l

s− (t) = l (t) − r (t) .

T h e n , t h e t r a n s m i t t e r a m p l i t u d e - m o d u l a t e s t h e d i e r e n c e s i g n a l w i t h a s i n u s o i d h a v i n g f r e q u e n c y 2W , w h e r e

W i s t h e b a n d w i d t h o f t h e l e f t a n d r i g h t s i g n a l s . T h e s u m s i g n a l a n d t h e m o d u l a t e d d i e r e n c e s i g n a l a r e

a d d e d , t h e s u m a m p l i t u d e - m o d u l a t e d t o t h e r a d i o s t a t i o n ' s c a r r i e r f r e q u e n c y f c , a n d t r a n s m i t t e d . A s s u m e

t h e s p e c t r a o f t h e l e f t a n d r i g h t s i g n a l s a r e a s s h o w n ( F i g u r e 4 . 3 2 ) .

–W W

L(f)

f

–W W

R(f)

f

F i g u r e 4 . 3 2

a ) W h a t i s t h e e x p r e s s i o n f o r t h e t r a n s m i t t e d s i g n a l ? S k e t c h i t s s p e c t r u m .




1 6 5

b ) S h o w t h e b l o c k d i a g r a m o f a s t e r e o A M r e c e i v e r t h a t c a n y i e l d t h e l e f t a n d r i g h t s i g n a l s a s s e p a r a t e

o u t p u t s .

c ) W h a t s i g n a l w o u l d b e p r o d u c e d b y a c o n v e n t i o n a l c o h e r e n t A M r e c e i v e r t h a t e x p e c t s t o r e c e i v e a

s t a n d a r d A M s i g n a l c o n v e y i n g a m e s s a g e s i g n a l h a v i n g b a n d w i d t h

W ?

P r o b l e m 4 . 2 5 : N o v e l A M S t e r e o M e t h o d

A c l e v e r e n g i n e e r h a s s u b m i t t e d a p a t e n t f o r a n e w m e t h o d f o r t r a n s m i t t i n g t w o s i g n a l s s i m u l t a n e o u s l y

i n t h e s a m e t r a n s m i s s i o n b a n d w i d t h a s c o m m e r c i a l A M r a d i o . A s s h o w n ( F i g u r e 4 . 3 3 ) , h e r a p p r o a c h i s t o

m o d u l a t e t h e p o s i t i v e p o r t i o n o f t h e c a r r i e r w i t h o n e s i g n a l a n d t h e n e g a t i v e p o r t i o n w i t h a s e c o n d .

0 1 2 3 4 5 6 7 8 9 10-1.5

-1

-0.5

0

0.5

1

1.5

Time

A m p l i t u d e

Example Transmitter Waveform

F i g u r e 4 . 3 3

I n d e t a i l t h e t w o m e s s a g e s i g n a l s

m1 (t) a n d

m2 (t) a r e b a n d l i m i t e d t o

W H z a n d h a v e m a x i m a l a m p l i t u d e s

e q u a l t o 1 . T h e c a r r i e r h a s a f r e q u e n c y f c m u c h g r e a t e r t h a n W . T h e t r a n s m i t t e d s i g n a l x (t) i s g i v e n b y

x (t) =

A (1 + am1 (t))sin(2πf ct) i f sin(2πf ct) ≥ 0

A (1 + am2 (t))sin(2πf ct) i f sin(2πf ct) < 0

I n a l l c a s e s , 0 < a < 1 . T h e p l o t s h o w s t h e t r a n s m i t t e d s i g n a l w h e n t h e m e s s a g e s a r e s i n u s o i d s : m1 (t) =sin(2πf mt) a n d m2 (t) = sin(2π2f mt) w h e r e 2f m < W . Y o u , a s t h e p a t e n t e x a m i n e r , m u s t d e t e r m i n e

w h e t h e r t h e s c h e m e m e e t s i t s c l a i m s a n d i s u s e f u l .

a ) P r o v i d e a m o r e c o n c i s e e x p r e s s i o n f o r t h e t r a n s m i t t e d s i g n a l x (t) t h a n g i v e n a b o v e .

b ) W h a t i s t h e r e c e i v e r f o r t h i s s c h e m e ? I t w o u l d y i e l d b o t h m1 (t) a n d m2 (t) f r o m x (t) .

c ) F i n d t h e s p e c t r u m o f t h e p o s i t i v e p o r t i o n o f t h e t r a n s m i t t e d s i g n a l .

d ) D e t e r m i n e w h e t h e r t h i s s c h e m e s a t i s e s t h e d e s i g n c r i t e r i a , a l l o w i n g y o u t o g r a n t t h e p a t e n t . E x p l a i n

y o u r r e a s o n i n g .





P r o b l e m 4 . 2 6 : A R a d i c a l R a d i o I d e a

A n E L E C 2 4 1 s t u d e n t h a s t h e b r i g h t i d e a o f u s i n g a s q u a r e w a v e i n s t e a d o f a s i n u s o i d a s a n A M c a r r i e r .

T h e t r a n s m i t t e d s i g n a l w o u l d h a v e t h e f o r m

x (t) = A (1 + m (t))sqT (t)w h e r e t h e m e s s a g e s i g n a l m (t) w o u l d b e a m p l i t u d e - l i m i t e d : |m (t) | < 1

a ) A s s u m i n g t h e m e s s a g e s i g n a l i s l o w p a s s a n d h a s a b a n d w i d t h o f W H z , w h a t v a l u e s f o r t h e s q u a r e

w a v e ' s p e r i o d T a r e f e a s i b l e . I n o t h e r w o r d s , d o s o m e c o m b i n a t i o n s o f W a n d T p r e v e n t r e c e p t i o n ?

b ) A s s u m i n g r e c e p t i o n i s p o s s i b l e , c a n s t a n d a r d r a d i o s r e c e i v e t h i s i n n o v a t i v e A M t r a n s m i s s i o n ? I f s o ,

s h o w h o w a c o h e r e n t r e c e i v e r c o u l d d e m o d u l a t e i t ; i f n o t , s h o w h o w t h e c o h e r e n t r e c e i v e r ' s o u t p u t

w o u l d b e c o r r u p t e d . A s s u m e t h a t t h e m e s s a g e b a n d w i d t h W = 5 k H z .

P r o b l e m 4 . 2 7 : S e c r e t C o m m u n i c a t i o n

A n a m p l i t u d e - m o d u l a t e d s e c r e t m e s s a g e m (t) h a s t h e f o l l o w i n g f o r m .

r (t) = A (1 + m (t))cos(2π (f c + f 0) t)

T h e m e s s a g e s i g n a l h a s a b a n d w i d t h o f W H z a n d a m a g n i t u d e l e s s t h a n 1 ( |m (t) | < 1 ) . T h e i d e a i s t o

o s e t t h e c a r r i e r f r e q u e n c y b y f 0 H z f r o m s t a n d a r d r a d i o c a r r i e r f r e q u e n c i e s . T h u s , " o - t h e - s h e l f " c o h e r e n t

d e m o d u l a t o r s w o u l d a s s u m e t h e c a r r i e r f r e q u e n c y h a s f c H z . H e r e , f 0 < W .

a ) S k e t c h t h e s p e c t r u m o f t h e d e m o d u l a t e d s i g n a l p r o d u c e d b y a c o h e r e n t d e m o d u l a t o r t u n e d t o f c H z .

b ) W i l l t h i s d e m o d u l a t e d s i g n a l b e a s c r a m b l e d v e r s i o n o f t h e o r i g i n a l ? I f s o , h o w s o ; i f n o t , w h y n o t ?

c ) C a n y o u d e v e l o p a r e c e i v e r t h a t c a n d e m o d u l a t e t h e m e s s a g e w i t h o u t k n o w i n g t h e o s e t f r e q u e n c y f c ?

P r o b l e m 4 . 2 8 : S i g n a l S c r a m b l i n g

A n e x c i t e d i n v e n t o r a n n o u n c e s t h e d i s c o v e r y o f a w a y o f u s i n g a n a l o g t e c h n o l o g y t o r e n d e r m u s i c u n l i s t e n a b l e

w i t h o u t k n o w i n g t h e s e c r e t r e c o v e r y m e t h o d . T h e i d e a i s t o m o d u l a t e t h e b a n d l i m i t e d m e s s a g e m (t) b y a

s p e c i a l p e r i o d i c s i g n a l s (t) t h a t i s z e r o d u r i n g h a l f o f i t s p e r i o d , w h i c h r e n d e r s t h e m e s s a g e u n l i s t e n a b l e a n d

s u p e r c i a l l y , a t l e a s t , u n r e c o v e r a b l e ( F i g u r e 4 . 3 4 ) .

s(t)

tT

1

2T

4T

F i g u r e 4 . 3 4

a ) W h a t i s t h e F o u r i e r s e r i e s f o r t h e p e r i o d i c s i g n a l ?

b ) W h a t a r e t h e r e s t r i c t i o n s o n t h e p e r i o d T s o t h a t t h e m e s s a g e s i g n a l c a n b e r e c o v e r e d f r o m m (t) s (t)?

c ) E L E C 2 4 1 s t u d e n t s t h i n k t h e y h a v e " b r o k e n " t h e i n v e n t o r ' s s c h e m e a n d a r e g o i n g t o a n n o u n c e i t t o

t h e w o r l d . H o w w o u l d t h e y r e c o v e r t h e o r i g i n a l m e s s a g e w i t h o u t h a v i n g d e t a i l e d k n o w l e d g e o f t h e

m o d u l a t i n g s i g n a l ?




1 6 7


S o l u t i o n t o E x e r c i s e 4 . 2 . 1 ( p . 1 2 0 )

B e c a u s e o f E u l e r ' s r e l a t i o n ,

sin(2πf t) = 12 j

ej2πft − 12 j

e−(j2πft) ( 4 . 4 7 )

T h u s , c1 = 12j

, c−1 = − 12j

, a n d t h e o t h e r c o e c i e n t s a r e z e r o .


c0 = A∆T . T h i s q u a n t i t y c l e a r l y c o r r e s p o n d s t o t h e p e r i o d i c p u l s e s i g n a l ' s a v e r a g e v a l u e .


W r i t e t h e c o e c i e n t s o f t h e c o m p l e x F o u r i e r s e r i e s i n C a r t e s i a n f o r m a s ck = Ak + jBk a n d s u b s t i t u t e i n t o

t h e e x p r e s s i o n f o r t h e c o m p l e x F o u r i e r s e r i e s .

∞k=−∞

ckej2πkt

T =

∞k=−∞

(Ak + jBk) ej2πkt

T

S i m p l i f y i n g e a c h t e r m i n t h e s u m u s i n g E u l e r ' s f o r m u l a ,

(Ak + jBk) ej2πkt

T = (Ak + jBk)

cos

2πktT

+ jsin

2πktT

= Akcos

2πktT

− Bksin2πktT

+ j

Aksin

2πktT

+ Bkcos

2πktT

W e n o w c o m b i n e t e r m s t h a t h a v e t h e s a m e f r e q u e n c y i n d e x i n m a g n i t u d e . B e c a u s e t h e s i g n a l i s r e a l -

v a l u e d , t h e c o e c i e n t s o f t h e c o m p l e x F o u r i e r s e r i e s h a v e c o n j u g a t e s y m m e t r y :

c−k = ck∗

o r

A−k = Ak a n d

B−k = −Bk . A f t e r w e a d d t h e p o s i t i v e - i n d e x e d a n d n e g a t i v e - i n d e x e d t e r m s , e a c h t e r m i n t h e F o u r i e r s e r i e s

b e c o m e s 2Akcos2πktT

− 2Bksin2πktT

. T o o b t a i n t h e c l a s s i c F o u r i e r s e r i e s ( 4 . 1 1 ) , w e m u s t h a v e 2Ak = ak

a n d 2Bk = −bk .


T h e a v e r a g e o f a s e t o f n u m b e r s i s t h e s u m d i v i d e d b y t h e n u m b e r o f t e r m s . V i e w i n g s i g n a l i n t e g r a t i o n a s

t h e l i m i t o f a R i e m a n n s u m , t h e i n t e g r a l c o r r e s p o n d s t o t h e a v e r a g e .


W e f o u n d t h a t t h e c o m p l e x F o u r i e r s e r i e s c o e c i e n t s a r e g i v e n b y ck = 2jπk . T h e c o e c i e n t s a r e p u r e

i m a g i n a r y , w h i c h m e a n s ak = 0 . T h e c o e c i e n t s o f t h e s i n e t e r m s a r e g i v e n b y bk = − (2Im(ck)) s o t h a t

bk =

4πk i f k o d d

0 i f k e v e n

T h u s , t h e F o u r i e r s e r i e s f o r t h e s q u a r e w a v e i s

sq (t) =

k∈1,3,...

4

πksin

2πkt

T

( 4 . 4 8 )


T h e r m s v a l u e o f a s i n u s o i d e q u a l s i t s a m p l i t u d e d i v i d e d b y

√ 22 . A s a h a l f - w a v e r e c t i e d s i n e w a v e i s z e r o

d u r i n g h a l f o f t h e p e r i o d , i t s r m s v a l u e i s

A2 s i n c e t h e i n t e g r a l o f t h e s q u a r e d h a l f - w a v e r e c t i e d s i n e w a v e

e q u a l s h a l f t h a t o f a s q u a r e d s i n u s o i d .


T o t a l h a r m o n i c d i s t o r t i o n e q u a l s

P∞k=2 ak

2+bk2

a12+b12. C l e a r l y , t h i s q u a n t i t y i s m o s t e a s i l y c o m p u t e d i n t h e f r e -

q u e n c y d o m a i n . H o w e v e r , t h e n u m e r a t o r e q u a l s t h e s q u a r e o f t h e s i g n a l ' s r m s v a l u e m i n u s t h e p o w e r i n t h e

a v e r a g e a n d t h e p o w e r i n t h e r s t h a r m o n i c .






T o t a l h a r m o n i c d i s t o r t i o n i n t h e s q u a r e w a v e i s 1 − 12

4π

2= 20%.


N s i g n a l s d i r e c t l y e n c o d e d r e q u i r e a b a n d w i d t h o f

N

T . U s i n g a b i n a r y r e p r e s e n t a t i o n , w e n e e d

log2N

T . F o r

N = 128 , t h e b i n a r y - e n c o d i n g s c h e m e h a s a f a c t o r o f

7128 = 0.05 s m a l l e r b a n d w i d t h . C l e a r l y , b i n a r y e n c o d i n g

i s s u p e r i o r .


W e c a n u s e N d i e r e n t a m p l i t u d e v a l u e s a t o n l y o n e f r e q u e n c y t o r e p r e s e n t t h e v a r i o u s l e t t e r s .


B e c a u s e t h e l t e r ' s g a i n a t z e r o f r e q u e n c y e q u a l s o n e , t h e a v e r a g e o u t p u t v a l u e s e q u a l t h e r e s p e c t i v e a v e r a g e

i n p u t v a l u e s .


F (S (f )) =

∞−∞

S (f ) e−(j2πft)df =

∞−∞

S (f ) ej2πf (−t)df = s (−t)


F (F (F (F (s (t))))) = s (t) . W e k n o w t h a t F (S (f )) = ∞−∞ S (f ) e−(j2πft)df = ∞−∞ S (f ) ej2πf (−t)df =s (−t). T h e r e f o r e , t w o F o u r i e r t r a n s f o r m s a p p l i e d t o s (t) y i e l d s s (−t). W e n e e d t w o m o r e t o g e t u s b a c k

w h e r e w e s t a r t e d .


T h e s i g n a l i s t h e i n v e r s e F o u r i e r t r a n s f o r m o f t h e t r i a n g u l a r l y s h a p e d s p e c t r u m , a n d e q u a l s

s (t) =

W sin(πWt)πWt

2S o l u t i o n t o E x e r c i s e 4 . 8 . 4 ( p . 1 4 2 )

T h e r e s u l t i s m o s t e a s i l y f o u n d i n t h e s p e c t r u m ' s f o r m u l a : t h e p o w e r i n t h e s i g n a l - r e l a t e d p a r t o f x (t) i s

h a l f t h e p o w e r o f t h e s i g n a l s (t).


T h e i n v e r s e t r a n s f o r m o f t h e f r e q u e n c y r e s p o n s e i s

1RC e

− tRC u (t). M u l t i p l y i n g t h e f r e q u e n c y r e s p o n s e b y

1

−e−(j2πf ∆)

m e a n s s u b t r a c t f r o m t h e o r i g i n a l s i g n a l i t s t i m e - d e l a y e d v e r s i o n . D e l a y i n g t h e f r e q u e n c y

r e s p o n s e ' s t i m e - d o m a i n v e r s i o n b y ∆ r e s u l t s i n

1RC e

−(t−∆)RC u (t − ∆). S u b t r a c t i n g f r o m t h e u n d e l a y e d s i g n a l

y i e l d s

1RC e

−tRC u (t)− 1

RC e−(t−∆)

RC u (t − ∆). N o w w e i n t e g r a t e t h i s s u m . B e c a u s e t h e i n t e g r a l o f a s u m e q u a l s t h e

s u m o f t h e c o m p o n e n t i n t e g r a l s ( i n t e g r a t i o n i s l i n e a r ) , w e c a n c o n s i d e r e a c h s e p a r a t e l y . B e c a u s e i n t e g r a t i o n

a n d s i g n a l - d e l a y a r e l i n e a r , t h e i n t e g r a l o f a d e l a y e d s i g n a l e q u a l s t h e d e l a y e d v e r s i o n o f t h e i n t e g r a l . T h e

i n t e g r a l i s p r o v i d e d i n t h e e x a m p l e ( 4 . 4 4 ) .

S o l u t i o n t o E x e r c i s e 4 . 1 0 . 1 ( p . 1 4 6 )

I f t h e g l o t t i s w e r e l i n e a r , a c o n s t a n t i n p u t ( a z e r o - f r e q u e n c y s i n u s o i d ) s h o u l d y i e l d a c o n s t a n t o u t p u t . T h e

p e r i o d i c o u t p u t i n d i c a t e s n o n l i n e a r b e h a v i o r .


I n t h e b o t t o m - l e f t p a n e l , t h e p e r i o d i s a b o u t 0 . 0 0 9 s , w h i c h e q u a l s a f r e q u e n c y o f 1 1 1 H z . T h e b o t t o m - r i g h t

p a n e l h a s a p e r i o d o f a b o u t 0 . 0 0 6 5 s , a f r e q u e n c y o f 1 5 4 H z .


B e c a u s e m a l e s h a v e a l o w e r p i t c h f r e q u e n c y , t h e s p a c i n g b e t w e e n s p e c t r a l l i n e s i s s m a l l e r . T h i s c l o s e r s p a c i n g

m o r e a c c u r a t e l y r e v e a l s t h e f o r m a n t s t r u c t u r e . D o u b l i n g t h e p i t c h f r e q u e n c y t o 3 0 0 H z f o r F i g u r e 4 . 1 6 ( v o i c e

s p e c t r u m ) w o u l d a m o u n t t o r e m o v i n g e v e r y o t h e r s p e c t r a l l i n e .




C h a p t e r 5

D i g i t a l S i g n a l P r o c e s s i n g

5 . 1 I n t r o d u c t i o n t o D i g i t a l S i g n a l P r o c e s s i n g

1

N o t o n l y d o w e h a v e a n a l o g s i g n a l s s i g n a l s t h a t a r e r e a l - o r c o m p l e x - v a l u e d f u n c t i o n s o f a c o n t i n u o u s

v a r i a b l e s u c h a s t i m e o r s p a c e w e c a n d e n e d i g i t a l o n e s a s w e l l . D i g i t a l s i g n a l s a r e s e q u e n c e s , f u n c t i o n s

d e n e d o n l y f o r t h e i n t e g e r s . W e t h u s u s e t h e n o t a t i o n s (n) t o d e n o t e a d i s c r e t e - t i m e o n e - d i m e n s i o n a l s i g n a l

s u c h a s a d i g i t a l m u s i c r e c o r d i n g a n d s (m, n) f o r a d i s c r e t e - " t i m e " t w o - d i m e n s i o n a l s i g n a l l i k e a p h o t o t a k e n

w i t h a d i g i t a l c a m e r a . S e q u e n c e s a r e f u n d a m e n t a l l y d i e r e n t t h a n c o n t i n u o u s - t i m e s i g n a l s . F o r e x a m p l e ,

c o n t i n u i t y h a s n o m e a n i n g f o r s e q u e n c e s .

D e s p i t e s u c h f u n d a m e n t a l d i e r e n c e s , t h e t h e o r y u n d e r l y i n g d i g i t a l s i g n a l p r o c e s s i n g m i r r o r s t h a t f o r a n a -

l o g s i g n a l s : F o u r i e r t r a n s f o r m s , l i n e a r l t e r i n g , a n d l i n e a r s y s t e m s p a r a l l e l w h a t p r e v i o u s c h a p t e r s d e s c r i b e d .

T h e s e s i m i l a r i t i e s m a k e i t e a s y t o u n d e r s t a n d t h e d e n i t i o n s a n d w h y w e n e e d t h e m , b u t t h e s i m i l a r i t i e s

s h o u l d n o t b e c o n s t r u e d a s " a n a l o g w a n n a b e s . " W e w i l l d i s c o v e r t h a t d i g i t a l s i g n a l p r o c e s s i n g i s n o t a n

a p p r o x i m a t i o n t o a n a l o g p r o c e s s i n g . W e m u s t e x p l i c i t l y w o r r y a b o u t t h e d e l i t y o f c o n v e r t i n g a n a l o g s i g n a l s

i n t o d i g i t a l o n e s . T h e m u s i c s t o r e d o n C D s , t h e s p e e c h s e n t o v e r d i g i t a l c e l l u l a r t e l e p h o n e s , a n d t h e v i d e o

c a r r i e d b y d i g i t a l t e l e v i s i o n a l l e v i d e n c e t h a t a n a l o g s i g n a l s c a n b e a c c u r a t e l y c o n v e r t e d t o d i g i t a l o n e s a n d

b a c k a g a i n .

T h e k e y r e a s o n w h y d i g i t a l s i g n a l p r o c e s s i n g s y s t e m s h a v e a t e c h n o l o g i c a l a d v a n t a g e t o d a y i s t h e c o m -

p u t e r : c o m p u t a t i o n s , l i k e t h e F o u r i e r t r a n s f o r m , c a n b e p e r f o r m e d q u i c k l y e n o u g h t o b e c a l c u l a t e d a s t h e

s i g n a l i s p r o d u c e d ,

2

a n d p r o g r a m m a b i l i t y m e a n s t h a t t h e s i g n a l p r o c e s s i n g s y s t e m c a n b e e a s i l y c h a n g e d .

T h i s e x i b i l i t y h a s o b v i o u s a p p e a l , a n d h a s b e e n w i d e l y a c c e p t e d i n t h e m a r k e t p l a c e . P r o g r a m m a b i l i t y

m e a n s t h a t w e c a n p e r f o r m s i g n a l p r o c e s s i n g o p e r a t i o n s i m p o s s i b l e w i t h a n a l o g s y s t e m s ( c i r c u i t s ) . W e w i l l

a l s o d i s c o v e r t h a t d i g i t a l s y s t e m s e n j o y a n a l g o r i t h m i c a d v a n t a g e t h a t c o n t r i b u t e s t o r a p i d p r o c e s s i n g

s p e e d s : C o m p u t a t i o n s c a n b e r e s t r u c t u r e d i n n o n - o b v i o u s w a y s t o s p e e d t h e p r o c e s s i n g . T h i s e x i b i l i t y

c o m e s a t a p r i c e , a c o n s e q u e n c e o f h o w c o m p u t e r s w o r k . H o w d o c o m p u t e r s p e r f o r m s i g n a l p r o c e s s i n g ?

5 . 2 I n t r o d u c t i o n t o C o m p u t e r O r g a n i z a t i o n

3

5 . 2 . 1 C o m p u t e r A r c h i t e c t u r e

T o u n d e r s t a n d d i g i t a l s i g n a l p r o c e s s i n g s y s t e m s , w e m u s t u n d e r s t a n d a l i t t l e a b o u t h o w c o m p u t e r s c o m p u t e .

T h e m o d e r n d e n i t i o n o f a c o m p u t e r i s a n e l e c t r o n i c d e v i c e t h a t p e r f o r m s c a l c u l a t i o n s o n d a t a , p r e s e n t i n g

1


2

T a k i n g a s y s t e m s v i e w p o i n t f o r t h e m o m e n t , a s y s t e m t h a t p r o d u c e s i t s o u t p u t a s r a p i d l y a s t h e i n p u t a r i s e s i s s a i d t o

b e a r e a l - t i m e s y s t e m . A l l a n a l o g s y s t e m s o p e r a t e i n r e a l t i m e ; d i g i t a l o n e s t h a t d e p e n d o n a c o m p u t e r t o p e r f o r m s y s t e m

c o m p u t a t i o n s m a y o r m a y n o t w o r k i n r e a l t i m e . C l e a r l y , w e n e e d r e a l - t i m e s i g n a l p r o c e s s i n g s y s t e m s . O n l y r e c e n t l y h a v e

c o m p u t e r s b e c o m e f a s t e n o u g h t o m e e t r e a l - t i m e r e q u i r e m e n t s w h i l e p e r f o r m i n g n o n - t r i v i a l s i g n a l p r o c e s s i n g .

3



1 6 9



1 7 0

C H A P T E R 5 . D I G I T A L S I G N A L P R O C E S S I N G

t h e r e s u l t s t o h u m a n s o r o t h e r c o m p u t e r s i n a v a r i e t y o f ( h o p e f u l l y u s e f u l ) w a y s .

O r g a n i z a t i o n o f a S i m p l e C o m p u t e r

CPU

Memory

I/OInterface

Keyboard DisksCRT Network

F i g u r e 5 . 1 : G e n e r i c c o m p u t e r h a r d w a r e o r g a n i z a t i o n .

T h e g e n e r i c c o m p u t e r c o n t a i n s i n p u t d e v i c e s ( k e y b o a r d , m o u s e , A / D ( a n a l o g - t o - d i g i t a l ) c o n v e r t e r , e t c . ) ,

a c o m p u t a t i o n a l u n i t , a n d o u t p u t d e v i c e s ( m o n i t o r s , p r i n t e r s , D / A c o n v e r t e r s ) . T h e c o m p u t a t i o n a l u n i t

i s t h e c o m p u t e r ' s h e a r t , a n d u s u a l l y c o n s i s t s o f a c e n t r a l p r o c e s s i n g u n i t ( C P U ) , a m e m o r y , a n d a n

i n p u t / o u t p u t ( I / O ) i n t e r f a c e . W h a t I / O d e v i c e s m i g h t b e p r e s e n t o n a g i v e n c o m p u t e r v a r y g r e a t l y .

• A s i m p l e c o m p u t e r o p e r a t e s f u n d a m e n t a l l y i n d i s c r e t e t i m e . C o m p u t e r s a r e c l o c k e d d e v i c e s ,

i n w h i c h c o m p u t a t i o n a l s t e p s o c c u r p e r i o d i c a l l y a c c o r d i n g t o t i c k s o f a c l o c k . T h i s d e s c r i p t i o n b e -

l i e s c l o c k s p e e d : W h e n y o u s a y " I h a v e a 1 G H z c o m p u t e r , " y o u m e a n t h a t y o u r c o m p u t e r t a k e s 1

n a n o s e c o n d t o p e r f o r m e a c h s t e p . T h a t i s i n c r e d i b l y f a s t ! A " s t e p " d o e s n o t , u n f o r t u n a t e l y , n e c e s s a r i l y

m e a n a c o m p u t a t i o n l i k e a n a d d i t i o n ; c o m p u t e r s b r e a k s u c h c o m p u t a t i o n s d o w n i n t o s e v e r a l s t a g e s ,

w h i c h m e a n s t h a t t h e c l o c k s p e e d n e e d n o t e x p r e s s t h e c o m p u t a t i o n a l s p e e d . C o m p u t a t i o n a l s p e e d i s

e x p r e s s e d i n u n i t s o f m i l l i o n s o f i n s t r u c t i o n s / s e c o n d ( M i p s ) . Y o u r 1 G H z c o m p u t e r ( c l o c k s p e e d ) m a y

h a v e a c o m p u t a t i o n a l s p e e d o f 2 0 0 M i p s .

• C o m p u t e r s p e r f o r m i n t e g e r ( d i s c r e t e - v a l u e d ) c o m p u t a t i o n s . C o m p u t e r c a l c u l a t i o n s c a n b e

n u m e r i c ( o b e y i n g t h e l a w s o f a r i t h m e t i c ) , l o g i c a l ( o b e y i n g t h e l a w s o f a n a l g e b r a ) , o r s y m b o l i c ( o b e y i n g

a n y l a w y o u l i k e ) .

4

E a c h c o m p u t e r i n s t r u c t i o n t h a t p e r f o r m s a n e l e m e n t a r y n u m e r i c c a l c u l a t i o n

a n a d d i t i o n , a m u l t i p l i c a t i o n , o r a d i v i s i o n d o e s s o o n l y f o r i n t e g e r s . T h e s u m o r p r o d u c t o f t w o

i n t e g e r s i s a l s o a n i n t e g e r , b u t t h e q u o t i e n t o f t w o i n t e g e r s i s l i k e l y t o n o t b e a n i n t e g e r . H o w d o e s

a c o m p u t e r d e a l w i t h n u m b e r s t h a t h a v e d i g i t s t o t h e r i g h t o f t h e d e c i m a l p o i n t ? T h i s p r o b l e m i s

a d d r e s s e d b y u s i n g t h e s o - c a l l e d o a t i n g - p o i n t r e p r e s e n t a t i o n o f r e a l n u m b e r s . A t i t s h e a r t , h o w e v e r ,

t h i s r e p r e s e n t a t i o n r e l i e s o n i n t e g e r - v a l u e d c o m p u t a t i o n s .

5 . 2 . 2 R e p r e s e n t i n g N u m b e r s

F o c u s i n g o n n u m b e r s , a l l n u m b e r s c a n r e p r e s e n t e d b y t h e p o s i t i o n a l n o t a t i o n s y s t e m .

5

T h e b- a r y

p o s i t i o n a l r e p r e s e n t a t i o n s y s t e m u s e s t h e p o s i t i o n o f d i g i t s r a n g i n g f r o m 0 t o b - 1 t o d e n o t e a n u m b e r . T h e

4

A n e x a m p l e o f a s y m b o l i c c o m p u t a t i o n i s s o r t i n g a l i s t o f n a m e s .

5

A l t e r n a t i v e n u m b e r r e p r e s e n t a t i o n s y s t e m s e x i s t . F o r e x a m p l e , w e c o u l d u s e s t i c k g u r e c o u n t i n g o r R o m a n n u m e r a l s .

T h e s e w e r e u s e f u l i n a n c i e n t t i m e s , b u t v e r y l i m i t i n g w h e n i t c o m e s t o a r i t h m e t i c c a l c u l a t i o n s : e v e r t r i e d t o d i v i d e t w o R o m a n

n u m e r a l s ?




1 7 1

q u a n t i t y b i s k n o w n a s t h e b a s e o f t h e n u m b e r s y s t e m . M a t h e m a t i c a l l y , p o s i t i o n a l s y s t e m s r e p r e s e n t t h e

p o s i t i v e i n t e g e r

na s

n =∞

k=0 dkbk , dk

∈ 0, . . . , b

−1

( 5 . 1 )

a n d w e s u c c i n c t l y e x p r e s s n i n b a s e - b a s nb = dN dN −1 . . . d0 . T h e n u m b e r 2 5 i n b a s e 1 0 e q u a l s 2×101+5×100 ,

s o t h a t t h e d i g i t s r e p r e s e n t i n g t h i s n u m b e r a r e d0 = 5 , d1 = 2, a n d a l l o t h e r dk e q u a l z e r o . T h i s s a m e

n u m b e r i n b i n a r y ( b a s e 2 ) e q u a l s 1 1 0 0 1 ( 1 × 24 + 1 × 23 + 0 × 22 + 0 × 21 + 1 × 20 ) a n d 1 9 i n h e x a d e c i m a l

( b a s e 1 6 ) . F r a c t i o n s b e t w e e n z e r o a n d o n e a r e r e p r e s e n t e d t h e s a m e w a y .

f =

−1k=−∞

dkbk , dk ∈ 0, . . . , b − 1 ( 5 . 2 )

A l l n u m b e r s c a n b e r e p r e s e n t e d b y t h e i r s i g n , i n t e g e r a n d f r a c t i o n a l p a r t s . C o m p l e x n u m b e r s ( S e c t i o n 2 . 1 )

c a n b e t h o u g h t o f a s t w o r e a l n u m b e r s t h a t o b e y s p e c i a l r u l e s t o m a n i p u l a t e t h e m .

H u m a n s u s e b a s e 1 0 , c o m m o n l y a s s u m e d t o b e d u e t o u s h a v i n g t e n n g e r s . D i g i t a l c o m p u t e r s u s e t h e

b a s e 2 o r b i n a r y n u m b e r r e p r e s e n t a t i o n , e a c h d i g i t o f w h i c h i s k n o w n a s a b i t ( b i n a r y d i g i t ) .

N u m b e r r e p r e s e n t a t i o n s o n c o m p u t e r s

d7 d6 d5 d4 d3 d2 d1 d0unsigned 8-bit integer

s d6 d5 d4 d3 d2 d1 d0

signed 8-bit integer

s s

exponent mantissafloating point

F i g u r e 5 . 2 : T h e v a r i o u s w a y s n u m b e r s a r e r e p r e s e n t e d i n b i n a r y a r e i l l u s t r a t e d . T h e n u m b e r o f b y t e s

f o r t h e e x p o n e n t a n d m a n t i s s a c o m p o n e n t s o f o a t i n g p o i n t n u m b e r s v a r i e s .

H e r e , e a c h b i t i s r e p r e s e n t e d a s a v o l t a g e t h a t i s e i t h e r " h i g h " o r " l o w , " t h e r e b y r e p r e s e n t i n g " 1 " o r " 0 , "

r e s p e c t i v e l y . T o r e p r e s e n t s i g n e d v a l u e s , w e t a c k o n a s p e c i a l b i t t h e s i g n b i t t o e x p r e s s t h e s i g n . T h e

c o m p u t e r ' s m e m o r y c o n s i s t s o f a n o r d e r e d s e q u e n c e o f b y t e s , a c o l l e c t i o n o f e i g h t b i t s . A b y t e c a n t h e r e f o r e

r e p r e s e n t a n u n s i g n e d n u m b e r r a n g i n g f r o m 0 t o 255 . I f w e t a k e o n e o f t h e b i t s a n d m a k e i t t h e s i g n b i t , w e

c a n m a k e t h e s a m e b y t e t o r e p r e s e n t n u m b e r s r a n g i n g f r o m −128 t o 127. B u t a c o m p u t e r c a n n o t r e p r e s e n t

a l l p o s s i b l e r e a l n u m b e r s . T h e f a u l t i s n o t w i t h t h e b i n a r y n u m b e r s y s t e m ; r a t h e r h a v i n g o n l y a n i t e n u m b e r

o f b y t e s i s t h e p r o b l e m . W h i l e a g i g a b y t e o f m e m o r y m a y s e e m t o b e a l o t , i t t a k e s a n i n n i t e n u m b e r o f b i t s

t o r e p r e s e n t π . S i n c e w e w a n t t o s t o r e m a n y n u m b e r s i n a c o m p u t e r ' s m e m o r y , w e a r e r e s t r i c t e d t o t h o s e

t h a t h a v e a n i t e b i n a r y r e p r e s e n t a t i o n . L a r g e i n t e g e r s c a n b e r e p r e s e n t e d b y a n o r d e r e d s e q u e n c e o f b y t e s .

C o m m o n l e n g t h s , u s u a l l y e x p r e s s e d i n t e r m s o f t h e n u m b e r o f b i t s , a r e 1 6 , 3 2 , a n d 6 4 . T h u s , a n u n s i g n e d

3 2 - b i t n u m b e r c a n r e p r e s e n t i n t e g e r s r a n g i n g b e t w e e n 0 a n d 232 − 1 ( 4 , 2 9 4 , 9 6 7 , 2 9 5 ) , a n u m b e r a l m o s t b i g

e n o u g h t o e n u m e r a t e e v e r y h u m a n i n t h e w o r l d !

6

E x e r c i s e 5 . 2 . 1

( S o l u t i o n o n p . 2 2 1 . )

F o r b o t h 3 2 - b i t a n d 6 4 - b i t i n t e g e r r e p r e s e n t a t i o n s , w h a t a r e t h e l a r g e s t n u m b e r s t h a t c a n b e

r e p r e s e n t e d i f a s i g n b i t m u s t a l s o b e i n c l u d e d .

6

Y o u n e e d o n e m o r e b i t t o d o t h a t .




1 7 2


W h i l e t h i s s y s t e m r e p r e s e n t s i n t e g e r s w e l l , h o w a b o u t n u m b e r s h a v i n g n o n z e r o d i g i t s t o t h e r i g h t o f t h e

d e c i m a l p o i n t ? I n o t h e r w o r d s , h o w a r e n u m b e r s t h a t h a v e f r a c t i o n a l p a r t s r e p r e s e n t e d ? F o r s u c h n u m b e r s ,

t h e b i n a r y r e p r e s e n t a t i o n s y s t e m i s u s e d , b u t w i t h a l i t t l e m o r e c o m p l e x i t y . T h e o a t i n g - p o i n t s y s t e m

u s e s a n u m b e r o f b y t e s - t y p i c a l l y 4 o r 8 - t o r e p r e s e n t t h e n u m b e r , b u t w i t h o n e b y t e ( s o m e t i m e s t w o

b y t e s ) r e s e r v e d t o r e p r e s e n t t h e e x p o n e n t e o f a p o w e r - o f - t w o m u l t i p l i e r f o r t h e n u m b e r - t h e m a n t i s s a m- e x p r e s s e d b y t h e r e m a i n i n g b y t e s .

x = m2e ( 5 . 3 )

T h e m a n t i s s a i s u s u a l l y t a k e n t o b e a b i n a r y f r a c t i o n h a v i n g a m a g n i t u d e i n t h e r a n g e

12 , 1

, w h i c h m e a n s

t h a t t h e b i n a r y r e p r e s e n t a t i o n i s s u c h t h a t d−1 = 1 .

7

T h e n u m b e r z e r o i s a n e x c e p t i o n t o t h i s r u l e , a n d i t

i s t h e o n l y o a t i n g p o i n t n u m b e r h a v i n g a z e r o f r a c t i o n . T h e s i g n o f t h e m a n t i s s a r e p r e s e n t s t h e s i g n o f t h e

n u m b e r a n d t h e e x p o n e n t c a n b e a s i g n e d i n t e g e r .

A c o m p u t e r ' s r e p r e s e n t a t i o n o f i n t e g e r s i s e i t h e r p e r f e c t o r o n l y a p p r o x i m a t e , t h e l a t t e r s i t u a t i o n o c c u r r i n g

w h e n t h e i n t e g e r e x c e e d s t h e r a n g e o f n u m b e r s t h a t a l i m i t e d s e t o f b y t e s c a n r e p r e s e n t . F l o a t i n g p o i n t

r e p r e s e n t a t i o n s h a v e s i m i l a r r e p r e s e n t a t i o n p r o b l e m s : i f t h e n u m b e r x c a n b e m u l t i p l i e d / d i v i d e d b y e n o u g h

p o w e r s o f t w o t o y i e l d a f r a c t i o n l y i n g b e t w e e n 1 / 2 a n d 1 t h a t h a s a n i t e b i n a r y - f r a c t i o n r e p r e s e n t a t i o n , t h e

n u m b e r i s r e p r e s e n t e d e x a c t l y i n o a t i n g p o i n t . O t h e r w i s e , w e c a n o n l y r e p r e s e n t t h e n u m b e r a p p r o x i m a t e l y ,

n o t c a t a s t r o p h i c a l l y i n e r r o r a s w i t h i n t e g e r s . F o r e x a m p l e , t h e n u m b e r 2 . 5 e q u a l s 0.625 × 22 , t h e f r a c t i o n a l

p a r t o f w h i c h h a s a n e x a c t b i n a r y r e p r e s e n t a t i o n .

8

H o w e v e r , t h e n u m b e r 2.6 d o e s n o t h a v e a n e x a c t b i n a r y

r e p r e s e n t a t i o n , a n d o n l y b e r e p r e s e n t e d a p p r o x i m a t e l y i n o a t i n g p o i n t . I n s i n g l e p r e c i s i o n o a t i n g p o i n t

n u m b e r s , w h i c h r e q u i r e 3 2 b i t s ( o n e b y t e f o r t h e e x p o n e n t a n d t h e r e m a i n i n g 2 4 b i t s f o r t h e m a n t i s s a ) , t h e

n u m b e r 2 . 6 w i l l b e r e p r e s e n t e d a s 2.600000079.... N o t e t h a t t h i s a p p r o x i m a t i o n h a s a m u c h l o n g e r d e c i m a l

e x p a n s i o n . T h i s l e v e l o f a c c u r a c y m a y n o t s u c e i n n u m e r i c a l c a l c u l a t i o n s . D o u b l e p r e c i s i o n o a t i n g

p o i n t n u m b e r s c o n s u m e 8 b y t e s , a n d q u a d r u p l e p r e c i s i o n 1 6 b y t e s . T h e m o r e b i t s u s e d i n t h e m a n t i s s a ,

t h e g r e a t e r t h e a c c u r a c y . T h i s i n c r e a s i n g a c c u r a c y m e a n s t h a t m o r e n u m b e r s c a n b e r e p r e s e n t e d e x a c t l y , b u t

t h e r e a r e a l w a y s s o m e t h a t c a n n o t . S u c h i n e x a c t n u m b e r s h a v e a n i n n i t e b i n a r y r e p r e s e n t a t i o n .

9

R e a l i z i n g

t h a t r e a l n u m b e r s c a n b e o n l y r e p r e s e n t e d a p p r o x i m a t e l y i s q u i t e i m p o r t a n t , a n d u n d e r l i e s t h e e n t i r e e l d

o f n u m e r i c a l a n a l y s i s , w h i c h s e e k s t o p r e d i c t t h e n u m e r i c a l a c c u r a c y o f a n y c o m p u t a t i o n .

E x e r c i s e 5 . 2 . 2

( S o l u t i o n o n p . 2 2 1 . )

W h a t a r e t h e l a r g e s t a n d s m a l l e s t n u m b e r s t h a t c a n b e r e p r e s e n t e d i n 3 2 - b i t o a t i n g p o i n t ? i n

6 4 - b i t o a t i n g p o i n t t h a t h a s s i x t e e n b i t s a l l o c a t e d t o t h e e x p o n e n t ? N o t e t h a t b o t h e x p o n e n t a n d

m a n t i s s a r e q u i r e a s i g n b i t .

S o l o n g a s t h e i n t e g e r s a r e n ' t t o o l a r g e , t h e y c a n b e r e p r e s e n t e d e x a c t l y i n a c o m p u t e r u s i n g t h e b i n a r y

p o s i t i o n a l n o t a t i o n . E l e c t r o n i c c i r c u i t s t h a t m a k e u p t h e p h y s i c a l c o m p u t e r c a n a d d a n d s u b t r a c t i n t e g e r s

w i t h o u t e r r o r . ( T h i s s t a t e m e n t i s n ' t q u i t e t r u e ; w h e n d o e s a d d i t i o n c a u s e p r o b l e m s ? )

7

I n s o m e c o m p u t e r s , t h i s n o r m a l i z a t i o n i s t a k e n t o a n e x t r e m e : t h e l e a d i n g b i n a r y d i g i t i s n o t e x p l i c i t l y e x p r e s s e d , p r o v i d i n g

a n e x t r a b i t t o r e p r e s e n t t h e m a n t i s s a a l i t t l e m o r e a c c u r a t e l y . T h i s c o n v e n t i o n i s k n o w n a s t h e h i d d e n - o n e s n o t a t i o n .

8

S e e i f y o u c a n n d t h i s r e p r e s e n t a t i o n .

9

N o t e t h a t t h e r e w i l l a l w a y s b e n u m b e r s t h a t h a v e a n i n n i t e r e p r e s e n t a t i o n i n a n y c h o s e n p o s i t i o n a l s y s t e m . T h e c h o i c e

o f b a s e d e n e s w h i c h d o a n d w h i c h d o n ' t . I f y o u w e r e t h i n k i n g t h a t b a s e 1 0 n u m b e r s w o u l d s o l v e t h i s i n a c c u r a c y , n o t e t h a t

1/3 = 0.333333....h a s a n i n n i t e r e p r e s e n t a t i o n i n d e c i m a l ( a n d b i n a r y f o r t h a t m a t t e r ) , b u t h a s n i t e r e p r e s e n t a t i o n i n b a s e 3 .




1 7 3

5 . 2 . 3 C o m p u t e r A r i t h m e t i c a n d L o g i c

T h e b i n a r y a d d i t i o n a n d m u l t i p l i c a t i o n t a b l e s a r e

0 + 0 = 00 + 1 = 1

1 + 1 = 10

1 + 0 = 1

0 × 0 = 0

0 × 1 = 0

1 × 1 = 1

1 × 0 = 0

( 5 . 4 )

N o t e t h a t i f c a r r i e s a r e i g n o r e d ,

1 0

s u b t r a c t i o n o f t w o s i n g l e - d i g i t b i n a r y n u m b e r s y i e l d s t h e s a m e b i t a s

a d d i t i o n . C o m p u t e r s u s e h i g h a n d l o w v o l t a g e v a l u e s t o e x p r e s s a b i t , a n d a n a r r a y o f s u c h v o l t a g e s e x p r e s s

n u m b e r s a k i n t o p o s i t i o n a l n o t a t i o n . L o g i c c i r c u i t s p e r f o r m a r i t h m e t i c o p e r a t i o n s .

E x e r c i s e 5 . 2 . 3

( S o l u t i o n o n p . 2 2 1 . )

A d d t w e n t y - v e a n d s e v e n i n b a s e 2 . N o t e t h e c a r r i e s t h a t m i g h t o c c u r . W h y i s t h e r e s u l t " n i c e " ?

A l s o n o t e t h a t t h e l o g i c a l o p e r a t i o n s o f A N D a n d O R a r e e q u i v a l e n t t o b i n a r y a d d i t i o n ( a g a i n i f c a r r i e s

a r e i g n o r e d ) . T h e v a r i a b l e s o f l o g i c i n d i c a t e t r u t h o r f a l s e h o o d .

A ∩ B, t h e A N D o f

Aa n d

B, r e p r e s e n t s a

s t a t e m e n t t h a t b o t h

Aa n d

Bm u s t b e t r u e f o r t h e s t a t e m e n t t o b e t r u e . Y o u u s e t h i s k i n d o f s t a t e m e n t t o

t e l l s e a r c h e n g i n e s t h a t y o u w a n t t o r e s t r i c t h i t s t o c a s e s w h e r e b o t h o f t h e e v e n t s A a n d B o c c u r . A ∪ B ,

t h e O R o f A a n d B , y i e l d s a v a l u e o f t r u t h i f e i t h e r i s t r u e . N o t e t h a t i f w e r e p r e s e n t t r u t h b y a " 1 " a n d

f a l s e h o o d b y a " 0 , " b i n a r y m u l t i p l i c a t i o n c o r r e s p o n d s t o A N D a n d a d d i t i o n ( i g n o r i n g c a r r i e s )

t o X O R . X O R , t h e e x c l u s i v e o r o p e r a t o r , e q u a l s t h e u n i o n o f A∪

B a n d A∩

B . T h e I r i s h m a t h e m a t i c i a n

G e o r g e B o o l e d i s c o v e r e d t h i s e q u i v a l e n c e i n t h e m i d - n i n e t e e n t h c e n t u r y . I t l a i d t h e f o u n d a t i o n f o r w h a t w e

n o w c a l l B o o l e a n a l g e b r a , w h i c h e x p r e s s e s a s e q u a t i o n s l o g i c a l s t a t e m e n t s . M o r e i m p o r t a n t l y , a n y c o m p u t e r

u s i n g b a s e - 2 r e p r e s e n t a t i o n s a n d a r i t h m e t i c c a n a l s o e a s i l y e v a l u a t e l o g i c a l s t a t e m e n t s . T h i s f a c t m a k e s a n

i n t e g e r - b a s e d c o m p u t a t i o n a l d e v i c e m u c h m o r e p o w e r f u l t h a n m i g h t b e a p p a r e n t .

5 . 3 T h e S a m p l i n g T h e o r e m

1 1

5 . 3 . 1 A n a l o g - t o - D i g i t a l C o n v e r s i o n

B e c a u s e o f t h e w a y c o m p u t e r s a r e o r g a n i z e d , s i g n a l m u s t b e r e p r e s e n t e d b y a n i t e n u m b e r o f b y t e s . T h i s

r e s t r i c t i o n m e a n s t h a t b o t h t h e t i m e a x i s a n d t h e a m p l i t u d e a x i s m u s t b e q u a n t i z e d : T h e y m u s t e a c h b e

a m u l t i p l e o f t h e i n t e g e r s .

1 2

Q u i t e s u r p r i s i n g l y , t h e S a m p l i n g T h e o r e m a l l o w s u s t o q u a n t i z e t h e t i m e a x i s

w i t h o u t e r r o r f o r s o m e s i g n a l s . T h e s i g n a l s t h a t c a n b e s a m p l e d w i t h o u t i n t r o d u c i n g e r r o r a r e i n t e r e s t i n g ,

a n d a s d e s c r i b e d i n t h e n e x t s e c t i o n , w e c a n m a k e a s i g n a l " s a m p l a b l e " b y l t e r i n g . I n c o n t r a s t , n o o n e

h a s f o u n d a w a y o f p e r f o r m i n g t h e a m p l i t u d e q u a n t i z a t i o n s t e p w i t h o u t i n t r o d u c i n g a n u n r e c o v e r a b l e e r r o r .

T h u s , a s i g n a l ' s v a l u e c a n n o l o n g e r b e a n y r e a l n u m b e r . S i g n a l s p r o c e s s e d b y d i g i t a l c o m p u t e r s m u s t

b e d i s c r e t e - v a l u e d : t h e i r v a l u e s m u s t b e p r o p o r t i o n a l t o t h e i n t e g e r s . C o n s e q u e n t l y , a n a l o g - t o - d i g i t a l

c o n v e r s i o n i n t r o d u c e s e r r o r .

1 0

A c a r r y m e a n s t h a t a c o m p u t a t i o n p e r f o r m e d a t a g i v e n p o s i t i o n a e c t s o t h e r p o s i t i o n s a s w e l l . H e r e ,

1 + 1 = 10i s a n

e x a m p l e o f a c o m p u t a t i o n t h a t i n v o l v e s a c a r r y .

1 1


1 2

W e a s s u m e t h a t w e d o n o t u s e o a t i n g - p o i n t A / D c o n v e r t e r s .




1 7 4


5 . 3 . 2 T h e S a m p l i n g T h e o r e m

D i g i t a l t r a n s m i s s i o n o f i n f o r m a t i o n a n d d i g i t a l s i g n a l p r o c e s s i n g a l l r e q u i r e s i g n a l s t o r s t b e " a c q u i r e d "

b y a c o m p u t e r . O n e o f t h e m o s t a m a z i n g a n d u s e f u l r e s u l t s i n e l e c t r i c a l e n g i n e e r i n g i s t h a t s i g n a l s c a n b e

c o n v e r t e d f r o m a f u n c t i o n o f t i m e i n t o a s e q u e n c e o f n u m b e r s w i t h o u t e r r o r : W e c a n c o n v e r t t h e n u m b e r s

b a c k i n t o t h e s i g n a l w i t h ( t h e o r e t i c a l l y ) n o e r r o r . H a r o l d N y q u i s t , a B e l l L a b o r a t o r i e s e n g i n e e r , r s t d e r i v e d

t h i s r e s u l t , k n o w n a s t h e S a m p l i n g T h e o r e m , i n t h e 1 9 2 0 s . I t f o u n d n o r e a l a p p l i c a t i o n b a c k t h e n . C l a u d e

S h a n n o n

1 3

, a l s o a t B e l l L a b o r a t o r i e s , r e v i v e d t h e r e s u l t o n c e c o m p u t e r s w e r e m a d e p u b l i c a f t e r W o r l d W a r

I I .

T h e s a m p l e d v e r s i o n o f t h e a n a l o g s i g n a l

s (t) i s

s (nT s) , w i t h

T s k n o w n a s t h e s a m p l i n g i n t e r v a l .

C l e a r l y , t h e v a l u e o f t h e o r i g i n a l s i g n a l a t t h e s a m p l i n g t i m e s i s p r e s e r v e d ; t h e i s s u e i s h o w t h e s i g n a l v a l u e s

b e t w e e n t h e s a m p l e s c a n b e r e c o n s t r u c t e d s i n c e t h e y a r e l o s t i n t h e s a m p l i n g p r o c e s s . T o c h a r a c t e r i z e

s a m p l i n g , w e a p p r o x i m a t e i t a s t h e p r o d u c t x (t) = s (t) P T s (t) , w i t h P T s (t) b e i n g t h e p e r i o d i c p u l s e s i g n a l .

T h e r e s u l t i n g s i g n a l , a s s h o w n i n F i g u r e 5 . 3 ( S a m p l e d S i g n a l ) , h a s n o n z e r o v a l u e s o n l y d u r i n g t h e t i m e

i n t e r v a l s

nT s − ∆

2 , nT s + ∆2

, n ∈ . . . , −1, 0, 1, . . . .

S a m p l e d S i g n a l

s(t)

s(t)pTs(t)

Ts∆

t

t

F i g u r e 5 . 3 : T h e w a v e f o r m o f a n e x a m p l e s i g n a l i s s h o w n i n t h e t o p p l o t a n d i t s s a m p l e d v e r s i o n i n

t h e b o t t o m .

F o r o u r p u r p o s e s h e r e , w e c e n t e r t h e p e r i o d i c p u l s e s i g n a l a b o u t t h e o r i g i n s o t h a t i t s F o u r i e r s e r i e s

c o e c i e n t s a r e r e a l ( t h e s i g n a l i s e v e n ) .

pT s (t) =∞

k=−∞

ckej2πkt

T s( 5 . 5 )

ck =sin

πk∆T s

πk

( 5 . 6 )

I f t h e p r o p e r t i e s o f s (t) a n d t h e p e r i o d i c p u l s e s i g n a l a r e c h o s e n p r o p e r l y , w e c a n r e c o v e r s (t) f r o m x (t) b y

l t e r i n g .

1 3





1 7 5

T o u n d e r s t a n d h o w s i g n a l v a l u e s b e t w e e n t h e s a m p l e s c a n b e " l l e d " i n , w e n e e d t o c a l c u l a t e t h e s a m p l e d

s i g n a l ' s s p e c t r u m . U s i n g t h e F o u r i e r s e r i e s r e p r e s e n t a t i o n o f t h e p e r i o d i c s a m p l i n g s i g n a l ,

x (t) =

∞k=−∞ cke

j2πktT

s s (t)( 5 . 7 )

C o n s i d e r i n g e a c h t e r m i n t h e s u m s e p a r a t e l y , w e n e e d t o k n o w t h e s p e c t r u m o f t h e p r o d u c t o f t h e c o m p l e x

e x p o n e n t i a l a n d t h e s i g n a l . E v a l u a t i n g t h i s t r a n s f o r m d i r e c t l y i s q u i t e e a s y . ∞−∞

s (t) ej2πkt

T s e−(j2πft)dt =

∞−∞

s (t) e−(j2π(f − kT s

)t)dt = S

f − k

T s

( 5 . 8 )

T h u s , t h e s p e c t r u m o f t h e s a m p l e d s i g n a l c o n s i s t s o f w e i g h t e d ( b y t h e c o e c i e n t s ck ) a n d d e l a y e d v e r s i o n s

o f t h e s i g n a l ' s s p e c t r u m ( F i g u r e 5 . 4 ( a l i a s i n g ) ) .

X (f ) =∞

k=−∞ckS f − k

T s ( 5 . 9 )

I n g e n e r a l , t h e t e r m s i n t h i s s u m o v e r l a p e a c h o t h e r i n t h e f r e q u e n c y d o m a i n , r e n d e r i n g r e c o v e r y o f t h e

o r i g i n a l s i g n a l i m p o s s i b l e . T h i s u n p l e a s a n t p h e n o m e n o n i s k n o w n a s a l i a s i n g .

a l i a s i n g

W –W

S(f)

f

W –W

X(f)

f

c0 c1 c2

c-1c-2

1Ts

W –W

X(f)

f

c0 c1c-1c-2

Ts>

1

2W

Ts<1

2W

Aliasing

c2

2Ts

2Ts

1Ts

1

Ts – 2

Ts –

1Ts

– 2Ts

–

F i g u r e 5 . 4 : T h e s p e c t r u m o f s o m e b a n d l i m i t e d ( t o

W H z ) s i g n a l i s s h o w n i n t h e t o p p l o t . I f t h e

s a m p l i n g i n t e r v a l

T s i s c h o s e n t o o l a r g e r e l a t i v e t o t h e b a n d w i d t h

W , a l i a s i n g w i l l o c c u r . I n t h e b o t t o m

p l o t , t h e s a m p l i n g i n t e r v a l i s c h o s e n s u c i e n t l y s m a l l t o a v o i d a l i a s i n g . N o t e t h a t i f t h e s i g n a l w e r e n o t

b a n d l i m i t e d , t h e c o m p o n e n t s p e c t r a w o u l d a l w a y s o v e r l a p .

I f , h o w e v e r , w e s a t i s f y t w o c o n d i t i o n s :

• T h e s i g n a l s (t) i s b a n d l i m i t e d h a s p o w e r i n a r e s t r i c t e d f r e q u e n c y r a n g e t o W H z , a n d




1 7 6


• t h e s a m p l i n g i n t e r v a l T s i s s m a l l e n o u g h s o t h a t t h e i n d i v i d u a l c o m p o n e n t s i n t h e s u m d o n o t o v e r l a p

T s < 1/2W ,

a l i a s i n g w i l l n o t o c c u r . I n t h i s d e l i g h t f u l c a s e , w e c a n r e c o v e r t h e o r i g i n a l s i g n a l b y l o w p a s s l t e r i n g x (t)w i t h a l t e r h a v i n g a c u t o f r e q u e n c y e q u a l t o W H z . T h e s e t w o c o n d i t i o n s e n s u r e t h e a b i l i t y t o r e c o v e r a

b a n d l i m i t e d s i g n a l f r o m i t s s a m p l e d v e r s i o n : W e t h u s h a v e t h e S a m p l i n g T h e o r e m .

E x e r c i s e 5 . 3 . 1

( S o l u t i o n o n p . 2 2 1 . )

T h e S a m p l i n g T h e o r e m ( a s s t a t e d ) d o e s n o t m e n t i o n t h e p u l s e w i d t h ∆. W h a t i s t h e e e c t o f t h i s

p a r a m e t e r o n o u r a b i l i t y t o r e c o v e r a s i g n a l f r o m i t s s a m p l e s ( a s s u m i n g t h e S a m p l i n g T h e o r e m ' s

t w o c o n d i t i o n s a r e m e t ) ?

T h e f r e q u e n c y

12T s

, k n o w n t o d a y a s t h e N y q u i s t f r e q u e n c y a n d t h e S h a n n o n s a m p l i n g f r e q u e n c y ,

c o r r e s p o n d s t o t h e h i g h e s t f r e q u e n c y a t w h i c h a s i g n a l c a n c o n t a i n e n e r g y a n d r e m a i n c o m p a t i b l e w i t h

t h e S a m p l i n g T h e o r e m . H i g h - q u a l i t y s a m p l i n g s y s t e m s e n s u r e t h a t n o a l i a s i n g o c c u r s b y u n c e r e m o n i o u s l y

l o w p a s s l t e r i n g t h e s i g n a l ( c u t o f r e q u e n c y b e i n g s l i g h t l y l o w e r t h a n t h e N y q u i s t f r e q u e n c y ) b e f o r e s a m p l i n g .

S u c h s y s t e m s t h e r e f o r e v a r y t h e a n t i - a l i a s i n g l t e r ' s c u t o f r e q u e n c y a s t h e s a m p l i n g r a t e v a r i e s . B e c a u s e

s u c h q u a l i t y f e a t u r e s c o s t m o n e y , m a n y s o u n d c a r d s d o n o t h a v e a n t i - a l i a s i n g l t e r s o r , f o r t h a t m a t t e r ,

p o s t - s a m p l i n g l t e r s . T h e y s a m p l e a t h i g h f r e q u e n c i e s , 4 4 . 1 k H z f o r e x a m p l e , a n d h o p e t h e s i g n a l c o n t a i n s

n o f r e q u e n c i e s a b o v e t h e N y q u i s t f r e q u e n c y ( 2 2 . 0 5 k H z i n o u r e x a m p l e ) . I f , h o w e v e r , t h e s i g n a l c o n t a i n s

f r e q u e n c i e s b e y o n d t h e s o u n d c a r d ' s N y q u i s t f r e q u e n c y , t h e r e s u l t i n g a l i a s i n g c a n b e i m p o s s i b l e t o r e m o v e .

E x e r c i s e 5 . 3 . 2

( S o l u t i o n o n p . 2 2 1 . )

T o g a i n a b e t t e r a p p r e c i a t i o n o f a l i a s i n g , s k e t c h t h e s p e c t r u m o f a s a m p l e d s q u a r e w a v e . F o r

s i m p l i c i t y c o n s i d e r o n l y t h e s p e c t r a l r e p e t i t i o n s c e n t e r e d a t − 1T s

, 0 ,

1T s

. L e t t h e s a m p l i n g i n t e r v a l

T s b e 1 ; c o n s i d e r t w o v a l u e s f o r t h e s q u a r e w a v e ' s p e r i o d : 3 . 5 a n d 4 . N o t e i n p a r t i c u l a r w h e r e t h e

s p e c t r a l l i n e s g o a s t h e p e r i o d d e c r e a s e s ; s o m e w i l l m o v e t o t h e l e f t a n d s o m e t o t h e r i g h t . W h a t

p r o p e r t y c h a r a c t e r i z e s t h e o n e s g o i n g t h e s a m e d i r e c t i o n ?

I f w e s a t i s f y t h e S a m p l i n g T h e o r e m ' s c o n d i t i o n s , t h e s i g n a l w i l l c h a n g e o n l y s l i g h t l y d u r i n g e a c h p u l s e . A s

w e n a r r o w t h e p u l s e , m a k i n g ∆ s m a l l e r a n d s m a l l e r , t h e n o n z e r o v a l u e s o f t h e s i g n a l s (t) pT s (t) w i l l s i m p l y

b e s (nT s) , t h e s i g n a l ' s s a m p l e s . I f i n d e e d t h e N y q u i s t f r e q u e n c y e q u a l s t h e s i g n a l ' s h i g h e s t f r e q u e n c y , a t

l e a s t t w o s a m p l e s w i l l o c c u r w i t h i n t h e p e r i o d o f t h e s i g n a l ' s h i g h e s t f r e q u e n c y s i n u s o i d . I n t h e s e w a y s , t h e

s a m p l i n g s i g n a l c a p t u r e s t h e s a m p l e d s i g n a l ' s t e m p o r a l v a r i a t i o n s i n a w a y t h a t l e a v e s a l l t h e o r i g i n a l s i g n a l ' s

s t r u c t u r e i n t a c t .

E x e r c i s e 5 . 3 . 3

( S o l u t i o n o n p . 2 2 1 . )

W h a t i s t h e s i m p l e s t b a n d l i m i t e d s i g n a l ? U s i n g t h i s s i g n a l , c o n v i n c e y o u r s e l f t h a t l e s s t h a n t w o

s a m p l e s / p e r i o d w i l l n o t s u c e t o s p e c i f y i t . I f t h e s a m p l i n g r a t e

1T s

i s n o t h i g h e n o u g h , w h a t s i g n a l

w o u l d y o u r r e s u l t i n g u n d e r s a m p l e d s i g n a l b e c o m e ?

5 . 4 A m p l i t u d e Q u a n t i z a t i o n

1 4

T h e S a m p l i n g T h e o r e m s a y s t h a t i f w e s a m p l e a b a n d l i m i t e d s i g n a l s (t) f a s t e n o u g h , i t c a n b e r e c o v e r e d

w i t h o u t e r r o r f r o m i t s s a m p l e s

s (nT s),

n ∈ . . . , −1, 0, 1, . . . . S a m p l i n g i s o n l y t h e r s t p h a s e o f a c q u i r i n g

d a t a i n t o a c o m p u t e r : C o m p u t a t i o n a l p r o c e s s i n g f u r t h e r r e q u i r e s t h a t t h e s a m p l e s b e q u a n t i z e d : a n a l o g

v a l u e s a r e c o n v e r t e d i n t o d i g i t a l ( S e c t i o n 1 . 2 . 2 : D i g i t a l S i g n a l s ) f o r m . I n s h o r t , w e w i l l h a v e p e r f o r m e d

a n a l o g - t o - d i g i t a l ( A / D ) c o n v e r s i o n .

1 4





1 7 7

s(nTs)

Q[s(nTs)]

0

1

2

3

1 –1

4

5

7

–0.5 0.5

6

∆

( a )

1

0

–1 -1

-0.75

-0.5

-0.25

0

0.25

0.5

0.75

1sampled signal

0

1

2

3

4

5

6

7

amplitude-quantizedand sampled signal

signal

( b )

F i g u r e 5 . 5 : A t h r e e - b i t A / D c o n v e r t e r a s s i g n s v o l t a g e i n t h e r a n g e

[−1, 1]t o o n e o f e i g h t i n t e g e r s

b e t w e e n 0 a n d 7 . F o r e x a m p l e , a l l i n p u t s h a v i n g v a l u e s l y i n g b e t w e e n 0 . 5 a n d 0 . 7 5 a r e a s s i g n e d t h e i n t e g e r

v a l u e s i x a n d , u p o n c o n v e r s i o n b a c k t o a n a n a l o g v a l u e , t h e y a l l b e c o m e 0 . 6 2 5 . T h e w i d t h o f a s i n g l e

q u a n t i z a t i o n i n t e r v a l

∆e q u a l s

22B . T h e b o t t o m p a n e l s h o w s a s i g n a l g o i n g t h r o u g h t h e a n a l o g - t o - d i g i t a l ,

w h e r e

Bi s t h e n u m b e r o f b i t s u s e d i n t h e A / D c o n v e r s i o n p r o c e s s ( 3 i n t h e c a s e d e p i c t e d h e r e ) . F i r s t

i t i s s a m p l e d , t h e n a m p l i t u d e - q u a n t i z e d t o t h r e e b i t s . N o t e h o w t h e s a m p l e d s i g n a l w a v e f o r m b e c o m e s

d i s t o r t e d a f t e r a m p l i t u d e q u a n t i z a t i o n . F o r e x a m p l e t h e t w o s i g n a l v a l u e s b e t w e e n 0 . 5 a n d 0 . 7 5 b e c o m e

0 . 6 2 5 . T h i s d i s t o r t i o n i s i r r e v e r s i b l e ; i t c a n b e r e d u c e d ( b u t n o t e l i m i n a t e d ) b y u s i n g m o r e b i t s i n t h e

A / D c o n v e r t e r .

A p h e n o m e n o n r e m i n i s c e n t o f t h e e r r o r s i n c u r r e d i n r e p r e s e n t i n g n u m b e r s o n a c o m p u t e r p r e v e n t s s i g n a l

a m p l i t u d e s f r o m b e i n g c o n v e r t e d w i t h n o e r r o r i n t o a b i n a r y n u m b e r r e p r e s e n t a t i o n . I n a n a l o g - t o - d i g i t a l

c o n v e r s i o n , t h e s i g n a l i s a s s u m e d t o l i e w i t h i n a p r e d e n e d r a n g e . A s s u m i n g w e c a n s c a l e t h e s i g n a l w i t h o u t

a e c t i n g t h e i n f o r m a t i o n i t e x p r e s s e s , w e ' l l d e n e t h i s r a n g e t o b e [−1, 1]. F u r t h e r m o r e , t h e A / D c o n v e r t e r

a s s i g n s a m p l i t u d e v a l u e s i n t h i s r a n g e t o a s e t o f i n t e g e r s . A

B- b i t c o n v e r t e r p r o d u c e s o n e o f t h e i n t e g e r s

0, 1, . . . , 2B − 1

f o r e a c h s a m p l e d i n p u t . F i g u r e 5 . 5 s h o w s h o w a t h r e e - b i t A / D c o n v e r t e r a s s i g n s i n p u t

v a l u e s t o t h e i n t e g e r s . W e d e n e a q u a n t i z a t i o n i n t e r v a l t o b e t h e r a n g e o f v a l u e s a s s i g n e d t o t h e s a m e

i n t e g e r . T h u s , f o r o u r e x a m p l e t h r e e - b i t A / D c o n v e r t e r , t h e q u a n t i z a t i o n i n t e r v a l ∆ i s 0.25 ; i n g e n e r a l , i t i s

22B .


R e c a l l i n g t h e p l o t o f a v e r a g e d a i l y h i g h s i n t h i s f r e q u e n c y d o m a i n p r o b l e m ( P r o b l e m 4 . 5 ) , w h y i s

t h i s p l o t s o j a g g e d ? I n t e r p r e t t h i s e e c t i n t e r m s o f a n a l o g - t o - d i g i t a l c o n v e r s i o n .

B e c a u s e v a l u e s l y i n g a n y w h e r e w i t h i n a q u a n t i z a t i o n i n t e r v a l a r e a s s i g n e d t h e s a m e v a l u e f o r c o m p u t e r

p r o c e s s i n g , t h e o r i g i n a l a m p l i t u d e v a l u e c a n n o t b e r e c o v e r e d w i t h o u t e r r o r . T y p i c a l l y , t h e D / A

c o n v e r t e r , t h e d e v i c e t h a t c o n v e r t s i n t e g e r s t o a m p l i t u d e s , a s s i g n s a n a m p l i t u d e e q u a l t o t h e v a l u e l y i n g

h a l f w a y i n t h e q u a n t i z a t i o n i n t e r v a l . T h e i n t e g e r 6 w o u l d b e a s s i g n e d t o t h e a m p l i t u d e 0 . 6 2 5 i n t h i s s c h e m e .

T h e e r r o r i n t r o d u c e d b y c o n v e r t i n g a s i g n a l f r o m a n a l o g t o d i g i t a l f o r m b y s a m p l i n g a n d a m p l i t u d e q u a n t i -

z a t i o n t h e n b a c k a g a i n w o u l d b e h a l f t h e q u a n t i z a t i o n i n t e r v a l f o r e a c h a m p l i t u d e v a l u e . T h u s , t h e s o - c a l l e d




1 7 8


A / D e r r o r e q u a l s h a l f t h e w i d t h o f a q u a n t i z a t i o n i n t e r v a l :

12B . A s w e h a v e x e d t h e i n p u t - a m p l i t u d e r a n g e ,

t h e m o r e b i t s a v a i l a b l e i n t h e A / D c o n v e r t e r , t h e s m a l l e r t h e q u a n t i z a t i o n e r r o r .

T o a n a l y z e t h e a m p l i t u d e q u a n t i z a t i o n e r r o r m o r e d e e p l y , w e n e e d t o c o m p u t e t h e s i g n a l - t o - n o i s e r a t i o ,

w h i c h e q u a l s t h e r a t i o o f t h e s i g n a l p o w e r a n d t h e q u a n t i z a t i o n e r r o r p o w e r . A s s u m i n g t h e s i g n a l i s a

s i n u s o i d , t h e s i g n a l p o w e r i s t h e s q u a r e o f t h e r m s a m p l i t u d e : power (s) =

1√ 2

2= 1

2 . T h e i l l u s t r a t i o n

( F i g u r e 5 . 6 ) d e t a i l s a s i n g l e q u a n t i z a t i o n i n t e r v a l .

∆

Q[s(nTs)]s(nTs)

ε

F i g u r e 5 . 6 : A s i n g l e q u a n t i z a t i o n i n t e r v a l i s s h o w n , a l o n g w i t h a t y p i c a l s i g n a l ' s v a l u e b e f o r e a m p l i t u d e

q u a n t i z a t i o n

s (nT s)a n d a f t e r

Q (s (nT s)).

d e n o t e s t h e e r r o r t h u s i n c u r r e d .

I t s w i d t h i s ∆ a n d t h e q u a n t i z a t i o n e r r o r i s d e n o t e d b y . T o n d t h e p o w e r i n t h e q u a n t i z a t i o n e r r o r ,

w e n o t e t h a t n o m a t t e r i n t o w h i c h q u a n t i z a t i o n i n t e r v a l t h e s i g n a l ' s v a l u e f a l l s , t h e e r r o r w i l l h a v e t h e s a m e

c h a r a c t e r i s t i c s . T o c a l c u l a t e t h e r m s v a l u e , w e m u s t s q u a r e t h e e r r o r a n d a v e r a g e i t o v e r t h e i n t e r v a l .

rms() =

1∆

∆2

−∆2

2d

=∆2

12

12

( 5 . 1 0 )

S i n c e t h e q u a n t i z a t i o n i n t e r v a l w i d t h f o r a B - b i t c o n v e r t e r e q u a l s

22B = 2−(B−1) , w e n d t h a t t h e s i g n a l - t o -

n o i s e r a t i o f o r t h e a n a l o g - t o - d i g i t a l c o n v e r s i o n p r o c e s s e q u a l s

SNR =12

2−(2(B−1))12

=3

222B = 6B + 10log1.5dB ( 5 . 1 1 )

T h u s , e v e r y b i t i n c r e a s e i n t h e A / D c o n v e r t e r y i e l d s a 6 d B i n c r e a s e i n t h e s i g n a l - t o - n o i s e r a t i o . T h e

c o n s t a n t t e r m 10log1.5 e q u a l s 1 . 7 6 .


T h i s d e r i v a t i o n a s s u m e d t h e s i g n a l ' s a m p l i t u d e l a y i n t h e r a n g e [−1, 1]. W h a t w o u l d t h e a m p l i t u d e

q u a n t i z a t i o n s i g n a l - t o - n o i s e r a t i o b e i f i t l a y i n t h e r a n g e [−A, A]?

E x e r c i s e 5 . 4 . 3

( S o l u t i o n o n p . 2 2 2 . )

H o w m a n y b i t s w o u l d b e r e q u i r e d i n t h e A / D c o n v e r t e r t o e n s u r e t h a t t h e m a x i m u m a m p l i t u d e

q u a n t i z a t i o n e r r o r w a s l e s s t h a n 6 0 d b s m a l l e r t h a n t h e s i g n a l ' s p e a k v a l u e ?

E x e r c i s e 5 . 4 . 4

( S o l u t i o n o n p . 2 2 2 . )

M u s i c o n a C D i s s t o r e d t o 1 6 - b i t a c c u r a c y . T o w h a t s i g n a l - t o - n o i s e r a t i o d o e s t h i s c o r r e s p o n d ?

O n c e w e h a v e a c q u i r e d s i g n a l s w i t h a n A / D c o n v e r t e r , w e c a n p r o c e s s t h e m u s i n g d i g i t a l h a r d w a r e o r

s o f t w a r e . I t c a n b e s h o w n t h a t i f t h e c o m p u t e r p r o c e s s i n g i s l i n e a r , t h e r e s u l t o f s a m p l i n g , c o m p u t e r

p r o c e s s i n g , a n d u n s a m p l i n g i s e q u i v a l e n t t o s o m e a n a l o g l i n e a r s y s t e m . W h y g o t o a l l t h e b o t h e r i f t h e s a m e

f u n c t i o n c a n b e a c c o m p l i s h e d u s i n g a n a l o g t e c h n i q u e s ? K n o w i n g w h e n d i g i t a l p r o c e s s i n g e x c e l s a n d w h e n i t

d o e s n o t i s a n i m p o r t a n t i s s u e .




1 7 9

5 . 5 D i s c r e t e - T i m e S i g n a l s a n d S y s t e m s

1 5

M a t h e m a t i c a l l y , a n a l o g s i g n a l s a r e f u n c t i o n s h a v i n g a s t h e i r i n d e p e n d e n t v a r i a b l e s c o n t i n u o u s q u a n t i t i e s ,

s u c h a s s p a c e a n d t i m e . D i s c r e t e - t i m e s i g n a l s a r e f u n c t i o n s d e n e d o n t h e i n t e g e r s ; t h e y a r e s e q u e n c e s . A s

w i t h a n a l o g s i g n a l s , w e s e e k w a y s o f d e c o m p o s i n g d i s c r e t e - t i m e s i g n a l s i n t o s i m p l e r c o m p o n e n t s . B e c a u s e

t h i s a p p r o a c h l e a d i n g t o a b e t t e r u n d e r s t a n d i n g o f s i g n a l s t r u c t u r e , w e c a n e x p l o i t t h a t s t r u c t u r e t o r e p r e s e n t

i n f o r m a t i o n ( c r e a t e w a y s o f r e p r e s e n t i n g i n f o r m a t i o n w i t h s i g n a l s ) a n d t o e x t r a c t i n f o r m a t i o n ( r e t r i e v e t h e

i n f o r m a t i o n t h u s r e p r e s e n t e d ) . F o r s y m b o l i c - v a l u e d s i g n a l s , t h e a p p r o a c h i s d i e r e n t : W e d e v e l o p a c o m m o n

r e p r e s e n t a t i o n o f a l l s y m b o l i c - v a l u e d s i g n a l s s o t h a t w e c a n e m b o d y t h e i n f o r m a t i o n t h e y c o n t a i n i n a

u n i e d w a y . F r o m a n i n f o r m a t i o n r e p r e s e n t a t i o n p e r s p e c t i v e , t h e m o s t i m p o r t a n t i s s u e b e c o m e s , f o r b o t h

r e a l - v a l u e d a n d s y m b o l i c - v a l u e d s i g n a l s , e c i e n c y : w h a t i s t h e m o s t p a r s i m o n i o u s a n d c o m p a c t w a y t o

r e p r e s e n t i n f o r m a t i o n s o t h a t i t c a n b e e x t r a c t e d l a t e r .

5 . 5 . 1 R e a l - a n d C o m p l e x - v a l u e d S i g n a l s

A d i s c r e t e - t i m e s i g n a l i s r e p r e s e n t e d s y m b o l i c a l l y a s s (n), w h e r e n = . . . , −1, 0, 1, . . . .

C o s i n e

n

sn

1

…

…

F i g u r e 5 . 7 : T h e d i s c r e t e - t i m e c o s i n e s i g n a l i s p l o t t e d a s a s t e m p l o t . C a n y o u n d t h e f o r m u l a f o r t h i s

s i g n a l ?

W e u s u a l l y d r a w d i s c r e t e - t i m e s i g n a l s a s s t e m p l o t s t o e m p h a s i z e t h e f a c t t h e y a r e f u n c t i o n s d e n e d o n l y

o n t h e i n t e g e r s . W e c a n d e l a y a d i s c r e t e - t i m e s i g n a l b y a n i n t e g e r j u s t a s w i t h a n a l o g o n e s . A s i g n a l d e l a y e d

b y m s a m p l e s h a s t h e e x p r e s s i o n s (n − m) .


T h e m o s t i m p o r t a n t s i g n a l i s , o f c o u r s e , t h e c o m p l e x e x p o n e n t i a l s e q u e n c e .

s (n) = ej2πfn( 5 . 1 2 )

N o t e t h a t t h e f r e q u e n c y v a r i a b l e f i s d i m e n s i o n l e s s a n d t h a t a d d i n g a n i n t e g e r t o t h e f r e q u e n c y o f t h e

d i s c r e t e - t i m e c o m p l e x e x p o n e n t i a l h a s n o e e c t o n t h e s i g n a l ' s v a l u e .

ej2π(f +m)n = ej2πfnej2πmn

= ej2πfn( 5 . 1 3 )

T h i s d e r i v a t i o n f o l l o w s b e c a u s e t h e c o m p l e x e x p o n e n t i a l e v a l u a t e d a t a n i n t e g e r m u l t i p l e o f 2π e q u a l s o n e .

T h u s , w e n e e d o n l y c o n s i d e r f r e q u e n c y t o h a v e a v a l u e i n s o m e u n i t - l e n g t h i n t e r v a l .

1 5





1 8 0


5 . 5 . 3 S i n u s o i d s

D i s c r e t e - t i m e s i n u s o i d s h a v e t h e o b v i o u s f o r m s (n) = Acos(2πf n + φ) . A s o p p o s e d t o a n a l o g c o m p l e x

e x p o n e n t i a l s a n d s i n u s o i d s t h a t c a n h a v e t h e i r f r e q u e n c i e s b e a n y r e a l v a l u e , f r e q u e n c i e s o f t h e i r d i s c r e t e -

t i m e c o u n t e r p a r t s y i e l d u n i q u e w a v e f o r m s o n l y w h e n

f l i e s i n t h e i n t e r v a l −1

2 ,12 . T h i s c h o i c e o f f r e q u e n c y

i n t e r v a l i s a r b i t r a r y ; w e c a n a l s o c h o o s e t h e f r e q u e n c y t o l i e i n t h e i n t e r v a l [0, 1). H o w t o c h o o s e a u n i t - l e n g t h

i n t e r v a l f o r a s i n u s o i d ' s f r e q u e n c y w i l l b e c o m e e v i d e n t l a t e r .

5 . 5 . 4 U n i t S a m p l e

T h e s e c o n d - m o s t i m p o r t a n t d i s c r e t e - t i m e s i g n a l i s t h e u n i t s a m p l e , w h i c h i s d e n e d t o b e

δ (n) =

1 i f

n = 0

0 o t h e r w i s e

( 5 . 1 4 )

U n i t s a m p l e

1

n

δn

F i g u r e 5 . 8 : T h e u n i t s a m p l e .

E x a m i n a t i o n o f a d i s c r e t e - t i m e s i g n a l ' s p l o t , l i k e t h a t o f t h e c o s i n e s i g n a l s h o w n i n F i g u r e 5 . 7 ( C o s i n e ) ,

r e v e a l s t h a t a l l s i g n a l s c o n s i s t o f a s e q u e n c e o f d e l a y e d a n d s c a l e d u n i t s a m p l e s . B e c a u s e t h e v a l u e o f

a s e q u e n c e a t e a c h i n t e g e r

mi s d e n o t e d b y

s (m) a n d t h e u n i t s a m p l e d e l a y e d t o o c c u r a t

mi s w r i t t e n

δ (n − m), w e c a n d e c o m p o s e a n y s i g n a l a s a s u m o f u n i t s a m p l e s d e l a y e d t o t h e a p p r o p r i a t e l o c a t i o n a n d

s c a l e d b y t h e s i g n a l v a l u e .

s (n) =∞

m=−∞s (m) δ (n − m) ( 5 . 1 5 )

T h i s k i n d o f d e c o m p o s i t i o n i s u n i q u e t o d i s c r e t e - t i m e s i g n a l s , a n d w i l l p r o v e u s e f u l s u b s e q u e n t l y .

5 . 5 . 5 U n i t S t e p

T h e u n i t s a m p l e i n d i s c r e t e - t i m e i s w e l l - d e n e d a t t h e o r i g i n , a s o p p o s e d t o t h e s i t u a t i o n w i t h a n a l o g

s i g n a l s .

u (n) = 1 i f n ≥ 0

0 i f

n < 0( 5 . 1 6 )

5 . 5 . 6 S y m b o l i c S i g n a l s

A n i n t e r e s t i n g a s p e c t o f d i s c r e t e - t i m e s i g n a l s i s t h a t t h e i r v a l u e s d o n o t n e e d t o b e r e a l n u m b e r s . W e d o

h a v e r e a l - v a l u e d d i s c r e t e - t i m e s i g n a l s l i k e t h e s i n u s o i d , b u t w e a l s o h a v e s i g n a l s t h a t d e n o t e t h e s e q u e n c e o f






1 8 2


f D a n d f A r e p r e s e n t d i s c r e t e - t i m e a n d a n a l o g f r e q u e n c y v a r i a b l e s , r e s p e c t i v e l y . T h e a l i a s i n g g u r e ( F i g -

u r e 5 . 4 : a l i a s i n g ) p r o v i d e s a n o t h e r w a y o f d e r i v i n g t h i s r e s u l t . A s t h e d u r a t i o n o f e a c h p u l s e i n t h e p e r i o d i c

s a m p l i n g s i g n a l

pT s (t) n a r r o w s , t h e a m p l i t u d e s o f t h e s i g n a l ' s s p e c t r a l r e p e t i t i o n s , w h i c h a r e g o v e r n e d b y

t h e F o u r i e r s e r i e s c o e c i e n t s ( 4 . 1 0 ) o f

pT s (t) , b e c o m e i n c r e a s i n g l y e q u a l . E x a m i n a t i o n o f t h e p e r i o d i c p u l s e

s i g n a l ( F i g u r e 4 . 1 ) r e v e a l s t h a t a s ∆ d e c r e a s e s , t h e v a l u e o f c0 , t h e l a r g e s t F o u r i e r c o e c i e n t , d e c r e a s e s t o

z e r o : |c0| = A∆T s

. T h u s , t o m a i n t a i n a m a t h e m a t i c a l l y v i a b l e S a m p l i n g T h e o r e m , t h e a m p l i t u d e A m u s t

i n c r e a s e a s

1∆ , b e c o m i n g i n n i t e l y l a r g e a s t h e p u l s e d u r a t i o n d e c r e a s e s . P r a c t i c a l s y s t e m s u s e a s m a l l v a l u e

o f ∆, s a y 0.1 · T s a n d u s e a m p l i e r s t o r e s c a l e t h e s i g n a l . T h u s , t h e s a m p l e d s i g n a l ' s s p e c t r u m b e c o m e s

p e r i o d i c w i t h p e r i o d

1T s

. T h u s , t h e N y q u i s t f r e q u e n c y

12T s

c o r r e s p o n d s t o t h e f r e q u e n c y

12 .

E x a m p l e 5 . 1

L e t ' s c o m p u t e t h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m o f t h e e x p o n e n t i a l l y d e c a y i n g s e q u e n c e s (n) =anu (n), w h e r e u (n) i s t h e u n i t - s t e p s e q u e n c e . S i m p l y p l u g g i n g t h e s i g n a l ' s e x p r e s s i o n i n t o t h e

F o u r i e r t r a n s f o r m f o r m u l a ,

S

ej2πf

=

∞n=−∞ anu (n) e−(j2πfn)

= ∞n=0 ae−

(j2πf )n ( 5 . 1 9 )

T h i s s u m i s a s p e c i a l c a s e o f t h e g e o m e t r i c s e r i e s .

∞n=0

αn =1

1 − α, |α| < 1 ( 5 . 2 0 )

T h u s , a s l o n g a s |a| < 1 , w e h a v e o u r F o u r i e r t r a n s f o r m .

S

ej2πf

=1

1 − ae−(j2πf )( 5 . 2 1 )

U s i n g E u l e r ' s r e l a t i o n , w e c a n e x p r e s s t h e m a g n i t u d e a n d p h a s e o f t h i s s p e c t r u m .

|S e

j2πf | =

1 (1 − acos(2πf ))

2+ a2sin2 (2πf )

( 5 . 2 2 )

∠

S

ej2πf

= −tan−1

asin(2πf )

1 − acos (2πf )

( 5 . 2 3 )

N o m a t t e r w h a t v a l u e o f a w e c h o o s e , t h e a b o v e f o r m u l a e c l e a r l y d e m o n s t r a t e t h e p e r i o d i c n a t u r e

o f t h e s p e c t r a o f d i s c r e t e - t i m e s i g n a l s . F i g u r e 5 . 9 ( S p e c t r u m o f e x p o n e n t i a l s i g n a l ) s h o w s i n d e e d

t h a t t h e s p e c t r u m i s a p e r i o d i c f u n c t i o n . W e n e e d o n l y c o n s i d e r t h e s p e c t r u m b e t w e e n −12

a n d

12

t o u n a m b i g u o u s l y d e n e i t . W h e n

a > 0, w e h a v e a l o w p a s s s p e c t r u m t h e s p e c t r u m d i m i n i s h e s

a s f r e q u e n c y i n c r e a s e s f r o m 0 t o

12 w i t h i n c r e a s i n g

al e a d i n g t o a g r e a t e r l o w f r e q u e n c y c o n t e n t ;

f o r

a < 0 , w e h a v e a h i g h p a s s s p e c t r u m ( F i g u r e 5 . 1 0 ( S p e c t r a o f e x p o n e n t i a l s i g n a l s ) ) .




1 8 3

S p e c t r u m o f e x p o n e n t i a l s i g n a l

-2 -1 0 1 2

1

2

f

|S(e j2πf)|

-2 -1 1 2

-45

45

f

∠S(e j2πf)

F i g u r e 5 . 9 : T h e s p e c t r u m o f t h e e x p o n e n t i a l s i g n a l (

a = 0.5) i s s h o w n o v e r t h e f r e q u e n c y r a n g e [ - 2 ,

2 ] , c l e a r l y d e m o n s t r a t i n g t h e p e r i o d i c i t y o f a l l d i s c r e t e - t i m e s p e c t r a . T h e a n g l e h a s u n i t s o f d e g r e e s .




1 8 4


S p e c t r a o f e x p o n e n t i a l s i g n a l s

f

a = 0.9

a = 0.5

a = –0.5

p e c t r a

a g n t u

e

-10

0

10

20

0.5

a = 0.9

a = 0.5

a = –0.5

n g e

e g r e e s

f

-90

-45

0

45

90

0.5

F i g u r e 5 . 1 0 : T h e s p e c t r a o f s e v e r a l e x p o n e n t i a l s i g n a l s a r e s h o w n . W h a t i s t h e a p p a r e n t r e l a t i o n s h i p

b e t w e e n t h e s p e c t r a f o r

a = 0.5a n d

a = −0.5?

E x a m p l e 5 . 2

A n a l o g o u s t o t h e a n a l o g p u l s e s i g n a l , l e t ' s n d t h e s p e c t r u m o f t h e l e n g t h - N p u l s e s e q u e n c e .

s (n) =

1 i f 0 ≤ n ≤ N − 1

0 o t h e r w i s e

( 5 . 2 4 )

T h e F o u r i e r t r a n s f o r m o f t h i s s e q u e n c e h a s t h e f o r m o f a t r u n c a t e d g e o m e t r i c s e r i e s .

S

ej2πf

=N −1n=0

e−(j2πfn)( 5 . 2 5 )

F o r t h e s o - c a l l e d n i t e g e o m e t r i c s e r i e s , w e k n o w t h a t

N +n0−1

n=n0αn = αn0 1 − αN

1

−α

( 5 . 2 6 )

f o r a l l v a l u e s o f α .

E x e r c i s e 5 . 6 . 2

( S o l u t i o n o n p . 2 2 2 . )

D e r i v e t h i s f o r m u l a f o r t h e n i t e g e o m e t r i c s e r i e s s u m . T h e " t r i c k " i s t o c o n s i d e r t h e d i e r e n c e

b e t w e e n t h e s e r i e s ' s u m a n d t h e s u m o f t h e s e r i e s m u l t i p l i e d b y α.

A p p l y i n g t h i s r e s u l t y i e l d s ( F i g u r e 5 . 1 1 ( S p e c t r u m o f l e n g t h - t e n p u l s e ) . )

S

ej2πf

= 1−e−(j2πfN )

1−e−(j2πf )

= e−(jπf (N −1)) sin(πfN )sin(πf )

( 5 . 2 7 )




1 8 5

T h e r a t i o o f s i n e f u n c t i o n s h a s t h e g e n e r i c f o r m o f

sin(Nx)sin(x) , w h i c h i s k n o w n a s t h e d i s c r e t e - t i m e s i n c

f u n c t i o n dsinc (x). T h u s , o u r t r a n s f o r m c a n b e c o n c i s e l y e x p r e s s e d a s S

ej2πf

= e−(jπf (N −1))dsinc (πf ) .

T h e d i s c r e t e - t i m e p u l s e ' s s p e c t r u m c o n t a i n s m a n y r i p p l e s , t h e n u m b e r o f w h i c h i n c r e a s e w i t h N , t h e p u l s e ' s

d u r a t i o n .

S p e c t r u m o f l e n g t h - t e n p u l s e

F i g u r e 5 . 1 1 : T h e s p e c t r u m o f a l e n g t h - t e n p u l s e i s s h o w n . C a n y o u e x p l a i n t h e r a t h e r c o m p l i c a t e d

a p p e a r a n c e o f t h e p h a s e ?

T h e i n v e r s e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m i s e a s i l y d e r i v e d f r o m t h e f o l l o w i n g r e l a t i o n s h i p :

12

− 12

e−(j2πfm)ej2πfndf =

1 i f

m = n

0 i f m = n

= δ (m − n)

( 5 . 2 8 )

T h e r e f o r e , w e n d t h a t

12

− 12

S

ej2πf

ej2πfndf =

12

− 12

mm s (m) e−(j2πfm)ej2πfndf

= mm s (m) 12

− 12 e(

−(j2πf ))(m

−n)

df = s (n)

( 5 . 2 9 )

T h e F o u r i e r t r a n s f o r m p a i r s i n d i s c r e t e - t i m e a r e

S

ej2πf

=∞

n=−∞ s (n) e−(j2πfn)

s (n) = 1

2

− 12

S

ej2πf

ej2πfndf ( 5 . 3 0 )




1 8 6


T h e p r o p e r t i e s o f t h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m m i r r o r t h o s e o f t h e a n a l o g F o u r i e r t r a n s f o r m . T h e

D T F T p r o p e r t i e s t a b l e

1 7

s h o w s s i m i l a r i t i e s a n d d i e r e n c e s . O n e i m p o r t a n t c o m m o n p r o p e r t y i s P a r s e v a l ' s

T h e o r e m . ∞n=−∞ (|s (n) |)

2

= 12− 1

2

|S ej2πf |2df

( 5 . 3 1 )

T o s h o w t h i s i m p o r t a n t p r o p e r t y , w e s i m p l y s u b s t i t u t e t h e F o u r i e r t r a n s f o r m e x p r e s s i o n i n t o t h e f r e q u e n c y -

d o m a i n e x p r e s s i o n f o r p o w e r .

12

− 12

|S

ej2πf |2df =

12

− 12

nn s (n) e−(j2πfn)

mm s (n)

∗ej2πfmdf

=

n,mn,m s (n) s (n)∗ 12

− 12

ej2πf (m−n)df ( 5 . 3 2 )

U s i n g t h e o r t h o g o n a l i t y r e l a t i o n ( 5 . 2 8 ) , t h e i n t e g r a l e q u a l s δ (m − n) , w h e r e δ (n) i s t h e u n i t s a m p l e ( F i g -

u r e 5 . 8 : U n i t s a m p l e ) . T h u s , t h e d o u b l e s u m c o l l a p s e s i n t o a s i n g l e s u m b e c a u s e n o n z e r o v a l u e s o c c u r o n l y

w h e n n = m , g i v i n g P a r s e v a l ' s T h e o r e m a s a r e s u l t . W e t e r m

nn s2 (n) t h e e n e r g y i n t h e d i s c r e t e - t i m e

s i g n a l s (n) i n s p i t e o f t h e f a c t t h a t d i s c r e t e - t i m e s i g n a l s d o n ' t c o n s u m e ( o r p r o d u c e f o r t h a t m a t t e r ) e n e r g y .

T h i s t e r m i n o l o g y i s a c a r r y - o v e r f r o m t h e a n a l o g w o r l d .

E x e r c i s e 5 . 6 . 3

( S o l u t i o n o n p . 2 2 2 . )

S u p p o s e w e o b t a i n e d o u r d i s c r e t e - t i m e s i g n a l f r o m v a l u e s o f t h e p r o d u c t s (t) pT s (t), w h e r e t h e

d u r a t i o n o f t h e c o m p o n e n t p u l s e s i n pT s (t) i s ∆. H o w i s t h e d i s c r e t e - t i m e s i g n a l e n e r g y r e l a t e d t o

t h e t o t a l e n e r g y c o n t a i n e d i n

s (t)? A s s u m e t h e s i g n a l i s b a n d l i m i t e d a n d t h a t t h e s a m p l i n g r a t e

w a s c h o s e n a p p r o p r i a t e t o t h e S a m p l i n g T h e o r e m ' s c o n d i t i o n s .

5 . 7 D i s c r e t e F o u r i e r T r a n s f o r m s ( D F T )

1 8

T h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m ( a n d t h e c o n t i n u o u s - t i m e t r a n s f o r m a s w e l l ) c a n b e e v a l u a t e d w h e n w e

h a v e a n a n a l y t i c e x p r e s s i o n f o r t h e s i g n a l . S u p p o s e w e j u s t h a v e a s i g n a l , s u c h a s t h e s p e e c h s i g n a l u s e d

i n t h e p r e v i o u s c h a p t e r , f o r w h i c h t h e r e i s n o f o r m u l a . H o w t h e n w o u l d y o u c o m p u t e t h e s p e c t r u m ? F o r

e x a m p l e , h o w d i d w e c o m p u t e a s p e c t r o g r a m s u c h a s t h e o n e s h o w n i n t h e s p e e c h s i g n a l e x a m p l e ( F i g u r e 4 . 1 7 :

s p e c t r o g r a m ) ? T h e D i s c r e t e F o u r i e r T r a n s f o r m ( D F T ) a l l o w s t h e c o m p u t a t i o n o f s p e c t r a f r o m d i s c r e t e - t i m e

d a t a . W h i l e i n d i s c r e t e - t i m e w e c a n e x a c t l y c a l c u l a t e s p e c t r a , f o r a n a l o g s i g n a l s n o s i m i l a r e x a c t s p e c t r u m

c o m p u t a t i o n e x i s t s . F o r a n a l o g - s i g n a l s p e c t r a , u s e m u s t b u i l d s p e c i a l d e v i c e s , w h i c h t u r n o u t i n m o s t c a s e s

t o c o n s i s t o f A / D c o n v e r t e r s a n d d i s c r e t e - t i m e c o m p u t a t i o n s . C e r t a i n l y d i s c r e t e - t i m e s p e c t r a l a n a l y s i s i s

m o r e e x i b l e t h a n c o n t i n u o u s - t i m e s p e c t r a l a n a l y s i s .

T h e f o r m u l a f o r t h e D T F T ( 5 . 1 7 ) i s a s u m , w h i c h c o n c e p t u a l l y c a n b e e a s i l y c o m p u t e d s a v e f o r t w o

i s s u e s .

• S i g n a l d u r a t i o n . T h e s u m e x t e n d s o v e r t h e s i g n a l ' s d u r a t i o n , w h i c h m u s t b e n i t e t o c o m p u t e t h e

s i g n a l ' s s p e c t r u m . I t i s e x c e e d i n g l y d i c u l t t o s t o r e a n i n n i t e - l e n g t h s i g n a l i n a n y c a s e , s o w e ' l l

a s s u m e t h a t t h e s i g n a l e x t e n d s o v e r [0, N

−1].

• C o n t i n u o u s f r e q u e n c y . S u b t l e r t h a n t h e s i g n a l d u r a t i o n i s s u e i s t h e f a c t t h a t t h e f r e q u e n c y v a r i a b l e

i s c o n t i n u o u s : I t m a y o n l y n e e d t o s p a n o n e p e r i o d , l i k e

−12

, 12

o r [0, 1], b u t t h e D T F T f o r m u l a a s i t

s t a n d s r e q u i r e s e v a l u a t i n g t h e s p e c t r a a t a l l f r e q u e n c i e s w i t h i n a p e r i o d . L e t ' s c o m p u t e t h e s p e c t r u m

a t a f e w f r e q u e n c i e s ; t h e m o s t o b v i o u s o n e s a r e t h e e q u a l l y s p a c e d o n e s f = kK , k ∈ 0, . . . , K − 1.

1 7

" P r o p e r t i e s o f t h e D T F T " < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 0 6 / l a t e s t / >

1 8





1 8 7

W e t h u s d e n e t h e d i s c r e t e F o u r i e r t r a n s f o r m ( D F T ) t o b e

S (k) =N −1

n=0 s (n) e−j2πnk

K , k

∈ 0, . . . , K

−1

( 5 . 3 3 )

H e r e , S (k) i s s h o r t h a n d f o r S

ej2πk

K

.

W e c a n c o m p u t e t h e s p e c t r u m a t a s m a n y e q u a l l y s p a c e d f r e q u e n c i e s a s w e l i k e . N o t e t h a t y o u c a n t h i n k

a b o u t t h i s c o m p u t a t i o n a l l y m o t i v a t e d c h o i c e a s s a m p l i n g t h e s p e c t r u m ; m o r e a b o u t t h i s i n t e r p r e t a t i o n l a t e r .

T h e i s s u e n o w i s h o w m a n y f r e q u e n c i e s a r e e n o u g h t o c a p t u r e h o w t h e s p e c t r u m c h a n g e s w i t h f r e q u e n c y .

O n e w a y o f a n s w e r i n g t h i s q u e s t i o n i s d e t e r m i n i n g a n i n v e r s e d i s c r e t e F o u r i e r t r a n s f o r m f o r m u l a : g i v e n S (k) ,

k = 0, . . . , K − 1 h o w d o w e n d s (n), n = 0, . . . , N − 1 ? P r e s u m a b l y , t h e f o r m u l a w i l l b e o f t h e f o r m

s (n) =K −1

k=0 S (k) ej2πnk

K. S u b s t i t u t i n g t h e D F T f o r m u l a i n t h i s p r o t o t y p e i n v e r s e t r a n s f o r m y i e l d s

s (n) =K −1

k=0N −1

m=0

s (m) e−(j 2πmkK )ej

2πnkK

( 5 . 3 4 )

N o t e t h a t t h e o r t h o g o n a l i t y r e l a t i o n w e u s e s o o f t e n h a s a d i e r e n t c h a r a c t e r n o w .

K −1k=0

e−(j 2πkmK )ej

2πknK =

K

i f (m = n, n ± K, n ± 2K , . . . )

0 o t h e r w i s e

( 5 . 3 5 )

W e o b t a i n n o n z e r o v a l u e w h e n e v e r t h e t w o i n d i c e s d i e r b y m u l t i p l e s o f

K . W e c a n e x p r e s s t h i s r e s u l t a s

K

l δ (m − n − lK ) . T h u s , o u r f o r m u l a b e c o m e s

s (n) =N −1m=0

s (m) K ∞

l=−∞δ (m − n − lK ) ( 5 . 3 6 )

T h e i n t e g e r s

na n d

mb o t h r a n g e o v e r 0, . . . , N − 1. T o h a v e a n i n v e r s e t r a n s f o r m , w e n e e d t h e s u m

t o b e a s i n g l e u n i t s a m p l e f o r m, n i n t h i s r a n g e . I f i t d i d n o t , t h e n s (n) w o u l d e q u a l a s u m o f v a l u e s ,

a n d w e w o u l d n o t h a v e a v a l i d t r a n s f o r m : O n c e g o i n g i n t o t h e f r e q u e n c y d o m a i n , w e c o u l d n o t g e t b a c k

u n a m b i g u o u s l y ! C l e a r l y , t h e t e r m

l = 0 a l w a y s p r o v i d e s a u n i t s a m p l e ( w e ' l l t a k e c a r e o f t h e f a c t o r o f

K s o o n ) . I f w e e v a l u a t e t h e s p e c t r u m a t f e w e r f r e q u e n c i e s t h a n t h e s i g n a l ' s d u r a t i o n , t h e t e r m c o r r e s p o n d i n g

t o m = n + K w i l l a l s o a p p e a r f o r s o m e v a l u e s o f m , n = 0, . . . , N − 1 . T h i s s i t u a t i o n m e a n s t h a t o u r

p r o t o t y p e t r a n s f o r m e q u a l s s (n) + s (n + K ) f o r s o m e v a l u e s o f n. T h e o n l y w a y t o e l i m i n a t e t h i s p r o b l e m

i s t o r e q u i r e K ≥ N : W e m u s t h a v e a t l e a s t a s m a n y f r e q u e n c y s a m p l e s a s t h e s i g n a l ' s d u r a t i o n . I n t h i s

w a y , w e c a n r e t u r n f r o m t h e f r e q u e n c y d o m a i n w e e n t e r e d v i a t h e D F T .

E x e r c i s e 5 . 7 . 1

( S o l u t i o n o n p . 2 2 2 . )

W h e n w e h a v e f e w e r f r e q u e n c y s a m p l e s t h a n t h e s i g n a l ' s d u r a t i o n , s o m e d i s c r e t e - t i m e s i g n a l v a l u e s

e q u a l t h e s u m o f t h e o r i g i n a l s i g n a l v a l u e s . G i v e n t h e s a m p l i n g i n t e r p r e t a t i o n o f t h e s p e c t r u m ,

c h a r a c t e r i z e t h i s e e c t a d i e r e n t w a y .

A n o t h e r w a y t o u n d e r s t a n d t h i s r e q u i r e m e n t i s t o u s e t h e t h e o r y o f l i n e a r e q u a t i o n s . I f w e w r i t e o u t t h e

e x p r e s s i o n f o r t h e D F T a s a s e t o f l i n e a r e q u a t i o n s ,

s (0) + s (1) + · · · + s (N − 1) = S (0) ( 5 . 3 7 )

s (0) + s (1) e(−j)2πK + · · · + s (N − 1) e(−j)

2π(N −1)K = S (1)

.

.

.




1 8 8


s (0) + s (1) e(−j)2π(K−1)

K + · · · + s (N − 1) e(−j)2π(N −1)(K−1)

K = S (K − 1)

w e h a v e

K e q u a t i o n s i n

N u n k n o w n s i f w e w a n t t o n d t h e s i g n a l f r o m i t s s a m p l e d s p e c t r u m . T h i s r e q u i r e -

m e n t i s i m p o s s i b l e t o f u l l l i f

K < N ; w e m u s t h a v e

K ≥ N . O u r o r t h o g o n a l i t y r e l a t i o n e s s e n t i a l l y s a y s t h a t

i f w e h a v e a s u c i e n t n u m b e r o f e q u a t i o n s ( f r e q u e n c y s a m p l e s ) , t h e r e s u l t i n g s e t o f e q u a t i o n s c a n i n d e e d b e

s o l v e d .

B y c o n v e n t i o n , t h e n u m b e r o f D F T f r e q u e n c y v a l u e s K i s c h o s e n t o e q u a l t h e s i g n a l ' s d u r a t i o n N . T h e

d i s c r e t e F o u r i e r t r a n s f o r m p a i r c o n s i s t s o f

D i s c r e t e F o u r i e r T r a n s f o r m P a i r

S (k) =N −1

n=0 s (n) e−(j 2πnkN )

s (n) = 1N

N −1k=0 S (k) ej

2πnkN

( 5 . 3 8 )

E x a m p l e 5 . 3

U s e t h i s d e m o n s t r a t i o n t o p e r f o r m D F T a n a l y s i s o f a s i g n a l .


< D F T a n a l y s i s . l l b >

E x a m p l e 5 . 4

U s e t h i s d e m o n s t r a t i o n t o s y n t h e s i z e a s i g n a l f r o m a D F T s e q u e n c e .


< D F T _ C o m p o n e n t _ M a n i p u l a t i o n . l l b >

5 . 8 D F T : C o m p u t a t i o n a l C o m p l e x i t y

1 9

W e n o w h a v e a w a y o f c o m p u t i n g t h e s p e c t r u m f o r a n a r b i t r a r y s i g n a l : T h e D i s c r e t e F o u r i e r T r a n s f o r m

( D F T ) ( 5 . 3 3 ) c o m p u t e s t h e s p e c t r u m a t N e q u a l l y s p a c e d f r e q u e n c i e s f r o m a l e n g t h - N s e q u e n c e . A n i s s u e

t h a t n e v e r a r i s e s i n a n a l o g " c o m p u t a t i o n , " l i k e t h a t p e r f o r m e d b y a c i r c u i t , i s h o w m u c h w o r k i t t a k e s t o

p e r f o r m t h e s i g n a l p r o c e s s i n g o p e r a t i o n s u c h a s l t e r i n g . I n c o m p u t a t i o n , t h i s c o n s i d e r a t i o n t r a n s l a t e s t o

t h e n u m b e r o f b a s i c c o m p u t a t i o n a l s t e p s r e q u i r e d t o p e r f o r m t h e n e e d e d p r o c e s s i n g . T h e n u m b e r o f s t e p s ,

k n o w n a s t h e c o m p l e x i t y , b e c o m e s e q u i v a l e n t t o h o w l o n g t h e c o m p u t a t i o n t a k e s ( h o w l o n g m u s t w e w a i t

f o r a n a n s w e r ) . C o m p l e x i t y i s n o t s o m u c h t i e d t o s p e c i c c o m p u t e r s o r p r o g r a m m i n g l a n g u a g e s b u t t o h o w

m a n y s t e p s a r e r e q u i r e d o n a n y c o m p u t e r . T h u s , a p r o c e d u r e ' s s t a t e d c o m p l e x i t y s a y s t h a t t h e t i m e t a k e n

w i l l b e p r o p o r t i o n a l t o s o m e f u n c t i o n o f t h e a m o u n t o f d a t a u s e d i n t h e c o m p u t a t i o n a n d t h e a m o u n t

d e m a n d e d .

F o r e x a m p l e , c o n s i d e r t h e f o r m u l a f o r t h e d i s c r e t e F o u r i e r t r a n s f o r m . F o r e a c h f r e q u e n c y w e c h o s e , w e

m u s t m u l t i p l y e a c h s i g n a l v a l u e b y a c o m p l e x n u m b e r a n d a d d t o g e t h e r t h e r e s u l t s . F o r a r e a l - v a l u e d s i g n a l ,

e a c h r e a l - t i m e s - c o m p l e x m u l t i p l i c a t i o n r e q u i r e s t w o r e a l m u l t i p l i c a t i o n s , m e a n i n g w e h a v e 2N m u l t i p l i c a t i o n s

t o p e r f o r m . T o a d d t h e r e s u l t s t o g e t h e r , w e m u s t k e e p t h e r e a l a n d i m a g i n a r y p a r t s s e p a r a t e . A d d i n g N n u m b e r s r e q u i r e s

N − 1 a d d i t i o n s . C o n s e q u e n t l y , e a c h f r e q u e n c y r e q u i r e s 2N + 2 (N − 1) = 4N − 2 b a s i c

c o m p u t a t i o n a l s t e p s . A s w e h a v e

N f r e q u e n c i e s , t h e t o t a l n u m b e r o f c o m p u t a t i o n s i s

N (4N − 2) .

I n c o m p l e x i t y c a l c u l a t i o n s , w e o n l y w o r r y a b o u t w h a t h a p p e n s a s t h e d a t a l e n g t h s i n c r e a s e , a n d t a k e t h e

d o m i n a n t t e r m h e r e t h e 4N 2 t e r m a s r e e c t i n g h o w m u c h w o r k i s i n v o l v e d i n m a k i n g t h e c o m p u t a t i o n .

A s m u l t i p l i c a t i v e c o n s t a n t s d o n ' t m a t t e r s i n c e w e a r e m a k i n g a " p r o p o r t i o n a l t o " e v a l u a t i o n , w e n d t h e

D F T i s a n O

N 2

c o m p u t a t i o n a l p r o c e d u r e . T h i s n o t a t i o n i s r e a d " o r d e r N - s q u a r e d " . T h u s , i f w e d o u b l e

t h e l e n g t h o f t h e d a t a , w e w o u l d e x p e c t t h a t t h e c o m p u t a t i o n t i m e t o a p p r o x i m a t e l y q u a d r u p l e .

1 9





1 8 9

E x e r c i s e 5 . 8 . 1

( S o l u t i o n o n p . 2 2 2 . )

I n m a k i n g t h e c o m p l e x i t y e v a l u a t i o n f o r t h e D F T , w e a s s u m e d t h e d a t a t o b e r e a l . T h r e e q u e s t i o n s

e m e r g e . F i r s t o f a l l , t h e s p e c t r a o f s u c h s i g n a l s h a v e c o n j u g a t e s y m m e t r y , m e a n i n g t h a t n e g a t i v e

f r e q u e n c y c o m p o n e n t s (

k = N 2 + 1, . . . , N + 1 i n t h e D F T ( 5 . 3 3 ) ) c a n b e c o m p u t e d f r o m t h e

c o r r e s p o n d i n g p o s i t i v e f r e q u e n c y c o m p o n e n t s . D o e s t h i s s y m m e t r y c h a n g e t h e D F T ' s c o m p l e x i t y ?

S e c o n d l y , s u p p o s e t h e d a t a a r e c o m p l e x - v a l u e d ; w h a t i s t h e D F T ' s c o m p l e x i t y n o w ? F i n a l l y , a l e s s

i m p o r t a n t b u t i n t e r e s t i n g q u e s t i o n i s s u p p o s e w e w a n t K f r e q u e n c y v a l u e s i n s t e a d o f N ; n o w w h a t

i s t h e c o m p l e x i t y ?

5 . 9 F a s t F o u r i e r T r a n s f o r m ( F F T )

2 0

O n e w o n d e r s i f t h e D F T c a n b e c o m p u t e d f a s t e r : D o e s a n o t h e r c o m p u t a t i o n a l p r o c e d u r e a n a l g o r i t h m

e x i s t t h a t c a n c o m p u t e t h e s a m e q u a n t i t y , b u t m o r e e c i e n t l y . W e c o u l d s e e k m e t h o d s t h a t r e d u c e t h e

c o n s t a n t o f p r o p o r t i o n a l i t y , b u t d o n o t c h a n g e t h e D F T ' s c o m p l e x i t y O

N 2

. H e r e , w e h a v e s o m e t h i n g m o r e

d r a m a t i c i n m i n d : C a n t h e c o m p u t a t i o n s b e r e s t r u c t u r e d s o t h a t a s m a l l e r c o m p l e x i t y r e s u l t s ?

I n 1 9 6 5 , I B M r e s e a r c h e r J i m C o o l e y a n d P r i n c e t o n f a c u l t y m e m b e r J o h n T u k e y d e v e l o p e d w h a t i s n o w

k n o w n a s t h e F a s t F o u r i e r T r a n s f o r m ( F F T ) . I t i s a n a l g o r i t h m f o r c o m p u t i n g t h a t D F T t h a t h a s o r d e r

O (N logN ) f o r c e r t a i n l e n g t h i n p u t s . N o w w h e n t h e l e n g t h o f d a t a d o u b l e s , t h e s p e c t r a l c o m p u t a t i o n a l

t i m e w i l l n o t q u a d r u p l e a s w i t h t h e D F T a l g o r i t h m ; i n s t e a d , i t a p p r o x i m a t e l y d o u b l e s . L a t e r r e s e a r c h s h o w e d

t h a t n o a l g o r i t h m f o r c o m p u t i n g t h e D F T c o u l d h a v e a s m a l l e r c o m p l e x i t y t h a n t h e F F T . S u r p r i s i n g l y ,

h i s t o r i c a l w o r k h a s s h o w n t h a t G a u s s

2 1

i n t h e e a r l y n i n e t e e n t h c e n t u r y d e v e l o p e d t h e s a m e a l g o r i t h m , b u t

d i d n o t p u b l i s h i t ! A f t e r t h e F F T ' s r e d i s c o v e r y , n o t o n l y w a s t h e c o m p u t a t i o n o f a s i g n a l ' s s p e c t r u m g r e a t l y

s p e e d e d , b u t a l s o t h e a d d e d f e a t u r e o f a l g o r i t h m m e a n t t h a t c o m p u t a t i o n s h a d e x i b i l i t y n o t a v a i l a b l e t o

a n a l o g i m p l e m e n t a t i o n s .

E x e r c i s e 5 . 9 . 1

( S o l u t i o n o n p . 2 2 2 . )

B e f o r e d e v e l o p i n g t h e F F T , l e t ' s t r y t o a p p r e c i a t e t h e a l g o r i t h m ' s i m p a c t . S u p p o s e a s h o r t - l e n g t h

t r a n s f o r m t a k e s 1 m s . W e w a n t t o c a l c u l a t e a t r a n s f o r m o f a s i g n a l t h a t i s 1 0 t i m e s l o n g e r . C o m p a r e

h o w m u c h l o n g e r a s t r a i g h t f o r w a r d i m p l e m e n t a t i o n o f t h e D F T w o u l d t a k e i n c o m p a r i s o n t o a n

F F T , b o t h o f w h i c h c o m p u t e e x a c t l y t h e s a m e q u a n t i t y .

T o d e r i v e t h e F F T , w e a s s u m e t h a t t h e s i g n a l ' s d u r a t i o n i s a p o w e r o f t w o :

N = 2L . C o n s i d e r w h a t h a p p e n s

t o t h e e v e n - n u m b e r e d a n d o d d - n u m b e r e d e l e m e n t s o f t h e s e q u e n c e i n t h e D F T c a l c u l a t i o n .

S (k) = s (0) + s (2) e(− j) 2π2kN + · · · + s (N − 2) e(− j) 2π(N −2)k

N +

s (1) e(− j) 2πkN + s (3) e(− j) 2π×(2+1)k

N + · · · + s (N − 1) e(− j) 2π(N −(2−1))kN =

s (0) + s (2) e

(− j) 2πkN 2 + · · · + s (N − 2) e

(− j)2π(N 2 −1)k

N 2

+

s (1) + s (3) e

(− j) 2πkN 2 + · · · + s (N − 1) e

(− j)

( 5 . 3 9 )

E a c h t e r m i n s q u a r e b r a c k e t s h a s t h e f o r m o f a

N 2 - l e n g t h D F T . T h e r s t o n e i s a D F T o f t h e e v e n -

n u m b e r e d e l e m e n t s , a n d t h e s e c o n d o f t h e o d d - n u m b e r e d e l e m e n t s . T h e r s t D F T i s c o m b i n e d w i t h t h e

s e c o n d m u l t i p l i e d b y t h e c o m p l e x e x p o n e n t i a l

e−j2πk

N . T h e h a l f - l e n g t h t r a n s f o r m s a r e e a c h e v a l u a t e d a t

f r e q u e n c y i n d i c e s k = 0 , . . ., N − 1 . N o r m a l l y , t h e n u m b e r o f f r e q u e n c y i n d i c e s i n a D F T c a l c u l a t i o n r a n g e

b e t w e e n z e r o a n d t h e t r a n s f o r m l e n g t h m i n u s o n e . T h e c o m p u t a t i o n a l a d v a n t a g e o f t h e F F T c o m e s f r o m

r e c o g n i z i n g t h e p e r i o d i c n a t u r e o f t h e d i s c r e t e F o u r i e r t r a n s f o r m . T h e F F T s i m p l y r e u s e s t h e c o m p u t a t i o n s

2 0


2 1


∼h i s t o r y / M a t h e m a t i c i a n s / G a u s s . h t m l




1 9 0


m a d e i n t h e h a l f - l e n g t h t r a n s f o r m s a n d c o m b i n e s t h e m t h r o u g h a d d i t i o n s a n d t h e m u l t i p l i c a t i o n b y e−j2πk

N ,

w h i c h i s n o t p e r i o d i c o v e r

N 2 . F i g u r e 5 . 1 2 ( L e n g t h - 8 D F T d e c o m p o s i t i o n ) i l l u s t r a t e s t h i s d e c o m p o s i t i o n . A s

i t s t a n d s , w e n o w c o m p u t e t w o l e n g t h -

N 2 t r a n s f o r m s ( c o m p l e x i t y 2O

N 2

4 ) , m u l t i p l y o n e o f t h e m b y t h e

c o m p l e x e x p o n e n t i a l ( c o m p l e x i t y

O (N )) , a n d a d d t h e r e s u l t s ( c o m p l e x i t y

O (N )) . A t t h i s p o i n t , t h e t o t a l

c o m p l e x i t y i s s t i l l d o m i n a t e d b y t h e h a l f - l e n g t h D F T c a l c u l a t i o n s , b u t t h e p r o p o r t i o n a l i t y c o e c i e n t h a s

b e e n r e d u c e d .

N o w f o r t h e f u n . B e c a u s e

N = 2L , e a c h o f t h e h a l f - l e n g t h t r a n s f o r m s c a n b e r e d u c e d t o t w o q u a r t e r - l e n g t h

t r a n s f o r m s , e a c h o f t h e s e t o t w o e i g h t h - l e n g t h o n e s , e t c . T h i s d e c o m p o s i t i o n c o n t i n u e s u n t i l w e a r e l e f t w i t h

l e n g t h - 2 t r a n s f o r m s . T h i s t r a n s f o r m i s q u i t e s i m p l e , i n v o l v i n g o n l y a d d i t i o n s . T h u s , t h e r s t s t a g e o f t h e

F F T h a s

N 2 l e n g t h - 2 t r a n s f o r m s ( s e e t h e b o t t o m p a r t o f F i g u r e 5 . 1 2 ( L e n g t h - 8 D F T d e c o m p o s i t i o n ) ) . P a i r s

o f t h e s e t r a n s f o r m s a r e c o m b i n e d b y a d d i n g o n e t o t h e o t h e r m u l t i p l i e d b y a c o m p l e x e x p o n e n t i a l . E a c h p a i r

r e q u i r e s 4 a d d i t i o n s a n d 2 m u l t i p l i c a t i o n s , g i v i n g a t o t a l n u m b e r o f c o m p u t a t i o n s e q u a l i n g 6 · N 4 = 3N 2 . T h i s

n u m b e r o f c o m p u t a t i o n s d o e s n o t c h a n g e f r o m s t a g e t o s t a g e . B e c a u s e t h e n u m b e r o f s t a g e s , t h e n u m b e r o f

t i m e s t h e l e n g t h c a n b e d i v i d e d b y t w o , e q u a l s log2N , t h e n u m b e r o f a r i t h m e t i c o p e r a t i o n s e q u a l s

3N 2 log2N ,

w h i c h m a k e s t h e c o m p l e x i t y o f t h e F F T O (N log2N ) .

L e n g t h - 8 D F T d e c o m p o s i t i o n

s0

s2

s4s6

s1s3s5s7

S0S1S2

S3

S4S5S6S7

e –j0

e –j2π /8

e –j2π2/8

e –j2π3/8

e –j2π4/8

e –j2π5/8

e –j2π6/8

e –j2π7/8

Length-4DFT

Length-4DFT

( a )

e

e π /4

e π /2

e π /4

e

e π /2

e 0

e π /2

+1

+1

+1

+1

s0

s4

s2

s6

s1

s5

s3

s7

S0

S1

S2

S3

S4

S5

S6

S7

4 length-2 DFTs

2 length-4 DFTs

( b )

F i g u r e 5 . 1 2 : T h e i n i t i a l d e c o m p o s i t i o n o f a l e n g t h - 8 D F T i n t o t h e t e r m s u s i n g e v e n - a n d o d d - i n d e x e d

i n p u t s m a r k s t h e r s t p h a s e o f d e v e l o p i n g t h e F F T a l g o r i t h m . W h e n t h e s e h a l f - l e n g t h t r a n s f o r m s a r e

s u c c e s s i v e l y d e c o m p o s e d , w e a r e l e f t w i t h t h e d i a g r a m s h o w n i n t h e b o t t o m p a n e l t h a t d e p i c t s t h e

l e n g t h - 8 F F T c o m p u t a t i o n .




1 9 1

D o i n g a n e x a m p l e w i l l m a k e c o m p u t a t i o n a l s a v i n g s m o r e o b v i o u s . L e t ' s l o o k a t t h e d e t a i l s o f a l e n g t h - 8

D F T . A s s h o w n o n F i g u r e 5 . 1 3 ( B u t t e r y ) , w e r s t d e c o m p o s e t h e D F T i n t o t w o l e n g t h - 4 D F T s , w i t h t h e

o u t p u t s a d d e d a n d s u b t r a c t e d t o g e t h e r i n p a i r s . C o n s i d e r i n g F i g u r e 5 . 1 3 ( B u t t e r y ) a s t h e f r e q u e n c y i n d e x

g o e s f r o m 0 t h r o u g h 7 , w e r e c y c l e v a l u e s f r o m t h e l e n g t h - 4 D F T s i n t o t h e n a l c a l c u l a t i o n b e c a u s e o f t h e

p e r i o d i c i t y o f t h e D F T o u t p u t . E x a m i n i n g h o w p a i r s o f o u t p u t s a r e c o l l e c t e d t o g e t h e r , w e c r e a t e t h e b a s i c

c o m p u t a t i o n a l e l e m e n t k n o w n a s a b u t t e r y ( F i g u r e 5 . 1 3 ( B u t t e r y ) ) .

B u t t e r y

e –j2πk/N

e –j2π(k+N/2)/N

a

b

a+be –j2πk/N

a–be –j2πk/N

a

be –j2πk/N

–1

a+be –j2πk/N

a–be –j2πk/N

F i g u r e 5 . 1 3 : T h e b a s i c c o m p u t a t i o n a l e l e m e n t o f t h e f a s t F o u r i e r t r a n s f o r m i s t h e b u t t e r y . I t t a k e s

t w o c o m p l e x n u m b e r s , r e p r e s e n t e d b y a a n d b , a n d f o r m s t h e q u a n t i t i e s s h o w n . E a c h b u t t e r y r e q u i r e s

o n e c o m p l e x m u l t i p l i c a t i o n a n d t w o c o m p l e x a d d i t i o n s .

B y c o n s i d e r i n g t o g e t h e r t h e c o m p u t a t i o n s i n v o l v i n g c o m m o n o u t p u t f r e q u e n c i e s f r o m t h e t w o h a l f - l e n g t h

D F T s , w e s e e t h a t t h e t w o c o m p l e x m u l t i p l i e s a r e r e l a t e d t o e a c h o t h e r , a n d w e c a n r e d u c e o u r c o m p u t a t i o n a l

w o r k e v e n f u r t h e r . B y f u r t h e r d e c o m p o s i n g t h e l e n g t h - 4 D F T s i n t o t w o l e n g t h - 2 D F T s a n d c o m b i n i n g t h e i r

o u t p u t s , w e a r r i v e a t t h e d i a g r a m s u m m a r i z i n g t h e l e n g t h - 8 f a s t F o u r i e r t r a n s f o r m ( F i g u r e 5 . 1 2 ( L e n g t h - 8

D F T d e c o m p o s i t i o n ) ) . A l t h o u g h m o s t o f t h e c o m p l e x m u l t i p l i e s a r e q u i t e s i m p l e ( m u l t i p l y i n g b y

e−(j π2 )

m e a n s s w a p p i n g r e a l a n d i m a g i n a r y p a r t s a n d c h a n g i n g t h e i r s i g n s ) , l e t ' s c o u n t t h o s e f o r p u r p o s e s o f e v a l -

u a t i n g t h e c o m p l e x i t y a s f u l l c o m p l e x m u l t i p l i e s . W e h a v e

N 2 = 4 c o m p l e x m u l t i p l i e s a n d N = 8 c o m p l e x

a d d i t i o n s f o r e a c h s t a g e a n d log2N = 3 s t a g e s , m a k i n g t h e n u m b e r o f b a s i c c o m p u t a t i o n s

3N

2

log2N a s

p r e d i c t e d .

E x e r c i s e 5 . 9 . 2

( S o l u t i o n o n p . 2 2 2 . )

N o t e t h a t t h e o r d e r i n g o f t h e i n p u t s e q u e n c e i n t h e t w o p a r t s o f F i g u r e 5 . 1 2 ( L e n g t h - 8 D F T

d e c o m p o s i t i o n ) a r e n ' t q u i t e t h e s a m e . W h y n o t ? H o w i s t h e o r d e r i n g d e t e r m i n e d ?

O t h e r " f a s t " a l g o r i t h m s w e r e d i s c o v e r e d , a l l o f w h i c h m a k e u s e o f h o w m a n y c o m m o n f a c t o r s t h e t r a n s f o r m

l e n g t h N h a s . I n n u m b e r t h e o r y , t h e n u m b e r o f p r i m e f a c t o r s a g i v e n i n t e g e r h a s m e a s u r e s h o w c o m p o s i t e

i t i s . T h e n u m b e r s 1 6 a n d 8 1 a r e h i g h l y c o m p o s i t e ( e q u a l i n g 24 a n d 34 r e s p e c t i v e l y ) , t h e n u m b e r 1 8 i s l e s s s o

( 21 · 32 ) , a n d 1 7 n o t a t a l l ( i t ' s p r i m e ) . I n o v e r t h i r t y y e a r s o f F o u r i e r t r a n s f o r m a l g o r i t h m d e v e l o p m e n t , t h e

o r i g i n a l C o o l e y - T u k e y a l g o r i t h m i s f a r a n d a w a y t h e m o s t f r e q u e n t l y u s e d . I t i s s o c o m p u t a t i o n a l l y e c i e n t

t h a t p o w e r - o f - t w o t r a n s f o r m l e n g t h s a r e f r e q u e n t l y u s e d r e g a r d l e s s o f w h a t t h e a c t u a l l e n g t h o f t h e d a t a .

E x e r c i s e 5 . 9 . 3

( S o l u t i o n o n p . 2 2 2 . )

S u p p o s e t h e l e n g t h o f t h e s i g n a l w e r e 500 ? H o w w o u l d y o u c o m p u t e t h e s p e c t r u m o f t h i s s i g n a l

u s i n g t h e C o o l e y - T u k e y a l g o r i t h m ? W h a t w o u l d t h e l e n g t h N o f t h e t r a n s f o r m b e ?

5 . 1 0 S p e c t r o g r a m s

2 2

W e k n o w h o w t o a c q u i r e a n a l o g s i g n a l s f o r d i g i t a l p r o c e s s i n g ( p r e - l t e r i n g ( S e c t i o n 5 . 3 ) , s a m p l i n g ( S e c -

t i o n 5 . 3 ) , a n d A / D c o n v e r s i o n ( S e c t i o n 5 . 4 ) ) a n d t o c o m p u t e s p e c t r a o f d i s c r e t e - t i m e s i g n a l s ( u s i n g t h e F F T

2 2





1 9 2


a l g o r i t h m ( S e c t i o n 5 . 9 ) ) , l e t ' s p u t t h e s e v a r i o u s c o m p o n e n t s t o g e t h e r t o l e a r n h o w t h e s p e c t r o g r a m s h o w n i n

F i g u r e 5 . 1 4 ( S p e e c h S p e c t r o g r a m ) , w h i c h i s u s e d t o a n a l y z e s p e e c h ( S e c t i o n 4 . 1 0 ) , i s c a l c u l a t e d . T h e s p e e c h

w a s s a m p l e d a t a r a t e o f 1 1 . 0 2 5 k H z a n d p a s s e d t h r o u g h a 1 6 - b i t A / D c o n v e r t e r .

P o i n t o f i n t e r e s t : M u s i c c o m p a c t d i s c s ( C D s ) e n c o d e t h e i r s i g n a l s a t a s a m p l i n g r a t e o f 4 4 . 1

k H z . W e ' l l l e a r n t h e r a t i o n a l e f o r t h i s n u m b e r l a t e r . T h e 1 1 . 0 2 5 k H z s a m p l i n g r a t e f o r t h e s p e e c h

i s 1 / 4 o f t h e C D s a m p l i n g r a t e , a n d w a s t h e l o w e s t a v a i l a b l e s a m p l i n g r a t e c o m m e n s u r a t e w i t h

s p e e c h s i g n a l b a n d w i d t h s a v a i l a b l e o n m y c o m p u t e r .

E x e r c i s e 5 . 1 0 . 1

( S o l u t i o n o n p . 2 2 2 . )

L o o k i n g a t F i g u r e 5 . 1 4 ( S p e e c h S p e c t r o g r a m ) t h e s i g n a l l a s t e d a l i t t l e o v e r 1 . 2 s e c o n d s . H o w

l o n g w a s t h e s a m p l e d s i g n a l ( i n t e r m s o f s a m p l e s ) ? W h a t w a s t h e d a t a r a t e d u r i n g t h e s a m p l i n g

p r o c e s s i n b p s ( b i t s p e r s e c o n d ) ? A s s u m i n g t h e c o m p u t e r s t o r a g e i s o r g a n i z e d i n t e r m s o f b y t e s

( 8 - b i t q u a n t i t i e s ) , h o w m a n y b y t e s o f c o m p u t e r m e m o r y d o e s t h e s p e e c h c o n s u m e ?

S p e e c h S p e c t r o g r a m

Time (s)

F r e q u e

n c y ( H z )

0 0.2 0.4 0.6 0.8 1 1.2 0

1000

2000

3000

4000

5000

Ri ce Uni ver si ty

F i g u r e 5 . 1 4




1 9 3

T h e r e s u l t i n g d i s c r e t e - t i m e s i g n a l , s h o w n i n t h e b o t t o m o f F i g u r e 5 . 1 4 ( S p e e c h S p e c t r o g r a m ) , c l e a r l y

c h a n g e s i t s c h a r a c t e r w i t h t i m e . T o d i s p l a y t h e s e s p e c t r a l c h a n g e s , t h e l o n g s i g n a l w a s s e c t i o n e d i n t o

f r a m e s : c o m p a r a t i v e l y s h o r t , c o n t i g u o u s g r o u p s o f s a m p l e s . C o n c e p t u a l l y , a F o u r i e r t r a n s f o r m o f e a c h

f r a m e i s c a l c u l a t e d u s i n g t h e F F T . E a c h f r a m e i s n o t s o l o n g t h a t s i g n i c a n t s i g n a l v a r i a t i o n s a r e r e t a i n e d

w i t h i n a f r a m e , b u t n o t s o s h o r t t h a t w e l o s e t h e s i g n a l ' s s p e c t r a l c h a r a c t e r . R o u g h l y s p e a k i n g , t h e s p e e c h

s i g n a l ' s s p e c t r u m i s e v a l u a t e d o v e r s u c c e s s i v e t i m e s e g m e n t s a n d s t a c k e d s i d e b y s i d e s o t h a t t h e x- a x i s

c o r r e s p o n d s t o t i m e a n d t h e y - a x i s f r e q u e n c y , w i t h c o l o r i n d i c a t i n g t h e s p e c t r a l a m p l i t u d e .

A n i m p o r t a n t d e t a i l e m e r g e s w h e n w e e x a m i n e e a c h f r a m e d s i g n a l ( F i g u r e 5 . 1 5 ( S p e c t r o g r a m H a n n i n g

v s . R e c t a n g u l a r ) ) .

S p e c t r o g r a m H a n n i n g v s . R e c t a n g u l a r

256

FFT (512)

RectangularWindow

f

HanningWindow

FFT (512)

n

f

F i g u r e 5 . 1 5 : T h e t o p w a v e f o r m i s a s e g m e n t 1 0 2 4 s a m p l e s l o n g t a k e n f r o m t h e b e g i n n i n g o f t h e

" R i c e U n i v e r s i t y " p h r a s e . C o m p u t i n g F i g u r e 5 . 1 4 ( S p e e c h S p e c t r o g r a m ) i n v o l v e d c r e a t i n g f r a m e s , h e r e

d e m a r k e d b y t h e v e r t i c a l l i n e s , t h a t w e r e 2 5 6 s a m p l e s l o n g a n d n d i n g t h e s p e c t r u m o f e a c h . I f a

r e c t a n g u l a r w i n d o w i s a p p l i e d ( c o r r e s p o n d i n g t o e x t r a c t i n g a f r a m e f r o m t h e s i g n a l ) , o s c i l l a t i o n s a p p e a r

i n t h e s p e c t r u m ( m i d d l e o f b o t t o m r o w ) . A p p l y i n g a H a n n i n g w i n d o w g r a c e f u l l y t a p e r s t h e s i g n a l t o w a r d

f r a m e e d g e s , t h e r e b y y i e l d i n g a m o r e a c c u r a t e c o m p u t a t i o n o f t h e s i g n a l ' s s p e c t r u m a t t h a t m o m e n t o f

t i m e .

A t t h e f r a m e ' s e d g e s , t h e s i g n a l m a y c h a n g e v e r y a b r u p t l y , a f e a t u r e n o t p r e s e n t i n t h e o r i g i n a l s i g n a l .

A t r a n s f o r m o f s u c h a s e g m e n t r e v e a l s a c u r i o u s o s c i l l a t i o n i n t h e s p e c t r u m , a n a r t i f a c t d i r e c t l y r e l a t e d t o

t h i s s h a r p a m p l i t u d e c h a n g e . A b e t t e r w a y t o f r a m e s i g n a l s f o r s p e c t r o g r a m s i s t o a p p l y a w i n d o w : S h a p e

t h e s i g n a l v a l u e s w i t h i n a f r a m e s o t h a t t h e s i g n a l d e c a y s g r a c e f u l l y a s i t n e a r s t h e e d g e s . T h i s s h a p i n g i s

a c c o m p l i s h e d b y m u l t i p l y i n g t h e f r a m e d s i g n a l b y t h e s e q u e n c e w (n). I n s e c t i o n i n g t h e s i g n a l , w e e s s e n t i a l l y

a p p l i e d a r e c t a n g u l a r w i n d o w : w (n) = 1 , 0 ≤ n ≤ N − 1. A m u c h m o r e g r a c e f u l w i n d o w i s t h e H a n n i n g

w i n d o w ; i t h a s t h e c o s i n e s h a p e w (n) = 12

1 − cos

2πnN

. A s s h o w n i n F i g u r e 5 . 1 5 ( S p e c t r o g r a m H a n n i n g

v s . R e c t a n g u l a r ) , t h i s s h a p i n g g r e a t l y r e d u c e s s p u r i o u s o s c i l l a t i o n s i n e a c h f r a m e ' s s p e c t r u m . C o n s i d e r i n g

t h e s p e c t r u m o f t h e H a n n i n g w i n d o w e d f r a m e , w e n d t h a t t h e o s c i l l a t i o n s r e s u l t i n g f r o m a p p l y i n g t h e




1 9 4


r e c t a n g u l a r w i n d o w o b s c u r e d a f o r m a n t ( t h e o n e l o c a t e d a t a l i t t l e m o r e t h a n h a l f t h e N y q u i s t f r e q u e n c y ) .


W h a t m i g h t b e t h e s o u r c e o f t h e s e o s c i l l a t i o n s ? T o g a i n s o m e i n s i g h t , w h a t i s t h e l e n g t h - 2N d i s c r e t e F o u r i e r t r a n s f o r m o f a l e n g t h -

N p u l s e ? T h e p u l s e e m u l a t e s t h e r e c t a n g u l a r w i n d o w , a n d

c e r t a i n l y h a s e d g e s . C o m p a r e y o u r a n s w e r w i t h t h e l e n g t h - 2N t r a n s f o r m o f a l e n g t h - N H a n n i n g

w i n d o w .

N o n - o v e r l a p p i n g w i n d o w s

n

n

F i g u r e 5 . 1 6 : I n c o m p a r i s o n w i t h t h e o r i g i n a l s p e e c h s e g m e n t s h o w n i n t h e u p p e r p l o t , t h e n o n -

o v e r l a p p e d H a n n i n g w i n d o w e d v e r s i o n s h o w n b e l o w i t i s v e r y r a g g e d . C l e a r l y , s p e c t r a l i n f o r m a t i o n

e x t r a c t e d f r o m t h e b o t t o m p l o t c o u l d w e l l m i s s i m p o r t a n t f e a t u r e s p r e s e n t i n t h e o r i g i n a l .

I f y o u e x a m i n e t h e w i n d o w e d s i g n a l s e c t i o n s i n s e q u e n c e t o e x a m i n e w i n d o w i n g ' s a e c t o n s i g n a l a m p l i -

t u d e , w e s e e t h a t w e h a v e m a n a g e d t o a m p l i t u d e - m o d u l a t e t h e s i g n a l w i t h t h e p e r i o d i c a l l y r e p e a t e d w i n d o w

( F i g u r e 5 . 1 6 ( N o n - o v e r l a p p i n g w i n d o w s ) ) . T o a l l e v i a t e t h i s p r o b l e m , f r a m e s a r e o v e r l a p p e d ( t y p i c a l l y b y h a l f

a f r a m e d u r a t i o n ) . T h i s s o l u t i o n r e q u i r e s m o r e F o u r i e r t r a n s f o r m c a l c u l a t i o n s t h a n n e e d e d b y r e c t a n g u l a r

w i n d o w i n g , b u t t h e s p e c t r a a r e m u c h b e t t e r b e h a v e d a n d s p e c t r a l c h a n g e s a r e m u c h b e t t e r c a p t u r e d .

T h e s p e e c h s i g n a l , s u c h a s s h o w n i n t h e s p e e c h s p e c t r o g r a m ( F i g u r e 5 . 1 4 : S p e e c h S p e c t r o g r a m ) , i s

s e c t i o n e d i n t o o v e r l a p p i n g , e q u a l - l e n g t h f r a m e s , w i t h a H a n n i n g w i n d o w a p p l i e d t o e a c h f r a m e . T h e s p e c t r a

o f e a c h o f t h e s e i s c a l c u l a t e d , a n d d i s p l a y e d i n s p e c t r o g r a m s w i t h f r e q u e n c y e x t e n d i n g v e r t i c a l l y , w i n d o w

t i m e l o c a t i o n r u n n i n g h o r i z o n t a l l y , a n d s p e c t r a l m a g n i t u d e c o l o r - c o d e d . F i g u r e 5 . 1 7 ( O v e r l a p p i n g w i n d o w s

f o r c o m p u t i n g s p e c t r o g r a m s ) i l l u s t r a t e s t h e s e c o m p u t a t i o n s .




1 9 5

O v e r l a p p i n g w i n d o w s f o r c o m p u t i n g s p e c t r o g r a m s

L o g S p e c t r a l

M a g n i t u d e

f

n

FFT FFT FFT FFT FFT FFT FFT

F i g u r e 5 . 1 7 : T h e o r i g i n a l s p e e c h s e g m e n t a n d t h e s e q u e n c e o f o v e r l a p p i n g H a n n i n g w i n d o w s a p p l i e d

t o i t a r e s h o w n i n t h e u p p e r p o r t i o n . F r a m e s w e r e 2 5 6 s a m p l e s l o n g a n d a H a n n i n g w i n d o w w a s a p p l i e d

w i t h a h a l f - f r a m e o v e r l a p . A l e n g t h - 5 1 2 F F T o f e a c h f r a m e w a s c o m p u t e d , w i t h t h e m a g n i t u d e o f t h e

r s t 2 5 7 F F T v a l u e s d i s p l a y e d v e r t i c a l l y , w i t h s p e c t r a l a m p l i t u d e v a l u e s c o l o r - c o d e d .

E x e r c i s e 5 . 1 0 . 3

( S o l u t i o n o n p . 2 2 2 . )

W h y t h e s p e c i c v a l u e s o f 2 5 6 f o r N a n d 5 1 2 f o r K ? A n o t h e r i s s u e i s h o w w a s t h e l e n g t h - 5 1 2

t r a n s f o r m o f e a c h l e n g t h - 2 5 6 w i n d o w e d f r a m e c o m p u t e d ?

5 . 1 1 D i s c r e t e - T i m e S y s t e m s

2 3

W h e n w e d e v e l o p e d a n a l o g s y s t e m s , i n t e r c o n n e c t i n g t h e c i r c u i t e l e m e n t s p r o v i d e d a n a t u r a l s t a r t i n g p l a c e f o r

c o n s t r u c t i n g u s e f u l d e v i c e s . I n d i s c r e t e - t i m e s i g n a l p r o c e s s i n g , w e a r e n o t l i m i t e d b y h a r d w a r e c o n s i d e r a t i o n s

b u t b y w h a t c a n b e c o n s t r u c t e d i n s o f t w a r e .

E x e r c i s e 5 . 1 1 . 1

( S o l u t i o n o n p . 2 2 2 . )

O n e o f t h e r s t a n a l o g s y s t e m s w e d e s c r i b e d w a s t h e a m p l i e r ( S e c t i o n 2 . 6 . 2 : A m p l i e r s ) . W e

f o u n d t h a t i m p l e m e n t i n g a n a m p l i e r w a s d i c u l t i n a n a l o g s y s t e m s , r e q u i r i n g a n o p - a m p a t l e a s t .

W h a t i s t h e d i s c r e t e - t i m e i m p l e m e n t a t i o n o f a n a m p l i e r ? I s t h i s e s p e c i a l l y h a r d o r e a s y ?

I n f a c t , w e w i l l d i s c o v e r t h a t f r e q u e n c y - d o m a i n i m p l e m e n t a t i o n o f s y s t e m s , w h e r e i n w e m u l t i p l y t h e i n p u t

s i g n a l ' s F o u r i e r t r a n s f o r m b y a f r e q u e n c y r e s p o n s e , i s n o t o n l y a v i a b l e a l t e r n a t i v e , b u t a l s o a c o m p u t a t i o n a l l y

e c i e n t o n e . W e b e g i n w i t h d i s c u s s i n g t h e u n d e r l y i n g m a t h e m a t i c a l s t r u c t u r e o f l i n e a r , s h i f t - i n v a r i a n t

s y s t e m s , a n d d e v i s e h o w s o f t w a r e l t e r s c a n b e c o n s t r u c t e d .

2 3





1 9 6


5 . 1 2 D i s c r e t e - T i m e S y s t e m s i n t h e T i m e - D o m a i n

2 4

A d i s c r e t e - t i m e s i g n a l s (n) i s d e l a y e d b y n0 s a m p l e s w h e n w e w r i t e s (n − n0) , w i t h n0 > 0 . C h o o s i n g n0

t o b e n e g a t i v e a d v a n c e s t h e s i g n a l a l o n g t h e i n t e g e r s . A s o p p o s e d t o a n a l o g d e l a y s ( S e c t i o n 2 . 6 . 3 : D e l a y ) ,

d i s c r e t e - t i m e d e l a y s c a n o n l y b e i n t e g e r v a l u e d . I n t h e f r e q u e n c y d o m a i n , d e l a y i n g a s i g n a l c o r r e s p o n d s t o

a l i n e a r p h a s e s h i f t o f t h e s i g n a l ' s d i s c r e t e - t i m e F o u r i e r t r a n s f o r m : s (n − n0) ↔ e−(j2πfn0)S

ej2πf

.

L i n e a r d i s c r e t e - t i m e s y s t e m s h a v e t h e s u p e r p o s i t i o n p r o p e r t y .

S (a1x1 (n) + a2x2 (n)) = a1S (x1 (n)) + a2S (x2 (n)) ( 5 . 4 0 )

A d i s c r e t e - t i m e s y s t e m i s c a l l e d s h i f t - i n v a r i a n t ( a n a l o g o u s t o t i m e - i n v a r i a n t a n a l o g s y s t e m s ( p . 2 9 ) ) i f

d e l a y i n g t h e i n p u t d e l a y s t h e c o r r e s p o n d i n g o u t p u t . I f S (x (n)) = y (n) , t h e n a s h i f t - i n v a r i a n t s y s t e m h a s

t h e p r o p e r t y

S (x (n − n0)) = y (n − n0) ( 5 . 4 1 )

W e u s e t h e t e r m s h i f t - i n v a r i a n t t o e m p h a s i z e t h a t d e l a y s c a n o n l y h a v e i n t e g e r v a l u e s i n d i s c r e t e - t i m e , w h i l e

i n a n a l o g s i g n a l s , d e l a y s c a n b e a r b i t r a r i l y v a l u e d .

W e w a n t t o c o n c e n t r a t e o n s y s t e m s t h a t a r e b o t h l i n e a r a n d s h i f t - i n v a r i a n t . I t w i l l b e t h e s e t h a t a l l o w u s

t h e f u l l p o w e r o f f r e q u e n c y - d o m a i n a n a l y s i s a n d i m p l e m e n t a t i o n s . B e c a u s e w e h a v e n o p h y s i c a l c o n s t r a i n t s

i n " c o n s t r u c t i n g " s u c h s y s t e m s , w e n e e d o n l y a m a t h e m a t i c a l s p e c i c a t i o n . I n a n a l o g s y s t e m s , t h e d i e r -

e n t i a l e q u a t i o n s p e c i e s t h e i n p u t - o u t p u t r e l a t i o n s h i p i n t h e t i m e - d o m a i n . T h e c o r r e s p o n d i n g d i s c r e t e - t i m e

s p e c i c a t i o n i s t h e d i e r e n c e e q u a t i o n .

y (n) = a1y (n − 1) + · · · + a py (n − p) + b0x (n) + b1x (n − 1) + · · · + bqx (n − q ) ( 5 . 4 2 )

H e r e , t h e o u t p u t s i g n a l y (n) i s r e l a t e d t o i t s p a s t v a l u e s y (n − l), l = 1, . . . , p, a n d t o t h e c u r r e n t a n d

p a s t v a l u e s o f t h e i n p u t s i g n a l

x (n). T h e s y s t e m ' s c h a r a c t e r i s t i c s a r e d e t e r m i n e d b y t h e c h o i c e s f o r t h e

n u m b e r o f c o e c i e n t s

pa n d

q a n d t h e c o e c i e n t s ' v a l u e s a1, . . . , a p a n d b0, b1, . . . , bq.

a s i d e : T h e r e i s a n a s y m m e t r y i n t h e c o e c i e n t s : w h e r e i s

a0 ? T h i s c o e c i e n t w o u l d m u l t i p l y t h e

y (n) t e r m i n ( 5 . 4 2 ) . W e h a v e e s s e n t i a l l y d i v i d e d t h e e q u a t i o n b y i t , w h i c h d o e s n o t c h a n g e t h e

i n p u t - o u t p u t r e l a t i o n s h i p . W e h a v e t h u s c r e a t e d t h e c o n v e n t i o n t h a t a0 i s a l w a y s o n e .

A s o p p o s e d t o d i e r e n t i a l e q u a t i o n s , w h i c h o n l y p r o v i d e a n i m p l i c i t d e s c r i p t i o n o f a s y s t e m ( w e m u s t

s o m e h o w s o l v e t h e d i e r e n t i a l e q u a t i o n ) , d i e r e n c e e q u a t i o n s p r o v i d e a n e x p l i c i t w a y o f c o m p u t i n g t h e

o u t p u t f o r a n y i n p u t . W e s i m p l y e x p r e s s t h e d i e r e n c e e q u a t i o n b y a p r o g r a m t h a t c a l c u l a t e s e a c h o u t p u t

f r o m t h e p r e v i o u s o u t p u t v a l u e s , a n d t h e c u r r e n t a n d p r e v i o u s i n p u t s .

D i e r e n c e e q u a t i o n s a r e u s u a l l y e x p r e s s e d i n s o f t w a r e w i t h f o r l o o p s . A M A T L A B p r o g r a m t h a t w o u l d

c o m p u t e t h e r s t 1 0 0 0 v a l u e s o f t h e o u t p u t h a s t h e f o r m

f o r n = 1 : 1 0 0 0

y ( n ) = s u m ( a . * y ( n - 1 : - 1 : n - p ) ) + s u m ( b . * x ( n : - 1 : n - q ) ) ;

e n d

A n i m p o r t a n t d e t a i l e m e r g e s w h e n w e c o n s i d e r m a k i n g t h i s p r o g r a m w o r k ; i n f a c t , a s w r i t t e n i t h a s ( a t l e a s t )

t w o b u g s . W h a t i n p u t a n d o u t p u t v a l u e s e n t e r i n t o t h e c o m p u t a t i o n o f y (1)? W e n e e d v a l u e s f o r y (0),

y (−1), . . . , v a l u e s w e h a v e n o t y e t c o m p u t e d . T o c o m p u t e t h e m , w e w o u l d n e e d m o r e p r e v i o u s v a l u e s o f t h e

o u t p u t , w h i c h w e h a v e n o t y e t c o m p u t e d . T o c o m p u t e t h e s e v a l u e s , w e w o u l d n e e d e v e n e a r l i e r v a l u e s , a d

i n n i t u m . T h e w a y o u t o f t h i s p r e d i c a m e n t i s t o s p e c i f y t h e s y s t e m ' s i n i t i a l c o n d i t i o n s : w e m u s t p r o v i d e

t h e

po u t p u t v a l u e s t h a t o c c u r r e d b e f o r e t h e i n p u t s t a r t e d . T h e s e v a l u e s c a n b e a r b i t r a r y , b u t t h e c h o i c e

d o e s i m p a c t h o w t h e s y s t e m r e s p o n d s t o a g i v e n i n p u t . O n e c h o i c e g i v e s r i s e t o a l i n e a r s y s t e m : M a k e t h e

2 4





1 9 7

i n i t i a l c o n d i t i o n s z e r o . T h e r e a s o n l i e s i n t h e d e n i t i o n o f a l i n e a r s y s t e m ( S e c t i o n 2 . 6 . 6 : L i n e a r S y s t e m s ) :

T h e o n l y w a y t h a t t h e o u t p u t t o a s u m o f s i g n a l s c a n b e t h e s u m o f t h e i n d i v i d u a l o u t p u t s o c c u r s w h e n t h e

i n i t i a l c o n d i t i o n s i n e a c h c a s e a r e z e r o .

E x e r c i s e 5 . 1 2 . 1

( S o l u t i o n o n p . 2 2 3 . )

T h e i n i t i a l c o n d i t i o n i s s u e r e s o l v e s m a k i n g s e n s e o f t h e d i e r e n c e e q u a t i o n f o r i n p u t s t h a t s t a r t a t

s o m e i n d e x . H o w e v e r , t h e p r o g r a m w i l l n o t w o r k b e c a u s e o f a p r o g r a m m i n g , n o t c o n c e p t u a l , e r r o r .

W h a t i s i t ? H o w c a n i t b e " x e d ? "

E x a m p l e 5 . 5

L e t ' s c o n s i d e r t h e s i m p l e s y s t e m h a v i n g p = 1 a n d q = 0 .

y (n) = ay (n − 1) + bx (n) ( 5 . 4 3 )

T o c o m p u t e t h e o u t p u t a t s o m e i n d e x , t h i s d i e r e n c e e q u a t i o n s a y s w e n e e d t o k n o w w h a t t h e

p r e v i o u s o u t p u t

y (n − 1) a n d w h a t t h e i n p u t s i g n a l i s a t t h a t m o m e n t o f t i m e . I n m o r e d e t a i l , l e t ' s

c o m p u t e t h i s s y s t e m ' s o u t p u t t o a u n i t - s a m p l e i n p u t :

x (n) = δ (n). B e c a u s e t h e i n p u t i s z e r o f o r

n e g a t i v e i n d i c e s , w e s t a r t b y t r y i n g t o c o m p u t e t h e o u t p u t a t

n = 0.

y (0) = ay (−1) + b ( 5 . 4 4 )

W h a t i s t h e v a l u e o f y (−1)? B e c a u s e w e h a v e u s e d a n i n p u t t h a t i s z e r o f o r a l l n e g a t i v e i n d i c e s , i t

i s r e a s o n a b l e t o a s s u m e t h a t t h e o u t p u t i s a l s o z e r o . C e r t a i n l y , t h e d i e r e n c e e q u a t i o n w o u l d n o t

d e s c r i b e a l i n e a r s y s t e m ( S e c t i o n 2 . 6 . 6 : L i n e a r S y s t e m s ) i f t h e i n p u t t h a t i s z e r o f o r a l l t i m e d i d n o t

p r o d u c e a z e r o o u t p u t . W i t h t h i s a s s u m p t i o n , y (−1) = 0, l e a v i n g y (0) = b . F o r n > 0, t h e i n p u t

u n i t - s a m p l e i s z e r o , w h i c h l e a v e s u s w i t h t h e d i e r e n c e e q u a t i o n y (n) = ay (n − 1) , n > 0 . W e

c a n e n v i s i o n h o w t h e l t e r r e s p o n d s t o t h i s i n p u t b y m a k i n g a t a b l e .

y (n) = ay (n − 1) + bδ (n) ( 5 . 4 5 )

n x (n) y (n)

−1 0 0

0 1 b

1 0 ba

2 0 ba2

: 0 :

n 0 ban

T a b l e 5 . 1

C o e c i e n t v a l u e s d e t e r m i n e h o w t h e o u t p u t b e h a v e s . T h e p a r a m e t e r b c a n b e a n y v a l u e , a n d

s e r v e s a s a g a i n . T h e e e c t o f t h e p a r a m e t e r a i s m o r e c o m p l i c a t e d ( T a b l e 5 . 1 ) . I f i t e q u a l s z e r o ,

t h e o u t p u t s i m p l y e q u a l s t h e i n p u t t i m e s t h e g a i n b . F o r a l l n o n - z e r o v a l u e s o f a, t h e o u t p u t

l a s t s f o r e v e r ; s u c h s y s t e m s a r e s a i d t o b e I I R ( I n n i t e I m p u l s e R e s p o n s e ) . T h e r e a s o n f o r t h i s

t e r m i n o l o g y i s t h a t t h e u n i t s a m p l e a l s o k n o w n a s t h e i m p u l s e ( e s p e c i a l l y i n a n a l o g s i t u a t i o n s ) , a n d

t h e s y s t e m ' s r e s p o n s e t o t h e " i m p u l s e " l a s t s f o r e v e r . I f

ai s p o s i t i v e a n d l e s s t h a n o n e , t h e o u t p u t

i s a d e c a y i n g e x p o n e n t i a l . W h e n

a = 1 , t h e o u t p u t i s a u n i t s t e p . I f

ai s n e g a t i v e a n d g r e a t e r

t h a n −1, t h e o u t p u t o s c i l l a t e s w h i l e d e c a y i n g e x p o n e n t i a l l y . W h e n a = −1 , t h e o u t p u t c h a n g e s




1 9 8


s i g n f o r e v e r , a l t e r n a t i n g b e t w e e n b a n d −b . M o r e d r a m a t i c e e c t s w h e n |a| > 1; w h e t h e r p o s i t i v e

o r n e g a t i v e , t h e o u t p u t s i g n a l b e c o m e s l a r g e r a n d l a r g e r , g r o w i n g e x p o n e n t i a l l y .

1

n

y(n)a = 0.5, b = 1

n

-1

1

y(n)a = –0.5, b = 1

n0

2

4

y(n)a = 1.1, b = 1

x(n)

n

n

F i g u r e 5 . 1 8 : T h e i n p u t t o t h e s i m p l e e x a m p l e s y s t e m , a u n i t s a m p l e , i s s h o w n a t t h e t o p , w i t h t h e

o u t p u t s f o r s e v e r a l s y s t e m p a r a m e t e r v a l u e s s h o w n b e l o w .

P o s i t i v e v a l u e s o f a a r e u s e d i n p o p u l a t i o n m o d e l s t o d e s c r i b e h o w p o p u l a t i o n s i z e i n c r e a s e s

o v e r t i m e . H e r e , n m i g h t c o r r e s p o n d t o g e n e r a t i o n . T h e d i e r e n c e e q u a t i o n s a y s t h a t t h e n u m b e r

i n t h e n e x t g e n e r a t i o n i s s o m e m u l t i p l e o f t h e p r e v i o u s o n e . I f t h i s m u l t i p l e i s l e s s t h a n o n e , t h e

p o p u l a t i o n b e c o m e s e x t i n c t ; i f g r e a t e r t h a n o n e , t h e p o p u l a t i o n o u r i s h e s . T h e s a m e d i e r e n c e

e q u a t i o n a l s o d e s c r i b e s t h e e e c t o f c o m p o u n d i n t e r e s t o n d e p o s i t s . H e r e ,

ni n d e x e s t h e t i m e s a t

w h i c h c o m p o u n d i n g o c c u r s ( d a i l y , m o n t h l y , e t c . ) , a e q u a l s t h e c o m p o u n d i n t e r e s t r a t e p l u s o n e ,

a n d

b = 1( t h e b a n k p r o v i d e s n o g a i n ) . I n s i g n a l p r o c e s s i n g a p p l i c a t i o n s , w e t y p i c a l l y r e q u i r e t h a t

t h e o u t p u t r e m a i n b o u n d e d f o r a n y i n p u t . F o r o u r e x a m p l e , t h a t m e a n s t h a t w e r e s t r i c t |a| < 1a n d c h o s e v a l u e s f o r i t a n d t h e g a i n a c c o r d i n g t o t h e a p p l i c a t i o n .

E x e r c i s e 5 . 1 2 . 2

( S o l u t i o n o n p . 2 2 3 . )

N o t e t h a t t h e d i e r e n c e e q u a t i o n ( 5 . 4 2 ) ,

y (n) = a1y (n − 1) + · · · + a py (n − p) + b0x (n) + b1x (n − 1) + · · · + bqx (n − q )

d o e s n o t i n v o l v e t e r m s l i k e y (n + 1) o r x (n + 1) o n t h e e q u a t i o n ' s r i g h t s i d e . C a n s u c h t e r m s a l s o

b e i n c l u d e d ? W h y o r w h y n o t ?




1 9 9

y(n)

n

15

F i g u r e 5 . 1 9 : T h e p l o t s h o w s t h e u n i t - s a m p l e r e s p o n s e o f a l e n g t h - 5 b o x c a r l t e r .

E x a m p l e 5 . 6

A s o m e w h a t d i e r e n t s y s t e m h a s n o " a" c o e c i e n t s . C o n s i d e r t h e d i e r e n c e e q u a t i o n

y (n) =

1

q (x (n) + · · · + x (n − q + 1))( 5 . 4 6 )

B e c a u s e t h i s s y s t e m ' s o u t p u t d e p e n d s o n l y o n c u r r e n t a n d p r e v i o u s i n p u t v a l u e s , w e n e e d n o t

b e c o n c e r n e d w i t h i n i t i a l c o n d i t i o n s . W h e n t h e i n p u t i s a u n i t - s a m p l e , t h e o u t p u t e q u a l s

1q f o r

n = 0, . . . , q − 1 , t h e n e q u a l s z e r o t h e r e a f t e r . S u c h s y s t e m s a r e s a i d t o b e F I R ( F i n i t e I m p u l s e

R e s p o n s e ) b e c a u s e t h e i r u n i t s a m p l e r e s p o n s e s h a v e n i t e d u r a t i o n . P l o t t i n g t h i s r e s p o n s e ( F i g -

u r e 5 . 1 9 ) s h o w s t h a t t h e u n i t - s a m p l e r e s p o n s e i s a p u l s e o f w i d t h q a n d h e i g h t

1q . T h i s w a v e f o r m

i s a l s o k n o w n a s a b o x c a r , h e n c e t h e n a m e b o x c a r l t e r g i v e n t o t h i s s y s t e m . W e ' l l d e r i v e i t s

f r e q u e n c y r e s p o n s e a n d d e v e l o p i t s l t e r i n g i n t e r p r e t a t i o n i n t h e n e x t s e c t i o n . F o r n o w , n o t e t h a t

t h e d i e r e n c e e q u a t i o n s a y s t h a t e a c h o u t p u t v a l u e e q u a l s t h e a v e r a g e o f t h e i n p u t ' s c u r r e n t a n d

p r e v i o u s v a l u e s . T h u s , t h e o u t p u t e q u a l s t h e r u n n i n g a v e r a g e o f i n p u t ' s p r e v i o u s q v a l u e s . S u c h a

s y s t e m c o u l d b e u s e d t o p r o d u c e t h e a v e r a g e w e e k l y t e m p e r a t u r e ( q = 7 ) t h a t c o u l d b e u p d a t e d

d a i l y .

[ M e d i a O b j e c t ]

2 5

5 . 1 3 D i s c r e t e - T i m e S y s t e m s i n t h e F r e q u e n c y D o m a i n

2 6

A s w i t h a n a l o g l i n e a r s y s t e m s , w e n e e d t o n d t h e f r e q u e n c y r e s p o n s e o f d i s c r e t e - t i m e s y s t e m s . W e u s e d

i m p e d a n c e s t o d e r i v e d i r e c t l y f r o m t h e c i r c u i t ' s s t r u c t u r e t h e f r e q u e n c y r e s p o n s e . T h e o n l y s t r u c t u r e w e h a v e

s o f a r f o r a d i s c r e t e - t i m e s y s t e m i s t h e d i e r e n c e e q u a t i o n . W e p r o c e e d a s w h e n w e u s e d i m p e d a n c e s : l e t t h e

i n p u t b e a c o m p l e x e x p o n e n t i a l s i g n a l . W h e n w e h a v e a l i n e a r , s h i f t - i n v a r i a n t s y s t e m , t h e o u t p u t s h o u l d a l s o

b e a c o m p l e x e x p o n e n t i a l o f t h e s a m e f r e q u e n c y , c h a n g e d i n a m p l i t u d e a n d p h a s e . T h e s e a m p l i t u d e a n d p h a s e

c h a n g e s c o m p r i s e t h e f r e q u e n c y r e s p o n s e w e s e e k . T h e c o m p l e x e x p o n e n t i a l i n p u t s i g n a l i s x (n) = Xej2πfn .

N o t e t h a t t h i s i n p u t o c c u r s f o r a l l v a l u e s o f

n. N o n e e d t o w o r r y a b o u t i n i t i a l c o n d i t i o n s h e r e . A s s u m e t h e

o u t p u t h a s a s i m i l a r f o r m :

y (n) = Y ej2πfn. P l u g g i n g t h e s e s i g n a l s i n t o t h e f u n d a m e n t a l d i e r e n c e e q u a t i o n

( 5 . 4 2 ) , w e h a v e

Y ej2πfn = a1Y ej2πf (n−1) + · · · + a pY ej2πf (n− p) + b0Xej2πfn + b1Xej2πf (n−1) + · · · + bqXej2πf (n−q) ( 5 . 4 7 )

T h e a s s u m e d o u t p u t d o e s i n d e e d s a t i s f y t h e d i e r e n c e e q u a t i o n i f t h e o u t p u t c o m p l e x a m p l i t u d e i s r e l a t e d

t o t h e i n p u t a m p l i t u d e b y

Y =b0 + b1e−(j2πf ) + · · · + bqe−(j2πqf )

1 − a1e−(j2πf ) − · · · − a pe−(j2πpf )X

2 5


< D i s c r e t e T i m e S y s . l l b >

2 6





2 0 0


T h i s r e l a t i o n s h i p c o r r e s p o n d s t o t h e s y s t e m ' s f r e q u e n c y r e s p o n s e o r , b y a n o t h e r n a m e , i t s t r a n s f e r f u n c t i o n .

W e n d t h a t a n y d i s c r e t e - t i m e s y s t e m d e n e d b y a d i e r e n c e e q u a t i o n h a s a t r a n s f e r f u n c t i o n g i v e n b y

H ej2πf =b0 + b1e−(j2πf ) + · · · + bqe−(j2πqf )

1 − a1e−(j2πf ) − · · · − a pe−(j2πpf )( 5 . 4 8 )

F u r t h e r m o r e , b e c a u s e a n y d i s c r e t e - t i m e s i g n a l c a n b e e x p r e s s e d a s a s u p e r p o s i t i o n o f c o m p l e x e x p o n e n t i a l

s i g n a l s a n d b e c a u s e l i n e a r d i s c r e t e - t i m e s y s t e m s o b e y t h e S u p e r p o s i t i o n P r i n c i p l e , t h e t r a n s f e r f u n c t i o n

r e l a t e s t h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m o f t h e s y s t e m ' s o u t p u t t o t h e i n p u t ' s F o u r i e r t r a n s f o r m .

Y

ej2πf

= X

ej2πf

H

ej2πf

( 5 . 4 9 )

E x a m p l e 5 . 7

T h e f r e q u e n c y r e s p o n s e o f t h e s i m p l e I I R s y s t e m ( d i e r e n c e e q u a t i o n g i v e n i n a p r e v i o u s e x a m p l e

( E x a m p l e 5 . 5 ) ) i s g i v e n b y

H

ej2πf

=

b

1 − ae−(j2πf )( 5 . 5 0 )

T h i s F o u r i e r t r a n s f o r m o c c u r r e d i n a p r e v i o u s e x a m p l e ; t h e e x p o n e n t i a l s i g n a l s p e c t r u m ( F i g -

u r e 5 . 1 0 : S p e c t r a o f e x p o n e n t i a l s i g n a l s ) p o r t r a y s t h e m a g n i t u d e a n d p h a s e o f t h i s t r a n s f e r f u n c t i o n .

W h e n t h e l t e r c o e c i e n t a i s p o s i t i v e , w e h a v e a l o w p a s s l t e r ; n e g a t i v e a r e s u l t s i n a h i g h p a s s

l t e r . T h e l a r g e r t h e c o e c i e n t i n m a g n i t u d e , t h e m o r e p r o n o u n c e d t h e l o w p a s s o r h i g h p a s s l t e r -

i n g .

E x a m p l e 5 . 8

T h e l e n g t h - q b o x c a r l t e r ( d i e r e n c e e q u a t i o n f o u n d i n a p r e v i o u s e x a m p l e ( E x a m p l e 5 . 6 ) ) h a s t h e

f r e q u e n c y r e s p o n s e

H

ej2πf

=1

q

q−1m=0

e−(j2πfm)( 5 . 5 1 )

T h i s e x p r e s s i o n a m o u n t s t o t h e F o u r i e r t r a n s f o r m o f t h e b o x c a r s i g n a l ( F i g u r e 5 . 1 9 ) . T h e r e w e

f o u n d t h a t t h i s f r e q u e n c y r e s p o n s e h a s a m a g n i t u d e e q u a l t o t h e a b s o l u t e v a l u e o f dsinc (πf ); s e e

t h e l e n g t h - 1 0 l t e r ' s f r e q u e n c y r e s p o n s e ( F i g u r e 5 . 1 1 : S p e c t r u m o f l e n g t h - t e n p u l s e ) . W e s e e t h a t

b o x c a r l t e r s l e n g t h - q s i g n a l a v e r a g e r s h a v e a l o w p a s s b e h a v i o r , h a v i n g a c u t o f r e q u e n c y o f

1q .

E x e r c i s e 5 . 1 3 . 1

( S o l u t i o n o n p . 2 2 3 . )

S u p p o s e w e m u l t i p l y t h e b o x c a r l t e r ' s c o e c i e n t s b y a s i n u s o i d : bm = 1q cos(2πf 0m) U s e F o u r i e r

t r a n s f o r m p r o p e r t i e s t o d e t e r m i n e t h e t r a n s f e r f u n c t i o n . H o w w o u l d y o u c h a r a c t e r i z e t h i s s y s t e m :

D o e s i t a c t l i k e a l t e r ? I f s o , w h a t k i n d o f l t e r a n d h o w d o y o u c o n t r o l i t s c h a r a c t e r i s t i c s w i t h

t h e l t e r ' s c o e c i e n t s ?

T h e s e e x a m p l e s i l l u s t r a t e t h e p o i n t t h a t s y s t e m s d e s c r i b e d ( a n d i m p l e m e n t e d ) b y d i e r e n c e e q u a t i o n s s e r v e

a s l t e r s f o r d i s c r e t e - t i m e s i g n a l s . T h e l t e r ' s o r d e r i s g i v e n b y t h e n u m b e r p o f d e n o m i n a t o r c o e c i e n t s

i n t h e t r a n s f e r f u n c t i o n ( i f t h e s y s t e m i s I I R ) o r b y t h e n u m b e r q o f n u m e r a t o r c o e c i e n t s i f t h e l t e r i s

F I R . W h e n a s y s t e m ' s t r a n s f e r f u n c t i o n h a s b o t h t e r m s , t h e s y s t e m i s u s u a l l y I I R , a n d i t s o r d e r e q u a l s pr e g a r d l e s s o f q . B y s e l e c t i n g t h e c o e c i e n t s a n d l t e r t y p e , l t e r s h a v i n g v i r t u a l l y a n y f r e q u e n c y r e s p o n s e

d e s i r e d c a n b e d e s i g n e d . T h i s d e s i g n e x i b i l i t y c a n ' t b e f o u n d i n a n a l o g s y s t e m s . I n t h e n e x t s e c t i o n , w e

d e t a i l h o w a n a l o g s i g n a l s c a n b e l t e r e d b y c o m p u t e r s , o e r i n g a m u c h g r e a t e r r a n g e o f l t e r i n g p o s s i b i l i t i e s

t h a n i s p o s s i b l e w i t h c i r c u i t s .

5 . 1 4 F i l t e r i n g i n t h e F r e q u e n c y D o m a i n

2 7

B e c a u s e w e a r e i n t e r e s t e d i n a c t u a l c o m p u t a t i o n s r a t h e r t h a n a n a l y t i c c a l c u l a t i o n s , w e m u s t c o n s i d e r t h e

d e t a i l s o f t h e d i s c r e t e F o u r i e r t r a n s f o r m . T o c o m p u t e t h e l e n g t h - N D F T , w e a s s u m e t h a t t h e s i g n a l h a s a

2 7





2 0 1

d u r a t i o n l e s s t h a n o r e q u a l t o N . B e c a u s e f r e q u e n c y r e s p o n s e s h a v e a n e x p l i c i t f r e q u e n c y - d o m a i n s p e c i c a t i o n

( 5 . 4 7 ) i n t e r m s o f l t e r c o e c i e n t s , w e d o n ' t h a v e a d i r e c t h a n d l e o n w h i c h s i g n a l h a s a F o u r i e r t r a n s f o r m

e q u a l i n g a g i v e n f r e q u e n c y r e s p o n s e . F i n d i n g t h i s s i g n a l i s q u i t e e a s y . F i r s t o f a l l , n o t e t h a t t h e d i s c r e t e -

t i m e F o u r i e r t r a n s f o r m o f a u n i t s a m p l e e q u a l s o n e f o r a l l f r e q u e n c i e s . B e c a u s e o f t h e i n p u t a n d o u t p u t o f

l i n e a r , s h i f t - i n v a r i a n t s y s t e m s a r e r e l a t e d t o e a c h o t h e r b y Y ej2πf = H ej2πf X ej2πf , a u n i t - s a m p l e

i n p u t , w h i c h h a s X

ej2πf

= 1 , r e s u l t s i n t h e o u t p u t ' s F o u r i e r t r a n s f o r m e q u a l i n g t h e s y s t e m ' s

t r a n s f e r f u n c t i o n .


T h i s s t a t e m e n t i s a v e r y i m p o r t a n t r e s u l t . D e r i v e i t y o u r s e l f .

I n t h e t i m e - d o m a i n , t h e o u t p u t f o r a u n i t - s a m p l e i n p u t i s k n o w n a s t h e s y s t e m ' s u n i t - s a m p l e r e s p o n s e ,

a n d i s d e n o t e d b y h (n). C o m b i n i n g t h e f r e q u e n c y - d o m a i n a n d t i m e - d o m a i n i n t e r p r e t a t i o n s o f a l i n e a r , s h i f t -

i n v a r i a n t s y s t e m ' s u n i t - s a m p l e r e s p o n s e , w e h a v e t h a t h (n) a n d t h e t r a n s f e r f u n c t i o n a r e F o u r i e r t r a n s f o r m

p a i r s i n t e r m s o f t h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m .

h (n) ↔ H

ej2πf

( 5 . 5 2 )

R e t u r n i n g t o t h e i s s u e o f h o w t o u s e t h e D F T t o p e r f o r m l t e r i n g , w e c a n a n a l y t i c a l l y s p e c i f y t h e f r e q u e n c y

r e s p o n s e , a n d d e r i v e t h e c o r r e s p o n d i n g l e n g t h -

N D F T b y s a m p l i n g t h e f r e q u e n c y r e s p o n s e .

H (k) = H

ej2πk

N

, k = 0, . . . , N − 1 ( 5 . 5 3 )

C o m p u t i n g t h e i n v e r s e D F T y i e l d s a l e n g t h - N s i g n a l n o m a t t e r w h a t t h e a c t u a l d u r a t i o n o f t h e u n i t -

s a m p l e r e s p o n s e m i g h t b e . I f t h e u n i t - s a m p l e r e s p o n s e h a s a d u r a t i o n l e s s t h a n o r e q u a l t o N ( i t ' s a F I R

l t e r ) , c o m p u t i n g t h e i n v e r s e D F T o f t h e s a m p l e d f r e q u e n c y r e s p o n s e i n d e e d y i e l d s t h e u n i t - s a m p l e r e s p o n s e .

I f , h o w e v e r , t h e d u r a t i o n e x c e e d s N , e r r o r s a r e e n c o u n t e r e d . T h e n a t u r e o f t h e s e e r r o r s i s e a s i l y e x p l a i n e d

b y a p p e a l i n g t o t h e S a m p l i n g T h e o r e m . B y s a m p l i n g i n t h e f r e q u e n c y d o m a i n , w e h a v e t h e p o t e n t i a l f o r

a l i a s i n g i n t h e t i m e d o m a i n ( s a m p l i n g i n o n e d o m a i n , b e i t t i m e o r f r e q u e n c y , c a n r e s u l t i n a l i a s i n g i n t h e

o t h e r ) u n l e s s w e s a m p l e f a s t e n o u g h . H e r e , t h e d u r a t i o n o f t h e u n i t - s a m p l e r e s p o n s e d e t e r m i n e s t h e m i n i m a l

s a m p l i n g r a t e t h a t p r e v e n t s a l i a s i n g . F o r F I R s y s t e m s t h e y b y d e n i t i o n h a v e n i t e - d u r a t i o n u n i t s a m p l e

r e s p o n s e s t h e n u m b e r o f r e q u i r e d D F T s a m p l e s e q u a l s t h e u n i t - s a m p l e r e s p o n s e ' s d u r a t i o n :

N ≥ q .

E x e r c i s e 5 . 1 4 . 2

( S o l u t i o n o n p . 2 2 3 . )

D e r i v e t h e m i n i m a l D F T l e n g t h f o r a l e n g t h - q u n i t - s a m p l e r e s p o n s e u s i n g t h e S a m p l i n g T h e o r e m .

B e c a u s e s a m p l i n g i n t h e f r e q u e n c y d o m a i n c a u s e s r e p e t i t i o n s o f t h e u n i t - s a m p l e r e s p o n s e i n t h e

t i m e d o m a i n , s k e t c h t h e t i m e - d o m a i n r e s u l t f o r v a r i o u s c h o i c e s o f t h e D F T l e n g t h N .

E x e r c i s e 5 . 1 4 . 3

( S o l u t i o n o n p . 2 2 3 . )

E x p r e s s t h e u n i t - s a m p l e r e s p o n s e o f a F I R l t e r i n t e r m s o f d i e r e n c e e q u a t i o n c o e c i e n t s . N o t e

t h a t t h e c o r r e s p o n d i n g q u e s t i o n f o r I I R l t e r s i s f a r m o r e d i c u l t t o a n s w e r : C o n s i d e r t h e e x a m p l e

( E x a m p l e 5 . 5 ) .

F o r I I R s y s t e m s , w e c a n n o t u s e t h e D F T t o n d t h e s y s t e m ' s u n i t - s a m p l e r e s p o n s e : a l i a s i n g o f t h e u n i t -

s a m p l e r e s p o n s e w i l l a l w a y s o c c u r . C o n s e q u e n t l y , w e c a n o n l y i m p l e m e n t a n I I R l t e r a c c u r a t e l y i n t h e t i m e

d o m a i n w i t h t h e s y s t e m ' s d i e r e n c e e q u a t i o n . F r e q u e n c y - d o m a i n i m p l e m e n t a t i o n s a r e r e s t r i c t e d t o

F I R l t e r s .

A n o t h e r i s s u e a r i s e s i n f r e q u e n c y - d o m a i n l t e r i n g t h a t i s r e l a t e d t o t i m e - d o m a i n a l i a s i n g , t h i s t i m e w h e n

w e c o n s i d e r t h e o u t p u t . A s s u m e w e h a v e a n i n p u t s i g n a l h a v i n g d u r a t i o n N x t h a t w e p a s s t h r o u g h a F I R

l t e r h a v i n g a l e n g t h -

q + 1 u n i t - s a m p l e r e s p o n s e . W h a t i s t h e d u r a t i o n o f t h e o u t p u t s i g n a l ? T h e d i e r e n c e

e q u a t i o n f o r t h i s l t e r i s

y (n) = b0x (n) + · · · + bqx (n − q ) ( 5 . 5 4 )

T h i s e q u a t i o n s a y s t h a t t h e o u t p u t d e p e n d s o n c u r r e n t a n d p a s t i n p u t v a l u e s , w i t h t h e i n p u t v a l u e q s a m p l e s

p r e v i o u s d e n i n g t h e e x t e n t o f t h e l t e r ' s m e m o r y o f p a s t i n p u t v a l u e s . F o r e x a m p l e , t h e o u t p u t a t i n d e x

N x d e p e n d s o n x (N x) ( w h i c h e q u a l s z e r o ) , x (N x − 1) , t h r o u g h x (N x − q ) . T h u s , t h e o u t p u t r e t u r n s t o z e r o




2 0 2


o n l y a f t e r t h e l a s t i n p u t v a l u e p a s s e s t h r o u g h t h e l t e r ' s m e m o r y . A s t h e i n p u t s i g n a l ' s l a s t v a l u e o c c u r s a t

i n d e x

N x− 1, t h e l a s t n o n z e r o o u t p u t v a l u e o c c u r s w h e n

n −q = N x−1 o r

n = q + N x− 1. T h u s , t h e o u t p u t

s i g n a l ' s d u r a t i o n e q u a l s

q + N x .

E x e r c i s e 5 . 1 4 . 4

( S o l u t i o n o n p . 2 2 3 . )

I n w o r d s , w e e x p r e s s t h i s r e s u l t a s " T h e o u t p u t ' s d u r a t i o n e q u a l s t h e i n p u t ' s d u r a t i o n p l u s t h e

l t e r ' s d u r a t i o n m i n u s o n e . " . D e m o n s t r a t e t h e a c c u r a c y o f t h i s s t a t e m e n t .

T h e m a i n t h e m e o f t h i s r e s u l t i s t h a t a l t e r ' s o u t p u t e x t e n d s l o n g e r t h a n e i t h e r i t s i n p u t o r i t s u n i t - s a m p l e

r e s p o n s e . T h u s , t o a v o i d a l i a s i n g w h e n w e u s e D F T s , t h e d o m i n a n t f a c t o r i s n o t t h e d u r a t i o n o f i n p u t o r

o f t h e u n i t - s a m p l e r e s p o n s e , b u t o f t h e o u t p u t . T h u s , t h e n u m b e r o f v a l u e s a t w h i c h w e m u s t e v a l u a t e t h e

f r e q u e n c y r e s p o n s e ' s D F T m u s t b e a t l e a s t q + N x a n d w e m u s t c o m p u t e t h e s a m e l e n g t h D F T o f t h e i n p u t .

T o a c c o m m o d a t e a s h o r t e r s i g n a l t h a n D F T l e n g t h , w e s i m p l y z e r o - p a d t h e i n p u t : E n s u r e t h a t f o r i n d i c e s

e x t e n d i n g b e y o n d t h e s i g n a l ' s d u r a t i o n t h a t t h e s i g n a l i s z e r o . F r e q u e n c y - d o m a i n l t e r i n g , d i a g r a m m e d i n

F i g u r e 5 . 2 0 , i s a c c o m p l i s h e d b y s t o r i n g t h e l t e r ' s f r e q u e n c y r e s p o n s e a s t h e D F T

H (k) , c o m p u t i n g t h e

i n p u t ' s D F T X (k) , m u l t i p l y i n g t h e m t o c r e a t e t h e o u t p u t ' s D F T Y (k) = H (k) X (k) , a n d c o m p u t i n g t h e

i n v e r s e D F T o f t h e r e s u l t t o y i e l d y (n).

DFTx(n)

H(k)

IDFTX(k) Y(k) y(n)

F i g u r e 5 . 2 0 : T o l t e r a s i g n a l i n t h e f r e q u e n c y d o m a i n , r s t c o m p u t e t h e D F T o f t h e i n p u t , m u l t i p l y

t h e r e s u l t b y t h e s a m p l e d f r e q u e n c y r e s p o n s e , a n d n a l l y c o m p u t e t h e i n v e r s e D F T o f t h e p r o d u c t . T h e

D F T ' s l e n g t h m u s t b e a t l e a s t t h e s u m o f t h e i n p u t ' s a n d u n i t - s a m p l e r e s p o n s e ' s d u r a t i o n m i n u s o n e .

W e c a l c u l a t e t h e s e d i s c r e t e F o u r i e r t r a n s f o r m s u s i n g t h e f a s t F o u r i e r t r a n s f o r m a l g o r i t h m , o f c o u r s e .

B e f o r e d e t a i l i n g t h i s p r o c e d u r e , l e t ' s c l a r i f y w h y s o m a n y n e w i s s u e s a r o s e i n t r y i n g t o d e v e l o p a f r e q u e n c y -

d o m a i n i m p l e m e n t a t i o n o f l i n e a r l t e r i n g . T h e f r e q u e n c y - d o m a i n r e l a t i o n s h i p b e t w e e n a l t e r ' s i n p u t a n d

o u t p u t i s a l w a y s t r u e :

Y

ej2πf

= H

ej2πf

X

ej2πf

. T h i s F o u r i e r t r a n s f o r m s i n t h i s r e s u l t a r e d i s c r e t e -

t i m e F o u r i e r t r a n s f o r m s ; f o r e x a m p l e , X

ej2πf

=

n x (n) e−(j2πfn) . U n f o r t u n a t e l y , u s i n g t h i s r e l a t i o n s h i p

t o p e r f o r m l t e r i n g i s r e s t r i c t e d t o t h e s i t u a t i o n w h e n w e h a v e a n a l y t i c f o r m u l a s f o r t h e f r e q u e n c y r e s p o n s e

a n d t h e i n p u t s i g n a l . T h e r e a s o n w h y w e h a d t o " i n v e n t " t h e d i s c r e t e F o u r i e r t r a n s f o r m ( D F T ) h a s t h e

s a m e o r i g i n : T h e s p e c t r u m r e s u l t i n g f r o m t h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m d e p e n d s o n t h e c o n t i n u o u s

f r e q u e n c y v a r i a b l e f . T h a t ' s n e f o r a n a l y t i c c a l c u l a t i o n , b u t c o m p u t a t i o n a l l y w e w o u l d h a v e t o m a k e a n

u n c o u n t a b l y i n n i t e n u m b e r o f c o m p u t a t i o n s .

n o t e : D i d y o u k n o w t h a t t w o k i n d s o f i n n i t i e s c a n b e m e a n i n g f u l l y d e n e d ? A c o u n t a b l y

i n n i t e q u a n t i t y m e a n s t h a t i t c a n b e a s s o c i a t e d w i t h a l i m i t i n g p r o c e s s a s s o c i a t e d w i t h i n t e g e r s .

A n u n c o u n t a b l y i n n i t e q u a n t i t y c a n n o t b e s o a s s o c i a t e d . T h e n u m b e r o f r a t i o n a l n u m b e r s i s

c o u n t a b l y i n n i t e ( t h e n u m e r a t o r a n d d e n o m i n a t o r c o r r e s p o n d t o l o c a t i n g t h e r a t i o n a l b y r o w a n d

c o l u m n ; t h e t o t a l n u m b e r s o - l o c a t e d c a n b e c o u n t e d , v o i l a ! ) ; t h e n u m b e r o f i r r a t i o n a l n u m b e r s i s

u n c o u n t a b l y i n n i t e . G u e s s w h i c h i s " b i g g e r ? "

T h e D F T c o m p u t e s t h e F o u r i e r t r a n s f o r m a t a n i t e s e t o f f r e q u e n c i e s s a m p l e s t h e t r u e s p e c t r u m

w h i c h c a n l e a d t o a l i a s i n g i n t h e t i m e - d o m a i n u n l e s s w e s a m p l e s u c i e n t l y f a s t . T h e s a m p l i n g i n t e r v a l h e r e

i s

1K f o r a l e n g t h - K D F T : f a s t e r s a m p l i n g t o a v o i d a l i a s i n g t h u s r e q u i r e s a l o n g e r t r a n s f o r m c a l c u l a t i o n .

S i n c e t h e l o n g e s t s i g n a l a m o n g t h e i n p u t , u n i t - s a m p l e r e s p o n s e a n d o u t p u t i s t h e o u t p u t , i t i s t h a t s i g n a l ' s




2 0 3

d u r a t i o n t h a t d e t e r m i n e s t h e t r a n s f o r m l e n g t h . W e s i m p l y e x t e n d t h e o t h e r t w o s i g n a l s w i t h z e r o s ( z e r o - p a d )

t o c o m p u t e t h e i r D F T s .

E x a m p l e 5 . 9

S u p p o s e w e w a n t t o a v e r a g e d a i l y s t o c k p r i c e s t a k e n o v e r l a s t y e a r t o y i e l d a r u n n i n g w e e k l y

a v e r a g e ( a v e r a g e o v e r v e t r a d i n g s e s s i o n s ) . T h e l t e r w e w a n t i s a l e n g t h - 5 a v e r a g e r ( a s s h o w n i n

t h e u n i t - s a m p l e r e s p o n s e ( F i g u r e 5 . 1 9 ) ) , a n d t h e i n p u t ' s d u r a t i o n i s 2 5 3 ( 3 6 5 c a l e n d a r d a y s m i n u s

w e e k e n d d a y s a n d h o l i d a y s ) . T h e o u t p u t d u r a t i o n w i l l b e 253+5−1 = 257 , a n d t h i s d e t e r m i n e s t h e

t r a n s f o r m l e n g t h w e n e e d t o u s e . B e c a u s e w e w a n t t o u s e t h e F F T , w e a r e r e s t r i c t e d t o p o w e r - o f - t w o

t r a n s f o r m l e n g t h s . W e n e e d t o c h o o s e a n y F F T l e n g t h t h a t e x c e e d s t h e r e q u i r e d D F T l e n g t h . A s

i t t u r n s o u t , 2 5 6 i s a p o w e r o f t w o ( 28 = 256 ) , a n d t h i s l e n g t h j u s t u n d e r s h o o t s o u r r e q u i r e d l e n g t h .

T o u s e f r e q u e n c y d o m a i n t e c h n i q u e s , w e m u s t u s e l e n g t h - 5 1 2 f a s t F o u r i e r t r a n s f o r m s .

Trading Day (1997)

D o w - J o n e s I n d u s t r i a l

A v e r a g e

0 50 100 150 200 2500

1000

2000

3000

4000

5000

6000

7000

8000

Daily AverageWeekly Average

F i g u r e 5 . 2 1 : T h e b l u e l i n e s h o w s t h e D o w J o n e s I n d u s t r i a l A v e r a g e f r o m 1 9 9 7 , a n d t h e r e d o n e t h e

l e n g t h - 5 b o x c a r - l t e r e d r e s u l t t h a t p r o v i d e s a r u n n i n g w e e k l y o f t h i s m a r k e t i n d e x . N o t e t h e " e d g e "

e e c t s i n t h e l t e r e d o u t p u t .

F i g u r e 5 . 2 1 s h o w s t h e i n p u t a n d t h e l t e r e d o u t p u t . T h e M A T L A B p r o g r a m s t h a t c o m p u t e t h e

l t e r e d o u t p u t i n t h e t i m e a n d f r e q u e n c y d o m a i n s a r e

T i m e D o m a i n

h = [ 1 1 1 1 1 ] / 5 ;

y = f i l t e r ( h , 1 , [ d j i a z e r o s ( 1 , 4 ) ] ) ;

F r e q u e n c y D o m a i n

h = [ 1 1 1 1 1 ] / 5 ;

D J I A = f f t ( d j i a , 5 1 2 ) ;

H = f f t ( h , 5 1 2 ) ;

Y = H . * X ;

y = i f f t ( Y ) ;




2 0 4


n o t e : T h e f i l t e r p r o g r a m h a s t h e f e a t u r e t h a t t h e l e n g t h o f i t s o u t p u t e q u a l s t h e l e n g t h o f i t s

i n p u t . T o f o r c e i t t o p r o d u c e a s i g n a l h a v i n g t h e p r o p e r l e n g t h , t h e p r o g r a m z e r o - p a d s t h e i n p u t

a p p r o p r i a t e l y .

M A T L A B ' s f f t f u n c t i o n a u t o m a t i c a l l y z e r o - p a d s i t s i n p u t i f t h e s p e c i e d t r a n s f o r m l e n g t h ( i t s

s e c o n d a r g u m e n t ) e x c e e d s t h e s i g n a l ' s l e n g t h . T h e f r e q u e n c y d o m a i n r e s u l t w i l l h a v e a s m a l l

i m a g i n a r y c o m p o n e n t l a r g e s t v a l u e i s 2.2 × 10−11 b e c a u s e o f t h e i n h e r e n t n i t e p r e c i s i o n

n a t u r e o f c o m p u t e r a r i t h m e t i c . B e c a u s e o f t h e u n f o r t u n a t e m i s t b e t w e e n s i g n a l l e n g t h s a n d

f a v o r e d F F T l e n g t h s , t h e n u m b e r o f a r i t h m e t i c o p e r a t i o n s i n t h e t i m e - d o m a i n i m p l e m e n t a t i o n i s

f a r l e s s t h a n t h o s e r e q u i r e d b y t h e f r e q u e n c y d o m a i n v e r s i o n : 5 1 4 v e r s u s 6 2 , 2 7 1 . I f t h e i n p u t s i g n a l

h a d b e e n o n e s a m p l e s h o r t e r , t h e f r e q u e n c y - d o m a i n c o m p u t a t i o n s w o u l d h a v e b e e n m o r e t h a n a

f a c t o r o f t w o l e s s ( 2 8 , 6 9 6 ) , b u t f a r m o r e t h a n i n t h e t i m e - d o m a i n i m p l e m e n t a t i o n .

A n i n t e r e s t i n g s i g n a l p r o c e s s i n g a s p e c t o f t h i s e x a m p l e i s d e m o n s t r a t e d a t t h e b e g i n n i n g a n d

e n d o f t h e o u t p u t . T h e r a m p i n g u p a n d d o w n t h a t o c c u r s c a n b e t r a c e d t o a s s u m i n g t h e i n p u t i s

z e r o b e f o r e i t b e g i n s a n d a f t e r i t e n d s . T h e l t e r " s e e s " t h e s e i n i t i a l a n d n a l v a l u e s a s t h e d i e r e n c e

e q u a t i o n p a s s e s o v e r t h e i n p u t . T h e s e a r t i f a c t s c a n b e h a n d l e d i n t w o w a y s : w e c a n j u s t i g n o r e t h e

e d g e e e c t s o r t h e d a t a f r o m p r e v i o u s a n d s u c c e e d i n g y e a r s ' l a s t a n d r s t w e e k , r e s p e c t i v e l y , c a n

b e p l a c e d a t t h e e n d s .

5 . 1 5 E c i e n c y o f F r e q u e n c y - D o m a i n F i l t e r i n g

2 8

T o d e t e r m i n e f o r w h a t s i g n a l a n d l t e r d u r a t i o n s a t i m e - o r f r e q u e n c y - d o m a i n i m p l e m e n t a t i o n w o u l d b e

t h e m o s t e c i e n t , w e n e e d o n l y c o u n t t h e c o m p u t a t i o n s r e q u i r e d b y e a c h . F o r t h e t i m e - d o m a i n , d i e r e n c e -

e q u a t i o n a p p r o a c h , w e n e e d N x (2 (q ) + 1) . T h e f r e q u e n c y - d o m a i n a p p r o a c h r e q u i r e s t h r e e F o u r i e r t r a n s -

f o r m s , e a c h r e q u i r i n g

3K 2 (log2K ) c o m p u t a t i o n s f o r a l e n g t h - K F F T , a n d t h e m u l t i p l i c a t i o n o f t w o s p e c t r a

( 6K c o m p u t a t i o n s ) . T h e o u t p u t - s i g n a l - d u r a t i o n - d e t e r m i n e d l e n g t h m u s t b e a t l e a s t N x + q . T h u s , w e m u s t

c o m p a r e

N x (2q + 1) ↔ 6 (N x + q ) +

3

2 (N x + q )log2 (N x + q )E x a c t a n a l y t i c e v a l u a t i o n o f t h i s c o m p a r i s o n i s q u i t e d i c u l t ( w e h a v e a t r a n s c e n d e n t a l e q u a t i o n t o s o l v e ) .

I n s i g h t i n t o t h i s c o m p a r i s o n i s b e s t o b t a i n e d b y d i v i d i n g b y N x .

2q + 1 ↔ 6 ×

1 +q

N x

+

3

2

1 +

q

N x

log2 (N x + q )

W i t h t h i s m a n i p u l a t i o n , w e a r e e v a l u a t i n g t h e n u m b e r o f c o m p u t a t i o n s p e r s a m p l e . F o r a n y g i v e n v a l u e

o f t h e l t e r ' s o r d e r

q , t h e r i g h t s i d e , t h e n u m b e r o f f r e q u e n c y - d o m a i n c o m p u t a t i o n s , w i l l e x c e e d t h e l e f t i f

t h e s i g n a l ' s d u r a t i o n i s l o n g e n o u g h . H o w e v e r , f o r l t e r d u r a t i o n s g r e a t e r t h a n a b o u t 1 0 , a s l o n g a s t h e

i n p u t i s a t l e a s t 1 0 s a m p l e s , t h e f r e q u e n c y - d o m a i n a p p r o a c h i s f a s t e r s o l o n g a s t h e F F T ' s p o w e r - o f - t w o

c o n s t r a i n t i s a d v a n t a g e o u s .

T h e f r e q u e n c y - d o m a i n a p p r o a c h i s n o t y e t v i a b l e ; w h a t w i l l w e d o w h e n t h e i n p u t s i g n a l i s i n n i t e l y l o n g ?

T h e d i e r e n c e e q u a t i o n s c e n a r i o t s p e r f e c t l y w i t h t h e e n v i s i o n e d d i g i t a l l t e r i n g s t r u c t u r e ( F i g u r e 5 . 2 4 ) , b u t

s o f a r w e h a v e r e q u i r e d t h e i n p u t t o h a v e l i m i t e d d u r a t i o n ( s o t h a t w e c o u l d c a l c u l a t e i t s F o u r i e r t r a n s f o r m ) .

T h e s o l u t i o n t o t h i s p r o b l e m i s q u i t e s i m p l e : S e c t i o n t h e i n p u t i n t o f r a m e s , l t e r e a c h , a n d a d d t h e r e s u l t s

t o g e t h e r . T o s e c t i o n a s i g n a l m e a n s e x p r e s s i n g i t a s a l i n e a r c o m b i n a t i o n o f l e n g t h - N x n o n - o v e r l a p p i n g

" c h u n k s . " B e c a u s e t h e l t e r i s l i n e a r , l t e r i n g a s u m o f t e r m s i s e q u i v a l e n t t o s u m m i n g t h e r e s u l t s o f l t e r i n g

e a c h t e r m . x (n) =

∞m=−∞

x (n − mN x)

⇒

y (n) =∞

m=−∞y (n − mN x)

( 5 . 5 5 )

2 8





2 0 5

A s i l l u s t r a t e d i n F i g u r e 5 . 2 2 , n o t e t h a t e a c h l t e r e d s e c t i o n h a s a d u r a t i o n l o n g e r t h a n t h e i n p u t . C o n s e -

q u e n t l y , w e m u s t l i t e r a l l y a d d t h e l t e r e d s e c t i o n s t o g e t h e r , n o t j u s t b u t t t h e m t o g e t h e r .

n

n

Filter Filter

Sectioned Input

Filtered, Overlapped Sections

Output (Sum of Filtered Sections)

F i g u r e 5 . 2 2 : T h e n o i s y i n p u t s i g n a l i s s e c t i o n e d i n t o l e n g t h - 4 8 f r a m e s , e a c h o f w h i c h i s l t e r e d u s i n g

f r e q u e n c y - d o m a i n t e c h n i q u e s . E a c h l t e r e d s e c t i o n i s a d d e d t o o t h e r o u t p u t s t h a t o v e r l a p t o c r e a t e t h e

s i g n a l e q u i v a l e n t t o h a v i n g l t e r e d t h e e n t i r e i n p u t . T h e s i n u s o i d a l c o m p o n e n t o f t h e s i g n a l i s s h o w n a s

t h e r e d d a s h e d l i n e .

C o m p u t a t i o n a l c o n s i d e r a t i o n s r e v e a l a s u b s t a n t i a l a d v a n t a g e f o r a f r e q u e n c y - d o m a i n i m p l e m e n t a t i o n

o v e r a t i m e - d o m a i n o n e . T h e n u m b e r o f c o m p u t a t i o n s f o r a t i m e - d o m a i n i m p l e m e n t a t i o n e s s e n t i a l l y r e m a i n s

c o n s t a n t w h e t h e r w e s e c t i o n t h e i n p u t o r n o t . T h u s , t h e n u m b e r o f c o m p u t a t i o n s f o r e a c h o u t p u t i s 2 (q ) + 1 .

I n t h e f r e q u e n c y - d o m a i n a p p r o a c h , c o m p u t a t i o n c o u n t i n g c h a n g e s b e c a u s e w e n e e d o n l y c o m p u t e t h e l t e r ' s

f r e q u e n c y r e s p o n s e H (k) o n c e , w h i c h a m o u n t s t o a x e d o v e r h e a d . W e n e e d o n l y c o m p u t e t w o D F T s a n d

m u l t i p l y t h e m t o l t e r a s e c t i o n . L e t t i n g

N xd e n o t e a s e c t i o n ' s l e n g t h , t h e n u m b e r o f c o m p u t a t i o n s f o r

a s e c t i o n a m o u n t s t o (N x + q )log2 (N x + q ) + 6 (N x + q ) . I n a d d i t i o n , w e m u s t a d d t h e l t e r e d o u t p u t s

t o g e t h e r ; t h e n u m b e r o f t e r m s t o a d d c o r r e s p o n d s t o t h e e x c e s s d u r a t i o n o f t h e o u t p u t c o m p a r e d w i t h t h e

i n p u t ( q ) . T h e f r e q u e n c y - d o m a i n a p p r o a c h t h u s r e q u i r e s

1 + q

N x

log2 (N x + q ) + 7 q

N x+ 6 c o m p u t a t i o n s

p e r o u t p u t v a l u e . F o r e v e n m o d e s t l t e r o r d e r s , t h e f r e q u e n c y - d o m a i n a p p r o a c h i s m u c h f a s t e r .


S h o w t h a t a s t h e s e c t i o n l e n g t h i n c r e a s e s , t h e f r e q u e n c y d o m a i n a p p r o a c h b e c o m e s i n c r e a s i n g l y

m o r e e c i e n t .

N o t e t h a t t h e c h o i c e o f s e c t i o n d u r a t i o n i s a r b i t r a r y . O n c e t h e l t e r i s c h o s e n , w e s h o u l d s e c t i o n s o t h a t t h e




2 0 6


r e q u i r e d F F T l e n g t h i s p r e c i s e l y a p o w e r o f t w o : C h o o s e N x s o t h a t N x + q = 2L .

I m p l e m e n t i n g t h e d i g i t a l l t e r s h o w n i n t h e A / D b l o c k d i a g r a m ( F i g u r e 5 . 2 4 ) w i t h a f r e q u e n c y - d o m a i n

i m p l e m e n t a t i o n r e q u i r e s s o m e a d d i t i o n a l s i g n a l m a n a g e m e n t n o t r e q u i r e d b y t i m e - d o m a i n i m p l e m e n t a t i o n s .

C o n c e p t u a l l y , a r e a l - t i m e , t i m e - d o m a i n l t e r c o u l d a c c e p t e a c h s a m p l e a s i t b e c o m e s a v a i l a b l e , c a l c u l a t e

t h e d i e r e n c e e q u a t i o n , a n d p r o d u c e t h e o u t p u t v a l u e , a l l i n l e s s t h a t t h e s a m p l i n g i n t e r v a l T s . F r e q u e n c y -

d o m a i n a p p r o a c h e s d o n ' t o p e r a t e o n a s a m p l e - b y - s a m p l e b a s i s ; i n s t e a d , t h e y o p e r a t e o n s e c t i o n s . T h e y

l t e r i n r e a l t i m e b y p r o d u c i n g N x o u t p u t s f o r t h e s a m e n u m b e r o f i n p u t s f a s t e r t h a n N xT s . B e c a u s e t h e y

g e n e r a l l y t a k e l o n g e r t o p r o d u c e a n o u t p u t s e c t i o n t h a n t h e s a m p l i n g i n t e r v a l d u r a t i o n , w e m u s t l t e r o n e

s e c t i o n w h i l e a c c e p t i n g i n t o m e m o r y t h e n e x t s e c t i o n t o b e l t e r e d . I n p r o g r a m m i n g , t h e o p e r a t i o n o f

b u i l d i n g u p s e c t i o n s w h i l e c o m p u t i n g o n p r e v i o u s o n e s i s k n o w n a s b u e r i n g . B u e r i n g c a n a l s o b e u s e d

i n t i m e - d o m a i n l t e r s a s w e l l b u t i s n ' t r e q u i r e d .

E x a m p l e 5 . 1 0

W e w a n t t o l o w p a s s l t e r a s i g n a l t h a t c o n t a i n s a s i n u s o i d a n d a s i g n i c a n t a m o u n t o f n o i s e . T h e

e x a m p l e s h o w n i n F i g u r e 5 . 2 2 s h o w s a p o r t i o n o f t h e n o i s y s i g n a l ' s w a v e f o r m . I f i t w e r e n ' t f o r t h e

o v e r l a i d s i n u s o i d , d i s c e r n i n g t h e s i n e w a v e i n t h e s i g n a l i s v i r t u a l l y i m p o s s i b l e . O n e o f t h e p r i m a r y

a p p l i c a t i o n s o f l i n e a r l t e r s i s n o i s e r e m o v a l : p r e s e r v e t h e s i g n a l b y m a t c h i n g l t e r ' s p a s s b a n d

w i t h t h e s i g n a l ' s s p e c t r u m a n d g r e a t l y r e d u c e a l l o t h e r f r e q u e n c y c o m p o n e n t s t h a t m a y b e p r e s e n t

i n t h e n o i s y s i g n a l .

A s m a r t R i c e e n g i n e e r h a s s e l e c t e d a F I R l t e r h a v i n g a u n i t - s a m p l e r e s p o n s e c o r r e s p o n d i n g a

p e r i o d - 1 7 s i n u s o i d : h (n) = 117

1 − cos

2πn17

, n = 0, . . . , 16, w h i c h m a k e s q = 16 . I t s f r e q u e n c y

r e s p o n s e ( d e t e r m i n e d b y c o m p u t i n g t h e d i s c r e t e F o u r i e r t r a n s f o r m ) i s s h o w n i n F i g u r e 5 . 2 3 . T o

a p p l y , w e c a n s e l e c t t h e l e n g t h o f e a c h s e c t i o n s o t h a t t h e f r e q u e n c y - d o m a i n l t e r i n g a p p r o a c h

i s m a x i m a l l y e c i e n t : C h o o s e t h e s e c t i o n l e n g t h N x s o t h a t N x + q i s a p o w e r o f t w o . T o u s e

a l e n g t h - 6 4 F F T , e a c h s e c t i o n m u s t b e 4 8 s a m p l e s l o n g . F i l t e r i n g w i t h t h e d i e r e n c e e q u a t i o n

w o u l d r e q u i r e 3 3 c o m p u t a t i o n s p e r o u t p u t w h i l e t h e f r e q u e n c y d o m a i n r e q u i r e s a l i t t l e o v e r 1 6 ; t h i s

f r e q u e n c y - d o m a i n i m p l e m e n t a t i o n i s o v e r t w i c e a s f a s t ! F i g u r e 5 . 2 2 s h o w s h o w f r e q u e n c y - d o m a i n

l t e r i n g w o r k s .

0

0.1

h(n)

Indexn

S p e c t r a l M a g n i t u d e

0 0.50

1

|H(e j2π

f)|

Frequency

F i g u r e 5 . 2 3 : T h e g u r e s h o w s t h e u n i t - s a m p l e r e s p o n s e o f a l e n g t h - 1 7 H a n n i n g l t e r o n t h e l e f t a n d

t h e f r e q u e n c y r e s p o n s e o n t h e r i g h t . T h i s l t e r f u n c t i o n s a s a l o w p a s s l t e r h a v i n g a c u t o f r e q u e n c y o f

a b o u t 0 . 1 .

W e n o t e t h a t t h e n o i s e h a s b e e n d r a m a t i c a l l y r e d u c e d , w i t h a s i n u s o i d n o w c l e a r l y v i s i b l e i n t h e

l t e r e d o u t p u t . S o m e r e s i d u a l n o i s e r e m a i n s b e c a u s e n o i s e c o m p o n e n t s w i t h i n t h e l t e r ' s p a s s b a n d

a p p e a r i n t h e o u t p u t a s w e l l a s t h e s i g n a l .




2 0 7

E x e r c i s e 5 . 1 5 . 2

( S o l u t i o n o n p . 2 2 3 . )

N o t e t h a t w h e n c o m p a r e d t o t h e i n p u t s i g n a l ' s s i n u s o i d a l c o m p o n e n t , t h e o u t p u t ' s s i n u s o i d a l

c o m p o n e n t s e e m s t o b e d e l a y e d . W h a t i s t h e s o u r c e o f t h i s d e l a y ? C a n i t b e r e m o v e d ?

5 . 1 6 D i s c r e t e - T i m e F i l t e r i n g o f A n a l o g S i g n a l s

2 9

B e c a u s e o f t h e S a m p l i n g T h e o r e m ( S e c t i o n 5 . 3 . 2 : T h e S a m p l i n g T h e o r e m ) , w e c a n p r o c e s s , i n p a r t i c u l a r

l t e r , a n a l o g s i g n a l s " w i t h a c o m p u t e r " b y c o n s t r u c t i n g t h e s y s t e m s h o w n i n F i g u r e 5 . 2 4 . T o u s e t h i s s y s t e m ,

w e a r e a s s u m i n g t h a t t h e i n p u t s i g n a l h a s a l o w p a s s s p e c t r u m a n d c a n b e b a n d l i m i t e d w i t h o u t a e c t i n g

i m p o r t a n t s i g n a l a s p e c t s . B a n d p a s s s i g n a l s c a n a l s o b e l t e r e d d i g i t a l l y , b u t r e q u i r e a m o r e c o m p l i c a t e d

s y s t e m . H i g h p a s s s i g n a l s c a n n o t b e l t e r e d d i g i t a l l y . N o t e t h a t t h e i n p u t a n d o u t p u t l t e r s m u s t b e a n a l o g

l t e r s ; t r y i n g t o o p e r a t e w i t h o u t t h e m c a n l e a d t o p o t e n t i a l l y v e r y i n a c c u r a t e d i g i t i z a t i o n .

LPFW Q[•] Digital

FilterD/A

LPFW

x(t)

t = nTs

Ts <1

2W

x(n) =Q[x(nTs)] y(n) y(t)x(nTs)

A/D

F i g u r e 5 . 2 4 : T o p r o c e s s a n a n a l o g s i g n a l d i g i t a l l y , t h e s i g n a l

x (t)m u s t b e l t e r e d w i t h a n a n t i -

a l i a s i n g l t e r ( t o e n s u r e a b a n d l i m i t e d s i g n a l ) b e f o r e A / D c o n v e r s i o n . T h i s l o w p a s s l t e r ( L P F ) h a s a

c u t o f r e q u e n c y o f

W H z , w h i c h d e t e r m i n e s a l l o w a b l e s a m p l i n g i n t e r v a l s

T s . T h e g r e a t e r t h e n u m b e r

o f b i t s i n t h e a m p l i t u d e q u a n t i z a t i o n p o r t i o n

Q [·]o f t h e A / D c o n v e r t e r , t h e g r e a t e r t h e a c c u r a c y o f t h e

e n t i r e s y s t e m . T h e r e s u l t i n g d i g i t a l s i g n a l

x (n)c a n n o w b e l t e r e d i n t h e t i m e - d o m a i n w i t h a d i e r e n c e

e q u a t i o n o r i n t h e f r e q u e n c y d o m a i n w i t h F o u r i e r t r a n s f o r m s . T h e r e s u l t i n g o u t p u t y (n) t h e n d r i v e s a

D / A c o n v e r t e r a n d a s e c o n d a n t i - a l i a s i n g l t e r ( h a v i n g t h e s a m e b a n d w i d t h a s t h e r s t o n e ) .

A n o t h e r i m p l i c i t a s s u m p t i o n i s t h a t t h e d i g i t a l l t e r c a n o p e r a t e i n r e a l t i m e : T h e c o m p u t e r a n d t h e

l t e r i n g a l g o r i t h m m u s t b e s u c i e n t l y f a s t s o t h a t o u t p u t s a r e c o m p u t e d f a s t e r t h a n i n p u t v a l u e s a r r i v e .

T h e s a m p l i n g i n t e r v a l , w h i c h i s d e t e r m i n e d b y t h e a n a l o g s i g n a l ' s b a n d w i d t h , t h u s d e t e r m i n e s h o w l o n g o u r

p r o g r a m h a s t o c o m p u t e e a c h o u t p u t y (n) . T h e c o m p u t a t i o n a l c o m p l e x i t y f o r c a l c u l a t i n g e a c h o u t p u t w i t h

a d i e r e n c e e q u a t i o n ( 5 . 4 2 ) i s O ( p + q ) . F r e q u e n c y d o m a i n i m p l e m e n t a t i o n o f t h e l t e r i s a l s o p o s s i b l e .

T h e i d e a b e g i n s b y c o m p u t i n g t h e F o u r i e r t r a n s f o r m o f a l e n g t h - N p o r t i o n o f t h e i n p u t x (n) , m u l t i p l y i n g

i t b y t h e l t e r ' s t r a n s f e r f u n c t i o n , a n d c o m p u t i n g t h e i n v e r s e t r a n s f o r m o f t h e r e s u l t . T h i s a p p r o a c h s e e m s

o v e r l y c o m p l e x a n d p o t e n t i a l l y i n e c i e n t . D e t a i l i n g t h e c o m p l e x i t y , h o w e v e r , w e h a v e O (N logN ) f o r t h e t w o

t r a n s f o r m s ( c o m p u t e d u s i n g t h e F F T a l g o r i t h m ) a n d O (N ) f o r t h e m u l t i p l i c a t i o n b y t h e t r a n s f e r f u n c t i o n ,

w h i c h m a k e s t h e t o t a l c o m p l e x i t y O (N logN ) f o r N i n p u t v a l u e s . A f r e q u e n c y d o m a i n i m p l e m e n t a t i o n

t h u s r e q u i r e s O (logN ) c o m p u t a t i o n a l c o m p l e x i t y f o r e a c h o u t p u t v a l u e . T h e c o m p l e x i t i e s o f t i m e - d o m a i n

a n d f r e q u e n c y - d o m a i n i m p l e m e n t a t i o n s d e p e n d o n d i e r e n t a s p e c t s o f t h e l t e r i n g : T h e t i m e - d o m a i n i m p l e -

m e n t a t i o n d e p e n d s o n t h e c o m b i n e d o r d e r s o f t h e l t e r w h i l e t h e f r e q u e n c y - d o m a i n i m p l e m e n t a t i o n d e p e n d s

o n t h e l o g a r i t h m o f t h e F o u r i e r t r a n s f o r m ' s l e n g t h .

I t c o u l d w e l l b e t h a t i n s o m e p r o b l e m s t h e t i m e - d o m a i n v e r s i o n i s m o r e e c i e n t ( m o r e e a s i l y s a t i s e s t h e

r e a l t i m e r e q u i r e m e n t ) , w h i l e i n o t h e r s t h e f r e q u e n c y d o m a i n a p p r o a c h i s f a s t e r . I n t h e l a t t e r s i t u a t i o n s , i t i s

2 9





2 0 8


t h e F F T a l g o r i t h m f o r c o m p u t i n g t h e F o u r i e r t r a n s f o r m s t h a t e n a b l e s t h e s u p e r i o r i t y o f f r e q u e n c y - d o m a i n

i m p l e m e n t a t i o n s . B e c a u s e c o m p l e x i t y c o n s i d e r a t i o n s o n l y e x p r e s s h o w a l g o r i t h m r u n n i n g - t i m e i n c r e a s e s w i t h

s y s t e m p a r a m e t e r c h o i c e s , w e n e e d t o d e t a i l b o t h i m p l e m e n t a t i o n s t o d e t e r m i n e w h i c h w i l l b e m o r e s u i t a b l e

f o r a n y g i v e n l t e r i n g p r o b l e m . F i l t e r i n g w i t h a d i e r e n c e e q u a t i o n i s s t r a i g h t f o r w a r d , a n d t h e n u m b e r o f

c o m p u t a t i o n s t h a t m u s t b e m a d e f o r e a c h o u t p u t v a l u e i s 2 ( p + q ).

E x e r c i s e 5 . 1 6 . 1

( S o l u t i o n o n p . 2 2 3 . )

D e r i v e t h i s v a l u e f o r t h e n u m b e r o f c o m p u t a t i o n s f o r t h e g e n e r a l d i e r e n c e e q u a t i o n ( 5 . 4 2 ) .

5 . 1 7 D i g i t a l S i g n a l P r o c e s s i n g P r o b l e m s

3 0

P r o b l e m 5 . 1 : S a m p l i n g a n d F i l t e r i n g

T h e s i g n a l s (t) i s b a n d l i m i t e d t o 4 k H z . W e w a n t t o s a m p l e i t , b u t i t h a s b e e n s u b j e c t e d t o v a r i o u s s i g n a l

p r o c e s s i n g m a n i p u l a t i o n s .

a ) W h a t s a m p l i n g f r e q u e n c y ( i f a n y w o r k s ) c a n b e u s e d t o s a m p l e t h e r e s u l t o f p a s s i n g s (t) t h r o u g h a n

R C h i g h p a s s l t e r w i t h R = 10kΩ a n d C = 8nF?

b ) W h a t s a m p l i n g f r e q u e n c y ( i f a n y w o r k s ) c a n b e u s e d t o s a m p l e t h e d e r i v a t i v e o f s (t)?

c ) T h e s i g n a l s (t) h a s b e e n m o d u l a t e d b y a n 8 k H z s i n u s o i d h a v i n g a n u n k n o w n p h a s e : t h e r e s u l t i n g

s i g n a l i s s (t)sin(2πf 0t + φ) , w i t h f 0 = 8kHz a n d φ =? C a n t h e m o d u l a t e d s i g n a l b e s a m p l e d s o t h a t

t h e o r i g i n a l s i g n a l c a n b e r e c o v e r e d f r o m t h e m o d u l a t e d s i g n a l r e g a r d l e s s o f t h e p h a s e v a l u e φ? I f s o ,

s h o w h o w a n d n d t h e s m a l l e s t s a m p l i n g r a t e t h a t c a n b e u s e d ; i f n o t , s h o w w h y n o t .

P r o b l e m 5 . 2 : N o n - S t a n d a r d S a m p l i n g

U s i n g t h e p r o p e r t i e s o f t h e F o u r i e r s e r i e s c a n e a s e n d i n g a s i g n a l ' s s p e c t r u m .

a ) S u p p o s e a s i g n a l s (t) i s p e r i o d i c w i t h p e r i o d T . I f ck r e p r e s e n t s t h e s i g n a l ' s F o u r i e r s e r i e s c o e c i e n t s ,

w h a t a r e t h e F o u r i e r s e r i e s c o e c i e n t s o f s t

−T 2 ?

b ) F i n d t h e F o u r i e r s e r i e s o f t h e s i g n a l p (t) s h o w n i n F i g u r e 5 . 2 5 ( P u l s e S i g n a l ) .

c ) S u p p o s e t h i s s i g n a l i s u s e d t o s a m p l e a s i g n a l b a n d l i m i t e d t o

1T Hz . F i n d a n e x p r e s s i o n f o r a n d s k e t c h

t h e s p e c t r u m o f t h e s a m p l e d s i g n a l .

d ) D o e s a l i a s i n g o c c u r ? I f s o , c a n a c h a n g e i n s a m p l i n g r a t e p r e v e n t a l i a s i n g ; i f n o t , s h o w h o w t h e s i g n a l

c a n b e r e c o v e r e d f r o m t h e s e s a m p l e s .

3 0





2 0 9

P u l s e S i g n a l

T

t

p(t)

A

……

–A

T/2

∆

∆

∆

3T/2

∆

2T

∆

F i g u r e 5 . 2 5

P r o b l e m 5 . 3 : A D i e r e n t S a m p l i n g S c h e m e

A s i g n a l p r o c e s s i n g e n g i n e e r f r o m T e x a s A & M c l a i m s t o h a v e d e v e l o p e d a n i m p r o v e d s a m p l i n g s c h e m e . H e

m u l t i p l i e s t h e b a n d l i m i t e d s i g n a l b y t h e d e p i c t e d p e r i o d i c p u l s e s i g n a l t o p e r f o r m s a m p l i n g ( F i g u r e 5 . 2 6 ) .

Ts4

Ts

t

p(t)A

……∆

5Ts4

∆ ∆∆

F i g u r e 5 . 2 6

a ) F i n d t h e F o u r i e r s p e c t r u m o f t h i s s i g n a l .

b ) W i l l t h i s s c h e m e w o r k ? I f s o , h o w s h o u l d T S b e r e l a t e d t o t h e s i g n a l ' s b a n d w i d t h ? I f n o t , w h y n o t ?

P r o b l e m 5 . 4 : B a n d p a s s S a m p l i n g

T h e s i g n a l

s (t) h a s t h e i n d i c a t e d s p e c t r u m .




2 1 0


W 2W –W –2W

S(f)

f

F i g u r e 5 . 2 7

a ) W h a t i s t h e m i n i m u m s a m p l i n g r a t e f o r t h i s s i g n a l s u g g e s t e d b y t h e S a m p l i n g T h e o r e m ?

b ) B e c a u s e o f t h e p a r t i c u l a r s t r u c t u r e o f t h i s s p e c t r u m , o n e w o n d e r s w h e t h e r a l o w e r s a m p l i n g r a t e c o u l d

b e u s e d . S h o w t h a t t h i s i s i n d e e d t h e c a s e , a n d n d t h e s y s t e m t h a t r e c o n s t r u c t s s (t) f r o m i t s s a m p l e s .

P r o b l e m 5 . 5 : S a m p l i n g S i g n a l s

I f a s i g n a l i s b a n d l i m i t e d t o W H z , w e c a n s a m p l e i t a t a n y r a t e

1T s

> 2W a n d r e c o v e r t h e w a v e f o r m

e x a c t l y . T h i s s t a t e m e n t o f t h e S a m p l i n g T h e o r e m c a n b e t a k e n t o m e a n t h a t a l l i n f o r m a t i o n a b o u t t h e

o r i g i n a l s i g n a l c a n b e e x t r a c t e d f r o m t h e s a m p l e s . W h i l e t r u e i n p r i n c i p l e , y o u d o h a v e t o b e c a r e f u l h o w

y o u d o s o . I n a d d i t i o n t o t h e r m s v a l u e o f a s i g n a l , a n i m p o r t a n t a s p e c t o f a s i g n a l i s i t s p e a k v a l u e , w h i c h

e q u a l s

max |s (t) | .

a ) L e t

s (t)b e a s i n u s o i d h a v i n g f r e q u e n c y

W H z . I f w e s a m p l e i t a t p r e c i s e l y t h e N y q u i s t r a t e , h o w

a c c u r a t e l y d o t h e s a m p l e s c o n v e y t h e s i n u s o i d ' s a m p l i t u d e ? I n o t h e r w o r d s , n d t h e w o r s t c a s e e x a m p l e .

b ) H o w f a s t w o u l d y o u n e e d t o s a m p l e f o r t h e a m p l i t u d e e s t i m a t e t o b e w i t h i n 5 % o f t h e t r u e v a l u e ?

c ) A n o t h e r i s s u e i n s a m p l i n g i s t h e i n h e r e n t a m p l i t u d e q u a n t i z a t i o n p r o d u c e d b y A / D c o n v e r t e r s . A s s u m e

t h e m a x i m u m v o l t a g e a l l o w e d b y t h e c o n v e r t e r i s V max v o l t s a n d t h a t i t q u a n t i z e s a m p l i t u d e s t o

b b i t s . W e c a n e x p r e s s t h e q u a n t i z e d s a m p l e Q (s (nT s)) a s s (nT s) + (t), w h e r e (t) r e p r e s e n t s

t h e q u a n t i z a t i o n e r r o r a t t h e nths a m p l e . A s s u m i n g t h e c o n v e r t e r r o u n d s , h o w l a r g e i s m a x i m u m

q u a n t i z a t i o n e r r o r ?

d ) W e c a n d e s c r i b e t h e q u a n t i z a t i o n e r r o r a s n o i s e , w i t h a p o w e r p r o p o r t i o n a l t o t h e s q u a r e o f t h e

m a x i m u m e r r o r . W h a t i s t h e s i g n a l - t o - n o i s e r a t i o o f t h e q u a n t i z a t i o n e r r o r f o r a f u l l - r a n g e s i n u s o i d ?

E x p r e s s y o u r r e s u l t i n d e c i b e l s .

P r o b l e m 5 . 6 : H a r d w a r e E r r o r

A n A / D c o n v e r t e r h a s a c u r i o u s h a r d w a r e p r o b l e m : E v e r y o t h e r s a m p l i n g p u l s e i s h a l f i t s n o r m a l a m p l i t u d e

( F i g u r e 5 . 2 8 ) .




2 1 1

∆ ∆

2Tt

p(t)

……

T

∆ ∆ ∆

4T

A

A2

3T

F i g u r e 5 . 2 8

a ) F i n d t h e F o u r i e r s e r i e s f o r t h i s s i g n a l .

b ) C a n t h i s s i g n a l b e u s e d t o s a m p l e a b a n d l i m i t e d s i g n a l h a v i n g h i g h e s t f r e q u e n c y W = 12T ?

P r o b l e m 5 . 7 : S i m p l e D / A C o n v e r t e r

C o m m e r c i a l d i g i t a l - t o - a n a l o g c o n v e r t e r s d o n ' t w o r k t h i s w a y , b u t a s i m p l e c i r c u i t i l l u s t r a t e s h o w t h e y w o r k .

L e t ' s a s s u m e w e h a v e a B - b i t c o n v e r t e r . T h u s , w e w a n t t o c o n v e r t n u m b e r s h a v i n g a B - b i t r e p r e s e n t a t i o n

i n t o a v o l t a g e p r o p o r t i o n a l t o t h a t n u m b e r . T h e r s t s t e p t a k e n b y o u r s i m p l e c o n v e r t e r i s t o r e p r e s e n t

t h e n u m b e r b y a s e q u e n c e o f B p u l s e s o c c u r r i n g a t m u l t i p l e s o f a t i m e i n t e r v a l T . T h e p r e s e n c e o f a p u l s e

i n d i c a t e s a 1 i n t h e c o r r e s p o n d i n g b i t p o s i t i o n , a n d p u l s e a b s e n c e m e a n s a 0 o c c u r r e d . F o r a 4 - b i t

c o n v e r t e r , t h e n u m b e r 1 3 h a s t h e b i n a r y r e p r e s e n t a t i o n 1 1 0 1 ( 1310 = 1 × 23 + 1 × 22 + 0 × 21 + 1 × 20 ) a n d

w o u l d b e r e p r e s e n t e d b y t h e d e p i c t e d p u l s e s e q u e n c e . N o t e t h a t t h e p u l s e s e q u e n c e i s b a c k w a r d s f r o m t h e

b i n a r y r e p r e s e n t a t i o n . W e ' l l s e e w h y t h a t i s .

∆

T 2T 3T 0

t

A

1101

4T

F i g u r e 5 . 2 9

T h i s s i g n a l ( F i g u r e 5 . 2 9 ) s e r v e s a s t h e i n p u t t o a r s t - o r d e r R C l o w p a s s l t e r . W e w a n t t o d e s i g n t h e l t e r

a n d t h e p a r a m e t e r s ∆ a n d

T s o t h a t t h e o u t p u t v o l t a g e a t t i m e 4T

( f o r a 4 - b i t c o n v e r t e r ) i s p r o p o r t i o n a l




2 1 2


t o t h e n u m b e r . T h i s c o m b i n a t i o n o f p u l s e c r e a t i o n a n d l t e r i n g c o n s t i t u t e s o u r s i m p l e D / A c o n v e r t e r . T h e

r e q u i r e m e n t s a r e

•T h e v o l t a g e a t t i m e t = 4T s h o u l d d i m i n i s h b y a f a c t o r o f 2 t h e f u r t h e r t h e p u l s e o c c u r s f r o m t h i s

t i m e . I n o t h e r w o r d s , t h e v o l t a g e d u e t o a p u l s e a t 3T s h o u l d b e t w i c e t h a t o f a p u l s e p r o d u c e d a t 2T ,

w h i c h i n t u r n i s t w i c e t h a t o f a p u l s e a t

T , e t c .

• T h e 4 - b i t D / A c o n v e r t e r m u s t s u p p o r t a 1 0 k H z s a m p l i n g r a t e .

S h o w t h e c i r c u i t t h a t w o r k s . H o w d o t h e c o n v e r t e r ' s p a r a m e t e r s c h a n g e w i t h s a m p l i n g r a t e a n d n u m b e r o f

b i t s i n t h e c o n v e r t e r ?

P r o b l e m 5 . 8 : D i s c r e t e - T i m e F o u r i e r T r a n s f o r m s

F i n d t h e F o u r i e r t r a n s f o r m s o f t h e f o l l o w i n g s e q u e n c e s , w h e r e s (n) i s s o m e s e q u e n c e h a v i n g F o u r i e r t r a n s f o r m

S

ej2πf

.

a ) (−1)n

s (n)b ) s (n)cos(2πf 0n)

c ) x (n) = s n2 i f n (e v e n )

0 i f n (o d d )

d ) ns (n)

P r o b l e m 5 . 9 : S p e c t r a o f F i n i t e - D u r a t i o n S i g n a l s

F i n d t h e i n d i c a t e d s p e c t r a f o r t h e f o l l o w i n g s i g n a l s .

a ) T h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m o f s (n) =

cos2

π4 n

i f n = −1, 0, 10 i f o t h e r w i s e

b ) T h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m o f

s (n) = ni f

n =

−2,

−1, 0, 1, 2

0 i f o t h e r w i s e

c ) T h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m o f

s (n) =

sin

π4

n

i f n = 0, . . . , 70 i f o t h e r w i s e

d ) T h e l e n g t h - 8 D F T o f t h e p r e v i o u s s i g n a l .

P r o b l e m 5 . 1 0 : J u s t W h i s t l i n '

S a m m y l o v e s t o w h i s t l e a n d d e c i d e s t o r e c o r d a n d a n a l y z e h i s w h i s t l i n g i n l a b . H e i s a v e r y g o o d w h i s t l e r ; h i s

w h i s t l e i s a p u r e s i n u s o i d t h a t c a n b e d e s c r i b e d b y sa (t) = sin (4000t) . T o a n a l y z e t h e s p e c t r u m , h e s a m p l e s

h i s r e c o r d e d w h i s t l e w i t h a s a m p l i n g i n t e r v a l o f T S = 2.5 × 10−4 t o o b t a i n s (n) = sa (nT S ). S a m m y ( w i s e l y )

d e c i d e s t o a n a l y z e a f e w s a m p l e s a t a t i m e , s o h e g r a b s 3 0 c o n s e c u t i v e , b u t a r b i t r a r i l y c h o s e n , s a m p l e s . H e

c a l l s t h i s s e q u e n c e

x (n)a n d r e a l i z e s h e c a n w r i t e i t a s

x (n) = sin (4000nT S + θ) , n = 0, . . . , 29

a ) D i d S a m m y u n d e r - o r o v e r - s a m p l e h i s w h i s t l e ?

b ) W h a t i s t h e d i s c r e t e - t i m e F o u r i e r t r a n s f o r m o f x (n) a n d h o w d o e s i t d e p e n d o n θ ?

c ) H o w d o e s t h e 3 2 - p o i n t D F T o f x (n) d e p e n d o n θ ?




2 1 3

P r o b l e m 5 . 1 1 : D i s c r e t e - T i m e F i l t e r i n g

W e c a n n d t h e i n p u t - o u t p u t r e l a t i o n f o r a d i s c r e t e - t i m e l t e r m u c h m o r e e a s i l y t h a n f o r a n a l o g l t e r s . T h e

k e y i d e a i s t h a t a s e q u e n c e c a n b e w r i t t e n a s a w e i g h t e d l i n e a r c o m b i n a t i o n o f u n i t s a m p l e s .

a ) S h o w t h a t

x (n) =

i x (i) δ (n − i) w h e r e

δ (n) i s t h e u n i t - s a m p l e .

δ (n) =

1 i f

n = 0

0 o t h e r w i s e

b ) I f

h (n) d e n o t e s t h e u n i t - s a m p l e r e s p o n s e t h e o u t p u t o f a d i s c r e t e - t i m e l i n e a r , s h i f t - i n v a r i a n t l t e r

t o a u n i t - s a m p l e i n p u t n d a n e x p r e s s i o n f o r t h e o u t p u t .

c ) I n p a r t i c u l a r , a s s u m e o u r l t e r i s F I R , w i t h t h e u n i t - s a m p l e r e s p o n s e h a v i n g d u r a t i o n

q + 1 . I f t h e

i n p u t h a s d u r a t i o n N , w h a t i s t h e d u r a t i o n o f t h e l t e r ' s o u t p u t t o t h i s s i g n a l ?

d ) L e t t h e l t e r b e a b o x c a r a v e r a g e r : h (n) = 1q+1

f o r n = 0, . . . , q a n d z e r o o t h e r w i s e . L e t t h e i n p u t

b e a p u l s e o f u n i t h e i g h t a n d d u r a t i o n N . F i n d t h e l t e r ' s o u t p u t w h e n N = q+1

2

, q a n o d d i n t e g e r .

P r o b l e m 5 . 1 2 : A D i g i t a l F i l t e r

A d i g i t a l l t e r h a s t h e d e p i c t e d ( F i g u r e 5 . 3 0 ) u n i t - s a m p l e r e p o n s e .

n

h(n)

1

2

10 –1 2 3 4

F i g u r e 5 . 3 0

a ) W h a t i s t h e d i e r e n c e e q u a t i o n t h a t d e n e s t h i s l t e r ' s i n p u t - o u t p u t r e l a t i o n s h i p ?

b ) W h a t i s t h i s l t e r ' s t r a n s f e r f u n c t i o n ?

c ) W h a t i s t h e l t e r ' s o u t p u t w h e n t h e i n p u t i s sin πn4 ?

P r o b l e m 5 . 1 3 : A S p e c i a l D i s c r e t e - T i m e F i l t e r

C o n s i d e r a F I R l t e r g o v e r n e d b y t h e d i e r e n c e e q u a t i o n

y (n) =1

3x (n + 2) +

2

3x (n + 1) + x (n) +

2

3x (n − 1) +

1

3x (n − 2)

a ) F i n d t h i s l t e r ' s u n i t - s a m p l e r e s p o n s e .




2 1 4


b ) F i n d t h i s l t e r ' s t r a n s f e r f u n c t i o n . C h a r a c t e r i z e t h i s t r a n s f e r f u n c t i o n ( i . e . , w h a t c l a s s i c l t e r c a t e g o r y

d o e s i t f a l l i n t o ) .

c ) S u p p o s e w e t a k e a s e q u e n c e a n d s t r e t c h i t o u t b y a f a c t o r o f t h r e e .

x (n) = s n3 i f n = 3m , m = . . . , −1, 0, 1, . . .

0 o t h e r w i s e

S k e t c h t h e s e q u e n c e x (n) f o r s o m e e x a m p l e s (n) . W h a t i s t h e l t e r ' s o u t p u t t o t h i s i n p u t ? I n

p a r t i c u l a r , w h a t i s t h e o u t p u t a t t h e i n d i c e s w h e r e t h e i n p u t

x (n) i s i n t e n t i o n a l l y z e r o ? N o w h o w

w o u l d y o u c h a r a c t e r i z e t h i s s y s t e m ?

P r o b l e m 5 . 1 4 : S i m u l a t i n g t h e R e a l W o r l d

M u c h o f p h y s i c s i s g o v e r n e d b y d i e r n t i a l e q u a t i o n s , a n d w e w a n t t o u s e s i g n a l p r o c e s s i n g m e t h o d s t o

s i m u l a t e p h y s i c a l p r o b l e m s . T h e i d e a i s t o r e p l a c e t h e d e r i v a t i v e w i t h a d i s c r e t e - t i m e a p p r o x i m a t i o n a n d

s o l v e t h e r e s u l t i n g d i e r e n t i a l e q u a t i o n . F o r e x a m p l e , s u p p o s e w e h a v e t h e d i e r e n t i a l e q u a t i o n

dy (t)

dt + ay (t) = x (t)

a n d w e a p p r o x i m a t e t h e d e r i v a t i v e b y

d

dty (t) |t=nT

y (nT ) − y ((n − 1) T )

T

w h e r e T e s s e n t i a l l y a m o u n t s t o a s a m p l i n g i n t e r v a l .

a ) W h a t i s t h e d i e r e n c e e q u a t i o n t h a t m u s t b e s o l v e d t o a p p r o x i m a t e t h e d i e r e n t i a l e q u a t i o n ?

b ) W h e n x (t) = u (t), t h e u n i t s t e p , w h a t w i l l b e t h e s i m u l a t e d o u t p u t ?

c ) A s s u m i n g x (t) i s a s i n u s o i d , h o w s h o u l d t h e s a m p l i n g i n t e r v a l T b e c h o s e n s o t h a t t h e a p p r o x i m a t i o n

w o r k s w e l l ?

P r o b l e m 5 . 1 5 : D e r i v a t i v e s

T h e d e r i v a t i v e o f a s e q u e n c e m a k e s l i t t l e s e n s e , b u t s t i l l , w e c a n a p p r o x i m a t e i t . T h e d i g i t a l l t e r d e s c r i b e d

b y t h e d i e r e n c e e q u a t i o n

y (n) = x (n) − x (n − 1)

r e s e m b l e s t h e d e r i v a t i v e f o r m u l a . W e w a n t t o e x p l o r e h o w w e l l i t w o r k s .

a ) W h a t i s t h i s l t e r ' s t r a n s f e r f u n c t i o n ?

b ) W h a t i s t h e l t e r ' s o u t p u t t o t h e d e p i c t e d t r i a n g l e i n p u t ( F i g u r e 5 . 3 1 ) ?

n

x(n)

1

2

10 2 3 4

3

5 6

F i g u r e 5 . 3 1




2 1 5

c ) S u p p o s e t h e s i g n a l x (n) i s a s a m p l e d a n a l o g s i g n a l : x (n) = x (nT s) . U n d e r w h a t c o n d i t i o n s w i l l t h e

l t e r a c t l i k e a d i e r e n t i a t o r ? I n o t h e r w o r d s , w h e n w i l l

y (n) b e p r o p o r t i o n a l t o

ddtx (t) |t=nT s ?

P r o b l e m 5 . 1 6 : T h e D F T

L e t ' s e x p l o r e t h e D F T a n d i t s p r o p e r t i e s .

a ) W h a t i s t h e l e n g t h - K D F T o f l e n g t h - N b o x c a r s e q u e n c e , w h e r e N < K ?

b ) C o n s i d e r t h e s p e c i a l c a s e w h e r e K = 4. F i n d t h e i n v e r s e D F T o f t h e p r o d u c t o f t h e D F T s o f t w o

l e n g t h - 3 b o x c a r s .

c ) I f w e c o u l d u s e D F T s t o p e r f o r m l i n e a r l t e r i n g , i t s h o u l d b e t r u e t h a t t h e p r o d u c t o f t h e i n p u t ' s D F T

a n d t h e u n i t - s a m p l e r e s p o n s e ' s D F T e q u a l s t h e o u t p u t ' s D F T . S o t h a t y o u c a n u s e w h a t y o u j u s t

c a l c u l a t e d , l e t t h e i n p u t b e a b o x c a r s i g n a l a n d t h e u n i t - s a m p l e r e s p o n s e a l s o b e a b o x c a r . T h e r e s u l t

o f p a r t ( b ) w o u l d t h e n b e t h e l t e r ' s o u t p u t i f w e c o u l d i m p l e m e n t t h e l t e r w i t h l e n g t h - 4 D F T s . D o e s

t h e a c t u a l o u t p u t o f t h e b o x c a r - l t e r e q u a l t h e r e s u l t f o u n d i n t h e p r e v i o u s p a r t ( l i s t , p . 2 1 5 ) ?

d ) W h a t w o u l d y o u n e e d t o c h a n g e s o t h a t t h e p r o d u c t o f t h e D F T s o f t h e i n p u t a n d u n i t - s a m p l e r e s p o n s e

i n t h i s c a s e e q u a l e d t h e D F T o f t h e l t e r e d o u t p u t ?

P r o b l e m 5 . 1 7 : D S P T r i c k s

S a m m y i s f a c e d w i t h c o m p u t i n g l o t s o f d i s c r e t e F o u r i e r t r a n s f o r m s . H e w i l l , o r c o u r s e , u s e t h e F F T

a l g o r i t h m , b u t h e i s b e h i n d s c h e d u l e a n d n e e d s t o g e t h i s r e s u l t s a s q u i c k l y a s p o s s i b l e . H e g e t s t h e i d e a o f

c o m p u t i n g t w o t r a n s f o r m s a t o n e t i m e b y c o m p u t i n g t h e t r a n s f o r m o f s (n) = s1 (n) + js2 (n), w h e r e s1 (n)a n d s2 (n) a r e t w o r e a l - v a l u e d s i g n a l s o f w h i c h h e n e e d s t o c o m p u t e t h e s p e c t r a . T h e i s s u e i s w h e t h e r h e c a n

r e t r i e v e t h e i n d i v i d u a l D F T s f r o m t h e r e s u l t o r n o t .

a ) W h a t w i l l b e t h e D F T

S (k) o f t h i s c o m p l e x - v a l u e d s i g n a l i n t e r m s o f

S 1 (k) a n d

S 2 (k) , t h e D F T s o f

t h e o r i g i n a l s i g n a l s ?

b ) S a m m y ' s f r i e n d , a n A g g i e w h o k n o w s s o m e s i g n a l p r o c e s s i n g , s a y s t h a t r e t r i e v i n g t h e w a n t e d D F T s i s

e a s y : J u s t n d t h e r e a l a n d i m a g i n a r y p a r t s o f S (k). S h o w t h a t t h i s a p p r o a c h i s t o o s i m p l i s t i c .

c ) W h i l e h i s f r i e n d ' s i d e a i s n o t c o r r e c t , i t d o e s g i v e h i m a n i d e a . W h a t a p p r o a c h w i l l w o r k ? H i n t : U s e

t h e s y m m e t r y p r o p e r t i e s o f t h e D F T .

d ) H o w d o e s t h e n u m b e r o f c o m p u t a t i o n s c h a n g e w i t h t h i s a p p r o a c h ? W i l l S a m m y ' s i d e a u l t i m a t e l y l e a d

t o a f a s t e r c o m p u t a t i o n o f t h e r e q u i r e d D F T s ?

P r o b l e m 5 . 1 8 : D i s c r e t e C o s i n e T r a n s f o r m ( D C T )

T h e d i s c r e t e c o s i n e t r a n s f o r m o f a l e n g t h -

N s e q u e n c e i s d e n e d t o b e

S c (k) =N −1n=0

s (n)cos

2πnk

2N

N o t e t h a t t h e n u m b e r o f f r e q u e n c y t e r m s i s 2N − 1 : k = 0, . . . , 2N − 1 .

a ) F i n d t h e i n v e r s e D C T .

b ) D o e s a P a r s e v a l ' s T h e o r e m h o l d f o r t h e D C T ?

c ) Y o u c h o o s e t o t r a n s m i t i n f o r m a t i o n a b o u t t h e s i g n a l s (n) a c c o r d i n g t o t h e D C T c o e c i e n t s . Y o u

c o u l d o n l y s e n d o n e , w h i c h o n e w o u l d y o u s e n d ?

P r o b l e m 5 . 1 9 : A D i g i t a l F i l t e r

A d i g i t a l l t e r i s d e s c r i b e d b y t h e f o l l o w i n g d i e r e n c e e q u a t i o n :

y (n) = ay (n − 1) + ax (n) − x (n − 1) , a =1√

2




2 1 6


a ) W h a t i s t h i s l t e r ' s u n i t s a m p l e r e s p o n s e ?

b ) W h a t i s t h i s l t e r ' s t r a n s f e r f u n c t i o n ?

c ) W h a t i s t h i s l t e r ' s o u t p u t w h e n t h e i n p u t i s sin

πn4

?

P r o b l e m 5 . 2 0 : A n o t h e r D i g i t a l F i l t e r

A d i g i t a l l t e r i s d e t e r m i n e d b y t h e f o l l o w i n g d i e r e n c e e q u a t i o n .

y (n) = y (n − 1) + x (n) − x (n − 4)

a ) F i n d t h i s l t e r ' s u n i t s a m p l e r e s p o n s e .

b ) W h a t i s t h e l t e r ' s t r a n s f e r f u n c t i o n ? H o w w o u l d y o u c h a r a c t e r i z e t h i s l t e r ( l o w p a s s , h i g h p a s s , s p e c i a l

p u r p o s e , . . . ) ?

c ) F i n d t h e l t e r ' s o u t p u t w h e n t h e i n p u t i s t h e s i n u s o i d sin

πn2

.

d ) I n a n o t h e r c a s e , t h e i n p u t s e q u e n c e i s z e r o f o r

n < 0 , t h e n b e c o m e s n o n z e r o . S a m m y m e a s u r e s t h e

o u t p u t t o b e y (n) = δ (n) + δ (n − 1). C a n h i s m e a s u r e m e n t b e c o r r e c t ? I n o t h e r w o r d s , i s t h e r e a n

i n p u t t h a t c a n y i e l d t h i s o u t p u t ? I f s o , n d t h e i n p u t x (n) t h a t g i v e s r i s e t o t h i s o u t p u t . I f n o t , w h y

n o t ?

P r o b l e m 5 . 2 1 : Y e t A n o t h e r D i g i t a l F i l t e r

A l t e r h a s a n i n p u t - o u t p u t r e l a t i o n s h i p g i v e n b y t h e d i e r e n c e e q u a t i o n

y (n) =1

4x (n) +

1

2x (n − 1) +

1

4x (n − 2)

.

a ) W h a t i s t h e l t e r ' s t r a n s f e r f u n c t i o n ? H o w w o u l d y o u c h a r a c t e r i z e i t ?

b ) W h a t i s t h e l t e r ' s o u t p u t w h e n t h e i n p u t e q u a l s

cos πn2 ?

c ) W h a t i s t h e l t e r ' s o u t p u t w h e n t h e i n p u t i s t h e d e p i c t e d d i s c r e t e - t i m e s q u a r e w a v e ( F i g u r e 5 . 3 2 ) ?

n

x(n)

……

1

–1

F i g u r e 5 . 3 2




2 1 7

P r o b l e m 5 . 2 2 : A D i g i t a l F i l t e r i n t h e F r e q u e n c y D o m a i n

W e h a v e a l t e r w i t h t h e t r a n s f e r f u n c t i o n

H ej2πf = e−(j2πf )cos(2πf )

o p e r a t i n g o n t h e i n p u t s i g n a l

x (n) = δ (n) − δ (n − 2) t h a t y i e l d s t h e o u t p u t

y (n) .

a ) W h a t i s t h e l t e r ' s u n i t - s a m p l e r e s p o n s e ?

b ) W h a t i s t h e d i s c r e t e - F o u r i e r t r a n s f o r m o f t h e o u t p u t ?

c ) W h a t i s t h e t i m e - d o m a i n e x p r e s s i o n f o r t h e o u t p u t ?

P r o b l e m 5 . 2 3 : D i g i t a l F i l t e r s

A d i s c r e t e - t i m e s y s t e m i s g o v e r n e d b y t h e d i e r e n c e e q u a t i o n

y (n) = y (n − 1) +x (n) + x (n − 1)

2

a ) F i n d t h e t r a n s f e r f u n c t i o n f o r t h i s s y s t e m .

b ) W h a t i s t h i s s y s t e m ' s o u t p u t w h e n t h e i n p u t i s sinπn2

?

c ) I f t h e o u t p u t i s o b s e r v e d t o b e y (n) = δ (n) + δ (n − 1) , t h e n w h a t i s t h e i n p u t ?

P r o b l e m 5 . 2 4 : D i g i t a l F i l t e r i n g

A d i g i t a l l t e r h a s a n i n p u t - o u t p u t r e l a t i o n s h i p e x p r e s s e d b y t h e d i e r e n c e e q u a t i o n

y (n) =x (n) + x (n − 1) + x (n − 2) + x (n − 3)

4

.

a ) P l o t t h e m a g n i t u d e a n d p h a s e o f t h i s l t e r ' s t r a n s f e r f u n c t i o n .

b ) W h a t i s t h i s l t e r ' s o u t p u t w h e n x (n) = cosπn2

+ 2sin

2πn3

?

P r o b l e m 5 . 2 5 : D e t e c t i v e W o r k

T h e s i g n a l x (n) e q u a l s δ (n) − δ (n − 1).

a ) F i n d t h e l e n g t h - 8 D F T ( d i s c r e t e F o u r i e r t r a n s f o r m ) o f t h i s s i g n a l .

b ) Y o u a r e t o l d t h a t w h e n x (n) s e r v e d a s t h e i n p u t t o a l i n e a r F I R ( n i t e i m p u l s e r e s p o n s e ) l t e r , t h e

o u t p u t w a s y (n) = δ (n) − δ (n − 1) + 2δ (n − 2) . I s t h i s s t a t e m e n t t r u e ? I f s o , i n d i c a t e w h y a n d n d

t h e s y s t e m ' s u n i t s a m p l e r e s p o n s e ; i f n o t , s h o w w h y n o t .

P r o b l e m 5 . 2 6 :

A d i s c r e t e - t i m e , s h i f t i n v a r i a n t , l i n e a r s y s t e m p r o d u c e s a n o u t p u t

y (n) = 1, −1, 0, 0, . . . w h e n i t s i n p u t

x (n) e q u a l s a u n i t s a m p l e .

a ) F i n d t h e d i e r e n c e e q u a t i o n g o v e r n i n g t h e s y s t e m .

b ) F i n d t h e o u t p u t w h e n

x (n) = cos(2πf 0n) .

c ) H o w w o u l d y o u d e s c r i b e t h i s s y s t e m ' s f u n c t i o n ?




2 1 8


P r o b l e m 5 . 2 7 : T i m e R e v e r s a l h a s U s e s

A d i s c r e t e - t i m e s y s t e m h a s t r a n s f e r f u n c t i o n

H

ej2πf

. A s i g n a l

x (n) i s p a s s e d t h r o u g h t h i s s y s t e m t o

y i e l d t h e s i g n a l

w (n). T h e t i m e - r e v e r s e d s i g n a l

w (−n)i s t h e n p a s s e d t h r o u g h t h e s y s t e m t o y i e l d t h e

t i m e - r e v e r s e d o u t p u t y (−n). W h a t i s t h e t r a n s f e r f u n c t i o n b e t w e e n x (n) a n d y (n) ?

P r o b l e m 5 . 2 8 : R e m o v i n g H u m

T h e s l a n g w o r d h u m r e p r e s e n t s p o w e r l i n e w a v e f o r m s t h a t c r e e p i n t o s i g n a l s b e c a u s e o f p o o r c i r c u i t

c o n s t r u c t i o n . U s u a l l y , t h e 6 0 H z s i g n a l ( a n d i t s h a r m o n i c s ) a r e a d d e d t o t h e d e s i r e d s i g n a l . W h a t w e s e e k

a r e l t e r s t h a t c a n r e m o v e h u m . I n t h i s p r o b l e m , t h e s i g n a l a n d t h e a c c o m p a n y i n g h u m h a v e b e e n s a m p l e d ;

w e w a n t t o d e s i g n a d i g i t a l l t e r f o r h u m r e m o v a l .

a ) F i n d l t e r c o e c i e n t s f o r t h e l e n g t h - 3 F I R l t e r t h a t c a n r e m o v e a s i n u s o i d h a v i n g d i g i t a l f r e q u e n c y

f 0 f r o m i t s i n p u t .

b ) A s s u m i n g t h e s a m p l i n g r a t e i s

f s t o w h a t a n a l o g f r e q u e n c y d o e s

f 0 c o r r e s p o n d ?

c ) A m o r e g e n e r a l a p p r o a c h i s t o d e s i g n a l t e r h a v i n g a f r e q u e n c y r e s p o n s e m a g n i t u d e p r o p o r t i o n a l t o

t h e a b s o l u t e v a l u e o f a c o s i n e : |H ej2πf | ∝ |cos(πf N ) | . I n t h i s w a y , n o t o n l y c a n t h e f u n d a m e n t a l

b u t a l s o i t s r s t f e w h a r m o n i c s b e r e m o v e d . S e l e c t t h e p a r a m e t e r N a n d t h e s a m p l i n g r a t e s o t h a t t h e

f r e q u e n c i e s a t w h i c h t h e c o s i n e e q u a l s z e r o c o r r e s p o n d t o 6 0 H z a n d i t s o d d h a r m o n i c s t h r o u g h t h e

f t h .

d ) F i n d t h e d i e r e n c e e q u a t i o n t h a t d e n e s t h i s l t e r .

P r o b l e m 5 . 2 9 : D i g i t a l A M R e c e i v e r

T h i n k i n g t h a t d i g i t a l i m p l e m e n t a t i o n s a r e a l w a y s b e t t e r , o u r c l e v e r e n g i n e e r w a n t s t o d e s i g n a d i g i t a l A M

r e c e i v e r . T h e r e c e i v e r w o u l d b a n d p a s s t h e r e c e i v e d s i g n a l , p a s s t h e r e s u l t t h r o u g h a n A / D c o n v e r t e r , p e r f o r m

a l l t h e d e m o d u l a t i o n w i t h d i g i t a l s i g n a l p r o c e s s i n g s y s t e m s , a n d e n d w i t h a D / A c o n v e r t e r t o p r o d u c e t h e

a n a l o g m e s s a g e s i g n a l . A s s u m e i n t h i s p r o b l e m t h a t t h e c a r r i e r f r e q u e n c y i s a l w a y s a l a r g e e v e n m u l t i p l e o f

t h e m e s s a g e s i g n a l ' s b a n d w i d t h

W .

a ) W h a t i s t h e s m a l l e s t s a m p l i n g r a t e t h a t w o u l d b e n e e d e d ?

b ) S h o w t h e b l o c k d i a g r a m o f t h e l e a s t c o m p l e x d i g i t a l A M r e c e i v e r .

c ) A s s u m i n g t h e c h a n n e l a d d s w h i t e n o i s e a n d t h a t a

b- b i t A / D c o n v e r t e r i s u s e d , w h a t i s t h e o u t p u t ' s

s i g n a l - t o - n o i s e r a t i o ?

P r o b l e m 5 . 3 0 : D F T s

A p r o b l e m o n S a m a n t h a ' s h o m e w o r k a s k s f o r t h e 8 - p o i n t D F T o f t h e d i s c r e t e - t i m e s i g n a l δ (n − 1) +δ (n − 7).

a ) W h a t a n s w e r s h o u l d S a m a n t h a o b t a i n ?

b ) A s a c h e c k , h e r g r o u p p a r t n e r S a m m y s a y s t h a t h e c o m p u t e d t h e i n v e r s e D F T o f h e r a n s w e r a n d g o t

δ (n + 1) + δ (n−

1). D o e s S a m m y ' s r e s u l t m e a n t h a t S a m a n t h a ' s a n s w e r i s w r o n g ?

c ) T h e h o m e w o r k p r o b l e m s a y s t o l o w p a s s - l t e r t h e s e q u e n c e b y m u l t i p l y i n g i t s D F T b y

H (k) =

1 i f k = 0, 1, 7

0 o t h e r w i s e

a n d t h e n c o m p u t i n g t h e i n v e r s e D F T . W i l l t h i s l t e r i n g a l g o r i t h m w o r k ? I f s o , n d t h e l t e r e d o u t p u t ;

i f n o t , w h y n o t ?




2 1 9

P r o b l e m 5 . 3 1 : S t o c k M a r k e t D a t a P r o c e s s i n g

B e c a u s e a t r a d i n g w e e k l a s t s v e d a y s , s t o c k m a r k e t s f r e q u e n t l y c o m p u t e r u n n i n g a v e r a g e s e a c h d a y o v e r t h e

p r e v i o u s v e t r a d i n g d a y s t o s m o o t h p r i c e u c t u a t i o n s . T h e t e c h n i c a l s t o c k a n a l y s t a t t h e B u y - L o S e l l - H i

b r o k e r a g e r m h a s h e a r d t h a t F F T l t e r i n g t e c h n i q u e s w o r k b e t t e r t h a n a n y o t h e r s ( i n t e r m s o f p r o d u c i n g

m o r e a c c u r a t e a v e r a g e s ) .

a ) W h a t i s t h e d i e r e n c e e q u a t i o n g o v e r n i n g t h e v e - d a y a v e r a g e r f o r d a i l y s t o c k p r i c e s ?

b ) D e s i g n a n e c i e n t F F T - b a s e d l t e r i n g a l g o r i t h m f o r t h e b r o k e r . H o w m u c h d a t a s h o u l d b e p r o c e s s e d

a t o n c e t o p r o d u c e a n e c i e n t a l g o r i t h m ? W h a t l e n g t h t r a n s f o r m s h o u l d b e u s e d ?

c ) I s t h e a n a l y s t ' s i n f o r m a t i o n c o r r e c t t h a t F F T t e c h n i q u e s p r o d u c e m o r e a c c u r a t e a v e r a g e s t h a n a n y

o t h e r s ? W h y o r w h y n o t ?

P r o b l e m 5 . 3 2 : E c h o e s

E c h o e s n o t o n l y o c c u r i n c a n y o n s , b u t a l s o i n a u d i t o r i u m s a n d t e l e p h o n e c i r c u i t s . I n o n e s i t u a t i o n w h e r e

t h e e c h o e d s i g n a l h a s b e e n s a m p l e d , t h e i n p u t s i g n a l x (n) e m e r g e s a s x (n) + a1x (n−

n1) + a2x (n−

n2) .

a ) F i n d t h e d i e r e n c e e q u a t i o n o f t h e s y s t e m t h a t m o d e l s t h e p r o d u c t i o n o f e c h o e s .

b ) T o s i m u l a t e t h i s e c h o s y s t e m , E L E C 2 4 1 s t u d e n t s a r e a s k e d t o w r i t e t h e m o s t e c i e n t ( q u i c k e s t )

p r o g r a m t h a t h a s t h e s a m e i n p u t - o u t p u t r e l a t i o n s h i p . S u p p o s e t h e d u r a t i o n o f x (n) i s 1 , 0 0 0 a n d t h a t

a1 = 12 , n1 = 10 , a2 = 1

5 , a n d n2 = 25. H a l f t h e c l a s s v o t e s t o j u s t p r o g r a m t h e d i e r e n c e e q u a t i o n

w h i l e t h e o t h e r h a l f v o t e s t o p r o g r a m a f r e q u e n c y d o m a i n a p p r o a c h t h a t e x p l o i t s t h e s p e e d o f t h e F F T .

B e c a u s e o f t h e u n d e c i d e d v o t e , y o u m u s t b r e a k t h e t i e . W h i c h a p p r o a c h i s m o r e e c i e n t a n d w h y ?

c ) F i n d t h e t r a n s f e r f u n c t i o n a n d d i e r e n c e e q u a t i o n o f t h e s y s t e m t h a t s u p p r e s s e s t h e e c h o e s . I n o t h e r

w o r d s , w i t h t h e e c h o e d s i g n a l a s t h e i n p u t , w h a t s y s t e m ' s o u t p u t i s t h e s i g n a l

x (n) ?

P r o b l e m 5 . 3 3 : D i g i t a l F i l t e r i n g o f A n a l o g S i g n a l s

R U E l e c t r o n i c s w a n t s t o d e v e l o p a l t e r t h a t w o u l d b e u s e d i n a n a l o g a p p l i c a t i o n s , b u t t h a t i s i m p l e m e n t e d

d i g i t a l l y . T h e l t e r i s t o o p e r a t e o n s i g n a l s t h a t h a v e a 1 0 k H z b a n d w i d t h , a n d w i l l s e r v e a s a l o w p a s s l t e r .

a ) W h a t i s t h e b l o c k d i a g r a m f o r y o u r l t e r i m p l e m e n t a t i o n ? E x p l i c i t l y d e n o t e w h i c h c o m p o n e n t s a r e

a n a l o g , w h i c h a r e d i g i t a l ( a c o m p u t e r p e r f o r m s t h e t a s k ) , a n d w h i c h i n t e r f a c e b e t w e e n a n a l o g a n d

d i g i t a l w o r l d s .

b ) W h a t s a m p l i n g r a t e m u s t b e u s e d a n d h o w m a n y b i t s m u s t b e u s e d i n t h e A / D c o n v e r t e r f o r t h e

a c q u i r e d s i g n a l ' s s i g n a l - t o - n o i s e r a t i o t o b e a t l e a s t 6 0 d B ? F o r t h i s c a l c u l a t i o n , a s s u m e t h e s i g n a l i s a

s i n u s o i d .

c ) I f t h e l t e r i s a l e n g t h - 1 2 8 F I R l t e r ( t h e d u r a t i o n o f t h e l t e r ' s u n i t - s a m p l e r e s p o n s e e q u a l s 1 2 8 ) ,

s h o u l d i t b e i m p l e m e n t e d i n t h e t i m e o r f r e q u e n c y d o m a i n ?

d ) A s s u m i n g H

ej2πf

i s t h e t r a n s f e r f u n c t i o n o f t h e d i g i t a l l t e r , w h a t i s t h e t r a n s f e r f u n c t i o n o f y o u r

s y s t e m ?

P r o b l e m 5 . 3 4 : S i g n a l C o m p r e s s i o n

B e c a u s e o f t h e s l o w n e s s o f t h e I n t e r n e t , l o s s y s i g n a l c o m p r e s s i o n b e c o m e s i m p o r t a n t i f y o u w a n t s i g n a l s

t o b e r e c e i v e d q u i c k l y . A n e n t e r p r i s i n g 2 4 1 s t u d e n t h a s p r o p o s e d a s c h e m e b a s e d o n f r e q u e n c y - d o m a i n

p r o c e s s i n g . F i r s t o f a l l , h e w o u l d s e c t i o n t h e s i g n a l i n t o l e n g t h -

N b l o c k s , a n d c o m p u t e i t s

N - p o i n t D F T . H e

t h e n w o u l d d i s c a r d ( z e r o t h e s p e c t r u m ) a t h a l f o f t h e f r e q u e n c i e s , q u a n t i z e t h e m t o

b- b i t s , a n d s e n d t h e s e

o v e r t h e n e t w o r k . T h e r e c e i v e r w o u l d a s s e m b l e t h e t r a n s m i t t e d s p e c t r u m a n d c o m p u t e t h e i n v e r s e D F T ,

t h u s r e c o n s t i t u t i n g a n N - p o i n t b l o c k .




2 2 0


a ) A t w h a t f r e q u e n c i e s s h o u l d t h e s p e c t r u m b e z e r o e d t o m i n i m i z e t h e e r r o r i n t h i s l o s s y c o m p r e s s i o n

s c h e m e ?

b ) T h e n o m i n a l w a y t o r e p r e s e n t a s i g n a l d i g i t a l l y i s t o u s e s i m p l e

b- b i t q u a n t i z a t i o n o f t h e t i m e - d o m a i n

w a v e f o r m . H o w l o n g s h o u l d a s e c t i o n b e i n t h e p r o p o s e d s c h e m e s o t h a t t h e r e q u i r e d n u m b e r o f

b i t s / s a m p l e i s s m a l l e r t h a n t h a t n o m i n a l l y r e q u i r e d ?

c ) A s s u m i n g t h a t e e c t i v e c o m p r e s s i o n c a n b e a c h i e v e d , w o u l d t h e p r o p o s e d s c h e m e y i e l d s a t i s f a c t o r y

r e s u l t s ?




2 2 1



F o r b- b i t s i g n e d i n t e g e r s , t h e l a r g e s t n u m b e r i s 2b−1

−1 . F o r b = 32 , w e h a v e 2 , 1 4 7 , 4 8 3 , 6 4 7 a n d f o r b = 64 ,

w e h a v e 9 , 2 2 3 , 3 7 2 , 0 3 6 , 8 5 4 , 7 7 5 , 8 0 7 o r a b o u t 9.2 × 1018 .


I n o a t i n g p o i n t , t h e n u m b e r o f b i t s i n t h e e x p o n e n t d e t e r m i n e s t h e l a r g e s t a n d s m a l l e s t r e p r e s e n t a b l e

n u m b e r s . F o r 3 2 - b i t o a t i n g p o i n t , t h e l a r g e s t ( s m a l l e s t ) n u m b e r s a r e 2±(127) = 1.7 × 1038 ( 5.9 × 10−39 ) .

F o r 6 4 - b i t o a t i n g p o i n t , t h e l a r g e s t n u m b e r i s a b o u t 109863 .


25 = 110112 a n d 7 = 1112 . W e n d t h a t 110012 + 1112 = 1000002 = 32 .


T h e o n l y e e c t o f p u l s e d u r a t i o n i s t o u n e q u a l l y w e i g h t t h e s p e c t r a l r e p e t i t i o n s . B e c a u s e w e a r e o n l y

c o n c e r n e d w i t h t h e r e p e t i t i o n c e n t e r e d a b o u t t h e o r i g i n , t h e p u l s e d u r a t i o n h a s n o s i g n i c a n t e e c t o n

r e c o v e r i n g a s i g n a l f r o m i t s s a m p l e s .


T = 4

T = 3.5

f

f

f = 1f = –1

F i g u r e 5 . 3 3

T h e s q u a r e w a v e ' s s p e c t r u m i s s h o w n b y t h e b o l d e r s e t o f l i n e s c e n t e r e d a b o u t t h e o r i g i n . T h e d a s h e d

l i n e s c o r r e s p o n d t o t h e f r e q u e n c i e s a b o u t w h i c h t h e s p e c t r a l r e p e t i t i o n s ( d u e t o s a m p l i n g w i t h T s = 1)

o c c u r . A s t h e s q u a r e w a v e ' s p e r i o d d e c r e a s e s , t h e n e g a t i v e f r e q u e n c y l i n e s m o v e t o t h e l e f t a n d t h e p o s i t i v e

f r e q u e n c y o n e s t o t h e r i g h t .


T h e s i m p l e s t b a n d l i m i t e d s i g n a l i s t h e s i n e w a v e . A t t h e N y q u i s t f r e q u e n c y , e x a c t l y t w o s a m p l e s / p e r i o d

w o u l d o c c u r . R e d u c i n g t h e s a m p l i n g r a t e w o u l d r e s u l t i n f e w e r s a m p l e s / p e r i o d , a n d t h e s e s a m p l e s w o u l d

a p p e a r t o h a v e a r i s e n f r o m a l o w e r f r e q u e n c y s i n u s o i d .


T h e p l o t t e d t e m p e r a t u r e s w e r e q u a n t i z e d t o t h e n e a r e s t d e g r e e . T h u s , t h e h i g h t e m p e r a t u r e ' s a m p l i t u d e

w a s q u a n t i z e d a s a f o r m o f A / D c o n v e r s i o n .




2 2 2



T h e s i g n a l - t o - n o i s e r a t i o d o e s n o t d e p e n d o n t h e s i g n a l a m p l i t u d e . W i t h a n A / D r a n g e o f [−A, A], t h e

q u a n t i z a t i o n i n t e r v a l ∆ = 2A2B a n d t h e s i g n a l ' s r m s v a l u e ( a g a i n a s s u m i n g i t i s a s i n u s o i d ) i s

A√ 2

.


S o l v i n g 2−B = .001 r e s u l t s i n B = 10 b i t s .


A 1 6 - b i t A / D c o n v e r t e r y i e l d s a S N R o f 6 × 16 + 10log1.5 = 97.8 d B .


S

ej2π(f +1)

=∞

n=−∞ s (n) e−(j2π(f +1)n)

=∞

n=−∞ e−(j2πn)s (n) e−(j2πfn)

=∞

n=−∞ s (n) e−(j2πfn)

= S

ej2πf

( 5 . 5 6 )


αN +n0−1n=n0

αn −N +n0−1n=n0

αn = αN +n0 − αn0

w h i c h , a f t e r m a n i p u l a t i o n , y i e l d s t h e g e o m e t r i c s u m f o r m u l a .


I f t h e s a m p l i n g f r e q u e n c y e x c e e d s t h e N y q u i s t f r e q u e n c y , t h e s p e c t r u m o f t h e s a m p l e s e q u a l s t h e a n a l o g

s p e c t r u m , b u t o v e r t h e n o r m a l i z e d a n a l o g f r e q u e n c y

f T . T h u s , t h e e n e r g y i n t h e s a m p l e d s i g n a l e q u a l s t h e

o r i g i n a l s i g n a l ' s e n e r g y m u l t i p l i e d b y T .


T h i s s i t u a t i o n a m o u n t s t o a l i a s i n g i n t h e t i m e - d o m a i n .


W h e n t h e s i g n a l i s r e a l - v a l u e d , w e m a y o n l y n e e d h a l f t h e s p e c t r a l v a l u e s , b u t t h e c o m p l e x i t y r e m a i n s

u n c h a n g e d . I f t h e d a t a a r e c o m p l e x - v a l u e d , w h i c h d e m a n d s r e t a i n i n g a l l f r e q u e n c y v a l u e s , t h e c o m p l e x i t y i s

a g a i n t h e s a m e . W h e n o n l y K f r e q u e n c i e s a r e n e e d e d , t h e c o m p l e x i t y i s O (KN ) .


I f a D F T r e q u i r e d 1 m s t o c o m p u t e , a n d s i g n a l h a v i n g t e n t i m e s t h e d u r a t i o n w o u l d r e q u i r e 1 0 0 m s t o

c o m p u t e . U s i n g t h e F F T , a 1 m s c o m p u t i n g t i m e w o u l d i n c r e a s e b y a f a c t o r o f a b o u t 10log210 = 33 , a f a c t o r

o f 3 l e s s t h a n t h e D F T w o u l d h a v e n e e d e d .


T h e u p p e r p a n e l h a s n o t u s e d t h e F F T a l g o r i t h m t o c o m p u t e t h e l e n g t h - 4 D F T s w h i l e t h e l o w e r o n e h a s .

T h e o r d e r i n g i s d e t e r m i n e d b y t h e a l g o r i t h m .


T h e t r a n s f o r m c a n h a v e a n y g r e a t e r t h a n o r e q u a l t o t h e a c t u a l d u r a t i o n o f t h e s i g n a l . W e s i m p l y p a d t h e

s i g n a l w i t h z e r o - v a l u e d s a m p l e s u n t i l a c o m p u t a t i o n a l l y a d v a n t a g e o u s s i g n a l l e n g t h r e s u l t s . R e c a l l t h a t t h e

F F T i s a n a l g o r i t h m t o c o m p u t e t h e D F T ( S e c t i o n 5 . 7 ) . E x t e n d i n g t h e l e n g t h o f t h e s i g n a l t h i s w a y m e r e l y

m e a n s w e a r e s a m p l i n g t h e f r e q u e n c y a x i s m o r e n e l y t h a n r e q u i r e d . T o u s e t h e C o o l e y - T u k e y a l g o r i t h m ,

t h e l e n g t h o f t h e r e s u l t i n g z e r o - p a d d e d s i g n a l c a n b e 5 1 2 , 1 0 2 4 , e t c . s a m p l e s l o n g .


N u m b e r o f s a m p l e s e q u a l s 1.2 × 11025 = 13230 . T h e d a t a r a t e i s 11025 × 16 = 176.4 k b p s . T h e s t o r a g e

r e q u i r e d w o u l d b e 26460 b y t e s .


T h e o s c i l l a t i o n s a r e d u e t o t h e b o x c a r w i n d o w ' s F o u r i e r t r a n s f o r m , w h i c h e q u a l s t h e s i n c f u n c t i o n .


T h e s e n u m b e r s a r e p o w e r s - o f - t w o , a n d t h e F F T a l g o r i t h m c a n b e e x p l o i t e d w i t h t h e s e l e n g t h s . T o c o m p u t e

a l o n g e r t r a n s f o r m t h a n t h e i n p u t s i g n a l ' s d u r a t i o n , w e s i m p l y z e r o - p a d t h e s i g n a l .




2 2 3


I n d i s c r e t e - t i m e s i g n a l p r o c e s s i n g , a n a m p l i e r a m o u n t s t o a m u l t i p l i c a t i o n , a v e r y e a s y o p e r a t i o n t o p e r f o r m .


T h e i n d i c e s c a n b e n e g a t i v e , a n d t h i s c o n d i t i o n i s n o t a l l o w e d i n M A T L A B . T o x i t , w e m u s t s t a r t t h e

s i g n a l s l a t e r i n t h e a r r a y .


S u c h t e r m s w o u l d r e q u i r e t h e s y s t e m t o k n o w w h a t f u t u r e i n p u t o r o u t p u t v a l u e s w o u l d b e b e f o r e t h e

c u r r e n t v a l u e w a s c o m p u t e d . T h u s , s u c h t e r m s c a n c a u s e d i c u l t i e s .


I t n o w a c t s l i k e a b a n d p a s s l t e r w i t h a c e n t e r f r e q u e n c y o f f 0 a n d a b a n d w i d t h e q u a l t o t w i c e o f t h e

o r i g i n a l l o w p a s s l t e r .


T h e D T F T o f t h e u n i t s a m p l e e q u a l s a c o n s t a n t ( e q u a l i n g 1 ) . T h u s , t h e F o u r i e r t r a n s f o r m o f t h e o u t p u t

e q u a l s t h e t r a n s f e r f u n c t i o n .


I n s a m p l i n g a d i s c r e t e - t i m e s i g n a l ' s F o u r i e r t r a n s f o r m L t i m e s e q u a l l y o v e r [0, 2π) t o f o r m t h e D F T , t h e

c o r r e s p o n d i n g s i g n a l e q u a l s t h e p e r i o d i c r e p e t i t i o n o f t h e o r i g i n a l s i g n a l .

S (k) ↔∞

i=−∞s (n − iL) ( 5 . 5 7 )

T o a v o i d a l i a s i n g ( i n t h e t i m e d o m a i n ) , t h e t r a n s f o r m l e n g t h m u s t e q u a l o r e x c e e d t h e s i g n a l ' s d u r a t i o n .


T h e d i e r e n c e e q u a t i o n f o r a n F I R l t e r h a s t h e f o r m

y (n) =

qm=0

bmx (n − m) ( 5 . 5 8 )

T h e u n i t - s a m p l e r e s p o n s e e q u a l s

h (n) =

qm=0

bmδ (n − m) ( 5 . 5 9 )

w h i c h c o r r e s p o n d s t o t h e r e p r e s e n t a t i o n d e s c r i b e d i n a p r o b l e m ( E x a m p l e 5 . 6 ) o f a l e n g t h - q b o x c a r l t e r .


T h e u n i t - s a m p l e r e s p o n s e ' s d u r a t i o n i s q + 1 a n d t h e s i g n a l ' s N x . T h u s t h e s t a t e m e n t i s c o r r e c t .


L e t

N d e n o t e t h e i n p u t ' s t o t a l d u r a t i o n . T h e t i m e - d o m a i n i m p l e m e n t a t i o n r e q u i r e s a t o t a l o f

N (2q + 1)c o m p u t a t i o n s , o r 2q + 1 c o m p u t a t i o n s p e r i n p u t v a l u e . I n t h e f r e q u e n c y d o m a i n , w e s p l i t t h e i n p u t i n t o

N N x

s e c t i o n s , e a c h o f w h i c h r e q u i r e s

1 + q

N x

log2 (N x + q ) + 7 q

N x+ 6 p e r i n p u t i n t h e s e c t i o n . B e c a u s e w e

d i v i d e a g a i n b y

N x t o n d t h e n u m b e r o f c o m p u t a t i o n s p e r i n p u t v a l u e i n t h e e n t i r e i n p u t , t h i s q u a n t i t y

d e c r e a s e s a s

N x i n c r e a s e s . F o r t h e t i m e - d o m a i n i m p l e m e n t a t i o n , i t s t a y s c o n s t a n t .


T h e d e l a y i s n o t c o m p u t a t i o n a l d e l a y h e r e t h e p l o t s h o w s t h e r s t o u t p u t v a l u e i s a l i g n e d w i t h t h e l -

t e r ' s r s t i n p u t a l t h o u g h i n r e a l s y s t e m s t h i s i s a n i m p o r t a n t c o n s i d e r a t i o n . R a t h e r , t h e d e l a y i s d u e t o

t h e l t e r ' s p h a s e s h i f t : A p h a s e - s h i f t e d s i n u s o i d i s e q u i v a l e n t t o a t i m e - d e l a y e d o n e : cos (2πf n − φ) =

cos

2πf

n − φ2πf

. A l l l t e r s h a v e p h a s e s h i f t s . T h i s d e l a y c o u l d b e r e m o v e d i f t h e l t e r i n t r o d u c e d n o

p h a s e s h i f t . S u c h l t e r s d o n o t e x i s t i n a n a l o g f o r m , b u t d i g i t a l o n e s c a n b e p r o g r a m m e d , b u t n o t i n r e a l

t i m e . D o i n g s o w o u l d r e q u i r e t h e o u t p u t t o e m e r g e b e f o r e t h e i n p u t a r r i v e s !


W e h a v e p + q + 1 m u l t i p l i c a t i o n s a n d p + q − 1 a d d i t i o n s . T h u s , t h e t o t a l n u m b e r o f a r i t h m e t i c o p e r a t i o n s

e q u a l s 2 ( p + q ) .




2 2 4





C h a p t e r 6

I n f o r m a t i o n C o m m u n i c a t i o n

6 . 1 I n f o r m a t i o n C o m m u n i c a t i o n

1

A s f a r a s a c o m m u n i c a t i o n s e n g i n e e r i s c o n c e r n e d , s i g n a l s e x p r e s s i n f o r m a t i o n . B e c a u s e s y s t e m s m a n i p u l a t e

s i g n a l s , t h e y a l s o a e c t t h e i n f o r m a t i o n c o n t e n t . I n f o r m a t i o n c o m e s n e a t l y p a c k a g e d i n b o t h a n a l o g a n d

d i g i t a l f o r m s . S p e e c h , f o r e x a m p l e , i s c l e a r l y a n a n a l o g s i g n a l , a n d c o m p u t e r l e s c o n s i s t o f a s e q u e n c e o f

b y t e s , a f o r m o f " d i s c r e t e - t i m e " s i g n a l d e s p i t e t h e f a c t t h a t t h e i n d e x s e q u e n c e s b y t e p o s i t i o n , n o t t i m e

s a m p l e . C o m m u n i c a t i o n s y s t e m s e n d e a v o r n o t t o m a n i p u l a t e i n f o r m a t i o n , b u t t o t r a n s m i t i t f r o m o n e

p l a c e t o a n o t h e r , s o - c a l l e d p o i n t - t o - p o i n t c o m m u n i c a t i o n , f r o m o n e p l a c e t o m a n y o t h e r s , b r o a d c a s t

c o m m u n i c a t i o n , o r f r o m m a n y t o m a n y , l i k e a t e l e p h o n e c o n f e r e n c e c a l l o r a c h a t r o o m . C o m m u n i c a t i o n

s y s t e m s c a n b e f u n d a m e n t a l l y a n a l o g , l i k e r a d i o , o r d i g i t a l , l i k e c o m p u t e r n e t w o r k s .

T h i s c h a p t e r d e v e l o p s a c o m m o n t h e o r y t h a t u n d e r l i e s h o w s u c h s y s t e m s w o r k . W e d e s c r i b e a n d a n a l y z e

s e v e r a l s u c h s y s t e m s , s o m e o l d l i k e A M r a d i o , s o m e n e w l i k e c o m p u t e r n e t w o r k s . T h e q u e s t i o n a s t o w h i c h

i s b e t t e r , a n a l o g o r d i g i t a l c o m m u n i c a t i o n , h a s b e e n a n s w e r e d , b e c a u s e o f C l a u d e S h a n n o n ' s

2

f u n d a m e n t a l

w o r k o n a t h e o r y o f i n f o r m a t i o n p u b l i s h e d i n 1 9 4 8 , t h e d e v e l o p m e n t o f c h e a p , h i g h - p e r f o r m a n c e c o m p u t e r s ,

a n d t h e c r e a t i o n o f h i g h - b a n d w i d t h c o m m u n i c a t i o n s y s t e m s . T h e a n s w e r i s t o u s e a d i g i t a l c o m m u -

n i c a t i o n s t r a t e g y . I n m o s t c a s e s , y o u s h o u l d c o n v e r t a l l i n f o r m a t i o n - b e a r i n g s i g n a l s i n t o d i s c r e t e - t i m e ,

a m p l i t u d e - q u a n t i z e d s i g n a l s . F u n d a m e n t a l l y d i g i t a l s i g n a l s , l i k e c o m p u t e r l e s ( w h i c h a r e a s p e c i a l c a s e o f

s y m b o l i c s i g n a l s ) , a r e i n t h e p r o p e r f o r m . B e c a u s e o f t h e S a m p l i n g T h e o r e m , w e k n o w h o w t o c o n v e r t a n a l o g

s i g n a l s i n t o d i g i t a l o n e s . S h a n n o n s h o w e d t h a t o n c e i n t h i s f o r m , a p r o p e r l y e n g i n e e r e d s y s t e m c a n

c o m m u n i c a t e d i g i t a l i n f o r m a t i o n w i t h n o e r r o r d e s p i t e t h e f a c t t h a t t h e c o m m u n i c a t i o n c h a n -

n e l t h r u s t s n o i s e o n t o a l l t r a n s m i s s i o n s . T h i s s t a r t l i n g r e s u l t h a s n o c o u n t e r p a r t i n a n a l o g s y s t e m s ;

A M r a d i o w i l l r e m a i n n o i s y . T h e c o n v e r g e n c e o f t h e s e t h e o r e t i c a l a n d e n g i n e e r i n g r e s u l t s o n c o m m u n i -

c a t i o n s s y s t e m s h a s h a d i m p o r t a n t c o n s e q u e n c e s i n o t h e r a r e n a s . T h e a u d i o c o m p a c t d i s c ( C D ) a n d t h e

d i g i t a l v i d e o d i s k ( D V D ) a r e n o w c o n s i d e r e d d i g i t a l c o m m u n i c a t i o n s s y s t e m s , w i t h c o m m u n i c a t i o n d e s i g n

c o n s i d e r a t i o n s u s e d t h r o u g h o u t .

G o b a c k t o t h e f u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ( F i g u r e 1 . 3 : F u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ) .

C o m m u n i c a t i o n s d e s i g n b e g i n s w i t h t w o f u n d a m e n t a l c o n s i d e r a t i o n s .

1 . W h a t i s t h e n a t u r e o f t h e i n f o r m a t i o n s o u r c e , a n d t o w h a t e x t e n t c a n t h e r e c e i v e r t o l e r a t e e r r o r s i n

t h e r e c e i v e d i n f o r m a t i o n ?

2 . W h a t a r e t h e c h a n n e l ' s c h a r a c t e r i s t i c s a n d h o w d o t h e y a e c t t h e t r a n s m i t t e d s i g n a l ?

I n s h o r t , w h a t a r e w e g o i n g t o s e n d a n d h o w a r e w e g o i n g t o s e n d i t ? I n t e r e s t i n g l y , d i g i t a l a s w e l l a s

a n a l o g t r a n s m i s s i o n a r e a c c o m p l i s h e d u s i n g a n a l o g s i g n a l s , l i k e v o l t a g e s i n E t h e r n e t ( a n e x a m p l e o f w i r e l i n e

c o m m u n i c a t i o n s ) a n d e l e c t r o m a g n e t i c r a d i a t i o n ( w i r e l e s s ) i n c e l l u l a r t e l e p h o n e .

1


2



2 2 5



2 2 6

C H A P T E R 6 . I N F O R M A T I O N C O M M U N I C A T I O N

6 . 2 T y p e s o f C o m m u n i c a t i o n C h a n n e l s

3

E l e c t r i c a l c o m m u n i c a t i o n s c h a n n e l s a r e e i t h e r w i r e l i n e o r w i r e l e s s c h a n n e l s . W i r e l i n e c h a n n e l s p h y s i c a l l y

c o n n e c t t r a n s m i t t e r t o r e c e i v e r w i t h a " w i r e " w h i c h c o u l d b e a t w i s t e d p a i r , c o a x i a l c a b l e o r o p t i c b e r .

C o n s e q u e n t l y , w i r e l i n e c h a n n e l s a r e m o r e p r i v a t e a n d m u c h l e s s p r o n e t o i n t e r f e r e n c e . S i m p l e w i r e l i n e

c h a n n e l s c o n n e c t a s i n g l e t r a n s m i t t e r t o a s i n g l e r e c e i v e r : a p o i n t - t o - p o i n t c o n n e c t i o n a s w i t h t h e t e l e p h o n e .

L i s t e n i n g i n o n a c o n v e r s a t i o n r e q u i r e s t h a t t h e w i r e b e t a p p e d a n d t h e v o l t a g e m e a s u r e d . S o m e w i r e l i n e

c h a n n e l s o p e r a t e i n b r o a d c a s t m o d e s : o n e o r m o r e t r a n s m i t t e r i s c o n n e c t e d t o s e v e r a l r e c e i v e r s . O n e s i m p l e

e x a m p l e o f t h i s s i t u a t i o n i s c a b l e t e l e v i s i o n . C o m p u t e r n e t w o r k s c a n b e f o u n d t h a t o p e r a t e i n p o i n t - t o - p o i n t

o r i n b r o a d c a s t m o d e s . W i r e l e s s c h a n n e l s a r e m u c h m o r e p u b l i c , w i t h a t r a n s m i t t e r ' s a n t e n n a r a d i a t i n g

a s i g n a l t h a t c a n b e r e c e i v e d b y a n y a n t e n n a s u c i e n t l y c l o s e e n o u g h . I n c o n t r a s t t o w i r e l i n e c h a n n e l s

w h e r e t h e r e c e i v e r t a k e s i n o n l y t h e t r a n s m i t t e r ' s s i g n a l , t h e r e c e i v e r ' s a n t e n n a w i l l r e a c t t o e l e c t r o m a g n e t i c

r a d i a t i o n c o m i n g f r o m a n y s o u r c e . T h i s f e a t u r e h a s t w o f a c e s : T h e s m i l e y f a c e s a y s t h a t a r e c e i v e r c a n t a k e

i n t r a n s m i s s i o n s f r o m a n y s o u r c e , l e t t i n g r e c e i v e r e l e c t r o n i c s s e l e c t w a n t e d s i g n a l s a n d d i s r e g a r d i n g o t h e r s ,

t h e r e b y a l l o w i n g p o r t a b l e t r a n s m i s s i o n a n d r e c e p t i o n , w h i l e t h e f r o w n y f a c e s a y s t h a t i n t e r f e r e n c e a n d n o i s e

a r e m u c h m o r e p r e v a l e n t t h a n i n w i r e l i n e s i t u a t i o n s . A n o i s i e r c h a n n e l s u b j e c t t o i n t e r f e r e n c e c o m p r o m i s e s

t h e e x i b i l i t y o f w i r e l e s s c o m m u n i c a t i o n .

n o t e : Y o u w i l l h e a r t h e t e r m t e t h e r l e s s n e t w o r k i n g a p p l i e d t o c o m p l e t e l y w i r e l e s s c o m p u t e r

n e t w o r k s .

M a x w e l l ' s e q u a t i o n s n e a t l y s u m m a r i z e t h e p h y s i c s o f a l l e l e c t r o m a g n e t i c p h e n o m e n a , i n c l u d i n g c i r -

c u i t s , r a d i o , a n d o p t i c b e r t r a n s m i s s i o n .

∇ × E = −∂ (µH )

∂t( 6 . 1 )

div (E ) = ρ

∇ × H = σE +

∂ (E )

∂t

div (µH ) = 0

w h e r e E i s t h e e l e c t r i c e l d , H t h e m a g n e t i c e l d , d i e l e c t r i c p e r m i t t i v i t y , µ m a g n e t i c p e r m e a b i l i t y , σe l e c t r i c a l c o n d u c t i v i t y , a n d

ρi s t h e c h a r g e d e n s i t y . K i r c h o ' s L a w s r e p r e s e n t s p e c i a l c a s e s o f t h e s e e q u a t i o n s

f o r c i r c u i t s . W e a r e n o t g o i n g t o s o l v e M a x w e l l ' s e q u a t i o n s h e r e ; d o b e a r i n m i n d t h a t a f u n d a m e n t a l

u n d e r s t a n d i n g o f c o m m u n i c a t i o n s c h a n n e l s u l t i m a t e l y d e p e n d s o n u e n c y w i t h M a x w e l l ' s e q u a t i o n s . P e r h a p s

t h e m o s t i m p o r t a n t a s p e c t o f t h e m i s t h a t t h e y a r e l i n e a r w i t h r e s p e c t t o t h e e l e c t r i c a l a n d m a g n e t i c e l d s .

T h u s , t h e e l d s ( a n d t h e r e f o r e t h e v o l t a g e s a n d c u r r e n t s ) r e s u l t i n g f r o m t w o o r m o r e s o u r c e s w i l l a d d .

n o t e : N o n l i n e a r e l e c t r o m a g n e t i c m e d i a d o e x i s t . T h e e q u a t i o n s a s w r i t t e n h e r e a r e s i m p l e r

v e r s i o n s t h a t a p p l y t o f r e e - s p a c e p r o p a g a t i o n a n d c o n d u c t i o n i n m e t a l s . N o n l i n e a r m e d i a a r e b e -

c o m i n g i n c r e a s i n g l y i m p o r t a n t i n o p t i c b e r c o m m u n i c a t i o n s , w h i c h a r e a l s o g o v e r n e d b y M a x w e l l ' s

e q u a t i o n s .

6 . 3 W i r e l i n e C h a n n e l s

4

W i r e l i n e c h a n n e l s w e r e t h e r s t u s e d f o r e l e c t r i c a l c o m m u n i c a t i o n s i n t h e m i d - n i n e t e e n t h c e n t u r y f o r t h e

t e l e g r a p h . H e r e , t h e c h a n n e l i s o n e o f s e v e r a l w i r e s c o n n e c t i n g t r a n s m i t t e r t o r e c e i v e r . T h e t r a n s m i t t e r

3


4





2 2 7

s i m p l y c r e a t e s a v o l t a g e r e l a t e d t o t h e m e s s a g e s i g n a l a n d a p p l i e s i t t o t h e w i r e ( s ) . W e m u s t h a v e a c i r c u i t

a c l o s e d p a t h t h a t s u p p o r t s c u r r e n t o w . I n t h e c a s e o f s i n g l e - w i r e c o m m u n i c a t i o n s , t h e e a r t h i s u s e d a s t h e

c u r r e n t ' s r e t u r n p a t h . I n f a c t , t h e t e r m g r o u n d f o r t h e r e f e r e n c e n o d e i n c i r c u i t s o r i g i n a t e d i n s i n g l e - w i r e

t e l e g r a p h s . Y o u c a n i m a g i n e t h a t t h e e a r t h ' s e l e c t r i c a l c h a r a c t e r i s t i c s a r e h i g h l y v a r i a b l e , a n d t h e y a r e .

S i n g l e - w i r e m e t a l l i c c h a n n e l s c a n n o t s u p p o r t h i g h - q u a l i t y s i g n a l t r a n s m i s s i o n h a v i n g a b a n d w i d t h b e y o n d a

f e w h u n d r e d H e r t z o v e r a n y a p p r e c i a b l e d i s t a n c e .

C o a x i a l C a b l e C r o s s - s e c t i o n

centralconductor

dielectric

outer

conductor

insulation

ri

rdσ

σd,εd,µd

σ

F i g u r e 6 . 1 : C o a x i a l c a b l e c o n s i s t s o f o n e c o n d u c t o r w r a p p e d a r o u n d t h e c e n t r a l c o n d u c t o r . T h i s

t y p e o f c a b l e s u p p o r t s b r o a d e r b a n d w i d t h s i g n a l s t h a n t w i s t e d p a i r , a n d n d s u s e i n c a b l e t e l e v i s i o n a n d

E t h e r n e t .

C o n s e q u e n t l y , m o s t w i r e l i n e c h a n n e l s t o d a y e s s e n t i a l l y c o n s i s t o f p a i r s o f c o n d u c t i n g w i r e s F i g u r e 6 . 1

( C o a x i a l C a b l e C r o s s - s e c t i o n ) , a n d t h e t r a n s m i t t e r a p p l i e s a m e s s a g e - r e l a t e d v o l t a g e a c r o s s t h e p a i r . H o w

t h e s e p a i r s o f w i r e s a r e p h y s i c a l l y c o n g u r e d g r e a t l y a e c t s t h e i r t r a n s m i s s i o n c h a r a c t e r i s t i c s . O n e e x a m p l e

i s t w i s t e d p a i r , w h e r e i n t h e w i r e s a r e w r a p p e d a b o u t e a c h o t h e r . T e l e p h o n e c a b l e s a r e o n e e x a m p l e o f a

t w i s t e d p a i r c h a n n e l . A n o t h e r i s c o a x i a l c a b l e , w h e r e a c o n c e n t r i c c o n d u c t o r s u r r o u n d s a c e n t r a l w i r e w i t h

a d i e l e c t r i c m a t e r i a l i n b e t w e e n . C o a x i a l c a b l e , f o n d l y c a l l e d " c o - a x " b y e n g i n e e r s , i s w h a t E t h e r n e t u s e s a s

i t s c h a n n e l . I n e i t h e r c a s e , w i r e l i n e c h a n n e l s f o r m a d e d i c a t e d c i r c u i t b e t w e e n t r a n s m i t t e r a n d r e c e i v e r . A s

w e s h a l l n d s u b s e q u e n t l y , s e v e r a l t r a n s m i s s i o n s c a n s h a r e t h e c i r c u i t b y a m p l i t u d e m o d u l a t i o n t e c h n i q u e s ;

c o m m e r c i a l c a b l e T V i s a n e x a m p l e . T h e s e i n f o r m a t i o n - c a r r y i n g c i r c u i t s a r e d e s i g n e d s o t h a t i n t e r f e r e n c e

f r o m n e a r b y e l e c t r o m a g n e t i c s o u r c e s i s m i n i m i z e d . T h u s , b y t h e t i m e s i g n a l s a r r i v e a t t h e r e c e i v e r , t h e y a r e

r e l a t i v e l y i n t e r f e r e n c e - a n d n o i s e - f r e e .

B o t h t w i s t e d p a i r a n d c o - a x a r e e x a m p l e s o f t r a n s m i s s i o n l i n e s , w h i c h a l l h a v e t h e c i r c u i t m o d e l s h o w n

i n F i g u r e 6 . 2 ( C i r c u i t M o d e l f o r a T r a n s m i s s i o n L i n e ) f o r a n i n n i t e s i m a l l y s m a l l l e n g t h . T h i s c i r c u i t m o d e l

a r i s e s f r o m s o l v i n g M a x w e l l ' s e q u a t i o n s f o r t h e p a r t i c u l a r t r a n s m i s s i o n l i n e g e o m e t r y .




2 2 8


C i r c u i t M o d e l f o r a T r a n s m i s s i o n L i n e

R∆x L∆x

G∆x C∆x

+

–

V(x)

I(x)

+

–

V(x+∆x)

I(x+∆x)

+

–

V(x– ∆x)

I(x– ∆x)

……R∆x L∆x

G∆x C∆x

F i g u r e 6 . 2 : T h e s o - c a l l e d d i s t r i b u t e d p a r a m e t e r m o d e l f o r t w o - w i r e c a b l e s h a s t h e d e p i c t e d c i r c u i t

m o d e l s t r u c t u r e . E l e m e n t v a l u e s d e p e n d o n g e o m e t r y a n d t h e p r o p e r t i e s o f m a t e r i a l s u s e d t o c o n s t r u c t

t h e t r a n s m i s s i o n l i n e .

T h e s e r i e s r e s i s t a n c e c o m e s f r o m t h e c o n d u c t o r u s e d i n t h e w i r e s a n d f r o m t h e c o n d u c t o r ' s g e o m e t r y . T h e

i n d u c t a n c e a n d t h e c a p a c i t a n c e d e r i v e f r o m t r a n s m i s s i o n l i n e g e o m e t r y , a n d t h e p a r a l l e l c o n d u c t a n c e f r o m

t h e m e d i u m b e t w e e n t h e w i r e p a i r . N o t e t h a t a l l t h e c i r c u i t e l e m e n t s h a v e v a l u e s e x p r e s s e d b y t h e p r o d u c t

o f a c o n s t a n t t i m e s a l e n g t h ; t h i s n o t a t i o n r e p r e s e n t s t h a t e l e m e n t v a l u e s h e r e h a v e p e r - u n i t - l e n g t h u n i t s .

F o r e x a m p l e , t h e s e r i e s r e s i s t a n c e

∼R h a s u n i t s o f o h m s / m e t e r . F o r c o a x i a l c a b l e , t h e e l e m e n t v a l u e s d e p e n d

o n t h e i n n e r c o n d u c t o r ' s r a d i u s ri , t h e o u t e r r a d i u s o f t h e d i e l e c t r i c rd , t h e c o n d u c t i v i t y o f t h e c o n d u c t o r s

σ , a n d t h e c o n d u c t i v i t y σd , d i e l e c t r i c c o n s t a n t d , a n d m a g n e t i c p e r m i t t i v i t y µd o f t h e d i e l e c t r i c a s

∼R=

1

2πδσ

1

rd+

1

ri

( 6 . 2 )

∼C =

2πd

lnrd

ri

∼G= 2 (π, σd)

lnrd

ri

∼L=

µd

2πln

rdri

F o r t w i s t e d p a i r , h a v i n g a s e p a r a t i o n d b e t w e e n t h e c o n d u c t o r s t h a t h a v e c o n d u c t i v i t y σ a n d c o m m o n r a d i u s

ra n d t h a t a r e i m m e r s e d i n a m e d i u m h a v i n g d i e l e c t r i c a n d m a g n e t i c p r o p e r t i e s , t h e e l e m e n t v a l u e s a r e t h e n

∼R=

1

πrδσ( 6 . 3 )

∼C =

π

arccoshd2r ∼

G=πσ

arccoshd2r

∼L=

µ

π

δ

2r+ arccosh

d

2r

T h e v o l t a g e b e t w e e n t h e t w o c o n d u c t o r s a n d t h e c u r r e n t o w i n g t h r o u g h t h e m w i l l d e p e n d o n d i s t a n c e x

a l o n g t h e t r a n s m i s s i o n l i n e a s w e l l a s t i m e . W e e x p r e s s t h i s d e p e n d e n c e a s v (x, t) a n d i (x, t) . W h e n w e p l a c e

a s i n u s o i d a l s o u r c e a t o n e e n d o f t h e t r a n s m i s s i o n l i n e , t h e s e v o l t a g e s a n d c u r r e n t s w i l l a l s o b e s i n u s o i d a l

b e c a u s e t h e t r a n s m i s s i o n l i n e m o d e l c o n s i s t s o f l i n e a r c i r c u i t e l e m e n t s . A s i s c u s t o m a r y i n a n a l y z i n g l i n e a r




2 2 9

c i r c u i t s , w e e x p r e s s v o l t a g e s a n d c u r r e n t s a s t h e r e a l p a r t o f c o m p l e x e x p o n e n t i a l s i g n a l s , a n d w r i t e c i r c u i t

v a r i a b l e s a s a c o m p l e x a m p l i t u d e h e r e d e p e n d e n t o n d i s t a n c e t i m e s a c o m p l e x e x p o n e n t i a l :

v (x, t) =Re

V (x) ej2πft

a n d

i (x, t) = Re

I (x) ej2πft

. U s i n g t h e t r a n s m i s s i o n l i n e c i r c u i t m o d e l , w e n d f r o m

K C L , K V L , a n d v - i r e l a t i o n s t h e e q u a t i o n s g o v e r n i n g t h e c o m p l e x a m p l i t u d e s .

K C L a t C e n t e r N o d e

I (x) = I (x − ∆ (x)) − V (x)∼

G + j2πf ∼C

∆ (x) ( 6 . 4 )

V - I r e l a t i o n f o r R L s e r i e s

V (x) − V (x + ∆ (x)) = I (x)∼

R + j2πf ∼L

∆ (x) ( 6 . 5 )

R e a r r a n g i n g a n d t a k i n g t h e l i m i t ∆ (x) → 0 y i e l d s t h e s o - c a l l e d t r a n s m i s s i o n l i n e e q u a t i o n s .

d

dxI (x) = −

∼G + j2πf

∼C

V (x)

( 6 . 6 )

d

dxV (x) = −

∼R + j2πf

∼L

I (x)

B y c o m b i n i n g t h e s e e q u a t i o n s , w e c a n o b t a i n a s i n g l e e q u a t i o n t h a t g o v e r n s h o w t h e v o l t a g e ' s o r t h e

c u r r e n t ' s c o m p l e x a m p l i t u d e c h a n g e s w i t h p o s i t i o n a l o n g t h e t r a n s m i s s i o n l i n e . T a k i n g t h e d e r i v a t i v e o f t h e

s e c o n d e q u a t i o n a n d p l u g g i n g t h e r s t e q u a t i o n i n t o t h e r e s u l t y i e l d s t h e e q u a t i o n g o v e r n i n g t h e v o l t a g e .

d2

dx2V (x) =

∼G + j2πf

∼C ∼

R + j2πf ∼L

V (x) ( 6 . 7 )

T h i s e q u a t i o n ' s s o l u t i o n i s

V (x) = V +e−(γx) + V −eγx( 6 . 8 )

C a l c u l a t i n g i t s s e c o n d d e r i v a t i v e a n d c o m p a r i n g t h e r e s u l t w i t h o u r e q u a t i o n f o r t h e v o l t a g e c a n c h e c k t h i s

s o l u t i o n .

d2

dx2 V (x) = γ 2

V +e−(γx) + V −eγx

= γ 2V (x)( 6 . 9 )

O u r s o l u t i o n w o r k s s o l o n g a s t h e q u a n t i t y γ s a t i s e s

γ = ± ∼

G + j2πf ∼C ∼

R + j2πf ∼L

= ± (a (f ) + jb (f ))

( 6 . 1 0 )

T h u s ,

γ d e p e n d s o n f r e q u e n c y , a n d w e e x p r e s s i t i n t e r m s o f r e a l a n d i m a g i n a r y p a r t s a s i n d i c a t e d . T h e

q u a n t i t i e s V + a n d V − a r e c o n s t a n t s d e t e r m i n e d b y t h e s o u r c e a n d p h y s i c a l c o n s i d e r a t i o n s . F o r e x a m p l e , l e t

t h e s p a t i a l o r i g i n b e t h e m i d d l e o f t h e t r a n s m i s s i o n l i n e m o d e l F i g u r e 6 . 2 ( C i r c u i t M o d e l f o r a T r a n s m i s s i o n

L i n e ) . B e c a u s e t h e c i r c u i t m o d e l c o n t a i n s s i m p l e c i r c u i t e l e m e n t s , p h y s i c a l l y p o s s i b l e s o l u t i o n s f o r v o l t a g e

a m p l i t u d e c a n n o t i n c r e a s e w i t h d i s t a n c e a l o n g t h e t r a n s m i s s i o n l i n e . E x p r e s s i n g γ i n t e r m s o f i t s r e a l

a n d i m a g i n a r y p a r t s i n o u r s o l u t i o n s h o w s t h a t s u c h i n c r e a s e s a r e a ( m a t h e m a t i c a l ) p o s s i b i l i t y . V (x) =V +e(−(a+jb))x + V −e(a+jb)x T h e v o l t a g e c a n n o t i n c r e a s e w i t h o u t l i m i t ; b e c a u s e a (f ) i s a l w a y s p o s i t i v e , w e

m u s t s e g r e g a t e t h e s o l u t i o n f o r n e g a t i v e a n d p o s i t i v e x. T h e r s t t e r m w i l l i n c r e a s e e x p o n e n t i a l l y f o r x < 0u n l e s s

V + = 0 i n t h i s r e g i o n ; a s i m i l a r r e s u l t a p p l i e s t o

V − f o r

x > 0 . T h e s e p h y s i c a l c o n s t r a i n t s g i v e u s a

c l e a n e r s o l u t i o n .

V (x) =

V +e(−(a+jb))x i f x > 0

V −e(a+jb)x i f x < 0( 6 . 1 1 )




2 3 0


T h i s s o l u t i o n s u g g e s t s t h a t v o l t a g e s ( a n d c u r r e n t s t o o ) w i l l d e c r e a s e e x p o n e n t i a l l y a l o n g a t r a n s m i s s i o n

l i n e . T h e s p a c e c o n s t a n t , a l s o k n o w n a s t h e a t t e n u a t i o n c o n s t a n t , i s t h e d i s t a n c e o v e r w h i c h t h e v o l t a g e

d e c r e a s e s b y a f a c t o r o f

1e . I t e q u a l s t h e r e c i p r o c a l o f

a (f ) , w h i c h d e p e n d s o n f r e q u e n c y , a n d i s e x p r e s s e d b y

m a n u f a c t u r e r s i n u n i t s o f d B / m .

T h e p r e s e n c e o f t h e i m a g i n a r y p a r t o f γ , b (f ) , a l s o p r o v i d e s i n s i g h t i n t o h o w t r a n s m i s s i o n l i n e s w o r k .

B e c a u s e t h e s o l u t i o n f o r x > 0 i s p r o p o r t i o n a l t o e−(jbx) , w e k n o w t h a t t h e v o l t a g e ' s c o m p l e x a m p l i t u d e w i l l

v a r y s i n u s o i d a l l y i n s p a c e . T h e c o m p l e t e s o l u t i o n f o r t h e v o l t a g e h a s t h e f o r m

v (x, t) = Re

V +e−(ax)ej(2πft−bx)

( 6 . 1 2 )

T h e c o m p l e x e x p o n e n t i a l p o r t i o n h a s t h e f o r m o f a p r o p a g a t i n g w a v e . I f w e c o u l d t a k e a s n a p s h o t o f

t h e v o l t a g e ( t a k e i t s p i c t u r e a t t = t1 ) , w e w o u l d s e e a s i n u s o i d a l l y v a r y i n g w a v e f o r m a l o n g t h e t r a n s m i s s i o n

l i n e . O n e p e r i o d o f t h i s v a r i a t i o n , k n o w n a s t h e w a v e l e n g t h , e q u a l s λ = 2πb . I f w e w e r e t o t a k e a s e c o n d

p i c t u r e a t s o m e l a t e r t i m e t = t2 , w e w o u l d a l s o s e e a s i n u s o i d a l v o l t a g e . B e c a u s e

2πf t2 − bx = 2πf (t1 + t2 − t1) − bx = 2πf t1 − b

x − 2πf

b(t2 − t1)

t h e s e c o n d w a v e f o r m a p p e a r s t o b e t h e r s t o n e , b u t d e l a y e d s h i f t e d t o t h e r i g h t i n s p a c e . T h u s , t h e v o l t -

a g e a p p e a r e d t o m o v e t o t h e r i g h t w i t h a s p e e d e q u a l t o

2πf b ( a s s u m i n g

b > 0 ) . W e d e n o t e t h i s p r o p a g a t i o n

s p e e d b y c, a n d i t e q u a l s

c = | 2πf

Im

∼G + j2πf

∼C ∼

R + j2πf ∼L | ( 6 . 1 3 )

I n t h e h i g h - f r e q u e n c y r e g i o n w h e r e j2πf ∼L∼

R a n d j2πf ∼C

∼G, t h e q u a n t i t y u n d e r t h e r a d i c a l s i m p l i e s

t o −4

π2, f 2,∼L,

∼C

, a n d w e n d t h e p r o p a g a t i o n s p e e d t o b e

limitf →∞

c =1

∼L∼C

( 6 . 1 4 )

F o r t y p i c a l c o a x i a l c a b l e , t h i s p r o p a g a t i o n s p e e d i s a f r a c t i o n ( o n e - t h i r d t o t w o - t h i r d s ) o f t h e s p e e d o f l i g h t .

E x e r c i s e 6 . 3 . 1

( S o l u t i o n o n p . 2 9 4 . )

F i n d t h e p r o p a g a t i o n s p e e d i n t e r m s o f p h y s i c a l p a r a m e t e r s f o r b o t h t h e c o a x i a l c a b l e a n d t w i s t e d

p a i r e x a m p l e s .

B y u s i n g t h e s e c o n d o f t h e t r a n s m i s s i o n l i n e e q u a t i o n ( 6 . 6 ) , w e c a n s o l v e f o r t h e c u r r e n t ' s c o m p l e x a m p l i t u d e .

C o n s i d e r i n g t h e s p a t i a l r e g i o n x > 0 , f o r e x a m p l e , w e n d t h a t

d

dxV (x) = − (γV (x)) =

−∼

R + j2πf ∼L

I (x)

w h i c h m e a n s t h a t t h e r a t i o o f v o l t a g e a n d c u r r e n t c o m p l e x a m p l i t u d e s d o e s n o t d e p e n d o n d i s t a n c e .

V (x)I (x) =

∼R+j2πf ∼L∼G+j2πf

∼C

= Z 0

( 6 . 1 5 )

T h e q u a n t i t y Z 0 i s k n o w n a s t h e t r a n s m i s s i o n l i n e ' s c h a r a c t e r i s t i c i m p e d a n c e . N o t e t h a t w h e n t h e s i g n a l

f r e q u e n c y i s s u c i e n t l y h i g h , t h e c h a r a c t e r i s t i c i m p e d a n c e i s r e a l , w h i c h m e a n s t h e t r a n s m i s s i o n l i n e a p p e a r s

r e s i s t i v e i n t h i s h i g h - f r e q u e n c y r e g i m e .

limitf →∞

Z 0 =

∼L∼C

( 6 . 1 6 )




2 3 1

T y p i c a l v a l u e s f o r c h a r a c t e r i s t i c i m p e d a n c e a r e 5 0 a n d 7 5 Ω.

A r e l a t e d t r a n s m i s s i o n l i n e i s t h e o p t i c b e r . H e r e , t h e e l e c t r o m a g n e t i c e l d i s l i g h t , a n d i t p r o p a g a t e s

d o w n a c y l i n d e r o f g l a s s . I n t h i s s i t u a t i o n , w e d o n ' t h a v e t w o c o n d u c t o r s i n f a c t w e h a v e n o n e a n d t h e

e n e r g y i s p r o p a g a t i n g i n w h a t c o r r e s p o n d s t o t h e d i e l e c t r i c m a t e r i a l o f t h e c o a x i a l c a b l e . O p t i c b e r c o m -

m u n i c a t i o n h a s e x a c t l y t h e s a m e p r o p e r t i e s a s o t h e r t r a n s m i s s i o n l i n e s : S i g n a l s t r e n g t h d e c a y s e x p o n e n t i a l l y

a c c o r d i n g t o t h e b e r ' s s p a c e c o n s t a n t a n d p r o p a g a t e s a t s o m e s p e e d l e s s t h a n l i g h t w o u l d i n f r e e s p a c e .

F r o m t h e e n c o m p a s s i n g v i e w o f M a x w e l l ' s e q u a t i o n s , t h e o n l y d i e r e n c e i s t h e e l e c t r o m a g n e t i c s i g n a l ' s f r e -

q u e n c y . B e c a u s e n o e l e c t r i c c o n d u c t o r s a r e p r e s e n t a n d t h e b e r i s p r o t e c t e d b y a n o p a q u e i n s u l a t o r , o p t i c

b e r t r a n s m i s s i o n i s i n t e r f e r e n c e - f r e e .

E x e r c i s e 6 . 3 . 2

( S o l u t i o n o n p . 2 9 4 . )

F r o m t a b l e s o f p h y s i c a l c o n s t a n t s , n d t h e f r e q u e n c y o f a s i n u s o i d i n t h e m i d d l e o f t h e v i s i b l e

l i g h t r a n g e . C o m p a r e t h i s f r e q u e n c y w i t h t h a t o f a m i d - f r e q u e n c y c a b l e t e l e v i s i o n s i g n a l .

T o s u m m a r i z e , w e u s e t r a n s m i s s i o n l i n e s f o r h i g h - f r e q u e n c y w i r e l i n e s i g n a l c o m m u n i c a t i o n . I n w i r e l i n e

c o m m u n i c a t i o n , w e h a v e a d i r e c t , p h y s i c a l c o n n e c t i o n a c i r c u i t b e t w e e n t r a n s m i t t e r a n d r e c e i v e r . W h e n

w e s e l e c t t h e t r a n s m i s s i o n l i n e c h a r a c t e r i s t i c s a n d t h e t r a n s m i s s i o n f r e q u e n c y s o t h a t w e o p e r a t e i n t h e h i g h -

f r e q u e n c y r e g i m e , s i g n a l s a r e n o t l t e r e d a s t h e y p r o p a g a t e a l o n g t h e t r a n s m i s s i o n l i n e : T h e c h a r a c t e r i s t i c

i m p e d a n c e i s r e a l - v a l u e d t h e t r a n m i s s i o n l i n e ' s e q u i v a l e n t i m p e d a n c e i s a r e s i s t o r a n d a l l t h e s i g n a l ' s

c o m p o n e n t s a t v a r i o u s f r e q u e n c i e s p r o p a g a t e a t t h e s a m e s p e e d . T r a n s m i t t e d s i g n a l a m p l i t u d e d o e s d e c a y

e x p o n e n t i a l l y a l o n g t h e t r a n s m i s s i o n l i n e . N o t e t h a t i n t h e h i g h - f r e q u e n c y r e g i m e t h a t t h e s p a c e c o n s t a n t i s

a p p r o x i m a t e l y z e r o , w h i c h m e a n s t h e a t t e n u a t i o n i s q u i t e s m a l l .


W h a t i s t h e l i m i t i n g v a l u e o f t h e s p a c e c o n s t a n t i n t h e h i g h f r e q u e n c y r e g i m e ?

6 . 4 W i r e l e s s C h a n n e l s

5

W i r e l e s s c h a n n e l s e x p l o i t t h e p r e d i c t i o n m a d e b y M a x w e l l ' s e q u a t i o n t h a t e l e c t r o m a g n e t i c e l d s p r o p a g a t e

i n f r e e s p a c e l i k e l i g h t . W h e n a v o l t a g e i s a p p l i e d t o a n a n t e n n a , i t c r e a t e s a n e l e c t r o m a g n e t i c e l d t h a t

p r o p a g a t e s i n a l l d i r e c t i o n s ( a l t h o u g h a n t e n n a g e o m e t r y a e c t s h o w m u c h p o w e r o w s i n a n y g i v e n d i r e c t i o n )

t h a t i n d u c e s e l e c t r i c c u r r e n t s i n t h e r e c e i v e r ' s a n t e n n a . A n t e n n a g e o m e t r y d e t e r m i n e s h o w e n e r g e t i c a e l d

a v o l t a g e o f a g i v e n f r e q u e n c y c r e a t e s . I n g e n e r a l t e r m s , t h e d o m i n a n t f a c t o r i s t h e r e l a t i o n o f t h e a n t e n n a ' s

s i z e t o t h e e l d ' s w a v e l e n g t h . T h e f u n d a m e n t a l e q u a t i o n r e l a t i n g f r e q u e n c y a n d w a v e l e n g t h f o r a p r o p a g a t i n g

w a v e i s

λf = c

T h u s , w a v e l e n g t h a n d f r e q u e n c y a r e i n v e r s e l y r e l a t e d : H i g h f r e q u e n c y c o r r e s p o n d s t o s m a l l w a v e l e n g t h s .

F o r e x a m p l e , a 1 M H z e l e c t r o m a g n e t i c e l d h a s a w a v e l e n g t h o f 3 0 0 m . A n t e n n a s h a v i n g a s i z e o r d i s t a n c e

f r o m t h e g r o u n d c o m p a r a b l e t o t h e w a v e l e n g t h r a d i a t e e l d s m o s t e c i e n t l y . C o n s e q u e n t l y , t h e l o w e r t h e

f r e q u e n c y t h e b i g g e r t h e a n t e n n a m u s t b e . B e c a u s e m o s t i n f o r m a t i o n s i g n a l s a r e b a s e b a n d s i g n a l s , h a v i n g

s p e c t r a l e n e r g y a t l o w f r e q u e n c i e s , t h e y m u s t b e m o d u l a t e d t o h i g h e r f r e q u e n c i e s t o b e t r a n s m i t t e d o v e r

w i r e l e s s c h a n n e l s .

F o r m o s t a n t e n n a - b a s e d w i r e l e s s s y s t e m s , h o w t h e s i g n a l d i m i n i s h e s a s t h e r e c e i v e r m o v e s f u r t h e r f r o m

t h e t r a n s m i t t e r d e r i v e s b y c o n s i d e r i n g h o w r a d i a t e d p o w e r c h a n g e s w i t h d i s t a n c e f r o m t h e t r a n s m i t t i n g

a n t e n n a . A n a n t e n n a r a d i a t e s a g i v e n a m o u n t o f p o w e r i n t o f r e e s p a c e , a n d i d e a l l y t h i s p o w e r p r o p a g a t e s

w i t h o u t l o s s i n a l l d i r e c t i o n s . C o n s i d e r i n g a s p h e r e c e n t e r e d a t t h e t r a n s m i t t e r , t h e t o t a l p o w e r , w h i c h i s

f o u n d b y i n t e g r a t i n g t h e r a d i a t e d p o w e r o v e r t h e s u r f a c e o f t h e s p h e r e , m u s t b e c o n s t a n t r e g a r d l e s s o f t h e

s p h e r e ' s r a d i u s . T h i s r e q u i r e m e n t r e s u l t s f r o m t h e c o n s e r v a t i o n o f e n e r g y . T h u s , i f p (d) r e p r e s e n t s t h e p o w e r

5





2 3 2


i n t e g r a t e d w i t h r e s p e c t t o d i r e c t i o n a t a d i s t a n c e d f r o m t h e a n t e n n a , t h e t o t a l p o w e r w i l l b e p (d) 4πd2 . F o r

t h i s q u a n t i t y t o b e a c o n s t a n t , w e m u s t h a v e

p (d)∝

1

d2

w h i c h m e a n s t h a t t h e r e c e i v e d s i g n a l a m p l i t u d e AR m u s t b e p r o p o r t i o n a l t o t h e t r a n s m i t t e r ' s a m p l i t u d e AT

a n d i n v e r s e l y r e l a t e d t o d i s t a n c e f r o m t h e t r a n s m i t t e r .

AR =kAT

d( 6 . 1 7 )

f o r s o m e v a l u e o f t h e c o n s t a n t k . T h u s , t h e f u r t h e r f r o m t h e t r a n s m i t t e r t h e r e c e i v e r i s l o c a t e d , t h e

w e a k e r t h e r e c e i v e d s i g n a l . W h e r e a s t h e a t t e n u a t i o n f o u n d i n w i r e l i n e c h a n n e l s c a n b e c o n t r o l l e d b y p h y s i c a l

p a r a m e t e r s a n d c h o i c e o f t r a n s m i s s i o n f r e q u e n c y , t h e i n v e r s e - d i s t a n c e a t t e n u a t i o n f o u n d i n w i r e l e s s c h a n n e l s

p e r s i s t s a c r o s s a l l f r e q u e n c i e s .


W h y d o n ' t s i g n a l s a t t e n u a t e a c c o r d i n g t o t h e i n v e r s e - s q u a r e l a w i n a c o n d u c t o r ? W h a t i s t h e

d i e r e n c e b e t w e e n t h e w i r e l i n e a n d w i r e l e s s c a s e s ?

T h e s p e e d o f p r o p a g a t i o n i s g o v e r n e d b y t h e d i e l e c t r i c c o n s t a n t µ0 a n d m a g n e t i c p e r m e a b i l i t y 0 o f f r e e

s p a c e .

c = 1√ µ00

= 3 × 108 m / s

( 6 . 1 8 )

K n o w n f a m i l i a r l y a s t h e s p e e d o f l i g h t , i t s e t s a n u p p e r l i m i t o n h o w f a s t s i g n a l s c a n p r o p a g a t e f r o m o n e

p l a c e t o a n o t h e r . B e c a u s e s i g n a l s t r a v e l a t a n i t e s p e e d , a r e c e i v e r s e n s e s a t r a n s m i t t e d s i g n a l o n l y a f t e r a

t i m e d e l a y d i r e c t l y r e l a t e d t o t h e p r o p a g a t i o n s p e e d :

∆ (t) =d

c

A t t h e s p e e d o f l i g h t , a s i g n a l t r a v e l s a c r o s s t h e U n i t e d S t a t e s i n 1 6 m s , a r e a s o n a b l y s m a l l t i m e d e l a y . I f a

l o s s l e s s ( z e r o s p a c e c o n s t a n t ) c o a x i a l c a b l e c o n n e c t e d t h e E a s t a n d W e s t c o a s t s , t h i s d e l a y w o u l d b e t w o t o

t h r e e t i m e s l o n g e r b e c a u s e o f t h e s l o w e r p r o p a g a t i o n s p e e d .

6 . 5 L i n e - o f - S i g h t T r a n s m i s s i o n

6

L o n g - d i s t a n c e t r a n s m i s s i o n o v e r e i t h e r k i n d o f c h a n n e l e n c o u n t e r s a t t e n u a t i o n p r o b l e m s . L o s s e s i n w i r e l i n e

c h a n n e l s a r e e x p l o r e d i n t h e C i r c u i t M o d e l s m o d u l e ( S e c t i o n 6 . 3 ) , w h e r e r e p e a t e r s c a n e x t e n d t h e d i s t a n c e

b e t w e e n t r a n s m i t t e r a n d r e c e i v e r b e y o n d w h a t p a s s i v e l o s s e s t h e w i r e l i n e c h a n n e l i m p o s e s . I n w i r e l e s s

c h a n n e l s , n o t o n l y d o e s r a d i a t i o n l o s s o c c u r ( p . 2 3 1 ) , b u t a l s o o n e a n t e n n a m a y n o t " s e e " a n o t h e r b e c a u s e

o f t h e e a r t h ' s c u r v a t u r e .

6





2 3 3

h

dLOS

earth

R

F i g u r e 6 . 3 : T w o a n t e n n a e a r e s h o w n e a c h h a v i n g t h e s a m e h e i g h t . L i n e - o f - s i g h t t r a n s m i s s i o n m e a n s

t h e t r a n s m i t t i n g a n d r e c e i v i n g a n t e n n a e c a n " s e e " e a c h o t h e r a s s h o w n . T h e m a x i m u m d i s t a n c e a t w h i c h

t h e y c a n s e e e a c h o t h e r , dLOS , o c c u r s w h e n t h e s i g h t i n g l i n e j u s t g r a z e s t h e e a r t h ' s s u r f a c e .

A t t h e u s u a l r a d i o f r e q u e n c i e s , p r o p a g a t i n g e l e c t r o m a g n e t i c e n e r g y d o e s n o t f o l l o w t h e e a r t h ' s s u r f a c e .

L i n e - o f - s i g h t c o m m u n i c a t i o n h a s t h e t r a n s m i t t e r a n d r e c e i v e r a n t e n n a s i n v i s u a l c o n t a c t w i t h e a c h o t h e r .

A s s u m i n g b o t h a n t e n n a s h a v e h e i g h t h a b o v e t h e e a r t h ' s s u r f a c e , m a x i m u m l i n e - o f - s i g h t d i s t a n c e i s

dLOS = 2

2hR + h2 2√

2Rh ( 6 . 1 9 )

w h e r e R i s t h e e a r t h ' s r a d i u s ( 6.38 × 106m ) .


D e r i v e t h e e x p r e s s i o n o f l i n e - o f - s i g h t d i s t a n c e u s i n g o n l y t h e P y t h a g o r e a n T h e o r e m . G e n e r a l i z e

i t t o t h e c a s e w h e r e t h e a n t e n n a s h a v e d i e r e n t h e i g h t s ( a s i s t h e c a s e w i t h c o m m e r c i a l r a d i o

a n d c e l l u l a r t e l e p h o n e ) . W h a t i s t h e r a n g e o f c e l l u l a r t e l e p h o n e w h e r e t h e h a n d s e t a n t e n n a h a s

e s s e n t i a l l y z e r o h e i g h t ?

E x e r c i s e 6 . 5 . 2

( S o l u t i o n o n p . 2 9 5 . )

C a n y o u i m a g i n e a s i t u a t i o n w h e r e i n g l o b a l w i r e l e s s c o m m u n i c a t i o n i s p o s s i b l e w i t h o n l y o n e

t r a n s m i t t i n g a n t e n n a ? I n p a r t i c u l a r , w h a t h a p p e n s t o w a v e l e n g t h w h e n c a r r i e r f r e q u e n c y d e c r e a s e s ?

U s i n g a 1 0 0 m a n t e n n a w o u l d p r o v i d e l i n e - o f - s i g h t t r a n s m i s s i o n o v e r a d i s t a n c e o f 7 1 . 4 k m . U s i n g s u c h v e r y

t a l l a n t e n n a s w o u l d p r o v i d e w i r e l e s s c o m m u n i c a t i o n w i t h i n a t o w n o r b e t w e e n c l o s e l y s p a c e d p o p u l a t i o n

c e n t e r s . C o n s e q u e n t l y , n e t w o r k s o f a n t e n n a s s p r i n k l e t h e c o u n t r y s i d e ( e a c h l o c a t e d o n t h e h i g h e s t h i l l

p o s s i b l e ) t o p r o v i d e l o n g - d i s t a n c e w i r e l e s s c o m m u n i c a t i o n s : E a c h a n t e n n a r e c e i v e s e n e r g y f r o m o n e a n t e n n a

a n d r e t r a n s m i t s t o a n o t h e r . T h i s k i n d o f n e t w o r k i s k n o w n a s a r e l a y n e t w o r k .

6 . 6 T h e I o n o s p h e r e a n d C o m m u n i c a t i o n s

7

I f w e w e r e l i m i t e d t o l i n e - o f - s i g h t c o m m u n i c a t i o n s , l o n g d i s t a n c e w i r e l e s s c o m m u n i c a t i o n , l i k e s h i p - t o - s h o r e

c o m m u n i c a t i o n , w o u l d b e i m p o s s i b l e . A t t h e t u r n o f t h e c e n t u r y , M a r c o n i , t h e i n v e n t o r o f w i r e l e s s t e l e g r a p h y ,

b o l d l y t r i e d s u c h l o n g d i s t a n c e c o m m u n i c a t i o n w i t h o u t a n y e v i d e n c e e i t h e r e m p i r i c a l o r t h e o r e t i c a l

t h a t i t w a s p o s s i b l e . W h e n t h e e x p e r i m e n t w o r k e d , b u t o n l y a t n i g h t , p h y s i c i s t s s c r a m b l e d t o d e t e r m i n e

w h y ( u s i n g M a x w e l l ' s e q u a t i o n s , o f c o u r s e ) . I t w a s O l i v e r H e a v i s i d e , a m a t h e m a t i c a l p h y s i c i s t w i t h s t r o n g

e n g i n e e r i n g i n t e r e s t s , w h o h y p o t h e s i z e d t h a t a n i n v i s i b l e e l e c t r o m a g n e t i c " m i r r o r " s u r r o u n d e d t h e e a r t h .

7





2 3 4


W h a t h e m e a n t w a s t h a t a t o p t i c a l f r e q u e n c i e s ( a n d o t h e r s a s i t t u r n e d o u t ) , t h e m i r r o r w a s t r a n s p a r e n t ,

b u t a t t h e f r e q u e n c i e s M a r c o n i u s e d , i t r e e c t e d e l e c t r o m a g n e t i c r a d i a t i o n b a c k t o e a r t h . H e h a d p r e d i c t e d

t h e e x i s t e n c e o f t h e i o n o s p h e r e , a p l a s m a t h a t e n c o m p a s s e s t h e e a r t h a t a l t i t u d e s

hi b e t w e e n 8 0 a n d 1 8 0 k m

t h a t r e a c t s t o s o l a r r a d i a t i o n : I t b e c o m e s t r a n s p a r e n t a t M a r c o n i ' s f r e q u e n c i e s d u r i n g t h e d a y , b u t b e c o m e s

a m i r r o r a t n i g h t w h e n s o l a r r a d i a t i o n d i m i n i s h e s . T h e m a x i m u m d i s t a n c e a l o n g t h e e a r t h ' s s u r f a c e t h a t c a n

b e r e a c h e d b y a s i n g l e i o n o s p h e r i c r e e c t i o n i s 2Rarccos

RR+hi

, w h i c h r a n g e s b e t w e e n 2 , 0 1 0 a n d 3 , 0 0 0 k m

w h e n w e s u b s t i t u t e m i n i m u m a n d m a x i m u m i o n o s p h e r i c a l t i t u d e s . T h i s d i s t a n c e d o e s n o t s p a n t h e U n i t e d

S t a t e s o r c r o s s t h e A t l a n t i c ; f o r t r a n s a t l a n t i c c o m m u n i c a t i o n , a t l e a s t t w o r e e c t i o n s w o u l d b e r e q u i r e d .

T h e c o m m u n i c a t i o n d e l a y e n c o u n t e r e d w i t h a s i n g l e r e e c t i o n i n t h i s c h a n n e l i s

2√ 2Rhi+hi

2

c , w h i c h r a n g e s

b e t w e e n 6 . 8 a n d 1 0 m s , a g a i n a s m a l l t i m e i n t e r v a l .

6 . 7 C o m m u n i c a t i o n w i t h S a t e l l i t e s

8

G l o b a l w i r e l e s s c o m m u n i c a t i o n r e l i e s o n s a t e l l i t e s . H e r e , g r o u n d s t a t i o n s t r a n s m i t t o o r b i t i n g s a t e l l i t e s t h a t

a m p l i f y t h e s i g n a l a n d r e t r a n s m i t i t b a c k t o e a r t h . S a t e l l i t e s w i l l m o v e a c r o s s t h e s k y u n l e s s t h e y a r e i n

g e o s y n c h r o n o u s o r b i t s , w h e r e t h e t i m e f o r o n e r e v o l u t i o n a b o u t t h e e q u a t o r e x a c t l y m a t c h e s t h e e a r t h ' s

r o t a t i o n t i m e o f o n e d a y . T V s a t e l l i t e s w o u l d r e q u i r e t h e h o m e o w n e r t o c o n t i n u a l l y a d j u s t h i s o r h e r a n t e n n a

i f t h e s a t e l l i t e w e r e n ' t i n g e o s y n c h r o n o u s o r b i t . N e w t o n ' s e q u a t i o n s a p p l i e d t o o r b i t i n g b o d i e s p r e d i c t t h a t

t h e t i m e

T f o r o n e o r b i t i s r e l a t e d t o d i s t a n c e f r o m t h e e a r t h ' s c e n t e r

Ra s

R =3

GMT 2

4π2( 6 . 2 0 )

w h e r e G i s t h e g r a v i t a t i o n a l c o n s t a n t a n d M t h e e a r t h ' s m a s s . C a l c u l a t i o n s y i e l d R = 42200km, w h i c h

c o r r e s p o n d s t o a n a l t i t u d e o f 35700km. T h i s a l t i t u d e g r e a t l y e x c e e d s t h a t o f t h e i o n o s p h e r e , r e q u i r i n g s a t e l l i t e

t r a n s m i t t e r s t o u s e f r e q u e n c i e s t h a t p a s s t h r o u g h i t . O f g r e a t i m p o r t a n c e i n s a t e l l i t e c o m m u n i c a t i o n s i s t h e

t r a n s m i s s i o n d e l a y . T h e t i m e f o r e l e c t r o m a g n e t i c e l d s t o p r o p a g a t e t o a g e o s y n c h r o n o u s s a t e l l i t e a n d r e t u r n

i s 0 . 2 4 s , a s i g n i c a n t d e l a y .


I n a d d i t i o n t o d e l a y , t h e p r o p a g a t i o n a t t e n u a t i o n e n c o u n t e r e d i n s a t e l l i t e c o m m u n i c a t i o n f a r e x -

c e e d s w h a t o c c u r s i n i o n o s p h e r i c - m i r r o r b a s e d c o m m u n i c a t i o n . C a l c u l a t e t h e a t t e n u a t i o n i n c u r r e d

b y r a d i a t i o n g o i n g t o t h e s a t e l l i t e ( o n e - w a y l o s s ) w i t h t h a t e n c o u n t e r e d b y M a r c o n i ( t o t a l g o i n g u p

a n d d o w n ) . N o t e t h a t t h e a t t e n u a t i o n c a l c u l a t i o n i n t h e i o n o s p h e r i c c a s e , a s s u m i n g t h e i o n o s p h e r e

a c t s l i k e a p e r f e c t m i r r o r , i s n o t a s t r a i g h t f o r w a r d a p p l i c a t i o n o f t h e p r o p a g a t i o n l o s s f o r m u l a ( p .

2 3 1 ) .

6 . 8 N o i s e a n d I n t e r f e r e n c e

9

W e h a v e m e n t i o n e d t h a t c o m m u n i c a t i o n s a r e , t o v a r y i n g d e g r e e s , s u b j e c t t o i n t e r f e r e n c e a n d n o i s e . I t ' s t i m e

t o b e m o r e p r e c i s e a b o u t w h a t t h e s e q u a n t i t i e s a r e a n d h o w t h e y d i e r .

I n t e r f e r e n c e r e p r e s e n t s m a n - m a d e s i g n a l s . T e l e p h o n e l i n e s a r e s u b j e c t t o p o w e r - l i n e i n t e r f e r e n c e ( i n

t h e U n i t e d S t a t e s a d i s t o r t e d 6 0 H z s i n u s o i d ) . C e l l u l a r t e l e p h o n e c h a n n e l s a r e s u b j e c t t o a d j a c e n t - c e l l p h o n e

c o n v e r s a t i o n s u s i n g t h e s a m e s i g n a l f r e q u e n c y . T h e p r o b l e m w i t h s u c h i n t e r f e r e n c e i s t h a t i t o c c u p i e s t h e

s a m e f r e q u e n c y b a n d a s t h e d e s i r e d c o m m u n i c a t i o n s i g n a l , a n d h a s a s i m i l a r s t r u c t u r e .


S u p p o s e i n t e r f e r e n c e o c c u p i e d a d i e r e n t f r e q u e n c y b a n d ; h o w w o u l d t h e r e c e i v e r r e m o v e i t ?

8


9





2 3 5

W e u s e t h e n o t a t i o n i (t) t o r e p r e s e n t i n t e r f e r e n c e . B e c a u s e i n t e r f e r e n c e h a s m a n - m a d e s t r u c t u r e , w e c a n

w r i t e a n e x p l i c i t e x p r e s s i o n f o r i t t h a t m a y c o n t a i n s o m e u n k n o w n a s p e c t s ( h o w l a r g e i t i s , f o r e x a m p l e ) .

N o i s e s i g n a l s h a v e l i t t l e s t r u c t u r e a n d a r i s e f r o m b o t h h u m a n a n d n a t u r a l s o u r c e s . S a t e l l i t e c h a n n e l s a r e

s u b j e c t t o d e e p s p a c e n o i s e a r i s i n g f r o m e l e c t r o m a g n e t i c r a d i a t i o n p e r v a s i v e i n t h e g a l a x y . T h e r m a l n o i s e

p l a g u e s a l l e l e c t r o n i c c i r c u i t s t h a t c o n t a i n r e s i s t o r s . T h u s , i n r e c e i v i n g s m a l l a m p l i t u d e s i g n a l s , r e c e i v e r

a m p l i e r s w i l l m o s t c e r t a i n l y a d d n o i s e a s t h e y b o o s t t h e s i g n a l ' s a m p l i t u d e . A l l c h a n n e l s a r e s u b j e c t t o

n o i s e , a n d w e n e e d a w a y o f d e s c r i b i n g s u c h s i g n a l s d e s p i t e t h e f a c t w e c a n ' t w r i t e a f o r m u l a f o r t h e n o i s e

s i g n a l l i k e w e c a n f o r i n t e r f e r e n c e . T h e m o s t w i d e l y u s e d n o i s e m o d e l i s w h i t e n o i s e . I t i s d e n e d e n t i r e l y

b y i t s f r e q u e n c y - d o m a i n c h a r a c t e r i s t i c s .

• W h i t e n o i s e h a s c o n s t a n t p o w e r a t a l l f r e q u e n c i e s .

• A t e a c h f r e q u e n c y , t h e p h a s e o f t h e n o i s e s p e c t r u m i s t o t a l l y u n c e r t a i n : I t c a n b e a n y v a l u e i n b e t w e e n

0 a n d 2π , a n d i t s v a l u e a t a n y f r e q u e n c y i s u n r e l a t e d t o t h e p h a s e a t a n y o t h e r f r e q u e n c y .

• W h e n n o i s e s i g n a l s a r i s i n g f r o m t w o d i e r e n t s o u r c e s a d d , t h e r e s u l t a n t n o i s e s i g n a l h a s a p o w e r e q u a l

t o t h e s u m o f t h e c o m p o n e n t p o w e r s .

B e c a u s e o f t h e e m p h a s i s h e r e o n f r e q u e n c y - d o m a i n p o w e r , w e a r e l e a d t o d e n e t h e p o w e r s p e c t r u m .

B e c a u s e o f P a r s e v a l ' s T h e o r e m

1 0

, w e d e n e t h e p o w e r s p e c t r u m P s (f ) o f a n o n - n o i s e s i g n a l s (t) t o b e t h e

m a g n i t u d e - s q u a r e d o f i t s F o u r i e r t r a n s f o r m .

P s (f ) ≡ (|S (f ) |)2 ( 6 . 2 1 )

I n t e g r a t i n g t h e p o w e r s p e c t r u m o v e r a n y r a n g e o f f r e q u e n c i e s e q u a l s t h e p o w e r t h e s i g n a l c o n t a i n s i n t h a t

b a n d . B e c a u s e s i g n a l s m u s t h a v e n e g a t i v e f r e q u e n c y c o m p o n e n t s t h a t m i r r o r p o s i t i v e f r e q u e n c y o n e s , w e

r o u t i n e l y c a l c u l a t e t h e p o w e r i n a s p e c t r a l b a n d a s t h e i n t e g r a l o v e r p o s i t i v e f r e q u e n c i e s m u l t i p l i e d b y t w o .

P o w e r i n [f 1, f 2] = 2

f 2f 1

P s (f ) df ( 6 . 2 2 )

U s i n g t h e n o t a t i o n n (t) t o r e p r e s e n t a n o i s e s i g n a l ' s w a v e f o r m , w e d e n e n o i s e i n t e r m s o f i t s p o w e r s p e c t r u m .

F o r w h i t e n o i s e , t h e p o w e r s p e c t r u m e q u a l s t h e c o n s t a n t

N 0

2. W i t h t h i s d e n i t i o n , t h e p o w e r i n a f r e q u e n c y

b a n d e q u a l s

N 0 (f 2 − f 1) .

W h e n w e p a s s a s i g n a l t h r o u g h a l i n e a r , t i m e - i n v a r i a n t s y s t e m , t h e o u t p u t ' s s p e c t r u m e q u a l s t h e p r o d u c t

( p . 1 4 2 ) o f t h e s y s t e m ' s f r e q u e n c y r e s p o n s e a n d t h e i n p u t ' s s p e c t r u m . T h u s , t h e p o w e r s p e c t r u m o f t h e

s y s t e m ' s o u t p u t i s g i v e n b y

P y (f ) = (|H (f ) |)2P x (f ) ( 6 . 2 3 )

T h i s r e s u l t a p p l i e s t o n o i s e s i g n a l s a s w e l l . W h e n w e p a s s w h i t e n o i s e t h r o u g h a l t e r , t h e o u t p u t i s a l s o a

n o i s e s i g n a l b u t w i t h p o w e r s p e c t r u m (|H (f ) |)2N 02 .

6 . 9 C h a n n e l M o d e l s

1 1

B o t h w i r e l i n e a n d w i r e l e s s c h a n n e l s s h a r e c h a r a c t e r i s t i c s , a l l o w i n g u s t o u s e a c o m m o n m o d e l f o r h o w t h e

c h a n n e l a e c t s t r a n s m i t t e d s i g n a l s .

• T h e t r a n s m i t t e d s i g n a l i s u s u a l l y n o t l t e r e d b y t h e c h a n n e l .

• T h e s i g n a l c a n b e a t t e n u a t e d .

• T h e s i g n a l p r o p a g a t e s t h r o u g h t h e c h a n n e l a t a s p e e d e q u a l t o o r l e s s t h a n t h e s p e e d o f l i g h t , w h i c h

m e a n s t h a t t h e c h a n n e l d e l a y s t h e t r a n s m i s s i o n .

• T h e c h a n n e l m a y i n t r o d u c e a d d i t i v e i n t e r f e r e n c e a n d / o r n o i s e .

1 0

" P a r s e v a l ' s T h e o r e m " , ( 1 ) < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 4 7 / l a t e s t / # p a r s e v a l >

1 1





2 3 6


L e t t i n g α r e p r e s e n t t h e a t t e n u a t i o n i n t r o d u c e d b y t h e c h a n n e l , t h e r e c e i v e r ' s i n p u t s i g n a l i s r e l a t e d t o t h e

t r a n s m i t t e d o n e b y

r (t) = αx (t − τ ) + i (t) + n (t) ( 6 . 2 4 )

T h i s e x p r e s s i o n c o r r e s p o n d s t o t h e s y s t e m m o d e l f o r t h e c h a n n e l s h o w n i n F i g u r e 6 . 4 . I n t h i s b o o k , w e s h a l l

a s s u m e t h a t t h e n o i s e i s w h i t e .

Channel

x(t) r(t) x(t)+Attenuation

α+

Interferencei(t)

Noisen(t)

r(t)Delayτ

F i g u r e 6 . 4 : T h e c h a n n e l c o m p o n e n t o f t h e f u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ( F i g u r e 1 . 3 : F u n -

d a m e n t a l m o d e l o f c o m m u n i c a t i o n ) h a s t h e d e p i c t e d f o r m . T h e a t t e n u a t i o n i s d u e t o p r o p a g a t i o n l o s s .

A d d i n g t h e i n t e r f e r e n c e a n d n o i s e i s j u s t i e d b y t h e l i n e a r i t y p r o p e r t y o f M a x w e l l ' s e q u a t i o n s .

E x e r c i s e 6 . 9 . 1

( S o l u t i o n o n p . 2 9 5 . )

I s t h i s m o d e l f o r t h e c h a n n e l l i n e a r ?

A s e x p e c t e d , t h e s i g n a l t h a t e m e r g e s f r o m t h e c h a n n e l i s c o r r u p t e d , b u t d o e s c o n t a i n t h e t r a n s m i t t e d s i g n a l .

C o m m u n i c a t i o n s y s t e m d e s i g n b e g i n s w i t h d e t a i l i n g t h e c h a n n e l m o d e l , t h e n d e v e l o p i n g t h e t r a n s m i t t e r a n d

r e c e i v e r t h a t b e s t c o m p e n s a t e f o r t h e c h a n n e l ' s c o r r u p t i n g b e h a v i o r . W e c h a r a c t e r i z e t h e c h a n n e l ' s q u a l i t y

b y t h e s i g n a l - t o - i n t e r f e r e n c e r a t i o ( S I R ) a n d t h e s i g n a l - t o - n o i s e r a t i o ( S N R ) . T h e r a t i o s a r e c o m p u t e d

a c c o r d i n g t o t h e r e l a t i v e p o w e r o f e a c h w i t h i n t h e t r a n s m i t t e d s i g n a l ' s b a n d w i d t h . A s s u m i n g t h e

s i g n a l

x (t)' s s p e c t r u m s p a n s t h e f r e q u e n c y i n t e r v a l

[f l, f u], t h e s e r a t i o s c a n b e e x p r e s s e d i n t e r m s o f p o w e r

s p e c t r a .

SIR =2α2

∞0

P x (f ) df

2 f uf l

P i (f ) df ( 6 . 2 5 )

SNR =2α2

∞0

P x (f ) df

N 0 (f u − f l)( 6 . 2 6 )

I n m o s t c a s e s , t h e i n t e r f e r e n c e a n d n o i s e p o w e r s d o n o t v a r y f o r a g i v e n r e c e i v e r . V a r i a t i o n s i n s i g n a l - t o -

i n t e r f e r e n c e a n d s i g n a l - t o - n o i s e r a t i o s a r i s e f r o m t h e a t t e n u a t i o n b e c a u s e o f t r a n s m i t t e r - t o - r e c e i v e r d i s t a n c e

v a r i a t i o n s .

6 . 1 0 B a s e b a n d C o m m u n i c a t i o n

1 2

W e u s e a n a l o g c o m m u n i c a t i o n t e c h n i q u e s f o r a n a l o g m e s s a g e s i g n a l s , l i k e m u s i c , s p e e c h , a n d t e l e v i s i o n .

T r a n s m i s s i o n a n d r e c e p t i o n o f a n a l o g s i g n a l s u s i n g a n a l o g r e s u l t s i n a n i n h e r e n t l y n o i s y r e c e i v e d s i g n a l

( a s s u m i n g t h e c h a n n e l a d d s n o i s e , w h i c h i t a l m o s t c e r t a i n l y d o e s ) .

T h e s i m p l e s t f o r m o f a n a l o g c o m m u n i c a t i o n i s b a s e b a n d c o m m u n i c a t i o n .

P o i n t o f I n t e r e s t : W e u s e a n a l o g c o m m u n i c a t i o n t e c h n i q u e s f o r a n a l o g m e s s a g e s i g n a l s , l i k e

m u s i c , s p e e c h , a n d t e l e v i s i o n . T r a n s m i s s i o n a n d r e c e p t i o n o f a n a l o g s i g n a l s u s i n g a n a l o g r e s u l t s

1 2





2 3 7

i n a n i n h e r e n t l y n o i s y r e c e i v e d s i g n a l ( a s s u m i n g t h e c h a n n e l a d d s n o i s e , w h i c h i t a l m o s t c e r t a i n l y

d o e s ) .

H e r e , t h e t r a n s m i t t e d s i g n a l e q u a l s t h e m e s s a g e t i m e s a t r a n s m i t t e r g a i n .

x (t) = Gm (t) ( 6 . 2 7 )

A n e x a m p l e , w h i c h i s s o m e w h a t o u t o f d a t e , i s t h e w i r e l i n e t e l e p h o n e s y s t e m . Y o u d o n ' t u s e b a s e b a n d

c o m m u n i c a t i o n i n w i r e l e s s s y s t e m s s i m p l y b e c a u s e l o w - f r e q u e n c y s i g n a l s d o n o t r a d i a t e w e l l . T h e r e c e i v e r i n

a b a s e b a n d s y s t e m c a n ' t d o m u c h m o r e t h a n l t e r t h e r e c e i v e d s i g n a l t o r e m o v e o u t - o f - b a n d n o i s e ( i n t e r f e r e n c e

i s s m a l l i n w i r e l i n e c h a n n e l s ) . A s s u m i n g t h e s i g n a l o c c u p i e s a b a n d w i d t h o f W H z ( t h e s i g n a l ' s s p e c t r u m

e x t e n d s f r o m z e r o t o W ) , t h e r e c e i v e r a p p l i e s a l o w p a s s l t e r h a v i n g t h e s a m e b a n d w i d t h , a s s h o w n i n

F i g u r e 6 . 5 .

LPFW

r(t) m(t)^

F i g u r e 6 . 5 : T h e r e c e i v e r f o r b a s e b a n d c o m m u n i c a t i o n s y s t e m s i s q u i t e s i m p l e : a l o w p a s s l t e r h a v i n g

t h e s a m e b a n d w i d t h a s t h e s i g n a l .

W e u s e t h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e r ' s o u t p u t

m (t) t o e v a l u a t e a n y a n a l o g - m e s s a g e c o m -

m u n i c a t i o n s y s t e m . A s s u m e t h a t t h e c h a n n e l i n t r o d u c e s a n a t t e n u a t i o n α a n d w h i t e n o i s e o f s p e c t r a l h e i g h t

N 02 . T h e l t e r d o e s n o t a e c t t h e s i g n a l c o m p o n e n t w e a s s u m e i t s g a i n i s u n i t y b u t d o e s l t e r t h e

n o i s e , r e m o v i n g f r e q u e n c y c o m p o n e n t s a b o v e W H z . I n t h e l t e r ' s o u t p u t , t h e r e c e i v e d s i g n a l p o w e r e q u a l s

α2G2power (m) a n d t h e n o i s e p o w e r N 0W , w h i c h g i v e s a s i g n a l - t o - n o i s e r a t i o o f

SNRbaseband =α2G2power (m)

N 0W ( 6 . 2 8 )

T h e s i g n a l p o w e r power (m) w i l l b e p r o p o r t i o n a l t o t h e b a n d w i d t h W ; t h u s , i n b a s e b a n d c o m m u n i c a t i o n

t h e s i g n a l - t o - n o i s e r a t i o v a r i e s o n l y w i t h t r a n s m i t t e r g a i n a n d c h a n n e l a t t e n u a t i o n a n d n o i s e l e v e l .

6 . 1 1 M o d u l a t e d C o m m u n i c a t i o n

1 3

E s p e c i a l l y f o r w i r e l e s s c h a n n e l s , l i k e c o m m e r c i a l r a d i o a n d t e l e v i s i o n , b u t a l s o f o r w i r e l i n e s y s t e m s l i k e c a b l e

t e l e v i s i o n , a n a n a l o g m e s s a g e s i g n a l m u s t b e m o d u l a t e d : T h e t r a n s m i t t e d s i g n a l ' s s p e c t r u m o c c u r s a t m u c h

h i g h e r f r e q u e n c i e s t h a n t h o s e o c c u p i e d b y t h e s i g n a l .

P o i n t o f I n t e r e s t : W e u s e a n a l o g c o m m u n i c a t i o n t e c h n i q u e s f o r a n a l o g m e s s a g e s i g n a l s , l i k e

m u s i c , s p e e c h , a n d t e l e v i s i o n . T r a n s m i s s i o n a n d r e c e p t i o n o f a n a l o g s i g n a l s u s i n g a n a l o g r e s u l t s

i n a n i n h e r e n t l y n o i s y r e c e i v e d s i g n a l ( a s s u m i n g t h e c h a n n e l a d d s n o i s e , w h i c h i t a l m o s t c e r t a i n l y

d o e s ) .

T h e k e y i d e a o f m o d u l a t i o n i s t o a e c t t h e a m p l i t u d e , f r e q u e n c y o r p h a s e o f w h a t i s k n o w n a s t h e c a r r i e r

s i n u s o i d . F r e q u e n c y m o d u l a t i o n ( F M ) a n d l e s s f r e q u e n t l y u s e d p h a s e m o d u l a t i o n ( P M ) a r e n o t d i s c u s s e d

h e r e ; w e f o c u s o n a m p l i t u d e m o d u l a t i o n ( A M ) . T h e a m p l i t u d e m o d u l a t e d m e s s a g e s i g n a l h a s t h e f o r m

x (t) = Ac (1 + m (t))cos(2πf ct) ( 6 . 2 9 )

1 3





2 3 8


w h e r e f c i s t h e c a r r i e r f r e q u e n c y a n d Ac t h e c a r r i e r a m p l i t u d e . A l s o , t h e s i g n a l ' s a m p l i t u d e i s

a s s u m e d t o b e l e s s t h a n o n e : |m (t) | < 1 . F r o m o u r p r e v i o u s e x p o s u r e t o a m p l i t u d e m o d u l a t i o n ( s e e t h e

F o u r i e r T r a n s f o r m e x a m p l e ( E x a m p l e 4 . 5 ) ) , w e k n o w t h a t t h e t r a n s m i t t e d s i g n a l ' s s p e c t r u m o c c u p i e s t h e

f r e q u e n c y r a n g e [f c−

W, f c + W ], a s s u m i n g t h e s i g n a l ' s b a n d w i d t h i s

W H z ( s e e t h e g u r e ( F i g u r e 6 . 6 ) ) .

T h e c a r r i e r f r e q u e n c y i s u s u a l l y m u c h l a r g e r t h a n t h e s i g n a l ' s h i g h e s t f r e q u e n c y : f c W , w h i c h m e a n s t h a t

t h e t r a n s m i t t e r a n t e n n a a n d c a r r i e r f r e q u e n c y a r e c h o s e n j o i n t l y d u r i n g t h e d e s i g n p r o c e s s .

M(f)^

fWW

R(f)

f

fc+Wf

cW

fc

R(f)~

f

fc+Wf

cW

fc

BPFfc; 2W

r(t) r(t)~

cos 2πfct

LPFW

m(t)^

F i g u r e 6 . 6 : T h e A M c o h e r e n t r e c e i v e r a l o n g w i t h t h e s p e c t r a o f k e y s i g n a l s i s s h o w n f o r t h e c a s e o f a

t r i a n g u l a r - s h a p e d s i g n a l s p e c t r u m . T h e d a s h e d l i n e i n d i c a t e s t h e w h i t e n o i s e l e v e l . N o t e t h a t t h e l t e r s '

c h a r a c t e r i s t i c s c u t o f r e q u e n c y a n d c e n t e r f r e q u e n c y f o r t h e b a n d p a s s l t e r m u s t b e m a t c h t o t h e

m o d u l a t i o n a n d m e s s a g e p a r a m e t e r s .

I g n o r i n g t h e a t t e n u a t i o n a n d n o i s e i n t r o d u c e d b y t h e c h a n n e l f o r t h e m o m e n t , r e c e p t i o n o f a n a m p l i t u d e

m o d u l a t e d s i g n a l i s q u i t e e a s y ( s e e P r o b l e m 4 . 2 0 ) . T h e s o - c a l l e d c o h e r e n t r e c e i v e r m u l t i p l i e s t h e i n p u t

s i g n a l b y a s i n u s o i d a n d l o w p a s s - l t e r s t h e r e s u l t ( F i g u r e 6 . 6 ) .

m (t) = LPF (x (t)cos(2πf ct))

= LPF

Ac (1 + m (t))cos2 (2πf ct) ( 6 . 3 0 )

B e c a u s e o f o u r t r i g o n o m e t r i c i d e n t i t i e s , w e k n o w t h a t

cos2 (2πf ct) =1

2(1 + cos (2π2f ct)) ( 6 . 3 1 )

A t t h i s p o i n t , t h e m e s s a g e s i g n a l i s m u l t i p l i e d b y a c o n s t a n t a n d a s i n u s o i d a t t w i c e t h e c a r r i e r f r e q u e n c y .

M u l t i p l i c a t i o n b y t h e c o n s t a n t t e r m r e t u r n s t h e m e s s a g e s i g n a l t o b a s e b a n d ( w h e r e w e w a n t i t t o b e ! ) w h i l e

m u l t i p l i c a t i o n b y t h e d o u b l e - f r e q u e n c y t e r m y i e l d s a v e r y h i g h f r e q u e n c y s i g n a l . T h e l o w p a s s l t e r r e m o v e s

t h i s h i g h - f r e q u e n c y s i g n a l , l e a v i n g o n l y t h e b a s e b a n d s i g n a l . T h u s , t h e r e c e i v e d s i g n a l i s

m (t) =Ac

2(1 + m (t)) ( 6 . 3 2 )

E x e r c i s e 6 . 1 1 . 1

( S o l u t i o n o n p . 2 9 5 . )

T h i s d e r i v a t i o n r e l i e s s o l e l y o n t h e t i m e d o m a i n ; d e r i v e t h e s a m e r e s u l t i n t h e f r e q u e n c y d o m a i n .

Y o u w o n ' t n e e d t h e t r i g o n o m e t r i c i d e n t i t y w i t h t h i s a p p r o a c h .

B e c a u s e i t i s s o e a s y t o r e m o v e t h e c o n s t a n t t e r m b y e l e c t r i c a l m e a n s w e i n s e r t a c a p a c i t o r i n s e r i e s w i t h

t h e r e c e i v e r ' s o u t p u t w e t y p i c a l l y i g n o r e i t a n d c o n c e n t r a t e o n t h e s i g n a l p o r t i o n o f t h e r e c e i v e r ' s o u t p u t

w h e n c a l c u l a t i n g s i g n a l - t o - n o i s e r a t i o .




2 3 9

6 . 1 2 S i g n a l - t o - N o i s e R a t i o o f a n A m p l i t u d e - M o d u l a t e d S i g n a l

1 4

W h e n w e c o n s i d e r t h e m u c h m o r e r e a l i s t i c s i t u a t i o n w h e n w e h a v e a c h a n n e l t h a t i n t r o d u c e s a t t e n u a t i o n

a n d n o i s e , w e c a n m a k e u s e o f t h e j u s t - d e s c r i b e d r e c e i v e r ' s l i n e a r n a t u r e t o d i r e c t l y d e r i v e t h e r e c e i v e r ' s

o u t p u t . T h e a t t e n u a t i o n a e c t s t h e o u t p u t i n t h e s a m e w a y a s t h e t r a n s m i t t e d s i g n a l : I t s c a l e s t h e o u t p u t

s i g n a l b y t h e s a m e a m o u n t . T h e w h i t e n o i s e , o n t h e o t h e r h a n d , s h o u l d b e l t e r e d f r o m t h e r e c e i v e d s i g n a l

b e f o r e d e m o d u l a t i o n . W e m u s t t h u s i n s e r t a b a n d p a s s l t e r h a v i n g b a n d w i d t h 2W a n d c e n t e r f r e q u e n c y f c :

T h i s l t e r h a s n o e e c t o n t h e r e c e i v e d s i g n a l - r e l a t e d c o m p o n e n t , b u t d o e s r e m o v e o u t - o f - b a n d n o i s e p o w e r .

A s s h o w n i n t h e t r i a n g u l a r - s h a p e d s i g n a l s p e c t r u m ( F i g u r e 6 . 6 ) , w e a p p l y c o h e r e n t r e c e i v e r t o t h i s l t e r e d

s i g n a l , w i t h t h e r e s u l t t h a t t h e d e m o d u l a t e d o u t p u t c o n t a i n s n o i s e t h a t c a n n o t b e r e m o v e d : I t l i e s i n t h e

s a m e s p e c t r a l b a n d a s t h e s i g n a l .

A s w e d e r i v e t h e s i g n a l - t o - n o i s e r a t i o i n t h e d e m o d u l a t e d s i g n a l , l e t ' s a l s o c a l c u l a t e t h e s i g n a l - t o - n o i s e

r a t i o o f t h e b a n d p a s s l t e r ' s o u t p u t r (t) . T h e s i g n a l c o m p o n e n t o f r (t) e q u a l s αAcm (t)cos(2πf ct). T h i s

s i g n a l ' s F o u r i e r t r a n s f o r m e q u a l s

αAc

2(M (f + f c) + M (f − f c)) ( 6 . 3 3 )

m a k i n g t h e p o w e r s p e c t r u m ,

α2Ac2

4

(|M (f + f c) |)2 + (|M (f − f c) |)2

( 6 . 3 4 )

E x e r c i s e 6 . 1 2 . 1

( S o l u t i o n o n p . 2 9 5 . )

I f y o u c a l c u l a t e t h e m a g n i t u d e - s q u a r e d o f t h e r s t e q u a t i o n , y o u d o n ' t o b t a i n t h e s e c o n d u n l e s s

y o u m a k e a n a s s u m p t i o n . W h a t i s i t ?

T h u s , t h e t o t a l s i g n a l - r e l a t e d p o w e r i n r (t) i s

α2Ac2

2 power (m) . T h e n o i s e p o w e r e q u a l s t h e i n t e g r a l o f t h e

n o i s e p o w e r s p e c t r u m ; b e c a u s e t h e p o w e r s p e c t r u m i s c o n s t a n t o v e r t h e t r a n s m i s s i o n b a n d , t h i s i n t e g r a l

e q u a l s t h e n o i s e a m p l i t u d e N 0 t i m e s t h e l t e r ' s b a n d w i d t h 2W . T h e s o - c a l l e d r e c e i v e d s i g n a l - t o - n o i s e

r a t i o t h e s i g n a l - t o - n o i s e r a t i o a f t e r t h e d e r i g e u r f r o n t - e n d b a n d p a s s l t e r a n d b e f o r e d e m o d u l a t i o n

e q u a l s

SNRr = α

2

Ac

2

power (m)4N 0W ( 6 . 3 5 )

T h e d e m o d u l a t e d s i g n a l

m (t) = αAcm(t)2 + n

o u t

(t). C l e a r l y , t h e s i g n a l p o w e r e q u a l s

α2Ac2power(m)4 .

T o d e t e r m i n e t h e n o i s e p o w e r , w e m u s t u n d e r s t a n d h o w t h e c o h e r e n t d e m o d u l a t o r a e c t s t h e b a n d p a s s

n o i s e f o u n d i n r (t) . B e c a u s e w e a r e c o n c e r n e d w i t h n o i s e , w e m u s t d e a l w i t h t h e p o w e r s p e c t r u m s i n c e w e

d o n ' t h a v e t h e F o u r i e r t r a n s f o r m a v a i l a b l e t o u s . L e t t i n g P (f ) d e n o t e t h e p o w e r s p e c t r u m o f r (t)' s n o i s e

c o m p o n e n t , t h e p o w e r s p e c t r u m a f t e r m u l t i p l i c a t i o n b y t h e c a r r i e r h a s t h e f o r m

P (f + f c) + P (f − f c)

4( 6 . 3 6 )

T h e d e l a y a n d a d v a n c e i n f r e q u e n c y i n d i c a t e d h e r e r e s u l t s i n t w o s p e c t r a l n o i s e b a n d s f a l l i n g i n t h e l o w -

f r e q u e n c y r e g i o n o f l o w p a s s l t e r ' s p a s s b a n d . T h u s , t h e t o t a l n o i s e p o w e r i n t h i s l t e r ' s o u t p u t e q u a l s

2 ·N 02 · W · 2 ·

1

4 =N 0W

2. T h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e r ' s o u t p u t t h u s e q u a l s

SNR

m= α2Ac

2power(m)2N 0W

= 2SNRr

( 6 . 3 7 )

L e t ' s b r e a k d o w n t h e c o m p o n e n t s o f t h i s s i g n a l - t o - n o i s e r a t i o t o b e t t e r a p p r e c i a t e h o w t h e c h a n n e l a n d

t h e t r a n s m i t t e r p a r a m e t e r s a e c t c o m m u n i c a t i o n s p e r f o r m a n c e . B e t t e r p e r f o r m a n c e , a s m e a s u r e d b y t h e

S N R , o c c u r s a s i t i n c r e a s e s .

1 4





2 4 0


• M o r e t r a n s m i t t e r p o w e r i n c r e a s i n g Ac i n c r e a s e s t h e s i g n a l - t o - n o i s e r a t i o p r o p o r t i o n a l l y .

• T h e c a r r i e r f r e q u e n c y

f c h a s n o e e c t o n S N R , b u t w e h a v e a s s u m e d t h a t

f c W .

• T h e s i g n a l b a n d w i d t h

W e n t e r s t h e s i g n a l - t o - n o i s e e x p r e s s i o n i n t w o p l a c e s : i m p l i c i t l y t h r o u g h t h e

s i g n a l p o w e r a n d e x p l i c i t l y i n t h e e x p r e s s i o n ' s d e n o m i n a t o r . I f t h e s i g n a l s p e c t r u m h a d a c o n s t a n t

a m p l i t u d e a s w e i n c r e a s e d t h e b a n d w i d t h , s i g n a l p o w e r w o u l d i n c r e a s e p r o p o r t i o n a l l y . O n t h e o t h e r

h a n d , o u r t r a n s m i t t e r e n f o r c e d t h e c r i t e r i o n t h a t s i g n a l a m p l i t u d e w a s c o n s t a n t ( S e c t i o n 6 . 7 ) . S i g n a l

a m p l i t u d e e s s e n t i a l l y e q u a l s t h e i n t e g r a l o f t h e m a g n i t u d e o f t h e s i g n a l ' s s p e c t r u m .

n o t e : T h i s r e s u l t i s n ' t e x a c t , b u t w e d o k n o w t h a t

m (0) = ∞−∞ M (f ) df

.

E n f o r c i n g t h e s i g n a l a m p l i t u d e s p e c i c a t i o n m e a n s t h a t a s t h e s i g n a l ' s b a n d w i d t h i n c r e a s e s w e m u s t d e -

c r e a s e t h e s p e c t r a l a m p l i t u d e , w i t h t h e r e s u l t t h a t t h e s i g n a l p o w e r r e m a i n s c o n s t a n t . T h u s , i n c r e a s i n g

s i g n a l b a n d w i d t h d o e s i n d e e d d e c r e a s e t h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e r ' s o u t p u t .

• I n c r e a s i n g c h a n n e l a t t e n u a t i o n m o v i n g t h e r e c e i v e r f a r t h e r f r o m t h e t r a n s m i t t e r d e c r e a s e s t h e

s i g n a l - t o - n o i s e r a t i o a s t h e s q u a r e . T h u s , s i g n a l - t o - n o i s e r a t i o d e c r e a s e s a s d i s t a n c e - s q u a r e d b e t w e e n

t r a n s m i t t e r a n d r e c e i v e r .

• N o i s e a d d e d b y t h e c h a n n e l a d v e r s e l y a e c t s t h e s i g n a l - t o - n o i s e r a t i o .

I n s u m m a r y , a m p l i t u d e m o d u l a t i o n p r o v i d e s a n e e c t i v e m e a n s f o r s e n d i n g a b a n d l i m i t e d s i g n a l f r o m o n e

p l a c e t o a n o t h e r . F o r w i r e l i n e c h a n n e l s , u s i n g b a s e b a n d o r a m p l i t u d e m o d u l a t i o n m a k e s l i t t l e d i e r e n c e i n

t e r m s o f s i g n a l - t o - n o i s e r a t i o . F o r w i r e l e s s c h a n n e l s , a m p l i t u d e m o d u l a t i o n i s t h e o n l y a l t e r n a t i v e . T h e o n e

A M p a r a m e t e r t h a t d o e s n o t a e c t s i g n a l - t o - n o i s e r a t i o i s t h e c a r r i e r f r e q u e n c y

f c : W e c a n c h o o s e a n y v a l u e

w e w a n t s o l o n g a s t h e t r a n s m i t t e r a n d r e c e i v e r u s e t h e s a m e v a l u e . H o w e v e r , s u p p o s e s o m e o n e e l s e w a n t s t o

u s e A M a n d c h o o s e s t h e s a m e c a r r i e r f r e q u e n c y . T h e t w o r e s u l t i n g t r a n s m i s s i o n s w i l l a d d , a n d b o t h r e c e i v e r s

w i l l p r o d u c e t h e s u m o f t h e t w o s i g n a l s . W h a t w e c l e a r l y n e e d t o d o i s t a l k t o t h e o t h e r p a r t y , a n d a g r e e t o

u s e s e p a r a t e c a r r i e r f r e q u e n c i e s . A s m o r e a n d m o r e u s e r s w i s h t o u s e r a d i o , w e n e e d a f o r u m f o r a g r e e i n g o n

c a r r i e r f r e q u e n c i e s a n d o n s i g n a l b a n d w i d t h . O n e a r t h , t h i s f o r u m i s t h e g o v e r n m e n t . I n t h e U n i t e d S t a t e s ,

t h e F e d e r a l C o m m u n i c a t i o n s C o m m i s s i o n ( F C C ) s t r i c t l y c o n t r o l s t h e u s e o f t h e e l e c t r o m a g n e t i c s p e c t r u m

f o r c o m m u n i c a t i o n s . S e p a r a t e f r e q u e n c y b a n d s a r e a l l o c a t e d f o r c o m m e r c i a l A M , F M , c e l l u l a r t e l e p h o n e

( t h e a n a l o g v e r s i o n o f w h i c h i s A M ) , s h o r t w a v e ( a l s o A M ) , a n d s a t e l l i t e c o m m u n i c a t i o n s .

E x e r c i s e 6 . 1 2 . 2

( S o l u t i o n o n p . 2 9 5 . )

S u p p o s e a l l u s e r s a g r e e t o u s e t h e s a m e s i g n a l b a n d w i d t h . H o w c l o s e l y c a n t h e c a r r i e r f r e q u e n c i e s

b e w h i l e a v o i d i n g c o m m u n i c a t i o n s c r o s s t a l k ? W h a t i s t h e s i g n a l b a n d w i d t h f o r c o m m e r c i a l A M ?

H o w d o e s t h i s b a n d w i d t h c o m p a r e t o t h e s p e e c h b a n d w i d t h ?

6 . 1 3 D i g i t a l C o m m u n i c a t i o n

1 5

E e c t i v e , e r r o r - f r e e t r a n s m i s s i o n o f a s e q u e n c e o f b i t s a b i t s t r e a m b (0) , b (1) , . . . i s t h e g o a l h e r e . W e

f o u n d t h a t a n a l o g s c h e m e s , a s r e p r e s e n t e d b y a m p l i t u d e m o d u l a t i o n , a l w a y s y i e l d a r e c e i v e d s i g n a l c o n t a i n i n g

n o i s e a s w e l l a s t h e m e s s a g e s i g n a l w h e n t h e c h a n n e l a d d s n o i s e . D i g i t a l c o m m u n i c a t i o n s c h e m e s a r e v e r y

d i e r e n t . O n c e w e d e c i d e h o w t o r e p r e s e n t b i t s b y a n a l o g s i g n a l s t h a t c a n b e t r a n s m i t t e d o v e r w i r e l i n e

( l i k e a c o m p u t e r n e t w o r k ) o r w i r e l e s s ( l i k e d i g i t a l c e l l u l a r t e l e p h o n e ) c h a n n e l s , w e w i l l t h e n d e v e l o p a w a y

o f t a c k i n g o n c o m m u n i c a t i o n b i t s t o t h e m e s s a g e b i t s t h a t w i l l r e d u c e c h a n n e l - i n d u c e d e r r o r s g r e a t l y . I n

t h e o r y , d i g i t a l c o m m u n i c a t i o n e r r o r s c a n b e z e r o , e v e n t h o u g h t h e c h a n n e l a d d s n o i s e !

W e r e p r e s e n t a b i t b y a s s o c i a t i n g o n e o f t w o s p e c i c a n a l o g s i g n a l s w i t h t h e b i t ' s v a l u e . T h u s , i f b (n) = 0 ,

w e t r a n s m i t t h e s i g n a l s0 (t) ; i f b (n) = 1 , s e n d s1 (t) . T h e s e t w o s i g n a l s c o m p r i s e t h e s i g n a l s e t f o r d i g i t a l

c o m m u n i c a t i o n a n d a r e d e s i g n e d w i t h t h e c h a n n e l a n d b i t s t r e a m i n m i n d . I n v i r t u a l l y e v e r y c a s e , t h e s e

s i g n a l s h a v e a n i t e d u r a t i o n

T c o m m o n t o b o t h s i g n a l s ; t h i s d u r a t i o n i s k n o w n a s t h e b i t i n t e r v a l .

E x a c t l y w h a t s i g n a l s w e u s e u l t i m a t e l y a e c t s h o w w e l l t h e b i t s c a n b e r e c e i v e d . I n t e r e s t i n g l y , b a s e b a n d

1 5





2 4 1

a n d m o d u l a t e d s i g n a l s e t s c a n y i e l d t h e s a m e p e r f o r m a n c e . O t h e r c o n s i d e r a t i o n s d e t e r m i n e h o w s i g n a l s e t

c h o i c e a e c t s d i g i t a l c o m m u n i c a t i o n p e r f o r m a n c e .

E x e r c i s e 6 . 1 3 . 1

( S o l u t i o n o n p . 2 9 5 . )

W h a t i s t h e e x p r e s s i o n f o r t h e s i g n a l a r i s i n g f r o m a d i g i t a l t r a n s m i t t e r s e n d i n g t h e b i t s t r e a m

b (n),

n = . . . , −1, 0, 1, . . . u s i n g t h e s i g n a l s e t s0 (t) , s1 (t) , e a c h s i g n a l o f w h i c h h a s d u r a t i o n T ?

6 . 1 4 B i n a r y P h a s e S h i f t K e y i n g

1 6

A c o m m o n l y u s e d e x a m p l e o f a s i g n a l s e t c o n s i s t s o f p u l s e s t h a t a r e n e g a t i v e s o f e a c h o t h e r ( F i g u r e 6 . 7 ) .

s0 (t) = ApT (t) ( 6 . 3 8 )

s1 (t) = − (ApT (t))

A

Tt

s0(t)

–A

t

s1(t)

T

F i g u r e 6 . 7

H e r e , w e h a v e a b a s e b a n d s i g n a l s e t s u i t a b l e f o r w i r e l i n e t r a n s m i s s i o n . T h e e n t i r e b i t s t r e a m b (n) i s

r e p r e s e n t e d b y a s e q u e n c e o f t h e s e s i g n a l s . M a t h e m a t i c a l l y , t h e t r a n s m i t t e d s i g n a l h a s t h e f o r m

x (t) =nn

(−1)b(n)ApT (t − nT ) ( 6 . 3 9 )

a n d g r a p h i c a l l y F i g u r e 6 . 8 s h o w s w h a t a t y p i c a l t r a n s m i t t e d s i g n a l m i g h t b e .

1 6





2 4 2


A

T t2T 3T 4T

–A

x(t)

“0” “1” “1” “0”

( a )

A

T

t

2T 3T 4T

x(t)“0” “1” “1” “0”

( b )

F i g u r e 6 . 8 : T h e u p p e r p l o t s h o w s h o w a b a s e b a n d s i g n a l s e t f o r t r a n s m i t t i n g t h e b i t s e q u e n c e

0 1 1 0

.

T h e l o w e r o n e s h o w s a n a m p l i t u d e - m o d u l a t e d v a r i a n t s u i t a b l e f o r w i r e l e s s c h a n n e l s .

T h i s w a y o f r e p r e s e n t i n g a b i t s t r e a m c h a n g i n g t h e b i t c h a n g e s t h e s i g n o f t h e t r a n s m i t t e d s i g n a l i s

k n o w n a s b i n a r y p h a s e s h i f t k e y i n g a n d a b b r e v i a t e d B P S K . T h e n a m e c o m e s f r o m c o n c i s e l y e x p r e s s i n g

t h i s p o p u l a r w a y o f c o m m u n i c a t i n g d i g i t a l i n f o r m a t i o n . T h e w o r d " b i n a r y " i s c l e a r e n o u g h ( o n e b i n a r y - v a l u e d

q u a n t i t y i s t r a n s m i t t e d d u r i n g a b i t i n t e r v a l ) . C h a n g i n g t h e s i g n o f s i n u s o i d a m o u n t s t o c h a n g i n g s h i f t i n g

t h e p h a s e b y

π( a l t h o u g h w e d o n ' t h a v e a s i n u s o i d y e t ) . T h e w o r d " k e y i n g " r e e c t s b a c k t o t h e r s t e l e c t r i c a l

c o m m u n i c a t i o n s y s t e m , w h i c h h a p p e n e d t o b e d i g i t a l a s w e l l : t h e t e l e g r a p h .

T h e d a t a r a t e

Ro f a d i g i t a l c o m m u n i c a t i o n s y s t e m i s h o w f r e q u e n t l y a n i n f o r m a t i o n b i t i s t r a n s m i t t e d .

I n t h i s e x a m p l e i t e q u a l s t h e r e c i p r o c a l o f t h e b i t i n t e r v a l : R = 1T . T h u s , f o r a 1 M b p s ( m e g a b i t p e r s e c o n d )

t r a n s m i s s i o n , w e m u s t h a v e T = 1µs.

T h e c h o i c e o f s i g n a l s t o r e p r e s e n t b i t v a l u e s i s a r b i t r a r y t o s o m e d e g r e e . C l e a r l y , w e d o n o t w a n t t o

c h o o s e s i g n a l s e t m e m b e r s t o b e t h e s a m e ; w e c o u l d n ' t d i s t i n g u i s h b i t s i f w e d i d s o . W e c o u l d a l s o h a v e

m a d e t h e n e g a t i v e - a m p l i t u d e p u l s e r e p r e s e n t a 0 a n d t h e p o s i t i v e o n e a 1 . T h i s c h o i c e i s i n d e e d a r b i t r a r y

a n d w i l l h a v e n o e e c t o n p e r f o r m a n c e a s s u m i n g t h e r e c e i v e r k n o w s w h i c h s i g n a l r e p r e s e n t s w h i c h b i t . A s

i n a l l c o m m u n i c a t i o n s y s t e m s , w e d e s i g n t r a n s m i t t e r a n d r e c e i v e r t o g e t h e r .

A s i m p l e s i g n a l s e t f o r b o t h w i r e l e s s a n d w i r e l i n e c h a n n e l s a m o u n t s t o a m p l i t u d e m o d u l a t i n g a b a s e b a n d

s i g n a l s e t ( m o r e a p p r o p r i a t e f o r a w i r e l i n e c h a n n e l ) b y a c a r r i e r h a v i n g a f r e q u e n c y h a r m o n i c w i t h t h e b i t

i n t e r v a l .

s0 (t) = ApT (t)sin2πkt

T ( 6 . 4 0 )

s1 (t) = −

ApT (t)sin

2πkt

T




2 4 3

A

T

t

s0(t)

t

s1(t)

TA

F i g u r e 6 . 9


W h a t i s t h e v a l u e o f

ki n t h i s e x a m p l e ?

T h i s s i g n a l s e t i s a l s o k n o w n a s a B P S K s i g n a l s e t . W e ' l l s h o w l a t e r t h a t i n d e e d b o t h s i g n a l s e t s p r o v i d e

i d e n t i c a l p e r f o r m a n c e l e v e l s w h e n t h e s i g n a l - t o - n o i s e r a t i o s a r e e q u a l .

E x e r c i s e 6 . 1 4 . 2

( S o l u t i o n o n p . 2 9 5 . )

W r i t e a f o r m u l a , i n t h e s t y l e o f t h e b a s e b a n d s i g n a l s e t , f o r t h e t r a n s m i t t e d s i g n a l a s s h o w n i n

t h e p l o t o f t h e b a s e b a n d s i g n a l s e t

1 7

t h a t e m e r g e s w h e n w e u s e t h i s m o d u l a t e d s i g n a l .

W h a t i s t h e t r a n s m i s s i o n b a n d w i d t h o f t h e s e s i g n a l s e t s ? W e n e e d o n l y c o n s i d e r t h e b a s e b a n d v e r s i o n

a s t h e s e c o n d i s a n a m p l i t u d e - m o d u l a t e d v e r s i o n o f t h e r s t . T h e b a n d w i d t h i s d e t e r m i n e d b y t h e b i t

s e q u e n c e . I f t h e b i t s e q u e n c e i s c o n s t a n t a l w a y s 0 o r a l w a y s 1 t h e t r a n s m i t t e d s i g n a l i s a c o n s t a n t , w h i c h

h a s z e r o b a n d w i d t h . T h e w o r s t - c a s e b a n d w i d t h c o n s u m i n g b i t s e q u e n c e i s t h e a l t e r n a t i n g o n e s h o w n i n

F i g u r e 6 . 1 0 . I n t h i s c a s e , t h e t r a n s m i t t e d s i g n a l i s a s q u a r e w a v e h a v i n g a p e r i o d o f 2T .

A

T t2T 3T 4T –A

x(t)

“0” “1” “1”“0”

F i g u r e 6 . 1 0 : H e r e w e s h o w t h e t r a n s m i t t e d w a v e f o r m c o r r e s p o n d i n g t o a n a l t e r n a t i n g b i t s e q u e n c e .

F r o m o u r w o r k i n F o u r i e r s e r i e s , w e k n o w t h a t t h i s s i g n a l ' s s p e c t r u m c o n t a i n s o d d - h a r m o n i c s o f t h e

f u n d a m e n t a l , w h i c h h e r e e q u a l s

12T . T h u s , s t r i c t l y s p e a k i n g , t h e s i g n a l ' s b a n d w i d t h i s i n n i t e . I n p r a c t i c a l

t e r m s , w e u s e t h e 9 0 % - p o w e r b a n d w i d t h t o a s s e s s t h e e e c t i v e r a n g e o f f r e q u e n c i e s c o n s u m e d b y t h e s i g n a l .

T h e r s t a n d t h i r d h a r m o n i c s c o n t a i n t h a t f r a c t i o n o f t h e t o t a l p o w e r , m e a n i n g t h a t t h e e e c t i v e b a n d w i d t h

o f o u r b a s e b a n d s i g n a l i s 32T o r , e x p r e s s i n g t h i s q u a n t i t y i n t e r m s o f t h e d a t a r a t e , 3R2 . T h u s , a d i g i t a l

c o m m u n i c a t i o n s s i g n a l r e q u i r e s m o r e b a n d w i d t h t h a n t h e d a t a r a t e : a 1 M b p s b a s e b a n d s y s t e m r e q u i r e s a

b a n d w i d t h o f a t l e a s t 1 . 5 M H z . L i s t e n c a r e f u l l y w h e n s o m e o n e d e s c r i b e s t h e t r a n s m i s s i o n b a n d w i d t h o f

d i g i t a l c o m m u n i c a t i o n s y s t e m s : D i d t h e y s a y " m e g a b i t s " o r " m e g a h e r t z " ?

E x e r c i s e 6 . 1 4 . 3

( S o l u t i o n o n p . 2 9 5 . )

S h o w t h a t i n d e e d t h e r s t a n d t h i r d h a r m o n i c s c o n t a i n 9 0 % o f t h e t r a n s m i t t e d p o w e r . I f t h e

r e c e i v e r u s e s a f r o n t - e n d l t e r o f b a n d w i d t h

32T , w h a t i s t h e t o t a l h a r m o n i c d i s t o r t i o n o f t h e r e c e i v e d

s i g n a l ?

1 7

" S i g n a l S e t s " , F i g u r e 2 < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 2 / l a t e s t / # g 1 0 0 1 >




2 4 4


E x e r c i s e 6 . 1 4 . 4

( S o l u t i o n o n p . 2 9 5 . )

W h a t i s t h e 9 0 % t r a n s m i s s i o n b a n d w i d t h o f t h e m o d u l a t e d s i g n a l s e t ?

6 . 1 5 F r e q u e n c y S h i f t K e y i n g

1 8

I n f r e q u e n c y - s h i f t k e y i n g ( F S K ) , t h e b i t a e c t s t h e f r e q u e n c y o f a c a r r i e r s i n u s o i d .

s0 (t) = ApT (t)sin(2πf 0t) ( 6 . 4 1 )

s1 (t) = ApT (t)sin(2πf 1t)

A

Tt

s0(t)

t

s1(t)

T

A

F i g u r e 6 . 1 1

T h e f r e q u e n c i e s f 0 , f 1 a r e u s u a l l y h a r m o n i c a l l y r e l a t e d t o t h e b i t i n t e r v a l . I n t h e d e p i c t e d e x a m p l e ,

f 0 = 3T a n d f 1 = 4

T . A s c a n b e s e e n f r o m t h e t r a n s m i t t e d s i g n a l f o r o u r e x a m p l e b i t s t r e a m ( F i g u r e 6 . 1 2 ) ,

t h e t r a n s i t i o n s a t b i t i n t e r v a l b o u n d a r i e s a r e s m o o t h e r t h a n t h o s e o f B P S K .

T

A

t

“0” “1” “1” “0”x(t)

2T 3T 4T

F i g u r e 6 . 1 2 : T h i s p l o t s h o w s t h e F S K w a v e f o r m f o r s a m e b i t s t r e a m u s e d i n t h e B P S K e x a m p l e

( F i g u r e 6 . 8 ) .

T o d e t e r m i n e t h e b a n d w i d t h r e q u i r e d b y t h i s s i g n a l s e t , w e a g a i n c o n s i d e r t h e a l t e r n a t i n g b i t s t r e a m .

T h i n k o f i t a s t w o s i g n a l s a d d e d t o g e t h e r : T h e r s t c o m p r i s e d o f t h e s i g n a l

s0 (t), t h e z e r o s i g n a l ,

s0 (t) ,

z e r o , e t c . , a n d t h e s e c o n d h a v i n g t h e s a m e s t r u c t u r e b u t i n t e r l e a v e d w i t h t h e r s t a n d c o n t a i n i n g

s1 (t)( F i g u r e 6 . 1 3 ) .

1 8





2 4 5

T

A

t

“0” “1” “1”“0”

x(t)

2T 3T 4T

A

t

“0” “0”

T

A

t

“1” “1”

2T 3T 4T

+=

F i g u r e 6 . 1 3 : T h e d e p i c t e d d e c o m p o s i t i o n o f t h e F S K - m o d u l a t e d a l t e r n a t i n g b i t s t r e a m i n t o i t s

f r e q u e n c y c o m p o n e n t s s i m p l i e s t h e c a l c u l a t i o n o f i t s b a n d w i d t h .

E a c h c o m p o n e n t c a n b e t h o u g h t o f a s a x e d - f r e q u e n c y s i n u s o i d m u l t i p l i e d b y a s q u a r e w a v e o f p e r i o d

2T t h a t a l t e r n a t e s b e t w e e n o n e a n d z e r o . T h i s b a s e b a n d s q u a r e w a v e h a s t h e s a m e F o u r i e r s p e c t r u m a s

o u r B P S K e x a m p l e , b u t w i t h t h e a d d i t i o n o f t h e c o n s t a n t t e r m c0 . T h i s q u a n t i t y ' s p r e s e n c e c h a n g e s t h e

n u m b e r o f F o u r i e r s e r i e s t e r m s r e q u i r e d f o r t h e 9 0 % b a n d w i d t h : N o w w e n e e d o n l y i n c l u d e t h e z e r o a n d

r s t h a r m o n i c s t o a c h i e v e i t . T h e b a n d w i d t h t h u s e q u a l s , w i t h

f 0 < f 1 ,

f 1 + 12T −

f 0 − 1

2T

= f 1 − f 0 + 1

T .

I f t h e t w o f r e q u e n c i e s a r e h a r m o n i c s o f t h e b i t - i n t e r v a l d u r a t i o n ,

f 0 = k0T a n d

f 1 = k1T w i t h

k1 > k0 , t h e

b a n d w i d t h e q u a l s

k1+−k0+1T . I f t h e d i e r e n c e b e t w e e n h a r m o n i c n u m b e r s i s 1, t h e n t h e F S K b a n d w i d t h i s

s m a l l e r t h a n t h e B P S K b a n d w i d t h . I f t h e d i e r e n c e i s 2, t h e b a n d w i d t h s a r e e q u a l a n d l a r g e r d i e r e n c e s

p r o d u c e a t r a n s m i s s i o n b a n d w i d t h l a r g e r t h a n t h a t r e s u l t i n g f r o m u s i n g a B P S K s i g n a l s e t .

6 . 1 6 D i g i t a l C o m m u n i c a t i o n R e c e i v e r s

1 9

T h e r e c e i v e r i n t e r e s t e d i n t h e t r a n s m i t t e d b i t s t r e a m m u s t p e r f o r m t w o t a s k s w h e n r e c e i v e d w a v e f o r m

r (t)b e g i n s .

• I t m u s t d e t e r m i n e w h e n b i t b o u n d a r i e s o c c u r : T h e r e c e i v e r n e e d s t o s y n c h r o n i z e w i t h t h e t r a n s m i t t e d

s i g n a l . B e c a u s e t r a n s m i t t e r a n d r e c e i v e r a r e d e s i g n e d i n c o n c e r t , b o t h u s e t h e s a m e v a l u e f o r t h e b i t

i n t e r v a l T . S y n c h r o n i z a t i o n c a n o c c u r b e c a u s e t h e t r a n s m i t t e r b e g i n s s e n d i n g w i t h a r e f e r e n c e b i t

s e q u e n c e , k n o w n a s t h e p r e a m b l e . T h i s r e f e r e n c e b i t s e q u e n c e i s u s u a l l y t h e a l t e r n a t i n g s e q u e n c e

a s s h o w n i n t h e s q u a r e w a v e e x a m p l e

2 0

a n d i n t h e F S K e x a m p l e ( F i g u r e 6 . 1 3 ) . T h e r e c e i v e r k n o w s

w h a t t h e p r e a m b l e b i t s e q u e n c e i s a n d u s e s i t t o d e t e r m i n e w h e n b i t b o u n d a r i e s o c c u r . T h i s p r o c e d u r e

a m o u n t s t o w h a t i n d i g i t a l h a r d w a r e a s s e l f - c l o c k i n g s i g n a l i n g : T h e r e c e i v e r o f a b i t s t r e a m m u s t

d e r i v e t h e c l o c k w h e n b i t b o u n d a r i e s o c c u r f r o m i t s i n p u t s i g n a l . B e c a u s e t h e r e c e i v e r u s u a l l y

d o e s n o t d e t e r m i n e w h i c h b i t w a s s e n t u n t i l s y n c h r o n i z a t i o n o c c u r s , i t d o e s n o t k n o w w h e n d u r i n g t h e

p r e a m b l e i t o b t a i n e d s y n c h r o n i z a t i o n . T h e t r a n s m i t t e r s i g n a l s t h e e n d o f t h e p r e a m b l e b y s w i t c h i n g

t o a s e c o n d b i t s e q u e n c e . T h e s e c o n d p r e a m b l e p h a s e i n f o r m s t h e r e c e i v e r t h a t d a t a b i t s a r e a b o u t t o

c o m e a n d t h a t t h e p r e a m b l e i s a l m o s t o v e r .

• O n c e s y n c h r o n i z e d a n d d a t a b i t s a r e t r a n s m i t t e d , t h e r e c e i v e r m u s t t h e n d e t e r m i n e e v e r y T s e c o n d s

w h a t b i t w a s t r a n s m i t t e d d u r i n g t h e p r e v i o u s b i t i n t e r v a l . W e f o c u s o n t h i s a s p e c t o f t h e d i g i t a l

1 9


2 0

" T r a n s m i s s i o n B a n d w i d t h " , F i g u r e 1 < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 4 / l a t e s t / # g 1 0 0 3 >




2 4 6


r e c e i v e r b e c a u s e t h i s s t r a t e g y i s a l s o u s e d i n s y n c h r o n i z a t i o n .

T h e r e c e i v e r f o r d i g i t a l c o m m u n i c a t i o n i s k n o w n a s a m a t c h e d l t e r .

O p t i m a l r e c e i v e r s t r u c t u r e

s1(t-nT)

(⋅)nT

(n+1)T

∫

r(t)

s0(t-nT)

(⋅)nT

(n+1)T

∫ ChooseLargest

F i g u r e 6 . 1 4 : T h e o p t i m a l r e c e i v e r s t r u c t u r e f o r d i g i t a l c o m m u n i c a t i o n f a c e d w i t h a d d i t i v e w h i t e n o i s e

c h a n n e l s i s t h e d e p i c t e d m a t c h e d l t e r .

T h i s r e c e i v e r , s h o w n i n F i g u r e 6 . 1 4 ( O p t i m a l r e c e i v e r s t r u c t u r e ) , m u l t i p l i e s t h e r e c e i v e d s i g n a l b y e a c h o f

t h e p o s s i b l e m e m b e r s o f t h e t r a n s m i t t e r s i g n a l s e t , i n t e g r a t e s t h e p r o d u c t o v e r t h e b i t i n t e r v a l , a n d c o m p a r e s

t h e r e s u l t s . W h i c h e v e r p a t h t h r o u g h t h e r e c e i v e r y i e l d s t h e l a r g e s t v a l u e c o r r e s p o n d s t o t h e r e c e i v e r ' s d e c i s i o n

a s t o w h a t b i t w a s s e n t d u r i n g t h e p r e v i o u s b i t i n t e r v a l . F o r t h e n e x t b i t i n t e r v a l , t h e m u l t i p l i c a t i o n a n d

i n t e g r a t i o n b e g i n s a g a i n , w i t h t h e n e x t b i t d e c i s i o n m a d e a t t h e e n d o f t h e b i t i n t e r v a l . M a t h e m a t i c a l l y , t h e

r e c e i v e d v a l u e o f b (n) , w h i c h w e l a b e l

b (n) , i s g i v e n b y

b (n) = argmaxi

(n+1)T

nT

r (t) si (t) dt ( 6 . 4 2 )

Y o u m a y n o t h a v e s e e n t h e argmaxi

n o t a t i o n b e f o r e . maxi i, · y i e l d s t h e m a x i m u m v a l u e o f i t s a r g u m e n t

w i t h r e s p e c t t o t h e i n d e x

i.

argmaxi

e q u a l s t h e v a l u e o f t h e i n d e x t h a t y i e l d s t h e m a x i m u m . N o t e t h a t t h e

p r e c i s e n u m e r i c a l v a l u e o f t h e i n t e g r a t o r ' s o u t p u t d o e s n o t m a t t e r ; w h a t d o e s m a t t e r i s i t s v a l u e r e l a t i v e t o

t h e o t h e r i n t e g r a t o r ' s o u t p u t .

L e t ' s a s s u m e a p e r f e c t c h a n n e l f o r t h e m o m e n t : T h e r e c e i v e d s i g n a l e q u a l s t h e t r a n s m i t t e d o n e . I f b i t 0

w e r e s e n t u s i n g t h e b a s e b a n d B P S K s i g n a l s e t , t h e i n t e g r a t o r o u t p u t s w o u l d b e (n+1)T nT

r (t) s0 (t) dt = A2T ( 6 . 4 3 )

(n+1)T nT r (t) s1 (t) dt = − A

2

T I f b i t 1 w e r e s e n t , (n+1)T

nT

r (t) s0 (t) dt = − A2T

( 6 . 4 4 )

(n+1)T nT

r (t) s1 (t) dt = A2T




2 4 7

E x e r c i s e 6 . 1 6 . 1

( S o l u t i o n o n p . 2 9 6 . )

C a n y o u d e v e l o p a r e c e i v e r f o r B P S K s i g n a l s e t s t h a t r e q u i r e s o n l y o n e m u l t i p l i e r - i n t e g r a t o r

c o m b i n a t i o n ?

E x e r c i s e 6 . 1 6 . 2

( S o l u t i o n o n p . 2 9 6 . )

W h a t i s t h e c o r r e s p o n d i n g r e s u l t w h e n t h e a m p l i t u d e - m o d u l a t e d B P S K s i g n a l s e t i s u s e d ?

C l e a r l y , t h i s r e c e i v e r w o u l d a l w a y s c h o o s e t h e b i t c o r r e c t l y . C h a n n e l a t t e n u a t i o n w o u l d n o t a e c t t h i s

c o r r e c t n e s s ; i t w o u l d o n l y m a k e t h e v a l u e s s m a l l e r , b u t a l l t h a t m a t t e r s i s w h i c h i s l a r g e s t .

6 . 1 7 D i g i t a l C o m m u n i c a t i o n i n t h e P r e s e n c e o f N o i s e

2 1

W h e n w e i n c o r p o r a t e a d d i t i v e n o i s e i n t o o u r c h a n n e l m o d e l , s o t h a t

r (t) = αsi (t)+ n (t), e r r o r s c a n c r e e p i n .

I f t h e t r a n s m i t t e r s e n t b i t 0 u s i n g a B P S K s i g n a l s e t ( S e c t i o n 6 . 1 4 ) , t h e i n t e g r a t o r s ' o u t p u t s i n t h e m a t c h e d

l t e r r e c e i v e r ( F i g u r e 6 . 1 4 : O p t i m a l r e c e i v e r s t r u c t u r e ) w o u l d b e :

(n+1)T

nT

r (t) s0 (t) dt = αA2T + (n+1)T

nT

n (t) s0 (t) dt ( 6 . 4 5 )

(n+1)T nT

r (t) s1 (t) dt = αA2T +

(n+1)T nT

n (t) s1 (t) dt

I t i s t h e q u a n t i t i e s c o n t a i n i n g t h e n o i s e t e r m s t h a t c a u s e e r r o r s i n t h e r e c e i v e r ' s d e c i s i o n - m a k i n g p r o c e s s .

B e c a u s e t h e y i n v o l v e n o i s e , t h e v a l u e s o f t h e s e i n t e g r a l s a r e r a n d o m q u a n t i t i e s d r a w n f r o m s o m e p r o b a b i l i t y

d i s t r i b u t i o n t h a t v a r y e r r a t i c a l l y f r o m b i t i n t e r v a l t o b i t i n t e r v a l . B e c a u s e t h e n o i s e h a s z e r o a v e r a g e v a l u e

a n d h a s a n e q u a l a m o u n t o f p o w e r i n a l l f r e q u e n c y b a n d s , t h e v a l u e s o f t h e i n t e g r a l s w i l l h o v e r a b o u t z e r o .

W h a t i s i m p o r t a n t i s h o w m u c h t h e y v a r y . I f t h e n o i s e i s s u c h t h a t i t s i n t e g r a l t e r m i s m o r e n e g a t i v e t h a n

αA2T , t h e n t h e r e c e i v e r w i l l m a k e a n e r r o r , d e c i d i n g t h a t t h e t r a n s m i t t e d z e r o - v a l u e d b i t w a s i n d e e d a o n e .

T h e p r o b a b i l i t y t h a t t h i s s i t u a t i o n o c c u r s d e p e n d s o n t h r e e f a c t o r s :

•S i g n a l S e t C h o i c e T h e d i e r e n c e b e t w e e n t h e s i g n a l - d e p e n d e n t t e r m s i n t h e i n t e g r a t o r s ' o u t p u t s

( e q u a t i o n s ( 6 . 4 5 ) ) d e n e s h o w l a r g e t h e n o i s e t e r m m u s t b e f o r a n i n c o r r e c t r e c e i v e r d e c i s i o n t o r e s u l t .

W h a t a e c t s t h e p r o b a b i l i t y o f s u c h e r r o r s o c c u r r i n g i s t h e e n e r g y i n t h e d i e r e n c e o f t h e r e c e i v e d

s i g n a l s i n c o m p a r i s o n t o t h e n o i s e t e r m ' s v a r i a b i l i t y . T h e s i g n a l - d i e r e n c e e n e r g y e q u a l s T 0

(s1 (t) − s0 (t))2dt

F o r o u r B P S K b a s e b a n d s i g n a l s e t , t h e d i e r e n c e - s i g n a l - e n e r g y t e r m i s 4α2A4T 2 .

• V a r i a b i l i t y o f t h e N o i s e T e r m W e q u a n t i f y v a r i a b i l i t y b y t h e s p e c t r a l h e i g h t o f t h e w h i t e n o i s e

N 02 a d d e d b y t h e c h a n n e l .

• P r o b a b i l i t y D i s t r i b u t i o n o f t h e N o i s e T e r m T h e v a l u e o f t h e n o i s e t e r m s r e l a t i v e t o t h e

s i g n a l t e r m s a n d t h e p r o b a b i l i t y o f t h e i r o c c u r r e n c e d i r e c t l y a e c t t h e l i k e l i h o o d t h a t a r e c e i v e r e r r o r

w i l l o c c u r . F o r t h e w h i t e n o i s e w e h a v e b e e n c o n s i d e r i n g , t h e u n d e r l y i n g d i s t r i b u t i o n s a r e G a u s s i a n .

D e r i v i n g t h e f o l l o w i n g e x p r e s s i o n f o r t h e p r o b a b i l i t y t h e r e c e i v e r m a k e s a n e r r o r o n a n y b i t t r a n s m i s s i o n

i s c o m p l i c a t e d b u t c a n b e f o u n d a t h e r e

2 2

a n d h e r e

2 3

.

pe = Q

R T

0(s1(t)−s0(t))2dt

2N 0

= Q

2α2A2T

N 0

f o r t h e B P S K c a s e

( 6 . 4 6 )

2 1


2 2

" D e t e c t i o n o f S i g n a l s i n N o i s e " < h t t p : / / c n x . o r g / c o n t e n t / m 1 6 2 5 3 / l a t e s t / >

2 3

" C o n t i n u o u s - T i m e D e t e c t i o n T h e o r y " < h t t p : / / c n x . o r g / c o n t e n t / m 1 1 4 0 6 / l a t e s t / >




2 4 8


H e r e Q (·) i s t h e i n t e g r a l Q (x) = 1√ 2π

∞x e−

α2

2 dα. T h i s i n t e g r a l h a s n o c l o s e d f o r m e x p r e s s i o n , b u t i t

c a n b e a c c u r a t e l y c o m p u t e d . A s F i g u r e 6 . 1 5 i l l u s t r a t e s , Q (·) i s a d e c r e a s i n g , v e r y n o n l i n e a r f u n c t i o n .

0 1 2 3 4 5 610

10

10

10-2

100

-4

-6

-8

Q(x)

F i g u r e 6 . 1 5 : T h e f u n c t i o n Q (x) i s p l o t t e d i n s e m i l o g a r i t h m i c c o o r d i n a t e s . N o t e t h a t i t d e c r e a s e s v e r y

r a p i d l y f o r s m a l l i n c r e a s e s i n i t s a r g u m e n t s . F o r e x a m p l e , w h e n

xi n c r e a s e s f r o m 4 t o 5,

Q (x) d e c r e a s e s

b y a f a c t o r o f

100.

T h e t e r m A2T e q u a l s t h e e n e r g y e x p e n d e d b y t h e t r a n s m i t t e r i n s e n d i n g t h e b i t ; w e l a b e l t h i s t e r m E b . W e

a r r i v e a t a c o n c i s e e x p r e s s i o n f o r t h e p r o b a b i l i t y t h e m a t c h e d l t e r r e c e i v e r m a k e s a b i t - r e c e p t i o n e r r o r .

pe = Q

2α2E bN 0

( 6 . 4 7 )

F i g u r e 6 . 1 6 s h o w s h o w t h e r e c e i v e r ' s e r r o r r a t e v a r i e s w i t h t h e s i g n a l - t o - n o i s e r a t i o

α2E bN 0

.




2 4 9

10-8

10-6

10-4

10-2

100

Signal-to-Noise Ratio (dB)

P r o b a b i l i t y o f B i t E r r o r

-5 0 5 10

BPSK

FSK

F i g u r e 6 . 1 6 : T h e p r o b a b i l i t y t h a t t h e m a t c h e d - l t e r r e c e i v e r m a k e s a n e r r o r o n a n y b i t t r a n s m i s s i o n

i s p l o t t e d a g a i n s t t h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e d s i g n a l . T h e u p p e r c u r v e s h o w s t h e p e r f o r m a n c e

o f t h e F S K s i g n a l s e t , t h e l o w e r ( a n d t h e r e f o r e b e t t e r ) o n e t h e B P S K s i g n a l s e t .

E x e r c i s e 6 . 1 7 . 1

( S o l u t i o n o n p . 2 9 6 . )

D e r i v e t h e p r o b a b i l i t y o f e r r o r e x p r e s s i o n f o r t h e m o d u l a t e d B P S K s i g n a l s e t , a n d s h o w t h a t i t s

p e r f o r m a n c e i d e n t i c a l l y e q u a l s t h a t o f t h e b a s e b a n d B P S K s i g n a l s e t .

6 . 1 8 D i g i t a l C o m m u n i c a t i o n S y s t e m P r o p e r t i e s

2 4

R e s u l t s f r o m t h e R e c e i v e r E r r o r m o d u l e ( S e c t i o n 6 . 1 7 ) r e v e a l s s e v e r a l p r o p e r t i e s a b o u t d i g i t a l c o m m u n i c a t i o n

s y s t e m s .

• A s t h e r e c e i v e d s i g n a l b e c o m e s i n c r e a s i n g l y n o i s y , w h e t h e r d u e t o i n c r e a s e d d i s t a n c e f r o m t h e t r a n s m i t -

t e r ( s m a l l e r α) o r t o i n c r e a s e d n o i s e i n t h e c h a n n e l ( l a r g e r N 0 ) , t h e p r o b a b i l i t y t h e r e c e i v e r m a k e s a n

e r r o r a p p r o a c h e s 1/2 . I n s u c h s i t u a t i o n s , t h e r e c e i v e r p e r f o r m s o n l y s l i g h t l y b e t t e r t h a n t h e " r e c e i v e r "

t h a t i g n o r e s w h a t w a s t r a n s m i t t e d a n d m e r e l y g u e s s e s w h a t b i t w a s t r a n s m i t t e d . C o n s e q u e n t l y , i t

b e c o m e s a l m o s t i m p o s s i b l e t o c o m m u n i c a t e i n f o r m a t i o n w h e n d i g i t a l c h a n n e l s b e c o m e n o i s y .

• A s t h e s i g n a l - t o - n o i s e r a t i o i n c r e a s e s , p e r f o r m a n c e g a i n s s m a l l e r p r o b a b i l i t y o f e r r o r pe c a n b e e a s i l y

o b t a i n e d . A t a s i g n a l - t o - n o i s e r a t i o o f 1 2 d B , t h e p r o b a b i l i t y t h e r e c e i v e r m a k e s a n e r r o r e q u a l s 10−8 .

I n w o r d s , o n e o u t o f o n e h u n d r e d m i l l i o n b i t s w i l l , o n t h e a v e r a g e , b e i n e r r o r .

• O n c e t h e s i g n a l - t o - n o i s e r a t i o e x c e e d s a b o u t 5 d B , t h e e r r o r p r o b a b i l i t y d e c r e a s e s d r a m a t i c a l l y . A d d i n g

1 d B i m p r o v e m e n t i n s i g n a l - t o - n o i s e r a t i o c a n r e s u l t i n a f a c t o r o f 1 0 s m a l l e r

pe .

• S i g n a l s e t c h o i c e c a n m a k e a s i g n i c a n t d i e r e n c e i n p e r f o r m a n c e . A l l B P S K s i g n a l s e t s , b a s e b a n d o r

m o d u l a t e d , y i e l d t h e s a m e p e r f o r m a n c e f o r t h e s a m e b i t e n e r g y . T h e B P S K s i g n a l s e t d o e s p e r f o r m

m u c h b e t t e r t h a n t h e F S K s i g n a l s e t o n c e t h e s i g n a l - t o - n o i s e r a t i o e x c e e d s a b o u t 5 d B .

E x e r c i s e 6 . 1 8 . 1

( S o l u t i o n o n p . 2 9 6 . )

D e r i v e t h e e x p r e s s i o n f o r t h e p r o b a b i l i t y o f e r r o r t h a t w o u l d r e s u l t i f t h e F S K s i g n a l s e t w e r e u s e d .

2 4





2 5 0


T h e m a t c h e d - l t e r r e c e i v e r p r o v i d e s i m p r e s s i v e p e r f o r m a n c e o n c e a d e q u a t e s i g n a l - t o - n o i s e r a t i o s o c c u r . Y o u

m i g h t w o n d e r w h e t h e r a n o t h e r r e c e i v e r m i g h t b e b e t t e r . T h e a n s w e r i s t h a t t h e m a t c h e d - l t e r r e c e i v e r i s

o p t i m a l : N o o t h e r r e c e i v e r c a n p r o v i d e a s m a l l e r p r o b a b i l i t y o f e r r o r t h a n t h e m a t c h e d l t e r

r e g a r d l e s s o f t h e S N R . F u r t h e r m o r e , n o s i g n a l s e t c a n p r o v i d e b e t t e r p e r f o r m a n c e t h a n t h e B P S K s i g n a l

s e t , w h e r e t h e s i g n a l r e p r e s e n t i n g a b i t i s t h e n e g a t i v e o f t h e s i g n a l r e p r e s e n t i n g t h e o t h e r b i t . T h e r e a s o n

f o r t h i s r e s u l t r e s t s i n t h e d e p e n d e n c e o f p r o b a b i l i t y o f e r r o r pe o n t h e d i e r e n c e b e t w e e n t h e n o i s e - f r e e

i n t e g r a t o r o u t p u t s : F o r a g i v e n E b , n o o t h e r s i g n a l s e t p r o v i d e s a g r e a t e r d i e r e n c e .

H o w s m a l l s h o u l d t h e e r r o r p r o b a b i l i t y b e ? O u t o f N t r a n s m i t t e d b i t s , o n t h e a v e r a g e N pe b i t s w i l l b e

r e c e i v e d i n e r r o r . D o n o t e t h e p h r a s e " o n t h e a v e r a g e " h e r e : E r r o r s o c c u r r a n d o m l y b e c a u s e o f t h e n o i s e

i n t r o d u c e d b y t h e c h a n n e l , a n d w e c a n o n l y p r e d i c t t h e p r o b a b i l i t y o f o c c u r r e n c e . S i n c e b i t s a r e t r a n s m i t t e d

a t a r a t e R, e r r o r s o c c u r a t a n a v e r a g e f r e q u e n c y o f Rpe . S u p p o s e t h e e r r o r p r o b a b i l i t y i s a n i m p r e s s i v e l y

s m a l l n u m b e r l i k e 10−6 . D a t a o n a c o m p u t e r n e t w o r k l i k e E t h e r n e t i s t r a n s m i t t e d a t a r a t e

R = 100Mbps,

w h i c h m e a n s t h a t e r r o r s w o u l d o c c u r r o u g h l y 1 0 0 p e r s e c o n d . T h i s e r r o r r a t e i s v e r y h i g h , r e q u i r i n g a m u c h

s m a l l e r pe t o a c h i e v e a m o r e a c c e p t a b l e a v e r a g e o c c u r r e n c e r a t e f o r e r r o r s o c c u r r i n g . B e c a u s e E t h e r n e t i s a

w i r e l i n e c h a n n e l , w h i c h m e a n s t h e c h a n n e l n o i s e i s s m a l l a n d t h e a t t e n u a t i o n l o w , o b t a i n i n g v e r y s m a l l e r r o r

p r o b a b i l i t i e s i s n o t d i c u l t . W e d o h a v e s o m e t r i c k s u p o u r s l e e v e s , h o w e v e r , t h a t c a n e s s e n t i a l l y r e d u c e t h e

e r r o r r a t e t o z e r o w i t h o u t r e s o r t i n g t o e x p e n d i n g a l a r g e a m o u n t o f e n e r g y a t t h e t r a n s m i t t e r . W e n e e d t o

u n d e r s t a n d d i g i t a l c h a n n e l s ( S e c t i o n 6 . 1 9 ) a n d S h a n n o n ' s N o i s y C h a n n e l C o d i n g T h e o r e m ( S e c t i o n 6 . 3 0 ) .

6 . 1 9 D i g i t a l C h a n n e l s

2 5

L e t ' s r e v i e w h o w d i g i t a l c o m m u n i c a t i o n s y s t e m s w o r k w i t h i n t h e F u n d a m e n t a l M o d e l o f C o m m u n i c a t i o n

( F i g u r e 1 . 3 : F u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ) . A s s h o w n i n F i g u r e 6 . 1 7 ( D i g M C ) , t h e m e s s a g e i s a

s i n g l e b i t . T h e e n t i r e a n a l o g t r a n s m i s s i o n / r e c e p t i o n s y s t e m , w h i c h i s d i s c u s s e d i n D i g i t a l C o m m u n i c a t i o n

( S e c t i o n 6 . 1 3 ) , S i g n a l S e t s

2 6

, B P S K S i g n a l S e t

2 7

, T r a n s m i s s i o n B a n d w i d t h

2 8

, F r e q u e n c y S h i f t K e y i n g ( S e c -

t i o n 6 . 1 5 ) , D i g i t a l C o m m u n i c a t i o n R e c e i v e r s ( S e c t i o n 6 . 1 6 ) , F a c t o r s i n R e c e i v e r E r r o r ( S e c t i o n 6 . 1 7 ) , D i g i t a l

C o m m u n i c a t i o n S y s t e m P r o p e r t i e s

2 9

, a n d E r r o r P r o b a b i l i t y

3 0

, c a n b e l u m p e d i n t o a s i n g l e s y s t e m k n o w n a s

t h e d i g i t a l c h a n n e l .

2 5


2 6

" S i g n a l S e t s " < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 2 / l a t e s t / >

2 7

" B P S K s i g n a l s e t " < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 3 / l a t e s t / >

2 8

" T r a n s m i s s i o n B a n d w i d t h " < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 4 / l a t e s t / >

2 9

" D i g i t a l C o m m u n c a t i o n S y s t e m P r o p e r t i e s " < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 7 / l a t e s t / >

3 0

" E r r o r P r o b a b i l i t y " < h t t p : / / c n x . o r g / c o n t e n t / m 0 5 4 8 / l a t e s t / >




2 5 1

D i g M C

0

1

pe

1–pe 0

1

b(n)

SinkSource

Decoder

s(m)b(n)

SourceSourceCoder

Digital Channel

s(m)

pe

1–pe

Transmitter

b(n)r(t)b(n) x(t)

ReceiverSource SourceCoder

s(m)

SourceDecoderChannel Sink

s(m)

F i g u r e 6 . 1 7 : T h e s t e p s i n t r a n s m i t t i n g d i g i t a l i n f o r m a t i o n a r e s h o w n i n t h e u p p e r s y s t e m , t h e

F u n d a m e n t a l M o d e l o f C o m m u n i c a t i o n . T h e s y m b o l i c - v a l u e d s i g n a l

s (m)f o r m s t h e m e s s a g e , a n d i t i s

e n c o d e d i n t o a b i t s e q u e n c e

b(n

). T h e i n d i c e s d i e r b e c a u s e m o r e t h a n o n e b i t / s y m b o l i s u s u a l l y r e q u i r e d

t o r e p r e s e n t t h e m e s s a g e b y a b i t s t r e a m . E a c h b i t i s r e p r e s e n t e d b y a n a n a l o g s i g n a l , t r a n s m i t t e d t h r o u g h

t h e ( u n f r i e n d l y ) c h a n n e l , a n d r e c e i v e d b y a m a t c h e d - l t e r r e c e i v e r . F r o m t h e r e c e i v e d b i t s t r e a m

b (n)t h e

r e c e i v e d s y m b o l i c - v a l u e d s i g n a l

s (m)i s d e r i v e d . T h e l o w e r b l o c k d i a g r a m s h o w s a n e q u i v a l e n t s y s t e m

w h e r e i n t h e a n a l o g p o r t i o n s a r e c o m b i n e d a n d m o d e l e d b y a t r a n s i t i o n d i a g r a m , w h i c h s h o w s h o w e a c h

t r a n s m i t t e d b i t c o u l d b e r e c e i v e d . F o r e x a m p l e , t r a n s m i t t i n g a 0 r e s u l t s i n t h e r e c e p t i o n o f a 1 w i t h

p r o b a b i l i t y

pe ( a n e r r o r ) o r a 0 w i t h p r o b a b i l i t y

1 − pe ( n o e r r o r ) .

D i g i t a l c h a n n e l s a r e d e s c r i b e d b y t r a n s i t i o n d i a g r a m s , w h i c h i n d i c a t e t h e o u t p u t a l p h a b e t s y m b o l s

t h a t r e s u l t f o r e a c h p o s s i b l e t r a n s m i t t e d s y m b o l a n d t h e p r o b a b i l i t i e s o f t h e v a r i o u s r e c e p t i o n p o s s i b i l i t i e s .

T h e p r o b a b i l i t i e s o n t r a n s i t i o n s c o m i n g f r o m t h e s a m e s y m b o l m u s t s u m t o o n e . F o r t h e m a t c h e d - l t e r

r e c e i v e r a n d t h e s i g n a l s e t s w e h a v e s e e n , t h e d e p i c t e d t r a n s i t i o n d i a g r a m , k n o w n a s a b i n a r y s y m m e t r i c

c h a n n e l , c a p t u r e s h o w t r a n s m i t t e d b i t s a r e r e c e i v e d . T h e p r o b a b i l i t y o f e r r o r pe i s t h e s o l e p a r a m e t e r o f

t h e d i g i t a l c h a n n e l , a n d i t e n c a p s u l a t e s s i g n a l s e t c h o i c e , c h a n n e l p r o p e r t i e s , a n d t h e m a t c h e d - l t e r r e c e i v e r .

W i t h t h i s s i m p l e b u t e n t i r e l y a c c u r a t e m o d e l , w e c a n c o n c e n t r a t e o n h o w b i t s a r e r e c e i v e d .

6 . 2 0 E n t r o p y

3 1

C o m m u n i c a t i o n t h e o r y h a s b e e n f o r m u l a t e d b e s t f o r s y m b o l i c - v a l u e d s i g n a l s . C l a u d e S h a n n o n

3 2

p u b l i s h e d i n

1 9 4 8 T h e M a t h e m a t i c a l T h e o r y o f C o m m u n i c a t i o n , w h i c h b e c a m e t h e c o r n e r s t o n e o f d i g i t a l c o m m u n i c a t i o n .

H e s h o w e d t h e p o w e r o f p r o b a b i l i s t i c m o d e l s f o r s y m b o l i c - v a l u e d s i g n a l s , w h i c h a l l o w e d h i m t o q u a n t i f y

t h e i n f o r m a t i o n p r e s e n t i n a s i g n a l . I n t h e s i m p l e s t s i g n a l m o d e l , e a c h s y m b o l c a n o c c u r a t i n d e x n w i t h

a p r o b a b i l i t y P r [ak], k = 1, . . . , K . W h a t t h i s m o d e l s a y s i s t h a t f o r e a c h s i g n a l v a l u e a K - s i d e d c o i n

i s i p p e d ( n o t e t h a t t h e c o i n n e e d n o t b e f a i r ) . F o r t h i s m o d e l t o m a k e s e n s e , t h e p r o b a b i l i t i e s m u s t b e

n u m b e r s b e t w e e n z e r o a n d o n e a n d m u s t s u m t o o n e .

0 ≤ P r [ak] ≤ 1 ( 6 . 4 8 )

3 1


3 2





2 5 2


K k=1

P r [ak] = 1 ( 6 . 4 9 )

T h i s c o i n - i p p i n g m o d e l a s s u m e s t h a t s y m b o l s o c c u r w i t h o u t r e g a r d t o w h a t p r e c e d i n g o r s u c c e e d i n g

s y m b o l s w e r e , a f a l s e a s s u m p t i o n f o r t y p e d t e x t . D e s p i t e t h i s p r o b a b i l i s t i c m o d e l ' s o v e r - s i m p l i c i t y , t h e i d e a s

w e d e v e l o p h e r e a l s o w o r k w h e n m o r e a c c u r a t e , b u t s t i l l p r o b a b i l i s t i c , m o d e l s a r e u s e d . T h e k e y q u a n t i t y

t h a t c h a r a c t e r i z e s a s y m b o l i c - v a l u e d s i g n a l i s t h e e n t r o p y o f i t s a l p h a b e t .

H (A) = −kk

P r [ak]log2P r [ak] ( 6 . 5 0 )

B e c a u s e w e u s e t h e b a s e - 2 l o g a r i t h m , e n t r o p y h a s u n i t s o f b i t s . F o r t h i s d e n i t i o n t o m a k e s e n s e , w e m u s t

t a k e s p e c i a l n o t e o f s y m b o l s h a v i n g p r o b a b i l i t y z e r o o f o c c u r r i n g . A z e r o - p r o b a b i l i t y s y m b o l n e v e r o c c u r s ;

t h u s , w e d e n e 0log20 = 0 s o t h a t s u c h s y m b o l s d o n o t a e c t t h e e n t r o p y . T h e m a x i m u m v a l u e a t t a i n a b l e

b y a n a l p h a b e t ' s e n t r o p y o c c u r s w h e n t h e s y m b o l s a r e e q u a l l y l i k e l y (

P r [ak] = P r [al] ) . I n t h i s c a s e , t h e

e n t r o p y e q u a l s log2K . T h e m i n i m u m v a l u e o c c u r s w h e n o n l y o n e s y m b o l o c c u r s ; i t h a s p r o b a b i l i t y o n e o f

o c c u r r i n g a n d t h e r e s t h a v e p r o b a b i l i t y z e r o .

E x e r c i s e 6 . 2 0 . 1

( S o l u t i o n o n p . 2 9 6 . )

D e r i v e t h e m a x i m u m - e n t r o p y r e s u l t s , b o t h t h e n u m e r i c a s p e c t ( e n t r o p y e q u a l s log2K ) a n d t h e

t h e o r e t i c a l o n e ( e q u a l l y l i k e l y s y m b o l s m a x i m i z e e n t r o p y ) . D e r i v e t h e v a l u e o f t h e m i n i m u m e n t r o p y

a l p h a b e t .

E x a m p l e 6 . 1

A f o u r - s y m b o l a l p h a b e t h a s t h e f o l l o w i n g p r o b a b i l i t i e s .

P r [a0] =1

2

P r [a1] =1

4

P r [a2] =1

8

P r [a3] =1

8

N o t e t h a t t h e s e p r o b a b i l i t i e s s u m t o o n e a s t h e y s h o u l d . A s

12 = 2−1 , log2

12 = −1 . T h e e n t r o p y o f

t h i s a l p h a b e t e q u a l s

H (A) = − 12 log2

12 + 1

4 log214 + 1

8 log218 + 1

8 log218

= −

12 − 1 + 1

4 − 2 + 18 − 3 + 1

8 − 3

= 1.75bits

( 6 . 5 1 )

6 . 2 1 S o u r c e C o d i n g T h e o r e m

3 3

T h e s i g n i c a n c e o f a n a l p h a b e t ' s e n t r o p y r e s t s i n h o w w e c a n r e p r e s e n t i t w i t h a s e q u e n c e o f b i t s . B i t

s e q u e n c e s f o r m t h e " c o i n o f t h e r e a l m " i n d i g i t a l c o m m u n i c a t i o n s : t h e y a r e t h e u n i v e r s a l w a y o f r e p r e s e n t i n g

3 3





2 5 3

s y m b o l i c - v a l u e d s i g n a l s . W e c o n v e r t b a c k a n d f o r t h b e t w e e n s y m b o l s t o b i t - s e q u e n c e s w i t h w h a t i s k n o w n

a s a c o d e b o o k : a t a b l e t h a t a s s o c i a t e s s y m b o l s t o b i t s e q u e n c e s . I n c r e a t i n g t h i s t a b l e , w e m u s t b e a b l e t o

a s s i g n a u n i q u e b i t s e q u e n c e t o e a c h s y m b o l s o t h a t w e c a n g o b e t w e e n s y m b o l a n d b i t s e q u e n c e s w i t h o u t

e r r o r .

P o i n t o f I n t e r e s t : Y o u m a y b e c o n j u r i n g t h e n o t i o n o f h i d i n g i n f o r m a t i o n f r o m o t h e r s w h e n

w e u s e t h e n a m e c o d e b o o k f o r t h e s y m b o l - t o - b i t - s e q u e n c e t a b l e . T h e r e i s n o r e l a t i o n t o c r y p t o l -

o g y , w h i c h c o m p r i s e s m a t h e m a t i c a l l y p r o v a b l e m e t h o d s o f s e c u r i n g i n f o r m a t i o n . T h e c o d e b o o k

t e r m i n o l o g y w a s d e v e l o p e d d u r i n g t h e b e g i n n i n g s o f i n f o r m a t i o n t h e o r y j u s t a f t e r W o r l d W a r I I .

A s w e s h a l l e x p l o r e i n s o m e d e t a i l e l s e w h e r e , d i g i t a l c o m m u n i c a t i o n ( S e c t i o n 6 . 1 3 ) i s t h e t r a n s m i s s i o n o f

s y m b o l i c - v a l u e d s i g n a l s f r o m o n e p l a c e t o a n o t h e r . W h e n f a c e d w i t h t h e p r o b l e m , f o r e x a m p l e , o f s e n d i n g a

l e a c r o s s t h e I n t e r n e t , w e m u s t r s t r e p r e s e n t e a c h c h a r a c t e r b y a b i t s e q u e n c e . B e c a u s e w e w a n t t o s e n d

t h e l e q u i c k l y , w e w a n t t o u s e a s f e w b i t s a s p o s s i b l e . H o w e v e r , w e d o n ' t w a n t t o u s e s o f e w b i t s t h a t t h e

r e c e i v e r c a n n o t d e t e r m i n e w h a t e a c h c h a r a c t e r w a s f r o m t h e b i t s e q u e n c e . F o r e x a m p l e , w e c o u l d u s e o n e

b i t f o r e v e r y c h a r a c t e r : F i l e t r a n s m i s s i o n w o u l d b e f a s t b u t u s e l e s s b e c a u s e t h e c o d e b o o k c r e a t e s e r r o r s .

S h a n n o n

3 4

p r o v e d i n h i s m o n u m e n t a l w o r k w h a t w e c a l l t o d a y t h e S o u r c e C o d i n g T h e o r e m . L e t B (ak)

d e n o t e t h e n u m b e r o f b i t s u s e d t o r e p r e s e n t t h e s y m b o l ak . T h e a v e r a g e n u m b e r o f b i t s

−B (A) r e q u i r e d t o

r e p r e s e n t t h e e n t i r e a l p h a b e t e q u a l s

K k=1 B (ak) P r [ak]. T h e S o u r c e C o d i n g T h e o r e m s t a t e s t h a t

t h e a v e r a g e n u m b e r o f b i t s n e e d e d t o a c c u r a t e l y r e p r e s e n t t h e a l p h a b e t n e e d o n l y t o s a t i s f y

H (A) ≤−

B (A)< H (A) + 1 ( 6 . 5 2 )

T h u s , t h e a l p h a b e t ' s e n t r o p y s p e c i e s t o w i t h i n o n e b i t h o w m a n y b i t s o n t h e a v e r a g e n e e d t o b e u s e d t o

s e n d t h e a l p h a b e t . T h e s m a l l e r a n a l p h a b e t ' s e n t r o p y , t h e f e w e r b i t s r e q u i r e d f o r d i g i t a l t r a n s m i s s i o n o f l e s

e x p r e s s e d i n t h a t a l p h a b e t .

E x a m p l e 6 . 2

A f o u r - s y m b o l a l p h a b e t h a s t h e f o l l o w i n g p r o b a b i l i t i e s .

P r [a0] = 12

P r [a1] =1

4

P r [a2] =1

8

P r [a3] =1

8

a n d a n e n t r o p y o f 1 . 7 5 b i t s ( E x a m p l e 6 . 1 ) . L e t ' s s e e i f w e c a n n d a c o d e b o o k f o r t h i s f o u r - l e t t e r

a l p h a b e t t h a t s a t i s e s t h e S o u r c e C o d i n g T h e o r e m . T h e s i m p l e s t c o d e t o t r y i s k n o w n a s t h e

s i m p l e b i n a r y c o d e : c o n v e r t t h e s y m b o l ' s i n d e x i n t o a b i n a r y n u m b e r a n d u s e t h e s a m e n u m b e r

o f b i t s f o r e a c h s y m b o l b y i n c l u d i n g l e a d i n g z e r o s w h e r e n e c e s s a r y .

a0 ↔ 00 a1 ↔ 01 a2 ↔ 10 a3 ↔ 11 ( 6 . 5 3 )

W h e n e v e r t h e n u m b e r o f s y m b o l s i n t h e a l p h a b e t i s a p o w e r o f t w o ( a s i n t h i s c a s e ) , t h e a v e r a g e

n u m b e r o f b i t s

−B (A) e q u a l s log2K , w h i c h e q u a l s 2 i n t h i s c a s e . B e c a u s e t h e e n t r o p y e q u a l s 1.75b i t s ,

t h e s i m p l e b i n a r y c o d e i n d e e d s a t i s e s t h e S o u r c e C o d i n g T h e o r e m w e a r e w i t h i n o n e b i t o f t h e

3 4





2 5 4


e n t r o p y l i m i t b u t y o u m i g h t w o n d e r i f y o u c a n d o b e t t e r . I f w e c h o s e a c o d e b o o k w i t h d i e r i n g

n u m b e r o f b i t s f o r t h e s y m b o l s , a s m a l l e r a v e r a g e n u m b e r o f b i t s c a n i n d e e d b e o b t a i n e d . T h e i d e a

i s t o u s e s h o r t e r b i t s e q u e n c e s f o r t h e s y m b o l s t h a t o c c u r m o r e o f t e n . O n e c o d e b o o k l i k e t h i s i s

a0 ↔ 0 a1 ↔ 10 a2 ↔ 110 a3 ↔ 111 ( 6 . 5 4 )

N o w

−B (A)= 1 · ×1

2 + 2 · ×14 + 3 · ×1

8 + 3 · ×18 = 1.75. W e c a n r e a c h t h e e n t r o p y l i m i t ! T h e s i m p l e

b i n a r y c o d e i s , i n t h i s c a s e , l e s s e c i e n t t h a n t h e u n e q u a l - l e n g t h c o d e . U s i n g t h e e c i e n t c o d e , w e

c a n t r a n s m i t t h e s y m b o l i c - v a l u e d s i g n a l h a v i n g t h i s a l p h a b e t 1 2 . 5 % f a s t e r . F u r t h e r m o r e , w e k n o w

t h a t n o m o r e e c i e n t c o d e b o o k c a n b e f o u n d b e c a u s e o f S h a n n o n ' s T h e o r e m .

6 . 2 2 C o m p r e s s i o n a n d t h e H u m a n C o d e

3 5

S h a n n o n ' s S o u r c e C o d i n g T h e o r e m ( 6 . 5 2 ) h a s a d d i t i o n a l a p p l i c a t i o n s i n d a t a c o m p r e s s i o n . H e r e , w e h a v e

a s y m b o l i c - v a l u e d s i g n a l s o u r c e , l i k e a c o m p u t e r l e o r a n i m a g e , t h a t w e w a n t t o r e p r e s e n t w i t h a s f e w

b i t s a s p o s s i b l e . C o m p r e s s i o n s c h e m e s t h a t a s s i g n s y m b o l s t o b i t s e q u e n c e s a r e k n o w n a s l o s s l e s s i f t h e y

o b e y t h e S o u r c e C o d i n g T h e o r e m ; t h e y a r e l o s s y i f t h e y u s e f e w e r b i t s t h a n t h e a l p h a b e t ' s e n t r o p y . U s i n g

a l o s s y c o m p r e s s i o n s c h e m e m e a n s t h a t y o u c a n n o t r e c o v e r a s y m b o l i c - v a l u e d s i g n a l f r o m i t s c o m p r e s s e d

v e r s i o n w i t h o u t i n c u r r i n g s o m e e r r o r . Y o u m i g h t b e w o n d e r i n g w h y a n y o n e w o u l d w a n t t o i n t e n t i o n a l l y

c r e a t e e r r o r s , b u t l o s s y c o m p r e s s i o n s c h e m e s a r e f r e q u e n t l y u s e d w h e r e t h e e c i e n c y g a i n e d i n r e p r e s e n t i n g

t h e s i g n a l o u t w e i g h s t h e s i g n i c a n c e o f t h e e r r o r s .

S h a n n o n ' s S o u r c e C o d i n g T h e o r e m s t a t e s t h a t s y m b o l i c - v a l u e d s i g n a l s r e q u i r e o n t h e a v e r a g e a t l e a s t

H (A) n u m b e r o f b i t s t o r e p r e s e n t e a c h o f i t s v a l u e s , w h i c h a r e s y m b o l s d r a w n f r o m t h e a l p h a b e t A. I n t h e

m o d u l e o n t h e S o u r c e C o d i n g T h e o r e m ( S e c t i o n 6 . 2 1 ) w e n d t h a t u s i n g a s o - c a l l e d x e d r a t e s o u r c e c o d e r ,

o n e t h a t p r o d u c e s a x e d n u m b e r o f b i t s / s y m b o l , m a y n o t b e t h e m o s t e c i e n t w a y o f e n c o d i n g s y m b o l s

i n t o b i t s . W h a t i s n o t d i s c u s s e d t h e r e i s a p r o c e d u r e f o r d e s i g n i n g a n e c i e n t s o u r c e c o d e r : o n e g u a r a n t e e d

t o p r o d u c e t h e f e w e s t b i t s / s y m b o l o n t h e a v e r a g e . T h a t s o u r c e c o d e r i s n o t u n i q u e , a n d o n e a p p r o a c h t h a t

d o e s a c h i e v e t h a t l i m i t i s t h e H u m a n s o u r c e c o d i n g a l g o r i t h m

.

P o i n t o f I n t e r e s t : I n t h e e a r l y y e a r s o f i n f o r m a t i o n t h e o r y , t h e r a c e w a s o n t o b e t h e r s t

t o n d a p r o v a b l y m a x i m a l l y e c i e n t s o u r c e c o d i n g a l g o r i t h m . T h e r a c e w a s w o n b y t h e n M I T

g r a d u a t e s t u d e n t D a v i d H u m a n i n 1 9 5 4 , w h o w o r k e d o n t h e p r o b l e m a s a p r o j e c t i n h i s i n f o r m a t i o n

t h e o r y c o u r s e . W e ' r e p r e t t y s u r e h e r e c e i v e d a n A .

• C r e a t e a v e r t i c a l t a b l e f o r t h e s y m b o l s , t h e b e s t o r d e r i n g b e i n g i n d e c r e a s i n g o r d e r o f p r o b a b i l i t y .

• F o r m a b i n a r y t r e e t o t h e r i g h t o f t h e t a b l e . A b i n a r y t r e e a l w a y s h a s t w o b r a n c h e s a t e a c h n o d e .

B u i l d t h e t r e e b y m e r g i n g t h e t w o l o w e s t p r o b a b i l i t y s y m b o l s a t e a c h l e v e l , m a k i n g t h e p r o b a b i l i t y o f

t h e n o d e e q u a l t o t h e s u m o f t h e m e r g e d n o d e s ' p r o b a b i l i t i e s . I f m o r e t h a n t w o n o d e s / s y m b o l s s h a r e

t h e l o w e s t p r o b a b i l i t y a t a g i v e n l e v e l , p i c k a n y t w o ; y o u r c h o i c e w o n ' t a e c t

−B (A) .

• A t e a c h n o d e , l a b e l e a c h o f t h e e m a n a t i n g b r a n c h e s w i t h a b i n a r y n u m b e r . T h e b i t s e q u e n c e o b t a i n e d

f r o m p a s s i n g f r o m t h e t r e e ' s r o o t t o t h e s y m b o l i s i t s H u m a n c o d e .

E x a m p l e 6 . 3

T h e s i m p l e f o u r - s y m b o l a l p h a b e t u s e d i n t h e E n t r o p y ( E x a m p l e 6 . 1 ) a n d S o u r c e C o d i n g ( E x a m -

p l e 6 . 2 ) m o d u l e s h a s a f o u r - s y m b o l a l p h a b e t w i t h t h e f o l l o w i n g p r o b a b i l i t i e s ,

P r [a0] =1

2

3 5





2 5 5

P r [a1] =1

4

P r [a2] = 18

P r [a3] =1

8

a n d a n e n t r o p y o f 1 . 7 5 b i t s ( E x a m p l e 6 . 1 ) . T h i s a l p h a b e t h a s t h e H u m a n c o d i n g t r e e s h o w n i n

F i g u r e 6 . 1 8 ( H u m a n C o d i n g T r e e ) .

H u m a n C o d i n g T r e e

a1

a2

a3

a4

Symbol Probability12

1

41818

14

12

0

10

10

1

0

10

110

111

Source Code

F i g u r e 6 . 1 8 : W e f o r m a H u m a n c o d e f o r a f o u r - l e t t e r a l p h a b e t h a v i n g t h e i n d i c a t e d p r o b a b i l i t i e s o f

o c c u r r e n c e . T h e b i n a r y t r e e c r e a t e d b y t h e a l g o r i t h m e x t e n d s t o t h e r i g h t , w i t h t h e r o o t n o d e ( t h e o n e

a t w h i c h t h e t r e e b e g i n s ) d e n i n g t h e c o d e w o r d s . T h e b i t s e q u e n c e o b t a i n e d b y t r a v e r s i n g t h e t r e e f r o m

t h e r o o t t o t h e s y m b o l d e n e s t h a t s y m b o l ' s b i n a r y c o d e .

T h e c o d e t h u s o b t a i n e d i s n o t u n i q u e a s w e c o u l d h a v e l a b e l e d t h e b r a n c h e s c o m i n g o u t o f

e a c h n o d e d i e r e n t l y . T h e a v e r a g e n u m b e r o f b i t s r e q u i r e d t o r e p r e s e n t t h i s a l p h a b e t e q u a l s

1.75 b i t s , w h i c h i s t h e S h a n n o n e n t r o p y l i m i t f o r t h i s s o u r c e a l p h a b e t . I f w e h a d t h e s y m b o l i c -

v a l u e d s i g n a l s (m) = a2, a3, a1, a4, a1, a2, . . . , o u r H u m a n c o d e w o u l d p r o d u c e t h e b i t s t r e a m

b (n) = 101100111010 . . ..

I f t h e a l p h a b e t p r o b a b i l i t i e s w e r e d i e r e n t , c l e a r l y a d i e r e n t t r e e , a n d t h e r e f o r e d i e r e n t c o d e ,

c o u l d w e l l r e s u l t . F u r t h e r m o r e , w e m a y n o t b e a b l e t o a c h i e v e t h e e n t r o p y l i m i t . I f o u r s y m b o l s

h a d t h e p r o b a b i l i t i e s

P r [a1] = 12 ,

P r [a2] = 14 ,

P r [a3] = 15 , a n d

P r [a4] = 120 , t h e a v e r a g e n u m b e r

o f b i t s / s y m b o l r e s u l t i n g f r o m t h e H u m a n c o d i n g a l g o r i t h m w o u l d e q u a l 1.75 b i t s . H o w e v e r , t h e

e n t r o p y l i m i t i s 1 . 6 8 b i t s . T h e H u m a n c o d e d o e s s a t i s f y t h e S o u r c e C o d i n g T h e o r e m i t s a v e r a g e

l e n g t h i s w i t h i n o n e b i t o f t h e a l p h a b e t ' s e n t r o p y b u t y o u m i g h t w o n d e r i f a b e t t e r c o d e e x i s t e d .

D a v i d H u m a n s h o w e d m a t h e m a t i c a l l y t h a t n o o t h e r c o d e c o u l d a c h i e v e a s h o r t e r a v e r a g e c o d e

t h a n h i s . W e c a n ' t d o b e t t e r .

E x e r c i s e 6 . 2 2 . 1

( S o l u t i o n o n p . 2 9 6 . )

D e r i v e t h e H u m a n c o d e f o r t h i s s e c o n d s e t o f p r o b a b i l i t i e s , a n d v e r i f y t h e c l a i m e d a v e r a g e c o d e

l e n g t h a n d a l p h a b e t e n t r o p y .




2 5 6


6 . 2 3 S u b t l i e s o f C o d i n g

3 6

I n t h e H u m a n c o d e , t h e b i t s e q u e n c e s t h a t r e p r e s e n t i n d i v i d u a l s y m b o l s c a n h a v e d i e r i n g l e n g t h s s o t h e

b i t s t r e a m i n d e x m d o e s n o t i n c r e a s e i n l o c k s t e p w i t h t h e s y m b o l - v a l u e d s i g n a l ' s i n d e x n. T o c a p t u r e h o w

o f t e n b i t s m u s t b e t r a n s m i t t e d t o k e e p u p w i t h t h e s o u r c e ' s p r o d u c t i o n o f s y m b o l s , w e c a n o n l y c o m p u t e

a v e r a g e s . I f o u r s o u r c e c o d e a v e r a g e s

−B (A) b i t s / s y m b o l a n d s y m b o l s a r e p r o d u c e d a t a r a t e

R, t h e a v e r a g e

b i t r a t e e q u a l s

−B (A) R, a n d t h i s q u a n t i t y d e t e r m i n e s t h e b i t i n t e r v a l d u r a t i o n T .

E x e r c i s e 6 . 2 3 . 1

( S o l u t i o n o n p . 2 9 6 . )

C a l c u l a t e w h a t t h e r e l a t i o n b e t w e e n T a n d t h e a v e r a g e b i t r a t e

−B (A) R i s .

A s u b t l e t y o f s o u r c e c o d i n g i s w h e t h e r w e n e e d " c o m m a s " i n t h e b i t s t r e a m . W h e n w e u s e a n u n e q u a l

n u m b e r o f b i t s t o r e p r e s e n t s y m b o l s , h o w d o e s t h e r e c e i v e r d e t e r m i n e w h e n s y m b o l s b e g i n a n d e n d ? I f y o u

c r e a t e d a s o u r c e c o d e t h a t r e q u i r e d a s e p a r a t i o n m a r k e r i n t h e b i t s t r e a m b e t w e e n s y m b o l s , i t w o u l d b e

v e r y i n e c i e n t s i n c e y o u a r e e s s e n t i a l l y r e q u i r i n g a n e x t r a s y m b o l i n t h e t r a n s m i s s i o n s t r e a m .

n o t e : A g o o d e x a m p l e o f t h i s n e e d i s t h e M o r s e C o d e : B e t w e e n e a c h l e t t e r , t h e t e l e g r a p h e r n e e d s

t o i n s e r t a p a u s e t o i n f o r m t h e r e c e i v e r w h e n l e t t e r b o u n d a r i e s o c c u r .

A s s h o w n i n t h i s e x a m p l e ( E x a m p l e 6 . 3 ) , n o c o m m a s a r e p l a c e d i n t h e b i t s t r e a m , b u t y o u c a n u n a m b i g u o u s l y

d e c o d e t h e s e q u e n c e o f s y m b o l s f r o m t h e b i t s t r e a m . H u m a n s h o w e d t h a t h i s ( m a x i m a l l y e c i e n t ) c o d e h a d

t h e p r e x p r o p e r t y : N o c o d e f o r a s y m b o l b e g a n a n o t h e r s y m b o l ' s c o d e . O n c e y o u h a v e t h e p r e x p r o p e r t y ,

t h e b i t s t r e a m i s p a r t i a l l y s e l f - s y n c h r o n i z i n g : O n c e t h e r e c e i v e r k n o w s w h e r e t h e b i t s t r e a m s t a r t s , w e c a n

a s s i g n a u n i q u e a n d c o r r e c t s y m b o l s e q u e n c e t o t h e b i t s t r e a m .

E x e r c i s e 6 . 2 3 . 2

( S o l u t i o n o n p . 2 9 6 . )

S k e t c h a n a r g u m e n t t h a t p r e x c o d i n g , w h e t h e r d e r i v e d f r o m a H u m a n c o d e o r n o t , w i l l p r o v i d e

u n i q u e d e c o d i n g w h e n a n u n e q u a l n u m b e r o f b i t s / s y m b o l a r e u s e d i n t h e c o d e .

H o w e v e r , h a v i n g a p r e x c o d e d o e s n o t g u a r a n t e e t o t a l s y n c h r o n i z a t i o n : A f t e r h o p p i n g i n t o t h e m i d d l e o f a

b i t s t r e a m , c a n w e a l w a y s n d t h e c o r r e c t s y m b o l b o u n d a r i e s ? T h e s e l f - s y n c h r o n i z a t i o n i s s u e d o e s m i t i g a t e

t h e u s e o f e c i e n t s o u r c e c o d i n g a l g o r i t h m s .


S h o w b y e x a m p l e t h a t a b i t s t r e a m p r o d u c e d b y a H u m a n c o d e i s n o t n e c e s s a r i l y s e l f - s y n c h r o n i z i n g .

A r e x e d - l e n g t h c o d e s s e l f s y n c h r o n i z i n g ?

A n o t h e r i s s u e i s b i t e r r o r s i n d u c e d b y t h e d i g i t a l c h a n n e l ; i f t h e y o c c u r ( a n d t h e y w i l l ) , s y n c h r o n i z a t i o n

c a n e a s i l y b e l o s t e v e n i f t h e r e c e i v e r s t a r t e d " i n s y n c h " w i t h t h e s o u r c e . D e s p i t e t h e s m a l l p r o b a b i l i t i e s o f

e r r o r o e r e d b y g o o d s i g n a l s e t d e s i g n a n d t h e m a t c h e d l t e r , a n i n f r e q u e n t e r r o r c a n d e v a s t a t e t h e a b i l i t y t o

t r a n s l a t e a b i t s t r e a m i n t o a s y m b o l i c s i g n a l . W e n e e d w a y s o f r e d u c i n g r e c e p t i o n e r r o r s w i t h o u t d e m a n d i n g

t h a t pe b e s m a l l e r .

E x a m p l e 6 . 4

T h e r s t e l e c t r i c a l c o m m u n i c a t i o n s s y s t e m t h e t e l e g r a p h w a s d i g i t a l . W h e n r s t d e p l o y e d i n

1 8 4 4 , i t c o m m u n i c a t e d t e x t o v e r w i r e l i n e c o n n e c t i o n s u s i n g a b i n a r y c o d e t h e M o r s e c o d e t o

r e p r e s e n t i n d i v i d u a l l e t t e r s . T o s e n d a m e s s a g e f r o m o n e p l a c e t o a n o t h e r , t e l e g r a p h o p e r a t o r s

w o u l d t a p t h e m e s s a g e u s i n g a t e l e g r a p h k e y t o a n o t h e r o p e r a t o r , w h o w o u l d r e l a y t h e m e s s a g e

o n t o t h e n e x t o p e r a t o r , p r e s u m a b l y g e t t i n g t h e m e s s a g e c l o s e r t o i t s d e s t i n a t i o n . I n s h o r t , t h e

t e l e g r a p h r e l i e d o n a n e t w o r k n o t u n l i k e t h e b a s i c s o f m o d e r n c o m p u t e r n e t w o r k s . T o s a y i t

p r e s a g e d m o d e r n c o m m u n i c a t i o n s w o u l d b e a n u n d e r s t a t e m e n t . I t w a s a l s o f a r a h e a d o f s o m e

n e e d e d t e c h n o l o g i e s , n a m e l y t h e S o u r c e C o d i n g T h e o r e m . T h e M o r s e c o d e , s h o w n i n F i g u r e 6 . 1 9 ,

w a s n o t a p r e x c o d e . T o s e p a r a t e c o d e s f o r e a c h l e t t e r , M o r s e c o d e r e q u i r e d t h a t a s p a c e a

p a u s e b e i n s e r t e d b e t w e e n e a c h l e t t e r . I n i n f o r m a t i o n t h e o r y , t h a t s p a c e c o u n t s a s a n o t h e r c o d e

3 6





2 5 7

l e t t e r , w h i c h m e a n s t h a t t h e M o r s e c o d e e n c o d e d t e x t w i t h a t h r e e - l e t t e r s o u r c e c o d e : d o t s , d a s h e s

a n d s p a c e . T h e r e s u l t i n g s o u r c e c o d e i s n o t w i t h i n a b i t o f e n t r o p y , a n d i s g r o s s l y i n e c i e n t ( a b o u t

2 5 % ) . F i g u r e 6 . 1 9 s h o w s a H u m a n c o d e f o r E n g l i s h t e x t , w h i c h a s w e k n o w i s e c i e n t .




2 5 8


M o r s e a n d H u m a n C o d e T a b l e

% M o r s e C o d e H u m a n C o d e

A 6 . 2 2 . - 1 0 1 1

B 1 . 3 2 - . . . 0 1 0 1 0 0

C 3 . 1 1 - . - . 1 0 1 0 1

D 2 . 9 7 - . . 0 1 0 1 1

E 1 0 . 5 3 . 0 0 1

F 1 . 6 8 . . - . 1 1 0 0 0 1

G 1 . 6 5 . 1 1 0 0 0 0

H 3 . 6 3 . . . . 1 1 0 0 1

I 6 . 1 4 . . 1 0 0 1

J 0 . 0 6 . 0 1 0 1 0 1 1 1 0 1 1

K 0 . 3 1 - . - 0 1 0 1 0 1 1 0

L 3 . 0 7 . - . . 1 0 1 0 0

M 2 . 4 8 0 0 0 1 1

N 5 . 7 3 - . 0 1 0 0

O 6 . 0 6 1 0 0 0

P 1 . 8 7 . . 0 0 0 0 0

Q 0 . 1 0 . - 0 1 0 1 0 1 1 1 0 0

R 5 . 8 7 . - . 0 1 1 1

S 5 . 8 1 . . . 0 1 1 0

T 7 . 6 8 - 1 1 0 1

U 2 . 2 7 . . - 0 0 0 1 0

V 0 . 7 0 . . . - 0 1 0 1 0 1 0

W 1 . 1 3 . 0 0 0 0 1 1

X 0 . 2 5 - . . - 0 1 0 1 0 1 1 1 1

Y 1 . 0 7 - . 0 0 0 0 1 0

Z 0 . 0 6 . . 0 1 0 1 0 1 1 1 0 1 0 1 1

F i g u r e 6 . 1 9 : M o r s e a n d H u m a n C o d e s f o r A m e r i c a n - R o m a n A l p h a b e t . T h e % c o l u m n i n d i c a t e s t h e

a v e r a g e p r o b a b i l i t y ( e x p r e s s e d i n p e r c e n t ) o f t h e l e t t e r o c c u r r i n g i n E n g l i s h . T h e e n t r o p y

H (A)o f t h e

t h i s s o u r c e i s 4 . 1 4 b i t s . T h e a v e r a g e M o r s e c o d e w o r d l e n g t h i s 2 . 5 s y m b o l s . A d d i n g o n e m o r e s y m b o l f o r

t h e l e t t e r s e p a r a t o r a n d c o n v e r t i n g t o b i t s y i e l d s a n a v e r a g e c o d e w o r d l e n g t h o f 5 . 5 6 b i t s . T h e a v e r a g e

H u m a n c o d e w o r d l e n g t h i s 4 . 3 5 b i t s .




2 5 9

6 . 2 4 C h a n n e l C o d i n g

3 7

W e c a n , t o s o m e e x t e n t , c o r r e c t e r r o r s m a d e b y t h e r e c e i v e r w i t h o n l y t h e e r r o r - l l e d b i t s t r e a m e m e r g i n g

f r o m t h e d i g i t a l c h a n n e l a v a i l a b l e t o u s . T h e i d e a i s f o r t h e t r a n s m i t t e r t o s e n d n o t o n l y t h e s y m b o l -

d e r i v e d b i t s e m e r g i n g f r o m t h e s o u r c e c o d e r b u t a l s o a d d i t i o n a l b i t s d e r i v e d f r o m t h e c o d e r ' s b i t s t r e a m .

T h e s e a d d i t i o n a l b i t s , t h e e r r o r c o r r e c t i n g b i t s , h e l p t h e r e c e i v e r d e t e r m i n e i f a n e r r o r h a s o c c u r r e d

i n t h e d a t a b i t s ( t h e i m p o r t a n t b i t s ) o r i n t h e e r r o r - c o r r e c t i o n b i t s . I n s t e a d o f t h e c o m m u n i c a t i o n m o d e l

( F i g u r e 6 . 1 7 : D i g M C ) s h o w n p r e v i o u s l y , t h e t r a n s m i t t e r i n s e r t s a c h a n n e l c o d e r b e f o r e a n a l o g m o d u l a t i o n ,

a n d t h e r e c e i v e r t h e c o r r e s p o n d i n g c h a n n e l d e c o d e r ( F i g u r e 6 . 2 0 ) . T h i s b l o c k d i a g r a m s h o w n t h e r e f o r m s

t h e F u n d a m e n t a l M o d e l o f D i g i t a l C o m m u n i c a t i o n .

b(n)

SinkSourceDecoder

s(m)b(n)

SourceSourceCoder

s(m)ChannelCoder

DigitalChannel

ChannelDecoder

c(l) c(l)

F i g u r e 6 . 2 0 : T o c o r r e c t e r r o r s t h a t o c c u r i n t h e d i g i t a l c h a n n e l , a c h a n n e l c o d e r a n d d e c o d e r a r e a d d e d

t o t h e c o m m u n i c a t i o n s y s t e m . P r o p e r l y d e s i g n e d c h a n n e l c o d i n g c a n g r e a t l y r e d u c e t h e p r o b a b i l i t y ( f r o m

t h e u n c o d e d v a l u e o f

pe ) t h a t a d a t a b i t

b (n)i s r e c e i v e d i n c o r r e c t l y e v e n w h e n t h e p r o b a b i l i t y o f

c (l)b e r e c e i v e d i n e r r o r r e m a i n s pe o r b e c o m e s l a r g e r . T h i s s y s t e m f o r m s t h e F u n d a m e n t a l M o d e l o f D i g i t a l

C o m m u n i c a t i o n .

S h a n n o n ' s N o i s y C h a n n e l C o d i n g T h e o r e m ( S e c t i o n 6 . 3 0 ) s a y s t h a t i f t h e d a t a a r e n ' t t r a n s m i t t e d t o o

q u i c k l y , t h a t e r r o r c o r r e c t i o n c o d e s e x i s t t h a t c a n c o r r e c t a l l t h e b i t e r r o r s i n t r o d u c e d b y t h e c h a n n e l .

U n f o r t u n a t e l y , S h a n n o n d i d n o t d e m o n s t r a t e a n e r r o r c o r r e c t i n g c o d e t h a t w o u l d a c h i e v e t h i s r e m a r k a b l e

f e a t ; i n f a c t , n o o n e h a s f o u n d s u c h a c o d e . S h a n n o n ' s r e s u l t p r o v e s i t e x i s t s ; s e e m s l i k e t h e r e i s a l w a y s m o r e

w o r k t o d o . I n a n y c a s e , t h a t s h o u l d n o t p r e v e n t u s f r o m s t u d y i n g c o m m o n l y u s e d e r r o r c o r r e c t i n g c o d e s

t h a t n o t o n l y n d t h e i r w a y i n t o a l l d i g i t a l c o m m u n i c a t i o n s y s t e m s , b u t a l s o i n t o C D s a n d b a r c o d e s u s e d

o n m e r c h a n d i s e .

6 . 2 5 R e p e t i t i o n C o d e s

3 8

P e r h a p s t h e s i m p l e s t e r r o r c o r r e c t i n g c o d e i s t h e r e p e t i t i o n c o d e .

3 7


3 8





2 6 0


R e p e t i t i o n C o d e

1

n

bn

01/R’ 2/R’

DigitalTransmitter

T 2T

x(t)

t

T 3T

x(t)

t6T

1

l

cl

01/R’ 2/R’

DigitalTransmitter

ChannelCoder

F i g u r e 6 . 2 1 : T h e u p p e r p o r t i o n d e p i c t s t h e r e s u l t o f d i r e c t l y m o d u l a t i n g t h e b i t s t r e a m

b (n)i n t o a

t r a n s m i t t e d s i g n a l

x (t)u s i n g a b a s e b a n d B P S K s i g n a l s e t .

R'

i s t h e d a t a r a t e p r o d u c e d b y t h e s o u r c e

c o d e r . I f t h a t b i t s t r e a m p a s s e s t h r o u g h a ( 3 , 1 ) c h a n n e l c o d e r t o y i e l d t h e b i t s t r e a m

c (l), t h e r e s u l t i n g

t r a n s m i t t e d s i g n a l r e q u i r e s a b i t i n t e r v a l

T t h r e e t i m e s s m a l l e r t h a n t h e u n c o d e d v e r s i o n . T h i s r e d u c t i o n

i n t h e b i t i n t e r v a l m e a n s t h a t t h e t r a n s m i t t e d e n e r g y / b i t d e c r e a s e s b y a f a c t o r o f t h r e e , w h i c h r e s u l t s i n

a n i n c r e a s e d e r r o r p r o b a b i l i t y i n t h e r e c e i v e r .

H e r e , t h e t r a n s m i t t e r s e n d s t h e d a t a b i t s e v e r a l t i m e s , a n o d d n u m b e r o f t i m e s i n f a c t . B e c a u s e t h e

e r r o r p r o b a b i l i t y

pe i s a l w a y s l e s s t h a n

12 , w e k n o w t h a t m o r e o f t h e b i t s s h o u l d b e c o r r e c t r a t h e r t h a n i n

e r r o r . S i m p l e m a j o r i t y v o t i n g o f t h e r e c e i v e d b i t s ( h e n c e t h e r e a s o n f o r t h e o d d n u m b e r ) d e t e r m i n e s t h e

t r a n s m i t t e d b i t m o r e a c c u r a t e l y t h a n s e n d i n g i t a l o n e . F o r e x a m p l e , l e t ' s c o n s i d e r t h e t h r e e - f o l d r e p e t i t i o n

c o d e : f o r e v e r y b i t b (n) e m e r g i n g f r o m t h e s o u r c e c o d e r , t h e c h a n n e l c o d e r p r o d u c e s t h r e e . T h u s , t h e b i t

s t r e a m e m e r g i n g f r o m t h e c h a n n e l c o d e r c (l) h a s a d a t a r a t e t h r e e t i m e s h i g h e r t h a n t h a t o f t h e o r i g i n a l

b i t s t r e a m b (n) . T h e c o d i n g t a b l e i l l u s t r a t e s w h e n e r r o r s c a n b e c o r r e c t e d a n d w h e n t h e y c a n ' t b y t h e

m a j o r i t y - v o t e d e c o d e r .

C o d i n g T a b l e

C o d e P r o b a b i l i t y B i t

0 0 0 (1 − pe)3

0

0 0 1 pe(1 − pe)2

0

0 1 0 pe(1 − pe)2

0

0 1 1

pe2 (1

− pe) 1

1 0 0 pe(1 − pe)2

0

1 0 1 pe2 (1 − pe) 1

1 1 0

pe2 (1 − pe) 1

1 1 1 pe3

1

T a b l e 6 . 1

: I n t h i s e x a m p l e , t h e t r a n s m i t t e r e n c o d e s 0 a s 000. T h e c h a n n e l c r e a t e s a n e r r o r ( c h a n g i n g a 0i n t o a 1) t h a t w i t h p r o b a b i l i t y pe . T h e r s t c o l u m n l i s t s a l l p o s s i b l e r e c e i v e d d a t a w o r d s a n d t h e s e c o n d t h e

p r o b a b i l i t y o f e a c h d a t a w o r d b e i n g r e c e i v e d . T h e l a s t c o l u m n s h o w s t h e r e s u l t s o f t h e m a j o r i t y - v o t e




2 6 1

d e c o d e r . W h e n t h e d e c o d e r p r o d u c e s 0 , i t s u c c e s s f u l l y c o r r e c t e d t h e e r r o r s i n t r o d u c e d b y t h e c h a n n e l ( i f

t h e r e w e r e a n y ; t h e t o p r o w c o r r e s p o n d s t o t h e c a s e i n w h i c h n o e r r o r s o c c u r r e d ) . T h e e r r o r p r o b a b i l i t y o f

t h e d e c o d e r s i s t h e s u m o f t h e p r o b a b i l i t i e s w h e n t h e d e c o d e r p r o d u c e s 1 .

T h u s , i f o n e b i t o f t h e t h r e e b i t s i s r e c e i v e d i n e r r o r , t h e r e c e i v e r c a n c o r r e c t t h e e r r o r ; i f m o r e t h a n

o n e e r r o r o c c u r s , t h e c h a n n e l d e c o d e r a n n o u n c e s t h e b i t i s 1 i n s t e a d o f t r a n s m i t t e d v a l u e o f 0 . U s i n g t h i s

r e p e t i t i o n c o d e , t h e p r o b a b i l i t y o f

b (n) = 0 e q u a l s 3 pe2 × (1 − pe) + pe

3. T h i s p r o b a b i l i t y o f a d e c o d i n g

e r r o r i s a l w a y s l e s s t h a n pe , t h e u n c o d e d v a l u e , s o l o n g a s pe < 12

.


D e m o n s t r a t e m a t h e m a t i c a l l y t h a t t h i s c l a i m i s i n d e e d t r u e . I s 3 pe2 × (1 − pe) + pe

3 ≤ pe ?

6 . 2 6 B l o c k C h a n n e l C o d i n g

3 9

B e c a u s e o f t h e h i g h e r d a t a r a t e i m p o s e d b y t h e c h a n n e l c o d e r , t h e p r o b a b i l i t y o f b i t e r r o r o c c u r r i n g i n t h e

d i g i t a l c h a n n e l i n c r e a s e s r e l a t i v e t o t h e v a l u e o b t a i n e d w h e n n o c h a n n e l c o d i n g i s u s e d . T h e b i t i n t e r v a l

d u r a t i o n m u s t b e r e d u c e d b y

K N i n c o m p a r i s o n t o t h e n o - c h a n n e l - c o d i n g s i t u a t i o n , w h i c h m e a n s t h e e n e r g y

p e r b i t

E b g o e s d o w n b y t h e s a m e a m o u n t . T h e b i t i n t e r v a l m u s t d e c r e a s e b y a f a c t o r o f t h r e e i f t h e

t r a n s m i t t e r i s t o k e e p u p w i t h t h e d a t a s t r e a m , a s i l l u s t r a t e d h e r e ( F i g u r e 6 . 2 1 : R e p e t i t i o n C o d e ) .

P o i n t o f I n t e r e s t : I t i s u n l i k e l y t h a t t h e t r a n s m i t t e r ' s p o w e r c o u l d b e i n c r e a s e d t o c o m p e n s a t e .

S u c h i s t h e s o m e t i m e s - u n f r i e n d l y n a t u r e o f t h e r e a l w o r l d .

B e c a u s e o f t h i s r e d u c t i o n , t h e e r r o r p r o b a b i l i t y pe o f t h e d i g i t a l c h a n n e l g o e s u p . T h e q u e s t i o n t h u s b e c o m e s

d o e s c h a n n e l c o d i n g r e a l l y h e l p : I s t h e e e c t i v e e r r o r p r o b a b i l i t y l o w e r w i t h c h a n n e l c o d i n g e v e n t h o u g h t h e

e r r o r p r o b a b i l i t y f o r e a c h t r a n s m i t t e d b i t i s l a r g e r ? T h e a n s w e r i s n o : U s i n g a r e p e t i t i o n c o d e f o r c h a n n e l

c o d i n g c a n n o t u l t i m a t e l y r e d u c e t h e p r o b a b i l i t y t h a t a d a t a b i t i s r e c e i v e d i n e r r o r . T h e u l t i m a t e r e a s o n i s

t h e r e p e t i t i o n c o d e ' s i n e c i e n c y : t r a n s m i t t i n g o n e d a t a b i t f o r e v e r y t h r e e t r a n s m i t t e d i s t o o i n e c i e n t f o r

t h e a m o u n t o f e r r o r c o r r e c t i o n p r o v i d e d .

E x e r c i s e 6 . 2 6 . 1

( S o l u t i o n o n p . 2 9 6 . )

U s i n g M A T L A B , c a l c u l a t e t h e p r o b a b i l i t y a b i t i s r e c e i v e d i n c o r r e c t l y w i t h a t h r e e - f o l d r e p e t i t i o n

c o d e . S h o w t h a t w h e n t h e e n e r g y p e r b i t E b i s r e d u c e d b y 1/3 t h a t t h i s p r o b a b i l i t y i s l a r g e r t h a n

t h e n o - c o d i n g p r o b a b i l i t y o f e r r o r .

T h e r e p e t i t i o n c o d e ( p . 2 5 9 ) r e p r e s e n t s a s p e c i a l c a s e o f w h a t i s k n o w n a s b l o c k c h a n n e l c o d i n g . F o r

e v e r y

K b i t s t h a t e n t e r t h e b l o c k c h a n n e l c o d e r , i t i n s e r t s a n a d d i t i o n a l

N − K e r r o r - c o r r e c t i o n b i t s t o

p r o d u c e a b l o c k o f

N b i t s f o r t r a n s m i s s i o n . W e u s e t h e n o t a t i o n ( N , K ) t o r e p r e s e n t a g i v e n b l o c k c o d e ' s

p a r a m e t e r s . I n t h e t h r e e - f o l d r e p e t i t i o n c o d e ( p . 2 5 9 ) , K = 1 a n d N = 3 . A b l o c k c o d e ' s c o d i n g e c i e n c y

E e q u a l s t h e r a t i o

K N , a n d q u a n t i e s t h e o v e r h e a d i n t r o d u c e d b y c h a n n e l c o d i n g . T h e r a t e a t w h i c h b i t s

m u s t b e t r a n s m i t t e d a g a i n c h a n g e s : S o - c a l l e d d a t a b i t s b (n) e m e r g e f r o m t h e s o u r c e c o d e r a t a n a v e r a g e

r a t e

−B (A) a n d e x i t t h e c h a n n e l a t a r a t e

1E h i g h e r . W e r e p r e s e n t t h e f a c t t h a t t h e b i t s s e n t t h r o u g h t h e

d i g i t a l c h a n n e l o p e r a t e a t a d i e r e n t r a t e b y u s i n g t h e i n d e x

lf o r t h e c h a n n e l - c o d e d b i t s t r e a m

c (l). N o t e

t h a t t h e b l o c k i n g ( f r a m i n g ) i m p o s e d b y t h e c h a n n e l c o d e r d o e s n o t c o r r e s p o n d t o s y m b o l b o u n d a r i e s i n t h e

b i t s t r e a m b (n), e s p e c i a l l y w h e n w e e m p l o y v a r i a b l e - l e n g t h s o u r c e c o d e s .

D o e s a n y e r r o r - c o r r e c t i n g c o d e r e d u c e c o m m u n i c a t i o n e r r o r s w h e n r e a l - w o r l d c o n s t r a i n t s a r e t a k e n i n t o

a c c o u n t ? T h e a n s w e r n o w i s y e s . T o u n d e r s t a n d c h a n n e l c o d i n g , w e n e e d t o d e v e l o p r s t a g e n e r a l f r a m e w o r k

f o r c h a n n e l c o d i n g , a n d d i s c o v e r w h a t i t t a k e s f o r a c o d e t o b e m a x i m a l l y e c i e n t : C o r r e c t a s m a n y e r r o r s

a s p o s s i b l e u s i n g t h e f e w e s t e r r o r c o r r e c t i o n b i t s a s p o s s i b l e ( m a k i n g t h e e c i e n c y

K N

a s l a r g e a s p o s s i b l e ) .

3 9





2 6 2


6 . 2 7 E r r o r - C o r r e c t i n g C o d e s : H a m m i n g D i s t a n c e

4 0

S o - c a l l e d l i n e a r c o d e s c r e a t e e r r o r - c o r r e c t i o n b i t s b y c o m b i n i n g t h e d a t a b i t s l i n e a r l y . T h e p h r a s e " l i n e a r

c o m b i n a t i o n " m e a n s h e r e s i n g l e - b i t b i n a r y a r i t h m e t i c .

0 ⊕ 0 = 0 1 ⊕ 1 = 0 0 ⊕ 1 = 1 1 ⊕ 0 = 1

0 · 0 = 0 1 · 1 = 1 0 · 1 = 0 1 · 0 = 0

T a b l e 6 . 2

F o r e x a m p l e , l e t ' s c o n s i d e r t h e s p e c i c ( 3 , 1 ) e r r o r c o r r e c t i o n c o d e d e s c r i b e d b y t h e f o l l o w i n g c o d i n g t a b l e

a n d , m o r e c o n c i s e l y , b y t h e s u c c e e d i n g m a t r i x e x p r e s s i o n .

c (1) = b (1)

c (2) = b (1)

c (3) = b (1)

o r

c = Gb

w h e r e

G =

1

1

1

c =

c (1)

c (2)

c (3)

b =

b (1)

T h e l e n g t h - K ( i n t h i s s i m p l e e x a m p l e K = 1) b l o c k o f d a t a b i t s i s r e p r e s e n t e d b y t h e v e c t o r b, a n d t h e

l e n g t h - N o u t p u t b l o c k o f t h e c h a n n e l c o d e r , k n o w n a s a c o d e w o r d , b y c. T h e g e n e r a t o r m a t r i x G d e n e s

a l l b l o c k - o r i e n t e d l i n e a r c h a n n e l c o d e r s .

A s w e c o n s i d e r o t h e r b l o c k c o d e s , t h e s i m p l e i d e a o f t h e d e c o d e r t a k i n g a m a j o r i t y v o t e o f t h e r e c e i v e d b i t s

w o n ' t g e n e r a l i z e e a s i l y . W e n e e d a b r o a d e r v i e w t h a t t a k e s i n t o a c c o u n t t h e d i s t a n c e b e t w e e n c o d e w o r d s .

A l e n g t h -

N c o d e w o r d m e a n s t h a t t h e r e c e i v e r m u s t d e c i d e a m o n g t h e 2N p o s s i b l e d a t a w o r d s t o s e l e c t w h i c h

o f t h e 2K c o d e w o r d s w a s a c t u a l l y t r a n s m i t t e d . A s s h o w n i n F i g u r e 6 . 2 2 , w e c a n t h i n k o f t h e d a t a w o r d s

g e o m e t r i c a l l y . W e d e n e t h e H a m m i n g d i s t a n c e b e t w e e n b i n a r y d a t a w o r d s c1 a n d c2 , d e n o t e d b y d (c1, c2)t o b e t h e m i n i m u m n u m b e r o f b i t s t h a t m u s t b e " i p p e d " t o g o f r o m o n e w o r d t o t h e o t h e r . F o r e x a m p l e , t h e

d i s t a n c e b e t w e e n c o d e w o r d s i s 3 b i t s . I n o u r t a b l e o f b i n a r y a r i t h m e t i c , w e s e e t h a t a d d i n g a 1 c o r r e s p o n d s t o

i p p i n g a b i t . F u r t h e r m o r e , s u b t r a c t i o n a n d a d d i t i o n a r e e q u i v a l e n t . W e c a n e x p r e s s t h e H a m m i n g d i s t a n c e

a s

d (c1, c2) = sum(c1 ⊕ c2) ( 6 . 5 5 )

E x e r c i s e 6 . 2 7 . 1

( S o l u t i o n o n p . 2 9 7 . )

S h o w t h a t a d d i n g t h e e r r o r v e c t o r c o l [ 1 , 0 , . . . , 0 ] t o a c o d e w o r d i p s t h e c o d e w o r d ' s l e a d i n g b i t a n d

l e a v e s t h e r e s t u n a e c t e d .

4 0





2 6 3

T h e p r o b a b i l i t y o f o n e b i t b e i n g i p p e d a n y w h e r e i n a c o d e w o r d i s N pe(1 − pe)N −1

. T h e n u m b e r o f e r r o r s

t h e c h a n n e l i n t r o d u c e s e q u a l s t h e n u m b e r o f o n e s i n

e; t h e p r o b a b i l i t y o f a n y p a r t i c u l a r e r r o r v e c t o r d e c r e a s e s

w i t h t h e n u m b e r o f e r r o r s .

0

1

11 0

1

11

0

1

11

F i g u r e 6 . 2 2 : I n a ( 3 , 1 ) r e p e t i t i o n c o d e , o n l y 2 o f t h e p o s s i b l e 8 t h r e e - b i t d a t a b l o c k s a r e c o d e w o r d s .

W e c a n r e p r e s e n t t h e s e b i t p a t t e r n s g e o m e t r i c a l l y w i t h t h e a x e s b e i n g b i t p o s i t i o n s i n t h e d a t a b l o c k . I n

t h e l e f t p l o t , t h e l l e d c i r c l e s r e p r e s e n t t h e c o d e w o r d s [ 0 0 0 ] a n d [ 1 1 1 ] , t h e o n l y p o s s i b l e c o d e w o r d s . T h e

u n l l e d o n e s c o r r e s p o n d t o t h e t r a n s m i s s i o n . T h e c e n t e r p l o t s h o w s t h a t t h e d i s t a n c e b e t w e e n c o d e w o r d s

i s 3 . B e c a u s e d i s t a n c e c o r r e s p o n d s t o i p p i n g a b i t , c a l c u l a t i n g t h e H a m m i n g d i s t a n c e g e o m e t r i c a l l y

m e a n s f o l l o w i n g t h e a x e s r a t h e r t h a n g o i n g " a s t h e c r o w i e s " . T h e r i g h t p l o t s h o w s t h e d a t a w o r d s

t h a t r e s u l t w h e n o n e e r r o r o c c u r s a s t h e c o d e w o r d g o e s t h r o u g h t h e c h a n n e l . T h e t h r e e d a t a w o r d s a r e

u n i t d i s t a n c e f r o m t h e o r i g i n a l c o d e w o r d . N o t e t h a t t h e r e c e i v e d d a t a w o r d g r o u p s d o n o t o v e r l a p , w h i c h

m e a n s t h e c o d e c a n c o r r e c t a l l s i n g l e - b i t e r r o r s .

T o p e r f o r m d e c o d i n g w h e n e r r o r s o c c u r , w e w a n t t o n d t h e c o d e w o r d ( o n e o f t h e l l e d c i r c l e s i n F i g -

u r e 6 . 2 2 ) t h a t h a s t h e h i g h e s t p r o b a b i l i t y o f o c c u r r i n g : t h e o n e c l o s e s t t o t h e o n e r e c e i v e d . N o t e t h a t i f a

d a t a w o r d l i e s a d i s t a n c e o f 1 f r o m t w o c o d e w o r d s , i t i s i m p o s s i b l e t o d e t e r m i n e w h i c h c o d e w o r d w a s a c t u -

a l l y s e n t . T h i s c r i t e r i o n m e a n s t h a t i f a n y t w o c o d e w o r d s a r e t w o b i t s a p a r t , t h e n t h e c o d e c a n n o t c o r r e c t

t h e c h a n n e l - i n d u c e d e r r o r . T h u s , t o h a v e a c o d e t h a t c a n c o r r e c t a l l s i n g l e - b i t e r r o r s , c o d e w o r d s

m u s t h a v e a m i n i m u m s e p a r a t i o n o f t h r e e . O u r r e p e t i t i o n c o d e h a s t h i s p r o p e r t y .

I n t r o d u c i n g c o d e b i t s i n c r e a s e s t h e p r o b a b i l i t y t h a t a n y b i t a r r i v e s i n e r r o r ( b e c a u s e b i t i n t e r v a l d u r a t i o n s

d e c r e a s e ) . H o w e v e r , u s i n g a w e l l - d e s i g n e d e r r o r - c o r r e c t i n g c o d e c o r r e c t s b i t r e c e p t i o n e r r o r s . D o w e w i n o r

l o s e b y u s i n g a n e r r o r - c o r r e c t i n g c o d e ? T h e a n s w e r i s t h a t w e c a n w i n i f t h e c o d e i s w e l l - d e s i g n e d . T h e ( 3 , 1 )

r e p e t i t i o n c o d e d e m o n s t r a t e s t h a t w e c a n l o s e ( E x e r c i s e 6 . 2 6 . 1 ) . T o d e v e l o p g o o d c h a n n e l c o d i n g , w e n e e d

t o d e v e l o p r s t a g e n e r a l f r a m e w o r k f o r c h a n n e l c o d e s a n d d i s c o v e r w h a t i t t a k e s f o r a c o d e t o b e m a x i m a l l y

e c i e n t : C o r r e c t a s m a n y e r r o r s a s p o s s i b l e u s i n g t h e f e w e s t e r r o r c o r r e c t i o n b i t s a s p o s s i b l e ( m a k i n g t h e

e c i e n c y

K N

a s l a r g e a s p o s s i b l e . ) W e a l s o n e e d a s y s t e m a t i c w a y o f n d i n g t h e c o d e w o r d c l o s e s t t o a n y

r e c e i v e d d a t a w o r d . A m u c h b e t t e r c o d e t h a n o u r ( 3 , 1 ) r e p e t i t i o n c o d e i s t h e f o l l o w i n g ( 7 , 4 ) c o d e .

c (1) = b (1)

c (2) = b (2)

c (3) = b (3)

c (4) = b (4)

c (5) = b (1) ⊕ b (2) ⊕ b (3)

c (6) = b (2) ⊕ b (3) ⊕ b (4)

c (7) = b (1) ⊕ b (2) ⊕ b (4)




2 6 4


w h e r e t h e g e n e r a t o r m a t r i x i s

G =

1 0 0 0

0 1 0 0

0 0 1 0

0 0 0 1

1 1 1 0

0 1 1 1

1 1 0 1

I n t h i s ( 7 , 4 ) c o d e , 24 = 16 o f t h e 27 = 128 p o s s i b l e b l o c k s a t t h e c h a n n e l d e c o d e r c o r r e s p o n d t o e r r o r - f r e e

t r a n s m i s s i o n a n d r e c e p t i o n .

E r r o r c o r r e c t i o n a m o u n t s t o s e a r c h i n g f o r t h e c o d e w o r d c c l o s e s t t o t h e r e c e i v e d b l o c k

ci n t e r m s o f t h e

H a m m i n g d i s t a n c e b e t w e e n t h e t w o . T h e e r r o r c o r r e c t i o n c a p a b i l i t y o f a c h a n n e l c o d e i s l i m i t e d b y h o w c l o s e

t o g e t h e r a n y t w o e r r o r - f r e e b l o c k s a r e . B a d c o d e s w o u l d p r o d u c e b l o c k s c l o s e t o g e t h e r , w h i c h w o u l d r e s u l t

i n a m b i g u i t y w h e n a s s i g n i n g a b l o c k o f d a t a b i t s t o a r e c e i v e d b l o c k . T h e q u a n t i t y t o e x a m i n e , t h e r e f o r e , i n

d e s i g n i n g c o d e e r r o r c o r r e c t i o n c o d e s i s t h e m i n i m u m d i s t a n c e b e t w e e n c o d e w o r d s .

dmin = min(d (ci, cj)) , ci = cj ( 6 . 5 6 )

T o h a v e a c h a n n e l c o d e t h a t c a n c o r r e c t a l l s i n g l e - b i t e r r o r s ,

dmin ≥ 3 .

E x e r c i s e 6 . 2 7 . 2

( S o l u t i o n o n p . 2 9 7 . )

S u p p o s e w e w a n t a c h a n n e l c o d e t o h a v e a n e r r o r - c o r r e c t i o n c a p a b i l i t y o f

nb i t s . W h a t m u s t t h e

m i n i m u m H a m m i n g d i s t a n c e b e t w e e n c o d e w o r d s dmin b e ?

H o w d o w e c a l c u l a t e t h e m i n i m u m d i s t a n c e b e t w e e n c o d e w o r d s ? B e c a u s e w e h a v e 2K c o d e w o r d s , t h e n u m b e r

o f p o s s i b l e u n i q u e p a i r s e q u a l s 2K −1 2K − 1

, w h i c h c a n b e a l a r g e n u m b e r . R e c a l l t h a t o u r c h a n n e l c o d i n g

p r o c e d u r e i s l i n e a r , w i t h c = Gb . T h e r e f o r e ci ⊕ cj = G (bi ⊕ bj) . B e c a u s e bi ⊕ bj a l w a y s y i e l d s a n o t h e r

b l o c k o f d a t a b i t s , w e n d t h a t t h e d i e r e n c e b e t w e e n a n y t w o c o d e w o r d s i s a n o t h e r c o d e w o r d ! T h u s , t o

n d dmin w e n e e d o n l y c o m p u t e t h e n u m b e r o f o n e s t h a t c o m p r i s e a l l n o n - z e r o c o d e w o r d s . F i n d i n g t h e s e

c o d e w o r d s i s e a s y o n c e w e e x a m i n e t h e c o d e r ' s g e n e r a t o r m a t r i x . N o t e t h a t t h e c o l u m n s o f G a r e c o d e w o r d s

( w h y i s t h i s ? ) , a n d t h a t a l l c o d e w o r d s c a n b e f o u n d b y a l l p o s s i b l e p a i r w i s e s u m s o f t h e c o l u m n s . T o n d

dmin , w e n e e d o n l y c o u n t t h e n u m b e r o f b i t s i n e a c h c o l u m n a n d s u m s o f c o l u m n s . F o r o u r e x a m p l e ( 7 , 4 ) ,

G' s r s t c o l u m n h a s t h r e e o n e s , t h e n e x t o n e f o u r , a n d t h e l a s t t w o t h r e e . C o n s i d e r i n g s u m s o f c o l u m n p a i r s

n e x t , n o t e t h a t b e c a u s e t h e u p p e r p o r t i o n o f G i s a n i d e n t i t y m a t r i x , t h e c o r r e s p o n d i n g u p p e r p o r t i o n o f a l l

c o l u m n s u m s m u s t h a v e e x a c t l y t w o b i t s . B e c a u s e t h e b o t t o m p o r t i o n o f e a c h c o l u m n d i e r s f r o m t h e o t h e r

c o l u m n s i n a t l e a s t o n e p l a c e , t h e b o t t o m p o r t i o n o f a s u m o f c o l u m n s m u s t h a v e a t l e a s t o n e b i t . T r i p l e

s u m s w i l l h a v e a t l e a s t t h r e e b i t s b e c a u s e t h e u p p e r p o r t i o n o f G i s a n i d e n t i t y m a t r i x . T h u s , n o s u m o f

c o l u m n s h a s f e w e r t h a n t h r e e b i t s , w h i c h m e a n s t h a t dmin = 3 , a n d w e h a v e a c h a n n e l c o d e r t h a t c a n c o r r e c t

a l l o c c u r r e n c e s o f o n e e r r o r w i t h i n a r e c e i v e d 7- b i t b l o c k .

6 . 2 8 E r r o r - C o r r e c t i n g C o d e s : C h a n n e l D e c o d i n g

4 1

B e c a u s e t h e i d e a o f c h a n n e l c o d i n g h a s m e r i t ( s o l o n g a s t h e c o d e i s e c i e n t ) , l e t ' s d e v e l o p a s y s t e m a t i c

p r o c e d u r e f o r p e r f o r m i n g c h a n n e l d e c o d i n g . O n e w a y o f c h e c k i n g f o r e r r o r s i s t o t r y r e c r e a t i n g t h e e r r o r

c o r r e c t i o n b i t s f r o m t h e d a t a p o r t i o n o f t h e r e c e i v e d b l o c k

c. U s i n g m a t r i x n o t a t i o n , w e m a k e t h i s c a l c u l a t i o n

b y m u l t i p l y i n g t h e r e c e i v e d b l o c k

cb y t h e m a t r i x

H k n o w n a s t h e p a r i t y c h e c k m a t r i x . I t i s f o r m e d f r o m

4 1





2 6 5

t h e g e n e r a t o r m a t r i x G b y t a k i n g t h e b o t t o m , e r r o r - c o r r e c t i o n p o r t i o n o f G a n d a t t a c h i n g t o i t a n i d e n t i t y

m a t r i x . F o r o u r ( 7 , 4 ) c o d e ,

H =

1 1 1 00 1 1 1

1 1 0 1 L o w e r p o r t i o n o f

G

1 0 00 1 0

0 0 1 I d e n t i t y

( 6 . 5 7 )

T h e p a r i t y c h e c k m a t r i x t h u s h a s s i z e (N − K ) × N , a n d t h e r e s u l t o f m u l t i p l y i n g t h i s m a t r i x w i t h a

r e c e i v e d w o r d i s a l e n g t h - (N − K ) b i n a r y v e c t o r . I f n o d i g i t a l c h a n n e l e r r o r s o c c u r w e r e c e i v e a c o d e w o r d

s o t h a t

c= c t h e n H

c= 0 . F o r e x a m p l e , t h e r s t c o l u m n o f G, (1, 0, 0, 0, 1, 0, 1)T

, i s a c o d e w o r d . S i m p l e

c a l c u l a t i o n s s h o w t h a t m u l t i p l y i n g t h i s v e c t o r b y

H r e s u l t s i n a l e n g t h - (N − K ) z e r o - v a l u e d v e c t o r .

E x e r c i s e 6 . 2 8 . 1

( S o l u t i o n o n p . 2 9 7 . )

S h o w t h a t

Hc = 0 f o r a l l t h e c o l u m n s o f

G. I n o t h e r w o r d s , s h o w t h a t

HG = 0 a n (N − K ) × K m a t r i x o f z e r o e s . D o e s t h i s p r o p e r t y g u a r a n t e e t h a t a l l c o d e w o r d s a l s o s a t i s f y Hc = 0 ?

W h e n t h e r e c e i v e d b i t s

cd o n o t f o r m a c o d e w o r d , H

cd o e s n o t e q u a l z e r o , i n d i c a t i n g t h e p r e s e n c e o f

o n e o r m o r e e r r o r s i n d u c e d b y t h e d i g i t a l c h a n n e l . B e c a u s e t h e p r e s e n c e o f a n e r r o r c a n b e m a t h e m a t i c a l l y

w r i t t e n a s

c= c⊕e, w i t h

ea v e c t o r o f b i n a r y v a l u e s h a v i n g a 1 i n t h o s e p o s i t i o n s w h e r e a b i t e r r o r o c c u r r e d .

E x e r c i s e 6 . 2 8 . 2

( S o l u t i o n o n p . 2 9 8 . )

S h o w t h a t a d d i n g t h e e r r o r v e c t o r (1, 0, . . . , 0)T

t o a c o d e w o r d i p s t h e c o d e w o r d ' s l e a d i n g b i t a n d

l e a v e s t h e r e s t u n a e c t e d .

C o n s e q u e n t l y , H

c= Hc ⊕ e = He. B e c a u s e t h e r e s u l t o f t h e p r o d u c t i s a l e n g t h - (N − K ) v e c t o r o f b i n a r y

v a l u e s , w e c a n h a v e 2N −K − 1 n o n - z e r o v a l u e s t h a t c o r r e s p o n d t o n o n - z e r o e r r o r p a t t e r n s e . T o p e r f o r m o u r

c h a n n e l d e c o d i n g ,

1 . c o m p u t e ( c o n c e p t u a l l y a t l e a s t ) H

c;

2 . i f t h i s r e s u l t i s z e r o , n o d e t e c t a b l e o r c o r r e c t a b l e e r r o r o c c u r r e d ;

3 . i f n o n - z e r o , c o n s u l t a t a b l e o f l e n g t h - (N − K ) b i n a r y v e c t o r s t o a s s o c i a t e t h e m w i t h t h e m i n i m a l e r r o r

p a t t e r n t h a t c o u l d h a v e r e s u l t e d i n t h e n o n - z e r o r e s u l t ; t h e n

4 . a d d t h e e r r o r v e c t o r t h u s o b t a i n e d t o t h e r e c e i v e d v e c t o r

ct o c o r r e c t t h e e r r o r ( b e c a u s e c ⊕ e ⊕ e = c) .

5 . S e l e c t t h e d a t a b i t s f r o m t h e c o r r e c t e d w o r d t o p r o d u c e t h e r e c e i v e d b i t s e q u e n c e

b (n).

T h e p h r a s e m i n i m a l i n t h e t h i r d i t e m r a i s e s t h e p o i n t t h a t a d o u b l e ( o r t r i p l e o r q u a d r u p l e . . .) e r r o r

o c c u r r i n g d u r i n g t h e t r a n s m i s s i o n / r e c e p t i o n o f o n e c o d e w o r d c a n c r e a t e t h e s a m e r e c e i v e d w o r d a s a s i n g l e -

b i t e r r o r o r n o e r r o r i n a n o t h e r c o d e w o r d . F o r e x a m p l e , (1, 0, 0, 0, 1, 0, 1)T

a n d (0, 1, 0, 0, 1, 1, 1)T

a r e b o t h

c o d e w o r d s i n t h e e x a m p l e ( 7 , 4 ) c o d e . T h e s e c o n d r e s u l t s w h e n t h e r s t o n e e x p e r i e n c e s t h r e e b i t e r r o r s

( r s t , s e c o n d , a n d s i x t h b i t s ) . S u c h a n e r r o r p a t t e r n c a n n o t b e d e t e c t e d b y o u r c o d i n g s t r a t e g y , b u t s u c h

m u l t i p l e e r r o r p a t t e r n s a r e v e r y u n l i k e l y t o o c c u r . O u r r e c e i v e r u s e s t h e p r i n c i p l e o f m a x i m u m p r o b a b i l i t y :

A n e r r o r - f r e e t r a n s m i s s i o n i s m u c h m o r e l i k e l y t h a n o n e w i t h t h r e e e r r o r s i f t h e b i t - e r r o r p r o b a b i l i t y pe i s

s m a l l e n o u g h .

E x e r c i s e 6 . 2 8 . 3

( S o l u t i o n o n p . 2 9 8 . )

H o w s m a l l m u s t

pe b e s o t h a t a s i n g l e - b i t e r r o r i s m o r e l i k e l y t o o c c u r t h a n a t r i p l e - b i t e r r o r ?




2 6 6


6 . 2 9 E r r o r - C o r r e c t i n g C o d e s : H a m m i n g C o d e s

4 2

F o r t h e ( 7 , 4 ) e x a m p l e , w e h a v e 2N −K − 1 = 7 e r r o r p a t t e r n s t h a t c a n b e c o r r e c t e d . W e s t a r t w i t h s i n g l e - b i t

e r r o r p a t t e r n s , a n d m u l t i p l y t h e m b y t h e p a r i t y c h e c k m a t r i x . I f w e o b t a i n u n i q u e a n s w e r s , w e a r e d o n e ; i f

t w o o r m o r e e r r o r p a t t e r n s y i e l d t h e s a m e r e s u l t , w e c a n t r y d o u b l e - b i t e r r o r p a t t e r n s . I n o u r c a s e , s i n g l e - b i t

e r r o r p a t t e r n s g i v e a u n i q u e r e s u l t .

P a r i t y C h e c k M a t r i x

e H e

1 0 0 0 0 0 0 1 0 1

0 1 0 0 0 0 0 1 1 1

0 0 1 0 0 0 0 1 1 0

0 0 0 1 0 0 0 0 1 1

0 0 0 0 1 0 0 1 0 0

0 0 0 0 0 1 0 0 1 0

0 0 0 0 0 0 1 0 0 1

T a b l e 6 . 3

T h i s c o r r e s p o n d s t o o u r d e c o d i n g t a b l e : W e a s s o c i a t e t h e p a r i t y c h e c k m a t r i x m u l t i p l i c a t i o n r e s u l t w i t h

t h e e r r o r p a t t e r n a n d a d d t h i s t o t h e r e c e i v e d w o r d . I f m o r e t h a n o n e e r r o r o c c u r s ( u n l i k e l y t h o u g h i t m a y

b e ) , t h i s " e r r o r c o r r e c t i o n " s t r a t e g y u s u a l l y m a k e s t h e e r r o r w o r s e i n t h e s e n s e t h a t m o r e b i t s a r e c h a n g e d

f r o m w h a t w a s t r a n s m i t t e d .

A s w i t h t h e r e p e t i t i o n c o d e , w e m u s t q u e s t i o n w h e t h e r o u r ( 7 , 4 ) c o d e ' s e r r o r c o r r e c t i o n c a p a b i l i t y c o m -

p e n s a t e s f o r t h e i n c r e a s e d e r r o r p r o b a b i l i t y d u e t o t h e n e c e s s i t a t e d r e d u c t i o n i n b i t e n e r g y . F i g u r e 6 . 2 3

( P r o b a b i l i t y o f e r r o r o c c u r r i n g ) s h o w s t h a t i f t h e s i g n a l - t o - n o i s e r a t i o i s l a r g e e n o u g h c h a n n e l c o d i n g y i e l d s

a s m a l l e r e r r o r p r o b a b i l i t y . B e c a u s e t h e b i t s t r e a m e m e r g i n g f r o m t h e s o u r c e d e c o d e r i s s e g m e n t e d i n t o

f o u r - b i t b l o c k s , t h e f a i r w a y o f c o m p a r i n g c o d e d a n d u n c o d e d t r a n s m i s s i o n i s t o c o m p u t e t h e p r o b a b i l i t y o f

b l o c k e r r o r : t h e p r o b a b i l i t y t h a t a n y b i t i n a b l o c k r e m a i n s i n e r r o r d e s p i t e e r r o r c o r r e c t i o n a n d r e g a r d l e s s

o f w h e t h e r t h e e r r o r o c c u r s i n t h e d a t a o r i n c o d i n g b u t s . C l e a r l y , o u r ( 7 , 4 ) c h a n n e l c o d e d o e s y i e l d s m a l l e r

e r r o r r a t e s , a n d i s w o r t h t h e a d d i t i o n a l s y s t e m s r e q u i r e d t o m a k e i t w o r k .

4 2





2 6 7

P r o b a b i l i t y o f e r r o r o c c u r r i n g

-5 0 5 10

10-8

10-6

10-4

10-2

100


P r o b a b i l i t y o f B l o c k E r r o r

Uncoded (K=4)

(7,4) Code

F i g u r e 6 . 2 3 : T h e p r o b a b i l i t y o f a n e r r o r o c c u r r i n g i n t r a n s m i t t e d

K = 4d a t a b i t s e q u a l s

1− (1 − pe)4

a s

(1 − pe)4e q u a l s t h e p r o b a b i l i t y t h a t t h e f o u r b i t s a r e r e c e i v e d w i t h o u t e r r o r . T h e u p p e r c u r v e d i s p l a y s

h o w t h i s p r o b a b i l i t y o f a n e r r o r a n y w h e r e i n t h e f o u r - b i t b l o c k v a r i e s w i t h t h e s i g n a l - t o - n o i s e r a t i o . W h e n

a ( 7 , 4 ) s i n g l e - b i t e r r o r c o r r e c t i n g c o d e i s u s e d , t h e t r a n s m i t t e r r e d u c e d t h e e n e r g y i t e x p e n d s d u r i n g a

s i n g l e - b i t t r a n s m i s s i o n b y 4 / 7 , a p p e n d i n g t h r e e e x t r a b i t s f o r e r r o r c o r r e c t i o n . N o w t h e p r o b a b i l i t y o f

a n y b i t i n t h e s e v e n - b i t b l o c k b e i n g i n e r r o r a f t e r e r r o r c o r r e c t i o n e q u a l s

1− (1 − pe)7− (7 pe) (1 − pe)6

,

w h e r e

pe i s t h e p r o b a b i l i t y o f a b i t e r r o r o c c u r r i n g i n t h e c h a n n e l w h e n c h a n n e l c o d i n g o c c u r s . H e r e

(7 pe) (1 − pe)6

e q u a l s t h e p r o b a b i l i t y o f e x a c t l y o n i n s e v e n b i t s e m e r g i n g f r o m t h e c h a n n e l i n e r r o r ; T h e

c h a n n e l d e c o d e r c o r r e c t s t h i s t y p e o f e r r o r , a n d a l l d a t a b i t s i n t h e b l o c k a r e r e c e i v e d c o r r e c t l y .

N o t e t h a t o u r ( 7 , 4 ) c o d e h a s t h e l e n g t h a n d n u m b e r o f d a t a b i t s t h a t p e r f e c t l y t s c o r r e c t i n g s i n g l e b i t

e r r o r s . T h i s p l e a s a n t p r o p e r t y a r i s e s b e c a u s e t h e n u m b e r o f e r r o r p a t t e r n s t h a t c a n b e c o r r e c t e d , 2N −K − 1 ,

e q u a l s t h e c o d e w o r d l e n g t h

N . C o d e s t h a t h a v e 2N −K − 1 = N

a r e k n o w n a s H a m m i n g c o d e s , a n d t h e

f o l l o w i n g t a b l e ( T a b l e 6 . 4 : H a m m i n g C o d e s ) p r o v i d e s t h e p a r a m e t e r s o f t h e s e c o d e s . H a m m i n g c o d e s a r e

t h e s i m p l e s t s i n g l e - b i t e r r o r c o r r e c t i o n c o d e s , a n d t h e g e n e r a t o r / p a r i t y c h e c k m a t r i x f o r m a l i s m f o r c h a n n e l

c o d i n g a n d d e c o d i n g w o r k s f o r t h e m .

H a m m i n g C o d e s

N K E ( e c i e n c y )

3 1 0 . 3 3

7 4 0 . 5 7

1 5 1 1 0 . 7 3

3 1 2 6 0 . 8 4

6 3 5 7 0 . 9 0

1 2 7 1 2 0 0 . 9 4

T a b l e 6 . 4




2 6 8


U n f o r t u n a t e l y , f o r s u c h l a r g e b l o c k s , t h e p r o b a b i l i t y o f m u l t i p l e - b i t e r r o r s c a n e x c e e d t h e n u m b e r o f

s i n g l e - b i t e r r o r s u n l e s s t h e c h a n n e l s i n g l e - b i t e r r o r p r o b a b i l i t y

pe i s v e r y s m a l l . C o n s e q u e n t l y , w e n e e d t o

e n h a n c e t h e c o d e ' s e r r o r c o r r e c t i n g c a p a b i l i t y b y a d d i n g d o u b l e a s w e l l a s s i n g l e - b i t e r r o r c o r r e c t i o n .

E x e r c i s e 6 . 2 9 . 1

( S o l u t i o n o n p . 2 9 8 . )

W h a t m u s t t h e r e l a t i o n b e t w e e n N a n d K b e f o r a c o d e t o c o r r e c t a l l s i n g l e - a n d d o u b l e - b i t e r r o r s

w i t h a " p e r f e c t t " ?

6 . 3 0 N o i s y C h a n n e l C o d i n g T h e o r e m

4 3

A s t h e b l o c k l e n g t h b e c o m e s l a r g e r , m o r e e r r o r c o r r e c t i o n w i l l b e n e e d e d . D o c o d e s e x i s t t h a t c a n c o r r e c t

a l l e r r o r s ? P e r h a p s t h e c r o w n i n g a c h i e v e m e n t o f C l a u d e S h a n n o n ' s

4 4

c r e a t i o n o f i n f o r m a t i o n t h e o r y a n s w e r s

t h i s q u e s t i o n . H i s r e s u l t c o m e s i n t w o c o m p l e m e n t a r y f o r m s : t h e N o i s y C h a n n e l C o d i n g T h e o r e m a n d i t s

c o n v e r s e .

6 . 3 0 . 1 N o i s y C h a n n e l C o d i n g T h e o r e m

L e t E d e n o t e t h e e c i e n c y o f a n e r r o r - c o r r e c t i n g c o d e : t h e r a t i o o f t h e n u m b e r o f d a t a b i t s t o t h e t o t a l

n u m b e r o f b i t s u s e d t o r e p r e s e n t t h e m . I f t h e e c i e n c y i s l e s s t h a n t h e c a p a c i t y o f t h e d i g i t a l c h a n n e l , a n

e r r o r - c o r r e c t i n g c o d e e x i s t s t h a t h a s t h e p r o p e r t y t h a t a s t h e l e n g t h o f t h e c o d e i n c r e a s e s , t h e p r o b a b i l i t y o f

a n e r r o r o c c u r r i n g i n t h e d e c o d e d b l o c k a p p r o a c h e s z e r o .

limitN →∞

P r [b l o c k e r r o r ] = 0 , E < C ( 6 . 5 8 )

6 . 3 0 . 2 C o n v e r s e t o t h e N o i s y C h a n n e l C o d i n g T h e o r e m

I f E > C , t h e p r o b a b i l i t y o f a n e r r o r i n a d e c o d e d b l o c k m u s t a p p r o a c h o n e r e g a r d l e s s o f t h e c o d e t h a t m i g h t

b e c h o s e n .

limitN →∞

P r [ b l o c k e r r o r ] = 1 ( 6 . 5 9 )

T h e s e r e s u l t s m e a n t h a t i t i s p o s s i b l e t o t r a n s m i t d i g i t a l i n f o r m a t i o n o v e r a n o i s y c h a n n e l ( o n e t h a t i n -

t r o d u c e s e r r o r s ) a n d r e c e i v e t h e i n f o r m a t i o n w i t h o u t e r r o r i f t h e c o d e i s s u c i e n t l y i n e c i e n t c o m p a r e d

t o t h e c h a n n e l ' s c h a r a c t e r i s t i c s . G e n e r a l l y , a c h a n n e l ' s c a p a c i t y c h a n g e s w i t h t h e s i g n a l - t o - n o i s e r a t i o : A s

o n e i n c r e a s e s o r d e c r e a s e s , s o d o e s t h e o t h e r . T h e c a p a c i t y m e a s u r e s t h e o v e r a l l e r r o r c h a r a c t e r i s t i c s o f a

c h a n n e l t h e s m a l l e r t h e c a p a c i t y t h e m o r e f r e q u e n t l y e r r o r s o c c u r a n d a n o v e r l y e c i e n t e r r o r - c o r r e c t i n g

c o d e w i l l n o t b u i l d i n e n o u g h e r r o r c o r r e c t i o n c a p a b i l i t y t o c o u n t e r a c t c h a n n e l e r r o r s .

T h i s r e s u l t a s t o u n d e d c o m m u n i c a t i o n e n g i n e e r s w h e n S h a n n o n p u b l i s h e d i t i n 1 9 4 8 . A n a l o g c o m m u n i -

c a t i o n a l w a y s y i e l d s a n o i s y v e r s i o n o f t h e t r a n s m i t t e d s i g n a l ; i n d i g i t a l c o m m u n i c a t i o n , e r r o r c o r r e c t i o n c a n

b e p o w e r f u l e n o u g h t o c o r r e c t a l l e r r o r s a s t h e b l o c k l e n g t h i n c r e a s e s . T h e k e y f o r t h i s c a p a b i l i t y t o e x i s t i s

t h a t t h e c o d e ' s e c i e n c y b e l e s s t h a n t h e c h a n n e l ' s c a p a c i t y . F o r a b i n a r y s y m m e t r i c c h a n n e l , t h e c a p a c i t y

i s g i v e n b y

C = 1 + pelog2 pe − 1log2 (1 − pe) bits/transmission ( 6 . 6 0 )

F i g u r e 6 . 2 4 ( c a p a c i t y o f a c h a n n e l ) s h o w s h o w c a p a c i t y v a r i e s w i t h e r r o r p r o b a b i l i t y . F o r e x a m p l e , o u r ( 7 , 4 )

H a m m i n g c o d e h a s a n e c i e n c y o f 0.57, a n d c o d e s h a v i n g t h e s a m e e c i e n c y b u t l o n g e r b l o c k s i z e s c a n b e

u s e d o n a d d i t i v e n o i s e c h a n n e l s w h e r e t h e s i g n a l - t o - n o i s e r a t i o e x c e e d s 0dB.

4 3


4 4





2 6 9

c a p a c i t y o f a c h a n n e l


C a p a c i t y ( b i t s )

-10 -5 0 5 100

0.5

1

Error Probability (Pe)

C a p a c i t y ( b i t s )

0 0.1 0.2 0.3 0.4 0.50

0.5

1

F i g u r e 6 . 2 4 : T h e c a p a c i t y p e r t r a n s m i s s i o n t h r o u g h a b i n a r y s y m m e t r i c c h a n n e l i s p l o t t e d a s a

f u n c t i o n o f t h e d i g i t a l c h a n n e l ' s e r r o r p r o b a b i l i t y ( u p p e r ) a n d a s a f u n c t i o n o f t h e s i g n a l - t o - n o i s e r a t i o

f o r a B P S K s i g n a l s e t ( l o w e r ) .

6 . 3 1 C a p a c i t y o f a C h a n n e l

4 5

I n a d d i t i o n t o t h e N o i s y C h a n n e l C o d i n g T h e o r e m a n d i t s c o n v e r s e ( S e c t i o n 6 . 3 0 ) , S h a n n o n a l s o d e r i v e d

t h e c a p a c i t y f o r a b a n d l i m i t e d ( t o W H z ) a d d i t i v e w h i t e n o i s e c h a n n e l . F o r t h i s c a s e , t h e s i g n a l s e t i s

u n r e s t r i c t e d , e v e n t o t h e p o i n t t h a t m o r e t h a n o n e b i t c a n b e t r a n s m i t t e d e a c h " b i t i n t e r v a l . " I n s t e a d o f

c o n s t r a i n i n g c h a n n e l c o d e e c i e n c y , t h e r e v i s e d N o i s y C h a n n e l C o d i n g T h e o r e m s t a t e s t h a t s o m e e r r o r -

c o r r e c t i n g c o d e e x i s t s s u c h t h a t a s t h e b l o c k l e n g t h i n c r e a s e s , e r r o r - f r e e t r a n s m i s s i o n i s p o s s i b l e i f t h e s o u r c e

c o d e r ' s d a t a r a t e ,

−B (A) R, i s l e s s t h a n c a p a c i t y .

C = W log2 (1 + SNR) b i t s / s ( 6 . 6 1 )

T h i s r e s u l t s e t s t h e m a x i m u m d a t a r a t e o f t h e s o u r c e c o d e r ' s o u t p u t t h a t c a n b e t r a n s m i t t e d t h r o u g h t h e

b a n d l i m i t e d c h a n n e l w i t h n o e r r o r .

4 6

S h a n n o n ' s p r o o f o f h i s t h e o r e m w a s v e r y c l e v e r , a n d d i d n o t i n d i c a t e

w h a t t h i s c o d e m i g h t b e ; i t h a s n e v e r b e e n f o u n d . C o d e s s u c h a s t h e H a m m i n g c o d e w o r k q u i t e w e l l i n

p r a c t i c e t o k e e p e r r o r r a t e s l o w , b u t t h e y r e m a i n g r e a t e r t h a n z e r o . U n t i l t h e " m a g i c " c o d e i s f o u n d , m o r e

i m p o r t a n t i n c o m m u n i c a t i o n s y s t e m d e s i g n i s t h e c o n v e r s e . I t s t a t e s t h a t i f y o u r d a t a r a t e e x c e e d s c a p a c i t y ,

e r r o r s w i l l o v e r w h e l m y o u n o m a t t e r w h a t c h a n n e l c o d i n g y o u u s e . F o r t h i s r e a s o n , c a p a c i t y c a l c u l a t i o n s a r e

m a d e t o u n d e r s t a n d t h e f u n d a m e n t a l l i m i t s o n t r a n s m i s s i o n r a t e s .

4 5


4 6

T h e b a n d w i d t h r e s t r i c t i o n a r i s e s n o t s o m u c h f r o m c h a n n e l p r o p e r t i e s , b u t f r o m s p e c t r a l r e g u l a t i o n , e s p e c i a l l y f o r w i r e l e s s

c h a n n e l s .




2 7 0


E x e r c i s e 6 . 3 1 . 1

( S o l u t i o n o n p . 2 9 8 . )

T h e r s t d e n i t i o n o f c a p a c i t y a p p l i e s o n l y f o r b i n a r y s y m m e t r i c c h a n n e l s , a n d r e p r e s e n t s t h e

n u m b e r o f b i t s / t r a n s m i s s i o n . T h e s e c o n d r e s u l t s t a t e s c a p a c i t y m o r e g e n e r a l l y , h a v i n g u n i t s o f

b i t s / s e c o n d . H o w w o u l d y o u c o n v e r t t h e r s t d e n i t i o n ' s r e s u l t i n t o u n i t s o f b i t s / s e c o n d ?

E x a m p l e 6 . 5

T h e t e l e p h o n e c h a n n e l h a s a b a n d w i d t h o f 3 k H z a n d a s i g n a l - t o - n o i s e r a t i o e x c e e d i n g 3 0 d B ( a t

l e a s t t h e y p r o m i s e t h i s m u c h ) . T h e m a x i m u m d a t a r a t e a m o d e m c a n p r o d u c e f o r t h i s w i r e l i n e

c h a n n e l a n d h o p e t h a t e r r o r s w i l l n o t b e c o m e r a m p a n t i s t h e c a p a c i t y .

C = 3 × 103log2

1 + 103

= 2 9 . 9 0 1 k b p s

( 6 . 6 2 )

T h u s , t h e s o - c a l l e d 3 3 k b p s m o d e m s o p e r a t e r i g h t a t t h e c a p a c i t y l i m i t .

N o t e t h a t t h e d a t a r a t e a l l o w e d b y t h e c a p a c i t y c a n e x c e e d t h e b a n d w i d t h w h e n t h e s i g n a l - t o - n o i s e r a t i o

e x c e e d s 0 d B . O u r r e s u l t s f o r B P S K a n d F S K i n d i c a t e d t h e b a n d w i d t h t h e y r e q u i r e e x c e e d s

1T . W h a t k i n d

o f s i g n a l s e t s m i g h t b e u s e d t o a c h i e v e c a p a c i t y ? M o d e m s i g n a l s e t s s e n d m o r e t h a n o n e b i t / t r a n s m i s s i o n

u s i n g a n u m b e r , o n e o f t h e m o s t p o p u l a r o f w h i c h i s m u l t i - l e v e l s i g n a l i n g . H e r e , w e c a n t r a n s m i t s e v e r a l

b i t s d u r i n g o n e t r a n s m i s s i o n i n t e r v a l b y r e p r e s e n t i n g b i t b y s o m e s i g n a l ' s a m p l i t u d e . F o r e x a m p l e , t w o b i t s

c a n b e s e n t w i t h a s i g n a l s e t c o m p r i s e d o f a s i n u s o i d w i t h a m p l i t u d e s o f ± (A) a n d ± A2

.

6 . 3 2 C o m p a r i s o n o f A n a l o g a n d D i g i t a l C o m m u n i c a t i o n

4 7

A n a l o g c o m m u n i c a t i o n s y s t e m s , a m p l i t u d e m o d u l a t i o n ( A M ) r a d i o b e i n g a t y p i f y i n g e x a m p l e , c a n i n e x p e n -

s i v e l y c o m m u n i c a t e a b a n d l i m i t e d a n a l o g s i g n a l f r o m o n e l o c a t i o n t o a n o t h e r ( p o i n t - t o - p o i n t c o m m u n i c a t i o n )

o r f r o m o n e p o i n t t o m a n y ( b r o a d c a s t ) . A l t h o u g h i t i s n o t s h o w n h e r e , t h e c o h e r e n t r e c e i v e r ( F i g u r e 6 . 6 )

p r o v i d e s t h e l a r g e s t p o s s i b l e s i g n a l - t o - n o i s e r a t i o f o r t h e d e m o d u l a t e d m e s s a g e . A n a n a l y s i s ( S e c t i o n 6 . 1 2 )

o f t h i s r e c e i v e r t h u s i n d i c a t e s t h a t s o m e r e s i d u a l e r r o r w i l l a l w a y s b e p r e s e n t i n a n a n a l o g s y s t e m ' s o u t p u t .

A l t h o u g h a n a l o g s y s t e m s a r e l e s s e x p e n s i v e i n m a n y c a s e s t h a n d i g i t a l o n e s f o r t h e s a m e a p p l i c a t i o n ,

d i g i t a l s y s t e m s o e r m u c h m o r e e c i e n c y , b e t t e r p e r f o r m a n c e , a n d m u c h g r e a t e r e x i b i l i t y .

• E c i e n c y : T h e S o u r c e C o d i n g T h e o r e m a l l o w s q u a n t i c a t i o n o f j u s t h o w c o m p l e x a g i v e n m e s s a g e

s o u r c e i s a n d a l l o w s u s t o e x p l o i t t h a t c o m p l e x i t y b y s o u r c e c o d i n g ( c o m p r e s s i o n ) . I n a n a l o g c o m m u -

n i c a t i o n , t h e o n l y p a r a m e t e r s o f i n t e r e s t a r e m e s s a g e b a n d w i d t h a n d a m p l i t u d e . W e c a n n o t e x p l o i t

s i g n a l s t r u c t u r e t o a c h i e v e a m o r e e c i e n t c o m m u n i c a t i o n s y s t e m .

• P e r f o r m a n c e : B e c a u s e o f t h e N o i s y C h a n n e l C o d i n g T h e o r e m , w e h a v e a s p e c i c c r i t e r i o n b y w h i c h

t o f o r m u l a t e e r r o r - c o r r e c t i n g c o d e s t h a t c a n b r i n g u s a s c l o s e t o e r r o r - f r e e t r a n s m i s s i o n a s w e m i g h t

w a n t . E v e n t h o u g h w e m a y s e n d i n f o r m a t i o n b y w a y o f a n o i s y c h a n n e l , d i g i t a l s c h e m e s a r e c a p a b l e

o f e r r o r - f r e e t r a n s m i s s i o n w h i l e a n a l o g o n e s c a n n o t o v e r c o m e c h a n n e l d i s t u r b a n c e s ; s e e t h i s p r o b l e m

( P r o b l e m 6 . 1 5 ) f o r a c o m p a r i s o n .

• F l e x i b i l i t y : D i g i t a l c o m m u n i c a t i o n s y s t e m s c a n t r a n s m i t r e a l - v a l u e d d i s c r e t e - t i m e s i g n a l s , w h i c h

c o u l d b e a n a l o g o n e s o b t a i n e d b y a n a l o g - t o - d i g i t a l c o n v e r s i o n , a n d s y m b o l i c - v a l u e d o n e s ( c o m p u t e r

d a t a , f o r e x a m p l e ) . A n y s i g n a l t h a t c a n b e t r a n s m i t t e d b y a n a l o g m e a n s c a n b e s e n t b y d i g i t a l m e a n s ,

w i t h t h e o n l y i s s u e b e i n g t h e n u m b e r o f b i t s u s e d i n A / D c o n v e r s i o n ( h o w a c c u r a t e l y d o w e n e e d

t o r e p r e s e n t s i g n a l a m p l i t u d e ) . I m a g e s c a n b e s e n t b y a n a l o g m e a n s ( c o m m e r c i a l t e l e v i s i o n ) , b u t

b e t t e r c o m m u n i c a t i o n p e r f o r m a n c e o c c u r s w h e n w e u s e d i g i t a l s y s t e m s ( H D T V ) . I n a d d i t i o n t o d i g i t a l

c o m m u n i c a t i o n ' s a b i l i t y t o t r a n s m i t a w i d e r v a r i e t y o f s i g n a l s t h a n a n a l o g s y s t e m s , p o i n t - t o - p o i n t

d i g i t a l s y s t e m s c a n b e o r g a n i z e d i n t o g l o b a l ( a n d b e y o n d a s w e l l ) s y s t e m s t h a t p r o v i d e e c i e n t a n d

e x i b l e i n f o r m a t i o n t r a n s m i s s i o n . C o m p u t e r n e t w o r k s , e x p l o r e d i n t h e n e x t s e c t i o n , a r e w h a t w e

c a l l s u c h s y s t e m s t o d a y . E v e n a n a l o g - b a s e d n e t w o r k s , s u c h a s t h e t e l e p h o n e s y s t e m , e m p l o y m o d e r n

c o m p u t e r n e t w o r k i n g i d e a s r a t h e r t h a n t h e p u r e l y a n a l o g s y s t e m s o f t h e p a s t .

4 7





2 7 1

C o n s e q u e n t l y , w i t h t h e i n c r e a s e d s p e e d o f d i g i t a l c o m p u t e r s , t h e d e v e l o p m e n t o f i n c r e a s i n g l y e c i e n t a l g o -

r i t h m s , a n d t h e a b i l i t y t o i n t e r c o n n e c t c o m p u t e r s t o f o r m a c o m m u n i c a t i o n s i n f r a s t r u c t u r e , d i g i t a l c o m m u -

n i c a t i o n i s n o w t h e b e s t c h o i c e f o r m a n y s i t u a t i o n s .

6 . 3 3 C o m m u n i c a t i o n N e t w o r k s

4 8

C o m m u n i c a t i o n n e t w o r k s e l a b o r a t e t h e F u n d a m e n t a l M o d e l o f C o m m u n i c a t i o n s ( F i g u r e 1 . 3 : F u n d a m e n t a l

m o d e l o f c o m m u n i c a t i o n ) . T h e m o d e l s h o w n i n F i g u r e 6 . 2 5 d e s c r i b e s p o i n t - t o - p o i n t c o m m u n i c a t i o n s w e l l ,

w h e r e i n t h e l i n k b e t w e e n t r a n s m i t t e r a n d r e c e i v e r i s s t r a i g h t f o r w a r d , a n d t h e y h a v e t h e c h a n n e l t o t h e m s e l v e s .

O n e m o d e r n e x a m p l e o f t h i s c o m m u n i c a t i o n s m o d e i s t h e m o d e m t h a t c o n n e c t s a p e r s o n a l c o m p u t e r w i t h

a n i n f o r m a t i o n s e r v e r v i a a t e l e p h o n e l i n e . T h e k e y a s p e c t , s o m e w o u l d s a y a w , o f t h i s m o d e l i s t h a t t h e

c h a n n e l i s d e d i c a t e d : O n l y o n e c o m m u n i c a t i o n s l i n k t h r o u g h t h e c h a n n e l i s a l l o w e d f o r a l l t i m e . R e g a r d l e s s

w h e t h e r w e h a v e a w i r e l i n e o r w i r e l e s s c h a n n e l , c o m m u n i c a t i o n b a n d w i d t h i s p r e c i o u s , a n d i f i t c o u l d b e

s h a r e d w i t h o u t s i g n i c a n t d e g r a d a t i o n i n c o m m u n i c a t i o n s p e r f o r m a n c e ( m e a s u r e d b y s i g n a l - t o - n o i s e r a t i o

f o r a n a l o g s i g n a l t r a n s m i s s i o n a n d b y b i t - e r r o r p r o b a b i l i t y f o r d i g i t a l t r a n s m i s s i o n ) s o m u c h t h e b e t t e r .

Source

Sink

Communication Network

F i g u r e 6 . 2 5 : T h e p r o t o t y p i c a l c o m m u n i c a t i o n s n e t w o r k w h e t h e r i t b e t h e p o s t a l s e r v i c e , c e l l u l a r

t e l e p h o n e , o r t h e I n t e r n e t c o n s i s t s o f n o d e s i n t e r c o n n e c t e d b y l i n k s . M e s s a g e s f o r m e d b y t h e s o u r c e a r e

t r a n s m i t t e d w i t h i n t h e n e t w o r k b y d y n a m i c r o u t i n g . T w o r o u t e s a r e s h o w n . T h e l o n g e r o n e w o u l d b e

u s e d i f t h e d i r e c t l i n k w e r e d i s a b l e d o r c o n g e s t e d .

T h e i d e a o f a n e t w o r k r s t e m e r g e d w i t h p e r h a p s t h e o l d e s t f o r m o f o r g a n i z e d c o m m u n i c a t i o n : t h e p o s t a l

s e r v i c e . M o s t c o m m u n i c a t i o n n e t w o r k s , e v e n m o d e r n o n e s , s h a r e m a n y o f i t s a s p e c t s .

• A u s e r w r i t e s a l e t t e r , s e r v i n g i n t h e c o m m u n i c a t i o n s c o n t e x t a s t h e m e s s a g e s o u r c e .

• T h i s m e s s a g e i s s e n t t o t h e n e t w o r k b y d e l i v e r y t o o n e o f t h e n e t w o r k ' s p u b l i c e n t r y p o i n t s . E n t r y

p o i n t s i n t h e p o s t a l c a s e a r e m a i l b o x e s , p o s t o c e s , o r y o u r f r i e n d l y m a i l m a n o r m a i l w o m a n p i c k i n g

u p t h e l e t t e r .

• T h e c o m m u n i c a t i o n s n e t w o r k d e l i v e r s t h e m e s s a g e i n t h e m o s t e c i e n t ( t i m e l y ) w a y p o s s i b l e , t r y i n g

n o t t o c o r r u p t t h e m e s s a g e w h i l e d o i n g s o .

• T h e m e s s a g e a r r i v e s a t o n e o f t h e n e t w o r k ' s e x i t p o i n t s , a n d i s d e l i v e r e d t o t h e r e c i p i e n t ( w h a t w e h a v e

t e r m e d t h e m e s s a g e s i n k ) .


D e v e l o p t h e n e t w o r k m o d e l f o r t h e t e l e p h o n e s y s t e m , m a k i n g i t a s a n a l o g o u s a s p o s s i b l e w i t h t h e

p o s t a l s e r v i c e - c o m m u n i c a t i o n s n e t w o r k m e t a p h o r .

W h a t i s m o s t i n t e r e s t i n g a b o u t t h e n e t w o r k s y s t e m i s t h e a m b i v a l e n c e o f t h e m e s s a g e s o u r c e a n d s i n k a b o u t

h o w t h e c o m m u n i c a t i o n s l i n k i s m a d e . W h a t t h e y d o c a r e a b o u t i s m e s s a g e i n t e g r i t y a n d c o m m u n i c a t i o n s

4 8





2 7 2


e c i e n c y . F u r t h e r m o r e , t o d a y ' s n e t w o r k s u s e h e t e r o g e n e o u s l i n k s . C o m m u n i c a t i o n p a t h s t h a t f o r m t h e

I n t e r n e t u s e w i r e l i n e , o p t i c a l b e r , a n d s a t e l l i t e c o m m u n i c a t i o n l i n k s .

T h e r s t e l e c t r i c a l c o m m u n i c a t i o n s n e t w o r k w a s t h e t e l e g r a p h . H e r e t h e n e t w o r k c o n s i s t e d o f t e l e g r a p h

o p e r a t o r s w h o t r a n s m i t t e d t h e m e s s a g e e c i e n t l y u s i n g M o r s e c o d e a n d r o u t e d t h e m e s s a g e s o t h a t i t t o o k

t h e s h o r t e s t p o s s i b l e p a t h t o i t s d e s t i n a t i o n w h i l e t a k i n g i n t o a c c o u n t i n t e r n a l n e t w o r k f a i l u r e s ( d o w n e d l i n e s ,

d r u n k e n o p e r a t o r s ) . F r o m t o d a y ' s p e r s p e c t i v e , t h e f a c t t h a t t h i s n i n e t e e n t h c e n t u r y s y s t e m h a n d l e d d i g i t a l

c o m m u n i c a t i o n s i s a s t o u n d i n g . M o r s e c o d e , w h i c h a s s i g n e d a s e q u e n c e o f d o t s a n d d a s h e s t o e a c h l e t t e r o f

t h e a l p h a b e t , s e r v e d a s t h e s o u r c e c o d i n g a l g o r i t h m . T h e s i g n a l s e t c o n s i s t e d o f a s h o r t a n d a l o n g p u l s e .

R a t h e r t h a n a m a t c h e d l t e r , t h e r e c e i v e r w a s t h e o p e r a t o r ' s e a r , a n d h e w r o t e t h e m e s s a g e ( t r a n s l a t i n g

f r o m r e c e i v e d b i t s t o s y m b o l s ) .

N o t e : B e c a u s e o f t h e n e e d f o r a c o m m a b e t w e e n d o t - d a s h s e q u e n c e s t o d e n e l e t t e r ( s y m b o l )

b o u n d a r i e s , t h e a v e r a g e n u m b e r o f b i t s / s y m b o l , a s d e s c r i b e d i n S u b t l e t i e s o f C o d i n g ( E x a m p l e 6 . 4 ) ,

e x c e e d e d t h e S o u r c e C o d i n g T h e o r e m ' s u p p e r b o u n d .

I n t e r n a l l y , c o m m u n i c a t i o n n e t w o r k s d o h a v e p o i n t - t o - p o i n t c o m m u n i c a t i o n l i n k s b e t w e e n n e t w o r k n o d e s

w e l l d e s c r i b e d b y t h e F u n d a m e n t a l M o d e l o f C o m m u n i c a t i o n s . H o w e v e r , m a n y m e s s a g e s s h a r e t h e c o m -

m u n i c a t i o n s c h a n n e l b e t w e e n n o d e s u s i n g w h a t w e c a l l t i m e - d o m a i n m u l t i p l e x i n g : R a t h e r t h a n t h e

c o n t i n u o u s c o m m u n i c a t i o n s m o d e i m p l i e d i n t h e M o d e l a s p r e s e n t e d , m e s s a g e s e q u e n c e s a r e s e n t , s h a r i n g

i n t i m e t h e c h a n n e l ' s c a p a c i t y . A t a g r a n d e r v i e w p o i n t , t h e n e t w o r k m u s t r o u t e m e s s a g e s d e c i d e w h a t

n o d e s a n d l i n k s t o u s e b a s e d o n d e s t i n a t i o n i n f o r m a t i o n t h e a d d r e s s t h a t i s u s u a l l y s e p a r a t e f r o m t h e

m e s s a g e i n f o r m a t i o n . R o u t i n g i n n e t w o r k s i s n e c e s s a r i l y d y n a m i c : T h e c o m p l e t e r o u t e t a k e n b y m e s s a g e s i s

f o r m e d a s t h e n e t w o r k h a n d l e s t h e m e s s a g e , w i t h n o d e s r e l a y i n g t h e m e s s a g e h a v i n g s o m e n o t i o n o f t h e b e s t

p o s s i b l e p a t h a t t h e t i m e o f t r a n s m i s s i o n . N o t e t h a t n o o m n i p o t e n t r o u t e r v i e w s t h e n e t w o r k a s a w h o l e a n d

p r e - d e t e r m i n e s e v e r y m e s s a g e ' s r o u t e . C e r t a i n l y i n t h e c a s e o f t h e p o s t a l s y s t e m d y n a m i c r o u t i n g o c c u r s ,

a n d c a n c o n s i d e r i s s u e s l i k e i n o p e r a t i v e a n d o v e r l y b u s y l i n k s . I n t h e t e l e p h o n e s y s t e m , r o u t i n g t a k e s p l a c e

w h e n y o u p l a c e t h e c a l l ; t h e r o u t e i s x e d o n c e t h e p h o n e s t a r t s r i n g i n g . M o d e r n c o m m u n i c a t i o n n e t w o r k s

s t r i v e t o a c h i e v e t h e m o s t e c i e n t ( t i m e l y ) a n d m o s t r e l i a b l e i n f o r m a t i o n d e l i v e r y s y s t e m p o s s i b l e .

6 . 3 4 M e s s a g e R o u t i n g

4 9

F o c u s i n g o n e l e c t r i c a l n e t w o r k s , m o s t a n a l o g o n e s m a k e i n e c i e n t u s e o f c o m m u n i c a t i o n l i n k s b e c a u s e t r u l y

d y n a m i c r o u t i n g i s d i c u l t , i f n o t i m p o s s i b l e , t o o b t a i n . I n r a d i o n e t w o r k s , s u c h a s c o m m e r c i a l t e l e v i s i o n ,

e a c h s t a t i o n h a s a d e d i c a t e d p o r t i o n o f t h e e l e c t r o m a g n e t i c s p e c t r u m , a n d t h i s s p e c t r u m c a n n o t b e s h a r e d

w i t h o t h e r s t a t i o n s o r u s e d i n a n y o t h e r t h a n t h e r e g u l a t e d w a y . T h e t e l e p h o n e n e t w o r k i s m o r e d y n a m i c ,

b u t o n c e i t e s t a b l i s h e s a c a l l t h e p a t h t h r o u g h t h e n e t w o r k i s x e d . T h e u s e r s o f t h a t p a t h c o n t r o l i t s

u s e , a n d m a y n o t m a k e e c i e n t u s e o f i t ( l o n g p a u s e s w h i l e o n e p e r s o n t h i n k s , f o r e x a m p l e ) . T e l e p h o n e

n e t w o r k c u s t o m e r s w o u l d b e q u i t e u p s e t i f t h e t e l e p h o n e c o m p a n y m o m e n t a r i l y d i s c o n n e c t e d t h e p a t h s o

t h a t s o m e o n e e l s e c o u l d u s e i t . T h i s k i n d o f c o n n e c t i o n t h r o u g h a n e t w o r k x e d f o r t h e d u r a t i o n o f t h e

c o m m u n i c a t i o n s e s s i o n i s k n o w n a s a c i r c u i t - s w i t c h e d c o n n e c t i o n .

D u r i n g t h e 1 9 6 0 s , i t w a s b e c o m i n g c l e a r t h a t n o t o n l y w a s d i g i t a l c o m m u n i c a t i o n t e c h n i c a l l y s u p e r i o r ,

b u t a l s o t h a t t h e w i d e v a r i e t y o f c o m m u n i c a t i o n m o d e s c o m p u t e r l o g i n , l e t r a n s f e r , a n d e l e c t r o n i c m a i l

n e e d e d a d i e r e n t a p p r o a c h t h a n p o i n t - t o - p o i n t . T h e n o t i o n o f c o m p u t e r n e t w o r k s w a s b o r n t h e n , a n d

w h a t w a s t h e n c a l l e d t h e A R P A N E T , n o w c a l l e d t h e I n t e r n e t , w a s b o r n . C o m p u t e r n e t w o r k s e l a b o r a t e

t h e b a s i c n e t w o r k m o d e l b y s u b d i v i d i n g m e s s a g e s i n t o s m a l l e r c h u n k s c a l l e d p a c k e t s ( F i g u r e 6 . 2 6 ) . T h e

r a t i o n a l e f o r t h e n e t w o r k e n f o r c i n g s m a l l e r t r a n s m i s s i o n s w a s t h a t l a r g e l e t r a n s f e r s w o u l d c o n s u m e n e t w o r k

r e s o u r c e s a l l a l o n g t h e r o u t e , a n d , b e c a u s e o f t h e l o n g t r a n s m i s s i o n t i m e , a c o m m u n i c a t i o n f a i l u r e m i g h t

r e q u i r e r e t r a n s m i s s i o n o f t h e e n t i r e l e . B y c r e a t i n g p a c k e t s , e a c h o f w h i c h h a s i t s o w n a d d r e s s a n d i s r o u t e d

i n d e p e n d e n t l y o f o t h e r s , t h e n e t w o r k c a n b e t t e r m a n a g e c o n g e s t i o n . T h e a n a l o g y i s t h a t t h e p o s t a l s e r v i c e ,

r a t h e r t h a n s e n d i n g a l o n g l e t t e r i n t h e e n v e l o p e y o u p r o v i d e , o p e n s t h e e n v e l o p e , p l a c e s e a c h p a g e i n a

4 9





2 7 3

s e p a r a t e e n v e l o p e , a n d u s i n g t h e a d d r e s s o n y o u r e n v e l o p e , a d d r e s s e s e a c h p a g e ' s e n v e l o p e a c c o r d i n g l y , a n d

m a i l s t h e m s e p a r a t e l y . T h e n e t w o r k d o e s n e e d t o m a k e s u r e p a c k e t s e q u e n c e ( p a g e n u m b e r i n g ) i s m a i n t a i n e d ,

a n d t h e n e t w o r k e x i t p o i n t m u s t r e a s s e m b l e t h e o r i g i n a l m e s s a g e a c c o r d i n g l y .

Receiver Address

Transmitter Address

Data Length (bytes)

Error Check

Data

F i g u r e 6 . 2 6 : L o n g m e s s a g e s , s u c h a s l e s , a r e b r o k e n i n t o s e p a r a t e p a c k e t s , t h e n t r a n s m i t t e d o v e r

c o m p u t e r n e t w o r k s . A p a c k e t , l i k e a l e t t e r , c o n t a i n s t h e d e s t i n a t i o n a d d r e s s , t h e r e t u r n a d d r e s s ( t r a n s -

m i t t e r a d d r e s s ) , a n d t h e d a t a . T h e d a t a i n c l u d e s t h e m e s s a g e p a r t a n d a s e q u e n c e n u m b e r i d e n t i f y i n g

i t s o r d e r i n t h e t r a n s m i t t e d m e s s a g e .

C o m m u n i c a t i o n s n e t w o r k s a r e n o w c a t e g o r i z e d a c c o r d i n g t o w h e t h e r t h e y u s e p a c k e t s o r n o t . A s y s t e m

l i k e t h e t e l e p h o n e n e t w o r k i s s a i d t o b e c i r c u i t s w i t c h e d : T h e n e t w o r k e s t a b l i s h e s a x e d r o u t e t h a t l a s t s

t h e e n t i r e d u r a t i o n o f t h e m e s s a g e . C i r c u i t s w i t c h i n g h a s t h e a d v a n t a g e t h a t o n c e t h e r o u t e i s d e t e r m i n e d ,

t h e u s e r s c a n u s e t h e c a p a c i t y p r o v i d e d t h e m h o w e v e r t h e y l i k e . I t s m a i n d i s a d v a n t a g e i s t h a t t h e u s e r s

m a y n o t u s e t h e i r c a p a c i t y e c i e n t l y , c l o g g i n g n e t w o r k l i n k s a n d n o d e s a l o n g t h e w a y . P a c k e t - s w i t c h e d

n e t w o r k s c o n t i n u o u s l y m o n i t o r n e t w o r k u t i l i z a t i o n , a n d r o u t e m e s s a g e s a c c o r d i n g l y . T h u s , m e s s a g e s c a n , o n

t h e a v e r a g e , b e d e l i v e r e d e c i e n t l y , b u t t h e n e t w o r k c a n n o t g u a r a n t e e a s p e c i c a m o u n t o f c a p a c i t y t o t h e

u s e r s .

6 . 3 5 N e t w o r k a r c h i t e c t u r e s a n d i n t e r c o n n e c t i o n

5 0

T h e n e t w o r k s t r u c t u r e i t s a r c h i t e c t u r e ( F i g u r e 6 . 2 5 ) t y p i e s w h a t a r e k n o w n a s w i d e a r e a n e t w o r k s

( W A N s ) . T h e n o d e s , a n d u s e r s f o r t h a t m a t t e r , a r e s p r e a d g e o g r a p h i c a l l y o v e r l o n g d i s t a n c e s . " L o n g " h a s

n o p r e c i s e d e n i t i o n , a n d i s i n t e n d e d t o s u g g e s t t h a t t h e c o m m u n i c a t i o n l i n k s v a r y w i d e l y . T h e I n t e r n e t i s

c e r t a i n l y t h e l a r g e s t W A N , s p a n n i n g t h e e n t i r e e a r t h a n d b e y o n d . L o c a l a r e a n e t w o r k s , L A N s , e m p l o y a

s i n g l e c o m m u n i c a t i o n l i n k a n d s p e c i a l r o u t i n g . P e r h a p s t h e b e s t k n o w n L A N i s E t h e r n e t

5 1

. L A N s c o n n e c t

t o o t h e r L A N s a n d t o w i d e a r e a n e t w o r k s t h r o u g h s p e c i a l n o d e s k n o w n a s g a t e w a y s ( F i g u r e 6 . 2 7 ) . I n t h e

I n t e r n e t , a c o m p u t e r ' s a d d r e s s c o n s i s t s o f a f o u r b y t e s e q u e n c e , w h i c h i s k n o w n a s i t s I P a d d r e s s ( I n t e r n e t

P r o t o c o l a d d r e s s ) . A n e x a m p l e a d d r e s s i s 1 2 8 . 4 2 . 4 . 3 2 : e a c h b y t e i s s e p a r a t e d b y a p e r i o d . T h e r s t t w o

b y t e s s p e c i f y t h e c o m p u t e r ' s d o m a i n ( h e r e R i c e U n i v e r s i t y ) . C o m p u t e r s a r e a l s o a d d r e s s e d b y a m o r e

h u m a n - r e a d a b l e f o r m : a s e q u e n c e o f a l p h a b e t i c a b b r e v i a t i o n s r e p r e s e n t i n g i n s t i t u t i o n , t y p e o f i n s t i t u t i o n ,

a n d c o m p u t e r n a m e . A g i v e n c o m p u t e r h a s b o t h n a m e s ( 1 2 8 . 4 2 . 4 . 3 2 i s t h e s a m e a s s o m a . r i c e . e d u ) .

D a t a t r a n s m i s s i o n o n t h e I n t e r n e t r e q u i r e s t h e n u m e r i c a l f o r m . S o - c a l l e d n a m e s e r v e r s t r a n s l a t e b e t w e e n

a l p h a b e t i c a n d n u m e r i c a l f o r m s , a n d t h e t r a n s m i t t i n g c o m p u t e r r e q u e s t s t h i s t r a n s l a t i o n b e f o r e t h e m e s s a g e

i s s e n t t o t h e n e t w o r k .

5 0


5 1

" E t h e r n e t " < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 7 8 / l a t e s t / >




2 7 4


Gateway

Wide-Area Network

Gateway

A B

B

C

D

LAN

LAN

LAN

F i g u r e 6 . 2 7 : T h e g a t e w a y s e r v e s a s a n i n t e r f a c e b e t w e e n l o c a l a r e a n e t w o r k s a n d t h e I n t e r n e t . T h e t w o

s h o w n h e r e t r a n s l a t e b e t w e e n L A N a n d W A N p r o t o c o l s ; o n e o f t h e s e a l s o i n t e r f a c e s b e t w e e n t w o L A N s ,

p r e s u m a b l y b e c a u s e t o g e t h e r t h e t w o L A N s w o u l d b e g e o g r a p h i c a l l y t o o d i s p e r s e d .

6 . 3 6 E t h e r n e t

5 2

Transceiver

Computer A

Transceiver

Computer B

Z0

Terminator

Z0

Terminator

L

F i g u r e 6 . 2 8 : T h e E t h e r n e t a r c h i t e c t u r e c o n s i s t s o f a s i n g l e c o a x i a l c a b l e t e r m i n a t e d a t e i t h e r e n d b y a

r e s i s t o r h a v i n g a v a l u e e q u a l t o t h e c a b l e ' s c h a r a c t e r i s t i c i m p e d a n c e . C o m p u t e r s a t t a c h t o t h e E t h e r n e t

t h r o u g h a n i n t e r f a c e k n o w n a s a t r a n s c e i v e r b e c a u s e i t s e n d s a s w e l l a s r e c e i v e s b i t s t r e a m s r e p r e s e n t e d

a s a n a l o g v o l t a g e s .

E t h e r n e t u s e s a s i t s c o m m u n i c a t i o n m e d i u m a s i n g l e l e n g t h o f c o a x i a l c a b l e ( F i g u r e 6 . 2 8 ) . T h i s c a b l e s e r v e s

a s t h e " e t h e r " , t h r o u g h w h i c h a l l d i g i t a l d a t a t r a v e l . E l e c t r i c a l l y , c o m p u t e r s i n t e r f a c e t o t h e c o a x i a l c a b l e

( F i g u r e 6 . 2 8 ) t h r o u g h a d e v i c e k n o w n a s a t r a n s c e i v e r . T h i s d e v i c e i s c a p a b l e o f m o n i t o r i n g t h e v o l t a g e

a p p e a r i n g b e t w e e n t h e c o r e c o n d u c t o r a n d t h e s h i e l d a s w e l l a s a p p l y i n g a v o l t a g e t o i t . C o n c e p t u a l l y i t

c o n s i s t s o f t w o o p - a m p s , o n e a p p l y i n g a v o l t a g e c o r r e s p o n d i n g t o a b i t s t r e a m ( t r a n s m i t t i n g d a t a ) a n d a n o t h e r

s e r v i n g a s a n a m p l i e r o f E t h e r n e t v o l t a g e s i g n a l s ( r e c e i v i n g d a t a ) . T h e s i g n a l s e t f o r E t h e r n e t r e s e m b l e s

t h a t s h o w n i n B P S K S i g n a l S e t s , w i t h o n e s i g n a l t h e n e g a t i v e o f t h e o t h e r . C o m p u t e r s a r e a t t a c h e d i n

p a r a l l e l , r e s u l t i n g i n t h e c i r c u i t m o d e l f o r E t h e r n e t s h o w n i n F i g u r e 6 . 2 9 .

5 2





2 7 5

E x e r c i s e 6 . 3 6 . 1

( S o l u t i o n o n p . 2 9 8 . )

F r o m t h e v i e w p o i n t o f a t r a n s c e i v e r ' s s e n d i n g o p - a m p , w h a t i s t h e l o a d i t s e e s a n d w h a t i s t h e

t r a n s f e r f u n c t i o n b e t w e e n t h i s o u t p u t v o l t a g e a n d s o m e o t h e r t r a n s c e i v e r ' s r e c e i v i n g c i r c u i t ? W h y

s h o u l d t h e o u t p u t r e s i s t o r

Rout b e l a r g e ?

RoutxA(t)

rA(t)Z0

Transceiver Coax

xA(t)+

–

+

–

+

– … Z0

Rout Rout Rout

xB(t) xZ(t)

F i g u r e 6 . 2 9 : T h e t o p c i r c u i t e x p r e s s e s a s i m p l i e d c i r c u i t m o d e l f o r a t r a n s c e i v e r . T h e o u t p u t

r e s i s t a n c e

Rout m u s t b e m u c h l a r g e r t h a n

Z 0 s o t h a t t h e s u m o f t h e v a r i o u s t r a n s m i t t e r v o l t a g e s a d d t o

c r e a t e t h e E t h e r n e t c o n d u c t o r - t o - s h i e l d v o l t a g e t h a t s e r v e s a s t h e r e c e i v e d s i g n a l

r (t)f o r a l l t r a n s c e i v e r s .

I n t h i s c a s e , t h e e q u i v a l e n t c i r c u i t s h o w n i n t h e b o t t o m c i r c u i t a p p l i e s .

N o o n e c o m p u t e r h a s m o r e a u t h o r i t y t h a n a n y o t h e r t o c o n t r o l w h e n a n d h o w m e s s a g e s a r e s e n t . W i t h -

o u t s c h e d u l i n g a u t h o r i t y , y o u m i g h t w e l l w o n d e r h o w o n e c o m p u t e r s e n d s t o a n o t h e r w i t h o u t t h e ( l a r g e )

i n t e r f e r e n c e t h a t t h e o t h e r c o m p u t e r s w o u l d p r o d u c e i f t h e y t r a n s m i t t e d a t t h e s a m e t i m e . T h e i n n o v a t i o n

o f E t h e r n e t i s t h a t c o m p u t e r s s c h e d u l e t h e m s e l v e s b y a r a n d o m - a c c e s s m e t h o d . T h i s m e t h o d r e l i e s o n

t h e f a c t t h a t a l l p a c k e t s t r a n s m i t t e d o v e r t h e c o a x i a l c a b l e c a n b e r e c e i v e d b y a l l t r a n s c e i v e r s , r e g a r d l e s s o f

w h i c h c o m p u t e r m i g h t a c t u a l l y b e t h e i n t e n d e d r e c i p i e n t . I n c o m m u n i c a t i o n s t e r m i n o l o g y , E t h e r n e t d i r e c t l y

s u p p o r t s b r o a d c a s t . E a c h c o m p u t e r g o e s t h r o u g h t h e f o l l o w i n g s t e p s t o s e n d a p a c k e t .

1 . T h e c o m p u t e r s e n s e s t h e v o l t a g e a c r o s s t h e c a b l e t o d e t e r m i n e i f s o m e o t h e r c o m p u t e r i s t r a n s m i t t i n g .

2 . I f a n o t h e r c o m p u t e r i s t r a n s m i t t i n g , w a i t u n t i l t h e t r a n s m i s s i o n s n i s h a n d g o b a c k t o t h e r s t s t e p .

I f t h e c a b l e h a s n o t r a n s m i s s i o n s , b e g i n t r a n s m i t t i n g t h e p a c k e t .

3 . I f t h e r e c e i v e r p o r t i o n o f t h e t r a n s c e i v e r d e t e r m i n e s t h a t n o o t h e r c o m p u t e r i s a l s o s e n d i n g a p a c k e t ,

c o n t i n u e t r a n s m i t t i n g t h e p a c k e t u n t i l c o m p l e t i o n .

4 . O n t h e o t h e r h a n d , i f t h e r e c e i v e r s e n s e s i n t e r f e r e n c e f r o m a n o t h e r c o m p u t e r ' s t r a n s m i s s i o n s , i m m e d i -

a t e l y c e a s e t r a n s m i s s i o n , w a i t i n g a r a n d o m a m o u n t o f t i m e t o a t t e m p t t h e t r a n s m i s s i o n a g a i n ( g o t o

s t e p 1 ) u n t i l o n l y o n e c o m p u t e r t r a n s m i t s a n d t h e o t h e r s d e f e r . T h e c o n d i t i o n w h e r e i n t w o ( o r m o r e )

c o m p u t e r s ' t r a n s m i s s i o n s i n t e r f e r e w i t h o t h e r s i s k n o w n a s a c o l l i s i o n .




2 7 6


T h e r e a s o n t w o c o m p u t e r s w a i t i n g t o t r a n s m i t m a y n o t s e n s e t h e o t h e r ' s t r a n s m i s s i o n i m m e d i a t e l y a r i s e s

b e c a u s e o f t h e n i t e p r o p a g a t i o n s p e e d o f v o l t a g e s i g n a l s t h r o u g h t h e c o a x i a l c a b l e . T h e l o n g e s t t i m e a n y

c o m p u t e r m u s t w a i t t o d e t e r m i n e i f i t s t r a n s m i s s i o n s d o n o t e n c o u n t e r i n t e r f e r e n c e i s

2Lc , w h e r e

Li s t h e

c o a x i a l c a b l e ' s l e n g t h . T h e m a x i m u m - l e n g t h - s p e c i c a t i o n f o r E t h e r n e t i s 1 k m . A s s u m i n g a p r o p a g a t i o n

s p e e d o f 2 / 3 t h e s p e e d o f l i g h t , t h i s t i m e i n t e r v a l i s m o r e t h a n 1 0 µs . A s a n a l y z e d i n P r o b l e m 2 2 ( P r o b -

l e m 6 . 3 1 ) , t h e n u m b e r o f t h e s e t i m e i n t e r v a l s r e q u i r e d t o r e s o l v e t h e c o l l i s i o n i s , o n t h e a v e r a g e , l e s s t h a n

t w o !

E x e r c i s e 6 . 3 6 . 2

( S o l u t i o n o n p . 2 9 8 . )

W h y d o e s t h e f a c t o r o f t w o e n t e r i n t o t h i s e q u a t i o n ? ( C o n s i d e r t h e w o r s t - c a s e s i t u a t i o n o f t w o

t r a n s m i t t i n g c o m p u t e r s l o c a t e d a t t h e E t h e r n e t ' s e n d s . )

T h u s , d e s p i t e n o t h a v i n g s e p a r a t e c o m m u n i c a t i o n p a t h s a m o n g t h e c o m p u t e r s t o c o o r d i n a t e t h e i r t r a n s m i s -

s i o n s , t h e E t h e r n e t r a n d o m a c c e s s p r o t o c o l a l l o w s c o m p u t e r s t o c o m m u n i c a t e w i t h o u t o n l y a s l i g h t d e g r a -

d a t i o n i n e c i e n c y , a s m e a s u r e d b y t h e t i m e t a k e n t o r e s o l v e c o l l i s i o n s r e l a t i v e t o t h e t i m e t h e E t h e r n e t i s

u s e d t o t r a n s m i t i n f o r m a t i o n .

A s u b t l e c o n s i d e r a t i o n i n E t h e r n e t i s t h e m i n i m u m p a c k e t s i z e P min . T h e t i m e r e q u i r e d t o t r a n s m i t s u c h

p a c k e t s e q u a l s

P min

C , w h e r e C i s t h e E t h e r n e t ' s c a p a c i t y i n b p s . E t h e r n e t n o w c o m e s i n t w o d i e r e n t t y p e s ,

e a c h w i t h i n d i v i d u a l s p e c i c a t i o n s , t h e m o s t d i s t i n g u i s h i n g o f w h i c h i s c a p a c i t y : 1 0 M b p s a n d 1 0 0 M b p s . I f

t h e m i n i m u m t r a n s m i s s i o n t i m e i s s u c h t h a t t h e b e g i n n i n g o f t h e p a c k e t h a s n o t p r o p a g a t e d t h e f u l l l e n g t h

o f t h e E t h e r n e t b e f o r e t h e e n d - o f - t r a n s m i s s i o n , i t i s p o s s i b l e t h a t t w o c o m p u t e r s w i l l b e g i n t r a n s m i s s i o n a t

t h e s a m e t i m e a n d , b y t h e t i m e t h e i r t r a n s m i s s i o n s c e a s e , t h e o t h e r ' s p a c k e t w i l l n o t h a v e p r o p a g a t e d t o

t h e o t h e r . I n t h i s c a s e , c o m p u t e r s i n - b e t w e e n t h e t w o w i l l s e n s e a c o l l i s i o n , w h i c h r e n d e r s b o t h c o m p u t e r ' s

t r a n s m i s s i o n s s e n s e l e s s t o t h e m , w i t h o u t t h e t w o t r a n s m i t t i n g c o m p u t e r s k n o w i n g a c o l l i s i o n h a s o c c u r r e d a t

a l l ! F o r E t h e r n e t t o s u c c e e d , w e m u s t h a v e t h e m i n i m u m p a c k e t t r a n s m i s s i o n t i m e e x c e e d t w i c e t h e v o l t a g e

p r o p a g a t i o n t i m e :

P min

C > 2Lc o r

P min >2LC

c( 6 . 6 3 )

T h u s , f o r t h e 1 0 M b p s E t h e r n e t h a v i n g a 1 k m m a x i m u m l e n g t h s p e c i c a t i o n , t h e m i n i m u m p a c k e t s i z e i s

2 0 0 b i t s .

E x e r c i s e 6 . 3 6 . 3

( S o l u t i o n o n p . 2 9 8 . )

T h e 1 0 0 M b p s E t h e r n e t w a s d e s i g n e d m o r e r e c e n t l y t h a n t h e 1 0 M b p s a l t e r n a t i v e . T o m a i n t a i n

t h e s a m e m i n i m u m p a c k e t s i z e a s t h e e a r l i e r , s l o w e r v e r s i o n , w h a t s h o u l d i t s l e n g t h s p e c i c a t i o n

b e ? W h y s h o u l d t h e m i n i m u m p a c k e t s i z e r e m a i n t h e s a m e ?

6 . 3 7 C o m m u n i c a t i o n P r o t o c o l s

5 3

T h e c o m p l e x i t y o f i n f o r m a t i o n t r a n s m i s s i o n i n a c o m p u t e r n e t w o r k r e l i a b l e t r a n s m i s s i o n o f b i t s a c r o s s

a c h a n n e l , r o u t i n g , a n d d i r e c t i n g i n f o r m a t i o n t o t h e c o r r e c t d e s t i n a t i o n w i t h i n t h e d e s t i n a t i o n c o m p u t e r s

o p e r a t i n g s y s t e m d e m a n d s a n o v e r a r c h i n g c o n c e p t o f h o w t o o r g a n i z e i n f o r m a t i o n d e l i v e r y . N o u n i q u e s e t o f

r u l e s s a t i s e s t h e v a r i o u s c o n s t r a i n t s c o m m u n i c a t i o n c h a n n e l s a n d n e t w o r k o r g a n i z a t i o n p l a c e o n i n f o r m a t i o n

t r a n s m i s s i o n . F o r e x a m p l e , r a n d o m a c c e s s i s s u e s i n E t h e r n e t a r e n o t p r e s e n t i n w i d e - a r e a n e t w o r k s s u c h a s

t h e I n t e r n e t . A p r o t o c o l i s a s e t o f r u l e s t h a t g o v e r n s h o w i n f o r m a t i o n i s d e l i v e r e d . F o r e x a m p l e , t o u s e

t h e t e l e p h o n e n e t w o r k , t h e p r o t o c o l i s t o p i c k u p t h e p h o n e , l i s t e n f o r a d i a l t o n e , d i a l a n u m b e r h a v i n g a

s p e c i c n u m b e r o f d i g i t s , w a i t f o r t h e p h o n e t o r i n g , a n d s a y h e l l o . I n r a d i o , t h e s t a t i o n u s e s a m p l i t u d e o r

f r e q u e n c y m o d u l a t i o n w i t h a s p e c i c c a r r i e r f r e q u e n c y a n d t r a n s m i s s i o n b a n d w i d t h , a n d y o u k n o w t o t u r n o n

t h e r a d i o a n d t u n e i n t h e s t a t i o n . I n t e c h n i c a l t e r m s , n o o n e p r o t o c o l o r s e t o f p r o t o c o l s c a n b e u s e d f o r a n y

c o m m u n i c a t i o n s i t u a t i o n . B e t h a t a s i t m a y , c o m m u n i c a t i o n e n g i n e e r s h a v e f o u n d t h a t a c o m m o n t h r e a d

5 3





2 7 7

r u n s t h r o u g h t h e o r g a n i z a t i o n o f t h e v a r i o u s p r o t o c o l s . T h i s g r a n d d e s i g n o f i n f o r m a t i o n t r a n s m i s s i o n

o r g a n i z a t i o n r u n s t h r o u g h a l l m o d e r n n e t w o r k s t o d a y .

W h a t h a s b e e n d e n e d a s a n e t w o r k i n g s t a n d a r d i s a l a y e r e d , h i e r a r c h i c a l p r o t o c o l o r g a n i z a t i o n . A s

s h o w n i n F i g u r e 6 . 3 0 ( P r o t o c o l P i c t u r e ) , p r o t o c o l s a r e o r g a n i z e d b y f u n c t i o n a n d l e v e l o f d e t a i l .

P r o t o c o l P i c t u r e

detail

Application

Presentation

Session

Transport

Network

Data Link

Physical

ISO Network Protocol Standard

http

telnet

tcp

ip

ecc

signal set

F i g u r e 6 . 3 0 : P r o t o c o l s a r e o r g a n i z e d a c c o r d i n g t o t h e l e v e l o f d e t a i l r e q u i r e d f o r i n f o r m a t i o n t r a n s m i s -

s i o n . P r o t o c o l s a t t h e l o w e r l e v e l s ( s h o w n t o w a r d t h e b o t t o m ) c o n c e r n r e l i a b l e b i t t r a n s m i s s i o n . H i g h e r

l e v e l p r o t o c o l s c o n c e r n h o w b i t s a r e o r g a n i z e d t o r e p r e s e n t i n f o r m a t i o n , w h a t k i n d o f i n f o r m a t i o n i s d e -

n e d b y b i t s e q u e n c e s , w h a t s o f t w a r e n e e d s t h e i n f o r m a t i o n , a n d h o w t h e i n f o r m a t i o n i s t o b e i n t e r p r e t e d .

B o d i e s s u c h a s t h e I E E E ( I n s t i t u t e f o r E l e c t r o n i c s a n d E l e c t r i c a l E n g i n e e r s ) a n d t h e I S O ( I n t e r n a t i o n a l

S t a n d a r d s O r g a n i z a t i o n ) d e n e s t a n d a r d s s u c h a s t h i s . D e s p i t e b e i n g a s t a n d a r d , i t d o e s n o t c o n s t r a i n

p r o t o c o l i m p l e m e n t a t i o n s o m u c h t h a t i n n o v a t i o n a n d c o m p e t i t i v e i n d i v i d u a l i t y a r e r u l e d o u t .

S e g r e g a t i o n o f i n f o r m a t i o n t r a n s m i s s i o n , m a n i p u l a t i o n , a n d i n t e r p r e t a t i o n i n t o t h e s e c a t e g o r i e s d i r e c t l y

a e c t s h o w c o m m u n i c a t i o n s y s t e m s a r e o r g a n i z e d , a n d w h a t r o l e ( s ) s o f t w a r e s y s t e m s f u l l l . A l t h o u g h n o t

t h o u g h t a b o u t i n t h i s w a y i n e a r l i e r t i m e s , t h i s o r g a n i z a t i o n a l s t r u c t u r e g o v e r n s t h e w a y c o m m u n i c a t i o n

e n g i n e e r s t h i n k a b o u t a l l c o m m u n i c a t i o n s y s t e m s , f r o m r a d i o t o t h e I n t e r n e t .


H o w d o t h e v a r i o u s a s p e c t s o f e s t a b l i s h i n g a n d m a i n t a i n i n g a t e l e p h o n e c o n v e r s a t i o n t i n t o t h i s

l a y e r e d p r o t o c o l o r g a n i z a t i o n ?

W e n o w e x p l i c i t l y s t a t e w h e t h e r w e a r e w o r k i n g i n t h e p h y s i c a l l a y e r ( s i g n a l s e t d e s i g n , f o r e x a m p l e ) , t h e

d a t a l i n k l a y e r ( s o u r c e a n d c h a n n e l c o d i n g ) , o r a n y o t h e r l a y e r . I P a b b r e v i a t e s I n t e r n e t p r o t o c o l , a n d g o v e r n s

g a t e w a y s ( h o w i n f o r m a t i o n i s t r a n s m i t t e d b e t w e e n n e t w o r k s h a v i n g d i e r e n t i n t e r n a l o r g a n i z a t i o n s ) . T C P

( t r a n s m i s s i o n c o n t r o l p r o t o c o l ) g o v e r n s h o w p a c k e t s a r e t r a n s m i t t e d t h r o u g h a w i d e - a r e a n e t w o r k s u c h a s

t h e I n t e r n e t . T e l n e t i s a p r o t o c o l t h a t c o n c e r n s h o w a p e r s o n a t o n e c o m p u t e r l o g s o n t o a n o t h e r c o m p u t e r

a c r o s s a n e t w o r k . A m o d e r a t e l y h i g h l e v e l p r o t o c o l s u c h a s t e l n e t , i s n o t c o n c e r n e d w i t h w h a t d a t a l i n k s

( w i r e l i n e o r w i r e l e s s ) m i g h t h a v e b e e n u s e d b y t h e n e t w o r k o r h o w p a c k e t s a r e r o u t e d . R a t h e r , i t e s t a b l i s h e s

c o n n e c t i o n s b e t w e e n c o m p u t e r s a n d d i r e c t s e a c h b y t e ( p r e s u m e d t o r e p r e s e n t a t y p e d c h a r a c t e r ) t o t h e

a p p r o p r i a t e o p e r a t i o n s y s t e m c o m p o n e n t a t e a c h e n d . I t i s n o t c o n c e r n e d w i t h w h a t t h e c h a r a c t e r s m e a n

o r w h a t p r o g r a m s t h e p e r s o n i s t y p i n g t o . T h a t a s p e c t o f i n f o r m a t i o n t r a n s m i s s i o n i s l e f t t o p r o t o c o l s a t

h i g h e r l a y e r s .

R e c e n t l y , a n i m p o r t a n t s e t o f p r o t o c o l s c r e a t e d t h e W o r l d W i d e W e b . T h e s e p r o t o c o l s e x i s t i n d e p e n d e n t l y

o f t h e I n t e r n e t . T h e I n t e r n e t i n s u r e s t h a t m e s s a g e s a r e t r a n s m i t t e d e c i e n t l y a n d i n t a c t ; t h e I n t e r n e t i s n o t




2 7 8


c o n c e r n e d ( t o d a t e ) w i t h w h a t m e s s a g e s c o n t a i n . H T T P ( h y p e r t e x t t r a n s f e r p r o t o c o l ) f r a m e w h a t m e s s a g e s

c o n t a i n a n d w h a t s h o u l d b e d o n e w i t h t h e d a t a . T h e e x t r e m e l y r a p i d d e v e l o p m e n t o f t h e W e b o n t o p o f

a n e s s e n t i a l l y s t a g n a n t I n t e r n e t i s b u t o n e e x a m p l e o f t h e p o w e r o f o r g a n i z i n g h o w i n f o r m a t i o n t r a n s m i s s i o n

o c c u r s w i t h o u t o v e r l y c o n s t r a i n i n g t h e d e t a i l s .

6 . 3 8 I n f o r m a t i o n C o m m u n i c a t i o n P r o b l e m s

5 4

P r o b l e m 6 . 1 : S i g n a l s o n T r a n s m i s s i o n L i n e s

A m o d u l a t e d s i g n a l n e e d s t o b e s e n t o v e r a t r a n s m i s s i o n l i n e h a v i n g a c h a r a c t e r i s t i c i m p e d a n c e o f Z 0 =50 (Ω) . S o t h a t t h e s i g n a l d o e s n o t i n t e r f e r e w i t h s i g n a l s o t h e r s m a y b e t r a n s m i t t i n g , i t m u s t b e b a n d p a s s

l t e r e d s o t h a t i t s b a n d w i d t h i s 1 M H z a n d c e n t e r e d a t 3 . 5 M H z . T h e l t e r ' s g a i n s h o u l d b e o n e i n m a g n i t u d e .

A n o p - a m p l t e r ( F i g u r e 6 . 3 1 ) i s p r o p o s e d .

C2R1

R2

C1

+

–

–

+

Z0

Vin

F i g u r e 6 . 3 1

a ) W h a t i s t h e t r a n s f e r f u n c t i o n b e t w e e n t h e i n p u t v o l t a g e a n d t h e v o l t a g e a c r o s s t h e t r a n s m i s s i o n l i n e ?

b ) F i n d v a l u e s f o r t h e r e s i s t o r s a n d c a p a c i t o r s s o t h a t d e s i g n g o a l s a r e m e t .

P r o b l e m 6 . 2 : N o i s e i n A M S y s t e m s

T h e s i g n a l

s (t) e m e r g i n g f r o m a n A M c o m m u n i c a t i o n s y s t e m c o n s i s t s o f t w o p a r t s : t h e m e s s a g e s i g n a l ,

s (t), a n d a d d i t i v e n o i s e . T h e p l o t ( F i g u r e 6 . 3 2 ) s h o w s t h e m e s s a g e s p e c t r u m S (f ) a n d n o i s e p o w e r s p e c t r u m

P N (f ). T h e n o i s e p o w e r s p e c t r u m l i e s c o m p l e t e l y w i t h i n t h e s i g n a l ' s b a n d , a n d h a s a c o n s t a n t v a l u e t h e r e

o f

N 0

2.

5 4





2 7 9

fW –W

A

S(f)

A/2

fW –W

PN(f)

N0 /2

F i g u r e 6 . 3 2

a ) W h a t i s t h e m e s s a g e s i g n a l ' s p o w e r ? W h a t i s t h e s i g n a l - t o - n o i s e r a t i o ?

b ) B e c a u s e t h e p o w e r i n t h e m e s s a g e d e c r e a s e s w i t h f r e q u e n c y , t h e s i g n a l - t o - n o i s e r a t i o i s n o t c o n s t a n t

w i t h i n s u b b a n d s . W h a t i s t h e s i g n a l - t o - n o i s e r a t i o i n t h e u p p e r h a l f o f t h e f r e q u e n c y b a n d ?

c ) A c l e v e r 2 4 1 s t u d e n t s u g g e s t s l t e r i n g t h e m e s s a g e b e f o r e t h e t r a n s m i t t e r m o d u l a t e s i t s o t h a t t h e

s i g n a l s p e c t r u m i s b a l a n c e d ( c o n s t a n t ) a c r o s s f r e q u e n c y . R e a l i z i n g t h a t t h i s l t e r i n g a e c t s t h e

m e s s a g e s i g n a l , t h e s t u d e n t r e a l i z e s t h a t t h e r e c e i v e r m u s t a l s o c o m p e n s a t e f o r t h e m e s s a g e t o a r r i v e

i n t a c t . D r a w a b l o c k d i a g r a m o f t h i s c o m m u n i c a t i o n s y s t e m . H o w d o e s t h i s s y s t e m ' s s i g n a l - t o - n o i s e

r a t i o c o m p a r e w i t h t h a t o f t h e u s u a l A M r a d i o ?

P r o b l e m 6 . 3 : C o m p l e m e n t a r y F i l t e r s

C o m p l e m e n t a r y l t e r s u s u a l l y h a v e o p p o s i t e l t e r i n g c h a r a c t e r i s t i c s ( l i k e a l o w p a s s a n d a h i g h p a s s )

a n d h a v e t r a n s f e r f u n c t i o n s t h a t a d d t o o n e . M a t h e m a t i c a l l y , H 1 (f ) a n d H 2 (f ) a r e c o m p l e m e n t a r y i f

H 1 (f ) + H 2 (f ) = 1

W e c a n u s e c o m p l e m e n t a r y l t e r s t o s e p a r a t e a s i g n a l i n t o t w o p a r t s b y p a s s i n g i t t h r o u g h e a c h l t e r . E a c h

o u t p u t c a n t h e n b e t r a n s m i t t e d s e p a r a t e l y a n d t h e o r i g i n a l s i g n a l r e c o n s t r u c t e d a t t h e r e c e i v e r . L e t ' s a s s u m e

t h e m e s s a g e i s b a n d l i m i t e d t o W Hz a n d t h a t H 1 (f ) = aa+j2πf .

a ) W h a t c i r c u i t s w o u l d b e u s e d t o p r o d u c e t h e c o m p l e m e n t a r y l t e r s ?

b ) S k e t c h a b l o c k d i a g r a m f o r a c o m m u n i c a t i o n s y s t e m ( t r a n s m i t t e r a n d r e c e i v e r ) t h a t e m p l o y s c o m p l e -

m e n t a r y s i g n a l t r a n s m i s s i o n t o s e n d a m e s s a g e

m (t).

c ) W h a t i s t h e r e c e i v e r ' s s i g n a l - t o - n o i s e r a t i o ? H o w d o e s i t c o m p a r e t o t h e s t a n d a r d s y s t e m t h a t s e n d s

t h e s i g n a l b y s i m p l e a m p l i t u d e m o d u l a t i o n ?

P r o b l e m 6 . 4 : P h a s e M o d u l a t i o n

A m e s s a g e s i g n a l

m (t)p h a s e m o d u l a t e s a c a r r i e r i f t h e t r a n s m i t t e d s i g n a l e q u a l s

x (t) = Asin(2πf ct + φdm (t))

w h e r e φd i s k n o w n a s t h e p h a s e d e v i a t i o n . I n t h i s p r o b l e m , t h e p h a s e d e v i a t i o n i s s m a l l . A s w i t h a l l a n a l o g

m o d u l a t i o n s c h e m e s , a s s u m e t h a t |m (t) | < 1, t h e m e s s a g e i s b a n d l i m i t e d t o W H z , a n d t h e c a r r i e r f r e q u e n c y

f c i s m u c h l a r g e r t h a n W .

a ) W h a t i s t h e t r a n s m i s s i o n b a n d w i d t h ?

b ) F i n d a r e c e i v e r f o r t h i s m o d u l a t i o n s c h e m e .

c ) W h a t i s t h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e d s i g n a l ?




2 8 0


H i n t : U s e t h e f a c t s t h a t cos(x) 1 a n d sin(x) x f o r s m a l l x.

P r o b l e m 6 . 5 : D i g i t a l A m p l i t u d e M o d u l a t i o n

T w o E L E C 2 4 1 s t u d e n t s d i s a g r e e a b o u t a h o m e w o r k p r o b l e m . T h e i s s u e c o n c e r n s t h e d i s c r e t e - t i m e s i g n a l

s (n)cos(2πf 0n) , w h e r e t h e s i g n a l s (n) h a s n o s p e c i a l c h a r a c t e r i s t i c s a n d t h e m o d u l a t i o n f r e q u e n c y f 0 i s

k n o w n . S a m m y s a y s t h a t h e c a n r e c o v e r

s (n) f r o m i t s a m p l i t u d e - m o d u l a t e d v e r s i o n b y t h e s a m e a p p r o a c h

u s e d i n a n a l o g c o m m u n i c a t i o n s . S a m a n t h a s a y s t h a t a p p r o a c h w o n ' t w o r k .

a ) W h a t i s t h e s p e c t r u m o f t h e m o d u l a t e d s i g n a l ?

b ) W h o i s c o r r e c t ? W h y ?

c ) T h e t e a c h i n g a s s i s t a n t d o e s n o t w a n t t o t a k e s i d e s . H e t e l l s t h e m t h a t i f

s (n)cos(2πf 0n) a n d

s (n)sin(2πf 0n) w e r e b o t h a v a i l a b l e ,

s (n) c a n b e r e c o v e r e d . W h a t d o e s h e h a v e i n m i n d ?

P r o b l e m 6 . 6 : A n t i - J a m m i n g

O n e w a y f o r s o m e o n e t o k e e p p e o p l e f r o m r e c e i v i n g a n A M t r a n s m i s s i o n i s t o t r a n s m i t n o i s e a t t h e s a m e c a r -

r i e r f r e q u e n c y . T h u s , i f t h e c a r r i e r f r e q u e n c y i s

f c s o t h a t t h e t r a n s m i t t e d s i g n a l i s

AT (1 + m (t))sin(2πf ct)t h e j a m m e r w o u l d t r a n s m i t AJ n (t)sin(2πf ct + φ). T h e n o i s e n (t) h a s a c o n s t a n t p o w e r d e n s i t y s p e c t r u m

o v e r t h e b a n d w i d t h o f t h e m e s s a g e m (t). T h e c h a n n e l a d d s w h i t e n o i s e o f s p e c t r a l h e i g h t

N 02 .

a ) W h a t w o u l d b e t h e o u t p u t o f a t r a d i t i o n a l A M r e c e i v e r t u n e d t o t h e c a r r i e r f r e q u e n c y

f c ?

b ) R U E l e c t r o n i c s p r o p o s e s t o c o u n t e r a c t j a m m i n g b y u s i n g a d i e r e n t m o d u l a t i o n s c h e m e . T h e s c h e m e ' s

t r a n s m i t t e d s i g n a l h a s t h e f o r m

AT (1 + m (t)) c (t) w h e r e

c (t) i s a p e r i o d i c c a r r i e r s i g n a l ( p e r i o d

1f c

)

h a v i n g t h e i n d i c a t e d w a v e f o r m ( F i g u r e 6 . 3 3 ) . W h a t i s t h e s p e c t r u m o f t h e t r a n s m i t t e d s i g n a l w i t h

t h e p r o p o s e d s c h e m e ? A s s u m e t h e m e s s a g e b a n d w i d t h

W i s m u c h l e s s t h a n t h e f u n d a m e n t a l c a r r i e r

f r e q u e n c y

f c .

c ) T h e j a m m e r , u n a w a r e o f t h e c h a n g e , i s t r a n s m i t t i n g w i t h a c a r r i e r f r e q u e n c y o f

f c , w h i l e t h e r e c e i v e r

t u n e s a s t a n d a r d A M r e c e i v e r t o a h a r m o n i c o f t h e c a r r i e r f r e q u e n c y . W h a t i s t h e s i g n a l - t o - n o i s e r a t i o

o f t h e r e c e i v e r t u n e d t o t h e h a r m o n i c h a v i n g t h e l a r g e s t p o w e r t h a t d o e s n o t c o n t a i n t h e j a m m e r ?

c(t)

t0

1

1/4fc

1/2fc 3/4fc

1/fc

–1

F i g u r e 6 . 3 3

P r o b l e m 6 . 7 : S e c r e t C o m u n i c a t i o n s

A s y s t e m f o r h i d i n g A M t r a n s m i s s i o n s h a s t h e t r a n s m i t t e r r a n d o m l y s w i t c h i n g b e t w e e n t w o c a r r i e r f r e -

q u e n c i e s f 1 a n d f 2 . " R a n d o m s w i t c h i n g " m e a n s t h a t o n e c a r r i e r f r e q u e n c y i s u s e d f o r s o m e p e r i o d o f t i m e ,

s w i t c h e s t o t h e o t h e r f o r s o m e o t h e r p e r i o d o f t i m e , b a c k t o t h e r s t , e t c . T h e r e c e i v e r k n o w s w h a t t h e




2 8 1

c a r r i e r f r e q u e n c i e s a r e b u t n o t w h e n c a r r i e r f r e q u e n c y s w i t c h e s o c c u r . C o n s e q u e n t l y , t h e r e c e i v e r m u s t b e

d e s i g n e d t o r e c e i v e t h e t r a n s m i s s i o n s r e g a r d l e s s o f w h i c h c a r r i e r f r e q u e n c y i s u s e d . A s s u m e t h e m e s s a g e

s i g n a l h a s b a n d w i d t h

W . T h e c h a n n e l a d d s w h i t e n o i s e o f s p e c t r a l h e i g h t

N 02 .

a ) H o w d i e r e n t s h o u l d t h e c a r r i e r f r e q u e n c i e s b e s o t h a t t h e m e s s a g e c o u l d b e r e c e i v e d ?

b ) W h a t r e c e i v e r w o u l d y o u d e s i g n ?

c ) W h a t s i g n a l - t o - n o i s e r a t i o f o r t h e d e m o d u l a t e d s i g n a l d o e s y o u r r e c e i v e r y i e l d ?

P r o b l e m 6 . 8 : A M S t e r e o

S t e r e o p h o n i c r a d i o t r a n s m i t s t w o s i g n a l s s i m u l t a n e o u s l y t h a t c o r r e s p o n d t o w h a t c o m e s o u t o f t h e l e f t a n d

r i g h t s p e a k e r s o f t h e r e c e i v i n g r a d i o . W h i l e F M s t e r e o i s c o m m o n p l a c e , A M s t e r e o i s n o t , b u t i s m u c h s i m p l e r

t o u n d e r s t a n d a n d a n a l y z e . A n a m a z i n g a s p e c t o f A M s t e r e o i s t h a t b o t h s i g n a l s a r e t r a n s m i t t e d w i t h i n t h e

s a m e b a n d w i d t h a s u s e d t o t r a n s m i t j u s t o n e . A s s u m e t h e l e f t a n d r i g h t s i g n a l s a r e b a n d l i m i t e d t o W H z .

x (t) = A (1 + ml (t))cos(2πf ct) + Amr (t)sin(2πf ct)

a ) F i n d t h e F o u r i e r t r a n s f o r m o f x (t) . W h a t i s t h e t r a n s m i s s i o n b a n d w i d t h a n d h o w d o e s i t c o m p a r e

w i t h t h a t o f s t a n d a r d A M ?

b ) L e t u s u s e a c o h e r e n t d e m o d u l a t o r a s t h e r e c e i v e r , s h o w n i n F i g u r e 6 . 3 4 . S h o w t h a t t h i s r e c e i v e r i n d e e d

w o r k s : I t p r o d u c e s t h e l e f t a n d r i g h t s i g n a l s s e p a r a t e l y .

c ) A s s u m e t h e c h a n n e l a d d s w h i t e n o i s e t o t h e t r a n s m i t t e d s i g n a l . F i n d t h e s i g n a l - t o - n o i s e r a t i o o f e a c h

s i g n a l .

LPF

W Hzx(t)

cos 2πfct

sin 2πfct

×

×

BPFLPF

W Hz

F i g u r e 6 . 3 4

P r o b l e m 6 . 9 : A N o v e l C o m m u n i c a t i o n S y s t e m

A c l e v e r s y s t e m d e s i g n e r c l a i m s t h a t t h e d e p i c t e d t r a n s m i t t e r ( F i g u r e 6 . 3 5 ) h a s , d e s p i t e i t s c o m p l e x i t y ,

a d v a n t a g e s o v e r t h e u s u a l a m p l i t u d e m o d u l a t i o n s y s t e m . T h e m e s s a g e s i g n a l m (t) i s b a n d l i m i t e d t o W H z ,

a n d t h e c a r r i e r f r e q u e n c y f c W . T h e c h a n n e l a t t e n u a t e s t h e t r a n s m i t t e d s i g n a l x (t) a n d a d d s w h i t e n o i s e

o f s p e c t r a l h e i g h t

N 02 .




2 8 2


H(f)

A sin 2πfct

A cos 2πfct

x(t)m(t)×

×

×

F i g u r e 6 . 3 5

T h e t r a n s f e r f u n c t i o n H (f ) i s g i v e n b y H (f ) = j i f f < 0

− ji f

f > 0

a ) F i n d a n e x p r e s s i o n f o r t h e s p e c t r u m o f x (t) . S k e t c h y o u r a n s w e r .

b ) S h o w t h a t t h e u s u a l c o h e r e n t r e c e i v e r d e m o d u l a t e s t h i s s i g n a l .

c ) F i n d t h e s i g n a l - t o - n o i s e r a t i o t h a t r e s u l t s w h e n t h i s r e c e i v e r i s u s e d .

d ) F i n d a s u p e r i o r r e c e i v e r ( o n e t h a t y i e l d s a b e t t e r s i g n a l - t o - n o i s e r a t i o ) , a n d a n a l y z e i t s p e r f o r m a n c e .

P r o b l e m 6 . 1 0 : M u l t i - T o n e D i g i t a l C o m m u n i c a t i o n

I n a s o - c a l l e d m u l t i - t o n e s y s t e m , s e v e r a l b i t s a r e g a t h e r e d t o g e t h e r a n d t r a n s m i t t e d s i m u l t a n e o u s l y o n

d i e r e n t c a r r i e r f r e q u e n c i e s d u r i n g a T s e c o n d i n t e r v a l . F o r e x a m p l e , B b i t s w o u l d b e t r a n s m i t t e d a c c o r d i n g

t o

x (t) = AB−1

k=0

bk

sin(2π (k + 1) f 0

t) , 0≤

t < T ( 6 . 6 4 )

H e r e , f 0 i s t h e f r e q u e n c y o s e t f o r e a c h b i t a n d i t i s h a r m o n i c a l l y r e l a t e d t o t h e b i t i n t e r v a l T . T h e v a l u e

o f bk i s e i t h e r −1 o r 1 .

a ) F i n d a r e c e i v e r f o r t h i s t r a n s m i s s i o n s c h e m e .

b ) A n E L E C 2 4 1 a l m u n i l i k e s d i g i t a l s y s t e m s s o m u c h t h a t h e d e c i d e s t o p r o d u c e a d i s c r e t e - t i m e v e r s i o n .

H e s a m p l e s t h e r e c e i v e d s i g n a l ( s a m p l i n g i n t e r v a l T s = T N ) . H o w s h o u l d N b e r e l a t e d t o B , t h e n u m b e r

o f s i m u l t a n e o u s l y t r a n s m i t t e d b i t s ?

c ) T h e a l u m n i w a n t s t o n d a s i m p l e f o r m f o r t h e r e c e i v e r s o t h a t h i s s o f t w a r e i m p l e m e n t a t i o n r u n s a s

e c i e n t l y a s p o s s i b l e . H o w w o u l d y o u r e c o m m e n d h e i m p l e m e n t t h e r e c e i v e r ?

P r o b l e m 6 . 1 1 : C i t y R a d i o C h a n n e l s

I n a d d i t i o n t o a d d i t i v e w h i t e n o i s e , m e t r o p o l i t a n c e l l u l a r r a d i o c h a n n e l s a l s o c o n t a i n m u l t i p a t h : t h e a t t e n -

u a t e d s i g n a l a n d a d e l a y e d , f u r t h e r a t t e n u a t e d s i g n a l a r e r e c e i v e d s u p e r i m p o s e d . A s s h o w n i n F i g u r e 6 . 3 6 ,

m u l t i p a t h o c c u r s b e c a u s e t h e b u i l d i n g s r e e c t t h e s i g n a l a n d t h e r e e c t e d p a t h l e n g t h b e t w e e n t r a n s m i t t e r

a n d r e c e i v e r i s l o n g e r t h a n t h e d i r e c t p a t h .




2 8 3

Direct Path

Reflected

Path

Transmitter

F i g u r e 6 . 3 6

a ) A s s u m e t h a t t h e l e n g t h o f t h e d i r e c t p a t h i s d m e t e r s a n d t h e r e e c t e d p a t h i s 1 . 5 t i m e s a s l o n g . W h a t

i s t h e m o d e l f o r t h e c h a n n e l , i n c l u d i n g t h e m u l t i p a t h a n d t h e a d d i t i v e n o i s e ?

b ) A s s u m e

di s 1 k m . F i n d a n d s k e t c h t h e m a g n i t u d e o f t h e t r a n s f e r f u n c t i o n f o r t h e m u l t i p a t h c o m p o n e n t

o f t h e c h a n n e l . H o w w o u l d y o u c h a r a c t e r i z e t h i s t r a n s f e r f u n c t i o n ?

c ) W o u l d t h e m u l t i p a t h a e c t A M r a d i o ? I f n o t , w h y n o t ; i f s o , h o w s o ? W o u l d a n a l o g c e l l u l a r t e l e p h o n e ,

w h i c h o p e r a t e s a t m u c h h i g h e r c a r r i e r f r e q u e n c i e s ( 8 0 0 M H z v s . 1 M H z f o r r a d i o ) , b e a e c t e d o r n o t ?

A n a l o g c e l l u l a r t e l e p h o n e u s e s a m p l i t u d e m o d u l a t i o n t o t r a n s m i t v o i c e .

d ) H o w w o u l d t h e u s u a l A M r e c e i v e r b e m o d i e d t o m i n i m i z e m u l t i p a t h e e c t s ? E x p r e s s y o u r m o d i e d

r e c e i v e r a s a b l o c k d i a g r a m .

P r o b l e m 6 . 1 2 : D o w n l i n k S i g n a l S e t s

I n d i g i t a l c e l l u l a r t e l e p h o n e s y s t e m s , t h e b a s e s t a t i o n ( t r a n s m i t t e r ) n e e d s t o r e l a y d i e r e n t v o i c e s i g n a l s t o

s e v e r a l t e l e p h o n e s a t t h e s a m e t i m e . R a t h e r t h a n s e n d s i g n a l s a t d i e r e n t f r e q u e n c i e s , a c l e v e r R i c e e n g i n e e r

s u g g e s t s u s i n g a d i e r e n t s i g n a l s e t f o r e a c h d a t a s t r e a m . F o r e x a m p l e , f o r t w o s i m u l t a n e o u s d a t a s t r e a m s ,

s h e s u g g e s t s B P S K s i g n a l s e t s t h a t h a v e t h e d e p i c t e d b a s i c s i g n a l s ( F i g u r e 6 . 3 7 ) .

T

A

–A

T

A

–A

s1(t) s2(t)

tt

F i g u r e 6 . 3 7




2 8 4


T h u s , b i t s a r e r e p r e s e n t e d i n d a t a s t r e a m 1 b y s1 (t) a n d −s1 (t) a n d i n d a t a s t r e a m 2 b y s2 (t) a n d

−s2 (t), e a c h o f w h i c h a r e m o d u l a t e d b y 9 0 0 M H z c a r r i e r . T h e t r a n s m i t t e r s e n d s t h e t w o d a t a s t r e a m s s o

t h a t t h e i r b i t i n t e r v a l s a l i g n . E a c h r e c e i v e r u s e s a m a t c h e d l t e r f o r i t s r e c e i v e r . T h e r e q u i r e m e n t i s t h a t

e a c h r e c e i v e r n o t r e c e i v e t h e o t h e r ' s b i t s t r e a m .

a ) W h a t i s t h e b l o c k d i a g r a m d e s c r i b i n g t h e p r o p o s e d s y s t e m ?

b ) W h a t i s t h e t r a n s m i s s i o n b a n d w i d t h r e q u i r e d b y t h e p r o p o s e d s y s t e m ?

c ) W i l l t h e p r o p o s a l w o r k ? D o e s t h e f a c t t h a t t h e t w o d a t a s t r e a m s a r e t r a n s m i t t e d i n t h e s a m e b a n d w i d t h

a t t h e s a m e t i m e m e a n t h a t e a c h r e c e i v e r ' s p e r f o r m a n c e i s a e c t e d ? C a n e a c h b i t s t r e a m b e r e c e i v e d

w i t h o u t i n t e r f e r e n c e f r o m t h e o t h e r ?

P r o b l e m 6 . 1 3 : M i x e d A n a l o g a n d D i g i t a l T r a n s m i s s i o n

A s i g n a l

m (t) i s t r a n s m i t t e d u s i n g a m p l i t u d e m o d u l a t i o n i n t h e u s u a l w a y . T h e s i g n a l h a s b a n d w i d t h

W H z , a n d t h e c a r r i e r f r e q u e n c y i s

f c . I n a d d i t i o n t o s e n d i n g t h i s a n a l o g s i g n a l , t h e t r a n s m i t t e r a l s o w a n t s t o

s e n d A S C I I t e x t i n a n a u x i l i a r y b a n d t h a t l i e s s l i g h t l y a b o v e t h e a n a l o g t r a n s m i s s i o n b a n d . U s i n g a n 8 - b i t

r e p r e s e n t a t i o n o f t h e c h a r a c t e r s a n d a s i m p l e b a s e b a n d B P S K s i g n a l s e t ( t h e c o n s t a n t s i g n a l + 1 c o r r e s p o n d s

t o a 0 , t h e c o n s t a n t - 1 t o a 1 ) , t h e d a t a s i g n a l d (t) r e p r e s e n t i n g t h e t e x t i s t r a n s m i t t e d a s t h e s a m e t i m e

a s t h e a n a l o g s i g n a l m (t). T h e t r a n s m i s s i o n s i g n a l s p e c t r u m i s a s s h o w n ( F i g u r e 6 . 3 8 ) , a n d h a s a t o t a l

b a n d w i d t h B .

2W

X(f)

ffc

B

analog digital

F i g u r e 6 . 3 8

a ) W r i t e a n e x p r e s s i o n f o r t h e t i m e - d o m a i n v e r s i o n o f t h e t r a n s m i t t e d s i g n a l i n t e r m s o f

m (t) a n d t h e

d i g i t a l s i g n a l d (t).

b ) W h a t i s t h e m a x i m u m d a t a r a t e t h e s c h e m e c a n p r o v i d e i n t e r m s o f t h e a v a i l a b l e b a n d w i d t h ?

c ) F i n d a r e c e i v e r t h a t y i e l d s b o t h t h e a n a l o g s i g n a l a n d t h e b i t s t r e a m .

P r o b l e m 6 . 1 4 : D i g i t a l S t e r e o

J u s t a s w i t h a n a l o g c o m m u n i c a t i o n , i t s h o u l d b e p o s s i b l e t o s e n d t w o s i g n a l s s i m u l t a n e o u s l y o v e r a d i g i t a l

c h a n n e l . A s s u m e y o u h a v e t w o C D - q u a l i t y s i g n a l s ( e a c h s a m p l e d a t 4 4 . 1 k H z w i t h 1 6 b i t s / s a m p l e ) . O n e

s u g g e s t e d t r a n s m i s s i o n s c h e m e i s t o u s e a q u a d r a t u r e B P S K s c h e m e . I f b(1) (n) a n d b(2) (n) e a c h r e p r e s e n t a

b i t s t r e a m , t h e t r a n s m i t t e d s i g n a l h a s t h e f o r m

x (t) = An

b(1) (n)sin(2πf c (t − nT )) p (t − nT ) + b(2) (n)cos(2πf c (t − nT )) p (t − nT )

w h e r e p (t) i s a u n i t - a m p l i t u d e p u l s e h a v i n g d u r a t i o n T a n d b(1) (n) , b(2) (n) e q u a l e i t h e r + 1 o r - 1 a c c o r d i n g

t o t h e b i t b e i n g t r a n s m i t t e d f o r e a c h s i g n a l . T h e c h a n n e l a d d s w h i t e n o i s e a n d a t t e n u a t e s t h e t r a n s m i t t e d

s i g n a l .




2 8 5

a ) W h a t v a l u e w o u l d y o u c h o o s e f o r t h e c a r r i e r f r e q u e n c y f c ?

b ) W h a t i s t h e t r a n s m i s s i o n b a n d w i d t h ?

c ) W h a t r e c e i v e r w o u l d y o u d e s i g n t h a t w o u l d y i e l d b o t h b i t s t r e a m s ?

P r o b l e m 6 . 1 5 : D i g i t a l a n d A n a l o g S p e e c h C o m m u n i c a t i o n

S u p p o s e w e t r a n s m i t s p e e c h s i g n a l s o v e r c o m p a r a b l e d i g i t a l a n d a n a l o g c h a n n e l s . W e w a n t t o c o m p a r e t h e

r e s u l t i n g q u a l i t y o f t h e r e c e i v e d s i g n a l s . A s s u m e t h e t r a n s m i t t e r s u s e t h e s a m e p o w e r , a n d t h e c h a n n e l s

i n t r o d u c e t h e s a m e a t t e n u a t i o n a n d a d d i t i v e w h i t e n o i s e . A s s u m e t h e s p e e c h s i g n a l h a s a 4 k H z b a n d w i d t h

a n d , i n t h e d i g i t a l c a s e , i s s a m p l e d a t a n 8 k H z r a t e w i t h e i g h t - b i t A / D c o n v e r s i o n . A s s u m e s i m p l e b i n a r y

s o u r c e c o d i n g a n d a m o d u l a t e d B P S K t r a n s m i s s i o n s c h e m e .

a ) W h a t i s t h e t r a n s m i s s i o n b a n d w i d t h o f t h e a n a l o g ( A M ) a n d d i g i t a l s c h e m e s ?

b ) A s s u m e t h e s p e e c h s i g n a l ' s a m p l i t u d e h a s a m a g n i t u d e l e s s t h a n o n e . W h a t i s m a x i m u m a m p l i t u d e

q u a n t i z a t i o n e r r o r i n t r o d u c e d b y t h e A / D c o n v e r t e r ?

c ) I n t h e d i g i t a l c a s e , e a c h b i t i n q u a n t i z e d s p e e c h s a m p l e i s r e c e i v e d i n e r r o r w i t h p r o b a b i l i t y pe t h a t

d e p e n d s o n s i g n a l - t o - n o i s e r a t i o

E bN 0

. H o w e v e r , e r r o r s i n e a c h b i t h a v e a d i e r e n t i m p a c t o n t h e e r r o r i n

t h e r e c o n s t r u c t e d s p e e c h s a m p l e . F i n d t h e m e a n - s q u a r e d e r r o r b e t w e e n t h e t r a n s m i t t e d a n d r e c e i v e d

a m p l i t u d e .

d ) I n t h e d i g i t a l c a s e , t h e r e c o v e r e d s p e e c h s i g n a l c a n b e c o n s i d e r e d t o h a v e t w o n o i s e s o u r c e s a d d e d

t o e a c h s a m p l e ' s t r u e v a l u e : O n e i s t h e A / D a m p l i t u d e q u a n t i z a t i o n n o i s e a n d t h e s e c o n d i s d u e t o

c h a n n e l e r r o r s . B e c a u s e t h e s e a r e s e p a r a t e , t h e t o t a l n o i s e p o w e r e q u a l s t h e s u m o f t h e s e t w o . W h a t

i s t h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e d s p e e c h s i g n a l a s a f u n c t i o n o f pe ?

e ) C o m p u t e a n d p l o t t h e r e c e i v e d s i g n a l ' s s i g n a l - t o - n o i s e r a t i o f o r t h e t w o t r a n s m i s s i o n s c h e m e s a s a

f u n c t i o n o f c h a n n e l s i g n a l - t o - n o i s e r a t i o .

f ) C o m p a r e a n d e v a l u a t e t h e s e s y s t e m s .

P r o b l e m 6 . 1 6 : S o u r c e C o m p r e s s i o n

C o n s i d e r t h e f o l l o w i n g 5 - l e t t e r s o u r c e .

L e t t e r P r o b a b i l i t y

a 0 . 5

b 0 . 2 5

c 0 . 1 2 5

d 0 . 0 6 2 5

e 0 . 0 6 2 5

T a b l e 6 . 5

a ) F i n d t h i s s o u r c e ' s e n t r o p y .

b ) S h o w t h a t t h e s i m p l e b i n a r y c o d i n g i s i n e c i e n t .

c ) F i n d a n u n e q u a l - l e n g t h c o d e b o o k f o r t h i s s e q u e n c e t h a t s a t i s e s t h e S o u r c e C o d i n g T h e o r e m . D o e s

y o u r c o d e a c h i e v e t h e e n t r o p y l i m i t ?

d ) H o w m u c h m o r e e c i e n t i s t h i s c o d e t h a n t h e s i m p l e b i n a r y c o d e ?

P r o b l e m 6 . 1 7 : S o u r c e C o m p r e s s i o n

C o n s i d e r t h e f o l l o w i n g 5 - l e t t e r s o u r c e .




2 8 6



a 0 . 4

b 0 . 2

c 0 . 1 5

d 0 . 1 5

e 0 . 1

T a b l e 6 . 6

a ) F i n d t h i s s o u r c e ' s e n t r o p y .

b ) S h o w t h a t t h e s i m p l e b i n a r y c o d i n g i s i n e c i e n t .

c ) F i n d t h e H u m a n c o d e f o r t h i s s o u r c e . W h a t i s i t s a v e r a g e c o d e l e n g t h ?

P r o b l e m 6 . 1 8 : S p e e c h C o m p r e s s i o n

W h e n w e s a m p l e a s i g n a l , s u c h a s s p e e c h , w e q u a n t i z e t h e s i g n a l ' s a m p l i t u d e t o a s e t o f i n t e g e r s . F o r a

b- b i t

c o n v e r t e r , s i g n a l a m p l i t u d e s a r e r e p r e s e n t e d b y 2b i n t e g e r s . A l t h o u g h t h e s e i n t e g e r s c o u l d b e r e p r e s e n t e d b y

a b i n a r y c o d e f o r d i g i t a l t r a n s m i s s i o n , w e s h o u l d c o n s i d e r w h e t h e r a H u m a n c o d i n g w o u l d b e m o r e e c i e n t .

a ) L o a d i n t o M a t l a b t h e s e g m e n t o f s p e e c h c o n t a i n e d i n y . m a t . I t s s a m p l e d v a l u e s l i e i n t h e i n t e r v a l

( - 1 , 1 ) . T o s i m u l a t e a 3 - b i t c o n v e r t e r , w e u s e M a t l a b ' s r o u n d f u n c t i o n t o c r e a t e q u a n t i z e d a m p l i t u d e s

c o r r e s p o n d i n g t o t h e i n t e g e r s [ 0 1 2 3 4 5 6 7 ] .

• y _ q u a n t = r o u n d ( 3 . 5 * y + 3 . 5 ) ;

F i n d t h e r e l a t i v e f r e q u e n c y o f o c c u r r e n c e o f q u a n t i z e d a m p l i t u d e v a l u e s . T h e f o l l o w i n g M a t l a b p r o g r a m

c o m p u t e s t h e n u m b e r o f t i m e s e a c h q u a n t i z e d v a l u e o c c u r s .

• f o r n = 0 : 7 ; c o u n t ( n + 1 ) = s u m ( y _ q u a n t = = n ) ; e n d ;

F i n d t h e e n t r o p y o f t h i s s o u r c e .

b ) F i n d t h e H u m a n c o d e f o r t h i s s o u r c e . H o w w o u l d y o u c h a r a c t e r i z e t h i s s o u r c e c o d e i n w o r d s ?

c ) H o w m a n y f e w e r b i t s w o u l d b e u s e d i n t r a n s m i t t i n g t h i s s p e e c h s e g m e n t w i t h y o u r H u m a n c o d e i n

c o m p a r i s o n t o s i m p l e b i n a r y c o d i n g ?

P r o b l e m 6 . 1 9 : D i g i t a l C o m m u n i c a t i o n

I n a d i g i t a l c e l l u l a r s y s t e m , a s i g n a l b a n d l i m i t e d t o 5 k H z i s s a m p l e d w i t h a t w o - b i t A / D c o n v e r t e r a t i t s

N y q u i s t f r e q u e n c y . T h e s a m p l e v a l u e s a r e f o u n d t o h a v e t h e s h o w n r e l a t i v e f r e q u e n c i e s .

S a m p l e V a l u e P r o b a b i l i t y

0 0 . 1 5

1 0 . 3 5

2 0 . 3

3 0 . 2

T a b l e 6 . 7




2 8 7

W e s e n d t h e b i t s t r e a m c o n s i s t i n g o f H u m a n - c o d e d s a m p l e s u s i n g o n e o f t h e t w o d e p i c t e d s i g n a l s e t s

( F i g u r e 6 . 3 9 ) .

T

A

t

s0(t)

T

A/2

t

s0(t)

T

A

t

s1(t)

T

A

t

s1(t)

-A/2

Signal Set 1 Signal Set 2

F i g u r e 6 . 3 9

a ) W h a t i s t h e d a t a r a t e o f t h e c o m p r e s s e d s o u r c e ?

b ) W h i c h c h o i c e o f s i g n a l s e t m a x i m i z e s t h e c o m m u n i c a t i o n s y s t e m ' s p e r f o r m a n c e ?

c ) W i t h n o e r r o r - c o r r e c t i n g c o d i n g , w h a t s i g n a l - t o - n o i s e r a t i o w o u l d b e n e e d e d f o r y o u r c h o s e n s i g n a l s e t

t o g u a r a n t e e t h a t t h e b i t e r r o r p r o b a b i l i t y w i l l n o t e x c e e d 10−3 ? I f t h e r e c e i v e r m o v e s t w i c e a s f a r

f r o m t h e t r a n s m i t t e r ( r e l a t i v e t o t h e d i s t a n c e a t w h i c h t h e 10−3 e r r o r r a t e w a s o b t a i n e d ) , h o w d o e s

t h e p e r f o r m a n c e c h a n g e ?

P r o b l e m 6 . 2 0 : S i g n a l C o m p r e s s i o n

L e t t e r s d r a w n f r o m a f o u r - s y m b o l a l p h a b e t h a v e t h e i n d i c a t e d p r o b a b i l i t i e s .


a 1 / 3

b 1 / 3

c 1 / 4

d 1 / 1 2

T a b l e 6 . 8

a ) W h a t i s t h e a v e r a g e n u m b e r o f b i t s n e c e s s a r y t o r e p r e s e n t t h i s a l p h a b e t ?

b ) U s i n g a s i m p l e b i n a r y c o d e f o r t h i s a l p h a b e t , a t w o - b i t b l o c k o f d a t a b i t s n a t u r a l l y e m e r g e s . F i n d a n

e r r o r c o r r e c t i n g c o d e f o r t w o - b i t d a t a b l o c k s t h a t c o r r e c t s a l l s i n g l e - b i t e r r o r s .

c ) H o w w o u l d y o u m o d i f y y o u r c o d e s o t h a t t h e p r o b a b i l i t y o f t h e l e t t e r a b e i n g c o n f u s e d w i t h t h e l e t t e r

d i s m i n i m i z e d ? I f s o , w h a t i s y o u r n e w c o d e ; i f n o t , d e m o n s t r a t e t h a t t h i s g o a l c a n n o t b e a c h i e v e d .

P r o b l e m 6 . 2 1 : U n i v e r s a l P r o d u c t C o d e

T h e U n i v e r s a l P r o d u c t C o d e ( U P C ) , o f t e n k n o w n a s a b a r c o d e , l a b e l s v i r t u a l l y e v e r y s o l d g o o d . A n

e x a m p l e ( F i g u r e 6 . 4 0 ) o f a p o r t i o n o f t h e c o d e i s s h o w n .




2 8 8


d

……

F i g u r e 6 . 4 0

H e r e a s e q u e n c e o f b l a c k a n d w h i t e b a r s , e a c h h a v i n g w i d t h d, p r e s e n t s a n 1 1 - d i g i t n u m b e r ( c o n s i s t i n g o f

d e c i m a l d i g i t s ) t h a t u n i q u e l y i d e n t i e s t h e p r o d u c t . I n r e t a i l s t o r e s , l a s e r s c a n n e r s r e a d t h i s c o d e , a n d a f t e r

a c c e s s i n g a d a t a b a s e o f p r i c e s , e n t e r t h e p r i c e i n t o t h e c a s h r e g i s t e r .

a ) H o w m a n y b a r s m u s t b e u s e d t o r e p r e s e n t a s i n g l e d i g i t ?

b ) A c o m p l i c a t i o n o f t h e l a s e r s c a n n i n g s y s t e m i s t h a t t h e b a r c o d e m u s t b e r e a d e i t h e r f o r w a r d s o r

b a c k w a r d s . N o w h o w m a n y b a r s a r e n e e d e d t o r e p r e s e n t e a c h d i g i t ?

c ) W h a t i s t h e p r o b a b i l i t y t h a t t h e 1 1 - d i g i t c o d e i s r e a d c o r r e c t l y i f t h e p r o b a b i l i t y o f r e a d i n g a s i n g l e

b i t i n c o r r e c t l y i s pe ?

d ) H o w m a n y e r r o r c o r r e c t i n g b a r s w o u l d n e e d t o b e p r e s e n t s o t h a t a n y s i n g l e b a r e r r o r o c c u r r i n g i n t h e

1 1 - d i g i t c o d e c a n b e c o r r e c t e d ?

P r o b l e m 6 . 2 2 : E r r o r C o r r e c t i n g C o d e s

A c o d e m a p s p a i r s o f i n f o r m a t i o n b i t s i n t o c o d e w o r d s o f l e n g t h 5 a s f o l l o w s .

D a t a C o d e w o r d

0 0 0 0 0 0 0

0 1 0 1 1 0 1

1 0 1 0 1 1 1

1 1 1 1 0 1 0

T a b l e 6 . 9

a ) W h a t i s t h i s c o d e ' s e c i e n c y ?

b ) F i n d t h e g e n e r a t o r m a t r i x

Ga n d p a r i t y - c h e c k m a t r i x

H f o r t h i s c o d e .

c ) G i v e t h e d e c o d i n g t a b l e f o r t h i s c o d e . H o w m a n y p a t t e r n s o f 1 , 2 , a n d 3 e r r o r s a r e c o r r e c t l y d e c o d e d ?

d ) W h a t i s t h e b l o c k e r r o r p r o b a b i l i t y ( t h e p r o b a b i l i t y o f a n y n u m b e r o f e r r o r s o c c u r r i n g i n t h e d e c o d e d

c o d e w o r d ) ?

P r o b l e m 6 . 2 3 : D i g i t a l C o m m u n i c a t i o n

A d i g i t a l s o u r c e p r o d u c e s s e q u e n c e s o f n i n e l e t t e r s w i t h t h e f o l l o w i n g p r o b a b i l i t i e s .

l e t t e r a b c d e f g h i


14

18

18

18

18

116

116

116

116




2 8 9

T a b l e 6 . 1 0

a ) F i n d a H u m a n c o d e t h a t c o m p r e s s e s t h i s s o u r c e . H o w d o e s t h e r e s u l t i n g c o d e c o m p a r e w i t h t h e b e s t

p o s s i b l e c o d e ?

b ) A c l e v e r e n g i n e e r p r o p o s e s t h e f o l l o w i n g ( 6 , 3 ) c o d e t o c o r r e c t e r r o r s a f t e r t r a n s m i s s i o n t h r o u g h a d i g i t a l

c h a n n e l .

c1 = d1 c4 = d1 ⊕ d2 ⊕ d3

c2 = d2 c5 = d2 ⊕ d3

c3 = d3 c6 = d1

T a b l e 6 . 1 1

W h a t i s t h e e r r o r c o r r e c t i o n c a p a b i l i t y o f t h i s c o d e ?

c ) T h e c h a n n e l ' s b i t e r r o r p r o b a b i l i t y i s 1 / 8 . W h a t k i n d o f c o d e s h o u l d b e u s e d t o t r a n s m i t d a t a o v e r

t h i s c h a n n e l ?

P r o b l e m 6 . 2 4 : O v e r l y D e s i g n e d E r r o r C o r r e c t i o n C o d e s

A n A g g i e e n g i n e e r w a n t s n o t o n l y t o h a v e c o d e w o r d s f o r h i s d a t a , b u t a l s o t o h i d e t h e i n f o r m a t i o n f r o m

R i c e e n g i n e e r s ( n o f e a r o f t h e U T e n g i n e e r s ) . H e d e c i d e s t o r e p r e s e n t 3 - b i t d a t a w i t h 6 - b i t c o d e w o r d s i n

w h i c h n o n e o f t h e d a t a b i t s a p p e a r e x p l i c i t l y .

c1 = d1 ⊕ d2 c4 = d1 ⊕ d2 ⊕ d3

c2 = d2 ⊕ d3 c5 = d1 ⊕ d2

c3 = d1 ⊕ d3 c6 = d1 ⊕ d2 ⊕ d3

T a b l e 6 . 1 2

a ) F i n d t h e g e n e r a t o r m a t r i x

Ga n d p a r i t y - c h e c k m a t r i x

H f o r t h i s c o d e .

b ) F i n d a 3 × 6 m a t r i x t h a t r e c o v e r s t h e d a t a b i t s f r o m t h e c o d e w o r d .

c ) W h a t i s t h e e r r o r c o r r e c t i n g c a p a b i l i t y o f t h e c o d e ?

P r o b l e m 6 . 2 5 : E r r o r C o r r e c t i o n ?

I t i s i m p o r t a n t t o r e a l i z e t h a t w h e n m o r e t r a n s m i s s i o n e r r o r s t h a n c a n b e c o r r e c t e d , e r r o r c o r r e c t i o n

a l g o r i t h m s b e l i e v e t h a t a s m a l l e r n u m b e r o f e r r o r s h a v e o c c u r r e d a n d c o r r e c t a c c o r d i n g l y . F o r e x a m p l e ,

c o n s i d e r a ( 7 , 4 ) H a m m i n g c o d e h a v i n g t h e g e n e r a t o r m a t r i x

G =

1 0 0 0

0 1 0 0

0 0 1 0

0 0 0 1

1 1 1 0

0 1 1 1

1 0 1 1

T h i s c o d e c o r r e c t s a l l s i n g l e - b i t e r r o r , b u t i f a d o u b l e b i t e r r o r o c c u r s , i t c o r r e c t s u s i n g a s i n g l e - b i t e r r o r

c o r r e c t i o n a p p r o a c h .




2 9 0


a ) H o w m a n y d o u b l e - b i t e r r o r s c a n o c c u r i n a c o d e w o r d ?

b ) F o r e a c h d o u b l e - b i t e r r o r p a t t e r n , w h a t i s t h e r e s u l t o f c h a n n e l d e c o d i n g ? E x p r e s s y o u r r e s u l t a s a

b i n a r y e r r o r s e q u e n c e f o r t h e d a t a b i t s .

P r o b l e m 6 . 2 6 : S e l e c t i v e E r r o r C o r r e c t i o n

W e h a v e f o u n d t h a t d i g i t a l t r a n s m i s s i o n e r r o r s o c c u r w i t h a p r o b a b i l i t y t h a t r e m a i n s c o n s t a n t n o m a t t e r

h o w " i m p o r t a n t " t h e b i t m a y b e . F o r e x a m p l e , i n t r a n s m i t t i n g d i g i t i z e d s i g n a l s , e r r o r s o c c u r a s f r e q u e n t l y

f o r t h e m o s t s i g n i c a n t b i t a s t h e y d o f o r t h e l e a s t s i g n i c a n t b i t . Y e t , t h e f o r m e r e r r o r s h a v e a m u c h l a r g e r

i m p a c t o n t h e o v e r a l l s i g n a l - t o - n o i s e r a t i o t h a n t h e l a t t e r . R a t h e r t h a n a p p l y i n g e r r o r c o r r e c t i o n t o e a c h

s a m p l e v a l u e , w h y n o t c o n c e n t r a t e t h e e r r o r c o r r e c t i o n o n t h e m o s t i m p o r t a n t b i t s ? A s s u m e t h a t w e s a m p l e

a n 8 k H z s i g n a l w i t h a n 8 - b i t A / D c o n v e r t e r . W e u s e s i n g l e - b i t e r r o r c o r r e c t i o n o n t h e m o s t s i g n i c a n t f o u r

b i t s a n d n o n e o n t h e l e a s t s i g n i c a n t f o u r . B i t s a r e t r a n s m i t t e d u s i n g a m o d u l a t e d B P S K s i g n a l s e t o v e r a n

a d d i t i v e w h i t e n o i s e c h a n n e l .

a ) H o w m a n y e r r o r c o r r e c t i o n b i t s m u s t b e a d d e d t o p r o v i d e s i n g l e - b i t e r r o r c o r r e c t i o n o n t h e m o s t

s i g n i c a n t b i t s ?

b ) H o w l a r g e m u s t t h e s i g n a l - t o - n o i s e r a t i o o f t h e r e c e i v e d s i g n a l b e t o i n s u r e r e l i a b l e c o m m u n i c a t i o n ?

c ) A s s u m e t h a t o n c e e r r o r c o r r e c t i o n i s a p p l i e d , o n l y t h e l e a s t s i g n i c a n t 4 b i t s c a n b e r e c e i v e d i n e r r o r .

H o w m u c h w o u l d t h e o u t p u t s i g n a l - t o - n o i s e r a t i o i m p r o v e u s i n g t h i s e r r o r c o r r e c t i o n s c h e m e ?

P r o b l e m 6 . 2 7 : C o m p a c t D i s k

E r r o r s o c c u r i n r e a d i n g a u d i o c o m p a c t d i s k s . V e r y f e w e r r o r s a r e d u e t o n o i s e i n t h e c o m p a c t d i s k p l a y e r ;

m o s t o c c u r b e c a u s e o f d u s t a n d s c r a t c h e s o n t h e d i s k s u r f a c e . B e c a u s e s c r a t c h e s s p a n s e v e r a l b i t s , a s i n g l e -

b i t e r r o r i s r a r e ; s e v e r a l c o n s e c u t i v e b i t s i n e r r o r a r e m u c h m o r e c o m m o n . A s s u m e t h a t s c r a t c h a n d

d u s t - i n d u c e d e r r o r s a r e f o u r o r f e w e r c o n s e c u t i v e b i t s l o n g . T h e a u d i o C D s t a n d a r d r e q u i r e s 1 6 - b i t , 4 4 . 1 k H z

a n a l o g - t o - d i g i t a l c o n v e r s i o n o f e a c h c h a n n e l o f t h e s t e r e o a n a l o g s i g n a l .

a ) H o w m a n y e r r o r - c o r r e c t i o n b i t s a r e r e q u i r e d t o c o r r e c t s c r a t c h - i n d u c e d e r r o r s f o r e a c h 1 6 - b i t s a m p l e ?

b ) R a t h e r t h a n u s e a c o d e t h a t c a n c o r r e c t s e v e r a l e r r o r s i n a c o d e w o r d , a c l e v e r 2 4 1 e n g i n e e r p r o p o s e s

i n t e r l e a v i n g c o n s e c u t i v e c o d e d s a m p l e s . A s t h e c a r t o o n ( F i g u r e 6 . 4 1 ) s h o w s , t h e b i t s r e p r e s e n t i n g

c o d e d s a m p l e s a r e i n t e r p e r s e d b e f o r e t h e y a r e w r i t t e n o n t h e C D . T h e C D p l a y e r d e - i n t e r l e a v e s t h e

c o d e d d a t a , t h e n p e r f o r m s e r r o r - c o r r e c t i o n . N o w , e v a l u a t e t h i s p r o p o s e d s c h e m e w i t h r e s p e c t t o t h e

n o n - i n t e r l e a v e d o n e .

1111

1010

sample n

sample n+1 4-wayinterleaver

1 1010 1001 1001001sample n+2

sample n+3

0000

0101

F i g u r e 6 . 4 1

P r o b l e m 6 . 2 8 : C o m m u n i c a t i o n S y s t e m D e s i g n

R U C o m m u n i c a t i o n S y s t e m s h a s b e e n a s k e d t o d e s i g n a c o m m u n i c a t i o n s y s t e m t h a t m e e t s t h e f o l l o w i n g

r e q u i r e m e n t s .




2 9 1

• T h e b a s e b a n d m e s s a g e s i g n a l h a s a b a n d w i d t h o f 1 0 k H z .

• T h e R U C S e n g i n e e r s n d t h a t t h e e n t r o p y

H o f t h e s a m p l e d m e s s a g e s i g n a l d e p e n d s o n h o w m a n y

b i t s

ba r e u s e d i n t h e A / D c o n v e r t e r ( s e e t a b l e b e l o w ) .

•T h e s i g n a l i s t o b e s e n t t h r o u g h a n o i s y c h a n n e l h a v i n g a b a n d w i d t h o f 2 5 k H z c h a n n e l c e n t e r e d a t 2

M H z a n d a s i g n a l - t o - n o i s e r a t i o n w i t h i n t h a t b a n d o f 1 0 d B .

• O n c e r e c e i v e d , t h e m e s s a g e s i g n a l m u s t h a v e a s i g n a l - t o - n o i s e r a t i o o f a t l e a s t 2 0 d B .

b H

3 2 . 1 9

4 3 . 2 5

5 4 . 2 8

6 5 . 3 5

T a b l e 6 . 1 3

C a n t h e s e s p e c i c a t i o n s b e m e t ? J u s t i f y y o u r a n s w e r .

P r o b l e m 6 . 2 9 : H D T V

A s H D T V ( h i g h - d e n i t i o n t e l e v i s i o n ) w a s b e i n g d e v e l o p e d , t h e F C C r e s t r i c t e d t h i s d i g i t a l s y s t e m t o u s e i n

t h e s a m e b a n d w i d t h ( 6 M H z ) a s i t s a n a l o g ( A M ) c o u n t e r p a r t . H D T V v i d e o i s s a m p l e d o n a 1035 × 1840r a s t e r a t 3 0 i m a g e s p e r s e c o n d f o r e a c h o f t h e t h r e e c o l o r s . T h e l e a s t - a c c e p t a b l e p i c t u r e r e c e i v e d b y t e l e v i s i o n

s e t s l o c a t e d a t a n a n a l o g s t a t i o n ' s b r o a d c a s t p e r i m e t e r h a s a s i g n a l - t o - n o i s e r a t i o o f a b o u t 1 0 d B .

a ) U s i n g s i g n a l - t o - n o i s e r a t i o a s t h e c r i t e r i o n , h o w m a n y b i t s p e r s a m p l e m u s t b e u s e d t o g u a r a n t e e t h a t

a h i g h - q u a l i t y p i c t u r e , w h i c h a c h i e v e s a s i g n a l - t o - n o i s e r a t i o o f 2 0 d B , c a n b e r e c e i v e d b y a n y H D T V

s e t w i t h i n t h e s a m e b r o a d c a s t r e g i o n ?

b ) A s s u m i n g t h e d i g i t a l t e l e v i s i o n c h a n n e l h a s t h e s a m e c h a r a c t e r i s t i c s a s a n a n a l o g o n e , h o w m u c h

c o m p r e s s i o n m u s t H D T V s y s t e m s e m p l o y ?

P r o b l e m 6 . 3 0 : D i g i t a l C e l l u l a r T e l e p h o n e s

I n d e s i g n i n g a d i g i t a l v e r s i o n o f a w i r e l e s s t e l e p h o n e , y o u m u s t r s t c o n s i d e r c e r t a i n f u n d a m e n t a l s . F i r s t

o f a l l , t h e q u a l i t y o f t h e r e c e i v e d s i g n a l , a s m e a s u r e d b y t h e s i g n a l - t o - n o i s e r a t i o , m u s t b e a t l e a s t a s g o o d

a s t h a t p r o v i d e d b y w i r e l i n e t e l e p h o n e s ( 3 0 d B ) a n d t h e m e s s a g e b a n d w i d t h m u s t b e t h e s a m e a s w i r e l i n e

t e l e p h o n e . T h e s i g n a l - t o - n o i s e r a t i o o f t h e a l l o c a t e d w i r e l s s c h a n n e l , w h i c h h a s a 5 k H z b a n d w i d t h , m e a s u r e d

1 0 0 m e t e r s f r o m t h e t o w e r i s 7 0 d B . T h e d e s i r e d r a n g e f o r a c e l l i s 1 k m . C a n a d i g i t a l c e l l p h o n e s y s t e m b e

d e s i g n e d a c c o r d i n g t o t h e s e c r i t e r i a ?

P r o b l e m 6 . 3 1 : O p t i m a l E t h e r n e t R a n d o m A c c e s s P r o t o c o l s

A s s u m e a p o p u l a t i o n o f N c o m p u t e r s w a n t t o t r a n s m i t i n f o r m a t i o n o n a r a n d o m a c c e s s c h a n n e l . T h e a c c e s s

a l g o r i t h m w o r k s a s f o l l o w s .

• B e f o r e t r a n s m i t t i n g , i p a c o i n t h a t h a s p r o b a b i l i t y p o f c o m i n g u p h e a d s

• I f o n l y o n e o f t h e N c o m p u t e r ' s c o i n s c o m e s u p h e a d s , i t s t r a n s m i s s i o n o c c u r s s u c c e s s f u l l y , a n d t h e

o t h e r s m u s t w a i t u n t i l t h a t t r a n s m i s s i o n i s c o m p l e t e a n d t h e n r e s u m e t h e a l g o r i t h m .

• I f n o n e o r m o r e t h a n o n e h e a d c o m e s u p , t h e N c o m p u t e r s w i l l e i t h e r r e m a i n s i l e n t ( n o h e a d s ) o r a

c o l l i s i o n w i l l o c c u r ( m o r e t h a n o n e h e a d ) . T h i s u n s u c c e s s f u l t r a n s m i s s i o n s i t u a t i o n w i l l b e d e t e c t e d

b y a l l c o m p u t e r s o n c e t h e s i g n a l s h a v e p r o p a g a t e d t h e l e n g t h o f t h e c a b l e , a n d t h e a l g o r i t h m r e s u m e s

( r e t u r n t o t h e b e g i n n i n g ) .




2 9 2


a ) W h a t i s t h e o p t i m a l p r o b a b i l i t y t o u s e f o r i p p i n g t h e c o i n ? I n o t h e r w o r d s , w h a t s h o u l d p b e t o

m a x i m i z e t h e p r o b a b i l i t y t h a t e x a c t l y o n e c o m p u t e r t r a n s m i t s ?

b ) W h a t i s t h e p r o b a b i l i t y o f o n e c o m p u t e r t r a n s m i t t i n g w h e n t h i s o p t i m a l v a l u e o f

pi s u s e d a s t h e

n u m b e r o f c o m p u t e r s g r o w s t o i n n i t y ?

c ) U s i n g t h i s o p t i m a l p r o b a b i l i t y , w h a t i s t h e a v e r a g e n u m b e r o f c o i n i p s t h a t w i l l b e n e c e s s a r y t o r e s o l v e

t h e a c c e s s s o t h a t o n e c o m p u t e r s u c c e s s f u l l y t r a n s m i t s ?

d ) E v a l u a t e t h i s a l g o r i t h m . I s i t r e a l i s t i c ? I s i t e c i e n t ?

P r o b l e m 6 . 3 2 : R e p e a t e r s

B e c a u s e s i g n a l s a t t e n u a t e w i t h d i s t a n c e f r o m t h e t r a n s m i t t e r , r e p e a t e r s a r e f r e q u e n t l y e m p l o y e d f o r b o t h

a n a l o g a n d d i g i t a l c o m m u n i c a t i o n . F o r e x a m p l e , l e t ' s a s s u m e t h a t t h e t r a n s m i t t e r a n d r e c e i v e r a r e D m

a p a r t , a n d a r e p e a t e r i s p o s i t i o n e d h a l f w a y b e t w e e n t h e m ( F i g u r e 6 . 4 2 ) . W h a t t h e r e p a t e r d o e s i s a m p l i f y

i t s r e c e i v e d s i g n a l t o e x a c t l y c a n c e l t h e a t t e n u a t i o n e n c o u n t e r e d a l o n g t h e r s t l e g a n d t o r e - t r a n s m i t t h e

s i g n a l t o t h e u l t i m a t e r e c e i v e r . H o w e v e r , t h e s i g n a l t h e r e p e a t e r r e c e i v e s c o n t a i n s w h i t e n o i s e a s w e l l a s t h e

t r a n s m i t t e d s i g n a l . T h e r e c e i v e r e x p e r i e n c e s t h e s a m e a m o u n t o f w h i t e n o i s e a s t h e r e p e a t e r .

D

D/2 D/2

transmitter repeater receiver

F i g u r e 6 . 4 2

a ) W h a t i s t h e b l o c k d i a g r a m f o r t h i s s y s t e m ?

b ) F o r a n a m p l i t u d e - m o d u l a t i o n c o m m u n i c a t i o n s y s t e m , w h a t i s t h e s i g n a l - t o - n o i s e r a t i o o f t h e d e m o d u -

l a t e d s i g n a l a t t h e r e c e i v e r ? I s t h i s b e t t e r o r w o r s e t h a n t h e s i g n a l - t o - n o i s e r a t i o w h e n n o r e p e a t e r i s

p r e s e n t ?

c ) F o r d i g i t a l c o m m u n i c a t i o n , w e m u s t c o n s i d e r t h e s y s t e m ' s c a p a c i t y . I s t h e c a p a c i t y l a r g e r w i t h t h e

r e p e a t e r s y s t e m t h a n w i t h o u t i t ? I f s o , w h e n ; i f n o t , w h y n o t ?

P r o b l e m 6 . 3 3 : D e s i g n i n g a S p e e c h C o m m u n i c a t i o n S y s t e m

W e w a n t t o e x a m i n e b o t h a n a l o g a n d d i g i t a l c o m m u n i c a t i o n a l t e r n a t i v e s f o r a d e d i c a t e d s p e e c h t r a n s m i s s i o n

s y s t e m . A s s u m e t h e s p e e c h s i g n a l h a s a 5 k H z b a n d w i d t h . T h e w i r e l e s s l i n k b e t w e e n t r a n s m i t t e r a n d r e c e i v e r

i s s u c h t h a t 2 0 0 w a t t s o f p o w e r c a n b e r e c e i v e d a t a p r e - a s s i g n e d c a r r i e r f r e q u e n c y . W e h a v e s o m e l a t i t u d e i n

c h o o s i n g t h e t r a n s m i s s i o n b a n d w i d t h , b u t t h e n o i s e p o w e r a d d e d b y t h e c h a n n e l i n c r e a s e s w i t h b a n d w i d t h

w i t h a p r o p o r t i o n a l i t y c o n s t a n t o f 0 . 1 w a t t / k H z .

a ) D e s i g n a n a n a l o g s y s t e m f o r s e n d i n g s p e e c h u n d e r t h i s s c e n a r i o . W h a t i s t h e r e c e i v e d s i g n a l - t o - n o i s e

r a t i o u n d e r t h e s e d e s i g n c o n s t r a i n t s ?

b ) H o w m a n y b i t s m u s t b e u s e d i n t h e A / D c o n v e r t e r t o a c h i e v e t h e s a m e s i g n a l - t o - n o i s e r a t i o ?

c ) I s t h e b a n d w i d t h r e q u i r e d b y t h e d i g i t a l c h a n n e l t o s e n d t h e s a m p l e s w i t h o u t e r r o r g r e a t e r o r s m a l l e r

t h a n t h e a n a l o g b a n d w i d t h ?




2 9 3

P r o b l e m 6 . 3 4 : D i g i t a l v s . A n a l o g

Y o u a r e t h e C h a i r m a n / C h a i r w o m a n o f t h e F C C . T h e f r e q u e n c y b a n d 3 M H z t o 3 . 5 M H z h a s b e e n a l l o c a t e d

f o r a n e w h i g h - q u a l i t y A M b a n d . E a c h s t a t i o n l i c e n s e d f o r t h i s b a n d w i l l t r a n s m i t s i g n a l s h a v i n g a

b a n d w i d t h o f 1 0 k H z , t w i c e t h e m e s s a g e b a n d w i d t h o f w h a t c u r r e n t s t a t i o n s c a n s e n d .

a ) H o w m a n y s t a t i o n s c a n b e a l l o c a t e d t o t h i s b a n d a n d w i t h w h a t c a r r i e r f r e q u e n c i e s ?

b ) L o o k i n g a h e a d , c o n v e r s i o n t o d i g i t a l t r a n s m i s s i o n i s n o t f a r i n t h e f u t u r e . T h e c h a r a c t e r i s t i c s o f t h e

n e w d i g i t a l r a d i o s y s t e m n e e d t o b e e s t a b l i s h e d a n d y o u a r e t h e b o s s ! D e t a i l t h e c h a r a c t e r i s t i c s o f t h e

a n a l o g - t o - d i g i t a l c o n v e r t e r t h a t m u s t b e u s e d t o p r e v e n t a l i a s i n g a n d e n s u r e a s i g n a l - t o - n o i s e r a t i o o f

2 5 d B .

c ) W i t h o u t e m p l o y i n g c o m p r e s s i o n , h o w m a n y d i g i t a l r a d i o s t a t i o n s c o u l d b e a l l o c a t e d t o t h e b a n d i f

e a c h s t a t i o n u s e d B P S K m o d u l a t i o n ? E v a l u a t e t h i s d e s i g n a p p r o a c h .




2 9 4




I n b o t h c a s e s , t h e a n s w e r d e p e n d s l e s s o n g e o m e t r y t h a n o n m a t e r i a l p r o p e r t i e s . F o r c o a x i a l c a b l e , c = 1√ µdd

.

F o r t w i s t e d p a i r ,

c = 1√ µ

arccosh( d

2r )δ2r+arccosh( d

2r ).


Y o u c a n n d t h e s e f r e q u e n c i e s f r o m t h e s p e c t r u m a l l o c a t i o n c h a r t ( S e c t i o n 7 . 3 ) . L i g h t i n t h e m i d d l e o f

t h e v i s i b l e b a n d h a s a w a v e l e n g t h o f a b o u t 6 0 0 n m , w h i c h c o r r e s p o n d s t o a f r e q u e n c y o f 5 × 1014Hz. C a b l e

t e l e v i s i o n t r a n s m i t s w i t h i n t h e s a m e f r e q u e n c y b a n d a s b r o a d c a s t t e l e v i s i o n ( a b o u t 2 0 0 M H z o r 2 × 108Hz ) .

T h u s , t h e v i s i b l e e l e c t r o m a g n e t i c f r e q u e n c i e s a r e o v e r s i x o r d e r s o f m a g n i t u d e h i g h e r !


A s f r e q u e n c y i n c r e a s e s , 2πf ∼C

∼G a n d 2πf

∼L∼

R. I n t h i s h i g h - f r e q u e n c y r e g i o n ,

γ = j2πf ∼L∼C

1 +

∼G

j2πf

∼

C 1 +

∼R

j2πf

∼

L( 6 . 6 5 )

j2πf

∼L∼C ×

1 +

1

2

1

j2πf

∼G∼C

+

∼R∼L

j2πf

∼L∼C +

1

2

∼

G

∼L∼C

+∼R

∼C ∼L

T h u s , t h e a t t e n u a t i o n ( s p a c e ) c o n s t a n t e q u a l s t h e r e a l p a r t o f t h i s e x p r e s s i o n , a n d e q u a l s

a (f ) =∼GZ 0+

∼R

Z0

2 .


A s s h o w n p r e v i o u s l y ( 6 . 1 1 ) , v o l t a g e s a n d c u r r e n t s i n a w i r e l i n e c h a n n e l , w h i c h i s m o d e l e d a s a t r a n s m i s s i o n

l i n e h a v i n g r e s i s t a n c e , c a p a c i t a n c e a n d i n d u c t a n c e , d e c a y e x p o n e n t i a l l y w i t h d i s t a n c e . T h e i n v e r s e - s q u a r e l a w

g o v e r n s f r e e - s p a c e p r o p a g a t i o n b e c a u s e s u c h p r o p a g a t i o n i s l o s s l e s s , w i t h t h e i n v e r s e - s q u a r e l a w a c o n s e q u e n c e

o f t h e c o n s e r v a t i o n o f p o w e r . T h e e x p o n e n t i a l d e c a y o f w i r e l i n e c h a n n e l s o c c u r s b e c a u s e t h e y h a v e l o s s e s

a n d s o m e l t e r i n g .


R

h1 h2

RR

d1 d2

F i g u r e 6 . 4 3

U s e t h e P y t h a g o r e a n T h e o r e m , (h + R)2

= R2 + d2 , w h e r e h i s t h e a n t e n n a h e i g h t , d i s t h e d i s t a n c e f r o m

t h e t o p o f t h e e a r t h t o a t a n g e n c y p o i n t w i t h t h e e a r t h ' s s u r f a c e , a n d R t h e e a r t h ' s r a d i u s . T h e l i n e - o f - s i g h t

d i s t a n c e b e t w e e n t w o e a r t h - b a s e d a n t e n n a e e q u a l s

dLOS =

2h1R + h1

2 +

2h2R + h2

2( 6 . 6 6 )




2 9 5

A s t h e e a r t h ' s r a d i u s i s m u c h l a r g e r t h a n t h e a n t e n n a h e i g h t , w e h a v e t o a g o o d a p p r o x i m a t i o n t h a t

dLOS =√

2h1R +√

2h2R. I f o n e a n t e n n a i s a t g r o u n d e l e v a t i o n , s a y

h2 = 0 , t h e o t h e r a n t e n n a ' s r a n g e i s √ 2h1R

.


A s f r e q u e n c y d e c r e a s e s , w a v e l e n g t h i n c r e a s e s a n d c a n a p p r o a c h t h e d i s t a n c e b e t w e e n t h e e a r t h ' s s u r f a c e a n d

t h e i o n o s p h e r e . A s s u m i n g a d i s t a n c e b e t w e e n t h e t w o o f 8 0 k m , t h e r e l a t i o n λf = c g i v e s a c o r r e s p o n d i n g

f r e q u e n c y o f 3 . 7 5 k H z . S u c h l o w c a r r i e r f r e q u e n c i e s w o u l d b e l i m i t e d t o l o w b a n d w i d t h a n a l o g c o m m u n i c a t i o n

a n d t o l o w d a t a r a t e d i g i t a l c o m m u n i c a t i o n s . T h e U S N a v y d i d u s e s u c h a c o m m u n i c a t i o n s c h e m e t o r e a c h

a l l o f i t s s u b m a r i n e s a t o n c e .


T r a n s m i s s i o n t o t h e s a t e l l i t e , k n o w n a s t h e u p l i n k , e n c o u n t e r s i n v e r s e - s q u a r e l a w p o w e r l o s s e s . R e e c t i n g

o t h e i o n o s p h e r e n o t o n l y e n c o u n t e r s t h e s a m e l o s s , b u t t w i c e . R e e c t i o n i s t h e s a m e a s t r a n s m i t t i n g

e x a c t l y w h a t a r r i v e s , w h i c h m e a n s t h a t t h e t o t a l l o s s i s t h e p r o d u c t o f t h e u p l i n k a n d d o w n l i n k l o s s e s . T h e

g e o s y n c h r o n o u s o r b i t l i e s a t a n a l t i t u d e o f 35700km. T h e i o n o s p h e r e b e g i n s a t a n a l t i t u d e o f a b o u t 5 0 k m .

T h e a m p l i t u d e l o s s i n t h e s a t e l l i t e c a s e i s p r o p o r t i o n a l t o 2.8 × 10−8 ; f o r M a r c o n i , i t w a s p r o p o r t i o n a l t o

4.4 × 10−10 . M a r c o n i w a s v e r y l u c k y .


I f t h e i n t e r f e r e r ' s s p e c t r u m d o e s n o t o v e r l a p t h a t o f o u r c o m m u n i c a t i o n s c h a n n e l t h e i n t e r f e r e r i s o u t - o f -

b a n d w e n e e d o n l y u s e a b a n d p a s s l t e r t h a t s e l e c t s o u r t r a n s m i s s i o n b a n d a n d r e m o v e s o t h e r p o r t i o n s o f

t h e s p e c t r u m .


T h e a d d i t i v e - n o i s e c h a n n e l i s n o t l i n e a r b e c a u s e i t d o e s n o t h a v e t h e z e r o - i n p u t - z e r o - o u t p u t p r o p e r t y ( e v e n

t h o u g h w e m i g h t t r a n s m i t n o t h i n g , t h e r e c e i v e r ' s i n p u t c o n s i s t s o f n o i s e ) .


T h e s i g n a l - r e l a t e d p o r t i o n o f t h e t r a n s m i t t e d s p e c t r u m i s g i v e n b y X (f ) = 12M (f − f c) + 1

2M (f + f c) .

M u l t i p l y i n g a t t h e r e c e i v e r b y t h e c a r r i e r s h i f t s t h i s s p e c t r u m t o f c a n d t o −f c , a n d s c a l e s t h e r e s u l t b y h a l f .

12

X (f − f c) + 12

X (f + f c) = 14 (M (f − 2f c) + M (f )) + 1

4 (M (f + 2f c) + M (f ))

= 14M (f

−2f c) + 1

2M (f ) + 14M (f + 2f c)

( 6 . 6 7 )

T h e s i g n a l c o m p o n e n t s c e n t e r e d a t t w i c e t h e c a r r i e r f r e q u e n c y a r e r e m o v e d b y t h e l o w p a s s l t e r , w h i l e t h e

b a s e b a n d s i g n a l M (f ) e m e r g e s .


T h e k e y h e r e i s t h a t t h e t w o s p e c t r a M (f − f c), M (f + f c) d o n o t o v e r l a p b e c a u s e w e h a v e a s s u m e d

t h a t t h e c a r r i e r f r e q u e n c y f c i s m u c h g r e a t e r t h a n t h e s i g n a l ' s h i g h e s t f r e q u e n c y . C o n s e q u e n t l y , t h e t e r m

M (f − f c) M (f + f c) n o r m a l l y o b t a i n e d i n c o m p u t i n g t h e m a g n i t u d e - s q u a r e d e q u a l s z e r o .


S e p a r a t i o n i s 2W . C o m m e r c i a l A M s i g n a l b a n d w i d t h i s 5kHz. S p e e c h i s w e l l c o n t a i n e d i n t h i s b a n d w i d t h ,

m u c h b e t t e r t h a n i n t h e t e l e p h o n e !


x (t) =

∞n=−∞ sb(n) (t − nT ).


k = 4 .


x (t) =nn

(−1)b(n)ApT (t − nT )sin

2πkt

T


T h e h a r m o n i c d i s t o r t i o n i s 1 0 % .




2 9 6



T w i c e t h e b a s e b a n d b a n d w i d t h b e c a u s e b o t h p o s i t i v e a n d n e g a t i v e f r e q u e n c i e s a r e s h i f t e d t o t h e c a r r i e r b y

t h e m o d u l a t i o n : 3R.


I n B P S K , t h e s i g n a l s a r e n e g a t i v e s o f e a c h o t h e r : s1 (t) = −s0 (t) . C o n s e q u e n t l y , t h e o u t p u t o f e a c h

m u l t i p l i e r - i n t e g r a t o r c o m b i n a t i o n i s t h e n e g a t i v e o f t h e o t h e r . C h o o s i n g t h e l a r g e s t t h e r e f o r e a m o u n t s t o

c h o o s i n g w h i c h o n e i s p o s i t i v e . W e o n l y n e e d t o c a l c u l a t e o n e o f t h e s e . I f i t i s p o s i t i v e , w e a r e d o n e . I f i t i s

n e g a t i v e , w e c h o o s e t h e o t h e r s i g n a l .


T h e m a t c h e d l t e r o u t p u t s a r e ±A2T 2

b e c a u s e t h e s i n u s o i d h a s l e s s p o w e r t h a n a p u l s e h a v i n g t h e s a m e

a m p l i t u d e .


T h e n o i s e - f r e e i n t e g r a t o r o u t p u t s d i e r b y αA2T , t h e f a c t o r o f t w o s m a l l e r v a l u e t h a n i n t h e b a s e b a n d c a s e

a r i s i n g b e c a u s e t h e s i n u s o i d a l s i g n a l s h a v e l e s s e n e r g y f o r t h e s a m e a m p l i t u d e . S t a t e d i n t e r m s o f E b , t h e

d i e r e n c e e q u a l s 2αE b j u s t a s i n t h e b a s e b a n d c a s e .


T h e n o i s e - f r e e i n t e g r a t o r o u t p u t d i e r e n c e n o w e q u a l s αA2T = αE b2 . T h e n o i s e p o w e r r e m a i n s t h e s a m e a s

i n t h e B P S K c a s e , w h i c h f r o m t h e p r o b a b i l i t y o f e r r o r e q u a t i o n ( 6 . 4 6 ) y i e l d s

pe = Q

α2E bN 0

.


E q u a l l y l i k e l y s y m b o l s e a c h h a v e a p r o b a b i l i t y o f

1K . T h u s , H (A) = −

kk1K log2

1K = log2K . T o p r o v e

t h a t t h i s i s t h e m a x i m u m - e n t r o p y p r o b a b i l i t y a s s i g n m e n t , w e m u s t e x p l i c i t l y t a k e i n t o a c c o u n t t h a t p r o b a -

b i l i t i e s s u m t o o n e . F o c u s o n a p a r t i c u l a r s y m b o l , s a y t h e r s t . P r [a0] a p p e a r s t w i c e i n t h e e n t r o p y f o r -

m u l a : t h e t e r m s P r [a0]log2P r [a0] a n d (1 − P r [a0] + · · · + P r [aK −2]) log2 (1 − P r [a0] + · · · + P r [aK −2]).

T h e d e r i v a t i v e w i t h r e s p e c t t o t h i s p r o b a b i l i t y ( a n d a l l t h e o t h e r s ) m u s t b e z e r o . T h e d e r i v a t i v e e q u a l s

log2P r [a0] − log2 (1 − P r [a0] + · · · + P r [aK −2]), a n d a l l o t h e r d e r i v a t i v e s h a v e t h e s a m e f o r m ( j u s t s u b s t i -

t u t e y o u r l e t t e r ' s i n d e x ) . T h u s , e a c h p r o b a b i l i t y m u s t e q u a l t h e o t h e r s , a n d w e a r e d o n e . F o r t h e m i n i m u m

e n t r o p y a n s w e r , o n e t e r m i s 1log21 = 0 , a n d t h e o t h e r s a r e 0log20 , w h i c h w e d e n e t o b e z e r o a l s o . T h e

m i n i m u m v a l u e o f e n t r o p y i s z e r o .


T h e H u m a n c o d i n g t r e e f o r t h e s e c o n d s e t o f p r o b a b i l i t i e s i s i d e n t i c a l t o t h a t f o r t h e r s t ( F i g u r e 6 . 1 8

( H u m a n C o d i n g T r e e ) ) . T h e a v e r a g e c o d e l e n g t h i s

121 + 1

42 + 153 + 1

203 = 1.75 b i t s . T h e e n t r o p y c a l c u l a t i o n

i s s t r a i g h t f o r w a r d : H (A) = − 12 log 1

2 + 14 log1

4 + 15 log 1

5 + 120 log 1

20

, w h i c h e q u a l s 1.68 b i t s .


T = 1−

B(A)R

.


B e c a u s e n o c o d e w o r d b e g i n s w i t h a n o t h e r ' s c o d e w o r d , t h e r s t c o d e w o r d e n c o u n t e r e d i n a b i t s t r e a m m u s t

b e t h e r i g h t o n e . N o t e t h a t w e m u s t s t a r t a t t h e b e g i n n i n g o f t h e b i t s t r e a m ; j u m p i n g i n t o t h e m i d d l e d o e s

n o t g u a r a n t e e p e r f e c t d e c o d i n g . T h e e n d o f o n e c o d e w o r d a n d t h e b e g i n n i n g o f a n o t h e r c o u l d b e a c o d e w o r d ,

a n d w e w o u l d g e t l o s t .


C o n s i d e r t h e b i t s t r e a m

. . .0 1 1 0 1 1 1

. . .t a k e n f r o m t h e b i t s t r e a m 0 | 1 0 | 1 1 0 | 1 1 0 | 1 1 1 |

. . .. W e w o u l d d e c o d e t h e

i n i t i a l p a r t i n c o r r e c t l y , t h e n w o u l d s y n c h r o n i z e . I f w e h a d a x e d - l e n g t h c o d e ( s a y 0 0 , 0 1 , 1 0 , 1 1 ) , t h e s i t u a t i o n

i s m u c h w o r s e . J u m p i n g i n t o t h e m i d d l e l e a d s t o n o s y n c h r o n i z a t i o n a t a l l !


T h i s q u e s t i o n i s e q u i v a l e n t t o 3 pe×(1 − pe)+ pe2 ≤ 1 o r 2 pe

2−3 pe+ 1 ≥ 0 . B e c a u s e t h i s i s a n u p w a r d - g o i n g

p a r a b o l a , w e n e e d o n l y c h e c k w h e r e i t s r o o t s a r e . U s i n g t h e q u a d r a t i c f o r m u l a , w e n d t h a t t h e y a r e l o c a t e d

a t

12 a n d 1 . C o n s e q u e n t l y i n t h e r a n g e 0 ≤ pe ≤ 1

2 t h e e r r o r r a t e p r o d u c e d b y c o d i n g i s s m a l l e r .


W i t h n o c o d i n g , t h e a v e r a g e b i t - e r r o r p r o b a b i l i t y pe i s g i v e n b y t h e p r o b a b i l i t y o f e r r o r e q u a t i o n ( 6 . 4 7 ) :




2 9 7

pe = Q

2α2E bN 0

. W i t h a t h r e e f o l d r e p e t i t i o n c o d e , t h e b i t - e r r o r p r o b a b i l i t y i s g i v e n b y 3 pe

2×(1 − pe)+ pe3

,

w h e r e pe = Q

2α2E b3N 0

. P l o t t i n g t h i s r e v e a l s t h a t t h e i n c r e a s e i n b i t - e r r o r p r o b a b i l i t y o u t o f t h e c h a n n e l

b e c a u s e o f t h e e n e r g y r e d u c t i o n i s n o t c o m p e n s a t e d b y t h e r e p e t i t i o n c o d i n g .

100 10110-4

10-3

10-2

10-1

100

Coded

Uncoded

Signal-to-Noise Ratio

E r r o r P r o b a b i l i t y

Error Probability with and without (3,1) Repetition Coding

F i g u r e 6 . 4 4


I n b i n a r y a r i t h m e t i c ( s e e T a b l e 6 . 2 ) , a d d i n g 0 t o a b i n a r y v a l u e r e s u l t s i n t h a t b i n a r y v a l u e w h i l e a d d i n g 1

r e s u l t s i n t h e o p p o s i t e b i n a r y v a l u e .


dmin = 2n + 1


W h e n w e m u l t i p l y t h e p a r i t y - c h e c k m a t r i x t i m e s a n y c o d e w o r d e q u a l t o a c o l u m n o f G, t h e r e s u l t c o n s i s t s

o f t h e s u m o f a n e n t r y f r o m t h e l o w e r p o r t i o n o f G a n d i t s e l f t h a t , b y t h e l a w s o f b i n a r y a r i t h m e t i c , i s a l w a y s

z e r o .




2 9 8


B e c a u s e t h e c o d e i s l i n e a r s u m o f a n y t w o c o d e w o r d s i s a c o d e w o r d w e c a n g e n e r a t e a l l c o d e w o r d s a s

s u m s o f c o l u m n s o f

G. S i n c e m u l t i p l y i n g b y

H i s a l s o l i n e a r ,

Hc = 0 .


I n b i n a r y a r i t h m e t i c s e e t h i s t a b l e

5 5

, a d d i n g 0 t o a b i n a r y v a l u e r e s u l t s i n t h a t b i n a r y v a l u e w h i l e a d d i n g 1

r e s u l t s i n t h e o p p o s i t e b i n a r y v a l u e .


T h e p r o b a b i l i t y o f a s i n g l e - b i t e r r o r i n a l e n g t h -

N b l o c k i s

N pe(1 − pe)N −1

a n d a t r i p l e - b i t e r r o r h a s


N

3

pe

3(1 − pe)N −3

. F o r t h e r s t t o b e g r e a t e r t h a n t h e s e c o n d , w e m u s t h a v e

pe <1

(N −1)(N −2)6 + 1

F o r

N = 7 ,

pe < 0.31.


I n a l e n g t h - N b l o c k , N s i n g l e - b i t a n d

N (N −1)

2 d o u b l e - b i t e r r o r s c a n o c c u r . T h e n u m b e r o f n o n - z e r o v e c t o r s

r e s u l t i n g f r o m H

cm u s t e q u a l o r e x c e e d t h e s u m o f t h e s e t w o n u m b e r s .

2N −K − 1 ≥ N +N (N − 1)

2o r 2N −K ≥ N 2 + N + 2

2( 6 . 6 8 )

T h e r s t t w o s o l u t i o n s t h a t a t t a i n e q u a l i t y a r e ( 5 , 1 ) a n d ( 9 0 , 7 8 ) c o d e s . H o w e v e r , n o p e r f e c t c o d e e x i s t s

o t h e r t h a n t h e s i n g l e - b i t e r r o r c o r r e c t i n g H a m m i n g c o d e . ( P e r f e c t c o d e s s a t i s f y r e l a t i o n s l i k e ( 6 . 6 8 ) w i t h

e q u a l i t y . )


T o c o n v e r t t o b i t s / s e c o n d , w e d i v i d e t h e c a p a c i t y s t a t e d i n b i t s / t r a n s m i s s i o n b y t h e b i t i n t e r v a l d u r a t i o n

T .


T h e n e t w o r k e n t r y p o i n t i s t h e t e l e p h o n e h a n d s e t , w h i c h c o n n e c t s y o u t o t h e n e a r e s t s t a t i o n . D i a l i n g t h e

t e l e p h o n e n u m b e r i n f o r m s t h e n e t w o r k o f w h o w i l l b e t h e m e s s a g e r e c i p i e n t . T h e t e l e p h o n e s y s t e m f o r m s a n

e l e c t r i c a l c i r c u i t b e t w e e n y o u r h a n d s e t a n d y o u r f r i e n d ' s h a n d s e t . Y o u r f r i e n d r e c e i v e s t h e m e s s a g e v i a t h e

s a m e d e v i c e t h e h a n d s e t t h a t s e r v e d a s t h e n e t w o r k e n t r y p o i n t .


T h e t r a n s m i t t i n g o p - a m p s e e s a l o a d o r

Rout + Z 0 Rout

N , w h e r e

N i s t h e n u m b e r o f t r a n s c e i v e r s o t h e r t h a n

t h i s o n e a t t a c h e d t o t h e c o a x i a l c a b l e . T h e t r a n s f e r f u n c t i o n t o s o m e o t h e r t r a n s c e i v e r ' s r e c e i v e r c i r c u i t i s

Rout d i v i d e d b y t h i s l o a d .


T h e w o r s t - c a s e s i t u a t i o n o c c u r s w h e n o n e c o m p u t e r b e g i n s t o t r a n s m i t j u s t b e f o r e t h e o t h e r ' s p a c k e t a r r i v e s .

T r a n s m i t t e r s m u s t s e n s e a c o l l i s i o n b e f o r e p a c k e t t r a n s m i s s i o n e n d s . T h e t i m e t a k e n f o r o n e c o m p u t e r ' s

p a c k e t t o t r a v e l t h e E t h e r n e t ' s l e n g t h a n d f o r t h e o t h e r c o m p u t e r ' s t r a n s m i s s i o n t o a r r i v e e q u a l s t h e r o u n d -

t r i p , n o t o n e - w a y , p r o p a g a t i o n t i m e .


T h e c a b l e m u s t b e a f a c t o r o f t e n s h o r t e r : I t c a n n o t e x c e e d 1 0 0 m . D i e r e n t m i n i m u m p a c k e t s i z e s m e a n s

d i e r e n t p a c k e t f o r m a t s , m a k i n g c o n n e c t i n g o l d a n d n e w s y s t e m s t o g e t h e r m o r e c o m p l e x t h a n n e e d b e .


W h e n y o u p i c k u p t h e t e l e p h o n e , y o u i n i t i a t e a d i a l o g w i t h y o u r n e t w o r k i n t e r f a c e b y d i a l i n g t h e n u m b e r .

T h e n e t w o r k l o o k s u p w h e r e t h e d e s t i n a t i o n c o r r e s p o n d i n g t o t h a t n u m b e r i s l o c a t e d , a n d r o u t e s t h e c a l l

a c c o r d i n g l y . T h e r o u t e r e m a i n s x e d a s l o n g a s t h e c a l l p e r s i s t s . W h a t y o u s a y a m o u n t s t o h i g h - l e v e l

p r o t o c o l w h i l e e s t a b l i s h i n g t h e c o n n e c t i o n a n d m a i n t a i n i n g i t c o r r e s p o n d s t o l o w - l e v e l p r o t o c o l .

5 5

" E r r o r C o r r e c t i o n " < h t t p : / / c n x . o r g / c o n t e n t / m 0 0 9 5 / l a t e s t / # t a b l e 1 >




A p p e n d i x

7 . 1 D e c i b e l s

1

T h e d e c i b e l s c a l e e x p r e s s e s a m p l i t u d e s a n d p o w e r v a l u e s l o g a r i t h m i c a l l y . T h e d e n i t i o n s f o r t h e s e d i e r ,

b u t a r e c o n s i s t e n t w i t h e a c h o t h e r .

power (s, i n d e c i b e l s ) = 10logpower (s)

power (s0)( 7 . 1 )

amplitude(s,i n d e c i b e l s ) = 20log

amplitude (s)

amplitude(s0)

H e r e power (s0) a n d amplitude (s0) r e p r e s e n t a r e f e r e n c e p o w e r a n d a m p l i t u d e , r e s p e c t i v e l y . Q u a n t i f y i n g

p o w e r o r a m p l i t u d e i n d e c i b e l s e s s e n t i a l l y m e a n s t h a t w e a r e c o m p a r i n g q u a n t i t i e s t o a s t a n d a r d o r t h a t w e

w a n t t o e x p r e s s h o w t h e y c h a n g e d . Y o u w i l l h e a r s t a t e m e n t s l i k e " T h e s i g n a l w e n t d o w n b y 3 d B " a n d " T h e

l t e r ' s g a i n i n t h e s t o p b a n d i s −60 " ( D e c i b e l s i s a b b r e v i a t e d d B . ) .

E x e r c i s e 7 . 1 . 1

( S o l u t i o n o n p . 3 0 4 . )

T h e p r e x " d e c i " i m p l i e s a t e n t h ; a d e c i b e l i s a t e n t h o f a B e l . W h o i s t h i s m e a s u r e n a m e d f o r ?

T h e c o n s i s t e n c y o f t h e s e t w o d e n i t i o n s a r i s e s b e c a u s e p o w e r i s p r o p o r t i o n a l t o t h e s q u a r e o f a m p l i t u d e :

power (s) ∝ amplitude2 (s) ( 7 . 2 )

P l u g g i n g t h i s e x p r e s s i o n i n t o t h e d e n i t i o n f o r d e c i b e l s , w e n d t h a t

10logpower(s)power(s0)

= 10logamplitude2(s)amplitude2(s0)

= 20log amplitude(s)amplitude(s0)

( 7 . 3 )

B e c a u s e o f t h i s c o n s i s t e n c y , s t a t i n g r e l a t i v e c h a n g e i n t e r m s o f d e c i b e l s i s u n a m b i g u o u s . A f a c t o r

o f 1 0 i n c r e a s e i n a m p l i t u d e c o r r e s p o n d s t o a 2 0 d B i n c r e a s e i n b o t h a m p l i t u d e a n d p o w e r !

1



2 9 9



3 0 0

A P P E N D I X

D e c i b e l t a b l e

P o w e r R a t i o d B

1 0√ 2 1.5

2 3√ 10 5

4 6

5 7

8 9

10 10

0.1 −10

F i g u r e 7 . 1 : C o m m o n v a l u e s f o r t h e d e c i b e l . T h e d e c i b e l v a l u e s f o r a l l b u t t h e p o w e r s o f t e n a r e

a p p r o x i m a t e , b u t a r e a c c u r a t e t o a d e c i m a l p l a c e .

T h e a c c o m p a n y i n g t a b l e p r o v i d e s " n i c e " d e c i b e l v a l u e s . C o n v e r t i n g d e c i b e l v a l u e s b a c k a n d f o r t h i s f u n ,

a n d t e s t s y o u r a b i l i t y t o t h i n k o f d e c i b e l v a l u e s a s s u m s a n d / o r d i e r e n c e s o f t h e w e l l - k n o w n v a l u e s a n d o f

r a t i o s a s p r o d u c t s a n d / o r q u o t i e n t s . T h i s c o n v e r s i o n r e s t s o n t h e l o g a r i t h m i c n a t u r e o f t h e d e c i b e l s c a l e .

F o r e x a m p l e , t o n d t h e d e c i b e l v a l u e f o r √ 2 , w e h a l v e t h e d e c i b e l v a l u e f o r

2;

26d B e q u a l s

10 + 10 + 6d B

t h a t c o r r e s p o n d s t o a r a t i o o f 10 × 10 × 4 = 400 . D e c i b e l q u a n t i t i e s a d d ; r a t i o v a l u e s m u l t i p l y .

O n e r e a s o n d e c i b e l s a r e u s e d s o m u c h i s t h e f r e q u e n c y - d o m a i n i n p u t - o u t p u t r e l a t i o n f o r l i n e a r s y s t e m s :

Y (f ) = X (f ) H (f ). B e c a u s e t h e t r a n s f e r f u n c t i o n m u l t i p l i e s t h e i n p u t s i g n a l ' s s p e c t r u m , t o n d t h e o u t p u t

a m p l i t u d e a t a g i v e n f r e q u e n c y w e s i m p l y a d d t h e l t e r ' s g a i n i n d e c i b e l s ( r e l a t i v e t o a r e f e r e n c e o f o n e ) t o t h e

i n p u t a m p l i t u d e a t t h a t f r e q u e n c y . T h i s c a l c u l a t i o n i s o n e r e a s o n t h a t w e p l o t t r a n s f e r f u n c t i o n m a g n i t u d e

o n a l o g a r i t h m i c v e r t i c a l s c a l e e x p r e s s e d i n d e c i b e l s .




A P P E N D I X 3 0 1

7 . 2 P e r m u t a t i o n s a n d C o m b i n a t i o n s

2

7 . 2 . 1 P e r m u t a t i o n s a n d C o m b i n a t i o n s

T h e l o t t e r y " g a m e " c o n s i s t s o f p i c k i n g

kn u m b e r s f r o m a p o o l o f

n. F o r e x a m p l e , y o u s e l e c t

6n u m b e r s o u t

o f 60. T o w i n , t h e o r d e r i n w h i c h y o u p i c k t h e n u m b e r s d o e s n ' t m a t t e r ; y o u o n l y h a v e t o c h o o s e t h e r i g h t s e t

o f 6 n u m b e r s . T h e c h a n c e s o f w i n n i n g e q u a l t h e n u m b e r o f d i e r e n t l e n g t h - k s e q u e n c e s t h a t c a n b e c h o s e n .

A r e l a t e d , b u t d i e r e n t , p r o b l e m i s s e l e c t i n g t h e b a t t i n g l i n e u p f o r a b a s e b a l l t e a m . N o w t h e o r d e r m a t t e r s ,

a n d m a n y m o r e c h o i c e s a r e p o s s i b l e t h a n w h e n o r d e r d o e s n o t m a t t e r .

A n s w e r i n g s u c h q u e s t i o n s o c c u r s i n m a n y a p p l i c a t i o n s b e y o n d g a m e s . I n d i g i t a l c o m m u n i c a t i o n s , f o r

e x a m p l e , y o u m i g h t a s k h o w m a n y p o s s i b l e d o u b l e - b i t e r r o r s c a n o c c u r i n a c o d e w o r d . N u m b e r i n g t h e b i t

p o s i t i o n s f r o m 1 t o N , t h e a n s w e r i s t h e s a m e a s t h e l o t t e r y p r o b l e m w i t h k = 6 . S o l v i n g t h e s e k i n d o f

p r o b l e m s a m o u n t s t o u n d e r s t a n d i n g p e r m u t a t i o n s - t h e n u m b e r o f w a y s o f c h o o s i n g t h i n g s w h e n o r d e r

m a t t e r s a s i n b a s e b a l l l i n e u p s - a n d c o m b i n a t i o n s - t h e n u m b e r o f w a y s o f c h o o s i n g t h i n g s w h e n o r d e r d o e s

n o t m a t t e r a s i n l o t t e r i e s a n d b i t e r r o r s .

C a l c u l a t i n g p e r m u t a t i o n s i s t h e e a s i e s t . I f w e a r e t o p i c k k n u m b e r s f r o m a p o o l o f n, w e h a v e n c h o i c e s

f o r t h e r s t o n e . F o r t h e s e c o n d c h o i c e , w e h a v e n

−1 . T h e n u m b e r o f l e n g t h - t w o o r d e r e d s e q u e n c e s i s

t h e r e f o r e b e n (n − 1). C o n t i n u i n g t o c h o o s e u n t i l w e m a k e k c h o i c e s m e a n s t h e n u m b e r o f p e r m u t a t i o n s

i s

n (n − 1) (n − 2) . . . (n − k + 1). T h i s r e s u l t c a n b e w r i t t e n i n t e r m s o f f a c t o r i a l s a s

n!(n−k)! , w i t h

n! =

n (n − 1) (n − 2) . . . 1 . F o r m a t h e m a t i c a l c o n v e n i e n c e , w e d e n e 0! = 1 .

W h e n o r d e r d o e s n o t m a t t e r , t h e n u m b e r o f c o m b i n a t i o n s e q u a l s t h e n u m b e r o f p e r m u t a t i o n s d i v i d e d b y

t h e n u m b e r o f o r d e r i n g s . T h e n u m b e r o f w a y s a p o o l o f k t h i n g s c a n b e o r d e r e d e q u a l s k!. T h u s , o n c e w e

c h o o s e t h e n i n e s t a r t e r s f o r o u r b a s e b a l l g a m e , w e h a v e 9! = 362, 880 d i e r e n t l i n e u p s ! T h e s y m b o l f o r t h e

c o m b i n a t i o n o f

kt h i n g s d r a w n f r o m a p o o l o f

ni s

n

k

a n d e q u a l s

n!(n−k)!k! .

E x e r c i s e 7 . 2 . 1

( S o l u t i o n o n p . 3 0 4 . )

W h a t a r e t h e c h a n c e s o f w i n n i n g t h e l o t t e r y ? A s s u m e y o u p i c k 6 n u m b e r s f r o m t h e n u m b e r s 1 - 60 .

C o m b i n a t o r i a l s o c c u r i n i n t e r e s t i n g p l a c e s . F o r e x a m p l e , N e w t o n d e r i v e d t h a t t h e

n- t h p o w e r o f a s u m

o b e y e d t h e f o r m u l a (x + y)n

= n

0

xn + n

1

xn−1y + n

2

xn−2y2 + · · · + n

n

yn.


W h a t d o e s t h e s u m o f b i n o m i a l c o e c i e n t s e q u a l ? I n o t h e r w o r d s , w h a t i s

nk=0

n

k

A r e l a t e d p r o b l e m i s c a l c u l a t i n g t h e p r o b a b i l i t y t h a t a n y t w o b i t s a r e i n e r r o r i n a l e n g t h - n c o d e w o r d w h e n

p i s t h e p r o b a b i l i t y o f a n y b i t b e i n g i n e r r o r . T h e p r o b a b i l i t y o f a n y p a r t i c u l a r t w o - b i t e r r o r s e q u e n c e

i s

p2(1

− p)

n−2. T h e p r o b a b i l i t y o f a t w o - b i t e r r o r o c c u r r i n g a n y w h e r e e q u a l s t h i s p r o b a b i l i t y t i m e s t h e

n u m b e r o f c o m b i n a t i o n s :

n

2

p2(1 − p)n−2

. N o t e t h a t t h e p r o b a b i l i t y t h a t z e r o o r o n e o r t w o , e t c . e r r o r s

o c c u r r i n g m u s t b e o n e ; i n o t h e r w o r d s , s o m e t h i n g m u s t h a p p e n t o t h e c o d e w o r d ! T h a t m e a n s t h a t w e m u s t

h a v e

n

0

(1 − p)

n+

n

1

p(1 − p)

n−1+

n

2

p2(1 − p)

n−2+ · · · +

n

n

pn = 1 . C a n y o u p r o v e

t h i s ?

2





3 0 2

A P P E N D I X

7 . 3 F r e q u e n c y A l l o c a t i o n s

3

T o p r e v e n t r a d i o s t a t i o n s f r o m t r a n s m i t t i n g s i g n a l s o n t o p o f e a c h o t h e r , t h e U n i t e d S t a t e s a n d o t h e r

n a t i o n a l g o v e r n m e n t s i n t h e 1 9 3 0 s b e g a n r e g u l a t i n g t h e c a r r i e r f r e q u e n c i e s a n d p o w e r o u t p u t s s t a t i o n s c o u l d

u s e . W i t h i n c r e a s e d u s e o f t h e r a d i o s p e c t r u m f o r b o t h p u b l i c a n d p r i v a t e u s e , t h i s r e g u l a t i o n h a s b e c o m e

i n c r e a s i n g l y i m p o r t a n t . T h i s i s t h e s o - c a l l e d F r e q u e n c y A l l o c a t i o n C h a r t , w h i c h s h o w s w h a t k i n d s o f

b r o a d c a s t i n g c a n o c c u r i n w h i c h f r e q u e n c y b a n d s . D e t a i l e d r a d i o c a r r i e r f r e q u e n c y a s s i g n m e n t s a r e m u c h

t o o d e t a i l e d t o p r e s e n t h e r e .

3







3 0 4

A P P E N D I X



A l e x a n d e r G r a h a m B e l l . H e d e v e l o p e d i t b e c a u s e w e s e e m t o p e r c e i v e p h y s i c a l q u a n t i t i e s l i k e l o u d n e s s

a n d b r i g h t n e s s l o g a r i t h m i c a l l y . I n o t h e r w o r d s , p e r c e n t a g e , n o t a b s o l u t e d i e r e n c e s , m a t t e r t o u s . W e u s e

d e c i b e l s t o d a y b e c a u s e c o m m o n v a l u e s a r e s m a l l i n t e g e r s . I f w e u s e d B e l s , t h e y w o u l d b e d e c i m a l f r a c t i o n s ,

w h i c h a r e n ' t a s e l e g a n t .

S o l u t i o n t o E x e r c i s e 7 . 2 . 1 ( p . 3 0 1 ) 60

6

= 60!

54!6! = 50, 063, 860.


B e c a u s e o f N e w t o n ' s b i n o m i a l t h e o r e m , t h e s u m e q u a l s (1 + 1)n

= 2n .




I N D E X 3 0 5

I n d e x o f K e y w o r d s a n d T e r m s

K e y w o r d s a r e l i s t e d b y t h e s e c t i o n w i t h t h a t k e y w o r d ( p a g e n u m b e r s a r e i n p a r e n t h e s e s ) . K e y w o r d s

d o n o t n e c e s s a r i l y a p p e a r i n t h e t e x t o f t h e p a g e . T h e y a r e m e r e l y a s s o c i a t e d w i t h t h a t s e c t i o n . E x .

a p p l e s , 1 . 1 ( 1 ) T e r m s a r e r e f e r e n c e d b y t h e p a g e t h e y a p p e a r o n . E x . a p p l e s , 1

A a c t i v e c i r c u i t s , 7 8

a d d r e s s , 2 7 2

a l g o r i t h m , 1 8 9 , 1 8 9

a l i a s i n g , 1 7 5

a l p h a b e t , 2 . 4 ( 2 2 ) , 2 4 , 1 8 1

A M , 6 . 1 1 ( 2 3 7 )

A m p e r e , 2 . 2 ( 1 7 ) , 3 . 1 ( 3 9 )

a m p l i e r , 2 . 6 ( 2 7 )

a m p l i t u d e , 1 . 4 ( 7 ) , 7 , 2 . 2 ( 1 7 ) , 7 . 1 ( 2 9 9 )

a m p l i t u d e m o d u l a t e , 1 4 0

a m p l i t u d e m o d u l a t i o n , 6 . 1 1 ( 2 3 7 ) , 6 . 1 2 ( 2 3 9 )

a n a l o g , 1 , 2 2 , 3 . 2 1 ( 8 8 ) , 5 . 6 ( 1 8 1 ) ,

5 . 1 4 ( 2 0 0 ) , 5 . 1 6 ( 2 0 7 ) , 6 . 3 2 ( 2 7 0 )

a n a l o g c o m m u n i c a t i o n , 6 . 1 0 ( 2 3 6 ) ,

6 . 1 1 ( 2 3 7 ) , 6 . 1 2 ( 2 3 9 ) , 6 . 3 2 ( 2 7 0 )

a n a l o g c o m p u t e r s , 3 6

a n a l o g p r o b l e m , 3 . 2 1 ( 8 8 )

a n a l o g s i g n a l , 1 . 2 ( 2 ) , 6 . 1 0 ( 2 3 6 )

a n a l o g s i g n a l s , 5 . 1 4 ( 2 0 0 ) , 5 . 1 6 ( 2 0 7 )

a n a l o g - t o - d i g i t a l ( A / D ) c o n v e r s i o n , 5 . 4 ( 1 7 6 ) ,

1 7 6

a n g l e , 1 5

a n g l e o f c o m p l e x n u m b e r , 2 . 1 ( 1 3 )

A R P A N E T , 6 . 3 4 ( 2 7 2 )

A S P , 3 . 2 1 ( 8 8 )

a t t e n u a t i o n , 2 . 6 ( 2 7 ) , 6 . 9 ( 2 3 5 ) , 6 . 1 2 ( 2 3 9 )

a t t e n u a t i o n c o n s t a n t , 2 3 0

a u x i l i a r y b a n d , 2 8 4

a v e r a g e p o w e r , 6 3 , 6 3

B b a n d l i m i t e d , 6 . 3 1 ( 2 6 9 )

b a n d p a s s l t e r , 1 5 1

b a n d p a s s s i g n a l , 1 4 2

b a n d w i d t h , 4 . 6 ( 1 3 3 ) , 1 3 3 , 1 4 2 , 6 . 9 ( 2 3 5 ) ,

6 . 1 2 ( 2 3 9 ) , 6 . 1 4 ( 2 4 1 ) , 6 . 1 5 ( 2 4 4 )

b a s e b a n d c o m m u n i c a t i o n , 6 . 1 0 ( 2 3 6 ) , 2 3 6

b a s e b a n d s i g n a l , 1 4 2 , 6 . 1 0 ( 2 3 6 )

b a s i s f u n c t i o n s , 1 2 0

b i n a r y p h a s e s h i f t k e y i n g , 6 . 1 4 ( 2 4 1 ) , 2 4 2

b i n a r y s y m m e t r i c c h a n n e l , 6 . 1 9 ( 2 5 0 ) , 2 5 1

b i t , 1 7 1

b i t i n t e r v a l , 2 4 0 , 6 . 1 4 ( 2 4 1 )

b i t s t r e a m , 6 . 1 3 ( 2 4 0 ) , 2 4 0

b i t - r e c e p t i o n e r r o r , 6 . 1 7 ( 2 4 7 )

b i t s , 6 . 2 1 ( 2 5 2 ) , 2 5 2

b l o c k , 2 6 6

b l o c k c h a n n e l c o d i n g , 6 . 2 6 ( 2 6 1 ) , 2 6 1

b l o c k d i a g r a m , 1 . 3 ( 5 ) , 6 , 2 . 5 ( 2 5 )

b o o l e a n a r i t h m e t i c , 5 . 2 ( 1 6 9 )

b o x c a r l t e r , 1 9 9 , 5 . 1 3 ( 1 9 9 )

B P S K , 6 . 1 4 ( 2 4 1 ) , 6 . 1 9 ( 2 5 0 )

b r i d g e c i r c u i t s , 9 2

b r o a d c a s t , 6 . 1 ( 2 2 5 ) , 2 2 6 , 6 . 3 6 ( 2 7 4 )

b r o a d c a s t c o m m u n i c a t i o n , 2 2 5

b r o a d c a s t m o d e , 6 . 2 ( 2 2 6 )

b u e r i n g , 5 . 1 5 ( 2 0 4 ) , 2 0 6

b u t t e r y , 5 . 9 ( 1 8 9 ) , 1 9 1

b y t e s , 1 7 1

C c a p a c i t o r , 3 . 2 ( 4 0 ) , 3 . 8 ( 5 8 )

c a p a c i t y , 6 . 3 0 ( 2 6 8 ) , 2 6 8 , 6 . 3 1 ( 2 6 9 ) ,

6 . 3 6 ( 2 7 4 )

c a r r i e r , 1 . 4 ( 7 ) , 8 , 2 3 7

c a r r i e r a m p l i t u d e , 2 3 8

c a r r i e r f r e q u e n c y , 6 . 1 1 ( 2 3 7 ) , 2 3 8

C a r t e s i a n f o r m , 2 . 1 ( 1 3 )

C a r t e s i a n f o r m o f z , 1 4

c a s c a d e , 2 . 5 ( 2 5 )

c h a n n e l , 1 . 3 ( 5 ) , 6 , 6 . 9 ( 2 3 5 ) , 6 . 3 0 ( 2 6 8 ) ,

6 . 3 1 ( 2 6 9 )

c h a n n e l c o d e r , 2 5 9 , 6 . 2 5 ( 2 5 9 )

c h a n n e l c o d i n g , 6 . 2 5 ( 2 5 9 ) , 6 . 2 6 ( 2 6 1 ) ,

6 . 2 7 ( 2 6 2 )

c h a n n e l d e c o d i n g , 6 . 2 8 ( 2 6 4 )

c h a r a c t e r i s t i c i m p e d a n c e , 2 3 0

c h a r g e , 3 . 1 ( 3 9 )

c i r c u i t , 3 . 1 ( 3 9 ) , 3 . 2 ( 4 0 ) , 3 . 4 ( 4 3 ) , 4 3 ,

3 . 8 ( 5 8 ) , 3 . 9 ( 5 9 ) , 3 . 2 0 ( 8 6 )

c i r c u i t m o d e l , 6 . 2 ( 2 2 6 )

c i r c u i t s w i t c h e d , 2 7 3

c i r c u i t - s w i t c h e d , 6 . 3 4 ( 2 7 2 ) , 2 7 2

c i r c u i t s , 3 9

c l o c k s p e e d , 5 . 2 ( 1 6 9 )

c l o s e d c i r c u i t , 3 . 2 ( 4 0 )




3 0 6

I N D E X

c o a x i a l c a b l e , 6 . 3 ( 2 2 6 ) , 2 2 7

c o d e b o o k , 6 . 2 1 ( 2 5 2 ) , 2 5 3

c o d e w o r d , 6 . 2 7 ( 2 6 2 ) , 2 6 2

c o d e w o r d e r r o r , 7 . 2 ( 3 0 1 )

c o d i n g , 6 . 2 3 ( 2 5 6 )

c o d i n g e c i e n c y , 6 . 2 6 ( 2 6 1 ) , 2 6 1

c o h e r e n t , 2 3 8

c o h e r e n t r e c e i v e r , 6 . 1 1 ( 2 3 7 )

c o l l i s i o n , 6 . 3 6 ( 2 7 4 ) , 2 7 5

c o m b i n a t i o n , 7 . 2 ( 3 0 1 )

c o m b i n a t i o n s , 3 0 1

c o m b i n a t o r i a l , 7 . 2 ( 3 0 1 )

c o m m u n i c a t i o n , 1 . 3 ( 5 ) , 6 . 3 2 ( 2 7 0 )

c o m m u n i c a t i o n c h a n n e l , 6 . 2 ( 2 2 6 )

c o m m u n i c a t i o n c h a n n e l s , 6 . 5 ( 2 3 2 ) ,

6 . 6 ( 2 3 3 ) , 6 . 7 ( 2 3 4 ) , 6 . 8 ( 2 3 4 ) , 6 . 9 ( 2 3 5 )

c o m m u n i c a t i o n n e t w o r k , 6 . 3 3 ( 2 7 1 ) ,

6 . 3 5 ( 2 7 3 ) , 6 . 3 7 ( 2 7 6 )

c o m m u n i c a t i o n n e t w o r k s , 6 . 3 4 ( 2 7 2 ) ,

6 . 3 6 ( 2 7 4 )

c o m m u n i c a t i o n p r o t o c o l , 6 . 3 7 ( 2 7 6 )

c o m m u n i c a t i o n s y s t e m s , 6 . 1 ( 2 2 5 )

c o m m u n i c a t i o n t h e o r y , 6 . 2 0 ( 2 5 1 )

C o m p l e m e n t a r y l t e r s , 2 7 9

c o m p l e x , 2 . 3 ( 2 2 ) , 2 . 4 ( 2 2 )

c o m p l e x a m p l i t u d e , 1 7

c o m p l e x a m p l i t u d e s , 6 4

c o m p l e x c o n j u g a t e , 1 4

c o m p l e x e x p o n e n t i a l , 1 3 , 2 . 2 ( 1 7 )

c o m p l e x e x p o n e n t i a l s e q u e n c e , 2 3 , 1 7 9

c o m p l e x F o u r i e r s e r i e s , 4 . 2 ( 1 1 9 )

c o m p l e x f r e q u e n c y , 2 0

c o m p l e x n u m b e r , 2 . 1 ( 1 3 ) , 1 3

c o m p l e x n u m b e r s , 5 8

c o m p l e x p l a n e , 1 3

c o m p l e x p o w e r , 6 3

c o m p l e x - v a l u e d , 2 . 4 ( 2 2 )

c o m p l e x i t y , 2 . 3 ( 2 2 ) , 1 8 8

c o m p o n e n t , 2 . 2 ( 1 7 )

c o m p r e s s i o n , 6 . 2 0 ( 2 5 1 ) , 6 . 2 1 ( 2 5 2 ) ,

6 . 2 2 ( 2 5 4 ) , 6 . 2 3 ( 2 5 6 )

c o m p u t a t i o n a l a d v a n t a g e , 1 8 9

c o m p u t a t i o n a l c o m p l e x i t y , 5 . 8 ( 1 8 8 ) ,

5 . 9 ( 1 8 9 ) , 5 . 1 6 ( 2 0 7 )

c o m p u t e r n e t w o r k , 6 . 3 7 ( 2 7 6 )

C o m p u t e r n e t w o r k s , 2 7 0

c o m p u t e r o r g a n i z a t i o n , 5 . 2 ( 1 6 9 )

c o n d u c t a n c e , 3 . 2 ( 4 0 ) , 4 1

c o n d u c t o r , 3 . 1 ( 3 9 )

c o n j u g a t e s y m m e t r y , 4 . 2 ( 1 1 9 ) , 1 2 1

C o o l e y - T u k e y a l g o r i t h m , 5 . 9 ( 1 8 9 )

c o s i n e , 1 . 4 ( 7 )

c o u n t a b l y i n n i t e , 2 0 2

c u r r e n t , 3 . 1 ( 3 9 ) , 3 9 , 3 . 2 ( 4 0 )

c u r r e n t d i v i d e r , 3 . 6 ( 4 8 ) , 5 0

c u t o f r e q u e n c y , 6 8

D d a t a c o m p r e s s i o n , 6 . 2 2 ( 2 5 4 ) , 2 5 4

d a t a r a t e , 6 . 1 4 ( 2 4 1 ) , 2 4 2 , 6 . 3 1 ( 2 6 9 )

D e - e m p h a s i s c i r c u i t s , 1 1 2

d e c i b e l , 7 . 1 ( 2 9 9 )

d e c o d e , 6 . 2 9 ( 2 6 6 )

d e c o d i n g , 6 . 2 8 ( 2 6 4 )

d e c o m p o s e , 2 . 4 ( 2 2 )

d e c o m p o s i t i o n , 2 . 3 ( 2 2 )

d e d i c a t e d , 2 7 1

d e p e n d e n t s o u r c e , 7 7

d e v i c e e l e c t r o n i c , 3 . 1 ( 3 9 )

D F T , 5 . 7 ( 1 8 6 ) , 5 . 9 ( 1 8 9 ) , 5 . 1 0 ( 1 9 1 ) ,

5 . 1 4 ( 2 0 0 )

d i e r e n c e e q u a t i o n , 5 . 1 2 ( 1 9 6 ) , 1 9 6 ,

5 . 1 4 ( 2 0 0 )

d i g i t a l , 1 , 5 . 6 ( 1 8 1 ) , 6 . 3 2 ( 2 7 0 ) , 6 . 3 3 ( 2 7 1 )

d i g i t a l c o m m u n i c a t i o n , 6 . 1 ( 2 2 5 ) , 6 . 1 3 ( 2 4 0 ) ,

6 . 1 4 ( 2 4 1 ) , 6 . 1 5 ( 2 4 4 ) , 6 . 1 6 ( 2 4 5 ) ,

6 . 1 7 ( 2 4 7 ) , 6 . 1 8 ( 2 4 9 ) , 6 . 1 9 ( 2 5 0 ) ,

6 . 2 0 ( 2 5 1 ) , 6 . 2 1 ( 2 5 2 ) , 6 . 2 2 ( 2 5 4 ) ,

6 . 2 3 ( 2 5 6 ) , 6 . 2 5 ( 2 5 9 ) , 6 . 2 6 ( 2 6 1 ) ,

6 . 2 7 ( 2 6 2 ) , 6 . 2 8 ( 2 6 4 ) , 6 . 2 9 ( 2 6 6 ) ,

6 . 3 0 ( 2 6 8 ) , 6 . 3 1 ( 2 6 9 ) , 6 . 3 2 ( 2 7 0 )

d i g i t a l c o m m u n i c a t i o n r e c e i v e r , 6 . 1 9 ( 2 5 0 )

d i g i t a l c o m m u n i c a t i o n r e c e i v e r s , 6 . 1 7 ( 2 4 7 )

d i g i t a l c o m m u n i c a t i o n s y s t e m s , 6 . 1 9 ( 2 5 0 )

d i g i t a l l t e r , 5 . 1 4 ( 2 0 0 ) , 5 . 1 6 ( 2 0 7 )

d i g i t a l s i g n a l , 1 . 2 ( 2 )

d i g i t a l s i g n a l p r o c e s s i n g , 5 . 6 ( 1 8 1 ) ,

5 . 1 0 ( 1 9 1 ) , 5 . 1 1 ( 1 9 5 ) , 5 . 1 2 ( 1 9 6 ) ,

5 . 1 4 ( 2 0 0 ) , 5 . 1 5 ( 2 0 4 ) , 5 . 1 6 ( 2 0 7 )

d i g i t a l s o u r c e s , 6 . 2 0 ( 2 5 1 ) , 6 . 2 1 ( 2 5 2 ) ,

6 . 2 2 ( 2 5 4 ) , 6 . 2 3 ( 2 5 6 )

d i o d e , 3 . 2 0 ( 8 6 )

D i s c r e t e F o u r i e r T r a n s f o r m , 5 . 7 ( 1 8 6 ) , 1 8 7 ,

5 . 8 ( 1 8 8 ) , 5 . 9 ( 1 8 9 ) , 5 . 1 0 ( 1 9 1 ) , 5 . 1 4 ( 2 0 0 )

d i s c r e t e - t i m e , 2 . 4 ( 2 2 ) , 5 . 6 ( 1 8 1 ) ,

5 . 1 4 ( 2 0 0 ) , 5 . 1 5 ( 2 0 4 ) , 5 . 1 6 ( 2 0 7 )

d i s c r e t e - t i m e l t e r i n g , 5 . 1 4 ( 2 0 0 ) , 5 . 1 5 ( 2 0 4 ) ,

5 . 1 6 ( 2 0 7 )

d i s c r e t e - t i m e F o u r i e r t r a n s f o r m , 5 . 6 ( 1 8 1 )

d i s c r e t e - t i m e s i n c f u n c t i o n , 1 8 5

D i s c r e t e - T i m e S y s t e m s , 5 . 1 1 ( 1 9 5 ) ,

5 . 1 2 ( 1 9 6 ) , 5 . 1 3 ( 1 9 9 )

d i s c r e t e - v a l u e d , 1 7 3

d o m a i n , 2 7 3




I N D E X 3 0 7

D o p p l e r , 1 6 2

d o u b l e p r e c i s i o n o a t i n g p o i n t , 5 . 2 ( 1 6 9 )

d o u b l e - b i t , 6 . 2 9 ( 2 6 6 )

D S P , 5 . 1 ( 1 6 9 ) , 5 . 6 ( 1 8 1 ) , 5 . 1 0 ( 1 9 1 ) ,

5 . 1 1 ( 1 9 5 ) , 5 . 1 2 ( 1 9 6 ) , 5 . 1 4 ( 2 0 0 ) ,

5 . 1 5 ( 2 0 4 ) , 5 . 1 6 ( 2 0 7 )

E e c i e n c y , 6 . 3 0 ( 2 6 8 ) , 2 7 0

e l e c 2 4 1 p r o b l e m s , 5 . 1 7 ( 2 0 8 )

e l e c t r i c a l , 2 7 2

e l e c t r i c a l e n g i n e e r i n g , 1 . 1 ( 1 )

e l e c t r o n , 3 . 1 ( 3 9 )

e l e c t r o n i c c i r c u i t s , 7 7

e l e c t r o n i c s , 3 . 1 7 ( 7 7 ) , 3 . 1 9 ( 8 0 )

e l e m e n t , 3 . 1 ( 3 9 ) , 3 . 2 ( 4 0 )

e l e m e n t a l s i g n a l s , 2 . 2 ( 1 7 )

e n e r g y , 3 . 1 ( 3 9 ) , 4 0 , 3 . 1 1 ( 6 3 )

e n t r o p y , 6 . 2 0 ( 2 5 1 ) , 2 5 2 , 6 . 2 1 ( 2 5 2 )

e q u i v a l e n t c i r c u i t , 5 3 , 3 . 1 2 ( 6 4 )

E q u i v a l e n t C i r c u i t s , 3 . 7 ( 5 3 )

e r r o r , 6 . 2 9 ( 2 6 6 ) , 6 . 3 0 ( 2 6 8 )

e r r o r c o r r e c t i n g c o d e , 6 . 2 9 ( 2 6 6 ) , 6 . 3 0 ( 2 6 8 )

e r r o r c o r r e c t i n g c o d e s , 6 . 2 5 ( 2 5 9 ) ,

6 . 2 6 ( 2 6 1 ) , 6 . 2 7 ( 2 6 2 )

e r r o r c o r r e c t i o n , 6 . 2 5 ( 2 5 9 ) , 6 . 2 6 ( 2 6 1 ) ,

6 . 2 7 ( 2 6 2 ) , 6 . 2 8 ( 2 6 4 ) , 6 . 3 1 ( 2 6 9 )

e r r o r p r o b a b i l i t y , 6 . 1 9 ( 2 5 0 )

e r r o r - c o r r e c t i n g c o d e , 6 . 3 1 ( 2 6 9 )

e r r o r - c o r r e c t i n g c o d e s , 6 . 2 8 ( 2 6 4 )

e t h e r n e t , 6 . 3 6 ( 2 7 4 )

E u l e r , 2 . 2 ( 1 7 ) , 4 . 3 ( 1 2 4 )

E u l e r r e l a t i o n s , 4 . 2 ( 1 1 9 )

E u l e r ' s r e l a t i o n , 2 . 2 ( 1 7 )

E u l e r ' s r e l a t i o n s , 1 5

e x p o n e n t i a l , 2 . 4 ( 2 2 ) , 3 . 9 ( 5 9 )

F f a r a d , 3 . 2 ( 4 0 )

F a r a d a y , 3 . 2 ( 4 0 )

f a s t F o u r i e r t r a n s f o r m , 5 . 9 ( 1 8 9 ) , 5 . 1 5 ( 2 0 4 )

f e e d b a c k , 2 . 5 ( 2 5 )

F F T , 5 . 9 ( 1 8 9 ) , 5 . 1 5 ( 2 0 4 )

l t e r , 6 9

l t e r i n g , 4 . 7 ( 1 3 5 ) , 5 . 1 4 ( 2 0 0 ) , 5 . 1 5 ( 2 0 4 ) ,

5 . 1 6 ( 2 0 7 )

F I R , 1 9 9

x e d , 2 7 3

x e d r a t e , 2 5 4

F l e x i b i l i t y , 2 7 0

o a t i n g p o i n t , 5 . 2 ( 1 6 9 )

u x , 3 . 2 ( 4 0 )

f o r m , 1 8 9

f o r m a l c i r c u i t m e t h o d , 3 . 1 5 ( 7 1 )

f o r m a n t s , 1 4 8

f o r w a r d b i a s , 3 . 2 0 ( 8 6 )

f o r w a r d b i a s i n g , 8 6

F o u r i e r c o e c i e n t s , 4 . 2 ( 1 1 9 ) , 1 2 0 , 4 . 3 ( 1 2 4 ) ,

1 2 4

F o u r i e r s e r i e s , 4 . 2 ( 1 1 9 ) , 1 1 9 , 4 . 3 ( 1 2 4 ) ,

4 . 8 ( 1 3 7 ) , 4 . 9 ( 1 4 2 )

f o u r i e r s p e c t r u m , 4 . 6 ( 1 3 3 )

F o u r i e r t r a n s f o r m , 4 . 1 ( 1 1 9 ) , 1 1 9 , 4 . 8 ( 1 3 7 ) ,

1 3 7 , 5 . 6 ( 1 8 1 ) , 5 . 7 ( 1 8 6 ) , 5 . 1 0 ( 1 9 1 ) ,

5 . 1 4 ( 2 0 0 )

f r a m e s , 1 9 3

f r e q u e n c y , 1 . 4 ( 7 ) , 7 , 2 . 2 ( 1 7 ) , 4 . 3 ( 1 2 4 ) ,

6 . 4 ( 2 3 1 )

f r e q u e n c y a l l o c a t i o n c h a r t , 7 . 3 ( 3 0 2 ) , 3 0 2

f r e q u e n c y d o m a i n , 3 . 1 0 ( 6 0 ) , 6 1 , 4 . 1 ( 1 1 9 ) ,

5 . 1 3 ( 1 9 9 ) , 5 . 1 5 ( 2 0 4 )

f r e q u e n c y r e s p o n s e , 6 6 , 5 . 1 3 ( 1 9 9 )

f r e q u e n c y s h i f t k e y i n g , 6 . 1 5 ( 2 4 4 )

f r e q u e n c y - s h i f t k e y i n g , 2 4 4

F S K , 6 . 1 5 ( 2 4 4 ) , 6 . 1 9 ( 2 5 0 )

f u n c t i o n a l , 2 5

f u n d a m e n t a l a s s u m p t i o n , 4 2

f u n d a m e n t a l f r e q u e n c y , 1 2 0 , 1 4 7

f u n d a m e n t a l m o d e l o f c o m m u n i c a t i o n ,

6 . 1 9 ( 2 5 0 ) , 6 . 3 3 ( 2 7 1 )

F u n d a m e n t a l M o d e l o f D i g i t a l

C o m m u n i c a t i o n , 2 5 9 , 6 . 2 5 ( 2 5 9 )

f u n d a m e n t a l m o d e l o f s p e e c h p r o d u c t i o n , 1 4 9

G g a i n , 2 . 6 ( 2 7 ) , 2 7

g a t e w a y , 6 . 3 5 ( 2 7 3 )

g a t e w a y s , 2 7 3

G a u s s , 4 . 3 ( 1 2 4 )

g e n e r a t o r m a t r i x , 6 . 2 7 ( 2 6 2 ) , 2 6 2 , 6 . 2 9 ( 2 6 6 )

g e o m e t r i c s e r i e s , 1 8 2

g e o s y n c h r o n o u s o r b i t s , 6 . 7 ( 2 3 4 ) , 2 3 4

G i b b ' s p h e n o m e n o n , 1 3 3

g r o u n d , 2 2 7

H h a l f w a v e r e c t i e d s i n u s o i d , 4 . 4 ( 1 2 6 )

h a l f - w a v e r e c t i e r , 8 8

H a m m i n g , 6 . 2 9 ( 2 6 6 )

H a m m i n g c o d e , 6 . 2 9 ( 2 6 6 )

H a m m i n g c o d e s , 2 6 7

H a m m i n g d i s t a n c e , 6 . 2 7 ( 2 6 2 ) , 2 6 2

H a n n i n g w i n d o w , 5 . 1 0 ( 1 9 1 ) , 1 9 3

h a r m o n i c a l l y , 1 2 0

H e a v i s i d e , 6 . 6 ( 2 3 3 )

H e i n r i c h H e r t z , 1 . 1 ( 1 )

H e n r y , 3 . 2 ( 4 0 )

h i d d e n - o n e s n o t a t i o n , 1 7 2




3 0 8

I N D E X

h i s t o r y o f e l e c t r i c a l e n g i n e e r i n g , 1 . 1 ( 1 )

h o l e , 3 . 1 ( 3 9 )

h o l e s , 3 9

H u m a n , 6 . 2 2 ( 2 5 4 ) , 6 . 2 3 ( 2 5 6 )

H u m a n C o d e , 6 . 2 2 ( 2 5 4 ) , 6 . 2 3 ( 2 5 6 )

H u m a n s o u r c e c o d i n g a l g o r i t h m , 6 . 2 2 ( 2 5 4 ) ,

2 5 4

I i , 2 . 2 ( 1 7 )

I I R , 1 9 7

i m a g i n a r y , 2 . 2 ( 1 7 )

i m a g i n a r y n u m b e r , 2 . 1 ( 1 3 ) , 1 3

i m a g i n a r y p a r t , 2 . 1 ( 1 3 ) , 1 4

i m p e d a n c e , 5 8 , 3 . 9 ( 5 9 ) , 5 9 , 3 . 1 0 ( 6 0 ) ,

3 . 1 1 ( 6 3 )

i n d u c t o r , 3 . 2 ( 4 0 ) , 3 . 8 ( 5 8 )

i n f o r m a t i o n , 1 . 1 ( 1 ) , 1 , 1 . 2 ( 2 )

i n f o r m a t i o n c o m m u n i c a t i o n , 6 . 1 ( 2 2 5 ) ,

6 . 5 ( 2 3 2 ) , 6 . 6 ( 2 3 3 ) , 6 . 7 ( 2 3 4 ) , 6 . 8 ( 2 3 4 ) ,

6 . 9 ( 2 3 5 ) , 6 . 1 0 ( 2 3 6 ) , 6 . 1 1 ( 2 3 7 ) ,

6 . 1 2 ( 2 3 9 ) , 6 . 1 3 ( 2 4 0 ) , 6 . 1 4 ( 2 4 1 ) ,

6 . 1 5 ( 2 4 4 ) , 6 . 1 6 ( 2 4 5 ) , 6 . 1 7 ( 2 4 7 ) ,

6 . 1 8 ( 2 4 9 ) , 6 . 2 0 ( 2 5 1 ) , 6 . 2 1 ( 2 5 2 ) ,

6 . 2 2 ( 2 5 4 ) , 6 . 2 3 ( 2 5 6 ) , 6 . 2 5 ( 2 5 9 ) ,

6 . 2 6 ( 2 6 1 ) , 6 . 2 7 ( 2 6 2 ) , 6 . 2 8 ( 2 6 4 ) ,

6 . 2 9 ( 2 6 6 ) , 6 . 3 0 ( 2 6 8 ) , 6 . 3 1 ( 2 6 9 ) ,

6 . 3 2 ( 2 7 0 ) , 6 . 3 3 ( 2 7 1 ) , 6 . 3 4 ( 2 7 2 ) ,

6 . 3 5 ( 2 7 3 ) , 6 . 3 6 ( 2 7 4 )

i n f o r m a t i o n t h e o r y , 1 . 1 ( 1 )

i n i t i a l c o n d i t i o n s , 1 9 6

i n p u t , 2 . 5 ( 2 5 )

i n p u t r e s i s t a n c e , 8 0

i n p u t - o u t p u t r e l a t i o n s h i p , 3 . 6 ( 4 8 ) , 4 8

i n s t a n t a n e o u s p o w e r , 4 0

i n t e g r a t e d c i r c u i t , 3 . 1 7 ( 7 7 )

i n t e g r a t o r , 2 . 6 ( 2 7 )

i n t e r f e r e n c e , 6 . 8 ( 2 3 4 ) , 2 3 4

i n t e r n e t , 6 . 3 4 ( 2 7 2 ) , 6 . 3 7 ( 2 7 6 )

i n t e r n e t p r o t o c o l a d d r e s s , 6 . 3 5 ( 2 7 3 )

i n v e r s e F o u r i e r t r a n s f o r m , 4 . 8 ( 1 3 7 )

i n v e r t i n g a m p l i e r , 8 1

i o n o s p h e r e , 6 . 6 ( 2 3 3 )

I P a d d r e s s , 6 . 3 5 ( 2 7 3 ) , 2 7 3

J j , 2 . 2 ( 1 7 )

j a m , 1 6 4

J a m e s M a x w e l l , 1 . 1 ( 1 )

j o u l e s , 4 0

K K C L , 4 6 , 3 . 1 5 ( 7 1 ) , 3 . 1 6 ( 7 6 )

K i r c h h o ' s L a w s , 4 5

K i r c h o , 3 . 4 ( 4 3 ) , 3 . 1 5 ( 7 1 )

K V L , 4 6 , 3 . 1 5 ( 7 1 ) , 3 . 1 6 ( 7 6 )

L L A N , 6 . 3 5 ( 2 7 3 )

l e a k a g e , 8 6

l e a k a g e c u r r e n t , 3 . 2 0 ( 8 6 )

l i n e - o f - s i g h t , 6 . 5 ( 2 3 2 ) , 2 3 3

l i n e a r , 3 . 2 ( 4 0 ) , 4 0 , 5 . 1 4 ( 2 0 0 ) , 2 2 6

l i n e a r c i r c u i t , 4 . 7 ( 1 3 5 )

l i n e a r c o d e s , 6 . 2 7 ( 2 6 2 ) , 2 6 2

l i n e a r p h a s e s h i f t , 1 2 1

l i n e a r s y s t e m s , 2 . 6 ( 2 7 )

l o a d , 3 . 6 ( 4 8 ) , 5 1

l o c a l a r e a n e t w o r k , 6 . 3 5 ( 2 7 3 )

L o c a l a r e a n e t w o r k s , 2 7 3

l o g a r i t h m i c a m p l i e r , 8 8

l o g a r i t h m i c a l l y , 2 9 9

l o n g - d i s t a n c e , 6 . 5 ( 2 3 2 )

l o n g - d i s t a n c e c o m m u n i c a t i o n , 6 . 7 ( 2 3 4 )

l o n g - d i s t a n c e t r a n s m i s s i o n , 6 . 7 ( 2 3 4 )

l o s s l e s s , 2 5 4

l o s s y , 2 5 4

l o t t e r y , 7 . 2 ( 3 0 1 )

l o w p a s s l t e r , 6 9 , 4 . 7 ( 1 3 5 )

M m a g n i t u d e , 1 5

m a g n i t u d e o f c o m p l e x n u m b e r , 2 . 1 ( 1 3 )

M a r c o n i , 6 . 6 ( 2 3 3 )

m a t c h e d l t e r , 6 . 1 6 ( 2 4 5 ) , 2 4 6

M a x w e l l ' s e q u a t i o n s , 6 . 2 ( 2 2 6 ) , 2 2 6

M a y e r - N o r t o n , 3 . 7 ( 5 3 )

M a y e r - N o r t o n e q u i v a l e n t , 5 6

m e a n - s q u a r e e q u a l i t y , 1 3 3

m e s s a g e , 6 . 3 4 ( 2 7 2 )

m e s s a g e r o u t i n g , 6 . 3 4 ( 2 7 2 )

m o d e l o f c o m m u n i c a t i o n , 1 . 3 ( 5 )

m o d e l s a n d r e a l i t y , 3 . 3 ( 4 3 )

m o d e m , 1 . 5 ( 8 )

m o d u l a t e , 8

m o d u l a t e d , 2 3 7

m o d u l a t e d c o m m u n i c a t i o n , 6 . 1 2 ( 2 3 9 )

m o d u l a t i o n , 1 . 4 ( 7 ) , 1 4 6 , 6 . 1 1 ( 2 3 7 )

M o r s e c o d e , 6 . 2 3 ( 2 5 6 )

m u l t i - l e v e l s i g n a l i n g , 2 7 0

N n a m e s e r v e r , 6 . 3 5 ( 2 7 3 )

n a m e s e r v e r s , 2 7 3

n e g a t i v e , 3 . 1 ( 3 9 )

n e r v e , 3 . 1 ( 3 9 )

n e t w o r k , 2 5 6 , 6 . 3 3 ( 2 7 1 ) , 6 . 3 6 ( 2 7 4 )

n e t w o r k a r c h i t e c t u r e , 6 . 3 5 ( 2 7 3 ) , 6 . 3 6 ( 2 7 4 )

n e t w o r k s , 2 3 3

n o d e , 3 . 4 ( 4 3 )




I N D E X 3 0 9

n o d e m e t h o d , 3 . 1 5 ( 7 1 ) , 7 1

n o d e v o l t a g e s , 7 2

n o d e s , 4 5 , 2 7 2

n o i s e , 1 4 7 , 6 . 1 ( 2 2 5 ) , 6 . 8 ( 2 3 4 ) , 2 3 5 ,

6 . 1 2 ( 2 3 9 ) , 6 . 1 7 ( 2 4 7 ) , 6 . 3 0 ( 2 6 8 )

n o i s e r e m o v a l , 2 0 6

n o i s y c h a n n e l c o d i n g t h e o r e m , 6 . 3 0 ( 2 6 8 )

n o n l i n e a r , 3 . 2 0 ( 8 6 )

N o r t o n , 3 . 7 ( 5 3 ) , 3 . 1 2 ( 6 4 )

n u m b e r s o n a c o m p u t e r , 5 . 2 ( 1 6 9 )

N y q u i s t f r e q u e n c y , 1 7 6 , 5 . 6 ( 1 8 1 )

O o h m , 3 . 2 ( 4 0 )

O l i v e r H e a v i s i d e , 1 . 1 ( 1 )

o p - a m p , 3 . 1 7 ( 7 7 ) , 7 7 , 3 . 1 9 ( 8 0 )

o p e n c i r c u i t , 3 . 2 ( 4 0 ) , 4 1

o p e r a t i o n a l a m p l i e r , 3 . 1 7 ( 7 7 ) , 7 7 , 3 . 1 9 ( 8 0 )

o r t h o g o n a l i t y , 4 . 2 ( 1 1 9 ) , 4 . 3 ( 1 2 4 ) , 1 2 4

o u t p u t , 2 . 5 ( 2 5 )

o u t p u t r e s i s t a n c e , 8 0

o u t p u t s p e c t r u m , 4 . 9 ( 1 4 2 )

P p a c k e t , 6 . 3 4 ( 2 7 2 ) , 6 . 3 6 ( 2 7 4 )

p a c k e t s i z e , 6 . 3 6 ( 2 7 4 )

p a c k e t - s w i t c h e d , 6 . 3 4 ( 2 7 2 ) , 2 7 3

p a c k e t s , 2 7 2

p a r a l l e l , 2 . 5 ( 2 5 ) , 3 . 6 ( 4 8 ) , 4 9 , 5 1

p a r i t y , 6 . 2 9 ( 2 6 6 )

p a r i t y c h e c k , 6 . 2 9 ( 2 6 6 )

p a r i t y c h e c k m a t r i x , 2 6 4

P a r s e v a l ' s t h e o r e m , 4 . 2 ( 1 1 9 ) , 1 2 2 , 4 . 8 ( 1 3 7 ) ,

1 3 9 , 5 . 6 ( 1 8 1 )

p a s s i v e c i r c u i t s , 7 8

P e r f o r m a n c e , 2 7 0

p e r i o d , 1 9

p e r i o d i c s i g n a l , 4 . 2 ( 1 1 9 )

p e r m u t a t i o n , 7 . 2 ( 3 0 1 )

p e r m u t a t i o n s , 3 0 1

p h a s e , 1 . 4 ( 7 ) , 7 , 2 . 2 ( 1 7 )

p h a s e m o d u l a t e s , 2 7 9

p h a s o r , 2 . 2 ( 1 7 ) , 1 7

p h y s i c a l , 3 . 1 ( 3 9 )

p i t c h f r e q u e n c y , 1 4 7

p i t c h l i n e s , 1 5 0

p o i n t t o p o i n t , 6 . 3 3 ( 2 7 1 )

p o i n t t o p o i n t c o m m u n i c a t i o n , 6 . 3 3 ( 2 7 1 )

p o i n t - t o - p o i n t , 6 . 2 ( 2 2 6 ) , 2 2 6 , 2 7 1 ,

6 . 3 4 ( 2 7 2 )

p o i n t - t o - p o i n t c o m m u n i c a t i o n , 6 . 1 ( 2 2 5 ) , 2 2 5

p o i n t w i s e e q u a l i t y , 1 3 3

p o l a r f o r m , 2 . 1 ( 1 3 ) , 1 4 , 1 5

p o s i t i o n a l n o t a t i o n , 5 . 2 ( 1 6 9 )

p o s i t i v e , 3 . 1 ( 3 9 )

p o s t a l s e r v i c e , 6 . 3 3 ( 2 7 1 )

P o w e r , 1 , 3 . 1 ( 3 9 ) , 4 0 , 3 . 5 ( 4 6 ) , 4 6 ,

3 . 1 1 ( 6 3 ) , 3 . 1 6 ( 7 6 ) , 4 . 2 ( 1 1 9 ) , 1 2 7 ,

7 . 1 ( 2 9 9 )

p o w e r f a c t o r , 9 7 , 1 1 7

p o w e r s p e c t r u m , 1 2 8 , 6 . 8 ( 2 3 4 ) , 2 3 5

p r e - e m p h a s i s c i r c u i t , 1 1 2

p r e a m b l e , 2 4 5

p r e x , 2 5 6

p r o b a b i l i s t i c m o d e l s , 2 5 1

p r o b a b i l i t y , 7 . 2 ( 3 0 1 )

p r o b a b i l i t y o f e r r o r , 6 . 1 8 ( 2 4 9 )

p r o b l e m s , 3 . 2 1 ( 8 8 )

p r o p a g a t i n g w a v e , 2 3 0

p r o p a g a t i o n s p e e d , 2 3 0

p r o p o r t i o n a l , 1 8 8

p r o t o c o l , 6 . 3 6 ( 2 7 4 ) , 6 . 3 7 ( 2 7 6 ) , 2 7 6

p u l s e , 2 . 2 ( 1 7 ) , 4 . 2 ( 1 1 9 ) , 4 . 8 ( 1 3 7 )

Q q u a d r u p l e p r e c i s i o n o a t i n g p o i n t , 5 . 2 ( 1 6 9 )

q u a n t i z a t i o n i n t e r v a l , 5 . 4 ( 1 7 6 ) , 1 7 7

q u a n t i z e d , 1 7 3 , 5 . 4 ( 1 7 6 ) , 1 7 6

R r a n d o m a c c e s s , 6 . 3 6 ( 2 7 4 )

r a n d o m - a c c e s s , 2 7 5

r e a l , 2 . 2 ( 1 7 )

r e a l p a r t , 1 4

r e a l - v a l u e d , 2 . 4 ( 2 2 )

r e c e i v e d s i g n a l - t o - n o i s e - r a t i o , 6 . 1 2 ( 2 3 9 )

r e c e i v e r , 1 . 3 ( 5 ) , 6 . 1 6 ( 2 4 5 )

r e c t i c a t i o n , 4 . 4 ( 1 2 6 )

r e f e r e n c e , 2 9 9

r e f e r e n c e n o d e , 7 2

r e l a y n e t w o r k , 2 3 3

r e l a y n e t w o r k s , 6 . 5 ( 2 3 2 )

r e p e a t e r s , 2 9 2

r e p e t i t i o n c o d e , 6 . 2 5 ( 2 5 9 ) , 2 5 9

r e s i s t a n c e , 3 . 2 ( 4 0 ) , 4 1

r e s i s t i v i t y , 4 7

r e s i s t o r , 3 . 2 ( 4 0 ) , 3 . 5 ( 4 6 )

r e v e r s e b i a s , 3 . 2 0 ( 8 6 )

r e v e r s e - b i a s , 8 6

r m s , 1 . 5 ( 8 ) , 1 2 7

r o u t e , 2 7 2

r o u t i n g , 6 . 3 4 ( 2 7 2 )

S s a m p l e s , 1 7 6

s a m p l i n g , 1 8 7

s a m p l i n g i n t e r v a l , 1 7 4

S a m p l i n g T h e o r e m , 1 7 6

s a t e l l i t e , 6 . 7 ( 2 3 4 )




3 1 0

I N D E X

s a t e l l i t e c o m m u n i c a t i o n , 6 . 7 ( 2 3 4 )

s a w t o o t h , 1 6 4

s e l f - c l o c k i n g s i g n a l i n g , 6 . 1 6 ( 2 4 5 ) , 2 4 5

s e l f - s y n c h r o n i z a t i o n , 6 . 2 3 ( 2 5 6 )

s e q u e n c e s , 2 . 4 ( 2 2 )

s e r i e s , 3 . 6 ( 4 8 ) , 4 8

S h a n n o n , 1 . 3 ( 5 ) , 6 . 1 ( 2 2 5 ) , 6 . 2 0 ( 2 5 1 ) ,

6 . 2 1 ( 2 5 2 ) , 6 . 3 0 ( 2 6 8 ) , 6 . 3 1 ( 2 6 9 )

S h a n n o n s a m p l i n g f r e q u e n c y , 1 7 6

s h i f t - i n v a r i a n t , 1 9 6 , 5 . 1 4 ( 2 0 0 )

s h i f t - i n v a r i a n t s y s t e m s , 5 . 1 2 ( 1 9 6 )

s h o r t c i r c u i t , 4 1

S i e m e n s , 3 . 2 ( 4 0 )

s i g n b i t , 5 . 2 ( 1 6 9 ) , 1 7 1

s i g n a l , 1 . 2 ( 2 ) , 2 , 1 . 3 ( 5 ) , 2 . 5 ( 2 5 )

s i g n a l d e c o m p o s i t i o n , 2 2

s i g n a l s e t , 2 4 0 , 6 . 1 4 ( 2 4 1 ) , 6 . 1 7 ( 2 4 7 ) ,

6 . 1 9 ( 2 5 0 )

s i g n a l s p e c t r u m , 4 . 4 ( 1 2 6 )

s i g n a l - t o - n o i s e , 5 . 4 ( 1 7 6 ) , 1 7 8

s i g n a l - t o - n o i s e r a t i o , 6 . 1 0 ( 2 3 6 ) , 2 3 7 ,

6 . 3 1 ( 2 6 9 )

s i g n a l - t o - n o i s e - r a t i o , 6 . 1 2 ( 2 3 9 )

s i g n a l - t o - n o i s e - r a t i o n , 6 . 1 8 ( 2 4 9 ) , 6 . 2 7 ( 2 6 2 )

s i g n a l s , 1 , 2 . 4 ( 2 2 ) , 3 . 2 1 ( 8 8 )

s i m p l e b i n a r y c o d e , 2 5 3

s i n c , 1 3 8

s i n e , 1 . 4 ( 7 ) , 2 . 2 ( 1 7 ) , 2 . 4 ( 2 2 )

s i n g l e - b i t , 6 . 2 9 ( 2 6 6 )

s i n k , 1 . 3 ( 5 ) , 6 , 7

s i n u s o i d , 1 . 4 ( 7 ) , 7 , 2 . 2 ( 1 7 ) , 2 . 4 ( 2 2 ) ,

4 . 1 ( 1 1 9 ) , 4 . 3 ( 1 2 4 )

S I R , 6 . 9 ( 2 3 5 )

S N R , 6 . 9 ( 2 3 5 ) , 6 . 1 0 ( 2 3 6 ) , 6 . 1 2 ( 2 3 9 ) ,

6 . 1 8 ( 2 4 9 ) , 6 . 2 7 ( 2 6 2 ) , 6 . 3 1 ( 2 6 9 )

s o u r c e , 1 . 3 ( 5 ) , 6 , 2 . 6 ( 2 7 ) , 3 . 2 ( 4 0 )

s o u r c e c o d i n g t h e o r e m , 6 . 2 1 ( 2 5 2 ) , 2 5 3 ,

6 . 2 2 ( 2 5 4 )

s p a c e c o n s t a n t , 2 3 0

s p e c t r o g r a m s , 5 . 1 0 ( 1 9 1 )

s p e c t r u m , 4 . 1 ( 1 1 9 ) , 1 1 9 , 4 . 2 ( 1 1 9 ) , 1 2 0 , 1 2 6

s p e e c h m o d e l , 4 . 1 0 ( 1 4 5 )

s q u a r e w a v e , 2 . 2 ( 1 7 ) , 4 . 2 ( 1 1 9 ) , 4 . 3 ( 1 2 4 )

s t a n d a r d f e e d b a c k c o n g u r a t i o n , 7 9

S t e i n m e t z , 2 . 2 ( 1 7 )

s u p e r p o s i t i o n , 2 . 3 ( 2 2 ) , 4 . 1 ( 1 1 9 ) , 5 . 1 2 ( 1 9 6 )

S u p e r p o s i t i o n P r i n c i p l e , 9 0

s y m b o l i c - v a l u e d s i g n a l s , 2 . 4 ( 2 2 )

s y n c h r o n i z a t i o n , 6 . 1 6 ( 2 4 5 )

s y n c h r o n i z e , 2 4 5

s y s t e m , 6

s y s t e m t h e o r y , 2 . 5 ( 2 5 )

s y s t e m s , 2 . 4 ( 2 2 )

T t e l e g r a p h , 6 . 3 3 ( 2 7 1 )

t e l e p h o n e , 6 . 3 3 ( 2 7 1 )

t e t h e r l e s s n e t w o r k i n g , 2 2 6

t h e m e s o f e l e c t r i c a l e n g i n e e r i n g , 1 . 1 ( 1 )

T h e v e n i n , 3 . 7 ( 5 3 ) , 3 . 1 2 ( 6 4 )

T h é v e n i n e q u i v a l e n t c i r c u i t , 5 5

t i m e c o n s t a n t , 2 . 2 ( 1 7 ) , 2 0 , 1 4 3

t i m e d e l a y , 2 . 6 ( 2 7 )

t i m e d o m a i n , 3 . 1 0 ( 6 0 ) , 6 0 , 5 . 1 2 ( 1 9 6 )

t i m e i n v a r i a n t , 4 . 9 ( 1 4 2 )

t i m e r e v e r s a l , 2 . 6 ( 2 7 )

t i m e - d o m a i n m u l t i p l e x i n g , 6 . 3 3 ( 2 7 1 ) , 2 7 2

t i m e - i n v a r i a n t , 2 . 6 ( 2 7 )

t o t a l h a r m o n i c d i s t o r t i o n , 1 2 8

t r a n s a t l a n t i c c o m m u n i c a t i o n , 6 . 6 ( 2 3 3 )

t r a n s c e i v e r , 6 . 3 6 ( 2 7 4 ) , 2 7 4

t r a n s f e r f u n c t i o n , 3 . 1 3 ( 6 6 ) , 6 6 , 3 . 1 4 ( 6 9 ) ,

5 . 1 3 ( 1 9 9 ) , 5 . 1 4 ( 2 0 0 )

t r a n s f o r m s , 1 3 9

t r a n s i t i o n d i a g r a m s , 6 . 1 9 ( 2 5 0 ) , 2 5 1

t r a n s m i s s i o n , 6 . 5 ( 2 3 2 ) , 6 . 6 ( 2 3 3 )

t r a n s m i s s i o n b a n d w i d t h , 6 . 1 4 ( 2 4 1 ) ,

6 . 1 9 ( 2 5 0 )

t r a n s m i s s i o n e r r o r , 6 . 1 7 ( 2 4 7 )

t r a n s m i s s i o n l i n e , 6 . 3 ( 2 2 6 )

t r a n s m i s s i o n l i n e e q u a t i o n s , 2 2 9

t r a n s m i s s i o n l i n e s , 2 2 7

t r a n s m i t t e r , 1 . 3 ( 5 ) , 6

t w i s t e d p a i r , 6 . 3 ( 2 2 6 ) , 2 2 7

U u n c o u n t a b l y i n n i t e , 2 0 2

u n i t s a m p l e , 2 . 4 ( 2 2 ) , 2 3 , 1 8 0 , 1 8 0

u n i t s t e p , 2 . 2 ( 1 7 )

u n i t - s a m p l e r e s p o n s e , 2 0 1

V v o c a l t r a c t , 4 . 1 0 ( 1 4 5 ) , 1 4 7

V o l t a , 3 . 1 ( 3 9 )

v o l t a g e , 3 . 1 ( 3 9 ) , 3 9 , 3 . 2 ( 4 0 )

v o l t a g e d i v i d e r , 3 . 6 ( 4 8 ) , 4 8

v o l t a g e g a i n , 8 0

W W A N , 6 . 3 5 ( 2 7 3 )

w a t t s , 4 0

w a v e l e n g t h , 2 3 0 , 6 . 4 ( 2 3 1 )

w h i t e n o i s e , 6 . 8 ( 2 3 4 ) , 2 3 5 , 6 . 3 1 ( 2 6 9 )

w i d e a r e a n e t w o r k , 6 . 3 5 ( 2 7 3 )

w i d e a r e a n e t w o r k s , 2 7 3

w i n d o w , 1 9 3

w i r e l e s s , 2 2 5 , 2 2 6 , 6 . 5 ( 2 3 2 ) , 6 . 6 ( 2 3 3 )

w i r e l e s s c h a n n e l , 6 . 2 ( 2 2 6 ) , 6 . 4 ( 2 3 1 )




I N D E X 3 1 1

w i r e l i n e , 2 2 5 , 2 2 6 , 6 . 5 ( 2 3 2 )

w i r e l i n e c h a n n e l , 6 . 2 ( 2 2 6 ) , 6 . 3 ( 2 2 6 )

W o r l d W i d e W e b , 6 . 3 7 ( 2 7 6 )

Z z e r o - p a d , 2 0 2




3 1 2

A T T R I B U T I O N S

A t t r i b u t i o n s

C o l l e c t i o n : F u n d a m e n t a l s o f E l e c t r i c a l E n g i n e e r i n g I

E d i t e d b y : D o n J o h n s o n

U R L : h t t p : / / c n x . o r g / c o n t e n t / c o l 1 0 0 4 0 / 1 . 9 /

L i c e n s e : h t t p : / / c r e a t i v e c o m m o n s . o r g / l i c e n s e s / b y / 1 . 0

M o d u l e : " T h e m e s "

B y : D o n J o h n s o n

U R L : h t t p : / / c n x . o r g / c o n t e n t / m 0 0 0 0 / 2 . 1 8 /

P a g e s : 1 - 2

C o p y r i g h t : D o n J o h n s o n


M o d u l e : " S i g n a l s R e p r e s e n t I n f o r m a t i o n "



P a g e s : 2 - 5



M o d u l e : " S t r u c t u r e o f C o m m u n i c a t i o n S y s t e m s "



P a g e s : 5 - 7



M o d u l e : " T h e F u n d a m e n t a l S i g n a l "



P a g e s : 7 - 8



M o d u l e : " I n t r o d u c t i o n P r o b l e m s "


U R L : h t t p : / / c n x . o r g / c o n t e n t / m 1 0 3 5 3 / 2 . 1 8 /

P a g e s : 8 - 1 0


L i c e n s e : h t t p : / / c r e a t i v e c o m m o n s . o r g / l i c e n s e s / b y / 3 . 0 /

M o d u l e : " C o m p l e x N u m b e r s "



P a g e s : 1 3 - 1 7






A T T R I B U T I O N S 3 1 3

M o d u l e : " E l e m e n t a l S i g n a l s "



P a g e s : 1 7 - 2 1



M o d u l e : " S i g n a l D e c o m p o s i t i o n "



P a g e : 2 2



M o d u l e : " D i s c r e t e - T i m e S i g n a l s "



P a g e s : 2 2 - 2 4



M o d u l e : " I n t r o d u c t i o n t o S y s t e m s "



P a g e s : 2 5 - 2 7



M o d u l e : " S i m p l e S y s t e m s "



P a g e s : 2 7 - 3 0



M o d u l e : " S i g n a l s a n d S y s t e m s P r o b l e m s "



P a g e s : 3 0 - 3 6



M o d u l e : " V o l t a g e , C u r r e n t , a n d G e n e r i c C i r c u i t E l e m e n t s "



P a g e s : 3 9 - 4 0



M o d u l e : " I d e a l C i r c u i t E l e m e n t s "



P a g e s : 4 0 - 4 3






3 1 4


M o d u l e : " I d e a l a n d R e a l - W o r l d C i r c u i t E l e m e n t s "


U R L : h t t p : / / c n x . o r g / c o n t e n t / m 0 0 1 3 / 2 . 9 /

P a g e : 4 3



M o d u l e : " E l e c t r i c C i r c u i t s a n d I n t e r c o n n e c t i o n L a w s "



P a g e s : 4 3 - 4 6



M o d u l e : " P o w e r D i s s i p a t i o n i n R e s i s t o r C i r c u i t s "


U R L : h t t p : / / c n x . o r g / c o n t e n t / m 1 7 3 0 5 / 1 . 7 /

P a g e s : 4 6 - 4 7



M o d u l e : " S e r i e s a n d P a r a l l e l C i r c u i t s "



P a g e s : 4 8 - 5 3



M o d u l e : " E q u i v a l e n t C i r c u i t s : R e s i s t o r s a n d S o u r c e s "



P a g e s : 5 3 - 5 8



M o d u l e : " C i r c u i t s w i t h C a p a c i t o r s a n d I n d u c t o r s "



P a g e : 5 8



M o d u l e : " T h e I m p e d a n c e C o n c e p t "



P a g e s : 5 9 - 6 0



M o d u l e : " T i m e a n d F r e q u e n c y D o m a i n s "



P a g e s : 6 0 - 6 3







M o d u l e : " P o w e r i n t h e F r e q u e n c y D o m a i n "



P a g e s : 6 3 - 6 4



M o d u l e : " E q u i v a l e n t C i r c u i t s : I m p e d a n c e s a n d S o u r c e s "



P a g e s : 6 4 - 6 6



M o d u l e : " T r a n s f e r F u n c t i o n s "



P a g e s : 6 6 - 6 9



M o d u l e : " D e s i g n i n g T r a n s f e r F u n c t i o n s "



P a g e s : 6 9 - 7 1



M o d u l e : " F o r m a l C i r c u i t M e t h o d s : N o d e M e t h o d "



P a g e s : 7 1 - 7 6



M o d u l e : " P o w e r C o n s e r v a t i o n i n C i r c u i t s "



P a g e s : 7 6 - 7 7



M o d u l e : " E l e c t r o n i c s "



P a g e : 7 7



M o d u l e : " D e p e n d e n t S o u r c e s "



P a g e s : 7 7 - 7 9






3 1 6


M o d u l e : " O p e r a t i o n a l A m p l i e r s "



P a g e s : 8 0 - 8 5



M o d u l e : " T h e D i o d e "



P a g e s : 8 6 - 8 8



M o d u l e : " A n a l o g S i g n a l P r o c e s s i n g P r o b l e m s "



P a g e s : 8 8 - 1 1 5



M o d u l e : " I n t r o d u c t i o n t o t h e F r e q u e n c y D o m a i n "



P a g e : 1 1 9



M o d u l e : " C o m p l e x F o u r i e r S e r i e s "



P a g e s : 1 1 9 - 1 2 4



M o d u l e : " C l a s s i c F o u r i e r S e r i e s "



P a g e s : 1 2 4 - 1 2 6



M o d u l e : " A S i g n a l ' s S p e c t r u m "



P a g e s : 1 2 6 - 1 2 8



M o d u l e : " F o u r i e r S e r i e s A p p r o x i m a t i o n o f S i g n a l s "



P a g e s : 1 2 8 - 1 3 3







M o d u l e : " E n c o d i n g I n f o r m a t i o n i n t h e F r e q u e n c y D o m a i n "



P a g e s : 1 3 3 - 1 3 5



M o d u l e : " F i l t e r i n g P e r i o d i c S i g n a l s "



P a g e s : 1 3 5 - 1 3 7



M o d u l e : " D e r i v a t i o n o f t h e F o u r i e r T r a n s f o r m "



P a g e s : 1 3 7 - 1 4 2



M o d u l e : " L i n e a r T i m e I n v a r i a n t S y s t e m s "



P a g e s : 1 4 2 - 1 4 4



M o d u l e : " M o d e l i n g t h e S p e e c h S i g n a l "



P a g e s : 1 4 5 - 1 5 2



M o d u l e : " F r e q u e n c y D o m a i n P r o b l e m s "



P a g e s : 1 5 2 - 1 6 6



M o d u l e : " I n t r o d u c t i o n t o D i g i t a l S i g n a l P r o c e s s i n g "



P a g e : 1 6 9



M o d u l e : " I n t r o d u c t i o n t o C o m p u t e r O r g a n i z a t i o n "



P a g e s : 1 6 9 - 1 7 3






3 1 8


M o d u l e : " T h e S a m p l i n g T h e o r e m "



P a g e s : 1 7 3 - 1 7 6



M o d u l e : " A m p l i t u d e Q u a n t i z a t i o n "



P a g e s : 1 7 6 - 1 7 8



M o d u l e : " D i s c r e t e - T i m e S i g n a l s a n d S y s t e m s "



P a g e s : 1 7 9 - 1 8 1



M o d u l e : " D i s c r e t e - T i m e F o u r i e r T r a n s f o r m ( D T F T ) "



P a g e s : 1 8 1 - 1 8 6



M o d u l e : " D i s c r e t e F o u r i e r T r a n s f o r m ( D F T ) "

U s e d h e r e a s : " D i s c r e t e F o u r i e r T r a n s f o r m s ( D F T ) "



P a g e s : 1 8 6 - 1 8 8



M o d u l e : " D F T : C o m p u t a t i o n a l C o m p l e x i t y "



P a g e s : 1 8 8 - 1 8 9



M o d u l e : " F a s t F o u r i e r T r a n s f o r m ( F F T ) "



P a g e s : 1 8 9 - 1 9 1







M o d u l e : " S p e c t r o g r a m s "



P a g e s : 1 9 1 - 1 9 5



M o d u l e : " D i s c r e t e - T i m e S y s t e m s "



P a g e : 1 9 5



M o d u l e : " D i s c r e t e - T i m e S y s t e m s i n t h e T i m e - D o m a i n "



P a g e s : 1 9 6 - 1 9 9



M o d u l e : " D i s c r e t e - T i m e S y s t e m s i n t h e F r e q u e n c y D o m a i n "



P a g e s : 1 9 9 - 2 0 0



M o d u l e : " F i l t e r i n g i n t h e F r e q u e n c y D o m a i n "



P a g e s : 2 0 0 - 2 0 4



M o d u l e : " E c i e n c y o f F r e q u e n c y - D o m a i n F i l t e r i n g "



P a g e s : 2 0 4 - 2 0 7



M o d u l e : " D i s c r e t e - T i m e F i l t e r i n g o f A n a l o g S i g n a l s "



P a g e s : 2 0 7 - 2 0 8



M o d u l e : " D i g i t a l S i g n a l P r o c e s s i n g P r o b l e m s "



P a g e s : 2 0 8 - 2 2 0






3 2 0


M o d u l e : " I n f o r m a t i o n C o m m u n i c a t i o n "



P a g e : 2 2 5



M o d u l e : " T y p e s o f C o m m u n i c a t i o n C h a n n e l s "



P a g e : 2 2 6



M o d u l e : " W i r e l i n e C h a n n e l s "



P a g e s : 2 2 6 - 2 3 1



M o d u l e : " W i r e l e s s C h a n n e l s "



P a g e s : 2 3 1 - 2 3 2



M o d u l e : " L i n e - o f - S i g h t T r a n s m i s s i o n "



P a g e s : 2 3 2 - 2 3 3



M o d u l e : " T h e I o n o s p h e r e a n d C o m m u n i c a t i o n s "



P a g e s : 2 3 3 - 2 3 4



M o d u l e : " C o m m u n i c a t i o n w i t h S a t e l l i t e s "



P a g e : 2 3 4



M o d u l e : " N o i s e a n d I n t e r f e r e n c e "



P a g e s : 2 3 4 - 2 3 5







M o d u l e : " C h a n n e l M o d e l s "



P a g e s : 2 3 5 - 2 3 6



M o d u l e : " B a s e b a n d C o m m u n i c a t i o n "



P a g e s : 2 3 6 - 2 3 7



M o d u l e : " M o d u l a t e d C o m m u n i c a t i o n "



P a g e s : 2 3 7 - 2 3 8



M o d u l e : " S i g n a l - t o - N o i s e R a t i o o f a n A m p l i t u d e - M o d u l a t e d S i g n a l "



P a g e s : 2 3 9 - 2 4 0



M o d u l e : " D i g i t a l C o m m u n i c a t i o n "



P a g e s : 2 4 0 - 2 4 1



M o d u l e : " B i n a r y P h a s e S h i f t K e y i n g "



P a g e s : 2 4 1 - 2 4 4



M o d u l e : " F r e q u e n c y S h i f t K e y i n g "



P a g e s : 2 4 4 - 2 4 5



M o d u l e : " D i g i t a l C o m m u n i c a t i o n R e c e i v e r s "



P a g e s : 2 4 5 - 2 4 7






3 2 2


M o d u l e : " D i g i t a l C o m m u n i c a t i o n i n t h e P r e s e n c e o f N o i s e "



P a g e s : 2 4 7 - 2 4 9



M o d u l e : " D i g i t a l C o m m u n i c a t i o n S y s t e m P r o p e r t i e s "



P a g e s : 2 4 9 - 2 5 0



M o d u l e : " D i g i t a l C h a n n e l s "



P a g e s : 2 5 0 - 2 5 1



M o d u l e : " E n t r o p y "



P a g e s : 2 5 1 - 2 5 2



M o d u l e : " S o u r c e C o d i n g T h e o r e m "



P a g e s : 2 5 2 - 2 5 4



M o d u l e : " C o m p r e s s i o n a n d t h e H u m a n C o d e "



P a g e s : 2 5 4 - 2 5 5



M o d u l e : " S u b t l e t i e s o f S o u r c e C o d i n g "

U s e d h e r e a s : " S u b t l i e s o f C o d i n g "



P a g e s : 2 5 6 - 2 5 8







M o d u l e : " C h a n n e l C o d i n g "



P a g e : 2 5 9



M o d u l e : " R e p e t i t i o n C o d e s "



P a g e s : 2 5 9 - 2 6 1



M o d u l e : " B l o c k C h a n n e l C o d i n g "



P a g e : 2 6 1



M o d u l e : " E r r o r - C o r r e c t i n g C o d e s : H a m m i n g D i s t a n c e "



P a g e s : 2 6 2 - 2 6 4



M o d u l e : " E r r o r - C o r r e c t i n g C o d e s : C h a n n e l D e c o d i n g "



P a g e s : 2 6 4 - 2 6 5



M o d u l e : " E r r o r - C o r r e c t i n g C o d e s : H a m m i n g C o d e s "



P a g e s : 2 6 6 - 2 6 8



M o d u l e : " N o i s y C h a n n e l C o d i n g T h e o r e m "



P a g e s : 2 6 8 - 2 6 9



M o d u l e : " C a p a c i t y o f a C h a n n e l "



P a g e s : 2 6 9 - 2 7 0






3 2 4


M o d u l e : " C o m p a r i s o n o f A n a l o g a n d D i g i t a l C o m m u n i c a t i o n "



P a g e s : 2 7 0 - 2 7 1



M o d u l e : " C o m m u n i c a t i o n N e t w o r k s "



P a g e s : 2 7 1 - 2 7 2



M o d u l e : " M e s s a g e R o u t i n g "



P a g e s : 2 7 2 - 2 7 3



M o d u l e : " N e t w o r k a r c h i t e c t u r e s a n d i n t e r c o n n e c t i o n "



P a g e s : 2 7 3 - 2 7 4



M o d u l e : " E t h e r n e t "



P a g e s : 2 7 4 - 2 7 6



M o d u l e : " C o m m u n i c a t i o n P r o t o c o l s "



P a g e s : 2 7 6 - 2 7 8



M o d u l e : " I n f o r m a t i o n C o m m u n i c a t i o n P r o b l e m s "



P a g e s : 2 7 8 - 2 9 3



M o d u l e : " D e c i b e l s "



P a g e s : 2 9 9 - 3 0 0







M o d u l e : " P e r m u t a t i o n s a n d C o m b i n a t i o n s "



P a g e : 3 0 1



M o d u l e : " F r e q u e n c y A l l o c a t i o n s "



P a g e s : 3 0 2 - 3 0 4




Date post:	14-Apr-2018
Category:	Documents
Upload:	samarth-khatry
View:	220 times
Download:	0 times

Rice University; Fundamentals of EE I

Documents