m18177.pdf
TRANSCRIPT
![Page 1: m18177.pdf](https://reader034.vdocuments.us/reader034/viewer/2022052607/577cdc581a28ab9e78aa5a96/html5/thumbnails/1.jpg)
7/28/2019 m18177.pdf
http://slidepdf.com/reader/full/m18177pdf 1/6
C o n n e x i o n s m o d u l e : m 1 8 1 7 7 1
V i t e r b i D e c o d e r
∗
P e t e r G r a n t
T h i s w o r k i s p r o d u c e d b y T h e C o n n e x i o n s P r o j e c t a n d l i c e n s e d u n d e r t h e
C r e a t i v e C o m m o n s A t t r i b u t i o n L i c e n s e
†
A b s t r a c t
E x p l a i n s i n s i m p l e t e r m s t h e f u n c t i o n s o f a c o n v o l u t i o n a l e n c o d e r a n d V i t e r b i d e c o d e r
1 V i t e r b i c o n v o l u t i o n a l d e c o d e r
A c o n v o l u t i o n a l c o d e i s n o t d e c o d e d i n s h o r t b l o c k s a s i n a b l o c k c o d e . H o w e v e r , t o s i m p l i f y d e c o d i n g ,
m e s s a g e s a r e a r t i c i a l l y b r o k e n d o w n i n t o v e r y l o n g b l o c k s b y p e r i o d i c a l l y u s h i n g t h e e n c o d e r w i t h a s t r i n g
o f z e r o s , a s i n t h e e x a m p l e d i s c u s s e d h e r e .
F o r i l l u s t r a t i o n o n l y t h i s e x a m p l e h e r e u s e s a n u n r e a l i s t i c a l l y s h o r t b l o c k l e n g t h o f 5 d a t a b i t s w i t h t h e
l a s t t w o x e d a t 0 t o u s h t h e e n c o d e r ( r e m e m b e r t h a t t h i s i s v e r y i n e c i e n t a n d , i n p r a c t i c e , p r a c t i c a l
b l o c k l e n g t h s a r e v e r y m u c h l o n g e r , t y p i c a l l y 1 , 0 0 0 t o 1 0 , 0 0 0 b i t s i n l e n g t h ) .
C o n v o l u t i o n a l c o d e s a r e a l w a y s d e c o d e d u s i n g t h e V i t e r b i a l g o r i t h m a s t h i s s i m p l i e s t h e d e c o d i n g o p -
e r a t i o n . T h e a l g o r i t h m i s b a s e d o n t h e n e a r e s t n e i g h b o u r d e c o d i n g s c h e m e a n d , l i k e t h e o t h e r a l g o r i t h m s
w e h a v e l o o k e d a t , i t r e l i e s o n t h e a s s u m p t i o n t h a t t h e p r o b a b i l i t y o f t e r r o r s i s m u c h g r e a t e r t h a n t h e
p r o b a b i l i t y o f t + 1 e r r o r s a n d i t t h u s s e l e c t s o r c h o o s e s a n d r e t a i n s o n l y t h e p a t h s w h i c h h a v e f e w e r e r r o r s .
T h e d e c o d i n g p r o c e s s i s b a s e d o n t h e p r e v i o u s d e c o d i n g t r e l l i s . W e w i l l u s e t h e p r e v i o u s ½ r a t e e n c o d e r
e x a m p l e a n d a s s u m e t h a t t h e r e c e i v e d m e s s a g e i s : 1 0 1 0 0 0 1 0 1 0 , r e p r e s e n t i n g a t o t a l o f v e ( u n k n o w n )
t r a n s m i t t e d d a t a b i t s e a c h e n c o d e d i n t o v e b i t p a i r s , i . e . t o t a l o f t e n e n c o d e d d a t a b i t s . W e f u r t h e r a s s u m e
i n t h i s s i m p l i e d e x a m p l e t h a t t h e l a s t 2 b i t s o f t h e 5 d a t a i n p u t s w e r e u s h i n g z e r o s t o r e s e t t h e e n c o d e r
a n d d e c o d e r .
S t a r t i n g ( a f t e r u s h i n g ) w i t h t h e r s t r e c e i v e d b i t i n p o s i t i o n A i n t h e e n c o d e r , w e k n o w t h a t i f a 1 h a d
b e e n i n p u t , ( l o w e r p a t h ) f r o m t h e e n c o d e r g u r e t h e o u t p u t s h o u l d h a v e b e e n 1 1 a s w e m o v e d t o s t a t e C . I f
a 0 w a s i n p u t ( u p p e r p a t h ) w e s h o u l d h a v e r e c e i v e d 0 0 a n d m o v e d t o s t a t e B , s e e u p p e r p a r t o f F i g u r e 1 .
W h a t w a s a c t u a l l y r e c e i v e d w a s 1 0 , a H a m m i n g d i s t a n c e o f 1 f r o m b o t h t h e s e p o s s i b i l i t i e s , s o w e d r a w
t h a t i n t h e l o w e r p a r t o f F i g u r e 1 o n t o t h e r s t s t a g e o f o u r d e c o d i n g t r e l l i s .
∗V e r s i o n 1 . 3 : M a y 7 , 2 0 0 9 4 : 4 4 p m G M T - 5
† h t t p : / / c r e a t i v e c o m m o n s . o r g / l i c e n s e s / b y / 2 . 0 /
h t t p : / / c n x . o r g / c o n t e n t / m 1 8 1 7 7 / 1 . 3 /
![Page 2: m18177.pdf](https://reader034.vdocuments.us/reader034/viewer/2022052607/577cdc581a28ab9e78aa5a96/html5/thumbnails/2.jpg)
7/28/2019 m18177.pdf
http://slidepdf.com/reader/full/m18177pdf 2/6
C o n n e x i o n s m o d u l e : m 1 8 1 7 7 2
F i g u r e 1 : F i r s t s t a g e o f t r e l l i s a f t e r d e c o d i n g r s t t w o r e c e i v e d d a t a b i t s
I n s t e a d o f r e p o r t i n g t h e e x p e c t e d o u t p u t s w e n e x t a n n o t a t e t h e l o w e r p a r t o f F i g u r e 1 w i t h t h e s e p a r a t e
d i s t a n c e s b e t w e e n t h e r e c e i v e d d a t a a n d t h e t r e l l i s e n c o d e r o n e a c h p a t h . W e t h e n a d d t h e c u m u l a t i v e
H a m m i n g d i s t a n c e t o t h e s t a t e s ( B , C ) i n s q u a r e b r a c k e t s a b o v e t h e s t a t e s B a n d C
N o w c o n s i d e r t h e s e c o n d p a i r o f r e c e i v e d d a t a b i t s . C o n s i d e r r s t s t a t e B . A s b e f o r e , w e s h o u l d h a v e
r e c e i v e d 0 0 f o r a 0 i n p u t a n d 1 1 f o r a 1 i n p u t , s e e l e f t h a n d s i d e o f F i g u r e 2 . W h a t w e a c t u a l l y r e c e i v e d w a s
1 0 , w h i c h i s a H a m m i n g d i s t a n c e o f 1 f r o m b o t h p o s s i b i l i t i e s s o t h e r i g h t h a n d p a r t o f F i g u r e 2 i s a n n o t a t e d
w i t h t h e i n d i v i d u a l a n d c u m u l a t i v e d i s t a n c e s t o s t a t e s D a n d E .
T h e n c o n s i d e r s t a t e C . F o r a 0 i n p u t , ( u p p e r p a r t ) w e s h o u l d h a v e r e c e i v e d 0 1 , b u t w h a t w a s a c t u a l l y
r e c e i v e d w a s 1 0 , a H a m m i n g d i s t a n c e o f 2 . F o r a 1 i n p u t ( l o w e r p a t h ) w e s h o u l d h a v e r e c e i v e d 1 0 a n d t h i s
i s e x a c t l y w h a t w a s r e c e i v e d , c o r r e s p o n d i n g t o a H a m m i n g d i s t a n c e o f 0 ! A g a i n t h e r i g h t p a r t o f F i g u r e 2 i s
a n n o t a t e d w i t h t h e i n d i v i d u a l d i s t a n c e s o n t h e p a t h s a n d t h e n e w c u m u l a t i v e o r s u m m e d d i s t a n c e s t o s t a t e s
F a n d G .
h t t p : / / c n x . o r g / c o n t e n t / m 1 8 1 7 7 / 1 . 3 /
![Page 3: m18177.pdf](https://reader034.vdocuments.us/reader034/viewer/2022052607/577cdc581a28ab9e78aa5a96/html5/thumbnails/3.jpg)
7/28/2019 m18177.pdf
http://slidepdf.com/reader/full/m18177pdf 3/6
C o n n e x i o n s m o d u l e : m 1 8 1 7 7 3
F i g u r e 2 : F i r s t a n d s e c o n d s t a g e o f t h e d e c o d i n g t r e l l i s a f t e r r e c e i v i n g s e c o n d p a i r o f d a t a b i t s
W e c o n t i n u e t o b u i l d o u r d e c o d i n g t r e l l i s u n t i l i t i s c o m p l e t e a f t e r r e c e i p t o f a l l t e n d a t a b i t s , a s s h o w n
i n F i g u r e 3 .
I f w e h a v e t w o p a t h s t o a s t a t e , a s i n t h e l a t e r s t a t e s : H , I , J , K , L , M , N , P , w e w r i t e t h e s m a l l e r ( m o r e
l i k e l y ) H a m m i n g d i s t a n c e i n s q u a r e b r a c k e t s a b o v e t h e s t a t e a n d d i s c a r d t h e l a r g e r d i s t a n c e ( a s t h i s i s m u c h
l e s s l i k e l y t o r e p r e s e n t t h e c o r r e c t p a t h ) . I n o u r e x a m p l e , w e a s s u m e d t h e l a s t t w o b i t s w e r e 0 , s o w e m u s t
e x p e c t t o n i s h b a c k i n s t a t e P , w h i c h i s t h e s a m e a s t h e s t a r t i n g s t a t e A .
W e n a l l y n e e d t o n d t h e p a t h f r o m s t a t e A t o P w h i c h g i v e s t h e l o w e s t o v e r a l l H a m m i n g d i s t a n c e . W e
t h e n r e t r a c e t h e p a t h a n d r e m e m b e r t h a t t h e u p p e r p a t h f r o m a s t a t e r e p r e s e n t e d a 0 t r a n s m i t t e d a n d t h e
l o w e r p a t h r e p r e s e n t e d a 1 t r a n s m i t t e d .
h t t p : / / c n x . o r g / c o n t e n t / m 1 8 1 7 7 / 1 . 3 /
![Page 4: m18177.pdf](https://reader034.vdocuments.us/reader034/viewer/2022052607/577cdc581a28ab9e78aa5a96/html5/thumbnails/4.jpg)
7/28/2019 m18177.pdf
http://slidepdf.com/reader/full/m18177pdf 4/6
C o n n e x i o n s m o d u l e : m 1 8 1 7 7 4
F i g u r e 3 : F u l l d e c o d i n g t r e l l i s a f t e r r e c e i p t o f a l l t e n d a t a b i t s
T h e r e v e r s e d e c o d e d d a t a f o r t h i s e x a m p l e i s i n d i c a t e d b y t h e d a s h e d l i n e i n F i g u r e 3 .
L e a v i n g s t a t e s A , C , G a n d K a l w a y s i n t h e l o w e r o f t h e t w o p o s s i b l e p a t h s i m p l i e s t h a t a d a t a b i t 1 h a s
b e e n r e c e i v e d a t t h e s e s t a t e s a n d t h e r e f o r e t h i s t r a n s l a t e s t o 1 , 1 , 1 a s t h e r s t t h r e e e n c o d e d d a t a b i t s .
T h e l a s t t w o b i t s d o n ' t m a t t e r i n t h i s c a s e a s w e h a v e a s s u m e d t h e y a r e 0 , 0 a n d w e c a n r e m o v e f r o m
t h e d o c o d i n g t r e l l i s a l l t h e s t a t e s t h a t d o n ' t s u p p o r t o r c o n t r i b u t e t o t h i s s o l u t i o n .
N o t e t h a t n i s h i n g a b l o c k w i t h n - 1 z e r o i n p u t d a t a b i t s i s n o t c o m p u l s o r y . I f y o u m a k e a d e c i s i o n a f t e r
a d e l a y o f a p p r o x i m a t e l y v e t i m e s t h e c o n s t r a i n t l e n g t h n , t h i s m a k e s l i t t l e d i e r e n c e i n c o d e p e r f o r m a n c e
b u t d o e s l i m i t t h e m e m o r y c o n s u m e d b y t h e p r o c e s s t o a m o r e s e n s i b l e a m o u n t .
F i g u r e 4 s h o w s t h e p e r f o r m a n c e o f v a r i o u s B L O C K c o d e s , a l l o f r a t e ½ , w h o s e p e r f o r m a n c e i m p r o v e s a s
t h e b l o c k l e n g t h i n c r e a s e s , e v e n f o r t h e s a m e c o d i n g r a t e o f ½ .
T h e p o w e r o f t h e s e f o r w a r d e r r o r c o r r e c t i n g c o d e s ( F E C C ) i s q u a n t i e d a s t h e c o d i n g g a i n , i . e . t h e
r e d u c t i o n i n t h e r e q u i r e d
E b
N 0r a t i o o r e n e r g y r e q u i r e d t o t r a n s m i t e a c h b i t d i v i d e d b y t h e s p e c t r a l n o i s e
d e n s i t y , f o r a g i v e n b i t e r r o r r a t i o o r e r r o r p r o b a b i l i t y .
F o r e x a m p l e i n F i g u r e 4 t h e ( 3 1 , 1 6 ) c o d e h a s a c o d i n g g a i n o v e r t h e u n c o d e d c a s e o f a r o u n d 1 . 8 d B a t
a P b o f 10−5
.
h t t p : / / c n x . o r g / c o n t e n t / m 1 8 1 7 7 / 1 . 3 /
![Page 5: m18177.pdf](https://reader034.vdocuments.us/reader034/viewer/2022052607/577cdc581a28ab9e78aa5a96/html5/thumbnails/5.jpg)
7/28/2019 m18177.pdf
http://slidepdf.com/reader/full/m18177pdf 5/6
C o n n e x i o n s m o d u l e : m 1 8 1 7 7 5
F i g u r e 4 : E r r o r p e r f o r m a n c e o f 1 / 2 r a t e b l o c k c o d e r s w i t h d i e r i n g b l o c k l e n g t h s
F i g u r e 5 s h o w s f o r c o m p a r i s o n w i t h t h e b l o c k c o d e s o f F i g u r e 4 t h e p e r f o r m a n c e o f c o n v o l u t i o n a l c o d e r s .
T h e c o n v o l u t i o n a l c o d e i n i t i a l l y p r o v i d e s v e r y g o o d p e r f o r m a n c e a t m o d e s t c o n s t r a i n t l e n g t h . A s h o r t
c o n s t r a i n t l e n g t h o f n = v = 3 i s a l r e a d y s u p e r i o r t o t h e 5 1 1 b l o c k l e n g t h c o d e o f F i g u r e 4 . T h e a d d i t i o n a l
a t t r a c t i o n o f t h e c o n v o l u t i o n a l c o d e r i s i t s f u r t h e r i m p r o v e m e n t w i t h t h e i n c r e a s e i n c o n s t r a i n t l e n g t h u p t o
n = 7 o r 9 , a s s h o w n i n F i g u r e 5 .
U n f o r t u n a t e l y t h e c o d i n g a n d d e c o d i n g p r o c e s s g e t s m o r e c o m p l i c a t e d w i t h l a r g e r b l o c k / c o n s t r a i n t l e n g t h .
A s s h o w n h e r e c o n v o l u t i o n a l c o d e s w i t h V i t e r b i d e c o d i n g a r e g e n e r a l l y m o r e p o w e r f u l t h a n b l o c k c o d e s ,
e s p e c i a l l y f o r v e r y l o w e r r o r r a t e s , h e n c e t h e i r w i d e r u s e . S i n g l e c h i p c o n s t r a i n t l e n g t h 9 ( 5 1 2 s t a t e ) e n c o d e r
a n d d e c o d e r s a r e n o w w i d e l y a v a i l a b l e a s c o m m e r c i a l p r o d u c t s f r o m m a n y s e m i c o n d u c t o r v e n d o r s .
h t t p : / / c n x . o r g / c o n t e n t / m 1 8 1 7 7 / 1 . 3 /
![Page 6: m18177.pdf](https://reader034.vdocuments.us/reader034/viewer/2022052607/577cdc581a28ab9e78aa5a96/html5/thumbnails/6.jpg)
7/28/2019 m18177.pdf
http://slidepdf.com/reader/full/m18177pdf 6/6
C o n n e x i o n s m o d u l e : m 1 8 1 7 7 6
F i g u r e 5 : E r r o r r a t e p e r f o r m a n c e o f c o n v o l u t i o n a l d e c o d e r s w i t h d i e r i n g c o n s t r a i n t l e n g t h s
w a r n i n g : T h i s m o d u l e h a s b e e n c r e a t e d f r o m l e c t u r e n o t e s o r i g i n a t e d b y P M G r a n t a n d D G M
C r u i c k s h a n k w h i c h a r e p u b l i s h e d i n I A G l o v e r a n d P M G r a n t , " D i g i t a l C o m m u n i c a t i o n s " , P e a r s o n
E d u c a t i o n , 2 0 0 9 , I S B N 9 7 8 - 0 - 2 7 3 - 7 1 8 3 0 - 7 . P o w e r p o i n t s l i d e s p l u s e n d o f c h a p t e r p r o b l e m e x a m -
p l e s / s o l u t i o n s a r e a v a i l a b l e f o r i n s t r u c t o r u s e v i a p a s s w o r d a c c e s s a t h t t p : / / w w w . s e e . e d . a c . u k / ∼p m g / D I G I C O M M
h t t p : / / c n x . o r g / c o n t e n t / m 1 8 1 7 7 / 1 . 3 /