hmm tutorial 1
TRANSCRIPT
-
7/30/2019 Hmm Tutorial 1
1/9
I N T E R N A T I O N A L C O M P U T E R S C I E N C E I N S T I T U T E
I
1 9 4 7 C e n t e r S t . S u i t e 6 0 0 B e r k e l e y , C a l i f o r n i a 9 4 7 0 4 - 1 1 9 8 ( 5 1 0 ) 6 4 3 - 9 1 5 3 F A X ( 5 1 0 ) 6 4 3 - 7 6 8 4
M a r k o v M o d e l s a n d H i d d e n
M a r k o v M o d e l s : A B r i e f T u t o r i a l
E r i c F o s l e r - L u s s i e r
T R - 9 8 - 0 4 1
D e c e m b e r 1 9 9 8
A b s t r a c t
T h i s t u t o r i a l g i v e s a g e n t l e i n t r o d u c t i o n t o M a r k o v m o d e l s a n d H i d d e n M a r k o v
m o d e l s a s m a t h e m a t i c a l a b s t r a c t i o n s , a n d r e l a t e s t h e m t o t h e i r u s e i n a u t o m a t i c
s p e e c h r e c o g n i t i o n . T h i s m a t e r i a l w a s d e v e l o p e d f o r t h e F a l l 1 9 9 5 s e m e s t e r o f C S 1 8 8 :
I n t r o d u c t i o n t o A r t i c i a l I n t e l l i g e n c e a t t h e U n i v e r s i t y o f C a l i f o r n i a , B e r k e l e y . I t
i s t a r g e t e d f o r i n t r o d u c t o r y A I c o u r s e s b a s i c k n o w l e d g e o f p r o b a b i l i t y t h e o r y ( e . g .
B a y e s ' R u l e ) i s a s s u m e d . T h i s v e r s i o n i s s l i g h t l y u p d a t e d f r o m t h e o r i g i n a l , i n c l u d i n g
a f e w m i n o r e r r o r c o r r e c t i o n s , a s h o r t \ F u r t h e r R e a d i n g " s e c t i o n , a n d e x e r c i s e s t h a t
w e r e g i v e n a s a h o m e w o r k i n t h e F a l l 1 9 9 5 c l a s s .
-
7/30/2019 Hmm Tutorial 1
2/9
i i
-
7/30/2019 Hmm Tutorial 1
3/9
1 M a r k o v M o d e l s
L e t ' s t a l k a b o u t t h e w e a t h e r . H e r e i n B e r k e l e y , w e h a v e t h r e e t y p e s o f w e a t h e r : s u n n y r a i n y , a n d
f o g g y . L e t ' s a s s u m e f o r t h e m o m e n t t h a t t h e w e a t h e r l a s t s a l l d a y , i . e . i t d o e s n ' t c h a n g e f r o m r a i n y
t o s u n n y i n t h e m i d d l e o f t h e d a y .
W e a t h e r p r e d i c t i o n i s a l l a b o u t t r y i n g t o g u e s s w h a t t h e w e a t h e r w i l l b e l i k e t o m o r r o w b a s e d o n
a h i s t o r y o f o b s e r v a t i o n s o f w e a t h e r . L e t ' s a s s u m e a s i m p l i e d m o d e l o f w e a t h e r p r e d i c t i o n : w e ' l l
c o l l e c t s t a t i s t i c s o n w h a t t h e w e a t h e r w a s l i k e t o d a y b a s e d o n w h a t t h e w e a t h e r w a s l i k e y e s t e r d a y ,
t h e d a y b e f o r e , a n d s o f o r t h . W e w a n t t o c o l l e c t t h e f o l l o w i n g p r o b a b i l i t i e s :
P ( w
n
w
n 1
w
n 2
: : : w
1
) ( 1 )
U s i n g e x p r e s s i o n 1 , w e c a n g i v e p r o b a b i l i t i e s o f t y p e s o f w e a t h e r f o r t o m o r r o w a n d t h e n e x t d a y
u s i n g n d a y s o f h i s t o r y . F o r e x a m p l e , i f w e k n e w t h a t t h e w e a t h e r f o r t h e p a s t t h r e e d a y s w a s f s u n n y ,
s u n n y , f o g g y g i n c h r o n o l o g i c a l o r d e r , t h e p r o b a b i l i t y t h a t t o m o r r o w w o u l d b e r a i n y i s g i v e n b y :
P ( w
4
= R a i n y w
3
= F o g g y w
2
= S u n n y w
1
= S u n n y ) ( 2 )
H e r e ' s t h e p r o b l e m : t h e l a r g e r n i s , t h e m o r e s t a t i s t i c s w e m u s t c o l l e c t . S u p p o s e t h a t n = 5
t h e n w e m u s t c o l l e c t s t a t i s t i c s f o r 3
5
= 2 4 3 p a s t h i s t o r i e s . T h e r e f o r e , w e w i l l m a k e a s i m p l i f y i n g
a s s u m p t i o n , c a l l e d t h e M a r k o v A s s u m p t i o n
I n a s e q u e n c e f w
1
w
2
: : : w
n
g
P ( w
n
w
n 1
w
n 2
: : : w
1
) P ( w
n
w
n 1
) ( 3 )
T h i s i s c a l l e d a r s t - o r d e r M a r k o v a s s u m p t i o n , s i n c e w e s a y t h a t t h e p r o b a b i l i t y o f a n o b s e r v a t i o n
a t t i m e n o n l y d e p e n d s o n t h e o b s e r v a t i o n a t t i m e n ; 1 A s e c o n d - o r d e r M a r k o v a s s u m p t i o n w o u l d
h a v e t h e o b s e r v a t i o n a t t i m e n d e p e n d o n n ; 1 a n d n ; 2 . I n g e n e r a l , w h e n p e o p l e t a l k a b o u t
M a r k o v a s s u m p t i o n s , t h e y u s u a l l y m e a n r s t - o r d e r M a r k o v a s s u m p t i o n s I w i l l u s e t h e t w o t e r m s
i n t e r c h a n g e a b l y .
W e c a n t h e e x p r e s s t h e j o i n t p r o b a b i l i t y u s i n g t h e M a r k o v a s s u m p t i o n .
1
P ( w
1
: : : w
n
) =
n
i = 1
P ( w
i
w
i 1
) ( 4 )
S o t h i s n o w h a s a p r o f o u n d a e c t o n t h e n u m b e r o f h i s t o r i e s t h a t w e h a v e t o n d s t a t i s t i c s
f o r | w e n o w o n l y n e e d 3
2
= 9 n u m b e r s t o c h a r a c t e r i z e t h e p r o b a b i l i t i e s o f a l l o f t h e s e q u e n c e s .
T h i s a s s u m p t i o n m a y o r m a y n o t b e a v a l i d a s s u m p t i o n d e p e n d i n g o n t h e s i t u a t i o n ( i n t h e c a s e o f
w e a t h e r , i t ' s p r o b a b l y n o t v a l i d ) , b u t w e u s e t h e s e t o s i m p l i f y t h e s i t u a t i o n .
S o l e t ' s a r b i t r a r i l y p i c k s o m e n u m b e r s f o r P ( w
t o m o r r o w
w
t o d a y
) , e x p r e s s e d i n T a b l e 1 .
T o m o r r o w ' s W e a t h e r
S u n n y R a i n y F o g g y
S u n n y 0 . 8 0 . 0 5 0 . 1 5
T o d a y ' s W e a t h e r R a i n y 0 . 2 0 . 6 0 . 2
F o g g y 0 . 2 0 . 3 0 . 5
T a b l e 1 : P r o b a b i l i t i e s o f T o m o r r o w ' s w e a t h e r b a s e d o n T o d a y ' s W e a t h e r
F o r r s t - o r d e r M a r k o v m o d e l s , w e c a n u s e t h e s e p r o b a b i l i t i e s t o d r a w a p r o b a b i l i s t i c n i t e s t a t e
a u t o m a t o n . F o r t h e w e a t h e r d o m a i n , y o u w o u l d h a v e t h r e e s t a t e s ( S u n n y , R a i n y , a n d F o g g y ) , a n d
1
O n e q u e s t i o n t h a t c o m e s t o m i n d i s \ W h a t i s w
0
? " I n g e n e r a l , o n e c a n t h i n k o f w
0
a s t h e S T A R T w o r d , s o
P ( w
1
w
0
) i s t h e p r o b a b i l i t y t h a t w
1
c a n s t a r t a s e n t e n c e . W e c a n a l s o j u s t m u l t i p l y t h e p r i o r p r o b a b i l i t y o f w
1
w i t h
t h e p r o d u c t o f
n
= 2
P ( w w
1
) i t ' s j u s t a m a t t e r o f d e n i t i o n s .
1
-
7/30/2019 Hmm Tutorial 1
4/9
e v e r y d a y y o u w o u l d t r a n s i t i o n t o a ( p o s s i b l y ) n e w s t a t e b a s e d o n t h e p r o b a b i l i t i e s i n T a b l e 1 . S u c h
a n a u t o m a t o n w o u l d l o o k l i k e t h i s :
Sunny
Rainy
Foggy
0.8
0.05
0.15
0.2
0.6
0.2
0.5
0.3
0.2
1 . 1 Q u e s t i o n s :
1 . G i v e n t h a t t o d a y i s s u n n y , w h a t ' s t h e p r o b a b i l i t y t h a t t o m o r r o w i s s u n n y a n d t h e d a y a f t e r i s
r a i n y ?
W e l l , t h i s t r a n s l a t e s i n t o :
P ( w
2
= S u n n y w
3
= R a i n y w
1
= S u n n y ) = P ( w
3
= R a i n y w
2
= S u n n y w
1
= S u n n y )
P ( w
2
= S u n n y w
1
= S u n n y )
= P ( w
3
= R a i n y w
2
= S u n n y )
P ( w
2
= S u n n y w
1
= S u n n y )
= ( 0 0 5 ) ( 0 8 )
= 0 0 4
Y o u c a n a l s o t h i n k a b o u t t h i s a s m o v i n g t h r o u g h t h e a u t o m a t o n , m u l t i p l y i n g t h e p r o b a b i l i t i e s
a s y o u g o .
2 . G i v e n t h a t t o d a y i s f o g g y , w h a t ' s t h e p r o b a b i l i t y t h a t i t w i l l b e r a i n y t w o d a y s f r o m n o w ?
T h e r e a r e t h r e e w a y s t o g e t f r o m f o g g y t o d a y t o r a i n y t w o d a y s f r o m n o w : f f o g g y , f o g g y ,
r a i n y g f f o g g y , r a i n y , r a i n y g , a n d f f o g g y , s u n n y , r a i n y g . T h e r e f o r e w e h a v e t o s u m o v e r t h e s e
p a t h s :
P ( w
3
= R a i n y w
1
= F o g g y ) = P ( w
2
= F o g g y w
3
= R a i n y w
1
= F o g g y ) +
P ( w
2
= R a i n y w
3
= R a i n y w
1
= F o g g y ) +
P ( w
2
= S u n n y w
3
= R a i n y w
1
= F o g g y ) +
= P ( w
3
= R a i n y w
2
= F o g g y ) P ( w
2
= F o g g y w
1
= F o g g y ) +
P ( w
3
= R a i n y w
2
= R a i n y ) P ( w
2
= R a i n y w
1
= F o g g y ) +
P ( w
3
= R a i n y w
2
= S u n n y ) P ( w
2
= S u n n y w
1
= F o g g y )
2
-
7/30/2019 Hmm Tutorial 1
5/9
= ( 0 3 ) ( 0 5 ) + ( 0 6 ) ( 0 3 ) + ( 0 0 5 ) ( 0 2 )
= 0 3 4
N o t e t h a t y o u h a v e t o k n o w w h e r e y o u s t a r t f r o m . U s u a l l y M a r k o v m o d e l s s t a r t w i t h a n u l l s t a r t
s t a t e , a n d h a v e t r a n s i t i o n s t o o t h e r s t a t e s w i t h c e r t a i n p r o b a b i l i t i e s . I n t h e a b o v e p r o b l e m s , y o u
c a n j u s t a d d a s t a r t s t a t e w i t h a s i n g l e a r c w i t h p r o b a b i l i t y 1 t o t h e i n i t i a l s t a t e ( s u n n y i n p r o b l e m
1 , f o g g y i n p r o b l e m 2 ) .
2 H i d d e n M a r k o v M o d e l s
S o w h a t m a k e s a H i d d e n M a r k o v M o d e l ? W e l l , s u p p o s e y o u w e r e l o c k e d i n a r o o m f o r s e v e r a l d a y s ,
a n d y o u w e r e a s k e d a b o u t t h e w e a t h e r o u t s i d e . T h e o n l y p i e c e o f e v i d e n c e y o u h a v e i s w h e t h e r t h e
p e r s o n w h o c o m e s i n t o t h e r o o m c a r r y i n g y o u r d a i l y m e a l i s c a r r y i n g a n u m b r e l l a o r n o t .
L e t ' s s u p p o s e t h e f o l l o w i n g p r o b a b i l i t i e s :
P r o b a b i l i t y o f U m b r e l l a
S u n n y 0 . 1
R a i n y 0 . 8
F o g g y 0 . 3
T a b l e 2 : P r o b a b i l i t i e s o f S e e i n g a n U m b r e l l a B a s e d o n t h e W e a t h e r
R e m e m b e r , t h e e q u a t i o n f o r t h e w e a t h e r M a r k o v p r o c e s s b e f o r e y o u w e r e l o c k e d i n t h e r o o m
w a s :
P ( w
1
: : : w
n
) =
n
i = 1
P ( w
i
w
i 1
) ( 5 )
N o w w e h a v e t o f a c t o r i n t h e f a c t t h a t t h e a c t u a l w e a t h e r i s h i d d e n f r o m y o u . W e d o t h a t b y
u s i n g B a y e s ' R u l e :
P ( w
1
: : : w
n
u
1
: : : u
n
) =
P ( u
1
: : : u
n
w
1
: : : w
n
) P ( w
1
: : : w
n
)
P ( u
1
: : : u
n
)
( 6 )
w h e r e u
i
i s t r u e i f y o u r c a r e t a k e r b r o u g h t a n u m b r e l l a o n d a y i , a n d f a l s e i f t h e c a r e t a k e r
d i d n ' t . T h e p r o b a b i l i t y P ( w
1
: : : w
n
) i s t h e s a m e a s t h e M a r k o v m o d e l f r o m t h e l a s t s e c t i o n , a n d
t h e p r o b a b i l i t y P ( u
1
: : : u
n
) i s t h e p r i o r p r o b a b i l i t y o f s e e i n g a p a r t i c u l a r s e q u e n c e o f u m b r e l l a
e v e n t s ( e . g . f T r u e , F a l s e , T r u e g ) . T h e p r o b a b i l i t y P ( u
1
: : : u
n
w
1
: : : w
n
) c a n b e e s t i m a t e d a s
n
i = 1
P ( u
i
w
i
) , i f y o u a s s u m e t h a t , f o r a l l i , g i v e n w
i
u
i
i s i n d e p e n d e n t o f a l l u
j
a n d w
j
, f o r a l l j 6= i
2 . 1 Q u e s t i o n s :
1 . S u p p o s e t h e d a y y o u w e r e l o c k e d i n i t w a s s u n n y . T h e n e x t d a y , t h e c a r e t a k e r c a r r i e d a n
u m b r e l l a i n t o t h e r o o m . A s s u m i n g t h a t t h e p r i o r p r o b a b i l i t y o f t h e c a r e t a k e r c a r r y i n g a n
u m b r e l l a o n a n y d a y i s 0 . 5 , w h a t ' s t h e p r o b a b i l i t y t h a t t h e s e c o n d d a y w a s r a i n y ?
P ( w
2
= R a i n y
w
1
= S u n n y u
2
= T r u e )
=
P ( w
2
= R a i n y w
1
= S u n n y u
2
= T )
P ( w
1
= S u n n y u
2
= T )
( u
2
a n d w
1
i n d e p e n d e n t ) =
P ( w
2
= R a i n y w
1
= S u n n y u
2
= T )
P ( w
1
= S u n n y )
3
-
7/30/2019 Hmm Tutorial 1
6/9
( B a y e s R u l e ) =
P ( u
2
= T w
1
= S u n n y w
2
= R a i n y ) P ( w
2
= R a i n y w
1
= S u n n y )
P ( w
1
= S u n n y ) P ( u
2
= T )
( M a r k o v a s s u m p t i o n ) =
P ( u
2
= T w
2
= R a i n y ) P ( w
2
= R a i n y w
1
= S u n n y )
P ( w
1
= S u n n y ) P ( u
2
= T )
( P ( A B ) = P ( A B ) P ( B ) ) =
P ( u
2
= T w
2
= R a i n y ) P ( w
2
= R a i n y w
1
= S u n n y ) P ( w
1
= S u n n y )
P ( w
1
= S u n n y ) P ( u
2
= T )
( C a n c e l P ( S u n n y ) ) =
P ( u
2
= T w
2
= R a i n y ) P ( w
2
= R a i n y w
1
= S u n n y )
P ( u
2
= T )
=
( 0 8 ) ( 0 0 5 )
0 5
= 0 8
2 . S u p p o s e t h e d a y y o u w e r e l o c k e d i n t h e r o o m i t w a s s u n n y t h e c a r e t a k e r b r o u g h t i n a n u m b r e l l a
o n d a y 2 , b u t n o t o n d a y 3 . A g a i n a s s u m i n g t h a t t h e p r i o r p r o b a b i l i t y o f t h e c a r e t a k e r b r i n g i n g
a n u m b r e l l a i s 0 . 5 , w h a t ' s t h e p r o b a b i l i t y t h a t i t ' s f o g g y o n d a y 3 ?
P ( w
3
= F = P ( w
2
= F o g g y w
3
= F o g g y
w
1
= S u
2
= T u
3
= F ) w
1
= S u n n y u
2
= T r u e u
3
= F a l s e ) +
P ( w
2
= R a i n y w
3
= F o g g y ) +
P ( w
2
= S u n n y w
3
= F o g g y )
=
P ( u
3
= F w
3
= F ) P ( u
2
= T w
2
= F ) P ( w
3
= F w
2
= F ) P ( w
2
= F w
1
= S ) P ( w
1
=
P ( u
3
= F ) P ( u
2
= T ) P ( w
1
= S )
P ( u
3
= F w
3
= F ) P ( u
2
= T w
2
= R ) P ( w
3
= F w
2
= R ) P ( w
2
= R w
1
= S ) P ( w
1
=
P ( u
3
= F ) P ( u
2
= T ) P ( w
1
= S )
P ( u
3
= F w
3
= F ) P ( u
2
= T w
2
= S ) P ( w
3
= F w
2
= S ) P ( w
2
= S w
1
= S ) P ( w
1
= S
P ( u
3
= F ) P ( u
2
= T ) P ( w
1
= S )
=
P ( u
3
= F w
3
= F ) P ( u
2
= T w
2
= F ) P ( w
3
= F w
2
= F ) P ( w
2
= F w
1
= S )
P ( u
3
= F ) P ( u
2
= T )
+
P ( u
3
= F w
3
= F ) P ( u
2
= T w
2
= R ) P ( w
3
= F w
2
= R ) P ( w
2
= R w
1
= S )
P ( u
3
= F ) P ( u
2
= T )
+
P ( u
3
= F w
3
= F ) P ( u
2
= T w
2
= S ) P ( w
3
= F w
2
= S ) P ( w
2
= S w
1
= S )
P ( u
3
= F ) P ( u
2
= T )
=
( 0 7 ) ( 0 3 ) ( 0 5 ) ( 0 1 5 )
( 0 5 ) ( 0 5 )
+
( 0 7 ) ( 0 8 ) ( 0 2 ) ( 0 0 5 )
( 0 5 ) ( 0 5 )
+
( 0 7 ) ( 0 1 ) ( 0 1 5 ) ( 0 8 )
( 0 5 ) ( 0 5 )
= 0 1 1 9
4
-
7/30/2019 Hmm Tutorial 1
7/9
3 R e l a t i o n s h i p t o S p e e c h
L e t ' s g e t a w a y f r o m u m b r e l l a s a n d s u c h f o r a m o m e n t a n d t a l k a b o u t r e a l t h i n g s , l i k e s p e e c h . I n
s p e e c h r e c o g n i t i o n , t h e b a s i c i d e a i s t o n d t h e m o s t l i k e l y s t r i n g o f w o r d s g i v e n s o m e a c o u s t i c i n p u t ,
o r
a r g m a x
w 2 L
P ( w y ) ( 7 )
W h e r e w i s a s t r i n g o f w o r d s , L i s t h e l a n g u a g e y o u ' r e i n t e r e s t e d i n , a n d y i s t h e s e t o f a c o u s t i c
v e c t o r s t h a t y o u ' v e g o t t e n f r o m y o u r f r o n t e n d p r o c e s s o r
2
. T o c o m p a r e t h i s t o t h e w e a t h e r e x a m p l e ,
t h e a c o u s t i c s a r e o u r o b s e r v a t i o n s , s i m i l a r t o t h e u m b r e l l a o b s e r v a t i o n s , a n d t h e w o r d s a r e s i m i l a r
t o t h e w e a t h e r o n s u c c e s s i v e d a y s .
R e m e m b e r t h a t t h e b a s i c e q u a t i o n o f s p e e c h r e c o g n i t i o n i s B a y e s ' R u l e :
a r g m a x
w 2 L
P ( w y ) = a r g m a x
w 2 L
P ( y w ) P ( w )
P ( y )
( 8 )
F o r a s i n g l e s p e e c h i n p u t ( e . g . o n e s e n t e n c e ) , t h e a c o u s t i c s ( y ) w i l l b e c o n s t a n t , a n d t h e r e f o r e ,
s o w i l l P ( y ) . S o w e o n l y n e e d t o n d :
a r g m a x
w 2 L
P ( y w ) P ( w ) ( 9 )
T h e r s t p a r t o f t h i s e x p r e s s i o n i s c a l l e d t h e m o d e l l i k e l i h o o d , a n d t h e s e c o n d p a r t i s a p r i o r
p r o b a b i l i t y o f t h e w o r d s t r i n g .
3 . 1 W o r d p r o n u n c i a t i o n s
F i r s t , w e w a n t t o b e a b l e t o c a l c u l a t e P ( y w ) , t h e p r o b a b i l i t y o f t h e a c o u s t i c s g i v e n t h e w o r d . N o t e
t h a t m a n y a c o u s t i c v e c t o r s c a n m a k e u p a w o r d , s o w e c h o o s e a n i n t e r m e d i a t e r e p r e s e n t a t i o n : t h e
p h o n e . H e r e i s a w o r d m o d e l f o r t h e w o r d \ o f " :
Start End1.00.3
0.7 1.0
q
q
a
b
q cP(q | q )
ab
ah v
ax
qd
F i g u r e 1 : W o r d M o d e l f o r \ o f "
I n t h i s m o d e l , w e r e p r e s e n t p h o n e s t a t e s a s q
i
' s . W e c a n n o w b r e a k u p P ( y w ) i n t o P ( y q w )
a n d P ( q w ) . S i n c e t h e p i c t u r e a b o v e o n l y t a l k s a b o u t o n e w o r d w
o f
, w e l e a v e t h e w o u t o f t h e
c o n d i t i o n i n g h e r e .
P ( y w
i
) = P ( y S t a r t a x v E n d ) + P ( y S t a r t a h v E n d ) ( 1 0 )
P ( y w
o f
) = P ( q
b
q
a
) P ( y
0
q
b
) P ( q
c
q
b
) P ( y
1
q
c
) + P ( q
d
q
a
) P ( y
0
q
d
) P ( q
c
q
d
) P ( y
1
q
c
) ( 1 1 )
T h e i n d i v i d u a l P ( y
i
q
i
) a r e g i v e n b y a G a u s s i a n o r m u l t i - l a y e r - p e r c e p t r o n l i k e l i h o o d e s t i m a t o r .
T h e t r a n s i t i o n s P ( q
j
q
i
) d e p e n d o n t h e p r o n u n c i a t i o n s o f w o r d s
3
2
T h i s i s u s u a l l y a n n - d i m e n s i o n a l v e c t o r w h i c h r e p r e s e n t s 1 0 - 2 0 m i l l i s e c o n d s o f s p e e c h . A t y p i c a l v a l u e f o r n i s 8
t o 4 0 . Y o u r m i l e a g e m a y v a r y b a s e d o n t h e t y p e o f s y s t e m .
3
I ' v e m a d e a s i m p l i f y i n g a s s u m p t i o n h e r e t h a t f o r t h e w o r d \ o f " w e o n l y h a v e t w o a c o u s t i c v e c t o r s , y
0
a n d y
1
5
-
7/30/2019 Hmm Tutorial 1
8/9
3 . 2 B i g r a m g r a m m a r s
I n t h e s e c o n d p a r t o f e x p r e s s i o n 9 , w e w e r e c o n c e r n e d w i t h P ( w ) . T h i s i s t h e p r i o r p r o b a b i l i t y o f
t h e s t r i n g o f w o r d s w e a r e c o n s i d e r i n g . N o t i c e t h a t w e c a n a l s o r e p l a c e t h i s w i t h a M a r k o v m o d e l ,
u s i n g t h e f o l l o w i n g e q u a t i o n :
P ( w ) =
n
i = 1
P ( w
i
w
i 1
) ( 1 2 )
W h a t i s t h i s s a y i n g ? W e l l , s u p p o s e t h a t w e h a d t h e s t r i n g \ I l i k e c a b b a g e s " . T h e p r o b a b i l i t y o f
t h i s s t r i n g w o u l d b e :
P ( I l i k e c a b b a g e s ) = P ( I S T A R T ) P ( l i k e I ) P ( c a b b a g e s l i k e ) ( 1 3 )
T h i s t y p e o f g r a m m a r i s c a l l e d a b i g r a m g r a m m a r ( s i n c e i t r e l a t e s t w o ( b i ) w o r d s ( g r a m s ) ) .
U s i n g a h i g h e r o r d e r M a r k o v a s s u m p t i o n a l l o w s m o r e c o n t e x t i n t o t h e g r a m m a r s f o r i n s t a n c e , a
s e c o n d - o r d e r M a r k o v l a n g u a g e m o d e l i s a t r i g r a m g r a m m a r , w h e r e t h e p r o b a b i l i t i e s o f w o r d n a r e
g i v e n b y P ( w
n
w
n 1
w
n 2
)
4 F u r t h e r r e a d i n g
I h a v e o n l y r e a l l y s c r a t c h e d t h e s u r f a c e o f a u t o m a t i c s p e e c h r e c o g n i t i o n ( A S R ) h e r e f o r t h e s a k e
o f b r e v i t y I h a v e o m i t t e d m a n y o f t h e d e t a i l s t h a t o n e w o u l d n e e d t o c o n s i d e r i n b u i l d i n g a s p e e c h
r e c o g n i z e r . F o r a m o r e m a t h e m a t i c a l l y r i g o r o u s i n t r o d u c t i o n t o H i d d e n M a r k o v M o d e l s a n d A S R
s y s t e m s , I w o u l d s u g g e s t ( R a b i n e r 1 9 8 9 ) . A r e c e n t b o o k b y J e l i n e k ( 1 9 9 7 ) g i v e s a g o o d o v e r v i e w o f
h o w t o b u i l d l a r g e - v o c a b u l a r y A S R s y s t e m s , a t a b o u t t h e s a m e l e v e l o f r i g o r a s R a b i n e r . H i d d e n
M a r k o v m o d e l s c a n a l s o b e v i e w e d a s o n e i n s t a n c e o f s t a t i s t i c a l g r a p h i c a l m o d e l s ( S m y t h e t a l . 1 9 9 7 ) .
O t h e r r e c o m m e n d e d i n t r o d u c t i o n s t o H M M s , A S R s y s t e m s , a n d s p e e c h t e c h n o l o g y a r e R a b i n e r &
J u a n g ( 1 9 9 3 ) , D e l l e r e t a l . ( 1 9 9 3 ) , a n d M o r g a n & G o l d ( f o r t h c o m i n g ) .
5 E x e r c i s e s
I m a g i n e t h a t y o u w o r k a t A C M E C h o c o l a t e F a c t o r y , c o n f e c t i o n e r s e x t r a o r d i n a i r e . Y o u r j o b i s t o
k e e p a n e y e o n t h e c o n v e y o r b e l t , w a t c h i n g t h e c h o c o l a t e s a s t h e y c o m e o u t o f t h e p r e s s o n e a t a
t i m e .
S u p p o s e t h a t A C M E m a k e s t w o t y p e s o f c h o c o l a t e s : o n e s w i t h a l m o n d s a n d o n e s w i t h o u t . F o r
t h e r s t f e w p r o b l e m s , a s s u m e y o u c a n t e l l w i t h 1 0 0 % a c c u r a c y w h a t t h e c h o c o l a t e c o n t a i n s . I n t h e
c o n t r o l r o o m , t h e r e i s a l e v e r t h a t s w i t c h e s t h e a l m o n d c o n t r o l o n a n d o . W h e n t h e c o n v e y o r i s
t u r n e d o n a t t h e b e g i n n i n g o f t h e d a y , t h e r e i s a 5 0 % c h a n c e t h a t t h e a l m o n d l e v e r i s o n , a n d a 5 0 %
c h a n c e t h a t i t i s o . A s s o o n a s t h e c o n v e y o r b e l t i s t u r n e d o n , i t s t a r t s m a k i n g a p i e c e o f c a n d y .
U n f o r t u n a t e l y , s o m e o n e h a s l e t a m o n k e y l o o s e i n t h e c o n t r o l r o o m , a n d i t h a s l o c k e d t h e d o o r
a n d s t a r t e d t h e c o n v e y o r b e l t . T h e l e v e r c a n n o t b e m o v e d w h i l e a p i e c e o f c a n d y i s b e i n g m a d e .
B e t w e e n p i e c e s , h o w e v e r , t h e r e i s a 3 0 % c h a n c e t h a t t h e m o n k e y s w i t c h e s t h e l e v e r t o t h e o t h e r
p o s i t i o n ( i . e . t u r n s a l m o n d s o n i f i t w a s o , o r o i f i t w a s o n ) .
1 . D r a w a M a r k o v M o d e l t h a t r e p r e s e n t s t h e s i t u a t i o n . H i n t : y o u n e e d t h r e e s t a t e s .
N o w a s s u m e t h a t t h e r e i s a c o c o n u t l e v e r a s w e l l , s o t h a t t h e r e a r e f o u r t y p e s o f c a n d y : P l a i n ,
A l m o n d , C o c o n u t , a n d A l m o n d + C o c o n u t . A g a i n , t h e r e i s a 5 0 % c h a n c e o f t h e l e v e r b e i n g o n a t t h e
b e g i n n i n g o f t h e d a y , a n d t h e c h a n c e o f t h e m o n k e y s w i t c h i n g t h e s t a t e o f t h e s e c o n d l e v e r b e t w e e n
c a n d i e s i s a l s o 3 0 % . A s s u m e t h a t t h e s w i t c h i n g o f t h e l e v e r s i s i n d e p e n d e n t o f e a c h o t h e r .
H o w e v e r , w e d o n ' t k n o w a p r i o r i h o w l o n g a w o r d i s . I n o r d e r t o h a n d l e m u l t i p l e l e n g t h s o f w o r d s , s e l f - l o o p s a r e o f t e n
a d d e d t o t h e p r o n u n c i a t i o n g r a p h . T h u s , o n e c a n s t a y i n s t a t e q
b
w i t h p r o b a b i l i t y P ( q
b
q
b
) w e c a n t h e n h a n d l e t h e s e
p r o b a b i l i t i e s l i k e a n y o t h e r t r a n s i t i o n p r o b a b i l i t i e s o n t h e g r a p h .
6
-
7/30/2019 Hmm Tutorial 1
9/9
2 . N o w d r a w a M a r k o v M o d e l f o r b o t h p r o d u c t i o n o f a l l f o u r t y p e s o f c h o c o l a t e s .
3 . W h a t i s t h e p r o b a b i l i t y t h a t t h e m a c h i n e w i l l p r o d u c e i n o r d e r : f P l a i n , A l m o n d , A l m o n d ,
A l m o n d + C o c o n u t g
N o w a s s u m e t h a t y o u c a n ' t t e l l w h a t ' s i n s i d e t h e c h o c o l a t e c a n d y , o n l y t h a t t h e c h o c o l a t e i s l i g h t
o r d a r k . U s e t h e f o l l o w i n g t a b l e f o r P ( c o l o r s t u i n s i d e ) :
I n s i d e P ( c o l o r = l i g h t ) P ( c o l o r = d a r k )
P l a i n 0 . 1 0 . 9
A l m o n d 0 . 3 0 . 7
C o c o n u t 0 . 8 0 . 2
A l m o n d + C o c o n u t 0 . 9 0 . 1
A s s u m e t h a t t h e p r i o r p r o b a b i l i t y o f P ( c o l o r = l i g h t ) = P ( c o l o r = d a r k ) = 0 . 5 , a n d t h a t t h e c o l o r o f
o n e c h o c o l a t e i s i n d e p e n d e n t o f t h e n e x t , g i v e n t h e l l i n g .
4 . I f t h e r s t t w o c h o c o l a t e s w e r e d a r k a n d l i g h t r e s p e c t i v e l y , w h a t i s t h e p r o b a b i l i t y t h a t t h e y
a r e A l m o n d a n d C o c o n u t r e s p e c t i v e l y ?
A c k n o w l e d g m e n t s
T h e w e a t h e r s t o r y f o r M a r k o v m o d e l s h a s b e e n o a t i n g a r o u n d t h e s p e e c h c o m m u n i t y f o r a w h i l e i t
i s p r e s e n t e d ( p r o b a b l y o r i g i n a l l y ) b y R a b i n e r ( 1 9 8 9 ) . T h a n k s t o S u - L i n W u , N e l s o n M o r g a n , N i k u n j
O z a , B r i a n K i n g s b u r y , a n d J i t e n d r a M a l i k f o r p r o o f r e a d i n g a n d c o m m e n t s . A n y m i s t a k e s i n t h i s
t u t o r i a l , h o w e v e r , a r e t h e r e s p o n s i b i l i t y o f t h e a u t h o r , a n d n o t o f t h e r e v i e w e r s .
R e f e r e n c e s
D e l l e r , J . J . P r o a k i s & J . H a n s e n . 1 9 9 3 . D i s c r e t e - T i m e P r o c e s s i n g o f S p e e c h S i g n a l s . N e w
Y o r k : M a c m i l l a n P u b l i s h i n g .
J e l i n e k , F . 1 9 9 7 . S t a t i s t i c a l M e t h o d s f o r S p e e c h P r o c e s s i n g . L a n g u a g e , S p e e c h a n d C o m m u n c a t i o n
S e r i e s . C a m b r i d g e , M A : M I T P r e s s .
M o r g a n , N . & B . G o l d . f o r t h c o m i n g . S p e e c h a n d A u d i o S i g n a l P r o c e s s i n g . W i l e y P r e s s .
R a b i n e r , L . 1 9 8 9 . A t u t o r i a l o n h i d d e n M a r k o v m o d e l s a n d s e l e c t e d a p p l i c a t i o n s i n s p e e c h
r e c o g n i t i o n . P r o c e e d i n g s o f t h e I E E E 7 7
| | , & B . - H . J u a n g . 1 9 9 3 . F u n d a m e n t a l s o f S p e e c h R e c o g n i t i o n . P r e n t i c e H a l l S i g n a l P r o c e s s i n g
S e r i e s . E n g l e w o o d C l i s , N J : P r e n t i c e H a l l .
S m y t h , P . D . H e c k e r m a n & M . I . J o r d a n . 1 9 9 7 . P r o b a b i l i s t i c i n d e p e n d e n c e n e t w o r k s f o r
h i d d e n M a r k o v p r o b a b i l i t y m o d e l s . N e u r a l C o m p u t a t i o n 9 . 2 2 7 { 2 7 0 .
7