processi aleatori : introduzione – parte ii fulvio gini dipartimento di ingegneria...
TRANSCRIPT
Processi Aleatori :Introduzione – Parte II
Fulvio GINIFulvio GINI
Dipartimento di Ingegneria dell’Informazione:
Elettronica, Informatica, Telecomunicazioni
Università di Pisa
E-mail: [email protected]
Accademia Navale, Livorno
2Processi aleatori Gaussiani
Un processo X(t) si dice Gaussiano se per ogni N e per ogni N-upla di istanti t1 , t2 , …, tN , il vettore delle N variabili aleatorie
X = [ X(t1) X(t2) … X(tN) ]T
è un vettore Gaussiano, ovvero le N v.a. sono congiuntamente Gaussiane
1
/ 2
1 1( ) exp ( ) ( )
2(2 ) det( )
TX X X XN
X
f
x x m C x m
C
1 2[ ]TNX X XX Vettore Gaussiano: N v.a. congiuntamente Gaussiane
ddp congiunta di ordine N
3
1 2
1 2
1 2
( ) ( ) ( )
( ) ( ) ( )
T
X N
T
N
T
X X X N
E E X E X E X
E X t E X t E X t
t t t
m X
1 1 2 1
2 1 2
1
1 1
2
2
2
( )( )
N
N N
N N N N
X X X X X
X X XTX X X
X X
X X X X X
c c
cE
c
c c
C X m X m
La ddp congiunta di ordine N è univocamente determinata dalla conoscenza della funzione valor medio e della funzione di autocovarianza del processo:
Vettore valori medi[ statistica di ordine 1 ]
Matrice di covarianza[ statistica di ordine 2 ]
,[ ] ( ( ) ( ))( ( ) ( )) ( , )i jX i j X X i X i j X j X i jc E X t t X t t C t t C
Processi aleatori Gaussiani
4Proprietà dei vettori Gaussiani
Proprietà 1Proprietà 1: la ddp congiunta di ordine N di un vettore aleatorio Gaussiano è completamente specificata dal vettore valori medi e dalla matrice di covarianza
Proprietà 2Proprietà 2: una trasformazione lineare di vettori Gaussiani preserva la Gaussianità:
Proprietà 3Proprietà 3: una qualsiasi r-upla di v.a. estratte da X è ancora un vettore aleatorio Gaussiano, in particolare ogni Xk è una v.a.
Gaussiana
y Ax bT
Y X Y X m Am b C AC A
1 2 1 1 1 2 1 1( ) ( , , , , , , , )kX k X k k k N k k Nf x f x x x x x x dx dx dx dx dx
1 1 1, , , , , 1 2 1 1 1 2 1 1( , , , , , , ) ( , , , , , , , )k k NX X X X k k N X k k k N kf x x x x x f x x x x x x dx
5
• Se {Xi;i=1,2,3,4} sono v.a. Gaussiane:
1 2 3 4 1 3 2 4 1 4 2 3 1 2 3 4
4
1 2 3 4 41 2 3 4
1 ( )XX X X X X X X X X X X X X X X XE X X X X r r r r r r
j
Proprietà 4: Proprietà 4: Funzione caratteristica di un vettore Gaussiano
1 1( )1
1( ) ( , , ) e e exp
2
ΤN Nj X X j Τ Τ
X X N X XE E j
X m C
• Se {Xi;i=1,2, … , N} sono v.a. Gaussiane indipendenti:
2 2 2 2
1 1 1
1 1( ) exp exp
2 2i i i i
NN N
X X i X i X i X ii i i
j j
Proprietà dei vettori Gaussiani
i jX X i jr E X X
6
Proprietà 5Proprietà 5: se N v.a. congiuntamente Gaussiane sono a due a due incorrelate, esse sono anche indipendenti
1
2
2
2
2
2
2
( )2
212 2
1 1 1
0 0
0 0 per
0
0 0
( ) 1( ) ( ) ( ) ( )
2
i j
N
i Xi
Xi i
i
i i
X
XX X X
X
xN NN
i XTX X X X X i
i i iX X
c i j
xf e f x
C
x m C x m x
• Se sono anche identicamente distribuite: , dove I è la matrice identità, e
2X XC I
[11 1]TX X X m 1
Proprietà dei vettori Gaussiani
7
Proprietà 6Proprietà 6: la ddp di una qualsiasi r-upla di v.a. condizionata ad un qualsiasi sottogruppo di k v.a. (prese tra le rimanenti N-r) è Gaussiana
, 1 2
T
r k r k k k r kE E X E X E X m X X X X X
, , ,( )( )Tr k r r k r r k kE C X m X m X
1, , ,/ 2
,
1 1( ) exp ( ) ( )
2(2 ) det( )r k
Tr k r r k r k r r kr
r k
f
X X x x x m C x mC
vettore valori medi e matrice di covarianza condizionati
Proprietà dei vettori Gaussiani
8
y
x
Densità di Probabilità (ddp) di due v.a. congiuntamente Gaussiane:
0 0
1 1
0
X Y
X Y
XY
Sistema di 2 v.a. congiuntamente Gaussiane
, 22
1 1( , ) exp ( , )
2 12 1X Y
XYX Y XY
f x y Q x y
, ( , ) ( ) ( )X Y X Yf x y f x f y
2 2
( , ) 2X X Y YXY
X X Y Y
x x y yQ x y
9Generazione di V.A. cong. Gaussiane correlate
1
/ 2
1 1( ) exp ( ) ( )
2(2 ) det( )
TW W W WN
W
f
w w m C w m
C
z Aw b
Z W
TZ W
m Am b
C AC A
,W W m 0 C I ,Z Zm C
[ ( )]TZCholA C ( )Chol Decomposizione di Cholesky
matrice triangolare superioreoppure
TZ C V V
1/ 2 1/ 2 1/ 2 1/ 2( )( )T T TZ C V V V V AA
1/ 2 A V
Zb m
desiderati
?
Decomposizione spettrale
1/ 2Z z V w m
Z
TZ
m b
C AA
10Campionamento di processi tempo-continui
Sia dato un processo tempo- continuo Y(t), stazionario almeno in senso lato, con funzione di autocorrelazione e densità spettrale di potenza date:
( ) ( ) ( ) ( )FT
a aY Y aR E Y t Y t S f
Campioniamo Y(t) negli istanti tn=nT, in modo da ottenere la
sequenza di v.a. Y[n]=Y(nT), ovvero il processo tempo-
discreto Y[n]1 2T B
La ACF di Y[n] è data dalla versione campionata di quella del processo tempo-continuo Y(t), infatti:
[ ] [ ] [ ] ( ) ( ) ( )aY YR m E Y n Y n m E Y nT Y nT mT R mT
filtro anti-aliasing
11
2 2[ ] ( ) [ ]DTFT
a j f j mfY Y Y Y
m
R m R mT S e R m e
Campionamento di processi tempo-continui
Il legame tra la PSD di Y(t) e quella di Y[n] è noto dal Teorema del Campionamento: campionamento nel tempo comporta la
periodicizzazione nel dominio della frequenza:
2 1
a
j f aY Y a
k f f T
kS e S f
T T
1 2
2 2
1 2
Potenza media : [ ] [0] j fY Y YP E X n R S e df
fa è la frequenza analogica [Hz] - f è la frequenza discreta [Adimens.]
12Processo bianco tempo-discreto
Un processo tempo-discreto Y[n] si definisce “bianco” quando è formato da una sequenza di v.a. incorrelate e a valor medio nullo,
ovvero quando la sua ACF ha la seguente forma:
22 , 0
[ ] [ ]0, 0
YY Y
mR m m
m
La PSD di Y[n] è quindi data da:
ovvero è costante per tutte le f, giustificando l’apellativo “bianco”
2 2 2 2[ ]j f j mfY Y Y
m
S e m e
1 22 2
1 2
j fY Y YP S e df
Nota bene: la potenza media è finita, a differenza dei processi
bianchi tempo-continui:
[ ] 0E Y n
13
[ ]h n[ ]X n [ ] [ ] [ ]
[ ] [ ]k
Y n X n h n
h k X n k
Processi lineari tempo-discreti
2 2
Risposta in frequenza:
[ ]j f j mf
m
H e h k e
2
2 2
[ ] [ ]X X
j fX X
R m m
S e
Processo bianco
2
2 22 2 2 2 2
[ ] [ ] [ ] [ ] [ ] [ ]Y X X
j f j f j f j fY X X
R m R m h m h m h m h m
S e S e H e H e
Il processo in uscita è
“colorato” dal filtro
MATLAB: y=conv(x,h)
14
[ ]h n[ ]X n1 0
[ ] [ ] [ ]QP
k kk k
Y n a Y n k b X n k
Processi Autoregressivi a Media Mobile ARMA(P,Q)
Eq. alle differenze ricorsiva
MATLAB: y=filter(b,a,x
)
1
1 0P
kk
k
a z
Poli del filtro
= soluzioni dell’Equazione Caratteristica
22
2 0 10
2 2
1 1
1
QQj fj kf
kkj f k k
P Pj kf j f
k kk k
e zb eH e k
a e e p
WGNWhite Gaussian Noisex=randn(N,1)
Filtro IIR
15
[ ]h n[ ]X n1
[ ] [ ] [ ]P
kk
Y n a Y n k X n
Processi Autoregressivi AR(P)
Eq. alle differenze ricorsiva
MATLAB: y=filter(b,a,x
)1
1 0P
kk
k
a z
Poli del filtro
= soluzioni dell’Equazione Caratteristica
2 0
2 2
1 1
1
1
j fP P
j kf j fk k
k k
kH e
a e e p
WGNWhite Gaussian Noisex=randn(N,1)
Filtro IIR di ordine P
16Spettro di un processo AR(1)
2 22
2 2
1( )
1 1 2 cos 2X
Y X j fS f
ae a a f
f
17
[ ]h n[ ]X n0
[ ] [ ]Q
kk
Y n b X n k
Eq. alle differenze non ricorsiva
Risp. impulsiva:
MATLAB: y=filter(b,a,x
)0
0Q
kk
k
b z
Zeri del filtro
= soluzioni dell’equazione
2 2 20
0 1
QQj f j kf j f
k kk k
H e b e k e z
WGNWhite Gaussian Noisex=randn(N,1)
Filtro FIR di ordine Q
Processi a media mobile MA(Q)
0
[ ] [ ]Q
kk
h n b n k
18ACF e spettro di un processo
MA(16)
Filtro a media mobile
0
1[ ] [ ]
N
k
Y n X n kN
1[ ] per 0,1,2, ,h n n N
N
2
222
2 2
[ ] 1
per 0, 1, 2, ,
sinc( )
sinc
XY
j f XY
mR m
N N
m N
NfS e
N f
f
19Segnali tempo-discreti: ACF e PSD
22
2
12
0
[ ] [ ] [ ]
( )( ) lim
( ) [ ]
X
j fNj f
XN
Nj fN n
R m E X n X n m
X eS e E
N
X e DTFT X n
2
2
22
2
[ ] [ ] [ ]
1 lim [ ] [ ]
1
( )( ) lim
X
N
Nn N
j fNj f
X N
r m x n x n m
x n x n mN
X ee
N
S
Confronto tra alcune definizioni per segnali aleatori e deterministici
20Segnali tempo-discreti: ACF e PSD
2
2 2
2
1 22
1 2
[ ] ( )
( ) [ ]
[ ]
[0] ( )
FTj f
X X
j f j fmX X
m
X
j fX X
R m S e
S e R m e
P E X n
R S e df
2
2 2
22 2
2
1 22
1 2
[ ] ( )
( ) [ ]
1[ ] lim [ ]
1
[0] ( )
FTj f
X X
j f j fmX X
m
N
XN
n N
j fX X
r m e
e r m e
P x n x nN
r e df
S
S
S
Confronto tra alcune definizioni per segnali aleatori e deterministici
21Processi ergodici tempo-discreto
Come nel caso di processi ergodici tempo-continui, per processi ergodici tempo-discreti è possibile misurare certe statistiche, definite come medie d’insieme, mediante le corrispondenti medie temporali calcolate su una qualsiasi realizzazione:
2
2
1 [ ] [ ] lim [ ]
1
N
X xNn N
E X n x n x n mN
2
2
[ ] [ ] [ ] [ ] [ ]
1 lim [ ] [ ] [ ]
1
X
N
xN
n N
R m E X n X n m x n x n m
x n x n m r mN
valor medio
ACF
22
In pratica, valor medio, funzione di autocorrelazione e densità spettrale di
potenza di un processo s.s.l., ergodico, si misurano dai dati come segue:
1
0
1ˆ [ ]
N
Xn
x nN
1
0
1ˆ [ ] [ ] [ ] , 1N m
Xn
R m x n x n m m NN m
valor medio
ACF
[ ]; 0,1,2, , 1x n n N dati
PSD1
2 2
( 1)
ˆ ˆ ˆ( ) [ ] [ ]N
j f j fmX X X
N
S e DTFT R m R m e
22 1ˆ ( ) [ ]j fXS e DTFT x n
N
Analisi in potenza di un processo ergodico
1
0
1ˆ [ ] [ ] [ ]N m
Xn
R m x n x n mN
[ di fatto, si usa la FFT ]
23Analisi di Fourier: segnali tempo-continuo
0
0 0
0
22 2
0 2
1( ) ( ) ,
n nTj t j tFST T
n nn T
x t X e X x t e dt nT
0( ) periodico tempo-continuo ( ) aperiodico frequenza-discretaFS
nx t T X
Trasform. Continua di Fourier di un segnale aperiodico tempo-continuo (FT o TCF)
2 2( ) ( ) ( ) ( ) ,FT
j ft j ftx t X f e df X f x t e dt f
( ) aperiodico tempo-continuo ( ) aperiodico frequenza-continuaFT
x t X f
Trasformata Serie di Fourier di un segnale periodico tempo-continuo (FS o TSF)
24Analisi di Fourier: segnali tempo-discreto
Trasformata Serie di Fourier di un segnale periodico tempo-discreto (DTFS o DFT)
1 12 2
0 0
1[ ] [ ] [ ] [ ] , 0,1, , 1
k kN NDTFSj n j nN N
k n
x n X k e X k x n e k NN
[ ] periodico tempo-discreto ( ) [ ] periodico frequenza-discreta ( )DTFS
x n N X k N
Trasformata Continua di Fourier di un segnale aperiodico tempo-discreto (DTFT)
1 22 2 2 2
1 2
[ ] ( ) ( ) [ ] , 1 2 1 2DTFT
j f j fn j f j fn
n
x n X e e df X e x n e f
2[ ] aperiodico tempo-discreto ( ) periodico frequenza-continua (1)DTFT
j fx n X e