Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
1
2 - Introduction au traitement des signaux aléatoires
• Introduction
• Processus aléatoire
• Corrélation, autocorrélation...
• Stationnarité, ergodicité
• Densité spectrale
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
2
2-1 Introduction
• Signaux aléatoires : bruit électronique, le signal de parole...
• Signal déterministe information
Quand on connaît le passé, la probabilité d’apparition d’un niveau donné à l’instant t est soit nulle, soit certaine (=1).
• L’information est liée à un certain degré d’incertitude, d’aléatoire.
• Signal déterministe formule définissant parfaitement le signal.
• Signal aléatoire paramètres statistiques définissant les POSSIBILITES d’évolution du signal.
Valeur future exacte du signal
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
3
Introduction
• Paramètres statistiques d’un signal aléatoire:
– Moyenne, variance, autocorrélation, moments, ...
• Ces paramètres peuvent être eux mêmes aléatoires (non stationnaire)
– exemple: le signal de parole
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
4
Introduction
• L’ «astuce» du temps différé:
– on enregistre et on rejoue le signal.
– le signal n’est plus aléatoire. Il est parfaitement connu.
• Oui, mais....
– traitement en temps réel, futur inconnu
– généraliser un traitement à des signaux futurs «presques» identiques à ceux que l’on posséde déjà
Le passé ne permet pas de déterminer complètement l’avenir.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
5
Introduction
• Signal aléatoire = Bruit
• Exemple
– Transmettre la parole sur des cables d’alimentation secteur 50 Hz
• Le signal important est la parole, c’est un signal aléatoire
• Le bruit génant est déterministe, c’est une sinusoïde à 50 Hz
• Exemple
– Réception d’un signal numérique au bout d’une ligne de transmission
• Le signal numérique est aléatoire
• Le bruit sur la ligne de transmission est aussi aléatoire
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
6
2-2 Processus aléatoire ou stochastique
• Processus stochastique = famille de fonction aléatoire X(t,u)
• t est une variable réelle (par exemple le temps)
• u est un ensemble d’événements
• t et u peuvent être des variables continues ou discrètes
• X(t,u) peut prendre des valeurs continues ou discrètes, scalaires ou vectorielles.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
7
Exemple 1
• Bruit thermique dans un ensemble de résistances R={Ri , i=1,N} de même valeur ohmique
R1
R2
R3
t
t
t
tk
• t est une variable continue, R est une variable discrète• X(t,Ri) est une représentation particulière du processus X(t,R) pour l’événement «Ri a été choisie»
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
8
Exemple 1 (suite)
• Pour un instant tk donné, X(tk,R) est une variable aléatoire
• Le processus aléatoire prend des valeurs continues, scalaires et réelles.
• Si les signaux étaient numérisés, la variable t deviendrait discrète, ainsi que les valeurs prises par le processus (à cause de la quantification du CAN)
• Une réalisation particulière X(t,Ri) n’est pas un signal déterministe.
• Tous les signaux sont à priori différents, mais le phénomène physique à l’origine du signal est le même pour toutes les résistances
Trouver des lois statistiques communes
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
9
Exemple 2
• Signal sinusoïdal à phase aléatoire
X t u a t u( , ) cos( ) phase u variable aléatoire uniformément répartie entre 0 et 2
X(t,u)
t
u est à valeur réelle continueX(t,u) est à valeur continue, scalaire et réelleUn signal particulier X(t,ui) est déterministe.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
10
Exemple 2 (suite)
• Densité de probabilité de la phase u
f u uu ( ) , , 1
2
Pour un instant donné tk, calcul des moments statistiques de la variable aléatoire X(tk,u)
• Espérance mathématiqueE X t u E X t
f u a t u du
a t u du
k k
u k
k
[ ( , )] [ ( )]
( ) cos( )
cos( )
1
20
• Variance
E X t u E X t
f u a t u dua
k k
u k
[ ( , )] [ ( )]
( ) cos ( )
2 2
2 22
2
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
11
Exemple 2 (suite)
Pour une valeur particulière ui (événement) de la phase, on peut calculer des paramètres temporels du signal X(t,ui)
• Moyenne temporelle
E X t u X u
Ta t u dt
i i
iT
T
[ ( , )] ( )
cos( )/
/
1
02
2
( )T 2
• Variance temporelle, carré de la valeur efficace
E X t u X u
Ta t u dt
a
i i
iT
T
[ ( , )] ( )
cos ( )/
/
2 2
2 22
2
21
2
Remarque: On obtient ici des valeurs identiques à l’éspérance et à la variance statistiques
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
12
Caractérisation d’un processus aléatoire. Lois de probabilité.
• Statistiques du premier ordre
– Fonction de répartition et densité de probabilité pour un tk donné
F x t prob X t u x et
f x tF x t
x
X k k
X kX k
( , ) ( ( , ) )
( , )( , )
E X t X t f x t dxnk
nk X k[ ( )] ( ) ( , )
• L’éspérance mathématique (n=1) et les moments d’ordre supérieur sont définis par
Remarque: Les moments peuvent dépendre de tk
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
13
Exemple: Processus gaussien• Un processus, ou signal, ou bruit,
gaussien posséde une densité de probabilité définie par une loi normale
f x tx m
X k( , ) exp(( )
) 1
2
1
22
2
2
m étant la moyenne et l’écart-type
=1m=0
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
14
Exemple: processus gaussien La densité de probabilité représente la
statistique des amplitudes du signal à un instant donné, pour l’ensemble des
réalisations possibles du processus. L’allure temporelle des réalisations d’un processus gaussien ne ressemble pas forcément à un
bruit comme ci dessous.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
15
Exemple: signal sinusoïdal à phase aléatoire
La phase ayant une densité de probabilité uniforme, les statistiques ne dépendent pas de l’instant tk.Par commodité on se place à tk=T/2=0.5 T
X t u a t u( , ) cos( )
On cherche la fonction de répartitionFX(x1) = FX(0.5 T,u) = Prob ( X(0.5 T,u) < x1)C’est à direFX(x1) = Prob (u > -arcos(-x1 /a) et
u < arcos(-x1 /a) )
x1
a
T
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
16
Exemple: signal sinusoïdal à phase aléatoire (suite)
C’est à dire
F x f u duX ux
a
x
a( ) ( )arcos( )
arcos( )
1 1
1
F xx a
X ( )arcos( / )
111
La densité de probabilité s’obtient par dérivation de la fonction de répartition
f xa xX ( )
( ² ²)
1
a-ax
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
17
Caractérisation des processus aléatoires
• Statistique du deuxième ordre
– Relation entre les statistiques prises à deux instants t1 et t2 différents
– On considère deux variables aléatoires
X(t1,u) et X(t2,u)
• Fonction de répartition conjointeF a b t t prob X t a X t bXX ( , , , ) ( ( ) , ( ) )1 2 1 2
f a b t tF a b t t
a bXXXX( , , , )
( , , , )1 2
21 2
• Densité de probabilité
F a b t t F a t F b t
f a b t t f a t f b tXX X X
XX X X
( , , , ) ( , ) ( , )
( , , , ) ( , ) ( , )1 2 1 2
1 2 1 2
• Si les deux variables aléatoires sont indépendantes (Ce qui se passe à t1 ne dépend pas de ce qui se passe à t2)
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
18
2-3 Corrélation, Autocorrélation...
• Signaux déterministes
– Signaux à énergie finie
– Signaux à puissance finie
Mesure de ressemblance
Autocorrélation temporelle
• Processus aléatoires
Statistique du second ordre
Caractérisation fréquentielle
des signaux aléatoires (Densité spectrale)
Autocorrélation statistique
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
19
Corrélation, autocorrélation...Signaux à énergie finie
• Energie d’un signal continu ou discret
• Signaux transitoires
• Signaux de durée finie
• Existence de la transformée de Fourier
Dans la réalité, en pratique, tous les signaux sont à énergie finie.
Exemples:
x(t) = Rect(t) énergie finie
x(t) = a constant n’est pas à énergie finie
x(t) = V sin(2ft) n’est pas à énergie finie
E x t dt E x kx xk
( ) , [ ]2 2
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
20
Corrélation, autocorrélation... Signaux à énergie finie
• Autocorrélation temporelle
• Si x(t) est réel, l’autocorrélation est réelle
• Dimension V²/Hz ou A²/Hz
• Analogie avec la convolution
• C’est un produit scalaire, projection de x*(t) sur x(t) décalé de
• Pour = 0, on retrouve l’énergie du signal
Rxx(0) = Ex
• Rxx() est maximale en =0. Rien ne ressemble plus au signal que lui-même.
R x t x t dt
R j x k x k j
xx
xxk
( ) ( ) ( ) ,
[ ] [ ] [ ]
*
*
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
21
Corrélation, autocorrélation... Signaux à énergie finie
• L’autocorrélation posséde la propriétés de symétrie hermitique
Si le signal est réel, l’autocorrélation est donc réelle est paire.
• Exemple
x(t) = Rect (t/T) Rxx()=T Tri(/T)
R R R j R jxx xx xx xx( ) ( ) , [ ] [ ]* *
T/2-T/2
1
Rect(t/T)
T-T
T
Rxx()
t
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
22
Corrélation, autocorrélation... Signaux à énergie finie
• Intercorrélation
• Symétrie hermitique
(Attention à l’inversion de x et y dans le deuxième membre des équations)
• Mesure du degrè de ressemblance entre deux signaux en fonction d’un décalage
• Projection de x(t) sur y(t+), produit scalaire
R x t y t dt
R j x k y k j
xy
xyk
( ) ( ) ( ) ,
[ ] [ ] [ ]
*
*
R R R j R jxy yx xy yx( ) ( ) , [ ] [ ]* *
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
23
Corrélation, autocorrélation... Signaux à énergie finie
• Exemple d’intercorrélation
x(t) y(t)
t t-T/2 T/2-T
T
-3T/2
3T/2
1 1
-1
T/2
-T/2
-T
T
Rxy()
Le signal x(t) ressemble le plus à y(t) aux instants -T/2 et T/2. En =0, x(t) ne ressemble pas du tout à y(t) (ils sont orthogonaux, produit scalaire nul).
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
24
Corrélation, autocorrélation... Signaux à puissance finie
• Approximation de signaux réels
• Exemples
– Signal continu x(t)=a
– Signal sinusoïdal x(t)=V Sin(2ft)
– Signaux aléatoires, signaux périodiques, impulsion de Dirac, échelon unité...
• Puissance finie
• Signal à énergie finie = puissance nulle
• Signal à puissance finie = énergie infinie
PT
x t dt
PN
x k
xT
T
T
xN k N
N
lim ( ) ,
lim [ ]
/
/1
1
2
2
2
2
21
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
25
Corrélation, autocorrélation... Signaux à puissance finie
• Autocorrélation temporelle, intercorrélation
Problème de convergence des intégrales et des sommes
• Notation
• Dimensions: V² ou A²
• Autocorrélation: y(t)=x(t) dans les formules précédentes
1N
Nk
*
Nxy
2/T
2/T
*
Txy
]jk[y]k[xN2
1lim]j[R
,dt)t(y)t(xT
1lim)(R
R x t y t
R j x k y k j
xy
xy
( ) ( ) ( ) ,
[ ] [ ] [ ]
*
*
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
26
Corrélation, autocorrélation... Signaux à puissance finie
• Autocorrélation des signaux périodiques
Le calcul sur une seule période suffit
L’autocorrélation d’un signal périodique est elle même périodique.
Par définition, le signal périodique ressemble parfaitement à lui même, décalé d’une ou plusieurs périodes.
RT
x t x t dt
R jN
x k x k j
xxT
T
xxk O
N
( ) ( ) ( ) ,
[ ] [ ] [ ]
*
/
/
*
1
12
2
1
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
27
Corrélation, autocorrélation... Processus aléatoires
• On peut calculer l’autocorrélation temporelle sur une réalisation X(t,ui) d’un processus aléatoire. On se retrouve alors dans le cas précédent.
CE N’EST PAS CE QUI NOUS INTERESSE ICI !!!
• On cherche une définition au sens statistique.
Observation d’un processus aléatoire X(t,u) à deux instant t1 et t2. Statistique du second ordre, moment conjoint
Autocorrélation statistique
R t t E X t X txx ( , ) [ ( ) ( )]*1 2 1 2
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
28
Corrélation, autocorrélation... Processus aléatoires
R t t ab f a b t t da dbxx xx( , ) ( , , , )1 2 1 2
• Dans le cas d’un processus réel continu
• Fonction d’autocovarianceMoment conjoint des variables aléatoires centrées X(t1)-mx(t1) et X(t2)-mx(t2),mx(t) moyenne du processus aléatoire à l'instant t
C t t R t t m t m txx xx x x( , ) ( , ) ( ) ( )*1 2 1 2 1 2
• Quand t1=t2, on obtient la variance du processus aléatoire en t1.
C t t txx x( , ) ( )1 12
1
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
29
Corrélation, autocorrélation... Processus aléatoires
• Remarques:
1) On obtient des fonctions bidimensionnelles des variables t1 et t2. Dans le cas d’un processus échantillonné discret, on obtiendra des matrices d’autocorrélation et d’autocovariance.
2) Si ces fonctions ne dépendent que de l’écart temporel t1-t2, les fonctions d'autocorrélation et d'autocovariance sont monodimensionnelles et dépendent du temps t1-t2.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
30
Corrélation, autocorrélation... Processus aléatoires
• Exemple
Signal sinusoïdal à phase aléatoire
R t t E X t X t
E a t u a t u
Ea
t t u t t
xx ( , ) [ ( ) ( )]
[ cos( ) cos( )]
[²
(cos( ( ) ) cos( ( )))]
*1 2 1 2
1 2
1 2 1 222
R t ta
t txx ( , )²
cos( ( ))1 2 1 22
u étant une variable aléatoire uniformément répartie, la moyenne du premier terme est nulle. (Voir la densité de probabilité du signal sinusoidal à phase aléatoire) On obtient
C’est une fonction périodique, ne dépendant que de l’écart t1-t2. Pour t1=t2, on retrouve la variance du processus aléatoire.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
31
2-4 Stationnarité, ergodicité
• Processus stationnaire aus sens strict
Les propriétés statistiques sont invariantes dans le temps
Les statistiques du second ordre ne dépendent plus que de l’écart =t1-t2
Densité conjointe du second ordre
Autocorélation
Pour un processus réel
f a b t t f a bXX ( , , , ) ( , , )1 2
R t t RXX XX( , ) ( )1 2
R RXX XX( ) ( )
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
32
Stationnarité, ergodicité
• Processus stationnaire (au sens large)
Espérance mathématique constante
Autocorrélation dépendante de =t1-t2
Symétrie hermitique
Stationnaire au sens strict
Stationnaire au sens large
L’inverse n’est pas vrai
• Fonction d’autocorrélation bornée par la puissance moyenne du processus
R RXX XX( ) ( )*
R R RXX XX XX( ) ( ) ( )0 0
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
33
Stationnarité, ergodicité
• Processus ergodique au sens strict
Moments statistisques =
Moments temporels
• Processus ergodique (au sens large)
Egalité des Moyennes statistiques et temporelles ainsi que des fonctions d’autocorrélation
Moyenne
E X t X t f x t dx
mT
X t u dt X t u
X
xT
i iT
T
[ ( )] ( ) ( , )
lim ( , ) ( , )/
/
1
2
2
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
34
Stationnarité, ergodicité
R E X t X t
TX t u X t u dt
X t u X t u
XX
Ti i
T
T
i i
( ) [ ( ) ( )]
lim ( , ) ( , )
( , ) ( , )
*
*
/
/
*
1
2
2
Fonctions d’autocorrélation statistique et temporelle
• Ergodique (au sens large)Stationnaire (au sens large)
L’inverse n’est pas vrai.
• Signaux stationnaires ergodiquesEstimation des paramètres statistiques à partir des paramètres temporels
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
35
2-5 Densité spectrale
• Signaux déterministes
Transformée de Fourier
Module et phase
Interprétation fréquentielle
• Signaux aléatoires
Transformée de Fourier ????
(oui, mais pour une réalisation X(t,ui) )
• Exemple Signal sinusoïdal à phase aléatoire
X(t,u)=a sin(ft+u)
Intuitivement:
Une fréquence f d’amplitude a.
Quelle phase ? elle est aléatoire.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
36
Densité spectrale
• Contenu fréquentiel des processus aléatoires défini par l’énergie ou la puissance (carré de l’amplitude)
Densité spectrale d’énergie ou de puissance
• Représentation de la répartition de l’énergie ou de la puissance d’un signal en fonction de la fréquence
• Intuitivement: relation entre densité spectrale et spectre (transformée de Fourier) pour les signaux déterministes ???
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
37
Densité spectrale
• Signaux à énergie finie
Densité spectrale d’énergie (DSE)
S f X fxx ( ) ( ) ²Fonction réelle. Fonction paire si le signal est réel
DSE = Transformée de Fourier de la fonction d’autocorrélation temporelle
R S fxxF
xx( ) ( )
Dimension V²s/Hz ou A²s/Hz
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
38
Densité spectrale
Energie du signal
E x t dt X f df
R S f df
x
xx xx
( ) ² ( ) ²
( ) ( )0
Transformée de Fourier inverse de la DSESxx(f) est bien une densité spectrale
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
39
Densité spectrale• Signaux à puissance finie
Densité spectrale de puissance (DSP)
Transformée de Fourier de la fonction d’autocorrélation temporelle
R S f
R j f d
xxF
xx
xx
( ) ( )
( ) exp( )
2
Dimension V²/Hz ou A²/Hz
S fT
X fxxT
T( ) lim ( ) ²
1
!Relation avec la transformée de Fourier
T.F. de x(t) limité à une durée T
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
40
Densité spectrale• Puissance du signal
R P S f dfxx x xx( ) ( )0
Sxx(f) est bien une densité de puissance
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
41
Densité spectrale
• Processus aléatoire stationnaire
Densité spectrale de puissance(Théorème de Wiener-Khintchine)
Transformée de Fourier de la fonction d’autocorrélation statistique
S f R j f dXX XX( ) ( ) exp( )
2
• Processus aléatoire ergodique
Estimation de la fonction d’autocorrélation statistique donc de la DSP à partir de la fonction d’autocorrélation temporelle des réalisations disponibles du processus aléatoire.
Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE
42
Densité spectrale• Exemple: Signal sinusoïdal à phase
aléatoire
Autocorrélation statistique (transp.30):
Ra
fxx ( )²
cos( ) 2
2 0
S fa
f f f fXX ( )²[ ( ) ( )]
4 0 0
Autocorrélation temporelle (pour une réalisation donnée ui de la phase) (T=1/f0 )
Densité spectrale de puissance
RT
x t x t dt
af
xxT
T
( ) ( ) ( )
²cos( )
*
/
/
1
22
2
2
0
x t u a f t ui i( , ) sin( ) 2 0
Le signal est donc ergodique (au sens large)