Traitement du Sigal - 3TC Transparents C. Odet, Prof. GE 39 2 - Introduction au traitement des signaux aléatoires Introduction Processus aléatoire Corrélation,

Traitement du Sigal - 3TCTransparents C. Odet, Prof. GE

1

2 - Introduction au traitement des signaux aléatoires

• Introduction

• Processus aléatoire

• Corrélation, autocorrélation...

• Stationnarité, ergodicité

• Densité spectrale


2

2-1 Introduction

• Signaux aléatoires : bruit électronique, le signal de parole...

• Signal déterministe information

Quand on connaît le passé, la probabilité d’apparition d’un niveau donné à l’instant t est soit nulle, soit certaine (=1).

• L’information est liée à un certain degré d’incertitude, d’aléatoire.

• Signal déterministe formule définissant parfaitement le signal.

• Signal aléatoire paramètres statistiques définissant les POSSIBILITES d’évolution du signal.

Valeur future exacte du signal


3

Introduction

• Paramètres statistiques d’un signal aléatoire:

– Moyenne, variance, autocorrélation, moments, ...

• Ces paramètres peuvent être eux mêmes aléatoires (non stationnaire)

– exemple: le signal de parole


4

Introduction

• L’ «astuce» du temps différé:

– on enregistre et on rejoue le signal.

– le signal n’est plus aléatoire. Il est parfaitement connu.

• Oui, mais....

– traitement en temps réel, futur inconnu

– généraliser un traitement à des signaux futurs «presques» identiques à ceux que l’on posséde déjà

Le passé ne permet pas de déterminer complètement l’avenir.


5

Introduction

• Signal aléatoire = Bruit

• Exemple

– Transmettre la parole sur des cables d’alimentation secteur 50 Hz

• Le signal important est la parole, c’est un signal aléatoire

• Le bruit génant est déterministe, c’est une sinusoïde à 50 Hz

• Exemple

– Réception d’un signal numérique au bout d’une ligne de transmission

• Le signal numérique est aléatoire

• Le bruit sur la ligne de transmission est aussi aléatoire


6

2-2 Processus aléatoire ou stochastique

• Processus stochastique = famille de fonction aléatoire X(t,u)

• t est une variable réelle (par exemple le temps)

• u est un ensemble d’événements

• t et u peuvent être des variables continues ou discrètes

• X(t,u) peut prendre des valeurs continues ou discrètes, scalaires ou vectorielles.


7

Exemple 1

• Bruit thermique dans un ensemble de résistances R={Ri , i=1,N} de même valeur ohmique

R1

R2

R3

t

t

t

tk

• t est une variable continue, R est une variable discrète• X(t,Ri) est une représentation particulière du processus X(t,R) pour l’événement «Ri a été choisie»


8

Exemple 1 (suite)

• Pour un instant tk donné, X(tk,R) est une variable aléatoire

• Le processus aléatoire prend des valeurs continues, scalaires et réelles.

• Si les signaux étaient numérisés, la variable t deviendrait discrète, ainsi que les valeurs prises par le processus (à cause de la quantification du CAN)

• Une réalisation particulière X(t,Ri) n’est pas un signal déterministe.

• Tous les signaux sont à priori différents, mais le phénomène physique à l’origine du signal est le même pour toutes les résistances

Trouver des lois statistiques communes


9

Exemple 2

• Signal sinusoïdal à phase aléatoire

X t u a t u( , ) cos( ) phase u variable aléatoire uniformément répartie entre 0 et 2

X(t,u)

t

u est à valeur réelle continueX(t,u) est à valeur continue, scalaire et réelleUn signal particulier X(t,ui) est déterministe.


10

Exemple 2 (suite)

• Densité de probabilité de la phase u

f u uu ( ) , , 1

2

Pour un instant donné tk, calcul des moments statistiques de la variable aléatoire X(tk,u)

• Espérance mathématiqueE X t u E X t

f u a t u du

a t u du

k k

u k

k

[ ( , )] [ ( )]

( ) cos( )

cos( )

1

20

• Variance

E X t u E X t

f u a t u dua

k k

u k

[ ( , )] [ ( )]

( ) cos ( )

2 2

2 22

2


11

Exemple 2 (suite)

Pour une valeur particulière ui (événement) de la phase, on peut calculer des paramètres temporels du signal X(t,ui)

• Moyenne temporelle

E X t u X u

Ta t u dt

i i

iT

T

[ ( , )] ( )

cos( )/

/

1

02

2

( )T 2

• Variance temporelle, carré de la valeur efficace

E X t u X u

Ta t u dt

a

i i

iT

T

[ ( , )] ( )

cos ( )/

/

2 2

2 22

2

21

2

Remarque: On obtient ici des valeurs identiques à l’éspérance et à la variance statistiques


12

Caractérisation d’un processus aléatoire. Lois de probabilité.

• Statistiques du premier ordre

– Fonction de répartition et densité de probabilité pour un tk donné

F x t prob X t u x et

f x tF x t

x

X k k

X kX k

( , ) ( ( , ) )

( , )( , )

E X t X t f x t dxnk

nk X k[ ( )] ( ) ( , )

• L’éspérance mathématique (n=1) et les moments d’ordre supérieur sont définis par

Remarque: Les moments peuvent dépendre de tk


13

Exemple: Processus gaussien• Un processus, ou signal, ou bruit,

gaussien posséde une densité de probabilité définie par une loi normale

f x tx m

X k( , ) exp(( )

) 1

2

1

22

2

2

m étant la moyenne et l’écart-type

=1m=0


14

Exemple: processus gaussien La densité de probabilité représente la

statistique des amplitudes du signal à un instant donné, pour l’ensemble des

réalisations possibles du processus. L’allure temporelle des réalisations d’un processus gaussien ne ressemble pas forcément à un

bruit comme ci dessous.


15

Exemple: signal sinusoïdal à phase aléatoire

La phase ayant une densité de probabilité uniforme, les statistiques ne dépendent pas de l’instant tk.Par commodité on se place à tk=T/2=0.5 T

X t u a t u( , ) cos( )

On cherche la fonction de répartitionFX(x1) = FX(0.5 T,u) = Prob ( X(0.5 T,u) < x1)C’est à direFX(x1) = Prob (u > -arcos(-x1 /a) et

u < arcos(-x1 /a) )

x1

a

T


16

Exemple: signal sinusoïdal à phase aléatoire (suite)

C’est à dire

F x f u duX ux

a

x

a( ) ( )arcos( )

arcos( )

1 1

1

F xx a

X ( )arcos( / )

111

La densité de probabilité s’obtient par dérivation de la fonction de répartition

f xa xX ( )

( ² ²)

1

a-ax


17

Caractérisation des processus aléatoires

• Statistique du deuxième ordre

– Relation entre les statistiques prises à deux instants t1 et t2 différents

– On considère deux variables aléatoires

X(t1,u) et X(t2,u)

• Fonction de répartition conjointeF a b t t prob X t a X t bXX ( , , , ) ( ( ) , ( ) )1 2 1 2

f a b t tF a b t t

a bXXXX( , , , )

( , , , )1 2

21 2

• Densité de probabilité

F a b t t F a t F b t

f a b t t f a t f b tXX X X

XX X X

( , , , ) ( , ) ( , )

( , , , ) ( , ) ( , )1 2 1 2

1 2 1 2

• Si les deux variables aléatoires sont indépendantes (Ce qui se passe à t1 ne dépend pas de ce qui se passe à t2)


18

2-3 Corrélation, Autocorrélation...

• Signaux déterministes

– Signaux à énergie finie

– Signaux à puissance finie

Mesure de ressemblance

Autocorrélation temporelle

• Processus aléatoires

Statistique du second ordre

Caractérisation fréquentielle

des signaux aléatoires (Densité spectrale)

Autocorrélation statistique


19

Corrélation, autocorrélation...Signaux à énergie finie

• Energie d’un signal continu ou discret

• Signaux transitoires

• Signaux de durée finie

• Existence de la transformée de Fourier

Dans la réalité, en pratique, tous les signaux sont à énergie finie.

Exemples:

x(t) = Rect(t) énergie finie

x(t) = a constant n’est pas à énergie finie

x(t) = V sin(2ft) n’est pas à énergie finie

E x t dt E x kx xk

( ) , [ ]2 2


20

Corrélation, autocorrélation... Signaux à énergie finie

• Autocorrélation temporelle

• Si x(t) est réel, l’autocorrélation est réelle

• Dimension V²/Hz ou A²/Hz

• Analogie avec la convolution

• C’est un produit scalaire, projection de x*(t) sur x(t) décalé de

• Pour = 0, on retrouve l’énergie du signal

Rxx(0) = Ex

• Rxx() est maximale en =0. Rien ne ressemble plus au signal que lui-même.

R x t x t dt

R j x k x k j

xx

xxk

( ) ( ) ( ) ,

[ ] [ ] [ ]

*

*


21


• L’autocorrélation posséde la propriétés de symétrie hermitique

Si le signal est réel, l’autocorrélation est donc réelle est paire.

• Exemple

x(t) = Rect (t/T) Rxx()=T Tri(/T)

R R R j R jxx xx xx xx( ) ( ) , [ ] [ ]* *

T/2-T/2

1

Rect(t/T)

T-T

T

Rxx()

t


22


• Intercorrélation

• Symétrie hermitique

(Attention à l’inversion de x et y dans le deuxième membre des équations)

• Mesure du degrè de ressemblance entre deux signaux en fonction d’un décalage

• Projection de x(t) sur y(t+), produit scalaire

R x t y t dt

R j x k y k j

xy

xyk

( ) ( ) ( ) ,

[ ] [ ] [ ]

*

*

R R R j R jxy yx xy yx( ) ( ) , [ ] [ ]* *


23


• Exemple d’intercorrélation

x(t) y(t)

t t-T/2 T/2-T

T

-3T/2

3T/2

1 1

-1

T/2

-T/2

-T

T

Rxy()

Le signal x(t) ressemble le plus à y(t) aux instants -T/2 et T/2. En =0, x(t) ne ressemble pas du tout à y(t) (ils sont orthogonaux, produit scalaire nul).


24

Corrélation, autocorrélation... Signaux à puissance finie

• Approximation de signaux réels

• Exemples

– Signal continu x(t)=a

– Signal sinusoïdal x(t)=V Sin(2ft)

– Signaux aléatoires, signaux périodiques, impulsion de Dirac, échelon unité...

• Puissance finie

• Signal à énergie finie = puissance nulle

• Signal à puissance finie = énergie infinie

PT

x t dt

PN

x k

xT

T

T

xN k N

N

lim ( ) ,

lim [ ]

/

/1

1

2

2

2

2

21


25


• Autocorrélation temporelle, intercorrélation

Problème de convergence des intégrales et des sommes

• Notation

• Dimensions: V² ou A²

• Autocorrélation: y(t)=x(t) dans les formules précédentes

1N

Nk

*

Nxy

2/T

2/T

*

Txy

]jk[y]k[xN2

1lim]j[R

,dt)t(y)t(xT

1lim)(R

R x t y t

R j x k y k j

xy

xy

( ) ( ) ( ) ,

[ ] [ ] [ ]

*

*


26


• Autocorrélation des signaux périodiques

Le calcul sur une seule période suffit

L’autocorrélation d’un signal périodique est elle même périodique.

Par définition, le signal périodique ressemble parfaitement à lui même, décalé d’une ou plusieurs périodes.

RT

x t x t dt

R jN

x k x k j

xxT

T

xxk O

N

( ) ( ) ( ) ,

[ ] [ ] [ ]

*

/

/

*

1

12

2

1


27

Corrélation, autocorrélation... Processus aléatoires

• On peut calculer l’autocorrélation temporelle sur une réalisation X(t,ui) d’un processus aléatoire. On se retrouve alors dans le cas précédent.

CE N’EST PAS CE QUI NOUS INTERESSE ICI !!!

• On cherche une définition au sens statistique.

Observation d’un processus aléatoire X(t,u) à deux instant t1 et t2. Statistique du second ordre, moment conjoint

Autocorrélation statistique

R t t E X t X txx ( , ) [ ( ) ( )]*1 2 1 2


28


R t t ab f a b t t da dbxx xx( , ) ( , , , )1 2 1 2

• Dans le cas d’un processus réel continu

• Fonction d’autocovarianceMoment conjoint des variables aléatoires centrées X(t1)-mx(t1) et X(t2)-mx(t2),mx(t) moyenne du processus aléatoire à l'instant t

C t t R t t m t m txx xx x x( , ) ( , ) ( ) ( )*1 2 1 2 1 2

• Quand t1=t2, on obtient la variance du processus aléatoire en t1.

C t t txx x( , ) ( )1 12

1


29


• Remarques:

1) On obtient des fonctions bidimensionnelles des variables t1 et t2. Dans le cas d’un processus échantillonné discret, on obtiendra des matrices d’autocorrélation et d’autocovariance.

2) Si ces fonctions ne dépendent que de l’écart temporel t1-t2, les fonctions d'autocorrélation et d'autocovariance sont monodimensionnelles et dépendent du temps t1-t2.


30


• Exemple

Signal sinusoïdal à phase aléatoire

R t t E X t X t

E a t u a t u

Ea

t t u t t

xx ( , ) [ ( ) ( )]

[ cos( ) cos( )]

[²

(cos( ( ) ) cos( ( )))]

*1 2 1 2

1 2

1 2 1 222

R t ta

t txx ( , )²

cos( ( ))1 2 1 22

u étant une variable aléatoire uniformément répartie, la moyenne du premier terme est nulle. (Voir la densité de probabilité du signal sinusoidal à phase aléatoire) On obtient

C’est une fonction périodique, ne dépendant que de l’écart t1-t2. Pour t1=t2, on retrouve la variance du processus aléatoire.


31

2-4 Stationnarité, ergodicité

• Processus stationnaire aus sens strict

Les propriétés statistiques sont invariantes dans le temps

Les statistiques du second ordre ne dépendent plus que de l’écart =t1-t2

Densité conjointe du second ordre

Autocorélation

Pour un processus réel

f a b t t f a bXX ( , , , ) ( , , )1 2

R t t RXX XX( , ) ( )1 2

R RXX XX( ) ( )


32

Stationnarité, ergodicité

• Processus stationnaire (au sens large)

Espérance mathématique constante

Autocorrélation dépendante de =t1-t2

Symétrie hermitique

Stationnaire au sens strict

Stationnaire au sens large

L’inverse n’est pas vrai

• Fonction d’autocorrélation bornée par la puissance moyenne du processus

R RXX XX( ) ( )*

R R RXX XX XX( ) ( ) ( )0 0


33


• Processus ergodique au sens strict

Moments statistisques =

Moments temporels

• Processus ergodique (au sens large)

Egalité des Moyennes statistiques et temporelles ainsi que des fonctions d’autocorrélation

Moyenne

E X t X t f x t dx

mT

X t u dt X t u

X

xT

i iT

T

[ ( )] ( ) ( , )

lim ( , ) ( , )/

/

1

2

2


34


R E X t X t

TX t u X t u dt

X t u X t u

XX

Ti i

T

T

i i

( ) [ ( ) ( )]

lim ( , ) ( , )

( , ) ( , )

*

*

/

/

*

1

2

2

Fonctions d’autocorrélation statistique et temporelle

• Ergodique (au sens large)Stationnaire (au sens large)

L’inverse n’est pas vrai.

• Signaux stationnaires ergodiquesEstimation des paramètres statistiques à partir des paramètres temporels


35

2-5 Densité spectrale

• Signaux déterministes

Transformée de Fourier

Module et phase

Interprétation fréquentielle

• Signaux aléatoires

Transformée de Fourier ????

(oui, mais pour une réalisation X(t,ui) )

• Exemple Signal sinusoïdal à phase aléatoire

X(t,u)=a sin(ft+u)

Intuitivement:

Une fréquence f d’amplitude a.

Quelle phase ? elle est aléatoire.


36

Densité spectrale

• Contenu fréquentiel des processus aléatoires défini par l’énergie ou la puissance (carré de l’amplitude)

Densité spectrale d’énergie ou de puissance

• Représentation de la répartition de l’énergie ou de la puissance d’un signal en fonction de la fréquence

• Intuitivement: relation entre densité spectrale et spectre (transformée de Fourier) pour les signaux déterministes ???


37

Densité spectrale

• Signaux à énergie finie

Densité spectrale d’énergie (DSE)

S f X fxx ( ) ( ) ²Fonction réelle. Fonction paire si le signal est réel

DSE = Transformée de Fourier de la fonction d’autocorrélation temporelle

R S fxxF

xx( ) ( )

Dimension V²s/Hz ou A²s/Hz


38

Densité spectrale

Energie du signal

E x t dt X f df

R S f df

x

xx xx

( ) ² ( ) ²

( ) ( )0

Transformée de Fourier inverse de la DSESxx(f) est bien une densité spectrale


39

Densité spectrale• Signaux à puissance finie

Densité spectrale de puissance (DSP)

Transformée de Fourier de la fonction d’autocorrélation temporelle

R S f

R j f d

xxF

xx

xx

( ) ( )

( ) exp( )

2

Dimension V²/Hz ou A²/Hz

S fT

X fxxT

T( ) lim ( ) ²

1

!Relation avec la transformée de Fourier

T.F. de x(t) limité à une durée T


40

Densité spectrale• Puissance du signal

R P S f dfxx x xx( ) ( )0

Sxx(f) est bien une densité de puissance


41

Densité spectrale

• Processus aléatoire stationnaire

Densité spectrale de puissance(Théorème de Wiener-Khintchine)

Transformée de Fourier de la fonction d’autocorrélation statistique

S f R j f dXX XX( ) ( ) exp( )

2

• Processus aléatoire ergodique

Estimation de la fonction d’autocorrélation statistique donc de la DSP à partir de la fonction d’autocorrélation temporelle des réalisations disponibles du processus aléatoire.


42

Densité spectrale• Exemple: Signal sinusoïdal à phase

aléatoire

Autocorrélation statistique (transp.30):

Ra

fxx ( )²

cos( ) 2

2 0

S fa

f f f fXX ( )²[ ( ) ( )]

4 0 0

Autocorrélation temporelle (pour une réalisation donnée ui de la phase) (T=1/f0 )

Densité spectrale de puissance

RT

x t x t dt

af

xxT

T

( ) ( ) ( )

²cos( )

*

/

/

1

22

2

2

0

x t u a f t ui i( , ) sin( ) 2 0

Le signal est donc ergodique (au sens large)

Documents

Traitement du Sigal - 3TC Transparents C. Odet, Prof. GE 39 2 - Introduction au traitement des signaux aléatoires Introduction Processus aléatoire Corrélation,