You are on page 1of 134

,

i
ii
Prelucrarea statistica a informatiei
Indrumar de laborator

Corneliu FLOREA Laura FLOREA

5 octombrie 2010
ii
Cuprins

1 Introducere n Matlab 3
1.1 Matlab - Scurt a prezentare . . . . . . . . . . . . . . . . . . . 3
1.2 Detalii de implementare . . . . . . . . . . . . . . . . . . . . . 4
1.2.1 Interfata cu utilizatorul . . . . . . . . . . . . . . . . . 4
1.2.2 Tipuri de date . . . . . . . . . . . . . . . . . . . . . . 4
1.2.3 Instructiuni de baz a . . . . . . . . . . . . . . . . . . . 4
1.2.4 Help n Matlab . . . . . . . . . . . . . . . . . . . . . . 5
1.2.5 Functii . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.6 Vectori si matrice . . . . . . . . . . . . . . . . . . . . . 7
1.2.7 Operatii cu matrice . . . . . . . . . . . . . . . . . . . 8
1.2.8 Grafica n Matlab . . . . . . . . . . . . . . . . . . . . 8
1.3 Desf asurarea lucrarii . . . . . . . . . . . . . . . . . . . . . . . 10
1.3.1 Vectori si functii . . . . . . . . . . . . . . . . . . . . . 10
1.3.2 Variabile aleatoare - recapitulare . . . . . . . . . . . . 12
1.4 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 16

2 Studiul variabilelor aleatoare 17


2.1 Variabile aleatoare . . . . . . . . . . . . . . . . . . . . . . . . 17
2.2 Principiul invers arii functiei de repartitie . . . . . . . . . . . . 20
2.2.1 Exemple . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2.3 Histograma si histograma cumulativ a. . . . . . . . . . . . . . 24
2.4 Desfasurarea lucrarii . . . . . . . . . . . . . . . . . . . . . . . 27
2.5 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 32

3 Perechi de variabile aleatoare 35


3.1 Caracterizarea statistic a de ordinul II . . . . . . . . . . . . . 35
3.2 Dreapta de regresie . . . . . . . . . . . . . . . . . . . . . . . . 38
3.3 Desf
asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 41
3.4 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 45

4 Transformata Fourier 47
4.1 Transformata Fourier continu a . . . . . . . . . . . . . . . . . 47
4.2 Transformata Fourier discret a . . . . . . . . . . . . . . . . . . 49
4.3 Desf
asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 54
4.4 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 60

iii
CUPRINS

5 Semnale aleatoare 61
5.1 Caracterizarea semnalelor aleatoare . . . . . . . . . . . . . . . 61
5.1.1 Stationaritatea semnalelor aleatoare . . . . . . . . . . 63
5.1.2 Ergodicitatea semnalelor aleatoare . . . . . . . . . . . 63
5.2 Teorema Wiener-Hincin . . . . . . . . . . . . . . . . . . . . . 64
5.2.1 Functia de autocorelatie . . . . . . . . . . . . . . . . . 64
5.2.2 Densitatea spectral a de putere . . . . . . . . . . . . . 65
5.3 Trecerea semnalelor aleatoare prin sistemeliniare . . . . . . . 66
5.4 Desfasurarea lucrarii . . . . . . . . . . . . . . . . . . . . . . . 67
5.5 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 73

6 Detectia statistic a a semnalelor 75


6.1 Detectie n cazul binar. Criteriul lui Bayes . . . . . . . . . . . 76
6.1.1 Particularizare: zgomot alb gaussian de medie nul a . . 77
6.2 Desfasurarea lucrarii . . . . . . . . . . . . . . . . . . . . . . . 80
6.3 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 86

7 Estimarea parametrilor 87
7.1 Estimarea parametrilor n cazul discret . . . . . . . . . . . . . 87
7.1.1 Estimatul maxim a posteriori . . . . . . . . . . . . . . 88
7.1.2 Estimatul p atratic . . . . . . . . . . . . . . . . . . . . 92
7.2 Desfasurarea lucrarii . . . . . . . . . . . . . . . . . . . . . . . 93
7.3 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 99

8 Modele stochastice 101


8.1 Modelul MA . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
8.2 Modelul auto-regresiv (AR) . . . . . . . . . . . . . . . . . . . 103
8.3 Desf
asurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 104
8.4 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 110

9 Tranformate unitare. Compresia semnalelor 111


9.1 Transformate unitare . . . . . . . . . . . . . . . . . . . . . . . 111
9.2 Transformata Karhunen-Loeve . . . . . . . . . . . . . . . . . 112
9.3 Transformata COS . . . . . . . . . . . . . . . . . . . . . . . . 115
9.4 Desfasurarea lucr arii . . . . . . . . . . . . . . . . . . . . . . . 117
9.5 Exercitii si teme propuse . . . . . . . . . . . . . . . . . . . . . 123

Bibliografie 124

A Lista de functii Matlab utilizate 127

1
CUPRINS

2
Lucrarea 1

Introducere n Matlab

1.1 Matlab - Scurt


a prezentare
Matlab-ul este un pachet de programe dezvoltat de firma Mathworks. El
este destinat, n special, etapei de cercetare si testare, implementarea defini-
tiv
a (si eficient
a) fiind l
asat
a pe seama altor medii de dezvoltare cum ar fi
Visual C, Fortran, Java etc.
Din punct de vedere al modului n care trateaz a codul, Matlabul este un
interpretor. Un interpretor presupune expandarea fiec arei linii din progra-
mul surs a n cod executabil.
Numele provine de la mbinarea termenilor englezesti ce denumesc ma-
tricea si laboratorul. Asadar, Matlab-ul este un mediu de dezvoltare n
care unitatea de baz a este matricea.
Rutinele si functiile disponibile n Matlab sunt de dou a tipuri:

built-in - deja compilate. In marea lor majoritate au fost dezvoltate


n Fortran si n C. Aceste rutine implementeaza operatiile matematice
uzuale n calculul matriceal si sunt suficient de optimizate ncat un
program scris ntr-un mediu de dezvoltare uzual (gen Visual C) cu
greu le poate dep asi performantele.

editabile - functii dezvoltate n Matlab ce se bazeaz


a pe rutinele de
tip built-in. In cea mai mare parte a lor urm aresc implementarea
direct
a a diferitilor algoritmi matematici.

S
i totusi de ce Matlab? Per total nu este mai rapid, nu este mai ieftin.
R aspunsul st a n numarul foarte mare de functii matematice disponibile si
n facilit
atile de vizualizare si investigare a datelor.
Pentru evidentierea acestor tr as
aturi s
a consideram un exemplu simplu:
Sa se calculeze suma elementelor unei matrice A.

O implementare n C poate fi:


float s = 0;
for {int i=0; i<nLinii; i++}
for {int j=0; j<nColoane; j++}
s += a[i][j];

3
LUCRAREA 1. INTRODUCERE N MATLAB

Implementarea n Matlab este:


s = sum(a(:));

1.2 Detalii de implementare


1.2.1 Interfata cu utilizatorul
Fereastra principal
a a Matlab-ului contine urm
atoarele sectiuni:

Command window - aici se lucreaz


a n linie de comand
a (similar cu
comenzile din DOS).

Workspace - contine imaginea variabilelor existente la momentul curent


n spatiul de lucru. Valorile stocate n fiecare din aceste variabile se
pot vizualiza prin selectarea lor cu mouse-ul.

Command history - contine nregistr arile comenzilor date anterior.


Utilizarea s
agetii n sus este echivalent
a cu rescrierea comenzii prece-
dente n Command window.

Current directory - contine imaginea directorului curent. Acesta se


poate selecta si dintr-o casuta de dialog plasat
a deasupra Commmand
window-ului.
In plus, Matlab-ul contine un mediu de editare. Trebuie s a preciz am ca n
Matlab se poate lucra at at n linie de comanda c
at si n fisiere de tip .m.
Un fisier de tip .m poate contine o functie sau un script. Un script este
echivalent cu o nsiruire de comenzi n linia de comand a.

1.2.2 Tipuri de date


Tipul de date de baz a n Matlab este double. Orice variabil a nou creat
a este
declarata implicit de tip double si stocat a pe 6 octeti. Pentru acest tip sunt
definite toate operatiile matematice si logice uzuale. Alte tipuri numerice
suportate sunt : integer (cu formele uint8, int8, uint16, int16 ), logical si
complex.
Caracterele literare sunt reprezentate prin tipul char. Tipuri complexe
sunt stucturile (struct) si celulele (cell ).
Pentru a afla detalii suplimentare despre acestea se tasteaz a comanda
magica n Matlab: help urmat a de numele tipului de date.

1.2.3 Instructiuni de baz


a
Instructiuni conditionate:

forma general a a unei expresii de tip if (selectie simpl


a) este:
if expresie
bloc de instructiuni
elseif expresie
bloc de instructiuni
else expresie

4
1.2. Detalii de implementare

bloc de instructiuni
end
forma general a a unei expresii de tip switch (selectie multipl
a)
este:
switch expresie
case caz-expresie
bloc de instructiuni
case caz-expresie
bloc de instructiuni
............
otherwise
bloc de instructiuni
end

Instructiuni repetitive:

forma general a a unei expresii de tip for (ciclu cu numar finit de


pasi ) este:
for variabil a = valoare initial
a : pas : valoare final
a
bloc de instructiuni
end
forma general a a unei expresii de tip while (ciclu cu conditie de
ciclare ) este:
while expresie
bloc de instructiuni
end

Instructiuni de control al codului:

break - forteaz
a terminarea unei instructiuni ciclice (while sau
for ).
continue - paseaz
a controlul iteratiei urm
atoare din instructiunea
ciclic
a curent
a.

1.2.4 Help n Matlab


Exist
a dou
a posibilit
ati de a obtine ajutor n Matlab:

1. Prin linie de comand a -cu ajutorul cuv


antului cheie help scris naintea
numelui unei instructiuni, functii sau tip de date. Dac a ne referim la
a n Matlab atunci se va afisa textul comentat1
o functie ce este scris
ce preced a sau urmeaz a imediat dupa linia ce contine cuvantul cheie
function.

Exemplu: help sum va duce la afisarea secventei:


SUM Sum of elements. For vectors, SUM(X) is the sum of the
elements of X. For matrices, SUM(X) is a row vector with the
sum over each column. For N-D arrays, SUM(X) operates along
1
Pentru a comenta o linie se pune procent % la nceputul ei.

5
LUCRAREA 1. INTRODUCERE N MATLAB

the first non-singleton dimension.

SUM(X,DIM) sums along the dimension DIM.

Example: If X = [0 1 2
3 4 5]

then sum(X,1) is [3 5 7] and sum(X,2) is [ 3


12];

See also PROD, CUMSUM, DIFF.

Overloaded methods
help sym/sum.m

Alta comanda util a este lookfor. Aceasta se poate folosi c and se


cauta o functie cu anumite caracteristici, dar nu se cunoaste numele ei
exact. Comanda va afisa toate functiile care n prima linie a help-ului
contin cuv
antul introdus de utilizator si care denumeste caracteristica
dorita.
De exemplu comanda lookfor sum va afisa ceva de tipul (afisarea se
intrerupe cu CTRL+C):
TRACE Sum of diagonal elements.
CUMSUM Cumulative sum of elements.
SUM Sum of elements.
SUMMER Shades of green and yellow colormap.

2. Folosind optinea Help din meniu-ul Matlab-ului se va porni o fereastr


a
cu o alc
atuire tipic
a pentru help-ul programelor care ruleaz
a sub Win-
dows.

1.2.5 Functii
Forma de baz
a - sintaxa
Functiile n Matlab se scriu n fisiere de tip .m. Numele fisierelor de tip .m
trebuie sa nceap
a cu o litera si nu trebuie s a contina spatiu sau alte carac-
tere speciale. Aceste fisiere vor avea, de preferinta, acelasi nume ca si cel al
functiei pe care o contin. O functie scris a n fisierul altei functii este vizibil
a
numai n interiorul functiei n al carei fisier rezidu a. Pentru ca o functie s a
poata fi apelata de la linia de comand a sau din alt fisier, ea trebuie scris a
prima in fisierul de tip .m.
Un fisier care contine o functie are form a standard:
function [VarOut1, VarOut2, ...] = NumeFunct ie (VarIn1, VarIn2,
...);
%bloc de comentarii: acest bloc va fi vizibil
%^
n cazul tast arii help NumeFunct ie.
%Este bine s a existe si s a cont in a o scurt a descriere a funct iei.

6
1.2. Detalii de implementare

BLOC de INSTRUCT
IUNI

Pentru o terminare prematur a a functiei se poate folosi instructiunea re-


turn. Altfel aceast a instructiune nu este necesar a pentru terminarea functiei,
aceasta ncheindu-se la ultima comand a din fisier, sau, dac
a fisierul mai
contine si alte functii, la nceputul urm atoareia.

C
ateva functii uzuale
Se vor prezenta n continuare c ateva functii cu larg
a utilitate n mediul
Matlab. Pentru a afla mai multe detalii despre semnificatia parametrilor
este bine s a se tasteze help urmat de numele functiei. Ideea general a este c
a
functiile se aplic
a unui vector; daca se aplic
a unei matrice operatia respectiva
se va aplica vectorilor coloan a, rezultatul fiind un vector linie.

round, ceil, floor - transform


a valorile reale n valori ntregi (rotun-
jire, m
arire, trunchere);

max - extrage valoarea maxim


a precum si pozitia (indicele) ei n vec-
tor;

min - functioneaz
a similar, dar se refer
a la valoarea minim
a;

mean - returneaz
a valoarea medie a elementelor vectorului;

sort - sorteaz
a n ordine cresc
atoare valorile din vector;

size - ntoarce dimensiunile matricei / vectorului (num


ar de linii,
coloane,...);

sum - suma valorilor vectorului;

prod - produsul valorilor vectorului;

diff - diferenta a dou


a c
ate dou
a elemente consecutive;

fprintf - afiseaz
a un mesaj la consol
a;

input - permite introducerea de la consol


a a unei valori.

1.2.6 Vectori si matrice


Pentru generarea unei matrice se pot folosi urm
atoarele functii sau instructiuni
(un vector poate fi privit ca o matrice cu o singur a linie sau o singur a
coloan
a). Exemplu:
A = [-1 7; 4 12]; B = [2, 6; 5, 2];

scriere explicita - ntre paranteze drepte se scriu elementele: cele de


pe aceeasi linie sunt separate de spatiu sau de virgul a, n timp ce
liniile sunt separate de ;. Elementele unei matrice pot fi la r andul
lor matrice, realiz
andu-se astfel operatia de concatenare (este necesar
a
potrivirea num arului de linii si de coloane).

7
LUCRAREA 1. INTRODUCERE N MATLAB

ones(nLinii,nColoane) - genereaza o matrice de (nLinii,nColoane)


av
and toate valorile egale cu 1.

zeros(nLinii,nColoane) - genereaz
a o matrice de (nLinii,nColoane)
av
and toate valorile egale cu 0.

eye(nLinii) - genereaz
a matricea unitate de dimensiune nLinii.

NumeVector = ValoareInit iala : pas : ValoreaFinal a - genereaz


a
un vector av
and elementele n progresie aritmetic
a (similar cu instructiunea
for).

1.2.7 Operatii cu matrice


In Matlab sunt implementate urm
atoarele operatii aritmetice cu matrice:

adunare matriceal
a: +
Linia C = A+B va afisa C = [1, 13; 9, 14].

sc
adere matriceal
a: -
Linia C = A-B va afisa C = [-3, 1; -1, 10].

nmultire matriceal
a: *
Linia C = A*B va afisa C = [33, 8; 68, 48].

mpartire matriceal
a: /. Aceast
a operatie este echivalent
a cu nmultirea
cu inversa. Inversa unei matrice se calculeaz a cu inv().
Linia C = inv(A) va afisa C = [-0.3000, 0.1750; 0.1000, 0.0250].
Linia C = A*inv(A) va afisa C = [1.0000, 0; 1.0000, 0].

operatii element cu element: Punerea unui punct n fata semnului core-


spunzator unei operatii presupune c a acea operatie se face element cu
element. Astfel exista nmultire scalar
a: .*, mp
artire scalar
a: ./, ridi-
care la putere: ..
Linia C = A.*B va afisa C = [-2, 42; 20, 24].
Linia C = A./B va afisa C = [-0.5000, 1.1667; 0.8000, 6.0000].
Linia C = A.^2 va afisa C = [1, 49; 16, 144].

Operatiile logice uzuale, dac


a se aplic
a unor matrice, se aplic
a element
cu element.

1.2.8 Grafica n Matlab


Pentru vizualizarea grafic a a functiilor unidimensionale se foloseste functia
plot. Alte moduri de vizualizare ale graficelor unidimensionale se obtin prin
utilizarea functiilor bar si stem.
Pentru vizualizarea unei functii definit a pe R2 cu valori n R (al c
arei
grafic este o suprafata) se pot folosi functiile surf sau mesh.
Reprezent arile grafice se afiseaza ntr-o fereastr
a Matlab. O fereastr a
noua se deschide cu ajutorul functiei figure si se nchide cu close. In mod
implicit, fiecare figura contine o singur a zona de desenare. Daca se doreste

8
1.2. Detalii de implementare

afisarea mai multor grafice n cadrul aceleiasi ferestre, n aceeasi zon a se


utilizeaza functia hold. Daca, nsa, se doreste mp
artirea ferestrei n mai
multe zone se vor folosi facilit
atile functiei subplot.

9
LUCRAREA 1. INTRODUCERE N MATLAB

1.3 Desf
asurarea lucr
arii
1.3.1 Vectori si functii
1. Se definesc vectorii linie v1 = [1, 3, 5, 7, 9] si v2 = [7, 3, 8, 1, 2]. S
a se
T
calculeze v1 + v2, v1 v2, v1 v2 , v1. v2. S a se execute aceleasi
operatii cu dou
a matrice A si B de dou a linii si doua coloane.

Rezolvare:
v1 = 1:2:9;
v2 = [7, 3 8 1 -2];
v adun = v1+v2
v scad = v1-v2
v prod = v1*v2
v prodscalar = v1.*v2

2. S
a se genereze o matrice de dimensiunea 2x3 care are valorile de pe
prima linie egale cu 0, iar cele de pe a doua cu -2.

Rezolvare:
A=[zeros(1,3) ; (-2)*ones(1,3)]

3. Se consider a functia f0 (t) = cos(t), unde t [10, 10]. Domeniul de


definitie este discretizat cu pasul 0.05. Sa se deseneze graficul functiei
f0 (t). Aceeasi problem a pentru f1 (t) = sin(t), f2 (t) = tg(t).

Rezolvare:
t = -10:0.05:10;
f = cos(t);
plot(t, f, .k );

Prima observatie este c a functiile uzuale matematice (cum ar fi sin,


cos, tan, exp, log) se aplica element cu element n cazul n care parametru
de intrare este un vector sau o matrice. In cazul de fata, va rezulta
graficul functiei cos ntr-o fereastra Matlab (vezi figura 1.1).
1

0.8

0.6

0.4

0.2

0.2

0.4

0.6

0.8

1
10 8 6 4 2 0 2 4 6 8 10

Figura 1.1: Problema 3: Functia cos.

10
1.3. Desf
asurarea lucr
arii

4. Se consider a functia f0 (t) = cos(t), unde t [2, 2]. S


a se calculeze
si s
a se reprezinte pe acelasi grafic derivata si integrala functiei. S
a se
afle pozitiile trecerilor prin zero ale derivatei.

Rezolvare:
Functia este definit
a pe un suport discret. In acest caz derivata unei
functii continue se aproximeaza cu ajutorul diferentelor finite, iar in-
tegrala se aproximeaz a cu ajutorul sumei cumulative.

t = -2*pi:0.1:2*pi;
f = cos(t);
df = diff(f)/0.1; %aproximarea derivatei - viteza de variat ie
Integf = cumsum(f)*0.1; %aproximarea integralei - aria subgraficului
plot(t, f, k ); %functia
hold on; plot(t(1:end-1), df, b );
% derivata - nu se poate calcula in ultimul pct
plot(t, Integf, r ); % integrala
zero cross = [ ];
%initializam
sirul indicilor pentru trecerile prin zero
for i = 1:length(df)-1
if (df(i)*df(i+1) <= 0)
zero cross = [zero cross i];
end;
end
plot( t(zero cross), zeros(size(zero cross)), *g ), hold off;

Rezultatul grafic al acestui exercitiu se poate vedea n figura 1.2:


1.5

0.5

0.5

1
8 6 4 2 0 2 4 6 8

Figura 1.2: Problema 4: Functia cos, derivata si integrala ei. Pozitiile


intersectiilor graficului derivatei cu abscisa.

Tem a: Explicati de ce trecerile prin zero ale derivatei sunt deviate de la


graficul functiei.

5. S
a se scrie un program (script) care calculeaz
a n! (n factorial). Val-

11
LUCRAREA 1. INTRODUCERE N MATLAB

oarea lui n se citeste de la tastatur a (folosind functia input), iar rezul-


tatul se afiseaz
a la consol a (afisarea se poate face cu functia fprintf
sau nepun and ; la sfarsitul liniei n care se calculeaza n!).

Rezolvare:
n = input( introduceti n: );
m = 1:n;
nfact = prod(m);
fprintf( valoare ceruta este n! = %d ,nfact);

6. Fie un sistem de 2 ecuatii cu 2 necunoscute dat prin relatia matriceal


a
: Ax = b. Matricea A precum si vectorul b se introduc de tastatur a
(sunt date). S
a se rezolve acest sistem.

Indicatie:
a de relatia x = A1 b. Sistemul are solutie
Solutia sistemului este dat
dac
a determinantul det(A) este nenul.

1.3.2 Variabile aleatoare - recapitulare


In aceast a sectiune vom reaminti densit
atile de probabilitate si functiile de
repartitie a c
atorva tipuri uzuale de variabile aleatoare continue.

1. Variabila aleatoare distribuit


a uniform n intervalul [a, b]:

Densitatea de probabilitate (vezi figura 1.3):


1

ba , dac a x [a, b]
w (x)b,a = (1.1)
0 , n rest

Functia de repartitie:

0 , dac
a x (, a)
xa
F (x)b,a = ba , dac
a x [a, b] (1.2)
1 , dac
a x (b, +)

2. Variabila aleatoare distribuit


a gaussian:

Densitatea de probabilitate (vezi figura 1.4):

(x )2
 
1
w (x), = exp , dac
axR (1.3)
2 2 2

Functia de repartitie nu poate fi exprimat


a analitic.

3. Variabila aleatoare distribuit


a exponential:

12
1.3. Desf
asurarea lucr
arii

w
0.35

uniforma in [4, 7]
0.3

0.25

0.2 uniforma in [3, 3]

0.15

0.1

0.05

0
6 4 2 0 2 4 6 8 10

Figura 1.3: Densitatea de probabilitate a unei variabile aleatoare distribuita


uniform. Particularizare pentru doua seturi de valori ale intervalului [a,b].

w
0.04

0.035

0.03 Gaussiana cu
= 10 si = 20

0.025

0.02

0.015

0.01 Gaussiana cu
= 0 si = 30

0.005

0
100 80 60 40 20 0 20 40 60 80 100

Figura 1.4: Densitatea de probabilitate a unei variabile aleatoare distribuit


a
gaussian pentru diferite valori ale parametrilor. Se arata ca este media,
n timp ce este dispersia variabilei aleatoare.

Densitatea de probabilitate (vezi figura 1.5):



exp (x) , dac a x (0, +)
w (x) = (1.4)
0 , n rest

unde este parametru real pozitiv.

4. Variabila aleatoare distribuit


a Rayleigh:

Densitatea de probabilitate (vezi figura 1.6):


!
x x2
exp 2 , dac ax0

w (x) = 2 2 (1.5)

0 ,n rest.

13
LUCRAREA 1. INTRODUCERE N MATLAB

w
2

1.8

1.6

1.4
exponentiala de parametru 2
1.2

0.8

0.6

0.4 exponentiala de parametru 1/2

0.2

0
2 0 2 4 6 8 10

Figura 1.5: Densitatea de probabilitate a unei variabile aleatoare distribuit


a
exponential. Particularizare pentru diferite valori ale parametrului .

1.2

1
Rayleigh de parametru 1/2

0.8

0.6

0.4

Rayleigh de parametru 2
0.2

0
2 0 2 4 6 8 10

Figura 1.6: Densitatea de probabilitate a unei variabile aleatoare distribuit


a
dup
a o lege Rayleigh. Particularizare pentru diferite valori ale parametrului
.

Va propunem, n continuare, s a scrieti pentru fiecare tip de variabil a


aleatoare cate o functie care accepta drept intr arii parametri variabilei aleatoare,
afiseaz
a pe acelasi grafic densitatea de probabilitate si functia de repartitie
si prezinta la iesire valorile densit
atii de probabilitate.

Exemplu de rezolvare. Se va considera cazul variabilei Gaussiene. Apar


c
ateva probleme din cauza faptului c a se lucreaz a ntr-un spatiu discret.
Desi teoretic acest tip de variabil
a aleatoare este definit a pe toat
a multimea
numerelor reale, practic acest lucru este imposibil de realizat, asa c a vom
restr
ange studiul la un domeniu finit (un interval finit, discretizat). Asa
cum s-a precizat, nu este posibil a o scriere analitic
a a functiei de repartitie.
In practica ns
a se pot determina valori numerice ce aproximeaz a punctele
acesteia. Tin andu-se seama de relatia dintre functia de repartitie si densi-
tatea de probabilitate se va aproxima integrala celei din urm a.

14
1.3. Desf
asurarea lucr
arii

function [w]=gauss var(mu,sigma,dom min,dom max);


x=dom min:1:dom max;
w=(1/(sigma*sqrt(2*pi)))*exp(-(x-mu).^2/(2*sigma^2));
F=cumsum(w); %functia de repartit ie

subplot(1,2,1);plot(x , w, k )

subplot(1,2,2);plot(x , F, b );

Aceast a ntr-un fisier denumit gauss var.m. Pentru a


a functie se salveaz
se apela se tasteaz a urmatoarele n linia de comand a:

dom min = -100;


dom max = 100;
mu = -15;
sigma = 25;
w = gauss var(mu,sigma,dom min,dom max);

Rezultatul grafic al secventei de cod se poate vedea n figura 1.7.


w F
0.016 1

0.9
0.014

0.8
0.012
0.7

0.01
0.6

0.008 0.5

0.4
0.006

0.3
0.004
0.2

0.002
0.1

0 0
100 75 50 25 0 25 50 75 100 100 75 50 25 0 25 50 75 100

Figura 1.7: Densitatea de probabilitate si functia de repartitie a unei vari-


abile gaussiene.

Tem a: Alegerea altui pas de discretizare a domeniului (absciselor) va duce


la rezultate ciudate (functia de repartitie va lua valori n afara intervalului [0, 1]).
Explicati de ce si modificati programul astfel ncat sa rezolvati problema.

15
LUCRAREA 1. INTRODUCERE N MATLAB

1.4 Exercitii si teme propuse


1. Ce este un interpretor?

2. Care este diferenta dintre functia surf si functia mesh?

3. Cum se poate genera o matrice ce are valorile de pe fiecare linie egale


cu indexul liniei?

4. Cum se pot afla punctele de extrem locale ale unei suprafete stocat
a
sub forma unei matrice? Dar punctele sa (acele puncte care sunt de
maxim pe o directie si de minim pe alta)?

5. Sa se scrie o functie care calculeaz


a r
ad
acinile unei functii date. Par-
ticularizare pentru f1 (x) = x5 + x3 + 1, f2 (x) = sin(x) + cos(x),
f3 (x) = sinc(x).

6. S a Cnk .
a se scrie o functie care calculeaz

16
Lucrarea 2

Studiul variabilelor aleatoare

2.1 Variabile aleatoare


Variabila aleatoare este o functie definit a pe multimea realiz arilor partic-
ulare ale unui experiment - cu valori reale. Este o metod a de a mod-
ela matematic (adic a de a putea conferi propriet ati si formule concrete) o
notiune abstract a (cum sunt evenimentele rezultate dintr-un experiment).
Matematic, o variabil a aleatoare se caracterizeaz a complet prin functia
sa de repartitie sau, echivalent, prin densitatea sa de probabilitate. Aceast a
functie poate fi, n unele cazuri, o cunostinta prea puternic a: pentru a de-
termina o functie trebuie cunoscute valorile ei n toate punctele n care este
definit a, ceea ce, uneori, este imposibil de obtinut. In acest caz solutia
este oferit a de un set (teoretic infinit, practic finit) de valori numerice care
surprind diferite particularit ati ale ei. Acestea sunt momentele statistice.
Relatia dintre densitatea de probabilitate si momentele statistice este simi-
lara cu aproximarea unui cerc printr-un poligon cu num ar din ce n ce mai
mare de laturi. Momentele statistice de ordin mic relev a informatii despre
trasaturile de baz a ale densitatii de probabilitate; similar, un poligon cu
putine laturi surprinde informatiile esentiale de m arime ale cercului pe care
l aproximeaz a. Momentele statistice de ordin superior prezint a detalii din
ce n ce mai putin semnificative ale densit atii de probabilitate, la fel cum
ad augarea de noi laturi mbun at
ateste cu putin forma estimat a a cercului.
In continuare vom reaminti c ateva definitii si propriet ati importante
legate de caracterizarea variabilelor aleatoare.

Fie spatiul realiz


arilor particulare ale unui experiment si fie o vari-
abil
a aleatoare: : R. Atunci:

Functia de repartitie se defineste ca fiind:

F (x) = P ( x) (2.1)

Propriet
atile functiei de repartitie sunt:

Codomeniul este [0, 1]. Aceast a proprietate este o consecinta di-


rect
a a faptului c
a functia de repartitie ntr-un punct este o pro-
babilitate.

17
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

Valoarea la :

F () = P ( ) = 0 (2.2)

Variabila aleatoare ia valori reale; nici un num ar real nu este mai


mic dec at . O propozitie echivalent a este: probabilitatea de
aparitie a unui numar mai mic dec at este nul a.
Valoarea la +:

F (+) = P ( +) = 1 (2.3)

Probabilitatea ca variabila aleatoare s a ia valori ntr-un interval


este:
P ( (x1 , x2 ]) = F (x2 ) F (x1 ) (2.4)
Functia de repartitie este cresc
atoare:

dac
a x1 < x2 F (x1 ) F (x2 ) (2.5)
Relatia 2.5 este echivalent
a cu a arata c
a diferenta F (x2 )F (x1 )
nu este negativ a. Aceasta diferenta este chiar probabilitatea ca
variabila aleatoare s a ia valori n intervalul (x1 , x2 ] care este o
cantitate nenegativ a.

Densitatea de probabilitate se defineste ca fiind:


dF (x)
w (x) = (2.6)
dx
Aceast
a relatie, privit
a invers, permite calculul functiei de repartitie
din densitatea de probabilitate:
Z x
F (x) = w (u)du (2.7)

Propriet
atile unei densit
ati de probabilitate sunt:

Relatia 2.4 se poate scrie si pentru densitatea de probabilitate:


Z x2
P ( (x1 , x2 ]) = w (x)dx (2.8)
x1

La limit
a se obtine conditia de normare:
Z +
w (x)dx = 1 (2.9)

Pentru o variabil a aleatoare continu a valoarea densit


atii de pro-
babilitate ntr-o vecinatate infinitezimala a unui punct d a o idee
despre sansa ca variabila aleatoare considerat a s
a ia valori n in-
tervalul (vecin atatea) respectiv. Conditia de normare poate fi
formulata si astfel: Probabilitatea ca variabila aleatoare s a ia o
valoare din R este 1.

18
2.1. Variabile aleatoare

Daca variabila aleatoare este continu a, atunci functia sa de repartitie


si densitatea sa de probabilitate vor fi functii continue. Dac a
variabila aleatoare este discret a atunci functia de repartitie este
o functie n trepte, iar densitatea de probabilitate este o suma de
impulsuri Dirac (va ap area c
ate un impuls Dirac n fiecare punct
al codomeniului variabilei aleatoare).

Momentul necentrat de ordin k se defineste ca fiind:


Z +
(k)
m = xk w (x)dx (2.10)

Cele mai folosite sunt momentele necentrate de ordinul 1 si 2.

Momentul necentrat de ordinul 1 se numeste media variabilei


aleatoare: Z +
(1)
m = = xw (x)dx (2.11)

Daca consider
am subgraficul densit atii de probabilitate ca fiind
un obiect de grosime constanta, atunci media ne va indica abscisa
centrului de greutate al acestui obiect.
Momentul necentrat de ordinul 2 se numeste medie p
atratic
a:
Z +
(2)
m = = 2 x2 w (x)dx (2.12)

Dac
a variabila aleatoare modeleaz
a o marime fizic
a, media p
atratic
a
poate fi v
azut
a ca energia medie a acelei m
arimi.

Momentul centrat de ordin k se defineste ca fiind:


Z +
(k)
M = (x )k w (x)dx (2.13)

Un calcul simplu arat


a c
a momentul centrat de ordin 1 este nul.

Momentul centrat de ordinul 2 este cunoscut ca varianta vari-


abilei aleatoare:
Z +
(2) 2
M = = (x )2 w (x)dx (2.14)

Se poate ar
ata c
a:
2
2 = 2 (2.15)

Radacina pozitiva a variantei se numeste dispersie. Disper-


sia este o m asur
a a mpr
astierii valorilor posibile ale variabilei
aleatoare fat
a de medie.
Momentele centrate de ordin superior dau informatii despre asime-
tria fat
a de medie, despre ascutimea (sau reciproc turtirea) sau
despre rotunzimea densit atii de probabilitate.

19
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

Functii de o variabil a aleatoare:


Daca exist a o variabil
a aleatoare : D1 R cu densitatea de
probabilitate w (x) dat a si o variabil a aleatoare : D2 R,
astfel nc
at = g = g() unde functia g : D1 D2 are un num ar
cel mult num arabil de solutii n orice punct al codomeniului, atunci:

X w (xk ) X w (g 1 (y))
w (y) = =
|g (xk )| |g (g 1 (y))| (2.16)
k k
unde xk sunt r
ad
acinile ecuatiei g(x) = y

2.2 Principiul invers


arii functiei de repartitie
Acest rezultat important ofer a o solutie la problema gener arii unei variabile
aleatoare continue av and o distributie (densitate de probabilitate) cunos-
cuta. Masinile moderne de calcul ofer a generatoare de numere pseudo-
aleatoare provenind dintr-o densitate de probabilitate uniform a n [0, 1].1
Cerinta este sa se obtin
a numere aleatoare distribuite conform unui model
(densitati de probabilitate) impus folosind aceste valori generate.
Formularea matematic a a problemei amintite poate fi: Fie variabila
aleatoare distribuit a uniform n [0,1]. Fie variabila aleatoare av and
w (y) cunoscut. Se caut a functia g(x) astfel nc at g = g() = .
Pentru rezolvare, vom pleca de la formula 2.16. Cea mai simpl a solutiei a
problemei este s a c
aut
am functia g bijectiv a si cresc
atoare. Bijectivitatea ne
asigura unicitatea solutiei (si atunci se poate renunta la sum a), iar monoto-
nia astfel aleasa asigur
a derivata pozitiv a (deci disparitia modului). Formula
2.16 devine:
w (g 1 (y))
w (y) = 1 (2.17)
g (g (y))
Domeniul de definitie al functiei g este multimea n care ia valori (in-
tervalul [0,1]) si, deci, g 1 va lua valori n acest interval.
Pe de alt a parte, densitatea de probabilitate a unei variabile uniform
distribuite n [0, 1], adica , este:

1 , dac a x [0, 1]
w (x) = (2.18)
0 , n rest

Relatia 2.17 devine:


1
w (y) =
g (g 1 (y))
1
Generatoarele de numere aleatoare pornesc de la o valoare initial a, numit a s
am ant
a
si, prin aplicarea unor relatii numerice, permit obtinerea de numere care respect a, n linii
mari, anumiti parametri statistici (densitate de probabilitate, momente statistice, etc. . . ).
Un perfect aleatorism presupune imposibilitatea identific arii unor secvente repetate ntr-
un sir infinit de numere astfel generate; nerespectarea acestei conditii duce la secvente
pseudo-aleatoare. Tipic, s am anta este o cifr
a obtinut
a de la ceasul sistemului. Metodele
numerice mentionate contin operatii oarecum haotice: ridicare la 1.4, p astrarea ultimelor
sapte cifre, permut ari circulare ntre cifrele num arului obtinut, etc (vezi [8]). Practic se
obtin secvente pseudo-aleatoare n care perioada este de ordinul a 232 .

20
2.2. Principiul invers
arii functiei de repartitie

Numitorul poate fi adus la o form


a mai simpl
a. Se porneste de la iden-
titatea cunoscut
a:

g(g 1 (y)) = y

si dac
a se deriveaz
a:
y
g (g 1 (y)) (g 1 (y)) = 1
1
g (g 1 (y)) = 1
(g (y))

Astfel se obtine:

w (y) = (g 1 (y))
Z y
1 (2.19)
g (y) = w (u)du = F (y)

Relatia 2.19 reprezint a principiul inversarii functiei de repartitie. Acesta


spune c a, daca se doreste obtinerea unui set de valori distribuite conform
densitatii de probabilitate w (y), atunci functia care trebuie aplicat a unui set
de valori provenind dintr-o varibil a aleatoare uniform a n [0,1] este inversa
functiei de repartitie a variabilei aleatoare cautate, .
Mai mult, se poate verifica faptul c a functia de repartitie a unei variabile
aleatoare continue verific a cerintele suplimentare impuse functei g:

ia valori n intervalul [0,1]; deci inversa ei are drept domeniu de definitie


acest interval;

este bijectiv
a (asadar se poate inversa);

este cresc
atoare, monotonie pe care o p
astreaz
a si inversa.

Practic, pentru a obtine valori distribuite conform unei legi alese, w (y), se
procedeaza astfel:

a functia de repartitie, F (y) a variabilei dorite2 ;


1. Se calculeaz

a inversa functiei de repartitie: g(y) = F1 (y);


2. Se calculeaz

3. Se genereaz
a valori distribuite uniform n [0,1];

4. Se aplica g valorilor astfel obtinute.

Acest principiu este utilizat n practic


a si pentru trecerea de la o lege oare-
care la alta: se trece mai nt
ai de la legea initial
a la o distributie uniform a
n [0,1] folosindu-se direct functia de repartitie; apoi se face trecerea de
la variabila cu densitate de probabilitate uniform a n [0, 1] la legea dorit
a
folosindu-se inversa functiei de repartitie a variabilei aleatoare dorite.
2
Este necesar ca functia de repartitie s
a admit
a o form
a analitic
a si s
a fie inversabil
a.

21
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

2.2.1 Exemple
Se pune problema gener arii unor numere distribuite confom unor legi impuse
fiind disponibile realiz
ari particulare ale unei distributii uniforme n [0,1].
Trebuie calculate functiile care s
a asigure transformarea necesar a.
1. Distributie de tip uniform n [a,b]. Densitatea de probabilitate a
unei astfel de variabile este (vezi1.1):
 1
w (x)a,b = ba , pentru x [a, b]
0 , n rest
unde a < b sunt doi parametri reali. Functia sa de repartitie este:

0 , dac a x (, a)
xa
F (x)a,b = , dac
a x [a, b] (2.20)
ba
1 , dac a x (b, +)

Functia g obtinut
a ca fiind inversa functiei de repartitie (pe intervalul
pe care aceasta admite invers a) este:

g : [0, 1] [a, b] , g(y) = F1 (y) = a + (b a)y (2.21)

2. Distributie de tip exponential. Reamintim c a densitatea de proba-


bilitate a unei variabile de acest tip (data n 1.4) este:

exp(x) , dac a x (0, +)
w (x) =
0 , n rest
unde este un parametru real pozitiv. Un calcul al functiei de repartitie
arat
a c
a:
Dac
a x < 0 , F (x) = 0;
Dac
a x 0, atunci
Z x Z x
F (x) = w (u)du = exp(u)du = 1 exp(x)
0 0

Deci: 
0 , pentru x < 0
F (x) =
1 exp(x) , pentru x 0

Functia c
autat
a (vezi figura 2.1) este inversa functiei de repartitie:
1
g : [0, 1] (0, +) , g(y) = F1 (y) = ln(1 y) (2.22)

3. Distributie de tip Rayleigh. Densitatea de probabilitate de tip Rayleigh
este (vezi 1.5):
(  
x x2
2 exp 2 2 , dac ax0
w (x) = .
0 , n rest.
unde este un parametru real pozitiv. S
a calcul
am functia de repartitie
:

22
2.2. Principiul invers
arii functiei de repartitie

g(y)=F1

(y)
35

30

25

20

15

10

0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
y

Figura 2.1: Inversa functiei de repartitie a unei variabile aleatoare distribuit


a
exponential cu = 0.2.

Dac
a x < 0, atunci F (x) = 0;
Dac
a x 0, atunci:
Z x Z x
u2
 
u
F (x) = w (u)du = 2
exp 2 du =
0 0 2
2
 x
x2
  
u
= exp 2 = 1 exp 2
2 0 2

Deci: (
0  , pentru x < 0
F (x) = x2
1 exp 22 , pentru x 0

g(y)=F1

(y)
0.8

0.7

0.6

0.5

0.4

0.3

0.2

0.1

0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
y

Figura 2.2: Inversa functiei de repartitie a unei distributii de tip Rayleigh


cu = 0.2.
Functia c
autat
a (vezi figura 2.2) este inversa functiei de repartitie:

g : [0, 1] (0, +) , g(y) = F1 (y) = 22 ln(1 y)


p
(2.23)

23
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

2.3 Histograma si histograma cumulativ


a
In general, n practic
a avem la dispozitie un num ar de realiz
ari particulare
ale unei variabile aleatoare (o populatie). De multe ori vom dori s a construim
o aproximare a densit atii de probabilitate si/sau a functiei de repartitie.
Pentru aceasta trebuie stiut c a densitatea de probabilitate se aproximeaz a
prin histogram a, iar functia de repartitie prin histograma cumulativ a.
Pentru a surprinde dedesubturile acestei afimatii vom arunca o privire

Figura 2.3: O histogram


a.

n [3], unde, n dreptul histogramei vom g asi: grafic care reprezint


a prin
dreptunghiuri o distributie statistic a. Un asemenea grafic poate fi v azut n
figura 2.3.
Pentru nceput vom aminti c a, n practic
a, probabilitatea se aproximeaz a
prin frecventa relativ
a de aparitie:
numar de cazuri favorabile
probabilitate frecventa relativ
a= (2.24)
numar de cazuri totale
Pentru a construi histograma variabilei aleatoare plec and de la un set
de realizari particulare vom folosi formula 2.8. Putem aproxima densitatea
de probabilitate numai pe intervalul dintre cea mai mic a si cea mai mare
realizare particular a din setul disponibil. Acest interval va fi mp artit n
subintervale mai mici si vom calcula probabilitatea ca variabila aleatoare s a
ia valori n fiecare astfel de subinterval (pe baza relatiei 2.24).
Conform formulei 2.8, aceast a probabilitate este egal a cu aria subgrafi-
cului functiei densitate de probabilitate pe intervalul considerat. Dac a
aproxim am densitatea de probabilitate cu o functie constant a pe acest in-
terval, atunci subgraficul ei va fi un dreptunghi (vezi figura 2.4) de baz a
egala cu latimea intervalului. Stiind aria si baza dreptunghiului, putem s a
i afl
am naltimea.
Pentru a construi o histogram a trebuie urm ariti c
ativa pasi.
1. Datele de intrare sunt formate dintr-o populatie (un set de valori
reprezent
and realiz
arile particulare ale unei variabile aleatoare con-
tinue);

2. Se cauta intervalul n care acestea iau valori. Fiind vorba de un set


finit de date, intervalul va fi de l
atime finit
a, chiar daca variabila de
provenient
a este definita pe un domeniu de l atime infinit
a;

24
2.3. Histograma si histograma cumulativ
a

Figura 2.4: Aproximarea prin discretizare a unei functii: aproximarea


functiei prin constante pe intervale si aproximarea integralei (subgraficului
unei functii) prin sum
a de dreptunghiuri.

3. Acest interval se mparte n subintervale egale. Se poate practica si o


mpartire neuniform
a, tin
andu-se cont de statistica variabilei aleatoare
(similara cu o cuantizare Lloyd-Max - vezi [1]);

4. Pentru fiecare subinterval se num ar


a c
ate realiz
ari particulare au valori
n interiorul lui. Dac a se mpart aceste valori la num arul total de
invizi se obtin frecventele relative de aparitie ale variabilei aleatoare
n subintervalele considerate;

5. Se reprezinta valorile astfel calculate prin dreptunghiuri sau prin puncte


cu abscisa n mijlocul subintervalului. Alura graficului astfel reprezen-
tat va fi similar
a cu densitatea de probabilitate a variabilei aleatoare.

Se pune problema determin arii erorii de aproximare a densit atii de pro-


babilitate prin histogram a. Aceast a constructie are la baza dou a aproxim ari;
masura erorii totale este dat a de suma erorilor introduse de fiecare din cele
dou a.
Prima pierdere de precizie este cauzat a de aproximarea subgraficului unei
functii cu o reuniune de dreptunghiuri. Precizia aproxim arii creste odat a cu
cresterea num arului de dreptunghiuri, adic a, n cazul nostru, c and crestem
num arul de subintervale considerate, crestere care se poate face n detrimen-
tul latimii lor.
Cea de-a doua aproximare efectuat a este cea a estim arii probabilit atii.
Baza ei este n legea numerelor mari3 . In acest caz, ar trebui s a avem un
num ar cat mai mare de valori pentru fiecare interval. Dat fiind c a, de obicei,
dimensiunea populatiei este fix a (exista un num ar dat de realiz ari particu-
lare disponibile), tendinta este de a creste dimensiunea intervalului pentru
a cuprinde c at mai multi indivizi.
Concluzia n ceea ce priveste calitatea aproxim arii densitatii de proba-
bilitate cu histograma este c a trebuie g asit un echilibru ntre dimensiunea
3
Legea numerelor mari precizeaz a c
a atunci c
and num arul realiz
arilor particulare tinde
la infinit frecventa relativ
a tinde c
atre probabilitatea teoretic
a (vezi [5]).

25
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

populatiei disponibile si num


arul de intervale considerate.

Dup a cum am mentionat la nceputul acestei sectiuni, pentru a studia


functia de repartitie se foloseste histograma cumulativ
a. Ideea de baza este
simpla: dac a o functie definit a pe un suport continuu f (t) este de fapt
disponibila numai prin esantioane considerate periodic n interiorul domeni-
ului de definitie, atunci integrala ei se poate aproxima printr-o sum a cumu-
lativ
a (vezi si figura 2.4).

Daca functia continua f (t) cu t [a, b] se transform


a ntr-o functie discret
a
  
ba
f (kT ) = f (k) unde k 0, 1, . . . ,
T
Z x Xk
Atunci F (x) = f (t)dt T f (i) = F (k) , unde x kT
a i=1
(2.25)
Pk
Functia F (k) = i=1 f (i) (dac
a T=1) se numeste sum a cumulativ a
(fiecare valoare este cumulul precedentelor). Dac a aplic
am relatia prece-
denta definitiei functiei de repartitie si n loc de f folosim histograma h,
atunci se obtine histograma cumulativ a:
k
X
H(k) = h(i) (2.26)
i=1

Aceast a functie va avea alura functiei de repartitie. Dac


a se doreste si re-
spectarea valorii teoretice la + (nu numai conservarea alurii) atunci fie se
foloseste T = 1, fie se pondereaza totul cu perioada de esantionare.

26
2.4. Desf
asurarea lucr
arii

2.4 Desf
asurarea lucr
arii
1. Reprezentarea unei variabile aleatoare distribuite uniform. O realizare
a unei variabile aleatoare distribuite uniform n intervalul [0,1] se
obtine cu ajutorul functiei rand. O matrice n care fiecare element este
o realizare a unei asemenea variabile se obtine scriind rand(nLinii,nColoane).
De exemplu linia:

x = rand(1, 50);

va genera un vector linie de 50 elemente. Acest vector se poate con-


stitui ntr-o populatie. Fiecare individ (sau, echivalent, element al
vectorului) este o realizare particular
a a unei variabile aleatoare dis-
tribuite uniform n [0, 1]. Dac a se doreste vizualizarea valorilor se
poate tasta:

plot(x, .k );

0.9
domeniul in care variabila aleatoare ia valori

0.8

0.7

media
0.6

0.5

0.4

0.3

0.2

0.1

0
0 5 10 15 20 25 30 35 40 45 50
indicele elementului

Figura 2.5: Reprezentarea unui vector de realizari particulare ale unei vari-
abile aleatoare distribuit
a uniform n [0, 1].

Graficul obtinut este similar cu cel din figura 2.5. Relu


ari ale liniei de
cod vor duce la valori diferite. O examinare a unui asemenea grafic
poate furniza diferite informatii despre parametri statistici ai variabilei
aleatoare:

gama valorilor de pe ordonat a (axa y) precizeaz


a domeniul n care
variabila aleatoare ia valori. Valorile de pe abscis
a nu poarta nici
o informatie util
a;
modul n care sunt r asp
andite valorile pe n
altime poate sugera
tipul de distributie;
fiindc
a distributia original
a este simetric
a fata de centru, valoarea
centrala de pe ordonat a este chiar media variabilei aleatoare;

27
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

latimea intervalului n care sunt cele mai multe valori, raportat


a
la medie, sugereaz a valoarea dispersiei.

Practic, media aritmetica (ecuatia 2.27) a valorilor este un estimat4


al mediei statistice. Abaterea p atratic
a medie denumit a si deviatie
standard (data de ecuatia 2.28) este aproape de varianta statistic a
().
N
1 X
x = x(k) (2.27)
N
k=1

N
1 X
x = (x(k) x )2 (2.28)
N 1
k=1

Deci putem calcula:

m x = mean(x) %media
std x = std(x) %variant
a

2. Reprezentarea unei variabile aleatoare gaussiene5 . O realizare a unei


variabile aleatoare distribuite gaussian de medie 0 si dispersie 1 se
obtine cu functia randn. Pentru obtinerea unei matrice se foloseste
randn(nLinii,nColoane). De exemplu linia:

x = randn(1, 50);

genereaz a un vector linie cu 50 de realiz ari particulare ale unei vari-


abile gaussiene.
Sa se genereze o populatie gaussian a de dimensiune 100. S a se reprez-
inte grafic. Sa se determine media si dispersia at at pe grafic c
at si prin
calcule. Prin ce difer a mpr
astierea acestui tip de variabil
a fata de cel
obtinut n cazul unei variabile aleatoare uniforme.
Se stie ca pentru o variabil a aleatoare gaussian a aproximativ 67 %
dintre valori sunt r aspandite n intervalul [ , + ], aproximativ
95 % dintre valori sunt n intervalul [ 2, + 2] si aproximativ 99
% dintre valori n intervalul [ 3, + 3].

3. Functii de o variabil
a aleatoare. Acest rezultat a fost deja folosit pen-
tru deducerea formulei principiului invers arii functiei de repartitie. In
4
O valoare statistic a se aproximeaz a printr-un num ar. Acest num ar este un estimat
al momentului statistic considerat. Se poate discuta de estimatori corecti, deplasati, etc.
Pentru mai multe detalii vezi [12].
5
Datorita faptului c a o variabila aleatoare gaussian a nu are form a explicit a pentru
functia de repartitie, obtinerea de valori distribuite gaussian direct din realiz
ari particulare
ale unei uniforme este mai dificil a. Este necesar un pas preliminar, n care se vor obtine
valori distribuite Rayleigh si valori distribuite uniform n intervalul [0, ]. Acestora li se
aplica o functie de doua variabile aleatoare. Rezultatul acestei functii consta n dou
a valori
care respect a o statistica de tip gaussian. Din acest motiv vom folosi generatorul de valori
gaussiene disponibil n Matlab.

28
2.4. Desf
asurarea lucr
arii

plus, de mare utilitate este teorema de medie:


dac
a = g(), g : D1 D2
Z +
(2.29)
atunci = g(x)w (x)dx

Aceast a teorem a este valabil


a indiferent de tipul functiei g. Pentru
functii liniare, cu g(x) = ax + b, ecuatia 2.29 se simplific
a:
= a + b (2.30)
Pentru astfel de functii se obtine un rezultat similar si pentru dispersie:
2 = a2 2 (2.31)
Aplicarea unei functii liniare unei variabile aleatoare presupune scalarea
valorilor posibile cu a si translatia lor cu b.
Sa consideram urm atorul exemplu: fie X o variabil a aleatoare dis-
tribuit
a uniform n [0,1]; se vor considera 100 de realiz ari particulare
ale acesteia. Se vor aproxima densitatea de probabilitate si functia de
repartitie a variabilei aleatoare (pentru aceasta se va reprezenta his-
tograma si histograma cumulativ a a datelor). Se vor calcula media
si dispersia. Se va construi variabila Y = aX + b. Se vor determina
histograma si histograma cumulativ a precum si media si dispersia vari-
abilei aleatoare astfel obtinute. Verific a acestea rezultatele teoretice?

Rezolvare:

X = rand(1, 100); %cele 100 de realiz ari particulare ale lui


X
figure(1); plot(X, . );
m X = mean(X) %media lui X
s X = std(X) %dispersia lui X
[h X, absX] = hist(X, 20); %histograma nenormat a
figure(2); bar(absX, h X/100); %densitatea de probabilitate
H X = cumsum(h X/100); %histograma cumulativ a
figure(3); plot(absX, H X);
a = 1; b = 2;
Y = a*X+b;
figure(1); hold on; plot(Y, .k );
m Y = mean(Y) %media lui Y
s Y = std(Y) %dispersia lui Y
[h Y, absY] = hist(Y, 20); %histograma nenormat a
figure(2); hold on; bar(absY, h Y/100, k );
H Y = cumsum(h Y/100); %histograma cumulativ a

figure(3); hold on; plot(absY, H Y, k ); hold off

Un posibil rezultat grafic este prezentat n figura 2.6


4. Variabila aleatoare de tip exponential. Se va genera un sir de realiz
ari
particulare ale unei variabile aleatoare distribuite dup
a o lege de tip

29
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

3 0.12 1

0.9

2.5 0.1
0.8

0.7
2 0.08

0.6

1.5 0.06 0.5

0.4

1 0.04
0.3

0.2
0.5 0.02

0.1

0 0 0
0 50 100 0 1 2 3 0 1 2 3

Figura 2.6: Functie liniar


a aplicat
a unei variabile aleatoare.

exponential (se va pleca de la un sir de reprezent ari ale unei variabile


aleatoare uniforme n [0, 1] si apoi se va aplica functia dat
a de ecuatia
2.22). Aceste valori se vor reprezenta grafic. Se vor calcula media si
dispersia, at
at teoretic c
at si practic. Se va reprezenta histograma si,
respectiv, histograma cumulativ a.

Rezolvare: Media unei variabile aleatoare distribuit


a exponential
este:
Z +
= x exp(x)dx =
0
+ Z +

= x exp(x) + exp(x)dx =
0 0
+
1 1
= 0 0 exp(x) =
0

Media p
atratic
a este:
Z +
2
= x2 exp(x)dx =
0
+ Z +
2
2
= x exp(x) + 2x exp(x)dx = 2
0 0

Ceea ce duce la o valoare a variantei:


2 1
2 = 2 =
2

Pentru implementarea codului necesar studierii unei populatii exponentiale


s-ar putea tasta:

X = rand(1, 100); %cele 100 de realizari particulare ale lui


X
lambda = 2; %parametrul exponent
ialei
Y = (-1/lambda).*log(1-X); %relatia 2.22

figure(1); plot(Y, . );
m Y = mean(Y); %media

30
2.4. Desf
asurarea lucr
arii

s Y = std(Y); %dispersia
[h Y, absY] = hist(Y, 20); %histograma nenormat
a
figure(2); bar(absY, h Y/100, k );

H Y = cumsum(h Y/100);
figure(3); plot(absY, H Y, k );

5. Variabila aleatoare de tip Rayleigh. Se va genera un sir de realiz ari


particulare ale unei variabile aleatoare distribuite dup a o lege de tip
Rayleigh pornindu-se de la un sir de realiz ari ale unei uniforme n [0,
1] (vezi ecuatia 2.23). Aceste valori se vor reprezenta grafic. Se va
calcula media at at teoretic c
at si practic. Se va reprezenta histograma
si respectiv histograma cumulativ a pentru variabila aleatoare astfel
obtinut
a.

6. Sa se determine experimental valoarea optim a a num arului de inter-


vale pe care se va aproxima densitatea de probabilitate (num arul de
dreptunghiuri ale histogramei) n functie de num arul realiz
arilor par-
ticulare ale variabilei aleatoare originale. Se va experimenta cu o vari-
abil
a aleatoare de tip gaussian de medie 1 si dispersie 2. Se va porni
cu o populatie de 100 de indivizi.

31
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

2.5 Exercitii si teme propuse


1. Ce este o variabil
a aleatoare?

2. Enuntati si demonstrati trei propriet


ati ale unei functii de repartitie.

3. Enuntati si demonstrati trei propriet


ati ale unei densit
ati de probabi-
litate.

4. Care din graficele prezentate n figura 2.7 pot reprezenta graficul unei
functii de repartitie?
(a) (b)
1.5 1.5

1 1

0.5 0.5

0 0

0.5 0.5
10 5 0 5 10 10 5 0 5 10

(c)
1.5 1

0.8
1

0.6
0.5
0.4

0
0.2

0.5 0
10 5 0 5 10 10 5 0 5 10

Figura 2.7: Exercitiul 4.

5. Care din graficele prezentate n figura 2.8 pot reprezenta graficul unei
densit
ati de probabilitate?
(a) (b)
0.5 1.5

0.4
1
0.3

0.2
0.5
0.1

0
0
0.1

0.2 0.5
10 5 0 5 10 10 5 0 5 10

(c) (d)
0.5 0.5

0.4 0.4

0.3 0.3

0.2 0.2

0.1 0.1

0 0

0.1 0.1

0.2 0.2
10 5 0 5 10 10 5 0 5 10

Figura 2.8: Exercitiul 5.

32
2.5. Exercitii si teme propuse

6. Calculati inversa functiei de repartitie pentru o variabil


a distribuit
a
uniform n intervalul [a, b] (utilizat
a n exemplul 1).

7. Ce reprezint
a histograma?

8. Ce reprezint
a histograma cumulativ
a?

9. Cum se aproximeaz
a media unei variabile aleatoare? Dar dispersia?

10. S
a se calculeze momentele centrate de ordin 3 si 4 pentru o vari-
abil
a aleatoare distribuit
a gaussian. Aceeasi cerinta pentru o variabil
a
aleatoare distribuit
a exponential, respectiv Rayleigh.

11. Sunt disponibile 2 seturi de valori. Un set reprezint


a realizari experi-
mentale ale unei variabile aleatoare uniforme n [1, 1], iar cel
alalt al
unei variabile aleatoare de tip exponential de parametru = 1. Cum
se poate decide ce set din ce variabila provine? Exemplificati prin
calcule si grafice.

12. Fiind dat un set de valori experimentale rapandite n intervalul [1, 1]


s
a se calculeze probabilitatea ca variabila aleatoare de provenienta s a
fie mai mare dec at 0. Se poate decide numai pe baza acestei valori
numerice de ce tip este variabila aleatoare?

33
LUCRAREA 2. STUDIUL VARIABILELOR ALEATOARE

34
Lucrarea 3

Perechi de variabile aleatoare

Variabilele aleatoare se pot constitui n multimi (sau vectori). Vom prezenta


n aceast
a lucrare notiunea de pereche de variabile aleatoare, n mod similar
putandu-se defini vectori cu oric
ate astfel de variabile.

3.1 Caracterizarea statistic


a de ordinul II
Doua variabile aleatoare se pot grupa ntr-o pereche de variabile aleatoare.
O realizare particular a a unei astfel de perechi este un vector de dou a nu-
mere. Cele dou a variabile aleatoare ce formeaz
a perechea se pot studia atat
separat cat si mpreuna. Studiul individual al fiecarei variabile aleatoare
din pereche foloseste statisticile de ordin I descrise n lucrarea precedent
a.
Studiul perechii de variabile aleatoare ca un tot face apel la statisticile de
ordinul II care vor fi prezentate n cele ce urmeaza.
Fie perechea de variabile aleatoare (, ). Aceasta este caracterizat a de:

Functia de repartitie de ordinul II:

F (x, y) = P (( x), ( y)) (3.1)

Cele doua evenimente discutate, ( x) si ( y), se petrec simul-


tan. Printre propriet
atile functiei de repartitie a perechii de variabile
aleatoare mai importante sunt:

Valorile la extremit
atile domeniului:

F (, y) = F (x, ) = 0 (3.2)

F (+, +) = 1 (3.3)

Functiile de repartitie marginale se definesc ca fiind:

F (x) = P ( x) = P (( x), ( +)) = F (x, +)


(3.4)
F (y) = P ( y) = F (+, y) (3.5)

35
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE

Probabilitatea ca perechea de variabile aleatoare s


a ia valori ntr-
un domeniu D1 = (x1 , x2 ] (y1 , y2 ] este:
P (( (x1 , x2 ]), ( (y1 , y2 ])) =
(3.6)
=F (x2 , y2 ) + F (x1 , y1 ) F (x1 , y2 ) F (x2 , y1 )

Densitatea de probabilitate de ordinul II se defineste ca fiind:


d2 F (x, y)
w (x, y) = (3.7)
dxdy
Principalele propriet
ati sunt:
Conditia de normare:
Z Z
w (x, y)dxdy = 1 (3.8)

Densit
atile marginale:
Z
w (x, y)dy = w (x) (3.9)

Z
w (x, y)dx = w (y) (3.10)

Probabilitatea ca perechea de variabile aleatoare s a ia valori ntr-


un domeniu D1 = (x1 , x2 ] (y1 , y2 ] este:
Z x 2 Z y2
P (( (x1 , x2 ]), ( (y1 , y2 ])) = w (x, y)dydx (3.11)
x1 y1

Desi scris
a pentru un domeniu dreptunghiular, relatia de mai sus
este valabila pentru orice form a a domeniului D1 :
Z Z
P ((, ) D1 ) = w (x, y)dxdy (3.12)
D1

Dou a variabile aleatoare se numesc independente dac a produsul den-


sitatilor marginale este egal cu densitatea de probabilitate de ordinul
II:

, independente w (x, y) = w (x) w (y), x, y (3.13)

Independenta a dou a variabile aleatoare permite deducerea statisti-


cilor de ordinul II din marimile statistice de ordinul I. Asadar studiul
individual al variabilelor aleatoare ce formeaz a perechea poate fi sufi-
cient pentru a caracteriza complet ansamblul dac a si numai dac
a cele
doua variabile sunt independente. Dac a cele doua variabile nu sunt
independente atunci perechea nu este complet caracterizat a prin de-
scrierea statistic
a individual
a.

36
3.1. Caracterizarea statistic
a de ordinul II

Pe baza densit atii de probabilitate de ordinul II se pot defini mo-


mentele statistice ale perechii de variabile aleatoare. Astfel:
Momentul necentrat de ordin (p, q) este definit ca fiind:
Z Z
(p,q)
m = xp y q w (x, y)dxdy (3.14)

Momentul centrat de ordin (p, q) este :


Z Z
(p,q)
M = (x )p (y )q w (x, y)dxdy (3.15)

Larg utilizate sunt:


Corelatia - momentul necentrat de ordin (1,1):
Z Z
(1,1)
R = m = = xyw (x, y)dxdy (3.16)

Covariatia - momentul centrat de ordin (1,1):


Z Z
(1,1)
K = M = ( )( ) = (x)(y)w (x, y)dxdy

(3.17)
Se defineste coeficientul de corelatie a dou
a variabile aleatoare ca
fiind:
K
= (3.18)

Se poate ar
ata c
a:

K = R = (3.19)

Dou a variabile aleatoare se numesc decorelate dac a covariatia lor este


nul
a. Dac a independenta este bazat a pe o relatie ntre densitatile de
probabilitate, decorelarea este dat a de o relatie similara dar bazat a pe
medii, deci mai putin restrictiv a.
Dou a variabile aleatoare sunt dependente dac a exista o functie care
face legatura ntre ele. Cu cat aceasta functie se apropie mai mult de
o functie liniara cu atat variabilele sunt mai puternic corelate. Dac a
functia este chiar liniara atunci cele doua variabile aleatoare sunt per-
fect corelate. Gradul de corelare al celor dou a variabile aleatoare este
dat de modulul coeficientului de corelatie. Cu c at acesta se apropie de
1 cu at at cele doua variabile aleatoare sunt mai corelate. La limit a,
daca | | = 1 cele dou a variabile aleatoare sunt perfect corelate.

Leg
atura ntre independenta si decorelare este:

37
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE

dou
a variabile aleatoare independente sunt decorelate;
dac
a dou
a variabile aleatoare sunt decorelate nu se poate spune
nimic despre independenta lor.

Leg
atura ntre dependenta si corelare este:

dac
a dou
a variabile aleatoare sunt dependente nu se poate spune
nimic despre corelatia dintre ele;
dac
a dou
a variabile aleatoare sunt corelate atunci sunt si de-
pendente.

Aceste reguli au o exceptie: n cazul variabilelor aleatoare gaussiene,


independenta perechii de variabile este echivalent a cu decorelarea lor.
Asa cum densitatea de probabilitate de ordinul I era aproximat a prin
histogram a, se poate construi si o aproximare a densitatii de probabilitate
de ordinul II. Procedeul este similar doar c a intervalele definite pe un suport
liniar se nlocuiesc cu intervale dreptunghiulare (definite pe un suport plan).
Rezultatul este sub forma unei matrice. O particularizare a aceastei matrice
este denumit a matrice de coocurenta care este larg folosit a n analiza de
imagini pentru caracterizarea texturilor (vezi[11]).

3.2 Dreapta de regresie


Conform [3], unul din sensurile cuv antului regresie este de ntoarcere de
la o form a superioara de dezvoltare la una inferioar a. In matematic a sau
tehnica regresia este o metod a de nlocuire a unei multimi de puncte cu
o form a geometric a parametrizabil a. Multimea, complicat de descris, este
substituita printr-o form a caracterizata de c
ateva valori (ale parametrilor).
Aceast a forma poate fi o dreapt a, o curba (data printr-un polinom sau o
functie oarecare), un cerc etc.
Cum se procedeaz a pentru obtinerea formei c autate? Forma este definit a
1
de un set de parametri . Se caut a acel set de valori ale parametrilor care
minimizeaz a suma distantelor de la fiecare punct al multimii originale la
forma c autata2 .
Dreapta de regresie a realiz arilor particulare ale unei perechi de variabile
aleatoare permite studiul corelatiei lor. Dup a cum am precizat n sectiunea
anterioara, corelatia este o dependenta liniar a. Reprezentarea ntr-un plan
a realiz
arilor particulare a dou a variabile aleatoare puternic corelate este un
nor de puncte a c arui form a se apropie de o dreapt a. Dreapta care aprox-
imeaz a cel mai bine forma descris a de multimea de puncte este dreapta de
regresie.

1
De pild a, un cerc este definit de trei parametri: coordonatele centrului (abscis a si
ordonat a) si raza. O curba polinomial a provenind dintr-o functie de gradul 2 are trei
parametri: coeficientii de gradul 2 ,1 si respectiv 0.
2
In materialul de fat
a se discuta despre un caz particular de regresie. O prezentare
generala presupune minimizarea unei erori oarecare, nu neaparat a sumei distantelor.
Modelul prezentat aici mai este cunoscut sub numele de regresie n sensul minimiz arii
erorii p
atratice medii.

38
3.2. Dreapta de regresie

Problema noastr a consta n a determina panta (a) si offset-ul (b) dreptei


care minimizeaz a distanta de la ea la un set de puncte dat. In cazul nos-
tru, setul de puncte este format din realiz arile particulare ale unei perechi
de variabile aleatoare. Aceast a problema se poate rezolva prin forta brut a3
sau direct prin solutie analitic a. Mai exact multimea punctelor este (xi , yi ),
cu i = 1, 2, . . . , N , unde xi sunt cele N realiz ari particulare ale variabilei
aleatoare , iar yi ale variabilei . Pentru a obtine solutia analitic a se cal-
culeaza eroarea p atratic
a medie care, apoi, se minimizeaz a n functie de cei
doi parametri (vezi si [14]). Eroarea p atratic
a medie obtinut a prin aproxi-
marea norului de puncte cu o dreapt a este:
N N
1 X 2 1 X 2 2 2 2
= (yi axi b) = (yi +a xi +b 2axi yi 2byi +2abxi ) (3.20)
N N
i=1 i=1

Dac
a se egaleaz
a cele dou
a derivate partiale ale erorii cu zero, se obtine:
N N N
2a X 2 2 X 2b X
= xi xi yi + xi = 0
a N N N
i=1 i=1 i=1

si respectiv
N N N
1 X 2 X 2a X
= 2b yi + xi = 0
b N N N
i=1 i=1 i=1
Dac
a not
am:
N N
1 X 1 X
SX = xi SY = yi
N N
i=1 i=1
N N
1 X 1 X
SXX = x2i SY Y = yi2 (3.21)
N N
i=1 i=1
N
1 X
SXY = xi yi
N
i=1

sistemul dat de ecuatiile partiale devine:



aSXX + bSX = SXY
aSX + b = SY

Rezolvarea acestui sistem permite aflare parametrilor dreptei de regresie:


SXY SX SY
a=
SXX SX SX (3.22)
b = SY aSX

O consecint a a definirii n acest mod a dreptei de regresie este faptul


c
a ea va trece prin centrul norului de puncte. Dac a se vor considera dou a
variabile aleatoare de medie 0, atunci norul de puncte va fi centrat n jurul
originii si offset-ul dreptei de regresie va fi nul. Tot ce va trebui aflat este
3
Se ncearc
a toate dreptele posibile si se verific
a potrivirea lor peste setul de date.

39
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE

panta dreptei de regresie minim a.


O analiza rapida a valorilor calculate n relatiile 3.21 relev
a semnificatia
lor statistic
a: SX si SY sunt mediile celor dou a variabile aleatoare, SXX si
SY Y mediile p atratice, iar SXY corelatia lor. In acest sens se poate rescrie
panta dreptei n functie de marimile statistice (vezi [1]):

K
a=
2

Reamintim c a gradul de corelatie a doua variabile aleatore este dat de


coeficientul de corelatie:
K
=

Se demonstreaz a ca coeficientul de corelatie are modulul subunitar: | |
1. Un coeficient de corelatie de modul 1 nseamn a o corelatie perfect
a. Care
este leg
atura sa cu dreapta de regresie? Gradul de corelatie este dat de
eroarea de aproximare a norului de puncte cu o dreapt a4 . Acesta se obtine
nlocuind n relatia 3.20 valorile calculate pentru cei doi parametri:
"  #
K 2

2
min = 1 = 2 (1 2 )

Practic, n coditiile n care este disponibil un set de perechi de puncte


aflarea dreptei de regresie ncepe prin a calcula sumele date de relatia 3.21.
Cu ajutorul lor se aproximeaz a cei doi parametri ai dreptei. In ultimul pas
se estimeaza eroarea de aproximare a norului cu o dreapt a.

4
Tipic, succesiunea operatiilor presupune nt
ai calculul parametrilor dreptei de regresie
si apoi definirea coeficientului de corelatie ca masura a erorii de aproximare.

40
3.3. Desf
asurarea lucr
arii

3.3 Desf
asurarea lucr
arii
1. Studiul densit
atii de probabilitate de ordinul II. Se va reprezenta grafic
densitatea de probabilitate de ordinul II a unei perechi de variabile
aleatoare gaussiene. Aceasta este data de relatia:
1
w (x, y) = q
2 1 2
" !#
1 (x )2 (x )(y ) (y )2
exp 2 +
2(1 2 ) 2 2
Se va reprezenta densitatea de probabilitate de ordinul II pentru di-
verse valori ale celor dou
a medii, dispersii si coeficient de corelatie. Se
vor calcula si reprezenta grafic densitatile marginale.

Rezolvare. Codul necesar este:

x = -50:50;
y = -50:50;
mx = 0; my = 0;
sx = 5; sy = 6;
rxy = 0.2;
const1 = 1/(2*pi*sx*sy*sqrt(1-rxy^2));
const2 = 1/(2*(1-rxy^2));
sx2 = sx^2 ;
sy2 = sy^2;
rsxsy = 2*rxy/(sx*sy);
for i = 1:length(x)
for j = 1:length(y)
% calculam densitatea de prob de ord II
w(i,j) = const1*exp(-const2*...
((x(i)-mx)^2/sx2-rsxsy*(x(i)-mx)*...
(y(j)-my)+(y(j)-my)^2/sy2));
end
end
% calcul am densit
a
tile marginale
wx = sum(w );
wy = sum(w);
% afisa
m graficul densita
tii de probabilitate de ordinul II
figure(1); mesh(x, y, w);
% afisa
m graficele densita
tilor marginale
figure(2);
subplot(1, 2, 1); plot(x, wx);
subplot(1, 2, 2); plot(y, wy);

Un posibil rezultat poate fi v


azut n figura 3.1.
2. Se vor genera doua variabile aleatoare gaussiene de medii si disper-
sii fixate. Se presupune ca cele doua variabile sunt independente.

41
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE

0.07 0.08

3
x 10 0.07
0.06
6

0.06
5
0.05

4 0.05
0.04
3
0.04
2
0.03
1 0.03

0 0.02
0.02
50
500.01
0.01
0
0
0 0
50 50 50 0 50 50 0 50

Figura 3.1: Densitatea de probabilitate de ordinul II precum si densit


atile
marginale ale unei perechi de variabile aleatoare gaussiene.

Aceasta ipotez a este ndeplinit


a dac
a variabilele nu depind una de
alta sau, altfel spus, sunt generate separat. Sa se reprezinte grafic val-
orile densit
atii de probabilitate de ordin II (aproxim arii densit
atii de
probabilitate de ordinul II). S a se compare cu rezultatul de la punctul
precedent.

Rezolvare: Codul necesar poate fi:

x = randn(1,400);%400 de realizari particulare ale unei gaussiene


%de medie 0 si dispersie 1
y = -2+2*randn(1,400);%medie -2 si dispesie 2
%vom calcula densitatea de prob de ordin II ^n 10x10 puncte
mx = min(x); Mx = max(x);
my = min(y); My = max(y);
absx = mx:(Mx-mx)/10:Mx;
absy = my:(My-my)/10:My;
for i = 1:10
for j = 1:10
M(i,j) = sum( (x<absx(i+1)&x>=absx(i)) & ...
(y<absy(j+1)&y>=absy(j)));
end;
end;
figure;surf(absx(1:end-1), absy(1:end-1), M);

Un model de densitate de probabilitate de ordin II poate fi vizualizat


n figura 3.2.

3. Se vor genera c
ate 200 de realiz
ari a dou
a variabile aleatoare uniforme

42
3.3. Desf
asurarea lucr
arii

35

30

25

20

15

10

0
4
2
3
0 2
2 1
0
4 1
6 2
3
8 4

Figura 3.2: Aproximarea densit atii de probabilitate de ordinul II a unei


perechi de variabile aleatoare.

xi , yi (i = 1, 2, . . . , 200). Se vor reprezenta cele 200 de puncte n planul


xOy. Se va trasa dreapta de regresie si se va calcula eroarea de aprox-
imare. Se vor studia 2 cazuri: variabilele aleatoare sunt independente
(se vor genera individual) si respectiv corelate (se vor genera realiz arile
primei variabile, xi , iar realiz arile celei de a doua se vor obtine printr-o
transformare liniar a: yi = a xi + b).

Rezolvare. Codul Matlab este:

N = 200;
x = rand(1, N);
y = rand(1, N);
plot(x, y, . );
Sx = sum(x)/N;
Sy = sum(y)/N;
Sxx = sum(x.*x)/N;
Syy = sum(y.*y)/N;
Sxy = sum(x.*y)/N;
%panta dreptei de regresie
a = (Sxy-Sx*Sy)/(Sxx-Sx*Sx);
b = Sy-a*Sx;
%calcul
am punctele dreptei
xd = sort(x); yd = a*xd+b;
%tras
am dreapta de regresie
hold on; plot(xd, yd, r ), hold off;
%eroarea de aproximare
corcoef = (Sxy-Sx*Sy) / sqrt((Sxx-Sx*Sx)*(Syy-Sy*Sy));
e = (Syy-Sy*Sy)*(1-corcoef^2);
fprintf( coeficientul de corelatie este=%d , corcoef);
fprintf( erorea este= %d , e);

Un posibil rezultat, pentru cazul n care a doua variabil


a este obtinut
a

43
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE

printr-o functie liniar


a aplicat
a variabilei aleatoare x, la care se adauga
o eroare (y = ax + , unde este o variabil a aleatoare uniform a de
dispersie mica) poate fi vazuta n figura 3.3.
9

0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1

Figura 3.3: Dreapta de regresie pentru o pereche de variabile aleatoare put-


ernic corelate.

Tem a: Pentru problema dreptei de regresie, sa se afle panta dreptei prin


baleiere dupa valorile posibile (m=logspace(-3,3,100);, n=min(y):max(y);).
Se considera ca dreapta trece prin centrul norului de puncte. Care sunt
coordonatele centrului norului de puncte? Pentru acest caz ce influenta are
num arul de realizari particulare? Experimentati n acest sens.

4. Se vor ncarca matricele A1 , . . . , A6 stocate n fisierul Regresie.mat


(vezi figura 3.4). Fiecare matrice are dou a linii si un num
ar N de
coloane. O coloan a reprezint a cele dou
a coordonate ale unui punct
din spatiul (xi , yi )T . S
tiind c
a punctele sunt provenite dintr-o pereche
de variabile aleatoare (, ) s a se determine n fiecare caz gradul de
corelatie ntre cele dou a variabile aleatoare.
Inc
arcarea unui fisier de tip .mat se face cu comanda load. Pentru
salvarea unei variabile sau set de variabile pe disc se foloseste comanda
save.

5. S
a se studieze modelul de regresie p
atratic
a (aproximarea unui nor de
puncte printr-o hiperbol
a); aproximarea este data de relatia:

= a 2 + b + c

6. Sa se studieze modelul de regresie n care realiz


arile particulare ale unei
perechi de variabile aleatoare este aproximat printr-un cerc. Ream-
intim c a ecuatia unui cerc cu centrul n punctul (a, b) este:

( a)2 + ( b)2 c2 = 0

44
3.4. Exercitii si teme propuse

1
8
0.5
0 6

0.5 4

1 2
2 1 0 1 2 5 0 5

8 3

2
6
1
4
0
5 0 5 2 0 2

2
0
1
1
0
2
1
3
2
4 2 0 2 4 4 2 0 2 4

Figura 3.4: Date mai puternic sau mai slab corelate.

3.4 Exercitii si teme propuse


1. Cand se poate caracteriza perechea de variabile aleatoare caracteriz
and
numai variabilele aleatoare individual? Dar dac a cele doua variabile
aleatoare sunt gaussiene?

RR
2. Ce reprezint
a D1 w (x, y)dxdy?

3. C
at de bun a este (de cine depinde) aproximarea unei densit
ati de pro-
babilitate de ordinul II prin matricea de coocurenta?

4. Daca variabilele aleatoare si sunt gaussiene atunci densitatea de


probabilitate de ordinul II, w (x, y) are forma unui clopot (mai mult
sau mai putin turtit). Se poate construi variabila conditionat a de
tipul (|). Pentru fiecare valoare posibil
a a lui exist
a o densitate de
probabilitate, de variabil
a x a lui , care este la randul ei gaussiana.
Se poate nt ampla ca pentru valori diferite ale lui s a se g
aseasca
densitati gaussiene de medii respectiv dispersii diferite. Desenati un
exemplu de densitate de probabilitate de tipul w| (x, y).

45
LUCRAREA 3. PERECHI DE VARIABILE ALEATOARE

46
Lucrarea 4

Transformata Fourier

In acest capitol se va prezenta o scurt a introducere n analiza spectral a a


semnalelor. Aceast a sectiune a domeniului analizei si prelucr arii semnalelor
are la baz a transformata Fourier.
In general, prin transformare se ntelege o clas a de functii care, primind
la intrare un semnal (reprezentat ntr-un spatiu de baz a - timpul sau alt
spatiu topologic), ofera la iesire reprezentarea acestuia ntr-un spatiu trans-
format (denumit de multe ori domeniu spectral1 ). Transformata Fourier
este o transfomare integral a, n sensul c a fiecare valoare rezultat a depinde
de toate valorile de la intrare.
Transformarea din domeniul timp ntr-un asemenea domeniu spectral
este benefic a datorit
a propriet atilor existente n spatiul rezultant: are inter-
pretabilitate directa a valorilor si apare fenomenul de concentrarea energiei
ntr-un procent mult mai redus de valori.
Desfasurarea lucrarii va ncepe prin a prezenta c ateva propriet ati de baz
a
ale transformatei Fourier, pentru ca, n partea a doua, s a discutam aspecte
specifice ale tranform arii discrete si sa ncheiem cu reprezentarea n domeniul
spectral a c atorva functii uzuale.

4.1 Transformata Fourier continu


a
a2 , a unui semnal x(t) este definit
Transformata Fourier, continu a ca fiind:

Z
X() = F {x(t)} () = x(t)ejt dt (4.1)

1
Termenul spectru are la origini un cuv ant din engleza veche ce denumea o fantom a,
aparitie sau, mai general, ceva ce nu are o form a definit
a si/sau constant a. Mai t arziu a
fost introdus n optica si specifica domeniul culorilor vizibile. Ulterior s-a f acut legatur a
ntre vizibilitatea culorii si lungimea ei de und a (care este proportionala cu frecventa). In
zilele noastre, prin extindere, toate domeniile ce au ca variabil a frecventa sau o derivat a
a acesteia se numesc spectre.
2
Notiunea de continu a se refer
a la faptul c
a atat semnalul de baz a cat si cel rezultat
n urma transform arii sunt definite pe un suport continuu.

47
LUCRAREA 4. TRANSFORMATA FOURIER

Transformarea invers
a este:
Z
1
x(t) = F {X()} (t) = X()ejt d (4.2)
2

O conditie de existenta a transformatei Fourier a unei functii este ca


functia s
a fie de modul integrabila 3.
In cele ce urmeaz a, vom considera ca x(t) este semnalul de baz a, iar
X() transformata lui Fourier. Printre propriet atile transformatei Fourier,
de important a practic
a sunt:
Liniaritatea:
F {ax(t) + by(t)} () = aF {x(t)} () + bF {y(t)} ()
(4.3)
= aX() + bY () , unde a, b C

Deplasarea n timp:

F {x(t + t0 )} () = ejt0 F {x(t)} () (4.4)

Deplasarea n frecventa:

F x(t)ej0 t () = X( 0 )

(4.5)

Simetria:
F {X(t)} () = 2x() (4.6)

Derivarea n timp:
n o
F x(n) (t) () = (j)n X() (4.7)

Convolutia ntre dou


a semnale este definit
a ca fiind:
Z
(x y)(t) = x(t )y( )d (4.8)

Transformata Fourier a convolutiei a dou


a semnale este:

F {(x y)(t)} () = X()Y () (4.9)

Conservarea energiei. Energia unui semnal este:


Z
Ex = x2 (t)dt (4.10)

Ea se poate calcula n domeniul spectral ca fiind :


Z
1
Ex = |X()|2 d (4.11)
2

48
4.2. Transformata Fourier discret
a

Figura 4.1: Trecerea unui semnal printr-un sistem caracterizat de functia


pondere h(t).

De mare important a practic


a este proprietatea care arat a c
a operatiei de
convolutie din domeniul de baz a i corespunde produsul n domeniul spectral
(relatia 4.8). Orice trecere a unui semnal printr-un sistem liniar invariant n
timp se modeleaz a matematic ca o convolutie ntre semnal si functia pon-
dere a sistemului, h(t) (vezi figura 4.1). Referitor la sisteme (de multe ori
denumite si filtre), sunt de interes dou a aspecte: caracterizarea unuia deja
existent sau proiectarea unuia care s a aiba propriet
ati impuse. Frecvent,
aceste operatii sunt mai usor de realizat n domeniul spectral dec at n dome-
niul de baz a.
Trebuie precizat c a componenta spectral a pe frecventa 0 este denumit a
component a continua.

O explicatie intuitiv
a a transfomatei Fourier se obtine dac
a se particularizeaz
a sem-
nalul x(t) printr-o cosinusoid
a : x(t) = cos(0 t). Dac
a vom calcula transformata Fourier
a semnalului vom obtine X() = 12 ( 0 ) + 21 ( + 0 ).
Semnalul x(t) poate fi reprezentat n spatiul de baz
a (timpul, de variabil
a t) sau
ntr-un spatiu al frecventelor (de variabil
a ). Acest semnal, cos(0 t) are o valori nenule
pentru o singur
a frecvent
a, 0 . Dac
a inspect
am transformata lui Fourier vom vedea ca
exist
a valori nenule numai n 0 , respectiv n 0 (mai exact acolo unde sunt definite cele
dou
a functii ).
Simplist, notiunea de frecventa poate fi vazut
a ca o vitez
a de variatie. O sinusoid
a de
frecvent
a mare va oscila repede (va avea multe variatii bruste n unitatea de timp) - vezi
figura 4.2 n timp ce una de frecvent
a joas
a va oscila lent.

4.2 Transformata Fourier discret


a
In mod evident, transformata Fourier continu a nu se poate implementa intr-
un sistem digital (cum este si calculatorul personal), care ofer a, prin natura
sa, un domeniu de definitie discret. In continuare vom defini transformata
Fourier discret a si vom enunta c
ateva proprietati utile ale acesteia.
Se va considera o secvent a discret
a x(n) de lungime N . Aceasta poate
fi obtinuta prin esantionarea semnalului continuu x(t) la momentele nTe
(unde n = 0, . . . N 1 - vezi figura 4.3). T este perioada de esantionare, iar
fe = T1 si e = 2fe sunt frecventa si respectiv pulsatia de esantionare.

3
Aceasta conditie este similar a (atentie, nu identic
a) cu a spune c
a semnalul de baz
a
este de energie finita. Se poate defini transformata Fourier si pentru functii care nu
respect
a aceste conditii, dar n lucrarea de fat
a nu ne vom referi la acestea.

49
LUCRAREA 4. TRANSFORMATA FOURIER

cos(2t) cos(10t)
1

0.8

0.6

0.4

0.2

0.2

0.4

0.6

0.8

1
0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5

Figura 4.2: Dou a cosinusoide. Functia reprezentat a cu linie punctat


a este
de pulsatie = 10 si are variatii rapide. Spectrul ei va avea valori nenule
mai departe de origine dec at cosinusoida de pulsatie = 2, reprezentata cu
linie continu
a.
2

1.5

0.5

0.5

1.5

2
0 5 10 15 20 25 30

Figura 4.3: Un semnal si secventa rezultat


a prin esantionarea lui.

Transfomata Fourier discret


a a secventei x(n) este definit
a ca fiind:
N 1
X 2k
X(k) = Fd {x(n)} (k) = x(n)e N
n
,unde k = 0, . . . , N 1 (4.12)
n=0

Transformata Fourier discret


a invers
a este:
N 1
2n
x(n) = Fd1 {X(k)} (n) =
X
k
X(k)e N ,unde n = 0, . . . , N 1
k=0
(4.13)
Printre propriet
atile transformatei Fourier discrete se num
ar
a:
Spectrul este periodic de perioad a N . Aceast
a proprietate este impor-
tant
a dac
a se doreste evaluarea spectrului de frecvente ntr-un interval
mult mai larg dec
at {0, . . . , N } (cum ar fi {, . . . , 0, . . . , N, . . . , +}).

X(k + N ) = X(k) (4.14)

50
4.2. Transformata Fourier discret
a

Daca x(n) se obtine prin esantionarea semnalului continuu x(t), atunci


transformata Fourier discret a a secventei x(n), X(k), reprezint
a esantionarea
transformatei Fourier continue a semnalului x(t):

X() = F {x(t)} () si x(n) = x(nT )


T (4.15)
X(k) = X(k ), unde k = k
2N
Aceast
a relatie permite extinderea propriet
atilor transformatei Fourier
continue la cea discret
a.

Transformata Fourier este o modalitate de a proiecta un semnal n planul com-


plex pe cercul unitate. Transformata Fourier discret
a a unei secvente de lungime
2n
N are drept coeficienti (ej N ) r
ad
acinile complexe de ordinul N ale unit
atii (vezi
figura 4.4).
Prin similaritate cu functiile trigonometrice, de care n mod evident transformata
Fourier este str
ans legat
a, ne putem imagina usor functionarea propriet
atii de pe-
riodicitate a secventei spectrale.

0.8

0.6

0.4

0.2

0.2

0.4

0.6

0.8

1 0.8 0.6 0.4 0.2 0 0.2 0.4 0.6 0.8 1

Figura 4.4: Transformata Fourier continu a este proiectata pe cercul uni-


tate. Transformata Fourier discret a este calculata n punctele descrise de
r
adacinile de ordinul N (aici N = 20) ale unit atii. Valorile n care este
calculata o secvent
a spectral
a de lungime 20 sunt marcate.

Valorile spectrului sunt complex conjugate fat  a de componenta cen-


tral
a. O conse-cint
a imediata este ca numai N2 valori sunt necesare
n vederea memor arii, restul fiind redundante.

Transformata Fourier discret


a este evaluat
a, initial, n intervalul [0, 2]. Pentru
a obtine componenta continu
a n centrul secventei spectrale rezultate este necesar
a
o translatie astfel nc
at domeniul n care s
a se calculeze s
a fie [, ].
In cazul n care semnalul original este continuu si a fost esantionat cu fe , atunci
spectrul av
and componenta continu
a n centru contine frecvente cuprinse n inter-
valul [ f2e , fe
2
], adic
a fe
2
si respectiv fe
2
.

Transformata Fourier discreta transform a convolutia circular


a a dou a
semnale definite n domeniul timp, n produs n domeniul frecventa.

51
LUCRAREA 4. TRANSFORMATA FOURIER

Pentru dou a secvente oarecare (x1 (n), n = 0, . . . N1 1 si, respectiv,


x2 (n), n = 0, . . . N2 1) convolutia discret
a se defineste ca fiind:
+
X
y(n) = (x1 x2 )(n) = x1 (m)x2 (n m), n = 0, . . . , (N1 + N2 1)
m=
(4.16)
Aceast a relatie presupune c a secventele sunt extinse n afara dome-
niului original (0, . . . , N ) cu zero. Convolutia este implementat a n
Matlab prin functia conv.
Se defineste convolutia circular a a doua secvente de lungime egalaN
astfel:
N
X
y(n) = (x1 x2 )c (n) = x1 (m) (x2 (n m))c , unde n = 0, . . . , N
m=0
(4.17)
In aceasta relatie, notatia (x2 (n))c reprezint
a secventa x2 (n) extins
a
circular n afara domeniului (vezi si figura 4.5):

(x2 (m))c = x2 (n mod N ) , unde n = (, +) (4.18)

xN2 x x0
N1 xN x1 xN2 xN1 x x0 x1
N

Figura 4.5: Shiftarea circular


a a unei secvente

Pentru calculul n frecventa a convolutiei circulare a dou


a semnale
discrete sunt necesare c
ateva etape:

Se considera dou a secvente: x1 (n), n = 0, . . . N1 1 si respectiv


x2 (n), n = 0, . . . N2 1, N1 6= N2 .
Aceste secvente se extind cu 0 p
ana la lungimea N1 + N2 1:

x1 (n) , pentru n < N1
xe1 (n) =
0 , pentru n >= N1

si respectiv:

x2 (n) , pentru n < N2
xe2 (n) =
0 , pentru n >= N2

Operatia de extindere este obligatorie datorit


a necesit
atii ca am-
bele transformate Fourier sa aiba componente spectrale pe ace-
leasi frecvente. Dac
a se extind cele dou a secvente n modul
prezentat, atunci lungimile lor vor fi egale si, deci, vor ap area
aceleasi frecvente.

52
4.2. Transformata Fourier discret
a

Se calculeaz
a transformatele Fourier discrete ale celor dou
a secvente.
N1 +N
X2 2 2k
N n
X1 (k) = xe1 (n)e 1 +N2 1 , unde k = 0, . . . , N1 +N2 2
n=0

N1 +N
X2 2 2k
N n
X2 (k) = xe2 (n)e 1 +N2 1 , unde k = 0, . . . , N1 +N2 2
n=0

Secventele spectrale se nmultesc element cu element.

Y (k) = X1 (k)X2 (k) , unde k = 0, . . . , N1 + N2 2

Se calculeaz
a transformata Fourier invers
a a secventei rezultate.
Aceasta este egal
a cu transformata Fourier a convolutiei circulare
a celor dou
a secvente x1 si x2 .

y(n) = Fd1 {Y (k)} (n) = (x1 x2 )c (n) (4.19)

Transformata Fourier discret a accept a un algoritm de calcul de com-


plexitate O(N log2 N ). Dac a se aplic a direct formula 4.12, pentru
calculul fiecarei componente spectrale este necesar a nsumarea a N
termeni. Acest a operatie poate fi simplificat a deoarece acelasi ter-
men de nsumat contribuie la mai multe componente spectrale (vezi
[7]). Prin simplificare, transformata Fourier rapid a poate fi v
azuta
ca o operatie n doi pasi: n primul se evaluaz a cei N termeni, iar
n al doilea se adaug a contributia fiecaruia la componentele spectrale
corespunz atoare. Cea mai simpl a varianta de calcul a transformatei
Fourier rapid a se obtine n cazul n care N este o putere a lui 2 (vezi
[6]). Totusi Cooley si Tukey (n [2]) indic a o metoda de calcul rapid a
pentru o secvent a oarecare (indiferent de lungimea ei). Aceast a vari-
anta este implementat a n Matlab de c atre functia fft. FFT este o
prescuratare a sintagmei Fast Fourier Transform.

53
LUCRAREA 4. TRANSFORMATA FOURIER

4.3 Desf
asurarea lucr
arii
1. Sa se calculeze transformata Fourier a semnalului x(t) = 2 pentru
t = [0, M ] si x(t) = 0 pentru t [M, N ]. S
a se reprezinte grafic partea
real
a a spectrului Fourier.

Rezolvare:
Vom calcula, mai int ai, teoretic transfomata Fourier a semnalului
x(t) = A, t R. Se stie ca transformata Fourier a unui semnal
de tip Dirac, (t) este 1. Acest lucru este usor de demonstrat:

Z
F {(t)} () = (t)ejt dt = 1

Folosind proprietatea de simetrie:

F {1}() = 2() = 2()

Deci transformata Fourier a functiei x(t) = A, t R este X() =


2A().
Daca se doreste s
a se calculeze transformata Fourier a functiei y(t) =
A, t [B, B] aceasta este: Y () = 2AB sinc(B).
Codul Matlab care implementeaz a calculul unor asemenea secvente
este:

N = 200; M = 100;
x = 2 + zeros(1,N);
y = zeros(1,N); y(1:M) = 2;
X = real(fft(x));
Y = real(fft(y));
plot(X, b );
hold on; plot(Y, k );

Zona de interes a rezultatului grafic al acestei secvente poate fi vizual-


izat n figura 4.6.
Un semnal constant nu are nici un fel de variatie, deci spectrul s au
va contine o singura component a (si anume componenta continu a).
In momentul n care n semnal apare un salt (cazul lui y(t)), acesta
va introduce diferite variatii, ceea ce implic
a aparitia de componente
nenule pe alte frecvente.
Tem a: Sa se varieze parametri M si N, si sa se urmareasc
a influenta lor
asupra amplitudinii componentelor spectrale.
Cum ar arata spectrul semnalelor daca s-ar fi considerat cazul continuu (s-ar
fi folosit transformata Fourier continua)?

2. S
a se calculeze transformata Fourier a semnalului x(t) = 2 sin(2t) pen-
tru t = [0, 6]. Sa se reprezinte grafic modulul spectrului.

54
4.3. Desf
asurarea lucr
arii

350

300

250

200

150

100

50

0
5 10 15 20 25 30 35

Figura 4.6: Transformata Fourier discret


a a unei secvente constante respec-
tiv a unei functii poart
a.

Rezolvare: Vom calcula, mai nt


ai, teoretic, transfomata Fourier a
semnalului x(t) = A sin(0 t):

j j0 t
ej0 t

se stie c
a sin(0 t) = e
2

Z
X() = F {x(t)} () = A sin(0 t)ejt dt

Z
A
j ej0 t ej0 t ejt dt

=
2

Z Z
A j(0 )t A
= j e 1dt j ej(+0 )t 1dt
2 2

S
tiind c
a transformata Fourier invers
a a semnalului constant n timp
1 este 2(), si folosind teorema deplas
arii n frecventa se obtine:

X() = F {x(t)} () = A( 0 ) + A( + 0 )

Un semnal real va avea spectrul simetric fata de componenta continu a.


Functia sin(t) are o singura frecventa. De aceea este normal s a apar
a
o singura component a spectrala.
Daca ne gandim la implementarea Matlab a cerintelor, functia sin(t)
este aproximat a prin esantioane ale ei. Cu c
at num arul de esantioane
este mai mare cu at at reprezentarea este mai precis a4 .
Tem a: Sa se urm
areasc
a n ce fel num
arul de esantionane considerate influenteaz
a
spectrul.
4
O justificare poate fi obtinut a daca ne aducem aminte c a transformata Fourier con-
tinu
a reprezinta o proiectie a semnalului pe cercul unitate. Transformata Fourier discret a
se calculeaz
a ntr-un num ar finit de puncte de pe acest cerc. Evident, cu c at num
arul de
puncte este mai mare, cu at at se obtine o aproximare mai precis a a cercului.

55
LUCRAREA 4. TRANSFORMATA FOURIER

3. Se urm areste modul n care functia fft construieste spectrul unui sem-
nal. Pentru aceasta, se consider a un semnal x(t) esantionat cu Tes si
achizitionat ntre 0 si Tmax .
Num arul de esantioane (lungimea secventei) este evident N = TTmax es
+1.
Transformata Fourier discret a a unei secvente de lungime N este tot
N.
Initial, se calculeaz a transformata Fourier pe cercul unitate consid-
erat n [0, 2]. In acest caz, componenta continu a va fi la cap atul
din st anga. Dac a se doreste simetrizarea spectrului (componenta con-
tinu a n centru) atunci trebuie reprezentat cercul unitate n [, ].
Practic, functia fftshift permite mutarea segmentului [, 2] n [, 0].
Se stie ca ntr-un semnal esantionat ([7]) frecventa maxim a reprezentabil a
fe 1
este jum atate din frecventa de esantionare: fmax = 2 = 2Te . Frecventa
1
minim a surprins a a semnalului este fmin = Tmax . Dac a se consider a
spectrul simetric, atunci domeniul de frecvente reprezentat este:
       
1 1 1 1 1
, + , . . . , 0, ,...,
2Te 2Te Tmax Tmax 2Te
     
fe fe fe
= , + fmin , . . . , 0, (fmin ) , . . . ,
2 2 2
       
2 2 2
= () , + 1 , + 2 , . . . , 0, , . . . , ()
N N N
(4.20)

Tem a: Sa se urm
areasc
a aceste aspecte pentru semnale sinusoidale (cum sunt
x1 (t) = sin(2 50t),x2 (t) = sin(2 100t), etc.) prin identificare indicelui
valorii importante din spectru cu componenta de frecventa corespunzatoare
.

4. Convolutia a dou a semnale. Se vor considera dou a semnale de tip


poarta si se va calcula rezultatul convolutiei dintre ele at
at n dome-
niul timp, c at si n domeniul frecventa.

Rezolvare: Convolutia este implementat


a n Matlab prin functia
conv. Codul necesar este:

N = 200;
x = zeros(1,N);
X1 = 40; X2 = 50;
x(X1:X2) = 1;
y = zeros(1,N);
Y1 = 40; Y2 = 50;
y(Y1:Y2) = 1;
zt = conv(x,y);
subplot(1,2,1); plot(zt);
axis([0, 200,-1 12]);
zf = real(ifft(fft(x).* fft(y)));
subplot(1,2,2); plot(zf);

56
4.3. Desf
asurarea lucr
arii

axis([0, 200,-1 12]);

Rezultatul poate fi vizualizat n figura 4.7.

12 12

10 10

8 8

6 6

4 4

2 2

0 0

0 50 100 150 200 0 50 100 150 200

Figura 4.7: Convolutia a dou a semnale de tip poart a, implementat


a, direct,
n spatiu (st
anga), respectiv n frecventa (dreapta).

Tem a: Care este diferenta ntre rezultatele obtinute prin cele doua metode?
Cum variaza rezultatul convolutiei daca se modifica parametri semnalului
(latimea portii) de la intrare?

5. S
a se studieze convolutia pentru dou a semnale oarecare. S a se urm areasc
a
efectele translatiei circulare n cazul implement
arii n frecventa.

6. Filtrare. Se va considera semnalul x(t) = sin(t) + sin(6t) + sin(7t).


Se va filtra acest semnal, pe r
and cu:
Un filtru trece jos (FTJ) ideal av
and frecventa de t
aiere t = 1.

Un filtru trece band a (FTB) ideal av


and frecventa central
a 0 = 3
si l
atimea benzii de trecere = 1.5.

Un filtru trece sus (FTS) ideal av


and frecventa de t
aiere t = 5.5.
Se va vizualiza rezultatul fiec
arei operatii de filtrare. Operatia se va
implementa n frecvent
a.

Rezolvare: Modulele functiilor de transfer ale celor trei filtre sunt


(vezi si figura 4.8):

1 , pentru || t
|HF T J ()| =
0 , n rest


1 , pentru || [0 2 , 0 + 2 ]
|HF T B ()| =
0 , n rest

57
LUCRAREA 4. TRANSFORMATA FOURIER


1 , pentru || t
|HF T S ()| =
0 , n rest

FTJ FTB FTS


1.5 1.5 1.5

1 1 1

0.5 0.5 0.5

0 0 0

0.5 0.5 0.5


10 0 10 10 0 10 10 0 10

Figura 4.8: Modulul functiilor de transfer a filtrelor uzuale

Codul Matlab este:

close all;
tes = 0.05; tmax = 10;
t= 0 : tes : tmax;
%f1=1hz f2=3Hz f3=4Hz
x= sin(0.5*2*pi*t) + sin(3*2*pi*t) + sin(7*2*pi*t);
subplot(1,2,1); plot(t, x);

%fftshift se foloseste pentru a avea frecventa continua in


centrul %spectrului
X = fftshift(fft(x));
lg2 = floor(length(x) / 2);
f = -1 / (tes*2*lg2) .* (-lg2 : lg2);
subplot(1,2,2); plot(f, abs(X));

hftj = zeros(size(f)); hftj( abs(f) <1 )=1;


hftb = zeros(size(f)); hftb((abs(f) > 1.5) & (abs(f) < 4.5))
= 1;
hfts = zeros(size(f)); hfts(abs(f) > 5.5) =1;
hold on;
plot(f, 10 * hftj, r);
plot(f, 10 * hftb, g);
plot(f, 10 * hfts, k);
hold off;

xftj = real(ifft(fftshift(hftj .* X)));


xftb = real(ifft(fftshift(hftb .* X)));

58
4.3. Desf
asurarea lucr
arii

xfts = real(ifft(fftshift(hfts .* X)));

figure;
subplot(1,3,1); plot(t, xftj, k); axis([0 tmax -1.1 1.1]);
subplot(1,3,2); plot(t, xftb, k); axis([0 tmax -1.1 1.1]);
subplot(1,3,3); plot(t, xfts, k); axis([0 tmax -1.1 1.1]);
x 1 = sin(0.5*2*pi*t); x 2 = sin(3*2*pi*t); x 3 = sin(7*2*pi*t);
figure;
subplot(1,3,1); plot(t, x 1, k); axis([0 tmax-3.1 3.1]);
subplot(1,3,2); plot(t, x 2, k); axis([0 tmax -3.1 3.1]);
subplot(1,3,3); plot(t, x 3, k); axis([0 tmax -3.1 3.1]);

Semnalele filtrate pot fi vazute n figura 4.9. Se poate observa c a


semnalele filtrate sunt diferite fata de cele asteptate5 . Prin filtrare s-
au pierdut anumite componente. Totusi se poate observa c a frecventa
principal
a a semnalului este cea asteptat a.

1 1 1

0.8 0.8 0.8

0.6 0.6 0.6

0.4 0.4 0.4

0.2 0.2 0.2

0 0 0

0.2 0.2 0.2

0.4 0.4 0.4

0.6 0.6 0.6

0.8 0.8 0.8

1 1 1

0 5 10 0 5 10 0 5 10

Figura 4.9: Rezultatul filtrarii semnalului prin cele trei filtre

Tema: Sa se implementeze operatia de filtrare direct n domeniul timp.


Pentru aceasta se vor calcula intai functiile pondere ale celor trei filtre.

5
Printre cauze trebuie amintite si cele legate de lipsa preocup
arii fat
a de faza filtrului.
Ea fost considerata nul
a ceea ce este gresit.

59
LUCRAREA 4. TRANSFORMATA FOURIER

4.4 Exercitii si teme propuse


1. Definiti transformata Fourier a unei functii continue.

2. Demonstrati proprietatea de conservare a energiei. In ce fel se scrie


aceast
a proprietate pentru spectrul unei secvente discrete?

3. Se nt
ampl
a ca pentru functii a c
aror transformat
a Fourier are numai
parte real
a (n urma unui calcul teoretic) functia fft s
a raporteze o
parte imaginar a nenul
a. De ce?

4. Care este transformata Fourier a unei functii de tip dubl


a poart
a (sim-
ilar
a cu modului functiei de transfer a unui FTB)?

5. Din punct de vedere al complexit atii de calcul, ce modalitate este


mai rapid a pentru a implementa convolutia (n timp - direct sau n
frecvent
a)?

60
Lucrarea 5

Semnale aleatoare

Semnalele aleatoare sunt o combinatie ntre variabile aleatoare (ceea ce im-


plic
a o component a nerepetitiv a) si semnalele pure (care sunt, de obicei,
asociate cu o functie de timp). Un semnal aleator poate fi v azut ca o functie
care asociaz a fiecarei realiz
ari particulare a unui experiment un semnal n
timp.
In aceast a lucrare vom modela matematic semnalul aleator si vom prezenta
modualit atile de descriere a propriet atilor sale. Acestea sunt prezentate di-
rect n domeniul timp. Pentru analiza spectral a a semnalelor aleatoare se
va face apel la teorema Wiener-Hincin. In final se va discuta filtrarea sem-
nalelor aleatoare.

5.1 Caracterizarea semnalelor aleatoare


Un semnal aleator este o functie de doi parametri: (t, ). Variabila t
indic
a desf
asurarea n timp, iar variabila fixeaz
a realizarea particular
a.
Simplific
and se poate spune c a:
Dac a se fixeaz
a realizarea particular
a (fix
am = k ), atunci semnalul
aleator devine functie numai de timp : (t, ) (t)=k . Asadar
fiecare realizare particulara a unui semnal aleator este un semnal n
timp.
Daca se fixeaz
a momentul de timp (fix am t = tk ), atunci semnalul
aleator devine functie numai de realizarea particulara: (t, ) ()t=tk .
Aceasta este o variabil a aleatoare. Asadar la fiecare moment de timp,
semnalul aleator este o variabil a aleatoare.
Pe scurt, semnalul aleator este un semnal care la orice moment de timp va
fi o variabil
a aleatoare. De obicei, se consider
a c
a partea aleatoare (legat
a
de variabila ) este implicit
a, iar semnalul se va nota pe scurt cu (t).

Caracterizarea statistic
a a semnalului aleator se poate referi la:
O variabila aleatoare. Aceasta se obtine dac a se fixeaz
a un moment de
timp t = t0 . Parametri sunt cei ai unei variabile aleatoare (discutati
n lucrarea 2) cu precizarea c
a pot fi diferiti pentru fiecare moment de
timp. Mai precis, se definesc:

61
LUCRAREA 5. SEMNALE ALEATOARE

Functia de repartitie de ordinul I :

F (x, t0 ) = P ((t0 ) x), t0 (5.1)

Functia de repartitie a unui semnal aleator este o functie de dou a


variabile: x si t0 . Indiferent de momentul de timp ales, functia
de repartitie va respecta proprietatile unei functii de repartitie a
unei variabile aleatoare.
Densitatea de probabilitate de ordinul I :

F (x, t0 )
w (x, t0 ) = , t0 (5.2)
x
S
i aceasta este o functie de doua variabile. In mod similar, la
orice moment de timp functia obtinut a va respecta propriet
atile
unei densitati de probabilitate.
Momentele statistice, at
at centrate c
at si necentrate, sunt functii
de timp. Ne vom rezuma n a defini momentele des folosite:
Media:
Z
(t0 ) = xw (x, t0 )dx, t0 (5.3)

Media p
atratic
a:
Z
2 (t0 ) = x2 w (x, t0 )dx, t0 (5.4)

Varianta:
Z  2
2 (t0 ) = x (t0 ) w (x, t0 )dx, t0 (5.5)

Un vector de dou a variabile aleatoare (o pereche). Acesta se obtine


a momente de timp t1 si respectiv t2 . In acest sens
prin fixarea a dou
se poate vorbi despre:

Functia de repartitie de ordinul II :

F (x1 , x2 , t1 , t2 ) = P (((t1 ) x1 ), ((t2 ) x2 )), t1 , t2 (5.6)

Densitatea de probabilitate de ordinul II :

2 F (x1 , x2 , t1 , t2 )
w (x1 , x2 , t1 , t2 ) = , t1 , t2 (5.7)
x1 x2

Momente statistice de ordinul II. Cel mai des folosit astfel de mo-
ment este momentul necentrat de ordinul (1, 1). Acesta defineste
corelatia a doua variabile aleatoare. In cazul semnalelor aleatoare
se transform a ntr-o functie de dou
a momente de timp, si fiindca

62
5.1. Caracterizarea semnalelor aleatoare

cele dou
a variabile aleatoare provin din cadrul aceluiasi semnal
discut
am despre functia de autocorelatie:
Z Z
R (t1 , t2 ) = x1 x2 w (x1 , x2 , t1 , t2 )dx1 dx2 = (t1 )(t2 ), t1 , t2

(5.8)

Caracterizarea temporal a a semnalului aleator descrie parametri tipici


ai unui semnal. Se fixeaza realizarea particular
a ( = k = (t) = k (t))
si se descrie semnalul asfel obtinut prin:

Media temporal a este un parametru al unei realizari particulare si este


definit
a ca fiind:
Z T
1
]
2
k (t) = lim k (t)dt (5.9)
T + T T
2

Functia de autocorelatie temporal


a:
T
1
Z
^
R k
2

( ) = limT + T
k (t)k (t )dt (5.10)
T2

Din toate categoriile de semnale aleatoare, de interes sunt cele care si


p
astreaz
a anumite propriet ati n raport cu modificarea uneia dintre vari-
abile. Din acest punct de vedere, de interes sunt semnalele stationare si cele
ergodice.

5.1.1 Stationaritatea semnalelor aleatoare


Proprietatea de stationaritate se refer a la independenta de alegerea originii
timpului sau, cu alte cuvinte, la o invarianta la translatia n timp. Dac a
ne rezum am la semnalele aleatoare, stationaritatea presupune p astrarea
parametrilor statistici n raport cu variatia originii timpului.
In teorie se poate defini notiunea de stationaritate n sens strict. Totusi
de interes practic este proprietatea de stationaritate n sens larg.
Un semnal aleator este stationar n sens larg dac
a media sa nu depinde de
timp si functia de autocorelatie depinde numai de diferenta ntre momentele
de timp alese:


(t) = (t + ) =
(t) se consider
a SSL dac
a
R (t1 , t2 ) = R (t1 t2 ) = R ( ), = t1 t2
(5.11)

5.1.2 Ergodicitatea semnalelor aleatoare


Dac
a stationaritatea se refer
a la variatia parametrilor statistici n raport cu
timpul, ergodicitatea se refer
a la variatia n raport cu realizarea particular
a.
Prima conditie ca un semnal aleator s a fie ergodic este ca el sa fie

63
LUCRAREA 5. SEMNALE ALEATOARE

stationar. In acest caz, un semnal este ergodic dac a marimile temporale


sunt egale cu cele statistice echivalente oricare ar fi realizarea particular a
considerat a. Se poate vorbi si de ergodicitatea unui singur parametru. De
exemplu, un semnal este ergodic n sensul mediei dac a media temporal aa
oric arei realiz
ari particulare este egal a cu media statistic a oricare ar fi mo-
mentul de timp considerat.
Proprietatea de ergodicitate este de importanta vital a n practica. Daca
un semnal este ergodic atunci o singur a realizare particular a este suficient
a
pentru a determina propriet atile lui statistice. Dac a un semnal nu este
ergodic atunci sunt necesare foarte multe realiz ari particulare pentru a-l
putea analiza. Studiul lor presupune, de multe ori costuri ridicate n ved-
erea memor arii.
In practica, dac
a sunt diponibile putine realiz ari particulare, semnalul
este presupus a fi ergodic si acele c ateva realizari sunt considerate suficiente
pentru a caracteriza semnalul aleator.

5.2 Teorema Wiener-Hincin


Dup a cum am mai amintit, o abordare des utilizat a n analiza semnalelor
este cea spectral a. Din nefericire un semnal aleator stationar este de energie
a 1 si, deci, nu are transformat
infinit a Fourier. Un rezultat important pe
aceasta directie este dat de teorema Wiener-Hincin. Dar nainte de a dis-
cuta aceast a teorem a s
a prezentam propriet
atile a dou a functii importante:
functia de autocorelatie si densitatea spectral a de putere a unui semnal
aleator.

5.2.1 Functia de autocorelatie


Functia de autocorelatie a unui semnal stationar n sens larg, (t) este
definit
a ca fiind:
R ( ) = (t)(t + ), t R (5.12)
Propriet
atile functiei de autocorelatie a unui semnal aleator stationar n sens
larg sunt:

Este maxim
a n origine:

R (0) |R ( )|, (5.13)

Este par
a:
R ( ) = R ( ), 0 (5.14)

Valoarea n zero este media p


atratic
a a semnalului:

R (0) = (t)(t) = 2 (5.15)


1
Limitarea energiei unui semnal presupune, de cele mai multe ori, c a el tinde asimptotic
c
atre zero odata cu |t| . Asemenea ipotez a nu este permis a de stationaritate: ar
nsemna, de exemplu, c a exist
a dispersii diferite n jurul originii si respectiv catre infinit.

64
5.2. Teorema Wiener-Hincin

Dac
a semnalul nu este periodic atunci valoarea la + este p
atratul
mediei semnalului:
2
R (+) = (t)(t + ) = (5.16)

Daca semnalul aleator este periodic de perioad a T , atunci si functia


sa de autocorelatie este periodic
a de perioad
a T:

Dac
a (t) = (t + T ), t R ( ) = R ( + T ), (5.17)

5.2.2 Densitatea spectral


a de putere
Dupa cum am amintit, un semnal aleator SSL nu are transformat a Fourier.
Totusi se poate da o masur a a spectrului semnalului. Pentru a o construi
sunt necesari urmatori pasi:
Se consider
a o realizare particular
a a semnalui (t): k (t). Aceasta este
definit
a pe un suport nelimitat, si are, n consecinta, energie infinit
a.

Se truncheaz
a la un interval de lungime T din jurul originii:

k (t) , pentru T2 t T2

T
k (t) =
0 , n rest

Aceasta trunchiere este de energie finit


a (fiind de suport finit), deci
are transformat
a Fourier:

XkT () = F kT (t)
 

Se defineste densitatea spectral


a de putere a semnalului (t) ca fiind:

|XkT ()|2
q () = lim (5.18)
T + T
unde medierea de la numar
ator este dup
a toate realiz
arile particulare
ale semnalului aleator.
Propriet
atile densit
atii spectrale de putere sunt:
Este o functie ce ia numai valori reale si pozitive (este raportul dintre
modulul unei functii si un num
ar real si pozitiv);

Puterea semnalului este:


Z
1
P = q ()d
2

Teorema Wiener-Hincin afirm a c


a transformata Fourier a functiei de
autocorelatie a unui semnal aleator stationar n sens larg este densitatea
spectral
a de putere a acestuia:

F [R ( )] = q () (5.19)

65
LUCRAREA 5. SEMNALE ALEATOARE

Este necesar de f acut o observatie: ipoteza de stationaritate a semnalului


este necesar
a n primul rand pentru a putea scrie functia de autocorelatie n
acest
a forma compact a (de o singura variabila).
Folosind rezultatul acestei teoreme, putem calcula o m arime spectral a
care s
a caracterizeze un semnal aleator. Mai mult, se pot determina anumiti
parametri ai r aspunsului unui filtru cand la intrare i se prezinta un semnal
aleator de functie de autocorelatie cunoscut a. In fapt aceste rezultate vor fi
prezentate pe scurt n sectiunea urm atoare.

5.3 Trecerea semnalelor aleatoare prin sisteme


liniare
Un sistem este liniar daca respect a principiul superpozitiei: cand la intrare
se prezinta o suma ponderata de semnale, iesirea va consta ntr-o sum a (cu
aceleasi ponderi) ale r
aspunsurilor fiecarui semnal considerat independent.
Un filtru este caracterizat de functia pondere h(t) n domeniul timp
si de functia de transfer H(w) (transformata Fourier a functiei pondere)
n domeniul frecventa. Dac a la intrarea unui asemnea filtru se prezint a
semnalul aleator (t), iar la iesire va rezulta semnalul (t), relatia ntre ele
este:
(t) = (t) h(t)
sau, echivalent n frecventa:

F [(t)] = Y () = X()H(), unde F [(t)] = X()

Pentru semnalele aleatoare se poate determina relatia (vezi [1]):

q () = |H()|2 q () (5.20)

66
5.4. Desf
asurarea lucr
arii

5.4 Desf
asurarea lucr
arii
1. Semnale conditionatdeterministe. In realitate exist a putine cazuri
de semnale perfect aleatoare, n care num arul realiz
arilor particulare
a fie infinit. In orice caz, acestea sunt dificil de manipulat
diferite s
n medii de test cum este Matlabul. Mai interesant este studiul asa-
numitelor semnale conditionatdeterministe. Acestea sunt semnale
parametrice n care un parametru este o realizare particular a a unei
variabile aleatoare.
Fie semnalul x(t) = A sin(t), unde A este realizarea particular a a unei
variabile aleatore gaussiene de medie 0 si dispersie 1. S a se reprezinte
20 de realiz
ari particulare ale acestui semnal n intervalul [5, 5]. Sa
se calculeze media si dispersia la toate momentele de timp considerate
si s
a se repre-zinte grafic. Sa se calculeze functia de autocorelatie. S
a
se decida asupra stationaritatii semnalului.

Rezolvare: Un calcul teoretic (vezi [10]) arat


a c
a media semnalului
este constant
a:
x(t) = A sin(t) = 0, t
Media p
atratic
a este:

x2 (t) = A2 sin2 (t) = sin2 (t), t

Functia de autocorelatie este:

Rx (t, t + ) =x(t)x(t + ) = A2 sin(t) sin((t + ))


1 1
= cos( ) cos( + 2t), t
2 2
Deci, conform calculului teoretic, semnalul este nestationar.
Secventa Matlab care implementeaz a cerinta acestui exercitiu, poate fi:

close all; clear all;


N = 20; % num arul de realizari particulare
t = -5*pi : 0.5 : 5*pi;
w = 1; % pulsat ia
figure;
% reprezent am fiecare realizare particulara pe linia unei matrice
for i = 1:N
x(i,:) = randn(1, 1) * sin(w*t);
plot(t, x(i,:)); hold on;
end
hold off;
% media
si dispersia la un moment de timp sunt calculate
% pe coloanele matricei de date
m = mean(x, 1); s = std(x, 0, 1); figure;
subplot(1, 2, 1); plot(t, m);
title( media ); axis([-5*pi, 5*pi, -1, 1]);
subplot(1, 2, 2); plot(t, s);

67
LUCRAREA 5. SEMNALE ALEATOARE

title( dispersia ); axis([-5*pi, 5*pi, -1, 1]);


% funct
ia de autocorelat ie
k1 = 0; k2 = 0; lg = length(t);
for k1 = 1:lg;
for k2 = 1:lg
R(k1, k2) = mean(x(:, k1) .* x(:, k2));
end
end
figure;
surf(t, t, R); colormap(gray(256));
title( functia de autocorelatie );

Rezultatul grafic al acestei secvente poate fi vizualizat n figura 5.1.


In mod natural, rul ari consecutive ale codului vor duce la rezultate
diferite, sursa diferentelor constand n valorile diferite ale realiz
arilor
particulare. Se poate observa c a, desi teoretic media este 0, practic
ea va avea valori nenule. Acest fapt se datoreaz a setului de realiz ari
particulare ale densitati de probabilitate gaussian a, care la r
andul lui
nu are media 0. Dac a se creste numarul de realizari particulare se va
observa o apropiere de axa absciselor.

2. Aceeasi cerint
a ca si n cazul problemei precedente, dar pentru sem-
nalul x(t) = A sin(0 t + P ), unde A si 0 sunt constante, iar P este
o realizare particular a a unei variabile aleatoare distribuite uniform n
[, ].

Rezolvare: Teoretic, media semnalului este:


Z
1
x(t) = A sin(0 t + z)dz = 0, t
2

Media patratic
a este:
Z 2 +
2
A 2 A2 A2 A2
x (t) = sin (0 t + z) = + cos(20 t + 2z) = , t
2 4 2 4

Functia de autocorelatie este:



A2
Z
Rx (t, t + ) = x(t)x(t + ) = sin(0 t + z) sin(0 t + + z)dz =
2
+
A2 A2 A2
= cos(0 ( )) + cos(0 (2t + ) + 2z) = cos(0 ),
2 2 2

Aceste rezultate implic a stationaritatea n sens larg a procesului aleator.


In practica se vor constata mici diferente (vezi figura 5.2): media si
dispersia vor tinde c atre constant a n momentul n care num arul de
realiz
ari particulare creste. Faptul c a functia de autocorelatie depinde
numai de diferenta ntre momentele de timp considerate este vizibil n
valorile constant egale aflate pe drepte paralele cu prima bisectoare:

68
5.4. Desf
asurarea lucr
arii

Semnalul aleator Media


3 1

2
0.5
1

0 0

1
0.5
2

3 1
20 10 0 10 20 10 0 10

Dispersia Functia de autocorelatie


1.4

1.2
2
1 1
0.8 0
0.6 1
0.4 2
20
0.2 20
0
0
0
20 10 0 10 20 20 20

Figura 5.1: Semnalul conditionat-determinist x(t) = A sin(0 t), media,


dispersia si functia sa de autocorelatie.

de-a lungul acestor drepte sunt punctele aflate la un ecart constant n


timp. O sectiune n suprafata determinat
a de functia de autocorelatie
permite obtinerea lui R ( ).

Secventa de cod care permite aceste calcule este, n mare m asur


a,
similar
a cu cea de la exercitiul 1. Diferentele constau n generarea
semnalului aleator:

A = 1;
P = 2*pi * (rand(1,N)-0.5); % uniforma ^
n [-,]
for i=1:N
x(i,:) = A*sin(w*t+P(i));
end

Pentru a obtine R ( ) facem o sectiune de-a lungul celei de-a doua


bisectoare n suprafata determinat
a de functia de autocorelatie astfel:

for k=1:lg;

69
LUCRAREA 5. SEMNALE ALEATOARE

Semnalul aleator Media


1 1

0.5 0.5

0 0

0.5 0.5

1 1
20 10 0 10 20 10 0 10

Dispersia Functia de autocorelatie


1

0.8 1

0.5
0.6
0

0.4 0.5

1
0.2 20
20
0
0
0
10 0 10 20 20

Figura 5.2: Semnalul conditionat-determinist x(t) = A sin(0 t + P ), media,


dispersia si functia sa de autocorelatie.

r(k) = R(k,lg-k+1);
end

3. Densitatea spectrala de putere. Vom considera exemplul precedent.


Teoretic densitatea spectral
a de putere este:

A2 A2
F {RX ( )}() = ( 0 ) + ( + 0 ) .
2 2
Rezolvare: Pentru a calcula direct (pe baza formulei 5.18) se poate
proceda astfel:

X = abs(fft(x,[ ],2));
Q1 = abs(mean(X.*X) / (10*pi));

Semnalul aleator considerat este stationar n sens larg, caz n care teo-
rema WinerHincin ne asigur a ca densitatea spectral a de putere este
transformata Fourier a functiei de autocorelatie. Adic a, aceasta se

70
5.4. Desf
asurarea lucr
arii

poate calcula si n domeniul spectral:

Q2 = abs(fft(r));

Cele dou
a rezultate sunt afisate grafic n figura 5.3. Prima observatie
Calcul direct
35

30

25

20

15

10

0
0 10 20 30 40 50 60 70

Teorema WienerHincin
20

15

10

0
0 10 20 30 40 50 60 70

Figura 5.3: Densitatea spectral


a de putere a unui semnal stationar n sens
larg.

este legat a de similaritatea ntre rezultatul obtinut si cel teoretic; forma


este aceeasi, dar difera pozitionarea celor dou a impulsuri Dirac; cauza
cost
a n esantionarea cu pasi diferiti efectuat
a n cazul calcului lui r(k),
respectiv x(t).

4. Trecerea semnalelor aleatoare prin sisteme liniare. Filtrarea zgomotu-


lui. Se va considera semnalul x(t) = A sin(0 t) unde A si o sunt dou a
constante. Acestuia i se adaug a un zgomot alb2 provenind dintr-o vari-
abila aleatoare gaussian a de medie = 0 si dispersie 2 = 1. Semnalul
rezultat se va filtra cu un filtru trece-banda ideal cu frecventa central
a
egala cu 0 si cu l
atime de band a convenabil aleasa. S a se reprezinte
semnalul initial precum si semnalul rezultat la iesirea filtrului.

Rezolvare:

close all; clear all;


A = 2; w0 = 5;
t = -5 : 0.05 : 5;
x = A * sin(w0*t);
n = randn(1,length(t));
xn = x + n; figure;
plot(t, x, . );
2
Zgomotul alb este un semnal aleator total decorelat. Oricare dou a momente de timp
diferite am considera, variabilele aleatoare cospunz
atoare acestor momente sunt indepen-
dente. Functia sa de autocorelatie este un impuls Dirac plasat n origine, iar densitatea
spectrala de putere este constanta.

71
LUCRAREA 5. SEMNALE ALEATOARE

hold on; plot(t, xn, k );


XN = fft(xn);
figure; plot(abs(XN));
FTB = zeros(size(XN));
FTB(6:12) = 1; FTB(end-11:end-5) = 1;
hold on; plot(100*FTB, r );
XF = XN .* FTB; xf = real(ifft(XF));
figure(1); hold on; plot(t, xf, *K ); hold off;

Semnalul original, semnalul zgomotos precum si semnalul filtrat pot fi


vizualizate n figura 5.4
5

4
5 4 3 2 1 0 1 2 3 4 5

Figura 5.4: Filtrarea zgomotului: semnalul initial, semnalul zgomotos (linie


punctat
a) si semnalul filtrat (linie ntrerupt
a).

5. Filtru adaptat la semnal. Se poate arata (??) c


a cel mai bun mod de
a elimina zgomotul este filtrul adaptat la semnal.
Tema: Pentru problema precedenta, sa se implementeze filtrul adaptat la
semnalul x(t) si sa se vizualizeze rezultatul filtr
arii.

72
5.5. Exercitii si teme propuse

5.5 Exercitii si teme propuse


1. Ce este un semnal aleator? Dati exemple?

2. Ce presupune notiunea de stationaritate? Dar cea de erogodicitate?

3. Dati exemplu de un semnal care sa aiba media independent a de timp si


functia de autocorelatie dependenta doar de ecartul ntre momentele
considerate, dar sa nu aib a densitatea de probabilitate de ordinul I
independent a de momentul de timp ales?

4. Cum se poate verifica practic ipoteza de ergodicitate a mediei?

5. Ce legatura este ntre transformata Fourier a unui semnal aleator SSL


si densitatea sa spectrala de putere?

6. Care dintre urm


atoarele functii pot fi functii de autocorelatie ale unor
semnale aleatoare SSL?

(a) R ( ) = 5;
(b) R ( ) = sin( );
(c) R ( ) = cos( );
(d) R ( ) = 5, pentru [5, 5] ;
1
(e) R ( ) = 1+ 2
;
1
(f) R ( ) = 1+ 3
;
1
(g) R ( ) = | | ;
1
(h) R ( ) = ;

7. Care dintre urm


atoarele functii pot fi densit
ati spectrale de putere ale
unor semnale aleatoare SSL?

(a) q () = 2;
(b) q () = sin();
(c) q () = 2 + cos(); ;
1
(d) q () = 1+ 2
;
1
(e) q () = 1+3 ;
1
(f) q () = || ;
(g) q ( = 1 ;

8. Semnalul x(t) = cos(t) este afectat de zgomot alb, aditiv provenind


dintr-o distributie gaussian
a. Propuneti o metod a care sa reduc
a put-
erea zgomotului. Se pune aceeasi problem a cu cerinta suplimentar
a ca
toate operatiile efectuate s
a fie n spatiul de baza (timpul).

9. Semnalul x(t) = cos(t) este afectat de zgomot alb, aditiv provenind


dintr-o distributie gaussian
a. Cum se poate proceda pentru a deter-
mina media si dispersia zgomotului av
and la dispozitie numai semnalul
zgomotos?

73
LUCRAREA 5. SEMNALE ALEATOARE

10. Fie un semnal zgomotos. Zgomotul este dependent de semnal (este


mare c and semnalul este mare s.a.m.d). Un mod simplu n care se
obtine un asemenea fenomen este utilizarea modelului zgomotului mul-
tiplicativ:
(t) = n(t)x(t) ,
unde x este semnalul original, iar n zgomotul multiplicativ. Pentru
acest caz (al zgomotului multiplicativ), s
a se propun
a o metod
a de re-
ducere a puterii zgomotului. Un posibil exemplu de zgomot dependent
de semnal se poate vedea n figura 5.5.
1

0.8

0.6

0.4

0.2

0.2

0.4

0.6

0.8

1
5 4 3 2 1 0 1 2 3 4 5

Figura 5.5: Semnalul cos(t) afectat de zgomot multiplicativ provenind dintr-


o distributie gaussiana de medie 0 si dispersie 1. Cu linie ntrerupt
a este
reprezentat a varianta filtrat
a.

74
Lucrarea 6

Detectia statistic
aa
semnalelor

Detectia statistica a semnalelor reprezint a un exemplu simplu n care se


aplic
a notiunile discutate de analiz a statistica a semnalelor. Mai precis,
ne vom plasa n postura unui utilizator, care se afl a n fata unei alegeri
referitoare la natura unui semnal receptionat. Deoarece perturbatia care a
intervenit este de natura aleatoare, fiecare realizare particular a fiind diferit
a,
pentru a eficientiza alegerea f
acuta, el trebuie sa fac
a apel la m asuri ce car-
acterizeaza statistic zgomotul1 . In continuare vom detalia modelul lantului
de transmisiune cu detectie precum si solutia propus a pentru a rezolva prob-
lema.
Figura 6.1 prezint a schema general a a lantului de transmisiune. S este
o sursa de informatie discret
a, far
a memorie, ce poate genera simboluri,
cu probabilitati cunoscute. Pentru transmiterea pe un canal de transmisi-
une zgomotos, simbolurilor li se asociaz a semnale n timp, de durat a finit
a.
Aceste semnale sunt transmise pe canal. Ceea ce se receptioneaz a este un
amestec ntre semnalul emis si zgomotul care intervine pe canal. Pe baza
esantioanelor semnalului receptionat, n blocul de decizie D se hot ar
aste ce
simbol a fost emis de sursa S.

Figura 6.1: Schema general


a a unui lant de transmisiune cu detectie.

1
Se cere elaborarea unei solutii generale, care s
a nu tin
a cont de realizarea particular
a
a perturbatiei. O m asur
a general valabil a, n cazul unei variabile aleatoare, este, de
exemplu, densitatea de probabilitate.

75
LUCRAREA 6. DETECT A SEMNALELOR
IA STATISTICA

Simbol emis Decizie (simbol receptionat) Notatie Justete


S0 D0 D0 /S0 corect
S0 D1 D1 /S0 gresit
S1 D0 D0 /S1 gresit
S1 D1 D1 /S1 corect

Figura 6.2: Simboluri emise si decizii posibile n cazul binar.

6.1 Detectie n cazul binar. Criteriul lui Bayes


Vom simplifica problema. Se va considera c a sursa S poate emite doar
doua simboluri: S0 si S1 , cu probabilit atile P0 si P1 cunoscute. In mod
evident P0 + P1 = 1. Celor dou a simboluri li se asociaz a semnalele n timp,
cunoscute, s0 (t) si s1 (t) de durat
a finit
a (t [0, T ]). Esantioanele acestor
semnale sunt transmise mai departe pe canalul de transmisiune. Aici li se
adauga zgomot. Vom considera c a avem de-a face cu zgomot alb, care,
dupa cum se stie este modelat ca fiind un semnal aleator, cu esantioane
independente. In plus, l vom considera si aditiv. In blocul de decizie, pe
baza esantioanelor semnalului receptionat se pot lua dou a decizii:
D0 dac a se decide c
a semnalul receptionat provine din semnalul s0
si, deci, sursa a emis simbolul S0 ;

D1 dac a se decide c
a semnalul receptionat provine din semnalul s1
si, deci, sursa a emis simbolul S1 .
Vom nota cu Dj /Si faptul ca s-a luat decizia Dj atunci c and s-a transmis
Si . Variantele posibile de decizie n functie de simbolul emis pot fi urm arite
n figura 6.2
Probabilitatea de eroare la decizie este dat a de ecuatia:

Pe = P0 P (D1 /S0 ) + P1 P (D0 /S1 ) (6.1)

Un criteriu pe baza c aruia se poate lua decizia este cel al minimiz arii
probabilitatii de eroare. Ins a nu ntotdeauna deciziile au acelasi impact. In
general o decizie gresit a costa mai mult dec at una corect a, dar, n plus, se
poate nt
ampla ca o greseal a s
a fie mai important a decat alta.
Exemplul clasic este cel al radarului n r azboi, n care se decide prezenta,
respectiv absenta avioanelor inamice. Cazul n care un avion inamic nu a
fost detectat (D0 /S1 este numit a si miss detection) ar putea fi considerat
mai grav dec at cel n care s-a decis prezenta acestuia desi avionul nu exista
(D1 /S0 este numit a si false alarm).
Un alt exemplu poate fi cel al unui medic generalist. Uneori este mai
grav ca medicul s a decid a ca pacientul s au este s anatos desi acesta este
bonav (D0 /S1 ) dec at daca decizia este c a pacientul este bolnav cand acesta
este s
anatos (D0 /S1 ).
Atunci c and unele erori sunt mai grave dec at altele, ar trebui tinut cont
de acest lucru n procesul de decizie. Acesta se face definind costul fiec arei
decizii. Vom nota cu cij costul situatiei n care s-a transmis Si si s-a decis Dj

76
6.1. Detectie n cazul binar. Criteriul lui Bayes

(situatia (Si , Dj )). Cu ajutorul acestor cunostinte suplimentare vom defini


o functie de risc ca fiind costul mediu al deciziilor:
1 X
X 1
Risc = cij P (Si ) P (Dj /Si ) (6.2)
i=0 j=0

Criteriul de decizie Bayes are ca regul


a de decizie minimizarea acestei functii
de risc. In urma calculelor de minimizare (ce pot fi urm
arite n [1] ) se ajunge
la urm atorul rezultat:

(R) D
D0 K ,
1
(6.3)
unde (R) se numeste raport de plauzibilitate si reprezint
a:

w(R/S1 )
(R) = , (6.4)
w(R/S0 )

iar K se numeste pragul testului si este o constant


a:
P0 c01 c00
K= (6.5)
P1 c10 c11

S-a notat cu w(R/Si ) densitatea de probabilitate a semnalului receptionat,


esantionat r obtinut
a n cazul n care s-a transmis Si . Cine sunt aceste den-
sit
ati de probabilitate?

6.1.1 Particularizare: zgomot alb gaussian de medie nul


a
Vom particulariza regula de decizie Bayes pentru un caz foarte des (poate
cel mai des) folosit. Vom presupune c a zgomotul de pe canal este zgomot
alb, aditiv, gaussian, de medie nul a si dispersie cunoscut
a. In continuare
vom detalia prezentarea acestui caz.
Daca sursa emite simbolul Si , urm and lantul de transmisiune, pe canal
se transmite semnalul n timp si (t) (cunoscut). Asadar, la fiecare moment
tk [0, T ], unde k {1, 2, . . . N }, pe canal se transmite esantionul si (tk ).
La trecerea acestuia prin canal i se adaug a zgomot. Pentru a preciza ce
s-a transmis pe canal vom nota semnalul receptionat la momentul tk cu
R(tk )/Si . Tinand seama de cele spuse mai sus, se poate scrie:

R(tk )/Si = si (tk ) + n(tk ) (6.6)

unde am notat cu n(tk ) valoarea aleatoare a zgomotului la momentul tk ,


iar si (tk ) este o constant a cunoscuta. Asadar R(tk )/Si este o realizare par-
ticulara a unei variabile aleatoare rezultat a prin nsumarea unei variabile
aleatore gaussiene de medie 0, n(tk ), cu o constant a si (tk ). Rezultatul la
r
andul lui este o variabil a aleatoare gaussian a avand media egal a cu suma
mediilor (deci egal a cu constanta) si dispersie egala cu cea a zgomotului alb.
Densitatea de probabilitate a lui R(tk )/Si este:

[r(tk ) si (tk )]2


 
1
wR(tk )/Si (r(tk )) = exp (6.7)
n 2 2n2

77
LUCRAREA 6. DETECT A SEMNALELOR
IA STATISTICA

S
tim, asadar, distributiile de ordin unu ale tuturor celor N componente ale
vectorului R/Si . Pentru a putea aplica ecuatia 6.4 ne trebuie distributia
de ordin N a tuturor componentelor. Dup a cum se stie, singurul caz n
care putem afla o distributie de ordin superior stiind distributiile de ordin
inferior este acela n care variabilele sunt independente. Dar zgomotul n(t)
este modelat ca zgomot alb, ceea ce nseamn a ca dou
a esantioane diferite
ale zgomotului sunt decorelate. In plus, ele sunt si gaussiene si deci pot
fi considerate independente. Stim c a pentru dou a variabile independente
(, ):
w (x, y) = w (x) w (y), x, y (6.8)
In cazul nostru avem de-a face cu N variabile independente, distribuite
gaussian; deci, va rezulta:
N
Y
wR/Si (r) = wR(tk )/Si (r(tk )) =
k=1
(6.9)
N
 N " #
1 1 X
= exp 2 [r(tk ) si (tk )]2
n 2 2n
k=1

Avand densit atile de probabilitate deduse, putem calcula raportul de


plauzibilitate conform formulei 6.4:
 N n o
1 1 PN 2
w(R/S1 )

2
exp 2n2 k=1 [r(t k ) s1 (t k )]
(R) = = n N o=
w(R/S0 )
n
1 1 PN 2

n 2
exp 22 k=1 [r(tk ) s0 (tk )]
n
N N
( )
1 X 1 X
= exp r(tk ) [s1 (tk ) s0 (tk )] 2 [s1 (tk )2 s0 (tk )2 ]
n2 2n
k=1 k=1
(6.10)
Asadar regula de decizie Bayes devine, n cazul de fata:
N N
( )
1 X 1 X
exp r(tk )[s1 (tk ) s0 (tk )] 2 [s1 (tk ) s0 (tk ) ] D
2 2
D0 K
1
n2 2n
k=1 k=1
(6.11)
Daca aplicam ambilor membri logaritmul natural:
N N
1 X 1 X
r(tk )[s1 (tk ) s0 (tk )] 2 [s1 (tk )2 s0 (tk )2 ] D
D0 ln K (6.12)
1
n2 2n
k=1 k=1

Fac
and cateva prelucr
ari elementare, ajungem la cea mai simpl
a form
a
a criteriului lui Bayes, pentru acest caz particular:
N N
X 1X
r(tk )[s1 (tk ) s0 (tk )] D1
D0 [s1 (tk )2 s0 (tk )2 ] + n2 ln K . (6.13)
2
k=1 k=1

Decizia se ia nlocuind n formula de mai sus si verific


and semnul ine-
galit
atii. Dar care este probabilitatea de eroare n acest caz? Exist
a doua
moduri n care se poate ajunge la o decizie gresit
a:

78
6.1. Detectie n cazul binar. Criteriul lui Bayes

alarma fals
a (false alarm): se decide D1 , c
and sursa a emis sim-
bolul S0 ;

tint
a ratat
a (miss detection): se decide D0 , c
and sursa a emis
simbolul S1 .

Vom calcula probabilitatea unei alarme false, P (D1 /S0 ). Pentru a decide
D1 inseamn
a ca are loc inegalitatea:
N N
X 1X
r(tk ) [s1 (tk ) s0 (tk )] > n2 ln K + [s1 (tk )2 s0 (tk )2 ] (6.14)
2
k=1 k=1

Membrul drept al inegalit atii este o constanta pe care, pentru simplifi-


care, o vom nota cu const. Combinatia liniar a a observatiilor (din partea
st
anga a inegalit
atii) se noteaza cu l si se numeste statistic
a suficient
a.
Stim ca s-a emis S0 , deci esantionul semnalului receptionat la momentul
tk este, conform formulei 6.6:

r(tk ) = s0 (tk ) + n(tk ) (6.15)

Deci statistica suficient


a devine:
N
X
l/S0 = [s0 (tk ) + n(tk )][s1 (tk ) s0 (tk )] (6.16)
k=1

In formula de mai sus n(tk ) sunt realiz ari particulare ale variabilei aleatoare
obtinute prin observarea zgomotului alb, n(t), la momente de timp fixate.
Deci n(tk ) sunt realiz ari particulare ale unor variabile aleatoare indepen-
dente, distribuite gaussian de medie nul a si dispersie cunoscuta. Adunarea
acestora cu constantele s0 (tk ) le va schimba media de la 0 la s0 (tk ). Asadar
statistica suficient
a l/S0 este o combinatie liniar a de variabile aleatoare
gaussiene si, deci, este la r
andul ei o gaussian a de medie l si dispersie l
ce pot fi usor determinate.
Asadar probabilitatea unei alarme false este:
Z
P (D1 /S0 ) = P (l/S0 > const) = wl/S0 (x)dx (6.17)
const

In mod similar, se poate determina si probabilitatea P (D0 /S1 ).

79
LUCRAREA 6. DETECT A SEMNALELOR
IA STATISTICA

6.2 Desf
asurarea lucr
arii
1. Fie un sistem binar de transmisiune cu detectie n care zgomotul aso-
ciat canalului de transmisiune este aditiv, gaussian, de medie n = 0
si varianta n2 = 0.1. Semnalele asociate celor dou a simboluri sunt
s0 (t) = 0 si s1 (t) = 1 pentru t [1, 100]. Se consider a N=100 de
momente de esantionare. Vizualizati pe acelasi grafic semnalele care
se receptioneaz a dac
a s-a emis S0 , respectiv S1 . Modificati parametri
zgomotului. Ce observati? Puteti lua o decizie cu privire la ce simbol
s-a emis indiferent de parametri zgomotului?

Rezolvare:

%semnalele asociate celor dou


a simboluri
s0 = zeros(1,100); s1 = ones(1,100);
% zgomotul
medie n = 0; sigma n = 0.1;
n = randn(1, 100) * sigma n + medie n;
% e
santioanele semnalului recept
ionat dac
a s-a transmis S0
r0 = s0 + n;
% e
santioanele semnalului recept
ionat dac
a s-a transmis S1
r1 = s1 + n;
% vizualizare
figure, plot(r0,*r),hold on, plot(r1,.b), hold off;

a) b) c)
1.4 6.4 2.5

1.2 6.2 2

1 6 1.5

0.8 5.8 1

0.6 5.6 0.5

0.4 5.4 0

0.2 5.2 0.5

0 5 1

0.2 4.8 1.5

0.4 4.6 2
0 50 100 0 50 100 0 50 100

Figura 6.3: Esantioanele celor dou a semnale receptionate n conditiile n


care: a) n = 0 si = 0.1; b) n = 5 si = 0.1; c) n = 0 si = 0.5. Remarcati
separabilitatea celor dou a clase de puncte.

2. Fie sistemul binar de transmisiune cu detectie din problema prece-


denta. Se alege momentul de esantionare tk = 5. Ce distributie are
semnalul wR(5)/S0 ? Dar wR(5)/S1 ? Vizualizati histogramele celor dou a
distributii si calculati media si dispersia pentru fiecare dintre ele. Ce
se modific a odat a cu varitia mediei zgomotului? Dar a variantei zgo-
motului? Comparati aceste rezultate cu ce ati observat la exercitiul
precedent.

80
6.2. Desf
asurarea lucr
arii

Rezolvare.
S
tim c
a:
R(5)/Si = si (5) + n(5), (6.18)
este o realizare particular
a a unei variabile aleatoare. Pentru a-i vizual-
iza distributia ne sunt necesare cat mai multe astfel de realizari par-
ticulare. Vom genera asadar mai multe esantioane ale zgomotului si
le vom aduna constantele corespunz atoare semnalelor asociate sim-
bolurilor. Codul necesar este:

% definim t k
t=5;
% semnalele asociate celor doua simboluri
s0 = zeros(1,100); s1 = ones(1,100);
% parametri zgomotului
medie n = 0; sigma n = 0.1;
M=20000;%num
arul de repetari ale experimentului
for i=1:M
% gener
am zgomotul. Acesta provine din aceea si distribut
ie
% indiferent de momentul de timp ales
n = sigma n * randn(1,100) + medie n;
% calculam e
santionul semnalului recept
ionat dac
a s-a
emis S0
r0(i) = n(t) + s0(t);
end
for i=1:M
% gener
am zgomotul
n = sigma n * randn(1,100) + medie n;
% calculam e
santionul semnalului recept
ionat dac
a s-a
emis S1
r1(i) = n(t) + s1(t);
end
% vizualiz
am histogramele
[h0, x0] = hist(r0, 100); figure,plot(x0, h0/M)
m0 = mean(r0), d0 = std(r0)
[h1, x1] = hist(r1, 100); figure,plot(x1, h1/M)
m1 = mean(r1), d1 = std(r1)

3. Fie un sistem binar de transmisiune cu detectie n care zgomotul aso-


ciat canalului de transmisiune este aditiv, gaussian, de medie n = 0 si
n = 0.01. Semnalele asociate celor dou a simboluri sunt s0 (t) = sin(t)
si s1 (t) = cos(t) pentru t [0, ], iar momentul de esantionare
este ales la /4. Ce observatii puteti face cu privire la distributiile
wR(/4)/S0 si wR(/4)/S1 ? Se va putea lua o decizie n acest caz?
Modificati problema astfel ncat sa fie posibil
a luarea unei decizii. Ce
concluzie puteti trage cu privire la alegerea momentului de esantionare?

81
LUCRAREA 6. DETECT A SEMNALELOR
IA STATISTICA

a) b) c)
0.035 0.035 0.04

0.035
0.03 0.03

0.03
0.025 0.025

0.025
0.02 0.02

0.02

0.015 0.015
0.015

0.01 0.01
0.01

0.005 0.005
0.005

0 0 0
1 0 1 2 4 5 6 7 5 0 5

Figura 6.4: Distributiile semnalelor receptionate n conditiile n care: a)


n = 0 si = 0.1; b) n = 5 si = 0.1; c) n = 0 si = 0.5.

a) b) c)
0.04 0.035 0.04

0.035 0.035
0.03

0.03 0.03
0.025

0.025 0.025
0.02

0.02 0.02

0.015
0.015 0.015

0.01
0.01 0.01

0.005
0.005 0.005

0 0 0
0.65 0.7 0.75 0.8 1 0 1 2 1 0 1

Figura 6.5: Distributiile semnalelor receptionate la momentul de


esantionare: a) /4; b) /2; c) 2/3.

4. Fie un sistem binar de transmisiune cu detectie n care zgomotul aso-


ciat canalului de transmisiune este aditiv, gaussian, de medie nul a si
n = 0.5. Semnalele asociate celor dou a simboluri sunt s0 (t) = 0 si
s1 (t) = 1 pentru t [0, 5]. Se consider a un moment de esantionare,
iar esantionul semnalului receptionat (pe baza c aruia se ia decizia)
este r(t1 ) = 0.5. Ce decizie se ia n acest caz, dac a probabilit
atile
celor dou a simboluri sunt egale si, n plus, costurile sunt c00 = c11 = 0
si c10 = c01 = 1. Ce se nt
ampl a dac a dezechilibram cele dou a proba-
bilit
ati? Dar dac
a costurile se schimb a? Dar daca vectorul receptionat
e diferit? Incercati mai multe astfel de combinatii si trageti concluziile.

Rezolvare. Codul necesar este:

% costurile
c00 = 0; c11 = 0; c01 = 1; c10 = 1;
% probabilit
a
tile simbolurilor emise de surs
a

82
6.2. Desf
asurarea lucr
arii

P0 = 0.5; P1 = 0.5;
% e
santioanele semnalului recept
ionat
r = 0.5;
% e
santioanele semnalelor asociate simbolurilor
s0 = 0; s1 = 1;
% parametri zgomotului
medie n=0; sigma n=0.5;
% calculul pragului testului
ln K = log( (P0*(c01-c00))/(P1*(c10-c11)) )
% calculul raportului de plauzibilitate
ln lambda = sum (r .* (s1-s0)/(sigma n^2) - sum(s1.^2-s0.^2)/(2*sigma n^2))
% luarea deciziei
if(ln lambda < ln K)
fprintf(S-a emis S0);
else
fprintf(S-a emis S1);
end

1.5

1
decizie

0.5

0.5

1
0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9
P
0

Figura 6.6: Dependenta deciziei functie de probabilit


atile initiale n
conditiile n care c00 = c11 = 0 si c10 = c01 = 1.

Figura 6.7: Dependenta deciziei functie de diferite combinatii de costuri ale


deciziilor eronate n conditiile n care costurile deciziilor corecte sunt nule si
probabilitatile initiale sunt egale.

83
LUCRAREA 6. DETECT A SEMNALELOR
IA STATISTICA

5. Fie un sistem binar de transmisiune cu detectie n care zgomotul aso-


ciat canalului de transmisiune este aditiv, gaussian, de medie n = 0 si
n = 0.01. Semnalele asociate celor dou a simboluri sunt s0 (t) = sin(t)
si s1 (t) = cos(t) pentru t [0, 2], iar momentele de esantionare sunt
alese la [2/3] si /4. Simulati n Matlab sistemul de transmisiune
si urm ariti deciziile pe care le ia, stiind ca P 0 = 1/3, c00 = c11 = 0
si c10 = c01 = 1. Modificati costurile, momentele de esantionare si
parametrii zgomotului si observati cum se modific a procesul de decizie.

Rezolvare Codul Matlab necesar poate fi:


clear all, close all
% definim t k
t = [pi/2, 2*pi/3];
% semnalele asociate celor doua simboluri
s0 = sin(t); s1 = cos(t);
% parametri zgomotului
medie n = 0; sigma n = 0.1;
% distribut
ia zgomotului
n = sigma n.^2 * randn(1) + medie n;
%definim costurile
c00 = 0; c11 = 0; c01 = 1; c10 = 1;
%definim probabilita
tile simbolurilor
P0 = 1/3; P1 = 1-P0;
%calcul
am pragul testului
fprintf(Pragul testului este:)
K = (P0*(c01-c00))/(P1*(c10-c11))
S = input(Ce simbol s-a emis (0 sau 1)?);
if (S==0)
fprintf(Pe canal s-a transmis:) , s0
r = s0 + n;
elseif(S==1)
fprintf(Pe canal s-a transmis:) , s1
r = s1 + n;
else
fprintf(Sursa poate emite doar simbolurile 0 si 1.);
break;
end
fprintf(La iesirea de pe canal s-a receptionat:) , r
%calcul
am raportul de plauzibilitate conform formulei
const = 1 / (sigma n * sqrt(2*pi));
wRiS0 = const * exp(-1/(2 * sigma n^2) * sum((r-s0-medie n).^2));
wRiS1 = const * exp(-1/(2 * sigma n^2) * sum((r-s1-medie n).^2));
lambda = prod(wRiS1)/prod(wRiS0)
%lambda = exp(sum (r .* (s1-s0)) / (sigma n^2)...
- sum(s1.^2 - s0.^2) / (2 * sigma n^2))
%decizia
if(lambda < K)
fprintf(S-a emis 0);

84
6.2. Desf
asurarea lucr
arii

else
fprintf(S-a emis 1);
end

85
LUCRAREA 6. DETECT A SEMNALELOR
IA STATISTICA

6.3 Exercitii si teme propuse


1. Ce reprezint
a raportul de plauzibilitate? Explicati denumirea.

2. Ce semnificatie fizic
a are pragul testului?

3. Ce reprezint
a statistica suficient
a?

4. Reluati problema 5 n conditiile n care zgomotul are o distributie


exponential
a si esantioane independente.

5. Completati problema 5 cu calculul probabilit atii erorii de detectie.


Rulati programul de mai multe ori, retineti deciziile luate n fiecare caz
si calculati probabilitatea erorii folosind aceste decizii. Probabilit atile
teoretice de eroare corespund cu cele pe care le-ati obtinut prin rulare?

86
Lucrarea 7

Estimarea parametrilor

Dac a n cazul detectiei se punea problema alegerii unui semnal (sau sim-
plist a unui parametru) dintr-un set finit, cunoscut, n cazul estim arii prob-
lema se complic a, iar setul de valori din care trebui ales este infinit. Esti-
marea presupune determinarea unui parametru al unui semnal. Pentru a
calcula valoarea acestuia se folosesc mai multe informatii despre parametrul
c
autat. Aceste informatii sunt obtinute la momentul curent printr-un set
de m asur atori asupra semnalului, un set de cunostinte avute nainte de
nceperea experimentului asupra valorilor posibile ale parametrului (den-
umite cunostinte a priori) si prin precizarea modelului (mecanismului) prin
care se obtine semnalul m asurat din valorile initiale.
Un caz tipic n care se pune problema estim arii unui parametru este acela
al masur arii n zgomot a unui semnal parametric1 . Fie semnalul s(t) care de-
pinde de parametrul astfel nc at semnalul este de fapt s(t, ). M
asur atorile
sunt afectate de zgomot aditiv, n(t), iar semnalul disponibil este:
r(t) = s(t, ) + n(t), cu t [0, T ] (7.1)
Din m asurarea semnalului receptionat, r(t), n intervalul de timp finit
(si pre-fixat) [0, T ] se doreste determinarea valorii parametrului purt
ator de
informatie , adic a se vrea calculul unui estimat al acestui parametru (notat

).

7.1 Estimarea parametrilor n cazul discret


Analiza semnalului receptionat se poate face n timp continu, dar mult mai
practic este cazul n care se evaluaz a numai n c
ateva (N ) momente de
timp; acesta este asa numitul caz discret. Deci, setul de masur atori este
obtinut prin esantionarea semnalului r(t) la N momente de timp ti [0, T ],
cu i = 1, . . . , N . Esantioanele rezultate sunt observatiile discrete notate
ri = r(ti ). Ansamblul acestor observatii discrete formeaz a un vector de
masuratori r =
r = [r1 , r2 , . . . , rN ] 2 .
1
In mod similar poate fi privita problema transmiterii unui semnal parametric pe un
canal afectat de zgomot aditiv. Semnalul receptionat este obtinut prin nsumarea sem-
nalului util cu zgomotul.
2
Notarea uzuala a unui vector se face cu liter
a mic
a cu corp de text ngrosat, de exemplu
r. O matrice este notat a uzual cu litera majuscul a si cu corp de text ngrosat. Notarea

87
LUCRAREA 7. ESTIMAREA PARAMETRILOR

Desigur, nu se poate obtine o estimare oric


at de precisa a parametrului
deoarece, zgomotul, oric
at de mic ar fi, intervine si disturb
a procesul de
masurare. Atunci va exista o eroare de estimare, definita astfel:

Criteriul matematic de alegere a functiei de estimare este minimizarea cos-


Costul erorii este
tului erorii de estimare a parametrului prin valoarea .
exprimat prin functia C() unde C : R R , av + and proprietatea c a
C(|x|) este crescatoare pentru orice valoare x real
a. Functia de cost mode-
a impactul erorii de estimare asupra performantei sistemului. In functie
leaz
de alegerea unei anumite functii de cost se pot obtine diferite tipuri de es-
timari.

7.1.1 Estimatul maxim a posteriori


Dac
a functia de cost este aleas
a una uniform
a:

0, P
C() = Cmap () = (7.2)
1, > P

atunci rezultatul este asa numitul estimat maxim a posteriori: map . Dup a
cum se precizeaz a si n nume, aceast a valoare a parametrului este abscisa
punctului n care densitatea de probabilitate a posteriori si atinge maximul
global.
Pentru a motiva obtinerea acestui rezultat vom ncerca s a d
am o explicatie
mai mult bazat a pe intuitie dec at pe un calcul matematic.
Sa ncepem prin a considera c a nu stim absolut nimic despre posibilele
valori ale parametrului c autat nainte de nceperea experimentului. In acest
caz nu putem folosi dec at informatia rezultat a din m
asur
atori. Este simplu
s
a ne imagin am ca dac a valorile masurate (n mod direct) sunt n intervalul
[10,11] atunci considerarea unei valori corecte undeva n jurul lui 0 este haz-
ardat a. Deci fiind dat setul de valori m asurate putem construi o functie care
s
a exprime sansa ca parametrul c autat sa ia anumite valori. In exemplul am-
intit functia va avea valori mari n intervalul [10,11] si din ce n ce mai mici
pe m asur a ce ne dep artam de acest interval. Totusi putem proceda ntr-un
mod mai elaborat, dac a tinem cont de mecanismul de obtinere a valorilor
masurate.

In modelul descris n sectiunea de nceput am precizat ca m asur


atorile
sunt degradate de zgomot. Mai precis, zgomotul se adaug a valorii utile. Ast-
fel mecanismul prin care se obtin valorile m asurate este unul aditiv: unei
constante (parametrul, n varianta cea mai simpl a) i se adaug
a realizari par-
ticulare ale unei variabile aleatoare (zgomot). Densitatea de probabilitate
care caracterizeaz
a esantioanele de zgomot se presupune cunoscut a. In acest

unui vector prin



r va fi folosit
a n general acolo unde notarea cu corp de text ngrosat
poate crea confuzii.

88
7.1. Estimarea parametrilor n cazul discret

moment putem construi asa numita functie de plauzibilitate (sau verosimil-


itate).

In determinarea functiei de plauzibilitate se presupune o valoare con-


stant a, stiut
a, a parametrului. Fiind dat a aceast
a valoare, si stiind modul
n care se obtin m asuratorile din semnalul initial putem vorbi despre o pro-
babilitate de aparitie a unui set de date. De exemplu ce sans a avem s
a
obtinem valorile {9, 5; 10; 10, 5} dac a parametrul are valoarea 10, iar zgomo-
tul este aditiv si de medie nul a? Evident mare.
Practic, pentru cazul discutat aici, plauzibilitatea este densitatea de pro-
babilitate a unui vector de esantioane de zgomot translatat a cu valoarea
presupus a a parametrului. Notatia pentru plauzibilitate, w(r|), exprim a
acelasi lucru: care este probabilitatea de a obtine un set de valori n urma
masur atorilor (care sunt de fapt variabila vectorial a r) pentru o valoare
stiuta a parametrului .
In realitate, valorile m asurate sunt cunoscute, iar variabil a este valoarea
parametrului. Se poate considera un domeniu de interes pentru valoarea
estimatului. Pentru fiecare valoare din acest interval se poate calcula o
masur a a potrivirii m asur atorilor; astfel vom construi o functie, denumit a
plauzibilitate.
In practic a, se foloseste de multe ori estimatul de maxima plauzibilitate3 :
mp = arg max w(r|) (7.3)

In continuare vom considera c a exist


a informatii despre valorile posibile
ale parametrului nainte de nceperea experimentului. Acestea se pot
constitui ntr-un interval de valori posibile, cum este cel amintit mai sus sau
ntr-o densitate de probabilitate. De exemplu, putem sti c a este o tensiune
produs a de un generator ce poate da valori ntre 0 si 5 volti sau c a provine
dintr-o densitate de probabilitate gaussian a de medie 0V si dispersie 0.1 V.
Aceste cunostinte sunt str anse n asa numita densitate de probabilitate a
priori: w ().
In mod natural dorim s a combin am toate informatiile pentru a obtine o
valoare c at mai exact a a parametrului investigat. Dac a recapitulam, sunt
disponibile m asuratori (considerate a fi la momentul curent), un model de
degradare a semnalului si informatii a priori despre valorile posibile ale
parametrului. In acest moment putem face un calcul post-factum al es-
timatului (o estimare a posteriori). Vom spune c a cea mai bun a valoare a
parametrului este cea care maximizeaz a densitatea de probabilitate a poste-
riori, w(|r) (adic a densitatea ce presupune cunoscute, cum de altfel si sunt,
masur atorile si variaza valoarea estimatului). Formula lui Bayes permite o
expandare a densit atii de probabilitate a posteriori:
w(r|)w ()
w(|r) = (7.4)
w(r)
Dupa cum se observ a termenii care contribuie la dezvoltarea densit atii de
probabilitate a posteriori sunt plauzibilitatea si densitatea de probabilitate
3
Estimatul de maxim a verosimilitate (plauzibilitate) este acea valoare a parametrului
care maximizeaza sansa ca la m
asuratori s
a rezulte setul de valori r = [r1 , r2 , . . . , rN ].

89
LUCRAREA 7. ESTIMAREA PARAMETRILOR

a priori. Valoarea parametrului ce maximizeaz a densitatea de probabilitate


a posteriori este estimatul maxim a posteriori:
w(r|)w ()
= arg max w(|r) = arg max (7.5)
w(r)
Fiindc a se doreste maximizarea unor densit ati de probabilitate, care,
pe lang a faptul ca au de multe ori valori foarte mici, provin de obicei din
functii de tip exponential, si pentru a se simplifica produsul, se logaritmeaz a

densitatea de probabilitate a posteriori. In acest caz estimatul maxim a
posteriori se obtine ca solutie a ecuatiei:
d
ln w(r|) + ln w () = 0 (7.6)
d
Densitatea de probabilitate w(r) este o m asur
a a valorilor obtinute si este
folosit
a pentru a norma densitatea de probabilitate a posteriori. Ea este
complet determinat a, dat fiind c a valorile sunt deja m asurate si, mai ales nu
este functie de parametrul c autat.
Sa consider am urm atorul exemplu , preluat din [10]: M asurarea unei
tensiuni constante, distribuit a gaussian n jurul valorii de 11 V , cu varianta
2
1 V , se face prin 4 m asur atori cu un aparat de m asur
a afectat de erori
gaussiene de medie nul 0, 1 V 2 . Valorile m
a si varianta asurate ale tensiunii
sunt r1 = 9, 1 V , r2 = 10, 5 V , r3 = 11, 2 V r4 = 10, 2 V . Determinati
estimatul maxim a posteriori al tensiunii.

Suntem n urm atoarele conditii initiale: semnalul de interes este identic cu


parametrul de informatie; acestuia i se adaug a eroarea de masura care per-
turba valoarea exacta. Atunci putem rescrie ecuatia (7.1) pentru un semnal
esantionat ca fiind:
ri = + ni , i = 1, 2, 3, 4. (7.7)
Vectorul de m asur
atori este suma unui vector constant, si a unui vector
de realiz
ari particulare ale unei variabile aleatoare gaussiene (zgomotul la
momentul respectiv). Deci, un esantion de observatie, presupun and c
a s-a
transmis , este distribuit gaussian de medie si dispersie egal
a cu cea a
zgomotului conform relatiei:
(ri )2
 
1
w(ri |) = w( + ni |) = wn (ri ) = p exp (7.8)
2n2 2n2
In ipoteza am amintit independenta esantioanelor de zgomot; rezult a independenta
esantioanelor vectorului m asurat. In acest caz, probabilitatea de aparitie a
unui vector de m asur
a, dat fiind o valoare a lui , este indicata de plauzibil-
itate:
N N
!
Y 1 X (ri )2
w(r|) = w(ri |) = p N exp (7.9)
2n2
i=1 2n2 i=1

Densitatea de probabilitate a priori este o masur


a a probabilit
atii ca tensi-
unea de interes s
a ia anumite valori :
( )2
 
2 1
w () = N (0, ) = q exp (7.10)
22 22

90
7.1. Estimarea parametrilor n cazul discret

unde = 11V este media lui w ().


Acum avem toate datele necesare pentru a calcula map conform relatiei
7.6:
d
0= ln w(r|) + ln w () =
d
N
!
1 (ri X )2
= ln p N exp +

2n2
2n2 i=1
(7.11)
2
 
1 ( )
+ ln q exp =
2 2 22

N
1 X 1
= 2(ri ) 2( )
2n2
i=1
22

T inand cont c
a vectorul de observatie are N elemente si efectu
and pre-
lucrari asupra relatiei precedente, se obtine estimatul maxim a posteriori ca
fiind: PN
ri
map = 2 i=1 + 2 (7.12)

n
2 + N

2 N + 1
n

Adica map = 10.268.


Expresia estimatului este o combinatie liniar a a sumei (mediei) m asur
atorilor
discrete si a mediei initiale; ponderile termenilor ce se combin a sunt date de
varianta zgomotului respectiv a parametrului din densitatea de probabilitate
a priori. Adic a este o combinatie ntre m asur
atori si informatiile a priori,
ponderate de ncrederea n fiecare dintre ele4 . Se poate face urm atoarea
discutie n functie de valorile dispersiilor parametrului, respectiv a zgomo-
tului:
Dac a varianta zgomotului este mult mai mare dec at a parametrului
(n2 2 ), estimatul maxim
a a posteriori devine:

map = m

Adica, daca masuratoarea este foarte zgomotoas a (sau modelul este


destul de ambiguu) atunci valoarea optim a a estimatului a posteriori
este data de media densit atii de probabilitate a priori (adic
a ne vom
baza pe informatiile avute nainte de a ncepe m asuratoarea si mai
putin pe ce afl
am n cursul experimentului).
Dac a varianta zgomotului este mic a comparativ cu a parametrului
(n2 2 ), estimatul maxima a posteriori devine:
PN
ri
map = i=1
N
4
Daca ne referim la o variabil a aleatoare cu dispersie mic a, nseamn
a c
a vor exista
putine valori care pot rezulta ca realiz ari particulare, deci vom avea ncredere n ea. Pe
de alta parte, daca ne referim la o variabil
a aleatoare cu dispersie mare, nu prea stim cum
vor fi realiz
arile ei particulare, deci vom avea putina ncredere n ea.

91
LUCRAREA 7. ESTIMAREA PARAMETRILOR

Adic a, dac
a m
asuratoarea este de ncredere atunci estimatul a poste-
riori este media m
asur
atorilor.

7.1.2 Estimatul p
atratic
Dac
a se alege o functie de cost p
atratic
a, cum ar fi:

C() = Cp () = 2 (7.13)

atratic p . Acesta este dat de relatia:


se va determina estimatul p

Z Z
w(r|)w ()
p = w(|r)d = d (7.14)
w(r)

Estimatul p atratic este media densit atii de probabilitate a posteriori. Dac


a,
aceasta are drept abscis a a punctului de maxim global media (cum se obtine,
de pild
a, n cazul gaussienei), atunci estimatul p atratic coincide cu estimatul
maxim a posteriori. Dac a ipoteza maximului n medie nu este adev arat
a
(cum este cazul unei densit ati de probabilitate de tip exponential), atunci
cei doi estim ati difer
a (vezi figura 7.1).

(a) (b)
2 2
maximul densitatii
de probabilitate maximul densitatii
1.8 1.8 de probabilitate

1.6 media 1.6

1.4 1.4

1.2 1.2
media

1 1

0.8 0.8

0.6 0.6

0.4 0.4

0.2 0.2

0 0
0 0.5 1 1.5 2 0 0.5 1 1.5 2

Figura 7.1: Estimatul maxim a posteriori si estimatul p atratic pentru


o densitate de probabilitate a posteriori de tip gaussian (a) si respectiv
exponential (b).

92
7.2. Desf
asurarea lucr
arii

7.2 Desf
asurarea lucr
arii
1. S
a se analizeze grafic exemplul prezentat: M asurarea unei tensiuni
constante, distribuit
a gaussian n jurul valorii de 11 V , cu varianta
2
1 V , se face prin 4 m asuratori cu un aparat de m asur
a afectat de
erori gaussiene de medie nul 0, 1 V 2 . Valorile m
a si varianta asurate
ale tensiunii sunt r1 = 9, 1 V , r2 = 10, 5 V , r3 = 11, 2 V r4 = 10, 2 V .

Rezolvare: Vom ncepe prin a considera o singur a m


asur
atoare: r1 =
9, 1. In acest caz plauzibilitatea este:
(r1 )2
 
1
w(r1 |) =w(( + n1 )|) = wn (r1 ) = p exp =
2n2 2n2
(9.1 )2
 
1
= exp
20.1 2 0.1
Un prim estimat al parametrului ar fi estimatul de maxim
a plauzibil-
itate. Pentru a-l c
auta putem proceda astfel:

close all; clear all;


sn2 = 0.1; % variant
a zgomotului
th med = 11; sth2 = 1; % media si variant
a parametrului
r = [9.1 10.5 11.2 10.2]; %vectorul de obsevatii
N = length(r); % numarul de observat
ii
estmp = 7 : 0.01 : 14; %domeniul ^ n care caut valori
%plauzibilitatea
wR1Th = 1 / (sqrt(2*pi*sn2)) .* exp(-((r(1)-estmp).^2). ...
/(2*sn2));
[val, pos] = max(wR1Th);
fprintf(Estimat de max verosimilitate pentru r=r1 este
theta=% f ,estmp(pos));
s = sprintf(plauzibilitatea pentru r=r1);
subplot(2,2,1); plot(estmp, wR1Th, .k);
title(s); grid on;

In mod evident, estimatul de maxim a plauzibiliate este chiar valoarea


masurat
a. Daca se vor considera mai multe m asuratori [r1 , r2 , r3 , r4 ],
atunci verosimilitatea devine:

4
!
1 X (ri )2
w(r|) = w( + n|) = p exp =
( 2n2 )N 2n2
i=1
1
=
( 20.1)4
(9.1 )2 (10.5 )2 (11.2 )2 (10.2 )2
 
exp
0.2 0.2 0.2 0.2

Codul pentru a vizualiza aceasta densitate de probabilitate, paramet-


ric
a de parametru , n functie de valorile posibile ale estimatului, este:

93
LUCRAREA 7. ESTIMAREA PARAMETRILOR

for i= 1 : length(estmp)
rTh = sum( (r-estmp(i)) .* (r-estmp(i)) );
w r th(i) = 1/(sqrt(2*pi*sn2)^ 4) .* exp(-rTh/(2*sn2));
end% for
[val, pos] = max(w r th);
fprintf(Estimatul de maxima plauzibilitate pentru 4 mas este
...
theta=% 3.3f ,estmp(pos));
fprintf(Media masuratorilor este m=% 3.3f,mean(r));
subplot(2,2,2); plot(estmp, w r th, .r);
s = sprintf( plauzibilitatea );
title(s); grid on;

Dac
a se consider a numai informatia a priori, atunci densitatea de pro-
babilitate a lui este:
( )2 ( 11)2
   
1 1
w () = q exp = exp
22 22 2 1 21

Valoarea maxim
a este ns
asi media:

w th = 1/(sqrt(2*pi*sth2)) .* exp(-( (estmp - th med).^2) /(2*sth2));


[val, pos] = max(w th);
fprintf(Valoarea presupusa initial este theta=% 3.3f ,estmp(pos));
subplot(2,2,3); plot(estmp, w th,.b);
s = sprintf(Densitatea de probabilitate a priori );
title(s); grid on;

Daca cele 4 masuratori sunt puse mpreun a cu informatiile a priori,


atunci valorea parametrului este dat a de estimatul maxim a posteriori.
Plec
and de la 7.4, logaritmand si nlocuind cu datele problemei noastre
rezult
a:

4
X (ri )2 ( )2
ln w(|r) = ln(const)
i=1
2n2 22
Valoarea maxim a a acestei functii este valoarea cautat
a; formula analitic
a
a ei este data de relatia 7.12:
PN
ri 9.1 + 10.5 + 11.2 + 10.2 11
map = 2 i=1 + 2 = 0.1 + 1
+N 1 +4 0.1 4 + 1
n
2 2

N +1
n

Pentru a c
auta n mod exhaustiv valoarea parametrului sau a o calcula
direct putem scrie:

thMAP = sum(r) / (sn2/sth2+N) + th med/((sth2/sn2)*N+1);

94
7.2. Desf
asurarea lucr
arii

fprintf(valoarea calculata a estimatului maxim a posteriori


este...
% 3.3f ,thMAP);
for i = 1 : length(estmp)
rTh = sum( (r-estmp(i)) .* (r-estmp(i)) );
w map(i) = (-rTh/(2*sn2) -( (estmp(i)-th med).^ 2) / (2*sth2));
end
[val, pos] = max(w map);
fprintf(Valoarea estimatului maxim a posteriori este...
theta=% 3.3f ,estmp(pos));
subplot(2,2,4); plot(estmp, w map,.k);
s = sprintf(Densitatea de probabilitate a posteriori);
title(s); grid on;

Rezultatul grafic al secventelor de cod prezentate este afisat n figura


7.2. Tema: Cum se modific a valoarea parametrului pe m asur a ce se

plauzibilitatea pentru r=r1 Plauzibilitatea

6 8 10 12 14 6 8 10 12 14

Densitatea de probabilitate a priori Densitatea de probabilitate a posteriori

6 8 10 12 14 6 8 10 12 14

Figura 7.2: Exercitiul 1: Formele functiei de plauzibilitate (pentru o


masur
atoare (a), respectiv 4 (b)) n functie de variabila , densit
atii de
probabilitate a priori (c) respectiv a posteriori (d).

adauga informa-tii noi? Se vor varia cele dou a dispersii considerate.


Se vor creste/sc
adea num arul de masur
atori, inclusiv prin introduc-
erea de date complet eronate? Cum variaz a n aceste cazuri valorile
estimatilor?

2. Sa se reia cerintele din exercitiul precedent pentru problema (preluat a


din [10]): Viteza unui avion este m asurat
a cu un radar de sol. Eror-
ile de citire ale vitezei sunt gaussiene, de medie nul a si varianta
1000
Km/h. Viteza avionului variaz a gaussian n jurul valorii nominale
de 1000 Km/h, cu varianta de 1000 Km/h. Se fac cinci citiri inde-

95
LUCRAREA 7. ESTIMAREA PARAMETRILOR

pendente ale vitezei, rezult


and observatiile v1 = 980 Km/h, v2 = 550
Km/h, v3 = 1100 Km/h, v4 = 1050 Km/h si v5 = 760 Km/h. S a se
afle estimatul maxim a posteriori al vitezei. Comparati precizia aces-
tui estimat cu precizia estimatului obtinut prin medierea aritmetic
aa
observatiilor.

3. Dac a nu sunt disponibile multe informatii a priori despre parametrul


de interes, atunci este natural s a se ia decizia pe baza m asur atorilor,
adica se cauta estimatul de maxim a plauzibilitate. Se poate proceda si
altfel: se modeleaz a densitatea de probabilitate a priori ca o distributie
uniform a de medie 0 si dispersie c at mai mare cu putinta5 ; se cal-
culeaza densitatea de probabilitate a posteriori; prin derivare densi-
tatea de probabilitate a priori este eliminat a, iar estimatul maxim a
posteriori este egal cu estimatul de maxim a paluzibilitate.
Sa se implementeze acest caz folosind datele de la exercitiul 1 cu
diferenta ca valoarea asteptat
a a tensiunii poate fi oric
at n intervalul
[8,12] (n loc de a proveni dintr-o gaussian a).

4. Se consider
a problema de la exercitiul 1 cu modificarea c a valoarea
tensiunii m
asurate provine din distributia (de tip exponential cu =
2): ( n 
1
2 exp
2
0
, pentru > 0
w() =
0 n rest
unde 0 =9.

Rezolvare: In acest caz, forma logaritmic


a a densit
atii de proba-
bilitate a posteriori este:
4
X (ri )2
ln w(|r) = ln(const) ( 0 )
2n2
i=1

Iar estimatul maxim a posteriori este:


N N
!
2 2 1 X 2n2 1 X
map = n + 2 ri = + ri (7.15)
N n
i=1
N 2 N i=1

unde s-a folosit faptul c


a varianta unei densitati de probabilitate de
2 1
tip exponential este = . Valoarea obtinut
a este 10.275.
Atunci, secventa de cod pentru calculul densit atii de probabilitate a
priori respectiv a posteriori poate fi:

th0 = 9; lambda = 1/2;

5
O densitate de probabilitate uniform a, de dispersie mare este denumit a de multe ori
distributie non-infomativ
a. Explicatia este sugerat
a de faptul c a nici o valoare nu este
mai probabila. Deci examin and densitatea de probabilitate, nu putem spune nimic n
plus despre sansele ca anumite valori s
a apara, dec
at ceea ce se stia: toate sunt la fel de
probabile.

96
7.2. Desf
asurarea lucr
arii

w th = zeros(size(estmp));
w th(estmp >= th0) = lambda * exp(-lambda*...
(estmp(estmp>=th0)-th0));

for i = 1 : length(estmp)
if estmp(i)<9
rTh = sum( (r-estmp(i)) .* (r-estmp(i)) );
w map(i) = -rTh/(2*sn2) ;
else
rTh = sum( (r-estmp(i)) .* (r-estmp(i)));
w map(i) = -rTh/(2*sn2) - lambda*(estmp(i)-th0);
end
end

Rezultatul grafic este cel afisat n figura 7.3.

plauzibilitatea pentru r=r1 Plauzibilitatea

6 8 10 12 14 6 8 10 12 14

Densitatea de probabilitate a priori Densitatea de probabilitate a posteriori

6 8 10 12 14 6 8 10 12 14

Figura 7.3: Exercitiul 4: Formele functiei de plauzibilitate (pentru o


masur
atoare (a), respectiv 4 (b)) n functie de variabila , densitatii de
probabilitate a priori de tip exponential (c) respectiv a posteriori (d)

5. Cazul studiat se modific


a astfel nc
at zgomotul m
asur
atorii va avea
medie 1. Cum se modifica rezultatele obtinute?

6. Fie semnalul s(t, ) = sin(t), unde t [0, ]. Semnalul este transmis


pe un canal afectat de zgomot aditiv de tip gaussian de medie 0 si
dispersie 1. Esantioanele zgomotului, la oricare 2 momente de timp
considerate, sunt independente. Pentru estimarea valorii parametru-
lui se foloseste estimatul de maxim
a plauzibilitate. Se va fixa valoarea
parametrului ntr-un punct (de exemplu: = 2). Se vor fixa N mo-

97
LUCRAREA 7. ESTIMAREA PARAMETRILOR

mente de timp. La fiecare moment de timp se vor genera posibile valori


ale semnalului receptionat. Se va studia variatia valorii estimate com-
parativ cu cea prefixata odat
a cu variatia num arului de esantioane.

Rezolvare: In cazul prezentat, semnalul receptionat este de forma:

r(t) = sin(t) + n(t)

Un esantion al semnalului receptionat, obtinut la momentul t = ti ,


este:
r(ti ) = sin(ti ) + n(ti )
Zgomotul, la orice moment de timp provine dintr-o distributie gaus-
a de medie 0 si varianta n2 = 1. In acest caz, un esantion al
sian
semnalului receptionat este distribuit conform:

w(r(ti )|) = N (s(ti ), n2 )

Plauzibilitatea unui set de valori m


asurate este:
N N
!
Y 1 X (ri sin(ti ))2
w(r|) = N (s(ti ), n2 ) = p exp
( (2n2 ))N 2n2
i=1 i=1

Estimatul de maxim
a verosimilitate este:
PN
ri
mv = PN i=1
i=1 sin(ti )

Codul Matlab necesar poate fi:

N = 5;
t= pi/N : pi/N : pi; %momentele de timp
theta = 2; %valoare transmis
a a parametrului
s = theta * sin(t); %semnal transmis
n = randn(1,N); %zgomot
r = s + n;
theta mv = sum(r) / sum(sin(t));
figure; plot(t,s,:k); hold on;
hold on; plot(t,r); plot(t,r,.r);
text = sprintf(Valoare transmis theta=% 3.3f....
Valoare calculata theta mv=% 3.3f,theta,theta mv);
title(text);

Tema: Ce se nt
ampla daca intervalul este [0, 2], iar momentele de
timp sunt considerate la distante egale?

98
7.3. Exercitii si teme propuse

7.3 Exercitii si teme propuse


1. Care va fi estimatul maxim a posteriori dac a at
at densitatea de proba-
bilitate a priori c
at si zgomotul provin din densitati de probabilitate
uniforme?

2. In cazul unui experiment densitatea de probabilitate a priori este o


densitate uniform a n [A,B], iar estimatul maxim a posteriori calculat
este n afara acestui interval. Se poate ntampla asa ceva? De ce?

99
LUCRAREA 7. ESTIMAREA PARAMETRILOR

100
Lucrarea 8

Modele stochastice

Daca n lucr
arile precedente am fost preocupati de studiul semnalelor con-
tinue si numai mediul de lucru ne-a obligat s a proiect
am obiectele matem-
atice ntr-un spatiu discret, de aici nainte ne vom preocupa de semnale
discrete. Operatia prin care se obtine un semnal discret dintr-unul con-
tinuu este esantionarea. Teorema esantion arii [4] arat
a ca pentru a putea
reface complet semnalul continuu din secventa discret a asociat
a este nece-
sar ca frecventa de esantionare sa fie cel putin de doua ori mai mare dec at
frecventa maxim a a semnalului continuu. De fapt, secventele discrete, pre-
cum si notiunea de frecventa, au fost discutate n lucrarea 4.
Un semnal aleator discret se obtine prin esantionarea unui semnal aleator
continuu. Se pot genera si n mod direct semnale aleatoare discrete. Ipotezele
pe baza c arora se obtine un semnal aleator formeaz a asa numitul model
stochastic al semnalului.
Fie semnalul aleator discret :

(n) = [(0), (0), . . . , (N )]T

Similar cu scrierea prescurtat a a semnalelor continue, si n cazul sem-


nalelor aleatoare discrete se presupune implicit existenta variabilei ce marcheaza
realizarea particular a. Astfel, la fiecare moment discret de timp se poate
vorbi despre o statistic a de ordinul 1 a semnalului (densitate de probabili-
tate, functie de repartitie, etc) sau, dac
a se considera mai multe momente de
timp, se va vorbi despre statistici de ordin superior. De interes sunt numai
semnalele stationare. Parametri statistici des folositi sunt:
media semnalului: (n) =

varianta semnalului: 2 ((n)) = 2

matricea de autocorelatie:

R = T (8.1)

O observatie important a este: matricea de autocorelatie a unui semnal


aleator este p
atrata si, fiind semipozitiv definit
a, este inversabil
a.
Dintre multimea de modele stochastice existente, de interes sunt cele
liniare. Principiul de baz a al modelelor stochastice arata c
a printr-o filtrare

101
LUCRAREA 8. MODELE STOCHASTICE

cu un filtru cu coeficienti potrivit alesi se poate obtine din zgomot alb un


semnal aleator cu propriet ati statistice dorite. Schema unui model stochastic
liniar poate fi v
azut n figura 8.1.

(n)
(n)

Figura 8.1: Modelul stochastic liniar.

8.1 Modelul MA
Modelul MA1 presupune calculul esantionului curent de la iesire pe baza
medierii ponderate a M+1 esantioane ale semnalului de la intrare. Dac a
notam cu (n) semnalul de la iesirea filtrului si cu (n) semnalul de la
intrarea sa atunci modelul MA va fi dat de:

(n) = b0 (n) + b1 (n 1) + b2 (n 2) + . . . + bM (n M ) (8.2)

Modelul MA are marele avantaj al usurintei implement arii. De multe


ori, pe acest model const a prima ncercare de a rezolva o problem a nou
a ce
implic a semnale aleatoare discrete.
Un exemplu n care modelul MA este util este reducerea zgomotului. Se
stie ca daca un zgomot alb este trecut printr-un filtru de band a limitat
a,
atunci n semnalul de la iesire va aparea o corelatie cu at at mai puternic a cu
c
at banda de trecere a filtrului este mai ngust a, si, n consecinta o reducere a
puterii zgomotului (vezi lucrarea 5 - despre semnale aleatoare si [1]). Ecuatia
8.4 prezinta convolutia ntre coeficientii filtrului si semnalul de la intrare.
Se stie c
a un filtru trece jos ideal are drept functie de transfer o functie de
tip sinus cardinal (sinc). Dac a discretizam aceast a functie de tranfer, de
exemplu n 11 puncte, atunci putem obtine setul de coeficienti ai modelului
MA (vezi 8.2):

b0...10 = {3.9 1017 , 0.19, 0.15, 0.23, 0.76, 1, 0.76,


0.23, 0.15, 0.19, 3.9 1017 }

O simplificare a modelului se obtine dac a se consider


a toti coeficienti
egali, caz n care coeficientul curent al semnalului de la iesire este media
aritmetica a ultimelor M + 1 esantioane de la intrare:
M
1 X
(n) = (n i) (8.3)
M
i=0
1
MA este acronimul pentru Moving Average ceea ce n traducere libera ar fi medie
alunec
atoare.

102
8.2. Modelul auto-regresiv (AR)

1.2

0.8

0.6

0.4

0.2

0.2
1 2 3 4 5 6 7 8 9 10 11

Figura 8.2: Discretizarea FTJ permite implementarea filtr


ari trece-jos n
timp discret.

8.2 Modelul auto-regresiv (AR)


Ecuatia de baz
a a modelului auto-regresiv este:
(n) + a1 (n 1) + a2 (n 2) + . . . aM (n M ) = (n) (8.4)
Aceasta ecuatie indic a faptul c
a esantionul curent al semnalului de la iesire,
(n), este functie de esantionul curent al semnalului de la iesire, (n), precum
si de M esantioane anterioare ale semnalului de la iesire.
Dintre modelele stochastice liniare uzuale, acesta este singurul pentru
care se poate determina o expresie analitic a a coeficientilor. Aceast
a solutie
se poate calcula prin rezolvarea ecuatiilor Yule-Walker. Pentru a le obtine, se
nmulteste relatia 8.4 cu (ni) si se tine cont de independenta esantioanelor
de zgomot (vezi [1] pentru mai multe detalii):
R (i) + a1 R (i 1) + a2 R (i 2) + + aM R (i M ) = 0
(8.5)
, pentru i=1,2,3. . .
unde R reprezint a functia de autocorelatie a semnalului de la iesire. Solutia
sistemului de ecuatii Yule-Walker se obtine dac a se scrie relatia de mai sus
pentru i = 1, 2, . . . M . Sub form a matriceal a sistemul este:

R (0) R (1) R (M 1) a1 R (1)

R (1) R (0) R (M 2) a2
R (2)


R (2) R (1) R (M 3) a3 = R (3)

.. .. .. .. .. ..
. . . . . .
R (M 1) R (M 2) R (0) aM R (M )
(8.6)
Setul de coeficienti se obtine prin nmultirea la st anga a termenului din
dreapta, notat r , cu inversa matricei de autocorelatie:
a = R1
r (8.7)
Acest rezultat arat a c
a pornind de la un zgomot alb (adica de la un sem-
nal aleator perfect decorelat), prin alegerea potrivit
a a coeficientilor filtrului,
se poate obtine la iesire un semnal aleator cu o corelatie impus a.

103
LUCRAREA 8. MODELE STOCHASTICE

8.3 Desf
asurarea lucr
arii
1. Modelul MA. Se consider a un semnal afectat de zgomot alb. Se va
trece acest semnal printr-un filtru de tip MA si se va urmari modifi-
carea rezultatului n functie de coeficientii filtrului.

Rezolvare: Vom considera semnalul de la intrare y(t) = sin(t) +


n(t), unde n(t) este zgomot alb provenind dintr-o distributie Gaus-
sian a2 . Pentru implemetarea filtrului vom considera diferite variante.
Sa ncepem cu filtrul trece jos prezentat n expunerea teoretica. In
acest caz, codul Matlab este:

close all;
t=0 : 0.1 : 3*pi;
n=0.2 * randn(size(t));
x=sin(t) + n;
%MA coef
b=[-3.92e-017;-0.19;-0.15;0.23;0.76;1;0.76;...
0.23;-0.15;-0.19;-3.9e-017];
b=b ./ sum(b); %pentru conservarea energiei semnalului
Lb=length(b);
for i = 1 : length(t)
if i<= Lb
y(i) = 0;
else
y(i) = sum(x(i-Lb+1:i) .* b);
end
end
plot(t, sin(t), r); hold on;
plot(t ,x); hold on;
plot(t, y, k); hold on;

Un rezultat posibil se poate vedea n figura 8.3 (a). Se poate ob-


serva c
a se reduce zgomotul, dar si c a apare o nt
arziere n semnalul
r
aspuns datorata faptului ca, mai cur and, putem privi modelul MA
ca pe unul necauzal, n care se asteapt
a c
ateva esantioane pentru a se
procesa valoarea curent a.

In continuare, vom implementa modelul MA simplificat. Vom fixa


lungimea filtrului la M = 7. In acest caz codul necesar declar
arii
coeficientilor filtrului este:

M=7; b2=ones(M+1,1) / (M+1);

Rezultatul se poate vedea n figura 8.3 (b).

2
Acest exemplu contine o modificare de la situatia general
a expus
a n breviarul teoretic,
unde la intrare se prezenta numai zgomot alb.

104
8.3. Desf
asurarea lucr
arii

(a) (b)
1.5 1.5

1 1

0.5 0.5

0 0

0.5 0.5

1 1

1.5 1.5
0 2 4 6 8 10 0 2 4 6 8 10

Figura 8.3: Aplicarea unui filtru trece jos sub forma unei ecuatii de tip MA
cu coeficienti a)diferiti, respectiv b)egali. Cu linie punctat
a este reprezentat
semnalul original, n timp ce cu linie continu a este reprezentat semnalul
obtinut prin mediere ponderat a din semnalul zgomotos reprezentat cu linie
ntrerupta.

Tem a: Sa se varieze puterea zgomotului si respectiv num arul coeficientilor


filtrului. Sa se urm areasc
a efectul acestor operatii asupra semnalului de la
iesire

2. S
a se implementeze, folosind modelul MA un filtru trece sus.

Rezolvare: Filtrul trece sus are proprietatea c a favorizeaza trecerea


frecvente-lor nalte si atenuaz
a frecventele joase. Dup a cum s-a mai
discutat, frecventele nalte presupun variatii bruste. Variatiile bruste
sunt echivalente, local, cu o valoare mare a derivatei. Dat fiind c a
ne referim la un spatiu de lucru discret, derivata poate fi calculat a ca
o diferent
a finita (vezi lucrarea 1). In concluzie putem implementa
un filtru trece sus, care amplific a variatiile bruste, dac
a adunam la
valoarea esantionului curent diferenta fata de esantioanele precedente.
De exemplu filtrul MA av and coeficientii:

b0:4 = [0.1; 0.25; 1.7; 0.25; 0.1]

aplicat semnalulul de la exercitiul 1 va amplifica variatiile bruste ale


zgomotului (numai zgomotul are componente pe frecvente nalte), dup a
cum se poate vedea si n figura 8.4.

3. Implementarea rapid a a modelului MA simplificat. Dup a cum se arat


a
n [9] se poate construi o variant a rapid
a de implementare bazat a pe
recurent
a. Primul pas const
a n a observa ce termeni contribuie la dou
a
esantioane consecutive ale semnalului de la iesire. Sa presupunem c a
M = 4. In acest caz dou a esantioane consecutive ale semnalului de la

105
LUCRAREA 8. MODELE STOCHASTICE

4
0 1 2 3 4 5 6 7 8 9 10

Figura 8.4: Filtrare trece-sus. Semnalul original este reprezentat cu linie


ntrerupt
a, semnalul zgomotos cu linie punctat
a si rezultatul filtr
arii cu linie
continu
a. Observati c
a zgomotul este amplificat.

iesire, s
a zicem (30) si (31), se obtin prin explicitarea ecuatiei 8.3:

1
(30) = ((30) + (29) + (28) + (27) + (26))
5
1
(31) = ((31) + (30) + (29) + (28) + (27))
5
Adica cei mai multi termeni care contribuie la un esantion al sem-
nalului de la iesire au contribuit si la esantionul precedent. Putem
scrie:
1 1
(31) = (30) + (31) (27)
5 5
Sau, la modul general, dac a rescriem ecuatia 8.3 se obtine:
(
(n + 1) = (n) + M1+1 (n + 1) M1+1 (n M ) , n = M, M + 1,
1 PM
(M ) = M +1 i=0 (i)
(8.8)
Secventa Matlab care implementeaz a aceast
a variant
a (aplicat
a sem-
nalului de la exercitiul precedent) este:

y = zeros(size(x));
M = 7;
for i = 1 : length(x)
if i<M+1
y(i) = 0;
elseif i==M
y(i) = (1/(M+1)) * sum(x(1:i));
else
y(i) = y(i-1)+(1/(M+1)) * (x(i)-x(i-M));
end

106
8.3. Desf
asurarea lucr
arii

end

Aceast a implementare nu este foarte eficient a ntr-un mediu de lucru


ca Matlabul, unde operatiile matriceale sunt optimizate, spre deose-
bire de secventele de calcul scrise n clar. Dar este evident ca, pentru
toti termenii cu exceptia primului, n loc sa se adune M termeni (si,
uneori M poate fi destul de mare) se sumeaz a doar trei.

4. Modelul AR. Fiind disponibile N esantioane ale unui semnal aleator


de tip zgomot alb provenind dintr-o distribitie Gaussian a, se doreste
s
a se obtin
a esantione ale unui semnal cu functie de corelatie impus
a.

Rezolvare:
Solutia evidenta este s
a se calculeze coeficientii filtrului AR pe baza
ecuatiilor Yule-Walker. Codul Matlab este:

close all; clear; clc;


%initializam vectorul de autocorelat
ie cu forma dorit a
R xi = 1 : -0.1 : 0;
%conventie: R xi(1) este coef de autocorelat ie R xi(0)
M = length(R xi)-1;
r = R xi(2:end)
R = zeros(M,M);
temp = [R xi(end:-1:2) R xi];
for i = 1 : M
R(i,:) = temp(M-i+2 : M-i+M+1);
end
a = -inv(R) * r;
%generam un vector de lungime N de e santioane de zgomot alb
% provenind dintr-o distribut ie Gaussiana
N = 200;
n = randn(1,N); y = n;
for i = 1 : N
if i>M
y(i) = y(i) + sum(a* y(i-1:-1:i-M));
end
end
figure; subplot(3,1,1);
stem(R xi); grid on; title(Vectorul de autocorelatie impus);
subplot(3,1,2);
plot(n); grid on; title(Esantioanele de zgomot);
subplot(3,1,3);
plot(y); grid on; title(Semnalul rezultant);

Functia de autocorelatie impus a precum si semnalul rezultant pot fi


v
azute n figura 8.5. In figura 8.6 este prezentat un alt exemplu. Sem-
nalul obtinut la iesire este n continuare aleator. In schimb se poate
observa c a semnalul nu mai contine tranzitii foarte bruste, ci doar

107
LUCRAREA 8. MODELE STOCHASTICE

tranzitii lente, adic


a exist
a corelatie ntre esantioanele lui.
Tem
a: Sa se reprezinte doua c
ate doua esantioanele semnalului de la iesire

Vectorul de autocorelatie impus


1

0.5

0
1 2 3 4 5 6 7 8 9 10 11
Esantioanele de zgomot
4

4
0 20 40 60 80 100 120 140 160 180 200
Semnalul rezultant
20

10

10

20
0 20 40 60 80 100 120 140 160 180 200

Figura 8.5: Exemplul 1. Modelul AR: functia de autocorelatie impus


a,
esantionele de zgomot si semnalul rezultant.

Vectorul de autocorelatie impus


1

0.5

0.5

1
0 1 2 3 4 5 6 7 8 9 10
Esantioanele de zgomot
4

4
0 20 40 60 80 100 120 140 160 180 200
Semnalul rezultant
5

10
0 20 40 60 80 100 120 140 160 180 200

Figura 8.6: Exemplul 2. Modelul AR: functia de autocorelatie impus


a,
esantionele de zgomot si semnalul rezultant.

si sa calculeze dreapta de regresie. Pe baza acesteia sa se estimeze corelatia


semnalului. Sa se compare acest rezultat cu cel similar obtinut pentru zgo-
motul de la intrare. Vezi si figura 8.7.
Tem a: Sa se analizeze spectrul semnalui de la intrare (al zgomotului alb)
comparativ cu cel al semnalului de la iesire. Cat de similar este acesta din
urma cu densitatea spectrala de putere dorita (transformata Fourier a functiei
de autocorelatie).
Tem a: Reluati aceste calcule pentru alte modele de corelatie si analizati
rezultatul. Daca ncercati acest exemplu pentru un vector de corelatie provenind

108
8.3. Desf
asurarea lucr
arii

2
zgomot intrare
semnal corelatiesire

6
6 4 2 0 2 4 6

Figura 8.7: Corelatia semnalului de la iesire comparativ cu cea a zgomotului


de la intrare pentru exemplul 2.

din functia cos veti constata c


a sistemul devine instabil. De ce?

Tema: Implementati modelul ARMA, care este o combinatie ntre modelele


MA si AR.

109
LUCRAREA 8. MODELE STOCHASTICE

8.4 Exercitii si teme propuse


1. C
and este filtrul de tip MA stabil?

2. Demonstrati c
a prin folosirea modelului MA simplificat, aplicat unui
zgomot alb se reduce varianta zgomotului.

3. Utilizati functia conv n implementarea modelului MA.

4. Implementati modelul MA n frecventa.

5. C
and este filtrul de tip AR stabil?

6. Implementati modelul AR n frecventa.

110
Lucrarea 9

Tranformate unitare.
Compresia semnalelor

9.1 Transformate unitare


Vom ncepe aceast a lucrare prin a discuta notiunea de transformat a unitar
a.
In locul unei definitii matematice1 , uneori destul de abstract a, vom prefera
s
a spunem c atransformatele unitare sunt pur si simplu rotatii generalizate.
Dup a cum s-a mai amintit n capitolele anterioare, o transformare accept a
drept intrare un element al unui spatiu si prezint a la iesire corespondentul
acelui element n alt spatiu. In cazul transformatelor unitare, cele dou a
spatii prezint
a o diferenta de faza sau de rotatie. In plus, spatiul de iesire
este ortogonal (are axele ortogonale). Un exemplu de asemenea transformare
poate fi vazuta n figura 9.1.

0.8

0.6

0.4

y
0.2

0 x
1
0.8 1
0.6 0.8
0.4 0.6
0.4
0.2
0.2
0 0

Figura 9.1: Exemplu de transformare unitar a ntre doua spatii tri-


dimensionale: Spatiul de intrare este cel cu cu axe punctate, iar spatiul
de iesire este cel cu axe continue (Spatiul XYZ). Vectorul de intrare, x este
tranformat n y.

S
a formaliz
am notiunile. Dac
a U este o matrice unitar
a, atunci prin
1
Prin definitie, o transformare unitar a este un izomorfism ntre dou a spatii Hilbert.
Definitia poate fi particularizat
a pentru matrici, caz n care aplicarea unei matrice unitare,
U unor vectori p astreaz
a produsul scalar: hU x, U yi = hx, yi.

111
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
definitie:
U U = U U = In (9.1)
Adica inversa unei matrice unitare este conjugat transpusa sa (U 1 = U =
(U C )T ). Dac
a ne restr
angem la cazul real, atunci o matrice unitara este o
matrice ortogonala.

Propriet
atile matricelor unitare (ortogonale) includ:

1. Dac a, atunci si U T este unitar


a U este unitar a;

2. Spatiul coloanelor matricei U este ortonormal. Dac a ui si uj sunt


doua coloane ale matricei ortogonale U , cu i 6= j, atunci:

uiT uj = 0
(9.2)
uiT ui = 1

3. Spatiul liniilor este ortonormal;

4. Determinantul unei matrice unitare este de modul 1.

Exemple de matrice unitare sunt:


 
1 0
matricea unitate, I2 : ;
0 1
 
0.96 0.28
matrice unitate rotit
a cu 16.96 grade ;
0.28 0.96
 
1 0
matricea unitate cu axa x inversata ;
0 1
 
0 1
matricea unitate cu axele inversate: .
1 0

Un transformat (o proiectie pe spatiul definit de coloanele matricei unitare)


a vectorului x se obtine prin nmultirea lui la st
anga cu o matrice unitara:

y = Ux (9.3)

Matricele unitare pot avea forma (valori) variabil


a (cum este cazul celor
folosite n transformarea Karhunen-Loeve) sau pot fi cu forma fix
a cum sunt
cele asociate transformatelelor cos si sin.

9.2 Transformata Karhunen-Loeve


Transformata Karhunen Loeve (KL) 2 este optimal a n sensul minimizarii
erorii p
atratice medii. Dar nainte de a dezbate sensul acestei afirmatii s
a
discutam motivarea unei asemenea transform ari.
2
Varianta discret
a a tranformate Karhunen-Loeve - varint
a expus
a n lucrarea de fat
a,
este de multe ori denumit a Analiz
a pe Componente Principale.

112
9.2. Transformata Karhunen-Loeve

Sa presupunem c a suntem interesati de studiul unui set de date reprezen-


tate ntr-un spatiu bi-dimensional, cum ar fi cel din figura 9.2. Se nt ampl a,
de cele mai multe ori, ca cele dou a dimensiuni implicite s a nu fie complet
decorelate. In acest caz ne intreseaz a sa proiectam datele ntr-un spatiu n
care s a elimin
am corelatia existent a ntre axe, sau, mai realist, s
a reducem
corelatia. Sistemul propus n figur a are o ax a principal a de-a lungul careia
se g aseste majoritatea informatiei si o axa secundara cu informatie putin a.
Alegerea axelor a speculat corelatia existent a ntre cele doua dimensiuni
initiale.

1.2

0.8

0.6

0.4

0.2

0.2
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1

Figura 9.2: Un set de date. Evident reprezentarea n sistemul de axe marcat


cu linie ntrerupt
a este de preferat.

Pe baza noi reprezent


ari, se pot dezvolta diferite aplicatii printre care:
Compresia datelor. Putem reprezenta cu o precizie mai mare axa
principal
a si cu o precizie mai mic
a axa secundar
a sau, la limit
a, putem
reprezenta datele ca fiind unidimensionale.
Vizulizarea datelor multidimensionale. In mod evident nu suntem n
stare s
a reprezent
am grafic spatii 5dimensionale. Pentru vizualiz ari
de date suntem nevoiti s
a le proiect
am n spatii 2, cel mult 3dimensionale.
Un asemenea exemplu este cel prezentat n figura 9.3. A treia (Z) di-
mensiune este aproape redundant a iar o proiectie pe un plan aproape
paralel cu XOY (cum este cel propus n (a)) ar fi suficient a.
Transformata KL reprezint a o modalitate de a calcula transformarea
c
atre noul spatiu. Relu
am problema proiectiei:
y = Ux
Se doreste aflarea matricei U astfel nc
at x s
a aib
a o structur
a clar a: valori
necorelate si ordonate dupa importanta.
Pentru a calcula transformata KL a unui set de date reprezentat ca o
multime de M vectori coloan a N -dimensionali, X = {x1 , x2 , . . . , xM }, se
procedeaz a astfel:

113
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
(a) Reprezentare XYZ (b) Proiectie XY
1

1 0.8

0.6
0.5

Y
0.4
0
1 0.2
1
0.5
0.5
0
Y 0 0 X 0 0.2 0.4 0.6 0.8 1
X

(c) Proiectie XZ (d) Proiectie YZ


0.7 0.7

0.6 0.6

0.5 0.5

0.4 0.4
Z

Z
0.3 0.3

0.2 0.2

0.1 0.1

0 0
0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1
X Y

Figura 9.3: Un set de date. Dup a cum se poate vedea, variatiile de-a lungul
axei Z sunt mai putin semnificative dec at cele corespunzatoare axelor X si
Y. De fapt, ntreg setul de date se poate proiecta pe un plan (reprezentat n
(a) ) f
ar
a a pierde mult din informatia continut
a.

Se calculeaza matricea de autocovariatie a datelor. De multe ori se


procedeaza nt
ai la o centrare n jurul originii a datelor (egalizare cu
0 a mediei):
xi = xi xi
In acest caz, matricea de autocovariatie a datelor este egal
a cu ma-
tricea de autocorelatie:
M
1 X T
Kx = Rx = xi xi
n
i=1

Se calculeaza vectorii (u1 . . . uN ) si valorile proprii (1 . . . n ) ale ma-


tricei de autocorelatie.

Se ordoneaz a vectorii proprii dup


a o succesiune descresc
atoare a valo-
rilor proprii corespunzatoare:

{1} {2} {N }

Matricea unitar
a care asigur
a transformarea dorit
a este:
 
U KL = u{1}u{2} . . . u{N}

Referitor la transformarea KL se pot face c


ateva observatii:

114
9.3. Transformata COS

Vectorii proprii ai oric


arei matrice (inclusiv matricea obtinut
a prin
transformarea KL) sunt ortogonali.

Valorile proprii reprezinta varianta datelor de intrare pe axa core-


spunzatoare vectorului propriu asociat. Ordonarea vectorilor proprii
dupa valorile asociate este echivalent
a cu ordonarea lor dup a varianta
sau, considerand alt criteriu, dupa cantitatea de informatie reprezen-
tat
a.

Vectorul yi calculat ca fiind transformatul lui xi prin formula yi =


U xi contine aceeasi informatie ca si vectorul initial xi.

Daca se doreste compresia prin transformata KL, atunci se pot p


astra
numai primele N0 < N componente ale lui yi, obtin andu-se yi0 3 .
Restul componentelor se nlocuiesc cu mediile lor (calculate pe setul
de date). Adic a:

yi = [yi (1), . . . , yi (n)]T


T
M M
1 X 1 X
yi0 = yi (1), . . . , yi (n0 ), yj (n0 + 1), . . . , yj (N )
M M
j=1 j=1
T
M M
0 1 X 1 X
yi+1 = yi+1 (1), . . . , yi+1 (n0 ), yj (n0 + 1), . . . , yj (N )
M M
j=1 j=1

Transformata KL este optimal


a n sensul c
a minimizez
a eroarea p
atratic
a
medie 2 :
M M n
1 X 0 2 1 X X
2 = (yi yi ) = (yi (j) yi0 (j))2
M M
i=1 i=1 j=n0 +1

Algoritmul de calcul brut al transformatei KL este destul de ridicat


ca si complexitate de calcul. Calculul vectorilor si valorilor proprii
ale unei matrice p atrate de dimensiune N N este O(N 3 ). Dac a se
doreste, n schimb, calculul unei proiectii numai pe N0 axe atunci sunt
necesari numai N0 vectori proprii, iar aflarea lor necesit a operatii n
ordinul lui O(N N02 )

Dezavantajul major al transformatei KL este c a matricea U nu este


fix
a, ea fiind diferit
a de la un set de date la altul.

9.3 Transformata COS


Transformata COS este un caz particular de transformare unitar a cu ma-
tricea de transformare fix
a (independent
a de setul de date). Se defineste
3
Primele No componente se numesc componente principale. De aici provine numele
alternativ al transformatei KL de analiz
a pe componente principale.

115
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
transformata COS discret a a unei secvente x de lungime N , ca fiind:

1 PN

(2i1)(k1)
i=1 x(i) cos , pentru k=1


2N
y(k) = COS{x(i)} = N
2 PN (in1)(k1)


i=1 x(i) cos 2N , pentru k=2,3,. . . N
N
(9.4)
Matricea unitar
a asociat
a transformarii COS este:
U = [uki ], unde
1

u1i =

(9.5)


N
2 PN (in1)(k1)

uki = i=1 cos 2N
N
Transformata COS admite o transformare invers a care permite refacerea
secventei initiale din secventa transformata. Aceasta se defineste ca fiind:
(2i1)(k1)
( PN 1
i=1 N y(k) cos , i=1

2N
x(i)(k) = ICOS{y(k)} = PN (n1)(k1)
2
i=1 N y(k) cos 2N , i=2,3,. . . N
(9.6)
Transformarea COS este foarte aproape (ca valori si rezultate) de trans-
formarea KL pentru procese caracterizate de un coeficient de corelatie mare
( > 0.9). Un asemenea proces are matricea de autocorelatie de forma:

1 0 0 ... 0
1 1 0 ... 0

RX = 0
1 1 ... 0
... ... ... ... . . . . . .
0 0 0 0 ...

Transformarea COS nu este partea real a a transform arii Fourier discrete


a unei secvente. Totusi exist a o legatura ntre acestea dou a; transformata
COS este transformata Fourier a unei secvente dublate si simetrizate:
 
(k 1)
COS{x} = F {xt } exp , unde
2N (9.7)
xt = [x(N ), x(N 1), . . . , x(2), x(1), x(1), x(2), . . . , x(N 1), x(N )]

Aceast a leg
atura permite o implementare rapid a a transformatei COS
folosindu-se transformata Fourier rapid a. Mai mult, datorit
a acestei pro-
priet
ati se poate conferi o interpretare valorilor obtinute n urma tran-
formarii COS; rezultatul are aceeasi semnificatie de ponderare a unor anu-
mite frecvente ca si n cazul transformatei Fourier.
Intre aplicatiile larg folosite ale transformatei COS se num
ara standardul
JPEG (ce are inclus o transformare COS 8 8 ), aplicatii din domeniul
prelucrarii semnalelor vocale, etc.

116
9.4. Desfasurarea lucr
arii

9.4 Desfasurarea lucr


arii

1. Transformata KL. Se va considera un set de date tri-dimensional.


Alegerea lui va implica un grad mare de corelatie ntre axele sale. Se va
folosi transformata KL pentru a-se calcula axele optime de proiectie.
Se vor vizualiza grafic setul initial de date, setul proiectat si axele de
coordonate rezultate n urma calculului transformatei KL.

Rezolvare: O posibil
a implementare este:

close all; clear all; clc;


%construim un set de date 3D corelate
X = randn(100,1); %Gaussiana de medie 0
X(:,2) = 0.5 .* randn(100,1) + X(:,1);
X(:,3) = 0.7 .* X(:,1) + 0.3 * X(:,2);
subplot(2,2,1);
plot3(X(:,1), X(:,2), X(:,3), .k);
grid on;title(Setul de date);
axis([-2.5,2.5,-2.5,2.5,-2.5,2.5]);

%calcul
am matricea de autocorelatie
corr mat = X * X;
%calcul
am vectorii si valorile proprii
[U,lambda] = eig(corr mat);
%extragem valorile proprii
lambda = diag(lambda);
%sort
am valorile proprii
[lambda,ind] = sort(lambda);
lambdaS = lambda(end:-1:1);
%pozit
ionam corespunz
ator vectorii proprii;
U = U(:,ind(end:-1:1));
%proiect
am datele ^n noul sistem de coordonate
Y = (U * X);
subplot(2,2,2);
plot3(Y(:,1), Y(:,2), Y(:,3), .k);
grid on; title(Setul de date proiectat);
axis([-2.5,2.5,-2.5,2.5,-2.5,2.5]);

%desen
am noul sistem de coordonate ^
n raport cu cel vechi
axOrx = [0,0,0;1,0,0];
axOry = [0,0,0;0,1,0];
axOrz = [0,0,0;0,0,1];
subplot(2,2,3);
p = plot3(axOrx(:,1), axOrx(:,2), axOrx(:,3), k);
hold on; set(p,LineWidth,2);
p = plot3(axOry(:,1), axOry(:,2), axOry(:,3), k);
hold on; set(p, LineWidth ,2);
p = plot3(axOrz(:,1), axOrz(:,2), axOrz(:,3), k);

117
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
hold on; set(p,LineWidth,2);

z = zeros(1,3);
for i = 1 : 3
p = plot3([0, U(i,1)], [0, U(i,2)], [0, U(i,3)], --r);
hold on; set(p,LineWidth,2);
end
grid on; title(Seturile de axe); axis([-1,1,-1,1,-1,1]);

subplot(2,2,4); plot3(X(:,1), X(:,2), X(:,3), .k); hold on;


U1 = 2.5 * U; %pentru vizualizare
clr = {b--r :g}; %Ordinea axe 1-solid
a 2-intrerupt
a 3-punctat
a
for i = 1 : 3
p = plot3([0, U1(i,1)], [0, U1(i,2)], [0, U1(i,3)], clr{i});
hold on; set(p ,LineWidth, 3);
end
grid on; title(Setul de date original si axele de proiectie
ale KL);
axis([-2.5,2.5,-2.5,2.5,-2.5,2.5]);

Un posibil rezultat grafic poate fi v


azut n figura 9.4. Urm
ariti ori-
entarea axelor de coordonate calculate de transformare comparativ cu
cea a datelor considerate.
Tem
a: Se verifica notiunea de componente principale?

Setul de date Setul de date proiectat

2 2
1
0 0
1
2
2
2 2
0 2 2
0
0 0
2 2 2 2

Setul de date original si


Seturile de axe axele de proiectie ale KL

1
2
0.5 1
0 0

0.5 1
2
1
1 2
1 2
0 0
0 0
1 1 2 2

Figura 9.4: Aplicarea transformatei KL pe un set de date corelate.

2. S
a se repete exercitiul precedent pe un set de date necorelate. S
a se

118
9.4. Desfasurarea lucr
arii

compare valorile proprii obtinute n cele dou


a cazuri.

Rezolvare: Un set de date necorelat se poate obtine cu linia:

X=randn(100,3);

Daca o rulare a codului pentru exercitiul 1 duce la obtinerea setu-


lui de valori proprii: lambdaS =[ 318.8536, 14.1520, 0.0000], pen-
tru acest caz un rezultat posibil este: lambdaS =[80.0966, 10.4153,
6.3378]. Rezultatul grafic poate fi v
azut n figura 9.5.

Setul de date Setul de date proiectat

2 2
1 1
0 0
1 1
2 2

2 2
2 2
0 0
0 0
2 2 2 2

Setul de date original


Seturile de axe si axele de proiectie ale KL

1
2
0.5 1
0 0

0.5 1
2
1
1 2
1 2
0 0
0 0
1 1 2 2

Figura 9.5: Aplicarea transformatei KL pe un set de date necorelate.


Observati diferenta ntre setul original si setul proiectat comparativ cu
exercitiul 1.

Tem a: Explicati diferentele de gama n valorile proprii obtinute pe un set


de date corelat si unul necorelat.
Tem a: Sa se repete calculele de la exercitiile 1 si 2 pentru alte date de
corelatie variabil
a.

3. Compresie de date folosind transformata KL. Se vor considera seturile


de date obtinute la exercitiile precedente. Se va renunta la ultima,
respectiv ultimele dou a dimensiuni, care se vor nlocui cu 0. Se vor
reproiecta datele n spatiul original si se vor compara cu datele origi-
nale. Se vor vizualiza grafic toate aceste rezultate.

Rezolvare: Vom porni de la ecuatia proiectiei, exprimat a n relatia


a nmultim ambii membri cu U 1 la st
9.3. Dac anga, si apoi facem

119
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
c
ateva calcule elementare obtinem:

U 1 y = U 1 U x
(9.8)
UT y = x

Aceasta relatie reprezent


and ecuatia de proiectie (sau tranformare) in-
vers
a.
Pentru a calcula setul de date comprimat si proiectia invers a putem
scrie:

Y1 = Y; Y1(:,3) = 0;
X1 = (U * Y1);
subplot(1,2,1);
plot3(X(:,1), X(:,2), X(:,3), .k); hold on;
plot3(X1(:,1), X1(:,2), X1(:,3), or); hold on;
grid on; title(Datele initiale si comprimate in spatiul original);
axis([-2.5,2.5, -2.5,2.5, -2.5,2.5]);
%eroarea
err = sum( X(:) - X1(:) ).^2
subplot(1,2,2);
plot3(Y(:,1), Y(:,2), Y(:,3), .k); hold on;
plot3(Y1(:,1), Y1(:,2), Y1(:,3), or); hold on;
grid on;
title(Datele initiale si comprimate in spatiul transformat);

Rezultatul grafic poate fi v azut n figura 9.6. Desi raportul de com-


presie 4 este de 66.6%, nu se constat a diferente valorice ntre cele dou
a
seturi (nici vizual, nici calcul
and eroarea p atratica dintre dintre se-
tul original si setul comprimat). Dac a repetam experimentul pentru
datele de la exercitiul 2 vom vedea diferente considerabile.
Tem
a: Explicati natura acestor diferente.

4. Transformata COS. Se va calcula transformata COS a unui set de


date. Se va comprima setul de date prin renuntarea la un num
ar de
coeficienti corespunz
atori frecventelor nalte.

Rezolvare: Vom urm ari modul n care se comport a transformata


COS si efectele compresiei cu un procent de 50% n dou a cazuri: a
datelor corelate, respectiv a datelor necorelate. Codul Matlab necesar
este:

a = zeros(100,1);
a(1) = randn;
for i = 2 : 100
a(i) = 0.9 * a(i-1) + 0.1 * randn(1,1);
end;
4
Raportul de compresie este definit aici ca fiind cantitatea de memorie necesar a stoc
arii
datelor transformate raportat a la cantitatea initial
a. In acest caz, raportul de compresie
este un procent si cu c
at e mai mic cu atat compresia e mai eficient a.

120
9.4. Desfasurarea lucr
arii

Datele initiale si comprimate in spatiul original Datele initiale si comprimate in spatiul transformat

2.5 0.05
2 0.04
1.5 0.03
1 0.02
0.5 0.01
0 0
0.5 0.01
1 0.02
1.5 0.03
2 0.04
2.5 0.05
1
2
1 0.5 5
2
0 1 0
0 0
1 0.5
1
2 2
1 5

Figura 9.6: Compresia datelor folosind transformata KL. Am reprezentat


compresia unui set de date corelat.

b = randn(100,1);
figure;
subplot(2,1,1); plot(a, b);
hold on; plot( a, .b);
subplot(2,1,2); plot(b,b);
hold on; plot(b ,.b); %transformata COS
A = dct(a);
B = dct(b);
%Compresie
N = 50;
A(N:end) = 0; B(N:end) = 0;
a1 = idct(A);
b1 = idct(B);
subplot(2,1,1); plot(a1 ,:k);
hold on; plot(a1 ,ok);
title(date corelate);
subplot(2,1,2); plot(b1, :k);
hold on; plot(b1 ,ok);
title(date necorelate);

Dup a cum se poate vedea si n figura 9.7, compresia este mai eficienta
(aici n sensul de a pierde c
at mai putin din semnal) daca datele de in-
trare sunt corelate. Un grad mare de corelatie este echivalent cu a avea
o pondere important a a energiei semnalului concentrat a n ponderile
frecventelor joase rezultate n urma transform arii COS.

5. Se vor compara transformatele COS si KL pentru seturi de date cu

121
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR
date corelate
1.5

0.5

0.5
0 10 20 30 40 50 60 70 80 90 100

date necorelate
3

3
0 10 20 30 40 50 60 70 80 90 100

Figura 9.7: Aplicarea transformatei COS pe date corelate respectiv date


necorelate.

valori diferite ale corelatiei. Pentru aceasta se va implementa transfor-


mata COS direct (f ar
a a se utiliza functia dct) si se va calcula eroarea
p
atratica medie ntre matricea obtinut a n urma tranform arii KL, re-
spectiv cea rezultat a dup a transformarea COS.

122
9.5. Exercitii si teme propuse

9.5 Exercitii si teme propuse


1. C
at este determinantul unei matrice unitare complexe?

2. Tranformata Fourier discret


a poate fi la r
andul ei caracterizat
a de o
matrice. Este aceast
a matrice ortogonal
a? Dar unitara? Justificati.

3. Se spune ca transformata KL maximizeaz


a varianta. Explicati sen-
sul acestei afirmatii.

4. Cum poate fi folosit


a transformarea KL pentru vizualizarea unor date
5 dimensionale? Dar transformarea COS?

5. Care este leg


atura ntre distributia valorilor proprii rezultate n urma
transformatei KL si densitatea spectral a de putere a semnalului aleator
de la origine?

123
LUCRAREA 9. TRANFORMATE UNITARE. COMPRESIA
SEMNALELOR

124
Bibliografie

[1] Mihai Ciuc, Constantin Vertan - Prelucrarea statistic


a a semnalelor,
Editura MatrixRom, Bucuresti, 2005.
[2] James W. Cooley, John W.Tukey An algorithm for the machine calcula-
tion of complex Fourier, Mathematics of Computation, Vol. 19, Aprilie
1965, pg. 297-301.
[3] Academia Rom an
a - Institutul de lingvistic
a Iorgu Iordan - Dictio-
narul explicativ al limbii rom
ane, Editia a II-a, Editura Univers Enci-
clopedic, Bucuresti, 1998
[4] Adelaida Mateescu, Neculai Dumitriu, Lucian Stanciu,Semnale si sis-
teme - Aplicatii in filtrarea semnalelor, Editura Teora, Bucuresti, 2001.
[5] A. Papoulis Probability, random variables and stochastic processes,
Editia a treia, McGraw Hill, New York, 1991.
[6] William H. Press, Saul A. Teukolsky, William T. Vetterling, Brian P.
Flannery, Numerical Recipes in C: The Art of Scientific Computing,
Editia a doua, Cambridge University Press, 1995.
[7] L.R. Rabiner, B. Gould, Theory and Application of Digital Signal Pro-
cessing, Prentice Hall, Englewood Cliffs, NJ, 1975.
[8] Robert Sedgewick Algorithms,, Editie pentru studenti, Adison-Wesley
Publishing Company, 1984.
[9] Steven W. Smith Digital Signal Processing, Editia a doua, California
Technical Publishing, 1999.
[10] Constantin Vertan, Inge Gav at, Rodica Stoian Variabile si procese
aleatoare: principii si aplicatii Editura Printech, Bucuresti, 1999
[11] Constantin Vertan, Mihai Ciuc, Marta Zamfir Prelucrarea si Analiza
Imaginilor: Indrumar de laborator, Editura Printech, Bucuresti, 2001.
[12] Adriana Vlad, Bogdan Badea Metode statistice n prelucrarea
informatiei. Estimarea datelor Editura Padeira, Bucuresti, 2002.
[13] Adriana Vlad, Marin Ferecatu, Mihai Mitrea Teoria transmisiunii
informatiei - Elemente teoretice ilustrate n MAthcad, Editura Padeia,
Bucuresti, 2002.
[14] Wikipedia- Enciclopedie disponibila on-line http://en.wikipedia.org

125
BIBLIOGRAFIE

126
Anexa A

Lista de functii Matlab


utilizate

abs - functia modul

atan - functia arc tangent


a;

axis - controleaz
a axele unui grafic;

sin - functia sinus;

bar - permite vizualizarea de grafice bidimensionale sub form


a de his-
tograma;

ceil - transform
a valorile reale n valori ntregi prin m
arire;

circshift - shifteaz
a circular valorile unui vector

cos - functia cosinus;

cumprod - este un vector ale c arui elemente sunt produsele cumula-


tive ale valorilor unui vector original;

cumsum - este un vector ale c arui elemente sunt sumele cumulative


ale valorilor unui vector original;

det - calculeaz
a determinantul unei matrice;

dct - calculeaz
a transformata Cosinus discret
a a unei secvente;

diag - construieste o matrice diagonal


a sau, in functie de paramterul
de la intrare, extrage elementele de pe diagonala unei matrici

diff - calculez
a un vector ce contine diferenta a dou
a c
ate doua ele-
mente consecutive al unui vector original;

eig - calculeaza vectorii si valorile propri ale unei matrici

eye - genereaz
a matricea identitate;

exp - functia exponential


a;

127
ANEXA A. LISTA DE FUNCT
II MATLAB UTILIZATE

fft - calculeaz
a transformata Fourier Discret
a a unei secvente de nu-
mere

figure - deschide o nou


a figur
a sau controleaz
a o figur
a precizat
a;

floor- transform
a valorile reale n valori ntregi prin rotunjire la cel
mai apropiat intreg mai mic;

fprintf - afiseaz
a un mesaj la consol
a;

get - ntoarce o proprietate a unui obiect (folosita n special n grafic


a)

grid - controleaz
a caroiajul unui grafic;

hist - calculez
a (si reprezint
a grafic) histograma unui vector de valori;

hold - mentine graficele fereastrei curente n vederea suprapunerii de


desene;

idct - transformata COS invers


a

ifft - transformata Fourier invers


a

imag - extrage parte imaginar


a a unui num
ar complex

input - permite introducerea de mesaje de la consol


a;

inv - calculeaz
a inversa unei matrice;

load - ncarc
a variabilele stocate dintr-un fisier .mat

log - functia logaritm natural;

logspace - defineste un vector cu elementele la ecart constant ntr-un


spatiu logaritmic;

length - ntoarce numarul de elemente al unui vector sau num


arul de
coloane al unei matrice;

max - extrage valoarea maxim


a precum si pozitia (indicele) ei dintr-un
vector;

mean - returneaz
a valoarea medie a elementelor unui vector;

mesh - permite vizualizarea de grafice tridimensionale prin desenarea


contururilor;

min - extrage valoarea minim


a precum si pozitia (indicele) ei dintr-un
vector;

plot - permite vizualizarea de grafice bidimensionale;

prod - calculeaz
a produsul valorilor unui vector;

rand - genereaz a o matrice av and cu realiz


ari particulare ale unei
variabile aleatoare uniforme in [0,1];

128
randn - genereaz a o matrice av
and cu realiz ari particulare ale unei
variabile aleatoare gaussiene de medie 0 si dispersie 1;

real - extrage partea real


a a unui num
ar real

round - transform
a valorile reale n valori ntregi prin rotunjire;

ones - genereaz
a o matrice cu toate valorile 1;

save - salveaz
a variabilele specificate din memoria de lucru ntr-un
fisier .mat

set - seteaz
a o proprietate a unui obiect (folosita n special n grafic
a)

sin - functia sinus;

size - ntoarce dimensiunile matricei / vectorului (numar de linii,


coloane,...);

sort - sorteaz
a n ordine cresc
atoare valorile din vector;

stem - varianta a lui plot de reprezentare a funtiilor

subplot - genereaz
a mai multe suprafete de desen n figura curent
a;

surf - permite vizualizarea de grafice tridimensionale prin desenarea


suprafetelor;

sum - calculeaz
a suma valorilor unui vector;

sqrt - functia radical;

tan - functia tangent


a;

title - afiseaz
a numele unui grafic;

zeros - genereaz
a o matrice cu toate valorile 0;

129

You might also like