Universitatea Politehnica din Bucureti

Proiect Teorii Monte Carlo

Student,
Dogaru Ramona



BUCURETI
2014


Algoritmul Hit-and-Run pentru generarea distribuiilor
multivariate


Abstract
Vom introduce o clasa generala a algoritmului Hit-and-Run pentru agenera distributii
continue pe
d
.Se vor include algoritmii Directiilor Hipersferei si Directiilor coordonatelor
care au fost propuse pentru identificarea constrangerilor neredundante si pentru generarea
distributiilor uniforme asupra submultilot lui
d
.
Se da o multime deschisa S in
d
cu o distributie continua t si o probabilitate
arbitrara de distributie v pe limita D c a sferei unitate D centrata in origine, algoritmul
( ) , v t
Hit and Run produce a secventa de puncte iterative dupa cum urmeaza. Fie al n-lea punct de
iteratie x, se alege directia u potrivit distributiei v si alegem al (n+1)-lea punct a iteratiei
potrivit conditiei distributiei t de-alungul liniei {x , } u + e .
Algoritmul
( ) , v t Hit and Run defineste un lant Markov pe S. Primul nmostru rezultat
este,sub anumite mici conditii, asupra densitatii a lui t , acest
( ) , v t Hit and Run lant
Markov este reversibil in timp respectand t . Urmeaza faptul ca t este o distributie stationara
pentru acest lant.Un al doilea rezultat important este acela ca utilizand o anumita conditie pe
v si S, Lantul Markov
( ) , v t Hit and Run respectand masura Lebesgue.













1. Introducere
Se da o multime deschisa S in
d
si t este o probabiliate continua masurata pe S.
Fie ( ) f x functia de densitate de probabilitate pentru t si sa presupunem ca este marginita,
aproape peste totcontinua si strict pozitiva.Fie D sfera unitate d-dimensionala centrata in
origine si fie D c va fi limita topologica.Astfel
{ }
: 1
d
D x x = e < si
{ }
: 1
d
D x x c = e =
In final, v este probabilitatea arbitrara pe D c .Algoritmul Hit and Run cu directia de
distributie v si distributia tinta t poate fi descris dupa cum urmeaza:
Pasul 0 : Se alege un punct de start
0
x S e cu k=0
Pasul 1 : Se alege o directie
k
u pe D c , cu distributia v
Pasul 2 : Se alege
k
e. de la distributia cu densitate
1 k k k k
x x u
+
= +
k
e.
Pasul 3: Fie
1 k k k k
x x u
+
= + , 1 k k = +
Se reia pasul 1.
Figura 1 ilustreaza
k
f , functia de densitate reparametrizata a conditionalizarii
distributiei t de-a lungul liniei
k
A .Geometric,
k
f este sectiunea transversala a functiei de
densitate multivariata f, normalizata pentru a fi o functie de densitate.
Daca v este distributia uniforma pe D c si daca t este distributia uniforma pe S
algoritmul este cunoscut sub numele de Directiile Hipersferei.Acest caz speciak a fost sugerat
de Boneh si Golan [1979], in acest context de identificare a constrangerilor nonredundante si
,mai tarziu, independent de Smith[1980] pentru generarea punctelor uniform distribuite pe
S.Mai tarziu Smith[1984] aratat ca , pentru S deschisa si marginita, secventa punctelor de
iteratii ale algoritmului Directiilor Hipersferei converge la distributia uniforma pe S.
Daca v este distributia discreta care atribuie masa 1/2d pentru fiecare 2d coordonate si
daca t este o distributie uniforma pe S, algoritmul este cunoscut ca Algoritmul
Coordonatelor.Acest caz special a fost sugerat de Telgen[1980].Mai tarziu Berbee et al[1987]
a aratat ca daca S este un poliedru convex atunci secventa de puncte de iteratii a algoritmului
coordonatelor converge la distributoa uniforma pe S.

Figura 1. Conditionalizarea lui t de-a lungul liniei
k
A
Reent Boender et al[1989] a introdus o clasa de algoritmi, cunoscut ca algorimul
Shake-and-Bake .
Lucrarea este organizata, dupa cum urmeaza.In sectiunea 2 se va descrie analitic lantul
Markov
( ) , v t Hit and Run. In sectiunea 3 aratam lantul Markov
( ) , v t Hit and Run este
reversibil respectand cu t .Asta implica faptul ca t este o distributie stationara pentru lantul
Markov
( ) , v t Hit and Run.In sectiunea 4, distributia t este unica si lantul Markov
( ) , v t Hit
and Run este recurent Harris.
Utilizand teorema lui Orey, putem trage concluzia ca pentru fiecare punct initial x
lantul Markov
( ) , v t Hit and Run conergein variatia totala la distributia t .
0
lim [ | ] ( )
n
x
P X B X x B t

e = = x S e ,
s
B B e
Unde
s
B indica Borel o - camp pe S.Sectiunea 5 este o discutie despre implicatiile
generale si practice ale rezultatelor.
2. Nucleul lantului Markov Hit-and- Run
Incepem prin a aminti cateva definitii standard.
Fie(S,B) un spatiu masurabil, de exemplu S este o multime arbitrara si B este o - camp pe S.
Nucleul (S,B) este o functie nenegativa, sa zicem K, definite pe S B , astfel incat
i) , ( , ) x S K x e este o -finit masurat pe B
ii) , ( , A) A B K e este o functie masurabila pe S este definit de
Un nucleu substochastic este un nucleu K ce satisfice
( ) , 1 K x S s pentru oricare x.Un
nucleu stochastic(sau Markov) este un nucleu K ce satisfice
( ) , 1 K x S = pentru oricare x.
Acum fie S, , f t si v descries in sectiunea 1 si
s
B un o -camp Borel pe S. Fie u si U
variabile aleatoare, definite pe spatial de probabilitate ( , F, P) O , astfel incat u are distributia
v , astfel incat U este distribuita uniform pe intervalul (0,1), iar u si U sunt
independente.Pentru , x y S e , cu x y = fie
( , ) :
y x
x y x S
y x



A = e + e
`

)

Iar
( , ) x y
f este descris de formula
( , )
( , )
( ( ) /
( )
( ( ) / )
x y
x y
f x y x y x
f
f x r y x y x dr

A
+
=
+
}
daca (x, y) eA
Si
(x,y)
( ) 0 f = daca ( , ) x y eA .Fie
( , ) x y
F este data de formula
( , ) ( , )
( ) ( )
x y x y
F f u du

=
}

Functia
1
( , )
( , ) [ (F (U)) A]
x x
P x A P x
u
u

+
= + e
Defineste un nucleu Markov pe (S, B )
s
. Din moment ce u are o distributie v iar
variabilele aleatoare sunt independente membrul drept al ecuatiei devine
1
( , )
[ (F (U)) A] ( )
x x
D
P x d
u
u v u

+
c
+ e
}

Definitia formala va fi:
Definitia 1.
Nucleul Markov
1
( , )
( , ) [ (F (U)) A] ( )
x x
D
P x A P x d
u
u v u

+
c
= + e
}
x S e , x S e
Se va numi nucleul lantului Markov
( ) , v t Hit and Run.Masura de probabilitate v se
va numi distributia directiei. Masura de probabilitate t se va numi distributia tinta.

3. Simetrie, reversabilitatea timpului si distributii stationare

Fie P nucleu Markov pe un spatiu arbitrar masurabil (S,B) si masura probabilitatii
pe (S,B)
Definitia 2
Nucleu Markov P este reversibil in timp cu probabilitatea daca
( , ) ( ) ( , A) ( )
A B
P x B dx P x dx =
} }
, A B B e
Definitia 3
Probabilitatea este o distributie stationara pentru nucleu Markov P daca
(A) ( , A) ( )
S
P x dx =
}
A B e
Propozitia 1
Presupunem ca P este de forma
( , ) p( , y) ( )
A
P x A x dy =
}
, x S A B e e
Pentru unele functii commune masurabile p(x,y) pe
2
S .Atunci P este reversibil in timp si
respecta
Demonstratie
In conformitate cu ipotezele date, o aplicatie a teremei lui Fubini arandamentelor
( , ) ( ) ( , ) ( ) ( )
A A B
P x B dx p x y dy dx =
} } }

( , ) ( ) ( )
B A
p x y dx dy =
} }

(y, ) ( ) ( )
B A
p x dx dy =
} }

( , A) ( )
B
P x dy =
}

Astfel P este reversibil in timp si respecta
Propozitia 2
Daca P este reversibil in timp si respecta , atunci este o distributie stationara pentru P.
Demostratie
Presupunand ca reversibitatea in timo respecta randamente
( , A) ( ) ( ,S) ( )
s A
P x dy P x dx =
} }

( )
A
dx =
}

(A) =
Astfel este stationara pentru P.
Ne intoarcemla cazul in care S este o submultime Borel marginita pe
d
, unde v este
probabilitatea arbitrara masurata pe D c si unde t esteprobabilitatea continua masurata pe S
marginita,aroape peste tot continua si denzitatea strict pozitiva f(x).
Pentru orice multime Borel G D cc ,si pentru
1 2
0 r r s s s fie
1 2 1 2
( , ) { : , , ( , )}
d
G r r y y G r r u u = e = e e
Figura 2 ilustreaza
1 2
( , ) G r r


Figura 2 ilustrare a multimii
1 2
( , ) G r r
Fie m(x, A) unicul nucleu pe ( , )
d
d
B satisface
1 2 2 1
( , ( )) ( ( ) ( ))( ) m x x G r r G G r r v v + + = +
Propozitia 3
a) Nucleul pentru lantul Markov
( ) , v t Hit and Run poate fi scris si ca
( , )
( )
( , A) ( , )
( ( ) / )
A
x y
f y
P x m x dy
f x r y x y x dx
A
=
+
}
}

b) Daca v este absolut continua respectand distributia de probabilitate uniforma pe D c
nucleul pentru lantul Markov
( ) , v t Hit and Run poate fi scris ca
1
( , )
((y x) / ) ((x ) / )
( , A) ( )
( ( ) / )
d
A
d
x y
h y x h y x y
P x dy
f x r y x y x dr y x C
t

A
+
=
+
}
}

Demonstratie
Partea (a) este o consecinta imediata a definitiilor
1
( , )
( , ) [ (F (U)) A] ( )
x x
D
P x A P x d
u
u v u

+
c
= + e
}


(x,x ) (x,x )
( )
1 ( ) ( )
( ) dr
A
D
f x
x d d
f f x
u u
u
u v u
u
A + c A +
+
= +
+
} }


( , )
( )
( , )
( ( ) / )
A
x y
f y
m x dy
f x r y x y x dx
A
=
+
}
}

A doua parte a teoremei rezulta din faptul ca
1
(x,x )
(U) F
u

A +
este o
(x, x ) u A +
- valoare variabila
aleatoare
(x,x )
(x,x )
(x )
( )
( )
f
f
f x r dr
u
u
u

u
A +
+
+
=
+
}

Ultima egalitate poate fi egalizata dupa cum urmeaza.Daca B este o submultime Borel a lui S
de forma
1 2
( , ) B x G r r = + atunci
(x,x )
1 ( ) ( ) 1 (y) m(x, dy)
B B
D S
x d d
u
u v u
c A +
+ =
} } }

Din moment ce amandoua sunt egale cu
1 2
(x, ( , )) m x G r r + .Standardul masoara argumentul
theoretic apoi randamentele
(x,x )
g( ) ( ) g(y) m(x, dy)
D S
x d d
u
u v u
c A +
+ =
} } }

Pentru fiecare functii masurabile nenegative g definite pe S.g(y) poate fi scrisa astfel
( , )
1 ( ) ( )
( )
( ( ) / )
A
A
x y
y f y
g y
f x r y x y x dr
A
=
+
}
}

Considerand partea (b). Daca v este de forma
0
( ) ( ) ( )
G
G h d v u v u =
}

Unde
0
v uniform distribuita pe D c atunci nucleul m(x,A) poate fi scris ca

1
( , )
((y x) / ) ((x ) / )
m( , A)
( ( ) / )
d
A
d
x y
h y x h y x y
x dy
f x r y x y x dr y x C

A
+
=
+
}
}

Prin urmare nucleul pentru lantul Markov
( ) , v t Hit and Run poate fi scris ca
1
( , )
((y x) / ) ((x ) / )
( , A) ( )
( ( ) / )
d
A
d
x y
h y x h y x y
P x f y dy
f x r y x y x dr y x C

A
+
=
+
}
}


1
( , )
((y x) / ) ((x ) / )
( )
( ( ) / )
d
A
d
x y
h y x h y x y
dy
f x r y x y x dr y x C
t

A
+
=
+
}
}

4. Teorema limita central

Scopul acestei sectiuni este sa ratam ca in conditii apropiate pe v si S, t este
distributia unica stationar pentru nucleul Markov P si pentru orice distributie initala a lantului
Markov Hit-and-Run converge la t .
Acest lucru va fi realizat aratand ca lantul Markov Hit-and-Run va fi Harris recurent
si utilizand binecunoscuta teoremei Orey.

Definitia 4
Probabilitatea v este full dimensionata daca Supp(v ) contine un set de vectori deschisa pe
d
.
Propozitia 4
Presupunem ca v este full dimensionata .Atunci:

a) n d > si x S e , probabilitatea (x, )
n
P are o parte absolut continua
b) , lim ( , ) 1
n
abs
x
x S P x S

e =
c) Exista un r>0, depinzand doar de v , astfel incat pentru toti x care apartin lui S si pentru toti
n d > , probabilitatea ( , )
n
abs
P x , are o densitatea strict pozitiva pe ( , )
x
B x r , unde
inf
c
x
y S
x y
e
=
Propozitie 5
Presupunem ca v este full dimensionata.Fie A o componenta conecta a lui S.Fie G o
submultime masurabila a lui A cu o masura Lebesque pozitiva.
a) Pentru toti x A e exista un numar n astfel incat ( , G) 0
n
P x >
b) Daca m( ) este o masura pe ( , )
s
S B astfel incat m(A)>0 exista un numar n
intreg asfel incat
( , ) ( ) 0
n
A
P x G m dx >
}

Propozitia 6
Presupunem ca
v
este full dimensionata si componenetele lui S sunt
v
-
comunicante.Atunci nucleul Markov Hit-and-Run,P, este
ireductibil

Propozitia 7
Presupunem ca
v
este full dimensionata si componenetele lui S sunt
v
-
comunicante.Atunci nucleul Markov Hit-and-Run,P, este indecomposible

Teorema 5
Probabilitatea de distributie
t
este stationara pentru nucleul Hit-and Run Markov.In
plus este o distributie stationara daca si numai daca
v
este full dimensionata si componentele
conectate ale lui S sunt
v
- comunicante.

Propozitia 7
Presupunem ca
v
este full dimensionata si componenetele lui S sunt
v
-
comunicante.Atunci nucleul Markov Hit-and-Run,P, este aperiodic

Teorema 6
Presupunem ca v este full dimensionata si componentele conectate ale lui S sunt v -
comunicante. Atunci nucleul Markov Hit-and-Run,P, este Harris recurent si respecta masura
Lebesgue pe S.

Demonstratie
Aplicand teorema ergodica obtinem:
1
1
lim 1 (X ) (B) 1
n
x B i
x
i
P
n
t

=
(
= =
(

i.e.
1
1
lim 1 (X ) (B) ( ) ( ) 1
n
S x B i
x
i
P f x d x
n
t

=
(
= =
(

}

Dar ( ) 0 f x > x S e asta implica faptul ca

1
1
lim 1 (X ) (B) 1
n
x B i
x
i
P
n
t

=
(
= =
(

Fie
0
1
1
: lim 1 (X ) (B) 1
n
y B i
x
i
S y S P
n
t

=
(
= e = =
`
(
)

Atunci
1
1
lim 1 (X ) (B)
n
x B i
x
i
P
n
t

=
(
=
(

1
1
lim 1 (X ) (B) | X (x, dy)
n
k
S x B i k
x
i
P y P
n
t

=
(
= = =
(

}

0
1
1
lim 1 (X ) (B) (x, dy)
n
k
S y B i abs
x
i
P P
n
t

=
(
> =
(

}

0
(x, S ) (x, S) 1
k k
abs abs
P P c = = >
Lantul Markov este Harris recurrent respectand masura Lebesque pe S.
5. Concluzii
Algorimul Hit and Run introdus in aceasta lucrare poate rezolva problem de
optimizare globale.
In aceasta lucrare am generalizat traditionalul algoritm Hit and Runpentru a permite o
o distributie de directie arbitrara v si essential o distributie arbitrara absolut continua t .


6. Aplicatie Lanturi Markov
Pe piaa televizoarelor color sunt prezente trei produse concureniale: C1; C2 i C3.
Un sondaj de pia, care avea drept scop testarea preferinelor consumatorilor cu privire la
cele 3 mrci, a scos n eviden urmtoarele:
cota de participare a fiecrui produs n totalul pieei este (la momentul t0 cel n care
s-a efectuat sondajul) urmtoarea: C1 35%; C2 45%; C3 20%;
coeficienii de fidelitate ai consumatorilor fa de cele 3 mrci de televizoare s-au
determinat plecnd de la urmtoarele atribute: calitatea imaginii; calitatea sunetului; design;
pre; ambalaj;
Rezultatele obinute se pot sintetiza n urmtorii coeficieni de fidelitate: 55%
din cumprtori rmn fideli lui C1; 65% din cumprtori rmn fideli lui C2; 75% din
cumprtori rmn fideli lui C3;
Ceilali cumprtori prsesc produsul i se orienteaz spre celelalte dup cum
urmeaz:


C1 C2 C3
C1 --- 20 25
C2 15 --- 20
C3 10 15 ---
Produsul
prsit
Reorientri (%)


Considernd constante probabilitile de tranziie, se analizeaz evoluia ponderii pe
pia a celor trei produse pentru un semestru. Se stabilesc politicile manageriale pentru fiecare
produs n parte, la firma care-l produce.
La stabilirea modului n care se presupune s evolueze ponderea pe pia a unor
produse concureniale, se poate aplica metoda Lanurile Markov.
Pasul 1- se construiete matricea probabilitilor de tranziie (P), n funcie de
coeficientul de fidelitate i de reorientrile cumprtorilor n dou perioade succesive.
Probabilitile de tranziie sunt reprezentate sub forma unor matrice ptratice, cu toate
elementele nenegative i cu proprietatea c suma elementelor unei aceleiai linii trebuie s fie
egal cu 1;
Pasul 2 - se scrie distribuia iniial sub forma unui vector linie, cu elemente formate
din ponderile pe pia ale produselor la momentul zero;
Pasul 3 - se determin ponderea pe pia a produselor dup prima perioad. Pentru a
obine ponderea pe pia a produselor pentru perioada urmtoare, rezultatul anterior va fi
nmulit cu matricea probabilitilor de tranziie de la o stare la alta.
1. Se construiete matricea probabilitilor de tranziie:

|
|
|
.
|

\
|
=
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
P


2. Se construiete vectorul linie cu ponderile de pia a celor trei produse la momentul
iniial:

( ) 20 . 0 45 . 0 35 . 0 =
j
a


3. Se determin cotele de pia ale celor trei produse dup prima lun:


( ) ( ) 3275 . 0 3925 . 0 28 . 0 20 . 0 45 . 0 35 . 0
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
= -
|
|
|
.
|

\
|


4. Se determin cotele de pia ale celor trei produse dup a doua lun:

( ) ( ) 394125 . 0 36025 . 0 245625 . 0 3275 . 0 3925 . 0 28 . 0 *
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
=
|
|
|
.
|

\
|


5. Se determin cotele de pia ale celor trei produse dupa a treia lun:



6. Se determin cotele de pia ale celor trei produse dup a patra lun:

( ) ( ) 4475 . 0 3326 . 0 2199 . 0 4291 . 0 3424 . 0 2285 . 0 *
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
=
|
|
|
.
|

\
|


7. Se determin cotele de pia ale celor trei produse dup a cincea lun:

( ) ( ) 4571 . 0 3273 . 0 2156 . 0 4475 . 0 3326 . 0 2199 . 0 *
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
=
|
|
|
.
|

\
|


8. Se determin cotele de pia ale celor trei produse dup a sasea lun:
( ) ( ) 4622 . 0 3244 . 0 2134 . 0 4571 . 0 3273 . 0 2156 . 0 *
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
=
|
|
|
.
|

\
|

9. Centraliznd datele, vom obine tabelul de mai jos.


( ) ( ) 4291 . 0 3424 . 0 2285 . 0 394125 . 0 36025 . 0 245625 . 0 *
75 . 0 15 . 0 10 . 0
20 . 0 65 . 0 15 . 0
25 . 0 20 . 0 55 . 0
=
|
|
|
.
|

\
|
Produs
Luna
C1 C2 C3
I 0.28 0.3925 0.3275
II 0.2456 0.3603 0.3941
III 0.2285 0.3424 0.4291
IV 0.2199 0.3326 0.4475
V 0.2156 0.3273 0.4571
VI 0.2134 0.3244 0.4622

10. Grafic evoluia ponderii produselor pe pia va arta ca n figura nr. 4.6.


Att din graficul de mai sus ct i din datele cuprinse n situaia centralizat a ponderii
pe pia a celor trei produse putem trage urmtoarele concluzii:
- produsul C1 i produsul C2 se afl n faza de declin. Se observ c produsul C1 are
iniial o cot de pia de 35%, pentru ca n final s ajung la o cot de pia de aproximativ
21%. Similar, cota de pia a produsului C2 nregistreaz o scdere de la 45% la aproximativ
32%.
Declinul este ultima faz din ciclul de via a produsului. Aceast etap este
caracterizat de reducerea volumului vnzrilor, fenomen asociat cu reducerea cotei de pia
pe care o deine produsul, datorit nu att consumului specific, ct mai ales datorit renunrii
din clientel n favoarea unor produse noi.
Cnd se produc aceste fenomene, vnztorii consider c articolele din linia de
producie care nu aduc profit trebuie eliminate. n aceste condiii, vnztorii pot reduce
eforturile de promovare, pot elimina distribuitorii marginali iar n final, s planifice scoaterea
din fabricaie a produsului.
- produsul C3 se afl n faza de cretere. Cota de pia a produsului C3 crete
de la 20% la aproximativ 46%. n etapa de cretere, produsul capt cale liber prin
acceptarea sa de ctre consumatori, cunoate o ascensiune rapid a vnzrilor, o reducere a
cheltuielilor i o cretere a beneficiilor.
Strategiile de cretere au n vedere:
mbuntirea calitii produselor i adugarea de noi modele sau caracteristici;
0
0.05
0.1
0.15
0.2
0.25
0.3
0.35
0.4
0.45
0.5
1 2 3 4 5 6
C
o
t
a

d
e

p
i
a
t
a

Luna
C
1
C
2
penetrarea pe noi segmente de pia;
cucerirea unor noi spaii pentru produsul propriu n canalele de distribuie;
folosirea unei pri din publicitate pentru realizarea obiectivului ce urmrete
convingerea cumprtorilor n a efectua actul cumprrii;
diminuarea sensibil a preurilor n scopul atragerii unor noi contingente de
consumatori sensibili la aceste reduceri. Preul promoional agresiv, ce include reduceri de
preuri, este tipic acestei etape.