Autokorelacija

Ekonometrija, IV godina

Predava: Aleksandra Nojkovi

Beograd, kolska 2012/13
Pretpostavke KVLRM

1. E(u
i
) = 0
2. Var(u
i
) = o
2
<
3. Cov (u
i
,u
j
) = 0 za i razliito od j
4.Objanjavajue promenljive nisu odreene
stohastikim lanom
5. u
i
~ N(0,o
2
)
6. Ne postoji perfektna linearna zavisnost
izmeu objanjavajuih promenljivih.
ta ako su pretpostavke KVLRM
naruene?
Kada dolazi do naruavanja pretpostavki?

Kako se to odraava na ocene parametara i na
standardne greke ocena?

Kako se ispituje da li su pretpostavke
naruene ili ne?

ta raditi u sluaju kada su pretpostavke
naruene?

Pretpostavka 3: Cov (u
i
, u
j
) = 0 za i=j
Odsustvo autokorelacije
Odsustvo autokorelacije: sluajne greke su
nekorelisane
Cov (u
i
, u
j
) = 0 za i=j
Nema pravilnosti u korelacionoj strukturi
sluajnih greki.
Postoji autokorelacija: sluajne greke koje su
su korelisane
Cov (u
i
, u
j
) = 0 za i=j
Sluajne greke slede prepoznatljiv obrazac u
kretanju.
Najee se javlja u analizi vremenskih serija:
Cov (u
t
, u
t-j
) = 0 za j=1,2,...

Zato se javlja autokorelacija?
1. Trajni efekat egzogenih okova na kretanje
ekonomskih vremenskih serija
Primer: obustava rada i ocenjivanje zavisnosti
ostvarene proizvodnje od koliine uloenog rada.
2. Inercija u kretanju ekonomskih veliina.
3. Modifikacija polaznih podataka
Neki kvartalni podaci se dobijaju kao prosek
tromesenih vrednosti.
Prevoenje nivoa vrem. serija u priraste.
Nestacionarnost.
Autokorelacija moe biti prava i lana
Prava: posledica prirode podataka.
Lana: model je pogreno postavljen.
Autokorelacija moe biti pozitivna ili negativna.

Pozitivna autokorelacija
(reziduale karakterie ciklicna promena
znaka tokom vremena)










-3.7
-6
-6.5
-6
-3.1
-5
-3
0.5
-1
1
4
3
5
7
8
7
+
-
Time
t
u
Negativna autokorelacija (reziduali
naizmenino menjaju znak)









+
-
t
u
Time
Ne postoji autokorelacija










+
-
t
u
Modeliranje prisustva autokorelacije
Najjednostavnije, autoregresioni model prvog reda:
u
t
= u
t-1
+ v
t ,

pri emu je -autokorelacioni koeficijent prvog reda (-1<<1),
a greka V
t
zadovoljava sve pretpostavke KLRM.

Autoregresioni model drugog reda je:
u
t
=
1
u
t-1
+
2
u
t-1
+ v
t ,

odnosno k-tog reda:
u
t
=
1
u
t-1
+
2
u
t-1
+ ...+
k
u
k-1
+ v
t
.
U zavisnosti od toga da li je >0 ili <0, razlikujemo
pozitivnu i negativnu autokorelaciju.
Sluajna greka U
t
zadovoljava sve pretpostavke KLRM,
izuzev 3 (pokazati...).
Kovarijaciona matrica autkorelisanih
greaka
Autokorelisane greke su nesferine, a matrica je:





Autokorelacioni koeficijent u optem sluaju je:




a grafikon ove serije prema vrednosti s naziva se korelogram
serije u
t
.

.
1
1
1
) ' uu ( E
3 T 2 T 1 T
2 T
1 T 2
2
(
(
(
(
(

o = = E

( )
,
u u
2
1 t t
s
o
E
=

Posledice primene metoda ONK u
prisustvu autokorelacije
Ocene dobijene metodom ONK su nepristrasne, ali
neefikasne.

Pokazati ...

Stvarna varijansa ocene je vea nego to bi se dobila po
formuli :

Ocenjivanje varijanse sluajne greke
2
prethodi
ocenjivanju varijanse ocene nagiba.

Ocena s
2
je takoe pristrstrasna na nie ocena
varijanse
2
u sluaju prisustva autokorelacije prvog reda.

. x
2
t
2

o
( )
2
o
Posledice primene metoda ONK u
prisustvu autokorelacije (nastavak)

Moe se pokazati da je da u jednostavnom reg. modelu sa
konstantom uobiajena formula:



potcenjuje pravu varijansu, jer je:


gde je sa oznaen autokorelacioni koeficijent nezavisne
prom. X:


( ) 2 T u
2
t
2
= o

( )
( ) ( ) | |
,
2 T
2 1 2 T

2
2

o
= o E
.
x
x x
T
1 t
2
t
T
2 t
1 t t

=
=

=

Posledice primene metoda ONK u
prisustvu autokorelacije (sumarno)
Primenom metoda ONK na model sa autokorelisanim
grekama dobijaju se ocene koje nisu najbolje linearne
nepristrasne ocene.
Ocene su nepristrasne
Ocene nisu efikasne njihova varijansa nije
najmanja mogua

Posledice:
Standardne greke ocena nisu precizna mera
varijabiliteta ocena.
Standardne greke ocena najee potcenjuju
stvarnu varijansu ocena parametara modela.
t-odnosi najee vei od stvarnih, te nepouzdani i
R
2
nije vie pouzdan pokazatelj kvaliteta regresije.
Nepouzdano predvianje (pokazati...).
Primer 1. Posledice prisustva
autokorelisanih greaka
U modelu: Y=5+0.4X+greka, greka se odnosi na
pravu greku modela.

U je autokorelisana greka (autoreg. koef. prvog
reda je 0.848), dok je greka W nije (autoreg. koef.
prvog reda je -0.015).

Na osnovu izraunatih vrednosti Yu i Yw u ova dva
sluaja oceniti regresju.

Na osnovu serija odgovarajuih reziduala uoiti
posledice autokorelisanosti greaka.


Ispitivanje postojanja autokorelacije:
Darbin-Votsonov (engl. Durbin-Watson) test

Darbin-Votsonov test (oznaka: DW ili d) se koristi za
proveru postojanja autokorelacije prvog reda:
u
t
= u
t-1
+ v
t

gde je v
t
~ N(0, o
v
2
) i je autokorelacioni koeficijent
prvog reda, koji se nalazi u intervalu (-1,+1).

= 0 ne postoji autokorelacija,
= 1, ekstremna pozitivna autokorelacija
= -1, ekstremna negativna autokorelacija
0< <1, pozitivna autokorelacija
-1< <0, negativna autokorelacija

Relevantne hipoteze:
H
0
: =0 (nema autokorelacije)
H
1
: =0 (postoji autokorelacija prvog reda)



DW test (II):




( )
( )
reda. prvog ta koeficijen cionog autokorela ocena -
ispitujemo ciju autokorela ciju modela iz reziduali - u
) 1 ( 2 DW
u
u u
1 2 DW
u u u
,
u
u u u 2 u
u
u u
DW
u
u u
DW
t
n
1 t
2
t
n
2 t
1 t t
n
2 t
2
1 t
n
2 t
2
t
n
1 t
2
t
n
1 t
2
t
n
2 t
n
2 t
n
2 t
2
1 t 1 t t
2
t
n
1 t
2
t
n
2 t
2
1 t t
n
1 t
2
t
n
2 t
2
1 t t

~
|
|
|
|
.
|

\
|
~
~ ~
+
=

=
=

=

= =
=
= = =

=
=

=
=

DW test (III)

U postupku testiranja koriste se kritine vrednosti koje
su autori testa oznaili kao donja i gornja kritina
vrednost.
Donja kritina vrednost: dd,
Gornja kritina vrednost: dg.
Kritine vrednosti zavise od obima uzorka i broja
objanjavajuih promenljivih.

cije autokorela negativne Test 4 DW 2 0

1
cije autokorela pozitivne Test 2 DW 0 1

0
cije autokorela Nema 2 DW 0

4 DW 0
4 DW 1

0 DW 1

1 ( 2 DW
< < < <
< < < <
= =
s s
)
`

= =
= =
~

DW test (IV)
Ako je DW<2, ispitujemo postojanje + autokorelacije
H
0
: =0 (nema autokorelacije)
H
1
: >0 (postoji pozitivna autokorelacija prvog reda)
Algoritam:
Kada je dg<DW<2, tada ne postoji autokorelacija
Kada je dd<DW<dg, tada test ostaje bez odluke
Kada je 0<DW<dd, tada postoji pozitivna autokorelacija.



DW test (V)
Ako je DW>2, ispitujemo postojanje - autokorelacije
H
0
: =0 (nema autokorelacije)
H
1
: <0 (postoji negativna autokorelacija prvog reda)
Algoritam:
Kada je 2<DW<4-dg, tada ne postoji autokorelacija
Kada je 4-dg<DW<4-dd, tada test ostaje bez odluke
Kada je 4-dd<DW<4, tada postoji negativna
autokorelacija.



DW test (VI)
Ogranienja u primeni:
1. Postoje situacije kada se primenom testa ne moe
doneti precizan zakljuak.
2. Test je definisan samo za model sa slobodnim
lanom.
3. Testom se ne moe proveriti postojanje
autokorelacije veeg reda (postoji modifikacija za
4. red- Volisova (engl.Wallis) statistika d
4
).
4. Test nije pouzdan u situaciji kada se kao
objanjavajua promenljiva javlja zavisna sa
docnjom:
y
t
=
0
+
1
x
1t
+
1
y
t-1
+ u
t


Opti test autokorelacije:
Broj-Godfrijev (engl. Breusch-Godfrey) test
U optem slucaju autokorelacija moe biti reda m:

Nulta i alternativna hipoteza
H
0
:
1
=
2
=... =
k
=0 (ne postoji autokorelacija)
H
1
: bar jedan od parametara je razlicit od nule (postoji autokorelacija
Algoritam testiranja:
1. Pretpostavimo da je polazni model oblika:
Y
t
=
0
+
1
X
1t
+
2
X
2t
+ u
t
2. Ocenjujemo model iz 1., dobijamo reziduale i potom ocenjujemo
pomocnu regresiju:



3. Odredujemo koeficijent determinacije R
2
iz pomocne regresije i
potom ga mnoimo obimom uzorka T. To je ( T R
2
) Broj-Godfrijeva
test-statistika. Moe se pokazati da vai: T R
2
~ _
2
sa m stepeni
slobode, pri uslovu istinitosti nulte hipoteze.
). , 0 ( N ~ v , v u ... u u u
2
v t t m t m 2 t 2 1 t 1 t
o + + + + =

, v u ... u u X X u
t m t m 2 t 2 1 t 1 i 2 2 i 1 1 0 t
+ + + + + | + | + | =


Kako se eliminie uticaj autokorelacije?


Zavisi od prirode autokrelacije, ako je lana
potrebno je promeniti polazni model (druga fun.
forma ili regresori)

Kada se odbaci mogunost postojanja lane
autokorelacije, prihvatamo da je ona posledica
vremenske zavisnosti sluajnih greki.

Korektivne mere se satoje u transformaciji
polazog modela, iji je cilj dobijanje
nekorelisanih sluajnih greki.

Reenje problema autokorelacije
(nastavak)
Korekcija polaznog modela u pravcu transformisanja promenljivih,
korienjem ocene autokorelacionog koeficijenta prvog reda
(pokazati...).
Ova procedura se moe primeniti i za autokore. eme vieg reda.
U praksi postoji vie naina za njegovo ocenjivanje:
1. Aproksimativni metod izvoenja iz ve dobijene DW statistike
(samo za velike uzorke):
2. Parametar ocenjen na bazi reziduala polaznog modela (ocena je
pristrasna, ali pristrasnost isezava sa rastom T).
3. Durbinov dvostepeni metod:


gde se u prvom stepenu dobije ocena za kao reg. koef. uz Y
t-1
.
4. Iterativni postupak Kokren-Orcuta (engl. Cochrane-Orcutt).
5. Korienje prvih diferenci (pretpostaviti nestacionarnost, tj. =1).


. 2 d

~
( ) ( ) ( ) , v Y X X ... X X 1 Y
t 1 t 1 kt kt k 1 t 1 t 1 1 0 t
+ + | + + | + | =

Reenje problema
autokorelacije (nastavak)
Korekcija polaznog modela u pravcu transformisanja
promenljivih (korienjem ocene autoreg. koeficijenta )
Donekle prevazien pristup u praktinom radu.

Korekcija polaznog modela u pravcu eksplicitnog
ukljucivanja dinamike dinamicki modeli.

Korekcija standardnih greaka ocena kako bi odraavale
stvarni varijabilitet ocena parametara: Njui-Vestova
korekcija (engl. Newey-West).


Dinamiki modeli

KLRM model je statiki:
y
t
=
0
+
1
x
1t
+ ... +
k
x
kt
+
t


Model postaje dinamiki ako se kao objanjavajue
promenljive javljaju promenljive sa docnjama prvog reda,
kako zavisne tako i objanjavajuih promenljivih:
y
t
=
0
+
1
x
1t
+ ...+
k
x
kt
+
1
y
t-1
+

2
x
1t-1
+ +
k
x
kt-1
+
t


Mogu se dodati promenljive sa docnjama vieg reda: x
1t-2
,
y
t-3
, itd.
Ovo moe biti problematino ako se kao objanjavajua
javlja zavisna promenljiva sa docnjom. Ona je sluajna
promenljiva, pa se na taj nain naruava pretpostavka
KLRM da objanjavajue promenljive nisu sluajne.
Pretpostavka 4: Objanjavajue promenljive
nisu sluajne promenljive
Objanjavajue promenljive uzimaju fiksirane
vrednosti iz ponovljenih uzoraka:

Cov (u
t
,X
it
)=0, i=1,2,...,k.

Kada je ta pretpostavka naruena

Cov (u
t
,X
it
)0, i=1,2,...,k.

tada su objanjavajue promenljive sluajne.

Ocene dobijene metodom ONK su pristrasne i
nekonzistentne (sledi detaljnije u SSJ).

Primer 2. Asteriou and Hall (2007),
ser_corr. wf1
Dati su kvartalni podaci: 1985:1-1994:2 o potronji hrane
(lcons), raspoloivim prihodima (ldis) i relativnom indeksu
cena hrane (lprice).
Oceniti linearni regresioni model i na osnovu grafikog
prikaza reziduala doneti zakljak o prisustvu autokorel.
Testirati prisusstvo autokorelacije prvog reda i etvrtog
reda.
Ukoliko u model ukljuimo i pomaknutu zavisnu
promenljivu, testirati prisustvo autokorel. Na odgovarajui
nain.
Oceniti autokorelacioni koeficijent prvog reda i
transformisati model na nain koji eliminie autokorelaciju
prvog reda.
Proveriti da li je u transformisanom modelu otklonjena
autokorelacija. Uporediti ocenu granine sklonosti ka
potronji u ova dva modela.