ΜΕΣΑΠΣΤΥΙΑΚΟ ΠΡΟΓΡΑΜΜΑ MAΠ

Υπονολογικέρ ΢ειπέρ & Πποβλέτειρ: Διάλεξη 3η

 Μηθηά ππνδείγκαηα γεληθήο κνξθήο ARMA(p,q)

 Σπλζήθεο ζηαζηκόηεηαο θαη αληηζηξεςηκόηεηαο όισλ ησλ
ππνδεηγκάησλ
 Υπνδείγκαηα ARIMA(p,d,q)
 Δηαδηθαζία Box-Jenkins
 Κξηηήξηα Αμηνιόγεζεο ησλ πξνβιέςεσλ

1
 Μικηά ςποδείγμαηα ΑRMA(p,q)
Αλ ηα δεδνκέλα κηαο ΦΣ έρνπλ ζπλαξηήζεηο απηνζπζρέηηζεο ή
κεξηθήο απηνζπζρέηηζεο πνπ δελ θαίλνληαη λα κεδελίδνληαη
κεηά από θάπνην ζεκείν, αιιά θζίλνπλ θαη νη δύν κε αξγό
ξπζκό, ηόηε έρνπκε ζηνηρεία θαη ησλ δπν κνξθώλ AR θαη
MA.Σηηο πεξηπηώζεηο απηέο ηα ππνδείγκαηα πνπ
θαηαζθεπάδνπκε πεξηέρνπλ θαη ηα δπν κέξε θαη ηα
ζπκβνιίδνπκε: ΑRMA(p,q).
Η γεληθή κνξθή ελόο ηέηνηνπ ππνδείγκαηνο νξίδεηαη σο:
Α(L)Υt=δ+Θ(L)εt
όπνπ Θ(L) = 1-ζ1L-…-ζqL q

θαη Α(L) = 1-α1L-…-αpLp

2
Έλα ΑRMA(p,q) ππόδεηγκα ζα είλαη ζηάζηκν αλ νη ξίδεο ηνπ
πνιπσλύκνπ Α(L) θείληαη εθηόο ηνπ κνλαδηαίνπ θύθινπ θαη
αληηζηξέςηκν αλ νη ξίδεο ηνπ Θ(L) θείληαη θαη απηέο εθηόο ηνπ
κνλαδηαίνπ θύθινπ.
Η ζπλάξηεζε απηνζπζρέηηζεο ηνπ κηθηνύ ARMA(p,q)
ππνδείγκαηνο πξνθύπηεη κε αλάινγν ηξόπν όπσο θαη γηα ηα AR
ππνδείγκαηα. Επεηδή όκσο ππάξρεη θαη ην ΜΑ κέξνο, νη πξώηνη q
ζπληειεζηέο απηνζπζρέηηζεο ξθ ζα εμαξηώληαη ηόζν από ηηο ηηκέο
ησλ παξακέηξσλ α όζν θαη από απηέο ησλ παξακέηξσλ ζ. Γηα k>q
όκσο, ε ζπλάξηεζε απηνζπζρέηηζεο είλαη αθξηβώο ε ίδηα κε ηελ
αληίζηνηρε ηνπ AR(p) κνληέινπ:
ξk=α1ξk-1+α2ξk-2+…+αpξk-p , k>q
νπόηε κεηά από q πζηεξήζεηο ε ξk ζπκπεξηθέξεηαη αθξηβώο ζαλ
μιασ AR δηαδηθαζίαο ζπλάξηεζε.

3
 Αυτοςυςχετίςεισ Μερικζσ Αυτοςυςχετίςεισ
Υπόδειγμα
ACF PACF

Λευκόσ Ολεσ μθδζν: ρk = 0 Ολεσ μθδζν: φkk = 0

κόρυβοσ

AR(1) Φκίνουν προσ το μθδζν

γεωμετρικά (εκκετικά) από ρ0=1 Μθδζν μετά το φ11 = ρ1
• ευκζωσ αν α > 0
• εναλλάξ (-, +) αν α < 0
AR(2) Φκίνουν προσ το μθδζν από ρ2
• γεωμετρικά για πραγματικζσ Μθδζν μετά το φ22
ρίηεσ
• κυματιςτά (θμιτονοειδώσ) για
μιγαδικζσ ρίηεσ
AR(p) Φκίνουν προσ το μθδζν
γεωμετρικά (ευκζωσ ι εναλλάξ) Μθδζν μετά το φpp
ι/και κυματιςτά

4
 Αυτοςυςχετίςεισ
Υπόδειγμα Μερικζσ Αυτοςυςχετίςεισ PACF
ACF
ΜΑ(1) Μθδζν μετά το ρ1 Φκίνει ςχεδόν γεωμετρικά
από το φ11
ΜΑ(2) Μθδζν μετά το ρ2 Φκίνει γεωμετρικά (ευκζωσ ι
εναλλάξ) ι/και κυματιςτά
MA(q) Μθδζν μετά το ρq Φκίνει γεωμετρικά (ευκζωσ ι
εναλλάξ) ι/και κυματιςτά
Φκίνει γεωμετρικά από το ρ1 Φκίνει γεωμετρικά από το φ11
ARMA(1,1) • ευκζωσ αν α > 0 • ευκζωσ αν α > 0
• εναλλάξ (-, +) αν α < 0 • εναλλάξ (-, +) αν α < 0

ARMA(p,q) Φκίνει γεωμετρικά ι/και Φκίνει γεωμετρικά (ευκζωσ ι

κυματιςτά από το ρq εναλλάξ) ι/και κυματιςτά
από το φpp

5
 Αςηοζςζσέηιζη και ΑRMA(p,q)
Αλ q-p<0, ηόηε όιε ε ζπλάξηεζε απηνζπζρέηηζεο ζα θζίλεη
ζπλερώο κε ηξόπν εθζεηηθό ή εκηηνλνεηδή.

Αλ q-p>0, ηόηε νη πξώηεο q-p+1 ηηκέο ηνπ ξ δελ ζα

αθνινπζνύλ απηό ην ζρήκα.

Αληίζηνηρε ζπκπεξηθνξά ζα έρεη ε ζπλάξηεζε κεξηθήο

απηνζπζρέηηζεο. Η ζπλάξηεζε θθθ ζα βαίλεη θζίλνπζα
κνλνηνληθά ή θπκαηηζηά από ηελ p πζηέξεζε,
ζπκπεξηθεξόκελε σο κηα θαζαξά ΜΑ δηαδηθαζία θαζώο ε
επίδξαζε ηνπ AR κέξνπο δηαθόπηεηαη ζηελ p πζηέξεζε.
6
Παπάδειγμα:
Εμεηάζηε ηα παξαθάησ ππνδείγκαηα κνξθήο ARMA(p,q) θαη δείμηε αλ
πιεξνύληαη νη ζπλζήθεο ζηαζηκόηεηαο θαη αληηζηξεςηκόηεηαο:

1. Υt = 10 + 0,8Υt-1 – 1,01et-1 + e t

2. (1-0,5L + 0,6L2)Υt = (1- 0,8L) e t

3. Υt = 9 + Υt-1 + e t

όπνπ
Y = νη ηηκέο ηεο ρξνλνινγηθήο ζεηξάο,
L= ν ηειεζηήο πζηέξεζεο θαη
e = αλεμάξηεηα ηπραία ζθάικαηα

7
 ΢ηαζιμόηηηα και Σάζη

Με ζηάζηκεο είλαη νη ζεηξέο πνπ παξνπζηάδνπλ ηάζε ή

επνρηθέο δηαθπκάλζεηο. Γεληθά αλ ζε κηα ΦΣ ν κέζνο
κεηαηνπίδεηαη δηαρξνληθά ηόηε κηιάκε γηα ζεηξά κε
ζηάζηκε σο πξνο ην κέζν, ελώ αλ ε δηαθύκαλζή ηεο δελ
παξακέλεη ζηαζεξή ηόηε κηιάκε γηα κε ζηαζηκόηεηα σο
πξνο ηε δηαθύκαλζε. Απνδεηθλύεηαη εύθνια όηη
παίξλνληαο δηαθνξέο d ηάμεσο κπνξνύκε λα αθαηξέζνπκε
ηάζε πνιπσλπκηθήο κνξθήο αληίζηνηρεο ηάμεσο. Σε
πεξηπηώζεηο εθζεηηθήο ηάζεο ιακβάλνπκε ινγαξηζκηθό
κεηαζρεκαηηζκό γηα κεηαηξνπή ηεο ΦΣ ζε γξακκηθό
ππόδεηγκα πξηλ ζρεκαηίζνπκε δηαθνξέο.
8
 Ολοκλήπυζη-Integration

Μηα ζεηξά είλαη ολοκληπυμένη d ηάξευρ I(d) (Integrated

of order d) αλ κεηαηξέπεηαη ζε ζηάζηκε παίξλνληαο
δηαθνξέο d ηάμεσο.
Γεληθά νη Box-Jenkins πξνηείλνπλ λα κεηαηξέπνπκε ηηο
ζεηξέο ζε ζηάζηκεο παίξλνληαο δηαθνξέο (differencing).
Αθνύ εμαζθαιίζνπκε ηε ζηαζηκόηεηα κε ηηο δηαθνξέο,
ηόηε αθνινπζνύκε ηε γλσζηή αλάιπζε πξνζαξκνγήο ηνπ
θαηάιιεινπ ARMA(p,q) ππνδείγκαηνο ζηε κεηα-
ζρεκαηηζκέλε ζεηξά.
9
 Τπόδειγμα ARIMA(p,d,q)…

Αλ d είλαη ν αξηζκόο ησλ δηαθνξώλ πνπ πξέπεη λα

πάξνπκε ζε έλα νινθιεξσκέλν ππόδεηγκα γηα λα γίλεη
ζηάζηκν, δειαδή:
ΔdΥt=(1-L)dΥt
ηόηε ην ππόδεηγκα πνπ εθαξκόδνπκε ζηελ αξρηθή ζεηξά Υt
νλνκάδεηαη απηνπαιίλδξνκν νινθιεξσκέλν ππόδεηγκα
θηλεηώλ κέζσλ (Autoregressive Integrated Moving
Average) ηάμεσο (p,d,q) θαη ζπκβνιίδεηαη σο
ARIMA(p,d,q) θαη έρεη ηελ παξαθάησ γεληθή κνξθή.

10
 Τπόδειγμα ARIMA(p,d,q)

Α(L)(1-L)dΥt=δ+Θ(L)εt

όπνπ Θ(L) = 1-ζ1L-…-ζqL q

θαη Α(L) = 1-α1L-…-αpLp.

Αλ ζπκβνιίζνπκε κε wt= Δ Υt=(1-L) Υt ηελ αξρηθή ζεηξά

d d

θαηόπηλ ιήςεσο d δηαθνξώλ θαη αληηζηξέςνπκε, ηόηε

πξνθύπηεη:
Υt=Sdwt
S=(1-L)-1=1+L+L2+…
(S=Οινθιήξσκα ηνπ ηειεζηή Υζηέξεζεο)
11
 ΢ηαζιμόηηηα και Ολοκλήπυζη
Ο νξηζκόο ηνπ wt καο δείρλεη όηη ε κε ζηάζηκε ζεηξά Υt
κπνξεί λα πξνθύςεη αζξνίδνληαο, δειαδή
νινθιεξώλνληαο ηε ζηάζηκε ζεηξά wt θαηά d θνξέο (γη’
απηό ηε ραξαθηεξίδνπκε νινθιεξσκέλε ζεηξά).

Λογαπιθμικόρ μεηαζσημαηιζμόρ
Σηελ πεξίπησζε ζεηξάο κε ζηάζηκεο σο πξνο ηε
δηαθύκαλζε, ηόηε ρξεζηκνπνηνύκε ινγαξηζκηθό κεηα-
ζρεκαηηζκό πξηλ ηηο δηαθνξέο:
Δ lnΥt = ln Υt - ln Υt-1 = (1-L)ln Υt

(Λνγαξηζκηθέο δηαθνξέο = Ρπζκνί κεηαβνιήο ηεο ΦΣ)

12
 Μεθοδολογία Box-Jenkins
Τα ππνδείγκαηα ηεο κνξθήο ARIMA(p,d,q) είλαη κηα
γελίθεπζε ησλ κε αηηησδώλ ππνδεηγκάησλ πξόβιεςεο.Η
δηαδηθαζία θαηαζθεπήο ηέηνησλ ππνδεηγκάησλ εθηίκεζεο
θαη ε εθαξκνγή ηνπο ζηηο πξνβιέςεηο έρεη πξνηαζεί από
ηνπο Box θαη Jenkins (1976) θαη πεξηιακβάλεη ηα εμήο
ζηάδηα:

1. Ταπηνπνίεζε (Identification)
2. Εθηίκεζε (Estimation)
3. Δηαγλσζηηθόο έιεγρνο (Diagnostic checking)

13
 Tαςηοποίηζη (Identification)
Καηά ην ζηάδην απηό γίλεηαη εμεηδίθεπζε ηνπ αξηζκνύ d
ησλ δηαθνξώλ ηεο αξρηθήο ζεηξάο πνπ απαηηνύληαη γηα
επίηεπμε ζηαζηκόηεηαο ηνπ ππνςήθηνπ ARIMA(p,d,q)
ππνδείγκαηνο.
Σηε ζπλέρεηα γίλεηαη εμεηδίθεπζε ησλ πζηεξήζεσλ p θαη q
ησλ AR θαη MA.

Εκηίμηζη (Estimation)
Εθηίκεζε ησλ παξακέηξσλ α1, α2,...,αp θαη ζ1, ζ2,… ,ζq κε
θαηάιιειεο νηθνλνκεηξηθέο κεζόδνπο

14
15
16
17
18
 Διαγνυζηικόρ Έλεγσορ
(Diagnostic checking)…

Έιεγρνο κε δηάθνξα ζηαηηζηηθά θξηηήξηα ηνπ αλ θαη θαηά

πόζν ε κνξθή ARIMA πνπ εθηηκήζεθε εμεγεί επαξθώο ηα
δεδνκέλα ηνπ δείγκαηνο.

Ο πην ζπλεζηζκέλνο ηξόπνο είλαη λα ειέγμνπκε θαηά πόζν

ηα εθηηκεκέλα θαηάινηπα είλαη όλησο ηπραίνο ζόξπβνο.
Κάλνπκε έιεγρν απηνζπζρέηηζεο ησλ θαηαινίπσλ.

19
 Διαγνυζηικόρ Έλεγσορ
(Diagnostic checking)…

Γηα λα γίλεη ν έιεγρνο απηνζπζρέηηζεο ησλ θαηαινίπσλ

ρξεζηκνπνηείηαη ην θξηηήξην ησλ Box θαη Pierce:
k
Q BP
 n ̂ (eˆ)
2
j
j 1
n=N-d, ν αξηζκόο ησλ δηαζέζηκσλ παξαηεξήζεσλ κεηά ηηο
δηαθνξέο d ηάμεσλ.

20
 Διαγνυζηικόρ Έλεγσορ
(Diagnostic checking)

Αλ όιεο απ΄θνηλνύ νη απηνζπζρεηίζεηο κέρξη ηάμεσο k

είλαη κεδέλ ηόηε ην θξηηήξην Q αθνινπζεί θαηά
πξνζέγγηζε ηελ θαηαλνκή:
2 κε βαζκνύο ειεπζεξίαο λ=k-p-q
Όπνπ k=αξηζκόο πζηεξήζεσλ
p=ηάμε ηνπ AR
q= ηάμε ηνπ MA
Ο έιεγρνο ζηαηηζηηθήο ζεκαληηθόηεηαο ηνπ θξηηεξίνπ
γίλεηαη κε ηνλ ίδην ηξόπν κέζσ θξηηηθώλ ηηκώλ πηλάθσλ.
21
22
 Κπιηήπια Επιλογήρ Τποδειγμάηυν…

Αθνινπζώληαο ηελ αξρή ηεο νηθνλνκίαο, πξέπεη λα

δηαιέμνπκε ηε κηθξόηεξε ηάμε πνπ εμαιείθεη ζε έλα
ππόδεηγκα ηελ ηάζε. Θέινπκε δειαδή όζν ην δπλαηόλ
ιηγόηεξεο παξακέηξνπο. Δπν από ηα πην δηαδεδνκέλα
θξηηήξηα επηινγήο κεηαμύ ππνδεηγκάησλ κε δηαθνξεηηθό
αξηζκό παξακέηξσλ πνπ αλαιύνληαη παξαθάησ είλαη ην
θξηηήξην πιεξνθνξηώλ ηνπ Akaike (AIC) θαη ην θξηηήξην
ηνπ Schwartz (SBC).

23
 Κπιηήπια Επιλογήρ Τποδειγμάηυν…

AIC = ln(s2) + 2n/T

SBC= ln(s2)+n ln(T)

Όπνπ:
s2= Εθηίκεζε ηεο δηαθύκαλζεο ησλ θαηαινίπσλ.
n= Αξηζκόο εθηηκώκελσλ παξακέηξσλ ππνδείγκαηνο
(p+q+1) όπνπ ε κνλάδα αληηζηνηρεί ζηε ζηαζεξά, αλ
ππάξρεη.
T= Αξηζκόο παξαηεξήζεσλ πνπ ρξεζηκνπνηνύληαη ζηελ
παιηλδξόκεζε.

24
 Κπιηήπια Επιλογήρ Τποδειγμάηυν
Σηελ ίδηα θαηεγνξία αλήθεη θαη ην θξηηήξην ησλ Hannan and
Quinn (1979) πνπ ρξεζηκνπνηείηαη ζηε δηεξεύλεζε ηεο ηάμεο
ησλ AR ππνδεηγκάησλ θαη νξίδεηαη σο εμήο:

Όπσο έρεη δεηρηεί από ηνλ Lütkephol (1991), ζηελ πεξίπησζε

επηινγήο ηεο ηάμεο p ελόο AR ππνδείγκαηνο, ηα ηξία
παξαπάλσ θξηηήξηα ζπλδένληαη κεηαμύ ηνπο σο εμήο:

25
 p(SBC) ≤ p(HQC) ≤ p(AIC)

όπνπ p(.) ζπκβνιίδεη ηελ ηάμε ηνπ AR ππνδείγκαηνο πνπ

επηιέγεηαη κε θάζε θξηηήξην SBC, HQC θαη AIC αληίζηνηρα.
Έηζη, κε ην θξηηήξην SBC θαηαιήγνπκε πάληα ζηελ επηινγή
ηνπ πην ‘νηθνλνκηθνύ’ από πιεπξάο απηνπαιηλδξνκηθώλ
παξακέηξσλ όηαλ ε ηάμε επηινγήο δηαθέξεη κεηαμύ ησλ ηξηώλ
θξηηεξίσλ. Η ζρέζε (5.15) ηζρύεη αθόκα θαη γηα κηθξά
δείγκαηα, κεγέζνπο Ν ≥ 16 (βι. επίζεο Lütkephol and Krätzig,
2004).

26
Η επιλογή ηος καλύηεπος ςποδείγμαηορ γίνεηαι με βάζη
ηη μικπόηεπη ηιμή ηυν κπιηηπίυν. Τα παξαπάλσ θξηηήξηα
ζέηνπλ κηα πνηλή ζηελ αύμεζε ησλ παξακέηξσλ. Αλ ε
πξνζηηζέκελε ηηκή δελ έρεη εξκελεπηηθή ηθαλόηεηα, ηόηε νη
ηηκέο ησλ θξηηεξίσλ ζα απμεζνύλ.
Παπαηήπηζη: Τν νξηαθό θόζηνο πξνζζήθεο κηαο
κεηαβιεηήο είλαη κεγαιύηεξν ζην SBC από όηη είλαη ζην
AIC. Επνκέλσο ην θξηηήξην SBC ζα καο νδεγεί πάληα ζηελ
επηινγή ελόο ππνδείγκαηνο ην νπνίν ζα έρεη πάληα
κηθξόηεξν αξηζκό παξακέηξσλ από απηό πνπ επηιέρζεθε
από ην AIC.

27