Ekonometri2 00 Dogrusal Baglanima Dizey Yaklasimi (s1 - 9)

Dizey Cebirinin Gözden Geçirilmesi
Dizey Yaklaşımı ile Tahmin Sorunu

Dizey Yaklaşımı ile Çıkarsama Sorunu
Doğrusal Bağlanım Modeline Dizey Yaklaşımı
Yrd. Doç. Dr. A. Talha YALTA
TOBB Ekonomi ve Teknoloji Üniversitesi

İktisat Bölümü
İKT352 – Ekonometri II
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010) Doğrusal Bağlanım Modeline Dizey Yaklaşımı (sürüm 1,9)
Kullanım Şartları
İşbu ekonometri ders malzemesi, A. Talha Yalta tarafından,

"Creative Commons Attribution-Share Alike 3.0 Unported License"
(CC-by-SA-3.0) lisans şartları altında bir açık ders malzemesi olarak
genel kullanıma sunulmuştur. Yani, eserin ilk sahibinin belirtilmesi ve
geçerli lisansın korunması şartıyla özgürce kullanılabilir, çoğaltılabilir,
değiştirilebilir. Creative Commons örgütü ve “CC-by-SA-3.0” lisansı
ile ilgili ayrıntılı bilgi “http://creativecommons.org” adresinde
bulunmaktadır. Ders notlarının “pdf” biçimindeki en yeni sürümüne
“http://yalta.etu.edu.tr” adresinden ulaşabilirsiniz.
Dr. A. Talha Yalta, TOBB Ekonomi ve Teknoloji Üniversitesi (2010)
Ders Planı
1 Dizey Cebirinin Gözden Geçirilmesi

Dizeyler ile İlgili Tanımlar
Dizey İşlemleri
Dizeylerde Belirleyen ve Evrik Alma
2 Dizey Yaklaşımı ile Tahmin Sorunu
KDBM Varsayımlarının Dizey ile Gösterilmesi
SEK Tahmini
Varyans-Kovaryans Dizeyi
3 Dizey Yaklaşımı ile Çıkarsama Sorunu
Bireysel Katsayıların Önsav Sınamaları
Varyans Çözümlemesi ve F Sınaması
Çoklu Bağlanım ile Kestirim
Dizey Cebirinin Gözden Geçirilmesi Dizeyler ile İlgili Tanımlar
Dizey Yaklaşımı ile Tahmin Sorunu Dizey İşlemleri
Dizey Yaklaşımı ile Çıkarsama Sorunu Dizeylerde Belirleyen ve Evrik Alma
Dizey Nedir?
Dizey cebiri kullanmaksızın k değişkenli bir bağlanım
modeliyle uğraşmak son derece karmaşık bir iştir.
Burada, doğrusal bağlanım modelini dizey yaklaşımı ile ele
alabilmek için gerekli temel altyapı sunulacaktır.
Dizey
M × N boyutlu bir “dizey” (matrix), M satır ve N sütun biçiminde
düzenlenmiş sayılar veya öğelerin dikdörtgen bir dizgesidir.
 
a11 a12 . . .
A = [aij ] =  a21 a22 . . . 
 
.. .. ..
. . .
aij burada A dizeyinin i’inci satırı ve j’inci sütununda

görülen öğeyi anlatmaktadır.
Sayıl
2 × 3 boyutundaki bir dizeye örnek:

2 3 5
A2×3 =
6 1 3
Sayıl
“Sayıl” (scalar), tek bir gerçek sayıdır ve 1 × 1 boyutunda bir
dizey kabul edilir.
Sayıla örnek:
B1×1 = [5]
Satır ve Sütun Yöneyleri
Sütun yöneyine örnek:

Sütun Yöneyi 2 3
3
Tek bir sütunu ve M sayıda satırı 6 4 7
olan dizeye “sütun yöneyi” (column A4×1 =6 7
4 5 5
vector) denir. 9
Satır Yöneyi Satır yöneyine örnek:

Tek bir satırı ve N sayıda sütunu B1×4 =
ˆ
1 2 5 −4
˜
olan dizeye “satır yöneyi” (row
vector) denir.
Altdizey
Altdizey
M × N boyutundaki bir A dizeyinin r sayıda satırı ile s sayıda
sütununun dışındaki tüm öğeleri silinirse elde edilen r × s
boyutlu dizey, A’ya ait bir “altdizey” (submatrix) olur.
Örnek olarak, aşağıda verilen A dizeyinin üçüncü satırıyla

ikinci sütununu silersek A’nın 2 × 2 boyutundaki bir B
altdizeyini bulmuş oluruz:
 
3 5 7
3 7
A3×3 = 8 2 1
  B2×2 =
8 1
3 2 1
Kare Dizey ve Köşegen Dizey
Kare dizeye örnek:

Kare Dizey
 
Satır sayısı sütun sayısı ile aynı 3 5 7
olan dizeye “kare dizey” (square A3×3 =  8 2 1 
matrix) denir. 3 2 1
Köşegen Dizey
Köşegen dizeye örnek:
Asal (sol üst köşeden sağ alt
köşeye uzanan) köşegeninde en 
−2 0 0

az bir sıfırdan farklı öğe bulunan B3×3 =  0 0 0 
ve bu köşegen dışı tüm öğeleri 0 0 5
sıfır olan dizeye “köşegen dizey”
(diagonal matrix) denir.
Sayıl Dizey ve Birim Dizey
Sayıl Dizey Sayıl dizeye örnek:

Köşegeni üzerindeki öğelerinin  2
σ 0 0

hepsi aynı olan köşegen dizeye A3×3 =  0 σ 2 0 
“sayıl dizey” (scalar matrix) 0 0 σ2
denir.
Birim Dizey Birim dizeye örnek:

Köşegeni üzerindeki öğelerinin 
1 0 0

hepsi 1 olan köşegen dizeye I3×3 =  0 1 0 
“birim dizey” (identity matrix) 0 0 1
denir ve I ile gösterilir.
Bakışımlı Dizey ve Eşit Dizeyler
Bakışımlı Dizey Bakışımlı dizeye örnek:

Asal köşegeni üzerindeki öğeleri,  
asal köşegeni altındaki öğelerinin 9 1 3
bakışımı olan dizeye “bakışımlı I3×3 =  1 8 2 
dizey” (symmetric matrix) denir. 3 2 7
Devriği kendisine eşittir.
Eşit dizeylere örnek:

Eşit Dizeyler
   
A ve B gibi iki dizeyin boyutları 1 0 1 0
aynıysa ve karşılıklı öğeleri  5 1   5 1 
 0 1 = 0 1
   
birbirine eşitse (aij = bij ), bu 
dizeyler eşittir. 7 4 7 4
Boş Dizey ve Boş Yöney
Boş dizeye örnek:

Boş Dizey
 
Bütün öğeleri sıfır olan dizeye 0 0 0
“boş dizey” (null matrix) denir 03×3 =  0 0 0 
ve 0 ile gösterilir. 0 0 0
Boş Yöney
Boş yöneye örnek:
Bütün öğeleri sıfır olan satır
veya sütun yöneyine “boş 01×4 = 0 0 0 0
yöney” (null vector) denir ve 0
ile gösterilir.
Dizey Toplaması ve Çıkarması
Dizey Toplaması ve Çıkarması

A ve B dizeylerinin toplamı veya farkı, karşılıklı öğelerinin
toplamı veya farkı alınarak elde edilir. Bu dizeylerin toplama
veya çıkarma için uyumlu olabilmeleri için boyutları aynı
olmalıdır.
Dizey toplamasına örnek:

     
3 4 3 0 6 4
A3×2 + B3×2 =  1 0  +  6 0  =  7 0 
0 8 7 1 7 9
Dizey Çarpımı
Bir Dizeyin Bir Sayıl ile Çarpımı veya Bölümü
Bir A dizeyini λ ∈ R sayılı ile çarpmak veya bölmek için, dizeyin
bütün öğeleri λ ile çarpılır veya λ 6= 0’a bölünür.
Dizeyler Çarpımı
Boyutu M × N olan A ve boyutu N × P olan B dizeylerinin AB
çarpımı, M × P boyutunda ve aşağıdaki gibi bir C dizeyi olur.
N
X
cij = aik bkj i = {1, 2, . . . , M} j = {1, 2, . . . , P}
k =1
Diğer bir deyişle C’nin i’inci satır ve j’inci sütun öğesi, A’nın
i’inci satırındaki öğelerinin B’nin j’inci sütunundaki karşılıklı
öğeleri ile çarpılıp, çarpımların toplanması ile bulunur.
Dizey Çarpımının Özellikleri
Dizey çarpımı işlemi aşağıdaki özellikleri taşır:

1 Dizey çarpımı değişmeli olmak zorunda değildir. Kısaca
dizeylerin çarpım sıralaması önemlidir: AB 6= BA
2 AB ve BA’nın sonuç dizeyleri aynı boyutta olmayabilir:
AK ×L BL×K = CK ×K BL×K AK ×L = DL×L
3 A1×K satır yöneyiyle önden çarpılan BK ×1 sütun yöneyi bir
sayıl olur.
4 AK ×1 sütun yöneyiyle önden çarpılan B1×K satır yöneyi bir
dizey olur.
5 Dizey çarpımı birleştiricidir: (AB)C = A(BC)
6 Dizey çarpımı toplama bakımından dağıtıcıdır:
A(B + C) = AB + AC
Dizey Devriği Alınması
Devrik Alma
M × N bir A dizeyinin A′ ile gösterilen “devriği” (transpose),
A’nın satır ve sütunlarına yer değiştirterek, yani A’nın i’inci
satırını A′ ’nün i’inci sütunu yaparak elde edilen N × M dizeyidir.
 
4 5
′ 4 3 5
A3×2 =  3 1  A2×3 =
5 1 0
5 0
Bir satır yöneyinin devriği sütun yöneyi olup, bir sütun

yöneyinin devriği de satır yöneyidir.
Devrik Dizeyin Özellikleri
Devrik dizey dönüşümünün bazı özellikleri şunlardır:

1 Devrik bir dizeyin devriği ilk dizeydir: (A′ )′ = A
2 İki dizey toplamının devriği, devriklerin toplamıdır:
(A + B)′ = A′ + B′
3 Dizey çarpımının devriği, bu dizeylerin devriklerinin ters
sırada çarpımıdır: (ABCD)′ = D′ C′ B′ A′
4 Birim dizey I’nın devriği kendisidir: I′ = I
5 Bir sayılın devriği kendisidir. λ bir sayıl olsun: λ′ = λ
6 λ bir sayıl olsun: (λA)′ = λA′ = A′ λ = A′ λ′
7 A dizeyi eğer A′ = A olacak şekilde kare dizeyse, A
bakışımlı bir dizey olur.
Bir Dizeyin Belirleyeni
Her kare dizey A için, belirleyen (determinant) diye bilinen

ve |A| şeklinde gösterilen bir sayıl vardır.
Bir dizeyin belirleyeninin hesaplanması, iyi tanımlı bir dizi
işlem ile gerçekleştirilir.
Örnek olarak 2 × 2 boyutundaki bir dizeyin belirleyeni, asal
köşegen üzerindeki öğelerin çarpımından diğer köşegen
öğelerinin çarpımının çıkartılması ile bulunur.
Herhangi bir derecedeki belirleyenin açılımında, terimler
dönüşümlü olarak + ve − işaret alırlar.
3 × 3 bir belirleyenin açılımında 6 terim bulunur. Genel
olarak, N × N bir belirleyenin açılımında N! terim vardır.
Buna göre, 5 × 5 bir dizeye ait belirleyenin açılımında
5 × 4 × 3 × 2 × 1 = 120 terim bulunur.
Belirleyenin Özellikleri
Belirleyenin özellikleri aşağıdaki gibidir:
1 Belirleyeni sıfır olan dizeye “tekil dizey” (singular matrix)
denir. Bireysel bir dizey için dizey tersi bulunamaz.
2 A’nın herhangi bir satırındaki tüm öğeler sıfırsa, belirleyeni
de sıfır olur.
3 A ile devrik A’nın belirleyenleri aynıdır: |A′ | = |A|
4 A dizeyinin herhangi iki satır veya sütunu yer değiştirirse,
|A|’nın işareti değişir.
5 A’nın iki satır veya sütunu aynıysa, belirleyeni sıfır olur.
6 A’nın bir satır veya sütunu başka bir satır veya sütununun
bir katı veya doğrusal bir birleşimiyse, belirleyeni sıfırdır.
7 A’nın bir satır veya sütunundaki tüm öğeler bir λ sayılı ile
çarpılırsa, |A| da λ ile çarpılır.
8 İki dizeyin çarpımının belirleyeni dizeylerin ayrı ayrı
belirleyenlerinin çarpımına eşitir: |AB| = |A||B|
Bir Dizeyin Derecesi

Bir Dizeyin Derecesi
Bir dizeyin “derecesi” (rank), belirleyeni sıfır olmayan en büyük
alt dizeyinin boyutudur.
Örnek olarak, aşağıda verilen dizey için |A| = 0 olduğu

görülebilir. Başka bir deyişle A tekil bir dizeydir:
 
3 6 6
A3×3 =  0 4 5 
3 2 1
Burada A’nın derecesi 2’dir çünkü 2 × 2 boyutundaki bir

altdizeyinin belirleyeni sıfırdan farklıdır:

4 5
B2×2 =
2 1
Minör
Minör
N × N boyutundaki bir A dizeyinin i’inci satırı ile j’inci sütunu
silinirse, kalan altdizeyin belirleyenine aij öğesinin “minörü”
(minor) denir ve |Mij | ile gösterilir.
Örnek olarak aşağıda verilen dizeyi ele alalım:

 
a11 a12 a13
A3×3 =  a21 a22 a23 
a31 a32 a33
Burada a11 ’in minörü şudur:

a a23
|M11 | = 22

= a22 a33 − a23 a32
a32 a33
Eşçarpan Dizey ve Ek Dizey

Eşçarpan
N × N boyutlu bir A dizeyinin aij öğesinin “eşçarpanı” (cofactor)
şöyle tanımlanır: cij = (−1)i+j |Mij |
Bir başka deyişle eşçarpan işaretli bir minördür ve işareti

de (i + j) toplamı çiftse artı, tekse eksidir.
Eşçarpan Dizeyi
A’nın “eşçarpan dizeyi” (cofactor matrix), aij öğelerinin yerine
eşçarpanları koyularak elde edilir ve (cof A) ile gösterilir.
Ek Dizey
“Ek dizey” (adjoint matrix), eşçarpan dizeyinin devriğidir ve
(adj A) ile gösterilir.
Bir Dizeyin Evriğini Alma
Evrik Dizey
A tekil olmayan (|A| = 6 0) bir dizeyse, A−1 “evrik” (inverse)
dizeyi şu şekilde bulunur:
1
A−1 = (adjA)
|A|
Dizey evriği alma işleminin adımları aşağıdaki gibidir:

1 A’nın belirleyeni hesaplanır.
2 A’nın aij öğelerinin yerine eşçarpanları koyularak eşçarpan
dizeyi (cof A) elde edilir.
3 Eşçarpan dizeyin devriği alınarak ek dizey (adj A) bulunur.
4 Son olarak ek dizeyin tüm öğeleri |A|’ya bölünür.
Dizeylerde Türev Alma
Dizeylerde türev almaya ilişkin iki önemli kural şunlardır:

1. Kural
Eğer a′ 1 × N boyutunda bir satır yöneyi ve x N × 1 boyutunda
bir sütun yöneyiyse, aşağıdaki eşitlik geçerlidir:
∂(a′ x)
=a
∂x
2. Kural
Eğer A N × N boyutunda bir kare dizeyse, aşağıdaki eşitlikler
geçerlidir:
∂(x′ Ax)
= 2Ax = 2x′ A
∂x
Dizey Cebirinin Gözden Geçirilmesi KDBM Varsayımlarının Dizey ile Gösterilmesi
Dizey Yaklaşımı ile Tahmin Sorunu SEK Tahmini
Dizey Yaklaşımı ile Çıkarsama Sorunu Varyans-Kovaryans Dizeyi
Dizey Yaklaşımının Önemi
Y bağımlı değişkeni ile (k − 1) sayıda açıklayıcı değişken

(X2 ,X3 , . . . ,Xk ) içeren k değişkenli doğrusal bağlanım
modelini ele almak için en doğru yaklaşım dizey cebiridir.
Dizey cebirinin “sayıl” (scalar) cebirine üstünlüğü, herhangi
bir sayıda değişken içeren bağlanım modellerini ele alıştaki
yalın ve öz yaklaşımıdır.
k değişkenli model bir kez kurulduktan ve dizey cebiri ile
çözüldükten sonra bu çözüm çok sayıda değişkene
kolaylıkla uygulanabilir.
k değişkenli anakütle bağlanım işlevini (ABİ) hatırlayalım:
Yi = β1 + β2 X2i + β3 X3i + · · · + βk Xki + ui , i = 1, 2, . . . , n
k Değişkenli Doğrusal Bağlanım Modeli

Elimizdeki ABİ, aşağıda gösterilen n sayıdaki eşanlı
denklemin kısa yazılışıdır:
Y1 = β1 + β2 X21 + β3 X31 + ... + βk Xk 1 + u1
Y2 = β1 + β2 X22 + β3 X32 + ... + βk Xk 2 + u2
.. .. .. .. .. .. .. .. . . .. .. .. ..
. . . . . . . . . . . . .
Yn = β1 + β2 X2n + β3 X3n + . . . + βk Xkn + un
Yukarıdaki denklem setini şöyle de gösterebiliriz:
      
Y1 1 X21 X31 ... Xk 1 β1 u1
 Y2   1 X22 X32 ... Xk 2  β2   u2 
.. = .. .. .. .. .. + ..
      
 ..  
 .   . . . . .  .   . 
Yn 1 X2n X3n ... Xkn βk un
Yani: Yn×1 = Xn×k Bk ×1 + un×1


X, Y, B ve u’nun boyutlarının karışıklığa yol açmayacağı
durumda, doğrusal bağlanım modelinin dizey gösterimi
aşağıdaki gibi olur:
Y = XB + u
Burada:
Y, bağımlı değişken gözlemlerinin n × 1 boyutlu sütun
yöneyini;
X, X2 ’den Xk ’ye kadar olan k − 1 değişkenin n sayıdaki
gözleminin n × k boyutlu dizeyini;
B ise β1 , β2 , . . . , βk anakütle katsayılarının k × 1 boyutlu
sütun yöneyini;
u ise n sayıdaki ui “bozukluklarının” (disturbance) n × 1
boyutundaki sütun yöneyini
göstermektedir.
Örnek olarak, daha önce incelenmiş olan iki değişkenli

tüketim-gelir modelinin dizey yaklaşımı ile gösterimi şudur:
70 1 80 u1
2 3 2 3 2 3
6 65 7 6 1 100 7 6 u2 7
90 1 120 u3
6 7 6 7 6 7
6 7 6 7 6 7
95 1 140 u4
6 7 6 7 6 7
6 7 6 7» – 6 7
110 1 160 7 β1 u5
6 7 6 7 6 7
7=6 +6
6 7 6 6 7
115 1 180 β u6
6 7 7
6 7 6 7 2 6 7
120 1 200 u7
6 7 6 7 6 7
6 7 6 7 6 7
140 1 220 u8
6 7 6 7 6 7
6 7 6 7 6 7
4 155 5 4 1 240 5 4 u9 5
150 1 260 u10
Y10×1 = X10×2 B2×1 + u10×1
1. Varsayım
Dizey cebiri yaklaşımı, önceden görmüş olduğumuz klasik
doğrusal bağlanım modeli (KDBM) varsayımlarını incelemede
büyük kolaylık sağlamaktadır.
Şimdi bu beş varsayımı dizey yaklaşımı ile ele alalım:
1. Varsayım
u bozukluk yöneyinin tüm öğeleri için beklenen değer sıfırdır.
Kısaca hata teriminin beklenen değeri sıfırdır: E (u) = 0.
Daha açık olarak E (u) = 0 şu demektir:

u1 E(u1 ) 0
02 31 2 3 2 3
B6 u2 7C 6 E(u2 ) 7 6 0 7
E B6 . 7C = .. 7=6 .
B6 7C 6 7 6 7
@4 .. 5 4 ..
6 7
5A 4 . 5
un E(un ) 0
2. Varsayım
2. Varsayım
ui hataları, sıfır ortalama ve sabit bir varyans ile normal
dağılırlar: u ∼ N(0, σ 2 I).
u burada n × 1 boyutlu sütun yöneyi, 0 ise aynı boyutlu bir

boş yöneydir.
Bu varsayım, bağlanımın tahmin edilmesinden sonra çeşitli
önsav sınamalarının yapılabilmesi için gereklidir.
3. Varsayım
3. Varsayım
Hatalar arasında serisel ilinti yoktur: E (uu′ ) = σ 2 I.
Bu varsayımın daha önce sayısal olarak ele alınan üç

varsayımın kısa ve öz anlatımı olduğu şöyle gösterilebilir:
u1 u12 u1 u2 ... u1 un
2 3 2 3
6 u2 7ˆ 6 u2 u1 u22 ... u2 un 7
E(uu′ ) = E 6
˜
.. 7 u1 u2 ... un =E6
6 7 6 7
.. .. .. .. 7
4 . 5 4 . . . . 5
un un u1 un u2 ... un2
(. . . devam)
3. Varsayım
Dizeyin her bir öğesinin beklenen değerini alalım:
u12 u1 u2 ... u1 un E(u12 ) E(u1 u2 ) ... E(u1 un )
2 3 2 3
6 u2 u1 u22 ... u2 un 7 6 E(u2 u1 ) E(u22 ) ... E(u2 un ) 7
E6 7=
6 7 6 7
.. .. .. .. 6 .. .. .. .. 7
4 . . . . 5 4 . . . . 5
un u1 un u2 ... un2 E(un u1 ) E(un u2 ) ... E(un2 )
Hata terimi ortalaması sıfır varsayılıdır: E (ui ) = µ = 0

Varyans ve kovaryansın formüllerini hatırlayalım:
var(X ) = E (X 2 ) − µ2 , cov(X , Y ) = E (XY ) − µX µY
Buna göre, ui hatalarının “varyans-kovaryans dizeyi”
(variance-covariance matrix) 3. varsayıma göre şöyledir:
σ2 0 ... 0 1 0 ... 0
2 3 2 3
6 0 σ2 ... 0 7 6 0 1 ... 0 7
E(uu′ ) = 6 . 7 = σ2 6 . . . 7 = σ2 I
6 7 6 7
. .. . .. .. .. ..
4 .. .. . .. 5 4 . 5
0 0 ... σ2 0 0 ... 1
4. Varsayım
4. Varsayım
n × n boyutlu X dizeyi olasılıklı değildir.
Diğer bir deyişle X2i , X3i , . . . , Xki değişmeyen sayılardan

oluşmaktadır.
Başta belirtildiği gibi, elimizdeki bağlanım çözümlemesi X
değişkenlerinin verili değerlerine bağlı bir koşullu bağlanım
çözümlemesidir.
5. Varsayım
5. Varsayım
X’in derecesi k’dir: ρ(X) = k. k burada X’in sütun sayısı olup,
gözlem sayısı n’den küçüktür.
Diğer bir deyişle, X değişkenleri arasında tam bir doğrusal

ilişki ya da “çoklueşdoğrusallık” (multicollinearity) yoktur.
Eğer bu varsayım gerçekleşmez ise, bağlanıma ait X′ X
dizeyinin belirleyeni sıfır olur ve çözümlemede gerekli olan
tersi bulunamaz.
SEK Tahmini
B yöneyini tahmin etmede sıradan en küçük kareler (SEK)

ya da ençok olabilirlik (EO) yöntemleri kullanılabilir.
Biz dikkatimizi SEK yöntemi üzerinde toplayacağız.
Bağlanımın SEK tahminini bulmak için önce k değişkenli
örneklem bağlanım işlevini (ÖBİ) yazalım:
k Değişken İçeren ÖBİ

Yi = β̂1 + β̂2 X2i + β̂3 X3i + · · · + β̂k Xki + ûi
SEK Tahmini
Örneklem bağlanım işlevi, dizey gösterimiyle açık olarak

şöyle gösterilebilir:
32 3
Y1 1 X21 X31 Xk 1 β̂1 uˆ1
2 3 2 2 3
...
6 Y2 7 6 1 X22 X32 ... Xk 2 76
76 β̂2 7 6
7 6 uˆ2 7
.. 7=6 .. .. .. .. 7+6 ..
6 7 6 7
6 .. 76 .. 7
. . . . . . 56 .
7 4
4 5 4 4 . 5 5
Yn 1 X2n X3n ... Xkn β̂k uˆn
Yn×1 = Xn×k B̂k ×1 + ûn×1
Yukarıdaki eşitlik şu şekilde de yazılabilir:

û = Y − XB̂
Bilindiği gibi SEK tahmincileri hata kareleri toplamının
enazlanması yolu ile bulunmaktadır.
SEK Tahmini
Hata kareleri toplamının aşağıda verilen gösterim şekline
dikkat etmek gerekir:
uˆ1
2 3
˜6 uˆ2 7 X 2
ˆ 2 2 2
û′ û = uˆ1 uˆ2 ... uˆn . 7 = uˆ1 + uˆ2 + · · · + uˆn = ûi
6 7
..
6
4 5
ˆ
un
Buna göre u′ u’nun dizey gösterimi aşağıdaki gibidir:

û = Y − XB̂
û′ û = (Y − XB̂)′ (Y − XB̂)
= Y′ Y − 2B̂′ X′ Y + B̂′ X′ XB̂
Burada Y′ XB̂, bir sayıl olduğu için kendi devriği olan
B̂′ X′ Y’ye eşittir.
SEK Tahmini
û′ û = Y′ Y − 2B̂′ X′ Y + B̂′ X′ XB̂ eşitliğini enazlamak için, bu
eşitliğin B̂’ya göre kısmi türevi alınır ve sıfıra eşitlenir.
Bu işlem bize “normal denklemler” (normal equations)
denilen k bilinmeyenli k eşanlı denklemi verir:
P P P P
β̂ n + β̂2 X + β̂3 X3i +···+ β̂k Xki = Y
P 1 P 2i 2 P P P i
β̂1 X + β̂ X2i + β̂3 X2i X3i + · · · + β̂k X X = X Y
P 2i P2 P 2 P 2i ki P 2i i
β̂1 X3i + β̂2 X3i X2i + β̂3 X3i + · · · + β̂k X3i Xki = X3i Yi
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
P P P P 2 P
β̂1 Xki + β̂2 Xki X2i + β̂3 Xki X3i +···+ β̂k Xki = Xki Yi
P P P
n X X3i ... Xki
2 32
β̂1 1 1 ... 1 Y1
3 2 32 3
P P 2i 2 P P
6 P X2i X2i X2i X3i ... X2i Xki 6 X21 X22 X2n 7 6 Y2
6 7 6 β̂ 7 ...
P 2 76 2 7 7
X X32 X3n 7 6 Y3
P P
...
6 76 7
6 X3i X3i X2i X3i ... X3i Xki7 6 β̂ 7
3 7 6 31 7
=6
6 76 76 7
. . . 76 .
6 7
. . . . . 76 . 7 6 . 7
. . . . 76 .
6
. . . . . 76 . 7 6
.
7
.
6
4 . . . . 5 4
.
5 4 . . . 54 . 5
P
Xki
P
Xki X2i
P
Xki X3i ...
P 2
Xki β̂k Xk 1 Xk 2 ... Xkn Yn
(X′ X)k ×k B̂k ×1 = X′ k ×n Yn×1

SEK Tahmini
P P P
n X X3i ... Xki
2 3
P P 2i2 P P
6 X2i X2i X2i X3i ... X2i Xki 7
6 P P P 2 P 7
′
XX=6
6 X3i X3i X2i X3i ... X3i Xki 7
7
6 .. .. .. .. .. 7
4 . . . . . 5
P P P P 2
Xki Xki X2i Xki X3i ... Xki
Normal denklemlerin dizey gösteriminde yer alan yukarıdaki
(X′ X) dizeyi önemlidir. Bu dizeyin şu üç özelliğine dikkat edelim:
1 (X′ X) dizeyi k × k boyutundadır ve olasılıksal değildir.
2 Asal köşegen öğeleri ham kare toplamlarını, köşegen dışı
öğeler ise ham çapraz çarpım toplamlarını gösterir.
3 X2i X3i çapraz çarpımı X3i X2i çapraz çarpımına eşit olduğu
için dizey bakışımlıdır.
SEK Tahmini
Normal denklemlerin dizey gösterimi kısaca şöyledir:
(X′ X)B̂ = X′ Y
′
Eğer (X X) dizeyinin evriği varsa, yukarıdaki denklemin her
iki yanını bu evrik dizeyle önden çarparak şunu bulabiliriz:
(X′ X)B̂ = X′ Y
(X X) (X′ X)B̂ = (X′ X)−1 X′ Y
′ −1
IB̂ = (X′ X)−1 X′ Y

Buna göre SEK kuramının temel denkleminin dizey
gösterimi şudur:
B̂ = (X′ X)−1 X′ Y
Yukarıdaki eşitlik, eldeki verilerden B̂ yöneyinin nasıl

tahmin edileceğini gösterir.
Herhangi bir β̂i varyansı yanında tüm β̂i ve β̂j ’lar arasındaki
kovaryansları dizey yöntemi ile kolayca gösterebiliriz.
Bu varyans ve kovaryanslar çeşitli istatistiksel çıkarsama
işlemleri için önemlidir.
B̂’nın “varyans-kovaryans dizeyi” (variance-covariance
matrix) şu şekilde tanımlanmıştır:

varcov(B̂) = E [B̂ − B][B̂ − B]′
Buna göre:
2 3
var(β̂1 ) cov(β̂1 , β̂2 ) ... cov(β̂1 , β̂k )
6
6 cov(β̂2 , β̂1 ) var(β̂2 ) ... cov(β̂2 , β̂k ) 7
7
varcov(B̂) = 6
6 .. .. .. .. 7
7
4 . . . . 5
cov(β̂k , β̂1 ) cov(β̂k , β̂2 ) ... var(β̂k )
VarCov Dizeyinin Türetilmesi
varcov(B̂)’yı türetmede Y = XB + u eşitliğinden yararlanılır.

Üsttekini B̂ = (X′ X)−1 X′ Y Demek ki B̂ − B = (X′ X)−1 X′ u.
temel denkleminde yerine varcov(B̂) varyans-kovaryans
koyarsak şunu elde ederiz: dizeyi ise tanım gereği şöyledir:
B̂=(X′ X)−1 X′ (XB + u) ′

` B̂ − B][B̂ − B] )
varcov(B̂)=E([ ´
=(X′ X)−1 X′ XB + (X′ X)−1 X′ u =E [(X′ X)−1 X′ u][(X′ X)−1 X′ u]′
=B + (X′ X)−1 X′ u ′ −1 ′ ′
=E(X X) X uu X(X X) ) ′ −1
X ’lerin olasılıklı olmadığına dikkat edilerek şu bulunabilir:

varcov(B̂) = (X′ X)−1 X′ E(uu′ )X(X′ X)−1
= (X′ X)−1 X′ σ 2 IX(X′ X)−1
= σ 2 (X′ X)−1
Dikkat: Yukarıda E (uu′ ) = σ 2 I varsayımı kullanılmıştır.
Türetilmesinden de anlaşılacağı gibi varyans-kovaryans

dizeyi aşağıdaki gibi gösterilmektedir:
varcov(B̂) = σ 2 (X′ X)−1

(X′ X)−1 burada B̂ SEK tahmincilerini veren eşitlikte yer
alan evrik dizeydir.
σ 2 ise ui ’nin sabit varyansıdır. Uygulamada σ 2 yerine
yansız tahminci σ̂ 2 kullanılır.
k değişkenli durumda σ̂ 2 aşağıdaki eşitlikten bulunabilir:
ûi 2
P
2 û′ û
σ̂ = =
n−k n−k
û′ û, ilke olarak tahmin edilen kalıntılardan bulunabilse de
uygulamada şu yolla doğrudan hesaplanabilir:
P 2
ûi = KKT = TKT − BKT
Toplam kareleri toplamı aşağıdaki şekilde gösterilir:
TKT
ŷi 2 = Y′ Y − nȲ 2
P
nȲ 2 terimi burada ortalamadan sapma kareleri toplamının

bulunması için gereken düzeltme terimidir.
Bağlanım kareleri toplamının dizey gösterimi ise şöyledir:
BKT
yi xki = B̂′ X′ Y − nȲ 2
P P
β̂2 yi x2i + · · · + β̂k
Kalıntı kareleri toplamı, TKT ve BKT’nin dizey gösterimleri

kullanılarak aşağıdaki gibi bulunur:
KKT
KKT = TKT − BKT
û′ û = (Y′ Y − nȲ 2 ) − (B̂′ X′ Y − nȲ 2 )
= Y′ Y − B̂′ X′ Y
û′ û bulunduktan sonra σ̂ 2 ’yi kolayca hesaplayabiliriz.

σ̂ 2 ’yi hesapladıktan sonra ise varyans-kovaryans dizeyini
tahmin edebiliriz.
B̂ SEK Yöneyinin Özellikleri
SEK tahmincilerinin en iyi doğrusal yansız tahminci ya da

kısaca “EDYT” (BLUE) olduklarını biliyoruz.
Bu özellik B̂ yöneyi için de geçerlidir.
B̂ yöneyinin her bir öğesi Y bağımlı değişkeninin doğrusal
işlevidir.
B̂ yansızdır. Diğer bir deyişle tüm öğelerinin beklenen
değeri kendisine eşittir: E (B̂) = B̂.
SEK tahmincisi B̂, tüm B tahmincileri içinde en iyi, enaz
varyanslı tahmincidir.
R 2 ’nin Dizeyle Gösterimi
Belirleme katsayısı R 2 daha önce şöyle tanımlanmıştı:
BKT
R2 =
TKT
Buna göre belirleme katsayısının dizey gösterimi de
şöyledir:
B̂′ X′ Y − nȲ 2
R2 =
Y′ Y − nȲ 2
İlinti Dizeyi
k değişkenli durumda, tüm değişkenler arasındaki sıfırıncı
dereceden ilinti katsayılarını veren “ilinti dizeyi” (correlation
matrix) aşağıdaki gibi tanımlanır:
   
r11 r12 r13 ... r1k 1 r12 r13 ... r1k
 r21 r22 r23 ... r2k   r21 1 r23 ... r2k 
R= .. .. .. .. = .. .. .. ..
   
.. .. 
 . . . . .   . . . . . 
rk 1 rk 2 rk 3 ... rkk rk 1 rk 2 rk 3 ... 1
1 alt imi burada bağımlı değişken Y ’yi gösterir. Örnek

olarak, Y ile X2 arasındaki ilinti katsayısı r12 ’dir.
Asal köşegen üzerindeki 1’ler ise bir değişkenin kendisiyle
olan ilinti katsayısının her zaman 1 olmasındandır.
İlinti dizeyi R kullanılarak birinci dereceden ve daha yüksek
dereceden ilinti katsayılarını da elde etmek olasıdır.
Dizey Cebirinin Gözden Geçirilmesi Bireysel Katsayıların Önsav Sınamaları
Dizey Yaklaşımı ile Tahmin Sorunu Varyans Çözümlemesi ve F Sınaması
Dizey Yaklaşımı ile Çıkarsama Sorunu Çoklu Bağlanım ile Kestirim

Tahmin sonrasında çıkarsama yapabilmek için, ui
hatalarının sıfır ortalama ve sabit varyans σ 2 ile normal
dağıldıklarını varsayıyoruz:
u ∼ N(0, σ 2 I)
u burada n × 1 boyutlu sütun yöneyi, 0 ise boş yöneydir.
Buna göre, SEK tahmincileri β̂i ’lar da aşağıda gösterilen
şekilde normal dağılırlar:
B̂ ∼ N[B, σ 2 (X′ X)−1 ]
Demek ki β̂’nın her öğesi, gerçek B öğesiyle eşit ortalama

ile ve (X′ X)−1 ters dizeyinin asal köşegenindeki uygun öğe
çarpı σ 2 ’ye eşit varyans ile normal dağılmaktadır.
σ 2 (X′ X)−1 ’in varyans-kovaryans dizeyi olduğuna dikkat
ediniz.
Uygulamada σ 2 bilinmediği için t dağılımına geçilir ve σ̂ 2

tahmincisi kullanılır.
Bu durumda B̂’nın her öğesi n − k sd ile t dağılımına uyar:
β̂i − βi
t=
öh(β̂i )
β̂i burada B̂’nın bir öğesidir.

Demek ki t dağılımını kullanarak herhangi bir β̂i ’nın güven
aralığını bulmak ve çeşitli sınamaları yapmak olanaklıdır.
Varyans Çözümlemesinin Dizey Gösterimi

Tüm bağlanım katsayılarının eşanlı olarak sıfıra eşit olduğu
önsavını sınamak veya bir değişkenin ek katkısını ölçmek
için VARÇÖZ yöntemi kullanılır.
TKT, BKT ve KKT’nin dizey gösterimleri kullanılarak
aşağıdaki gibi bir VARÇÖZ çizelgesi düzenlenebilir:
Değişimin Kaynağı KT sd OKT
B̂′ X′ Y−nȲ 2
Bağlanımdan (BKT) B̂′ X′ Y − nȲ 2 k −1 k −1
Y′ Y−B̂′ X′ Y
Kalıntılardan (KKT) Y′ Y − B̂′ X′ Y n−k n−k
Toplam (TKT) Y′ Y − nȲ 2 n−1
Buna göre:
(B̂′ X′ Y − nȲ 2 )/(k − 1)

F =
(Y′ Y − B̂′ X′ Y)/(n − k)
Varyans Çözümlemesinin Dizey Gösterimi

F ve R 2 değerleri arasında sıkı bir ilişki olduğunu biliyoruz.
Buna göre, VARÇÖZ çizelgesinin R 2 gösterimi şöyledir:
Değişimin Kaynağı KT sd OKT
R 2 (Y′ Y−nȲ 2 )
Bağlanımdan (BKT) R 2 (Y′ Y − nȲ 2 ) k −1 k −1
(1−R 2 )(Y′ Y−nȲ 2 )
Kalıntılardan (KKT) (1 − R 2 )(Y′ Y − nȲ 2 ) n−k n−k
Toplam (TKT) Y′ Y − nȲ 2 n−1

Demek ki:
R 2 /(k − 1)
F =
(1 − R 2 )/(n − k)
Bu gösterimin üstünlüğü, tüm hesaplamaların yalnız R 2 ile

yapılabilmesi ve sadeleştirme sonrası ortadan kalkacak
olan (Y′ Y − nȲ 2 ) terimiyle ilgilenmeye gerek kalmamasıdır.
Genel F Sınaması
Genel olarak, F sınamasının amacı bir ya da birden fazla

anakütle katsayısı üzerine konulan doğrusal sınırlamaları
sınamaktır.
Bu sınamanın dizey karşılığını türetebilmek için aşağıdaki
tanımlardan yararlanalım:
ûS : Sınırlamalı SEK bağlanımının kalıntı yöneyi

ûSM P 2 : Sınırlamasız SEK bağlanımının kalıntı yöneyi
û′S ûS = PûS : Sınırlamalı bağlanıma ait KKT
2
û′SM ûSM = ûSM : Sınırlamasız bağlanıma ait KKT
m : Doğrusal sınırlama sayısı
k : Sabit terim dahil anakütle katsayılarının sayısı
n : Gözlem sayısı
Genel F Sınaması
Genel F sınamasının dizey gösterimi aşağıdaki gibidir:
(û′S ûS − û′SM ûSM )/m

F =
(û′SM ûSM )/(n − k)
Yukarıda gösterilen istatistik, m ve (n − k) serbestlik

derecesi ile F dağılımına uyar.
Hesaplanan F değeri eğer kritik F değerinden büyükse,
sınırlamalı bağlanım sıfır önsavı reddedilir.
Çoklu Bağlanımla Kestirim
Tahmin edilen bir bağlanım işlevi, belli bir X0 değerine

karşılık gelen Y ’yi kestirmek için kullanılabilir.
İki türlü kestirim vardır: “Ortalama kestirim” (mean
prediction) ve “bireysel kestirim” (individual prediction).
Ortalama kestirim, seçili X0 değerlerine bağlanım doğrusu
üzerinde yakıştırılan noktanın tahmin edilmesi demektir.
Bireysel kestirim ise X0 ’ın karşılığı olan Y değerinin
kendisidir.
Bu iki kestirim biçimi de Ŷ için aynı nokta tahmini verir.
Diğer yandan bireysel kestirimin varyansı, ölçünlü hatası
ve bunlara bağlı olarak da güven aralığı ortalama kestirime
göre daha yüksektir.
Ortalama Kestirimin Dizey Gösterimi

Ortalama kestirimi dizey cebiri ile göstermek için, tahmin
edilen çoklu bağlanımın sayıl gösterimini hatırlayalım:
Ŷi = β̂1 + β̂2 X2i + β̂3 X3i + · · · + β̂k Xki
Yukarıdaki eşitliğin dizey gösterimi kısaca şöyledir:
Ŷi = x′ i B̂
′
x i = [1, X2i , X3i , . . . , Xki ] burada bir satır yöneyidir.
B̂ ise tahmin edilen β’ları gösteren bir sütun yöneyidir.
Buna göre, verili bir x′ 0 = [1, X20 , X30 , . . . , Xk 0 ] yöneyine
karşılık gelen Yˆ0 ortalama kestirim aşağıdaki biçimi alır:
(Yˆ0 |x′ 0 ) = x′ 0 B̂
Burada x0 değerleri verilidir. Ayrıca ortalama kestirim

yansız bir kestirimdir: E (x′ 0 B̂) = x′ 0 B̂.
Ortalama Kestirimin Varyansı
Ortalama kestirimin varyansı şöyledir:

var(Yˆ0 |x′ 0 ) = σ 2 x′ 0 (X′ X)−1 x′ 0
x′ 0 burada kestirim yapmada kullanılan X değişkenlerinin
verili değerlerini içeren satır yöneyidir.
(X′ X)−1 ise çoklu bağlanım tahmininde kullanılan dizeydir.
Uygulamada, hata teriminin sabit varyansı σ 2 yerine yansız
tahmincisi σ̂ 2 koyularak formül şu şekilde yazılır:
var(Yˆ0 |x′ 0 ) = σ̂ 2 x′ 0 (X′ X)−1 x′ 0
Yukarıdaki eşitlik kullanılarak, x′ 0 veriliyken Yˆ0 ortalama

kestirimin %100(1 − α) güven aralığı bulunabilir.
Bireysel Kestirimin Dizey Gösterimi
Y ’nin bireysel kestirimi (Y0 |x′ 0 ), ortalama kestirim (Yˆ0 |x′ 0 )

ile aynıdır:
(Y0 |x′ 0 ) = x′ 0 B̂
Diğer yandan, bireysel kestirimin varyansı ortalama

kestirimin varyansından büyüktür:
var(Y0 |x′ 0 ) = σ̂ 2 [1 + x′ 0 (X′ X)−1 x′ 0 ]
var(Y0 |x′ 0 ) burada E [Y0 − Yˆ0 |X ]2 demektir.

Uygulamada, ortalama kestirimde olduğu gibi, σ 2 yerine
yansız tahmincisi σ̂ 2 kullanılır.
Önümüzdeki Dersin Konusu ve Ödev
Ödev
Kitaptan Appendix B “Rudiments of Matrix Algebra” ve
Appendix C “The Matrix Approach to Linear Regression Model”
okunacak.
Önümüzdeki Ders
Çoklueşdoğrusallık

Ekonometri2 00 Dogrusal Baglanima Dizey Yaklasimi (s1 - 9)

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Ekonometri2 00 Dogrusal Baglanima Dizey Yaklasimi (s1 - 9)

Uploaded by

Copyright:

Available Formats

Dizey Cebirinin Gözden Geçirilmesi

Dizey Yaklaşımı ile Tahmin Sorunu

Doğrusal Bağlanım Modeline Dizey Yaklaşımı

Yrd. Doç. Dr. A. Talha YALTA

TOBB Ekonomi ve Teknoloji Üniversitesi

İşbu ekonometri ders malzemesi, A. Talha Yalta tarafından,

Dr. A. Talha Yalta, TOBB Ekonomi ve Teknoloji Üniversitesi (2010)

1 Dizey Cebirinin Gözden Geçirilmesi

aij burada A dizeyinin i’inci satırı ve j’inci sütununda

2 × 3 boyutundaki bir dizeye örnek:

Satır ve Sütun Yöneyleri

Sütun yöneyine örnek:

Satır Yöneyi Satır yöneyine örnek:

Örnek olarak, aşağıda verilen A dizeyinin üçüncü satırıyla

Kare Dizey ve Köşegen Dizey

Kare dizeye örnek:

Sayıl Dizey ve Birim Dizey

Sayıl Dizey Sayıl dizeye örnek:

Birim Dizey Birim dizeye örnek:

Bakışımlı Dizey ve Eşit Dizeyler

Bakışımlı Dizey Bakışımlı dizeye örnek:

Eşit dizeylere örnek:

Boş Dizey ve Boş Yöney

Boş dizeye örnek:

Dizey Toplaması ve Çıkarması

Dizey Toplaması ve Çıkarması

Dizey toplamasına örnek:

Dizey Çarpımının Özellikleri

Dizey çarpımı işlemi aşağıdaki özellikleri taşır:

Dizey Devriği Alınması

Bir satır yöneyinin devriği sütun yöneyi olup, bir sütun

Devrik Dizeyin Özellikleri

Devrik dizey dönüşümünün bazı özellikleri şunlardır:

Bir Dizeyin Belirleyeni

Her kare dizey A için, belirleyen (determinant) diye bilinen

Bir Dizeyin Derecesi

Örnek olarak, aşağıda verilen dizey için |A| = 0 olduğu

Burada A’nın derecesi 2’dir çünkü 2 × 2 boyutundaki bir

Örnek olarak aşağıda verilen dizeyi ele alalım:

Burada a11 ’in minörü şudur:

Eşçarpan Dizey ve Ek Dizey

Bir başka deyişle eşçarpan işaretli bir minördür ve işareti

Bir Dizeyin Evriğini Alma

Dizey evriği alma işleminin adımları aşağıdaki gibidir:

Dizeylerde Türev Alma

Dizeylerde türev almaya ilişkin iki önemli kural şunlardır:

Dizey Yaklaşımının Önemi

Y bağımlı değişkeni ile (k − 1) sayıda açıklayıcı değişken

k Değişkenli Doğrusal Bağlanım Modeli

Yani: Yn×1 = Xn×k Bk ×1 + un×1

k Değişkenli Doğrusal Bağlanım Modeli

k Değişkenli Doğrusal Bağlanım Modeli

Örnek olarak, daha önce incelenmiş olan iki değişkenli

Y10×1 = X10×2 B2×1 + u10×1

Daha açık olarak E (u) = 0 şu demektir:

u burada n × 1 boyutlu sütun yöneyi, 0 ise aynı boyutlu bir

Bu varsayımın daha önce sayısal olarak ele alınan üç

Hata terimi ortalaması sıfır varsayılıdır: E (ui ) = µ = 0

Diğer bir deyişle X2i , X3i , . . . , Xki değişmeyen sayılardan

Diğer bir deyişle, X değişkenleri arasında tam bir doğrusal

B yöneyini tahmin etmede sıradan en küçük kareler (SEK)

k Değişken İçeren ÖBİ

Örneklem bağlanım işlevi, dizey gösterimiyle açık olarak