9. Introdução à regressão linear simples
Modelos de regressão.
Uma variável aleatória pode ser explicada quer por factores determinís-ticos quer por factores aleatórios. Este capítulo distingue-se dos capítu-los anteriores, uma vez que o estudo de variáveis aleatórias não é feitosomente com base em componentes não determinísticas.Ou seja, uma variável de interesse
Y
passa a ter duas componentes: previsível e aleatória. Supondo uma estrutura aditiva entre elas,
Y
=
g
(
x
) +
ǫ,
onde
g
(
x
)
é a parte previsível de
Y
, formada por uma variável auxiliar
x
observável para cada elemento da amostra, e
ǫ
é a sua parte aleatória.
NOTAS DE PROBABILIDADES E ESTAT´ISTICA - GS – 178/207
A parte previsível de
Y
é considerada fixa, mesmo que seja uma funçãode parâmetros desconhecidos, enquanto a parte aleatória tem uma dis-tribuição de probabilidade. Nesse cenário, o conjunto de dados é for-mado por
n
pares (
y
i
,x
i
),
i
=1
,...,n
.Considerando uma a.a. (
Y
i
,x
i
),
i
=1
,...,n
, um modelo estatístico pararelacionar
Y
e
x
é dado por
Y
i
=
β
0
+
β
1
x
i
+
ǫ
i
,
onde
Y
i
é a variável resposta do
i
-ésimo elemento da amostra, enquanto
x
i
é a sua variável explicativa (fixa),
β
0
e
β
1
são parâmetros (desco-nhecidos) e
ǫ
i
é o erro aleatório do elemento
i
da amostra.O modelo acima é conhecido por modelo de regressão linear simples,com parte previsível
g
(
x
) =
β
0
+
β
1
x
e parte aleatória
ǫ
, cuja dis-tribuição de probabilidade se supõe usualmente ser Normal.
NOTAS DE PROBABILIDADES E ESTAT´ISTICA - GS – 179/207
Suposições usuais para os erros aleatórios
ǫ
i
,
i
=1
,...,n
:
•
E
(
ǫ
i
) = 0
. Isso implica que, dado um valor de
x
,
E
(
Y
|
x
) =
β
0
+
β
1
x,
conhecida por equação ou recta de regressãodo modelo.
•
Var
(
ǫ
i
) =
σ
2
,
∀
i
(variância constante).
•
ǫ
1
,...,ǫ
n
são não correlacionados (ou independentes).
•
ǫ
i
segue uma distribuição Normal.Intrepretação dos parâmetros de regressão:
•
A ordenada na origem
β
0
é o valor esperado de
Y
com valor nulo para a variável explicativa
x
.
•
O declive da recta de regressão
β
1
é a variação do valor esperadode
Y
por cada incremento unitário em
x
.
NOTAS DE PROBABILIDADES E ESTAT´ISTICA - GS – 180/207
E T
xy
¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨ ¨
x
0
x
0
+1
β
0
1
β
1
E
(
Y
|
x
) =
β
0
+
β
1
x
Parâmetros de regressão:
•
β
0
=
E
(
Y
|
x
=0)
.
•
β
1
=
E
(
Y
|
x
0
+1)
−
E
(
Y
|
x
0
)
,
∀
x
0
.
NOTAS DE PROBABILIDADES E ESTAT´ISTICA - GS – 181/207
Método dos mínimos quadrados em regressão lin-ear simples.
Um método de estimação dos coeficientes de regressão é o método demínimos quadrados que consiste em minimizar a soma de quadradosdos erros aleatórios. Ou seja, o valor que minimiza a função
SQ
(
β
0
,β
1
) =
n
i
=1
ǫ
2
i
=
n
i
=1
(
Y
i
−
β
0
−
β
1
x
i
)
2
,
denotado por (
ˆ
β
0
,
ˆ
β
1
), é denominado oestimador demínimos quadradosdos coeficientes de regressão.Para a determinação da estimativa associada a (
ˆ
β
0
,
ˆ
β
1
), deve-se encon-trar as derivadas parciais da função
SQ
(
β
0
,β
1
)
avaliada em
{
(
y
i
,x
i
)
}
em relação aos parâmetros
β
0
e
β
1
.
NOTAS DE PROBABILIDADES E ESTAT´ISTICA - GS – 182/207
∂ ∂β
0
SQ
(
β
0
,β
1
) = 2
ni
=1
(
Y
i
−
β
0
−
β
1
x
i
)(
−
1)
∂ ∂β
1
SQ
(
β
0
,β
1
) = 2
ni
=1
(
Y
i
−
β
0
−
β
1
x
i
)(
−
x
i
)
Logo,
∂ ∂β
0
SQ
(
β
0
,β
1
) = 0
⇒
ni
=1
Y
i
=
nβ
0
+
β
1
ni
=1
x
i∂ ∂β
1
SQ
(
β
0
,β
1
) = 0
⇒
ni
=1
x
i
Y
i
=
β
0
ni
=1
x
i
+
β
1
ni
=1
x
2
i
A solução desse sistema de equações é
β
0
=¯
Y
−
ˆ
β
1
¯
x
e
β
1
=
ni
=1
x
i
Y
i
−
n
¯
x
¯
Y
ni
=1
x
2
i
−
n
¯
x
2
.
NOTAS DE PROBABILIDADES E ESTAT´ISTICA - GS – 183/207
of 00
SlidesPE GS Print9
464 Reads
Info and Rating
| Category: | Uncategorized. |
| Rating: | |
| Upload Date: | 02/07/2009 |
| Copyright: | Attribution Non-commercial |
| Tags: |
Leave a Comment