You are on page 1of 17

TRABAJO DE INFERENCIA ESTADISTICA

Over Jose Lopez Muñoz

Daniel Llorente Espitia

Ana

Jesus

Mario Alfonso Morales Rivera

UNIVERSIDAD DE CORDOBA

FACULTAD DE CIENCIAS BASICAS

DEPARTAMENTO DE MATEMATICA Y ESTADISTICAS

PROGRAMA DE ESTADISTICA

MONTERIA - CORDOBA

05/02/2019

1
27. Determine la cota de Cramer-Rao para la varianza de los estimadores insesgados para θ, basados en
una muestra aleatoria de tamaño n de una población con distribución de Bernoulli de parámetro θ.

Solución:

f(x;θ) = θx (1-θ)1−x I{0,1} (x)

Entonces


∂θ lnf(x;θ)

Donde

lnf(x;θ) = ln[θx (1 - θ)1−x ]

= xln(θ) + (1 - x)ln(1 - θ)
Ası́

∂ x 1−x
∂θ lnf(x;θ) = θ - 1−θ

Por lo tanto


E[( ∂θ lnf(x;θ))2 ] = E[ xθ - 1−x 2
1−θ ]

h i2
x(1−θ)−θ(1−x)
=E θ−θ 2

1
= (θ−θ 2 )2 E[x − xθ − θ+θx]2

1
= (θ−θ 2 )2 E(x - θ)2

1
= θ 2 (1−θ)2

1
= (θ−θ 2 )2 Var(x)

1
= θ 2 (1−θ)2 θ(1 − θ)

1
= θ(1−θ)

Ası́

(r(θ))2
CICR(θ ) = ∂
n.E[( ∂θ lnf (x;θ))2 ]

1
= 1
n. θ(1−θ)

θ(1−θ)
= n

2
28. Con base en el ejercicio 27, ¿existe un UMVUE para θ?

Solución:

Veamos si existe un UMVUE para θ. Para verificar la existencia del estimador utilizamos el método de
máxima veorimilitud.

Como X∼Ber(θ), entonces:

fX (x) = θx (1 - θ)1−x I{0,1} (x)

L(θ) = θx1 (1 − θ)1−x1 I{0,1} (x1 ), ..., θxn (1 − θ)1−xn I{0,1} (xn )
Qn
= i=1 θxi (1 − θ)1−xi I{0,1} (xi )
Pn Pn Qn
xi i=1 (1−xi )
= (θ) i=1 (1 − θ) i=1 I{0,1}(x1 )

Pn Pn Qn
xi
= (θ) i=1 (1 − θ)n− i=1 (xi )
i=1 I{0,1}(xi )

 Pn Pn Qn 
lnL(θ) = ln (θ) i=1 xi (1 − θ)n− i=1 (xi ) i=1 I{0,1}(xi )

Pn Pn Q 
xi
  n
= ln (θ) i=1 + ln (1 − θ)n− i=1 (xi ) + ln i=1 I{0,1}(xi )

Pn Pn Q 
n
= i=1 xi ln(θ) + (n − i=1 xi ) ln(1 − θ) + ln i=1 I{0,1}(xi )

Pn Pn
= i=1 xi ln(θ) + (n − i=1 xi ) ln(1 − θ) + ln(x1 ) + ... + ln(xn )

∂ ∂
Pn Pn
∂θ lnL(θ) = ∂θ ( i=1 xi ln(θ) + (n − i=1 xi ) ln(1 − θ) + ln(x1 ) + ... + ln(xn ))
Pn
n− n
P
xi i=1 xi
= i=1
θ − (1−θ)


∂θ lnL(θ) =0

Pn
n− n
P
xi i=1 xi
→ i=1
− =0
θb (1−θ)
b

3
Pn
n− n
P
xi i=1 xi
→ i=1
=
θb (1−θ)
b

Pn
(1−θ)
b xi Pn
→ i=1
=n− i=1 xi
θb

Pn
θb n
P
xi i=1 xi
Pn
→ i=1
− =n− i=1 xi
θb θb

Pn
xi Pn Pn
→ i=1
− i=1 xi = n − i=1 xi
θb

Pn
xi
→ i=1
=n
θb

Pn
xi
→ θb = i=1
n

Luego, el estimador de máxima verosimilitud es:

Pn
Xi
Θ
b= i=1
n

Ahora calculamos la varianza de θb


 Pn 
xi
Var(θ)
b = Var i=1
n

Pn xi

= i=1 V ar n

n
= n2 V ar(Xi )

1
= nV ar(Xi )

Como ya sabemos X∼Ber(θ), entonces su varianza es Var(X) = θ(1 − θ) por lo tanto,

1
Var(θ)
b =
n Var(X)

θ(1−θ)
= n

θ(1−θ) 1 θ(1−θ)
Nótemos que V ar(θ̂) = n , coincide con la cota de Cramer Rao nIθ = n .

1 θ(1−θ)
nIθ = n .

Si demostramos, que el estimador


Pn
Xi
Θ
b= i=1
n

es eficiente, demostraremos que θ̂ es un UMVUE. Ya que todo estimador eficiente o (BURE)es un


UMVUE.

La eficiencia del estimador esta dada por:

4
1 θ(1−θ)
nIθ
efθ (θ̂) = V ar(θ̂)
= n
θ(1−θ) =1
n

Ası́ Pn
xi
θ̂ = i=1
n

es un estimador eficiente o (BRUE) y tambı́en es un UMVUE, por lo cual queda comprobado la


existencia del
Pn
Xi
Θ
b= i=1
n

Como UNVUE para θ.

30. Determine la cota de Cramer-Rao para la varianza de los estimadores insesgados para θ, basados en
una muestra aleatoria de tamaño n de una población con distribución de Poisson de parámetro θ.

Solución:

e−θ .θ x
f(x;θ) = x! x = 0,1,...,n

Entonces


∂θ lnf(x;θ)

Donde
−θ
∂ .θ x
∂θ lnf(x;θ) = ln( e x! )

= ln(e−θ .θx ) - ln(x!)

= - θ + xln(θ) - ln(x!)

x
= θ -1

Por lo tanto


E[( ∂θ lnf(x;θ))2 ] = E[ xθ − 1]2

2
= E[ (x−θ)
θ2 ]

1 2
= θ 2 E[x-θ]

1 2
= θ 2 E[x − 2xθ + θ2 ]

1 2
= θ 2 [E(x ) − 2θE(x) + θ2 ]

5
1 2
= θ 2 [E(x ) − 2θ2 + θ2 ]

1 2
= θ 2 [E(x ) − θ2 ]

1
= θ 2 Var(x)

1
= θ2 θ

1
= θ

Por lo tanto

(r(θ))2
CICR(θ) = ∂
n.E[( ∂θ lnf (x;θ))2 ]

1
= n. θ1

θ
= n

31. Teniendo en cuenta el ejercicio 30 ¿ existe un UMVUE para θ ?

Solucion

si existe un UMVUE para θ . Debemos verificar la existencia del estimador para lo cual utilizamos el
metodo de maxima verosimilitud.

como X pois(θ), entonces su funcion de densidad esta dada:

e−θ θ x
fX (x, θ) = x! I(0,1,..) (x)

Luego
Qn
L(θ; x1 , ..xn ) = i=1 fXi (xi ; θ)

e−θ θ xi
Qn
= i=1 [ xi ! I(0,1,..) xi ]

−nθ xi Qn
e
Qn θ
= i=1 I(0,1,..) xi
i=1 xi

Tomando logaritno narural tenemos

−nθ xi Qn
Ln[L(θ; x1 , ..xn )] = Ln[ eQn θ
i=1 I(0,1,..) xi ]
i=1 xi

Pn Qn Qn
= Ln(e−nθ + Ln(θ i=1 xi
) − Ln( i=1 xi !) + Ln( i=1 I(0,1,..) xi )

6
Pn Qn Qn
= −nθ + ( i=1 xi )Ln(θ) − Ln( i=1 xi !) + Ln( i=1 I(0,1,..) xi )

ahora derivamos parcialmente con respecto a θ

∂ ∂
Pn Qn Qn
∂θ Ln[L(θ; x1 , ..xn )] = ∂θ [−nθ +( i=1 xi )Ln(θ) − Ln( i=1 xi !) + Ln( i=1 I(0,1,..) xi )]
Pn
xi
= −n + i=1
θ


si ∂θ Ln[L(θ; x1 , x2 , ...xn )] =0
Pn
xi
⇒ −n + i=1
=0
θb

Pn
xi
⇒ θb = i=1
n

⇒ θb = x

Luego por metodo se maxima verosimilitud se tiene que Θ


b =X

ahora calculamos la varianza de θb


Pn
xi
V ar(θ)
b = V ar( i=1
n )
Pn
= i=1 V ar( xni )

n
= n2 V ar(Xi )

1
= nV ar(Xi )

Como ya sabemos, X ∼ pois(θ), entonces Var(X) = θ, por lo tanto

1
V ar(θ)
b =
nV ar(X)

θ
= n

θ 1 θ
Notemos que V ar(θ)
b =
n, coincide con la cota de Cramer Rao nIθ = n

Si demostramos que el estimador


Pn
xi
Θ
b= i=1
n = Xn

es eficiente, demostraremos que Θb es un UMVUE ya que todo estimador eficiente es un UMVUE


/NOTA de la pag. 116 del texto guia)

La eficiencia del estimador esta dada por

1 θ
nIθ n
efθ (θ)
b = = θ
=1
V ar(θ) n

7
Asi
Pn
i=1 xi
Θ
b= = Xn
n

como un UMVUE para θ.

32. Si se asume el modelo gaussiano, ¿X̄n es un UMVUE para el promedio poblacional? ¿La varianza de
Sn2 ; es igual a la correspondiente cota de Cramer-Rao para los estimadores insesgados para la varianza
poblacional?

Solución:

Sea X N(µ, σ 2 ) con σ 2 conocido y nuestro parámetro de interés es µ y tenemos que:


 
(x−µ)2
− 21 σ2
fX (x, µ) = √1 e
σ 2Π

Primero hallemos la cantidad de información Iµ .

Por tanto hallaremos ln(fX (x, µ))


 !
(x−µ)2
− 21 σ2
ln(fX (x, µ)) = ln √1 e
σ 2Π

   
(x−µ)2
= ln √1 − ln(σ) − 1
2Π 2 σ2


Ahora calculamos ∂µ (lnfX (x, µ))

    
∂ ∂ (x−µ)2
√1 − ln(σ) − 1
∂µ (lnfX (x, µ)) = ∂µ ln 2Π 2 σ2

x−µ
= σ2

Luego podemos calcular Iµ


 2 

Iµ = E ∂µ lnfX (x, µ)

h i
x−µ 2

=E σ2

1
= σ 4 E((X − µ)2 )

Vµ (X)
= σ4

8
σ2
= σ4

1
= σ2

Como vemos no depende de µ

Calculamos la cota de Cramer-Rao.

1 1 σ
CICR = nIµ = n σ12
= 2n

La media muestral X̄n es un estimador insesgado de µ, dado que:

V (X̄)
V (X̄n ) = n

σ2
= n

Ası́ que la cota se alcanza y X̄n es un estimador insesgado de la varianza mı́nima.

33. Si se adopta el modelo gaussiano, y se asume que el promedio poblacional es conocido, ¿existe un
UMVUE para la varianza poblacional? ¿Qué ocurrirı́a si no se asume que el promedio poblacional es
conocido?

Solucion

Primero estudiaremos la cantidad de informacion para X ∼ N (µ, σ 2 ). Aqui µ es conocido.

Sabemos que la media de la distribucion es µ. queremos estimar θ = σ 2

Tenemos:
 
(x−µ)2
− 21
1 θ
fX (x, θ) = √ √
θ 2π
e

De manera que:
"  #
(x−µ)2
− 12
1 θ
Ln(fX (x, θ)) = Ln √ √
θ 2π
e

2
1 (x−µ)
= Ln( √12π ) − 12 Ln(θ) − 2 θ


Aplicamos ∂θ (Ln(fX (x, θ))

h 2
i
∂ ∂ 1 (x−µ)
∂θ (Ln(fX (x, θ)) = ∂θ Ln( √12π ) − 21 Ln(θ) − 2 θ

9
(x−µ)2 −θ
= 2θ 2

Consideremos la transformacion

(X−µ)2 −θ
Y = 2θ 2

⇒ 2θ2 Y = (X − µ)2 − θ

⇒ 2θ2 Y + θ = (X − µ)2

⇒ 2θ2 Y + θ = (X − µ)

⇒ 2θ2 Y + θ + µ = X
p
⇒X= θ(2θY + 1) + µ
√ p p
⇒X= θ (2θY + 1) + µ Sea (Z = (2θY + 1))

⇒X= θZ + µ

⇒X =µ+ θZ

Donde Z ∼ N (0, 1)
Asi Eθ (X − µ)2 = θ Lo que nos dice que Eθ (Y ) = 0

Ahora calculemos Iθ


Iθ = E{( ∂θ (Ln(fX (x, θ)))2 }

2
−θ 2
= E{( (x−µ)
2θ 2 ) }

= Vθ (Y )

2
−θ
= Vθ ( (x−µ)
2θ 2 )

1 2
= 4θ 4 Vθ (Z )

1 2
= 4θ 4 Vθ (Z )

2θ 2
= 4θ 4

1
= 2θ 2

Usando que Vθ (Z 2 ) = Eθ (Z 4 ) − Eθ (Z 2 )2 = 2, pues Eθ (Z 2 ) = 1 y Eθ (Z 4 ) = 3 con Z una normal


estandar.

1
por tanto Iθ = 2θ 2 .

10
Luego la cota de Cramer-Rao es:

1 1 2θ 2
CCR = nIθ = n( 2θ12 )
= n

Recordemos que

X =µ+ θZ, con Z ∼ N (0, 1). Asi Eθ ((X − µ)2 ) = θ y Eθ ((X − µ)4 ) = θ2 Eθ (Z 4 ) = 3θ2

consideremos, por otro lado, el estadistico

1
Pn
T = n j=1 (xj − µ)2

que es insesgado, pues

Eθ (T ) = Eθ ((X − µ)2 ) = θ

y ademas es de varianza minima, porque

 
n
2 1 X X
Eθ (T ) = 2  (Eθ ((Xj − µ)2 ) + E((Xi − µ)2 )E((Xj − µ)2 )
n j=1 1≤i6=j≤n

θ2
= n2 (3n + n(n − 1))

= (1 + n2 )θ2

y por tanto

Vθ (T ) = Eθ (T 2 ) − Eθ (T )2

= (1 + n2 )θ2 − θ2

2θ 2
= θ2 + n − θ2

2θ 2
= n

que es justo la cota de Cramer-Rao.

11
34. Determine la cota de Cramer-Rao para la varianza de los estimadores insesgados para el parámetro
de escala, basados en una muestra aleatoria de tamaño n de una población con distribución Gama.
¿Existe un UMVUE para el parámetro de escala?

Solución:

Primero hallemos
 2 

I(θ) = E ∂µ lnfX (x, µ)

Si X∼ Gamma(θ1 , θ2 ), entonces fX (x) es de la forma

θ
θ2 1 θ1 −1 −θ2 x
fX (x) = Γ(θ1 ) x e I(0,∞) (x)

Recordemos que:

θ1
E[X] = θ2

y
θ1
V[X] = (θ2 )2

Aplicamos ln(f(x;θ1 , θ2 ))

 θ

θ21 θ1 −1 −θ2 x
ln(f(x;θ1 , θ2 )) = ln Γ(θ1 ) x e

 θ

θ2 1
= ln Γ(θ1 ) + ln(xθ1 −1 ) + ln(e−θ2 x )

= ln(θ2θ1 ) − ln(Γ(θ1 )) + ln(xθ1 −1 ) + ln(e−θ2 x )

= θ1 ln(θ2 ) − ln(Γ(θ1 )) + (θ1 − 1)ln(x) − (θ2 x)

= θ1 ln(θ2 ) − ln(Γ(θ1 )) + (θ1 )ln(x) − ln(x) − (θ2 x)


Ahora hacemos ∂θ1 [ln(fX (x; θ1 , θ2 ))]

∂ ∂
∂θ1 [ln(fX (x; θ1 , θ2 ))] = ∂θ1 (θ1 ln(θ2 ) − ln(Γ(θ1 )) + (θ1 )ln(x) − ln(x) − (θ2 x))

Γ0 (θ1 )
= ln(θ2 ) − Γ(θ1 ) + ln(x)


Ahora hacemos ∂θ2 [ln(fX (x; θ1 , θ2 ))]

12
∂ ∂
∂θ2 [ln(fX (x; θ1 , θ2 ))] = ∂θ1 (θ1 ln(θ2 ) − ln(Γ(θ1 )) + (θ1 )ln(x) − ln(x) − (θ2 x))

θ1
= θ2 -x

θ1
=x- θ2

Calculamos la cota de Cramer-Rao para θ2


 2 

I(θ) = E ∂θ2 lnfX (x; θ1 , θ2 )

 2 
θ1
=E x− θ2

= V[X]

θ1
= (θ2 )2

Por lo tanto la cota de Cramer-Rao para θ2

1 1 θ1
CICR = nI(θ) = θ = n(θ2 )2
n (θ 1)2
2

Veamos si existe un UMVUE para θ2 . Para verificar la existencia del estimador utilizamos el método
de máxima verosimilitud.

Como Gamma(θ1 , θ2 ), entonces :

θ
θ21 θ1 −1 −θ2 x
fX (x) = Γ(θ1 ) x e I(0,∞) (x)

θ θ
θ2 1 θ1 −1 −θ2 x1 θ 1
L(θ1 , θ2 , x1 , ..., xn ) = Γ(θ1 ) x1 e I(0,∞) (x1 ), ..., Γ(θ2 1 ) xnθ1 −1 e−θ2 xn I(0,∞) (xn )

 θ

Qn θ2 1 θ1 −1 −θ2 xi
= i=1 Γ(θ1 ) xi e I(0,∞) (xi )

 θ

θ2 1
Qn Qn Pn Qn
θ1 −1 −θ2 xi
= i=1 Γ(θ1 ) i=1 (xi )e i=1
i=1 (I(0,∞)(xi ) )

Ahora

13
  θ
 
θ2 1
Qn Qn Pn Qn
θ1 −1 −θ2 xi
lnL(θ1 , θ2 ) = ln i=1 Γ(θ1 ) i=1 (xi )e i=1 (I
i=1 (0,∞)(xi ) )

Pn Pn Qn 
= nθ1 ln(θ2 ) + (θ1 − 1) i=1 xi − θ 2 i=1 xi − nln(Γ(θ1 )) + ln i=1 I[0,1](xi )

Pn Pn Pn
= nθ1 ln(θ2 ) + (θ1 ) i=1 xi − i=1 xi − θ2 i=1 xi − nln(Γ(θ1 )) + ln(x1 ) + .. + ln(xn )

Luego

∂ ∂
Pn Pn Pn
∂θ2 lnL(θ1 , θ2 ) = ∂θ2 (nθ1 ln(θ2 ) + (θ1 ) i=1 xi − i=1 xi − θ2 i=1 xi − nln(Γ(θ1 )))

nθ1 Pn
= θ2 − i=1 xi


Si ∂θ2 lnL(θ1 , θ2 ) =0

nθ1 Pn
⇒ − i=1 xi = 0
θb2

Pn
θ1 xi
⇒ = i=1
n
θb2

θ1
⇒ = xn
θb2

θ1
⇒ xn = θb2

Luego, el estimador de máxima verosimilitud para θ2 :

θ1
Θ
b2 =
Xn

es eficiente, demostraremos que Θ


b 2 esunU M V U E.Y aquetodoestimadoref icienteesunU M V U E.

La eficiencia está dada por:

1 θ1
nIθ n(θ2 )2
efθ (θb2 ) = = θ1 =1
V ar(θ)
b
n(θ2 )2

Ası́

θ1
Θ
b2 =
Xn

como un UMVUE para θ2 .

14
35. Teniendo en cuenta una muestra aleatoria de tamano n de una poblacion Uniforme en el intervalo

(0, θ), calcule Eθ {( ∂θ lnfx (x, θ))2 } y comparelo con la varianza del estimador insesgado para θ basado
en el máximo de la muestra. Se presenta alguna contradiccion

Solucion

Sea X ∼ U nif (0, θ), entonces:

fX (x) = θ1 I(0,θ) (x)

Luego:

ln(fX (x, θ)) = ln( θ1 )

= −ln(θ)

Calculemos ahora:

∂ ∂
∂θ Ln[fX (x, θ)] = ∂θ (−ln(θ))

= − θ1

Ahora calculamos Iθ


Eθ {( ∂θ lnfX (x, θ))2 }


Iθ = Eθ {( ∂θ lnfX (x, θ))2 }

= Eθ {(− θ12 )2 }

= Eθ ( θ12 )

1
= θ2

Calculamos la cota de Cramer-Rao

1
CCR = nIθ

1
= n( θ12 )

θ2
= n

Por otra parte calculamos la varianza del estimador insesgado para θ basado en el Xn,n de la muestra
.

sea

n+1
Tn = n Xn,n

15
Un estimador insesgado en el maximo de la muestra de la poblacion uniforme.

Como sabemos:

ny n−1
fXn,n (y) = θ n I(0,θ) y

Entonces:
R∞ ny(y)n−1
E(Xn,n ) = −∞ θn dy

luego
Rθ n(y)n
E(Xn,n ) = 0 θ n dy

n

= θn 0
y n dy

n+1
n y
= θ n [ n+1 ] |θ0

n θ n+1
= θ n [ n+1 ]

n
= n+1 θ (No es insesgado)

n+1
Pero como sabemos Tn = n Xn,n que si es insesgado para nuestra uniforme X ∼ U nif (0, θ) dado
que:

n+1

E(Tn ) = E n Xn,n

n+1
= n E(Xn,n )

n+1 n
= n · n+1 θ

=θ (es insesgado)

Calculemos ahora

E[( n+1 2
n Xn,n ) ]

Para calcular la varianza


2
(n+1)
E[( n+1 2 2
n Xn,n ) ] = E[ n2 Xn,n ]

(n+1)2 Rθ n(y)2 (y)n−1


= n2 0 θn dy

(n+1)2 n Rθ
= n2 θn 0
y n+1 dy

(n+1)2 Rθ
= nθ n 0
y n+1 dy

16
h i
(n+1)2 y n+2 θ
= nθ n n+2 |0

(n+1)2 1 n+2
= nθ n · n+2 θ

(n+1)2 1 n 2
= nθ n · n+2 θ θ

(n+1)2 2
= n(n+2) θ

Luego podemos calcular la varianza.

Vθ = E ( n+1 − {E ( n+1
 2
   2
n Xn,n ) n Xn,n ) }

(n+1)2 2
= n(n+2) θ − θ2

h i
(n+1)2
= n(n+2) − 1 θ2

Ahora comparando la varianza del estimador insesgado Tn de la muestra para θ con la cota de
Cramer-Rao, notamos una contradiccion en relacion de desigualdad de la cota de cramer-rao y la
varianza de Tn .

V (Tn ) ≥ CCR

Es decir:
h i
(n+1)2 θ2
V (Tn ) = n(n+2) − 1 θ2 ≤ CCR = n

Lo cual es absurdo ya que debe cumplirse lo siguiente:


h i
(n+1)2 θ2
V (Tn ) = n(n+2) − 1 θ2 ≥ CCR = n

17