3 - Estimadores de máxima

verossimilhança
Estimadores de máxima verossimilhança

O princípio de máxima versossimilhança é um dos procedimentos usados para se obter

estimadores. Consideremos uma população e uma variável aleatória X, relacionada a
essa população, com função de probabilidade (se X é uma variável aleatória discreta) ou
função densidade de probabilidade (se X é contínua) ƒ(x,θ), sendo θ o parâmetro
desconhecido. Retiremos uma amostra aleatória simples de X, de tamanho n, X 1,...,Xn, e
sejam x1,...,xn os valores efetivamente observados.

A função de verossimilhança L é definida por

  Se é uma variável aleatória discreta com função de distribuição p(x,θ), a função de

verossimilhança é dada por

que deve ser interpretada como uma função de θ. O estimador de máxima

verossimilhança de θ é o valor que maximiza L(θ;x1,...,xn).

Como encontrar o estimador de máxima verossimilhança

 Encontrar a função de verossimilhança;

 Aplicar a função ln;
 Derivar em relação ao parâmetro θ;
 Igualar o resultado a zero.
 Verificar que este estimador é ponto de máximo.

Exemplo 3.1: Seja X uma variável aleatória com distribuição Bernoulli(p). Tomemos
uma amostra aleatória X1, ..., Xn de X. Qual é o estimador de máxima verossimilhança
para p?

Como X Bernoulli(p), a função de probabilidade de X é

Desta forma, a função de verossimilhança é dada por

Para encontar o estimador de máxima verossimilhança para p, devemos encontrar o
valor de p para o qual a função de verossimilhança L(p;x 1,...,xn) é máxima. Aplicando a
função logaritmo natural (ln) na função de verossimilhança L(p;x1,...,xn), temos que

e, derivando em relação a p, segue que

Igualando o resultado a zero, obtemos que

É fácil verificar, utilizando o teste da segunda derivada que é realmente um

estimador de máxima verossimilhança para p.

Exemplo 3.2: Seja X uma variável aleatória com distribuição Poisson(λ). Tomemos
uma amostra aleatória X1, ..., Xn iid de X. Qual é o estimador de máxima
verossimilhança para λ?

Como X Poisson(λ), a função de probabilidade de X é

Desta forma, a função de verossimilhança é dada por

Ou seja,

Para encontrar o estimador de máxima verossimilhança para λ, devemos encontrar o

valor de λ para o qual a função de verossimilhança L(λ;x1,...,xn) é máxima.

Aplicamos a função logaritmo natural (ln) na função de verossimilhança L(λ;x 1,...,xn).

Desta forma, temos que
e, derivando em relação a λ, segue que

Igualando o resultado a zero, segue que

Neste caso, o possível estimador de máxima verossimilhança para o parâmetro λ é

. Basta verificar se este ponto é realmente um ponto de máximo. Para isto, vamos
calcular a segunda derivada de ln L(λ; x1,...,xn).

Portanto, concluímos que é um estimador de máxima verossimilhança para o

parâmetro λ.

Exemplo 3.3: Seja X uma variável aleatória com distribuição Normal com média μ e
variância σ2. Tomemos uma amostra aleatória iid X1,...,Xn de X. Qual o estimador de
máxima verossimilhança para θ=(μ,σ2)?

Como X N(μ,σ2), a função densidade de X é

Assim, a função de verossimilhança é dada por

Ou seja,

Para encontrar o estimador de máxima verossimilhança para  θ=(μ,σ2) devemos

encontrar os valores de μ e  σ2 para os quais a função de verossimilhança, L(μ,σ 2;
x1,...,xn), é máxima.
Para isso primeiramente aplicaremos a função ln,

Agora vamos derivar em relação a  μ:

Igualando o resultado a zero obtemos:

E então, o possível estimador de máxima verossimilhança da média populacional μ é .

Basta avaliar agora se realmente é ponto de máximo. Para isto,

Assim, concluimos que é realmente um ponto de máximo e, portanto, o estimador de

máxima verossimilhança para  μ é . Vamos agora encontrar o estimador de
máxima verossimilhança para a variância σ2. Para isso, derivamos a função em relação a
σ2:

Igualando a zero, temos que

Como

que, avaliado em é tal que

Portanto, o estimador de máxima verossimilhança para σ2 é , onde