ЛЕКЦІЯ 13

Точкові оцінки невідомих параметрів.

Методи побудови точкових оцінок невідомих параметрів.

13.1 Задача оцінки невідомих параметрів вибраної параметричної моделі

Нехай закон розподілу генеральної сукупності належить множині { F ( x , θ́ ) : θ́ ∈Ѳ },
де функція розподілу відома, параметр θ або вектор параметрів θ́=(θ1 , θ2 , … ,θ n)
невідомий. Треба знайти оцінку невідомого параметра θ або вектора параметрів θ́ по
випадковій виборці ( X 1 , X 2 , … , X n) із генеральної сукупності X .
Наприклад, маса деталі X має нормальний закон розподілу, але його параметри
m=θ 1 і σ 2=θ2 невідомі. Треба знайти їх приблизне значення (оцінку) за результатами
( x 1 , x 2 ,… , x n) експерименту.
Існують два види оцінок невідомих параметрів: точкові й інтервальні оцінки.

13.2 Точкові оцінки невідомих параметрів. Конзистеційність і незсуненість

оцінки. Ефективність оцінки
Інтуїтивно зрозуміло, що за оцінку невідомого параметра θ можна прийняти
різні статистики. Наприклад, для точкової оцінки m=MX можна прийняти такі
статистики.

{
m
1 x (1 )+ x( n) x +x ,n парне
¿
X́ = ∑ x i ,θ ( X́ n ) =
n i=1 2
( )
; θ́ ( x́ n )= 2 ( n2 ) ( n2 +1) (13.2.1)
x n +1 , n−непарне
2

Яку з цих оцінок обрати? Потрібно дати відповідь на запитання: якими

якостями має володіти статистика θ(x^ 1 , x 2 , … , x n ) щоб вона була найкращою оцінкою
параметра θ.
^ x´n ) називають конзистеційною оцінкою параметра θ ,
Означення. Статистику θ(
якщо зі збільшенням об’єму вибірки вона збігається по ймовірності до параметру θ,
тобто

lim ¿ ¿ (13.2.2)
n→∞

або
→
θ^ n → ∞ P θ (13.2.3)

Конзистеційність оцінки важлива, бо неконзистеційна оцінка на практиці марна.

mn
Приклад. Відносна частота появи події A при випробуваннях Бернуллі є
n
конзистеційною оцінкою ймовірності p, так як з теореми Бернуллі (закон великих
чисел) випливає, що
1
 lim ¿ ¿
n→∞

Приклад. Нехай X =( X 1 , X 2 , … , X n ) – вибірка, де X k – має розподіл Пуассона з

невідомим параметром λ> 0. За оцінку λ виберемо статистику
n
1
X́ = ∑ X , M X́= 1n ∙ n MX =λ , D X́= n12 nDX = 1n DX
n k=1 k

За нерівністю Чебишова маємо:

→
D X́ λ
P (|X́ −λ|> ε ) ≤ = n→ ∞0
ε2 n ε2

Отже оцінка X́ параметра λ є конзистеційною .

На практиці доводиться оцінювати невідомі параметри і при малих об’ємах
вибірки.
Означення. Статистику θ( ^ X́ n) називають незсуненою оцінкою параметра θ ,
якщо її математичне сподівання співпадає з θ, тобто

M ( θ^ ( X́ n) ) =θ (13.2.4)

Величина M θ−
^ θ^ називається зсувом (або систематичною похибкою оцінки θ ).
Очевидно, що θ^ є незсуненою оцінкою параметра θ тоді й тільки тоді, коли зсув
дорівнює нулю.

^
θ=θ+b+ ξ (13.2.5)

θ^ – оцінка параметру θ , b – систематична похибка оцінки, ξ – випадкова похибка

(шум), Mξ=0 . Незсувність оцінки θ^ означає відсутність систематичної похибки.
n
1
Приклад. Однією із оцінок MX є середня вибіркова X́ = ∑ X i. Покажемо, що ця
n i=1
оцінка є незсуненою й конзистеційною.
n n
1 1 1
n i=1 n i=1 (n )
Розв’язання. M X́=M ∑ X i = ∑ MX i = ∙ nMX=MX , тобто оцінка є незсуненою.
n n
1 1 1 σ2
Знайдемо D X́=D ( ∑ X = ) DX
∑ i n2
n i=1 i n2 i =1
= n σ 2
=
n
За теоремою Чебишова
D X́ ⇒ | σ2 →
P (|X́ −M X́|>ε ) ≤
P ( X́−M X́ |> ε ) ≤ n → ∞ 0, оцінка є конзистеційною.
ε2 n ε2
Означення. Оцінка θ^ ( x́ n ) є асимптотично незсуненою, якщо вона збігається по
ймовірності до свого математичного сподівання, тобто

2
 lim ¿ ¿ (13.2.6)
n→∞

~
Припустимо, що маємо дві незсунені оцінки θ^ ( x́ n ) , θ ( x´n )параметру θ. Якщо
~
дисперсії D θ^ ( X́ n ) і D θ ( X́ n )задовольняють умові:
~
D θ^ ( X́ n ) ≤ D θ ( X́ n ) (13.2.7)
то треба обрати оцінку θ^ ( X́ n ), так як розсіювання статистики θ^ ( X́ n ) біля параметру θ
~
менше, ніж у статистикиθ ( X́ n ).
Означення. Якщо в деякому класі незсунених оцінок параметра θ, що мають
скінченну дисперсію, існує така оцінка θ́ ( X́ n ), що нерівність (13.2.7) виконується для
~
всіх оцінок θ ( X́ n ) цього класу, то оцінка θ́ ( X́ n ) є ефективною в даному класі оцінок.

13.3 Середнє вибіркове

n
1
Теорема. Оцінка X́ = ∑ X (середнє вибіркове) математичного сподівання
n i=1 i
генеральної сукупності X є незсуненою, конзистеційною та ефективною в класі всіх
n n

лінійних оцінок, тобто оцінок виду θ^ ( x́ n )=∑ α i X i, де ∑ α i = 1.

i =1 i=1

Доведення. Незсуненість і конзистеційність оцінок доведена раніше. Доведемо

ефективність оцінки.
n n n
1
Дисперсія D θ^ ( X́ n ) =D ∑ α i X i =∑ αi2 D X i=σ 2 ∑ α i2 має мінімальне значення при α i= n ,
i=1 i=1 i=1

i=1 , n, тобто коли θ ( X́ n )= X́ .

´ ^
n
Для пошуку умовного мінімуму функції g ( α 1 , α 2 , … , α n )=∑ α i2 за умовою, що
i=1
n

∑ αi=1 складемо функцію Лагранжа

i=1
n n
L ( α 1 , α 2 , … , α n ) =∑ α i2+ λ( ∑ α i−1), де λ−¿додаток Лагранжа.
i=1 i=1

Необхідна умова існування умовного екстремуму

∂L

{
=2 α i + λ=0 , i=1´,n
∂αi
n
∂L
=∑ α i−1=0
∂ λ i =1

1
Розв’язуючи цю систему, знаходимо α 1 ,=α 2=α n= n .

13.4 Вибіркова дисперсія

Означення. Оцінка
n
1
σ^ 2 ( X́ n )= ∑ ( X i− X́ )2 (13.4.1)
n i=1
3
 називається вибірковою дисперсією.
Теорема. Якщо X́ n – вибірка із генеральної сукупності X із дисперсією σ 2, то
2
вибіркова дисперсіяσ^ ( X́ n ) є зсуненою конзистеційною оцінкою дисперсії σ 2.
2 n−1 2 2
Можна показати, що M σ^ ( X́ n ) = n σ ≠ σ , тобто оцінка є зсуненою.
2 n−1 2 1 2
Величина зсуву σ − n σ = n σ .
Конзистеційність слідує із теореми Чебишова.
Означення. Статистика
n
1
2
S ( X́ n ) = ∑ ( X i− X́ )2 (13.4.2)
n−1 i=1

є незсуненою і конзистеційною оцінкою дисперсії σ 2. ЇЇ називають

виправленою вибірковою дисперсією.
Приклад. Покажемо, що оцінка (13.4.2) є незсуненою і конзистеційною оцінкою
дисперсії σ 2.
n 2 n−1 n−1 n 2 2
2
( ) 2
Розв’язання. M S ( X́ n )= n−1 σ^ ( X́ n ) = n M σ^ ( X́ n ) = n n−1 σ =σ , тобто оцінка є
незсуненою.
n2 →
D S 2 ( X́ n ) = 2
2
D σ
^ ( n ) ∞ 0, так як оцінка σ^ 2 ( X́ n ) є конзистеційною.
X́ n →
(n−1)

Означення. Статистика

n
S ( X́ n) =
1
√ ∑ (X − X́ )2
n−1 i=1 i
(13.4.3)

є незсуненою і конзистеційною оцінкою середнього квадратичного відхилення

σ . ЇЇ називають виправленим вибірковим середнім квадратичним відхиленням.
Вибіркова і виправлена вибіркова дисперсії пов’язані формулою:

n ^2
S2 ( X́ n ) = σ ( X́ n ) (13.4.4)
n−1

Зауваження. Можна показати, що вибіркові початкові і центральні моменти є

конзистеційними оцінками відповідних моментів генеральної сукупності, якщо вони
існують.

13.5 Метод моментів

Метод моментів є найбільш простим методом побудови точкових оцінок
невідомих параметрів. Був запропонований англійським статистиком К. Пірсоном у
1894 р.

4
 Нехай маємо вибірку X́ n=( X 1 , X 2 , … , X n ) із генеральної сукупності X́ зі щільністю
p X ( x , ϴ), де ϴ=¿ , … , ϴn ¿ невідомий вектор параметрів.
Треба знайти оцінку ϴ по виборці X́ n. Нехай для випадкової величини X існують
перші r моментів mk =MX k µk =M ( X− X́)k k=1 , r . Величини mk , µk є функціями невідомого
вектора параметрів ϴ , тобто mk =mk ( ϴ ) , µk =µk ( ϴ ) , k=1 , r .
Відомо, що вибіркові моменти :
^ k ( X n) і ^µk ( X n ) є конзистеційними оцінками відповідних теоретичних величин,
m
тому при великому об’єму вибірки, теоретичні моменти заміняють їх статистичними
аналогами.

^ k =mk ( ϴ ) , k=1 , r
m (13.5.1)

або

^µk =µk ( ϴ ) , k=1 , r (13.5.2)

Рівняння (13.5.1) або (13.5.2), як правило нескладні, їх рішення не визиває

ускладнень.
Приклад. Нехай випадкова величина Х має гама-розподіл зі щільністю
λ α x α −1 −λx

{
f (x,λ,α)¿ Г ( α )
e ,∧x >0
0 ,∧x ≤ 0
)

λ, α – невідомі параметри.

Г(α) = ∫ t α −1 e−t dt
0
Г ( α + 1 )=α Г (α )

Знайти їх оцінку методом моментів.

Розв’язання: Знайдемо
∞ ∞ 2 2 ∞
Г (α +1) α
m1=MX =∫ xf ( x ) dx=∫
−∞
∞
0
λ x −λx
Г (α )
∞
|
e dx= Г ( α +1 )=∫ ( λ x)α e−λx d (λ x)|=
0
∞
=
λ Г (λ) λ
λ 2 x 2+1 − λx 1 Г (α + 2) 1 ( α +1 ) α Г (α) α (α +1)
m2=MX 2=∫ x 2 f ( x ) dx =∫
−∞ 0 Г(α) |
e dx= Г ( α + 2 )=∫ ( λ x)α +1 e−λx d (λ x)|= 2
0 λ Г ( λ)
= 2
λ Г (α )
=
λ2

2 2 2 α +(α +1) α 2 α
DХ = MX −(MX ) =m2−m1= = 2= 2
λ2 λ λ
Нехай X n=( X 1 , … , X n ) – вибірка із генеральної сукупності X. По вибірці знаходимо
n n
^ 1 ( X n )= X= 1 ∑ X i , ϴ
m ^2 ( X́ ) = 1
n ∑ ( X ¿¿ i−X )2 ¿
n i=1 n i=1

MX= X
Згідно з методом моментів : DX =σ^2 (X )
n
{
5
 α

{ λ
=m
α ^2
λ2
^1

=σ

X X 2
Звідки λ= ^2 , α =
σ σ ( )
Оцінками невідомих параметрів будуть
X X 2
^λ ( X n )=
δ^2( X n )
; α^ ( X n )= ( σ^ ( X n ) )
Приклад: Нехай випадкова величина X розподілена за законом Пуассона з
невідомим параметром λ .
λ k −λ
P ( X=k )= e , k=0,1,2 , …
k!
Методом моментів, оцінити параметр λ.

Розв’язання: Згідно з законом Пуассона λ = МХ. Тому ^λ ( X n )= X

Ця оцінка є незсуненою, конзистеційною і ефективною в класі лінійних оцінок.

Приклад: Дана вибірка X́ n=( X 1 , X 2 , … , X n )із генеральної сукупності Х, яка

розподілена по рівномірному закону з невідомими параметрами a і b . Оцінити їх
методом моментів.
(b−a)2
Розв’язання: Відомо, що для рівномірного закону MX = a+b ; DX = . Тому:
2 12
a+b

{ 2
= X́
(b−a)2 ^2
12
=σ ( Xn)

Звідки a^ ( X n )= X−√ 3 σ^ ( X n ) , b^ ( X n )= X+ √ 3 σ^ ( X n )

13.6 Метод максимальної правдоподібності

Метод максимальної правдоподібності є найбільш універсальним методом

побудови оцінок невідомих параметрів, запропонований Р.Фішером.
Розглянемо функцію правдоподібності
n
L ( X 1 , … , X n ,θ ) =∏ p (X i ,θ) (13.6.1)
i=1

p(x, θ) – щільність ймовірності залежить від невідомого параметру θ або вектора

параметрів θ=(θ1 , θ2 , … ,θ n).
Означення: Оцінкою максимальної правдоподібності параметрів θ називають
статистику θ(^ X n) , значення якої для будь-якої вибірки X n задовільняє умові.
L ( X n , θ^ ) =max L(X n , θ) (13.6.2)
θ=θ

6
 Якщо функція L(X n , ϴ) диференційована, як функція аргумента θ , то максимум
L(X n , ϴ) досягається в точці, яка задовольняє рівнянню
∂ L( X n ,ϴ) ∂ ln L( X n ,ϴ)
=0 або =0 (13.6.3)
∂ϴ ∂ϴ
А максимум L(X n , θ) (коли θ=(θ1 , … , θn) )
∂ L( X n ,θ)
∂ θk
=0 , k =1 ,r (13.6.4)
Рівняння (13.6.3) або (13.6.4) називаються рівняннями правдоподібності.
Для найбільш важливих сімейств розподілів p(x,θ) рівняння правдоподібності
мають єдине рішення.
Приклад: Нехай випадкова величина X – час роботи прибору до відказу, яка
підкоряється експоненціальному розподілу з невідомим параметром λ. Оцінити його
методом максимальної правдоподібності.
Розв’язання: Відомо, що
−λx
p X ( x )= λe , x ≥ 0
{0 , x <0
Функція правдоподібності має вигляд n
n −λ ∑ X i
−λ X i n
L ( X 1 , … , X n , λ )=∏ λe =λ e i=1

i=1
n
lnL ( X 1 , … , X n , λ ) =nlnλ−λ ∑ X i
i=1

Рівняння правдоподібності мають вигляд

n
∂ ln L n
= −∑ X i=0
∂λ λ i=1
n
1
λ= (
∑ X =X
n i=1 i )
1
Так як MX = λ , то отримана відповідь виглядає зрозумілою.
Приклад. Для нормальної моделі N (θ1 , θ22 ) методом максимальної
правдоподібності оцінити параметри θ1 , θ2.
Розв’язання: Функція правдоподібності має вигляд
n n
1 1 1
L ( X n , θ1 , θ2 ) = ∏
i=1 θ2 √ 2 π
exp− 2 (X i −θ1)2 ¿ ¿=
2θ2 (θ 2 √ 2 π )
n
n
exp
(
−1
2∑
2 θ2 i =1
( X −θ1)2
)
1
lnL ( X n , θ1 ,θ 2 )=−nln √ 2 π−nln θ2− 2 ∑ ( X i−θ1 )2
2θ 2 i=1
Рівняння правдоподібності мають вигляд:
n
∂lnL 1

{ ∂θ 1 θ22 ∑
=

∂ lnL −n 1
∂θ 2
=
i=1
( X i−θ 1 )=0
n
+ 3 ∑ (X i−θ 1)2=0
θ2 θ2 i=1
Розв’язуючи систему, отримаємо:
n n
1 1
θ^1= ∑ X i= X , θ^2= ∑ ( X i− X)2= σ^2 ( x n)
n i=1 n i=1

7
Контрольні запитання
1. Постановка задачі оцінки невідомих параметрів генеральної сукупності.
2. Що називають точковою оцінкою невідомих параметрів?
3. Яку точкову оцінку називають незсуненою, асимптотично незсуненою?
4. Яку точкову оцінку називають конзистеційною?
5. Яка точкова оцінка є незсуненою, конзистеційною і ефективною в класі
лінійних оцінок для математичного сподівання?
6. Яка точкова оцінка для дисперсії генеральної сукупності є: а) зсуненою; б)
незсуненою? Чи є ці оцінки конзистеційними?
7. Опишіть метод моментів оцінки невідомих параметрів (ММ)
8. Опишіть метод максимальної правдоподібності (МП) оцінки невідомих
параметрів. Запишіть функцію максимальної правдоподібності. Запишіть
рівняння максимальної правдоподібності

Задачі для самостійного розвязку

1. Отримати МП-оцінку для параметра θ=p біноміального розподілу генеральної

сукупності X B(n , p), тобто для ймовірності успіху p в будь-якому з n
незалежних повторних випробувань, якщо в серії з n випробувань зафіксовано k
успіхів.
2. Для нормальної генеральної сукупності X N (m , σ 2) , знайти МП-оцінку
параметрів m , σ 2.
3. Нехай генеральна сукупність має рівномірний розподіл: X R(a ,b). Знайти
МП-оцінки параметрів a і b.
4.Знайти МП-оцінку параметра λ для генеральної сукупності X, розподіленої по
показниковому закону X E( λ),
5.Знайдіть МП-оцінку параметра λ для генеральної сукупності, розподіленої за
законом Пуассона.
6. Методом моментів знайти оцінки параметрів a і b, генеральної сукупності
X R(a ,b).
7. Методом моментів знайти оцінки параметрів λ і α , генеральної сукупності
X Г ( λ , α ).
8. 200 однотипних деталей були піддані шліфуванню. Результати вимірювання
наведені як дискретний статистичний розподіл, поданий у табличній формі.
xi (мм) 3,7 3,8 3,9 4,0 4,1 4,2 4,3 4,4
ni 1 22 40 79 27 26 4 1
Знайти точкові незсунені статистичні оцінки для МX, DX, σ .

9. Граничне навантаження на сталевий болт Xi , що вимірювалось в лаборатор-

них умовах, задано як інтервальний статистичний розподіл
Xi 4,5- 5,5- 6,5- 7,5- 8,5- 9,5- 10,5- 11,5- 12,5-
км/мм 5,5 6,5 7,5 8,5 9,5 10,5 11,5 12,5 13,5
2

ni 40 32 28 24 20 18 16 12 8
8
 Визначити точкові незсунені статистичні оцінки для МX i DX,σ .

10.Маємо такі дані про розміри основних фондів (у млн грн.) на 30-ти випадково
вибраних підприємствах: 4,2; 2,4; 4,9; 6,7; 4,5; 2,7; 3,9; 2,1; 5,8; 4,0; 2,8; 7,8;
4,4; 6,6; 2,0; 6,2; 7,0; 8,1; 0,7,; 6,8; 9,4; 7,6; 6,3; 8,8; 6,5; 1,4; 4,6; 2,0; 7,2; 9,1.
Побудувати інтервальний статистичний розподіл із довжиною кроку h=2 млн
грн. Знайти точкові незсунені статистичні оцінки для МX, DX, σ .

11.Дана вибірка: 3,7; 6,2; 5,2; 5,7; 6,2; 6,4; 4,7; 4,2; 6,7; 7,2; 5,2; 6,2; 4,7; 7,2; 5,2;
4,7; 5,7; 5,2; 4,7; 5,2; 5,7.
Знайти точкові незсунені статистичні оцінки для МX, DX, σ .

12.Дана вибірка: 40,25; 40,28; 40,31; 40,31; 40,31; 40,25; 40,34; 40,37; 40,40;
40,43; 40,45; 40,46; 40,25; 40,28; 40,31; 40,31; 40,31; 40,25; 40,34; 40,37; 40,40;
40,43; 40,45; 40,46.
Знайти точкові незсунені статистичні оцінки для МX, DX, σ .

Вибіркові дані представлені інтервальним статистичним розподілом. Знайти

точкові незсунені статистичні оцінки для МX, DX, σ .

Границі 1-3 3-5 5-7 7-9 9-11 11-13

інтервалі
в
Частоти 1 2 4 2 1 1
13.

14.

Границі 0-4 4-8 8-12 12-16 16-20 20-24

інтервалі
в
Частоти 1 1 3 2 1 1

Границі 5-7 7-9 9-11 11-13 13-15 15-17

інтервалі
в

9
 Частоти 8 14 40 20 6 4
15.

Границі 2-6 6-10 10-14 14-18 18-22 22-26

інтервалі
в
Частоти 1 2 5 5 2 1
16.

Границі 0-4 4-8 8-12 12-16 16-20 20-24

інтервалі
в
Частоти 6 7 15 8 4 5
17.

Границі 1-3 3-5 5-7 7-9 9-11 11-13

інтервалі
в
Частоти 4 5 10 7 5 4
18.

Границі 5-10 10-15 15-20 20-25 25-30 30-35

інтервалі
в
Частоти 10 12 20 16 8 4
19.
10
Границі 2-7 7-12 12-17 17-22 22-27 27-32
інтервалі
в
Частоти 2 5 10 7 3 3
20.

Границі 1-3 3-5 5-7 7-9 9-11 11-13

інтервалі
в
Частоти 1 3 7 2 1 1
21.

Границі 2-6 6-10 10-14 14-18 18-22 22-26

інтервалі
в
Частоти 2 4 8 4 1 1
22.

Границі 1-3 3-5 5-7 7-9 9-11 11-13

інтервалі
в
Частоти 2 4 8 4 1 1
23.

11
Границі 9-12 12-15 15-18 18-21 21-24 24-27
інтервалі
в
Частоти 1 4 11 4 4 1
24.

Границі 0-3 3-6 6-9 9-12 12-15 15-18

інтервалі
в
Частоти 5 7 11 10 4 3
25.

12