Metod najmanjih kvadrata

Uvod u Problem Pretpostavimo da imamo dvije promjenljive veliine: x i y. Tada razlikujemo dvije mogunosti. Prva je da se te dvije vrijednosti nezavisne, to znai da za neku oitanu vrijednost jednog parametra moemo oitati gotovo bilo koju vrijednost drugog parametra. Druga je da su zavisne, odnosno da se oitavanjem jedne vrijednosti moe odrediti vrijednost druge promjenljive. U ininjerskoj praksi, od interesa je druga mogunost. Naime, esto je vrlo korisno opisati funkcionalnom zavisnou odnos promjenljivih veliina. Meutim, u praksi je gotovo nemogue povui liniju izmeu svih izmjerenih rezultata, jer u sebi sadre greke (slika).

To se deava zbog nesavrenosti mjernih ureaja, promjenljivih uslova mjerenja, ljudskog faktora, i slino. Iz tog razloga neophodno je napraviti aproksimaciju. Naravno, cilj je da aproksimacija bude to blia zamiljenoj funkciji koja obuhvata idealne rezultate mjerenja, odnosno da aproksimirana funkcija to manje odstupa od realnih mjerenih rezultata. Prilikom realizacije te aproksimirane funkcije, moemo se voditi razliitim logikim i matematikim metodama. Jedan od njih je uslov da najvee rastojanje take od funkcije (po modulu) bude to je mogue manje, drugi je na primjer da suma odstupanja svih taaka od funkcije bude to manja. Ipak, u praksi se najee primjenjuje minimizacija kvadrata rastojanja taaka od funkcije, odnosno Metod najmanjih kvadrata, koji je i tema ovog seminarskog rada.

Istorijski osvrt Nacrt Metode najmanjeg kvadrata napravio je Gaus 1795. godine. Meutim, prvi put ga je objavio 1809., u svom traktatu o nebeskoj mehanici. Nezavisno od njega, na ovom problemu je radio i Leandr, koji ga je objavio 1805. Naravno, obojica su smatrala da imaju primat nad otkriem metoda, to je dovelo do meusobnih sukoba. Istina je da su na osnovu Gausovih prorauna jo 1801. astronomi uspjeli da ponovo lociraju novootkrivenu planetu Cereru, koja je nakon izvjesnog praenja bila zala u oblast izvan vidnog polja. Dokaz optimalnosti ovog metoda dao je Gaus tek 1829. godine, i danas je poznat pod nazivom Gaus-Markolijeva teorema.

Formalizacija Metoda

Najvjerovatnija vrijednost bilo koje veliine, koju odreujemo na osnovu ponovljenih rezultata mjerenja, je ona za koju je suma kvadrata odstupanja rezultata mjerenja od te vrijednosti najmanja. Uzmimo na primjer da je radi procjenjivanja neke tane vrijednosti y neke fizike veliine izvreno n ponovljenih mjerenja, sa rezultatima x i i=1,...,n. Pretpostavimo da mjerenja imaju normalnu raspodjelu, i da ne sadre grube greke. Prema principu najmanjih kvadrata, kao najvjerovatniju vrijednost za y uzimamo onu za koju suma kvadrata odstupanja:
S ( y )= ( x i y )2
i=1 n

ima minimum. Dobijamo je iz uslova minimuma funkcije S(y):

dS =2 (x i y )=0 dy i=1
n

kao:
1 y= x i= x n i=1
n