Uvod u teoriju informacija

Na današnjem času…

Šta je zapravo informacija?

Čime se bavi teorija informacija?
Kako meriti količinu informacija?

Teorija informacija

Informacija Signal

• Informacija je saznanje preneto kroz prostor-vreme.

• Signal je fizički nosilac informacije.

Informacija Signal

Uvod u teoriju unformacija

Detaljnije... Druge definicije informacije:  Poruka koju je primalac prihvatio i razumeo  Podatak: činjenica na osnovu koje je moguće doneti zaključak. "statistički podatak"  Znanje prikupljeno studiranjem. iskustvom ili podučavanjem  Mentalni stimulans  Značenje  Znanje  Uvid Definicije informacije Uvod u teoriju unformacija .

.  Denuncijacija  Vest  Saopštenje vrha partije koje se ima pročitati na svim partijskim sastancima (obično o “bezbedonosnim pitanjima”)  Predanje  Prezentacija  Ono što auditor prikupi o organizaciji (dovoljno.Detaljnije. .. relevantno i korisno) Definicije informacije Uvod u teoriju unformacija . kompetentno...

dim) Definicije informacije Uvod u teoriju unformacija ..Detaljnije.... .  Rezultat procesiranja i organizacije činjenica čime se povećava količina znanja onoga ko ih prima  Mogućnost zaključivanja o uzroku posmatranjem posledice (vatra.

numerički. mišljenja na bilo kom medijumu i u bilo kom obliku. podataka. grafički. uključujući tekstualni. narativni ili audiovizualni”  Numerička mera smanjenja neizvesnosti nakon prelaska nekog sistema iz jednog stanja u drugo  Najkraći zapis koji treba dati Turingovoj mašini nakon čega bi ona mogla da reprodukuje datu sekvencu simbola Definicije informacije Uvod u teoriju unformacija . kartografski.Šta je informacija?  “Bilo kakva komunikacija ili predstava znanja u formi činjenica.

Informacija Uvod u teoriju unformacija .Informacija • Informacija je saznanje preneto kroz prostor-vreme.

tako da korisnik informacije može postati njen novi izvor Saznanje Uvod u teoriju unformacija . ono što saznajemo jeste istina koja nam je pre saznanja bila nedostupna  Saznanje se. može dalje preneti.Šta je saznanje?  Pod rečju “saznanje” možemo smatrati postupak uklanjanja nedoumice o stvarnom stanju nekog sistema  Drugim rečima. u vidu informacije.

Uvod u teoriju informacija Na današnjem času… Šta je zapravo informacija? Čime se bavi teorija informacija? Kako meriti količinu informacija? Teorija informacija .

Teorija informacija bavi se:  Definicijom mere količine informacija  Proučavanjem izvora informacija  Proučavanjem prenosnog kanala  Analizom granica koje optimalni sistem može dostići  Konstrukcijom prenosnog sistema što boljih performansi Predmet proučavanja Uvod u teoriju unformacija .

Pored toga. teorija informacija bavi se i:  Analizom mogućnosti zaštite tajnosti informacija  Analizom mogućnosti skladištenja informacija  Analizom sistema sa više korisnika koji međusobno sarađuju ili ne sarađuju Predmet proučavanja Uvod u teoriju unformacija .

ali i teorije projektivanja digitalnih elektronskih kola T I . poznat kao “otac teorije informacija”.Communication Engineering & Signal Processing Claude Elwood Shannon (1916 – 2001) Američki elektroinženjer i matematičar.

Communication Engineering & Signal Processing Bavio se on i drugim stvarima.. T I ..

bez obzira na kanal Postoji mogućnost da se kroz dati kanal prenos informacija obavi sa proizvoljno malom verovatnoćom greške – kapacitet kanala Početak. Uvod u teoriju unformacija .. pa se prenos informacija mora analizirati alatima teorije verovatnoće Postoji mogućnost da se prenos informacija značajno ubrza bez oštećenja..Početak teorije informacija Sve tehničke komunikacije u suštini su diskretne – teorema o uzorkovanju Izvor informacija generiše stohastički proces.

..Šenonov model komunikacionog sistema Smetnje IZVOR KODER IZVORA ZAŠTITNI KODER + ZAŠTITNI DEKODER DEKODER IZVORA KORISNIK Ekvivalentni izvor Kanal bez smetnji Ekvivalentni korisnik Prenosni medijum Grb teoretičara informacija. Uvod u teoriju unformacija .

Uvod u teoriju informacija Na današnjem času… Šta je zapravo informacija? Čime se bavi teorija informacija? Kako meriti količinu informacija? Teorija informacija .

Mera količine informacija 27. januara zagrmelo je nad Beogradom 28. PRIMER Uvod u teoriju unformacija . juna zagrmelo je nad Beogradom Manje verovatni događaj nosi veću količinu informacija.

PRIMER Uvod u teoriju unformacija .Mera količine informacija Prvi test je sledeće nedelje. Informacija koju pružaju dva nezavisna događaja jednaka je sumi informacija koju pruža svaki od njih pojedinačno. Na FTN je zabranjeno pušenje.

b]=P[a]*P[b]. Matematička definicija Uvod u teoriju unformacija . I(a) raste.Aksiome 1 I 2 zadovoljava sledeća definicija: I(a) = -log(P[a]) Smanjivanjem P[a]. Verovatnoća dva nezavisna dogaĎaja je P[a.

BIT Matematička definicija Uvod u teoriju unformacija .Baza logaritama u definiciji I(a) samo menja skalu 10 Hartley e Natural Unit .NAT 2 Binary Digit .

Primer: Primer: Ishod eksperimenta sa jednim novčićem nosi 1 bit informacije. ДИНАР Matematička definicija Uvod u teoriju unformacija .

.Objašnjenje.. S druge strane. ona je osnovni koncept digitalnih komunikacija. Usvojena definicija ne vodi računa o značenju koje neka informacija ima za korisnika usled njegovih predznanja (informacija koje je uskladištio pre prijema informacije o dogaĎaju a). Definicije informacije Uvod u teoriju unformacija .

Definicije informacije Uvod u teoriju unformacija .KOMENTAR Postoje i druge definicije.θ) predstavlja gustinu raspodele slučajne promenljive X sa nepoznatim parametrom θ koji se procenjuje. f(X. na primer: Fišerova informacija Varijansa nezavisnih događaja ima osobinu da se sabira.

Uvod u teoriju informacija Pauza! Predavanja: Prof. dr Vojin Šenk Animacija Branislav Popović Teorija informacija .

Sign up to vote on this title
UsefulNot useful