Professional Documents
Culture Documents
Wykady
Metody numeryczne
gwny nacisk idzie na aspekty algorytmiczne;
Analiza numeryczna
Koncentruj si na badaniu waciwoci algorytmw, ich
optymalnoci oraz wpywu arytmetyki zmiennopozycyjnej na jako
uzyskanych wynikw;
Matematyka obliczeniowa
Przede wszystkim analiza moliwoci mniej kosztownej i dokadnej
aproksymacji rozwiza zada matematycznych;
Obliczenia naukowe
nacisk na praktyczne zastosowania metod numerycznych,
symulacje, realizacje na komputerach o duej mocy obliczeniowej.
4
Metody numeryczne definicje
Dziedzina wiedzy zajmujca si problemami obliczeniowymi i
konstrukcj algorytmw rozwizywania zada matematycznych.
Z reguy zadania obliczeniowe postawione s w dziedzinie rzeczywistej
(lub zespolonej) i dlatego mw si o zagadnieniach matematyki cigej
(w odrnieniu od mat. dyskretnej).
Dzia matematyki stosowanej zajmujcy si opracowywaniem
metod przyblionego rozwizywania problemw matematycznych,
ktrych nie mona rozwiza metodami dokadnymi lub metody
dokadne posiadaj zbyt du zoono obliczeniow i s
praktycznie nieuyteczne.
Metody numeryczne wykorzystywane s wwczas gdy badany problem
nie ma w ogle rozwizania analitycznego (danego wzorami), lub
korzystanie z takich rozwiza jest uciliwe ze wzgldu na ich
zoono.
5
Metody numeryczne rozwizuj problemy matematyczne za pomoc
operacji na liczbach
W algorytmach numerycznych obiektami tj. danymi i wynikami s liczby
Otrzymywane wyniki s na og przyblione. Dokadno oblicze moe by z
gry okrelona i dobierana zalenie od potrzeb (przez kolejne przyblienia).
Gwnym celem metod numerycznych jest konstrukcja optymalnych
algorytmw (np. pod wzgldem wymaganej liczby operacji, lub pod
wzgldem dokadnoci uzyskiwanego wyniku) rozwizywania konkretnych
zada matematycznych.
Obliczenia numeryczne:
w celu uzyskania wyniku wykonuj dziaania na liczbach
Obliczenia symboliczne:
liczby reprezentowane s przez symbole (przeksztacaj symbole
zgodnie z matematycznymi reguami by uzyska symboliczny wynik)
Rozwizanie analityczne:
Dokadny wynik numeryczny lub symboliczny (moe wykorzystywa
symbole, np. tg(8), , 11.
Rozwizanie numeryczne:
Wynik przedstawiony numerycznie (moe by przybliony) np. 0,333 6
Metody numeryczne gdzie przydatne?
Rozwizywanie rwna nieliniowych
Szukanie miejsc zerowych wielomianw (powyej 4 stopnia brak
metod analitycznych)
Znajdowania wartoci i wektorw wasnych
Rozwizywanie ukadw rwna liniowych, nieliniowych dla duej
liczby rwna i niewiadomych
Rozwizywanie rwna rniczkowych i ukadw rwna
Dopasowywanie krzywej
Aproksymacja
Interpolacja
Cakowanie
Rniczkowanie
Inne (szybka transformata Fouriera, optymalizacja)
7
Metody numeryczne po co?
Dobrze dobrane metody numeryczne umoliwiaj (uatwiaj) symulacj
zjawisk rzeczywistych, tasz, bez ofiar
Przykady katastrof zwizanych ze zymi obliczeniami numerycznymi (rdo:
Fronczak, PW wykady):
Eksplozja wartej 500 milionw $ rakiety Ariane 5 w 30 sekund po starcie
z kosmodromu w Gujanie Francuskiej 4.06.1996
przyczyna: bdna konwersja 64-bitowej liczby zmiennoprzecinkowej na 16-
bitow liczb cakowit (overflow).
Zatonicie platformy wiertniczej Sleipner A na Morzu Pnocnym
23.08.1991 (1 miliard $)
przyczyna: niedokadno zamodelowania elementu konstrukcji za pomoc metody
elementw skoczonych
Tragedia w Dharan (Arabia Saudyjska, 21.02.1991) 28 ofiar
bd zaokrgle w zegarze systemowym komputera. Bd w pomiarze czasu, ktry w
momencie zaplanowanego strzau wynosi 1/3 s. Bd w okreleniu pozycji wynoszcy
687 metrw. System Patriot konstruowany by z zaoeniem, e w celu utrudnienia
lokalizacji nie bdzie dziaa w jednym miejscu duej ni 8 h.Armia izraelska
zidentyfikowaa ten bd oprogramowania ju przed feralnym dniem i 11 lutego 1991 r.
poinformowaa o nim producenta oprogramowania, jednak odpowiednia "ata" dotara
do Arabii Saudyjskiej dopiero 26 lutego, a wic 1 dzie po uderzeniu Scuda w
Dhahran.
Cechy charakterystyczne metod numerycznych:
obliczenia wykonywane s na liczbach przyblionych
rozwizania zagadnie te s wyraone liczbami przyblionymi
wielko bdu w procesie oblicze numerycznych jest kontrolowana
Konwergencja
okrela zdolno danej metody numerycznej do "zmierzania" w kierunku
wyniku, szukana jest metoda numeryczne z maksymaln konwergencj.
Przeciwiestwo konwergencji tzw. dywergencja - dla pewnych
specyficznych danych metoda numeryczne zamiast prowadzi do
wyniku, daje rezultaty coraz bardziej od wyniku odlege
Dokadno:
Okrelana najczciej przed rozpoczciem oblicze. Im dokadniejszy
wynik chce si otrzyma, tym wikszy czasu oblicze.
Dla niektrych metod wynik moe by uzyskany z dowolnie du
dokadnoci, lecz niektre metody daj wynik obarczony pewnym
staym bdem, zatem zwikszanie czasu oblicze nie pomaga.
Wany kompromis midzyczasem oblicze, ich dokadnoci oraz
uniwersalnoci metody. 9
Metody numeryczne musz uwzgldnia
Wielko pamici operacyjnej komputera
Szybko wykonywania operacji arytmetycznych i logicznych
Zakres liczb dopuszczalnych podczas oblicze
Przyjt (zakadan) dokadno szukanych rozwiza
Dokadno wykonywania podstawowych dziaa arytmetycznych na liczbach
rzeczywistych
Zwizana z bdami stosowanej reprezentacji danych w zapisie
komputerowym liczb
Bardzo wana jest analiza bdw oblicze numerycznych
Obliczenia numeryczne w praktyce
Dokadno maszynowa
Najmniejsza liczba wiksza od 0, ktra dodana do 1 daje wynik wikszy od 1.
Overflow
Gdy otrzymano liczb wiksz od najwikszej zapamitywanej przez maszyn.
Underflow
Gdy otrzymana liczba jest zbyt maa i zapamitywane jest zero.
NaN (Not a Number)
wynik nie jest liczb (np. : 100/0) 10
Algorytm
Cig skoczony operacji elementarnych prowadzcych do
otrzymania wektora wynikw z wektora danych.
Algorytm poprawnie sformuowany
Gdy jest skoczony tzn. zawsze daje si go zrealizowa w
skoczonej liczbie krokw.
Algorytm numerycznie stabilny
Gdy wynik dy do poprawnego rozwizania w miar zwikszania
precyzji, dokadnoci oblicze.
Wynik moe by przybliony, wystpuj bdy przyblienia
Niektre algorytmy obliczeniowe s bardzo czue na bdy
przyblie.
Szczeglnie widoczne w ukadach nieliniowych (np. pogoda na
Ziemi), Dokadne modelowanie zjawisk tego typu jest prawie
niemoliwe, nawet przy ogromnej mocy obliczeniowej.
11
Analiza bdw oblicze
Bd przyblienia w obliczeniach numerycznych
rnica pomidzy dokadn wartoci oraz liczb przyblion (np.
zmierzon) uyt w obliczeniach.
Bd przyblienia wyznaczany jako:
Bd bezwzgldny:
oznaczany greck liter (epsilon)
obliczany jako maksymalna niezgodno pomidzy wartoci przyblion i
pozbawion bdw.
Bd wzgldny
oznaczany greck liter (eta)
obliczany jako stosunek bdu bezwzgldnego do wartoci dokadnej lub
zmierzonej, czsto wyraony w procentach.
Bd przyblienia s nieuniknione m.in. ze wzgldu na
wystpowanie bdw pomiarowych:
Bdy pomiarowe s nie do uniknicia (kady przyrzd pomiarowy ma
okrelon klas dokadnoci) - zastosowanie bardzo kosztownych
technik metrologicznych zmniejsza bd do wartoci pomijalnych w
12
obliczeniach.
Rodzaje bdw w obliczeniach
Bdy danych wejciowych (np. danych wejciowych wielkoci
mierzonych), powstajce w wyniku np..:
niedoskonaoci pomiarw i/lub bdnych odczytw pomiaru,
brak moliwoci zapisu pewnych wartoci w postaci uamkw
skoczonych (liczby niewymierne).
Bdy zaokrgle
Bdy powstae w wyniku dziaa arytmetycznych na liczbach
rzeczywistych, w zwizku z przyjciem pewnej liczby cyfr (bitw)
znaczcych w trakcie oblicze, bdy zapisu danych w komputerze itp.
Przez odrzucenie: 3,1627 = 3,162
Przez zaokrglenie symetryczne: 3,1627 = 3,163
1 1 1
Bdy obcicia e x 1 x x2 x3
1! 2! 3!
Bdy metody - uzalenione od metody rozwizywania danego zadania.
Wiele oblicze to procesy nieskoczone, ktre zastpowane s
procesami skoczonymi, rozwinicia w szeregi i procesy iteracyjne
podczas oblicze musz by skoczone
wynik dokadny w metodach iteracyjnych dochodzi si po nieskoczonej 13
iloci powtrze a obliczenia trzeba w pewnym momencie zakoczy.
Liczby cakowite w maszynach cyfrowych
Zapis liczby cakowitej w maszynie cyfrowej
p
n znak
i 0
ei 2 i ei {0,1}
Jeeli na zapis liczby przeznaczone d bitw
pierwszy bit - znak, nastpne d-1 bitw - zapis liczby, czyli mona
zapisa liczb cakowit:
d 1 d 1
2 n2 1
Przykad w C#: 8-bitowe sbyte lub byte
sbyte : -27 n 27-1 -128 n 127
byte : 0 n 28-1 0 n 255
Liczby cakowite w swoim zakresie dla danego typu s
reprezentowane w maszynie cyfrowej dokadnie. Przy
przekroczeniu zakresu dla danego typu generowane s bdne
rozwizania.
14
Typy cakowite w C#
15
Liczby rzeczywiste repr. staoprzecinkowa
Liczba rzeczywista w systemie staopozycyjnym ma posta:
x = znak liczby |cz cakowita | , |cz uamkowa
Przykady
+123,125 po zamianie binarnej: +1111011,001
Staoprzecinkowe w zapisie 8.8 oznaczajcym 8 bitw czci
cakowitej (w tym bit znaku) i 8 bitw czci uamkowej
liczba 0001 0100 1100 0000 = 1*24 + 1*22 + 1*2-1 + 1*2-2 = 20.75
Staoprzecinkowe w zapisie 1.15 oznaczajcym 1 bit czci
cakowitej (to bit znaku) i 15 bitw czci uamkowej
liczba 0001 0100 1100 0000 = 1*2-3 + 1*2-5 + 1*2-8 + 1*2-9
16
Liczby rzeczywiste repr. zmiennoprzecinkowa
Reprezentacja zmiennoprzecinkowa
x m2 c gdzie: m mantysa, c cecha
MANTYSA: m e i 2 i
i 1 musi by przechowywana na skoczonej liczbie
Mantysa w komputerze
bitw, dla t bitowej mantysy
t
mt
i 1
ei 2 i e (t 1) 2 t
Wystpuje bd zaokrglenia mantysy
t
m mt m i 1
i
ei 2 i 1
ei 2 i
ei 2
i t 1
i
2 i
i t 1
1
m 2 t 1
i
2 2 t 1
1
2 t
i 1 1
2 17
Przykady liczb zmiennoprzecinkowch
x = znak liczby |mantysa |znak cechy |cecha
x=0|1110|011
1 1 1 1 1 120 121
x 1 1 1 2 1 3 0 4 2 0.875 23 7.00
2 2 2 2
x=0|1111|011 1 bit zmieniony
1 1 1 1 1 120 121
x 1 1 1 2 1 3 1 4 2 0.9375 23 7.50
2 2 2 2
18
Przykady liczb zmiennoprzecinkowch
Jak przedstawi liczb x=7.25 w repr. 8-bitowej 5 bitw mantysy
(w tym znak), 3 bity cechy (w tym znak)
cecha: 23 i mantysa m=7.25/8=0.90625
reprezentacja dwjkowa mantysy:
4
m ei 2 i 1 1 1 1
0.90625 e 1 e 2 2 e 3 3 e 4 4
i 1 2 2 2 2
Jakie ei? 1 1 1
1.8125 e 1 e 2 e 3 2 e 4 3 e 1 1
2 2 2
1 1 1
0.8125 e 2 e 3 2 e 4 3
2 2 2
1 1
1.625 e 2 e 3 e 4 2 e 2 1
2 2
1 1 1
0.625 e 3 e 4 2 1.25 e 3 e 4 e 3 1
2 2 2
1
0.25 e 4 .5 e 4 e 4 0
2
19
Przykad cd.
Przy omiu bajtach dla zapisu liczb rzeczywistych liczb midzy
7.00 i 7.50 inne wartoci nie s rozrniane. Wynika to z bdu
mantysy:
2-4=0.0625, maksymalna cecha 8, czyli 0.0625*8=0.5
Bd wzgldny: Wynik:
x przyb x
7,25 7
0,0357 x przyb x 1
x 7
Maksymalny bd wzgldny:
x przyb x 7,25 8
0,0625
x 8
20
double
8 byte, cecha 11 bitw
Bd wzgldny reprezentacji:
2 52
10 15.65
okoo 15 do 16 cyfr znaczcych dokadnie.
Zakres reprezentowanych liczb:
c min 210
c max 210 1
21025 x 21023
3.6 10 308 x 0.9 10 308
21
Bdy obliczeniowe
Bdy obliczeniowe powstaj na skutek niedoskonaoci
algorytmu obliczeniowego. Liczby rzeczywiste w komputerach
przestawia si zawsze ze skoczon precyzj (bdy zaokrgle).
Bdy numeryczne ulegaj czsto sumowaniu, co wprowadza
znaczne niedokadnoci stosowanych przyblie
Komputer przetwarza wewntrznie dane w ukadzie dwjkowym,
a komunikuje si ze wiatem zewntrznym w ukadzie
dziesitnym, konieczno konwersji. Stosowane s reprezentacje:
Liczby staoprzecinkowe (staopozycyjne), ang. fixed-point numbers
Liczby zmiennoprzecinkowe (zmiennopozycyjne), ang. floating point
numbers
22
Bd zaokrglenia
Nieskoczone reprezentacje dziesitne
Dokadnie mona zapisa tylko liczby cakowite i wymierne.
Liczby niewymierne zapisywane s z bdem, przy uyciu
skoczonej liczby cyfr.
Przykad 2 1,414213562373095...
Uywajc 4 miejsc znaczcych
x 1,414
Bd zaokrglenia
e 2 - x 0,000213562373095...
Nieskoczone reprezentacje binarne skoczonych reprezentacji
dziesitnych,
Np.:( 0.1 )10 = ( 0.000110011001100110011001100 ... )2 =
0.09999999 ...
(0.000110011)2 -> 0.099609375
23
Lemat Wilkinsona
Bdy zaokrgle powstajce podczas wykonywania operacji
zmiennopozycyjnych s rwnowane zastpczemu zaburzeniu
liczb, na ktrych wykonujemy operacje
Bdy wzgldne zaokrgle:
Mnoenia
Dzielenia
Dodawania (odejmowania)
24
Przyblione rozwizywanie rwna nieliniowych
Rozwizywanie rwnania postaci f(x) = 0 (wyznaczanie
pierwiastkw) jest czsto wystpujcym w praktyce zagadnieniem
Przyblione (numeryczne) rozwizanie czsto jest wystarczajce
lub jedyne moliwe
Dla wielu funkcji f nie s znane sposoby analitycznego (np. rwnania
algebraiczne stopnia wyszego ni 4) wyznaczenia pierwiastkw
rwnania f(x) = 0. Czsto rozwizanie analityczne jest trudne,
czasochonne lub niemoliwe.
W wielu przypadkach wystarczajce jest uycie szybszych metod
przyblionych.
Czsto wspczynniki f s przyblione - dokadne rozwizywanie f(x) =
0 pozbawione wtedy sensu
Bd wyznaczenia pierwiastkw jest z gry okrelony tzn. mona
wyznaczy rozwizania z zadan dokadnoci
25
Metody rozwizywania rwna nieliniowych
Wikszo metod rozwizywania rwna nieliniowych (wyznaczanie
pierwiastkw) odbywa si w zadanym przedziale [a, b] tzw.
przedziale izolacji pierwiastka, w ktrym wiemy, e znajduje si
pojedynczy pierwiastek rwnania f(x) = 0
Dla rwna algebraicznych istniej metody analitycznego izolowania
pierwiastkw
Metody przyblionego wyznaczania pierwiastkw:
Metoda bisekcji (poowienia, rwnego podziau)
Metoda Newtona (stycznych)
Metoda regula-falsi
Metoda siecznych (oparta o regula-falsi)
Metoda punktu staego
Metody te pozwalaj wyznaczy pierwiastki z zadan dokadnoci
26
Rwnania nieliniowe z jedn niewiadom
Twierdzenie
Jeeli funkcja f(x) jest okrelona i ciga w
danym przedziale [a,b] i zmienia znak na
kocach tego przedziau tzn. f (a) f (b) 0 to w
przedziale [a, b] znajduje si co najmniej jeden
pojedynczy pierwiastek. Przedzia [a,b], w
ktrym znajduje si pojedynczy pierwiastek
rwnania nosi nazw przedziau izolacji
pierwiastka.
Problemy:
gdy f (a) f (b) 0 moe istnie wicej ni 1
pierwiastek w [a, b]
gdy f (a) f (b) > 0 moe istnie pierwiastek w [a, b]
27
Metoda bisekcji
Niech dana jest funkcja f(x) . Metod bisekcji (poowienia) do
rozwizania rwnania f(x) = 0 w [a, b], stosuje si gdy:
Funkcja f(x) jest okrelona i ciga w przedziale [a, b]
Rwnanie f(x) = 0 ma w przedziale [a, b] co najmniej jedno rozwizanie
to zachodzi gdy f(a)f(b) < 0 co oznacza, e warto funkcji f zmienia
znak w tym przedziale, ma rne znaki na kracach przedziau [a, b].
Algorytm:
W kadej iteracji i oblicza si ci - rodek przedziau <ai-1,bi-1> (a0 = a, bo
= b). Nastpnie sprawdza si, w ktrym z podprzedziaw (ai-1, ci) oraz
(ci,bi-1) ley miejsce zerowe i ten przedzia podlega dalszemu dzieleniu.
ai 1 bi 1
ci
2
ai 1 , ci gdy f ai 1 f ci 0
ai , bi ci , ci gdy f ai 1 f ci 0
c , b gdy f ai 1 f ci 0
i i 1 28
Metoda bisekcji cd.
Poowienie jest wykonywane a do momentu, w ktrym osignita
zostanie zakadana dokadno
wyznaczenia rozwizania
1
bn an n (b a )
2
Warunek kocowy, Dugo analizowanego przedziau mniejsza od
wartoci
W kolejnych iteracjach lewe koce cigu przedziaw tworz cig
niemalejcy i ograniczony z gry a prawe koce cig nierosncy i
ograniczony z dou. Z tego wynika, e istnieje wsplna ich granica.
Prawdziwe rozwizanie f(x) = 0 oznaczmy. Bd przyblionego
rozwizania w n-tej iteracji:
1
cn n (b a )
2
Zalety:
Metoda prosta
29
Zawsze mona osign dan dokadno
Wady metody bisekcji
Wolna zbieno
Gdy blisko waciwego pierwiastka zbliamy si do niego coraz
wolniej
Problemy:
Brak zmiany znaku a jest pierwiastek
30
Metoda Newtona (stycznych)
W metodzie tej zakada si, e funkcja f posiada cig co najmniej
pierwsz pochodn i znane jest pierwsze przyblienie pierwiastka x0
Iteracyjnie wyznacza si warto (kolejne przyblienia rozwizania):
f xi
xi 1 xi
f ' xi
Obliczenia kocz si, gdy bd metody jest zadowalajco may:
xi xi 1
lub wykonano zadan ilo iteracji
Bd: f ( xn )
xn 1
f ' ( xn )
Uwaga: bdny dobr wartoci pocztkowej x0 moe spowodowa
brak zbienoci metody
Jedna z najszybciej zbienych metod.
Szybsza zbieno, ale dodatkowo trzeba wyznacza pochodn. W
niektrych przypadkach wyznaczenie pochodnej jest skomplikowane i 31
zastosowanie tej metody nie jest opacalne.
Metoda Newtona cd
34
rdo: Zakrzewska wykady AGH
Metoda regula-falsi cd.
Pierwsze przyblienie x1, wyznaczone przez ciciw (sieczn)
przechodzc przez A i B
x0 0, x1 b
b a f b
f b f a
xi 1 xi
b xi f xi
f b f xi
rdo: Zakrzewska wykady AGH
Nastpne iteracje wyznaczaj kolejne przyblienia pierwiastka
ustalone jako punkty przecicia odpowiednich siecznych (czcych
B i odpowiednie punkty) z osi OX a do znalezienia rozwizania o
okrelonej dokadnoci
Mona wykaza, e przy przyjtych zaoeniach cig x1, x2, xn jest
rosncy i ograniczony a wic zbieny. Jego granic jest szukany
pierwiastek czyli f()=0
Bd: f ( xn )
xn 1 35
f '(x )
Metoda regula-falsi a metoda siecznych
Wad metody regula-falsi jest jej stosunkowo wolna zbieno.
Mona poprawi zbieno, przy rezygnacji z zaoenia, e
funkcja f(x) ma w punktach wytyczajcych nastpn ciciw
rne znaki (z wyjtkiem pierwszej iteracji).
tak zmodyfikowana metoda regula-falsi to metoda siecznych
Wad metody siecznych jest to, e moe nie by zbiena do pierwiastka
(np. gdy pocztkowe przyblienia nie le do blisko pierwiastka).
Dodatkowo cig przyblie powinien by malejcy (jeeli odlego
pomidzy kolejnymi przyblieniami jest tego samego rzdu co
oszacowanie bdu, jakim jest obarczona, to nastpne przyblienie
moe by cakowicie bdne).
Obowizuje wzr na zmiany w iteracjach:
xi 1 xi
xi xi 1 f xi
f xi f xi 1
36
rdo: Zakrzewska wykady AGH
Metoda iteracji prostej Banacha
2 etapy:
Przeksztacenie rwnania f(x) = 0 do rwnowanej postaci x = g(x)
Takie przeksztacenie jest zawsze wykonalne np. dodajc x do obu stron
rwnania f(x)=0) i zazwyczaj mona je wykona na kilka sposobw
Naley wybra takie przeksztacenie, aby proces wyznaczania pierwiastka by
zbieny, to zachodzi gdy |g(x)|<1 gdzie x naley do przedziau izolacji
g ' ( x) q 1
x a ,b q
Warunek kocowy:
x x
k k 1
37
Metoda iteracji prostej - zbieno
Kiedy rozbiena? (przypadki)
38
Przykadowe ukad rwna nieliniowych
5 2 2 4 2 16 0
x y z 1 x 2
2 2
4 x 25 y 2 z 25 0 1,3 y 5
2 2 2 z 5,6
3 x y 4 z 0
f ( x , x ,, x ) 0 x 2 g ( x , x ,, x )
2 1 2 n
2 1 2 n
f n x1 x2 xn x n g n x1 x2
( , , , ) 0 ( , , , xn)
k 1 k k k
x1 g1 x1 x 2
( , , , xn )
k 1 k k k
x
2 g 2
( x 1 , x 2 , , x n )
k 1 g ( x , x , , x )
k k k
xn n 1 2 n
1 i n max q 1
i
k 1
x x
k
xG q x
j 1 j
g ( x)
n
1 i n max i
q 1 40
xG q x
i 1 j
Metoda Newtona-Raphsona rozwizywania ukadw
rwna nieliniowych
f ( x , x ,, x ) 0
1 1 2 n
f ( x , x ,, x ) 0
1 2 n
2
f n x1 x 2
( , , , xn) 0
Funkcja fk(x) jest rozwijana w szereg Taylora w otoczeniu punktu x(j) (pomijamy wysze rzdy):
f1 ( j) f1 ( j)
f1 ( x ( j ) ) ( x1 x1 ) ... ( x n xn )0
x1 x x( j )
xn x x( j )
f 2 ( j) f 2 ( j)
f2 (x )
( j)
( x1 x1 ) ... ( xn xn )0
x1 x x( j )
xn x x( j )
f 2 ( j 1) ( j) f 2 ( j 1) ( j)
f2 ( x( j) ) ( x1 x1 ) ... ( xn xn )0
x1 x x( j )
xn x x( j )
f x ( j ) J x ( j ) ( x ( j 1) x ( j ) ) 0
Gdzie J -jakobian
42
Metoda Newtona-Raphsona rozwizywania ukadw
rwna nieliniowych
Uproszczony zapis macierz Jacobiego:
f1 f1 f1
x . .
x2 xn
1
f 2 f 2
. .
f 2
x1 x2 xn
J (x ( j) )
. . . . .
. . . . .
f n f n f n
x . .
1 x2 xn x x ( j )
W postaci macierzowej
f x ( j ) J x ( j ) ( x ( j 1) x ( j ) ) 0
Rozwizanie x x ( j 1) ( j)
J 1 x ( j ) f x ( j )
Warunek kocowy:
( j 1 )
x x ( j ) oraz f ( x) ( j ) 43
Rozwizywanie ukadw rwna liniowych metoda Gaussa
Dany ukad rwna: a11 x1 a12 x2 ...a1n xn b1
a x a x ... a x b
21 1 22 2 2n n 2
...
an1 x1 an 2 x2 ... ann xn bn
ai1
Dla i-tej iteracji: mnoymy pierwszy wiersz przez a i odejmujemy od i-
11
tego wiersza dla i=2,3..n.
1 KROK: a11 x1 a12 x2 ... a1n xn b1 1 ai1
1 aij aij a1 j
a22 x2 ...a21n xn b21 a11
ai1
... 1
bi bi b1
an12 x2 ...ann
1
xn bn1 a11
1 1 1 1 2 ai21 1
1
a22 x2 a23 x3 ... a2 n xn b2 aij aij 1 a2 j
2 a22
a33 x3 ... a3 2n xn b3 2 1
2 1 ai 2 1
... bi bi 1 b2
a22
an 23 x3 ... ann
2
xn bn 2 44
Rozw. ukadw rwna liniowych metoda Gaussa cd.
Ostateczny efekt:
a11 x1 a12 x2 a13 x3 ... a1n xn b1
1 1 aik k 1 k 1
a22 x2 a23 x3 ... a21n xn b2 1 k
aij aij k 1
k 1 a kj
2 a kk
a33 x3 ... a3 2n xn b3 2 k 1
a
... bi bi ik k 1 bk k 1
k k 1
n 1 a kk
ann xn bn n 1
bn( n )
b
i
(i )
ij x j
a (i )
j i 1
xn ( n ) , xi i n 1, n 2, ..., 2, 1
(i )
a nn a ii
45
Rozw. ukadw rwna liniowych metoda Gaussa-Jordana
Dany ukad rwna:
a11( 0) x1 a12( 0) x2 ... a1(n0) xn a10( 0)
(0)
a21 x1 a22
(0)
x2 ... a2( 0n) xn a20
(0)
...
an( 01) x1 an( 02) x2 ... ann
(0)
xn an( 00)
...
aij(1) aij ai1 a1(1j)
an(12) x2 ... ann
(1)
xn an(10)
dla i 2, 3, ... , n;
j 1, 2, ..., n, 0
46
Rozw. ukadw rwn. liniowych metoda Gaussa-Jordana cd
Drugie rwnanie dzielimy przez a22(1). Nastpnie od i-tego rwnania
(i=1,3,...,n) odejmujemy przeksztacony wiersz drugi pomnoony przez
ai2(1). Otrzymujemy ukad rwna:
gdzie:
x1 a x ... a x a
( 2) ( 2) ( 2)
13 3 1n n 10
a 2(1j)
x2 a 23
( 2)
x3 ... a 2( 2n) xn a 20
( 2)
a 2( 2j) (1)
dla j 2, 3, ..., n, 0
a 22
( 2)
a33 x3 ... a3( 2n) xn a30
( 2)
...
aij( 2) aij(1) ai(21) a2( 2j)
a n( 23) x3 ... a nn
( 2)
xn a n( 20)
dla i 1, 3, ... , n; j 2, 3, ..., n, 0
... ... ... ... ... ... ... ... ... ... ... ...
a
n1 a n2 ... a nn l l
n1 n 2 ... l nn 0 0 ... 1
2 KROK: Rozwizanie ukadu rwna L (UX) B L Y B
l11 y1 b1 b1
y1 i 2,3,..., n
l y l y b2 l11
21 1 22 2
... 1 i 1
yi bi lij y j
ln1 y1 ln 2 y2 ... lnn yn bn lii j 1 48
Rozwizywanie ukadw rwna liniowych metoda LU cd.
3 KROK: Rozwizanie ukadu rwna UX Y
x1 u12 x2 ... u1n xn y1 xn
yn
i n 1, n 2,...,1
x2 ... u2 n xn y2 unn
... 1 n
xi yi uij x j
unn xn yn uii j i 1
Dekompozycja macierzy A na L i U:
l11 0 ... 0
k 1
l l 22 ... 0 lik a ik lip u pk
L 21
p 1
... ... ... ...
li1 a i1
l n1 l n 2 ... l nn
k 1
akj lkp u pj
1 u12 ... u1n p 1
0 1 ukj
... u 2 n lkk
U
... ... ... ... a1j
u1 j
0 0 ... 1 a11 49
Interpolacja
Zaoenie:
W przedziale [a,b] danych jest (n+1) rnych punktw x0, x1, , xn
(x0 = a < x1 < < xn-1 < xn=b), tzw. wzw interpolacji, oraz wartoci
pewnej funkcji y = f(x) w tych wzach: f(xi) = yi dla i = 0, 1, ..., n.
Nie jest znana posta funkcji cigej y=f(x) tylko dyskretne wartoci
Zagadnienie interpolacji:
Funkcja interpolujca F(x) przechodzi przez wszystkie punkty
pomiarowe tzn. w wzach interpolacji musi przyjmowa takie same
wartoci F(xi) = f(xi) = yi dla i = 0, 1, ..., n.
Waciwe zadanie to wyznaczenie przyblionych wartoci funkcji w
punktach porednich nie bdcych wzami oraz oszacowanie bdu
tych oszacowanych wartoci
Szukana jest funkcja F(x), zwana funkcj interpolujc, ktra bdzie
przyblia funkcj f(x) w przedziale [a,b]. Istnieje nieskoczenie
wiele funkcji interpolacyjnych. Do ustalenia F(x) konieczne przyjcie
rodzaju funkcji interpolujcej.
50
Interpolacja zastosowania
Interp. stosuje si dla niewielkiej liczby punktw pomiarowych
Stosuje si czsto kilka funkcji przybliajcych, gdy znalezienie jednej
funkcji dla wikszej liczby punktw jest trudne lub niemoliwe
Interpolacja suy do wyznaczenia (oszacowania) wartoci
funkcji w punktach porednich.
Zastpuje funkcje skomplikowane np. prostymi wielomianami
Prowadzenie gadkich krzywych lub powierzchni przez punkty
pomiarowe lub z symulacji (funkcje sklejane).
Interpolacja to punkt wyjcia dla innych oblicze numerycznych
tj.:
Znajdowanie miejsc zerowych funkcji, Rniczkowanie i cakowanie
numeryczne.
Zastosowania inynierskie: interpolacja jest stosowana przy
obrbce wynikw bada dowiadczalnych, np. przy
zagadnieniach identyfikacji waciwoci materiaowych 51
Rodzaje interpolacji
Przeprowadzenie interpolacji wymaga przyjcia pewnej z
gry zaoonej postaci poszukiwanej funkcji. Stosowane s
interpolacje:
bezporednia
wielomianowa Newtona (liniowa, kwadratowa, szecienna)
wielomianowa Hermitea - interpolacja, w ktrej oprcz zadanych
wartoci funkcji w wzach s zadane wartoci pochodnych do rzdu
m wcznie (m>0).
wielomianow Lagrangea
wielomianowa Czebyszewa
trygonometryczn (np. szeregami Fouriera)
funkcjami sklejanymi (ang. splines)
52
Interpolacja wielomianowa - bezporednia
Szukany wielomian:
n
Wn x ao a1 x a 2 x 2 ... a n x n a k x k
k 0
Zadanie interpolacji wielomianowej:
Wn ( xk ) yk dla k = 0,1,....,n
Dla n+1 wzw otrzymujemy ukd n+1 rwna z n+1 niewiadomymi wsp. a0, ,an:
ao a1 xo a x ... a x yo f ( xo )
2
2 o
n
n o
ao a1 x1 a x ... a x y1 f ( x1 )
2
2 1
n
n 1
..................................................
ao a1 xn a x ... a x y n f ( xn )
2
2 n
n
n n 53
Interpolacja wielomianowa - bezporednia
Macierzowy zapis ukadu n+1 rwna
1 xo ... xon a0 y0
n y
1 a
x1 ... x1 1 1
.. ... ... ... ... ...
Macierz
n
Vandermondea 1 xn ... xn an y n
Wartoci w wzach
Szukane wspczynniki
Wyznacznik
1 xo ... x
n
o
macierzy Ukad rwna ma dokadnie
n Vandermondea jedno rozwizanie
1 x1 ... x (wyznacznik rny od 0
det 1
( xi x j ) 0 poniewa wg zaoe
.. ... ... ... 0 j i n interpolacji xi rne od xj
n
dla i rnego od j)
1 xn ... xn
Interpolacja wielomianowa bezporednia cd.
Szukane wartoci ak jedynego wielomianu interpolujcego stopnia (wg twierdzenia
Cramera)
1 xo xo2 ... xok 1 yo ... xon
1 x1 x12 ... x1k 1 y1 ... x1
n
... ... ... ... ... ... ... ...
1 xk 1 xk21 ... xkk 11 y k 1 ... xkn1
det n
1 xk xk2 ... xkk 1 yk ... xk
1 x xk21 ... xkk 11 y k 1 ... xkn1
k 1
... ... ... ... ... ... ... ...
1 x xn2 ... xnk 1 yn ... xnn
ak n
1 xo ... xon
1 x1 ... x1
n Wyznacznik
det macierzy
.. ... ... ... Vandermondea
1 xn ... xnn
Interpolacja wielomianowa twierdzenie o
jednoznacznoci interpolacji
Istnieje dokadnie jeden wielomian interpolacyjny
stopnia co najwyej n, ktry w punktach (wzach
interpolacyjnych) x0, x1, , xn przyjmuje wartoci y0,
y1, , yn
Twierdzenie o jednoznacznoci interpolacji wynika
bezporednio z wczeniejszych oblicze (poprzednie
slajdy), tak mona je te dowie.
Wspczynniki tego jedynego wielomianu wylicza si tak
jak na poprzednim slajdzie
Mona te zastosowa interpolacje Newtona, Lagrangea
Interpolacja Newtona
Oglna posta wzoru interpolacyjnego Newtona dla wielomianu dowolnego stopnia n:
Ilorazy rnicowe
Interpolacja Newtona ilorazy rnicowe
Ilorazy rnicowe oblicza si z zalenoci rekurencyjnych:
f ( x1 ) f ( xo )
f [ xo ; x1 ]
x1 xo
f [ x1 ; x2 ] f [ xo ; x1 ]
f [ xo ; x1 ; x2 ]
x 2 xo
...
f [ x1 ; x2 ; x3 ;..., xn ] f [ xo ; x1 ; x2 ;...; xn 1 ]
f [ xo ; x1 ; x2 ;...; xn ]
x n xo
58
Interpolacja Newtona przykadowe ilorazy
rnicowe dla n=3 interpolacji szeciennej (4 wzy)
W3 x bo b1 ( x x0 ) b2 ( x x0 )(x x1 ) b3 ( x x0 )(x x1 )(x x2 )
b0 f ( xo )
f ( x1 ) f ( xo )
b1 f [ x0 ; x1 ]
x1 xo
f ( x 2 ) f ( x1 )
f [ x1 ; x 2 ]
x 2 x1
f ( x3 ) f ( x 2 )
f [ x 2 ; x3 ]
x3 x 2
f [ x1 ; x 2 ] f [ xo ; x1 ]
b2 f [ xo ; x1 ; x 2 ]
x 2 xo
f [ x 2 ; x3 ] f [ x1 ; x 2 ]
f [ x1 ; x 2 ; x3 ]
x3 x1
f [ x1 ; x 2 ; x3 ] f [ xo ; x1 ; x 2 ]
b3 f [ xo ; x1 ; x 2 ; x3 ]
x3 x o
Interpolacja Newtona - przykad
Zbudowa wielomian interpolacyjny dla danych 4 wzw interpolacyjnych:
f(-2)=3, f(-1)=4, f(1)=2, f(3)=1. Wielomian buduje si nastpujco:
b0 f ( xo ) 3
f ( x1 ) f ( xo ) 43
b1 f [ x0 ; x1 ] 1
x1 xo 1 (2)
f ( x2 ) f ( x1 ) 24
f [ x1 ; x2 ] 1
x2 x1 1 (1)
f ( x3 ) f ( x 2 ) 1 2 1
f [ x 2 ; x3 ]
x3 x 2 3 1 2
f [ x1 ; x2 ] f [ xo ; x1 ] 1 1 2
b2 f [ xo ; x1 ; x2 ]
x 2 xo 1 (2) 3
f [ x2 ; x3 ] f [ x1 ; x2 ] 0.5 (1) 1
f [ x1 ; x2 ; x3 ]
x3 x1 3 (1) 8
1 2
( )
f [ x1 ; x2 ; x3 ] f [ xo ; x1 ; x2 ] 8 3 19
b3 f [ xo ; x1 ; x2 ; x3 ]
x3 x o 3 (2) 120
Interpolacja Lagrangea
Wzr interpolacyjny Lagrangea
Wn ( x) y0 L0 ( x) y1 L1 ( x) .... yn Ln ( x)
gdzie: Lk (x) to wielomian co najwyej stopnia n majcy miejsca
zerowe we wszystkich punktach interpolacji z wyjtkiem
punktu xk , w ktrym funkcja ma warto 1.
W3 ( x) 3
x 1 x 1 x 3
2 1 2 1 2 3
4
x 2 x 1 x 3
1 2 1 1 1 3
2
x 2 x 1 x 3
1 21 11 3
1
x 2 x 1 x 1
3 23 13 1
Wyznaczenie wartoci porednich np. w punkcie 0, sprowadza si do wyliczenia W (0)
Bd interpolacji
M n 1
f ( x) Wn ( x) ( x xo )( x x1 )...( x xn )
(n 1)!
M n 1 sup f ( n 1) ( x)
x[ a ,b ]
Uwaga! Wyszy stopie wielomianu interpolacyjnego (wicej wzw) wcale nie
musi oznacza poprawy jakoci interpolacji. Im niszy stopie wielomianu tym
bezpieczniej
1
n 1 ( x) n Tn 1 ( x) ( x xo )( x x1 )...( x xn )
2
1
sup n 1 ( x) n
x[ 1,1] 2
Bd w przedziale [-1,1] (gdy w przedziale [-1,1] za wzy
interpolacji przyjmiemy zera wielomianu Czebyszewa)
M n1
f ( x ) Wn ( x ) n
2 ( n 1)!
68
Interpolacja Czebyszewa
Zakada si, e wartoci argumentw funkcji interpolowanej
mieszcz si w przedziale [-1, 1]. Aby rozwiza w
przedziale [a,b] naley dokona odwzorowania przedziau
[a,b] na przedzia [-1,1].
Dowolny przedzia argumentw [a, b] mona znormalizowa do [-1,1]
poprzez podstawienie:
70
Interpolacja
Czebyszewa
przykad
71
Interpolacja wielomianowa a funkcje
sklejane
Im wicej wzw interpolacji tym wyszy stopie
wielomianu oscylacje, za interpolacja!!!
72
Funkcje sklejane
Idea
Zastosowanie wielomianw niszych stopni do mniejszej liczby
punktw (przez podzia caego zbioru punktw na przedziay)
Wygadzenie kocw przedziaw
Dla n+1 punktw mamy n przedziaw
Wielomiany interpolacyjne niszych stopni (s=1, 2, 3)
(x2,y2)
(xn-1,yn-1)
y (x1,y1) (xn,yn)
W2(x)
W1(x)
Wn-1(x)
(x0,y0)
W0(x)
79
Interpolacja a aproksymacja
82
Bdy aproksymacji
Szukana jest funkcja aproksymujca, dla ktrej bd
przyblienia punktw pomiarowych bdzie najmniejszy.
84
a 0 , a1 ,..., a m
86
Metoda najmniejszych kwadratw MNK
wzory do poprawy
i i 1 1 i
y y a f x a f x a f x 2 2 i l l i
Ma zosta spenione kryterium minimum sumy kwadratw bdw (wariancja bdu):
2
n n
l
2
H yi yi ak f k xi min Zatem:
i 1 i 1 k 1
H n
l
2 yi ak f k xi f j xi 0 dla j 1, 2, ,l
a j i 1 k 1
Ukad l rwna z l niewiadomymi:
l
Ajk ak B j j 1, 2, ,l
k 1
gdzie: n
A jk Akj f k xi f j xi 1
i 1 A a B a A B
n
B j yi f j xi k , j 1, 2, ,l 87
i 1
Regresja liniowa MNK dla
aproksymacji funkcj liniow
Ukad 2 rwna z 2 niewiadomymi:
88
Bdy liniowej regresji
Zaoenie:
niepewnoci wszystkich pomiarw jednakowe
niepewno oblicze a0, a1 zmniejsza liczb stopni swobody, zwiksza
bd (we wzorze na odchylenie stand. n-2 a nie n)
89
MNK Excel (Reglinp, linia trendu
wykres punktowy)
20
18 y = 1,6267x - 0,2267
16
14
12
10
Serie2
8 Liniowy (Serie2)
0
0 2 4 6 8 10 12
90
Apr. redniokwadratowa wielomianowa
91
Aproks. wielomianowa tw. Weierstrassa
Dla kadej funkcji aproksymowanej moemy znale
wielomian aproksymujacy j z dowoln dokdnoci
94
Wielomiany ortogonalne
95
Wielomiany ortogonalne Grama
96
Wielomiany ortogonalne
Wielomiany Grama definiowane s dla rwno odlegych
wzw aproksymacyjnych
Uycie wielomianw ortogonalnych zapewnia nam, e
macierz wspczynnikw w ukadzie normalnym jest
macierz diagonaln, dziki czemu wyznaczanie
wspczynnikw wielomianu jest prostsze
Zapewnia to te dobre uwarunkowanie ukadu normalnego -
minimalizowany jest w ten sposb wpyw bdw pomiaru wzw
aproksymacji.
Wielomiany ortogonalne:
Czebyszewa, Grama, Lagrangea, Legendrea, Hermitea itd..
97
Tw. Weierstrassa dla funkcji okresowych
98
Aproksymacja trygonometryczna
W zagadnieniach , w ktrych funkcja f(x) jest okresowa
wygodnie jest stosowa przy aproksymacji wielomiany
trygonometryczne
Odchylenia redniokwadratowe od funkcji f(x) jest najmniejsze w
porwnaniu z odchyleniami kwadratowymi dla innych wielomianw.
Dla funkcji f(x) o okresie 2 wielomian trygonometryczny:
ao n
yn x (ak cos kx bk sin kx)
2 k 1
Jeli f(x) jest okrelona w dyskretnym zbiorze wzw rwnoodlegych xi=i/L dla
i=0,1,,2L-1, korzystajc z warunkw ortogonalnoci
2 L 1
0 dla m k
sin mxi sin kxi L dla m k 0
i 0 0 dla m k 0
2 L 1
0 dla m k
cos mxi cos kxi L dla m k 0
i 0 2 L dla m k 0
2 L 1
cos mx
i 0
i sin mxi 0
99
Aproksymacja trygonometryczna
Szukany jest wielomian trygonometryczny:
ao n
yn x (ak cos kx bk sin kx)
2 k 1
Wspczynniki ak i bk wyznaczamy minimalizujc:
2 L 1
i n i min
f x y x 2
i 0
Ukad rwna normalnych ma posta diagonaln, uzyskujemy:
1 2 L 1 1 2 L 1 ij
a j f ( xi ) cos jxi f ( xi ) cos
L i 0 L i 0 L
1 2 L 1 1 2 L 1 ij
b j f ( xi ) sin jxi f ( xi ) sin
L i 0 L i 0 L
j 1,2,..., n 100
Aproksymacja - podsumowanie
W przeciwiestwie do pozostaych omwionych metod, w aproksymacji
wielomianami trygonometrycznymi wzrost liczby wzw aproksymacji oraz
stopnia wielomianu nie zwiksza bdw obliczeniowych.
Aproksymacja wielomianami oglnymi moe by le uwarunkowana, co
zawa jej zastosowanie. Problem ten nie wystpuje w przypadku
pozostaych omwionych metod.
Z twierdzenia Weierstrassa wynika, e kad funkcj cig na danym
przedziale moemy aproksymowa wielomianami z dowoln dan
dokadnoci na tym przedziale.
Ze wzgldw wydajnoci i dokadnoci oblicze dy si do minimalizacji
stopnia wielomianu aproksymacyjnego.
Przed wybraniem sposobu aproksymacji danej funkcji analizuje si
wszystkie moliwe informacje na temat caego problemu oraz samej funkcji
aproksymowanej w celu doboru optymalnej metody i dokadnoci
aproksymacji (niektre problemy mog narzuca specyficzn posta lub
zadan dokadno funkcji aproksymujcej).
101
Aproksymacja, wygadzanie funkcji
Optymalny wielomian dla aproksymacji redniokwadratowej
spenia wasnoci:
ma stopie na tyle wysoki by dobrze przyblia prawdziw funkcj,
nie powinien by cile dopasowany do danych empirycznych, aby
nie odzwierciedla zakce lub niedokadnoci pomiarw.
Jeli przyblienie redniokwadratowe posiada te dwie
wasnoci, to mwimy e wygadza dane tzn. zachowuje
informacje o funkcji aproks. ale te eliminuje zakcenia.
Aproksymacji redniokwadratowej uywa si powszechnie
do konstrukcji wygadzonych wartoci funkcji. Te
wygadzone wartoci funkcji zale od stopnia wielomianu
wygadzajcego oraz od liczby punktw pomiarowych. Nie
zawsze do konstrukcji wielomianu wygadzajcego musz
by uyte wszystkie punkty pomiarowe.
Mona budowa kilka wielomianw (na og niszego stopnia) 102
wykorzystujc do konstrukcji kadego z nich cz danych.
Wygadzanie
Czsto aproksymacja nazywana jest wygadzaniem.
Jeeli aproksymacja (przyblienie) zachowuje informacje o funkcji
wynikajce z pomiarw, a zaciera zakcenia, to mwi si, e
wygadza (wyrwnuje) dane pomiarowe
Pojcie wygadzania danych powstao w zwizku z opracowywaniem
danych statystycznych, gdzie zagadnienie zalenoci funkcyjnej
bywa drugorzdne z uwagi na probabilistyczny charakter zjawiska
Stosowane do prostego usuwania szumu, lub wizualizacji
rnych danych. Przydatne te w prognozowaniu szeregw
czasowych o niewielkim stosunku sygnau do szumu, dla
szeregw bez wyranego trendu i waha sezonowych.
Wygadzanie jest to zabieg prowadzcy do: eliminacji waha i do
wyodrbnienia tendencji rozwojowej badanego zjawiska
103
Wygadzenie, rednia ruchoma, kroczca
Podzia:
Wygadzanie mechaniczne (rednie ruchome, kroczce)
Wygadzanie anailtyczne (dopasowanie do funkcji analitycznej)
W sytuacji, kiedy posta modelu reprezentowanego przez
dane pomiarowe nie jest znana, celowy jest podzia
przedziau aproksymacji zastosowanie ruchomego
przedziau aproksymacji.
Istot ruchomego wygadzania i aproksymacji jest przyblienie funkcji
opisujcej dane pomiarowe w kolejnym jednym punkcie kolejnego
przedziau aproksymacji.
Przykadowe wzory: rednia ruchoma (przy prognozach inne)
k=3
k=4
104
rednie ruchome
105
Pochodna - definicje
Pochodna (rniczka) funkcji f(x) jest rwna:
dy f ( x x) f ( x) y
f ' ( x) lim lim
dx x 0 x x 0 x
108
Rniczkowanie numeryczne
Rniczkowanie numeryczne wykonuje si w oparciu o ilorazy rnicowe.
Stosuje si 3 ilorazy rnicowe (dla y = f(x) oraz h>0 gdzie h=x = xi+1 - xi).
Przykadowo ilorazy w punkcie x0 :
Przedni (zwyky) iloraz rnicowy - pochodna prawostronna f(x)
f ( x h) f ( x )
f ' ( x)
h
Wsteczny iloraz rnicowy - pochodna lewostronna f(x)
f ( x ) f ( x h)
f ' ( x)
h
Centralny iloraz rnicowy (symetryczny) pochodna centralna f(x)
f ( x h) f ( x h)
f ' ( x)
2h
Jak przyj warto h? Za warto h mona przyj w wikszoci
przypadkw dokadno maszynow.
Zmniejszenie h daje teoretycznie lepsze przyblienie pochodnej ilorazem rnicowym. nie
uwzgldniajc jednak bdu reprezentacji maszynowej wartoci funkcji. Dodatkowo silny wpyw na
bdy wyznaczanej pochodnej mog mie zakcenia pomiaru wartoci funkcji (np. szumy w 109
prbkowaniu sygnau).
Rozwinicie funkcji f(x) w szereg Taylora
Skd si bior wzory na rniczkowanie numeryczne?
Funkcj y=f(x) rozwijamy w szereg Taylora w otoczeniu x = xi
h2 h3
yi 1 yi h yi yi yi
2! 3!
h2 h3
yi 1 yi h yi yi yi
2! 3!
Po podzieleniu obu rwna przez h i odpowiednim przeksztaceniu
yi 1 yi h h2
yi yi yi Std iloraz przedni
h 2! 3!
yi yi 1 h h2
yi yi yi Std iloraz wsteczny
h 2! 3!
yi 1 yi 1 h 2
Po zsumowaniu 2 ostatnich: yi yi Iloraz centralny
2h 3!
Ilorazy rnicowe przedni i wsteczny maj dokadno pierwszego rzdu, natomiast
iloraz rnicowy centralny ma dokadno drugiego rzdu. 110
Pochodne 2 stopnia (wyszych analogicznie)
Iloraz przedni (zwyky)
f ( x 2h) f ( x h) f ( x h) f ( x )
f ' ( x h) f ' ( x ) h h
f ' ' ( x)
h h
f ( x 2h) 2 f ( x h) f ( x )
h2
Iloraz wsteczny
113
Przykad: rniczkowanie numeryczne
Dla funkcji f(x) = x3 oszacowa pochodne pierwszego i drugiego stopnia w
punkcie x0 = 2 przyjmujc x = 0.1 (h =1).
Rozwizanie analityczne: f(x) = 3x2, f(2) = 12, f(x)=6x, f(2)=12
Rozwizanie numeryczne iloraz wsteczny
f ( x0 ) f ( x0 h) 23 (2 0.1)3
f ' ( x0 ) 11,41
h 2 1.9
y0 y 2 2 y1 23 (2 2 0.1)3 2 (2 0.1)3
f ' ' ( x0 ) 11,40
( x0 x1 ) 2
(2 1.9) 2
f ( x0 h) f ( x0 ) (2 0.1) 3 23
f ' ( x0 ) 12,61
h 0.1
y2 y0 2 y1 (2 2 0.1) 3 23 2 (2 0.1) 3
f ' ' ( x0 ) 12,60
( x1 x0 ) 2
(2.1 2) 2
114
Przykad: rniczkowanie numeryczne
Rozwizanie numeryczne: iloraz centralny
y1 y1 (2 0.1) 3 (2 0.1) 3
f ' ( x0 ) 12,01
x1 x1 2.1 1.9
y1 y1 2 y0 (2 0.1) 3 (2 0.1) 3 2 23
f ' ' ( x0 ) 12,00
0.25 ( x1 x1 ) 2
0.25 (2.1 1.9) 2
115
Rniczkowanie numeryczne zastosowanie
interpolacji
Dane: x0, x1, ..., xn oraz y0 = f(x0), y1 = f(x1), ..., yn = f(xn)
Posta funkcji y = f(x) jest znana (ale niewygodna do rniczkowania)
lub nie jest znana (dane dyskretne np. wyniki pomiarw). Zakadamy,
e funkcja f(x) ma pochodne do rzdu n+1 w przedziale (a, b), w
ktrym le punkty x0, x1, ..., xn.
Zadanie: Naley obliczy pochodne funkcji rnych rzdw w przedziale
<xmin, xmax>, gdzie xmin = min xi oraz xmax = max xi.
Zadanie to mona rozwiza w sposb przybliony znajdujc wielomian
interpolacyjny F(x) przy zaoeniu:
k k
f ( x) F ( x)
Mona stosowa dowolne metody interpolacji: przykadowo gdy
szukany wielomian interpolacyjny zastosowa np. metod Lagrangea,
Newtona (tam s wyliczane ilorazy rnicowe!) lub dowoln inn
Moliwe jest te zastosowanie aproksymacji szukanie funkcji
aproksymujcej i dla niej obliczenia rniczek
116
Rniczkowanie za pomoc wielomianw Newtona
Zamy, e szukamy wielomian przechodzcy przez 3 punkty
(x0, f(x0)), (x1, f(x1)) oraz (x2, f(x2)), wielomian interpolacyjny ze wzoru
Newtona: F ( x) W3 x bo b1 ( x x0 ) b2 ( x x0 )( x x1 )
f ( x1 ) f ( x0 ) y1 y0
b0 f ( x0 ) y0 , b1 f [ x0 ; x1 ]
x1 x0 x1 x0
y2 y1 y1 y0
f [ x1 ; x2 ] f [ x0 ; x1 ] x2 x1 x1 x0
b2 f [ x0 ; x1 ; x2 ]
x2 x0 x2 x0
Pochodna w dowolnym punkcie przedziau interpolacji:
f ' ( x) F ' ( x) b1 b2 [( x x0 ) ( x x1 )]
Zaleta nr 1: punkty nie musz by rwnomiernie rozoone
Zaleta nr 2: mona policzy pochodn w dowolnym punkcie midzy
x0 a x2.
117
Rniczkowanie za pomoc wielomianw Newtona
Dla wzw rwnoodlegych (x1 = x0 + h, x2 = x0 + 2h) pochodna w wzach:
f ' ( x) F ' ( x) b1 b2 [( x x0 ) ( x x1 )]
y1 y0 y 2 y1 y0
b1 , b2 2
h 2h 2
y1 y0 y2 2 y1 y0 3 y0 4 y1 y2
F ' ( x0 ) 2
[( x0 x0 ) ( x0 x0 h)))
h 2h 2h
y1 y0 y2 2 y1 y0 y 2 y0
F ' ( x1 ) 2
[( x0 h x0 ) ( x0 h x0 h)))
h 2h 2h
y y y 2 y1 y0 3 y2 4 y1 y0
F ' ( x2 ) 1 0 2 [( x0 2 h x 0 ) ( x0 2 h x0 h )))
h 2h 2 2h
118
Cakowanie - wprowadzenie
Cakowanie operacja odwrotna do rniczkowania
b
Caki oznaczone f ( x)dx F (b) F (a) i nieoznaczone f ( x)dx F ( x) C
a
interpretacja geometryczna: caka to pole zawarte pomidzy osi OX, a
wykresem funkcji.
gdy podzielimy odcinek [a,b] (caka oznaczona) na dowolnie mae
podprzedziay, wtedy suma iloczynw dugoci przedziau i wartoci
funkcji podcakowej w tym przedziale bdzie cak, jeeli dalsze
zagszczanie podziau nie wpywa ju na warto sumy
Gdzie wykorzystywane?
caka oznaczona moe by wykorzystana do rozwizywania wielu
problemw pojawiajcych si podczas opisu m.in. zagadnie fizycznych
praca zdefiniowana jest cak,
poszukiwanie rodkw cikoci figur,
pomiar dugoci toru ruchu,
obliczanie ciepa wydzielonego podczas przemiany;
pola powierzchni, objtoci
119
prawdopodobiestwo na podstawie funkcji gstoci prawdopodobiestwa
Cakowanie numeryczne - przyblione
Cakowanie numeryczne (kwadratura numeryczna)
obliczenie przyblionej wartoci caki przez sumowanie pl
tworzcych przybliony obszar cakowania pod krzyw
danej funkcji.
Im wiksza ilo podpl o szerokoci x, tym dokadniejsze
oszacowanie caki przy nieskoczonej iloci to dokadny obszar
caki oznaczonej suma pl o nieskoczenie maej szerokoci - dx.
Metody:
prostoktw
trapezw
Newtona Cotesa (kwadratury Gaussa)
parabol (Simpsona)
Monte-Carlo
120
Cakowanie numeryczne
Cakowanie numeryczne metoda numeryczna polegajca
na przyblionym obliczaniu caek oznaczonych.
Inna nazwa kwadratura numeryczna w odniesieniu do caek
jednowymiarowych. N-wymiarowe cakowania nazywane s
kubaturami (kwadratur bywa e te)
Proste metody cakowania numerycznego (prostoktw, trapezw,
parabol) przybliaj caki za pomoc odpowiedniej sumy waonej
wartoci cakowanej funkcji w kilku punktach.
W celu uzyskania dokadniejszego przyblienia dzieli si przedzia
cakowania na niewielkie fragmenty. Ostateczny wynik jest sum
oszacowa caek w poszczeglnych podprzedziaach.
Najczciej przedzia dzieli si na rwne podprzedziay.
121
Cakowanie numeryczne - wprowadzenie
W przypadku, gdy znamy analityczn posta caki
nieoznaczonej:
f ( x)dx F ( x) C
Wtedy mona j wykorzysta do obliczania wartoci caki
oznaczonej wg wzoru:
b
m. punktu rodkowego
Y
X
(xb4)
a (xo)
x1 (x0+h
x2
x3
123
rdo: Ciskowski P.
Metoda prostoktw - przykad
124
rdo: Wikipedia
Cak. numeryczne metoda trapezw Eulera
Obliczane s sumy pl trapezw utworzonych przez wzy xi
i xi+1 oraz wartoci w tych wzach (trapezy wyznaczone
przez punkty (xi, 0), (xi+1, 0), (xi, f(xi)), (xi+1, f(xi+1)) )
Oglnie dla n+1 wzw
xn
h n 1
f ( x)dx [ f ( xi ) f ( xi 1 )]
x0
2 i 0
n 1
xn x0
h [ f ( x0 ) 2 f ( xi ) f ( xn )] h
Y i 1 n
X
a (x0)
b (x4)
x1 (x0+h)
x2
x3
125
Cak. numeryczne metoda parabol Simpsona
Obliczane s sumy pl pod parabolami utworzonymi na
trzech kolejnych wzach xi, xi+1 i xi+2
n n
xn
h 2 2
xn x0 Y
h
2n
X
a
b
xi+1 (xi+h)
xi+2
xi+3
126
rdo: Ciskowski P.
Cak. numeryczne metoda Newtona-Cotesa
Wszystkie wzory metod (prostoktw, trapezw, parabol) s
zbudowane na czonach wielomianu Lagrange'a (oglna
metoda Newtona-Cotesa)
Metoda Newtona-Cotesa - polega na podzieleniu zakresu
x x ba
cakowania [a,b] na n rwnych odcinkw h h n n 0 n,
gdzie miejsca podziau s nazywane "wzami" interpolacji xi.
Zliczane s pola kolejnych obszarw ze wsplnego wzoru, znajc
wartoci funkcji w wzach (lub liczc je na potrzeby cakowania
numerycznego). Dokadno wyznaczenia caki zaley od iloci
podziaw i wzw uytych do obliczenia pola pojedynczego podpola.
127
Bdy oszacowania
Przyblienia w obliczeniach inynierskich czsto
wystarczajce
Im wicej podziaw (mniejsze odlegoci midzy wzami),
tym dokadniejszy wynik;
Im rwniejszy podzia, tym lepiej (lepiej stosowa rwne
podprzedziay);
Im wyszego stopnia wielomian przyblia cak wielomianu
wyszego stopnia, tym dokadniejszy wynik
Np. metoda parabol Simpsona jest lepsza od trapezw Eulera dla
danej liczby podziaw i kryterium zbienoci
Im mniejsza krzywizna funkcji, tym dokadniejszy wynik przy
danej liczbie podziaw
128
Metoda Monte Carlo MC
Jest stosowana do modelowania matematycznego procesw zbyt
zoonych (obliczania caek, acuchw procesw statystycznych), aby
mona byo przewidzie ich wyniki za pomoc podejcia analitycznego.
Istot jest losowanie (wybr przypadkowy) wielkoci
charakteryzujcych proces (rozkad losowy powinien by znany).
Dokadno wyniku uzyskanego metod MC zaley od liczby sprawdze
i jakoci uytego generatora liczb pseudolosowych. Zwikszanie liczby
prb nie zawsze zwiksza dokadno wyniku, poniewa generator liczb
pseudolosowych ma okres powtarzalnoci liczb w cyklu.
Cakowanie MC rdo: algorytmy.org