Institut za Meteorologiju

U Beogradu, 20. juna 2007

ANSAMBL FILTER MAKSIMALNE

VERODOSTOJNOSTI
(Maximum Likelihood Ensemble Filter - MLEF)
Milija Zupanski
Cooperative Institute for Research in the Atmosphere
Colorado State University
Fort Collins, CO 80523-1375
ZupanskiM@cira.colostate.edu
URL: http://www.cira.colostate.edu/projects/ensemble

Beograd, 20. Jun 2007

Sadrzaj
POSTOJECI METODI ZA ASIMILACIJU PODATAKA

VEZA VARIJACIONIH METODA I MLEF-a

VEZA ANSAMBL KALMANOVIH FILTERA I MLEF-a

PREGLED PRIMENA MLEF-a

TRENUTO I BUDUCE ISTRAZIVANJE

Beograd, 20. Jun 2007

Postojeci metodi za asimilaciju podataka

VARIJACIONI METODI (3d-Var, 4d-Var)
- minimizacija funkcionala
- adjungovan prognosticki model i osmatracki operator
- operativni sistemi u hidrometeoroloskim sluzbama
- procena optimalne analize, ali ne i neizvesnosti analize
- radi u punom prostoru modela (full-rank)

ANSAMBL KALMANOVI FILTERI

- statisticko-dinamicki metodi (popravljen Monte Carlo method)
- bez minimizacije, Kalmanovo resenje za linearni problem
- operativno se koriste za ansambl prognozu, ali jos ne za asimilaciju
- procena optimalne analize i neizvesnosti analize
- radi u prostoru ansambala (reduced-rank)

Beograd, 20. Jun 2007

Koje su motivacije za MLEF?

(M. Zupanski 2005; D. Zupanski and M. Zupanski 2006)

Definisati analizu i prognozu po principu verovatnoce

Odrediti optimalni vektor modela i njegovu neizvesnost

Povezati varijacione metode i ansambl Kalmanove filtere

- iskoristiti dobre osobine, odbaciti lose osobine

Ucenje o greskama
- zadrzati korisnu informaciju iz proslosti

Nelinearni i nediferencijabilni procesi

- vazno za oblake, mikrofiziku, satelitska i radarska merenja

Beograd, 20. Jun 2007

Veza MLEF-a sa varijacionim metodima za

asimilaciju podataka

Programska - Minimizacija funkcionala

- Analiza je nelinearno resenje
- Program je napisan kao minimizacija funkcionala

Dinamicka - Preliminarno polje je prognoza modela zapoceta

analizom iz prethodnog ciklusa
- Preliminarno polje je na atraktoru modela
- Inicijalizacija je automatska: posto se sve izracunava
podrazumevajuci dinamicke veze, analiza je u balansu i ne izazivaju
se gravitacioni talasi

Beograd, 20. Jun 2007

Generalizacija varijacionih metoda

koriscenjem MLEF-a

Kovarijansa greske prognoze

- Staticka kovarijansa postaje dinamicka

Hessian matrica
- ukljuci se uticaj osmatranja
- ne zavisi od diferencijabilnosti funkcionala

Procena neizvesnosti analize i prognoze

Stepeni slobode
- Redukovani broj se koristi u realnim primenama - to je
jedini nacin koji omogucava prethodna uopstenja
- Celokupan broj se koristi u ostalim primenama - tada ne
postoji aproksimacija, resenje je tacno
Beograd, 20. Jun 2007

Veza MLEF-a sa ansambl Kalmanovim

filterima (Ensemble Kalman Filter-EnKF)

Neizvesnost procene
- Odredjuje se ne samo optimalno stanje modela, nego i njegova
neizvesnost
- Ansambli se koriste za procenu neizvesnosti

Jedinstveni sistem za analizu i prognozu

- Uzajamno dejstvo ansambl analize i ansambl prognoze

Jednostavnost programiranja
- ne koristi se adjungovan model

Beograd, 20. Jun 2007

Generalizacija ansambl Kalmnovih filter

metoda koriscenjem MLEF-a

MLEF uvodi dinamicke veze u ansambl Kalmanov

filter
Zasto su vazne dinamicke veze u poredjenju sa
statistikom?
- Efikasnije se smanjuje broj stepena slobode
- Ostvaruje se dinamicka ravnoteza, nema racunskih
gravitacionih talasa
- Omogucuju bolje ucenje celokupnog sistema analize i
prognoze o sopstvenim greskama
Nelinearna analiza
Moguce je koristiti verovatnoce koje nisu Gausove
- vazno za oblake, padavine, mikrofiziku

Beograd, 20. Jun 2007

Rezultati iz raznih primena MLEF-a

Mikro-razmere
- Model malih razmera (Large-Eddy Simulation - LES)
zasnovan na Colorado State University RAMS modelu
- 50 m horizontalno razlaganje, 30 m vertikalno

Mezo-razmere
- Weather Research and Forecasting (WRF) model
- 30 km horizontalno razlaganje

Globalne razmere
- Americki operativni spektralni model (NOAA/NCEP Global
Forecasting System (GFS) spectral model)
- T62L58

Modelovanje transporta CO2

- Dusanka Zupanski, predavanje u ponedeljak
Beograd, 20. Jun 2007

Mikro-razmere: koncentracija Ice Forming Nuclei (IFN)

IFN monotono
opada, cak i tokom
formiranja oblaka

IFN raste iznad

inverzije,
kao sto je
osmotreno

Nezavisna
merenja
koncentracije
IFN
G. Carrio and Prof. W. Cotton, CSU

Beograd, 20. Jun 2007

Globalne razmere: greska 48-casovne prognoze

u poredjenju sa osmatranjima
SFC PRESSURE RMS ERROR (hPa)
48-h forecast

TEM PERATURE RMS ERROR (K)

48-h forecast

5.00E+00

4.00E+00
3.00E+00
MLEF-RAND

3.00E+00

MLEF-LAG

2.00E+00

RMS error

RMS error

4.00E+00

MLEF-RAND
MLEF-LAG

2.00E+00
1.00E+00

1.00E+00
0.00E+00

0.00E+00
1

DA Cycle

DA Cycle

U-WIND RM S ERROR
(m /s)
V-WIND RM S ERROR
(m /s )

8.00E+00
8.00E+00

MLEF-RANDOM
MLEF-LAG

4.00E+00
2.00E+00

6.00E+00

RMS error

RMS error

6.00E+00

MLEF-RAND
MLEF-LAG

4.00E+00
2.00E+00

0.00E+00
1

DA Cycle

0.00E+00
1

DA Cycle

Dinamicki usaglasena pocetna ansambl poremecenja

proizvode bolje rezultate nego slucajna pocetna poremecenja

Beograd, 20. Jun 2007

Mezo-razmere: Putanja tropskog ciklona Katrina

End of
assimilation0
0UTC 31
Aug 2006
WRF model
integration
domain
QuickTime and a
TIF F (Uncompressed) decompressor
are needed to see this picture.

Start of
assimilation0
0UTC 26
Aug 2005

Beograd, 20. Jun 2007

Mezo-razmere: Uticaj osmatranja

Eksperiment sa asimilacijom - bez asimilacije
TEMPERATURE RMS difference (K)
WRF model - hurricane Katrina

SURFACE PRESSURE RMS difference

(Pa)
0 .6

20
0

MLEF-NO O BS
1

11

16

-20

RMS error (K)

RMS error (Pa)

40

0 .3
0
-0 .3

M LE F-N O O BS
1

16

-0 .6

-40

Cycles (6-hour intervals)

Cycles (6-hour intervals)

V-wind RMS difference (m/s)

WRF model - hurricane

SPECIFIC HUMIDITY RMS difference (kg/kg)

WRF model - hurricane Katrina

0.2
0.1
0

MLEF-NO O BS
1

11

-0.1
-0.2
Cycles (6-hour intervals)

16

RMS error (kg/kg)

RMS error (m/s)

11

1.50E-04
1.00E-04
5.00E-05
0.00E+00
-5.00E-051

M LEF-NO O BS
6

11

16

-1.00E-04
-1.50E-04
Cycles (6-hour intervals)

Negativne vrednosti ukazuju na pozitivan

uticaj asimilacije podataka
Beograd, 20. Jun 2007

Razlika 6-casovne prognoze:

Sa asimilacijom- bez asimilacije
Vlaznost na 550 hPa

V-vetar na 550 hPa

Prizemni pritisak

Razlike pokazuju dinamicku vezu

Razlike su lokalizovane na oblast dinamicke nestabilnosti
(tropskog ciklona)
Mada su srednje razlike male, u oblasti ciklona razlike su velike

Beograd, 20. Jun 2007

Kratak pregled MLEF-a

Ansambl sistem za asimilaciju i prognozu

Analiza dobijena minimizacijom funkcionala u prostoru
ansambala
Procena neizvesnosti analize i prognoze postize se
koriscenjem ansambala
Trenutno jedini ansambl metod potpuno zasnovan na
dinamickim vezama (bez statistike)
Modeli koji su korisceni sa MLEF-om:
- NCEP/GFS, NASA GEOS5
- RAMS, WRF
- NASA GCE cloud-resolving model
- CSU global shallow-water, KdVB, Lorenz63
- LPDM, SiB RAMS

Beograd, 20. Jun 2007

Trenutno i buduce istrazivanje

Koriscenje verovatnoca koje nisu Gausove

(Fletcher and Zupanski 2006 a,b)
- oblaci i padavine
- ekstremi u meteorologiji i klimatologiji

Dinamicko lokalizovanje ansambala

- targeted observations (T-PARC)
- stepeni slobode u asimilaciji podataka (THORPEX)

Asimilacija i modelovanje CO2 (D. Zupanski et al. 2007)

- nova satelitska merenja (Orbiting Carbon Observatory-OCO)
- North American Carbon Program (NACP)

Primena u sistemima sa izrazito nelinearnim procesima

- Tropski cikloni, jake nepogode
- super-parametrizacija (mikrofizika - CMMAP institut)
Beograd, 20. Jun 2007

Dodatne informacije o MLEF-u:

http://cira.colostate.edu/projects/ensemble

Beograd, 20. Jun 2007

Minimizacija funkcionala
1
1
J(x) [x x f ]T Pf-1[x x f ] [ yobs - H (x)]T R1[ yobs - H (x)]
2
2

x (p1,K, pM ,T1,K,TM ,u1,K,uM ,v1,K,vM ,q1,K,qM ,K)

Hosmatracki operator (interpolacija iz mreze modela u tacke
osmatranja, ili transformacija iz temperature i vlaznosti u radijansu)

Pf -

kovarijansa greske prognoze

R -

kovarijansa greske merenja

f -

oznacava prognozu

()T() - unutrasnji proizvod

Beograd, 20. Jun 2007

Asimilacija Podataka
MLEF

Kontrolni vector
X0 = (pocetni uslovi, greska modela,))

Ansambl prognostickog modela i

podataka

VARIJACIONI

- Prognosticki model i podaci

Adjungovan model
Generalizovani gradijent
Generalizovana Hessian matrica

Hessian matrica koristeci

kovarijansu preliminarnog polja

MINIMIZACIJA
FUNKCIONALA

Popravka kontrolnog vektora

X k => X k+1

Beograd, 20. Jun 2007

Preliminarno polje je u dinamickoj vezi sa

prethodnom analizom

x p M (x0 )

x0

Dinamicka veza je vazna jer sprecava

pojavu nepozeljnih gravitacionih talasa:
Varijacioni metodi, Kalmanov filter, MLEF,
-point filter
Beograd, 20. Jun 2007

Priprema Hessian matrice u MLEF-u

(Hessian preconditioning)
Omogucuje minimizaciju kvadratnog funkcionala u jednom koraku !

E-T Pf 1/2 I Pf T /2 HT R-1 HPf1/2

-1/2

ET Pf1/2

IMPACT OF HESSIAN PRECONDITIONING

Cost function

1.00E+02

Physical space
1.00E+01

x0
-gx

1.00E+00

Preconditioning space
xmin

J=const.

1.00E-01
1

11

16

21 26 31 36
Num ber of iterations

41

46

51

-g

min
J=const.

Topologija funkcionala se koristi da bi se ostvarila efikasna minimizacija

Beograd, 20. Jun 2007

Minimizacija

Odnos (kvadrata) poluosa elipse na gornjoj slici je ~ 4

U realnoj varijacionoj asimilaciji taj odnos je ~ 100 !

Preterano veliki odnos poluosa onemogucuje da

se izracuna optimalno resenje minimizacije
Beograd, 20. Jun 2007

Dinamicka priroda kovarijanse greske prognoze

Neizvesnost procene
je odredjena
poluprecnikom
kruga, ili osama
elipse

Tacka mreze

vreme

Neizvesnost procene je u pocetku

izotropna (krugovi), ali vremenom se
izduzuje i skuplja prema dinamici
modela (elipse)

Beograd, 20. Jun 2007

Dinamicka priroda kovarijanse greske prognoze

vreme

osm2
osm1

Ako postoji dinamicka veza, udaljena osmatranja

mogu da budu vaznija nego bliska osmatranja

Beograd, 20. Jun 2007

Kovarijanse greske prognoze u ansambl metodima:

EnKF
M (x03 ) 2
M (x0 )
M (x10 )

x03 x 2
0 x0
x10

p
EnKF

1 N
M (x0i )
N i 1

EnKF: Preliminarno polje je statisticka srednja

vrednost ansambl prognoza, ne mora da bude
rezultat prognoze => nije u dinamickoj ravnotezi

1 N i
x0 x0
N i 1
Beograd, 20. Jun 2007

Kovarijanse greske prognoze u ansambl metodima:

MLEF
M (x03 ) 2
M (x0 )
M (x0 )
M (x10 )

x03 x 2
0 x0
x10

p
xMLEF
M (x0 )

MLEF: Preliminarno polje je rezultat prognoze iz

prethodne analize => uvek je u dinamickoj
ravnotezi
Beograd, 20. Jun 2007

Kovarijanse greske prognoze u ansambl metodima

Kovarijansa je izracunata koristeci razlike izmedju
ansambl prognoze i preliminarnog polja

M (x03 ) 2
M (x0 )
M (x0 )
M (x10 )

p
MLEF : xMLEF M(x0i ) xMLEF
M(x0i ) M(x0 )

x03 x 2
0 x0
x10

EnKF : xEnKF : M (x ) x
i
0

p
EnKF

1
M (x ) M (x0i )
N
i
0

MLEF: Kovarijansa je u dinamickoj ravnotezi

EnKF: Kovarijansa nije u dinamickoj ravnotezi
Beograd, 20. Jun 2007

Izracunavanje analize u ansambl

Kalmanovom filteru i u MLEF-u
EnKF: Koristi linearno resenje Kalmanovog filtera
- Nelinearne funkcije su naknadno ubacene u linearno resenje

MLEF: Resenje putem nelinearne minimizacije

- Funkcional je definisan za nelinerni problem

MLEF i Varijacioni metodi: priznaju da eksplicitno analiticko resenje

ne moze da se nadje, osim u specijalnim slucajevima
EnKF: Zasniva se na postojanju eksplicitnog analitickog resenja. Cak i
ako ne moze da se izracuna, uvode se linearne pretpostavke da bi se
izracunalo neko resenje

Beograd, 20. Jun 2007

Dodatne strane predavanja

Beograd, 20. Jun 2007

Asimilacija podataka i prognoza u

geofizickim naukama (1)

Numericki modeli se koriste za prognozu

Potrebni su pocetni uslovi, horizontalni granicni uslovi, empirijski

parametri modela, itd

Jednacine modela se ne poznaju potpuno => postoje greske modela

Nelinearni modeli imaju granicu prognozljivosti - haos

Ne poznaju se potpuno sve ulazne vrednosti i jednacine!

Beograd, 20. Jun 2007

Asimilacija podataka i prognoza u

geofizickim naukama (2)
Pitanje 1:
Koji matematicki sistem se koristi za predstavljanje nepotpunog znanja?
Odgovor 1:
Teorija Verovatnoce
Pitanje 2:
Kako ostvariti novo saznanje?
Odgovor 2:
Prikupljanjem podataka i omogucavanjem modela da nauci iz podataka
Pitanje 3:
Koje pravilo verovatnoce to omogucuje?
Odgovor 3:
Bajezova jednacina (Bayes rule)
Beograd, 20. Jun 2007

First guess and ensemble perturbations

First Guess
EnKF =>

1 N a
x xi
N i 1
a

x f M (x a )

1 N a
1 N f 1 N
a
x xi M (xi ) M xi M (x a )
N i 1
N i 1
N i 1
f

For non-linear prediction model, the sample mean first guess

is NOT on the model trajectory (e.g., attractor) => imbalance
MLEF => x a x : J(x) min

x f M (x a )

The first guess is on the model trajectory => balance

Beograd, 20. Jun 2007

First guess and ensemble perturbations

Ensemble Perturbations

EnKF => xif M (xia )

MLEF =>

xif M (xia )

The ensemble prediction is always on the model attractor.

EnKF =>

xif - x f M (xia ) M (x a )

MLEF =>

xif - x f M (xia ) M (x a )

EnKF: For nonlinear models the ensemble perturbation is NOT

dynamically constrained.
MLEF: The ensemble perturbation is dynamically constrained.

Beograd, 20. Jun 2007

Mikro-razmere: Asimilacija podataka o oblacima

u pogranicnom prizemnom sloju
Asimilacija u 2-casovnim intervalima: 18UTC 2 May 1998 00
UTC 5 May 1998

Zapoceto sa tipicnom koncentracijom cestica za Arktik

x= 50m, zmax = 30m, t=2s
Broj ansambala = 48
Kompleksna mikrofizika u RAMS/LES modelu
Kontrolne promenljive: _il, u, v, w, N_x, R_x (8 species), CCN
(dim= 22 variables x 50 columns x 40 levels = 44,000)
Radar/lidar/aircraft podaci
(ice water path-IWP, liquid water path-LWP)
Beograd, 20. Jun 2007

Globalne razmere: NCEP GFS model i

asimilacija satelitskih radijansi
T63L28 razlaganje mreze
Analiza u spektralnom prostoru
Merenja:
Standardna osmatranja i satelitske radijanse: AMSU-A, AMSU-B,
HIRS-2, HIRS-3, MSU

6-casovni asimilacioni interval: 7-9 Januar 2004

100 ansambala
Poredjenje dva eksperimenta sa MLEF-om:
(a) Slucajna pocetna ansambl poremecenja
(b) Kombinacija prognoza kao pocetna ansambl poremecenja (laggedforecast)
Odnosi se samo na pocetak eksperimenta; posle toga, ansambl perturbacije
se izracunavaju koristeci MLEF jednacine

Beograd, 20. Jun 2007

Filter performance: Chi-square test

TEST: (Innovations normalized by the analysis error)2 ~ 2(0,2)

Innovation 2 test (96

2
1.5
1
0.5
0
1

11
Analysis cycle

16

21

Stable filter performance over the entire simulation period

(20 data assimilation cycles).

Beograd, 20. Jun 2007

Radiosonde and SYNOP Observations (at 12 UTC)

QuickTime and a
TIFF (LZW) decompressor
are needed to see this picture.

20 Radiosondes

QuickTime and a
TIFF (LZW) decompressor
are needed to see this picture.

409 SYNOPs

Beograd, 20. Jun 2007

Radiosonde and SYNOP Observations (at 18 UTC)

QuickTime and a
TIFF (LZW) decompressor
are needed to see this picture.

3 Radiosondes

QuickTime and a
TIFF (LZW) decompressor
are needed to see this picture.

287 SYNOPs

Beograd, 20. Jun 2007

Zeljene primene u meteorologiji i klimatologiji

Tornado
Tropski ciklon
Nepogode, oluje

Monsuni
Madden-Julian oscilacije
El Nino-La Nina

Beograd, 20. Jun 2007