| afl Procesos Estocisticos (EE-05) Introduccién a Machine learning probabilistico 2 Pl Caden Liza, PD Unive Naio deg (UNN) 1. Estimacin enim cundrador medion (MS) + stimacién de minimos cuadrados medios (LMS) ar ‘© Minimizar error (condcional cuadrado medio. —» EL @-8) |x-x] ® Solitén: B= ELO Ix=x] ‘Método de estiaclén general Propiedades matemticas contenido 1.-Estimacin de minimos cuadrados medios (UMS) 2.-Estimaclén de minimos cuadrados lineaes (LLMS) “rtmaclén LMS ania ate de obervacones Desconocido: © ; prior: Py Interesado en una estimscién puntual: Regamar: 612,02) Expectative condicional @ = 3] © No ay observgciones disponibles Caiterio:Erorcuadrético medio (MSE: E (© Minimizar el erorcuadrético medio ai 9-8) 1fiom \ ‘simul UMS on ausenia de obseralones ‘stuldn LMS de © bosade nx \ ? sf a «Forman de minima undoes. c LES 1c rgqy * Bevomccda:; por: Py Minimitare errr al cuadrado medio (MSE): E [¢®-6)"] + 8=E LG)” ineresadoen ura estmecén punta: rs ree 4 ea Ete ]-2E1O18+6 412-5, - DE TO H28 =o, ranén : nsdn J T © Observar a ay |~ B= vyarCo-8)+ (epo-61) [E=ELO] 5 fimsortterorsicwiodomedo nse. €Lc@- 64°] 6 =F 7 7 © Minizar el error al cuadzado med condgonal: Vax) + (510-83) -pnsaimigor CLO -8) hex) 62 ECO \x=x] a > = ELel © LMS Estimado : 6 = «# frrorcuadrtco medio (6) © UMs Estimador: > EL @- ELely|=Vor (ey , [Estimacién LMS de © basado en X eae 8: _Evaluacién del rendimiento de UMS, . Nagle Ke (0) minimiza - ELB-B ] «© Estimacién de UMS: G2 € [8 [X= x) EL(O- Etel?] ¢E[(@-a7] ¥ ¢ stimador: = € 18 1) ¥£(01x=x) minima + EL CO-B 71 ‘Rendimiento esperado, una ve que tengsmos na observacin: ECO -Ef x2] pr] ¢ EL(O-gO)¥=x] Bx” peseneto. (0 fea" |peat vr (0) FCC@-ELolx Tx] s ELC@ ged) be] Ke ae le Gi + Rendimiento esperado de modelo: : Elo -ELo]P] < EL@-gea)"] MSE = (0 -£ [© |X=x)7 = har (© | 20) BOLE sina ae ¥[elx] minmigarE L(@-y) J bre todos 5 los Estiadores = youEstmacin LMS de © basadoonX ‘¢ LMS relevante para la estimacién (no prueba de hipétesis) ‘Similar que el MAP sila parte posterior es unimodal y simétrica alrededor de la media © por ejemplo, cuando la parte posterior es normal (el caso en modelos lineales normales) an {tor a xaérdo mesa condonal 1 E(O-E (0 [X=a)F | X=] © Similar que var (© | X=]: Dlstibuetin dea varianzacondidlonal de © ee i Efe ELver(@lx)] JfoaVar (@lx=x)ay {a,b} ‘wl | Yor (oh X-Bre LL e4k KS a4 oa ye ie codeneCi0) ‘Te protien J e vl eee! Ts gf on Seo 18) a 1a rs . 5 ipasearsp moat ae a x=@ +1 s UL unigorne 64,1) timaclén US con mites obervcone oncgnas © Desconocide: © por: p= © Interesado en una estimscién puntual: Y; S « Observacién x= © Observar que X: © Nueva condicin. yXyn Ai modelo Pelle) ‘© Estimacién LMS £ [9 1X, =, © 10 es.un vector, apicar a cada componente por separa. 8=(6,,2--»8,)