You are on page 1of 44
RAMON Garcla MaRriNEZ MAGDALENA SERVENTE Dieco Pasquini Idee gnont 2:12 Elements de una red nerorl atic A) 2 24.21, anew aria 1 23122. Eta de actacin n 2.123. Canesones ee neuooas 2 2.1.24 Fanon de vansteeniao acta cy 2125, Rega de arena. % 2126 Rapresetatn vector 6 218 Estructura oe una RNA % 213.1, eos o capes de neroas. % 2132 Fema de conn ene neurons u 2.2. carries as rons neurones bs £221. Topo de as des ners . 22:14. Redes Monocapa( apt) 8 22.12 Rages Matcara 7 22121, des con comeones hacia adearte 80 22122. Redes con canes hacia alate tacit 2 222. Mecanisa de Apenaa 8 2221. Redes con arene supeisao Bs 222.1% Aprende por comeccén deer... 4 222.12 Aprende por elven a 22213 Agente eiotsico @ 2.222 Redes con ape supe 8 22221. Aprendaap hese 0 22222 Aprende compete ycooperatvo ... 92 223 Represetacon dea nacido arta y a % 28 Redes nara co Caenones Rac ade so 231.8 Perception sr 2311, Rega de arene dl arcetn sr 23312 Laine de ua red Percept 00 2.313 Aolestn oe ura ed Fecptn para cataar mower oun rbot 108, 28181 Dasrpin del problema 103 23132 Justitecn dared eos 104 2331.3. tram do ae 105, 282. Lae Backpropagaion 108 72.321. Laregla cata geerazaca 08 Sites pes 232.11, Funcenamlrto del algrtma 232.12. Aden de un moma en a ‘cata gowralacs 2322. Esrucura y epee de rot ‘eogropapaion 2323. Conlercones ste sgritine te arene 25221 Cant de i convergenla 23232 Oimensenamerto ce aed 233 Apicacoes eas des backpropagation 24. El mad de Hops 241 Menara seit 2451 Lanataleza de a momar soca 2.4.12 Una anaoga ca cela mana 242 rq dua re opted 243 Funenameno de una te Hp 244 Arendal 2041. La fi erg 245, Untacones cel moda Ge opted 248 Apacs | 24661 Recnecimino do iagones 2.462. Resoucién 6 protemes de optic 25.81 mado ge Kanes ‘251A una re de Kone 252 Funoeramero de ura red Katonen 25:9. arendane 254. Apleacnes 25.41 Reconosimin de vor £2542, Retracnena de eto maser 2543 Preblemas de aptimaasén 2544, Desi de ra smu aad con ne red toon 255. Lntavones das res competes 26 Berios 109 110 m 18 nS 16 16 W 7 7 18 120 i 25 10 1m 1" 133 12 1 135 7 138 10 0 we. ae ur 2. Redes neuronales artificiales 2.1, Fundamentos de las Redes Neuronales 2.1.1, El modelo biolégico Una neuron una lls vay coma ta, consen Jo mismos elements «qe forman pare de roa a els bilgi. Adem contienen elementos == Viniamenee dine ces Capea creed ie a ie ae iid iar 21 Barun don neon ei las ditencian [Hie JouéR, Manne: Victor J 1954). Une neuron consi dean cuspo celuaratso menos efric de 5 a 1 mics de dle de que se depend una rama pisipl oan y varias amas ms corse amass den ‘Bias (Fgura? I]-Asu ver el ax preset ramasenvomno ash puto de aran- ‘ey con ecru amis extensamente ccs dea x0. Una de scarcer que diferencia at neuroma el esto dela a las vin a apacidad que tienen tarde comanicase. En ninos gener els dendsary el uerpo exer econ sels de crs el everpo cellar I oomabina entra yen cles de lida El ata transport ot eles alos teins axbnkos, que se encagan de dsb infomacion aun neve nj de neurons Polo genera una neurons rib nfrmacin de mes ‘dora neuroma y envi informacn ames de ote mis, Secleala qu em ‘cero humane exten del orden de 10° conexone. Las eile que noe extmcs refried son de dow pon de naturale: ‘lca yquimis La eal genera orl neuroma y anspor og ‘Selanne impale eldcrcn, mints que lar sales ue ue anaiteno- te ls temindesaxénicos de ura neuro as ends de ores de oie guimio; coneretament, se ela mediante moleculs de ssancis ans ‘ neurtanimisores) que fayen a wais de unos contacts pei ns ‘lor snap, que dene a Felon de rxpror yen loans ent lo te ie ny end de rr ne pace fase 50200 1a generac de as Seales elds es lvimament wlacionada co compotion de la membeans cll Hl procao de gener dels sales ‘lectics de una neurons pusde simpler dl siguiente modo(Cardna: De biel P1995): la neuron, como oda a cll, ecapur de mantener e924 ‘etior un lguid cya compo dfremardamee de a composi de lguido dl exter La diferencia ms notable se da con wacon sa conents «ibn de ines soo posi. mei exerno es une 10 veces eo eso gue liner, mientras quel interme ene use concen deo ‘ne pox 10 veces mayor que el cxteno xa diferencia de concetracones de ‘ones soi y potao genera ua difsenia de potencial ent teary terior dela membrana cellar dl onen de los 70 mV (oeptv en ittio de In membrana) Eso Toque se connce como l pencil de poo de cel Ia person 2 ne onsen cnfes La eg de cles provedents de ott newonar a ads de as denis (cep de neurotansmiore) sti cumaatnmente,bjand igeamente lol del pencil deepen, Dichopotenciel modifica peomebiidad de Tamembran de manera de que ciao leas certo valr eco eominza una nada masa de one soho que inven poaridad de membrana. Lives dl vols de car iteror de membrana cia el ps os fines por haa ques reablec equi en eps. Lantern dl a> {Ge cenocda come poten de acids popag To ago de any «58 ‘ce, prowea lems de los newtoransmors et To texmimales axons asp de un prod refit, pe seu un eg impala Le salad de to et a emi por pare dee neurons, de enes de impal- foveaya fecuenca varia en fan ent uv factor dela ania de Bee Ferrier ibis. Extend spot de snap 2) asin exiadors cues neuroransmi> sore prov daminacons de potencal en la membrane a edu pos via, faiitand la geeracin de imple a mayor velocidad, yl snap ‘is iohbidors cupoe aeurananivre end 4 exbliar el porncl det tmembrana,difclando lems de imple, Ca os us conan reciben fhuradaeprocedentsdesnast estado inhbidora. En ca instante a frmas dla earn cine yo halle eponn lua de lx efecoe ‘cadres cinhibidore determina sls fa edo no evade dei fiir ono un en de impos 2 qué velocidad. 2.1.2. Elementos de uns red neuronal artificial (RNA) Las eer neurone son models que intent sproducirlcomporamien- to del cero, Como tl modelo, ena uns inplieacén veguande cules tea los cements relevant del sera Una elcid adecada de aac tla, ds una enrctra convenient, el prosedimient convercioal wl ad pars constie eds capacs de elaa na demi ae Calg model de rd neronal cans de poss elementals de ro- cea ls neuron A pride lie pucen generar cpetetacioncs expe ‘de format que un estado conjumo de ells puede sgnifcar una ler un ‘hier oculquir tr bj, Geerdznente se ucden encanta te ios de 70 Sten nites 1) quelque ibn exis eros, aconads con el apart se ‘otal que rmari Is infrmacin de ead, 2) Dich informacin se rum cewor cements intros qu © oc pan desu proces. Es en a inp y neurons corespondentes ae fe segundo ive donde ve genera calito de representacn ena ‘be In informacn, Pues ue no denen rai diets co a informe ‘én deena icon ad id, eno cementor se denominan nid des ocala 3) Una ve lindo cl peada de proce, le infrmaci lege un Aide desi, ays sino dar I expe del sine La nearona aici [Fgura 22] pretend mimestar lar arcs mis importantes de as neuronat bilgi. Cla oeurona sims et crater smculguer inant por un aor america denominado valor o extado dea. ‘aca, una fancin de ata o de wavrenca que tas lead ‘cul de ativcdn en una sel de lid, Dicha Seal de slid ex enviada ‘ees de canals de comaniaciénunidecnnler sta nidader dela ee ‘to cakes, lsc mia de acuerdo con snap pew 7) sci (Bea cads uno deallor sein una determinada reg Lat fer moda gue ‘ha gad unidad sins combinan ene lla. enerandn aa nee devoal Ne, Ney E 0, La dingmica qu sige la acl de lot endo de a unidades (vl cin de eed neuron) puede ser de dos tipo meds seroma y mod sin ‘inn. Ena primer cn nerona vlan ned continue g0 [eva ligand infornacgn yl hacen deforms independiente Enel cso n+ nico informant lg ce forme contin poo kos cabin sexe Tian simulsneament, comes caster un lj items gue decides cuindo ken cambiar ead, Los soma blpeos quan probblemcate ene mbes poubiidaes, 2.1.2.1, La newrona artificial Si se senen N idades (neurons), podanes elena arbirariamente y designs aime unidad somne U, Se taboos y ico y conse en recibir senda dea la eis pelea on lr de sala elcul es ‘vind cosa ella cones con U, En cualquier sem que se ené modlando es il cars wes tp de nidades enna sd y ocr Latundades de caida sciben sales ‘dene el entono; eta ented (que von a aver eras I ed) puede set Sefaesprovenints de sensors de oro scores de sites alias eae ‘Sas sels pude controlar decane its stems 1a unidadsoclas Soo agulas cascada y aide ecuentran dentro dl stems; es dei, ft enen conto con el eteroe: Se conoce como capa nvel un carunto de neuroma sentra pro ened ea font (de pod ner capa de neon). ecu mis {alld dela exrucua dea odes euroalen ser taal sas adelante, ao tae dctibied el modeldo del euros ail igre 2 frat dc ne evo 2.1.2.2 Budo deactivacién ‘Adiconalmente al conjunc de ude, ap dos del item en un 2p 72 Sam eae les A, que represent edo desta el conjunc de unidades ep esamicato(HileslonéR, Marine Vicor J, 1994). Cas elemento del vecor reprecent a aetvacdn de una unidad Ue el emp La acai de un Aida en el dempo ese designs por 4 6 dese AG (40, a(n BL proceamicnto qu ea a ese ve come a eosin de un pated de ‘acivaign en el conju de unidades que lo componen a wats dl tempo. “Todas as ncuroas que compose ee hllan ex cero ead. Lr vlo- rex que pode romar un ead pueden ser continue dctetos. Admit pu dene lmiados ois. ison dices, sul tomar un conju pega Se delet Han vas Hii. Finalmente es neces saber qué ctrios els sigue Is newronas para sles tales etador de atv. En poncipo exo va depender de dos fc ‘ores For ut lado, nee tee ides del mens deinteracibnetre as ‘nearona Fl ead de actinason eas furement influencing por tes inte ‘recone yaque el efecto que prac una neurons abr ota es proporso= ‘alas fuera, pes omar dela conn ene ambas Por tld fal que eave ede neurons sus veins dependent de wu propio ead de 2.12.3. Conesiones entre neuronas Larconsone qu nen la eon qe fan ns RNA ten saci dan psy que ed ac hace gee aed Sur omni, Comair or ve es Sun romaine dao Ua wero Sih conan desea gue dan informacion dl do de cvacn de ‘edn atts oslo cement cnc Ce coo nop) ‘eel newoa yj epoca porta pany Novoalmene, coma pune se clan gue ee de od sl & ao, de tome {ucla ends rag sche un none (onc porns) No ea Sins pact ads sl nd pel alr Jcla snaps que cance 2 ae mote ef sa regla mus el procedimint seguir para combinat los valres deen tuad una unidad con fos pesos dels conexone que Iegan 2 wid yc onaide como rea de propaga. Soe tila una mata W con rds los pos qu fan I ine cia que sobre a nerona dene a neuron W eran conju declementos po Sv, nepivoro nla Siwy psn india qu sinter ente las ea ronas iy 6 eacadors es ec sere gue Is nein st atvada a fearon | rebir na sealde que ended sacl Siw, cs cpa as. ‘api ver inhibi En ee cso es actads, evi stale tn ert deca nt. Falente ee pone ie no hay Sone ce aban, 2.1.24, Funcin de transferencia oactvacion nae fs unidades @neuonas que forms una ed earoal aii exe un conju de coneions que une us on exes. Cada eid ears Falerangclas queen conecndt con undid Acoclda con cade uni U Jayna funcion de acai ode vans fey) que arson nent deer dela eurona en una sel de gn) = ia El vecne que at ‘nef eld de tdi Lr euros ex inate tex el = tee LUNE ft Aden, noomalment a func de ct: no oti ental eu og dl eje de inci sne gue exec iposnene debi ais a ‘ear intemar dla neatonay gue no = gl em oda clas Este er se de ‘como Oy rept umbal de acacia dee revona xiten custo funciones de aac ii ue determin din por neurons [Hier Jot R, Maries Vio 1 Fanci ean + Funcisn finely at + Simo + Funcin Gauss 76 Sten tga La fein excl o umbral solos win anda lt als de a reson ina dos alors posible). Las de una neurons eacziv Slo cud la tnirada neta es mayor 0 jal qu cto val umbra (a fncion puede esar Alspltada sobre los es). La Faniones tay sigmoidal on lt mi apropi tas cuando queremos com slid ls infomacion snag Veunos con tis ‘ele Idina ansones ‘Nearooa deBueién eek La forma ms fc de dena acticin de una neurons considera ue sina, La funcin de sfc eal we oc 2 earonas bias flares cuando la made lax nade mayor oul que el unbral de Ie neuron, a cai I es meno acs Oo. La oder fo ‘mada por eeripo de neurons son ice de plement en hada, pre ‘menudo os epacdades etn Unie Newtons de fc ley mista La Fanci lino idensidad responde I expres fs) =x: En as neo acon foncion mit lau de awe de entra ex menor ur un tte infor, a aetnarign se define como O01. S dca sun mayor que tn imie superior entonees accion Sas de eeada et te ‘sos limits entonces a acai define como una func lineal del rade a ena, ‘Neuron de facia contin (spoil. Clq anc defini simplemente en un inten de posible vanes deena, con un incremento monotico qu eng ambos nites serio: res infeons (por emp lr Fincone sigmoidal osctangent) oe e Taare Fncin de civic de fra saci Gon la faci sigoidl paral maya de los lore del nn de trada (variable independiente) lv dad por I fancione cerca a uno de lor alors sinicon Eno hace qu na mayoral casos el vor de sl «de exe comprendid esa zon sl ott del sigmoid, De bec, cuando la Pendent eleva, es fang iende ala fineion excl, Sin embargo, "prance dela fancion sigoial o cualquier or unin ia) ese dead es sempe psa ycercana ser par lo valores grandes psitos 9 negavs ademas, oma su ale mx cusndo xe 0, Eto hice sue se pu dh wir a sega de sprendaje dtd pas la encione cal, con la ‘venaja de qu a devvada et eid en odo intra a fancn excl 2 des avers ees 78 ote dervada defini en pant de rans y exo no ayuda os mo ade aprendaje en lo que se wt derivado Lox centoanchura desta fancons pen er adap J cal as ‘mis adap qu las anconessipnosnes. Mapeos que sen squtr dlovnivles cals uiando neatonas con funcones de anderen igi le alguna veers pueden rlar com un solo nivel en reds co aco Pra simpli In expres de a slide de una neon ie abil cons erat a exinencia de una aeons fit con vl de wi nid soins 2 nade de cada nearona | media una conestn con peso de valor -O, De st forme I expres de aide quer so0-§0m-y-pfan- 94 ania 2.1.2.5, Regla de aprendizaje Exien muchas deinions de concepo gener de pene. wa de ells odes ser: Le madyicacon aed comporaicns ide ania om enor cme wenlnde de espero conden al eal deme ‘er modes de rpunitaaexinatn eer, Ea deci oe end hor aor ances de que sargieran sede aan sin ersbugs puede pl Cada ambien lo procs de apendiaje de eos sienas Bulgarien ‘hele separ gues infrmacionmemarias el seb ext mt lana on foe aot sido de it conenone enc nero que con ella mi fa ede el conacimieno se enone a sisal cao de des neuroales stiles puede conser ge el conociente Se encuentra ‘presenta en Toe peor de ls conenons nee neuroan Too proceso de ‘prendinje implica Gero aera de cabin ence conesones, Ea rad, ptde deci ques pene modifies os ores de ox poo del ne Al igual que el Fancionaneno de uns ro epee dt ame de maton elas que digong y de cn ttn cone (sons propin vcicas de spread nr cada modelo pone 26 Sema ines 2.1.2.6 Representacin vectorial a eras ree esa sili fa eel on he rae ryan Se igus mapas eee EEE ps CE apa dean et phen EUrndpn danas cont eereetond Tory a3p 1S Shine lyna cad ul ren ema dia Cir ci cea pe Cana ese ‘ft dca pe i co evades ce es ‘Spann denier, mas Bon a dnd wpe ines ese de in ia: a ventas dea wean vectra ex ue a eunib anterior pond ci de 1s forma = 80 2 Estructura de una RNA 21.31. Niveles 0 capas de neuronas Labi de neurons dentro dea else Frmando nivel ocx pt de un nimers determina de neonates ans A pre sisson ene dee es pueden ding sos de ep: “+ De entrada: Ea capa qu se dctamente a infermacin proveien: te dela ene enemas de ld + Ocala Son nena aa ted yn ene conic deacon el exe Et mimeo de nivelsoclos puede estar ene 0 yun nero clevad Las acronas de las ep ocular pucen ear ineerconecadas de iin: tas manera, lo que determing, jnto a4 nimet ls distin oplogas et neon + Devalda:Transeten infnmacin de a ed hci el ett. 2: nso att 77 Se dice que una rede ttalense const soda sais dese un sellegan odo y cad uno del nodor dl ive siguiente, 2.13.2, Formas de conesion entre neuronas 1a conetvdad entre for modot de una rd neuronal ex lain con ln forma en gue sida dea neurons tn canada ara converte eno trade ors neuronae [Figure 23) La seta de salida de un od pace xx Ua cnteda de ote lesento de proce «civ ser ana entrada de mio (eonenisa autonecuen) ‘Cuando ninguna lida des neurons eed de newonadl mis rhode nee is 23 Dian neo erent M8 Sten nigra, preedene, red se scribe como de propa has dln, nd lt Iias pueden ser conecradat como eras de neurons denne pos del ‘msm nivel incuyendose eis mamas, ln ed er de propagaion hacia se [as tees de propagacin hacia srs que nels Grados son stems 2.2. Caracteristicas de las redes neuronales. xinen 4 aspects que caracerizan una red neuronal oplag, el mec nism de spreniajee ipo de cas relaads etree informacion de ttada y de bd ya forma de epee dees informacones| Hie J. 41, Martine: Vitor J, 1994), 2.2.1. Topologia de as redes neuronales. La topoogo argue de at redes neurons conse en I gai «ln y disposi delat newrona en I rd ormando caro aupacionc de reuronas mis © menos alejadss de a entra slid dle, En ee endo, los pares fandamentles de som elmer decapae rime de eu ronss pr cape grado de canecvida yl pode connie ene neurons, Cuando se wealza una clsifcacin de is rede n mings copoligis, sel ding ene ls rede com ana sol apo avel de neurnas yl ‘des con mips cpus (2, 3, ee). A continuicion we atalizrinsmboe tips derodes 2.21.1 Redes Monocapa (1 capa) En as reds monocaps [Tabla 2.1] como le de Hopi yl Brin Se lnvaBox, se esablecen conesione eae eat as caren que pre ne ena nia capa que contig afd, Tabién pueden exis coneiones > ‘orrecurents (aida de une neurons conectad nea), sungue en agin ‘modelo, como el HopBled, ecurenia no wi 2 ae arena afis 7 ‘Uns opologi equivalent aa dea ede de una ape a denominada poogiacrobar (bras crud). Una ed de te po (prep, aed Lea ing Mast) conse en una mace de ermine (de ena lid) o bara fue secuzan en ues puntos os que se asain un poo. Esta epcenacion ‘rouar eewlizne coma capade tans cnedo ve pretend ple ta fsicament una red monocpa, puso que cravat senile deato- Tar camo hardware na eras como ls nda (por sjempl, as bata sada seria cables y Jos puntos de conenién retencat ctyor walter ‘epresetatian lor poe dela). Finalmente hay que indicar qu aes monacipa xe vlian tpcamente treat lacionaan con lo que se cance cons sutoeiaism poreempo, par regenera informacnes de nena que ve preset te inset © aero | Sin lov Tr | 1 2.2.1.2 Redes Multicapa Las ees mukcapa (Tabla 2.2] son sul que dipanen de conan de neuroassprpadas en vara (2.3, et) velo capa Ene cst rn fem parading la capa Qu je en el ovigen de asses que reba ened yl destin de a stl de ‘ada Normaiment, todas a urna de un cpa rib efile de enrade dors apa arion, ms ceteana sentra ela rey ena a sein de Salida una capa posterior ns crea ala id deel Aen cone ‘ners adenoma conenone aca adelante o fedora Sin embargo, en un gran nimero dees rede también xine posi de conerar las sls de las neuroma de apa oxerioret aera de as, ‘pas anterior coneioness ns denomina cnexones hai ats © feedback. sas dos psbidaesprmiten ding entre doe tipo de des om ml Siler capa: ees con cnentones aca aeaneo ede felorwand yl re dts que diponen de eonexone nto hacia ante como hacia is ees ‘eedorwsrdedbace 22.1.2. Redes con coneriones cia adelante edforward) En as rede edfrwatd toda sels neuron propaga hacia de> lane saves de is caps de la ed, Nocteneoneions hac ei (nga sada de neurons de cap ie apc lena de neuron de capes 2yn).ynovmalmente ampoc aorecuents (id de una neu soot «4st pops enerada) ners id de una noarona conecada x entradas, de neurons de [a misma capa, excepto ene no de lor models de fed po [ests por Kohonendenominador Leming vector quate (LV) y Tope) Prservng Map (TPM), en ls qu einen una coneriones mplcae may par ‘cules ete as nears den apa ded Las des fedorwatd mis coneida son: Percept, Adan, Maan, Lic rear Adapive Memory (LAM), Drive Renforcnent,Bacropigton, Toes tla son especialmente ies e aplicaciones de eonociminto sian ‘de patones, 221122. Redes con coexione hacia adelante y hci stds Ucediorwardeedback) En ete tip de rede cua informcibn tant hac adelante Forward) com so aca ats (backvard) drat facionamint de od Daa que ese poshlexsen conerones elforwardycaeniont eda ene lt earons 2. es ase anfcent 88 En gnc excepo las particular ds ees Coguitton y Neocon, suclen sr bcs exisiendo por lo ante dos conjunos de peso: os corespon" (Gtr lx conesines feared dea piers capa (ap de ented) Baca segunda (capa de sal) y ls de is conesiones cedback del segunda la Primers Loe valores de lor pesos de os pos de sonexiones no tenenPOrgue ‘enc, endo diferentes en mayor pate de oun ae ipo de ears (bap epicure adda pre relia na soln de uns infrmacin pain decade a rime caps) on Ua infomacino par de sale en a vend cpa Cheerosocistn), aang también pueden ser lads par I casio de prone. Alguna ter de cp senen un furcionsnen bso en Toque co noce como resonancn de a forma gu is inoemaciones ae primera seg dz capeintencrian ene ol en gue aleanan un evade ele Exe Fan tarinte permite ua mejor acc ss nraciooe laced ed os doe modelos det feeforeadedbick de dow css mis concidos son ed ART (adpatve reonance theory ya ed BAM (Balctona Aoi ‘ve Memory “También en ee grup de rede exten igus que denen conesions ate tales eee neonate amiss apa Ese concriones wdc como cone ones excadora (con pan pore), permicendalscooperain ene neo ‘aso como inhibidora (peso nego), cide un competion eee ltr neuona comeporstint. Use ed de eat tipo que adem, dapone deo nerones sutreciene a denomiaads CABAM, Finalmens hay que coment I exten de in spo de rod Fedorwand eedback mica may pacar dentninads Neccorirn, ea gue is nearnas se dsponen en planossuperpusto(capa Bdimenra) local Pemite que pueda climinane ls vrscone geometric (abs, 3s de Pstamintr) odinosones que presen la formaconsw prone de trad ata ed 22 Sana aes Tiree is ek 2G rt de Mine eg tera By Tin pind ta Dianne exile Ini ser BR ™ Coa Aas | fae Ago Faye Moe Grae ‘ie ‘Gea | Sas pti ony adie tales Cease om ery ede [Bia ei ain op cd Cpatnapa 2: resumes cis 2.2.2. Mecanismo de Aprendizaje aprender proses por us a eed neuronal modics 8 pesoe en espera una lnfoeactn de cata. Ls cambio que producen dara ‘2d proce de prone we etven la deren, meifeaein yee ‘de coneions ene las neuron, En oe sma bolgicon vine uncon {cei y daseucibn de conesones a los ol de eer nerorles at ‘eae la cresin de una nueva concn implica que pos de ani pss ‘tener an var isin deO. De I misma Ton nt cones we dee ‘tandospeso past ase 0 rane el procs de apenas os poor de las onenone el eds fen modifcaciones,por ano se puede amar qu ste proceso fa ei (red ba sprendid} cuando lor valores de lr peso permanccen bles awe. Un ypc importer al spree el redeem er ‘conocer cio se median los aloes de os peso es dese cules som lsc osu we sien para cambiar val aignaassconexiones cuando re tende que led preade une nue infor Eos rites determina logue conoce coms a gl de apceningje debe sed De forma ene we sucen consi do ps deel gue rogonde AT aprendaj supertisal, yl cormspodiets pre snse no super a difeenci fndamenal ene abo cp esd cn existe ovo de unaagente eer (siperioequecunolelprocen deaprendasje dela ed (Oxo citra que we pusde ula furs direc rg de aprenie base en considers fh ed puede spender darn su fnenamient habia ‘oat d aprendaaje pone ls deconeson del odes wu dehiian hase qe el proces fine En el pince cu se earara dean apendise om line, enna ue el sound we conace como aprenda f line Canndo a aptedizae offline dstngue entre ws Fe de prea © envenamiento y une fede operation o focal, exatise ubon jo de datos de entenarent y ovo de sto prac gu seria iad en Ife corspondiene. Eas eds con spe a tn sp de lin ‘nexone permanecen jos despus de que toi lap de tees de Ii ted. Debiloprcareste cakes si i sts no pee an problemas decadent Fsonarsint, Sens ees En as redex con aprendiae on ine no we diingue ete fie de etrenae mento de opeacén de tl orma qo ls oss vara dndmianente sem pre queve pcene uns ner infrmacin al sizema. En ee tio de ees, de Fido cater dindmicn dela nas lead dela sabia cle se una spect fundamental 22.2.1. Redes con aprendizaje supervsado EL aprendinj sgerino (Table 2.3] se caacterta por un enrenamint ‘omalade por una asne exero (supervisor, masto) gue determina le peta que Shei genera adap de ana entrada deena El sper- ‘lor comprar lade del td yen lean de quest po coincida com la {sea procserd 1 madi lot peso de la conexones, cone fin decom Segui quc aida obrenida se prome la desde Em este tipo de aprenden considera, aa ve, es formas de le ‘aro abo gue dat liga alot siguemes prendaajes siperindos Aprende por concn de ero Aprende por refuro. Aprende ees, 22.211, Aprendizaje por cones de eror (Consens lot pss dela oneiones de eden fucién dea feencia ete lor lore deveados ls abenidos en a aida de ae dei, tm faci del eorcometido eo laid gre 24). Una reo algorie simple de aprendjepor concn de eor pola ser uence uy (4-9) 2. se mca ons 8s 5 co aha en 24 Aprende prin dere enol peo de cone entre lt neon yj (Aw i Valor de lida dee neuron. 1 Vlo de sada deseado para eur di Vl de sia oben en ener = Fato de aprendije(Ocac=1) que el a acid de preniae Un cjemplo de ee spo deslgeims lo conse la ela de aprendiae ‘el Perce, ud en cttenameno de aed del ino nombre gue Searels Rosesblat en 1938. Sn enka xs oe lpraimos ms eo Teconados que te, que peers imitans, como elo cose a aga sud del enor gab comet durante el proco comple de arena de ted, onsderandednicament lou roe individ nae) oreponontet sl aprendaje de ads informacion po separ. Un algvitme muy conocido que mejor el del pcp ¥ pee wn apreniaje mis pido yun campo de aplcain is uplo eve propuesto for ‘Witow y Ho en 1960 denomrado rps dls o rls dl minim cot Arado (LMS EntorLeast Mean Squared ion), ie sabes et as ees des rolads por lor mismo suitor, concidar como Addine (Adptve Lines E> tment) cn una nice neon de ska y Madaline con vars neurons de sah. 25 Sama ager ‘Widiow y Ho defnieron una faci qu permit cual cor go- bal comet en cualquier moment durante el proces deentenamient des ved Ene err mo se ape dee siguiene forms Ey Ba Ae Eons Sendo: 1: Numero de newona de said (en leo de Adline No), Numero de infrmacones qu debe aprender I re ee Por ano, de lo que se ae de encanta unos poe prs a coneoner dela red que minimicen ea unc de err Pars la el sje de os pss de las coneatones de la ted se puede hice de form proposcional a vatiacin e- lite del ert que bene al aa el pee corpo yt Modiante ete prcedimieno, lean obtener un conjuno de pss con ea gare ouige canine der ota uo algrimo de aprendiae por cones de trl consticye el deno- ‘minado reps dele genelizada 0 algestino de exropeopapacén del cor {ror backpropagation) rrnbien cnoceda com tei IMS (lest mean qu reer) mulapa Se wats de uns gnerizaciin de la rela dls Para poder pli reds con coneriones hacia wean con eps ous ret de smtcap pueden flare on mcs mis plcacone qe as 1 conocias Recep, Adaline y Madan, pro su proces es mucho mis lene, debi aque dara mismo se debe export el spac de pols ‘mat de unc de lx neuroma de is cape cua ex dei debe ele er cul va ern papel enol Funcionamiento dea ed 2 ses mente wefs 8 xine tombién una vers rocuret dl loramobackpropagiton qu se see uta en edt muliapa que presenta coneronerecurenter con lB (de gue estar rade apendan Is atures sempre algunos dos Para condluir con lo algo por corescidn de ero, hay qu mencionae que ambi s wlan ex alpues des monocpa co coneioncs ae torrents com la ed Bruin Staten Bor (BSB) intoducda por Ae ‘enon icy Jones en 1977. Aung eh una peers etapa el arene dec ‘tte et sin pervs, se seen fefnar or slore dels peso ea canero~ rer mediante un aprendije por covrecin decor baad ch wba slapaion Sela de Widiow Ho 2.22.12. Aprendizaje por refuer0 ‘Seteata de un aprendie super, mis eco qu dae, que sb sen idea de no duponer de un empl imple del comportaienn dee ove dec deo indar darn cera xactament lida gues ‘deren gue proporcon sed ane una dererminads eel En el apendjepo fies I Gancisn del oper wee indicat ‘mediante ua sel de fro lds obec en a ede jaa een 2 (toeet 0 Facsoel), yen faneién de lose tan lv peor binant ‘nun mecaniamo de pobabliades, Se pods dei gus en ee ipo de aeen- lj a func de supersor se ascarid un ei (Que opin so- bre ls expats de are) que a de un mao (qu nds re a expe wean de ge de rer, emo cea cn ele de pein por Un ejemple de agormo por refer lo consitye el denominado Lines Reward: Penalty 0 (lpr incl on scumpentapepalwon) pen tado por Narendra yThathacher en 1974, Eateries ha sido angio por Bar y Anand, quienes en 1985 denrsollron el denominado Awociaie Re ‘ward Penalty que pia en reds con conenones hacia dln de do capt ‘ips arurotas desta preentan ena Gani de uve crcl, (Oxo algoritme por refers cl conocido como Adapie Hurt Cri, inuoducdo poe Barto Suton yAnderon en 1889 quo wiles ees ed. forward dees caps tpeimentedefade pata cv ua pte de a ed 3 ‘capa de generar un valor intcno de eur es plado ss nesrona de ‘aia debt Siu resign 2221.3, Aprendasjeetacistco Ene tipo de aprendnje conse biscament en rear cambios serie ‘aos valores de los peor de a cnesionee de ly evalu efecto «partie 14 objec deseadoy de dintibucions de probabiiede, End penne etocnico se cle hice una analog cone ermodinémi «Se soca ala ed neuronal con un sid fico que tne un ceo ead ergic, En el caso de aed, la energa repeal grado de sabia de [etna del forma qu el etd de minima ener orespone unas ‘uacin en la que ls peor de nr coneionescosiuen su st Fancionaniento sexel que miss juste al comporamienta deed Seg loaner, spending consis en eliza un cambio aero de los valores de los pss J determine I energla dea red (habitalente la fan iin neg runs Foci denoninadn de yapunon.S la ena emer Aespuds dl cambio dec sel comporamicno dela ed ear al eee toys seeps el eambi. i por cl conti Is ener noes eon sac ‘cambio sein una dsb de probable Una red que wis exe spo de aprenieel conocia como Boteman Machin idenda por Hinton, Alyy Sejm en 1986 que lo combina con elaprendzse Hebbian o on el arenas por cortcrién de err (co la red) La Rolaman machine runs econ diftentstopologie aleroe- tas pro impr con una ron als que ermitem mediante un see probabilsico,invoducr un ride que va decrecendo dante el prose de {prendaaje pars exapar de lor mimes relia de a uncon de energa fio ‘end a bingueda deli lta 1 procedimiento de ular para ecpar de minimos lca see denon are immalatedanneingy su combinacién con las inacon probbica, ‘ene la apa cat ef que we conoce como aprendaaje estcitico, Lt ea de odo esto es assured coma sda ue niente presen ‘a unaaltatemperatua (rida) y que sea ena gedualene hase sean satel eg emico (minima ener Evite ora red beads en ete tipo de aren denominado Cauchy Me 0 pare aquatlos procs qu tenga sa E wfdsfi)-©.<0 para squls prone cons 0 12 Sten ter Par exe dels XOR, ene 0-20 a6 Be UPD) 0° m4 ay = b> 0D) Bay + Oa b> 0(P3) Loam 4 Lowy + BO (PH) Para qued| problema se linamene separ la inecuncioner anterior 0 eben conradcine. Como sve, a ima tes euaiones eigen gu > 10, img IA'y wy ws 1M, bo cal x una contain, Ena ena fora de ompobar que d problema dea Xo noe linelment earl Eater fia es buena cuando a dimers dl problems raze ean grande que ‘epesentcion gear mpouble de relat La oli al problema de clascacin de ptronce de a funn XOR se encontrar mente ssedescompone espacio en es gone Fgura 27 tuna regi pence una dent cles de lid lv tas dos pertncceran ‘Taegu cs, sl que t nla de nr dnizamence una neurons de Tide wiiaran dose obtendian dos eas oro que pola elimi zonas pra peel ente una ons wor dela res, ence uta ot Capcom uns neurons car ena cs als els neurons anteriones [et das sons oregiones que contene Tos puntos (0) y (11) saan 4 un said wala dee ed y a sons ental se cin sila con var 1 Deen ‘ms posble encontrar una solu problems dela fancibn NOR por tan ‘ose bade tas una ed de wes neuron, ditibuidas endo aps paso Soma te problema ar 27. Ro pore prensa XOR 2. des moon ee 108 Loe valres de los pss y unbrales son: eyed mel BeOS byt BS 2.31.3. Aplicacin de wna red Persptrén para controlar ‘elmovimiente den robot 234.1, Desripcin det problems Un whore un dspstivo automicn ue eeigasones expec, que ependen deb ecard proce en gars encom intend, cae ‘cao ene un oboe qu cuenta con cate sensors de proimida en di ths eblenones que psmanentemente deco o ly objet qe tate tens ana ditenis iperioro inferior sa presale * > ars 2 Fagus ocr Con bat en tos decides dar marcha adelante oats + es uno de es ls moves que pose (guia 28). Els ctr de lor ese pon da $16 poles corbinaciones (162) para saa combincion cla uo dln dos mores pia dar tach adele» mach as, 10 Sten teres lcomportaminto dl obo lo dexribela bla 2.6, Cuando ls ensorerde- tecen un sje qos encuenras una distancia inferior a predetrminada ‘ik que el bjs we enctenr ceca yet ae representa por medio de un 1 y ands dere un obj que encventa a una diane mayor qu ls pre ‘deerminada drt qe el objeo eta ko local indies com “I; dep ino de eas ctr los motores podrin dar march adelante Toque proentare por un Io daz mach set (1). Table 26 rns de nents 2.3132 Justicacin de a red lei xe tig de problema enero vc smn al oor wna base de dio gu conten ot poner suacons gu on rn tery ns rapestvas slcoacs Ea ote nema carla pa {spas anos motors nea 16 pox ombinaones en ecard on ‘Sst Contdo of mero dete deen yl ner ce ln {Rach yor a co ear esnips expo eta pose sine ‘Sin recndfnidarent, edo sae eucitan dpi con ic Pad deslnceamicns eso td rma ods evan So ines reponse de porns aprenr el comport de tema ‘Siande dips de me cpa ce macnn y ot ‘Una red spo Prep puede ser enrennd con patos de cualquier smenain en I entrada yen sda con daar bina. Po asia del 2. es sono ails 108 problema ee ipo de ede la mat adcunds [Acs B. Ma bel, Zags M.Camio A, Sana Hol, 200). Par guanine que el poblems pnd resco por una ed neuronal ipo Paces a debe comprobst quel pavones de entrenaent 20 ins este sepaables, ara case Sen plates a desuldades nea por {Epaton de encnamieno next es cola pate de ua dncsionss trea do deguldader (ons por cada sash), estas desualdaes no deen Contedecine. set acura el problem no pda se eso por una ed po Tercepin de uta wl apy deber scars uo tip deel, Debio nace bipolar de aids frei de wasted tna del ipo ae [No se desollartagul, poe sor gud compre que ls dsiguils erates mencanada no st cntade ete 2:31.33. Entrenamiento deere Alas le presenta lo 7 patron deals 26 paral cals dep iene de las kcars de lon sero, ee dit arbor gue bc especamen te leg se proc a ed co lox aon rants prs compo capaci ‘de nercn de misma site um patn mene ates se. Los esos de crus de hon eons y de open de esigndor con 1 y-1 pues que par le convegencis del proceso de crite ‘niet reoula mi etsece propaga valores de I yt que dey. Debi a Inmates de alia y de centr def eo fancion de sean ser KY Sim? $2 AI Het em Fier 3. ere one deca esa sumer $3 106 Sten tne, de make as 30) Se creat una red de 4 entradas con una neuron tip Psapp cade sada [gute 29], teniado al use ola bidimensonal, lor peo niles ‘etre de ed son: mele pe [spe Teale = t_[ aoe [arose ane mf 1a [asa uo [aoe [ame ef ‘ile 27 Coin inc de psy eae Los pee ile dela ed entrenads gue sce coos los ptones de en ine 2 Reps dre ane paroe de arnaiente vada slid son Ltd csi pos las poses cnbinaciones stants obeenndose mle Tels [s Tei lon siguientes read | eos | er [ae | 069 ufo a | a [eget | sr | vee ae Tole 24 Coffe psy ras ‘La re simula para Ia told de combinacions pols deena pra comprobar que a eit ear nel spend de los pons de eter ‘minty pare obras cpacidad de geerincin en lsc restates, La tespuesta dea red vdor oe patton de entenamient fe eto co so puede observe ena abla 29 108 Stems tees Las combinaions que no frmaban pare del conjunio de entenamiento, al ser presenta 2 ard eon apoxitadas al pain apendido con menor ‘sania uidians [Tabla 210) arnt combinacones C1, C2 y CA are dois dar marc adelante 2 ambos motores pur la combincin C3 le ed decid dar march stds a tosmotors, pars lr eombinaciner C5, C7 pC) ned decd dar arch ade lane My marc ats a M2 y pares combinacones C2 y C8 a ed de Aidan marcha sre + MI y march adelane 2 M2 Una ipo Perce de una sol cap sun buena slain aun proble- a gue invalacre patones lineaments pra, La capacida de generac dea eds neuronal juga un papel im orcas cunndo tn ples combiacoom de ptrnes de entree ott ‘ge resltars import epecfeale un dapsive que bacer en cada co, Poco que la red scene con un numero de ptones representative Bo tensa eo shorn mp cpa nlc dt po En at aplicaciones denllads co rds neuronaes jugs un papel mpor- cane toler» las ques cuca, pors ence de flr ono ars sense (come en et ast aed siempre prodsid una sada que en lama Joris dele cos ela mat acertad, deo» qu a isms, depts dean peo ‘eo de arene eto, cn en condone de generale compote: teil tena 2.3.2. La ed Backpropagation En 1986, Ramehart Hinson y Willams frmalsron un met para que una red neuonal aprender e sciacn que exten os patoncs de et dials misma y lar cae corerpondeneswrlitando mis nivel de neurons de los que emples Rosenact en vu Perceprén. Fate modo conocido come ‘Bachpeopagation es bund en generaloai dea ela delay ha ampli do comcablemenve clang de apacn dels ees meron Lalprio de propaacion aca aso texopropagicin es una ra de prenditjeque puede apc en modeor de rede tom msde dow capa de neurons Una cacti impart de exe lori tl epresemaisn 2 de moon ees 08 interna dl conocimicno use capa de organiza en a caps oats par lo far cakes conspondencia cat entod ylides De fra smpliicas, el arconaicoto de nated backpropagation con site en un aprenden conjumo predefined pares eniadaia die ‘dos coma ejemplo, empleand un cle propagate adpraciin de dos fs: primero se apca uo putrén de entra ca capa de ads de a ed al Propgs hac cpa superiors haa gener una alias compar el sl "do tendo en cada netona de sl one aor desea par es surona Ys obene un err parade uidad A cosinsién es errs se a Inten hacia ad hac tas as nara de capa india gu conte Jr diecament lad, recbendo ol poses de enor prin puticipacdn de la neuro intermedi sala eign. Este roms te Fite cape po apa hasea legal ennd y ut que sla eon ays ec Edo un err gus deri su ape al ero rl Sp lor el ero Fido, se reaps lon peo de as conestoves eo ads pa de nerona > reds de manera de ure er ft vometdo pura ewe pati isin 2.32.1. La regla dela generalizada La rele propuesta por Widow on 1950 (eg del} sid extend a es con expired (gh dela gereralral)cn coneones ca dln te eedorward)yciyas eas ene fans de seein continu, no de Creietes y Geraes Gineseso sgoitl, dando ga slgoiemo de ‘ermpropapacon(ackyopagaon se lorem iia an func opi de eto asad fe, bus candela eile de mina ere ies dl camo deceodete de ‘psc deer Fare ell reales ttt interes para ea I o> “ifcacgn do pss en un valr proercoal algae dececiene de i ‘ha Bina de ema, 2132.11, Panconamient dl algoriemo Dada una neuron (U) yw idl eambin ques reduce nel peo de le conerém que ne asada de ich meron conf ida U, 6) ata wo putin de apna po 210 Stans tigre by (041) +08, En donde lube pe refere l paeén de aprendineconcr y hes constant de aa de apedie punts en le difren a rela dela peneraizada del gla dele es ‘alo conse de 8 Por to do ens redes malin con apa car 20 1 onoce ahide Sveads de ar undads de eu capas prs poder cela ls [proren fancin del ror conto, Sin embargo, nclment sf podemor 2 ocr a sslidadeveada de neon dela Pala nidad Ue sida, de Fnimor By dy 3p Foe) donde deta ida dea pasa nero jy el pt py ee a etada tea de cums Si Uno er de lida oe ene 6, Ea, xy) oe) onde ango de kab tds as neurons gue etn contd sida de UU Eleror que se produce en us neuron ocls se sma de todos leo re cometidos por is neurons as que et concada alda multiplies pote poo de conetiéncoeponden 2.3212. Acin de un momento ena rei deka genetalizada En algo de tewopropapacin dl enor a tins un ampli ep so que ine dads por I tr de apenas A mapor a mayor el mod ean dele pos en ads tracn como que dl aprender mi pido peo, pore Ino, puede dar oar x nlacones Tas lear ena onlacions, eafade en a express dl incementa de los pesos, un ermine (mento) B, Eeonner de gue dks expen gud 2 Re mor ante Ht sept = 4 8, yp Bo wyle D> (001) = 8, 39 BSS donde es un onsanse qu deveined cambio dos pe torendlinname ‘Con exe moment ecoigue la convzgencs de ered en menor aero Ewpe oh doe nr fire mgd dla apa hide), bind Cf psa pm veto decency alps nearone ec Se calcula hy lida dels neurons cca: 02 foe + Sezeizan os mismo lel par cbene la slid de a neuron de sida (pao ourpe) de sons aefaes 18 re Ene 9086 Inc filoeg) Paso (Calelarlos mins de err pars od nero, Sila peurona kes una neuron cde cap de slid, alo de eee Bye la oe) La fans Fdcbe ser derivable por lo aa ou e puede ealear unex, Exicen dos fancones que pueden wrvic I func Tine font la Fanci igo define gt files) lectin dea fancin de alia deere dea forma deepen sd toe slide dees quel nouronar de idea nas Semple ‘St sigmoid, en ono esc tan pac ua ncn como ls Paral func ine ene f= Iie sigmoidal e# ras que adsense una fein Efi AD = att -Ip) parle que el srmino de er pars neurons dei que paladin y 116 Stents By eI) all Ju) para asada sigmoidal ‘Sila neon noo de sid ene: Sf -ffoalp) E63 Donde sbieramos quel ro na aps oclasdepede de todos los = rminos de eto dela cape dessa De ago surge lenin de ropa ha dards. Pela orion sigmoidal sad 6g Donde se refi «todas as earonas de a capa superior a de a nro- 1m}. Ae tor qe se produce en aina neurons ota es proporcona sa made los erre nnocdos que se produce e as ncaa sas gu co ‘ncaa a dade Ga mulplcnos po lps de a cones Pas Acwaaacén de lope. Paral, iam alge recurve, comenzand por le neurones de sada erabsjndo aca adr at legs aap de cntad sande ls pe fos dea fovma siguiente Para nea desis: ples = wg Od 6 wg ler De Sug) 05, 9, para los pesos de as neuroma de ap oul: afeed= M8 Buf ee Ds Su 08, 2 de mason ais 28 En ambos aos, pa accra proce de precise puede fa amino momenta dear By, el) nce dle neona de Bde Bw) (ci) en ele dens eto cl ao 6 poe pit aq inde enor Bagh rela seprablment pegueio pars id uno des pasones pends. 2.3.2.3 Consideraciones sobre el algoritmo de aprendizaje algorsmo de backpropagation encuesis nae minmo de ero (lea global mediante le aplicason de pasos descendents graeme descendent) ‘Cada punt del supercede func de or coetsponde aun conjunt de ‘aloe de oe peo de sed. Con el graeme descendent sere que fe Tia un cambio en endo os pesos deol se segue deceas por i saper- ‘ickedel enor hasta enconte el vale ms ctesno fo que pact ace gue po cso de aprendne = deteng cv un rai Incl de eto or tame, un problema dete gore de encaanien equ busca a= smi Fanci de eto puiendo cerns nm cal ign pant tacionrio sn egar a encotear cl minim ibe Si embargo fy gue ene ‘henta que o mp ex ace encontrar] misin loli qe puede {ervuficente con un ero menoe aun ensino pesticide 2.32.41. Control de a convergenca Ea as nia de adie decedent x convenient sane pol it fe de err con incementor poet de ln pos, Ea ae debe gu ene ‘ot uta informacién local de Wsapericey os blo eos ceca qe 1 del mismo. Con increments gates se ote digo de far poe enc ‘el punto sin conga etaconane ene Con ceca pectin ‘Aungue se ade ms, eel toi ation 226 Sama aint La eloidad de convergence cone on parimeco a Nocnlmene debe serum mimeo peguto (e 0.05 « 025) pak segura Is comvergncia y ‘ie oxcaonee Una forma de incremental velocidad de coven cons en aha un téemino momeaes consent en mar una faci dl cami sein ala ‘iain de peso at a pect, sun ed jade aprender ants de gar un sli axp- ‘ables eliza un cambio en el nimere de neato cca eo low psdne tor de spends o, simplemente se uc cmp’ on un cnjunt dtin~ to de poos orignal y se sede resolver problema. 2.32.32. Dimensonamiento del ed [Nose pueden dar rela concep determina el nimero de neuronas © de caps de una red pte resoler un problema concret, Lo mimo ase co tf nero de ptronts de entenamic En general es capas son suficenes aunque alguna vee tm ii gue a sed apreda con mis de una cap ocr. Ea catsad de newronas ula ie debe tener ada caps es fel de determina no exe reg ue To haga. 8 ls ‘ed simula por safware Jo nejr siempre oy rata de ante lame de earns cap ti mb gue paca og run cost de prcesmient ex. 23.3. Aplicaciones de las redes backpropagation A contin inden gio do cpor degen apc ion dela eer eral agpantin [ies Jos R- Marne Vicar) 1994) * Colic dee forma, Larger de ed ene un pape fares ene tip dal csc Ls es principal cosine funni deena re per else stave de i ints Sees comin, iets de Frcomamint sl abs gue proposer aed lf inci oie opera pri eae sean et peas 2 ts uns ons 17 sm ecu 7 lon poms cormpondins sbenidos dare I Foe de pcndaje para gear corectarent la ais desea. + ‘Tiaducin de em en lengua habledo Aplcacin denrllads por Seapowaly y Rosenberg Ea a cap de ene (ecified er sal como contexte bal ie conte a Ue Jers aero yar res posers sve de una vent que vm ‘endo por el ete eeuacnlen. Esl capa deeds wedi i foxmactn corespondiene a la pronunciién de una erie de fonemss tm cls cacti que dan Wen dew retina. Con u8 ne ‘ecu de unidedes celts la ted ele Ia conspodencia eo Feneras que pei, durant lf de Fcinarint, ger at Imiamente los ones corpo un determined txt. 1+ Reconoimiena Spice de cancers (OCR) Sets de una pli upc de mconecineno de patron, endo en ‘eco lo carters de un tent lon patrons que Bay que econocer Se fusdeuicar una sed Bacpropaation pas 2pende x diferentes fo {at delay aacetes que se rpretarn como imigees compe por ‘ie nmero de par, genera bed con slide ego (por ‘jemplo ASCH correspondiente caracter de eta, Eval ue ved tenga capaciad pan generals dec que conan fra de crac: to lala ease de spond sempre que no fear ‘demaido de ls patton monradoy dane dl enoramen 24, El modelo de Hopfield 2.4.1, Memoria Aso 2d La naturaeza dela memoria asocativa “Reconat” umalmente conse en aca elgo con una cacti oto a or eemplo alguien pod dec lgo, como el pombe de we se i Inediatamente se rewerds una cadens de eens v experienc laonadar a ta, El pent del elt ex conocido por er pecments evocative ene 108 sinensis EI paraigma comin pure describe dea sian Form: eine unas colecone subyacene de dats gue manda emerson de alguns mu. ‘ery ue Se garda en mei los datos pueden ser pentados por lo ano, om fomando wn pat slmaceado. Ea or jpn Ge een nto tex el data el clued merorns svcd con le cebidad ects ‘eos en lanier Cuando se presets pre del puttin de door en forma de ‘na Sef sensorial esto de los procs (memoria) ereombradoo sci ddocon dl Sedebe nor quea menudo no imports que pare del psn e {> como seal el ptm enter snp eared, 2.4.1.2. Una analogia fsica de la memoria Las ede que se usan pata ect scaiones wn gmp epics de una clase de stra isons qe se pen pensar come ge alanis isms ‘ons. Ess sistemas permite qu peracin ded se asta common si tema dindmic y fio y ques conduct pueda ser deserps en tins de lene d a ed Porejmpla conse on bol Far] eeu exten plo ue sen permis aa inate me in 21S el bo 2 ened as 9 Sis mpone qu a plots slid dee algun pre siperor dl bl, a nist rar den ado sor alteeder de xe pra ermina eporando eae fondo (Figura 2.12). a deci ica de qu hs pasado puede seeps en triacs dela nrg de tema La plot iniidmente Gene una ita eer pencil (Caan se sce I peo nega potencies beryl pelt eve a ‘edo del bol gana enegia ines. Evenralenc la posse deve, ce que suenegs(otencial y nt) et en eo. pus pencil es que a floc rermina por detenens en el mi liga xls eu yee aga et deter Ininado por el nie de ener del ars (plot bl. xe ova manera de pensar en ete procs, Puede astmts quel pelea courerge epee ism le dente del bo pore ener excrement [osc del onda Sis posi o ero de pls en cualger moments ‘atk das por lr te soudenada especies x, 9) fn fcaan del fondo del {ol 0, represencs el pattén que cs anucens. Puede pense en ls poscin inl del pelts emo la sprsetain del capone paral seal de agua que ser ingretade Toe ise ula uno supe rapa [Fgura 213) en sinks depen MPIVWY a ee Spear (bot, tamos encase de ues memoria conn de una infrmacn saace ae Si shor Ia pels comiena a sdaren alguna pe sobre ct sop, ered neta nb la dept a nese Suiendo cont his Uns de ratanaaeo es of ‘deed pati amacna se cst ncn ou pf 4: era Hl fanclonanienta de una RNA ce ede octet, pod “lpone dei, I pelos cur: ical eal 129 Sitanas genes 2.42. Arquitectura de una red de Hopfield El mecdelo de Hopf [Figura 2.14) conse en uns ed monocaps con N euros cujs aloes de lids son bination OG -I/+1 En lve ig ‘al del modelo (DH: Diserete Hopfield) [Hopped ), 1982}, ls uocionc de fecvacin de las neuonss ean del po esto, sin cbr, posteonmene Hopfield desaolé una versn contin em ened y sald soles zando neurons con funcone de acvacin tipo sigmoidal (CH Connon Hopfield (Cada nearona de als encueners one 4 od Ix dems (conenion nes lta), pro no congo misma, Ades los ose sido as conexi nes ent pars de meron So simdtica Exo igc uel peo dea cone 2 de una nerona con os aerona jc del valr qu de la cone i ela eutona} con a Gey) sates Her «fins a7 Pere 214 Brats dena Hagel [Lave dct de et ee idea para abs con valores bina {y+1 Gang un juste en fos peor hice gue punden ele los valores © I) Lafancio de atacién de cad neuron ede po eal free Fay 6 CCaando el lord x coincide exacramente co ©, leis de ero petra con au reno: En modelo de Hopfield dee see adopae un alor proposiond ae sama de or peor de a coneiones de cada neon con ere, otha, ‘ise aba con valores ination I y+, wel considerate cl alor nlope- 12, olor aloe inarioe son Oy 1, stoma ale de 2 para End ao dels ses de Hopfield continu se waa con valores tales en lor ango 1) o [1], En ambos cr la func de avai de ne nate del tipo soll Sve aba con el primer rango func ui. ‘des a angence price (Fgura 15 (a Sel ang e [0p win Sipmoide dele Fgura 215.18) En ambos cio, 4. prhmeto gue deem pendione dea fanciéa iipel 2.43, Funcionamiento de una red Hopfield Una dels caracteinics del modelo de Hopfield esque uta deur aucousociia Alvar informaciones (patos divers puedes st les ‘rund en aves como side una mero eee, dare craps de spe ‘inj. Ponesonment we preva ested iu dea infomaciones ‘macenday, red vlacons hates, oesendy enone ea asda Tninformacién aaacenad, qu ccincie co presenta cnt Spor jt del problems a aaier Generimente, noe cl encanta nino {bal dela fancn de cost debido sa presencia de minis locals ds gue [abet que exapar realizado un compli ste de pares constants de [a fancidn de cost y de as gansncias dea Fancions de atari de lat ne ronat de ae Algunoe problemas de opimiacin que ban so reel tlizandomedes Hopfield son El probe dl isan lbp de aos, rblemas dl nino onder ded cen ener snap gt: 25. El modelo de kohonen Exinenevidenci que demain go nl cerry nearona eo tasizan en muchas soa deforma gu i omadianes pads dl norm {rt de oe poo socal epenen inermanene en om de me fu bidmensionale Por sjempl, nse ual whan deseo pas Al spc val en os dl ce ep exes el ecb). Tambo Seema sudo a detects sora sein I cena Qu a newrontaena mayor septa . Aunque en gran medida esa onanizacidn neuronal ese predetrminad ge nécamente, probable que pared lias orgie mediante cl penis, E> to.upie. po ano, quel creo pasa poser la eapudad inherent dee Imar apa topeigce deb inkrmacionesrecibidas del eteror De hecho ta eora podria expicasy pr de opera con cement semnics guna, {tes del cabo simplemente podianeearyondenar eutonaepeciaiads© 2 as ons ene: 15 rps con casters dao nivel yo cominacones Se rari en dei Se de consul mapa xpaciles pra abuts y carci, ‘A patiede enas ides, Kohone presente 1982 un sera cos ws com portent semen, Sunt de un del de ed auroral con epsidad ve frat mapas de carers de manera similar como acre ene ce ihr. Hl ebjev de hohlonen cu demear qo un emul extern por 0 To suponierd uae eur propia una descrip funciona del eompor- Tami de aed cesta Toa oan els mapa Ese modelo tee dos vatiantes, denen LVQ (Learning Vector Qu iain) x TPM CTepoey Prerving Map) 0 SOM (SAF Organizing Map. Am ‘arse haan enol pcp de formacon de mapssopoldpcos pare exblcer ‘aracteriesComunes ene informacion (vcr) de entrada aI ‘Sunquediferen ens dimensiones de Geo, send de una oa denn eno ‘lan de LVQ ybidimensiona inca widimensionl ep led TPM 2.5.1. Arquitectura de una red de Kohonen Setanta de una red de dos capes con N aso de estas y M de sali (rigs 209) Cade una delasN neurons id semen is M dear de conerones hace wlan elon 196 Sten nites Ene as eurona dl cap de lds, pnd decise que een conevons lars de ihibie (oo np) imps, pcr ungee no ea cone 1988), Ls cals decd ated pos vienen de uns Fuente de sonido movitndseaeatorainese alrededor de © ¥ tmiiendo sels sonra de mena constant x inteaos de tempo feu [ed conta de dos axnes de entrada que Hea swiss as 1600 veto as que constityen Is apa compe. Las neon a diponen sobre na smttz plana de 40 x40 poxcione. Como sh it cada neurons ee case tezade por ue wer depo hiiensonal yaya) el cal debe st sjusado gradualment de format qua neu en Sutin torn epi ‘ato par una pequeoconunto de sf deenrads qu eeepc tua pequefo ein denize de G. Esa non econce cane el carp testo ela pruron | Ls newrnasdeberin coon forma de scams ‘cep de manera de qu la dposiin gordi delaras en la ma ‘sorsponda con a dgoscin gages de lo camposresepves dents de G. En a igua 2.22 pucde ver lel del signin de newronas po sions en G. Poe cadaneutonaj © Area mara laps 09) de 2 Campo recep en Gly camo fie asgnad por ol mapa. Las macs se conecta ee sl slo 6s neu ronatrpeciva on adjacent on a ms, Como pocde sprecae iic mentee signin es compleamente dso Solo hcg dea pq ean- tid de lercones In eovuctra gous de G he sido apendia ase que Finalmente, luge de 40 00 emisiones de cles sonora, log conan (buena signer de neurons poisons En este caso a ted ha encontrado uns tansonacn a ina que mapea una repin curea como es ren na mati suadrada corm c - Ena figura 223 pce vere ce a tranformacién de ronenadas oa en considers a densidad de pobbilad dela sees de entrada Em oe ‘aos epi el miso experaento per aora emis de sees dent de tos mpi cal en eer dG tne unn suena es ess aor que fl excerior El ead er una mayor detida de reront niga 4 ona. Es pot eto gu se dice gue lagna ft porn ede bo tne opin le faci de deni de proba del hale de ead End gemple dept, el epi de timuos Go mapead a una reg deigad Far 23 Render dela sia pare pete mayer dea Aimensin. Sel epacio deciles poets una dimensdn mayor el mips tea de proyecto lo mis Elment pone ates de una conlstin apr pada Parailsrar eect, consderomore cao de wn aden unidimensional de neurons como cap competi y tomenor como regin de etnlar wn cur {Tado uniario, Una ene de rctue bidimendonls tornados seatorimente ‘como punto de ee cura serdn presenta alae en cen, ‘Nuevamente, la rat de mapas cada neon una poscin dene de Ia sepindeeatmulos,obeenndowe Lor elton de agus 224 gra 124 Reta da mapa wre deine mayer 2.55. Limitaciones de las redes compettivas Lared de Kohonenprtenece una le de rede euros conacia coma de res compeiiva a ee tip de rede ls neurons compen ycoopean te pure spender a dates bt infrmaiones deena ey comm 9 ‘oem el model de Kahonen) Las als compscves peatan una wi de robes olnitacones que sed atlas econo Acosta B. Mara ab Zulga M. Camilo Salma Hal, 2000) Larder compos on bastante ice pars rear problemas de ‘ccd, sn etharg® proetan gos incnvenienes. psec 2 aes esol sees 45

You might also like