Professional Documents
Culture Documents
MacKay D.J.C. - Bayesian Methods For Neural Networks - Theory and Application (1995) PDF
MacKay D.J.C. - Bayesian Methods For Neural Networks - Theory and Application (1995) PDF
! " # $%
#
&('*),+.-0/1&('3254760+98,:
;<)>==?'*+@;<AB,6C60/
DFEHGIJLKMENPO
IHQSR*TVU*JCWXTY%ZIH[*Y\E]0ZI9QL^,TY\_VJ\`,aCR*I9TbY\GcENdUPegf*f*]MKihjEQkKMTNlJ
mrCEHE9nnI9KiUpNdUVo*KxqsJyrtR7quz{O
E|dEhwTvY\EE9QkG TY\G}
rCE~|*Y\KxU3bI}*r>Dc1
>q
b.kb5j9{jj0X9*x5
5bS%\g5 L¡ 9¢S£k¢¡¥¤5¦<jck§.¡ 9¢S£k¨¡¥¤5¦©
ª*«L¬bS15¢,5L¡¥¦w¦S£L¡ 9¢
®¯«y°±jd«L²x³´w°µH¬,j°X«¶b\°\·%«y²X«L°¸º¹y«L.w9»x¸º.«k\°¼·%9«L¬¯.¬X«L¾½¿w°C«L·¶¸°X¸ÀkjV°X«yÁw°X«y¬X¬X¸5#\ ÀyÂj¬X¬¸Ã»
Ä Àkj²X¸w¾·%9«L¸Áb¡´ª0Å«L¸°¼Æb«LÇ9¸È¸¸²x%·1jµw«L¬¼²XÅ«y·\È«²X%.¸º¬ÀL\Éw«y°<·w°«<Á5«L«L°\d°«Ls\²¸º5¬XÅ.¸º¶.¬¯¸
bj²±²XÅ\%²°±j¸²X¸wbj¬X²\²X¸¬²X¸Àk\·9«L¬k¡
Ê0Sw«LÄ ¬¸Âj,¶°wÈbjȸº¸²x¼²XÅ«L5°XC¶°\ÉH¸«y¬Ë̸ͽ¿9¸Á´½¿°\·%«y³u5°Xµ´½¿5°Vbj²±0·9«L¸Áu³0Å.¸ºÀÅ,jÎ$«y°X¬*¬X«LÉ5«L°±j
È·%«L9« «yu²¬kÀL¡C5·%Ï3¸º¶°¬X«L²SÇ9Ðb¸²²xÅ9«,¡cTÊÓnSI95YS«LÑd¬X¸sQkjQS7K¿N*· 9f*Y\«LT0|*ÀL]¿5I9·%~Ò¶bjÀk°X\¸¾¬X5Èbc«,Àk¬\wPÉwÈ«y « È9%¬X«yP¬¸º½¿.wÁ%°Ê0«LÇS\w·«L¬¶¸Âj«%²·%c«L²wŶ9²¸º·¬¯¸²¹Lg«gÀL³uw«y9¸º²XÁ5°Å9w²
Ô «LÀSSc°±\²«L¬kд\c² ¸9½¿«L°g\.²Xw·\²¸ºÀS\%³0ŸÀÅ#\°«%²XÅ.«%°X«yº«yÉw\9²t¸¶.²,Éw\°¸s\È«L¬C½Mw°t¶.°XwÈ.º«y·¡
«LÀywVд¶°wÈbjȸ¸º¬²X¸Àg·%9«yº¸ÁÅbj«L¬ÀL«L°²±j¸º9²xÕ¸ºPbj²X°\0·1j«L°S¡Öª0Å«L°X«¾¸º¬g¾¸×9«
¶°«L¬XÀL°¸¶²X¸w3Ð\~cEY\K¿N*E]MK¿Ø5EQSKsTbN0ÐM½Mw°V¸Àyw°X¶w°\²¸º.Á0ÀL«L°²±j¸º9²xÄ ,\Èw.²¶b\°\·%«y²X«L°¬V¸9²X0¶°«L¸ÀL²X¸5¬k©
²X·%Å.9¸º¬¼«y¶º°X¬´9³0ÀL«yŸÀÅ °X«\9°X«,¸º«yjº.Ȭ¯«¯È²X«Lg²X²«y«LÇH°,²¶°±j°ÀL«L²¯¸·ÀL²Xw¸5°X«¼¬k¸¡¼9½¿ª0w°Å·1¸°XVj²Xиw³´F«t½¿ÀS°X\5 ·b« j²±«g¡ ·%5°X«C¬X5¶Å¸¬X²¸Àk\²«L¶.°XwÈ\ȸ¸¬X²X¸À
Ù0³0¸V¸¬XÀy¬X¬,²Å«¶°±jÀL²X¸Àkju\¶¶.º¸Àkj²X¸wj½u²XÅ«y¬X«g·%«y²XÅ9¬¼²X1Ú¶°X5È«L·¸9ÉwwÉ9¸Ág²XÅ.«t¶°«L¸ÀL²¸º5
\½d¬X«L°¸«L¬¯j½lȸ¸Á«L«L°ÁwHj¬d½M°Xw·¬X«L°¸º«y¬¯\½*«L9É9¸º°w·«L9²±jbÉwj°X¸s\È«L¬S¡
Ù´³0¸º\¬X¸¬XÀy¬X¬C²XÅ.«>j¶¶¸Àk\²¸w%j½lÊ0Sw«L¬¸s\·%«L²Å9¬´²Xg«L.°±\3«L²x³´w°µ%ÀLs\¬¬X¸ Ä «L°¬k¡
Ï3¸b\gÙu³0¸«L¬ÀL°X¸È«t²Å«,¸·%¶.º«y·%«L9²±j²X¸w\½u¶°wÈbjȸ¸º¬²X¸À¯°«LÁw°«L¬X¬¸wÖ·%9«L¸ÊuÛCÜ Ô ¡.ÊuÛCÜ Ô
¸¬1p¶°X5Áw°±j·Ý²XÅbj²%Àkj°X°¸º«y¬15²%Ê0Sw«y¬X¸s\Þ¸9½M«L°X«L.ÀL«cwÞ¬²±j²X¸¬X²¸ºÀS\C¶°X5È«L·%¬g.¬X¸Á7p¬X¸·gs\²¸w
²X«yÀ±Å.¸×H.«,µ9\³01j¬¯ÜC¸ÈȬ0¬±j·%¶¸Á¡
D,EJLKxhNlI9[*Y\E]dN*I9QL^,TY\_ch\TNËhjI9flQ\J
CY\T|lE.|lKM]MKsQLG QSR*IHTY\GÖENdU h5h\E~ºJY\E.ØwTY
ZIH[*Y\E]´N*I9QL^,TY\_VJCEbJf*Y\Tb|*E|*KM]¿KMJLQSK¿hF~cTVUVI9]xJ
IHQSQSK¿N*Y\I9b[*]MEY\K¿Ø5EQSK¿TN hjTbNdJyQkE.NVQ\JPENdU
O
TVU3IH]0h\T~cf*EY\KxJLTN
eg[*QSTb~cEQSKxhgI9]¿I9n9ENdh\I mI9QkI9Y\~cKMN*EQkKMTN b
0Y\Y\TYg|*EYwJENdUÕflY\IU3Kxh\QSK¿TNdJ b
CY\IU3KihjQkKMTbN#hjTb~cf{IHQSKMQkKMTbN
! ~cf*]¿I9~cI9NVQSKsN* h\T~cf*]¿I#"ÖY\IHY\IJkJyKMTbNÕ~cTVUVI9]xJCKMN@D%$'&( b
e [l~c~cE.Y\GcTW¯N*I9[*Y\E]dN*I9QL^,TY\_c~cTVUVI9]M]¿KMNV Jy[*bIJLQSK¿TNdJ
D [l~c~cE.Y\GcTW¯EbJSJy[l~cf*QSK¿TNdJ
0.5
10
5
-10 0 x2
-5 0 -5
x1 5 10 -10
^ ¦±
Ï3¸ºÁ5°X«g<t[*Qkf*[*QCTW,JLKM~cf*]¿IgN*I9[*Y\E]dN*I9QL^,TY\_cEbJFEÖWX[lNdhjQkKMTbNcT.W¯KMQ JCKMN*f*[lQ
8;6 0.5
10
0.5
10
0 5 5
-10 0 x2 -10 0 x2
-5 0 -5 -5 0 -5
5 -10 5 -10
^ L] ^ ¢X
x1 10 x1 10
4 1
0.5
10
0 5
-10 0 x2
-5 0 -5
5 -10
^ $¤L
x1 10 1 1
3
0.5 0.5
10 10
5 0 5
-10 0 x2 -10 0 x2
-5 0 -5 -5 0 -5
5 -10 5 -10
^ ¦± ^ $L
x1 10 x1 10 1
2
0.5
10
5
-10 0 x2
-5 0 -5
5 -10
^ ¢k0
x1 10
1 1
1
0.5 0.5
10 10
5 5
-10 0 x2 -10 0 x2
-5 0 -5 -5 0 -5
5 -10 5 -10
^ L¦L ^ ¤±¦
x1 10 x1 10
1
0
0.5
10
5
-10 0 x2
-5 0 -5
5 -10
^ 0
x1 10 1
-1
0.5
10
0 5
-10 0 x2
-5 0 -5
5 -10
^ $
x1 10
-2
-3 -2 -1 0 1 2 3 4
8:5 5 6
Ï3¸ºÁ5°X«,(IHKMRVQtJyf*Ebh\Iq
ª* ·1jµw«²XŸ¬,.¸º¬ÀL¬¬X¸wÕ·%w°«tÀywÀL°«L²X«5Ðu«L²¬tj¬X¬·%«g³´«1j°X«%¬²X.H¸ÁÖȸb\°ÀyÂj¬X¬¸ Ä Àk\²¸º5
¶°wÈ«L·ÖÐV\Ö²XÅ\²,³´«g¸H²«L°X¶.°X«L²²XÅ«w²¶%² "d©'^ 1(>\½0²XÅ«¬X¸·%¶«,.«L°X57jÈb\É5« j¬,« Ä .¸º.Á
³0Å.«Lc¸²X¬C¶b\°\·«L²X«L°¬,^?j°X«g¬¶b«LÀy¸ Ä «L_ F²XÅ«g¶°wÈbjȸ¸º²x²Åb\²,\Ö¸¶² "PÈ«LwÁ5¬<²ÀLs\¬X¬ ` 5Ð
°± j²XÅ«y°<²Åb\¾²XÅ«g\²X«y°Xbj²X¸Éw« ` ¦.¡¯ª0Å9M¬ "d©'^ 1( ` " '^ )(L¡0ª0Å«y«kjÀÅÉwjº.«<j½u^
¸g²XÅ«C¶¸ÀL²°X«Cj½V³u«L¸Á5ÅH²{¬X¶bjÀL«C« Ä «y¬¯,¸ÍΫL°X«yH²0¬È9£9ÅH9¶w²Å«L¬X¸¬0\Èw²´²XÅ.«<¶.°XwÈ\ȸ¸²x,\½VÀLsj¬X¬C
PRQ S
°X«yÂj²X¸Éw«C²tÀLsj¬X¬<¦\¬¯F½MÀL²¸º5\½ "d¡
®¯\³(¸·1jÁw¸«0²Åb\²¼³u«,°«LÀL«L¸É5«t¬w·%«Cbj²±gj¬¯¬XÅ.\³01¸ ²Å«,«½¿²¼ÀLw·%j½ Ä Áw°«t¤;¡ PdjÀ±Å¾b\²
¶w¸9²<Àyw¬¸º¬²X¬,j½Ó²x³u¸·%«L.¬X¸wbjV¸¶.²<É5«LÀL²w°"P\c `<Éw\«F¸º.¸Àk\²«LÈ9 ` 0 ¯5°
` Ùx¦ L²¡ Å«²X°±j¸²X¸w\VÉ9¸«L³(j½u«k\°¸ÁbÐg¬¸Áw«,¶bj°±j·%«L²«L°¯É5«LÀL²X5°C^«LÉ5wÉw«L¬¼«y°,²XÅ««k\°¸Á
UT JV
°Xw.È º«>«LÀL½¿²X°X¸5É5·«C½¿j Ày¸²X¸¸w²X ¸s\«y×H¬²±\\°*²X¸²XgÁg·¶¸ºw9¸9¬0²¯²^ ÅC«,²w1Ág ¸Ä µw«yº\¸*Å9w9¶%²¸·g¶.º.·¬< ^ wÐL¸[ ¬XU ÀÅcd¬X.³ÓÀ±ÅÖS\\¬A¬¯ ²%·¸º.6 ¸º·g¸¡Ì¹L«¯ª0jÅ «
XW XY
È9%Ê0Sw«L0¬ #²Å«Lw°«L·\°X«
Q CSj + ^ ` 4" ])( \` '^ \ ` 9" 9]" )(1 ( ^ (
Q 5S
Q
e +
5Sj +
.Q CS
¤
ª0Å«¼¶b5¬X²X«y°X¸w°0¸¬²X°X¸È.²X¸w¸º¬´²XÅ9¬´wÈ.²±\¸«y%È9g·g²X¸¶9¸ÃÁ¼²XÅ«CÄ ¸µw«L¸Å99tÈ9%F¶°X¸5°d¸¬X²°X¸È²¸º5
\Éw«y°<^¬¶b\Ày« ¬XÅ.\³0 j¬<gÈ.°XHj ÜF\¬¬X¸s\j²¯¶.¶b«L°F°X¸ÁwÅ9²¯j½ Á5°X«gL¤ Ä y¡Cª0Å«t¶w¬²X«L°¸w°C«L¬«L·gÈ«
³0¸²Å¸ ·g.º²¸¶¸ºÀS\²X¸É5«<Àyw¬²±\9² ,¸¬,¬Å\³0c¸²Å«%²Å¸°XcÀL5º.·% j½ Á5°X«¤Ð*\#j¬tÀL59²Xw.°
¶ w²´¸g²XÅ«¼½¿5°X²Å%ÀL5·%V¡ ¬0²XÅ.«<\·w9²dj½Vb\²,¸Ày°X«kj¬X«L¬ ½¿°w·²X5¶%²XÈw²X²w· LÐ5²XÅ«¼¶b5¬X²X«y°X¸w°
«L¬«L·gÈ«dÈ«LÀL5·%«L¬3¸º.ÀL°X«kj¬X¸Á5ºCÀL5ÀL«L9²°±\²«L%\°w.,²XÅ«´·%5¬X²¶°X5Èb\È.º«{Éw\«d^ ¡Vª0Å.¸º¬3¸º¬²X°\²X«y¬
²XÅ.«<Ê0Sw«y¬X¸s\¸9²X«L°¶°X«L²\²¸º5\.%Áw«y«L°±j¸º¹S\²X¸51j½l²°±\.¸º²¸wbjb«y°±jV«L²x³´w°µ%«kj°X¸Á¡ Y
Ê0Sw«L¬¸Âjt¶.°XwÈ\ȸ¸²x¯²XÅ.«Lw°t¶°\É9¸º.«L¬d0¸Í½¿9¸Á̽¿°±j·%«L³´w°µ0½¿5°l\²±Ì·%9«L¸Áb¡ Ê0Sw«L¬¸Âj,bj²±S»
·%w¶.9²X¸·1«yºj«L0° ¶# ¬Ó°X«yj¸º·¸ÀL²X¸¸w¬¯.²¬¯g¬«L¸ºÉw.«yÁtº5²¶ Åw¶¬°«,w·%Èbj9ȸ«Lº¸¬¬S²X¡V¸ÀCª0·%Å«C9Ê0«LSw¬´«L²X¬Åb¸s\j²<\½¿°±°j«,·%³´«L«L³´Ãw»x·1°µtjŲXÀ\Ŭ0«L¬X«yÉw²«Lg°\²XÅd«\bÉw\j²9²±Ð\\Á5«L¬k¡ ·1jµw«
*°X5Èb\È.¸º¸²x,²Å«Lw°g½¿5°XÀL«y¬u¬´²X·1jµw«´«LÇ9¶¸ÀL¸²u\5°u·9«L¸º.Á<\¬¬X·¶²X¸5¬k¡Ê0Sw«y¬X¸s\·%«L²Å9»
9¬<j°X«C·%«yÀ±Å\¸¬X²¸LÀ d5ÀL«t·H.«Lb¬¶b\Ày«tÅbj¬0Èb«y«L.« Ä «L3Ðb²Å«LVг0Åbj²X«LÉ5«L°¯×9«y¬X²X¸51³´«,³0¸¬XŲ
z
¦ I^ SLV X LVX
5g
5
0 w2
5
-5
0 w2
-5 0 5
-5 w1
-5 0
w1 5
10
5
5
x2
0
0 w2
0.5 5 5
-5
-5
0 w2 0 w2
-10 -5 0 5
-10 -5 0 5 10 -5 -5 w1
x1
-5 0 -5 0
w1 5 w1 5
10
5
5
0.1
x2
0
0 w2
0.05 5 5
-5
-5
0 w2 0 w2
-10 -5 0 5
-10 -5 0 5 10 -5 -5 w1
x1
-5 0 -5 0
w1 5 w1 5
10
§
5
5
0.05
x2
0
0 w2
-5 5 5
-5
0 w2 0 w2
-10 -5 0 5
-10 -5 0 5 10 -5 -5 w1
x1
-5 0 -5 0
w1 5 w1 5
Ï3¸Áw°«<¤$d ÌnbT]M[lQSKMTbNÖTW0QSRlIf*Y\Tb|*E|*KM]¿KsQGU3KxJLQSY\KM|V[*QLKsTNT.nbI9YflE.Y\E~cI9QkI9YwJ¼EbJUVE.QkEEY\Y\KMnbIJjq
*°X5Èb\È.¸º¸¬X²¸Àu·H.«Lº¸Á0Å\«L¬{ÀL«L°²±j¸º9²xg¸g¯\²X.°±\·1j«L°S¡ª0Å«L°«¯¸¬dC¸×9«0¶°«L¬XÀy°X¸¶9»
²X¸5 ·1j°XÁ5¸º\¸¹k\²¸Ãw7 ´½¿5°<¸Àyw°X¶w°\²¸º.Á ÀL«y°X²±j¸H²x#jÈb5²,¶bj°±j·%«L²«L°X¬,¸9²X¾w°,¶.°X«L¸ÀL²¸w¬\½
z
w²Å«L°¼Éw\°X¸sjÈ«L¬k¡
¶°«½¿Ï3«L°¸º«L\ÀL«FHÐ.½¿wÊÓ°0S¬5¸«L·%¬X¸s¶\Ö«0·%·%99«y«yVº¬SÀL¡V5ª0·%Å.¶b¸º¬0j°X¶¸¬Xw5¸91²´«y³0·g¸ºÈb9È«C¸«L«L¬ Ç9¶b\hwhj.E«L~ ºwJY\¸E.1ØwTY·Ðb²wÅ·«g«L¶9°²k¸º¡ .ÀL¸¶«,²XÅbj²C¬X²±j²X«L¬
ª0Å«C¶°X«yÀL«L¸Á%jÉw\9²±jÁw«L¬´\½*ÊÓS5«L¬X¸sj%·%9«yº¸ÁCw²´·1jµw«¯jºw.°0²X°X5È«L¬´ÁwgS³ÓS9¡3ª0Å«
Ê0Sw«L¬¸Âj¸¬,«½M²<³0¸²Åc²XÅ«g²x³0¸Ö²±\¬µ9¬,\½0« Ä .¸º.Á j#\¶¶.°Xw¶.°X¸s\²«t·H.«Ld¬X¶\ÀL«½¿5°C²XÅ«b\²ÐVj
¸·%¶«L·«L9²X¸Á¼²XÅ«,°«L¬0\½d¸9½¿«y°X«LÀy«,9·%«L°¸Àk\H¡
o)+?;G) o%(#
\ °ÀL«gÀkjÀL·w·# ¬V¶b°\\²¹L¸5È°l«<¸¬*³0²X¸Å.²«0Å ¶°X¸¬X«yÀL²,¸¶\½0«dw²ÅbÈ\¬«L²*°X¬Éw²±j\²X²¸«Lw¬u.¼¬kÐ ¶
°«ÀL½¿Àk«Lj°·«L# ÀL¬C«Ì°±½¿jw¹L°*w¬X°,¸·\.¶ÉH«l¸¬²«LŬ,«L5¬,°X¸«L²¬k¡*ÈÙM½Ä ¬X «LÉ5²Å«L°±«gjb«k«L\Ç9¬¶²<sjÀywb·%\²¶.¸º5º«y Ç ¬
5Å«L°«L9²¯¸9½¿«L°«LÀL«F«L·gÈb9¸«L¬
ÀLÀkj· # ¬0°±j¹Lw°¯j²X5·1\²¸Àk\t\.%×9b\9²¸º²\²¸ºÉ5«LH¡
ÀL5Å«L°X«yH²¼Èb«yº¸«½M¬¯\¶°«L¸ÀL²X¸5¬0Àk\È«,·1j¶¶«L%5H²t¶.°XwÈ\ȸ¸²X¸«L¬k¡3Ù´³0¸º¬X«F²XÅ«¼½¿5º\³´»
¸Á,5²±j²X¸wÚ½¿w° ^ SLV UWX9U SLV H¶°wÈbjȸ¸º²¸«L¬ 1({¸¬u¶.°Xw.wÀy«L " ²Å«¯¶.°XwÈ\ȸ¸²xtj½ Ð5Áw¸É5«L
\. ( #º¡ª0Å«¬X²±j²X«L·«L9²X¬ j ( ¸º¬²,²XÅ.«gÀLw.¸º²¸wbju\¬¬X·¶²X¸w.¬<5³0Å.¸ºÀÅc²Å¸¬,·%«kj¬X°«
& & Z +Q S
¶°¸²Xw¸¶5wb¬X\¸3²¸º5¸ ¬X²X°¸È¸¬d²X²X¸°5«w¬¯¡*²ª0ÅHÅ.«¬ LUWV (w¶°wÈbj ȸ¸º²xC¸¬²X(°X¸È .²X¸w\½ ¸¬* °X«y1Âj(²X«L ²XM,y²Z¡Å« O 5¸º²¸º9Ųd\\¶.wg5ÀLÁww¸9«L¬»
yJ M2Z
½¿5°0¶°X5Èb\ȸ¸²xt.«L¬X¸²¸º«y¬¯\Éw«y°0°X«kjÉw\°X¸sjÈ«L¬k¡
<SÉ9¸ÁC«L9·%«y°±\²«L%CÀL5·%¶«L²«u¸¬X²{\½²XÅ«L¬«CÀLw.¸º²¸wbjH.«LÁw°«L«L¬0\½VÈ«L¸«½±Ð\³´«¯ÀS\g²XÅ.«Lg¬X«¼²XÅ«
°X.º«y¬uj½$¶°wÈbjȸ¸º²xC²,«LÉw\bj²X«0Å\³P5°dÈ«L¸º« ½¿¬u\.g¶°X«L.¸ºÀy²X¸w¬{¬XÅ5gÀ±Å\Á5«¯³0Å«Lg³´«0ÁHj¸g«L³
Áw¸É5«L%²Åb\²0²HS%¸¬¯,°\¸9gbS©9²XŸ¬0¶°wÈbjȸ¸º²xÀkj Èb«C5Ȳ±j¸º.«LÈHgÊ0Sw«y¬ #²Å«L5°X«L·ÖÐ
Q XS
Q )(
S )( ( (!
Q XS .Q S a Q XS
P(D|H )
1
P(D|H )
2
!"
#$%&(')*+&,.-/)
'0/
)12-4356
7
818)0*
/'
8/8
9'
%0'08),-8+885:;3<$=>
8)9
#
-&,.-/)?'
'0
@8A
#B&C78D72$(EGFHI.JLKMNH/I
9-8+7=./
8
-03O
8P'
-.
9
9Q
-!$RA
&,)1-S'
)$T-.8
8
U;:S3
V";72897=8W0'
)LX$Y
(-8R @&,.-)Z?[W0\(]X:T^ Z?[L_/W.%))-T
+-7CN
CZ?[3
`a&(')T&,.-/)%ZSb+&,cd()$Ue)&(82-f
D'
-.
W%7#g$h\(]X:T^ Z;bi_/jT&,
,'0#
8L)
&,.-/)Z,kW
7=P
WN
%*.=&(')=W&,
9L
C'7
&,28/
9
UZSbW9)R8('
2-lCR
=8/
C
82$S
-8,8835m&,7W7#2/
W
7=CZ,k9-.P
'
-.9
(-8R88T
@n7b9=P8
7 )$S=9ZSb3
o''08+
Q
)G'
8
m'
7)p9
=90/;8 7-T8+
C#+&,.-/)3
/W.q7C-8+8N))
T
@n b W7,rHssOE
t.uHFwvx.r=&,.-)Z b #))0C7?y+t.FHmEGFt.z{.z|rH&,.-/)N3
¸«L9²X¸Àkj*¸º½¿«L°X«yÀL«L¬S©V²Å«L°X«¸¬¯515«tj¬X³´«L°C²Xg³´«Lûx¶w¬X«y ¶°X5È«L·¡ÌÊÓS5«L¬X¸s\¾·%«L²Å9¬¯²ÅH.¬
½¿5°XÀL«¼¬u²,·1jµw«0\²\ÀL¸²0\¬X¬·%¶.²X¸w¬*«LÇ9¶¸ÀL¸²kÐ9\.g²XÅ«L¶°X\É9¸«¼°X«L¬{½¿w°{°X«kj¬Xw.¸º.Á,ÀLw.¬X¸¬X²«L9²X
Áw¸É5«L%²Åw¬«t\¬¬X·¶²X¸w.¬k¡
½¿5º\Oc³0«¯¬0d«LÉwj¬¸ºb.\Á%²«<Ê0S²Åw«L«C¬0¶#s°X\¬«w¸Ðȳ´¸º¸«t²x,°«Ljs½l\²²x«t³´²Åj«t²X¶.«L°jb\¬X²¸¸ºÈÉ5¸«C¸²x²XgÅ«L\5½u°X¸·«La¬ 9(«L5 (\.5 ! Áw( ¸É56 «L ¸%²X²Å.Å«t«Cbj¸ºÁ5²±Å9.²uÐ j½l (bj5 ²±S } } Lвj ¬
²XÅ.«,¶°X«y¸ÀL²X¸w.¬¯·1j«CÈ9%²XÅ.«,·%9«LVjÈb5²0²XÅ.«,b\²Ð } ( 5 LÐbj²XÅ«F¶°X¸w°¼¶s\¬¸È¸º¸²x\b½ ( 5 Ð
Q S
( 5 L¡*ª0Ÿ¬0Á5¸ºÉ5«L¬0²XÅ.«¯½Mw\³0¸º.Á,¶°X5Èb\È.¸º¸²x°±\²¸tÈ«L²x³´«L«L ²Å«Lw°N ( 5 j²XÅ«yw°XN ( 6
Q $S
Q
Q S (( 5 }} (( 5 }} (( 5
Q Q $S
Q S 6 Q 6 6 Q $S
Ä
½iª0SÅÉ5«w°°X«L¬ ²t( °\5 ²X¸\ Éw«L a° ( ( 6 ¡*5 ª0Å.«¯ ( ¬X«y6ÀLwF¾wc°±\²X²Å.¸«%,«L°XÇ9¸Á5¶ÅH°X²«y¬XÅb¬X«yj¬<cÅ.\¬X³Þ¸³u««y·%º«k²XjÅ.¬X«<°5«LȬt¬X«yÅ.°X\Éw³ «y1·g.\À±²±ÅÖF³´w.«L°X°t«C¸¶¸°²X«L¸sj¸dÀL²XÈb«y«y1º¸«È9½M ¬
Q a Q
( 5 Ð9ÀLw·¶b\°«L%² ( 6 ¡
¯\³.H«y¬g²XŸ¬°X«Ls\²«²X
ÀLÀkj· # ¬°±\¹yw°kÐ{³0Å«L ( ¸¬g ¬¸·%¶«L°,·9«Ld²Åb\ ( ª0Å« Ä °¬X²
°±j²X¸ ( 5 ( 6 IdÁ5¸Éw«L¬´¬0²XÅ.«<5¶¶w°X²¸²x9Ðw¸Í½V³´«<³05 ¸¬ÅVÐw²t¸¬«L°X²¯F¶°¸º5°uÈ.¸Âj¬u¸Ú6=½iS~ Éw5°d\½ ( 5
wÖ\«L¬²XÅ«L²¸ÀtÁ5°Xw.¬kÐ5°¯w²Å«tÈ\¬X¸¬¼\½d«LÇ9¶b«y°X¸«LÀL«5¡Cª0Ÿ¬¯³´wÀLw°°X«L¬¶b5c²Xg²Å«·%w²¸Éw\²X¸5¬
Q a Q
½¿²X5Å.° «¯
bjÀyÀk²±S\»x· «L# ¬0¶«L°\¹L.5«L°09²´¸½i¬X\ÀLÀL.²¬Xw¬X°S«yÐw«L·g¸È²X9Å« ¸«LÄ ¬ °X
¬²¯ÀLÀk¶bjj· °±\# Á5¬d°±°j\¶¹LÅV5¡d° Ê´[]X4²0S ²ÅL¸¬¯X4UW¸^ ¬0p\w¡²0Ô .¸«L·%ÀL«L¶.¬º¬±«{\·%° 90²X«LŬd«F²¬X«L«LÀL%5² ,°·1\²Xj¸µw« Ð
¶°«LÀL¸¬X«g¶°«L¸ÀL²¸º5Ä ¬k¡ 5·%¶«LÔ Çg·9«L¬kÐÈ9²XÅ«L¸°¼b\²°X«wÐ3\°X«Àkj¶b\È«,j½u·1jµ9¸º.Á ÚÁw°X«S\²X«y°,Éw\°¸º«y²x
J b2ZZ
¬²,«L«y¬t²\¬¬X¸Áwc«y×H\d¶°¸w°,¶°wÈbjȸ¸º²¸«L¬C²X ²Å«g¶b5¬X¬¸ºÈ.¸º¸²X¸«L¬Cj½¯¬X¸·%¶¸ÀL¸²x1jcÀL5·%¶«LÇ9¸²xH¡
*°wÈbjȸº¸²x²XÅ«yw°X²Å«L \\³0¬u²Å«,5ȬX«L°Éw«L¾b\²,²g«LÇ9¶°X«L¬¬C²XÅ«L¸°05¶¸¸wV¡
«L²¼¬0²X.°X²X%¬¸º·¶«0«LÇ\·¶«w¡ ¼«L°X«F¸º¬¯F¬X«y×H.«LÀL«\½*H.·gÈb«L°¬
z
8
\ +tj°X«¼½¿°±jÀL²X¸5¬k¡
« °«k\¬wP½¿5° Ä ¸ÁÖ²XÅ.« ¬X«LÀyw
«LÇ9¶s\bj²X¸w3bÐ ( \дº«y¬X¬g¶s\.¬X¸È«wд·%¸ÁwÅ9²,È« ²Åb\²%j°X¸²XÅ·«L²X¸À
¶°wÁw°«L¬X¬¸w¬g\°«g·%w°«,½M°X«L×9«L9²ºÖ«LÀyw9²X«y°X«LÕ²XÅbjcÀLȸÀ½¿.ÀL²X¸w.¬k¡ª0Ÿ¬,³u5¶.²tȸs\¬C¸
¶°«L¸ÀL²¯²Å«Cb\² ~
X
} (
Q $S k¦. k¦. ¢w¦ k¦. ¢w¦ k¦ ¢5¦
ÊÓS5«L¬X¸sj%·%«y²XÅ9¬0\°«>jÈ«¯ÀL5¬X¸¬²X«L9²X%j%×9bjH²¸²±\²¸Éw«L²X¬XwÉ5«¯Èw²XŲū¯¸9½¿«y°X«LÀy«,²±j¬Xµ9¬k¡
ª0Å«L°« ¸¬% ¶w¶.s\°g·g9²XÅc²Åb\²g¬²±\²«L¬%²Åb\²gÊ0Sw«y¬X¸s\Õ·%«L²Å9¬gwc¸ÍΫL°½¿°w· 5°X²XÅ.H.\Ç \¬
µ9¶°¸º\5³0°X¬´t³0jŬ ¸" À½¿Å%°X«y×H\°X.«C«L9\²X°¸È¬X¸0² ²X#k°±5j° °Xg"¥¬±j\·%¶¸¸ %ÀÁdL²Å«L²d5²°Xt«L²\¸ºÀS¬\¬X¸1 Áw# V¬XÐ9²\\.²¸ºg¬²X¸Àk¬XjbHj·º«L²XÅ.5H@.# ¬²dÈH·1Cj²µwÅ«´«u·g¸ÀyÀº.Åg¬X¸w¸ÍCÎ$«L\°½«L¬XÀLÈ«C²«y,ÀL²X²X¸ÅÉw««
ÀL5ÀL¬X¸5¬k¡3Ùx²V¸¬V²°X«{²XÅbj²kÐwj²²XÅ« Ä °X¬²*º«yÉw«L5\½¸9½¿«L°«LÀL«wÐ9´Ê0Sw«L¬¸Âj@ # ¬V°«L¬X²¬l³0¸\\½M²X«L,.¸ÃΫL°*¸²X²X«
³0ŸÀÅÁw«L«y°±\¸¹L«C¶H5°X9¡
ÀLÀkj· # ¬0°±j¹Lw°0¸¬0«y«L«LV¡
«L²¬³0°¸º²«.\³0ÞÊÓS5«L¬ #Ì°X«¾½¿w°²XÅ«Ö²x³uÕ«LÉw«L¬\½¸º½¿«L°X«yÀL«c«L¬ÀL°X¸È«L\È\Éw«5Я¬7\¬²
¬X«y« «LÇ9¶¸ÀL¸²XcÅ\³Ê0Sw«L¬ ¸s\#·9«L´ÀLw·Ä ¶b\°¸º¬wÕ³u5°Xµ9¬k>¡ Pd\ÀÅP·%9«y ( ¸¬g\¬¬X·«L#²cÅbSÉw«
¸¬X¬X²«y°X²<¸Èj½l²¶¸w°w ÈbjÈ ^¸¸º²x( g.¸º³0¬²XÅ°¸º¸È.ÀŲX¬X¸²±wj.²X¬k«LЬ*5³0Åb«Cj½¿²V5Éw°0j«kº.\À«LÅ ¬*²XÉwÅj«d·«C9\½d«L^ 1 # ¬Ð¶b\« °Ä \·%¸«yÁ%²X«L²°Å¬l«,·¶¸Áw°«LÅ9²b¸¶.ÀL²Âj¸º5¬X¬¸È¼²±} \µ5^'«w©w1j(
Q CS _
5¡0O
TVUVI9]¼ÑdQkQSKMNl3q ²,²XÅ.« Ä °X¬²,«LÉw«L{\½0¸º½¿«L°X«yÀL«wÐ*³´«%\¬¬X·«t²Åb\²,5«·%9«Lxвū s²ÅVÐ3¬±S9Ð
¸º¬¼²X°«wÐVj³u«¸9½¿«L°¼³0Åb\²¼²XÅ«·%9«L1 # ¬´¶b\°\·%«y²X«L°¬¯^·%¸Á5ÅH²´È«wÐÁw¸É5«L ²XÅ.«,b\²@ }¡¼Û¯¬¸º.Á
ÊÓS5«L¬ #.°X«wÐ9²Å«,fdTJLQSI9Y\K¿TY,f*Y\T|lE.|lKM]MKsQLG%j½l²Å«C¶b\°\·%«y²X«L°¬0^ ¸¬
^ })( } '^ 1 ( } ( ^ ( ¢
Q $S _ .Q CS _
Q CS _
Q $S _
²XÅbj²0¸º¬SÐ
z 3w¬X²«L°X¸5° ¸µw«LP*¸ÅÉ99¸9«LÀL« *°X¸5° XT$z
+.- B N L P7-9A ;/ O./6KM/D-.P2N / K B P2- B / - L -4 / /6- B / @ P2-./ @ -.Q -.PB P2KMK
+.- B N L P7-.K @" / L -4
2P"5
7/6Q ;
*,+.-./02143 )657598 5 :<; * ; =>;.?A@7B6CD@,EGF4HI@JE /6KML @ - ? /6NMO.P9Q.K
ª0Å«,5°X·1j¸º¹y¸º.ÁtÀL5¬X²\9² } ( ̸¬¯ÀL5·%·%5øÁw5°X«L¾¬X¸ÀL«¸²¯¸¬¯¸°X°«L«LÉw\9²¼²X%²Å« Ä °¬X²
º«yÉw«Ldj½Ó¸9½M«L°X«L.ÀL«w;Ð U sÐ3²XÅ«gÀÅ5¸ÀL«g\½0^ ©*Ȳ,¸²CÈ«LÀLw·«L¬,¸·%¶w°²±jH²¼¸²Å«g¬X«LÀywÕº«yÉw«L´\½
Q $S _
¬X··1\°,\½*²XÅ«F¸¬X²X°¸È²X¸5V¡
.¡0·%O
wTV¬UV²dI9¶],s\h\.T¬X¸~cÈf*«CEÁwY\¸KxÉwJL«LTN´²Xq Å«F b²,\²²Å«t¡3¬ª0«LÅÀL5«,¶#w¬X«L²«LÉ5°X«L¸d5°0\½´¶¸º°X5½¿Èb«L\°X«yȸÀL¸«w²xtÐ*³´j½d«g«k³0\À¸¬XÅÅÖ·%²X9¸«L9½¿«L¸¬°C ³0ŸÀÅ·9«L*¸¬
Q _ S
( } } ( ( !
>Q $S _ .Q _
¨
®¯²XÅw«C²¸ÀL5«,°X·1²XÅj\²0¸º¹y²X¸ºÅ..«,Á<bÀyw\²S¬»x²±\«L9¶²0«L¸ «yL¢ Hy²C¡*²ª0«L°XÅ· «C¬X«LÀL 5} ( ²«L0°X¸·Ö¬0вXÅ.«,( «LÉ9¸yÐ9«L¸¬0ÀL²X«FÅ«C½¿5¬Xa° .( È «LÐ.ÀL³0²¸ºÅÉ5¸«,À±Å ¶°j¸º5¶°u¶b«S\\É5°X«L«y°0 w.j¬°
Q $S _ _
¶°wÈ«L·ÖÐbgÀyÂj¬X¬¸ Àk\²¸º5 ¶°wÈ«L·ÖÐw°,Ú«L¬¸º²x¾«L¬X²¸º·\²¸º5¶°X5È«L·Ð.²XÅ«ÊÓS5«L¬X¸sj «LÉ9¸«LÀL«g¸¬C
²X°\¬¶b5°X²\È«×H
\9²X¸²xg½Mw°¯Àyw·%¶\°X¸Ág\²«L°Xbj²X¸Éw«C·H.«L¬k¡0Ùxj²XÅ«L¬«gÀk\¬«L¬C²XÅ««LÉ9¸«LÀy«tbj²X9»
°±jºg«y·gÈb9¸«L¬ ÀLÀk\· # ¬u°\¹L5°k¡
9)L-H*)I/&,.FON /&4*6>6*, *68F o6
«y²u¬{\³P¬X²X.t²Å«¯«yÉH¸«yÀL«¯·w°«uÀL5¬X«L²X,Á9\¸t¸¬¸ÁwÅ9²d¸9²XCÅ\³P²XÅ«0Ê0Sw«y¬X¸s\
ÀLÀkj· # ¬d°\¹L5°
³´w°Xµ9¬S¡*ª0Å«C«LÉ9¸º.«LÀL«¸¬u²Å«,5°X·1j¸º¹y¸º.Á<Àyw¬²±\9²´½¿5°0«L×9b\²¸w ¢L\
} ( } '^ 1( ^ ( 5^ Q S _ Q $S _ Q CS _
^ ( A
^
Q CS _
A
^
ÏV¸Á5°X«,¢$*aCR*I ghwh\E.~ÝWXEbhjQkTY
9
,
#PC
+Q7,
C-8/
&(
,
9=& N=8
%N
+,$'0=72?Z [
7 @?7 )
'
&R8/
e3?
('
8
R-l8
87 ]N8)-g)
_AN
+7,'
&R8/
+7=(#-O3?7+'088/
8
?-.
87 ]N-=72-e)
_P
9R7 ) ' c;
#@
=8/
88,#-
37
9=& "8
P
] _/3
ª0Å9¬²XÅ««LÉ9¸º.«LÀL« ¸¬C
½MwÕÈ9²\µ9¸Á ²XÅ.«1È«L¬² Ä ²¸µw«L¸Å99²Åb\²²XÅ«·H.«LdÀkj7\ÀŸ«LÉ5«1j
·g²X¸¶9¸ÁC¸²uÈ91j " ÀLÀS\· ½i\ÀL²w0° # Ü>d LyÐw³0ŸÀŸ¬¯²X«L°·³0¸º²Å%·\Áw.¸º²«¼º«y¬X¬¯²Åb\5«
²XÅ\²0¶«Lb\¸¹L«L¬ ( ½¿w°0ÅbSÉ9¸Á²XÅ«C¶bj°±j·%«L²«L°0^ ¡
[
_
ÀLÀkj·½x\ÀL²w° A k¦
A
U sÐ5QkR*I ghwh\E.~ WXEbh\QSTbYFKiJCI [*E]*QST QkR*IY\EQkKMTTW0QSRlIgf{T$JyQkI9Y\KMTbYCEbh5h\IJSJLKM|*]¿InbT]M[l~cIgT.aW ( ºJ
f*EY\E~cI9QSIHYJLf*EbhjI QST#QSRlI¾flY\KMTYgEbhwhjIJSJyK¿|*]MI nbT]M[l~cI}w°¯²Å«F½i\ÀL²w°¼ÈH³0ŸÀÅ ( # ¬¼ÅH9¶w²Å«L¬X¸¬
_
ÀL5¬X¸¬X²¸Á,\½l
¼ÀL«y°X²±j¸%9·gÈ«L°d\½«LÇ9ÀL¬¸ºÉ5«¯¬È·%9«yº¬SÐ\\½V³0Å.¸ºÀÅg5,w«0¬°XÉ9¸Éw«y
¬u³0Å«y%²XÅ.«0b\²
[ _
}
Q } ( 6
$S
Q } ( 5
$S
Q ^ })( 5
CS
Q ^ }1( 6
CS
^ ( 5
^ })(
Q CS
^ ( 6
Q CS
^ (
Q CS
} Q CS
A
^ ^ ^
A
Ï3¸Áw°« § Å99¶b5²XÅ«y¬X¸¬,¬X¶\ÀL«ÀLw.¬X¸¬X²¸º.Á1j½u²XÅ.°X«L«g«LÇ9ÀL¬¸Éw«·%9«L¬kÐ.«k\ÀÅÖÅbSÉ9¸Ágw«¶bj°±\·«L²X«y°
^ ÐVj 5«»x¸·%«L¬¸wbjVbj²±g¬«L²D}¡ª0Å«"¥bj²±g¬«L²# ¸º¬,¬X¸Á5«t·«k\¬°X«LÖÉw\«F³0ŸÀ±ÅÖ¸ÍΫL°X¬
½¿°w·Ò²XÅ«¶bj°±j·%«L²«L°t^ ÈH#¾¬X·\uj·%w.H²Cj½<\¸²¸ºÉ5«%5¸¬X«w¡cª´9¶¸Àk\´¬±j·%¶«L¬>½¿°X5·?²Å« w¸9²
¸¬X²°X¸È²¸w } 8 )(tj°X«%¬Å\³0PÈ9cw²¬k¡ ®¯ÊCÐ*²XÅ.«L¬X«j°X«5²tbj²±¾¶b5¸H²¬k¡ ª0Å«5ȬX«L°Éw«L
ÀL"¥b\°²Éw«L¬¼¬X«LÈb0² «y#º\¸¬t³
¬XÅ.¬X\¸³!Áw²«Å¶b«,\¶°w²X¸¬XÀL²«L°Xsj¸5°<°¯Éw¶j°wÈb«,j½MÈw¸?° º¸}²x\¬XŽd\^ ³0Ö½¿wÈ9°´«k\²ÀÅÅ «g·b\9¬Å«L«LcÁw¸ÅÉ55«L°X%¸¹L²5ÅH¸¬0²\b*\²¸«w¬X¡«L² ª0 ÅÀw«g¡ ½±¡ bÄj¬XÁ5Å«L°X «
Q
¶°wÈbjȸº¸²x ½¿«y³u«L°¼w²
¬ ´5%²XÅ\²0¸«w¡ 95µH¸ÁFÈb\Àµ1j²u²Å«,¸¬²X°X¸È.²X¸w¬´\Éw«y°0^ Ð ( Åb\¬0¬·1jº«L°
«LÉ9¸«LÀy«<È«LÀkj¬X«F²XÅ« ÀyÀk\·½x\ÀL²w° ¸¬u¬·1\«L°3½¿5b° ( ²XÅbjg½¿5b° ( ¡3ª0Å«C¬X¸·¶«L¬X²*·%9«y
( 5 Å\¬d²Å«¯¬·1\«L¬²V«LÉ9¸«LÀy«<j½ jiÐjÈbA«LÀS \¬«<A ²Å«¯È«L¬² Ä ²{²XÅbj²d¸ ²dÀk\%jÀŸ«LÉw«¼6 ²X,²Å«0b\²? }¸¬dÉ5«L°X
¶H5°k¡dÜC¸É5«L%²Å¸¬0b\²¬X«L²SвXÅ.«,·%5¬X²d¶°wÈbjÈ«C·%9«L¸ ¬ ( 6 ¡
¶b\j¬°± \·ÀLw«L·²X«y¶°X¬k¸¡ Àk\²V«g²XS Å«ÀÅ^ S w¸ÀLR «\½,\°XS ÀŸ@²«LS ÀL²X.°X
« X ¸#X ¾·gX ²X¸sSV w«L°¼¶bV «L°ÀL«L¶U ²°X5VR$Ð0S0S ²XÅ.L«1 *°ª0\Ÿ¸¬u¬¶\°w½¯È²Å«L«· Èb·1\¬S¸ ¬
Zi
eZ
g \fMy & [ M
2Z
eg bZ 2
½¿.ÀL²X¸w.¬u¸1F°±j¸s\Èb\¬¸¬´½¿ÀL²¸w%.«L²x³u5°XµÐ\.%²XÅ.«<ÀÅ5¸ÀL«C\½V²XÅ.«<¸¶.²uÉwj°X¸s\È.º«y¬u²Å«L·%¬«LÉw«L¬´¸
*,+.-./02143 )657598 ) :<; * ; =>;.?A@7B6CD@,EGF4HI@JE /6KML @ - ? /6NMO.P9Q.K
Test Error
]
Training Error
Model Control Parameters
+
Model Control Parameters
Ï3¸Áw°«%¨$
¶²¸·%¸¹k\²¸w j½¯·%9«L*ÀL5·%¶«LÇ9¸²xH¡gÏ3¸Áw°«L¬ » ¬XÅ.\³ ±° \.¸ÂjdÈbj¬X¸¬C½¿.ÀL²X¸wÖ·%9«y
¸¸9¹k\²X«L²¸°w¶b%5ÂÀyjw²X¸¬Á,²±\F9²0¬X¸¸·%¬´¶Éw\«d°X¸«L\²±F²X¬X«y¸²uÀL³0°X«S¸²X\Åg¬X«F5²XÅ«¯«C¸ÀL5¶.·%²d¶Éw«L\Ç9°¸¸s²x\,È\«0½*\²XÅg«C5·H«¯.5«L ²X¶½¿°X.5²u· Éwj°X¸s²X\ È«wy¡ Ð9²X Ŭ´«C²X¸Å9«¼²X«L°X°«L¶bÁ55Âsj\9°x²»
\9°X«yÁw°X«y¬X¬X¸5c¶°X5È«L·¡CÏ3¸º.¸Á%Éwjº.«L¬0½¿5°C·%9«L3ÀLw9²X°w*¶bj°±\·«L²X«y°X¬C²XÅbj²,\°X«g\¶.¶°X5¶°X¸s\²«C½¿5°
²XÅ.«< \²±¸¬0²Å«L°X« ½¿w°«t\¸·%¶w°²±\9²ujÄ w»i²°X¸É9¸Âjb¶.°XwÈ.º«y·¡
ÀL«yH²°±jl·«L¬X¬\Á5«,¸¬0¸º¬²X°±j²X«L¾¸º Á5°X«L¨ +5¡uÙM½´³u«,Á5¸Éw«,¶°X5Èb\È.¸º¸¬X²¸À<¸9²X«y°X¶°«L²±j²X¸w ²g²XÅ«
·%9«yiÐy²XÅ«y,³u«´Àkj,«LÉw\bj²X«*²XÅ.Z« "¥«LÉ9¸«LÀyL« #y½¿w°*\²X«L°b\²¸Éw«*Éw\«L¬3\½²XÅ.«uÀL5 9²X°X59¶b\°\·%«y²X«L°¬k¡
Éw«y°x»
ÀL5·%¶«LÇC·%9«yº¬*²°Xg5²d²XCÈ«¯«L¬¬d¶°X5Èb\È.º«5ÐHjt²Å«0×9b\9²¸º²x C\² w9²X°w *\°\·%«y²X«L°¬ *Àkj
È«t¬«Lc\¬,\ 5È «LÀL²¸Éw«F½¿ÀL²¸w½¿5°¯5¶²X¸·%¸¹kj²X¸Ä w\½d·%9«yVÀL5H²°X5l¶\°±j·%«L²«L°X¬S¡Cª0Å«¬X«L²²X¸Á\½
JQ &S 8z
w¶.²X¸·%¸¹L«¯s\°Áw«C9·gÈ«L°uj½lÀL59²X°X5V¶bj°±j·%«L²«L°X¬S¡
*,+.-./02143 )657598 )
.{ :<; * ; =>;.?A@7B6CD@,EGF4HI@JE /6KML @ - ? /6NMO.P9Q.K
O
I L L U
N
1
P N I N I T
O N O N
I O
N U P
U N E N E
P
U Σ f T
P T A
R
A
R
U
T
T U S B S
S T
A
Weights f (a) Weights f (a)
3Ï ¸Áw °« ¬X¸<Á5&%º«FY\E«Lf*R*°wKihjVE¡ ]*Y\I9 fl Y\I²xJy³uI9NVQSsESwQk«LK Tb°CNÖ«LT²xWC³´Ew°N*µ I9³0[*¸Y\²XEÅ]d¤N*¸I9QL¶^,.T²X¬kY\Ð$_*½¿q w°¼Å¸«LÖ¸²¬>jw.²X¶²¬k¡
Ÿ«y1sS5«L°u²gw²¶²0ÊC¡
2
'
9
a (
Jm m u Xr
¬¶«L°XÉ9¸¬X«L
«L.°±\¼«L²x³´w°µ7¸¬%Ö59»xº¸«S\°g¶bj°±\·«L²X«y°X¸¹L«LÞ·\¶¶.¸º.Á½¿°X5· jP¸º.¶²"(²X#j
w.²X¶²´G G "d©X^' L¡3ª0Å«Cw.²X¶²´¸¬ÓFÀL5H²¸H.w¬{½¿Ày²X¸w\½l²Å«¯¸¶.²Ój%j½l²Å«C¶b\°\·%Ô«y²X«L°¬
^ ©²Å«tj°XÀŸ²X«LÀy²X°«tj½Ë²Å«,«y²k@Ð U Ð9²XÅ«C½MÀL²¸º5b\½Mw°X·\½*Ä ²XÅ«F·1\¶.¶¸ÁbÐ5¸¬0«L5²X«L È9 1¡ ÀÅ
G6oNq#M68;;,.%9F@F76o/2AC%(#&D;
Ùx%²Å«CÀk\¬«C\½ËF°X«yÁw°X«y¬X¬X¸51¶.°XwÈ.º«y·Ð5²XÅ«C·1j¶¶¸Á¼½¿5°ÓF«L²x³´w°µg³0¸º²Å%5«CŸ«LÂS5«L°´·1S,ÅbSÉ5«
²XÅ.«¯½Mw°X· ¯¸.«LÂS5«L° ? 5 K 8 ? 5 K 3 * ? 5 K © < ?5K ?5K
k
²X¶.²0sSw«L0° ? 6 K _
8 ?6 K * ?6 K ©
_
_ _ < ?6 K ?6 K _ k¤
³0Å«L°«wÐ.½¿w°´«LÇ\·¶«wÐ < ? 5 K ²\Å LÐbj < ? 6 K ¡ ¯«L°« *°X.¬¯\Éw«y°0²XÅ«C¸¶²¬ 35 3 Ð
ÜC°\¶Å¸Àkjº9Ð9³´«,Àk\¾°X«L¶°«L¬X«yH²F²XÅ««L°\*«L²x³´w°µ \¬<Ú¬X«L²Cj½ËsS5«L°X¬¼\½dÀLw.«LÀL²«Lc«L°w¬S¡
«
«L.°Xw¾¸º¬0¬Å\³0¸ Ä Áw°« ¡{ª0Å«C«L9²X¸°X«,.«L²x³u5°Xµ¸¬0¬XÅ\³0¸ Ä Áw.°X« .¡*ª0Ÿ¬¯¸¬0Àk\«L ²x³´tsSw«y°
«L²x³´w°µÈ«LÀkj¬X«¸²CÅb\¬F²x³u sS5«L°X¬C\½¯³´«L¸ÁwÅ9²¬k¡Ùx²«L°X·¬,\½0sSw«L°¬,\½0«L°w¬SÐd¸²CÅb\¬Fw«g¸¶.²
sSw«L°SÐ9w«CŸ.«LÂS5«L°¯\.%w.«<5²X¶.²0sSw«L°S¡
47)8/G;%9#/&; %I=X=
H7F /&,.%9F7;o)+FK/&4*6I; 6>F*6B/2AC%9#&D;,.? 7-.6I? 6oF(/
w.¬X² \¬Ú½¿w°²XÅ«Ö¬X¸·%¶.º««y²x³u5°XµP³u«Ö·1j« \Þ«yÇH¶.º5°±j²X¸wP\½¸º²¬%³´«L¸ÁwÅ9²%¬¶b\Ày«wЯ«yÇj·%¸¸ÁÖ²XÅ«
½¿.ÀL²X¸w.¬¯¸²¯ÀLÄ 5 ¶°H.ÀL«wЫL²¼¬C·1jµw«<Ú¬X·\«LÇ9¶w°\²X¸51j½u²XÅ.«t³´«L¸ÁwÅ9²0¬X¶\ÀL«\½ÓÚ°X«LÁ5°X«L¬¬X¸w
«L²x³´w°µ¡uÙx Á5°X« Ùu²\µw««L²x³´w°Xµ³0¸²XÅ? 5 K w«F? ¸º5 .K ¶?²¯6 K \.15«,? 6 5K ²X¶.²¯\sj°XÁw«C9·gÈ«L° Ò\½
Ÿ«y%¸²¬kÐ9¬X«y²0²XÅ«Cȸs\¬«L¬0\³u«L¸Á5ÅH²¬ Ð 8 Ð \ 8 ²X°±jw· Éw\«L¬SÐHj%¶5²d²XÅ«
J
²¶²
a
¼¸º.«LsSw«L°
Output
0
Ùx¶.²
-5
3
-10 a
-2 -1 0 1 2 3 4
Input
Ï3¸Áw°« *°X5¶b«y°X²X¸«L¬¼\½u>½¿ÀL²¸w¶°X9.ÀL«L È91F°±j5·«L²x³´w°µ$¡
ª0 Å«0É5«L°X²¸ºÀS\¬XÀkjº«0j½ ¼²x9¶¸Àkj9½¿Ày²X¸wg¶°9ÀL«LÈ9,²XÅ«0.«L²x³u5°XµÄ ³0¸²XÅg°±j5·³´«L¸ÁwÅ9²X¬d¸¬*\½w°«L°
9z
¦ ¥¢¡
0.4
Output
0.2
1
0
0.5
0
-0.2 -0.5
-1
Output
-0.4 -1.5
-2
-0.6
1
-0.8 0.5
-1 0
-1 -0.5 Input 2
0 -0.5
Input 1 0.5 -1
-1.2 1
-1.4
-2 -1 0 1
Input
2 3 4 5
bª0ÐÅ
¤«C Ðs\аÁww«L¡¥°0§.ÐÉwwj¡¥º.ЫL¬0¦.¡ \. ½ Ðb ¦.¡ Ðj¦¡¥ ¤Ð ¦. ¡¥¡*¶ª0°XÅ9«,¶Ày\«,°±j²X·%Å«F«L²·%«L° w°«¯
ÀL5³0·%\¬¯¶j«LºÇF¬g½¿Éw.\ÀL°²X¸º«y¸w1.¬¬0³0ÀÅ ¸º²Å²XÅ·%\² w° «0
Æb. ÀL ²Xbj²X¸w¢ .¥¦¬k.¡ ¡
J
a
ge QLGf*KihjE]FWX[lNdhjQkKM
TbN(f*Y\TVU3[dh\IU|VGE(QL^,TKMN*f*[lQ¾NlI9QL^FTbY\_P³0¸²XÅ &
¬XÐV¸9²X«y°X«L¬²X¸Áw9ÐV²Å«%Àyw·%¶.º«yÇH¸²x\½0²XÅ.«½¿ÀL²¸w¬,¸¬,¸.«L¶b«y«L9²g\½0²XÅ.«gH.·gÈb«L°F\½0¶b\°\·%«y²X«L°¬
¸#²Å«·%9«Lx¡ OÞÅbj²t«y²X«L°·%¸«L¬g²Å«ÀLw·¶«LÇ9¸º²x¾\½<²Å«²x9¶¸Àk\Ä ´½¿.ÀL²X¸5¬t¸¬g²Å«À±Å\°±jÀL²X«y°X¸¬X²¸ºÀ
·1¸·%j¶Áww°¸²±²\9²C«C³0\½0Sc²XÅ\«½¯³´ÀL5«L¸HÁw²Å9°X²X5¬Sº¡t¸ª0Á Å9²Å¬C«³´ÀL« w·j9¶²X¸«LÀLÇ9¸¶b¸²x\ ²«t\½C²Åb²X\ŲC« ³0Ä Å²X²«y«LÕ³´½¿«ÀL²<²¸²wÅ#«L¬³0«%¸·%´9Èb««yºÈ9¬¼c²XÀLw°X9«S²\°X*wb¸\²ÁÐV²XjÅ «
ÀÅb\°\ÀL²«L°X¸¬²X¸À,·1jÁw¸²«¯j½l²Å«C³u«L¸Á5ÅH²¬k¡
Ï3¸ºÁ5°X«¼k¦\ÈC¬Å\³0¬V5«d²x9¶¸Àk\j½¿Ày²X¸w,¶.°X9ÀL«ytÈ9<´.«L²x³u5°XµC³0¸²XÅ,²x³´0¸¶²¬ljCw«d5²X¶.²k¡
ª0Ÿ¬0¬XÅ.wÈb«FÀLw9²X°\¬²X«L ³0¸²Å1²Å«C½¿.ÀL²X¸51¶.°X9ÀL«y È91²X°\¸²¸º5b\¸«kj°0°X«LÁ5°X«L¬¬X¸w¾·%9«LxÐ
³0ŸÀŸ¬,Æ\²C¶s\«5¡ «k\°1.«L°±jd«L²x³´w°µ9¬,Àk\ÖÀL°«k\²«½¿ÀL²¸w¬C³0¸²XÅÖ·gÀÅ ·%5°X«,¬²X°ÀL²X.°X«
²XÅ\ ,¸«kj°0°X«LÁ5°X«L¬¬X¸w
>%oA ) #&6BNq#&68;;,.%(F:F76o/2AC%9#MD:,; /5#M) 7,0/&,.%(F*)+-.- 1 /&#&)+,F*6
! ^ *
k¢
³0Å«L°«wÐS½¿5°«LÇ\·¶«wÐ 65 8 Ä 6 ¡ª0Ÿ¬V\.¸º²¸wbj\²X«L°·Þ½iSÉ5w°¬¬X·\kÉwj«L¬\½^(\C«yÀL°X«kj¬X«L¬
²XÅ.«<²«L«yÀL j½Ë·%9«yb² " \É5«L° ² #95¸º¬«C¸º²Å«C²X°±j¸¸Át\²±.¡
^U_ _
²XÅ.«<¶\°±j·%«L²«L°X0¬
Q CS ^ a 1( b «LÇ9¶
k¨
ÙM½ ¸¬V×9b6 j°±j²X¸À0\¬*« Ä .«L%\È\Éw«wÐS²Å«Lg²XÅ.«uÀL5°X°«L¬X¶wÄ.¸º.Á,¶°X¸5°l.¸º¬²X°¸ºÈ.²X¸wF¸º¬d¼Ü,\¬¬X¸s\F³0¸º²Å
Éw²XÅ.\«<°¸s\¸µwÀL«y« º¸Å 9 9 k§´LСd\ª0.%Å.«,²XÅ.¶«,°X5¶Èb°X\¸5È.° ¸º¸¬Xk²¨¸À<L¡ ·9«L7 (¬X¶«LÀL¸ «L¬,²Å«C½¿.ÀL²X¸5b\½¿5°X· \½d²XÅ«F«L²x³´w°XµÐ
a
¸µw«L¸Å99@ a
!^ ` ?;K 5Á " ?QK ©X!^ * ` ? QK 95Á " ?QK ©!^ !
w¦
ª0Å«C²X5²±jwÈ «LÀy²X¸Éw«C½MÀL²¸º5¸º¬´²XÅ.«L *
¡*®¼w²«<²Åb\²0²Å¸¬0¸ÀL«L¬0.g¶b\°\·%«y²X«L°<d¡
H7-0/&, o-.)+;; o-.)+;;, o)I/&,.%(F@F*6B/2AC%9#&D;
Ï.w°¯·g²X¸Í»xÀLs\¬¬dÀLs\¬¬X¸ Ä Àkj²X¸w¶°wÈ«L·ÖÐ9³u«CÀkj °X«L¶.°X«L¬«L9²<²Å«,²\°XÁ5«L²X¬¼È91Éw«yÀL²X5°kÐQHÐ9¸³0ŸÀÅ
¬X¸Á5«0«L«L·%«L9²*¸¬d¬X«y²u²%wÐ5¸¸Àk\²¸ÁC²XÅ«¼ÀLw°°X«LÀL²0ÀyÂj¬X¬SÐHj%\5²XÅ«L°´«L«L·«L9²X¬uj°X«¯¬«L²´²Xt¦.¡VÙxg²Å¸¬
Àkj¬X«%¸²C¸¬,\¶¶°w¶°¸s\²X«g²¬X«' "¥¬\½¿²·1\Ç #.«L²x³´w°Xµ Ê´°X¸« 0ÅbSÉ9¸ÁÀL5¶«Lcw.²X¶²¬,³0ŸÀÅ
¬X.·?² w.«%\#j°X«g¸9²X«L°¶°X«L²«LÞ\¬,ÀyÂj¬X¬,¶.°XwÈ\ȸ¸²X¸«LM¬ ` " '^ L¡gª0Å«s\¬X²C¶bj°X²\½
+ 0
+
_
^U_
_
` º5Á " ?;K ©X!^ !
_ _
w
¬F¸ºÖ²XÅ.«gÀk\¬«g\½0²XÅ«°X«LÁ5°X«L¬¬X¸wÕ«L²x³´w°µ$Ð3²XÅ.«g·%¸¸·g¸Ã¹kj²X¸w\½0²XÅ«g5È «LÀL²¸Éw«½¿.ÀL²X¸w !^
°X«y¬X*²X¬C
² Åb\²0ÀLÀkwj° °X«LȬ«,¶b5ȸ¬¯²u²5 j²XgÅÄ ¸¸9¬¯½¿¸«L9°²X«L«y°XÀL¶«,°«Lj²±½Vj²X²XŸw«ÌV½¿¡´w°ª0· Å«F °X«LL¬¡ ²X¬¯«L²u³0.¸¬u°X«\½¿³ «L°¯¬X²X².%°g«LÁw²X°Å«L«¼¬X¬Éw¸º5\ °¸º«y·%²xg9\½V«yº¬S¬©9«²X½¿Å«
? *-.6I?@6oF(/5)I/&,.%(F
Ê0Sw«L¬¸Âj %¸9½¿«y°X«LÀy«¯½Mw°dbj²±F·%9«L¸Á¯¶.°XwÈ.º«y·%¬d·S,Èb«C¸·%¶.º«y·g«L9²X«LÈ9%\bjº9²¸ºÀS\·«L²XÅ9¬SÐwÈ9
5H²« j°X%¬\·¶¸º.ÁbÐ5°¯È9 «y²X«L°·%¸¸¬X²¸ºÀF·%«L²Å9¬C«L·%¶\9¸ÁgÜ,\¬¬X¸s\Ö\¶¶°\Ç9¸º·\²¸º5¬k¡¼Ï5°
·1«Lj.µw°±«¼\¼¬X««L²x\³´½dwÁw°°µH\¬g²¸«LÅ9«L²¼°«¸º\½¿w°«%°·1½M«L\³ ²¸w\g\ÅbS9É5²X«,¸À%Èb·«y«L«L ²XÅj9¶¶¬S¸¡ «LÔ 5²X¶Å¬X¸w¬X·²¸ºÀS«C\·%²X«y@9 «Lw¶9°²Xw« È «L·\°¬0È91·®¼«L²X«kÅ\9 ¬ ³0wŤ5¸LÀyÅ ¡
ª0Å«g·«L²XÅ9¬C°«LÉ9¸º«y³u«Lc¸Ö²XÅ«g.«LÇ9²C½¿«L³¬X«yÀL²X¸w.¬t\°«gÈb\¬«LcwcÜ,\.¬X¬X¸sj j¶¶°X\Ç9¸·1j²X¸w. ¬0²X²XÅ«
Q CS ^ }Ja 1(
«LÇ9¶ ^ ^ ^ 9e ^ ^
\
³0Å«L°«te wÁ ^ })(LÐ.²XÅ«y1²Å«,«LÉ9¸«L.ÀL«C½¿5° Õ\ ÖÀk\È«,³0°X¸²X²«L\³0@
9Q CS
a 8 6
_
_ a w¨
³0Å«L° «,^ ¸¬¯²Å«C¶b\°\·%«y²X«L°0É5«LÀL²X5°C³0ŸÀ±Å·¸º.¸º·g¸¹L«y¬d²XÅ«FwÈ «LÀy²X¸Éw«C½MÀL²¸º5 *
Ð
\. ¸¬0²XÅ.« "¥H.·gÈb«L°{\½d³u«yºÍ»x«L²«L°X·¸º.«L%¶bj°±j·%«L²«L°X¬0#ºÐ9Á5¸Éw«LÈH
3ªl°\ÀL« e - 5
¯«y°X« ¸¬*²XÅ«0²w²±j9·gÈ«L°*\½¶b\°\·%«y²X«L°¬kÐwj g²XÅ«0·\²°X¸Ç<e - 5 ·%«kj¬X°«L¬d²XÅ.«0¬X¸¹L«0\½²XÅ.«0«L°X°w°´Èb\°¬
w²Å«,¶bj°±\·«L²X«y°X¬0^ «y×H\²X¸5 §LIL¡dª0Å9¬ ³0Å«L ²Å«,¶bj°±\·«L²X«y°X¬¯\°«t\³´«LÍ»i«y²X«L°·%¸«L
«L ²F½¿ÀL²¸wVÐ9¬g²XÅbj²
Q S Q S
6 © 6
a a ! ¤w
ª0Å9¬V²Å«d«L° °X5°V¸9²X°X9.ÀL«LÈH¼w¶²¸·%¸¹L¸Á \ g¸¬V«LÇ9¶«LÀL²«Lt²¯È«d¬X·\y½¿w° d\ 5¡
¯\³Õs\°XÁ5« «L«L.¬0²XCÈb«¼«L¶«L¬´w²XÅ.«¯¶°wÈ«L·ÖÐkÈ.²*½¿5°d·1jHC«y°±j«L²x³´w°µt¶°wÈ«L·¬dCÉw\«
¸ÀL¬%5·%c¶¬µw²«L\³´²»x¸º5¶bb«S\\µw.«y²XÞ«LÀŸ¬X¸×9²°X¸È«L¬C²³0¸º5ÅV¸ÀÐ0Å%\ÀS\
\ÀL¶bwj¶°X«,²½¿¸°°w«L·ÝÀL²X³0w9¸º²²XÅ« ¬X\ÀÅ °Xc¸·¬²X«L°X¸²XÈÅ.9²X¸¬gw²¬SÅ¡ «L°« j°X« ÀL.°X°X«yH²7.
[
[
Vj²X«L°0CÀL5°X°X«yÀL²X¸w²«L°X·³0¸È«¯Á5¸ºÉ5«Lg³0ŸÀÅ%\¶¶.°X\Ç9¸·1\²«L¬*²XÅ«¼¸H²«LÁw°\²¸º5g\Éw«L°<j ³0Å«L
¶°«L¸ÀL²X¸5¬<j°X«C·1j«w7Ð U %\¬¯ Ä bj¬X²X«y¶ ¸1²Å«CÀk\ÀL.Âj²X¸w.¬k¡
H7-0/&, 7-.6U#&6BNqH*-)+#&, o)I/&,.%9F o%9F*;[/&)+F9/&;
.Ï w°¬X¸·%¶¸ÀL¸²x9Ðb¸²Åb\¬¬X¾½ij°,Èb«y«LÞ\¬X¬·%«y#²XÅ\²²XÅ«L°«¸º¬w.6ºc¬¸º.Áw«%ÀLsj¬X¬\½<³´«L¸ÁwÅ9²¬kÐ*³0ŸÀÅ
\°«,·%9«yº«L\¬0ÀL5·%¸ÁF½¿°X5·¬¸Áw«,Ü,\.¬X¬X¸sj1¶.°X¸w°0³0¸²XÅ u¡ ¯\³´«LÉw«y°kи¸·%«y¬X¸w\
²X«y°X·%¬Sг´«L¸ÁwÅ9²X¬0.¬Xbjº½ij¸º9²t²Å°X«L«w°0·w°«¯¸¬X²¸ÀL²0Áw°w¶.¬k г0Å.¸ºÀŽMw°´ÀLw¬¸¬X²X«yÀL ¬Åw5²
a (
a 8 6
_
_ a ¤\
³0Å«L°«#^ ¸¬ ²Å«c ¶bj°±\·«L²X«y° Éw«LÀy²Xw°Ö³0ŸÀÅ(·%¸¸·g¸¹L«L¬²XÅ«ÕwÈ «LÀy²X¸Éw«Ö½¿.ÀL²X¸5 *
Ð%j #¸¬Ö²XÅ« H.·gÈb«L°Ö\½³u«yºÍ»x«L²«L°X·¸º.«L¶bj°±j·%«L²«L°X¬c¸ÀyÂj¬X¬ Ð
Xª*°±jÀL« e? -K 5 y© d¸¬d²XÅ«¼9·gÈb«y°lj½V¶b\°\·«L²X«L°¬d¸gÀLs\¬¬ Ð9\g²Å«¯²°±\Ày«¯¸¬d\Éw«y°d²XÅ5¬X«¼¶b\°\·%«y ²X«L°¬
^
w.º9¡
Q CS
Q $S
Q $S
Q CS
¤w¢
zdI9nIH]<E`0Ùx9½M«L° a6
a6 })( } a 1 (} ( a (
Q qS
Q $S
Q $S
Q qS
¤w§
zdI9nIH]<|´` 5·%¶bj°X«¼·%9«L¬
¤w¨
Q ( } } ( (
S Q $S .Q
ª0Å«L°«u¸¬V´¶bj²X²«L°X¸<²Å«L¬«u²Å°X«L«0\¶.¶¸ºÀS\²X¸5¬bj½ÊÓS5«L¬#S°X.º«V\²3«k\ÀÅ,j½²Å«dŸÁ5Å«L°V«LÉ5«L¬Vw0jt\È3Ð
²XÅ.«<\²± »i.«L¶b«y«L9²0½x\ÀL²w° Ú¸º«LÉw«LV5Ð } )( {¸º¬´¶°«LÀL¸¬X«L²XÅ.«<.w°X·\¸¹L¸Á¯Àyw¬²±\9²
²Å«;"¥«LÉ9¸«LÀy«L# ½¿°w·
²XÅ«d¶.°X«LÀL«y¸Á¯«LÉ5«Lwj½¸9½M«L°X«L.ÀL«w¡*ª0Ÿ¬¶bj²X²X«y°X,j½¸9½M«L°X«L.ÀL«uÀyw9²X¸9«L¬3³0Å«L,³´«
] &Q $S
\.1.«LÁw«LÀL²¸Ág²XÅ«C¬º¸Á5ÅH²´ÀL5°X°X«yÂj²X¸w.¬0¸º²Å¸¬0¶b5¬X²X«y°X¸w°Sг´«<5Ȳ±j¸%²XÅ.«,«L¬X²¸·1\²«
Q qS
³0\°Å«,«L\°«¬´Áw¸Éw }«L ¸% «L6×9 bj²X¸)w( 0¸¤w¬¼Lw¡*Ȳª0\Ÿ¸¬0«LÜ,½M\°X.w¬X·¬X¸sj«L1×9b\j¶.²X¶¸w°X\ Ç9¸ ·1w§jL²Xиw\,¾\É5²X«LÅ° «,c«y°X\°X.5°CÈbÖ\Å°¬<w5 ¬´Áww9Á9Pg½¿\5° ¾ º5ÁD
Q $S
c\²XÀL5·%¶bj°X«<j²X«L°b\²¸ºÉ5«¯¬w²X¸5¬kÐj¬X¬X.·%¸Á,²Åb\²0²Å«C¶b5¬X²X«y°X¸w°0¶°wÈbjȸ¸º²xÀL5¬X¸¬X²¬¯j½l³´«L
¬X«y¶b\°\²X«y ¸¬Xs\.¬0¸º¶b\°\·«L²X«L°0¬¶b\Ày«,²XÅbj²¯\°«<°wÁ5Å%Ü,\.¬X¬X¸sjV¡
w.ºFÏ5°¯«L«LÁ5g«L¸²*«L°²X\C ÈÞ«¯\jÀLÀL(.°±Õ\²²X«0Ž¿«%5°*Ü,²XjÅ«0¬X¬¬¸s·1\\5j¶°±\¶.°XÁw\«´Ç9¸\·1½ j ²X¸\wg%\É5«LÀL°Cw^¬«0³0²X,¸V²Å«L5¸°*²¯·%È« w¬j²*ÀL¶ÀL°X5°\Èb²\«wÈ©*«´Å\Éw³´\«LÉw«w«L¡3°Cϳ´5«°
¬X %ÀL¸«L9²X s\°Áw«g\·%59²X¬0j½Óbj²±ÚÀLw·¶b\°«L²%²Å«g9·gÈb«y°¯\½0¶bj°±\·«L²X«y°X¬kÐ ²XŸ¬,\¶¶.°X\Ç9¸·1\²¸w
¸¬u«yÇH¶«LÀL²«LÖ²XÅwV¡ *°±jÀL²X¸ÀkjV«LÇ9¶«L°X¸«L.ÀL«,¸¸Àkj²X«L¬0²Åb\²´²XŸ¬0¸¬0,¬«½¿Vj¶¶°\ÇH¸·\²X¸5,½¿5°u·\9
5
°X«S\V¶.°XwÈ.º«y·%¬k¡
+z
"$#&) /&, o)+-J#&6 o%(?@?@6oF 7)I/5,%9F #&6oN)L# *,.FON ?@%768- o%9? 7)+#&,.;%9F
OÞÅ«y1.«L¬X¸Áw.¸º.Á%,·H.«L¬X¶bjÀL«wÐ.w«,·StÅSÉw«¯²Å«,ÀÅ5¸ºÀy«<È«L²x³´«L«Lc,.¸º¬ÀL°X«y²X«·%9«L¬X¶bjÀL«tj
ÀL5H²¸H.w¬3·%9«L5¬X¶bjÀL«w¡*P Ç\·¶«L¬\½¸¬XÀL°«L²X«0·H.«Lw¬¶b\ÀL«y¬u\°«L 3 0¬X«y²d\½b¸9²X«y°X¶ws\²¸º5C·%9«L¬
²XÅ\²C«L·%¶.º\¸ÍΫL°X«yH²F¬X«L²¬tj½u¸¶²CÉw\°¸s\È«L¬S© L¼ ²x³u6 ¸9²X«L°¶b5s\²X¸5 ·%9«L¬SÐb³0Å.¸ºÀÅÖ°X«L¬¶b«yÀL²X¸Éw«yº
\¬¬X·«u²Å«´w¸¬X
«´¸¬X²°X¸È²¸w¸º¬dÜ,j¬X¬¸s\ Þ«LÇ9¶ .Ð\³0Å«L°« 0¸¬l¼°«L¬X¸bjWL Ðwjt«yÇH¶w.«L9²X¸s\
«LÇ9¶ L ¡ «ÀLw.ºÕÀLw·¶b\°«g²XÅ«y¬X« ·H.«L¬,È9c«LÉw\bj²X¸Á ²Å««LÉ9¸º.«LÀL«½Mw°,«kjÀÅ7.¸º¬ÀL°X«y²X«
a
a
u .
a9 u
\.1²Å«Cb\²g\°«¯½M«L³,¡
\½*°XOÞ«L«LÅbÉwjj²uÀL¸¬d«wЬ«yg«L²X«LÅbj²0¸¬Ó²XÅ>«,·%·99«L«L³0¸Å¬0w«¬Î«¯«L¶ÀL²X°¸¸É5w«L°d\ É5j«LÈ°u²«¯Å²«¯g°«L¸ºÁw½¿°«L«L°0¬X¬³0¸wŸÀ¶bÅ\Éw°\\·°X¸sj«LȲX«L«L°¬¯¬u«y\·g°«<Èb°9«L«L¸«LÉw¬d\9²Å²¯«CjÀLw.²XÀLÅ«L«L¶ ²
¬X³0¸²À±Åg²Å«¯5²XÅ«y°X¬´\Îd¡ ¬¸·%¶«0\ "¥¬Xj½¿² #j³ÓS,j½Vw¸ÁC²Å¸¬d¸¬d²XC¸9²X°X9.ÀL«¯·g²¸º¶.º«{³u«L¸Á5ÅH²{«LÀkS
ÀL5¬X²\9²X¬SÐw5Z« " a #\\¬¬X9ÀL¸s\²«Lg³0¸²XÅ«k\ÀÅg¸¶²S¡ª0Å«0«yÀkSt°\²«L¬*½¿5° Ä .µ,¸¶²¬lÄ ³0¸\²w·\²X¸Àkjº
È«,¸9½¿«L°°X «L²XgÈ«Cs\°XÁ5«wÐ9¶°«LÉw«L9²¸º.Á%²XÅ.w¬X«C¸¶.²X¬´½¿°w·Àkj¬X¸Ág¬¸Áw¸ Àkj9²0\Éw«L° ²X²¸º.Áb¡
²XÅ.«%ª0³´Å«L« ¸ÁwÅ9²,ÀLs\·¬¬X«L9¬g«L\d°L« ¬«Lw¬²X«ÅÀL«s\¶¬°X¬C¸w½¿°Cw°Fj½¯«k\«LÀ×9Å#b\¸²¸º¶.5 ²kÐ3 ¤5ÀLL¤ wL.¡¬X¸Ï.¬X²w¸º°,.Áj½Ó«L²x²³´Å«%w°³´µ«LŸÁwSÅ9ÉH²X¸¬>Á½¿°X55·?«%²ÅÅb¸\²F.«L¸º.c¶sS²,w«L²°S Ð
%
' a 9
m sr r
<SÉ9¸Á¼¶°X5Áw°X«y¬X¬X«yg¶t²Å«0²XÅ.°X«L«0«LÉ5«L¬V\½·%9«yº¸ÁвXÅ«´«LÇ9²d¸9½¿«y°X«LÀy«0²±\¬µ,¸¬V²<·\µ5«l¶.°X«L¸ÀL²¸w¬
³0¸²XÅg5°Ójb\¶.²X«Lg·H.«Lx¡Ùx²u¸¬dÀyw·%·w,¶.°±\Ày²X¸ÀL«¯¬¸·%¶C²X¬X«¼²XÅ«¼·%5¬X²*¶°X5Èb\È.º«0Éwj«L¬´\7½ ( X^ Ð
Q S Q ? C }
# G
^ Q ? C '^ ,a 6 )( '^ Ja 1( } !
UQ S .Q S ¤
cÅbj¬¯,«L¬¬X«L°¼«Î$«yÀL²k¡
? *-.6I?@6oF(/5)I/&,.%(F
j°XÁw¸bj¸º¹S\²X¸5gÀk\ °\°«L%È«,w.«t\bjH²¸Àk\H¡ ª0Å«t\²«L°Xbj²X¸Éw«y¬¯\°X«F²XÅ«tÜF\¬¬X¸s\ \¶.¶°X\Ç9¸·1 »
²X¸5¬0«L¬ÀL°X¸È«L Å«L°«wÐ\ 59²X« \°º·%«y²XÅ9¬ ®¼«k\´ 5¤wL¡
#&#&%9#'*)+#&;,.F #&6BNq#&68;;,.%(F
Ùx9²X«LÁ5°±\²¸w \É5«L°¯²Å«t°«LÁw.Âj°X¸¹kj²X¸wÀL5¬X²\9²X¬#j(ÕÀLw9²X°¸È²X«y¬>j \¸²¸º5b\3Éw\°¸ÂjÀL«C¸
9Q CS
6 e - 5 * 6 * 6 ^ ^ C * 6 H
[
ÙxP²XÅ«¾Àk\¬«j½<¸«k\°¸¹L«LÞ°«LÁw°«L¬X¬¸º5Þ¸¬XÀy¬X¬«L\È\Éw«wд²Å« ·%«S\#j½<²Å« ¶°«L¸ÀL²X¸É5« ¸¬X²°XÄ ¸È²¸º5
¶ 9°L¦wFȳӫL·j¬t¬k¡3¸ª0«yÅH«¯²¸ÈÀk\«L´¬X² ²XÖÄ ²0²XŶb«\°¶\·%°X«y«y²X¸ÀL«L²X°¸¬uwÁ5Õ¸ºÉ5\«0½C\²XÉwÅ«L«° »i·%Àyw«k jÄ V.Ð*«L9^ ²0¶°X¡Ö«L.ª0¸ºÀyŲX¸¸¬tw¸¬,¬S¡ 5²t.²wÅ9«»xÊÓÀkS\5¬««L¬X¸s¸ºjc1Ày\Âj¶.¬X¶¬°X¸ 9Àk\\ÀÅ%²¸º5²
²XÅ. ¸º¬C¶°wÈ«L·Ò¸¬C²X\³09»x³´«L¸ÁwÅ9²,\*¶°X«L.¸ºÀy²X¸w¬F¸Í½¿w°·%9Ð9ÈHÖ\c«L·¶¸°X¸Àk\%.«L²X«L°·%¸«L¾½ijÀL²X5°
5¶b\¬, 5L¤ L¡*Ê´²CÊÓS5«L¬X¸s\É9¸«L³0¶w¸9²0Å«L¶¬0¬¼²Xg.«L°X¬²±\. ²XÅ«FÀk\¬«,\½d²Å«,¶°wÈ«L·ÖÐHj
¶ °\ÉH¸«y¬¯¬X²X°\¸ÁwÅ9² ½¿w°³Ój°X%¬w²¸º5%²Åb\²0¸¬0«L·w¬²X°\Èg¬X.Ķb«L°¸w°0²Xg²Å¸¬¯\Å9ÀC¶°X9ÀL«y°X«5¡
³0¸²XŸ9²X¸²X¸5V¡
ª0Å«ÊÓS5«L¬X¸sj#\¶¶°HjÀ±ÅÕ¸¬t¬¶b«y°X¸w°gÈ«LÀkj¬X«²XÅ.«1È«L¬²x» Ä ²g·%9«L1 # ¬C¶°X«y¸ÀL²X¸w.¬ j°X« ^0X4U p
\³09³´«L¸ÁwÅ9²X«L3Ðd²X#¾¸ÍΫL°X«L9²«LÁw°«L«½¿5°g«k\ÀÅP²X«y¬X²%ÀS\¬X«5¡Þª0Å«ÀL5¬X«L×9«yÀL«Ö¸º¬g²Åb\²%¾Ê0Sw«L¬¸Âj
gZi
eZ
A 2
Samples from 1
P(w|D,H)
E | B
h w1
A
A A
U I B
B
W B
ÏV¸Á5°X«gw
, !#NVDQS/IH)8Y\8E2QS(K¿N*
,T-n7I9=Yg8IH-YY\Y\T$Yg|*EYwWJF K¿"NÕ!3 E hj]¿EbJS
Jy,KsÑd-I9Y 8S
,&,.-/))-h#
()
C)= 8,L72G3$#9/
+7 &%(' &R.-/)%7#T$,8"!3)=W*!3 +(7-,!3 -,'
-l2,8
3
79 87m&,.-/)8 7m'
7)p$.!3 -+0/
!@)8 8(0D'
8C` 7-T<93/
9'088/
8
'
)$T-.8
8
Uq7%&,.-)4'
=&,8/
W
\(] @^ 1 : 0iZ?_6]N88
&,=j7
9
-!'
&R8/
W7m=W
O
#0_/37m'7
&,28/
m7=O'0/
8")$?-28/
&(
-!$,
9-83P#5C$')G8&+')L
=&
'0=88/
8
P
-.8-S$?
P'08P)0/)2 - %
,- 3.3O
PN))#6
?#C'
/)m7# 7%
8
'
-l
/)=87= 8
3 o.&('), 3 ol=&(')4 3. 3 5%+7#
('0(< C/)8
-h-.7 60/
/)$Y$
8S-.7 60/
/,')
)p@/)8
/
W%#6
/
=,
S/)=87= ` (
/)=/)$ 88)23 8 :9 D
8
C<$Y'
-.
9$!8
S
9
9'0=88/
8
+-.8
8
T37C#-@q7+-2/
0
-
$S7
8%%#9&,=C#5$,L
=&a7C-8T]L'09<m_/3
o.+8*.N
p
/
C-.8/
8G3
¸9ÉwwÉ5«LV¡
4*6`/5)+;D
!"#
$!%& '
Ùx¶.²0Éw\°¸ÂjÈ«L¬
( !")% *,+
-. /)102
!"#
$!%& '
Ùx¶.²0Éw\°¸ÂjÈ«L¬
( !")% *,+
-. /)102
²XÅ\ \9g¸¸É9¸b\·%9«yi¡
*,+.-./02143 )657598 021 :<; * ; =>;.?A@7B6CD@,EGF4HI@JE /6KML @ - ? /6NMO.P9Q.K
Variable A1 (WBE)
1000
800
600
Training set
RMS Residual = 28.0 Test set
400
90% RMS Residual = 14.6 RMS Residual = 64.7
90% RMS Residual:
First half = 70.6
Omitted training data Second half = 36.0
Predictions
200 Data
Residuals
ÏV¸Á5°X«gL7dadE.Y\bI9Qge
0]MIhjQkY\Kxh\KMQLG
G68;H*- /&;
ª0\.Å1«0°²«LŬX°X¸«L«¼²±\j¬k°XÁwÐ9«y¸ ²dÉwÄ \Áw°.¸Âj°X«LȬ«LL¬d\\£°k«0§.¡ ¸¬X¶sSw«yt¸g²XÅ.«L¸°d«L9²X¸°X¸²x9Ð\\wÁC³0¸²XÅ·gC·%9«L¬0# Ä b\¶.°X«L¸ÀL²¸w¬
ª0Å«L°«1\°«gHÀS\*²X°«L¬¸²Å«g²X«L¬²X¸Á \²±³0ŸÀÅÖ²XÅ«·%9«L¬¯³´«L°«gb\È.º«g²¶°X«L.¸ºÀy²k¡ Ô ÀÅ
²X°«L¬³u«y°X« ¶°«L¬X.·1\È.º> "¥\É5«L° Ä ²²X«LD #*¸ºP²Å«Ô ²X°±j¸¸Á¬«L²k¡ «k\°º#¾·%9«y0¸º.ÀLw°¶b5°±\²¸Á9Àkj
ÀL5°X°X«yÂj²X¸w.¬¯\·%5Á,°«L¬X¸bj¬0¸º¬´Àkjº«LÚ½¿w°S¡ ÀÅ ·%9«L³´w%.w²´¶b«L° ½¿w°· ·g.À±ÅÈb«y²X²X«y°¯È9g²XÅ«
ÀL5·%¶«L²X¸²X¸5gÀL°X¸²X«y°X¸sÐ.Ȳ0¸²X¬059»i¸«¼¶°X«L.¸ºÀy²X¸Éw«,¶«L° ½¿w°·1\.ÀL«C³u5%È«<Á5°X«kj²X%«yÅb\.ÀL«LV¡
Ùx²XÅ«CÀL5·%¶«L²X¸²X¸5g°X«L¬Sи²u³0\¬0¬ÁwÁ5«L¬X²«L ²Åb\²0¬Àk\²²X«L°¼¶w²X¬´\½*²XÅ«C·H.«Lb¶.°X«L¸ÀL²¸w¬¼Éw«L°¬X¬
²X «y·%¶«L°±j²X°«0¬XÅ5tÈ«0·1j«w¡ª0Å«0¬Àk\²²X«L°{¶w²3½¿w°*¶°wÈ«L· ¤¼¸¬*¶b\°²X¸ÀLs\°<Ä ¸9²X«y°X«L¬²X¸Áb¡*ªdj°XÁw«y²
¤>¬XÅ\³´«L%¼¬X²°Xw.Á,ÀLw°°X«Lsj²X¸wg³0¸²XŲX«y·%¶«L°±j²X°«¯¸t²Å«0²X°\¸¸ÁC¬X«y² w²¬d¸ Á5°X«y¬<S¨\_È y@¡ OÞÅ.«L
ÙV«yÇj·%ĸ«LF·g<·9«L¬ #S¶°«L¸ÀL²X¸5¬*½¿5°l²Å«0²X«y¬X²X¸ÁF¬X«L²SÐwÙ3³ÓÄ j¬d¬X°¶°X¸¬«Lg ²X Ä t²Åb\²SÐ\½Mw°*²±j°XÁw«y² ¤.Ð
¬X¸Áw.¸ Àk\9²X\άX«y²,ÀLw°°X«Lsj²X¸w ³0\¬C¶°«L¸ÀL²«L " *# ¬C¸ Áw.°X« k¨5L y¡Cª0Ÿ¬<ÀÅbjÁw«g¸ Àyw°X°«Ls\²¸º5
²X¬X.Å.°X\³u«L«LÕ#w ²FÂj²X°XÖÁ5«gÈbÈ«¸s\ÀL¬kw©*°°X¶.«L°XÀL«L² ¬ ·1"B*%j# ¬,ȸ Ä wÁ5.«%°X« \½0S¨\²XÅ._È «Ly¸¡ °t ·wH¬.²t«L5¬<²XÅ«yÇH«y°t²°±«Lj9ÀL²X²«L°±\P9²²¬Å#3«g¶¬±°Xj«L·%.¸º«gÀy²X¬X¸²w°X¬FÀy²X½¿5°°,«%²±j½M°X°XwÁw· «y² ²X Ť«
bj²±¡
Ùx ²XÅ.«,·%9«L¬´¬X«y ½¿5°0¶°X5È«L· ¤Ð.Ù0ÅbSÉw«C«LÇj·%¸«L²XÅ.«,Éw\«L¬0j½d²XÅ«,¶\°±j·%«L²«L°X¬ 9Ð
³0ŸÀÅgÁw¸Éw«¯¼×9bjº¸²\²X¸É5«u¸¸Àkj²X¸w\½²XÅ.«¯¸9½¿«L°°X«L& "¥°X«L«LÉwjÀLL« #5\½²XÅ«¼¸¶²¬k¡dÏ.w°d¶°«L¸ÀL²¸º5g\½²XÅ«
2 Training set
RMS Residual = 0.331 RMS Residual = 0.642
90% RMS Residual = 0.177 90% RMS Residual = 0.415
1
Omitted training data
0
0 500 1000 1500 2000 2500 3000 3500 4000
Hours
4
Omitted training data
3
-1
-2
0 500 1000 1500 2000 2500 3000 3500 4000
Hours
Ï3¸Áw.°X«gk¢la{EY\IHQ%e rCTTb]MK¿N*Ö^,EQSI9Y
Training set
5 RMS Residual = 0.279
90% RMS Residual = 0.155
-1
-2
0 500 1000 1500 2000 2500 3000 3500 4000
Hours
ÏV¸Á5°X«gk§la{EY\I9Q%e% I9EQSK¿N*Ö^,EQSIHY
5 5
4 4
3 3
2 2
1 1
E 0
0 10 20 30 40 | 50 60 70 80 90 100
0
0 10 20 30 40 50 60 70 80 90 100
¬X5¸º¸º.«L¬0¬XÅ\³
³0Åbj²0Åb\¶¶«L«y ²Xg²Å«CÉw\¸b\²¸º5g«L°X° w°¼³0Å«L²XÅ«F¬±\·«¯«y²x³u5°Xµ9¬0³u«y°X«,¬«Lj¬¯
¬X²\°²X¸Á,¶w¸9²*½¿5°uÀL59²X¸9«Lgw¶.²X¸·%¸¹kj²X¸w,.«L°´²XÅ« Þ·H.«Lx¡ª0Å«¯Éwj¸º\²X¸5,«L°X°w°0¸¬uC.w¸¬X
¶«L°x½¿5°X·\ÀL«F·%«kj¬X°«wÐÈ.²¯²XÅ.«t²°XÄ «LÖ¸¬¯ÀL«kj° ´²XÅ.«,¬X²\bj°XÖ·%9«L¬0¬9Î$«y°<È«L²x³´«L«Lc¢ \Ö ¤w¦
·%9«L.¸º¬X5·%«¯ÀS\¬X«y¬0À±Å\Á5«<³0¸²Å%ÀL5H²¸H.«L%²°±\¸¸ÁÐwÈ«LÀkj¬X«F·gt°«L¬X²\°X²¸Ág¶°X9ÀL«y°X«F¬X«L²
²XÅ.«
¼²Xg«½x\²´Éw\«L¬SÐ9³0ŸÀ±Å¸¬¶s\ÀL«L²Å«,·%9«yb¶bj°±j·%«L²«L°X¬0¸9²Xg«L³
w¶²¸·g·¡
²XÅ«ÀL5·%¶«L²X¸²X¸5%²X«y¬X²Cb\²Ð.²XÅ«,¶«L° ½¿w°·1\.ÀL«,¸ÍΫL°X«L.ÀL«tÈ«L²x³´«L«Lc²Å«L¬X«²x³´g¬X«L²¬<j½d·%9«L¬
½¿²«L°¯²Å«CÀLw·¶b«y²X¸²X¸w3Ðw¸²´³Ój¬0°X«LÉ5«k\«L²XÅ\²0²XÅ.«,ȸ¸Á,¸%²Å¸¬0¬X²%³0\¬¯sj°XÁw«¼¸Éw«y°X¬X¸²x
«LÁ5¸«L«L°¸º.Á ÀL«L9²X«y°t¸cª*«LÇ\¬S¡ Ô w·«,\½¯²Å«gÁw¸²XÀÅ«y¬,¸²Å«gb\²³u«L°«%Àkj¬X«y#È9 ²XÅ.«%È°¬X²¸º.Á \½
ÀL5º³0\²«L°0¶¸¶b«y¬0°X¸Á%F½M°Xw¬² °±j°X«C«LÉw«yH²C\¶¶\°X«yH²gw²¯jH²¸ÀL¸¶b\²«LÈHgª*«LÇj j°XÀŸ²X«yÀL²X¬
°X«y²Xª0°#Å«Ö²XÖÅw²XÅ.¸b«%SÈ#¶¸«L°¸¸º9ÁÚ ½¿w½¿w°t° ¬X²ÀLSwζ.«Lº«.\«L½¯(³´Ä w«LÞ«Lµ9¬k9¡¾\9ª0bÅj°X¸¬, ·1y¬XS²kÖм\ÈÀLÀL²5²9ŲC«½¿¬5²X°,.²XÅ«L«9²1¬X¸¶Áww.¶.¸ Ä Àks\\9²X¸²,5Þȸsj¬,¸Þ«L°X°w5°²
\Î ¨w¡¥ 5¢ §¡¥ q ¡¥¦ ¢ ¡¥¤ H.¨ ¡¥¤ q
P*9²X°\9²¯§ q k¦.¡¥¢
[
«L.¸Âj q »Lk¦¡
CY\T|*]¿I9~ e Ô «k\ r ;Ê P Ô «kj r
\Î
¡ §jH »L¡¥¤y qº »X§¡
¡ k¢W
»L¡ w§ q
W
P*9²X°\9²¯§
\Î ¡ w¢ »L¡k. 3q »X¤¡¥¢ ¡¥¤5¤ »L¡ ¦ \ q
[
«L.¸Âj
$?&,.-/)
`
9'
-.7C/8
-ST
(2&('02@7
?7+` ,
& .-/)N3
` 6
-.
787-
-
8- &,.-/) #
8 87-
-
)
81/
3
9
/
%/
8
C/
$?#68@&, 37-S$?
C&+'0G> C=/
= 8
=3
l
-
-.h]L$?&,= 7-_98
m))/
8@=&('03
m #
/
8N
&,
C&,2
m78
/
8N
&,
+&,
o m.%&,T8Q
C
-l
)N3 o m. &, 8Q
T
-.7)N3 8&,))8 - !"! 7
-l
)3
. ?/C5
8 ]L'0/
@q7=8A
-.
)3
8 |_/3 7 &+'0 #$ o ] - !%! -8,
7 =_/3
'0
8N
&,72(&,2
3
< @<O
8
+]L'0/
/8= _/3
59
&,)17 T7888
)& @88m-8 - !%! -8,
7 =
`
3'&)3 (*( &*+,)3 ( -
` 3 &3 - 3 (
` 3 & - + &3 3
ªd\È«L
¼I9YSWXTbY\~cENdhjIJ¼T.W<U3K.-uI9Y\I9NVQC~cI9QSRlTVU*JCTNÞQSIJLQtJyI9Q J
¸\¬u¶..¶t°X9\«yÀ«LÅV ¡ ²X¶b «L³´Àyw¸ °X°Àk%\\HÈÐ.wÈb«y:² Àk"¥\«k\¬°« gj¬X¶²X¶5°¶w¶¶¸°¸Â7Á j²X#º¡ «C ¶.°¸º15°X²¬ Å«C °X«y¶Áw°X5Ès\°«L¸·¹L«L°Xj¬ ½VÉw\³u°X¸s«yj¸ºÈÁ5Å9«¯²0¬X«y«Lº«yÀkÀLS²X$ ¸w¯j°XÀk«,j%.¬XÈ«L«CVЬXw²ÅÉ5«L«L°X «
È9%¬¸Át²Å«
¶°¸º5°k¡
ÙxcÀLw.ÀL¬X¸w3Ð*²XÅ«g³0¸¸Á«L9²°Xc¸²Å¸¬,ÀL5·%¶«L²X¸²X¸5³0\¬,Ày°X«kj²X«LP¬¸º.Á1²Å«g½Mw\³0¸º.Ágb\²
D5 @93
^ a
¶w¬X²«L°X¸5°¯¶°wÈbjȸº¸²x
a
¶\.s\%.¬X²X¸Å.È«¯«¯Éw\Éw°j¸sº\.«LÀL¬´«¼½¿w\°´½*²X²XÅÅ.«¼«,¶bÅ9\H°¶\«L·%°¶b«y\²X°«L\°¬u·%^ «y²XЫL°j¬0%½¿°w²Å·«L%²Å³´«C«¯bÀS\\²¡ ¬X«¼ÊÓS5«L¬X¸sj%·%«y²XÅ9¬´²X¸9½¿«L°´²XÅ«¼·%5¬X²
yQ qS
O
TVU3I9]¿]MK¿N*ENÞKMN*f*[lQ U I9fdI9NËU I9NQ<N*TKiJyI%]MI9nbI9]
«¸º·¶°X\É5«L·%«yH²´²XÅ\²C³u«F·%¸ÁwÅ9²0³0¸¬XÅ ²·1\µ5«C¸º¬Cg·H.¸ Ä Àk\²¸º5%j½u²XÅ«5¸º¬«t·9«Lxг0ŸÀÅVи
²XÅ.«%\È\Éw«g·%9«yiÐ3\¬X¬·%«y¬<²Åb\²\d²XÅ.«g°X«L¬¸º.b\¬g\°X«g¸.«L¶b«y«L9²g\#Ü,j¬X¬¸s\Ö³0¸º²Åc¸«L9²X¸Àkj
Éw\°¸s\ÀL«5@¡ Oc«0·¸ºÁ5Å9²VÈ«L¸º«yÉw«¯²Åb\²{¸º½x\ÀL²d²Å«¯.w¸¬X«0«LÉ5«Lb¸¬u>¶b\°\·%«y²X«L°¸º¹y«L½¿Ày²X¸w 43 ©| *\½²XÅ«
¸¶²*Éwj°X¸s\È«uj³u«0·¸ºÁ5Å9²³0¸º¬Åt²C¸º½¿«L°d¸²3½¿°X5·(²XÅ«0\²±.¡Vª0Å.¸º¬*¸9½¿«y°X«LÀy«¯¸¬*w²*¬X²°±j¸ºÁ5Å9²x½¿5°X³0\°X3©
¸µw·1«Lj¸ÅÇ9Ä 9¸º·g9V.Ð\·«k\¸.µw¬u«L²¸Å 9F91ȸs\\¶.¬«L¶%°X9«L\¬À²XÅV¸·1иj²X«¼³0\Ž ¸À Å 43 ^ Þ\Èb.«L1ÀS\|P¬\«,°«,²XŬX¸«¼·gw¶²²±¸j·%¸«L¹L5«L¬X½¿g.ÉwÀL\²X°¸¸5«L²X%43 ·© !^ \Ç9{¸·gb¸S¹LÉw«05²X¸Å9« »
\È.º ²¬g¬Xw·«g\½¯²Å«w¸¬X«¬XÖ²XÅbj²t²Å«w¸¬«%Éw\°¸s\ÀL«¸¬,¬X9¬X²«L·1j²X¸ÀkjºÖ«y°X«L¬²X¸·1j²X«LV¡pª0Å«
¸¬0«L¬ÀL°X¸È«L ¬¸º.Á%¶°X5Áw°±j·²XÅ\²0¸·%¶«L·«L9²X¬*Ê0Sw«L¬¸Âj¸º½¿«L°X«yÀL«,¬¸Á%ÜC¸ÈȬ´¬±j·%¶¸Áb¡
Q CS Q *S Q S
Áw¸É5«L%.«L;° (¡
«L¬ÀL°X¸È«LÖÈH%¬¸Áw«¯«y×H\²X¸5@
Q '^ X;| , A , )` F 5 ` D5 )( ` ] \^'` X|;,D 5 A (, (
Sj
Q
Q
S
S
H¢
²X¸5Vª0¡¯Åª0«CÅ.²±«Lj°X¬X«gµ%\¸¬´°«t²X²Å·1°X«Lj«gµw«¯¶.°XF¸ÀLÀLw¸·¶bj¶l\²±¶.j¶²X¸°Xw9\\ÀŸ«L·%¬C¶.²Xº«y·%¸·%«L¶.9º²±«yj·g²X¸«L\9²X\¸½lÁ,²ÅÊ0¸¬uSwÀy«Lw¬·%¸s\¶.Öº¸¸ºÀkj½¿²X«L«L°Xg«y¶ÀLw«F¬²X½¿w«L°°¼¸w²X°0Ÿ¬C¸¬X¬X²5°X°X¸²CÈ9\»½
¶°wÈ«L· V\¶¶.°X\Ç9¸·1\²¸w¬*Èbj¬X«LwÜ,\.¬X¬X¸sj¬kÐj¬d½¿5°u«yÇj·%¶«0¸ \À >S 5\À y©\' "¥«L.¬X«L·gÈ«
«k\°¸_Á #j¶¶°H\ÀÅVÐ.¸%³0ŸÀÅ\\¶¶.°X\Ç9¸·1\²¸Á,¸¬X²°X¸È²¸w%¸¬05¶²X¸·%¸¹L«y%È9%Éwj°X¸s\²¸º5b\.½¿°«L«,«L9»
°X«y¬X«LÙx9 ²X«y¼t \¸°°«LµwÀL\²XÉCÀ©\Åb°\\¸²XtÅ.«L °kÐww´9²X¶.« °X9ÀL\«L°º.°X «´ ¸º¬. ¬X«L,V ¸²\«L¶.°±¶j°X²X9¸Éw\«LÀÅV¼Ð\²X²0Ų±«uj¶µww«d¬´²X«L¬X°²¸\w²°*«dÉw¸«L¬XÀy²°X²X¸wÈ° ²¸º5 ^' 9XL¢ |;3,¸¬V A 5,²V ° «L)¶9` » F 5
\.cÁw«L«y°±\²«1.«L³°±j5·?¬²±j²X«%É5«LÀL²w° ½¿°w·Ò¶°X5Èb\È.¸º¸²x ¸¬²X°X¸È.²X¸w © L¡ª0Å.«L#³´«
Àkj1È«,«L¬²X¸·1j²X«LÚ½¿°X5·s\°Áw«C9·gÈb«y°X¬´\½l¬\·¶«L¬ H¡
9][
ª0Å«L°«#\°X«Ö²x³´#¶°¸º.ÀL¸¶b\¼³ÓS9¬%j½tÀL5¬X²°XÀL²¸ÁÞ²X°\¬¸²X¸wÞ¶.°XwÈ\ȸ¸²X¸«L¬ ²XÅ\²ÀLw9É5«L°XÁ5«²
*
[
«L¬¸°X«L .¸º¬²X°¸ºÈ.²X¸w.¬ y¡
O
I9QkY\TfdT]¿KxJ¼~cI9QkR*TVU*J\q¼ª0Å«1«y²X°X5¶b5¸º¬g\Á5w°X¸²Å··\µw«y¬,¬X«j½<N R S RTS 0V UWX LÐ
³0ŸÀ± Ÿ²XÅ«F¬X¸·%¶«L¬²0Àk\¬«,·% ¸Á5ÅH²´È«t¬X¸·%¶.º«¼°±jw·¸¬X²°X¸È²¸wÀL«L9²X°«LÖw²XÅ«FÀL°X°«L9²
o g! Z* g
S
Q jÀLÀL«L¶² ·%¸ 3 3
&S
&S
S
S
ÙM½V²XÅ«C¬X²«L¶¸¬d°X« «LÀL²X«yVвXÅ«L³u«¼¬X«L² 9¡*ªlFÀLw·¶²X«0²Å«, \ÀLÀy«L¶²±jÀL«,¶. °XwÈ\ȸ ¸²x,³uÔ «¼«L«L
²XÖÈb«\È«%²Àyw·%¶.²X«g²Å«¶°X5Èb\ȸ¸²x °±j²X¸w¬ 3 3 \ L¡ ¸·¶«
-2
-4
-6
-8
-0.8 -0.6 -0.4 -0.2 0 0.2 0.4 0.6 0.8 1
3Ï ¸ºÁ5°X«g $3ªl\g\²±>½¿°w·²x³u¶b5¶s\²¸w¬´¸ÍÎ$«y°X¸ÁgÈ9%\\άX«y² ¡
¸9²X°X9.ÀL
« ·1jÇ L¡ Oc«<5Ȳ±j¸1²Å«,¬¶b«LÀy¸Âj*Àk\¬«tj½Ë.¸Í½¿w°·w¸¬«,È9%¬X«y²X²X¸Á
\.1²Å«C¬X¶«LÀL¸s\3Àk\¬«,\½d¬X²°±\¸Á5ÅH²0¸«¼°X«Ls\²¸w¬Å¸¶1È9g¬«L²X²¸º.
Á .¡
mI5ÑËN*KMN*1QSR*I~cTVUVI9]´K¿NÕQkR*I D%$(&' ]MEN*[lE.bI
Ê´Û<Ü Ô ¬X«y¬ Õs\.ÁwbjÁw«¬X¸·%¸s\°g²#Ô ²Åb\²\½
дÈ.² jÀLÀL«L¬¬ ²XP²Å«sj²X²X«y°1¸¬w²°X«L×9¸°X«yV¡
P*Ç9¶°«L¬X¬¸º.Ág²XÅ«¼·%9«L¸g²Å«CÊuÛCÜ s\Á5b\Á5«0¸º¬0\·w¬X²*\¬´¬X¸·%¶.º«0\¬´³0°X¸²¸º.Á,²XÅ«¼·%9«L.w%¶\¶«L°k¡
ª0Å«¼¬X9·gÈb5 « Ä .«L¬¯,.«L²X«L°·%¸¸¬X²¸À0°X«Ls\²¸w¬ÅÄ ¸¶VÐwÁ5¸ÉH¸ÁC²Å«C×H\9²X¸²xw%²Å«¯«½M²Ój¬Ó¼½MÀL²¸º5
\½V²Å«C×9b\9²X¸²xw²XÅ«¼°X¸ÁwÅ9²k¡3ª0Å«C¬X9·gÈw ¼¬X¶«LÀL¸ «y¬<FÀLw.¸º²¸wbj¸¬X²°X¸È²¸º5V¡*ª0Ÿ¬d·H.«Lb.¬X«L¬
5« Ä °X·1«Lj¬1u¾.¸º¬²X5°°X¸º·1È.j²Xd¸w.¸¬¬X²°X¸È5w²¸w#jjP½<ÁH·j«k·%\!·1ÚÝj¸¬X²#°X¸ÈÉwj²°X¸º¸s5\¬ Ày« \9db¡# ¡cª0Å.ª0«%ŽM« .ÀLw²²±¸ºj5²X# ¸w"
55
$&%(' %)'*
«L.w²X«y¬¯²XÅ.«,¸«L°0¶°9ÀL²¼\½l²Å«CÉw«LÀy²Xw°¬ $ \
¡
a
¶\.w1¶¶sjw²X¶.¸ws\¬,²X¸j5°X «g" ¬XDÈ ²#9wÁH°«LS#Éw«C¸Ö°¸º¬Éw«C«LÀL²X²w°¬"Þ)\` c Qg¬ÀÅc²X¡ Åbj²,¶b5¶s\²¸w= "Ã$ # ÁHSÉw«°X¸¬«g²X 93 )` D5 Ð
b
43 /. F 5
b
5 w,{ ,/ ,d ,,, + " 5wb "
" 5 5
$
"
5
" " + . 99 " Õ "
"
% + ' + , " ! \
" %$#/ ' %M' , &% '
5 " (
" %) ' *#,+- (
+ "&%¿' ,&% .+
" %) + '
/ 0# "+ )% #/ ' "% 1 +#2
3
3
5 " +
3
$&%)' 5 w {, , Ö
$ 4 w "
" w 5 $
5 " +
&%)' 5w {, , Ö
4 w "
" w 5
3
5 " 5 6 +
3
$&%)' ,{ ,7 8 b
5 j w
5 " 5
6 +
&%)' {, ,7 8 b
5 j w
3
5 " +
%M ' 55 &%M ' %M' 4 w" " "
%¿'
"
&%)'
" % x'
3
5 " +
3
&%M' "
$&%('
" % ' 9 5
5 " 5 6 + 6 "
3
& %M' $&%)'
" % x' , : 5 " w
¸¶² »i.«L¶b«y«L9²¯.w¸¬X«C«LÉw«yiÐj°X«,.¬X«LV¡
Ï5°,«kjÀ±ÅÕ·%9«L´È°9£H¸c¶«L°X¸9c\½<¢5¦w¦¸²X«y°±\²¸w¬,³0\¬>½¿w\³u«yÈ9Pk¦w¦5¦¸º²«L°±j²X¸w.¬,°¸º.Á
³0ŸÀŬX²±j²X¸¬X²¸ÀL¬0w ³u«y°X«,°«LÀLw°«LV¡
gIJy[*]¿Q\J
Ù,¶°«L¬X«yH²SÐ*½¿5°,«kjÀ±ÅPj½Ó²Å«½¿w°F·%9«L¬ $ S kSL¦ \ k$¦ y k¦ Lk¦ LвXÅ.«%¸Ô9½¿«L°°X«L
Éw\«0j½ Ä Ð5¸º²X«y°X·%¬{\½V¸²X¬d¶w¬²X«L°¸w°´·%«kj jg¬X²\bj°X«LÉ9¸s\²X¸5 \¬´«L¬X²¸º·\²«LtÈ9ÊuÛCÜ yÐHj
w¢ ÀL5 «L.ÀL«,¸9²X«L°Éw\x¡
k¦
·«k\ ¬X .¡ ¢ w¨.¡ ¢ ·«k\ ¬X .¡¥¢ w¨.¡¥¢
¡ 5 ¦¡¥¤5¦ w¡ 5§ *¤¡¥¦5 ¡¥¨w§ ¦¡¥w§ .¡ 5a¢ V¤¡¥\
k¦ ¡¥¢j ¦¡¥¤. w¡ *¤¡S§ ¡¥¨ ¦¡¥w¨ .¡º aV¤¡¥w¤
[
¶¸P°«L²XŸÀL«²X¸¸59²X«L¬%°¶b²H5Âj¡ 9² Åb·%\.\ÁwÉ9¸¸Á¾Á½¿°X\5³0· Õ²½¿Å°«w· \Éw²«LÅ° £H« ¬X¸²X·5¶P¶«%º« ½¿·%²g9ÀLw«y°0«L²X° cg²X¶Å.°«1H.·ÀL9«L¬ «L0¾³0¬X¸²X¸ÅPÁwÅ9·%²t¸5°XÀy«°X«k¶bj\¬X°«Ö\·%¸ºÕ«y²X²X«LÅ°« ¬
Ày«L°X²\¸9²x \½ ¡¯ª0 Å«¸ÀL°«k\¬«g¸º¬¼w¬X¸ÁwÅ9²¯È«LÀkj¬X«g²Å«L°X«g\°«t²x³´%5¶¶w¬X¸Ág« Î$«LÀy²X¬ Ä °X¬X²Sн¿5°
\9g¶bj°X²¸ºÀys\°´Éw\«¯j½l5¸¬X«¯«LÉ5«Ld dÐ9²XÅ«C·w°X«ÌÆb«LÇ9¸È«¯¸9²X«L°¶b5s\9²u¸¬´«L¬X¬0³´«L«L²«L°X·¸º.«L1j
²ÄXÅ.«<.ÀL«L°²±\¸9²x%¸ ¸ÀL°«k\¬«L¬k©È²´¬X«yÀLw3вXÅ.«<Á5°X«kj²X«L°´Æ«LÇ9¸ºÈ.¸º¸²x\½l²Å«¯¸9²X«y°X¶Ô ws\9²0\\³0¬d¸²u²
a
u u
M
n u Xr ' 4
>a9
8z
P qQ wÁ ` ? ;K }1(
S
` ? QK ? ;K 6 ? QK 6 *c5Á ? QK
a
¬XÐVÁ5w¸ÁÈb\ÀµÖ²X ¬Àk\sj°t¶°«L¸ÀL²¸º5¬ÀL5¬X¸«y°t¬¸Á ·%5°X«°X5ȬX²«L°°Xw°·%«S\¬X.°X«L¬²XÅbj
²X¶bÅ5«·%«k¬0j·9»xw¬X°X×9«¼b\²XÅb°«Cj «L°X\°w%°k«y¡ °X°X 5½¿°¯²X«yj°>½lj¬X¸¹LiÐ9«g¸¬¼5¡ ¸º¦.²¼Ð9²XŬX«y\j%²X«LÅ.°X«t°wÀk°0j¬X\«½*¬X²X¸Åb¹Lj«t²¯¤.¸Í½Ó¡¥¦,jÀL15¬X«y²°X¬<°X5¢F°,¶b\5½d¬¸º¹y« ¬0.·¡ ¦w°XÀy«¼w¬X²X²Åb¬,j¤
²X
Å«g¬¸º¹y«1¡¥¦Ú«L°X°w°kÐdj#\Ö«L°°Xw°\½0¬X¸¹L«g¡¥¦%Àyw¬X²¬ ¨¶w.¬t·w°«,²XÅbjc²XÅ«g¬¸¹L«1¤.¡ ¦Ú«L°X°w° ~
½M²X«Lc·%5°X«,°wȬ²¯·«k\¬°X«¬XÀÅc\¬¼²XÅ«·%«kj \Ȭw²X«F«LÉ9¸s\²X¸5VÐ5°¯²XÅ.«t·«k\¬X×9bj°X«L
«L°X°w°¯j½l²Å«C¬X·1jº«y¬X² w¦ \½l²Å«,°«L¬X¸bj¬kÐ9·1SÈ«t,·w°«¯°X«S\¸¬X²X¸ÀCw¬¬´½¿ÀL²¸wV¡
¡
¶.²X¸·%¸¹L«²XÅ«·%9«L{¬X¸Á ŸÁwÅc×9b\¸²x 5¶²X¸·%¸¹L«y°k¡ ¯5@# ²,¬«1¶sj¸ºÖ¬X²«L«L¶«L¬X²«L¬ÀL«L9²
w¶²¸º·¸¹L«L°k¡
Û¼¬X«ÖÀLw ÁHj²X« Á5°±\.¸º«yH²¬w°%5²XÅ«y°1·«L²XÅ.H.¬g²XÅbj²%µw«y«L¶!²°±jÀ±µ \½,ŸÁwÅ«y°%w°«L°
ÅbSÉw«gÁ5w²,²Å«%5¶²X¸·%¸¹L«y°X¬C°X.¸Á ³0¸²XÅc²Å«%µ95Ȭt¬«L²g\²,²Å«L¸°tÈ«L¬²gÉw\«L¬S¡Êu«kj°t¸c·¸º.
²X¸º9Åb²j«L²d°X«L²X¬9²XC¸·gÁC¬XÀ²Åt°X°Ày«L²XÁw.°Â«wj¡ °X¸¹kj¶²Xw¸w¬X¬¸È«k\«0°°X,w«´g\¸½b²²XÅHÅ.«0·gÈ,«kj¸°X¬l²¸¯Á,Å5·tS¯²Å¶«u°«L°Éw«LÁw«yH.²0ÂjC°X¸¹kj«y²x²X³u¸w5t°XµFj²d½¿°X¯5³´·«kj«kµ,\°Éw\¸Á«
½¿w°,ÀLw.¬X¸«L°\È«½¿°\ÀL²¸º5 \½0²XÅ.«gw¶²¸º·¸¹k\²¸º5VÐbjÖw²XÅ«y#\\³(²XÅ«gÅ99¶b«y°X¶bj°±\·«L²X«y°
ÀLw9²X°w²gµH¸Àµ%¸V¡
¨.¡ ¯.°X¸Á0w¶.²X¸·%¸¹kj²X¸w0j½$´·%9«L1 # ¬¶bj°±\·«L²X«y°X¬kÐSµ5«L«L¶g\C«Lw«´wF²XÅ«dÉwj¸º\²X¸5¯¶«L°x½¿5°X·\ÀL«5¡ÙM½
²XÅ«d¶«L° ½¿w°·1\.ÀL«d°X«S\ÀÅ«L¬ujCw¶²¸º·g.·!\C²Å«LÈb«LÀyw·%«y¬V¬X¸Á5¸ Ä Àk\9²º¼³u5°X¬«wÐ\²XÅ.«L,¬X5·%«L²Å¸Á
À±Å.¸ºg«kj°X¬SÐ9¸º²´
¸¬d5²u²ÅwÁ5Å9²u¸·%¶w°²±jH²*²t³0Ÿ¬µt²Å«L· S³0S,½M°Xw·²Å«C²X«kjÀ±Å.«L°0Èb« ½¿w°«¯²XÅ.«L
" \É5«L°x»x«k\°@ # É5«L°x»x«k\°¸Á ¸¬C\½¿²«L#\c¸.¸ºÀS\²X¸5 ²XÅbj²t¶°wÈbjȸ¸º¬²X¸Àg\¬X¬·%¶.²X¸w ¸Ö²XÅ«
w¸¬X«C·H.«Lb5°0²XÅ«F°X«LÁ5s\°X¸¹L«y°0¸º¬0¸bj¶¶°w¶°¸Âj²X«w¡
ª0Å«½¿w\³0¸Á¸s\Áw.w¬X²¸À%¶°HÀy«L°«L¬·1SÖÅ«L¶P²X°±jÀµ#\³0P²XÅ.«1¶.°XwÈ.º«y·Ðd\.7¬Åw.ºÕÈb«
½¿w\³u«yg«LÉw«L¾¸Ã½*²XÅ«y°X«,¸¬05²Ój1\É5«L°X²°±j¸º.¸º.Át¶°wÈ«L·Ö¡
L 9°«u5µt²Å\«L²d°«0²Å¬X«0w·°X«y«d¬X¸Å9bÁwj«´º¬Sw_Ð .U ²X¸«LÐ\°X²X¬ Å«¼´w¸ÍÎ$,«y·°X«LS0Ày«L¬0\Èb³#«y²xȳu«Ó«Lj«yÈ%«d²XÅ.²X«0¼²±\«L°²Áw«L«LÀL²´²´\Áw¸g²XÀ²ÅÅ«L«0¬3·%¸ºF9²XÅ«L«01 #b¬Vj5²±Ì²X²X¶.Åbj²k² ¡
·1SÈ«t,Å.¸º9²0²Åb\²0²Å«L%¬Åw.º5²uÈ«,¸%²Å«,¬\·%«¼ÀLs\¬¬¯\¬0«k~ jÀ±Å¾w²XÅ.«L°k¡
.¡´ÙxHÉ5«L¬X²¸ÁH\²«t\²«L°Xbj²X¸Éw«F°X«L¶°«L¬X«yH²\²¸º5¬,j½u²XÅ«¶°wÈ«L·ÖÐ sÐ\²«L°Xbj²X¸Éw«F¸º.¶²<j 5²X¶.²
°X«L¶°«L¬X«yH²\²¸º5¬k¡FÙM½dww¾²XŸµw5 ÅbSÉ5«tgÁ5H9¸«k ½¿w°Cg¶°«L¶°X9ÀL«y¬X¬X¸Á¾Ä \½u²Å«,¸¶²¬kв°X
o
][
¸º²05²k©.Ȳ¯jº¬g²X°%½M«L«L¸Á%«y²¯²XÅ.«,°±S³
¶°9ÀL«L¬X¬«Lc¸¶²¬kÐ.¬Xg¸ ²0Àk\ Áw°«,w.²0¸º²¬0\³0
¶°X«L¶.°X9ÀL«L¬¬X¸Á ·1S9Èb«FÁw¸É9¸º.Ág¬XÀÅ#g.«L²t\¾«LÇ9²X°±Å¸.«LsS5«L° y¡ w¬¸º.«L°,ÀL5¬X²°XÀL²¸Á
«L²C¬XÀÅÖ²XÅbj²¯²Å«tÅ9·\¬Xw²¸w ¸¬<Ú¬X¶«LÀL¸s\*Àkj¬X«\½u²Å«·1\¶.¶¸Áw¬´²XÅ««L²CÀkj ¶«L°x½¿5°X·ÖÐ
Áw\«L²¼Èb¸«L²¸²X²X¸s«L\°S¡C¸¹Lª0«dŲū«¯³u5«y°X²d¬X²¼²X,¶b²5Åb¬X\¬¸º²*È.¬º¶b«F«LwÀy¸Âj²bÀLwÀS·\¬X«<«5¡d¸¬¼ª0²XÅÅb«Ljg²¯³0w5Å. «Lg«L²Xž«0.¶ «L²u³0¸¬*¸²XwŶ.Ú²X¸·%«L¸²¼¹L«L²X3ÅbÐkj²²¯Å¸¸¬<Áwj¬{¬¯ÀkÁw\9g95j ¬
²XÅ«C¶°«L«LÇ9¸¬X²X¸ÁÅ9·1jg¬Xw²¸w
.a¡ OÞÅ«L·1jµ9¸º.Á<¶.°X«L¸ÀL²¸w0¬
L ¬«,¶b\°\·«L²X«L°´«L°°Xw°¼Èb\°¬0²XgÀL5·%¶.²X«C¶°X«y¸ÀL²X¸Éw«C«L°°X5°¯Èbj°X¬k¡
_È 5¸ÀL@ ²¸º# ²5¬k.¡Ö¬X²ª0ŬX¸«¬w¸¬t.«1ÀkjȺ«L«y¬ ²g·%" ½¿w9°·%«L¸x¡ÖÁÛ¯ ¬«1ÀL5·g·%.·º²¸º¸²¶²X«L«t« #ºÁ5¡H9ª0ÕÅ.«%·%¬X9¸¹L««L¬tj½¯j²XÅ#«ÀLÀL55·g·%È·%¸¸«g²²X²X«LÅ.««LÀk¸°t\Õ¶°Èb«« »
ÀL5H²°X5º«L ½¿w°¼«LÇ\·%¶.º«CÈ9H5µ9¸º.Á%\²¯²Å«Éw\¸b\²¸º5%«L°°X5°<j½u²XÅ.«tÀL5·%·¸º²²X«L« # ¬´¶°«L¸À»
²X¸5¬kÐ9È9³0Åb\²«LÉw«L°0«y°X°X5°´½¿Ày²X¸w¸º¬´²XÈ«¯¬«L \²´²XÅ«C«L\½*²XÅ«¼bSH¡3ª´H¶.¸ºÀS\t²Å«L°X«
³0¸Èb«,\5¶²X¸·g·ÀLw··%¸²X²«L«0\½*¬X¸¹L« (w¡
ª0Å«Ú½¿w\³0¸Ág½¿5°X·gs «L°¸Éw«LÕÈHÖÀL5·%¶²¸Á²XÅ«·%«kj j#Éwj°X¸s\Ày«g\½<·¸ºÇ9²°X«
\½tÜ,j¬X¬¸s\#.¸º¬²X°¸ºÈ.²X¸w.¬ Áw¸É5«L¬g²XÅ««L°°X5°%Èbj°X¬g½Mw°²XÅ« ¶.°X«L¸ÀL²¸w¬\½>ÖÀyw·%·¸²X²X«y«
*,+.-./02143 )657598 { :<; * ; =>;.?A@7B6CD@,EGF4HI@JE /6KML @ - ? /6NMO.P9Q.K
ÀL5¬X¸¬X²¸Ág\½ #«y×H\g³u«L¸Á5ÅH²«L·%«L·gÈ«L°¬u³0Å5¬X«C¶°«L¸ÀL²X¸5¬<j°X«M ? K ? K
w·%·¸Ã²²X«L«0¶°«L¸ÀL²¸º5 ?K
´\°X¸sjÀL« 6
? K 6 * ' ? K 6
Ùx²d¸¬*¸·%¶w°X²\9²V²,È«¯S³Ój°X«0\½²XÅ.«<\¬¬X·¶²X¸5¬V¸·%¶.º¸ÀL¸²¸g²XÅ.«¯\È\Éw«0·%9«yº¸Á0¶°9ÀL«L°«w¡dÙM½V\9
\½V²Å«L¬«<\¬¬X·¶²X¸5¬d\°X«¼«LÇ9¶b«yÀL²X«L²,Áw¸Éw«0²°X5È«0²XÅ«y ³0¸²Å%\¸²¸º5b\9«Îw°² {«L³Þ¶.°XwÈ\ȸ¸¬X²X¸À
·%9«yº¬0ÀS\ È«,«L¬¸Áw«L¾³0ŸÀ±Å¾¸º·¶«L·%«yH²{·%w°«,\¶¶°w¶°¸s\²X«C5°¯·%5°X«CÁw«y«L°±jd\¬X¬·%¶.²X¸w¬S¡´ª0Å«
\È\Éw«,j¶¶°X9\ÀÅ%¸·¶¸ºÀy¸º²t\¬¬X·«L¬
5¡´ª0Åb\²0²Å«C²±\°Áw«L²0¸¬¯5¸¬XgÉw«y°X¬X¸51j½l²Å«,²X°«,5²X¶.²k¡
.¡´ª0Åb\²0²Å«Cw¸¬X«C¸¬¯Ü,j¬X¬¸Âj%³0¸²XÅ FÉw\°¸ÂjÀL«C²XÅ\²0¸¬0²XÅ«C¬\·%«Ì½¿w°¯jb«LÇj·%¶«L¬S¡
¤.¡´ª0Åb\²0²Å«C«L°H¸Ág·\¶¶.¸º.Á¯½M°Xw· ¸º.¶²0²Xg5²X¶.²0¸¬0²XÅ«C¬±j·%«Ì½¿w°¯jº²X¸·«w¡
¡´ª0Åb\²0²Å«C¸º.¶²0Éw\°¸s\È«L¬0\°«<.w¸¬X«»M½¿°«L«w¡ 6
¢.¡´ª0ÅbÄ \²3²XÅ«d²°X«{½¿.ÀL²X¸wFÅb\¬3²XÅ«´ÀÅb\°\ÀL²«L°*\½²x9¶¸Àk\9¬±j·%¶«L¬½M°Xw·
²XÅ.«u¸¬²X°X¸È.²X¸wC¸º.¬X²X°\²«L
¸º Áw.°X«%S¦¡3ª0Ÿ¬0·%«kj¬u¸Áw«L«y°±\*²Åb\²0
L ª0Å«C²X°«C½¿.ÀL²X¸51¸¬¯FÀLw9²¸º95¬´½¿.ÀL²X¸w\½d²XÅ.«<¸¶.²X¬S¡
_È ª0¸Å¶«²´²x9Éw¶\¸°Àk¸s\\È0Éw«Lj¬d¬t«L¬²Åb\\½<²´²²XÅÅ.««L%¸\¶°«¯²¸%Éw\²°Å¸Â«¯jȸ9«L²X¬«L°¬XÉwÅ\5 » ¦.#¡ ¢.ÈÐ¥«1¦¡¥¢ ÀyX«LÐL9¸²X¬´°X«y\Þ½¿²«Lw1Õ>¹LÁw«L°X99¡ %¸«L«k¬.ÀkÐw\²Å¸wÁÖÁ5\Å ½
5²0wȸÁHj²Xw°H¡
§.¡´ª0Åb\²g²Å«L°X«#j°X« .c·%¸¬X¬¸º.Á¸¶.²X¬k¡ÙM½t²XÅ«y°X«c\°X«¾¸ºÕ½ijÀL²%·¸¬X¬X¸ÁÖ¸¶²¬%²Å«L
Àk\²¸wP¸¬
«L«L«yV¡dÙx²´¸¬0w²´Éw\¸g²X¬X«L²0·¸¬X¬X¸ÁC¸¶.²X¬0²X¹L«L°b¡ *°X5Èb\ȸ¸¬X²¸ºÀ0·9«L¬d²XÅ\²0Àkj%Åbj«
·%¸¬X¬¸º.Át¸¶ .²X¬ jÀ ,S# w¢5L 0\°«tÅ\°X¾³u5°Xµ²X¸·%¶«L·g«yH²´¸Í½u²XÅ.«L\°«tÈ\¬X«y5 «L°\
z
Ê´\Ç$Ð5Üg¡ P0¡ *¡ j,ª0¸s\Ð\Üg¡ ¡ w¨5¤LL¡ U LV!U V Y 0V$^ ZUWV X LX4U X9UW^ LV p U LÐ ¸¬X59£]Oc«y¬X«L9¡
[z 7 2eg . b Jg ig b Z M2Z g ig
«L¬ yÐ [ S ^ S R [ X9U V S UWX ^ $U X ^0X9[ V RR U ^ X9U SLV LÐ Ô ¶°¸Áw«L° £ d«y°Xs\Á¡
Z if& g 9 bf .eg & Z g
Ï.°X«L«L.Á9·1\s\\3Ç9ÐgOc¡ kd¦5¡¦CÐ\ ½¿°w\· 5°X¼«wÐSÊCÈÈ¡kÏ´«C¡Ð\¬X¶\wÀL«,²V«LÐS«L¬X¡ Àyw¶¡Ð «,¯w¸Èi¬Ð «L°XÉw¡yj«L²l²X¸jwi.¡ ¬0 \½ \ ] «yy¶¡ ¼Å«L¸¸¬X²±j¬SÐ ÀL «d²X90[ ²XÓÅ
« ¯ ¸°Áw¨50¢wÀL¨S£¨w¬§5²X«L° ¡
e
[
@ y
ÜCxÐ Ô ¡ ¡dÔ Ï´·%¡ ¸²X Å «L.¬LL¡cÐ Ê0SwL«LU ¬¸s\[ #¸;.V$X ÀLS²X¸RqÉ5 «1¸V9½M«L°X«L. ÀL« U \LV P ·10jX Ç9S ¸º·ZUW·V «L^9U ²°XV$w^¶99ZÐ V UWVÖ;ÜgV b¡ P*UWV °X¸Àµ9¬XUWwV Þ! j0S
[
"!$#DSL[ V LX4UWSLV Ð Cº9³´«L°kÐ ¼w°X.°X«LÀÅ9²kÐ.¶¶V¡b¢5¤S£¨\b¡
&[ 5g
y & 7 2eg \f
g by & &b 2Zi
V 3 [ X U w¡
bbb [2g if& if
& M2Z . b
2Z Z Z ][ b
2 & [g 2Z
¯¸9²X5V«yÐ*¬XÀLÜg°¸º¡¶.²XP0¸w¡lj«LÖÁ5Éw²X\Å \ ½*\²X·Å«,¶V³´Ð «L¸Áw¡ Å9 ² ¬kÐ9wÙx¤ @ L¡ + CI«LS«y^ ¶¸LUWÁ V M«L.S Y4°±\6´58«L79²x ³´:w()°Hµ9¡ ¬,¬X¸·%¶.º«FÈHÖ·%¸¸·g¸¹L¸Á²XÅ«
bbb [2g
z
X & 7 2eg C if 2g y[ if L y
jÀ ,j½lSHª*Ð «LtÀÅ¡yb5¡ º 5Áw¡ 9 ¡ y)¡ U V 0X $S _Y S RX9U S LÐ *Å Õ²XÅ«y¬X¸¬kÐ j¸Ã½Mw°X.¸ÂËÙx¬X²¸º²²X«
[ * 2g C if 2g [ 7
eZ]g 2z
®¯«S\xÐ ¡kp¡ w¤\7È L¡ *°wÈbjȸ¸º¬²X¸À*¸9½¿«L° «LÀL«0¬¸Á<Ô j°Xµ5\ɯÀÅb\¸t w9²X« j°X0·%«y²XÅ9¬S?Ð ^ $V$UW^
)R$S X60 E
()"\Ð ¼«L¶²S¡\½ w·¶²X«y° Ày¸º«yÀL«wÐÛ¯.¸ºÉ5«L°X¬¸²x%\½*ª*w°X59²Xb¡
[ z bf b Z
®¯«S\xÐ ¡´c¡ \] y¡ *°X¸w°¬g½¿5°%¸ Ä .¸º²« «L²x³´w°µ9¬kÐ ^ V$UW^ 6 )RTS X. V=R )R X9UWSVÐ0Û¼¸É$¡{\½
ª*w°w9²X¡
[ z f b2Z [ o. 5[.
*°«L¬X¬S@Ð O ¡ÐÏ3s\«y°X9ÐbÊC¡Ðªl«yµw5º¬µ9HÐ Ô ¡ ¡\ d«L²²X«L°¸º.Áb7Ð O¡ª,¡ L=¡ M[ UW^ ? ^0U R UWV
dÐ j·gÈ°X¸Á5«w¡
z
[ b Z 5eg
Ô µ9¸º¸ÁÐb¡ 5L¤ L¡Ê0Sw«y¬X¸s\c 9·«L°X¸Àk ju\bjH¬¸¬kaÐ UWV'O¡ ª,¡lÜC°\.HÐ3w°S¡lj *¡V ¸º5¸ «L¬ yÐ
+ 4 UW^ V &+ IS 0U UWXX\Ð ¡ Û¡ *¡Ð \·gÈ°¸Áw«w¡
z
9f g gy & hbh iZ z
j ¡bÏ´¡c¡ ·%¸²XÅ «L¬ yÐ U V X LX4U X9UW^ GÐ s\°«L5 *°X«L¬¬kÐ Ç5½¿w°VÐ9¶¶V¡ w¤w¨ £ jH¡
Lz
* 2g ig eg $z 5