1

LI CM N
Trc tin em gi li cm n chn thnh su sc ti cc thy c gio
Vin Cng ngh thng tin Vit Nam cc thy c trong trng i hc s phm
H Ni 2 !" t#n t$nh truy%n !&t ging '&y cho em nh(ng )i*n th+c )inh nghi,n
-u. /u trong su0t thi gi1n -u12
34c /i,t em 5in gi li cm n !*n PGS.TS L B Dng !" t#n t$nh gi67
!8 tr9c ti*7 ch: /o em trong su0t thi gi1n lm lu#n ;<n2 Trong thi gi1n lm
;i,c ;i Thy em )hng nh(ng ti*7 thu thn nhi%u )i*n th+c /= >ch m c?n h@c
!Ac tinh thn lm ;i,c thi !B nghin c+u )ho1 h@c nghim t6c hi,u -u2 3y
l nh(ng !i%u rCt cn thi*t cho em trong -u tr$nh h@c t#7 ; cng tc2
D1u cEng 5in gi li cm n chn thnh ti gi1 !$nh /&n /F !" !Bng ;in
!Gng gG7 . )i*n ; gi67 !8 trong -u tr$nh h@c t#7 nghin c+u ; hon thnh !%
ti ny2
H Ni, thng 11 nm 2013
H@c ;in

LI CAM OAN
I
Ti 5in c1m !o1n rJng s0 li,u ; )*t -u nghin c+u trong lu#n ;<n ny l
trung th9c ; )hng trEng l47 ;i cc !% ti )hc2 Ti cKng 5in c1m !o1n rJng
m@i s9 gi67 !8 cho ;i,c th9c hi,n lu#n ;<n ny !" !Ac cm n ; cc thng tin
tr>ch 'Ln trong lu#n ;<n !" !Ac ch: rM nguNn g0c2
Ogi ;i*t lu#n ;<n
MC LC
LI CM N.......................................................................................................1
LI CAM OAN.................................................................................................2
MC LC.....3
DANH MC CC ! HI"#$ CC T% &I'T T(T....)
DANH MC CC H*NH MINH H+A......)
M, -#....
CH/NG I0 T1NG 2#AN &3 PH4N CM D5 LI"#...............................16
1.1. HI NI"M &7 MC TI8# C9A PH4N CM D5 LI"#................................16
1.1.1. Khi nim v phn cm !" #i$..........................................................1%
1.1.2. &c ti'$ c(a phn cm !" #i$...........................................................1%
1.1.). Cc *'$ c+$ ,-i v.i /0 th$1t phn cm !" #i$..................................11
1.1.2. Cc /i3$ !" #i$ v cc th$c t4nh t56ng phn cm............................1)
1.2. M:T S; TH#<T TON T=ONG PH4N CM D5 LI"#................................1>
1.2.1. Cc th$1t t6n t56ng phn cm phn h6ch.......................................17
1.2.2. Cc th$1t t6n t56ng phn cm phn c8p...........................................2)
1.2.).Cc th$1t t6n phn cm !9a t5'n m1t ,..........................................22
1.2.2.:hn cm !9a t5'n #.i.......................................................................27
1.2.;.:hn cm !9a t5'n m h<nh.................................................................2=
1.2.7. :hn cm c> !" #i$ 5ng ?$c..........................................................2=
P
1.3. PH4N CM CM M..................................................................................2?
1.).1. @Ang B$an v phn cm mC................................................................2D
1.).2. Cc th$1t t6n phn cm mC..............................................................)%
CH/NG II0 M@NG N=ON OHONAN &7 BNG DNG CHO PH4N
CM D5 LI"#..................................................................................................3C
2.1. GIDI THI"# CH#NG &3 M@NG N=ON.....................................................3C
2.1.1. & h<nh NE56n sinh hc.....................................................................)2
2.1.2. & h<nh NE56n nhn t6.....................................................................)7
2.1.). & h<nh &ng NE56n nhn t6..........................................................)D
2.1.2. Fc t5ng c(a &ng NE56n................................................................2)
2.1.;. :hn #6i mng...................................................................................22
2.1.7. Gng !ng mng nE56n nhn t6.........................................................2H
2.1.=. KIt #$1n...............................................................................................2D
2.2. M@NG N=ON NH4N T@O OHONAN ESOMF SALG O=GANIHAD MAPSI
..........................................................................................................................)6
2.2.1. @Ang B$an v JK&.............................................................................;%
2.2.2. & h<nh JK&......................................................................................;2
2.2.). @h$1t t6n c(a mng JK&.................................................................;)
2.2.2. &t vi ?iIn th3 c(a giLi th$1t JK&..................................................7%
2.2.;. &t s- Mng !ng c(a JK&.................................................................72
CH/NG III0 GII B7I TON PH4N CM NH BNG DNG M@NG
OHONAN.........................................................................................................>3
3.1. B7I TON PH4N CM NH........................................................................>3
).1.1 Ni.i thi$............................................................................................7)
).1.2. JK& ch6 phn cm Lnh......................................................................72
@hiIt /I mng................................................................................................72
@h$1t t6n hc mng....................................................................................7;
3.2 GIDI THI"# MJI T=/NG C7I KT...........................................................>.
3.3. C7I KT &7 SL DNG................................................................................>M
).).1. Ci ,Ft.................................................................................................7H
).).2. JO !ng...............................................................................................=2
3.C. H@N CH' C9A GII TH#<T SOM HI P DNG PH4N CM M7# T=8N
NH
).2.1. Hn chI...............................................................................................=7
).2.2. H.ng /hPc phc hn chI c(a JK&..................................................=7
Q
'T L#<N &7 H/DNG PHT T=INN.........................................................?
T7I LI"# THAM HO.................................................................................M1
R
DANH MC CC ! HI"#$ CC T% &I'T T(T
SDTU S s '( li,u
VSTU Vhn cWm '( li,u
XVTU Xh1i 7h '( li,u
YOZ Vhn t nron chi*n thng
[UV [ultiU1yer Verce7tion
Y\[ Yi'irection1l \ssoci1ti;e [emory
D][ Del^ ]rg1ni_ing [17
`a `ector au1nti_1tion
U`a Ue1rning `ector au1nti_1tion
[DT [inim1l D71nning Tree
DANH MC CC H*NH MINH H+A
HOnP NQR STng
H$nh 121 Yibu !N cc '&ng '( li,u
H$nh 12I Yibu !N -uy m '( li,u
H$nh 12P Thi*t l#7 !b 5c !cnh '1nh gii cc cWm /1n !u
H$nh 12Q T>nh ton tr@ng tm cc cWm mi
H$nh 12R Xhi -ut thu#t ton Sure
H$nh 12d Sc cWm '( li,u !Ac )hm 7h /i thu#t ton Sure
H$nh 12e H$nh '&ng cc cWm !Ac t&o /i thu#t ton TYDS\O
H$nh 12f Sc cch m cWm cG thb !1 r1
H$nh I21 [ h$nh nron sinh h@c
H$nh I2I [ h$nh nron nhn t&o c /n
H$nh I2P [ h$nh m&ng nron P l7
H$nh I2Q [ h$nh h@c gim st
H$nh I2R [ h$nh h@c )hng gim st
H$nh I2d [ h$nh m&ng 7erce7tron mBt l7
H$nh I2e [ h$nh [&ng 7erce7tron nhi%u l7
H$nh I2f [ h$nh m&ng hNi -uy mBt l7
H$nh I2g SCu tr6c ch1 m&ng Ho7^iel'
H$nh I21i SCu tr6c ch1 m&ng Y\[
H$nh I211 [ h$nh [&ng Oron Xohonen
d
H$nh I21I [ h$nh [&ng Oron Xohonen thng thng
H$nh I21P Vhn t nron chi*n thng Y[Z
H$nh I21Q Sc ;Eng ln c#n
H$nh I21R Zj m1tri5 /ibu 'ikn cho D][
H$nh P21 lii nmn ^ile nVH\OSZ[\OH2r1ro ; m ^ile
nsetu7pVH\OSZ[\OHo
H$nh P2I D1u !G ;o Te/ug ; ci !4t ^ile nsetu72e5eo
H$nh P2P Yt !u -u tr$nh ci !4t
H$nh P2Q Slose !b h?1 tCt -u tr$nh ci !4t
H$nh P2R Shng tr$nh !" ci !4t 5ong ; ^ile ch&y chng
tr$nh nJm trn mn h$nh 'esto7
nqin'orssorms\77lic1tion12e5eo
H$nh P2d li1o 'i,n ch1 chng tr$nh
H$nh P2e OhCn n6t ch@n nh !b 7hn cWm nh !Ac ch@n
H$nh P2f X*t -u 7hn cWm nh ;t1 ch@n
H$nh P2g Vhn cWm nh ngLu nhin ;i Og1ng Ii '@c Pi ;
ng8ng l Ri
H$nh P21i TrBn mu nh unh ch@n ngLu nhinv

e
M, -#
1. LU SV WPXn YZ [\R
Trong /0i cnh +ng 'Wng cng ngh, thng tin ngy cng t<ng '( li,u 7ht
sinh tt ho&t !Bng -un l. )inh 'o1nh sn 5uCt ch1 cc cng ty t= ch+c ngy
cng nhi%u2 Sc cng ty t= ch+c cn 7hi nh1nh chGng !1 r1 cc -uy*t !cnh
/Jng cch 5 l. nhi%u y*u t0 ;i -uy m ; t>nh 7h+c t&7 ngy cng t<ng2 3b
cG -uy*t !cnh ch>nh 5c nhCt ngi -un l. thng th9c hi,n ;i,c '9 !on
h1y 7hn lo&i ;Cn !% cn gii -uy*t trc )hi r1 -uy*t !cnh2 Ogoi ;i,c '91
trn cc y*u t0 lin -u1n tr9c ti*7 !*n ;Cn !% ngi r1 -uy*t !cnh c?n '91
trn )inh nghi,m /n thn ; thng tin cG !Ac tt cc ho&t !Bng trc !G2
TLn !*n mBt nhu cu th9c t* l cn cG cc 7hng 7h7 7hn cWm 5 l> '(
li,u thu th#7 !Ac !b lm c<n c+ r1 -uy*t !cnh2
Trong th9c t* cuBc s0ng ch6ng t1 /t g47 nhi%u /i ton tng t9 nh '9
!on thc trng ch+ng )hon '9 !on lu lAng nc '9 !on lAng g1s
tiu '9 !on n<ng l9c sn 5uCt !cnh gi ti sn !nh gi nhn ;in 7hn
lo&i )hch hng2 3G l cc /i ton thuBc l7 /i ton 7hn cWm '( li,u !b '9
!on ; 7hn lo&i cG thb 5em l cc /i ton c /n ; cG nhi%u +ng 'Wng
th9c tikn2 3" cG nhi%u 7hng 7h7 !Ac !1 r1 !b gii cc l7 /i ton trn
nh 7hng 7h7 th0ng ) 7hng 7h7 hNi -uy cy -uy*t !cnh m&ng
nron nhn t&ow
Trong !G m&ng njron nhn t&o nh )h n<ng h@c nh l&i ; )hi -ut
hG1 tt cc mLu '( li,u huCn luy,n !" tr thnh mBt trong hng nghin c+u
ch>nh ch1 lxnh ;9c tr> tu, nhn t&o2 ymt ;% m4t l. thuy*t m&ng njron nhn
t&o tng !0i !Bc l#7 ;i /n chCt ch1 cc -u tr$nh ;#t l. cn 7hn lo&i '9
f
!on2 z m{i l7 /i ton trn !%u cG cc !4c !ibm chung )hi gii /Jng m&ng
njron nhn t&o nh| thu th#7 '( li,u mLu ti%n 5 l. '( li,u 5c !cnh thng
s0 m&ng ; huCn luy,n2 To !G ;i,c nghin c+u !b t=ng -ut hG1 cc /i ton
; 5y '9ng 7hn m%m +ng 'Wng m&ng njron nhn t&o cG thb 'Eng cho
nhi%u /i ton l hon ton )h thi2
[Bt trong s0 cc tr ng&i g47 7hi )hi +ng 'Wng m&ng njron nhn t&o
cn 7hi cG s9 h{ trA !y !h )i*n th+c l. thuy*t ; 7hng 7h7 +ng 'Wng2
Trong )hi cc nghin c+u ;% m&ng njron nhn t&o thng +ng 'Wng ;o mBt
/i ton cW thb )*t -u nghin c+u )hG cG )h n<ng )* tht1 7ht tribn !b
+ng 'Wng rBng r"i cho cc /i ton tng t92 `$ ;#y ;i,c nghin c+u chuyn
su !y !h ; m1ng t>nh +ng 'Wng th9c tikn c1o l h*t s+c cn thi*t2 `i cc
l> 'o trn em ch@n !% ti s dng mng noron trong phn cm d li! "
#ng dng$
2. M]W Y^WP ngPRn W_T
T$m hibu cc !4c trng ch1 m&ng njron nhn t&o )h n<ng ; cc
nguyn tc !b +ng 'Wng thnh cng m&ng njron nhn t&o trong th9c t*2 T$m
hibu ;% 7hn cWm '( li,u2 Oghin c+u +ng 'Wng m&ng njron nhn t&o ;o
l7 /i ton 7hn cWm '( li,u2
3. NPR`a b] ngPRn W_T
T$m hibu nghin c+u ;% m&ng noron nhn t&o ; 7hn cWm '( li,u2 yy
'9ng 7hn m%m cho 7hm7 ngi s 'Wng m 7h}ng ; +ng 'Wng nh1nh
chGng m&ng noron nhn t&o !b gii -uy*t cc /i ton thuBc l7 /i ton 7hn
cWm '( li,u2
g
C. cR [deng b\ fPga bR ngPRn W_T
30i tAng nghin c+u l l7 /i ton 7hn cWm '( li,u s 'Wng m&ng
nron nhn t&o2 Vh&m ;i nghin c+u l l. thuy*t +ng 'Wng m&ng njron nhn
t&o cho /i ton 7hn cWm '( li,u2 ~ng 'Wng m&ng noron )ohonen trong
7hn cWm '( li,u2
). PPdhng fPf ngPRn W_T
Vhng 7h7 nghin c+u ti li,u| nghin c+u l. thuy*t ; +ng 'Wng m&ng
nron nhn t&o trong 7hn cWm '( li,u2
Vhng 7h7 th9c nghi,m| !i su nghin c+u +ng 'Wng m&ng njron nhn
t&o /t !u tt /c chun /c '( li,u /1o gNm cc ) thu#t cho ;i,c tr>ch
ch@n !4c trng lm s&ch '( li,u ti%n 5 l. )i*n tr6c m&ng cch huCn luy,n
; )ibm tr1 m&ng2 Th9c hi,n 7hn t>ch +ng 'Wng m&ng njron ;o mBt s0 /i
ton ch1 m{i l7 /i ton2 Tt cc 7hn t>ch ttng /i ton tc gi 5y '9ng
thnh -uy tr$nh cc ch: 'Ln m1ng t>nh +ng 'Wng th9c tikn c1o cG thb +ng
'Wng nh1nh chGng cho cc /i ton tng t9 ch1 cc l7 /i ton trn2
yy '9ng 7hn m%m m 7h}ng m&ng njron| 7hn t>ch thi*t )* 7hn
m%m hng !0i tAng ;i cc t>nh n<ng cho 7hm7 ngi s 'Wng th9c hi,n
gii cc /i ton th9c t* /Jng m&ng njron nhn t&o2 U#7 tr$nh 7hn m%m
7hn m%m cG gi1o 'i,n tr9c -u1n ch&y trn h, !i%u hnh qin'ors2
>. GRi [PTjk[ lPVm PXW
3% ti lm rM )h n<ng +ng 'Wng ch1 m&ng njron trong 7hn cWm '(
li,u2 Sch !b 5c !cnh /i ton no th>ch hA7 !b gii /Jng m&ng njron2 yy
'9ng thnh -uy tr$nh ;i cc /c th9c hi,n cW thb cho ;i,c gii /i ton
7hn cWm '( li,u /Jng m&ng njron2
1i
SHOl 1| TOl aZ\O ` VHO S[ T UZ
1.1. PR nR`a b\ a]W [RT Wnm fPon W]a Sp qR`T
1%1%1% &hi nim "' phn cm d li!
Vhn cWm '( li,u l -u tr$nh nhGm mBt t#7 cc !0i tAng tng t9 nh1u
trong t#7 '( li,u ;o cc cWm s1o cho cc !0i tAng thuBc cEng mBt cWm l
tng !Nng c?n cc !0i tAng thuBc cc cWm )hc nh1u s )hng tng !Nng2
Vhn cWm '( li,u l mBt ) thu#t trong Xh1i 7h '( li,u nhJm t$m )i*m
7ht hi,n cc cWm cc mLu '( li,u t9 nhin ti%m n -u1n tr@ng trong t#7 '( li,u
ln tt !G cung cC7 thng tin tri th+c h(u >ch cho ;i,c r1 -uy*t !cnh2
Xhng gi0ng nh 7hn l7 '( li,u 7hn cWm '( li,u )hng !?i h}i 7hi
!cnh nghx1 trc cc mLu '( li,u huCn luy,n2 `$ th* cG thb coi 7hn cWm '( li,u
l mBt cch h@c /Jng -u1n st trong )hi 7hn l7 '( li,u l h@c /Jng ;> 'W w
Ogoi r1 7hn cWm '( li,u c?n cG thb !Ac s 'Wng nh mBt /c ti%n 5
l. cho cc thu#t ton )h1i 7h '( li,u )hc nh l 7hn lo&i ; m t !4c !ibm
cG tc 'Wng trong ;i,c 7ht hi,n r1 cc cWm2 Vhn cWm '( li,u !1ng l ;Cn !% m
; )hG ;$ ngi t1 cn 7hi !i gii -uy*t nhi%u ;Cn !% c /n ;% '( li,u !b nG
7hE hA7 ;i nhi%u '&ng '( li,u )hc nh1u nh '( li,u ch+1 nhiku 'o -u tr$nh
thu th#7 thi*u ch>nh 5c )hng tng minh ho4c l cc !0i tAng '( li,u )huy*t
thi*u thng tin ;% mt s0 thuBc t>nhw ho4c '( li,u h{n hA7 !1ng ngy cng t<ng
trong cc h, -un trc '( li,u2
1%1%2% (c ti)! c*+ phn cm d li!
[Wc tiu ch1 7hn cWm '( li,u l 5c !cnh !Ac /n chCt nhGm trong t#7
'( li,u ch1 cG nh"n2 OG cG thb l )hng cG tiu chun tuy,t !0i t0t m cG thb
)hng 7hW thuBc ;o )*t -u 7hn cWm2 `$ ;#y nG !?i h}i ngi s 'Wng 7hi
11
cung cC7 tiu chun 7hn cWm mBt cch rM rng theo cch m )*t -u 7hn cWm
s !7 +ng yu cu2
Hi,n n1y ch1 cG mBt 7hng 7h7 7hn cWm t=ng -ut no cG thb gii
-uy*t ch@n ;n cho tCt c cc '&ng cCu tr6c '( li,u2 Hn n(1 cc 7hng 7h7
7hn cWm cn cG mBt cch th+c /ibu 'ikn cCu tr6c ch1 '( li,u ; ;i m{i cch
th+c /ibu )hc nh1u s cG tng +ng mBt thu#t ton 7hn cWm 7hE hA72
1%1%3% ,c -)! c.! /0i "1i 23 th!4t phn cm d li!
Vhn cWm l mBt thch th+c trong lxnh ;9c nghin c+u ch{ nh(ng +ng
'Wng ti%m n<ng ch1 ch6ng !Ac !1 r1 ng1y ch>nh nh(ng yu cu !4c /i,t ch1
ch6ng2 D1u !y l nh(ng yu cu c /n ch1 7hn cWm trong XVTU|
SG )h n<ng m rBng| Ohi%u thu#t ton 7hn cWm '( li,u lm ;i,c t0t ;i
nh(ng t#7 '( li,u nh} ch+1 >t hn Iii !0i tAng tuy nhin mBt c s '( li,u ln
cG thb ch+1 ti hng tri,u !0i tAng2 `i,c 7hn cWm ;i mBt t#7 '( li,u ln cG
thb lm nh hng ti )*t -u2 `#y lm th* no !b ch6ng t1 7ht tribn cc thu#t
ton 7hn cWm cG )h n<ng m rBng c1o !0i ;i cc SDTU ln
Xh n<ng th>ch nghi ;i cc )ibu thuBc t>nh )hc nh1u| Ohi%u thu#t ton
!Ac thi*t )* cho ;i,c 7hn cWm '( li,u cG )ibu )hong u)ibu s0v2 Tuy nhin
nhi%u +ng 'Wng cG thb !?i h}i ;i,c 7hn cWm ;i nhi%u )ibu '( li,u )hc nh1u
nh )ibu nhc 7hn )ibu tng minh u!cnh '1nh j )hng th+ t9v ; '( li,u cG th+
t9 h1y '&ng h{n hA7 ch1 nh(ng )ibu '( li,u ny2
Xhm 7h cc cWm ;i h$nh '&ng /Ct )| Ohi%u thu#t ton 7hn cWm 5c
!cnh cc cWm '91 trn cc 7hm7 !o )hong cch ucli'e1n ; )hong cch
[1nh1tt1n2 Sc thu#t ton '91 trn cc 7hm7 !o nh ;#y hng ti ;i,c t$m )i*m
cc cWm h$nh cu ;i m#t !B ; )>ch c8 tng t9 nh1u2 Tuy nhin mBt cWm cG
1I
thb cG /Ct c+ mBt h$nh '&ng no2 To !G ;i,c 7ht tribn cc thu#t ton cG thb
)hm 7h r1 cc cWm cG h$nh '&ng /Ct ) l mBt ;i,c lm -u1n tr@ng2
T0i thibu lAng tri th+c cn cho 5c !cnh cc th1m s0 !u ;o| Ohi%u thu#t
ton 7hn cWm yu cu ngi 'Eng !1 ;o nh(ng th1m s0 nhCt !cnh trong 7hn
t>ch 7hn cWm unh s0 lAng cc cWm mong mu0nv2 X*t -u ch1 7hn cWm
thng )h nh&y cm ;i cc th1m s0 !u ;o2 Ohi%u th1m s0 rCt )hG !b 5c
!cnh nhCt l ;i cc t#7 '( li,u cG lAng cc !0i tAng ln2 3i%u ny )hng
nh(ng gy tr ng&i cho ngi 'Eng m c?n lm cho )hG cG thb !i%u ch:nh !Ac
chCt lAng ch1 7hn cWm2
Xh n<ng th>ch nghi ;i '( li,u nhiku| Hu h*t nh(ng SDTU th9c !%u
ch+1 !9ng '( li,u ngo&i l1i '( li,u l{i '( li,u ch1 /i*t ho4c '( li,u s1i2 [Bt
s0 thu#t ton 7hn cWm nh&y cm ;i '( li,u nh ;#y ; cG thb 'Ln !*n chCt
lAng 7hn cWm thC72 t nh&y cm ;i th+ t9 ch1 cc '( li,u ;o| [Bt s0 thu#t
ton 7hn cWm nh&y cm ;i th+ t9 ch1 '( li,u ;o ;> 'W nh ;i cEng mBt t#7
'( li,u )hi !Ac !1 r1 ;i cc th+ t9 )hc nh1u th$ ;i cEng mBt thu#t ton cG
thb sinh r1 cc cWm rCt )hc nh1u2 To !G ;i,c -u1n tr@ng l 7ht tribn cc thu#t
ton m >t nh&y cm ;i th+ t9 ;o ch1 '( li,u2
D0 chi%u ln| [Bt SDTU ho4c mBt )ho '( li,u cG thb ch+1 mBt s0 chi%u
ho4c mBt s0 cc thuBc t>nh2 Ohi%u thu#t ton 7hn cWm 7 'Wng t0t cho '( li,u
;i s0 chi%u thC7 /1o gNm ch: tt h1i !*n P chi%u2 Ogi t1 !nh gi ;i,c 7hn
cWm l cG chCt lAng t0t n*u nG 7 'Wng !Ac cho '( li,u cG tt P chi%u tr ln2
OG l s9 thch th+c ;i cc !0i tAng '( li,u cWm trong )hng gi1n ;i s0 chi%u
ln !4c /i,t ;$ )hi 5mt nh(ng )hng gi1n ;i s0 chi%u ln cG thb rCt th1 ; cG
!B nghing ln2
1P
Vhn cWm rng /uBc| Ohi%u +ng 'Wng th9c t* cG thb cn th9c hi,n 7hn
cWm 'i cc lo&i rng /uBc )hc nh1u2 [Bt nhi,m ;W !4t r1 l !i t$m nh(ng
nhGm '( li,u cG tr&ng thi 7hn cWm t0t ; th}1 m"n cc rng /uBc2
Tk hibu ; 'k s 'Wng| Ogi s 'Wng cG thb ch !Ai nh(ng )*t -u 7hn cWm
'k hibu 'k l. gii ; 'k s 'Wng2 Oghx1 l s9 7hn cWm cG thb cn !Ac gii
th>ch . nghx1 ; +ng 'Wng rM rng2 `i nh(ng yu cu !ng lu . ny nghin
c+u ch1 t1 ;% 7hn t>ch 7hn cWm 'ikn r1 nh s1u| 3u tin t1 nghin c+u cc
)ibu '( li,u )hc ; cch ch6ng cG thb gy nh hng ti cc 7hng 7h7 7hn
cWm2 Th+ h1i t1 !1 r1 mBt cch 7hn lo&i chung trong cc 7hng 7h7 7hn
cWm2 D1u !G t1 nghin c+u chi ti*t m{i 7hng 7h7 7hn cWm /1o gNm cc
7hng 7h7 7hn ho&ch 7hn cC7 '91 trn m#t !B222 T1 cKng )ho st s9 7hn
cWm trong )hng gi1n !1 chi%u ; cc /i*n thb ch1 cc 7hng 7h7 )hc2
1%1%5% ,c 2i6! d li! " cc th!c t7nh trong phn cm
Thu#t ton 7hn cWm '( li,u cG rCt nhi%u )ibu '( li,u2 [Bt thuBc t>nh 'uy
nhCt cG thb !Ac cG nh nhc 7hn ri r&c ho4c lin tWc2 ThuBc t>nh nhc 7hn cG
ch>nh 5c h1i gi trc nh l !6ng ho4c s1i2 ThuBc t>nh ri r&c cG mBt s0 h(u h&n
cc gi trc cG thb ;$ th* )ibu '( li,u nhc 7hn l mBt trng hA7 !4c /i,t ch1 '(
li,u ri r&c2 auy m '( li,u ch: r1 tm -u1n tr@ng tng !0i ch1 cc con s0
cKng l mBt ;Cn !% -u1n tr@ng trong 7hn cWm '( li,u2 `$ ;#y '( li,u !Ac chi1
thnh cc )ibu nh s1u|

1Q
HOnP 1.1 0 BRrT Ys WW Sgng Sp qR`T
HOnP 1.20 tRrT Ys uTj av Sp qR`T
Y1o gNm cc )ibu '( li,u|
T( li,u '91 trn )>ch thc mi%n|
ThuBc t>nh lin tWc uSontinuous \ttri/utev| n*u mi%n gi trc ch1 nG l ;
h&n )hng !*m !Ac2
ThuBc t>nh ri r&c uTiscrette\ttri/utev| O*u mi%n gi trc ch1 nG l t#7 h(u
h&n !*m !Ac2
U7 cc thuBc t>nh nhc 7hn| l trng hA7 !4c /i,t ch1 thuBc t>nh ri r&c
m mi%n gi trc ch1 nG ch: cG I 7hn t !Ac 'ikn t nh| es Oo ho4c
O1mO( s1lsetruew
1R
ThuBc t>nh !cnh '1nh unomin1l Dc1lev| !y l '&ng thuBc t>nh )hi -ut ho
ch1 thuBc t>nh nhc 7hn trong !G mi%n gi trc l ri r&c )hng 7hn /i,t th+ t9 ;
cG nhi%u hn h1i 7hn t j nghx1 l n*u 5 ; y l h1i !0i tAng thuBc t>nh th$ ch:
cG thb 5c !cnh l 5 y ho4c 5 y2
ThuBc t>nh cG th+ t9 u]r'in1l Dc1lev| l thuBc t>nh !cnh '1nh cG thm t>nh th+
t9 nhng ch6ng )hng !Ac !cnh lAng2 O*u 5 ; y l h1i thuBc t>nh th+ t9 th$
t1 cG thb 5c !cnh l 5 y ho4c 5 y ho4c 5 y ho4c 5 y2
ThuBc t>nh )hong unter;1l Dc1lev| `i thuBc t>nh )hong ch6ng t1 cG thb 5c
!cnh mBt thuBc t>nh l !+ng trc ho4c s1u thuBc t>nh )hc ;i mBt )hong l
/1o nhiu2 O*u 5
i
y
i
th$ t1 nGi 5 cch y mBt )hong 5
i
y
i
tng +ng ;i thuBc
t>nh th+ i2D1u )hi chun ho !B !o 7hi tng t9 ch1 h1i !0i tAng '( li,u 5 y
!Ac 5c !cnh /Jng cc metric )hong cch nh s1u |
Xhong cch [ins)ors)i|
v
1
u
1
v u

n
i
B
*
i
Q
i
B
* Q !
trong !G - l s0
t9 nhin 'ng2
Xhong cch ucli'e|

n
i
*
i
Q
i
* Q !
1
v u
I
v u !y l trng hA7 !4c /i,t ch1
)hong cch [ins)ors)i trong trng hA7 -I2
Xhong cch [1nh1tt1n|

n
i
*
i
Qi
* Q !
1
v u
!y l trng hA7 !4c /i,t ch1
)hong cch [ins)ors)i trong trng hA7 -12
Xhong cch c9c !&i|

1
v u
*
i
Qi
n
i
&aQ * Q !

!y l trng hA7 ch1

)hong cch [ins)ors)i trong trng hA7 -j 2
1d
ThuBc t>nh t: l, u1tio Dc1lev| l thuBc t>nh )hong nhng !Ac 5c !cnh mBt
cch tng !0i so ;i !ibm m0c th> 'W nh thuBc t>nh chi%u c1o ho4c cn n4ng
lCy !ibm i lm m0c2 SG nhi%u cch )hc nh1u !b t>nh !B tng t9 gi(1 cc thuBc
t>nh t l,2 SG thb s 'Wng cng th+c t>nh log1rit cho m{i thuBc t>nh 5
i
2
Trong cc thuBc t>nh '( li,u tr$nh /y trn thuBc t>nh !cnh '1nh ; thuBc t>nh
cG th+ t9 g@i chung l thuBc t>nh h&ng mWc uS1tegoric1lv thuBc t>nh )hong ;
thuBc t>nh t: l, !Ac g@i l thuBc t>nh s0 uOumericv2
1.2. MQ[ wc [PTx[ [Vn [yVng fPon W]a Sp qR`T
1%2%1% ,c th!4t ton trong phn cm phn hoch
tng chung ch1 thu#t ton trong 7hn cWm 7hn cWm 7hn ho&ch0 7hn
mBt t#7 '( li,u cG n 7hn t cho trc thnh ) nhGm '( li,u s1o cho m{i 7hn t
'( li,u ch: thuBc ;% mBt nhGm '( li,u ; m{i nhGm '( li,u cG t0i thibu mBt
7hn t '( li,u2 Thu#t ton 7hn cWm 7hn ho&ch t0i u cWc /B l s 'Wng chi*n
lAc <n th1m !b t$m )i*m nghi,m2
Ti !y l mBt s0 thu#t ton !Ac s 'Wng rBng r"i|
TPTx[ [Vn FMzmnw0
R tSng| '91 trn !B !o )hong cch ch1 cc !0i tAng '( li,u trong cWm2
Th9c t* nG !o )hong cch ti gi trc trung /$nh ch1 cc !0i tAng '( li,u trong
cWm2 OG !Ac 5em nh l trung tm ch1 cWm2 Oh ;#y nG )hi t&o mBt t#7
trung tm cc cWm trung tm /1n !u ; thng -u1 !G nG l47 l&i cc /c gNm
gn m{i !0i tAng ti cWm m trung tm gn nhCt ; t>nh ton t&i trung tm ch1
m{i cWm trn c s gn mi cho cc !0i tAng2 au tr$nh l47 ny 'tng )hi cc
trung tm hBi tW2
1e
HOnP 1.30 TPRk[ qxf Yr {W Y|nP SmnP gR}R WW W]a tmn Y~T
[Wc !>ch| sinh r1 ) cWm '( li,u S
1
S
I
w S
)
tt mBt t#7 '( li,u /1n !u gNm n
!0i tAng trong )hng gi1n ' chi%u y
i
u5
i1
5
iI w
5
i'
v vui122nv s1o cho hm tiu
chun|

/
i
i
C Q mi
Q
T
U
1
v u
I
!&t gi trc t0i thibu2
`i m
i
l tr@ng tm ch1 cWm S
i
T l )hong cch gi(1 h1i !0i tAng2
1f
HOnP 1.C0 T^nP [Vn [yXng [oa WW W]a a}R
Thu#t ton 7hn ho&ch Xjme1ns 'o [1caeen !% 5uCt trong lxnh ;9c th0ng
) n<m 1gde mWc !>ch ch1 thu#t ton Xjme1ns l sinh r1 ) cWm '( li,u
S
1
S
I
wS
)
tt mBt t#7 '( li,u ch+1 n !0i tAng trong )hng gi1n ' chi%u
y
i
u5
i1
5
iI
w 5
i'
v u
n i 1
v s1o cho hm tiu chun |

/
i
i
C Q mi
Q
T
U
1
v u
I
uI21v
3&t gi trc t0i thibu2 Trong !G| m
i
l tr@ng tm ch1 cWm S
i
T l )hong
cch gi(1 h1i !0i tAng u)hong cch ucli'ev2 Tr@ng tm ch1 mBt cWm l mBt
;mc t trong !G gi trc ch1 m{i 7hn t ch1 nG l trung /$nh cBng ch1 cc thnh
7hn tng +ng ch1 cc !0i tAng ;ect '( li,u trong cWm !1ng 5mt2 Th1m s0
!u ;o ch1 thu#t ton l s0 cWm ) ; th1m s0 !u r1 ch1 thu#t ton l cc tr@ng
tm ch1 cc cWm '( li,u2 Xjme1ns /1o gNm cc /c c /n nh s1u|
nVut0 D0 cWm ) ; cc tr@ng tm cWm m

)
1

]utVut0 Sc cWm
,
_

/ i
i
C 1
; hm tiu chun !&t gi trc t0i thibu
Yegin
Yc 1| Xhi t&o
Sh@n ) tr@ng tm m

)
1
/1n !u trong )hng gi1n
'
u' l s0 chi%u ch1 '( li,u
;i,c ch@n cG thb ngLu nhin ho4c theo )inh nghi,mv
Yc I | T>nh ton )hong cch0
30i ;i m{i !ibm y
i
u1inv t>nh ton )hong cch ch1 nG ti m{i tr@ng tm
m

1)2 T$m tr@ng tm gn nhCt !0i ;i m{i !ibm2

Yc P| S#7 nh#t l&i tr@ng tm 0
30i ;i m{i 1) c#7 nh#t tr@ng tm cWm m

/Jng cc 5c !cnh trung /$nh

cBng ch1 cc ;ect !0i tAng '( li,u2
1g
Yc Q | 3i%u )i,n 'tng|
U47 cc /c I ; P cho !*n )hi cc tr@ng tm ch1 cWm )hng th1y !0i2
Oh#n 5mt| 3B 7h+c t&7 ch1 thu#t ton l
( ) @/n K
;i T l s0 ln l47 n s0 !0i
tAng ch1 t#7 '( li,u !1 ;o2
/T YRra0
3B 7h+c t&7 nh}| ]un)'2tv ;i |' l s0 chi%u t s0 ;?ng l472 Xjme1ns 7hn t>ch
7hn cWm !n gin nn cG thb 7 'Wng !0i ;i t#7 '( li,u ln2
NPdeW YRra0
Xjme1ns )hng cG )h n<ng t$m r1 cc cWm )hng lNi ho4c cc cWm cG
h$nh '&ng 7h+c t&7 ch: 7 'Wng ;i '( li,u s02 OG )hng )hc 7hWc !Ac nhiku
; cc 7hn t ngo&i l1i2
ShCt lAng 7hn cWm 7hW thuBc ;o nhi%u th1m s0 !u ;o nh| s0 cWm )
; ) tr@ng tm )hi t&o /1n !u2
D0 lAng ; cc th1m s0 l 'o ngi 'Eng nh#7 nn n*u !u ;o )hc
nh1u th$ )*t -u cc cWm s )hc nh1u
TPTx[ [Vn F[oa0
tng| Thu#t ton Xjtm 7hn cWm '( li,u h{n hA7 l m rBng ch1
thu#t ton Xjme1ns cho '( li,u h{n hA7 trong !G cG s 'Wng )hi ni,m [o'e
ch1 '( li,u h{n hA7 )hi !" m rBng cc mi%n gi trc ch1 thuBc t>nh cG th+ t9 ;
5c !cnh )hong cch gi(1 cc !0i tAng2
Thu#t ton ny hBi tW s1u mBt s0 h(u h&n /c l47 ti !ibm c9c tibu !c1
7hng ch1 hm V nh s1u|
( )
V
W Q
/
V C Q
V
! p
1
I

uI2Iv
Ii
T1 5mt T l t#7 O !0i tAng{ }
N
i
i
Q
1
trong !G u
i
n
Q
i
m
Q
i
m
Q
i
Q
i
Q 222
1
222
1 +

v l 7hn t
ch1 -u1n h, r trn lAc !N -u1n h, \
1
222 \
n
;
i
V
Q Tomu\

v ;i m{i
m l cc gi trc th9c c?n ;i
n V m +1
l cc gi trc !cnh '1nh2
Ti !y em 5in !1 r1 mBt s0 )hi ni,m s 'Wng trong '( li,u h{n hA7|
1v [o'e ch1 t#7 '( li,u h{n hA72
|nP ngPm. li s S l t#7 con ch1 t#7 '( li,u h{n hA7 T2
iv `i m@i n jmo'e ch1 S u )> )i,u l jmo'euSvv l gi trc cG tn 5uCt nhi%u
nhCt trong thuBc t>nh \

ch1 S n*u \ l thuBc t>nh !cnh '1nh ; l trung /$nh
cBng ch1 cc gi trc thuBc t>nh \

ch1 S )hi \

l thuBc t>nh s02 O*u \

l thuBc
t>nh !cnh '1nh ; cG nhi%u gi trc cG tn 5uCt nh nh1u trong S th$ jmo'e uSv cG
thb )hng 'uy nhCt ; t1 ch@n gi trc no cKng !Ac2
iiv [o'e ch1 t#7 hA7 S ). hi,u l mo'euSv l 7hn t _ u_
1
222 _
n
v trong !G| _

jmo'euSv
V
n
/v [etric trn '( li,u h{n hA72
Trong lAc !N -u1n h, mi%n gi trc ch1 cc thuBc t>nh \

cG thb l t#7 s0
th9c !cnh '1nh h1y l t#7 cG th+ t92
|nP ngPm 1| li s T][u\

v l mi%n gi trc ch1 thuBc t>nh \

2 T1 cG cc )hi
ni,m s1u|
iX ThuBc t>nh !cnh '1nh| \

!Ac

g@i l thuBc t>nh !cnh '1nh n*u T][u\

v
l t#7 )hng cG th+ t9 t+c l 1/ T][u\

v ho4c 1 / h1y 1 /2
iiX ThuBc t>nh s0| \

thuBc

t>nh s0 n*u T][u\

v l t#7 s0 th9c2
iiX ThuBc t>nh th+ t9| O*u T][u\

v l t#7 h(u h&n ; cG th+ t9 hon ton

th$ \

!Ac g@i l thuBc t>nh cG th+ t9 uchng h&n| T][u\

v )hng !1u hi
!1u !1u ; rCt !1u.2
I1
Trn mi%n gi trc T][u\

v ch1 mBt thuBc t>nh \

t1 5c !cnh cc )hong cch

nh s1u2
|nP ngPm 2Y 5y

T][u\

v hm '

u5yv 5c !cnh /i |
O*u \

l thuBc t>nh s0 th$ '

u5yv
* Q
uI2Pv
O*u \ l thuBc t>nh th+ t9 ; T][u\

v
{ }
/
V V
a a 222
1
;i
/
V V V
a a a < < < 222
I 1
t1 lCy
mBt hm !n !i,u ^

| T][u\

v i1 s1o cho
1 v u i v u
1

/
V V V V
a Z a Z
uHm ny cG
thb l|
1
1
v u

/
i
i
V
a
V
Z
v2 Xhi !G '

u5yv ^

u5v j ^

uyv uI2Qv
O*u \

l '( li,u !cnh '1nh th$ '

u5yv

'

* Q /hi
* Q /hi
| 1
| i
uI2Rv
3cnh nghx1 )hong cch gi(1 h1i !0i tAng '( li,u h{n hA7|
|nP ngPm 3| NiL sO 5 u5
1
222 5
n
v ; y uy
1
222 y
n
v l h1i !0i tAng '(
li,u h{n hA7 trn T )hong cch 'u5 yv !Ac t>nh /i cng th+c|

n
V
V
*
V
Q
V
!
V
* Q !
1
v u
I I
v u
uI2dv
Trong !G cc '

u5

v !Ac t>nh theo cc cng th+c uI2P jI2Rv ; V

l cc
tr@ng s0 'ng cho /i cc chuyn gi12
T1 5em cc thuBc t>nh th+ t9 cG mi%n gi trc l !o&n i1 ucc gi trc trn
thuBc t>nh ny ch1 T l t#7 conv ; nG cKng !Ac 5em l thuBc t>nh2 T1 cG !cnh
l. s1u|
|nP qU. Thu#t ton trn hBi tW s1u mBt s0 h(u h&n /c l47 ti !ibm c9c tibu !c1
7hng ch1 hm |
II

/
V V
c Q
V
W Q ! U
1
v u
I
uI2ev
IP
CW td}W Wnm [PTx[ [Vn0
Yegin
Sh@n cc tr@ng s0 V

cc hm ^

5c !cnh )2
Sh@n ) 7hn t /1n !u { }
/
V
V
W
1
ch1 T lm tm cc cWm
y*7 m{i 5

T ;o cWm S

m nG gn tm nhCt
sor 1222) 'o
v u mo'
V V
C [ W

e7e1t
Vhn /0 l&i cWm theo tm mi nh )jme1n
S#7 nh#t l&i tm cho cc cWm nh t>nh mo'e
Zntil cc cWm )hng !=i
yc !cnh cc cWm
n'2
Nh4n 89t: Xhi thu#t ton )*t th6c cc !0i tAng tm cG thb )hng thuBc
t#7 T2 3b t$m 7hn t !&i 'i,n cho m{i cWm t1 lCy 7hn t thuBc cWm gn ;i
tm ch1 nG nhCt2 Oh !" nGi !cnh l. trn thu#t ton ch: hBi tW ti !ibm c9c tibu
!c1 7hng ch1 2 3b t<ng hi,u -u ch1 thu#t ton t1 cG thb )*t hA7 ;i thu#t
ton 'i truy%n ho4c )hi t&o tm /1n !u /Jng 7hng 7h7 chuyn gi1 utheo
cch n1 gim stv2
TPTx[ [Vn PAM0
Thu#t ton ny l s9 m rBng ch1 Xjme1ns !b )hc 7hWc !Ac '( li,u
nhiku ho4c cc 7hn t ngo&i l1i2 V\[ s 'Wng cc !0i tAng me'oi' !b /ibu
'ikn cho cc cWm '( li,u mBt !0i tAng me'oi' l !0i tAng !4t t&i ;c tr> trung
tm nhCt /n trong ch1 m{i cWm2
yc !cnh me'oi'| Sh@n ) !0i tAng me'oi' /Ct )2 D1u m{i /c th9c
hi,n V\[ c0 gng hon chuybn gi(1 !0i tAng me'oi' ]
m
; mBt !0i tAng ]
7
IQ
)hng 7hi l me'oi' mikn l s9 hon chuybn ny nhJm ci ti*n chCt lAng ch1
7hn cWm -u tr$nh ny )*t th6c )hi chCt lAng 7hn cWm )hng th1y !=i2
Ogoi r1 7hn cWm 7hn ho&ch c?n cG thm mBt s0 thu#t ton SU\\
thu#t ton SU\\OD2
1%2%2% ,c th!4t ton trong phn cm phn c;p
TPTx[ [Vn CTyz
Vhn cWm 7hn cC7 s7 5*7 mBt t#7 '( li,u !" cho thnh mBt cCu tr6c
cG '&ng h$nh cy cy 7hn cC7 ny !Ac 5y '9ng theo ) thu#t !, -uy2 Sy
7hn cWm cG thb !Ac 5y '9ng theo h1i 7hng 7h7 t=ng -ut| Vhng 7h7
To7j'orn ; 7hng 7h7 Yottomju72
HOnP 1.)0 PR uT[ [PTx[ [Vn CTyz
Thu#t ton SZ !Ac th9c hi,n nh s1u|
Sh@n mBt mLu ngLu nhin tt t#7 '( li,u /1n !u2 Vhn ho&ch mLu ny
thnh nhi%u nhGm '( li,u cG )>ch thc /Jng nh1u2
tng ch>nh !y l| 7hn ho&ch t#7 mLu thnh 7 nhGm '( li,u /Jng
nh1u )>ch thc ch1 m{i 7hn ho&ch l n
o
7 un
n
l )>ch thc ch1 mLuv2
Vhn cWm cc !ibm ch1 m{i nhGm| Th9c hi,n 7hn cWm '( li,u cho cc nhGm
cho !*n )hi m{i nhGm !Ac 7hn thnh n
o
7- cWm u;i -1v2
Uo&i /} cc 7hn t ngo&i l1i| Xhi cc cWm !Ac h$nh thnh cho !*n )hi
s0 cc cWm gim 5u0ng mBt 7hn so ;i s0 cWm /1n !u2 D1u !G trong trng
IR
hA7 cc 7hn t ngo&i l1i !Ac lCy mLu cEng ;i -u tr$nh 7h1 )hi t&o mLu '(
li,u thu#t ton s t9 !Bng lo&i /} cc nhGm nh}2
Vhn cWm cc cWm )hng gi1n| Sc !0i tAng !&i 'i,n cho cc cWm 'i chuybn
;% hng trung tm cWm nghx1 l ch6ng !Ac th1y th* /i cc !0i tAng gn
trung tm hn2 3nh 'Cu '( li,u ;i cc nh"n tng +ng2
HOnP 1.>0 CW W]a Sp qR`T YdeW lPa fP tR [PTx[ [Vn CTyz
Ogoi r1 c?n mBt s0 thu#t ton 7hn cC7 !ibn h$nh )hc nh| YSH
Shemeleon \gnes oc)w
1%2%3%,c th!4t ton phn cm d<+ tr)n m4t /
Vhng 7h7 ch1 cc thu#t ton ny l nhGm cc !0i tAng theo hm m#t
!B 5c !cnh2 [#t !B !Ac !cnh nghx1 nh l s0 cc !0i tAng ln c#n ch1 mBt !0i
tAng '( li,u theo mBt ng8ng no !G2 Trong cch ti*7 c#n ny )hi mBt cWm '(
li,u !" 5c !cnh th$ nG ti*7 tWc !Ac 7ht tribn thm cc !0i tAng '( li,u mi
mikn l s0 cc !0i tAng ln c#n ch1 cc !0i tAng ny 7hi ln hn mBt ng8ng
!" !Ac 5c !cnh trc2
tng| '91 ;o m#t !B ch1 cc !0i tAng !b 5c !cnh cc cWm '( li,u
; cG thb 7ht hi,n r1 cc cWm '( li,u ;i h$nh thE /Ct )2 Sc cWm cG thb !Ac
Id
5em nh cc ;Eng cG m#t !B c1o !Ac tch r1 /i cc ;Eng )hng cG ho4c >t
m#t !B2 [#t !B !Ac 5em nh l s0 cc !0i tAng lng gi%ng2
TPTx[ [Vn DBSCAN0
T tng|
T$m cc !0i tAng cG s0 !0i tAng lng ging ln hn mBt ng8ng t0i
thibu2 [{i ng8ng !Ac 5c !cnh /Jng t#7 tCt c cc !0i tAng lin thng m#t !B
;i cc lng ging ch1 nG2
Thu#t ton0
Sh@n mBt !0i tAng 7 tEy .2
UCy tCt c cc !0i tAng m#t !B !*n !Ac tt 7 ;i 7s ; [inVts
O*u 7 l !ibm nhn t&o th$ t&o r1 mBt cWm theo 7s ; [inVts
O*u 7 l mBt !ibm /in )hng cG !ibm no l m#t !B !*n !Ac m#t !B tt
7 ; TYDS\O s !i th<m !ibm ti*7 theo ch1 t#7 '( li,u2
au tr$nh ti*7 tWc cho !*n )hi tCt c cc !0i tAng !Ac 5 l.2
O*u t1 ch@n s 'Wng gi trc ton cWc 7s ; [inVts TYDS\O cG thb h?1
nh#7 h1i cWm thnh mBt cWm n*u m#t !B ch1 h1i cWm gn /Jng nh1u2 3B 7h+c
t&7 ch1 t>nh ton trung /$nh ch1 m{i truy ;Cn l ]unlognv2
HOnP 1..0 HOnP Sgng WW W]a YdeW [gV tR [PTx[ [Vn DBSCAN
Ogoi thu#t ton TYDS\O r1 c?n cG thu#t ton ]VTSD thu#t ton
TOSUZ2
Ie
1%2%5%=hn cm d<+ tr)n l>1i
R tSng| cch ti*7 c#n '91 trn li ny )hng 'i chuybn cc !0i tAng
trong cc m 5y '9ng nhi%u m+c 7hn cC7 ch1 nhGm cc !0i tAng trong mBt
2 Sc cWm )hng '91 trn !B !o )hong cch m nG !Ac -uy*t !cnh /i mBt
th1m s0 5c !cnh trc 7hng 7h7 ny chh y*u t#7 trung 7 'Wng cho l7 '(
li,u )hng gi1n2
\$ ,i3m| Thi gi1n 5 l. nh1nh ; !Bc l#7 ;i s0 !0i tAng '( li,u trong t#7
'( li,u /1n !u2 Th1y ;o !G l ch6ng 7hW thuBc ;o s0 trong m{i chi%u ch1
)hng gi1n li2
TPTx[ [Vn STING0
Y1| 5c !cnh tng !b /t !u
YI| ;i m{i ch1 tng t>nh ton )hong tin c#y uho4c c lAng )hongv ch1
5c suCt m ny lin -u1n ti truy ;Cn2
YP| tt )hong tin c#y ch1 t>nh ton trn gn nh"n cho l cG lin -u1n ho4c
)hng lin -u1n2
YQ| n*u l7 ny l l7 'i cEng chuybn s1ng /c d n*u )hc th$ chuybn s1ng
/c R2
YR| 'uy,t 5u0ng 'i ch1 cCu tr6c cy 7hn cC7 mBt m+c2 Shuybn s1ng YI cho
cc m h$nh thnh cc lin -u1n ch1 l7 cG m+c c1o hn2
Yd| O*u !4c t cu truy ;Cn chuybn Yf O*u )hng chuybn s1ng Ye2
Ye| Truy lWc '( li,u ;o trong cc lin -u1n ; th9c hi,n 5 l.2 Tr l&i )*t -u
7hE hA7 yu cu truy ;Cn2 Shuybn s1ng Yg2
Yf| T$m thCy cc mi%n cG cc lin -u1n2 Tr l&i mi%n m 7hE hA7 ;i yu cu
ch1 truy ;Cn2 chuybn s1ng Yg2
Yg| Ttng2
If
Ogoi thu#t ton DTOl r1 c?n cG thm thu#t ton 7hn cWm '91 trn li l
SUaZ cG )h n<ng 7 'Wng t0t ;i '( li,u !1 chi%u nhng l&i nh&y cm ;i
th+ t9 ch1 '( li,u ;o2 3B 7h+c t&7 ch1 nG l ]unv2
1%2%?%=hn cm d<+ tr)n m@ hAnh
Vhng 7h7 ny c0 gng )hm 7h cc 7hm7 5C7 5: t0t ch1 cc th1m s0
m h$nh s1o cho )h7 ;i '( li,u mBt cch t0t nhCt2 Sh6ng cG thb s 'Wng chi*n
lAc 7hn cWm 7hn ho&ch ho4c chi*n lAc 7hn cWm 7hn cC7 '91 trn cCu
tr6c ho4c m h$nh m ch6ng gi !cnh ;% t#7 '( li,u ; cch m ch6ng tinh ch:nh
cc m h$nh ny !b nh#n '&ng r1 cc 7hn ho&ch2 Sc thu#t ton 7 'Wng theo
7hng 7h7 ny|
TPTx[ [Vn AM| l s9 m rBng ch1 Xjme1ns nG gn cc !0i tAng cho
cc cWm !" cho theo 5c suCt 7hn 7h0i thnh 7hn ch1 !0i tAng !G2 Vhn 7h0i
5c suCt !Ac s 'Wng l 7hn 7h0i 5c suCt l1ussi1n ;i mWc !>ch l )hm 7h
l47 cc gi trc t0t cho cc th1m s0 ch1 nG /Jng hm tiu chun l hm log1rit )h
n<ng ch1 !0i tAng '( li,u !y l hm t0t !b m h$nh 5c suCt cho cc !0i
tAng '( li,u2 [ cG thb )hm 7h r1 nhi%u h$nh '&ng cWm )hc nh1u tuy nhin
'o thi gi1n l47 ch1 thu#t ton )h nhi%u nhJm 5c !cnh cc th1m s0 t0t nn chi
7h> t>nh ton ch1 thu#t ton )h c1o2
1%2%B% =hn cm cC d li! rng D!c
Sc thu#t ton trn hu h*t cung cC7 >t cch th+c cho ngi 'Eng !b 5c
!cnh cc rng /uBc trong th* gii th9c cn 7hi th}1 m"n -u tr$nh 7hn cWm2 `$
;#y !b 7hn cWm '( li,u )hng gi1n hi,u -u hn cc nghin c+u /= sung cn
!Ac th9c hi,n !b cung cC7 cho ngi 'Eng )h n<ng )*t hA7 cc rng /uBc
trong thu#t ton 7hn cWm2
Ig
HOnP 1.M0 CW WWP a\ W]a W [Pr Ydm ym
[Bt s0 nhnh nghin c+u !Ac 7ht tribn trn c s ch1 7hng 7h7 ny|
Vhn cWm th0ng )| '91 trn cc )hi ni,m 7hn t>ch h, th0ng ngi t1 s
'Wng cc !B !o tng t9 !b 7hn ho&ch cc !0i tAng nhng ch6ng ch: 7 'Wng
cho cc '( li,u cG thuBc t>nh s02
Vhn cWm )hi ni,m| 7 'Wng cho '( li,u h&ng mWc ch6ng 7hn cWm cc
!0i tAng theo cc )hi ni,m m ch6ng 5 l.2
Vhn cWm m| s 'Wng ) thu#t 7hn cWm m !b 7hn cWm '( li,u cc
thu#t ton ny ch: r1 lAc !N 7hn cWm th>ch hA7 ;i tCt c cc ho&t !Bng !i
s0ng hng ngy ch6ng 5 l. '( li,u th9c )hng chc chn2
Vhn cWm m&ng Xohonen| lo&i 7hn cWm ny '91 trn )hi ni,m ch1
m&ng nron2 [&ng Xohonen cG|
Tng nron ;o| [{i nron ;o tng +ng ;i m{i thuBc t>nh ch1 /n ghi
m{i nron ;o )*t n0i ;i tCt c cc nron ch1 tng r1
Tng nron r12
Pi
[{i lin )*t !Ac gn li%n ;i mBt tr@ng s0 nhJm 5c !cnh ;c tr> ch1
nron r1 tng +ng2
1.3. PPon W]a W]a a
1%3%1% EFng G!+n "' phn cm mH
Vhn cWm '( li,u hi,n n1y !" !Ac 7 'Wng rCt nhi%u trong cuBc s0ng ch1
ch6ng t12 Shng h&n trong ngnh /u !i,n thng h1y 7hn lo&i th theo m"
nc trong nc l&i 7hn theo m" t:nhthnh 7h0 s1u !G l&i !Ac 7hn theo
-u#nhuy,n ti*7 theo l 7hn theo 5"7hng !b gi th2 3G ch>nh l mBt +ng
'Wng ch1 /i ton 7hn cWm rM u7hn cWm c+ngv2 `#y 7hn cWm rM l g$
Vhn cWm rM l -u tr$nh 7hn cWm m trong !G m{i !ibm '( li,u thuBc
ch>nh 5c ;o mBt cWm uh1y nGi cch )hc| [Bt !0i tAng )hi !" thuBc cWm ny
th$ )hng thuBc ;o cWm )hcv
Ohng trong th9c t* )hng 7hi l6c no /i ton 7hn cWm rM cKng 7
'Wng !Ac2 Shng h&n /i ton| Sho chi%u c1o ch1 ngi cG P nhGm nh s1u|
S1o utt 1m d tr lnv TY utt 1 m R !*n 1mRgv ThC7 utt 1mQg tr 5u0ngv2
H}i| [Bt ngi c1o ;t1 ;t1 u theo ngn ng( t9 nhin v th$ )hi !G h@ thuBc
nhGm ngi no
`$ ;#y trong trng hA7 ny ch6ng t1 nn 7 'Wng l. thuy*t ;% t#7 [
trong 7hn cWm '( li,u !b gii -uy*t cho trng hA7 ny cch th+c ny !Ac
g@i l Vhn cWm [2
Vhn cWm [ l 7hng 7h7 7hn cWm '( li,u m cho 7hm7 m{i !ibm
'( li,u cG thb thuBc ;% h1i h1y nhi%u cWm thng -u1 /#c thnh ;in2
O<m 1gdg us7ini !" gii thi,u )hi ni,m 7hn ho&ch m !b m t cCu
tr6c ch1 cWm '( li,u ; !% 5uCt mBt thu#t ton !b t>nh ton t0i u 7hn ho&ch
P1
m2 ` n<m 1geP Tunn !" m rBng 7hng 7h7 7hn cWm ; 7ht tribn thu#t
ton 7hn cWm [2
tng ch1 thu#t ton l 5y '9ng mBt 7hng 7h7 7hn cWm m '91
trn t0i thibu hG1 hm mWc tiu2 O<m 1gf1 Ye_'e) !" ci ti*n ; t=ng -ut hG1
hm mWc tiu m /Jng cch !1 r1 tr@ng s0 mK !b 5y '9ng thu#t ton 7hn
cWm m ; ch+ng minh !B hBi tW ch1 cc thu#t ton l c9c tibu cWc /B t0i thibu
hG1 hm mWc tiu2
1%3%2% ,c th!4t ton phn cm mH
@h$1t t6n ]C& ^]$WW* C_&[ansX
Thu#t ton 7hn cWm '( li,u m sS[ gi0ng nh )jme1ns !%u s 'Wng
chung mBt chi*n lAc 7hn cWm '( li,u2 sS[ chi1 7hn t#7 '( li,u /1n !u
thnh c cWm m trong !G m{i !0i tAng '( li,u thuBc ;% cc cWm !Ac 5c !cnh
/i mBt h, s0 l !B 7hW thuBc Z
i)
i 12 u) l ch: s0 ch1 cWm ; i /ibu thc s0
th+ t9 ch1 !0i tAng '( li,u trong t#7 '( li,u /1n !uv h, s0 u
i)
ny !b ch: -u1n
h, gi(1 cc !0i tAng ;i cWm '( li,u trong -u tr$nh t>nh ton h1y c?n g@i l
m+c !B 7hW thuBc ch1 !0i tAng '( li,u 5
)
;o trung tm ch1 cWm th+ i2
yc !cnh hm tiu chun|
Trong 7hn cWm m t=ng tCt c cc 7hn ho&ch m cG c cWm '( li,u ch1
t#7 '( li,u cG O !0i tAng trong )hng gi1n T chi%u !Ac 5c !cnh nh s1u

'

< <

c
i
N
/
N
$i/ $i/ $i/
N / c i
`cN
a
U Zc
1 1
i 1 1 i
1 1

u I2fv
Trong !G|
`cN
l )hng gi1n ch1 tCt c cc m1 tr#n th9c cC7 cO u
i)
l cc
7hn t ch1 m1 tr#n Z2
Hm tiu chun ch1 thu#t ton sS[ !Ac !cnh nghx1 nh s1u |
PI

c
i
N
/
!i/ $
i/
m
V a
bm
1 1
I
v u
v u
uI2gv
Trong !G|
UZc
a
`;
1
;
I
w ;
c

`pc

l m1 tr#n mLu /ibu 'ikn cc gi trc

!0i tAng tm ch1 cWm m l tr@ng s0 mK trong 1

v2 Hn n(1
!i/
!Ac 5c
!cnh nh s1u|

I
v Q !
i / c
i/

uI21iv
`i \ l m1 tr#n h(u h&n 'ng 2
Trong !G|
H@ cc hm tiu chun 5c !cnh trong cng th+c uI2gv ;i th1m s0 mK m
v 1
!Ac !% 5uCt /i Ye_'e) u1gfIv2 D1u !y l cc !i%u )i,n cn thi*t nhJm
t0i thibu hm tiu chun
m
uZ`v2T1 cG !cnh l. !" !Ac cc nh )ho1 h@c ch+ng
minh|
|nP qU 10 O*u m ; c l cc th1m s0 c0 !cnh ;
)
l mBt t#7 !Ac !cnh nghx1
nh s1u |

i
i)
c i 1 i
1

!
/
d
N /
uI211v
th$ hm tiu chun v u V a
b
m
!&t gi trc t0i thibu )hi ; ch: )hi |
n / c i
/
d
c
V
m
V/
!
i/
!
/
d i
/
d
/
d i
i/
$

'

,
_

'

1 1

1
1
I
1
i
1

uI21Iv
PP
;

N
/
$
i/
m
N
/
Q/ $
i/
m
vi
c i
1
v u
1
v u
1
uI21Pv
3b cG mBt 7hn ho&ch t0i u th$ hm tiu chun !&t gi trc t0i thibu h1y
uI21Iv ; uI21Pv 7hi tho m"n2 Tt !G thu#t ton 7hn cWm m sS[ !Ac 5y
'9ng nh s1u|
n7ut| D0 cWm c ; th1m s0 mK m cho hm tiu chun
]utVut| c cWm '( li,u s1o cho hm tiu chun uI2gv !&t gi trc t0i thibu2
Yegin
12 Oh#7 gi trc cho h1i th1m s0 c u1cOv m
v 1 u
; )hi t&o m1 tr#n
mLu i
v i u
V
` V pc
I2 e7e1t
I21 1
I2I T>nh m1 tr#n 7hn ho&ch m Z

theo cng th+c uI21Iv

I2P S#7 nh#t cc tr@ng tm `
uv
;
1
uv
;
I
uv
w ;
c
uv
'91 ;o uI21Pv ; m1
tr#n Z

P2 Zntill u Z
u1v
Z
uv

s

v
Q2 Tr$nh 'ikn cc cWm )*t -u2
n'2
Trong !G|

i / i/
]
$
a
I
I

; th1m s0

!Ac cho trc2

`i,c ch@n cc th1m s0 cWm rCt nh hng !*n )*t -u 7hn cWm th1m s0
ny thng !Ac ch@n theo 7hm7 ngLu nhin ho4c theo )inh nghi,m2 Sh1 cG
PQ
-uy tc no nhJm l91 ch@n th1m s0 m !m /o ;i,c 7hn cWm hi,u -u thng
thng ngi t1 ch@n m I2
/T YRra0 7 'Wng thnh cng trong gii -uy*t mBt s0 ln cc /i ton
Vhn cWm '( li,u nh trong nh#n '&ng mLu 5 l. nh y h@cw
NPdeW YRra| ln nhCt ch1 thu#t ton sS[ l nh&y cm ;i cc nhiku ;
7hn t ngo&i l1i trong '( li,u nghx1 l cc trung tm cWm cG thb nJm 51 so ;i
trung tm th9c ch1 cWm2 To !G cc cWm '( li,u !Ac )hm 7h cG thb rCt l,ch
so ;i cc cWm trong th9c t*2`i,c )h nhiku ; 7hn t ngo&i l1i l mBt ;Cn !%
cn 7hi !Ac gii -uy*t 2
3" cG nhi%u cc 7hng 7h7 !% 5uCt !b ci ti*n cho nhAc !ibm trn ch1
thu#t ton sS[ /1o gNm| Vhn cWm '91 trn 5c suCt u)eller 1ggPv 7hn cWm
nhiku m uT1;e 1gg1v Vhn cWm '91 trn ton t U
V
Oorm uXersten 1gggv2
PR
CH/NG II0 M@NG N=ON OHONAN &7
BNG DNG CHO PH4N CM D5 LI"#
2.1. GR}R [PR`T WPTng bZ agng nhyVn
Trong nh(ng n<m gn !y ngi t1 thng nhc !*n Tr> tu, nhn t&o
nh l mBt 7hng th+c m 7h}ng tr> thng minh ch1 con ngi tt ;i,c lu tr(
!*n 5 l. thng tin2 ` nG th9c s9 tr thnh n%n tng cho ;i,c 5y '9ng cc th*
h, my t>nh thng minh hi,n !&i2 SEng ;i mWc !>ch !G nhng '91 trn -u1n
!ibm hon ton )hc mBt mn )ho1 h@c !" r1 !i m1ng tn U. thuy*t m&ng
Oron2
[&ng Oron nhn t&o l s9 m 7h}ng 5 l. thng tin !Ac nghin c+u
r1 tt h, thn )inh ch1 sinh ;#t cKng nh /B n"o ch1 con ngi2 OG /1o gNm s0
lAng ln cc m0i gn )*t cC7 c1o !b 5 l. cc y*u t0 lm ;i,c trong m> lin
h, gii -uy*t rM rng2 [&ng nron cKng gi0ng nh con ngi !Ac h@c h}i /i
)inh nghi,m lu nh(ng )inh nghi,m hibu /i*t ; s 'Wng ch6ng trong nh(ng
t$nh hu0ng 7hE hA72
[&ng nron nhn t&o 7 'Wng thnh cng trong nhi%u lxnh ;9c )hc nh1u
nh l| ti ch>nh ngn hng !i,n t ) thu#tw ; mi nhCt l nghin c+u +ng
'Wng trong lxnh ;9c -un l. '9 n 5y '9ng2 Ogoi r1 m&ng nron nhn t&o l
cng cW t0t trong ;i,c gii -uy*t cc /i ton nh 7hn l7 !0i tAng 5C7 5:
hm s0 t0i u hG1 !cnh lAng ;ector 7hn cWm '( li,uwOG th1y th* hi,u -u
cc cng cW t>nh ton truy%n th0ng2
2.1.1. Mv POnP NhyVn wRnP PXW
Theo cc nghin c+u sinh h@c ;% /B n"o h, th0ng thn )inh ch1 con
ngi /1o gNm )hong 1ii t t* /o thn )inh thng !Ac g@i nron2
Pd
HOnP 2.10 Mv POnP nhyVn wRnP PXW
[{i t* /o nron gNm P 7hn|
Thn nron uDom1v ;i nhn /n trong l ni ti*7 nh#n cc 5ung !Bng
thn )inh2
[Bt h, th0ng m&ng cc 'y thn )inh ;o u'en'ritesv truy%n t>n hi,u
u'i '&ng 5ung !i,nv ti thn nron !b 5 l.2 Yn trong thn cc '( li,u !G
!Ac t=ng hA7 l&i2
3u 'y thn )inh u15onv 7hn nhnh '&ng cy cG thb 'i tt 1cm !*n
hng mmt2 Xhc ;i 'en'rites 15ons cG )h n<ng 7ht cc 5ung !i,n th* ch6ng
l cc 'y 'Ln t>n hi,u tt nron !i cc ni )hc2 Sh: )hi no !i,n th* trong
Dom1 ;At -u mBt gi trc ng8ng no !G uthreshol'v th$ 15on mi 7ht mBt
5ung !i,n th* c?n n*u )hng th$ nG tr&ng thi ngh:2
\5on n0i ;i cc 'en'rites ch1 cc nron )hc thng -u1 cc )h7 n0i
g@i l syn17se2
HVg[ YQng0
Sc t>n hi,u !1 r1 /i mBt )h7 n0i ; !Ac nh#n /i cc 'y thn )inh
;o l )>ch th>ch !i,n t2 `i,c truy%n t>n hi,u nh trn lin -u1n !*n mBt -u
Pe
tr$nh hG1 h@c 7h+c t&7 m trong !G cc chCt truy%n !4c trng !Ac gii 7hGng
tt 7h>1 gi ch1 ni ti*7 n0i2 3i%u ny lm t<ng h1y gim !i,n th* /n trong thn
ch1 nron nh#n2 Oron nh#n t>n hi,u s )>ch ho&t n*u !i,n th* ;At ng8ng no
!G2 ` mBt !i,n th* ho&t !Bng ;i cng !B cEng thi gi1n tNn t&i c0 !cnh !Ac
gi r1 ngoi thng -u1 !u 'y thn )inh ti 7hn 'y thn )inh ;o rNi ti ch{
)h7 n0i !b !*n nron )hc2 D1u )hi )>ch ho&t nron s ch trong mBt )hong
thi gi1n !Ac g@i l chu ) cho !*n )hi nG cG thb !Ac )>ch ho&t l&i2
SG I lo&i )h7 n0i l )h7 n0i )>ch th>ch ; )h7 n0i +c ch*2 Xh7 n0i
)>ch th>ch s cho t>n hi,u -u1 nG !b ti nron c?n )h7 n0i +c ch* cG tc 'Wng
lm cn t>n hi,u ch1 nron2
SCu tr6c m&ng nron lun th1y !=i ; 7ht tribn cc th1y !=i cG )huynh
hng chh y*u l lm t<ng h1y gim !B m&nh cc m0i lin )*t thng -u1 cc
)h7 n0i2 Sc )h7 n0i !Gng ;1i tr? rCt -u1n tr@ng trong s9 h@c t#72 Xhi ch6ng
t1 h@c t#7 th$ ho&t !Bng ch1 cc )h7 n0i !Ac t<ng cng t&o nn nhi%u lin
)*t m&nh gi(1 cc nron2 SG thb nGi rJng ngi no h@c cng gi}i th$ cng cG
nhi%u )h7 n0i ; cc )h7 n0i Cy cng m&nh m h1y nGi cch )hc th$ lin
)*t gi(1 cc nron cng nhi%u cng nh&y /mn2
2.1.2. Mv POnP NhyVn nPon [gV
Trong n<m 1gQP q1rren [uSlloch ; q1lter Vitts gii thi,u mBt trong
nh(ng nron nhn t&o !u tin thng !Ac g@i l nron [jV u7hn t 5 l.
h1y Vrocessing lementv ;i mBt /B gNm n !u ;o u{
1$
{
2
...$ {
n
v ; mBt !u r1
y
i
nh s1u|


Pf




HOnP 2.20 Mv POnP nhyVn nPon [gV Wh tin
[Bt nron th9c hi,n nhi,m ;W rCt !n gin !G l| nG nh#n t>n hi,u tt cc
!n ;c 7h>1 trc h1y mBt nguNn /n ngoi ; s 'Wng ch6ng !b t>nh t>n hi,u r1
s !Ac l1n truy%n s1ng cc !n ;c )hc2 Trong !G|
5
i
| T#7 cc !u ;o2 Sh6ng nh#n t>n hi,u ;o ch1 nron ; thng
!Ac !1 ;o 'i '&ng ;ector n chi%u2
r
i
| T#7 cc tr@ng s0 tng +ng ;i cc !u ;o nh(ng tr@ng s0 ny
tng +ng ;i cc syn17se trong nron sinh h@c2 Thng thng cc tr@ng s0
!Ac )hi t&o ngLu nhin thi !ibm t&o m&ng ; !Ac c#7 nh#t lin tWc trong
-u tr$nh h@c m&ng2 O*u r i th$ nron !1ng tr&ng thi )>ch th>ch ngAc l&i
r i th$ nron !1ng tr&ng thi )i%m ch*2
/| 3B l,ch h1y ng8ng l th1m s0 !i%u ch:nh ; hng ch1 nron2
Thng !Ac !1 ;o nh l mBt thnh 7hn ch1 hm truy%n2
T1 thCy r ; / !%u l cc th1m s0 !i%u ch:nh ; hng ch1 nron2
tng c /n ch1 m&ng nron l !i%u ch:nh cc th1m s0 ny !b m&ng !&t !Ac
mWc !>ch mong mu0n2
| Hm t=ng 'Eng !b t>nh t=ng cc t>ch ;o ;i tr@ng s0 ch1 nG2
^| Hm truy%n 'Eng !b gii h&n 7h&m ;i !u r1 ch1 m{i nron nG nh#n
)*t -u ch1 hm t=ng ; ng8ng !" cho2 Sc hm truy%n cG thb l hm tuy*n
t>nh ho4c 7hi tuy*n2

{
2
{
n
{
1

t
j
R

11

12

1n
Pg
y| U t>n hi,u !u r1 ch1 nron2
T=ng -ut t1 cG ;i ;ector nh#7 5 u5
1
5
I
222 5
n
v tr@ng s0
r ur
11
r
1I
w2 r
1n
v ng8ng / ; hm truy%n ^2 T=ng !0i s0 ; ng8ng
t&o !u r1 m l|
m r
11
5
1
r
1I
5
I
w2 r
1n
5
n
/2 uP21v
H1y m r5 /2 uP2Iv
`#y ;ector !u r1 cG gi trc| y
i
^ ur5 /v2 uP2Pv
Hm truy%n h1y c?n g@i hm 7hi tuy*n chuybn !=i mBt t= hA7 tuy*n t>nh
ch1 tCt c cc t>n hi,u !u ;o thnh t>n hi,u !u r12 Hm truy%n ny !m /o
t>nh chCt 7hi tuy*n cho t>nh ton m&ng nron2 OG !Ac 5em nh l mBt hm
gii h&n nG gii h&n 7h&m ;i /in !B cho 7hm7 ch1 t>n hi,u !u r1 trong mBt
)hong gi trc h(u h&n2 [Bt s0 hm thng !Ac s 'Wng l|
Hm !Nng nhCt| ^ u5v 5 uP2Qv

Hm /c nhc 7hn| uP2Rv
Thng ch@n t 1
uP2dv
Hm 'Cu |
Hm /#c th1ng |
uP2ev
Hm ng8ng !n c9c|

^ u5v
1
i

n*u 5 t
n*u 5 t
1
n*u 5 i
j1 n*u 5 i

^u5v

i
5
_
1 n*u 5 1
n*u i 5 1
^u5v

n*u 5 i
1
1 e
n5

^u5v
Qi
`i n i uP2fv
Hm ng8ng h1i c9c|
uP2gv

2.1.3. Mv POnP Mgng NhyVn nPon [gV
[&ng nron gNm mBt s0 lAng ln cc !n ;c 5 l. )*t n0i ;i nh1u ho&t
!Bng song song ; cCu h$nh nn )i*n tr6c ch1 h, th0ng2 To m 7h}ng cch th+c
ho&t !Bng ch1 nron thn )inh nn m&ng nron cG )h n<ng h@c ti t&o t=ng
-ut hG1 tt '( li,u !" !Ac huCn luy,n2
3n ;c t&o nn m&ng nron l cc n6t2 Sc n6t ny s nJm cc l7
uU1yerv )hc nh1u2 [{i l7 cG mBt nhi,m ;W ring|
j U7 nh#7 un7ut l1yerv| nh#n '( li,u !u ;o2 Sc n6t thuBc l7 nh#7
g@i l n6t nh#72
j U7 5uCt u]ut7ut l1yerv| )*t 5uCt '( li,u2 Sc n6t thuBc l7 5uCt g@i l
n6t 5uCt2
j U7 n uHi''en l1yerv| l7 ny cG thb cG ho4c )hng tEy lo&i m&ng2
D0 lAng l7 n ch1 mBt nron cKng tEy theo ngi thi*t )* m&ng2 Sc n6t
thuBc l7 n g@i l n6t n2
1 j e
j 5
1 e
j 5

^u5v
Q1
HOnP 2.30 Mv POnP agng nhyVn 3 q}f
[{i n6t trong l7 nh#7 nh#n gi trc ch1 /i*n !Bc l#7 ; chuybn ;o
m&ng2 Sc n6t trong l7 n nh#n '( li,u tt n6t nh#7 t=ng tr@ng hG1 chuybn
t>n hi,u cho l7 5uCt2 Sc n6t t&i l7 5uCt cKng t=ng tr@ng hG1 t>n hi,u nh#n tt
l7 n2 [{i n6t trong l7 5uCt tng +ng ;i mBt /i*n 7hW thuBc2 [{i cung
lin )*t trong m&ng nron !%u cG mBt tr@ng s0 ring2
D0 lAng /i*n !Bc l#7 /i*n 7hW thuBc m nron cho 7hm7 l tEy .2 3Nng
thi m&ng nron lm ;i,c !Ac trn c /ibn !cnh lAng lLn cc /i*n l72 [&ng
nron ho&t !Bng h1i tr&ng thi|
j H@c2
j nh 5&2
Trong tr&ng thi h@c t#7 '( li,u mLu !1 ;o m&ng /1o gNm c gi trc
!u ;o lLn gi trc )*t 5uCt ch1 cc /i*n 7hW thuBc2 Thng tin nh#7 !Ac !1
;o m&ng2 Sc '( li,u !Ac t>nh ton ; cho r1 )*t -u 5uCt2 X*t -u 5uCt ny
ch1 m&ng !Ac so snh ;i )*t -u 5uCt th9c !Ac cho trong t#7 mLu !b r6t r1
s1i s02 D1i s0 ny !Ac l1n truy%n ngAc tr l&i cc n6t 5uCt n6t n !b cc n6t
ny !i%u ch:nh l&i cc tr@ng s0 ch1 m$nh2 au tr$nh l1n truy%n theo h1i chi%u
QI
ny !Ac ti*n hnh nhi%u ln cho !*n )hi s1i s0 chC7 nh#n !Ac| nghx1 l tr@ng
s0 cc n6t trong m&ng !" !6ng| m&ng !Ac luy,n 5ong2
Xhi m&ng !" !Ac luy,n 5ong th$ ngi t1 cG thb 'Eng m&ng cho cc
mWc !>ch ch1 m$nh2 Oghx1 l /y gi !1 '( li,u cc /i*n !Bc l#7 ;o m&ng s
cho gi trc cc /i*n 7hW thuBc cn 5c !cnh2
LTx[ PXW0
Uu#t h@c l thnh 7hn -u1n tr@ng trong m&ng nron2 SG h1i lo&i h@c
trong cc nron !G l h@c thng s0 ; h@c cCu tr6c2
H@c thng s0 l lo&i h@c -u1n tm !*n ;i,c c#7 nh#t cc tr@ng s0 )*t n0i
trong m&ng ; h@c cCu tr6c l lo&i h@c t#7 trung ;o ;i,c th1y !=i cCu tr6c
m&ng /1o gNm s0 cc !n ;c 5 l. ; cc lo&i )*t n0i2 H1i lo&i h@c ny cG thb
!Ac th9c hi,n !Nng thi ho4c tch ri2 Tuy nhin h@c thng s0 l lo&i h@c
!Ac -u1n tm nhCt ;$ hu h*t cc lu#t h@c !Ac tNn t&i trong lo&i h@c ny2
li s m&ng cG n !n ;c 5 l. m0i !n ;c cG ch>nh 5c m tr@ng s0 )*t
n0i th>ch nghi2 Oh ;#y t1 cG m1 tr#n q ;i )>ch thc m 5 n ch+1 tCt c cc
7hn t th>ch nghi ch1 m&ng2 au tr$nh 5 l. thng tin t1 mu0n cG mBt m1 tr#n
th>ch hA7 s1o cho cG thb 5C7 5: m1 tr#n q2 [u0n ;#y t1 7hi 7ht tribn lu#t h@c
!b c#7 nh#t cc tr@ng s0 )*t n0i ch1 m&ng trong -u tr$nh h@c2
Uu#t h@c t=ng -ut !Ac 7hn lm /1 '&ng !G l h@c gim st h@c )hng
gim st ; h@c t<ng cng2
QP
HOnP 2.C0 Mv POnP PXW gRa w[
Trong '&ng h@c gim st m&ng !Ac cung cC7 cc c47 ;o r1 mong
mu0n t&i thi !ibm h@c !b !m /o ch>nh 5c t>n hi,u r1 ch1 nG2 D9 )hc /i,t
gi(1 !u r1 th9c t* so ;i !u r1 mong mu0n !Ac thu#t ton s 'Wng !b th>ch
+ng tr@ng s0 trong m&ng2
H1y nGi mBt cch cW thb trong h@c cG gim st m{i ;ector t>n hi,u !u
;o 5 !Ac cC7 cho m&ng th$ !Nng thi cKng cC7 lun cho m&ng ;ector !u r1
mong mu0n 2 To !G m&ng s ch: !&o 7hi sn sinh r1 t>n hi,u !u r1 nh th*
no2 3B l,ch gi(1 t>n hi,u !u r1 ch1 m&ng ; ;ector !u r1 s !Ac mBt /B
sn sinh s1i s0 thu nh#n2 YB ny s sinh r1 t>n hi,u s1i s02 T>n hi,u s1i s0 ny s
!i ;o m&ng ; m&ng s hi,u ch:nh cc tr@ng s0 s1o cho t>n hi,u !u r1 s gn
;i ;ector !u r1 mong mu0n 2
HOnP 2.)0 Mv POnP PXW lPvng gRa w[
QQ
H@c m&ng nron )hng gim st l cch h@c )hng cG s9 7hn hNi tt mi
trng !b ch: r1 rJng !u r1 ch1 m&ng l !6ng nh th* no Xhi !G m&ng t9
)hm 7h cc !4c !ibm t>nh tng -u1n h1y cc l7 trong '( li,u mBt cch t9
!Bng2 Trong th9c t* 7hCn ln h@c )hng gim cG cc !>ch trEng ;i !u ;o2
OGi cch )hc h@c )hng gim st th9c hi,n cng ;i,c tng t9 nh mBt m&ng
lin )*t c !@ng thng tin tt '( li,u ;o2
Vhn ln +ng 'Wng ch1 h@c )hng gim st nJm trong ;Eng cc /i ton
c lAng nh m h$nh hG1 th0ng ) nmn l@c ; 7hn cWm2
H@c chng c0 cKng l '&ng h@c gim st tuy nhin t>n hi,u !u r1 mong
mu0n ch1 m&ng l t>n hi,u '&ng /it !b !m /o !u r1 ch1 nG !6ng ho4c s1i2
Uu#t h@c ny ch: )hc lu#t h@c gim st ch{ thng tin 7hn hNi tt mi trng
ch: m1ng t>nh chCt !nh gi ch+ )hng m1ng t>nh chCt '&y2 [&ng nron nhn
t&o thng !Ac 'Eng trong h@c chng c0 nh l mBt 7hn ch1 thu#t ton ton
cWc2 Sc /i ton thng !Ac gii -uy*t /Jng h@c chng c0 l cc /i ton !i%u
)hibn tr? chiw
2.1.C. W [ydng Wnm Mgng NhyVn
[ h$nh m&ng nron l mBt m h$nh !Ac +ng 'Wng nhi%u trong th9c t*
cKng nh !em l&i nh(ng thnh cng to ln trong cuBc cch m&ng cng ngh,
my t>nh ; -u tr$nh 5 l. thng tin2 D 'x nG cG thb !em l&i nh(ng lAi >ch to
ln nh ;#y l 'o nG cG nh(ng !4c trng ch>nh s1u|
Xh n<ng ch1 cc -u tr$nh 5 l. song song ; 7hn tn| SG thb !1
;o m&ng mBt )h0i lAng ln cc nron lin )*t ;i nh1u theo nh(ng lAc !N
;i )i*n tr6c )hc nh1u2
QR
Xh n<ng th>ch nghi ; t9 t= ch+c| U )h n<ng 5 l. th>ch nghi ;
!i%u ch:nh /%n ;(ng '91 ;o cc thu#t ton th>ch nghi ; cc -uy tc t9 t=
ch+c2
Xh n<ng 'ung th+ l{i| SG thb /t chc )h n<ng 'ung th+ l{i ch1
n"o theo !cnh nghx1 h, th0ng cG thb ti*7 tWc lm ;i,c ; !i%u ch:nh )hi nh#n t>n
hi,u ;o 7hn thng tin /c s1i l,ch ho4c thng tin /c thi*u2
Xh n<ng 5 l. cc -u tr$nh 7hi tuy*n| 3y l mBt !4c trng -u1n
tr@ng ;> 'W trong 5C7 5: m&ng mikn nhiku ; cG )h n<ng 7hn l72
2.1.). PPon qVgR agng
Uin )*t cc !u ;o ch1 nhi%u nron ;i nh1u t1 !Ac mBt m&ng nron2
Oguyn l. cCu t&o ch1 mBt m&ng nron /1o gNm mBt ho4c nhi%u l72 [{i l7
/1o gNm nhi%u nron cG cEng mBt ch+c n<ng trong m&ng2
[&ng nron nhn t&o cG thb !Ac thi*t )* /Jng nhi%u cch )hc nh1u ;$
;#y trong th9c t* tNn t&i rCt nhi%u )ibu m&ng nron nhn t&o2 T91 ;o s0 l7
h1y s9 lin )*t gi(1 cc l7 trong m&ng m ngi t1 7hn lo&i m&ng nron
thnh cc nhGm )hc nh1u2
PPon qVgR [PzV wc q}f
Vhn lo&i theo s0 l7 th$ m&ng nron nhn t&o gNm I nhGm| [&ng
Vece7tron mBt l7 ; m&ng Verce7tron !1 l72
PzyWzf[yVn aQ[ q}f
Su0i nh(ng n<m 1gRi sr1n) osen/l1tt ; mBt s0 nh nghin c+u !"
7ht tribn mBt m&ng nron cG tn l m&ng Verce7tron2 3y l m&ng nron ;i
)i*n tr6c truy%n thng mBt l7 ;i l7 r1 cG hm truy%n l hm /c nhc 7hn2
Sc !n ;c l7 ;o 7hWc ;W nh ni ch+1 cc t>n hi,u ;o tt mi trng /n
Qd
ngoi ; tt !y truy%n t>n hi,u chuybn ti*7 !*n cc !n ;c l7 r12 Sc !n ;c
l7 r1 !Ac 5em nh cc !n ;c 5 l. m{i !n ;c t=ng hA7 cc thng tin !u
;o ch1 ch1 nG ; t&o l&i t>n hi,u cho !n ;c2
HOnP 2.>0 Mv POnP agng fzyWzf[yVn aQ[ q}f
PzyWzf[yVn Ym q}f
[&ng Verce7tron mBt l7 )hng thb h@c !Ac /i ton y] h&n ch* Cy
l 'o ch>nh cCu tr6c ch1 m&ng2 `$ th* n<m 1gfd umelh1rt ; [cSlell1n' !"
ci ti*n Verce7tron thnh m&ng Verce7tron nhi%u l7 u[ultiU1yer Verce7tron
[UVv l mBt m&ng gNm mBt h1y nhi%u l7 nron trong !G cc 'y 'Ln t>n hi,u
ch: truy%n theo mBt chi%u tt in7ut -u1 cc l7 cho !*n out7ut2
HOnP 2..0 Mv POnP Mgng fzyWzf[yVn nPRZT q}f
Uu . l l7 in7ut )hng !Ac coi l mBt l7 ch1 m&ng2 Ogoi r1 m&ng
see'^orr1r' cKng )hc Verce7tron ch{ l nG )hng 'Eng hm /c nhc 7hn
lm hm truy%n n(1 th1y ;o !G l cc hm ng8ng !n c9c2
Qe
PPon qVgR [PzV w qRn lk[ gRpm WW q}f
D9 lin )*t trong m&ng nron tEy thuBc ;o nguyn l. tng tc gi(1 !u
r1 ch1 ttng nron ring /i,t ;i nron )hc ; t&o r1 cCu tr6c m&ng nron2 `%
nguyn tc s cG rCt nhi%u )ibu lin )*t gi(1 cc nron nhng ch: cG mBt s0 cCu
tr6c h1y g47 trong mBt s0 m h$nh s1u|
Mgng [yTjZn [Png
T?ng '( li,u !u ;o tt cc nron !u ;o !*n cc nron !u r1 ch:
!Ac truy%n thng2 `i,c 5 l. '( li,u cG thb m rBng r1 nhi%u l7 nhng )hng
cG cc lin )*t ngAc2 T+c l )hng cG cc lin )*t tt cc !n ;c !u r1 ti cc
!n ;c !u ;o trong cEng mBt l7 h1y cc l7 trc !G2
O*u m h$nh hG1 m&ng truy%n thng /Jng mBt !N thc th$ nG l !N thc cG
hng h(u h&n )hng chu tr$nh2 H<nh 7 [inh h@1 cho mBt m&ng truy%n thng
nhi%u l72
Mgng PsR uTj
[&ng hNi -uy cG m h$nh )*t n0i l1n truy%n ngAc l7 ;o ch1 m&ng
7hWc ;W nh ni nh#n cc t>n hi,u ;o ; t>n hi,u hNi ti*7 l7 r1 ch1 m&ng
7hWc ;W nh cc !n ;c 5 l.2 3u r1 ch1 cc !n ;c n ; !n ;c r1 cKng cG thb
!Ac l1n truy%n ngAc ;% cc !n ;c l7 trc ho4c cEng l7 ; m{i !n ;c
n cKng cG thb t9 t&o mBt ;?ng )hm7 )>n2 [&ng hNi -uy gNm cG l7 ;o l7 r1
l7 ;o nh#n t>n hi,u tt mi trng /n ngoi ; t>n hi,u hNi ti*7 tt cc !u r1
trc !G ch1 l7 r1 l7 t&o t>n hi,u hNi ti*7 cho l7 ;o ; t&o t>n hi,u r1 cho
m&ng2
Qf
HOnP 2.M0 Mv POnP agng PsR uTj aQ[ q}f
Mgng HVfRzqS
[&ng Ho7^iel' l m&ng 7hn hNi mBt l72 Xhi ho&t !Bng ;i t>n hi,u ri
r&c nG !Ac g@i l m&ng Ho7^iel' ri r&c ; cCu tr6c ch1 nG cKng !Ac g@i l
m&ng hNi -uy2
HOnP 2.?0 CT [yW Wnm agng HVfRzqS
Oh m&ng Ho7^iel' !" ; trn t1 thCy n6t cG mBt !u ;o /n ngoi 5

; mBt gi trc ng8ng V

u 1I222nv2 [Bt !i%u -u1n tr@ng cn nGi !y l m{i

n6t )hng cG !ng 7hn hNi ;% ch>nh nG2 O6t !u r1 th+ !Ac n0i ti m{i
!u ;o ch1 n6t )hc -u1 tr@ng s0 r
i
;i i ui 1I222nv h1y nGi cch )hc
r
ii
i u;i i 1I222nv2 [Bt !i%u -u1n tr@ng n(1 l tr@ng s0 ch1 m&ng
Ho7^iel' l !0i 5+ng t+c l r
i
r
i
u;i i 1 Iw nv2
Qg
Mgng BAM
[&ng Y\[ /1o gNm h1i l7 ; !Ac 5em nh l trng hA7 m rBng
ch1 m&ng Ho7^iel'2 z !y t1 ch: 5mt m&ng ri r&c ;$ nG !n gin ; 'k hibu.
HOnP 2.160 CT [yW Wnm agng BAM
Xhi m&ng nron !Ac t>ch c9c ;i gi trc !u ;o ch1 ;ector t&i !u ;o
ch1 mBt l7 m&ng s cG h1i mLu tr&ng thi =n !cnh ;i m{i mLu t&i !u r1 ch1
nG l mBt l72
2.1.>. Bng S]ng agng nhyVn nPon [gV
[&ng nron trong mBt ;i n<m tr l&i !y !" !Ac nhi%u ngi -u1n tm
; !" 7 'Wng thnh cng trong nhi%u lxnh ;9c )hc nh1u nh ti ch>nh y t*
!c1 chCt ; ;#t l.2 Th#t ;#y /Ct c+ !u cG ;Cn !% ;% '9 /o 7hn lo&i ; !i%u
)hibn m&ng nron !%u cG thb +ng 'Wng !Ac2 Oh 7hn cWm '( li,u -un l.
h@c sinh sinh ;in trong cc trng trung h@c !&i h@c ; c1o !ngw h1y nh#n
'&ng cc ngnh )ho1 h@c h$nh s9 tBi 7h&m )ho1 h@c tng s0 t ;iw
Ti !y li,t ) r1 mBt s0 +ng 'Wng ch>nh ch1 m&ng nron|
\eros71ce| Vhi cng t9 !Bng gi l#7 !ng /1y cc h, th0ng !i%u
)hibn li my /1y /B 7ht hi,n l{i2
\utomoti;e| Sc h, th0ng 'Ln !ng t9 !Bng cho t cc /B 7hn
t>ch ho&t !Bng ch1 5e2
Ri
Y1n)ing| YB !@c sec ; cc ti li,u t>nh ti%n ch1 th t>n 'Wng2
Te^ese| 3cnh ;c 7ht hi,n ;K )h> '? mWc tiu 7ht hi,n !0i tAng
nh#n '&ng nmt m4t cc /B cm /i*n th* h, mi 5 l. nh r1'1rw
lectronics| T9 !on m" tun t9 s !N chi7 S !i%u )hibn ti*n tr$nh
7hn t>ch nguyn nhn h}ng chi7 nh#n '&ng ti*ng nGi m h$nh 7hi tuy*n2
ntert1inment| Ho&t h$nh cc hi,u +ng !4c /i,t '9 /o thc trng2
sin1nci1l| 3cnh gi /Ct !Bng sn cho ;1y )ibm tr1 ti sn cm c0
!nh gi m+c !B hA7 tc 7hn t>ch !ng t>n 'Wng chng tr$nh thng m&i
-u1 giCy t 7hn t>ch ti ch>nh lin 'o1nh '9 /o t gi ti%n t,2
nsur1ce| 3nh gi ;i,c 7 'Wng ch>nh sch t0i u hG1 sn 7hm2
2.1... k[ qTxn
3u ;o ch1 mBt nron gNm ng8ng / ; t=ng cc tr@ng s0 ;o2 3u r1
ch1 nron 7hW thuBc ;o !u ;o ; hm truy%n nron !n rCt >t s 'Wng2 Tuy
nhin mBt ;i nron cG thb )*t hA7 thnh mBt l7 h1y nhi%u l7 th$ )h n<ng
5 l. c1o hn2 `Cn !% !n gin cG thb tr$nh /y /Jng mBt l7 !n2 Tuy nhin
nG )hng gii -uy*t !Ac nhi%u ;Cn !% 7h+c t&72 [&ng !1 l7 cG )h n<ng gii
-uy*t ln hn2
SCu tr6c mBt m&ng cG thb m t /Jng s0 l7 s0 nron trong mBt l7
hm truy%n ch1 m{i l7 ; )*t n{i gi(1 cc l72 TEy thuBc ;Cn !% m&ng cn
gii -uy*t m cG cCu tr6c )hc nh1u2
O*u mBt nh 5& tuy*n t>nh cn m t nn s 'Wng nron tuy*n t>nh2 Tuy
nhin m&ng tuy*n t>nh )hng thb th9c hi,n /Ct c+ t>nh ton 7hi tuy*n no2 D
'Wng hm truy%n 7hi tuy*n !b t&o cho m&ng cG )h n<ng th9c hi,n m0i -u1n h,
7hi tuy*n gi(1 !u ;o ; !u r12 [&ng cG ng8ng / cG thb m t m0i -u1n h,
R1
gi(1 !u ;o ; !u r1 'k 'ng hn m&ng )hng cG ng8ng /2 `> 'W mBt nron
)hng cG ng8ng s lun t&o r1 !u ;o _ero cho hm truy%n u)hi tCt c cc !u
;o nron l _erov2 Tuy nhin mBt nron ;i ng8ng cG thb h@c !b t&o r1 mBt
!u nh#7 cho /Ct ) hm truy%n2
2.2. Mgng NhyVn nPon [gV VPVnzn ESOMF Szq OygmnRzS MmfwI
lio s Ti*n s Teu;o Xohonen sinh ngy 11e1gPQ l gio s '1nh '9
ch1 `i,n hn lm Vhn U1n2 lio s Xohonen !Ac /i*t !*n nhi%u trong cc lxnh
;9c ;% m&ng Oron /1o gNm cc thu#t ton 7hm7 h@c lAng t ;ector cc l.
thuy*t c /n ;% 7hn /0 ; nh 5& t0i uwng !" 5uCt /n mBt s0 sch ; ;i*t
)hong Iii /i /o2 3Gng gG7 n=i ti*ng nhCt ch1 ng l D][ uDel^ ]rg1ni_e'
[17sv h1y c?n g@i l /n !N t9 t= ch+c h1y l /n !N Xohonen2
Trong cc )ibu )hc nh1u ch1 m&ng nron m&ng nron Xohonen gi0ng
;i m&ng nron sinh h@c hn c ;% cCu t&o lLn c ch* h@c nG m h$nh hG1 cch
ho&t !Bng /B n"o ch1 con ngi m4c 'E nG )h !n gin2
Sch 5 l. thng tin cc m&ng nron )hc thng ch: -u1n tm !*n gi trc
; 'Cu hi,u ch1 thng tin !u ;o ch1 -u1n tm )h1i thc cc m0i lin h, cG
t>nh chCt cCu tr6c trong ln c#n ch1 cc ;Eng '( li,u mLu h1y ton thb )hng
gi1n2 Ohng trong m&ng nron Xohonen !" -u1n tm !*n cc y*u t0 ny2
[&ng Xohonen thng 'Eng !b th1m chi*u !*n mBt trong /1 m&ng s1u|
`ector au1nti_1tion `a Yn !N t9 t= ch+c D][ Uering `ector au1nti_1tion
U`a2
Trong /i /o co ny em 5in !Ac tr$nh /y t=ng -u1n ;% m&ng D][2
2.2.1. Tng uTmn bZ SOM
D][ l mBt m h$nh m&ng nron cG )h n<ng nh 5& '( li,u !u ;o ucG
s0 chi%u lnv ln mBt mng cG s0 chi%u thC7 hn thng thng l h1i chi%u2 3y
RI
l mBt 7hm7 chi*u 7hi tuy*n t>nh !em l&i mBt /n !N !4c trng h1i chi%u cG thb
!Ac s 'Wng trong ;i,c 7ht hi,n ; 7hn t>ch nh(ng !4c trng trong )hng
gi1n !u ;o2
HOnP 2.110 Mv POnP Mgng NhyVn VPVnzn
lii thu#t D][ /1n !u !Ac 7ht tribn cho mWc !>ch 7hn lo&i ti*ng nGi
tuy nhin D][ c?n cG thb 7 'Wng !Ac nhi%u trong lxnh ;9c )hc nh !i%u
)hibn t9 !Bng hG1 sinh trc h@c 7hn t>ch ti ch>nh ; 5 l. ngn ng( t9
nhin2
T9 t= ch+c trong m&ng nron l mBt trong nh(ng chh !% cu0n h6t trong
m&ng nron2 [Bt m&ng nron nh ;#y cG thb !Ac luy,n !b t$m r1 cc -uy lu#t
; cc tng -u1n cc gi trc nh#7 ;o ; '9 !on cc )*t -u ti*7 theo2 Sc
nron ch1 m&ng thng -u1 -u tr$nh luy,n c&nh tr1nh !b nh#n r1 mBt nhGm cc
!0i tAng !u ;o tng !ng nh1u2 [Wc !>ch ch>nh ch1 ;i,c luy,n trong m&ng
nron Xohonen l gom cWm cc ;ector !u ;o cEng lo&i2
Sc thuBc t>nh c /n nhJm 7hn /i,t D][ ;i cc m&ng nron )hc l
nG s 'Wng ). s0 th1y cho ). t9 )hng th1m s0 ; h@c )hng gim st2 Vhng
RP
7h7 'Eng s0 t9 nhin cho 7hm7 D][ 5em 5mt 5 l. '( li,u s0 t9 nhin th0ng )
!Ac ; nhJm !b /ibu 'ikn cc m0i -u1n h, !" !Ac ch@n l@c2 Yi 'o D][
)hng yu cu h@c cG gim st ; l mBt '&ng )hng th1m s0 cho nn nG cG thb
t$m r1 nh(ng cCu tr6c )hng h% mong mu0n tt '( li,u !" cho2
2.2.2. Mv POnP SOM
D][ l mBt m&ng Oron nhn t&o !Ac huCn luy,n utr1ine'v s 'Wng )
thu#t Xhng gim st !b /ibu 'ikn '( li,u ;i s0 chi%u thng l I2 X*t -u
ch1 D][ g@i l /n !N u[17v2 D][ cKng l mBt nron nhn t&o tuy nhin D][
)hc ;i cc \OO l )hng s 'Wng cc l7 n uhi''en l1yersv ch: s 'Wng n7ut
; ]ut7ut l1yer2 D][ s 'Wng )hi ni,m lng gi%ng uneigh/orhoo'v !b gi( l&i
!4c trng ch1 cc '( li,u !u ;o trn /n !N ucG nghx1 l cc mLu huCn luy,n
tng t9 nh1u th$ !Ac !4t gn nh1u trn /n !Nv2 u !ibm ch>nh ch1 D][ l
/ibu 'ikn tr9c -u1n '( li,u nhi%u chi%u ;o )hng gi1n >t chi%u hn ; !4c trng
ch1 '( li,u !u ;o !Ac gi( l&i trn /n !N2
[&ng )ohonen h1i chi%u gNm cG I l7| U7 ;o ; U7 r1 Xohonen
j U7 ;o un7ut l1yerv| 'Eng !b !1 '( li,u huCn luy,n ;o m&ng
Xohonen2 X>ch thc ch1 l7 ;o tng +ng ;i )>ch thc ch1 m{i mLu h@c2
j Trong m&ng Xohonen h1i chi%u cc nron ch1 U7 r1 !Ac s7 5*7 trn
mBt mng I chi%u2 [ng ny !Ac g@i l l7 r1 Xohonen2
j TCt c cc nron ch1 l7 ;o !%u !Ac n0i ;i cc nron trn l7 r12
[{i lin )*t gi(1 l7 ;o ; l7 r1 ch1 m&ng Xohonen tng +ng ;i mBt tr@ng
s02 X>ch thc ch1 m{i ;mc t tr@ng s0 /Jng )>ch thc ch1 l7 ;o2
RQ
HOnP 2.120 Mv POnP Mgng NhyVn VPVnzn [Pvng [Pdng
2.2.3. TPTx[ [Vn Wnm agng SOM
ymt mBt t#7 '( li,u l cc ;ect trong )hng gi1n n chi%u|
` `
1
`
I
w `
n

Xhi t&o th1m s0 thi gi1n t| ti2

Yc 1| Xhi t&o ;mc t tr@ng s0 qi cho m{i nron i trong m&ng
Xohonen2
Trc )hi huCn luy,n cc gi trc /1n !u !Ac !1 r1 l cc ;ect tr@ng s02
D][ l )hng 7hW thuBc nhi%u !0i ;i '( li,u /1n !u u'( li,u cG thb /c thi*uv
nhng thu#t ton D][ ;Ln hBi tW nh1nh2 TEng mBt trong /1 thh tWc )hi t&o
!ibn h$nh s1u |
j Xhi t&o ngLu nhin ;ect tr@ng s0 /1n !u !Ac gn gi trc l cc gi
trc ngLu nhin !h nh}2
j Xhi t&o ;> 'W ;ect tr@ng s0 /1n !u !Ac gn ;i cc ;> 'W ngLu
nhin r6t r1 tt t#7 '( li,u2
RR
j Xhi t&o tuy*n t>nh ;ect tr@ng s0 /1n !u !Ac gn trong mBt )hng
gi1n con tuy*n t>nh /i h1i ;ect ch1 t#7 '( li,u /1n !u2
Yc I| UCy mBt mLu huCn luy,n 5 tt t#7 huCn luy,n2
Yc P| T$m mLu )h7 t0t nhCt uY[Zv 7hn t nron chi*n thng|
HOnP 2.130 PP~n [ nhyVn WPRkn [Png BM#
j Tuy,t tCt c cc n6t ; t>nh )hong cch ucli'e gi(1 ;ector tr@ng s0
ch1 m{i n6t ; ;ector nh#7 hi,n hnh2
Sng th+c !b t>nh )hong cch ucli'e !Ac cho nh s1u|
uP21iv
`| ;ector hi,n hnh2
q| ;ector tr@ng s0 ch1 7hn t !Ac ch@n2
j O6t cG ;ector tr@ng s0 gn nhCt ;i gi trc ch1 ;ector nh#7 s !Ac ch@n
l Y[Z2
Yc Q| yy '9ng cc 7hn t ln c#n2
Rd
Sc nron ln c#n tu thuBc ;o /n )>nh !Ac s7 5*7 trong li theo
h$nh ch( nh#t ho4c h$nh lWc gic2 D0 cc ln c#n 5c !cnh tr@ng tm ch1 m1 tr#n
)*t -u cG nh hng !*n !B ch>nh 5c ; )h n<ng sinh m1 tr#n ch1 D][2
HOnP 2.1C0 CW bng qon Wxn
j 34c t>nh 'uy nhCt ch1 thu#t ton Xohonen l ;Eng ln c#n ch1 Y[Z
!Ac 5y '9ng trn ;ector )hong cch s !Ac co l&i s1u mBt s0 ln l47 nhCt
!cnh2 3i%u ny !Ac th9c hi,n /Jng cch co l&i /n )>nh ch1 ;Eng ln c#n theo
s0 ln l472
j Vhm7 co s !Ac th9c hi,n theo hm mK nBi suy s1u|
uP211v
-| /n )>nh ln c#n ch1 Y[Z t&i thi !ibm t2
-
i

| /n )>nh ln c#n ch1 Y[Z t&i thi !ibm t
i
2
| hJng s0 thi gi1n2
t| l /c l47 hi,n t&i2
Re
j li trc ch1 hJng s0 7hW thuBc ;o
-
; s0 ln l47 !b ch&y gii thu#t
!Ac t>nh theo cng
th+c|
Olog u-
i
v uP21Iv
O| s0 ln l47 !b ch&y gii thu#t us0 ln h@cv2
- s !Ac 'Eng !b t>nh /n )>nh ln c#n trong m{i ln l47 ch1 gii thu#t2
j Xhi /n )>nh ln c#n !" !Ac 5c !cnh ;i,c 5c !cnh cc 7hn t ln
c#n ch1 Y[Z s !Ac th9c hi,n !n gin /Jng cch 'uy,t tCt c cc 7hn t
trong m&ng !b 5em nG cG nJm trong /n )>nh ln c#n h1y )hng
Yc R0 Hi,u ch:nh tr@ng s0 ch1 cc 7hn t ln c#n -u tr$nh h@c ch1
gii thu#t D][2
Tr@ng s0 ch1 7hn t ln c#n !Ac 5c !cnh /c trn /1o gNm c Y[Z
s !Ac !i%u ch:nh !b ch6ng cG gi trc gn gi0ng ;i gi trc ch1 ;ector nh#7 hn2
Rf
Vhn t cng gn Y[Z th$ tr@ng s0 ch1 nG s cng 'k /c th1y !=i nhi%u hn2 Sc
;ector tr@ng s0 s !Ac t>nh theo cng th+c|
I Et 1I I EtI EtIJEtIEK EtI I EtII
uP21Pv
| Hm nBi suy theo thi gi1n h@c nG thb hi,n s9 tc !Bng ch1 )hong cch
!0i ;i -u tr$nh h@c ; !Ac t>nh theo cng th+c s1u|
uP21Qv
'ist| Xhong cch tt mBt nron !*n nron chi*n thng
t| Yc l47 hi,n t&i
U| T0c !B h@c us gim 'n theo s0 ln l47v
j Yibu th+c trn cho thCy tr@ng s0 ch1 m{i n6t s1u )hi hi,u ch:nh ch>nh l
gi trc tr@ng s0 cK q ch1 nG cBng thm 7hn gi trc )hc /i,t gi(1 tr@ng s0 q ;
;ector nh#7 ` theo h, s0 t0c !B h@c
j Hm nBi suy t0c !B h@c U utv cho m{i /c l47 !Ac t>nh theo cng th+c
s1u|
uP21Rv
U
i
| gi trc )hi t&o /1n !u ch1 t0c !B h@c2
j Sng ti*n gn ;% !ibm gi(1 th$ t0c !B h@c cng gi0ng ;i hm mK nBi
suy ch1 7hm7 co2 T0c !B h@c s !Ac nBi suy 'n theo t0c !B h@c ; gi trc ch1
hm s ti*n 'n ;% )hng )hi s0 ln l47 !&t ti nh(ng /c cu0i cEng2
Yc d0 `?ng l472
Rg
j T<ng t lCy mLu h@c ti*7 theo2 U47 l&i /c I cho !*n )hi gii thu#t t0i u
ho4c !&t !*n s0 ln l47 5c !cnh O cho trc2
CP U| D0 lAng ;ector ch1 t#7 huCn luy,n l cG gii h&n2 3b cho ;i,c huCn
luy,n m&ng !1 l&i )*t -u t0t nhCt !?i h}i s0 /c huCn luy,n 7hi ln ; n*u
)>ch thc ch1 t#7 huCn luy,n l nh} th$ nh(ng mLu huCn luy,n cG thb !Ac s
'Wng l47 l&i2 nh(ng mLu cG thb !Ac 7 'Wng !%u !4n theo chu )$ ho4c theo mBt
tr#t t9 hon ;c ngLu nhin2
TyW uTmn agng
j The Zjm1tri5 l 7hng th+c !Ac s 'Wng 7h= /i*n nhCt !b thb hi,n
)hong cch gi(1 cc nron mBt cch tr9c -u1n2 Vhng th+c ny s 'Wng
)hong cch gi(1 nron nh l mBt tiu chun !b 5c !cnh r1nh gii gi(1 cc cWm
'( li,u2 OG ch+1 )hong cch ucli' tt m{i nron trung tm !*n cc ln c#n ch1
nG2
H<nh 2.1;Y a_ mat5iQ ?i3$ !ien ch6 JK&
j D1u )hi Zjm1tri5 !Ac 5c !cnh th$ s !Ac hibn thc 'i '&ng li cc
h$nh lWc gic nh mBt cng cW tr9c -u1n m&ng2 Xhong cch gi(1 cc nron cKng
!Ac hibn thc ;i nh(ng mu sc )hc nh1u2
D|WP agng
yc !cnh r1nh gii gi(1 cc cWm2
di
Sch 'cch Zjm1tri5 nh s1u| O*u gi trc )hong cch gi(1 cc nron ln
/ibu thc cho nh(ng '( li,u gi0ng nh1u u)hng cEng cWmv ; ngAc l&i gi trc /m
/ibu thc cho nh(ng '( li,u gi0ng nh1u2 T1 cG thb tng tAng trong )hng gi1n P
chi%u gi trc cng ln th$ !B c1o cng ln ; 'o !G nG t&o thnh nh(ng /+c tng
7hn r1nh gii trong )hi !G gi trc /m t&o thnh nh(ng thung lKng u;1lleyv /c /1o
-u1nh /i nh(ng /+c tng2 To !G '( li,u trong nh(ng thung lKng l !Ac gB7
nhGm cEng nh1u ; hibn thc mBt cWm2 Xhong cch gi(1 cc nron s1u )hi !Ac
t>nh cG thb !Ac /ibu thc ;i nh(ng mu )hc nh1u2 [u t0i gi(1 cc nron /ibu
thc cho )hong cch ln mu sng gi(1 cc nron /ibu thc cc gi trc nh#7 l gn
nh1u2 ` 'o !G ;Eng mu sng /ibu thc '( li,u cEng thuBc mBt cWm ; ;Eng mu
t0i ch>nh l r1nh gii cch gi(1 cc cWm2 `i,c hibn thc ny gi67 t1 cG mBt ci nh$n
tr9c -u1n !y !h rM rng ch>nh 5c ;% '( li,u2
yc !cnh t>nh chCt ch1 ttng cWm|
`i,c 5c !cnh t>nh chCt ch1 ttng cWm !Ac th9c hi,n /Jng ;ector tr@ng s0
ch1 cc nron thuBc cWm !G2 D 'Wng 7hng 7h7 ch1 Destilo ; Tillon 1gge2
Thnh 7hn th+ ) ch1 ;ector tr@ng s0 7hn nh m+c !B !Gng gG7 ch1 thnh 7hn
th+ ) ch1 ;ector nh#72 l@i uqi1 qiI wqinv l ;ector tr@ng s0 t&i n6t i trn
l7 r1 Xohonen2
T$m qim15 m15 uqi1 qiIwqinv2
Sc l7 ;o ) cG qim15 qi) T ;i T l ng8ng nJm trong )hong
tt i !*n 12 li trc ng8ng T 7hn nh m+c !B /i*n thin -u1ng trc qim152
Thu#t ton D][ ;i nh(ng u !ibm ch1 nG !" tr thnh cng cW cG >ch
trong 7hn cWm '( li,u2 3G l t&o r1 hm 7hn /0 5c suCt cho t#7 '( li,u /1o l7
'k gii th>ch ; -u1n tr@ng nhCt l tr9c -u1n m&ng t0t2 TEy theo ;Cn !% cn gii
d1
-uy*t cc chuyn gi1 7hn cWm '( li,u cG thb ch@n 7hng 7h7 )hc nh1u !b
7hn t>ch '( li,u !1 r12 Th* nhng ;i 7hng 7h7 D][ cG thb lm nhi%u cng
;i,c cEng mBt l6c ; cho r1 )*t -u tng !ng ;i ;i,c )*t hA7 nhi%u 7hng
7h7 )hc ;i nh1u2 Thu#t ton D][ rCt hi,u -u trong ;i,c 7hn cWm ; r6t g@n
)>ch thc '( li,u2 O*u t>ch hA7 D][ ;i cc 7hng 7h7 )hc cG thb sinh lu#t2
Trong 7hn cWm '( li,u cG rCt nhi%u 7hng 7h7 -uen thuBc +ng 'Wng
nG nh| Vhn cWm 7hn ho&ch 7hn cWm 7hn cC7 7hn cWm '91 theo m#t !B
7hn cWm ;o liw `> 'W trong 7hn cWm 7hn ho&ch t1 thng nhc !*n Xj
thnh 7hn ch>nh cG nhi,m ;W t0i thibu )hong cch trong cWm ; c9c !&i
)hong cch gi(1 cc cWm2 3B !o )hong cch cG thb c<n c+ ;o lin )*t !n
ho4c lin )*t !y !h2 H&n ch* trong lin )*t !G l cc cWm 'k tr thnh chu{i
'i 'o !G )hng !ibn h$nh cho '( li,u2 [4t )hc lin )*t !y !h !i )hi ;At
-u gii h&n cho 7hm72 tng )*t hA7 lin )*t gi(1 lin )*t !n ; lin )*t
!y !h cG thb th9c hi,n !Ac2 YJng cch gn !B !o cc !ibm trong cWm ;i
tr@ng s0 7hE hA72 Oh ;#y !B !o ;t1 gn !Ac gi trc cho tCt c cc !ibm
gi0ng nh )hong cch ;t1 gi( !Ac h$nh thi ch1 cWm '( li,u2 Vhng 7h7
D][ cG thb hon ton !Ac 'Eng nh mBt 7hm7 !o2
D][ l 7hng 7h7 7hn cWm theo cch ti*7 c#n m&ng nron 2`ect
tr@ng s0 ch1 m1 tr#n D][ ch>nh l tr@ng tm cWm ;i,c 7hn cWm cG thb cho )*t
-u t0t hn /Jng cch )*t hA7 cc !n ;c trong m1 tr#n !b t&o thnh cc cWm ln
hn2
TEng D][ nh mBt /c trung gi1n !b 7hn cWm !G l cch ti*7 c#n
gNm h1i m+c| l7 !u tin 7hn cWm t#7 '( li,u ; s1u !G 7hn cWm D][2 `i
m{i ;ect '( li,u ch1 t#7 '( li,u /1o l7 thuBc cEng mBt cWm cG mLu gn nG
nhCt2 [Bt u !ibm ch1 cch ti*7 c#n ny l gim thi gi1n t>nh ton !i%u ny 'k
dI
'ng 7hn /i,t !Ac ;i cc thu#t ton 7hn cWm )hc m !ibn h$nh l cy 7hn
cC7 th#m ch> ;i mBt lAng nh} cc ;> 'W /1o l7 cKng tr nn n4ng n%2 Sh>nh ;$
;#y cch ti*7 c#n ny l hon ton 7hE hA7 cho ;i,c 7hn cWm mBt t#7 cc mLu
hn l lm tr9c ti*7 trn t#7 '( li,u2
2.2.C. MQ[ b\R tRkn [Pr Wnm gRiR [PTx[ SOM
Bm[WP SOM
Y1tch D][ l mBt /i*n thb ch1 D][ nhng cG t0c !B nh1nh hn )b ; cG
>t th1m s0 !i%u ch:nh hn2
[4c 'E thu#t ton l )hc nh1u nhng ;% m4t )i*n tr6c ch1 /n !N th$ l&i
tng t9 nh1u2 Yn !N 7hW gNm cG !n;c /n !N um17 unitv !Ac s7 5*7 cG th+
t9 trn li2 Thng thng li ny cG h$nh ch( nh#t ; I chi%u ; !Ac 'ung
!b m t h$nh hG1 '( li,u2
TyzzF w[yTW[TyzS SOM
Tree j Dtructure' D][ l mBt 7hin /n !4c /i,t nh1nh ch1 D][2 OG gNm
t#7 cc l7 uU1yerv m{i l7 l mBt m+c lAng t hon ch:nh ch1 )hng gi1n '(
li,u2 D9 )hc /i,t gi(1 cc l7 l s0 lAng cc mLu t<ng theo hm mK tng t9
nh cy 7ht tribn hng 5u0ng2 `> 'W l7 !u tin ch: cG Q ;ector mLu l7 th+
I l 1d l7 th+ P l dQw2 Oh ;#y m{i ;ector mLu ch1 mBt l7 cG /0n l7 con
trong l7 )* ti*72 Sc l7 trn cEng !Ac s 'Wng trong ;i,c huCn luy,n l7 !i
s1u| Th1y ;$ so snh ;ector '( li,u nh#n !Ac ;i tCt c cc ;ector mLu gi s
ch1 l7 P !u tin nG so snh ;i c mLu cG trong l7 th+ nhCt s1u !G so snh
ti*7 ;i cc l7 con ch1 l7 chi*n thng th+ nhCt ; cc ln c#n ch1 l7 ny ;
c+ th* ti*7 tWc2 Sc )*t -u t>nh ton s0 )hong cch th$ gim mBt cch !ng )b
dP
!4c /i,t l trn cc l7 thC7 hn2 Ogoi r1 cc l7 !Ac thm ;o theo ttng l7
;$ ;#y /n !N '( li,u s !Ac chi ti*t 'n ln2
MSTFSOM
Trong m h$nh [DTjD][ cc m0i -u1n h, ln c#n !Ac 5c !cnh /Jng
cch 'ung cy cn /Jng t0i thibu u[DT [inim1l D71nning Treev2 [DT !cnh
nghx1 mBt cch gn g@n nhCt cG thb !Ac t#7 lin )*t ch1 t#7 ;ector2 Trong ;ector
lAng t hG1 [DTjD][ nh1nh ; =n !cnh hn D][ c /n2 H1y nGi cch )hc
;c tr> cc mLu trn mBt li cG s0 chi%u thC7 l )hng !Ac hon ton 5c !cnh
;$ ;#y ;i,c m t cKng s )hG )h<n hn2
NzTymq Gmww
Oeur1l l1ss cKng l mBt /i*n thb )hc ch1 D][ ;i cc ln c#n !Ac 5c
!cnh trong su0t -u tr$nh huCn luy,n2 Sc ln c#n !Ac 5c !cnh theo ;c tr> th+ t9
ch1 )hong cch cc ;ector mLu tt t#7 huCn luy,n gii thi*t2
GyVRng Czqq S[yTW[Tyzw
Trong thu#t ton lroring Sell Dtructures )h n<ng th>ch nghi !" !Ac
th9c hi,n ttng /c su hn2 Th1y cho ;i,c 7hi cG mBt s0 lAng c0 !cnh cc
;ector mLu thu#t ton ch: /t !u ;i I ; s1u !G thm ;o cc ;ector mLu tEy
thuBc ;o tiu chun hm /o l{i2 Sc ln c#n !Ac 5c !cnh t&i thi !ibm mBt
mLu mi !Ac thm ;o m&ng ; cc ;ector mLu cKng !Ac 5G1 !i2
CW gRiR [PTx[ Pmymqqzq SOM
HuCn luy,n m&ng neur1l theo m h$nh song song ho4c th9c hi,n ;i,c 7hn
chi1 m&ng theo s0 /B 5 l. unetror) 7ortioningv ho4c th9c hi,n theo hng 7hn
chi1 '( li,u !i -u1 /B 5 l. u'1t1 7ortioningv2 Trong m h$nh netror) 7ortioning
m{i /B 5 l. ho4c m{i tc ;W song song 7hi 5 l. tCt c cc /n ghi huCn luy,n
dQ
5 'Wng 7hn m&ng neur1l !Ac gt )*t tng +ng ;i nG2 Trong m h$nh '1t1
7ortioning m{i /B 5 l. l mBt /n s1o !y !h ch1 m&ng ch: s 'Wng cc /n ghi
!Ac gi !*n cho nG2
2.2.). MQ[ wc _ng S]ng Wnm SOM
Thu#t ton D][ !" !Ac s 'Wng trong nhi%u lxnh ;9c )hc nh1u ;i
nhi%u +ng 'Wng D][ !" )hng !cnh !Ac cc u !ibm s1u|
j D][ rCt cG hi,u -u trong -u tr$nh 7hn t>ch !ibm2 OG gi67 cho ngi
7hn t>ch hibu ;Cn !% hn trn mBt t#7 '( li,u tng !0i ln u/n ghi !ibm /Jng
e5cel ;i '( li,u hng tr<m sinh ;inv2
j SG )h n<ng /ibu 'ikn '( li,u !1 chi%u 'Eng trong tr$nh /y ; lm /o
co2
j yc !cnh cc cWm '( li,u u;> 'W cc nhGm !ibm trung /$nh v gi67 cho
;i,c t0i u 7hn nhGm s0 h@c sinh gi}i )h ; trung /$nh2
dR
CH/NG III0 GII B7I TON PH4N CM NH
BNG DNG M@NG OHONAN
3.1. B\R [Vn fPon W]a inP
3.1.1 GR}R [PR`T
[u sc l mBt lo&i '( li,u t9 nhin ; t#7 hA7 ch1 ch6ng t&o nn th* gii
m t1 -u1n st !Ac /Jng mt2 Trong -u tr$nh 7ht tribn cng ngh, con ngi
!" lin tWc m" hG1 ; s 'Wng mu sc trong my t>nh ngy mBt nhi%u hn2 Xhi
'( li,u !1 7hng ti,n /Eng n= th$ mu sc cKng theo !G tr thnh mBt lo&i '(
li,u 7h= /i*n ; thng 'Wng /#c nhCt trong )ho '( li,u ch1 con ngi2 Trong /i
ton ny ch: lCy ;> 'W minh h@1 ;% 7hn cWm mu sc cho )h n<ng ch1 m&ng
D][ cho s9 7hn lo&i '( li,u t9 nhin2 30i tAng m1ng cW thb cho lo&i '( li,u
ny l nh s02 [Bt lo&i '( li,u 7h= /i*n tt )hi my t>nh 7ht tribn ; !Nng hnh
cEng con ngi2
nh s0 l mBt m1 tr#n cc !ibm nh ; nh ;#y cc !0i tAng trong nh
s0 cKng s !Ac m t /i mBt t#7 cc !ibm nh2 `#y mu sc l mBt c s !n
gin gi67 ch6ng t1 cG thb 7hn cWm !Ac nh(ng !ibm nh ch1 cEng mBt !0i
tAng cG trn nh s02 ymt chi ti*t trn m{i !ibm nh uVi5elv l nh(ng )ibu '( li,u
!4c trng cho mu sc2 Trong nh nhc 7hn ch: cG I mu !en trng trong nh !1
cC7 5m cG IRd cC7 5m tng +ng ;i IRd mu trong nh !cnh '&ng thng
thng !Ac s 'Wng rBng r"i hi,n n1y m{i !ibm nh l s9 )*t hA7 ch1 P mu
e' lreen Ylue u!cnh '&ng lYv nh ;#y cG IRdIRdIRd1deeeI1d mu
sc )hc nh1u2 Ohi,m ;W !4t r1 l 7hn /i,t cc t#7 !ibm nh cEng mu ; ch: r1
s9 tng !Nng ;% mu sc gi(1 ch6ng2 3y l c s cho -u tr$nh nh#n '&ng cc
7hn ;Eng !0i tAng nh '91 theo mu sc ; ;i,c 7ht tribn ny hng ti )h
dd
n<ng 7hn cWm !0i tAng ; tch ch6ng r1 )h}i nh !b th9c hi,n -u tr$nh ti*7
theo l nh#n '&ng !0i tAng trn mBt m&ng nron )hc2
Trong nh mu thng tin ;% cc !0i tAng l !y !h ; mu sc l c s
chh y*u !b 7hn !cnh gi(1 cc !0i tAng2 `$ l. 'o !G m ;i,c 7hn lo&i cc !0i
tAng trn nh s '91 trn s9 /i*n thin ;% mu ch1 cc ;Eng !0i tAng2 Tt !G
!?i h}i mBt gii thu#t 5 l. !Ac nh(ng '( li,u mu sc ; 7hn lo&i ch6ng mBt
cc ch>nh 5c2 Tuy nhin ;i,c )*t hA7 ch1 P mu c /n l e' lreen Ylue l&i
t&o ; s0 mu sc )hc nh1u2 3y l nguyn nhn cho ;i,c +ng 'Wng m&ng D][
;o ;i,c 7hn cWm '( li,u trn nh s0 m&ng ny cG )h n<ng 5c !cnh nh(ng
m0i -u1n h, gi(1 nh(ng !ibm nh ; 7hn ch6ng ;o nh(ng nhGm hA7 l.2
3%1%2% LM( cho phn cm Nnh
TPRk[ lk agng
[&ng D][ gNm I l7 nron| mBt l7 !u ;o ; mBt l7 Xohonen2 [{i
mBt nron !Ac thi*t )* ;i mWc !>ch 7hn cWm '( li,u trn nh s0 ; !n ;c
cho cc !u ;o l cc !ibm nh !cnh '&ng lY2 `$ ;#y m{i nron s !Ac
thi*t )* mBt tr@ng s0 m t gi trc mu !ibm nh truy%n ;o gNm P tr@ng s0 )ibu
/yte m t e' lreen Ylue2
`i,c )hi t&o m&ng D][ !Ac th9c hi,n )hi t&o ngLu nhin cho m{i
nron2 Xhi !Ac )hi t&o m&ng s l mBt t#7 hA7 ch1 rCt nhi%u mu sc ; ch6ng
ch1 !Ac 7hn thnh cc nhGm2 lii thu#t huCn luy,n m&ng cG thb !Ac chi1
thnh I 7hng 7h7|
j HuCn luy,n ngLu nhin| T&o mBt t#7 '( li,u ngLu nhin ; cho m&ng t9
h@c2 Vhng 7h7 ny t&o r1 mBt m&ng cG )h n<ng 7hn /i,t hu h*t cc
mu sc t#7 cc nhGm mu sc ny s /i*n thin trong )hong mu nh$n
de
thCy !Ac ch1 cong ngi2 Tuy nhin )hi +ng 'Wng m&ng huCn luy,n )ibu
ny ;o mBt /+c nh cW thb ch1 thu !Ac )*t -u nh mong !Ai2
j HuCn luy,n cG chh !>ch| Xhi s 'Wng m&ng !b 7hn lo&i '( li,u trn mBt
/+c nh !cnh sn !b !&t hi,u -u c1o hn trong -u tr$nh 7hn cWm t1 s
'Wng ch>nh nh(ng !ibm nh cG sn trong /+c nh !u ;o lm t#7 huCn
luy,n2 Xhi !G m&ng !Ac huCn luy,n s chuyn 7hn cWm nh(ng !ibm nh
trn nh !u ;o ho4c nh(ng /+c nh cG cCu h$nh tng t92
`$ m&ng l t9 h@c nn t1 )hng cn gim st trong -u tr$nh h@c ch1 m&ng ;
thu#t ton huCn luy,n !Ac !cnh sn cho mWc !>ch s 'Wng m&ng2
TPTx[ [Vn PXW agng
Thu#t ton h@c D][ !Ac chi1 lm R /c c /n nh s1u|
Yc 1| yc !cnh cCu h$nh m&ng ; cc th1m s02
Yc I| Xhi t&o ngLu nhin tr@ng s0 ch1 cc nron l7 Xohonen
fFp #i
Yc P| 3@c mLu h@c v !1 ;o l7 ;o2
Yc Q| T$m nron chi*n thng uY[Zv
trong l7 Xohonen ugn ;i mLu h@c v nhCtv
Yc R| S#7 nh#t tr@ng s0 cc nron nJm
trong /n )>nh ln c#n ;i Y[Z2
Ch6 ,In /hi th}1 m"n !i%u )i,n 'tng2
Cc ,i3m c+n #$ g t56ng th$1t t6n hcY
aX KhSi t6 cc tham s-Y D][ /c nh hng rCt nhi%u /i -u tr$nh l91 ch@n cc
th1m s0 ch1 m&ng2 Sc th1m s0 ny /1o gNm| )>ch thc ch1 /n !N
^hi!thiH[ightX s0 ln l< 7 ^NX /n )>nh )hi t&o ^j
%
X gi trc )hi t&o cho t0c !B
df
h@c ^f
%
X2 Th9c t* )hng cG m t hng 'Ln cW thb cho ;i c l91 ch@n cc th1m s0
ny +ng ;i cc /i ton 7 'Wng D][ 'o ;#y ;i,c th s1i ^t5ia# an! [5565X
l cn thi*t nhJm 5c !cnh t 7 cc gi trc th>ch hA7 +ng ;i t 7 '( li u !u ;o2
?X kc ,lnh m&aY 3b ch@n Y[Z s 'Wng mBt trong /1 hm )hong cch l
ucli'i1n uthng 'Engv [1nh1tt1n ; `ector Tot Vro'uct2
Tuy,t tCt c cc n6t ; t>nh )hong cch ucli'e ^TistX gi(1 ;ector tr@ng s0 ^nX
ch1 m{i n6t ; ;ector nh#7 hi,n hnh ^vX2 O6t cG ;ector tr@ng s0 gn nhCt ;i gi
trc ch1 ;ector nh#7 s !Ac ch@n l Y[Z2
uQ21v
cX kc ,lnh ?n /4nh #n c1n v c1p nh1t t5ng s- cc nE56n #n c1n c(a m&aY
Tr@ng s0 ch1 7hn t ln c#n !Ac 5c !cnh /c trn /1o gNm c Y[Z
s !Ac !i%u ch:nh !b ch6ng cG gi trc gn gi0ng ;i gi trc ch1 ;ector nh#7 hn2
Vhn t cng gn Y[Z th$ tr@ng s0 ch1 nG s cng 'k /c th1y !=i nhi%u hn2 Sc
;ector tr@ng s0 s !Ac t>nh theo cng th+c|
I Et 1I I EtI EtIJEtIEK EtI I EtII uQ2Iv
utv| Hm nBi suy theo thi gi1n h@c nG thb hi,n s9 tc !Bng ch1 )hong
cch !0i ;i -u tr$nh h@c ; !Ac t>nh theo cng th+c s1u|
uQ2Pv
'ist| Xhong cch tt mBt nron !*n nron chi*n thng
t| Yc l47 hi,n t&i
dg
U| T0c !B h@c us gim 'n theo s0 ln l47v
j Yibu th+c trn cho thCy tr@ng s0 ch1 m{i n6t s1u )hi hi,u ch:nh ch>nh l
gi trc tr@ng s0 cK q ch1 nG cBng thm 7hn gi trc )hc /i,t gi(1 tr@ng s0 q ;
;ector nh#7 ` theo h, s0 t0c !B h@c
j Hm nBi suy t0c !B h@c U utv cho m{i /c l47 !Ac t>nh theo cng th+c
s1u|
uQ2Qv
U
i
| gi trc )hi t&o /1n !u ch1 t0c !B h@c2
j Sng ti*n gn ;% !ibm gi(1 th$ t0c !B h@c cng gi0ng ;i hm mK nBi
suy ch1 7hm7 co2 T0c !B h@c s !Ac nBi suy 'n theo t0c !B h@c ; gi trc ch1
hm s ti*n 'n ;% )hng )hi s0 ln l47 !&t ti nh(ng /c cu0i cEng2
!X i$ /in !ongY SG thb '91 trn s0 ln l47 h1y s0 mLu h@c h1y !B cn /Jng
ch1 m&ng ucc tr@ng s0 th1y !=i 'i mBt ng8ng nhCt !cnhv2
3.2 GR}R [PR`T avR [ydng W\R Y[
Vhn c+ng| [Bt my t>nh Ventium ` tr ln2
S1r' !N h@1 R1I[Y2
c+ng 1lY2
Vhn m%m| Shng tr$nh !Ac ci !4t trn ngn ng( l#7 tr$nh S ch1
[icroso^t

ei
3.3. C\R Y[ b\ w S]ng
3.3.1. C\R Y[
HOnP 3.1. GRiR nn Rqz PHANC#MANH.ymy b\ a Rqz
wz[TfPHANC#MANH
e1
eI
HOnP 3.2. SmT Y b\V DztTg b\ W\R Y[ Rqz wz[Tf.z{z
eP
eQ
HOnP 3.3. B[ Y~T uT [yOnP W\R Y[
eR
HOnP 3.C.CqVwz Yr Pm [[ uT [yOnP W\R Y[
HOnP 3.).CPdhng [yOnP Y W\R Y[ {Vng b\ Rqz WPgj WPdhng [yOnP na [yn
a\n POnP Szw[Vf RnSVwGVyawAffqRWm[RVn1.z{z
ed
3.3.2. S S]ng
HOnP 3.>. GRmV SR`n Wnm WPdhng [yOnP
ee
HOnP 3...NPn n[ WPXn inP Yr fPon W]a inP YdeW WPXn
HOnP 3.M. k[ uTi fPon W]a inP bm WPXn
ef
HOnP 3.?. PPon W]a inP ngT nPRn b}R Ngmng 26$ SXW 36 b\ ngdng q\ )6
eg
HOnP 3.16. TyQn a\T inP EinP WPXn ngT nPRnI
fi
3.C. Hgn WPk Wnm gRiR [PTx[ SOM lPR f S]ng fPon W]a a\T [yn inP
3.C.1. Hgn WPk
XhG )h<n th+ nhCt l ;i,c 7ht hi,n s0 lAng ; /in cWm theo nBi 'ung
ch1 nh| n*u 7 'Wng thu#t ton t>ch tW cn /i*t trc s0 cWm cn h$nh thnh c?n
7 'Wng thu#t ton lo1ng thng thCt /&i 'o )hG 5c !cnh !Ac r1nh gii ch>nh
5c gi(1 cc cWm )hi cc !ibm mu trn nh cG s9 /i*n thin nh}2
XhG )h<n th+ h1i l t0c !B hBi tW ch1 gii thu#t ch#m 'o )h0i lAng t>nh
ton ln2 ymt mBt m&ng D][ ;i )>ch thc Ii5Pidii nron !B 7hn gii ch1
/+c nh !u ;o !Ac t>nh /Jng !n ;c meg17i5el t+c l cG ti hng tri,u !ibm
nh2 Oh ;#y ring trong -u tr$nh huCn luy,n ;i,c t$m Y[Z !" 7hi 'uy,t -u1
)hong dii tri,u ln cc nron2 Ogoi r1 cc thu#t ton !b h$nh thnh cWm cKng
!?i h}i s0 ln l47 tng !0i ln2
3b )hc 7hWc h1i h&n ch* !G cn mBt gii 7h7 h$nh thnh cWm 7hE hA7 ; t<ng
t0c !B gii thu#t2
3.C.2. Hd}ng lPW fP]W Pgn WPk Wnm SOM
au1 -u tr$nh )hi nghin c+u cc 7hng 7h7 7hn chi1 nhom trn cc
m&ng D][ !" !Ac huCn luy,n cG thb ch: r1 mBt s0 !4c !ibm ch1 m&ng D][
s1u )hi huCn luy,n nh s1u|
j Sc nron trong l7 Xohonen /i*n !=i lin tWc ; r1nh gii gi(1 cc cWm
/i*n thin lin tWc2 `$ ;#y m gi(1 cc nhGm h$nh thnh nh(ng r1nh gii
)hng rM rng rCt )hG )h<n cho -u tr$nh 7hn nhGm cc nron2
j `i,c 5c !cnh !u l nhGm mi ; rnh gii gi(1 I nhGm )hng cG mBt
chun no c 'Ln !*n t$nh tr&ng h{n t&7 gi(1 cc nhGm2
f1
j Xhng thb 5c !cnh !u l trung tm mBt nhGm h1y !4c trng ring cG ch1
nhGm !Cy )hi ch1 7hn cWm2
`$ nh(ng nguyn nhn trn m mBt gii 7h7 7hn cWm cc nhGm l !i%u ;
cEng )hG )h<n m nguyn nhn tr9c ti*7 l r1nh gii gi(1 cc nhGm l rCt m
nh&t2 `$ ;#y !?i h}i mBt gii 7h7 mi2 D1u )hi nghin c+u ti*n hnh ci !4t
huCn luy,n m&ng D][ cG thb thCy trong -u tr$nh huCn luy,n m&ng ;% /n chCt
ch>nh l -u tr$nh h$nh thnh ln cc nhGm2 Sh>nh ;$ ;#y mBt 7hng 7h7 7hn
chi1 nhGm ng1y tt trong -u tr$nh huCn luy,n l mBt gii 7h7 hA7 l.2
Vhng 7h7
[&ng !Ac h$nh thnh ; huCn luy,n tt nh(ng Oron chi*n thng ; cc
nhGm s !Ac 7hn chi1 trong -u tr$nh ny2 Oh ;#y cc nhGm s !Ac h$nh
thnh ; m1ng !4c !ibm ch1 cc nron chi*n thng2
T91 ;o t>nh chCt t1 cG thb 7hn chi1 nhGm theo mBt gii thu#t !Ac !b r1
theo nguyn tc c /n !0i ;i nh(ng nron /c tc !Bng /i nron chi*n thng
t&i mBt /c trong -u trinh huCn luy,n nh s1u|
j `i cc nron /c tc !Bng )hi ch6ng ch1 thuBc mBt nhGm no s h$nh
thnh mBt nhGm mi m1ng !4c t>nh ch1 nron chi*n thng2
j `i nh(ng nron /c tc !Bng !" thuBc mBt nhGm nhCt !cnh )hi nhGm !G
)hng !Nng nhCt ;i nron chi*n thng s 5y r1 -u tr$nh tr1nh chC7 gi(1
cc nhGm2
j `i nh(ng !@ 7hn ly -u ln gi(1 n ron chi*n thng ; nhGm cK ;At
-u1 mBt ng8ng no !G s 5y r1 -u tr$nh sinh mBt nhGm mi2
Oh ;#y 7hng 7h7 !% r1 th9c chCt l -u tr$nh h$nh thnh nhGm 7hn ly
nhGm ; tr1nh chC7 nron gi(1 cc nhGm2 `i mBt 7ht /ibu t=ng -ut hn t1 cG
thb h$nh 'ung -u tr$nh ny mBt cch 'k hibu hn nh s1u|
fI
p Ng$*'n tPc h<nh thnh v c(ng c- nh>m
Xhi mBt nron chi*n thng !Ac 5c !cnh n*u nG )hng thuBc mBt nhGm
no s h$nh thnh mBt nhGm mi ; th9c hi,n -u tr$nh tr1nh chC7 nron cho
nhGm !G2 O*u nG thuBc mBt nhGm !" tNn t&i s cG s9 7hn ly ho4c chng c0
nhGm2
p Ng$*'n tPc phn #i nh>m
Xhi mBt nron chi*n thng 5c !cnh th}1 m"n !i%u )i,n 7hn li u)hong
cch ch1 nron chi*n thng ;i !4c trng ch1 nhGm l -u ln ;At -u1 ng8ng
7hn lyv s h$nh thnh mBt nhGm mi m1ng !4c t>nh nron ny ; tr1nh chC7
nron ;i nhGm cK2
Ng$*'n tPc c(ng c- nh>m
Xhi mBt nron chi*n thng )hng th}1 m"n !i%u )i,n 7hn ly s chng c0
!4c trng nhGm theo nron !G2 3Nng thi tr1nh chC7 nron ;i cc nhGm gn !G
theo nguyn tc tr1nh chC72
p Ng$*'n tPc t5anh ch8p NE56n gi"a cc nh>m
Xhi mBt nron nJm trong ;Eng gi1o gi(1 cc nhGm ; 5y r1 -u tr$nh
tr1nh chC7 nron gi(1 cc nhGm2 Xhi !G s t>nh )hong cch tt nron !G ti cc
nhGm theo !4c trng nhGm2 Xhong cch no ngn nhCt nron s thuBc ;% nhGm
!G2
fP
'T L#<N &7 H/DNG PHT T=INN
[&ng nron l mBt lxnh ;9c nghin c+u tng !0i rBng ; !?i h}i nhi%u
cng s+c ; n{ l9c trong -u tr$nh nghin c+u2 Yn c&nh !G ;i,c ci !4t ; +ng
'Wng m&ng nron g47 nhi%u )hG )h<n 'o !B 7h+c t&7 tng !0i c1o ch1 gii
thu#t2 `$ l> 'o !G trong )hun )h= !N n ch: hng ti m&ng nron 'Eng !b 7hn
cWm '( li,u nh l m&ng D][ !b nghin c+u ; 7ht tribn2 Th9c t* !" ch+ng
minh m&ng D][ cG rCt nhi%u +ng 'Wng ; ;i,c nghin c+u )h1i thc m&ng ny
s !em l&i nhi%u )*t -u th9c tikn2
1. f$1n vqn ,r th9c hin ,sc /It B$L sa$Y
j lii thi,u t=ng -u1n ;% cc 7hng 7h7 7hn cWm '( li,u2
j Tr$nh /y mBt cch t=ng -ut ;% m h$nh m&ng nron ; +ng 'Wng
m&ng nron trong )h1i 7h '( li,u2 Tr$nh /y mBt cch h, th0ng cc gii 7h7
h@c m&ng nron )hng gim st ; cG gim st2
j Oghin c+u 7hn t>ch ;i,c s 'Wng thu#t ton D][ gii -uy*t /i ton
7hn cWm mu nh theo m h$nh m&ng nron2
j yy '9ng !Ac chng tr$nh 7hn cWm nh ;i nh !u ;o cG )>ch
thc Qi5Qi1dii nron2 [{i nron cG ch+1 mBt ;ector tr@ng s0 tng +ng ;i
gi trc lY ch1 nG2 Tr@ng s0 nron !Ac )hi t&o ngLu nhin2 D1u )hi th9c hi,n
7hn cWm s 'Wng thu#t ton D][2
2. Hn chI
Vhn cWm '( li,u ; +ng 'Wng m&ng nron ;o 7hn cWm '( li,u l hng
nghin c+u cn thi*t ; -u1n tr@ng2 Tuy nhin !y cKng l mBt mng rCt rBng
/1o hm nhi%u 7hng 7h7 ) thu#t ; h$nh thnh nhi%u nhGm )hc nh1u2
Trong -u tr$nh nghin c+u th9c hi,n lu#n ;<n m4c 'E !" c0 gng t#7
trung nghin c+u ; th1m )ho nhi%u ti li,u /i /o t&7 ch> )ho1 h@c trong ;
fQ
ngoi nc nhng 'o tr$nh !B c?n cG nhi%u gii h&n )hng thb trnh )h}i thi*u
sGt ; h&n ch*2 m rCt mong !Ac s9 ch: /o !Gng gG7 nhi%u hn n(1 ch1 cc
thy c gio !Nng nghi,7 cc nh )ho1 h@cw
). H.ng pht t5i3n
j Ti*7 tWc nghin c+u thm ;% l. thuy*t ;% 7hn cWm '( li,u m&ng nron2
j yy '9ng 7ht tribn thm cc ) thu#t +ng 'Wng ch1 Vhn cWm
'( li,u +ng 'Wng ch1 m&ng nron trong 7hn cWm '( li,u nGi ring ; trong cc
lxnh ;9c )hc2
fR
T7I LI"# THAM HO
TRkng &R`[
1 VlD2TD2 U Y TKng Yi ging c1o h@c &ng nEt56n v Mng !ng
3HSOTT ; TT 3&i H@c Thi Oguyn2
I 3{ Vh6c gi6 t5<nh /hai thc !" #i$u OyY 3&i h@c -u0c gi1 TV HS[IiiR2
P Ts2 Oguykn Tr@ng Vh6c 3&i h@c li1o thng ;#n ti & h<nh phn #.p ]C&
t56ng phn ,6n Lnh v th$1t t6n TCc.
Q YEi Sng Sng ; Oguykn To"n Vhc H mCu mng nE56n v Mng !ng
OyY Xho1 h@c ; X thu#t Iiid
R VlD2TD 3{ O<ng Ton TD Vh&m `i,t Y$nh Ni6 t5<nh QO #g Lnh Iiie2
d Ts2 Oguykn 3$nh Th6c @54 t$ nhn t6 t &ng nE56n t :hEng php v
Mng !ng OyY lio 'Wc Iiii2
TRkng AnP
e \2X2 1in 2S2 Tu/es vc#g65ithms Z65 c#$st[5ing !ataw Vtentice H1ll
ngleroo' Sli^^s O 1gff2
f 2 H1n [2 X1m/er Tata &ining C6nc[pts an! @[chniB$[s [org1n
X1u^m1nn Vu/lishers Iii12
g D2 O1scimento Y2 [ir)in 1n' s2 [our1jVires c ]$WW* C#$st[5ing &6![# 6Z
Tata an! ]$WW* c_&[ans
1i q2Ve'ryc_ vc#g65ithms 6Z Z$WW* c#$st[5ing nith pa5tia# s$p[5visi6nw
V1ttern ecognition ;ol2 IP 7721I1j1Qd 1ggi2