Perceptron đơn và 1 lớp

1. Mạng Perceptron đơn.

2. Mạng Perceptron 1 lớp
Mạng Perceptron đơn
 Mô hình neuron
 Kiến trúc mạng Perceptron
 Quy tắc học Perceptron
 Mô hình một neuron
x1
w1,1

x2 w1,2
.
.
w1,R
∑
n
f a

.
xR b 1 n0
a  f (n)  hard lim(n)  
a 1 0 n0
1

n  x1.w1,1  x2 .w1, 2  ...  xR .w1, R  b

0 n
R

-1  n   xi .w1,i  b
i 1
Perceptron (tiếp)
Perceptron phân lớp đầu vào thành 2 vùng như hình
vẽ.
Ví dụ minh họa
x1 x1 x2 x1 AND x2
0 0 0
W 0 1 0
1
1 1 0 0
1 1 1
0 1 x2
n = W.x + b
n= w1.x1 + w2.x2 + b
w1=2  2
x1 n W  
∑ f a
 2

x2
W2=2
b=-3
b  3
1
• Kiểm tra lại mô hình: n= W.X+b= w1.x1 + w2.x2 + b
w1=2, w2=2, b = -3
=> n= 2.x1 + 2.x2 - 3
x1=0
x2=1
n= 2*0+2*1-3= -1, hardlim(n) = 0 => x 1 AND x2 = 0

x1=1
x2=1
n= 2*1+2*1-3= 1, hardlim(n) = 1>0 => x 1 AND x2 = 1
Quy tắc học Perceptron

t
e
a

x0
0
 e t a
 Δw = e.XT

W new
W old
 W  W old
 e.x T

 Δb=e.1=e

b new
b old
 b  b old
e
 Quá trình học
Khởi tạo W,b
Lặp 1:
- Xác định a1=f(n1)=f(W.X1+b)
Nếu a1=t1: mạng nhận dạng đúng, không phải cập nhật W,b
Nếu a1t1: mạng nhận dạng sai, cập nhật lại W,b theo công thức
- Tương tự với các mẫu Xi còn lại
Lặp 2:
…
Lặp n: mạng nhận dạng đúng với tất cả phần tử của dữ liệu mẫu
 Ví dụ perceptron
ST Cân Độ Lớp(t)
T nặng(x1) chín(x2)
1 1 1 0(Xanh)
2 8 3 0(Xanh)
3 2 7 1(Chín)
4 8 8 1(Chín)
5 9 9 1(Chín)
6 9 2 ??
Quá trình học
W=[0 1]
b=-2
Test:
Sử dụng bộ trọng số W,b được cập nhật lần cuối cùng
W=[-7 9]
b=-3
a6=…..=0 (xanh)
 Kiến trúc mạng Perceptron
Mạng Perceptron có 1 lớp gồm S Perceptron neurons kết
nối với R đầu vào thống qua tập trọng số wi,j.

w1,1 n1 R
∑ f ni   wi , j .x j  bi
x1 a1
w2,1
wS,1 b1
j 1
x2 n2
∑ f a2
. . . ai  f (ni )
b2
.w1,R . .
. w2,R . . i  1, 2, ..., S
xR wS,R nS
∑ f aS
bS
Ký hiệu
 w1,1 w1, 2  w1, R   b1 
w w2, 2  w2, R  b2 
W  b 
2 ,1

      ... 
  bS 
 wS ,1 wS , 2  wS , R 

 x1   t1   a1 
 x2  t 2   a2 
X   t  a 
...  ...  ... 
 xR  t S  aS 
Thiết kế và huấn luyện
mạng perceptron 1 lớp
STT Cân nặng Độ chín Loại
1 1 1 Nhỏ, xanh
2 2 2 Nhỏ, xanh
3 8 1 To, xanh
4 9 3 To, xanh
5 2 7 Nhỏ, chín
6 3 8 Nhỏ, chín
7 8 8 To, chín
8 9 9 To, chín
9 9 2 ????
Thiết kế mạng
Có bao nhiêu noron?
Nhãn “Loại” là gì?
 w1,1 a1
x1 ∑ n1
f
w2,1
b1
w1,2 1
w2,2
x2 ∑ n2
f a2

b2
1

 w1,1 w1, 2   b1 
W  b 
 w2,1 w2, 2  b2 

 x1   t1   a1 
X   t  a 
 x2  t 2   a2 
Thiết kế mạng perceptron 1 lớp
ST Cân Độ Loại Lớp
T nặng(x1) chín(x2)
1 1 1 Nhỏ, xanh 00
2 2 2 Nhỏ, xanh 00
3 8 1 To, xanh 10
4 9 3 To, xanh 10
5 2 7 Nhỏ, chín 01
6 3 8 Nhỏ, chín 01
7 8 8 To, chín 11
8 9 9 To, chín 11
9 9 2 ???? ???
 w1,1 a1
x1 ∑ n1
f
w2,1
b1
w1,2 1
w2,2
x2 ∑ n2
f a2

b2
1

1 0   6
W  b 
2 8   9
 Lần lặp 1
1
  
0 

X  t
   
   
1 1 





1 0 






1 0 1 6  1   6 5 0

        

a  f (w.X b)  f ( .    )  f (  )  f ( )   


      
1 1 
2 8 1 9

 10
 
9
  

 1 

1
 

0 0  0 
     

e  t  a         
1 1 1 0 1 1
Lần lặp 1
Tương tự với X2, X3,…..,X8

Lần Lặp 2:
…..