Cho hàm số J ( w )=w 4−5 w3 +3 w2 +5 w .

1. Sử dụng thuật toán tối ưu Gradient Descent, tính toán các giá trị w mới, với
w [ 0 ] =−1.40 , α=0.01. (Vẽ lên đồ thị các giá trị J ( w ) ứng với w [ 0 ] , w [ 4 ] , w [ 8 ] , w [ 12 ]
nếu có thể).
2. Giá trị J ( w ) tìm được có phải là giá trị tối ưu không? Tại sao?
3. Nếu tiếp tục tính các giá trị w mới có tìm được giá trị tối ưu không? Tại sao?
4. Phương án để tìm được giá trị tối ưu.
Lưu ý: Làm tròn 2 chữ số phần thập phân các giá trị w và J ( w ).
w [ 0 ] =−1.40 , J ( w [ 0 ] )=16.44 w [ 8 ] =−0.47 , J ( w [ 8 ] )=−1.11
w [ 1 ] =−0.96 , J ( w [ 1 ] )=3.28 w [ 9 ] =−0.45 , J ( w [ 9 ] )=−1.14
w [ 2 ] =−0.78 , J ( w [ 2 ] ) =0.67 w [ 10 ]=−0.44 , J ( w [ 10 ] )=−1.15
w [ 3 ]=−0.67 , J ( w [ 3 ] )=−0.28 w [ 11 ] =−0.43 , J ( w [ 11 ] )=−1.16
w [ 4 ] =−0.6 , J ( w [ 4 ] ) =−0.7 w [ 12 ] =−0.42, J ( w [ 12 ] )=−1.17
w [ 5 ]=−0.55 , J ( w [ 5 ] ) =−0.9 w [ 13 ]=−0.42 , J ( w [ 13 ] ) =−1.17
w [ 6 ] =−0.52 , J ( w [ 6 ] )=−1.02 w [ 14 ] =−0.41 , J ( w [ 14 ] )=−1.17
w [ 7 ] =−0.49 , J ( w [ 7 ] )=−1.08
2. Giá trị J(w) tìm được không phải giá trị tối ưu vì vẫn có thể tìm được các giá trị tối
ưu khác và các giá trị này vẫn chỉ là local minimum
3. Nếu tiếp tục tính thì J(w) có thể có có thể không phải là giá trị tối ưu vì có thể nó
sẽ vào các giá trị local minimum và tốc độ học
α=0.01 có thể không đủ để vượt qua dốc local minimum
4. Phương án:
Thêm bước đà cho việc tối ưu giúp cho việc tối ưu nhanh hơn cũng như có thẻ vượt
qua được một số điểm local minimum