Chapter 1 Introduction

HỌC MÁY – MACHINE
ng
yi
LEARNING
op
INTRODUCTION
C
o Thông tin giảng viên
Ts. Võ Như Thành
Bộ môn Cơ điện tử
N
Khoa Cơ khí
Email: vnthanh@dut.udn.vn
Tel 0903532083
1
Mục tiêu học phần
ng
• Tổng quan về điều khiển thông minh và máy học
• Các phương pháp học máy
• Cấu trúc của ANN (Artificial Neural Network)
yi
• Các giải thuật huấn luyện ANN
op
• Một số ứng dụng của ANN (sử dụng MATLAB thực hiện)
Tham khảo:
C
1. Võ Như Thành, Slide học máy, ĐHBK, ĐHĐN 2022.
2. PGS. TSKH Trần Hoài Linh, Mạng neuron và ứng dụng trong xử lý tín hiệu số - Nhà xuất
bản Bách Khoa, o
3. Nguyễn Đình Thúc, Mạng nơ-ron – Phương pháp và ứng dụng, NXBGD, 2000.
4. Simon Haykin, Neural Networks a comprehensive foundation, Prentice Hall, 1999.
N
5. Howard Demuth, Mark Beale and Martin Hagan, Neural Networks toolbox 5 –
User‘s Guide, The Matworks Inc., 2007.
2
Tổ chức và lịch trình môn học
ng
Thời lượng môn học: 2TC
2 TC lý thuyết và bài tập trên lớp
Lịch học (dự kiến – có thể thay đổi cho phù hợp):
yi
• Tuần 1: Chương 1
op
• Tuần 2 – 7: Chương 2-4 + Bài tập và thảo luận
• Tuần 8: Thi giữa kỳ
• Tuần 9 – 12: Chương 5-7
C
• Tuần 13-15: Báo cáo thuyết trình theo nhóm
• Tuần 16: Dự trữ (báo cáo)- ôn tập thi cuối kỳ
Đánh giá
o
N
􀂄 Quá trình: 20%
􀂄 Giữa kỳ: 30%
􀂄 Thi hết môn: 50% = Thuyết trình 20% + Thi cuối kỳ 30%
3
Tổ chức và lịch trình môn học
ng
• Introduction
• Mathematic basic
yi
• Feature Extraction
• Regression
op
• Gradient Descent Optimization
• Classification
C
• Clustering
• Neural Network
o
• ANN-CNN-DNN-RNN -> Guess what is this?
N
4
Faculty of Mechanical Engineer
Vo Nhu Thanh, Ph.D, Senior lecturer
Nhắc lại về các tình huống điều khiển động cơ
ng
Tín hiệu đến 2000rpm – có dao động và từ từ điều
chỉnh về lại trạng thái 2000 rpm – có thể không bao giờ
đạt chính xác 2000 rpm – đáp ứng chậm
yi
op
Tín hiệu đến 2500rpm –và từ từ điều chỉnh về lại
trạng thái 2000 rpm – có thể không bao giờ đạt
chính xác 2000 rpm – đáp ứng nhanh -> hợp lý
C
o Tín hiệu đến 3000rpm –và từ từ điều chỉnh về lại trạng
thái 1500 rpm, tăng lên quá 2000rpm và tư từ điều
N
chỉnh về 2000 rpm – đáp ứng nhanh -> nhưng dao
động quá nhiều -> có thể gây hỏng động cơ
5
• Điều khiển tín hiệu vào cũng quan trọng như thiết kế bộ
ng
điều khiển.
• Bộ điều khiển vòng lặp có những ưu điểm sau so với bộ điều khiển
yi
vòng mở (nhắc lại):
op
• Loại bỏ nhiễu(như ma sát không được đo trong động cơ)
• Hiệu suất được đảm bảo ngay cả với mô hình có tính không chắc
C
chắn, khi cấu trúc mô hình không khớp hoàn hảo với quy trình thực
và các tham số mô hình không chính xác (do mô phỏng hoặc tính
o
toán).
• Quá trình không ổn định có thể được điều chỉnh lại để ổn định
N
• Giảm độ nhạy với các biến thể tham số
• Cải thiện hiệu suất 6
• Lý thuyết điều khiển cổ điển:
ng
Các kỹ thuật điều khiển cổ điển có thể được chia thành các kỹ thuật
miền tần số và kỹ thuật miền thời gian. Các kỹ thuật Miền tần số là một bộ
yi
công cụ phân tích và thiết kế bao gồm QĐNS - Root Locus, Vị trí cực, biểu
đồ Bode và Nyquist.
op
- Phương trình không gian trạng thái - là phần duy nhất của điều khiển
C
Cổ điển được thực hiện trong Miền Thời gian.
- Các hạn chế của Điều khiển cổ điển là: Giả sử rằng hệ thống cần kiểm
o
soát là một hệ thống tuyến tính; mô hình (hàm truyền của hệ thống)
N
cần được thiết lập ra cũng như điều kiện ban đầu phải bằng 0
7
• Lý thuyết điều khiển hiện đại:
ng
- Lý thuyết điều khiển hiện đại sử dụng biểu diễn không gian trạng thái miền thời gian, một mô
hình toán học của một hệ vật lý như một tập hợp các biến đầu vào, đầu ra và trạng thái liên
quan theo phương trình vi phân bậc nhất .
yi
- Để trừu tượng từ số lượng đầu vào, đầu ra và trạng thái, các biến được biểu thị dưới dạng
op
vectơ và phương trình vi phân và đại số được viết dưới dạng ma trận (chỉ có thể có sau khi hệ
động lực là tuyến tính).
C
- Biểu diễn không gian trạng thái (còn được gọi là "cách tiếp cận miền thời gian") thuận tiện để
mô hình hóa và phân tích các hệ thống với nhiều đầu vào và đầu ra...
o
- Sử dụng biểu diễn không gian trạng thái không giới hạn ở các hệ thống có thành phần tuyến
tính và điều kiện ban đầu bằng không. "Không gian trạng thái" dùng để chỉ không gian có trục là
N
các biến trạng thái. Trạng thái của hệ thống có thể được biểu diễn dưới dạng một vectơ trong
không gian đó.
8
• Lý thuyết điều khiển thông minh:

- Điều khiển thông minh là một lớp các kỹ thuật điều khiển, sử dụng các phương
ng
pháp điện toán thông minh nhân tạo khác nhau như mạng thần kinh (neural
network), xác suất Bayes (Bayesian probability), logic mờ (Fuzzy), học máy
yi
(Machine learning), tính toán tiến hóa (Evolutionary computation) và thuật toán di
op
truyền (Genetic algorithms)...
- Điều khiển thông minh không chỉ giới hạn ở những phương pháp đó. Trên thực tế,
C
theo một số định nghĩa về điều khiển thông minh thì có những vấn đề về kiểm
soát mà không thể được xây dựng và nghiên cứu trong khung toán học thông
o
thường bằng các phương trình vi phân/sai phân. Để giải quyết những vấn đề mà
N
không dùng các phương trình toán học thì một số phương pháp đã được phát triển
được gọi chung là phương pháp điều khiển thông minh.
9
ng
- Lĩnh vực điều khiển thông minh trên thực tế là liên ngành, và nó cố gắng kết
hợp và mở rộng các lý thuyết và phương pháp từ các lĩnh vực như điều khiển ,
yi
khoa học máy tính và nghiên cứu hoạt động có liên quan để đạt được các mục
tiêu kiểm soát trong các hệ thống phức tạp.
op
- Trong các vấn đề điều khiển thông minh, có thể không có sự tách biệt rõ ràng
C
giữa hệ thống và bộ điều khiển; các luật kiểm soát có thể được áp dụng và là
một phần của hệ thống được kiểm soát.
o
- Điều này mở ra những cơ hội và thách thức mới vì việc thiết kế các hệ thống
N
này phức tạp hơn và đa dạng hơn.
10
ng
- Mục tiêu: Hệ thống điều khiển hoạt động giống như mong muốn
- Hệ thống: Phức tạp, không chắc chắn và phi tuyến và không thể
yi
rút ra các phương trình toán học
op
- Chiến lược kiểm soát: Tính toán giá trị gia tăng cho bước tiếp
theo giúp hệ thống đạt được mục tiêu mong muốn (dự đoán)
C
- Phương pháp điều khiển: Điều khiển thông minh sử dụng trí tuệ
o
thông minh nhân tạo mà không cần quan tâm đến mô hình toán
N
học của hệ thống.
11
Tổng quan trí tuệ nhân tạo
ng
yi
op
C
o
N
12
ng
yi
op
C
o
N
13
ng
yi
op
C
o
N
14
https://beamandrew.github.io/deeplearning/2017/02/23/deep_learning_101_part1.html
ng
yi
op
C
o
N
15
ng
yi
op
C
o
N
16
ng
Tổng quan về học máy
Là một nhánh của trí tuệ nhân tạo
yi
Liên quan đến việc phát triển các kĩ thuật cho phép các
op
máy tính có thể “học”
VN nằm trong môn học xu hướng (có nhiều ứng dụng)
C
Trên thế giới là một môn học hoặc nhiều môn học riêng
o
và được chú trọng giảng dạy ở bậc ĐH & SĐH
N
17
Con người học như thế nào?
ng
–Nhớ và làm lại (học vẹt).
–Học nhờ quan sát và khái quát hoá (học hiểu).
yi
Các định nghĩa về Học máy (Machine learning)
op
–Học là sự thay đổi thích ứng trong hệ thống giúp cho hệ thống có thể xử
lý vấn đề ngày càng hiệu quả hơn khi gặp lại những tình huống tương tự
[Simon, 1983]
C
–Một quá trình mà một chương trình máy tính cải thiện hiệu suất của nó
trong một công việc thông qua kinh nghiệm [Mitchell, 1997]
o
(Học máy = Cải thiện hiệu quả một công việc thông qua kinh nghiệm)
N
– Việc lập trình các máy tính để tối ưu hóa một tiêu chí hiệu suất dựa trên
các dữ liệu ví dụ hoặc kinh nghiệm trong quá khứ [Alpaydin, 2004]
18
ng
Hiện học máy được ứng dụng trên nhiều lĩnh vực do:
Một loạt các thuật toán học máy ra đời. Cơ sở lý
yi
thuyết được xây dựng ngày càng đầy đủ.
op
Dữ liệu ngày càng nhiều và dư thừa nhưng tri thức
cần thì thiếu.
C
Sức mạnh tính toán của máy tính được nâng cao.
o
Nhiều ngành khoa học mới nảy nở
N
19
Học làm gì?khi nào học?
ng
Học là cần thiết trong những môi trường chưa quen thuộc,
Học là một phương pháp hữu hiệu để xây dựng hệ thống
yi
Học là cách để các chương trình thông minh có thể hiệu chỉnh
op
hành vi để tăng hiệu quả giải quyết vấn đề.
Học khi nào:
C
–Tri thức con người chưa đủ (VD Trên sao hỏa),
–Con người không đủ khả năng giải thích(nhận dạng giọng nói)
o
–Lời giải thay đổi theo thời gian (routing on a computer network)
N
–Lời giải cần thích nghi trong từng trường hợp cụ thể (sinh vật học)
20
Improve on task T, with respect to
ng
performance metric P, based on
yi
experience E
op
C
o
N
21
ng
yi
op
C
o
N
22
ng
yi
op
C
o
N
23
ng
yi
op
C
o
N
24
ng
yi
op
C
o
N
25
ng
yi
op
C
o
N
26
• Mạng Nơ ron ( Neural network)
ng
• Tổng quan:
- Mạng lưới thần kinh nhân tạo là một hệ thống dựa trên hoạt động của mạng lưới
yi
thần kinh sinh học, nói cách khác, là sự mô phỏng của hệ thống thần kinh sinh học
- Mạng lưới thần kinh đã được bắt đầu khoảng 60 năm trước. Khả năng ban đầu của
op
nó đã được phóng đại và cho hiệu quả lớn trên toàn bộ lĩnh vực. Tuy nhiên, có một
sự quan tâm đổi mới gần đây trong lĩnh vực này, vì các kỹ thuật mới và sự hiểu biết
C
lý thuyết tốt hơn về khả năng của họ.
- Não người:Bộ não con người chứa khoảng 10 tỷ tế bào thần kinh hay tế bào thần
o
kinh. Trung bình, mỗi nơ-ron được kết nối với các nơ-ron khác thông qua khoảng 10
N
000 khớp thần kinh. Mạng lưới các nơ-ron của não tạo thành một hệ thống xử lý
thông tin song song ồ ạt.
27
• Mạng Nơ ron ( Neural network) Faculty of Mechanical Engineer
ng
yi
op
C
o
N
28
ng
yi
op
C
o
N
29
ng
• Neural network – mạng nơron
yi
op
C
o
N
30
ng
yi
op
C
o
N
31
ng
yi
op
C
o
N
32

• Tế bào thần kinh sinh học:
ng
• Đơn vị tính toán cơ bản trong hệ thống thần kinh là tế bào thần kinh. Một tế bào thần kinh có: Dendrites
(đầu vào), Cell body (thân tế bào), Axon (đầu ra)
yi
op
C
o
N
33

• Một tế bào thần kinh nhận đầu vào từ các tế bào thần kinh khác (thường là hàng ngàn Tổng đầu vào) .
ng
Khi đầu vào vượt quá mức tới hạn, tế bào thần kinh sẽ thải ra một xung điện đi từ cơ thể tế bào, xuống
sợi trục, đến các tế bào thần kinh tiếp theo hoặc các thụ thể khác.
yi
op
C
o
N
34
ng
yi
op
C
o
N
35
ng
yi
op
C
o
N
36
Do you know Siri?
ng
yi
op
C
o
N
37
ng
yi
op
C
o
N
38
ng
yi
op
C
o
N
39
ng
yi
op
C
o
N
40
ng
yi
op
C
o
N
41
ng
yi
op
C
o
N
42
Mạng neuron Faculty of Mechanical Engineer
ng
yi
op
C
o
N
43
ng
yi
op
C
o
N
44
ng
yi
op
C
o
N
45
Các quá trình cơ bản của mạng neuron
ng
Quá trình học
Chia theo cách xử lý dữ liệu
yi
Học ngoại tuyến (offline)
Học trực tuyến (online)
op
Học phối hợp (offline + online)
Chia theo dạng dữ liệu
C
Học giám sát/ bán giám sát
o
Học tự tổ chức
N
Học tăng cường
Các biến thể khác (https://machinelearningmastery.com/types-of-learning-in-machine-learning)
46
Các quá trình cơ bản của mạng neuron
ng
Quá trình kiểm tra
Để đánh giá mức độ hiệu quả của quá trình học ngoài việc sử
yi
dụng hàm sai số học trong thực tế chúng ta sử dụng quá trình
kiểm tra.
op
Mạng đã học sẽ được kiểm tra với một bộ số liệu mới còn gọi
là bộ số liệu kiểm tra sai số kiểm tra sẽ cho ta thấy khả năng
C
hoạt động của mạng so với các số điểm mới chưa xuất hiện
o
trong quá trình học.
N
Sai số càng thấp thì mô hình càng thông minh hơn.
47
Khả năng ứng dụng
ng
1. Nhận dạng
2. Săp xếp
yi
3. Tái tạo hàm (dự đoán hàm)
4. Điều khiển
op
5. Lọc
C
o
N
48
• Neural network – Applications
ng
yi
op
C
o
N
49
• Neural network – Application
ng
- Không gian vũ trụ: máy bay tự động, mô phỏng đường bay, hệ thống điều khiển máy bay, cải tiến tự
động, mô phỏng thành phần máy bay
- Ngân hàng: người đánh giá ứng dụng tín dụng
yi
- Phòng thủ: hướng dẫn và kiểm soát, phát hiện và theo dõi mục tiêu, phân biệt đối tượng, xử lý tín
op
hiệu sonar, radar và hình ảnh bao gồm nén dữ liệu, trích xuất tính năng và khử nhiễu, nhận dạng tín
hiệu / hình ảnh
C
- Tài chính: thẩm định bất động sản, tư vấn cho vay, sàng lọc thế chấp, phân tích thị trường chứng
khoán, hệ thống tư vấn giao dịch chứng khoán
- Sản xuất: kiểm soát quá trình, chẩn đoán quá trình và máy, hệ thống kiểm tra chất lượng hình ảnh,
o
phân tích chất lượng chip máy tính
N
- Robotics: Điều khiển quỹ đạo, bộ điều khiển thao tác, hệ thống tầm nhìn
- Nhận dạng mẫu: nhận dạng ký tự, nhận dạng giọng nói, nhận dạng giọng nói, nhận dạng khuôn mặt
50
ng
yi
op
C
o
N
51
ng
yi
op
C
o
N
52
ng
yi
op
C
o
N
53
ng
yi
op
C
o
N
54
ng
yi
op
C
o
N
55
ng
yi
op
C
o
N
56
ng
yi
op
C
o
N
Data from G. Witt. Journal of Statistics Education, Volume 21, Number 1 (2013) 57
ng
yi
op
C
o
N
58
ng
yi
op
C
o
N
59
ng
yi
op
C
o
N
60
ng
yi
op
C
o
N
61
ng
yi
op
C
o
N
statsoft.com Audio from http://www.ism.ac.jp/~shiro/research/blindsep.html 62
ng
yi
op
C
o
N
63
ng
yi
op
C
o
N
64
ng
yi
op
C
o
N
Slide credit: Sutton & Barto 65
ng
yi
op
C
o
N
66
Neural network – Why currently?
ng
1.Data growth
yi
2.Hardware advancement
3.Tool available
op
4.Cloud & AI contribution
C
o
N
67
ng
yi
op
C
o
N
68

Chapter 1 Introduction

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Chapter 1 Introduction

Uploaded by

Copyright:

Available Formats

HỌC MÁY – MACHINE

Nhắc lại về các tình huống điều khiển động cơ

• Lý thuyết điều khiển cổ điển:

• Lý thuyết điều khiển hiện đại:

• Lý thuyết điều khiển thông minh:

• Lý thuyết điều khiển thông minh:

• Lý thuyết điều khiển thông minh:

Tổng quan trí tuệ nhân tạo

Tổng quan trí tuệ nhân tạo

Tổng quan trí tuệ nhân tạo

Con người học như thế nào?

Học làm gì?khi nào học?

Improve on task T, with respect to

• Mạng Nơ ron ( Neural network)

• Mạng Nơ ron ( Neural network)

• Mạng Nơ ron ( Neural network)

Do you know Siri?

Các quá trình cơ bản của mạng neuron

Các quá trình cơ bản của mạng neuron

Khả năng ứng dụng

• Neural network – Applications

• Neural network – Application

Neural network – Why currently?

You might also like