ĐẠI HỌC BÁCH KHOA HÀ NỘI

TRƯỜNG ĐIỆN - ĐIỆN TỬ

BÁO CÁO ĐỒ ÁN 1
ĐỀ TÀI: PHẦN MỀM CHỐNG TẤN CÔNG NHIỄM ĐỘC
CHO HỆ THỐNG IOT HEALTHCARE

GIẢNG VIÊN HƯỚNG DẪN: PGS.TS Trương Thu Hương

SINH VIÊN THỰC HIỆN: Tô Đức Quang 20202682

HÀ NỘI 08/2022
 Phần 1: Giới thiệu đề tài

1.1 Ứng dụng trí tuệ nhân tạo trong y tế

1.1.1. Khái niệm trí tuệ nhân tạo

Machine learning (ML) là một loại trí tuệ nhân tạo ( AI ) cho phép các ứng dụng phần
mềm trở nên chính xác hơn trong việc dự đoán kết quả mà không cần được lập trình rõ
ràng để làm như vậy. Các thuật toán học máy sử dụng dữ liệu lịch sử làm đầu vào để dự
đoán các giá trị đầu ra mới.

Công cụ đề xuất là một trường hợp sử dụng phổ biến cho học máy. Các ứng dụng
phổ biến khác bao gồm phát hiện gian lận, lọc thư rác, phát hiện mối đe dọa phần mềm
độc hại, tự động hóa quy trình kinh doanh (BPA) và bảo trì dự đoán .

Học máy đang ngày càng được ứng dụng rộng rãi trong nhiều lĩnh vực: y tế, giáo dục,
tài chính, công nghệ. Đặc biệt trong lĩnh vực y tế, học máy đang được triển khai để phân
tích hình ảnh y tế, nghiên cứu chế tạo thuốc, quản lý dữ liệu chăm sóc sức khỏe.

1.2 Tìm hiểu tấn công nhiễm độc

1.2.1. Khái niệm tấn công nhiễm độc

Tấn công nhiễm độc (Poisoning attack) là một dạng tấn công mà kẻ tấn công cố gắng
thay đổi, nhiễu hoặc làm hỏng mô hình học máy, khiến cho nó không thể đưa ra dự đoán
chính xác hoặc tạo ra lối đi bí mật (backdoor) cho phép kẻ tấn công cài đặt các phần mềm
độc hại vào hệ thống ML dẫn đến kết quả bị sai lệch theo ý của kẻ tấn công.
1.2.2. Các loại hình tấn công nhiễm độc
Có 2 loại hình tấn công nhiễm độc chính:
- Tấn công nhiễm độc dữ liệu: Ở loại hình tấn công này, kẻ tấn công thêm các dữ liệu sai
lệch vào tập dữ liệu nhằm làm mô hình trí tuệ nhân tạo đưa ra phán đoán sai lệch
- Tấn công nhiễm độc mô hình: Ở loại hình này, kẻ tấn công thay thế các trọng số của mô
hình trí tuệ nhân tạo nhằm khiến mô hình phán đoán sai lệch.

1.2.3. Hậu quả tấn công nhiễm độc

Trong thời đại của dữ liệu lớn, các mô hình ML được ứng dụng rộng rãi trong nhiều
lĩnh vực như tài chính, chăm sóc sức khỏe, xử lý ngôn ngữ tự nhiên và thị giác máy tính,
quân sự. Do đó việc các mô hình ML cho kết quả sai có thể dẫn đến những hậu quả
nghiêm trọng. Ví dụ:
 Trong lĩnh vực xe tự lái, tấn công nhiễm độc có thể khiến cho hệ thống dự đoán
sai, dẫn đến tai nạn cho hành khách và thiệt hại kinh tế cho hãng xe.
 Trong lĩnh vực y tế, tấn công nhiễm độc khiến cho việc phát hiện bất thường bị sai
lệch (bệnh nhân có nguy cơ đột quỵ nhưng lại dự đoán là bình thường) gây nguy
hiểm đến tính mạng bệnh nhân

1.3 Lên ý tưởng cho đề tài

Trong đồ án này, em xây dựng một mô hình trí tuệ nhân tạo ứng dụng học liên kết để
đưa ra dự đoán trên tập dữ liệu Diabetes Health Indicator (dự báo bệnh nhân tiểu đường).
Giả định rằng có 1 client bị tấn công nhiễm độc. Em đo sự suy giảm hiệu năng của hệ
thống, qua các loại hình tấn công nhiễm độc khác nhau. Qua đó đề xuất một phần mềm
chống tấn công nhiễm độc cho hệ thống.
 Phần 2. Triển khai thiết kế đề tài

2.1 Sơ đồ khối
Phần mềm của em chạy theo các bước như sau:

Hình 2.1. Sơ đồ của hệ thống chống tấn công nhiễm độc

Đầu tiên, em tạo ra 4 client có cùng kiến trúc MLP (Multi-layer Perceptron) , Sau đó em
chia tập dữ liệu gốc ra làm 4 phần không bằng nhau cho các client học trên đó. Các client sẽ gửi
các trọng số của mình về một model chung là Global Model. Ở đây Global Model sẽ tính toán
trung bình trọng số của các client, xong đó gửi cho các client học, như vậy toàn bộ mạng sẽ được
chia sẻ kiến thức chung.
Để tích hợp tính năng chống tấn công nhiễm độc, em thực hiện như sau: