Tấn công mạng chống lại hệ thống học máy

1. Tổng quan tình hình bảo mật của các hệ thống Học máy
Học máy đang tạo ra những chuyển biến đáng kinh ngạc trong các lĩnh vực quan
trọng như tài chính, chăm sóc sức khỏe và quốc phòng, tác động đến hầu hết mọi khía
cạnh của cuộc sống của chúng ta. Nhiều doanh nghiệp, mong muốn tận dụng những tiến
bộ trong học máy, đã không xem xét kỹ lưỡng tính bảo mật của hệ thống học máy của
họ. Microsoft cùng với MITER và sự đóng góp từ 11 tổ chức bao gồm IBM, NVIDIA,
Bosch, đang phát hành Adversarial Machine Learning Threat Matrix (Ma trận mối đe dọa
đối với hệ thống học máy), một nền tảng mở để trao quyền cho các nhà phân tích bảo
mật phát hiện, đối phó và khắc phục các mối đe dọa chống lại hệ thống học máy.
Trong bốn năm qua, Microsoft đã chứng kiến sự gia tăng đáng kể các cuộc tấn
công vào các hệ thóng học máy thương mại. Các báo cáo thị trường cũng đang thu hút
sự chú ý đến vấn đề này. Tron bài báo 10 xu hướng Công nghệ Chiến lược hàng đầu cho
năm 2020 của Gartner1, được công bố vào tháng 10 năm 2019, dự đoán rằng “Đến năm
2022, 30% tất cả các cuộc tấn công mạng bằng AI sẽ tận dụng đào tạo dữ liệu, đánh cắp
mô hình AI hoặc các mẫu của đối thủ để tấn công các hệ thốn do AI hỗ trợ”. Bất chấp
những lý do thuyết phục này để bảo mật hệ thống học máy, cuộc khảo sát của Microsoft
bao gồm 28 doanh nghiệp cho thấy rằng hầu hết các nhà thực hành trong ngành vẫn
chưa chấp nhận được các đối thủ của hệ thống học máy. 25 trong số 28 doanh nghiệp
chỉ ra rằng họ không có các công cụ phù hợp để bảo mật hệ thống học máy của mình.
Hơn nữa, họ đang tìm kiếm hướng dẫn một cách rõ ràng. Microsoft nhận thấy rằng sự
chuẩn bị không chỉ giới hạn ở các tổ chức nhỏ hơn, họ đã nói chuyện với 500 công ty,
chính phủ, tổ chức phi lợi nhuận và các tổ chức vừa và nhỏ của Fortune.
Cuộc khảo sát họ đã chỉ ra sự khác biệt rõ ràng về nhận thức, đặc biệt là giữa các
nhà phân tích bảo mật, những người thường tin rằng rủi ro đối với hệ thống học máy là
một mối quan tâm trong tương lai. Đây là một vấn đề vì các cuộc tấn công mạng vào các
hệ thống học máy hiện đang gia tăng. Ví dụ: vào năm 2020, Microsoft đã thấy CVE đầu
tiên cho một thành phần học máy trong một hệ thống thương mại và SEI / CERT đã đưa
ra thông báo lưu ý đầu tiên để lưu ý rằng có bao nhiêu hệ thống học máy hiện tại có thể
bị tấn công phân loại sai tùy ý tấn công tính bảo mật, tính toàn vẹn, và tính khả dụng của
hệ thống học máy. Cộng đồng học thuật đã gióng lên hồi chuông cảnh báo kể từ năm
2004, và thường xuyên cho thấy rằng các hệ thống học máy, nếu không được bảo mật
cẩn thận, có thể bị xâm phạm một cách nghiêm trọng.
2. Giới thiệu Ma trận mối đe dọa đối với hệ thống học máy
1
https://www.gartner.com/en/doc/432920-top-10-strategic-technology-trends-for-2020
 Microsoft đã làm việc với MITER để tạo ra Ma trận mối đe dọa hệ thống học máy,
vì họ tin rằng bước đầu tiên trong việc trao quyền cho các nhóm bảo mật để bảo vệ
chống lại các cuộc tấn công vào hệ thống học máy, là có một khuôn khổ tổ chức một
cách có hệ thống các kỹ thuật được sử dụng bởi những kẻ thù độc hại trong việc lật đổ
hệ thống học máy. Họ hy vọng rằng cộng đồng bảo mật có thể sử dụng các chiến thuật
và kỹ thuật được lập bảng để củng cố các chiến lược giám sát của họ xung quanh các hệ
thống học máy quan trọng trong sứ mệnh của tổ chức họ.
- Đối tượng sử dụng chính là các nhà phân tích bảo mật: Họ nghĩ rằng việc bảo
mật hệ thống học máy là một vấn đề con của lĩnh vực an toàn thông tin. Mục
tiêu của Ma trận các mối đe dọa với hệ thống học máy là định vị các cuộc tấn
công vào hệ thống học máy trong một khuôn khổ mà các nhà phân tích bảo
mật có thể tự định hướng trong các mối đe dọa mới và sắp tới này. Ma trận
được cấu trúc giống như khung ATT & CK, được cộng đồng nhà phân tích bảo
mật áp dụng rộng rãi - theo cách này, các nhà phân tích bảo mật không phải
học một khung mới hoặc khác để tìm hiểu về các mối đe dọa đối với hệ thống
học máy. Ma trận các mối đe dọa với hệ thống học máy cũng có sự khác biệt rõ
rệt vì các cuộc tấn công vào hệ thống học máy vốn đã khác với các cuộc tấn
công truyền thống vào mạng công ty.
- Căn cứ vào các cuộc tấn công thực sự vào Hệ thống học máy: Họ đang gieo
mầm khuôn khổ này với một tập hợp các lỗ hổng bảo mật và hành vi đối thủ
được kiểm soát mà Microsoft và MITER đã kiểm tra để có hiệu quả chống lại
các hệ thống học máy. Bằng cách này, các nhà phân tích bảo mật có thể tập
trung vào các mối đe dọa thực tế đối với hệ thống học máy. Họ cũng kết hợp
các bài học từ kinh nghiệm rộng lớn của Microsoft trong không gian này vào
khuôn khổ. Ví dụ họ nhận thấy rằng ăn cắp mô hình không phải là mục tiêu
cuối cùng của kẻ tấn công mà trên thực tế dẫn đến việc lẩn tránh mô hình
ngấm ngầm hơn. Họ cũng nhận thấy rằng khi tấn công một hệ thống học máy,
những kẻ tấn công sử dụng kết hợp các "kỹ thuật truyền thống" như fishing
cùng với các kỹ thuật học máy đối phương.
Công bố đối với cộng đồng
Microsoft nhận ra rằng Adversarial Machine Learning là một lĩnh vực nghiên cứu quan
trọng trong học thuật, vì vậy họ cũng đã thu hút ý kiến đóng góp từ các nhà nghiên cứu
tại Đại học Toronto, Đại học Cardiff và Viện Kỹ thuật Phần mềm tại Đại học Carnegie
Mellon. Ma trận mối đe dọa hệ thống học máy là nỗ lực đầu tiên nhằm thu thập các kỹ
thuật đối thủ đã biết chống lại Hệ thống học máy và họ mời phản hồi và đóng góp. Khi
bối cảnh mối đe dọa phát triển, khung này sẽ được sửa đổi với đầu vào từ cộng đồng
bảo mật và học máy.
Mikel Rodriguez, giám đốccủa MITRE, trung tâm nghiên cứu học máy có một phát biểu
rất hay như sau:
“Khi nói đến bảo mật Học máy, các rào cản giữa nỗ lực và trách nhiệm của nhà nước và
tư nhân đang mờ đi; những thách thức của khu vực công như an ninh quốc gia sẽ đòi
hỏi sự hợp tác của các bên tư nhân cũng như đầu tư công. Vì vậy, để giúp giải quyết
những thách thức này, MITER cam kết làm việc với các tổ chức như Microsoft và cộng
đồng rộng lớn hơn để xác định các lỗ hổng nghiêm trọng trong các hệ thốn học máy.
Khung này là bước đầu tiên giúp gắn kết các cộng đồng lại với nhau để cho phép các tổ
chức suy nghĩ về những thách thức đang nổi lên trong việc bảo mật hệ thống học máy
toàn diện hơn".

3. Thực tế tại Việt Nam

Từ việc Microsoft phát triển ma trận mối đe dọa đối với hệ thống học máy, áp
dụng vào thực tế xây dựng các hệ thống thông tin tại Việt Nam, đặt ra một số câu hỏi và
vấn đề như sau:
- Đối với các hệ thống thông tin hiện tại ở Việt Nam, đã có cơ chế nào áp dụng
khung chuẩn MITER ATT & TK (Ma trận mối đe dọa đối với hệ thống thông tin –
ma trận toàn diện gồm các chiến thuật và kỹ thuật được sử dụng bởi những kẻ
săn lùng mối đe dọa, các hackers và những người bảo vệ) để phân loại tốt hơn
các cuộc tấn công và đánh giá rủi ro của một tổ chức.

Nếu chưa có, hoàn toàn có thể xây dựng một cơ chế để đánh giá các hệ thống
thông tin theo chuẩn cuốc tế này. Từ đó có một hệ thống đánh giá rõ ràng đối
với hệ thống thông tin của các Bộ ban ngành cũng như các cơ quan chức năng.
Đồng thời qua việc mô phỏng các hình thức tấn công của đối thủ mà trả lời
được câu hỏi Làm thế nào mà kẻ tấn công xâm nhập được hệ thống? Sau khi
xâm nhập họ có khả năng thực hiện những công việc gì tiếp theo. Cơ sở kiến
thức được thiết kế để giúp trả lời những câu hỏi đó đồng thời góp phần nâng
cao nhận thức về thế trận an ninh của tổ chức ở ngoại vi và hơn thế nữa. Các
tổ chức có thể sử dụng khuôn khổ để xác định các lỗ hổng trong phòng thủ và
sắp xếp thứ tự ưu tiên dựa trên rủi ro.
https://attack.mitre.org/
- Ở Việt Nam đã tồn tại các hệ thống thật sự được gọi là “Hệ thống học máy”,
hay chỉ là các phần nhỏ của “Hệ thống thông tin”. Có rất nhiều dự án của các
bộ ban ngành trình xin cấp vốn có đề cập tới “Trí tuệ nhân tạo”, “Học máy”,
“Dữ liệu lớn”, “Blockchain”, cá biệt có những dự án đưa tất cả những khái
niệm này vào. Tuy nhiên thật sự khả năng áp dụng và hiệu quả của những đề
xuất tới đâu thì cần kiểm chứng. Trong lĩnh vực an ninh an toàn, thì cần có các
cơ chế rõ ràng như Ma trận các mối đe dọa này để đánh giá được độ an toàn
của một hệ thông Học máy. Trước đó thì cần phải xây dựng các cơ chế để đánh
giá, phân biệt được hệ thống như thế nào sẽ được xếp vào “Hệ thống học
máy”.
- Từ phát biểu của giám đốc MITRE ở trên, nhận thấy không chỉ trong vấn đề an
ninh an toàn, mà cả vấn đề xây dựng hệ thống thông tin, hay phát triển lĩnh
vực Học máy cũng cần có sự phối hợp của chính phủ và các công ty tư nhân.
Chính phủ có sự tương tác với các đơn vị tư nhân để nắm được sự phát triển
của lĩnh vực, từ đó có đường lối phát triển chung và xây dựng cơ chế chính
sách, luật định phù hợp để hỗ trợ phát triển, đồng thời hạn chế những mối
nguy hại tiềm tàng của lĩnh vực này.