TÍNH TÓAN HIỆU NĂNG CAO

(HIGH PERFORMANCE COMPUTING -HPC)

Dr. HÀ MẠNH ĐÀO

CONTENTS:
• Tổng quan về tính toán hiệu năng cao?
• Mô hình, phương pháp, thuật toán HPC
• HPC với mô hình OpenMP
• HPC với mô hình MPI
• HPC với GPU
• Một bài toán tiêu biểu sử dụng HPC
• HPC trên đám mây
 Chương 1
TỔNG QUAN VỀ HPC
NỘI DUNG CHƯƠNG 1:
• HPC là gì?
• Sự cần thiết của HPC
• Sự khác nhau của HPC với tính toán lưới, tính toán đám mây
• Kiến trúc và các thành phần của hệ thống HPC
• Đặc điểm của hệ thống HPC
• Phân loại hệ thống HPC
• Ứng dụng của HPC
Giới thiệu về HPC:
HPC là gì?
Wikipedia:
• HPC tích hợp quản trị hệ thống (bao gồm kiến thức mạng và bảo
mật) và lập trình song song vào một lĩnh vực đa ngành kết hợp điện
tử kỹ thuật số, kiến trúc máy tính, phần mềm hệ thống, ngôn ngữ
lập trình, thuật toán và kỹ thuật tính toán.
• Công nghệ HPC là các công cụ và hệ thống được sử dụng để
thực hiện và tạo ra các hệ thống máy tính hiệu suất cao.
• Gần đây các hệ thống HPC đã chuyển từ siêu máy tính sang
các cụm máy tính và lưới
HPC là gì? (tiếp)
• Điện toán hiệu năng cao thường đề cập đến việc thực hiện tổng
hợp sức mạnh tính toán theo cách mang lại hiệu suất cao hơn
nhiều so với một máy tính để bàn hoặc máy trạm thông thường
để giải quyết các vấn đề lớn trong khoa học, kỹ thuật hoặc kinh
doanh. (https://insidehpc.com/hpc-basic-training/what-is-hpc/)
• Điện toán hiệu năng cao (HPC) là một phương pháp xử lý
lượng lớn dữ liệu và thực hiện các phép tính phức tạp ở tốc độ
cao. Trong kiến trúc HPC, nhiều máy chủ máy tính được nối
mạng với nhau tạo thành một cụm có hiệu năng vượt trội hơn
một máy tính duy nhất.
HPC là gì? (tiếp)
• Điện toán hiệu năng cao (HPC) là việc sử dụng siêu máy tính
và kỹ thuật xử lý song song để giải quyết các vấn đề tính toán
phức tạp. Công nghệ HPC tập trung vào phát triển các thuật
toán và hệ thống xử lý song song bằng cách kết hợp cả kỹ
thuật quản trị và tính toán song song.
• Điện toán hiệu năng cao (HPC) là phương pháp xử lý lượng
lớn dữ liệu và thực hiện các phép tính phức tạp ở tốc độ cao.
Trong kiến trúc HPC, nhiều máy chủ được nối mạng với nhau
để tạo thành một cụm có hiệu năng vượt trội hơn so với một
máy tính đơn lẻ.
Một kiến trúc HPC:

High Performance Computing Architecture

Các thành phần chính của một hệ thống HPC:

Các thành phần

chính của HPC

Thành phần tính Thành phần mạng Thành phần lưu trữ
toán (compute) (Network) (storage)
 Các thành phần chính của một hệ thống HPC: (tiếp)
• Bộ phận tính toán: Như tên cho thấy, thành phần tính toán tập trung vào việc xử lý dữ liệu,
thực thi phần mềm hoặc thuật toán và giải quyết vấn đề. Một cụm máy tính (và tất cả các bộ
xử lý, mạch chuyên dụng và bộ nhớ cục bộ được yêu cầu trong đó) thực hiện các tính toán
sẽ nằm dưới chiếc ô "máy tính".
• Mạng: Kiến trúc HPC thành công phải có mạng nhanh và đáng tin cậy, cho dù để nhập dữ
liệu ngoài, di chuyển dữ liệu giữa các tài nguyên máy tính hoặc truyền dữ liệu đến hoặc từ
tài nguyên lưu trữ.
• Lưu trữ: Lưu trữ đám mây, với khối lượng lớn và tốc độ truy cập và truy xuất cao, là một
phần không thể thiếu đối với sự thành công của hệ thống HPC. Trong khi lưu trữ ngoài
truyền thống là thành phần chậm nhất của hệ thống máy tính, lưu trữ trong hệ thống HPC
sẽ hoạt động tương đối nhanh để đáp ứng nhu cầu của khối lượng công việc HPC.
Các Kiến trúc tính toán hiệu năng cao:

HPC

Paralllel Cluster Quantum Grid HPC on

Computing Computing Computing Computing Cloud
Tầm quan trọng của HPC
• Thông qua dữ liệu, những khám phá khoa học đột phá được thực hiện,
những đổi mới thay đổi cuộc chơi được thúc đẩy và chất lượng cuộc sống
được cải thiện cho hàng tỷ người trên toàn cầu. HPC là nền tảng cho
những tiến bộ khoa học, công nghiệp và xã hội.
• Khi các công nghệ như Internet of Things (IoT), trí tuệ nhân tạo (AI) và
hình ảnh 3-D phát triển, quy mô và lượng dữ liệu mà các tổ chức phải xử
lý cũng tăng theo cấp số nhân. Đối với nhiều mục đích, chẳng hạn như
phát trực tiếp một sự kiện thể thao, theo dõi cơn bão đang phát triển, thử
nghiệm sản phẩm mới hoặc phân tích xu hướng chứng khoán, khả năng
xử lý dữ liệu theo thời gian thực là rất quan trọng.
• Để đi trước đối thủ một bước, các tổ chức cần cơ sở hạ tầng CNTT nhanh
như chớp, có độ tin cậy cao để xử lý, lưu trữ và phân tích lượng dữ liệu
khổng lồ.
 Ứng dụng HPC:
• Phòng thí nghiệm nghiên cứu: HPC được sử dụng để giúp các nhà khoa học tìm ra nguồn năng lượng tái
tạo, hiểu được sự tiến hóa của vũ trụ, dự đoán và theo dõi các cơn bão cũng như tạo ra các vật liệu mới.
• Truyền thông và giải trí: HPC được sử dụng để chỉnh sửa phim truyện, tạo ra các hiệu ứng đặc biệt ấn tượng
và phát trực tiếp các sự kiện trên khắp thế giới.

• Dầu và khí đốt: HPC được sử dụng để xác định chính xác hơn vị trí khoan cho các giếng mới và giúp thúc đẩy
sản lượng từ các giếng hiện có.
• Trí tuệ nhân tạo và học máy.: HPC được sử dụng để phát hiện gian lận thẻ tín dụng, cung cấp hỗ trợ kỹ thuật
tự hướng dẫn, dạy phương tiện tự lái và cải thiện kỹ thuật sàng lọc ung thư.
• Các dịch vụ tài chính: HPC được sử dụng để theo dõi xu hướng chứng khoán theo thời gian thực và tự động
hóa giao dịch.

• HPC được sử dụng để thiết kế các sản phẩm mới, mô phỏng các kịch bản thử nghiệm và đảm bảo rằng các bộ
phận được lưu giữ trong kho để dây chuyền sản xuất không bị trì trệ.
• HPC được sử dụng để giúp phát triển các phương pháp chữa trị các bệnh như tiểu đường và ung thư, đồng
thời cho phép chẩn đoán bệnh nhân nhanh hơn, chính xác hơn.
 Chương 2
Mô hình, phương pháp, thuật
toán của tính toán song song
NỘI DUNG
• Các mô hình và phương pháp
• Thiết kế thuật toán song song
• Một số thuật toán song song phổ biến
• Các mô hình lập trình song song
• Các vấn đề tăng tốc (speedup)
 Chương 3
Tính toán hiệu năng cao với mô
hình OpenMP
NỘI DUNG CHƯƠNG 3
• Mô hình bộ nhớ chia sẽ
• Mô hình lập trình OpenMP
• Thư viện OpenAPI
• Cấu trúc chương trình C/C++ song song với OpenMP
• Các lệnh chỉ dẫn thông dụng
• Kỹ thuật lập trình song song với OPenMP
• Môi trường phát triển ứng dụng OpenMP
• Ví dụ
 Chương 4
Tính toán hiệu năng cao với mô
hình MPI
NỘI DUNG CHƯƠNG 4:
• Mô hình bộ nhớ phân tán
• Mô hình lập trình MPI
• Thư viện MPI
• Cấu trúc chương trình C/C++ song song với MPI
• Kỹ thuật lập trình song song với MPI
• Môi trường phát triển ứng dụng MPI
• Ví dụ
 Chương 5
Tính toán hiệu năng cao với GPU
và CUDA, OPENCL
NỘI DUNG CHƯƠNG 5:
• Mô hình GPGPU
• Kiến trúc CUDA và OPENCL
• Thư viện CUDA và OPENCL
• Cấu trúc chương trình với CUDA và OPENCL
• Kỹ thuật lập trình với CUDA, OPENCL
• Ví dụ
 Chương 6
MỘT SỐ CÔNG NGHỆ HIỆN ĐẠI
TRONG HPC
NỘI DUNG:
• GPU
• TPU
• VPU
• DVU