Machine Translated by Google
Mô hình vòng đời máy tính không có máy chủ cho Edge
Triển khai đám mây
Kiên Nguyễn , Frank Loh , Tùng Nguyễn† , Dương Đoàn‡ , Nguyễn Hữu Thanh† , Tobias Hoßfeld
¨ ¨
Đại học Wurzburg, Viện Khoa học Máy tính, Wurzburg, Đức †Đại học Khoa học
và Công nghệ Hà Nội, Hà Nội, Việt Nam ‡FPT Software LLC, Hà
Nội, Việt Nam Email:{firstname.lastname}
@uni-wuerzburg. de hoặc {thanh.nguyenhuu}@hust.edu.vn
Tóm tắt—Điện toán không máy chủ là một mô hình thực thi điện toán đám
mây mới. Nó cung cấp ít chi phí vận hành và quản trị, kích hoạt chức năng
theo yêu cầu và giảm đáng kể mức tiêu thụ tài nguyên. Vì lý do đó, nó được
nghiên cứu rất nhiều trong các tài liệu gần đây bằng cách xử lý lưu lượng
truy cập đến, khả năng ứng dụng cho các nhiệm vụ khác nhau và hiệu suất
tổng thể.
Đặc biệt là việc đưa ra các trạng thái nơi chức năng được lưu giữ trong
CPU hoặc bộ nhớ có thể cải thiện hiệu suất một cách đáng kể. Tuy nhiên,
phân tích chuyên sâu về nhu cầu tài nguyên, việc sử dụng CPU và bộ nhớ, độ
trễ và mức tiêu thụ năng lượng vẫn còn là một khoảng trống trong tài liệu.
Để đạt được mục tiêu này, chúng tôi đề xuất một mô hình vòng đời không có
máy chủ với các trạng thái trung gian và triển khai thiết lập thử nghiệm
xử lý hình ảnh trong đám mây biên để thử nghiệm mô hình đó.
Hơn nữa, chúng tôi đo lường các số liệu tài nguyên quan trọng của tất cả
các trạng thái và chuyển đổi trạng thái của mô hình. Điều này giúp chúng
tôi trả lời câu hỏi liệu việc duy trì các chức năng ở các trạng thái cụ
thể của phiên bản điện toán không có máy chủ có thể cải thiện hiệu suất mà
không gây ảnh hưởng tiêu cực lớn đến các yêu cầu tài nguyên hay không.
Thuật ngữ chỉ mục—điện toán phi máy chủ, hiệu quả tài nguyên, năng lượng
hiệu quả, điện toán biên
I. GIỚI THIỆU
Mỗi người ở các nước phát triển sẽ có ít nhất một lần tương tác với
trung tâm dữ liệu cứ sau 18 giây trong cuộc đời của họ vào năm 2025 [1].
Vì tầm quan trọng này, cùng với những vấn đề khác, việc quản lý tài
nguyên, khả năng mở rộng và khả năng truy cập của các trung tâm dữ liệu
đang được cải thiện đều đặn. Một bước phát triển quan trọng là sự phát
triển từ phần cứng kim loại trần cho từng tác vụ sang ảo hóa hoặc chứa
nhiều ứng dụng hơn. Điều này thúc đẩy việc phân cấp dễ dàng các trung tâm
dữ liệu lớn hoặc đám mây sang các giải pháp đám mây biên. Trong khi đó,
các giải pháp trung tâm dữ liệu nhỏ như vậy gần gũi hơn với người dùng
cuối lại được yêu cầu cao. Từ quan điểm của nhà cung cấp dịch vụ hoặc
phần cứng, nó cũng có nhiều lợi ích.
Các ứng dụng có thể được chia thành các vi dịch vụ và được điều chỉnh
theo nhu cầu của người dùng cuối hoặc ứng dụng. Các dịch vụ này được di
chuyển linh hoạt đến gần người dùng cuối nhất có thể, nhưng cũng có thể
được triển khai, điều phối hoặc mở rộng quy mô một cách linh hoạt. Tính
linh hoạt này giúp tiết kiệm tài nguyên và giảm độ trễ. Hơn nữa, nó giúp
giảm chi phí đáng kể vì mỗi 100 ms độ trễ sẽ khiến các công ty như Amazon
mất 1% doanh thu [2].
Bất chấp những ưu điểm này, microservice rất phức tạp và đòi hỏi nhiều
thao tác và quản trị. Để đạt được mục đích này, điện toán không có máy
chủ đã được giới thiệu [3] như một khung công tác cấp cao hơn giúp loại
bỏ một số mức độ sử dụng tài nguyên.
tầm nhìn và chi phí quản lý. Ngoài ra, các chức năng không có máy chủ chỉ
được thực thi khi được kích hoạt, giúp giảm chi phí cho khách hàng, tiết
kiệm tài nguyên cho nhà cung cấp đám mây và cải thiện hiệu suất tổng thể.
Tuy nhiên, các tác động tiềm tàng khác, chẳng hạn như rò rỉ tài nguyên
và điện năng khi kiểm soát vòng đời của chức năng serverless, đặc biệt là
trong các môi trường hạn chế về tài nguyên như điện toán Edge vẫn chưa
được xem xét.
Tuy nhiên, điều quan trọng là phải nghiên cứu kỹ vòng đời [4], [5] để
kiểm soát hiệu quả tác động của các chức năng không có máy chủ đối với
việc sử dụng tài nguyên, hiệu suất năng lượng hoặc chất lượng dịch vụ nói chung.
Chúng tôi thu hẹp khoảng cách này trong tài liệu bằng cách đề xuất
một mô hình vòng đời dựa trên máy chủ. Với thiết lập thử nghiệm xử lý
hình ảnh, chúng tôi nghiên cứu hiệu suất của nó bằng các số liệu tài
nguyên quan trọng như mức sử dụng CPU, GPU và bộ nhớ. Hơn nữa, chúng tôi
định lượng mức tiêu thụ năng lượng của tất cả các trạng thái và xác định
các trạng thái quan trọng. Cuối cùng, chúng tôi điều tra độ trễ của quá
trình chuyển đổi trạng thái để xác định các tắc nghẽn tiềm ẩn đối với
các ứng dụng có độ trễ thấp.
Do đó, sự đóng góp của chúng tôi có hai mặt: thứ nhất, chúng tôi đề
xuất và triển khai mô hình vòng đời dựa trên máy chủ hiện đại nhất với
các trạng thái trung gian lạnh và ấm. Thứ hai, chúng tôi nghiên cứu mức
tiêu thụ tài nguyên ở các trạng thái khác nhau của mô hình này và đối với
các chuyển đổi trạng thái. Đặc biệt, chúng tôi nghiên cứu ảnh hưởng đến
nhu cầu tài nguyên khi sử dụng các trạng thái trung gian này, giữ cho
các phần của ứng dụng có sẵn trong RAM hoặc CPU. Điều này giúp trở lại
hoạt động bình thường nhanh hơn và tốn ít chi phí hơn. Với cuộc điều tra
này, chúng tôi có thể so sánh nhu cầu tài nguyên của máy tính không có
máy chủ bằng cách sử dụng mô hình của chúng tôi với các phương pháp truyền
thống chỉ có trạng thái nhàn rỗi và trạng thái hoạt động.
Dựa trên những đóng góp này, chúng tôi xác định hai
câu hỏi nghiên cứu được giải đáp trong công trình này.
1) RQ1: Nhu cầu tài nguyên ở các trạng thái trung gian lạnh và ấm khác
nhau trong điện toán không có máy chủ là gì và các tài nguyên
chính là gì?
2) RQ2: Quá trình chuyển đổi trạng thái nào có tác động lớn nhất đến
mức tiêu thụ tài nguyên và độ trễ và có chi phí đáng kể về yêu cầu
tài nguyên cho quá trình chuyển đổi trạng thái khi đưa vào trạng
thái trung gian không?
Phần còn lại được cấu trúc như sau. Phần II tóm tắt bối cảnh và tài
liệu liên quan. Phần III mô tả mô hình, nền thử nghiệm và kịch bản thử
nghiệm. Sau đó, Phần IV trình bày kết quả và Phần V kết luận.
Machine Translated by Google
II. NỀN TẢNG VÀ CÔNG TRÌNH LIÊN QUAN
Phần này tóm tắt thông tin cơ bản cơ bản và tài liệu liên quan
cần thiết để hiểu công việc này.
A. Containerization và microservice
Ngày nay, hầu hết các ứng dụng đám mây và đám mây biên đều được
ảo hóa và triển khai tại Máy ảo (VM). Tuy nhiên, ý tưởng về
container hóa đã được chứng minh là nhanh nhẹn và linh hoạt hơn so
với Máy ảo (VM), nó đang trở thành tiêu chuẩn cho Internet of
Things (IoT) hoặc triển khai phần mềm dựa trên biên [6].
Containerization là một phương pháp ảo hóa Hệ điều hành (OS) bao
gồm việc đóng gói một ứng dụng và các phần phụ thuộc của nó vào
một đơn vị độc lập được gọi là "container". Các bộ chứa này chia
sẻ cùng một nhân với hệ điều hành cơ bản và các bộ chứa khác, cho
phép sử dụng tài nguyên hiệu quả hơn và tăng tính di động. Để nâng
cao khả năng mở rộng và tính linh hoạt khi triển khai trên quy mô
lớn, kiến trúc phần mềm dựa trên container có tên microservices
đã được áp dụng rộng rãi. Nó liên quan đến việc phân tách một ứng
dụng nguyên khối thành một tập hợp các dịch vụ nhỏ, tự trị có thể
giao tiếp với nhau. Mỗi dịch vụ chịu trách nhiệm về một chức năng
cụ thể và có thể được phát triển, triển khai và mở rộng quy mô một
cách độc lập. Vì vậy, nó cho phép linh hoạt hơn và quản lý dễ dàng
hơn các hệ thống phức tạp. Trong thập kỷ qua, đã có sự thay đổi
đáng kể đối với các kiến trúc dựa trên microservice trong việc
phát triển các ứng dụng IoT và truyền thống [7].
B. Điện toán phi máy chủ và Edge Intelligence
Để khắc phục chi phí quản lý và quản trị của microservice, điện
toán không có máy chủ đã xuất hiện trong những năm gần đây. Nó hứa
hẹn tính toán hiệu quả về tài nguyên, trong đó các dịch vụ được
đóng gói dưới dạng các chức năng riêng lẻ được quản lý và triển
khai theo yêu cầu thông qua các vùng chứa có thời gian sử dụng ngắn. không, chúng sẽ tạm thời không hoạt động hoặc bị tắt. Việc triển
Mặc dù khung không có máy chủ không nhất thiết phải dựa trên khả
năng chứa đựng, nhưng các phương pháp tiếp cận dựa trên container
hiện đang thống trị các nền tảng không có máy chủ trong cả ngành
công nghiệp (AWS lambda [3] hoặc Azure serverless [8] và các
khung công tác nguồn mở (Kna-tive [9 ], Fission [10] hoặc IBM
OpenWhisk [11]). Một lý do cho điều này là sự tiến bộ của các công
cụ điều phối vùng chứa như Kubernetes [12], Docker [13], cũng như
các dịch vụ giá trị gia tăng cho các dịch vụ vi mô như Continous
Tích hợp/Triển khai liên tục (CI/CD). Từ thời điểm này trở đi,
thuật ngữ chức năng serverless và bộ chứa sẽ được sử dụng thay thế chothể giúp giảm 80% thời gian thực hiện. Mahajan và cộng sự. [22] sử
Do tính đơn giản và hiệu suất của nó, máy tính không có máy chủ
đã được sử dụng cho nhiều trường hợp sử dụng. Một ví dụ là trong
bối cảnh đám mây, nơi có thể thực hiện mã hóa video, tổng hợp API
và phân tích kiểu thu nhỏ bản đồ [14].
Hơn nữa, các ứng dụng hỗ trợ AI được triển khai “không có máy chủ”
đã được nghiên cứu trong nhiều công trình. Ishakian [15] đã kiểm
tra hiệu suất của suy luận Mạng thần kinh sâu (DNN) chạy trên AWS
Lambda. Mặc dù kết quả chứng minh tính khả thi của phương pháp này
nhưng chất lượng dịch vụ xét theo độ trễ hoặc thông lượng có thể
không được đảm bảo. Carreira và cộng sự. [16] nêu bật tiềm năng
của điện toán không có máy chủ để triển khai các mô hình học máy
phân tán (ML). Điện toán serverless cung cấp các chức năng chi
tiết có thể mở rộng quy mô nhanh chóng và loại bỏ
sự phức tạp trong quản lý tài nguyên và cấu hình cho khối lượng
công việc ML phân tán. Tương tự, Wang và cộng sự. [17] cũng xem
xét lợi thế của serverless trong việc phân phối các tác vụ ML. Họ
thử nghiệm việc đào tạo mô hình với nhiều chức năng serverless
chạy song song và chứng minh rằng AWS Lambda đã giảm được 4% chi phí.
Do khả năng triển khai thân thiện với tài nguyên, điện toán
không máy chủ có nhiều lĩnh vực ứng dụng trong môi trường đám mây
biên. Trong bối cảnh này, trí thông minh biên đề cập đến cư dân
của các ứng dụng thông minh ở gần các thiết bị thu thập dữ liệu
như cảm biến hoặc máy ảnh. Bằng cách đó, nó mang lại độ trễ thấp
cho các ứng dụng có nhu cầu cao như ô tô, phát hiện thời gian thực
và giám sát sức khỏe. Trí thông minh biên có thể được hưởng lợi
rất nhiều từ việc chạy trên nền tảng không có máy chủ, vì mô hình
thực thi theo hướng sự kiện của điện toán không có máy chủ có thể
tăng cường mức tiêu thụ tài nguyên và năng lượng [18]. Rausch [19]
đã chỉ ra rằng việc triển khai các mô hình DNN ở biên có thể hưởng
lợi từ tính toán không có máy chủ về mặt tiêu thụ điện năng bằng
cách đặt các lớp khác nhau của mô hình DNN vào các chức năng không
có máy chủ khác nhau, nằm trên các thiết bị khác nhau và chỉ chạy
khi được kích hoạt. Tuy nhiên, do bản chất có độ trễ cao của
serverless, ML thời gian thực vẫn cần được cải thiện hơn nữa.
Patros [20] sử dụng nền tảng học tập liên kết dựa trên máy chủ
trong môi trường biên để kích hoạt sức mạnh AI trong môi trường
khắc khổ, nơi cơ sở hạ tầng khan hiếm. Tuy nhiên, vì serverless
mới xuất hiện nên có rất nhiều thách thức liên quan đến Chất lượng
dịch vụ (QoS) và tối ưu hóa tài nguyên [5].
C. Những thách thức trong vòng đời của Serverless
Một trong những sai lệch chính giữa ứng dụng AI không có máy
chủ và thời gian thực liên quan đến vòng đời của các chức năng
không có máy chủ. Trong điện toán không có máy chủ, các chức năng
chỉ được kích hoạt và thực thi nếu một sự kiện cụ thể xảy ra. Nếu
khai các chức năng mới, được gọi là "khởi động nguội", có thể cần
từ vài trăm mili giây đến nhiều giây để hoàn thành, điều này có
thể kéo dài đáng kể tổng thời gian phản hồi của một yêu cầu và vi
phạm Thỏa thuận cấp độ dịch vụ (SLA) của dịch vụ. Để giảm thiểu
các vấn đề về hiệu suất, các framework serverless nổi tiếng như
AWS Lambda và Azure Serverless duy trì một số lượng bộ chứa được
sử dụng thường xuyên ở trạng thái ấm. Nhiều giải pháp khác nhau
cũng tồn tại trong giới học thuật. Mohan và cộng sự. [21] đề xuất
chế tạo trước một thùng chứa ấm cho nhiệm vụ sắp tới, điều này có
nhau.
dụng những điểm tương đồng trong nội dung vùng chứa để giảm yêu
cầu mạng cho việc kéo mã, do đó rút ngắn thời gian khởi động
nguội. Wu và cộng sự. [23] đề xuất một bộ lập lịch vùng chứa theo
dõi trạng thái của các vùng chứa (đã sử dụng, bị tạm dừng hoặc bị
loại bỏ) để tái sử dụng chúng cho lưu lượng truy cập đến một cách tối ưu.
Trước đây, vòng đời của các chức năng không có máy chủ thường
được mô tả theo đường một chiều từ khi triển khai dịch vụ đến chấm
dứt vùng chứa. Chi phí duy nhất được xem xét là độ trễ [5]. Wu và
cộng sự. [23] đã đề xuất một sơ đồ lập lịch nhận biết vòng đời có
tên CAS để quản lý số lượng chức năng không có máy chủ đang ở
trạng thái không hoạt động/tạm dừng hoặc rỗng để các yêu cầu đến
có thể được phân phát với độ trễ thấp hơn. Bhattacharjee và cộng
sự. [24] đề xuất một máy trạng thái mô tả cuộc sống-
Machine Translated by Google

Cụm không có máy chủ

Nguồn video
Ấm

ký ức

Đĩa ấm Ấm
Lạnh lẽo Cổng API
CPU
Vô giá trị

Yêu cầu thông

tin

Tích cực

Hình 1: Máy trạng thái vòng đời không có máy chủ.

Hình 2: Các trường hợp sử dụng xử lý hình ảnh của máy tính không có máy chủ.

chu trình của máy ảo dịch vụ kết hợp và các chức năng phi máy chủ được thuê từ
CPU ấm (Swc) nghĩa là một hoặc nhiều chức năng đã được triển khai. Mã bên
đám mây công cộng. Tuy nhiên, mô hình của họ hoàn toàn mang tính lý thuyết và chỉ
trong các thùng chứa này đã được khởi tạo thành công và sẵn sàng nhận yêu cầu.
tính đến chi phí độ trễ do mỗi lần chuyển đổi trạng thái gây ra. Mahmoudi và cộng
Trạng thái này là trạng thái phổ biến nhất trong triển khai vùng chứa truyền
sự. [25] đã phát triển các mô hình phân tích để phân tích vòng đời không có máy
thống.
chủ về thời gian phản hồi trung bình, xác suất khởi động nguội và số lượng phiên
Ký ức ấm áp (Swm) đề cập đến trạng thái tạm dừng của vùng chứa. Trong khi mã
bản chức năng trung bình ở trạng thái ổn định.
trong một vùng chứa đã hoàn tất quá trình khởi tạo, tủ đông cgroup Linux sẽ đóng

băng tất cả các vùng chứa thuộc nhóm đó. Vì vậy, tất cả các quá trình đều bị đình
Tuy nhiên, tương tự như các công việc khác, họ chỉ xem xét độ trễ của các trạng
chỉ. Cần lưu ý rằng tất cả các biến vẫn được lưu trữ trong RAM.
thái khác nhau của các chức năng serverless được triển khai trong môi trường đám

mây công cộng. Ngược lại, chúng tôi xem xét các số liệu tài nguyên khác nhau như
Trạng thái hoạt động (Sa) là khi vùng chứa phía sau nhận được yêu cầu và đang
mức sử dụng CPU, GPU và RAM để đánh giá mô hình vòng đời không có máy chủ của
xử lý chúng. Thông thường, điều này dẫn đến sự gia tăng tiêu thụ tài nguyên.
chúng tôi trong công việc này. Ngoài ra, chúng tôi định lượng mức tiêu thụ năng

lượng và độ trễ, đồng thời phân tích tất cả các số liệu thông qua nền tảng thử
Ngoài ra, các chuyển đổi trạng thái trong Hình 1 được ký hiệu b là P a , biểu
nghiệm thực tế trong bối cảnh biên.
thị một quá trình từ trạng thái a sang trạng thái b. Mỗi quá trình đều được làm

III. ĐỀ XUẤT MÔ HÌNH VÀ BỆNH THỬ NGHIỆM mịn và không có trạng thái trung gian nào xảy ra bên trong. Ví dụ: chức năng

chuyển đổi từ Hoạt động sang Lạnh yêu cầu thực hiện hai giai đoạn: một giai đoạn
Trong phần này, chúng tôi trình bày một mô hình mới cho vòng đời của các chức
quay trở lại trạng thái đĩa Ấm và giai đoạn khác để xóa hình ảnh và hoàn tất quá
năng dựa trên serverless và giới thiệu một nền tảng thử nghiệm được sử dụng
trình chuyển đổi sang Lạnh. Vì lý do đó, không có mũi tên trực tiếp từ Active đến
để đo lường và phân tích các số liệu tài nguyên khác nhau.
Cold trong mô hình.

A. Mô hình vòng đời của vùng chứa dựa trên máy chủ

B. Giường thử nghiệm

Hiểu biết thấu đáo về vòng đời của chức năng không có máy chủ có thể hỗ trợ

người vận hành và người dùng đánh giá chi phí và lợi ích của việc duy trì ở trạng Để nghiên cứu mô hình của mình, chúng tôi trình bày một trường hợp sử dụng

thái nhất định hoặc chuyển sang trạng thái khác. Tuy nhiên, theo hiểu biết tốt thử nghiệm điện toán không có máy chủ ở biên sau đây. Chúng tôi nêu bật các chi

nhất của chúng tôi, vẫn còn thiếu sự nhất quán và đầy đủ trong các định nghĩa về tiết về thiết lập giường thử nghiệm và thảo luận về các thông số quan trọng.

các trạng thái này trong tài liệu. Vì lý do đó, chúng tôi đề xuất một vòng đời 1) Mô tả trường hợp sử dụng: Đối với trường hợp sử dụng thử nghiệm của chúng

mới như được mô tả trong Hình 1. Máy trạng thái được trình bày bao gồm sáu trạng tôi, dịch vụ xử lý hình ảnh được triển khai trong môi trường đám mây biên.

thái và các chuyển đổi trạng thái giữa các trạng thái. Trạng thái được định nghĩa Trong tầm nhìn về thành phố thông minh, được hiển thị trong Hình 2, có thể có
là điểm, tại đó hàm có thể tồn tại vô thời hạn.
nhiều kịch bản khác nhau như máy bay không người lái được triển khai trên những

con đường đông đúc hoặc khu vực công cộng đông đúc, truyền hình mạch kín (CCTV)

Ngược lại, quá trình chuyển đổi trạng thái xảy ra trong một khoảng thời gian cố để đảm bảo an ninh hoặc ô tô có gắn camera. Các ứng dụng này tạo ra dữ liệu yêu
định để chuyển đổi hàm từ trạng thái này sang trạng thái khác. Mũi tên hai hướng
cầu xử lý các chức năng thông minh. Trong triển khai truyền thống, các ứng dụng

chỉ ra rằng cả hai cách đều có thể tiếp cận được. Các trạng thái khác nhau có thể thông minh như vậy được lưu trữ cục bộ hoặc từ xa trên máy chủ biên hoặc đám mây
được mô tả như sau.
và luôn sẵn sàng xử lý. Điều này tương tự với trạng thái Warm CPU trong mô hình

Null (Sn) biểu thị trạng thái không hoạt động của máy vật lý. của chúng tôi. Khi các kịch bản này được áp dụng trong điện toán serverless, các

Mặc dù nền tảng không có máy chủ đã được triển khai nhưng không có gì liên quan phiên bản back-end có thể ở một trong các trạng thái Không hoạt động, Lạnh hoặc

đến bất kỳ dịch vụ nào tồn tại. Ấm, như được mô tả trong Hình 1 cho đến khi một sự kiện được kích hoạt. Nếu một

Lạnh (Sc) biểu thị rằng tính năng trừu tượng hóa/dấu vân tay của dịch vụ đã sự kiện như vậy, chẳng hạn như yêu cầu từ thiết bị cuối yêu cầu phát hiện đối

được triển khai. Nền tảng không có máy chủ cơ bản đã được xác nhận, một cổng API tượng hoặc con người, chúng có thể chuyển sang trạng thái Hoạt động để bắt đầu

cho dịch vụ đã được tạo nhưng chưa có vùng chứa hình ảnh hoặc phụ trợ nào tồn tại. xử lý.

Đĩa ấm (Swd) là khi cả hai, trừu tượng hóa dịch vụ và hình ảnh để triển khai Dựa trên trường hợp sử dụng này, tính năng phát hiện đối tượng dựa trên Mạng thần

chức năng đều có sẵn. kinh đồng thời (CNN) được triển khai dưới dạng máy chủ không có
Machine Translated by Google

mức tiêu thụ và thời gian phản hồi của các chức năng serverless.

Nền tảng thử nghiệm sử dụng Prometheus [27] để giám sát các số liệu tài nguyên

và một thiết bị đo công suất bên ngoài để đo công suất.

Công tắc Truyền phát máy chủ

Để nắm bắt chính xác trạng thái của hàm, chúng ta trực tiếp đọc
và máy khách
sự kiện của container từ API Kubernetes bằng thư viện Python-Kubernetes. Kỹ

thuật tương tự được áp dụng để đo

Cụm không

có máy chủ thời gian của các chuyển đổi trạng thái khác nhau. Đối với những chuyển tiếp mà

không thể được thư viện ghi lại (CPU ấm hoặc

Bộ nhớ ấm để hoạt động), kết quả thu được bằng cách sử dụng cuộn tròn
Nút chính Nút công nhân Đồng hồ điện

khai thác gỗ [28]. Để đồng bộ hóa các dữ liệu ghi nhật ký này với mỗi
CPU, GPU, Quyền lực
Máy chủ số liệu
ĐẬP (%) (W) chuyển đổi trạng thái và trạng thái của vòng đời của chức năng không có máy chủ,

Chương trình Python được thực thi trên nút Master. Chương trình này

tự động triển khai chức năng phát hiện đối tượng, chụp
Hình 3: Thiết lập giường thử nghiệm.
trạng thái của hàm và dấu thời gian của từng trạng thái và thu thập

ghi dữ liệu từ các thiết bị đo lường. Một bản tóm tắt

BẢNG I: Tổng quan về các thành phần được thử nghiệm. các thành phần của lớp thử nghiệm được hiển thị trong Bảng I. Trạng thái trong khi

quá trình chuyển đổi xảy ra trong một khoảng thời gian giới hạn, thời gian của các trạng thái
Vai trò Phần cứng Phần mềm
là vô thời hạn. Qua đó, chúng tôi đo lường các nguồn lực của nhà nước cho một

Raspberry Pi 4B: Bốn tốc độ 1,5 GHz khoảng thời gian 120 giây. Trong khoảng thời gian này, mọi số liệu được đo
Bậc thầy Ubuntu 20.04
-core Cortex-A72, RAM 4G được thu thập ngay lập tức trong khoảng thời gian 0,5 giây. Chúng tôi đã tiến hành
Kubernetes 1.25

Jetson Nano: lõi tứ 1,43GHz Knative 1.8 50 lần đo mỗi trạng thái và quá trình chuyển đổi trạng thái trong

Công nhân Cortex-A57, NVIDIA 128 nhân vòng đời. Mỗi lần chạy cách nhau một khoảng thời gian không tải là 30 giây.

Maxwell, RAM 2GB

IV. KẾT QUẢ ĐO LƯỜNG
Giao thông Ubuntu 20.04
Máy tính Linux
Docker 20.10 Phần này trình bày kết quả đo lường thử nghiệm của chúng tôi
máy phát điện

cho từng trạng thái của vòng đời và từng chuyển đổi trạng thái.
Tinkerforge Điện áp/Dòng điện Prometheus 2.34
Đo đạc
Bricklet 2.0 Độ cong 7,68 A. Đánh giá của Tiểu bang

Để đánh giá nhu cầu tài nguyên ở mỗi bang, Hình 4

hiển thị các yêu cầu về CPU, RAM và nguồn điện của chúng dưới dạng biểu đồ thanh

hoạt động trong thử nghiệm của chúng tôi. Mô hình CNN được công bố rộng rãi với các thanh lỗi biểu thị khoảng tin cậy 90%. Các

tại Github [26]. Chức năng serverless của chúng tôi có thể nhận HTTP Trục y của mỗi cấu hình con thể hiện nhu cầu tài nguyên mục tiêu

yêu cầu, ghi lại một video phát trực tuyến được chỉ định, xử lý từng số liệu và mỗi trục x hiển thị các trạng thái khác nhau khi được khởi tạo

frame theo mô hình Mạng nơ-ron và sau đó phản hồi bằng trong Hình 1. Hình 4 cho thấy ngay cả ở trạng thái Null, thiết bị

số lượng đối tượng được phát hiện trong mỗi khung hình. tiêu thụ khoảng 10% CPU và hơn một phần tư RAM

2) Thiết lập thử nghiệm: Hình 3 minh họa thử nghiệm của chúng tôi cho dung lượng do các khung công tác chứa và không có máy chủ (Kuber-netes,

trường hợp sử dụng nói trên. Về cơ bản, nó bao gồm ba Knative) chạy trong nền. Điều này cho thấy rằng

nên sử dụng một khung không có máy chủ với dung lượng nhỏ hơn
các bộ phận chính, cụm không có máy chủ, bộ tạo lưu lượng và
công cụ đo lường. Cụm serverless sử dụng Knative làm đề xuất triển khai ở rìa. Các tiểu bang khác ngoài

nền tảng của nó, dựa trên kiến trúc chính và kiến trúc công nhân. Để mô phỏng

môi trường biên thông minh, chúng tôi sử dụng một BẢNG II: Độ trễ của mỗi lần chuyển trạng thái.
NVIDIA Jetson Nano làm nút công nhân để thực thi serverless

chức năng. Nó là một thiết bị nhúng được trang bị GPU. Các Độ trễ (ms)
Chuyển tiếp
thiết bị chính, Raspberry Pi 4B, quản lý việc lập lịch trình vùng chứa cho
tiêu chuẩn trung bình
cụm Knative và đóng vai trò là máy chủ số liệu cho

thu thập và truy xuất dữ liệu nhật ký từ người thu thập tài nguyên. P c – Null đến lạnh 3662 1990
N

Để tạo nguồn phát trực tuyến và yêu cầu HTTP từ cuối P wd – Đĩa lạnh đến ấm 341705 32764
c

thiết bị, giường thử nghiệm sử dụng các vùng chứa Docker được lưu trữ trên một P wc – Warm Disk để hâm nóng CPU 23715 1469
wd

Máy tính để bàn Linux, được gọi là trình tạo lưu lượng truy cập. Một P wc – Warm Mem để làm ấm CPU 110 16
cái gì

container chịu trách nhiệm truyền phát video tĩnh về một đám đông P Một
– Làm ấm CPU để hoạt động 7 1
wc

đường phố, trong khi đường kia gửi yêu cầu HTTP đến serverless P wd – Làm ấm CPU sang Warm Disk 31773 483
wc
cổng. Tất cả các thiết bị máy tính được kết nối với một mạng riêng biệt P wd – Warm Mem vào Warm Disk 32761 374
cái gì

Mạng LAN có băng thông tối đa 100 Mbps để tránh

P wd - Hoạt động để làm ấm đĩa 34656 2782
Một

băng thông là yếu tố hạn chế. Phép đo mục tiêu

P c – Warm disk sang Cold 3032 1060
wd
số liệu cho nền tảng thử nghiệm là mức tiêu thụ máy tính
P N – Lạnh đến không 1193 711
c
tài nguyên và bao gồm việc sử dụng CPU, GPU và RAM, nguồn điện
Machine Translated by Google

(a) Việc sử dụng CPU của các quốc gia (b) Việc sử dụng RAM của các bang (c) Việc sử dụng năng lượng của các quốc gia

Hình 4: Mức sử dụng tài nguyên ở trạng thái của từng chức năng không có máy chủ (thanh lỗi là khoảng tin cậy 90%).

(a) Việc sử dụng CPU của quá trình chuyển đổi trạng thái (b) Việc sử dụng RAM của quá trình chuyển đổi trạng thái (c) Việc sử dụng năng lượng của quá trình chuyển đổi trạng thái

Hình 5: Việc sử dụng tài nguyên cho mỗi lần chuyển đổi trạng thái (thanh lỗi là khoảng tin cậy 90%).

Hoạt động thể hiện ở mức tối thiểu hoặc không có sự thay đổi nào trong việc Dựa trên những kết quả này, câu hỏi nghiên cứu đầu tiên của chúng tôi,

sử dụng CPU do không có tác vụ nào được thực hiện. Ở trạng thái Hoạt động, RQ1, được trả lời như sau: Nhu cầu tài nguyên ở các trạng thái ấm áp ở

mức sử dụng CPU tăng đáng kể về mặt thống kê lên mức trung bình 23,62%. máy tính không có máy chủ chỉ bị ảnh hưởng nhẹ. Không có mức tăng đáng kể

Khi xem xét mức sử dụng GPU, kết quả sẽ tương tự như kết quả sử dụng về mặt thống kê nào được hiển thị đối với mức tiêu thụ CPU, GPU và năng

CPU. Trong khi trạng thái Hoạt động yêu cầu 58% thì yêu cầu đối với tất cả lượng. Tài nguyên quan trọng đang tăng lên là RAM.

các trạng thái khác gần bằng 0 vì chúng không thực hiện bất kỳ nhiệm vụ
B. Đánh giá chuyển tiếp cấp bang
nào. Ngược lại, việc sử dụng RAM cho thấy xu hướng khác biệt giữa chúng.

Trong khi Đĩa Lạnh và Đĩa Ấm dường như không tiêu tốn thêm bộ nhớ, thì CPU Vì Bộ nhớ ấm đến CPU ấm, CPU ấm sang bộ nhớ ấm, CPU ấm sang hoạt động và

Ấm và Bộ nhớ Ấm lại tiêu thụ gần như nhiều như Active, với mức tăng đáng kể CPU hoạt động sang ấm, xảy ra ngay lập tức và gần như không tiêu thụ tài

về mặt thống kê so với Lạnh. Ở đó, ứng dụng phát hiện đã tải tất cả các nguyên, nên các phép đo tài nguyên của chúng bị bỏ qua trong phần sau. Cũng

biến cần thiết vào RAM. Mức sử dụng RAM tăng theo cách có ý nghĩa thống kê cần lưu ý rằng mức tiêu thụ năng lượng được báo cáo thay vì mức sử dụng

thêm khoảng 10% trong chế độ Hoạt động để tải video đến. năng lượng khi quá trình chuyển đổi trạng thái kết nối chặt chẽ với thời

gian. Mức tiêu thụ tài nguyên của mỗi quá trình chuyển đổi được thể hiện

trong Hình 5 và độ trễ trong Bảng II. Xem xét các trạng thái phân bổ tài

Vì mức tiêu thụ điện năng tương quan với việc sử dụng tài nguyên máy nguyên (P c wd PP wc c , wm, , _

tính, đặc biệt là CPU và GPU, nên giá trị ở trạng thái Hoạt động được quan P wc P a wc), quá trình chuyển đổi trạng thái từ Null sang
wd ,

sát thấy tăng vọt trong khi các trạng thái khác vẫn tương đối bằng nhau. Cold
N (P c ) tiêu tốn ít tài nguyên và năng lượng nhất trong khi mất gần 4
Kết quả chỉ ra rằng các trạng thái không Hoạt động có tác động tối thiểu giây để hoàn thành. Do đó, mọi dịch vụ nên chuyển ngay sang trạng thái Lạnh

đến các tài nguyên máy tính như CPU và GPU. Ngược lại, yêu cầu về bộ nhớ khi chúng được triển khai bất kể lưu lượng truy cập để tránh bị chậm trễ

lại tăng lên, đó là ổ cứng trong trường hợp Warm Disk và RAM dành cho Warm thêm. Hơn nữa, không cần thêm tài nguyên bổ sung có ý nghĩa thống kê ở
CPU và Warm Memory. Mặc dù vậy, những yếu tố này ít hoặc không ảnh hưởng trạng thái Lạnh như đã thấy ở trên. Ngược lại, Cold to Warm Disk (Yêu cầu

đến mức tiêu thụ điện năng của thiết bị. Mặt khác, việc duy trì trạng thái CPU P để tải xuống và trích xuất hình ảnh. Các tác vụ này cũng góp phần tạo
wd
Warm CPU hoặc Warm Memory mang lại lợi thế to lớn về độ trễ, điều này sẽ ra độ trễ c ) có mức tiêu thụ tài nguyên cao nhất, với tốc độ cao

được thể hiện trong các kết quả chuyển đổi trạng thái sau đây. dài hơn 300 giây, khiến đây trở thành quy trình dài nhất và tiêu tốn nhiều

năng lượng nhất.

dang noi ve CPU
Machine Translated by Google
Quá trình khởi tạo container (P wc ) cũng
wd tiêu tốn một lượng lớn CPU
và RAM và một khoảng thời gian đáng kể với 23 giây. Trong quá trình
chuyển đổi trạng thái này, ứng dụng bên trong vùng chứa phải được
khởi động và tài nguyên được phân bổ. Khi so sánh kết quả này với
kết quả của trạng thái, việc giữ nguyên Warm Disk có thể tiết kiệm
50% RAM nhưng sẽ phải chịu chi phí lớn nếu có yêu cầu đến sau và
yêu cầu chức năng chuyển sang Active.
Trong trường hợp sử dụng của chúng tôi, tổng chi phí này lên tới độ trễ
lên tới 6 phút và năng lượng 1000 J. Do đó, nếu bộ nhớ không phải là vấn
đề đáng lo ngại thì tốt nhất nên giữ các chức năng serverless ở trạng
thái Warm CPU hoặc Warm Memory, đặc biệt khi những trạng thái này có tác
động nhỏ đến tài nguyên máy tính và mức tiêu thụ năng lượng.
So sánh Warm CPU với Warm Memory, việc kích hoạt ứng dụng từ Warm
CPU chỉ mất khoảng 7 ms và 110 ms đối với Warm Memory. Các thử
nghiệm của chúng tôi cho thấy không có sự cải thiện đáng kể về mức
tiêu thụ tài nguyên của Bộ nhớ ấm so với CPU ấm. Do đó, CPU ấm nên
được ưu tiên vì nó giúp giảm độ trễ gấp 10 lần, điều này rất quan
trọng đối với các ứng dụng thực tế.
ứng dụng thời gian. Các quá trình phân bổ tài nguyên (P wd P
wd
P một
cái gì, , P c wd) tiêu tốn ít tài nguyên hơn và không ảnh hưởng
đến chất lượng của ứng dụng. Tuy nhiên, trong các kịch bản lớn, nơi
hàng trăm chức năng được triển khai trên một máy vật lý duy nhất,
việc chuyển đổi liên tục giữa các trạng thái có thể dẫn đến mức
tiêu thụ năng lượng cao hơn nhiều và gây tắc nghẽn các tài nguyên
cụ thể cho các chức năng hoạt động khác. Dựa trên những phát hiện
này, chúng tôi có thể trả lời câu hỏi nghiên cứu thứ hai của mình
như sau: Trong số tất cả các chuyển đổi trạng thái, CPU Lạnh sang
Ấm và CPU Ấm sang CPU ấm có tác động lớn nhất đến mức tiêu thụ tài
nguyên và độ trễ. Kết quả là, có một chi phí đáng kể trong quá trình
chuyển đổi trạng thái này, đặc biệt là Đĩa Lạnh sang Đĩa Ấm.
V. KẾT LUẬN
vay thi chi phi o day no la cai gi
Điện toán không có máy chủ có thể đơn giản hóa hoạt động, quản
lý và quản trị các chức năng trong điện toán đám mây và điện toán
đám mây biên. Đặc biệt là việc đưa vào các trạng thái ấm, trong đó
chức năng cụ thể được lưu giữ trong bộ nhớ hoặc CPU, có thể cải
thiện đáng kể thời gian phản hồi và độ trễ cho các dịch vụ. Tuy
nhiên, cho đến nay, ảnh hưởng đến mức tiêu thụ tài nguyên như mức
sử dụng bộ nhớ hoặc CPU và mức tiêu thụ năng lượng vẫn chưa được phân tích
[21] đầy đủ. H. Sane, KA Doshi, S. Edupuganti, N. Nayak và V. Sukhomlinov, “Khởi
A. Mohan,
Chúng tôi thu hẹp khoảng cách này trong tài liệu bằng cách đề xuất máy
trạng thái vòng đời không có máy chủ, thiết lập nền tảng thử nghiệm và
đo lường trường hợp sử dụng đám mây biên. Chúng tôi đo lường mức tiêu
thụ tài nguyên và năng lượng của tất cả các trạng thái liên quan cũng
như quá trình chuyển đổi trạng thái và nghiên cứu độ trễ. Mặc dù chúng
tôi nhận thấy mức sử dụng RAM tăng đáng kể về mặt thống kê ở trạng thái
ấm, nhưng yêu cầu về CPU, GPU và nguồn điện không bị ảnh hưởng. Vì lý
do đó, chúng tôi kết luận rằng nếu tài nguyên bộ nhớ cho phép thì việc
giữ trạng thái ấm áp luôn có lợi. Điều tương tự cũng đúng khi phân
tích các chuyển đổi trạng thái, trong đó có thể giảm độ trễ đáng kể.
Với kết quả của chúng tôi, các nhà nghiên cứu và nhà điều hành có thể
xác định chiến lược cho vòng đời của chức năng phi máy chủ của họ để
cải thiện một mục tiêu cụ thể hoặc nhiều mục tiêu. Vì nền tảng thử
nghiệm của chúng tôi đã được tiến hành trên kịch bản một chức năng nên
việc kiểm tra sâu hơn về triển khai đa chức năng có thể được xem xét
trong các công việc trong tương lai để khái quát hóa mức độ ảnh hưởng
của từng trạng thái và quy trình đối với mức tiêu thụ tài nguyên và hiệu suất ứng dụng.
NGƯỜI GIỚI THIỆU
[1] Danfoss. Tính bền vững của trung tâm dữ liệu - Cần có một tương lai hiệu quả
hơn. [Trực tuyến]. Có sẵn: https://www.danfoss.com/en/about-danfoss/insights-
for-tomorrow/integrated-energy-systems/data-center-power-consumption/ [2]
FastCompany. Làm thế
nào một giây có thể khiến Amazon mất 1,6 tỷ USD doanh thu [Trực tuyến]. Có sẵn:
https://www.fastcompany.com/1825005/how-one-second-could-cost-amazon-16-billion-
sale
[3] Amazon. Máy tính không máy chủ - AWS Lambda - Amazon Web Services. [Trực
tuyến]. Có sẵn: https://aws.amazon.com/lambda/ [4] P. Patros, J.
Spillner, AV Papadopoulos, B. Varghese, O. Rana và S. Dustdar, “Hướng tới máy tính
không có máy chủ bền vững,” Điện toán Internet , 2021.
[5] R. Xie, Q. Tang, S. Qiao, H. Zhu, FR Yu và T. Huang, “Khi máy tính không máy
chủ gặp máy tính biên: Kiến trúc, thách thức và các vấn đề mở,” Truyền thông
không dây, 2021.
[6] R. Cziva và DP Pezaros, “Chức năng mạng container: Đưa NFV lên mạng biên,” Tạp
chí Truyền thông IEEE, 2017.
[7] Phát triển IM và Thông tin chuyên sâu, “Dịch vụ vi mô trong doanh nghiệp,
2021: Lợi ích thực sự, Giá trị thách thức,” 2021.
[8] Azure không có máy chủ. [Trực tuyến]. Có sẵn: https://azure.microsoft.com/en-
chúng tôi/giải pháp/không có máy chủ/
[9] Bản địa. Thùng chứa không có máy chủ trong môi trường Kubernetes. [Trực tuyến].
wd Có sẵn: https://knative.dev/docs/
wc ,
[10] Phân hạch. Phân hạch: Chức năng không có máy chủ cho Kubernetes. [Trực tuyến].
Có sẵn: https://github.com/fission/fission [11]
Apache. Nền tảng đám mây không có máy chủ mã nguồn mở. [Trực tuyến]. Có sẵn: https://
openwhisk.apache.org/ [12]
Kubernetes. Kubernetes: Điều phối vùng chứa cấp sản xuất.
[Trực tuyến]. Có sẵn: https://kubernetes.io
[13] I. Docker. Docker. [Trực tuyến]. Có sẵn: https://www.docker.com [14]
P. Castro, V. Ishakian, V. Muthusamy và A. Slominski, “Sự trỗi dậy của máy tính
không có máy chủ,” Truyền thông của ACM, 2019.
[15] V. Ishakian, V. Muthusamy và A. Slominski, “Phục vụ các mô hình học sâu trong
nền tảng không có máy chủ,” trong Int. Conf. trên Cloud Eng., 2018.
[16] J. Carreira, P. Fonseca, A. Tumanov, A. Zhang và R. Katz, “Một trường hợp về
học máy không có máy chủ,” trong Hội thảo về Hệ thống cho ML và Phần mềm nguồn
mở tại NeurIPS, 2018.
[17] H. Wang, D. Niu và B. Li, “Học máy phân tán với kiến trúc không có máy chủ,”
trong Conf. trên Máy tính Comm. IEEE, 2019.
[18] SR Chaudhry, A. Palade, A. Kazmi và S. Clarke, “Cải thiện QoS ở biên bằng cách
sử dụng Máy tính không có máy chủ để triển khai các chức năng mạng ảo,” Tạp
chí Internet of Things, 2020.
[19] T. Rausch, W. Hummer, V. Muthusamy, A. Rashed và S. Dustdar, “Hướng tới một
nền tảng không có máy chủ cho Edge {AI},” trong Hội thảo USENIX về các chủ đề
nóng trong Điện toán biên, 2019.
[20] P. Patros, M. Ooi, V. Huang, M. Mayo, C. Anderson, S. Burroughs, M. Baughman,
O. Almurshed, O. Rana, R. Chard và cộng sự, “AI nông thôn: Học tập liên kết
được hỗ trợ bởi máy chủ dành cho các ứng dụng từ xa,” Điện toán trên
Internet, 2022.
đầu lạnh linh hoạt cho máy chủ không có khả năng mở rộng,” trong Hot-Cloud,
2019.
[22] K. Mahajan, S. Mahajan, V. Misra và D. Rubenstein, “Khai thác sự tương đồng về
nội dung để giải quyết sự khởi đầu nguội trong triển khai vùng chứa,” trong
Int. Conf. trên Em. Thí nghiệm và công nghệ mạng, 2019.
[23] S. Wu, Z. Tao, H. Fan, Z. Huang, X. Zhang, H. Jin, C. Yu và C. Cao, “Lập kế
hoạch nhận biết vòng đời vùng chứa cho máy tính không có máy chủ,” Phần mềm :
Thực hành và Kinh nghiệm, 2021.
[24] A. Bhattacharjee, AD Chhokra, Z. Kang, H. Sun, A. Gokhale và G. Karsai,
“Barista: Hệ thống phục vụ không cần máy chủ hiệu quả và có thể mở rộng cho
các dịch vụ dự đoán học sâu,” trong Hội nghị quốc tế về Kỹ thuật đám mây.
IEEE, 2019.
[25] N. Mahmoudi và H. Khazaei, “Mô hình hóa hiệu suất của nền tảng điện toán không
có máy chủ,” Giao dịch trên điện toán đám mây, 2020.
[26] Nvidia. Triển khai Deep Learning. [Trực Có sẵn:
tuyến]. https://github.com/dusty-nv/jetson-
inference [27] Prometheus. Prometheus - Hệ thống giám sát & Cơ sở dữ liệu chuỗi thời gian.
[Trực tuyến]. Có sẵn: https://prometheus.io/
Curl - Cách sử dụng. https://curl.se/ Có sẵn:
[28] Curl. [Trực tuyến].
docs/manpage.html