Khóa luận tốt nghiệp Truyền thông và mạng máy tính: Nghiên cứu và phát triển hệ thống tính toán cạnh biên ứng dụng công nghệ ảo hóa container và hệ thống camera thông minh giám sát tinh hinh dich tể bệnh covid-19

Các hệ thống cận biên tích hợp các tài nguyên có sẵn, tài nguyên mang ở ria mang, gateway dé cung cấp cơ sở tính toán xử lý dữ liệu gần với người dùng nhất giảm tải khả năng xử lí của Cl

ĐẠI HỌC QUOC GIA TP HO CHÍ MINH

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THONG TIN

KHOA MẠNG MAY TÍNH VÀ TRUYEN THONG

LE MINH THONG

NGUYEN VO BAO HUY

KHOA LUAN TOT NGHIEP

GIAM SAT TINH HÌNH DỊCH TE BỆNH COVID-19

Research and develop Edge Computing system with lightweight

virtualization and smart camera system for surveillance

epidemiological Covid-19

KY SU NGANH MANG MAY TINH VA TRUYEN THONG DU LIEU

TP HO CHÍ MINH, 2022

ĐẠI HỌC QUỐC GIA TP HÒ CHÍ MINH

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN

KHOA MẠNG MAY TÍNH VÀ TRUYEN THONG

LE MINH THONG - 18521457 NGUYEN VO BAO HUY - 18520254

KHOA LUAN TOT NGHIEP

NGHIEN CUU VA PHAT TRIEN HE THONG TINH

TOAN CANH BIEN UNG DUNG CONG NGHE AO HOA CONTAINER VA HE THONG CAMERA THONG MINH

GIAM SAT TINH HINH DICH TE BENH COVID-19

Research and develop Edge Computing system with lightweight

virtualization and smart camera system for surveillance

epidemiological Covid-19

KY SU NGANH MANG MAY TINH VA TRUYEN THONG DU LIEU

GIANG VIEN HUONG DAN PGS.TS LE TRUNG QUAN

TP HO CHÍ MINH, 2022

THONG TIN HOI DONG CHAM KHÓA LUẬN TOT NGHIỆP

Hội đồng cham khóa luận tốt nghiệp, thành lập theo Quyết định số

TĐẦY của Hiệu trưởng Trường Đại học Công nghệ Thong tin.

LOI CAM ON

Đầu tiên, chúng tôi xin gửi lời cảm on chân thành đến toàn thể quý Thay/C6 Giang viêntrường Đại học Công nghệ thông tin - Đại học quốc gia TP Hồ Chí Minh, đặc biệt là quýThầy Cô của khoa Mạng máy tính và truyền thông - Thầy Cô đã trực tiếp giảng dạy, cungcấp nền tảng kiến thức từ cơ bản đến nâng cao Những kiến thức ấy sẽ luôn là hành trang

quý báu mà chúng tôi sẽ mang theo trong suốt khoảng thời gian học tập và công tác sau

này Đặc biệt, để có thể hoàn thành tốt đề tài khóa luận này, chúng tôi xin tỏ lòng biết ơnsâu sac đến Giảng viên hướng dẫn Thay PGS.TS Lê Trung Quân Trong suốt quá trình thựchiện dé tài này, Thầy đã luôn quan tâm theo dõi hỗ trợ kịp thời Xin chân thành cảm ơnThay các anh ở văn phòng E3.1 của trường Cuối cùng, chúng tôi xin phép gửi lời tri ânđến những người đã âm thầm ủng hộ theo dõi chúng tôi Xin cảm ơn Ba Mẹ và nhữngngười thân đã luôn quan tâm, tạo điều kiện tốt nhất dé chúng tôi tập trung học tập trong

khoảng thời gian ngồi trên giảng đường đại học Xin chân thành cảm ơn!

Nhóm tác giả.

MỤC LỤC

Chương 1 GIỚI THIỆU -2-©2£+2E+EE+EESEEtEEESEEEEEEEEEEEEEEEEEEEErkerkrrrrer 2

I.I Tổng quan đề tài - 2-52 S222 EEEE12E1521221271211271211111111 1111k 2

1.1.1 Tổng quan về xu hướng IØT - 2-2 2E£+EE+2EE£EEt£EEEEtrEezrkerxerrxee 2

1.1.2 Vai trị của Điện tốn đám mây với IoÏTÏ -. - 5 «+ ++<<++kx+sesseersseers 4

1.2 Tuyên bố vấn đề - +2 2Et2EE9E112E1271121127121111711211711211 11.111 xe 5

1.2.1 Phat biểu vấn G6 ecccceeccsseeeecssseeessssncesssneeessnecsesnecessnesessneeessneeessnneess 5

1.2.2 Mục tiêu hướng déne ececcccccccccssecsesssessesssessesseessessvessessesssessesssessesseessesseesees 7

1.3 Phuong nh e 8

1.4 _ Phạm vi và giới hạn đề tài - +-<+22+219E19E12212212712171 217121211 crkrre 9

1.4.1 Phạm vi và đối tượng nghiên ứu - 2 2 s+£+E++EE+EE+EEeEEerxerxerxees 9

1.4.2 Giới hạn của đề tải cn.iHHHHe he 9

1.5 Cau trúc Khĩa luận c+ccccccrrrtrrrrrttrrrrrtrirrrrrrrrrrrrrrree 10

Chương2 CÁC NGHIÊN CUU KHOA HỌC VÀ CƠNG NGHỆ LIÊN QUAN 11

2.1 Tổng quan về hệ thống tính tốn cận biên 2 2+ 2+E++£++E++Ezzxe+xzzzez 112.2 Các dự án tính tốn cận BIEN ccceecscccceescsecceeesssssecsessssssecseesssteeeess 13

2.2.1 Dur án Span Edge - - Sc 1 n1 1211 HT TH TH Hy HH key 13

2.2.2 Dự án Cloudpa(h .- cv n TH TH HH nh HH 14

2.2.3 Xu hướng nghiên cứu hién nay ĩc 3c 3213331 E*EEEEEsrreersrerseree 14

2.2.4 Các sản phâm hỗ trợ phịng chống Covid-19 trên thi trường 15

2.2.4.1 COVID19 Mask Detection của Pinnacle SolutIons - 15

2.2.4.2 Hanwha Techwin’s COVID-19 Solution 00ciececccccceesssseeeeenseeees 16

2.2.4.3 COVID-19 Counftermeasure - - - - - SĐĐSSS SE 55311111111 kkrer 17

2.3 Cơ sở lí thuyết và hướng tiếp cận đề tài - ¿25+ 2x22 2E zErrrrrrree 18

2.3.1 Nền tảng trí tuệ nhân {ạO - - 2S 2132311111121 1111119 11111 11191 Hy re 18

2.3.1.1 Nền tảng máy hỌc ¿2-5-2 +E2E2E2E1211211211211211211211211221 2112 xe 192.3.1.2 Nền tảng Ứng dụng học sâu vào Thị giác máy tính . - 222.3.1.3 Camera Calibrate và Birdview transformation - + x++ssxs+ 29

2.3.1.4 FaceMask Detection và Face RecogTfIon - 5-5 sssss+ss+sxssss 30

2.3.2 Infrastructure as a Service (ÍaaS) -ccccctnS 11H 1111181111111 8k ren 32

2.3.3 Nền tảng công nghệ ảo hóa - 2-52: 2S222E2EE2EE22122212712211221 2222, 342.3.4 Công nghệ điều phối ảo hóa - 2: +22 2E+2E£EEtEEtEECEEEErrrrrrrrex 382.3.5 Kiến trúc MicrOS€TViC€S 5- 2 1 tEEE12212212121211212121 xe 392.3.6 ètididiidddiididiidiiidi - 40

2.3.7 Cơ sở đữ liệu NoSQL — MongolDB - - ScS+ + se ret 42

2.3.8 Cơ sở dit liệu quan hệ - MySQL - c1 re 43

Chuong 3 | PHUONG PHÁP LUẬN, NGHIÊN CUU scescesccsscsssesssessessessesstesseessen 54

3.1 Phan tích thiết kế hệ thong oo ccc ccs ccs essessessssscscsssecssessssecsessesseseaneanease 54

3.1.1 Mô hình phân rã hệ thống + ©+£+E+E+E2EEEE2E2E2EE2E22222222Excer 55

3.1.2 _ Thành phần trung tâm dif liệu đám mây - 2 2+ 2+2 ++z+xs+xzrs 573.1.3 Thành phan cận biên ©5-+S+E92E22E2E2E121211211211211211211 21122 xe 583.1.4 Phân rã thành phan thiết bị đầu cuối - 2-2 s+s+s+E++Es+rxerxerxees 603.1.5 Kiến trúc Cluster tại phần cận DIEM - c5 2c 13 +21 S22 vssseeecee 61

3.2 Phan r& Chic Nang 0 1 62

3.2.1 Ứng dụng ở Cloud oi.ceccceccecccsscessesssessessesssessesssessesssessesssessesssessecansssesseesseeaes 62

3.2.2 Ung dụng ở Edge - 22s E2122122122121211211211211211 22c 63

3.3 Đặc tả thiết kế mô hình ngữ cảnh -¿- 2: 525E2E2EE£EE2EEEEEEExerkrrrrerkeee 64

3.3.1 Đặc tả ngữ cảnh - LH HT TT HT TH HH hư, 64

3.3.2 Thiết kế mô hình trong ngữ cảnh để xuất 2 22+£+s£+zz+x+zzzz 65

3.3.3 Mô hình ngữ cảnh giao tiếp giữa các thành phần - 2-2-2 5s 653.4 Phân tích thiết kế hệ thống tự động hóa 2 2+ +++++£xzEserxzrxsrxeee 66

3.4.1 Phân tích thiết kế hệ thống MILOps 2 2+5++E2+EE+E++EE+E+Ezrzrx 67

3.4.2 Phân tích thành phan Machine learning Development - 69

3.4.3 Phân tích thiết kế thành phan Training operationalization - 70

3.4.4 Phân tích thiết kế thành phần Model Deployment 2-5 =s 71

3.4.5 Phân tích thiết kế thành phần Continuous Monitoring - 72

3.4.6 Phân tích thiết kế thành phan triển khai cơ sở hạ tang dạng mã (IaC) 72

Chương 4 HIỆN THUC, THU NGHIỆM VÀ KET QUẢ - 2-2-5: 74

4.1 Hiện thực 1011112311111 1 n9 11g 1kg kg kg 1kg 74

4.1.1 Hiện thực SDNode (Social Distances Detection) - ‹ 5-5 +-++s552 74

ALLL MG tae 74

h9 74

4.1.1.4 Tổng quan mô hình - + 2+ +E£+E£+E++EE+EE2E2E2EE2EE2EE2E2EEzExrrrrex 774.1.2 | Hiện thực FMNode (Face mask detection and recognition) 78

4.1.2.1 Mô tả TS SH HH HH HH TT Tre 78

2 Chic nang cece 78

4.1.2.3 Các tham số đánh gia ccccecccccccscessesssessesssessesssessesstessesstsssessessseesessseesess 814.1.2.4 Tổng quan mô hình - ¿2 s£+s£+E£+E£+E£2E££E£EEEE2EE2EE2EE2E222222x2rxcer 834.1.3 Hiện thực phần Cloud - 2-2 +s+2E£2E£2E2E2E2E2E2E2E121122121 2E §5

4.1.3.1 Cơ sở hạ tầng cho AI Engineer: 2c s++cx+2x2ExeEEczExerxerrrerxeee 85

4.1.3.2 Tự động hóa Central Dashboard trên Cloud - -+-++-+++<s+ 86

4.1.3.3 Central Backend S€TV©T tt HH Hi, 88

4.1.3.4 9 c0 00 9]

4.1.4 Xây dựng Kubernetes CÏUSf€T - c + S2 **ES ESEirsrersirsrrrsee 94

4.1.5 _ Hiện thực phan cạnh biên 2-2 s+E+2E2E£2E2E2E2EEEE2EEEEErErrrrree 95F120 096/90 sa 984.1.7 _ Hiện thực hệ thống MLOps - 2: 22E+2E+£EtEEtEECEEEEErErrrrrrrees 100

4.1.7.1 Xây dựng mô hình máy học máy học (Scikit Learn) - 100 4.1.7.2 ML Model Monitoring (Weight and Blases) -s-ccsscxss+ 101

4.1.7.3 ML Model Configuration (Hyda) - - 5c se ssexsersserseeses 102

4.1.7.4 Data version control (DVC) .- c + cscc k3 1 31111111111 ren 102

4.1.7.5 Đóng gói model (DOCKT) - - - 6 5 + tk E*EESEkrsekrreskeresek 104

Z.‹ “4n 105

4.1.7.7 Moniforing CÏOU( c1 1121113511191 1111 1111111111111 ket 106

4.2 — Kịch bản thử nghiệm đánh giá - 5 2 223322 E*ESEESEEssrsrirsrerrreske 107

4.2.1 Kich ban tht nghiém 0T 107

4.2.2 Đặc tả phần cứng -5- 52t t2 2122121212121 ee 107 4.2.3 Kết quả thử nghiệm - 2-22 SE‡EESEEEEEEEEEE E121 109

4.2.3.1 Kết quả huấn luyện mô hình gan nhãn khuôn mặt - 109

4.2.3.2 Kết quả thử nghiệm SDNodđe - 2-2-5252 tEEeEEcEEczEerkrrrrrei 110 4.2.3.3 Kết quả thử nghiệm FMNode -2- 5c ©s2E+2E£E£EeEEeEEerEerrrreree 111 4.2.4 Cac thông số thu được tai Cluster K8S v cccccccccccsscccsesesessesesesvesecsesesveees 112 4.2.4.1 Jetson Nano khi chạy mô hình Face Recognifion - - -:- ‹ 112

4.2.4.2 Jetson Nano khi chạy mô hình Social Distancing - - 113

4.2.4.3 Đo độ trễ phan hồi trên dịch vụ Facemask tại Edge - 113

4.3 Các thông số đánh giá mô hình AI tại phần IoT Device . - 114

4.4 Nhận xét kết quả và đánh giá - 2 2+1 ESE12E12EEEEEEEEEEEEEEErkrrrrrrrrrees 115 Chương 5 KẾT LUẬN VA HƯỚNG PHÁT TRIÊN -2¿25¿25¿2csz2c+2 117 5.1 — Kết quả dat được Q25CS TT re 117 5.2 Một số hạn chế cccrt th HH HH rêu 118 5.3 _ Hướng phát triỀn - 2 tt EEEE1221271212121 2111 1e 118 5.3.1 _ Hoạt động không gián đoạn khi cách ly Edge va Cloud 118

5.3.2 Vận dụng cơ sở hạ tầng mạnh mẽ của AWS ccScccseese, 119

DANH MỤC HÌNH

Hinh 1.1: Hinh minh 0 0 5020111 2

Hình 1.2: Biéu đồ dự báo tổng thiết bị được kết nối đến năm 2025 [ 1] -: 3

Hình 1.3: Biểu đồ dự đoán thị trường IoT đến năm 2025 [I] 2- 5 2 s+cs+rszcseẻ 4 Hình 1.4 Vai trò của điện toán đấm mây, Ác 32211511331 1111351 11111111111 11 11 Ekre 5 Hình 1.5 Hình minh họa cho Điện toán cận biên - 2255 22222211 £ +2 zeeeeeeszxs 6 Hình 2.1: Mô hình tính toán cận biên - 2c 222011122111 1211 1111811118211 182111181 lãi Hình 2.2: Mô hình dự án SpanEdge [6 | - - - - c2 1321131121131 151 11111 11k rre 13 Hình 2.3: Mô hình dự án Cloud Path - - c 2 222111221111 1221 1115111511115 111551 xE2 14 Hình 2.4: Demo sản pham nhận diện đeo khẩu trang của Pinnacle Solutions [7] 15

Hình 2.5: Demo sản phâm nhận diện không đeo khẩu trang của Pinnacle Solutions [7] 16 Hình 2.6: Mô hình phát hiện đeo khẩu trang sai của Hanwha Techwin [§] 16

Hình 2.7: Mô hình phát hiện đeo khâu trang của Hanwha Techwin [§] - 17

Hình 2.8: Mô hình xác định giãn cách xã hội cua Hanwha Techwin [8] - 17

Hình 2.9: Demo xác định giãn cách của giải pháp COVID-19 Countermeasure [9] 18

Hình 2.10: Vi dụ về Ma trận nhằm lẫn (Confusion Matrix) [1 I] 2 2-52 s2 55+¿ 21 Hình 2.11: Các bước phân đoạn hình ảnh - 2 2c 322 * 323 £+2EE+EE+eEEeexetrseereersss 23 Hình 2.12: Các lớp trong mô hình mạng YOlLO - ¿6 1333 ESEEsEEsrsrsrsrsee 24 Hình 2.13: Các bước nhận diện vật thể - -ccc:222vtttExxtrttttrtrrrttrrrrrrtrrrrrrrrre 24 pin) 0600,1.ã0i0i.sui: 81920001155 ố Ả 25

Hình 2.15: Minh họa PR-Curve - 2E 2220111111122331 1111119331 1111119531 11kg 1kg 28 Hình 2.16: Vi dụ về PR-curve của các lớp với IoU khác nhau 2 2 2 22 5+‡ 28 Hình 2.17: Cách tính COCO MAP [17] - 6 11921191151 191 111 51 11 11 11 1 1 ri, 29 Hình 2.18: Minh họa về Perspective transform sang Bird's view - s52 29 Hình 2.19: Minh họa về Face Recognition loss function 2s22sz+sz+zz+z++zzzse+z 31 Hình 2.20: Minh họa về sigmoid-constrained hypersphere loss (SFace) 32 Hình 2.21: Minh họa dịch vụ EC2 trên AWS - -LQQ Q2 HH SH HH TH TT 34

Hình 2.22: Kiến trúc công nghệ ảo hóa - -2- 2-52 2E2E£2E£2E£EEtEEEEEEEEE2E222222222222xe 34

Hình 2.23: Kiến trúc công nghệ ảo hóa máy ảoO 2-2 2+Ss+SE+EE+EE+EE£EEEEESEEerxerxees 35Hình 2.24: Các thành phan cơ bản của Kubernetes 2-2 2 2 22 ++£++£++£x+zxze: 39

Hình 2.25: Mô hình MICTOS€TVIC€S G0 SH TH ng ng ng nàn 40

Hình 2.26 Minh họa ReactJS - - - 2E 1221111223111 1231 1119111192111 901111101 kg kg re 42

Hình 2.27: Minh họa hệ thống GitOps 2-2-2525 2E2EEEEEE2E12712211271211211 21.2 re, 45

Hình 2.28: Vòng đời của mô hình MLO - - 6 E032 k 39 ng như 48 Hình 2.29: Máy tính nhúng Jetson Nano - - c2 3n 2192111111911 111111111 1 11 re 49 Hình 2.30: Raspberry Pi Camera V2 - - + 111112111111 11111 1111111111111 1111181118111 11kg 50

Hình 2.31: May tính nhúng Raspberry Pi 3 oo ececccececeeceseeeeeeseeeeeeseceeeeeceseeeeeseeneeeseens 52

Hình 3.1: Mô hình hệ thống Edge Computing giám sát con người trong tinh hình dịch bệnh

COVId-19 1 -.- 54

Hình 3.2: Mô hình phân rã thành phần kiến trúc hệ thống - 2 2222222225522 55

Hình 3.3: Mô hình phân rã thành phan kiến trúc tại thành phần điện toán đám mây 55Hình 3.4: Mô hình phân rã thành phần kiến trúc tại cận biên - 2 2 2 25+: 56Hình 3.5: Mô hình phân rã thành phan kiến trúc các thiết bị cận biên - 56Hình 3.6: Thành phần trung tâm dit liệu đám mây - 2-2 +252+x+zxzzx+rxzzed 57Hình 3.7: K3S Cluster tại cận biên ¿2E E122 11111125311 111 19531111118 8531 11kg 58

Hình 3.8: Service tại cận ĐIÊ¡ G2 1 2201112231 111211112 1111181111101 1118111182 111gr 59

Hình 3.9: Thành phan thiết bị đầu cuối - 2-2 12E+2E‡EE£EE£EEEEEEEEEEEE2E22222E xe, 60Hình 3.10: Phân rã chức năng bản điều khiển trên Cloud 2¿©s¿25sz2zx+25s+2 62Hình 3.11: Mô hình xây dựng bản điều khiển trên Cloud 2-2 s22 s+zs+csze: 62

Hình 3.12: Sơ đồ phân rã chức năng cho ứng dụng tại Edge -¿22sz+cz+se+- 63

Hình 3.13: Mô hình chức năng điểm danh - 2-5 2 E2EE£EE£2EE£EEtEEE2EEvEEzerxerreer 63Hình 3.14: Mô hình chức năng giám sát vi phạm luật giãn cách 55555552 64

Hình 3.15: Sơ đồ tổng thể hệ thống MLOps - 2-22 2£ E£+EE£EE£2EE£EEZEESEErrErrrrrres 67

Hình 3.16: Thành phan lớp ML Development trong MLODps 2- 2-2 s52: 69Hình 3.17: Bảng điều khiển Weight and Biases 2-5-5522 2E 2 2 21222 re 69

Hinh 3.18: Jupyter Lab cece ‹443 70

Hình 3.19: Thanh phan lớp Training Operationalization trong MLOps - 70

Hình 3.20: Thành phần lớp Model Deployment trong MLOps -2- 5: 5z: 71Hình 3.21: Thanh phần lớp Monitoring trong MLOps - 2-252+sz+5++s++£zzce+2 72Hình 3.22: Mô hình triển khai cơ sở hạ tang dạng mã cho đề tài -5:5¿ 72Hình 4.1: Minh họa về COCO đatasSet c5 St SE SE SEEEEEEEEEEEEEEEEEESEEEErkrrrrrrrrrrrree 76Hình 4.2: YOLOX-nano mAP huấn luyện và đánh giá trên dataset COCO 76Hình 4.3: Sơ đồ tổng quan SDNOde 2 2£ ©5222E‡2E2EE2EE2E1221121122121122121.222 xe 77

Hình 4.4: Minh họa SDNode khi triển khai thực tẾ c-¿ 55ccccctrrtrrrrrrrrrrrrkee 78

Hình 4.5: Tổng quan về Wider MAFA balanced -s-+s+x++E+2Et2EtE2ErEzrxrrerreee 79Hình 4.6: Minh họa WiderFace dafaset - - c 1 221111221111 2931 111931 1119 111g ng rec 80

Hình 4.7: Minh họa về MAFA dataset cccccccescssssessesseseseeecsesscscseesesvsueacseatsvsusavsueacaveneaes 81

Hình 4.8: Minh hoạ LFW dafaset Q TT HS SH 11101 1111211 1n k1 kg kg kg 82

Hình 4.9: Hiệu suất của SFace so với các mô hình khác -c:cccccrree 83

Hình 4.10: Sơ đồ mô hình tổng quan 2: 2c 2 E2E£2EE£EE£2EE£EEEEEEEEEEESEErrkrrrkrres 83Hình 4.11: Mô hình triển khai thực tế của EMNode cccccccccveccrrrrrrreree 84

Hình 4.12: Module Terraform Jupyter - - - 22c 3261113211351 1E1EEEEkkrrkrrke 85

Hình 4.13: Jupyter Lab sau khi được triển khai bằng Terraform -2- 55252 86

Hình 4.14: Ma HCL dé xây dung EC2 Instance cho WebApp (Jupyter Lab cũng tương tự)

— he 87

Hình 4.15: Ansible playbook triển khai cấu hình cài đặt Docker và khởi chạy Dashboard

¬— 87

Hình 4.16: Mã nguồn nhận request từ Edge gửi đến và lưu vào database 89

Hình 4.17: Mã nguồn đăng nhập vào hệ thong ecceccecccsessessessessessessessessesseestsseeseeseaees 90

Hình 4.18: Mã nguồn lay thông tin người đùng - 2-22 2 +x2£z£EEt2EzeExerEerrxerrxee 91Hình 4.19: Cấu trúc thư mục Central Frontend - + x+x+Et+E+EeEx+Eerxzxrrrrrrersrxee 92Hinh 4.20: Trang dang 0n1 1 177 92

Hình 4.21: Trang theo dõi thông tin - 22 2223221351 13511511 3511511151111 rrre 93

Hình 4.22: Thông tin bang attendees được cập nhật từ Edge ¿ -5+ s5 << <<<+ 93

Hình 4.23: Kết quả lệnh Docker ps 2: 2 5£ ©5£+SE+EE£2EE£EE2EE2EE2E1221211221722222 2x2 94Hình 4.24: Ansible Role dé xây dựng K3S clusfer - 2-©52+52+£+2E+EzEzzzxzreee 94

thông tin K3S cluster sau khi chạy ansible -+S-cc++ccxsserssereses 95

Các file cau hình yaml cho Edge Services c.ccscccscsscessesssssessessessesessesesseeees 96

Mã nguồn nhận request tir Al-camera va gửi lên central-api - 97

Mã nguồn nhận request từ ai-api và gửi lên Cloud - 2 sec: 97

Thông tin Pod sau khi DepÏOy - - óc + + 3+3 EEEsEsirsrrrreerrree 98 Cac stage trên Gitlab CI cho Central Dashboard ở Cloud - 99

Giao diện pipeline Gitlab CÌ, - óc 5c 32331 E**ESEEEEESkErirsrerrrerrree 99

Cac stage Gitlab CI cho Edge API và Edge Models - -+-+ 100

Giao diện Pipeline Gitlab C|Ì, - 2c + c 32213311331 E3EEEEEESEEsrrsrerserrrses 100

Huấn luyện mô hình SVM - 2c SE EEEEEEEEEEEEEEEEEEEEEEEEErrrrrrrer 101

Khởi tao weight and biases dé ghi nhận log khi huấn luyện 101Ghi nhận thông s6 aCCUTACyy 2-2-2 SE2SE‡2E9EE£2E£EEEEEEEEEEEEEEEEErrkrrkrrreee 101Cấu hình config cho FMNOde c.scssscsscessesseessessesssessesssessesasessesseesseesssseess 102Cấu hình config cho SDNOođe 2: 2-52 SS22E22E‡EE£EEEEEEEEeEEerErrkrrrerreee 102Ave file track các Video €IO - óc th nh HH ngàn nh ưệt 103

dvc file track dataset khuôn mặt ¿+ 2c 22221131222 E£*32EESevxsseexeses 103

dve file track model cho FMNode nghiep 103

dvc file track model cho SDNOde ng, 104

File Dockerfile đóng gói mô hình ¿+22 + +22 + E+eEE+eEserseeseerseees 104

Pod K€elL ác ng HH HH HH HH HH HH HH HH 105

Config Deployment dé Keel có thé tự động Deploy Container Image mới vào

¬— 105

Log cho thay SDNODE được tự động deploy image mới bang Keel 105

Các thông số phần cứng trên EC2 o ecceccececceseesessessessessessessessessessessesseeseeeees 106LOgS Sih 1a A 106

Thông số kỹ thuật các thiết bị, máy chủ được thử nghiệm 108Giao điện Weight and Biases ghi nhận kết quả sau khi huấn luyện 109

Độ chính xác (Accuracy) của mô hình đánh giá trên tập test 109

Biểu đồ hiền thi các chỉ số đánh giá của mô hình - 2 25225: 110

Hình 4.53: Đường cong ROC của mô hình - c5 3+2 E +2 E + EE+eEEsxekrrrsreerrreree 110

Hình 4.54: Cấu hình toa độ các điểm biên cho việc chuyền đôi sang birdview 110

Hình 4.55: Màn hình giao diện web của SDNode khi thử nghiệm với video có sẵn 111

Hình 4.56: Màn hình giao điện web cua FMNode phát hiện gương mặt deo khẩu trang111

Hình 4.57: Màn hình giao điện web của FMNode khi phát hiện gương mặt không đeo khẩu

trang và tiến hành nhận diện - + 2 + +kÉEk‡EEEEEESEEEKEEESEEEEEEESEEEEEEEEEEEEEEESEtkerkrei 112

Hình 4.58: Bang so sánh FPS trung bình khi chạy các ứng dung mô hình máy học trên

DANH MỤC BANG

Bảng 2.1: So sánh kiến trúc container và virtual machine s- 2 s2sz+zx+zszzss2 37Bang 4.1: Kết quả đánh giá mô hình FaceMask Detection -222©sz+sz+s++xz+see2 81Bảng 4.2: Thông số hệ thống đo trên Jetson Nano khi chạy model Face Recognition 112Bang 4.3: Thông số hệ thống đo trên Jetson Nano khi chạy model Social Distancing 113Bảng 4.4: Test độ trễ phản hồi của các requests lên dịch vụ facemask tại biên (sử dụng

CONG CU 00:10 011117077 114

Bang 4.5: Thông số hệ thống đo trên Worker Raspberry khi chạy test 114

DANH MỤC TU VIET TAT

Từ viết tat Thuật ngữ

loT Internet of Things

AI Artificial Intelligence

ML Machine learning

VM ‘Virtual Machine

laC Infrastructure as Code

MLOps Machine learning Operation

SDNode Social Distancing Node

FMNode Face Recognition and Facemask

Node

K8S Kubernetes

Tw tiéng Anh Việt hóa

Internet of Things Công nghệ Internet vạn vật

Artificial Intelligence [Trí tuệ nhân tạo

Virtual Machine May ao

Infrastructure as Code |Cơ sở ha tang dạng ma

Edge Can bién

Cloud Trung tam dữ liệu dam mây

Training Dataset Tập dữ liệu huấn luyện (may hoc)

Pull Kéo (dữ liệu, mô hình may học, ảnh ảo hóa)

Container (Docker) image Anh ảo hóa Docker container

Server May chu

Client May khach

Service Dich vu

Controller Bộ điều khiénEnd devices Cac thiệt bi dau cuôi

Deploy Trién khai

Protocol Giao thức (mang)

Model (Machine learning) Mô hình máy hoc

Social Distancing Giãn cách xã hội

Face Recognition INhận diện khuôn mặt

TÓM TẮT KHÓA LUẬN

Tính toán cận biên (Edge Computing) là một kiến trúc điện toán đang dan phổ biến cho

việc tính toán, xử lý, lưu trữ, điều khiển tại cận biên, nhằm mục đích cải thiện hiệu năng

của kiến trúc client-server mà cụ thể là Cloud Computing

Các hệ thống cận biên tích hợp các tài nguyên có sẵn, tài nguyên mang ở ria mang, gateway

dé cung cấp cơ sở tính toán xử lý dữ liệu gần với người dùng nhất giảm tải khả năng xử lí

của Cloud đồng thời cân bằng tải hệ thống Hướng phát triển này được thúc day bởi sựbùng né của số lượng lớn thiết bị thuộc Internet of Things và công nghệ mang 5G

Ở đề tài này, nhóm sinh viên sử dụng mô hình học máy nhận diện khuôn mặt, tính toán

khoảng cách kết hợp với mô hình tính toán cận biên IoT dựa trên công nghệ ảo hóa gon

nhẹ container và áp dụng kiến trúc này vào ứng dụng cụ thể cho mục đích theo dõi giámsát hoạt động của con người trong tình hình dịch tế dịch bệnh Covid-19, đồng thời giải

quyết các van đề về việc vận hành, triển khai mô hình một cách tự động hóa nhờ vào các

kỹ thuật DevOps và MLOps.

Chương 1 GIỚI THIỆU

Ở chương này nhóm sẽ giới thiệu tổng quan đề tài bối cảnh cũng như lý do mà nhóm thực

hiện đề tài này Cũng các vấn đề gặp phải và mục tiêu hướng đến của đề tài

1.1 Tổng quan đề tài

1.1.1 Tổng quan về xu hướng IoT

Internet vạn vật (IoT-Internet of Things, đôi khi còn được giới thiệu là loE Internet of

Everything) là một khái niệm điện toán mô tả ý tưởng về các vật thể hàng ngày được kếtnối với Internet và có thé tự nhận dang chúng với các thiết bị khác Internet of Things gồmmột mạng lưới các thiết bi vật lý, thiết bị nhúng, cảm biến kết nối mang dé thu thập và traođổi dữ liệu IoT khiến cho các vật thé trở nên "thông minh" bằng cách làm cho chúng cókhả năng truyền đữ liệu và tự động hóa các tác vụ mà ít cần bat kỳ sự can thiệp thủ côngnào Một thiết bị loT có thé đơn giản như một thiết bị theo dõi sức khỏe, hoặc phức tapnhư một thành phố thông minh với các cảm biến trên tất cả các khu vực của nó Một trong

những vi dụ nôi bật nhất về IoT có lẽ là nhà thông minh Nó cho phép ta điều khiển mọi

thứ trong nhà - từ điều khiển nhiệt độ đến ánh sáng cho đến âm thanh vòm một cách dễdàng qua các giao diện ứng dụng hay giọng nói.

Về cơ bản, bất kỳ đối tượng nao có thể được kết nối với Internet và được kiểm soát theo

cách đó đều có thé được xem là thiết bị IoT.

2

Theo báo cáo từ "IoT Analytics Research" Trong năm 2020, lần đầu tiên số thiết bị loT

(smart car, thiét bi smart home ) duoc kết nối đã vượt qua các thiết bị non-IoT (điện thoại,

máy tính bảng) Hiện tại có khoảng 21,7 tỷ thiết bị đang được kết nối toàn thế giới, trong

đó có khoảng 11,7 tỷ (54%) là thiết bị loT Đến năm 2025, dự kiến sẽ có khoảng 30 tỷ thiết

bị IoT được kết nối với trung bình 4 thiết bị/người [1]

Thị trường IoT hiện tại đang dần được tăng trưởng mạnh Các phần mềm và nền tảng IoT

dự kiến sẽ tiếp tục thúc day thị trường khi nhiều dữ liệu được chuyền lên Cloud dé lưu trữ,

tính toán và xử lý, hướng đến áp dụng với các công nghệ Big Data, trí tuệ nhân tạo (AI) ởCloud Computing.

Thị trường toàn cầu cho Internet of Things (chi tiêu của người dùng cho các giải pháp IoT)

dự kiến sẽ tăng từ 151 tỷ đô la ở năm 2018 lên đến 1567 tỷ đô la ở năm 2025 [2]

° ANALY Tice insights that empower you to understand loT markets

s2 IOT ANA TICS

Total number of device connections (incl Non-loT)

2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020E 2021E 2022E 2023E 2024E 2025E

= Compound Annual Growth Rate (CAGR)

Note: Non-loT includes all mobile phones, tablets, PCs, laptops, and fixed line phones loT includes all consumer and B2B devices connected ~ see loT break-down

for further details

Source(s): loT Analytics - Cellular loT & LPWA Connectivity Market Tracker 2010-25.

Hình 1.2: Biéu đồ dự báo tổng thiết bị được kết nối đến năm 2025 /1/]

7ˆ IOT ANALYTICS August 2018 Insights that empower you to understand loT markets

Global loT Market Forecast

Global loT Market in $B

1,600¬

Hình 1.3: Biéu đồ dự đoán thị trường IoT đến năm 2025 ///]

1.1.2 Vai trò của Điện toán dam mây với IoT

Điện toán đám mây (Cloud Computing) đã là một xu hướng công nghệ rộng rãi phô biến,nơi đữ liệu được xử lý tập trung tại trung tâm đữ liệu, và đã trở thành một thành phần khôngthê thiếu trong thời đại Internet vạn vật (Internet of Things) khi ứng dụng vào tính toán xử

ly dữ liệu, phân tích, áp dung AI (trí tuệ nhân tao): Machine learning, Deep learning va Big

Data [3] Khi dit liệu từ Internet vạn vat được chuyên đến cơ sở ha tang đám mây (Cloud),

dữ liệu sẽ được lưu trữ, phân tích và xử lý bằng cách sử dụng công cụ phân tích dữ liệu lớn

(VD: Azure Data Lake, Azure Databricks Service, AWS Big Data ) để đưa ra quyết định

tốt hơn Hoặc các phân tích có thể đơn giản như kiểm tra xem nhiệt độ phòng thí nghiệm

có năm trong phạm vi chấp nhận được hay phức tạp như xác định kẻ xâm nhập trong nhà

thông minh với sự trợ giúp của camera giám sát Dữ liệu được xử lý sau đó được sử dụng

dé thực hiện các hành động thông minh, ra quyết định tức thời, biến các thiết bị vật lý thôngthường thành các thiết bị đặc biệt thông minh

Integration of cloud computing and internet of things

xáo II HE

Industrial, transport, environmental &

Smart city Hame automation

Hinh 1.4 Vai tro cua dién toan dam may

1.2 Tuyên bố vấn dé

1.2.1 Phát biểu vấn đề

Từ vaccine Covid-19 cho đến những tiễn bộ trong học máy (Machine learning), AI, nhữngcải tiến về Wifi, 5G và y học từ xa, các chuyên gia kỳ vọng sẽ có một bước chuyền mới

đối với chăm sóc sức khỏe đó là “lấy con người làm trung tâm” vào năm 2021 Cùng với

AI và Edge Computing sẽ đưa chúng ta đến với kỉ nguyên mới, ứng dụng vào các van dé

nhức nhôi của xã hội.

Ở thời điểm hiện tại và trong tương lai, lượng dữ liệu rất lớn sẽ được sinh ra từ Internetvạn vật (IoT) trong đời sống hàng ngày của chúng ta từ các lĩnh vực: nông nghiệp, môitrường, sức khỏe, y tế, tự động hóa công nghiệp, xây dựng, giao thông Ở năm 2016, ditliệu đã được sinh ra bởi mọi người, máy và vạn vật là 220 zettabytes, ước tính sẽ lên đếnhon 850 zettabytes vào năm 2021 Và đến năm 2025, số thiết bị kết nối mang ứng dụng

IoT sẽ lên đến hơn 30 tỷ thiết bị trên toàn thế giới [4] Trong đó, có các ứng dụng IoT can

bảo mật dữ liệu cao, một số yêu cầu phải có thời gian phản hồi ngắn, còn một số thì sẽ sản

sinh ra một lượng dữ liệu rất lớn Điện toán đám mây không đủ hiệu qua dé hỗ trợ các ứng

dụng này.

Để đáp ứng các yêu cầu về thời gian phản hồi, năng lượng tiêu thụ của thiết bị, lưu lượng

băng thông đường mạng và van đề dit liệu nhạy cảm, tính toán cận biên là một lựa chọn

hiệu quả để hỗ trợ và giải quyết vấn đề cho điện toán đám mây [4] Tính toán cận biên

hướng đến áp dụng các công nhất có thê “Can/canh biên” ở đây dé cập đến sự phân tán cơ

sở hạ tầng, “cạnh” có thể là những thiết bị, máy tính, hay bất kì tài nguyên có thê xử lý tính

toán ở trung gian, đứng giữa trong quá trình truyền dữ liệu từ nguồn dữ liệu và trung tâm

dữ liệu ở điện toán đám mây (Cloud).

Edge Computing

INTERNET OF THINGS

Hình 1.5 Hình minh họa cho Điện toán cận biên

Ví dụ: một gateway trong nhà thông minh là “cận biên” giữa những thiết bị thông minh

trong nhà và Cloud, một chiếc điện thoại thông minh được xem là “cạnh” giữa nguồn dữliệu sinh ra từ con người và Cloud.

Cận biên có thé thực hiện giảm tải tính toán ở Cloud, lưu trữ dữ liệu, caching, tính toán và

xử lý cũng như giúp độ trễ phản hồi được giảm xuống, băng thông hiệu quả hơn, trải nghiệmdịch vụ từ điện toán đám mây đến người dùng tốt hơn

Một trong những cách để có thể tận dụng lợi thế của tính toán cận biên là khai thác việc sửdụng container đề triển khai những ứng dụng xử lý dữ liệu tại cận biên Việc áp dụng công

nghệ ảo hóa gọn nhẹ, các giải pháp dựa trên container dang trở nên phổ biến dé cung cấp

các dịch vụ cho hệ thống IoT bi hạn chế tài nguyên [1] Công nghệ ảo hóa container chophép tài nguyên phần cứng được tách rời khỏi phần mềm, cho phép phần mềm được đónggói thực thi trên nhiều kiến trúc phần cứng So với các giải pháp ảo hóa bằng Hypervisor,công nghệ container cung cấp nhiêu lợi ích như trong việc xây dựng nhanh, gọn nhẹ và tôi

ưu tài nguyên phần cứng, phủ hợp cho việc khởi tạo ứng dụng nhanh tại cận biên Khôngnhững thế, khi kết hợp công nghệ ảo hóa container với công nghệ điều phối quản trịcontainer (Docker Swarm, Kubernetes ) sẽ giúp cho việc điều phối, giám sát, tự động triển

khai mở rộng, cân băng tai, cập nhật ứng dụng nhanh cho một lượng lớn container trở

nên dé dàng hơn.

Từ những ưu điểm trên của tính toán cận biên, kết hợp với sức mạnh của những mô hình

máy học, nhóm sẽ triển khai hệ thống giám sát con người trong tình hình dịch bệnh

Covid-19 (mặc dù tại thời điểm hoàn thành khóa luận, dịch bệnh đã qua đi, nhưng những ứngdụng như vậy vẫn rat cần thiết), kết hợp với Machine learning Operation dé xây dựng một

hệ thống máy học liên tục từ phát triển (development) tới hiện thực (production) một cáchnhanh chóng, tin cậy Việc triển khai sẽ được tự động hóa nhờ vào các công cụ laC

(Infrastructure as Code).

1.2.2 Mục tiêu hướng đến

- Tim hiểu, lập trình, xây dựng các ứng dụng xử lý dữ liệu tại cận biên áp dụng công

nghệ ảo hóa container dé giải quyết các khó khăn trong mô hình Cloud-IoT truyền

thống: vấn đề về độ trễ phản hồi, giảm tải tính toán ở trung tâm dữ liệu đám mây,

áp dụng ứng dụng trí tuệ nhân tạo đề phân tích, tiền xử lý tại rìa cận biên, ứng dụngcác kỹ thuật dé triển khai tự động hóa mô hình

- Tìm hiểu công nghệ và triển khai các ứng dụng đã được xây dựng, đóng gói trên

kiến trúc hạ tầng dựa trên công nghệ quản trị điều phối container: Kubernetes (K8S)

với mục tiêu tạo nên một nên tảng quan tri vững chắc với độ san sàng cao và dé

7

dàng mở rộng, tối ưu tài nguyên hệ thống; Cập nhật các phiên bản ứng dụng mới

trong hệ thống mà không cần thời gian downtime, dễ dàng mở rộng, hay thu nhỏ

khi cần thiết

Ứng dựng xây dựng một hệ thống giám sát tình hình dịch tế Covid-19 triển khai cáctiện ích nhận diện khuôn mặt, khoảng cách môt cách tự động hóa, độ chính xác

cao nhằm giảm bớt gánh nặng nhân lực cho bộ phận y tế

Danh giá hiệu suất hoạt động trên các kịch bản thực nghiệm cụ thể từ đó đưa ra kếtluận về khả năng áp dụng, tích hợp vào thực tế cũng như các hướng phát triển tiềm

năng trong tương lai.

Phương pháp luận

Phương pháp luận cho đề tài được trình bày qua việc phân tích thiết kế hệ thống qua thiết

kế mô hình phân rã cấu trúc hệ thống, đặc tả và thiết kế mô hình ngữ cảnh, thiết kế mô hình

luồng dữ liệu, thiết kế kiến trúc hạ tang cho hệ thống và các giải thuật sử dụng

Kết quả định lượng được ghi nhận qua các lần đánh giá, kiêm thử hệ thống ở các kịch bảnkhác nhau Từ đó so sánh và đưa ra kết luận Các kịch bản đánh giá, kiểm thử bao gồm:

Định lượng thời gian phản hồi: đánh giá thời gian phản hồi thực thi các dụng ở phíatrung tam dir liệu mà không thông qua mô hình hệ thống xử ly cận biên, đánh giáthời gian phản hôi thực thi các dung ở hệ thống xử lý cận biên

Thời gian xử lý, trả về kết quả của các ứng dụng trí tuệ nhân tạo tại cận biên.

Đánh giá hiệu năng, đo thông số RAM, CPU, Disk tương ứng với số lượng yêu cầu(requests) tương ứng.

So sánh các thông số RAM, CPU, Disk khi thực thi ứng dụng trên các kiến trúc chipkhác nhau: Intel, ARM

1.4. Phạm vi và giới hạn đề tài

1.4.1 Phạm vi và đối tượng nghiên cứu

Trong phạm vi của đề tài này, đối tượng nghiên cứu bao gồm:

Nền tảng điện toán đám mây: AWS

Nền tảng CI/CD: Gitlab

Version control: Github, DVC

Nén tang IsaaC: Terraform, AnsibleCông nghệ ao hóa và điều phối ảo hóa: Docker, Containerd (runtime), Kubernetes

K8S, K3S.

Các thiết bị phan cứng: EDGE node: Raspberry Pi 3B, 3B+, Jetson nano, Raspberry

Pi camera v2.

Ngôn ngữ lập trình: Python (thư viện OpenCV, ONNX Runtime ), Javascript

(NodeJS/Express framework, http, css, socket-io ).

Cac cong cu danh gia thir nghiém: htop, jtop, dtop, locust va tu viét img dungphục vụ cho việc đánh giá, thử nghiệm.

1.4.2 — Giới hạn của đề tài

Hệ thống vẫn đang trong giai đoạn đầu xây dựng, phát triển cũng như thời giannghiên cứu hạn chế nên đề tài có giới hạn nhất định

Giới hạn về Kiến thức về trí tuệ nhân tạo, kĩ thuật máy học, kiến thức về Thị giácmáy tính, bộ dữ liệu dataset cho việc huấn luyện

Giới hạn về phần cứng, số lượng thiết bị, để đánh giá hiệu quả của đề tài phải sử

dụng dữ liệu sinh ra từ các công cụ mô phỏng, camera độ phân giải không cao

-không phù hợp với phạm vi -không gian lớn.

1.5 Cấu trúc Khóa luận

Chương 1: Giới thiệu trình bày tổng quan về xu hướng IoT và vai trò của điện toán đámmây với IoT Qua đó phát biểu van đề và mục tiêu hướng đến, đưa ra phương pháp tiếp cận

nghiên cứu, phạm vi và giới hạn của đê tai.

Chương 2: Các nghiên cứu và công nghệ liên quan trình bày về các nghiên cứu cũng như

các công nghệ đã, đang được triển khai trên thé giới, các hướng tiếp cận và sơ lược các xuhướng nghiên cứu hiện nay Bên cạnh đó, nhóm trình bày về cơ sở lý thuyết và hướng tiếpcận giải pháp kỹ thuật, công nghệ mà đề tài thực hiện

Chương 3: Phương pháp luận, nghiên cứu Chương này trình bày chỉ tiết các quá trình phântích và thiết kế kiến trúc hệ thống đề xuất, là cơ sở dé hiện thực ở Chương 4

Chương 4: Triển khai, kiểm tra, kết quả và đánh giá Chương này trình bày chỉ tiết các quytrình thực hiện kỹ thuật được sử dụng dé hiện thực kiến trúc đã đề xuất và thiết kế ở Chương

3 Bên cạnh đó, Chương 4 còn trình bày cách xây dựng các kịch bản thử nghiệm cũng như

kết quả đánh giá, so sánh khi ứng dụng hệ thông đã phát triển vào trường hợp cụ thé.

Chương 5: Kết luận và hướng phát trién Tổng kết dé tài và những hướng nghiên cứu dựkiến tiếp tục phát triển trong tương lai

10

Chương 2 CÁC NGHIÊN CỨU KHOA HỌC VÀ CÔNG NGHỆ LIÊN QUAN

Nội dung chương này sẽ giới thiệu về các xu hướng nghiên cứu và công nghệ liên quan

trên thế giới, các hướng tiếp cận và phân loại các hệ thống tính toán cận biên, các công

nghệ, nền tảng Cũng như các kỹ thuật, hướng tiếp cận với đề tài

2.1 _ Tống quan về hệ thống tính toán cận biên

Hiện nay, với sự phát triển của Internet vạn vật (IoT) và sự phát triển của công nghệ mạng4G/5G đã thay đôi cách chúng ta xử lý và phân tích dữ liệu Edge Computing — Tính toán

cận biên ra đời, điện toán biên là một mô hình điện toán phân tán mang việc tính toán và

lưu trữ dữ liệu đến gần hơn với các nguồn dit liệu Điều nay được kỳ vọng sẽ cải thiện thời

gian phản hồi và tiết kiệm băng thông "Một quan niệm sai lầm phổ biến là edge và IoT

đồng nghĩa với nhau” [5]

Cùng xét qua các ưu diém của Tính toán cận biên so với cách xử lý toàn bộ ở trên Cloud

(Cloud Computing) như thông thường:

- _ Tốc độ: Một điểm yếu của Cloud Computing là dữ liệu đó phải được gửi đến cho

Trung tâm dữ liệu của Amazon hoặc Google xử lý Edge Computing sẽ giup ta giải

quyết vấn đề này Bằng cách thu thập và xử lý thông tin quan trọng ngay tại thiết bị

11

cận biên trước khi được tổng hợp, xử lý thêm nếu cần và gửi tới trung tâm đữ liệu

trên Cloud nên tốc độ tính toán sẽ rất nhanh

Bảo mật: Với Cloud Computing, đữ liệu cần đến được Cloud đề xử lý, trong quátrình truyền có thể xảy ra các vấn đề bảo mật (man-in-the-middle attack - bắt cácpacket đã được truyền đi ) Mặc dù các đường truyền phần lớn đều được mã hoá,

nhưng chúng ta không thể hoàn toan tin tưởng 100% được Với Edge Computing,

các đữ liệu nhạy cảm, quan trọng có thê sẽ được xử lý ngay tại phần biên, góp phầnbảo vệ dit liệu của bạn tốt hơn

Tính sẵn sàng: Với Cloud Computing, các quá trình tính toán hoàn toàn phụ thuộc

vào dịch vụ Cloud, vì thế khi xảy ra các van đề về đường truyền Internet, hay cácvấn đề xảy ra ở Cloud, ta không thể tiếp tục thực hiện việc tính toán, mọi thứ dừnglại hoàn toàn Nhưng với Edge Computing, việc tính toán sẽ được chia ra ở phầnbiên và phần Cloud, khi I trong 2 thành phần gặp lỗi, ta vẫn có thé thực hiện tinhtoán Nếu lỗi xảy ra ở Cloud, các công việc xử lý ở biên vẫn diễn ra, nhưng việc gửi

dữ liệu lên Cloud sẽ được hoãn lại Nếu lỗi xảy ra 6 Edge, mô hình sẽ quay trở lại

Cloud Computing (nếu đã được config từ trước).

Băng thông: Việc hàng trăm, hàng nghìn các thiết bị IoT kết nối vào chung mộtmạng, từ đó truyền tải một dữ liệu không lồ đến Trung tam dit liệu ở Cloud sẽ dẫnđến hai vấn đề, một là sẽ tốn dung lượng băng thông đáng kể, lượng dữ liệu nhiềucũng đồng nghĩa với tốc độ sẽ chậm hơn Hai là sẽ xảy ra tình trạng "nghẽn cô chai",

khi có quá nhiều đữ liệu được đây đến các Trung tâm dữ liệu của Amazon hay

Google, dẫn đến khả năng lỗi hoặc kết quả sẽ bị xử lý và trả về chậm Việc áp dụngEdge Computing sẽ giải quyết được van dé nay Như đã nói ở trên, một phan thôngtin quan trọng hoặc cần thiết đã được xử lý tại các trung tâm đữ liệu nhỏ nội bộ hoặcchính thiết bị Dẫn đến số thông tin chuyền đến Trung tâm dữ liệu chính sẽ nhỏ lại,băng thông sẽ được giảm xuống và tốc độ truyền tải sẽ nhanh hơn

12

2.2 Cac dự án tính toán cận biên

2.2.1 Dự an Span Edge

Xử lý tín hiệu streaming là một loại ứng dung quan trọng trong tính toán cận biên, trong

đó dữ liệu được tạo bởi các nguồn dữ liệu khác nhau ở các vi trí địa ly khác nhau va được

truyền liên tục dưới dạng luồng streaming Theo truyền thống, tất cả đữ liệu thô được truyền

qua mang LAN đến máy chủ của trung tâm dit liệu và các hệ thống xử lý luồng, như Apache

Spark và Flink, cũng được thiết kế và tối ưu hóa cho một trung tâm dữ liệu tập trung.

SpanEdge [6] là một dự án nghiên cứu của Viện Công nghệ Hoang gia ở Thụy Điền Nó

hợp nhất node trung tâm đám mây và node trung tâm gần rìa cận biên, giảm độ trễ mạng

trong các kết nối WAN và cung cấp môi trường lập trình cho phép chương trình chạy gầnnguồn dữ liệu Các nhà phát triển có thé tập trung vào phát triển phát trực tuyến các ứngdụng mà không xem xét nơi các nguồn dữ liệu được đặt và phân phối

2nd tier Spoke-Worker

2.2.2 Dự án Cloudpath

Cloudpath là một hệ thống tính toán cận biên được đề xuất bởi đại học Toronto Mô hìnhcủa dự án:

- _ Ở phân dưới cùng là các thiệt bị đầu cuôi của người dùng.

- Tang trên cùng là trung tâm dit liệu Cloud

Hệ thống phân loại các nhiệm vụ của trung tâm dữ liệu theo path dé hỗ trợ các loại ứngdụng khác nhau, chăng hạn như tổng hop đữ liệu IoT, lưu trữ dữ liệu cache và dịch vụ xử

lý dữ liệu Các nhà phát triển dé liệu có thé chọn một kế hoạch triển khai phân cấp tối ưu cho các dịch vụ của họ bằng cách xem xét các yếu tô như chi phí, độ trễ, tài nguyên sẵn có

của hệ thống và vị trí địa lý Cloudpath mở rộng lớp lưu trữ cho toàn bộ các nút trung tâm

dữ liệu dọc theo path, giúp giảm sự phức tạp của việc triển khai ứng dụng bên thứ ba

Hinh 2.3: M6 hinh du an Cloud Path

2.2.3 Xu hướng nghiên cứu hiện nay

Theo IEEE Computer Society, Trí tuệ nhân tạo — Artificial Intelligence tai Edge đang là

một trong những xu hướng nghiên cứu nỗi bật nhất hiện nay Khi các kỹ thuật ngày càngtiến bộ dé tự động hoá các hoạt động, với sự giúp sức của các kỹ thuật Machine learning

14

giúp cho chúng ta ngày càng tối ưu được các quá trình xử lý Cùng với sự phát triển của

các thiết bị nhúng ngày càng tiến bộ và hệ thống mạng 4G/5G, các thiết bị cảm biến với

giá thành ngày càng ổn định Edge Computing và những nghiên cứu liên quan tới nó sẽ

tiếp tục trở thành xu hướng trong những năm tiếp theo và tác động lớn tới cuộc sống củachúng ta trong công việc hàng ngày (tự động hóa quy trình sản xuất, xe tự hành, camera

thông minh, xử ly ngôn ngữ tự nhién ).

Trong đề tài này nhóm cũng sẽ hướng tới việc phát triển hệ thống tính toán cận biên cùng

với trí tuệ nhân tạo ở phan cận biên Đồng thời giải quyết các van đề mà phần lớn các dự

án đều gặp khó khăn, đó là quy trình xây dựng tự động hóa, triển khai nhanh chóng, nhất

là trong tình hình dịch bệnh (Covid — 19).

2.2.4 Các sản phẩm hỗ trợ phòng chống Covid-19 trên thị trường

2.2.4.1 COVID19 Mask Detection của Pinnacle Solutions

Mô hình được phát triển và thử nghiệm bởi Scott Koval về khả năng phat hiện xem anh ấy

có đeo khẩu trang hay không Các mô hình được viết bằng Python và chạy trên Bộ công

cu NVIDIA Jetson Nano Dev.

load mode! save model Ly

Hình 2.4: Demo san phẩm nhận diện đeo khẩu trang của Pinnacle Solutions /7/

15

Hình 2.5: Demo sản phâm nhận diện không đeo khẩu trang của Pinnacle Solutions /7]

2.2.4.2 Hanwha Techwin’s COVID-19 Solution

Các giải pháp thông minh của Hanwha Techwin được tích hop sẵn vào Wisenet AI camera

và dé dàng cài đặt và sử dụng thông qua hệ thống Internet có sẵn.

COVID-19 SOCIAL DISTANCING SOLUTION BỆ C2 TU NG, LỢC LAUI

DETECTION

« Real-time face mask detection

« Recognize

misworn face mask

Hình 2.6: Mô hình phát hiện đeo khẩu trang sai cua Hanwha Techwin /8/

16

DETECT AND CLASSIFY

VARIOUS COLORS, PATTERNS AND TYPES OF FACE MASK

Hình 2.8: Mô hình xác định giãn cách xã hội của Hanwha Techwin /8/

2.2.4.3 COVID-19 Countermeasure

Hệ thống phát hiện chính xác số lượng và vi trí của những người được camera mang chụp

lại trong thời gian thực, đồng thời tính toán khoảng cách giữa những người, mức độ đông

đúc và dòng người trong đám đông Nó cung cấp chức năng đưa ra cảnh báo khi mọi người

đến quá gần nhau, chức năng đếm số người trong một đám đông đề tránh gần nhau và chứcnăng hiên thị số người đã đếm trong biéu đồ Chức năng "cảnh báo mức độ gần" phù hợp

17

dé sử dụng trong văn phòng và bệnh viện, trong khi chức năng "thống kê lưu lượng đám đông" lý tưởng cho các cơ sở công cộng, cơ sở thương mại và địa điểm tổ chức sự kiện yêu

cau hiệu biết chính xác về tinh trạng tắc nghẽn dựa trên số lượng và mật độ người Nó cũng

có thể được sử dụng như một công nghệ có thể cung cấp sự an toan và bảo mật khi xây

dựng các thành phố thông minh [9]

VIDEO KHÁC

Hình 2.9: Demo xác định giãn cach của giải pháp COVID-19 Countermeasure /97

2.3 Cơ sở lí thuyết và hướng tiếp cận đề tài

2.3.1 Nền tảng trí tuệ nhân tạo

Trí tuệ nhân tao là xu hướng mới của công nghệ bằng cách mô phỏng lại trí thông minhcủa con người giúp ứng dụng hoạt động linh hoạt hơn, nâng cao hiệu suất, giảm thời gianxây dựng thiết kế

Máy học là phương pháp tiếp cận để xây dựng trí thông minh nhân tạo bằng các mô hình

toán học nhằm tìm ra các tham số mô hình phù hợp từ việc tính toán (học) dựa trên dữ liệu

thu thập Ứng dụng cơ bản nhất của máy học là dự đoán (prediction) và phân loại

(classification)

18

Học sâu là một hướng tiếp cận của máy học nhưng sử dung mô hình là các mạng neural

(mô phỏng mạng neural của con người) dé tính toán mô hình, tùy vào kiến trúc của mang

mà sẽ có số lượng tham số và độ phức tạp khác nhau, do tính chất phúc tạp của mạng nên

thời gian huấn luyện trainning sẽ lâu hơn các phương pháp máy học cơ bản nhưng sẽ đemlại độ chính xác mô hình rất cao và phù hợp với các mô hình phức tap trong thực tế

Thị giác máy tính là một nhánh của trí tuệ nhân tạo nhăm mô phỏng thị giác của con người.Thị giác máy tính sử dụng các kĩ thuật xử lí hình ảnh, phát hiện đặt trưng nhằm trích xuấtthông tin từ hình ảnh Một số ứng dụng phổ biến: nhận diện khuôn mặt, giám sát giaothông Hiện nay nhờ vào sự pháp triển của học sâu, các mô hình thị giác máy tính ngày

càng chính xác và giải quyêt được nhiêu vân dé phức tạp.

2.3.1.1 Nền tảng máy học

Mô hình Support Vector Machine (SVM)

SVM là viết tắt của cụm từ support vector machine Đây là một thuật toán khá hiệu quả

trong lớp các bài toán phân loại nhị phân và dự báo của học có giám sát Thuật toán này có

ưu điểm là hoạt động tốt đối với những mẫu dữ liệu có kích thước lớn và thường mang lạikết quả vượt trội so với lớp các thuật toán khác trong học có giám sát

Ưu điểm của SVM đó là:

- _ Đây là thuật toán hoạt động hiệu qua với không gian cao chiều (high dimensional

Spaces).

- _ Thuật toán tiêu tốn ít bộ nhớ vi chỉ sử dụng các điểm trong tập hỗ trợ dé dự báo

trong hàm quyết định

- Ching ta có thé tạo ra nhiều hàm quyết định từ những ham kernel khác nhau Thậm

chí sử dụng đúng kernel có thê giúp cải thiện thuật toán lên đáng kẻ

Chính vì tính hiệu quả mà SVM thường được áp dụng nhiều trong các tác vụ phân loại và

dự báo, cũng như được nhiều công ty ứng dụng và triển khai trên môi trường production.

Chúng ta có thê liệt kê một số ứng dụng của thuật toán SVM đó là:

19

- M6 hình chan đoán bệnh Dựa vào biến mục tiêu là những chỉ số xét nghiệm lâm

sảng, thuật toán đưa ra dự báo về một số bệnh như tiêu đường, suy thận, máu nhiễm

mỡ

- Trước khi thuật toán CNN va Deep Learning bùng né thì SVM là lớp mô hình cực

kì phé biến trong phân loại ảnh

- M6 hình phân loại tin tức Xác định chủ dé của một đoạn văn bản, phân loại cảm

xúc văn bản, phân loại thư rác.

- M6 hình phát hiện gian lận.

Margin là khoảng cách giữa siêu phăng đến 2 điểm dit liệu gần nhất tương ứng với các

phân lớp Trong ví dụ quả táo quả lê đặt trên mặt bán, margin chính là khoảng cách giữa

cây que và hai quả táo và lê gần nó nhất Điều quan trọng ở đây đó là phương pháp SVM

luôn cố gắng cực đại hóa margin này, từ đó thu được một siêu phăng tạo khoảng cách xa

nhất so với 2 quả táo và lê Nhờ vậy, SVM có thể giảm thiểu việc phân lớp sai

(misclassification) đối với điểm dit liệu mới đưa vào [10]

Các metric đánh giá mô hình máy học cho bài toán phân lớp

True Positive (TP) là khi bạn dự đoán một quan sát thuộc về một lớp và nó thực sự thuộc

đoán trên dữ liệu thử nghiệm của mình và sau đó xác định từng dự đoán là một trong bốn

kêt quả có thê được mô tả ở trên.

Prediction

True Label

true positives

Hình 2.10: Vi dụ về Ma trận nhằm lẫn (Confusion Matrix) /7//]

Accuracy được định nghĩa là tỷ lệ phần trăm dự đoán đúng cho dữ liệu thử nghiệm Nó có

thé được tính toán dé dang bằng cách chia số lần dự đoán đúng cho tổng số lần dự đoán.

TP+TN

A =

COUTACY ~ TP + TN + FP + FN

Precision được định nghĩa là phan nhỏ của các vi dụ có liên quan (dương tính thực sự)

trong số tat cả các ví du được dự đoán là thuộc một lớp nhất định.

Recall = TP +FN

F1 kết hợp độ chính xác và thu hồi một trình phân loại thành một số liệu duy nhất bangcach lấy gia trị trung bình của chúng Nó chủ yếu được sử dụng dé so sánh hiệu suất củahai phân loại Giả sử rằng Trình phân loại A có thu hồi cao hơn và trình phân loại B có độ

ưu tiên tốc độ suy luận và các mô hình ví dụ bao gồm YOLO, SSD và RetinaNet Phương

pháp hai giai đoạn ưu tiên độ chính xác phát hiện và các mô hình ví dụ bao gồm Faster CNN, Mask R-CNN và Cascade R-CNN.

R-Bộ dataset đánh giá phô biến nhát là bộ đữ liệu MSCOCO Các mô hình thường được đánh

giá theo Mean Average Precision (mAP) metric [12]

Phan loai anh lién quan đến việc dự đoán lớp của một đối tượng trong ảnh Bản địa hóa đối

tượng đề cập đến việc xác định vị trí của một hoặc nhiều đối tượng trong hình ảnh và vẽnhiều hộp xung quanh phạm vi của chúng Phát hiện đối tượng kết hợp hai tác vụ này vàbản địa hóa và phân loại một hoặc nhiều đối tượng trong một hình ảnh [13]

Phân loại ảnh: Dự đoán kiểu hoặc lớp của một đối tượng trong ảnh

- Pau vào: Một hình anh với một đối tượng duy nhất, chăng hạn như một bức ảnh.

- Pau ra: Nhãn lớp (ví dụ: một hoặc nhiều số nguyên được ánh xa tới nhãn lớp)

22

Bản địa hóa đối tượng: Định vị sự hiện diện của các đối tượng trong một hình ảnh và chỉ

ra vị trí của chúng bang một hộp giới hạn

- Pau vào: Một hình ảnh có một hoặc nhiều đối tượng, chăng hạn như một bức ảnh

- Đầu ra: Một hoặc nhiều hộp giới hạn (ví dụ: được xác định bởi một điểm, chiều

rộng và chiêu cao).

Phát hiện đối tượng: Dinh vi sự hiện diện của các đối tượng bằng hộp giới hạn và các loại

hoặc lớp của các đối tượng được định vị trong một hình ảnh

- Pau vào: Một hình ảnh có một hoặc nhiều đối tượng, chăng hạn như một bức ảnh

- Pau ra: Một hoặc nhiều hộp giới hạn (ví dụ: được xác định bởi một điểm, chiều

rộng và chiêu cao) và nhãn lớp cho moi hộp giới han.

Một phần mở rộng hơn nữa về sự phân hủy này của các tác vụ thị giác máy tính này là

phân đoạn đối tượng, còn được gọi là "phân đoạn cá thê đối tượng" hoặc "phân đoạn ngữ

nghĩa", nơi các trường hợp các đối tượng được nhận dang được biéu thị bang cách tô sáng

các pixel cụ thé của đối tượng thay vì hộp giới han thô