luận án tiến sĩ nghiên cứu xây dựng mô hình mạng nơ ron xung trọng số nhị phân hướng tới thực thi trên kiến trúc tính toán trong bộ nhớ

DANH MĀC CÁC KÝ HIàU, CÁC CHĀ VI¾T TÂT ÿ Hệ sá tỉ lệ cÿa bá t¿o sá stochastic SNG �㔑 Hệ sá damping cÿa thuật toán gradient thay thế �㔎 Đá lệch chu¿n, lãp chu¿n hóa theo batch BN �㔇 Giá t

Bà GIÁO DĀC VÀ ĐÀO T¾O Bà QUàC PHÒNG

VIàN KHOA HàC VÀ CÔNG NGHà QUÂN SĂ/ BTTM

ĐINH VN NGàC

NGHIÊN CĄU XÂY DĂNG MÔ HÌNH M¾NG N¡-RON XUNG TRàNG SÞ NHÞ PHÂN H¯àNG TàI THĂC THI TRÊN

KI¾N TRÚC TÍNH TOÁN TRONG BÞ NHà

LUÀN ÁN TI¾N S) Kþ THUÀT

HÀ NÞI - 2024

Bà GIÁO DĀC VÀ ĐÀO T¾O Bà QUàC PHÒNG

VIàN KHOA HàC VÀ CÔNG NGHà QUÂN SĂ/ BTTM

LUÀN ÁN TI¾N S) Kþ THUÀT

NG¯äI H¯âNG DÀN KHOA HàC:

HÀ NÞI - 2024

LâI CAM ĐOAN

Tôi xin cam đoan đây là công trình nghiên cāu cÿa tôi Các sá liệu, kết quÁ trình bày trong luận án là hoàn toàn trung thực và ch°a đ°ÿc công bá trong bất kỳ công trình nào khác Các dữ liệu tham khÁo đ°ÿc trích dÁn đầy đÿ

Hà Nội, ngày 22 tháng 04 năng 2024

Tác giÁ luÁn án

Đinh Vn Ngác

LâI CÀM ¡N

Luận án này đ°ÿc thực hiện và hoàn thành t¿i Viện Khoa hác và Công nghệ quân sự Låi đầu tiên, Nghiên cāu sinh xin chân thành bày tß lòng biết ¡n tãi các thầy PGS TS Bùi Ngác Mỹ và PGS TS Trßnh Quang Kiên đã tận tình h°ãng dÁn và giúp đỡ trong toàn bá quá trình hác tập, nghiên cāu và hoàn thành luận án

Nghiên cāu sinh trân tráng cÁm ¡n Ban giám đác Viện Khoa hác và Công nghệ quân sự; Thÿ tr°çng và cán bá, nhân viên Phòng Đào t¿o; Thÿ tr°çng và các ban chāc năng Viện Điện tử; Thÿ tr°çng Viện Công nghệ thông tin đã t¿o mái điều kiện thuận lÿi để nghiên cāu sinh hác tập, nghiên cāu và hoàn thành luận án

Nghiên cāu sinh chân thành cÁm ¡n các thầy cô giáo, các nhà khoa hác, các đồng nghiệp t¿i Viện Điện tử/ Viện Khoa hác và Công nghệ quân sự, Viện Công nghệ thông tin/ Viện Khoa hác và Công nghệ quân sự, Hác Viện kỹ thuật quân sự đã t¿o điều kiện giúp đỡ và có những ý kiến góp ý quý báu cho Nghiên cāu sinh trong quá trình thực hiện luận án này

Cuái cùng Nghiên cāu sinh xin bày tß låi cÁm ¡n tãi gia đình đã luôn đáng viên, chia sẻ, ÿng há, giúp đỡ Nghiên cāu sinh v°ÿt qua khó khăn trong suát quá trình nghiên cāu và hoàn thành luận án

Xin chân thành cÁm ¡n!

Tác giả luận án

Đinh Vn Ngác

MĀC LĀC

Trang

DANH MĀC CÁC KÝ HIàU, CÁC CHĀ VI¾T TÂT vi

DANH MĀC CÁC THUÀT NGĀ x

DANH MĀC CÁC BÀNG xiii

DANH MĀC CÁC HÌNH VẼ xiv

MỞ ĐÄU 1

Ch°¢ng 1 TàNG QUAN VÀ M¾NG HàC SÂU TRÊN PHÄN CĄNG NHÚNG TÀI NGUYÊN H¾N CH¾ VÀ TI¾T KIàM NNG L¯þNG 8

1.1 Hác sâu và các bài toán xử lý Ánh 8

1.1.1 Lßch sử phát triển trí tuệ nhân t¿o 8

1.1.2 Hác sâu và āng dāng 11

1.1.3 Các bài toán xử lý Ánh āng dāng hác sâu 13

1.1.4 Các tác vā trong bài toán phát hiện đái t°ÿng 14

1.2 Mát sá m¿ng hác sâu phù hÿp vãi phần cāng nhúng tiết kiệm năng l°ÿng và tài nguyên h¿n chế 18

1.2.1 Giãi thiệu hệ tháng nhúng 18

1.2.2 M¿ng n¡-ron nhß phân 23

1.2.3 M¿ng n¡-ron xung 27

1.2.4 M¿ng n¡-ron xung nhß phân 31

1.2.5 Tấn công và phòng thÿ đái nghßch 32

1.3 Tình hình nghiên cāu và các vấn đề còn tồn t¿i 36

1.3.1 CÁi thiện m¿ng n¡-ron xung nhß phân 36

1.3.2 Tấn công và phòng thÿ đái nghßch trên BNN và BSNN 40

1.3.3 Các vấn đề còn tồn t¿i 41

1.4 Đßnh h°ãng nghiên cāu cÿa luận án 43

1.5 Kết luận ch°¡ng 1 44

Ch°¢ng 2 M¾NG N¡-RON XUNG NHÞ PHÂN H¯àNG TàI CÁC THI¾T BÞ EDGE-AI 45

2.1 ¯ãc l°ÿng các tráng sá nhß phân 45

2.2 Đề xuất m¿ng n¡-ron xung vãi toàn bá tráng sá nhß phân 47

2.2.1 M¿ng n¡-ron xung vãi tráng sá nhß phân 48

2.2.2 Đề xuất mát m¿ng n¡-ron xung vãi tất cÁ tráng sá nhß phân 49

2.2.3 Đề xuất mát m¿ng n¡-ron xung nhß phân vãi b°ãc thåi gian không đồng nhất 55

2.2.4 Huấn luyện m¿ng n¡-ron xung vãi tráng sá nhß phân 57

2.3 Đề xuất kiến trúc tính toán trong bá nhã thực thi BSNN 63

2.3.1 Tính toán trong bá nhã 63

2.3.2 Tính MAC dựa trên phép tính XNOR 65

2.3.3 Tính toán BSNN dựa trên mÁng XNOR 67

2.4 Kết quÁ thực nghiệm trên các tập dữ liệu phân lo¿i Ánh 71

2.4.1 Cài đặt các tham sá huấn luyện 71

2.4.2 Ành h°çng b°ãc thåi gian 72

2.4.3 Ành h°çng hệ sá tỉ lệ cÿa SNG 74

2.4.4 Ành h°çng sá lần tích lũy t¿i lãp đầu tiên 75

2.4.5 Ành h°çng đá sâu cÿa cấu trúc m¿ng 77

2.4.6 Ành h°çng tính ngÁu nhiên cÿa khái SNG 77

2.4.7 Các kết quÁ đánh giá và so sánh BSNN 78

2.4.8 Hiệu quÁ cÿa các mô hình BSNN 80

2.5 Kết luận Ch°¡ng 2 83

Ch°¢ng 3 PH¯¡NG PHÁP CÀI THIàN KHÀ NNG PHÒNG THĂ M¾NG N¡-RON HàC SÂU TR¯àC CÁC TÂN CÔNG ĐÞI NGHÞCH 85

3.1 Tấn công và phòng thÿ đái nghßch trên các m¿ng n¡-ron sâu 85

3.1.1 Tấn công đái nghßch 85

3.1.2 Phòng thÿ đái nghßch 87

3.2 Đề xuất ph°¡ng pháp huấn luyện EFAT nhằm cÁi thiện khÁ năng phòng thÿ cho BNN tr°ãc các tấn công đái nghßch 89

3.3 Tấn công đái nghßch trên m¿ng n¡-ron nhß phân 91

3.3.1 Tấn công đái nghßch trên m¿ng n¡-ron nhß phân 92

3.3.2 Tấn công đái nghßch trên tập dữ liệu MNIST 95

3.3.3 Tấn công đái nghßch trên tập dữ liệu CIFAR-10 98

3.4 Tấn công đái nghßch trên m¿ng n¡-ron xung nhß phân 103

3.4.1 Tính toán gradient cho BSNN 104

3.4.2 Cài đặt thử nghiệm tấn công đái nghßch 108

3.4.3 Kết quÁ tấn công và phòng thÿ đái nghßch trên BSNN 110

3.5 Kết luận ch°¡ng 3 113

K¾T LUÀN 115

DANH MĀC CÁC CÔNG TRÌNH KHOA HàC ĐÃ CÔNG BÞ 118

TÀI LIàU THAM KHÀO 119

DANH MĀC CÁC KÝ HIàU, CÁC CHĀ VI¾T TÂT

ÿ Hệ sá tỉ lệ cÿa bá t¿o sá stochastic (SNG)

�㔑 Hệ sá damping cÿa thuật toán gradient thay thế

�㔎 Đá lệch chu¿n, lãp chu¿n hóa theo batch (BN)

�㔇 Giá trß trung bình, lãp chu¿n hóa theo batch (BN)

ÿ Tác đá hác (learning rate)

�㔏 Hệ sá đ°ÿc thêm vào mÁu sá để tránh chia 0

Ą Hệ sá nhiễu/ Kích th°ãc b°ãc nhiễu

ă Hệ sá khçi t¿o tấn công đái nghßch

Ă Tham sá chia tỷ lệ, lãp chu¿n hóa theo batch (BN)

ā Tham sá dßch chuyển, lãp chu¿n hóa theo batch (BN)

ÿ hoặc Y Nhãn đúng (truth label)

þ hoặc X Ành đầu vào ch°a thêm nhiễu

ý hoặc ÿ Bá tráng sá cÿa mô hình

ÿ Là sá ngÁu nhiên trong khoÁng [2ÿ; +ÿ]

Ć Là sá ngÁu nhiên trong khoÁng min(X) và max(X)

Ą Sá l°ÿng tráng sá t¿i mát lãp

ā Tổng sá tráng sá trong mát phép tính MAC

ÿ Hệ sá tích lũy t¿i lãp đầu tiên

þ Hàm mất mát cÿa mô hình (Loss)

�㔶 Sá lãp phân lo¿i cÿa tập dữ liệu

MP2 Lãp Max Pooling, kích th°ãc nhân là 2 × 2

Ā̅ Ng°ỡng thay thế cÿa n¡-ron IF

ĀĂ Hệ sá tỉ lệ (trung bình cÿa các giá trß tráng sá tuyệt đái

cÿa lãp Ă)

þÿ�㕎þă Ành đầu vào đã thêm nhiễu ç lần lặp thā ÿ

þÿ21�㕎þă Ành đầu vào đã thêm nhiễu ç lần lặp thā ÿ 2 1

þ�㕎þă Ành đầu vào đã thêm nhiễu

ýĂ Bá tráng sá giá trß thực cÿa lãp Ă

ýÿĀ Bá tráng sá kết nái giữa n¡-ron ÿ và n¡-ron Ā

ýÿ,Āā,Ă Bá tráng sá nhß phân [0, 1]

Ăÿā21 Điện thế màng cÿa n¡-ron ÿ t¿i b°ãc thåi gian ā 2 1

Ăÿā Điện thế màng cÿa n¡-ron ÿ t¿i b°ãc thåi gian ā

ąĀā Xung (spikes) đầu vào cÿa n¡-ron Ā t¿i b°ãc thåi gian ā ÿĄĆā Xung đầu vào t¿i b°ãc thåi gian ā

ĀýąĄă1 Đầu vào cÿa lãp đầu tiên

ÿýąĄă1180ÿąā�㕎āÿþ Bá tráng sá t¿i lãp đầu tiên đ°ÿc xoay 180 đá

āĂā21 Điện thế màng cÿa lãp Ă t¿i b°ãc thåi gian ā 2 1

āĂā Điện thế màng cÿa lãp Ă t¿i b°ãc thåi gian ā

ĂĀý_Ąÿÿā/āĀ Tổng sá tráng sá cÿa lãp kết nái đầy đÿ

Ă̅ÿā Điện thế màng thay thế

AI Trí tuệ nhân t¿o (Artificial Intelligence)

ALU Đ¡n vß lô-gic sá hác (Arithmetic Logic Unit)

ANN M¿ng n¡-ron nhân t¿o (Artificial Neural Network)

BN Lãp chu¿n hóa theo batch (Batch Normalization)

BNN M¿ng n¡-ron nhß phân (Binarized Neural Network) BPTT Backpropagation Through Time

BSNN M¿ng n¡-ron xung nhß phân (Binarized Spiking Neural

Network) CIFAR Canadian Institute For Advanced Research

CNN M¿ng n¡-ron tích chập (Convolutional Neural

Network) Conv Lãp tích chập (Convolutional)

Deep SNN M¿ng n¡-ron xung sâu (Deep Spiking Neural Network)

DNN M¿ng n¡-ron sâu (Deep Neural Network)

DRAM Bá nhã truy cập ngÁu nhiên đáng (Dynamic Random

Access Memory) Edge-AI Thiết bß biên có sử dāng trí tuệ nhân t¿o (Edge

Artificial Intelligence) EFAT Enhanced Fast Adversarial Training

FAT Fast Adversarial Training

FC Lãp kết nái đầy đÿ (Fully Connected)

FGSM Fast Gradient Sign Method

GAN M¿ng đái nghßch t¿o sinh (Generative Adversarial

Networks) GIS Hệ tháng thông tin đßa lý (Geographic Information

System)

IF Tích lũy và phát xung (Integrate-and-Fire)

IMC Tính toán trong bá nhã (In-Memory Computing)

IMC Tính toán trong bá nhã (In-Memory Computing)

IoT Internet v¿n vật (Internet of Things)

LIF Tích lũy và kích ho¿t có rò rỉ (Leaky

Integrate-and-Fire) MAC Phép nhân cáng (Multiply-Accumulate)

MLP Lãp Perceptron nhiều tầng (Multi-layer Perceptron) MNIST Modified National Institute of Standards and

Technology

PCM Bá nhã thay đổi pha (Phase-changing Memory)

PGD Projected Gradient Descent

QR code Mã đáp āng nhanh (Quick-Response code)

RAM Bá nhã truy cập ngÁu nhiên (Random Access Memory) ReLU Đ¡n vß tuyến tính chỉnh l°u (Rectified Linear Unit) ReRAM Bá nhã truy cập ngÁu nhiên điện trç (Resistive RAM) RNN M¿ng n¡-ron hồi quy (Recurrent Neural Network)

SD GiÁm gradient (Gradient Descent)

SG Gradient thay thế (Surrogate Gradient)

SGD Stochastic Gradient Descent

SNG Bá t¿o sá stochastic (Stochastic Number Generator) SNN M¿ng n¡-ron xung (Spiking Neural Network)

SOT-MRAM Spin Orbit Torque-Magnetoresistive RAM

SRAM Bá nhã truy cập ngÁu nhiên tĩnh

(Static Random Access Memory) STDP Spike Timing–Dependent Plasticity

STT-BSNN A Binarized Spiking Neural Network based on

STT-MRAM STT-MRAM Spin-transfer torque Magnetoresistive Random Access

Memory UAV Ph°¡ng tiện bay không ng°åi lái

(Unmanned Aerial Vehicle) UGV Ph°¡ng tiện mặt đất không ng°åi lái

(Unmanned Ground Vehicle) USV Ph°¡ng tiện mặt n°ãc không ng°åi lái

(Unmanned Surface Vehicle) UUV Ph°¡ng tiện không ng°åi lái d°ãi biển

(Unmanned Undersea Vehicle)

DANH MĀC CÁC THUÀT NGĀ

BÁn đồ đặc tr°ng (Feature map) Thông tin đặc tr°ng cÿa dữ liệu sau mßi

lãp cÿa m¿ng n¡-ron nhân t¿o

B°ãc thåi gian (Time-step) Sá lần tích lũy trong m¿ng n¡-ron xung Đầu ra đúng (Ground truth) Là giá trß đúng cÿa đầu ra tập dữ liệu Điện thế màng

(Membrane potential)

Giá trß tích lũy cÿa ron trong m¿ng ron xung

n¡-Hệ sá giÁm lần (Damping factor) Mát hệ sá cÿa thuật toán gradient thay thế

dùng để tính xấp xỉ gradient trong huấn luyện m¿ng n¡-ron xung

Huấn luyện (Training) Quá trình tìm ra bá tráng sá tái °u cÿa các

m¿ng n¡-ron nhân t¿o

KhÁ năng phòng thÿ

(Robustness)

Là khÁ năng cÿa m¿ng n¡-ron có thể duy trì đá chính xác tr°ãc các tấn công đái nghßch

Lãp ¿n (Hidden layer) Các lãp ¿n ç giữa cÿa m¿ng n¡-ron nhân

t¿o Lãp chu¿n hóa theo batch

(Batch normalization)

Mát lãp cÿa m¿ng n¡-ron nhân t¿o dùng

để chu¿n hóa dữ liệu theo nhóm (batch) Lãp cuái cùng (Last layer) Là lãp cuái cùng (lãp đầu ra) cÿa m¿ng

n¡-ron nhân t¿o Lãp đầu ra (Output layer) Là lãp cuái cùng (lãp đầu ra) cÿa m¿ng

n¡-ron nhân t¿o

Lãp đầu tiên (First layer) Là lãp đầu tiên (lãp đầu vào) cÿa m¿ng

n¡-ron nhân t¿o Lãp đầu vào (Input layer) Là lãp đầu tiên (lãp đầu vào) cÿa m¿ng

n¡-ron nhân t¿o Lãp gáp cực đ¿i (Max pooling) Mát lãp cÿa m¿ng n¡-ron nhân t¿o dùng

để giÁm kích th°ãc cÿa đầu vào bằng cách lựa chán giá trß lãn nhất

Lãp gáp trung bình

(Average pooling)

Mát lãp cÿa m¿ng n¡-ron nhân t¿o dùng

để giÁm kích th°ãc cÿa đầu vào bằng cách lựa chán giá trß trung bình

Lãp kết nái đầy đÿ

(Fully connected layer)

Mát lãp cÿa m¿ng n¡-ron nhân t¿o vãi tất

cÁ n¡-ron đ°ÿc kết nái vãi nhau Lãp tích chập

(Convolutional layer)

Mát lãp trích xuất đặc tr°ng cÿa m¿ng n¡-ron nhân t¿o, sử dāng các phép tính tích chập

Mã hóa tỉ lệ (Rate coding) Mát ph°¡ng pháp mã hóa Ánh tĩnh thành

các xung theo thåi gian, dùng cho các m¿ng n¡-ron xung

M¿ch đác dữ liệu đã hiệu chỉnh

(Modified Sense-Amps)

Là mát thành phần cÿa kiến trúc tính toán trong bá nhã

Ng°ỡng phát (Firing threshold) Giá trß ng°ỡng mà n¡-ron xung sẽ quyết

đßnh có t¿o ra xung hay không Nhân bá lác (Filter kernel) Là mát ma trận sử dāng để lác (trích xuất)

đặc tr°ng đầu vào Quá trình lan truyền ng°ÿc

Suy luận (Inference) Quá trình thực thi nhận d¿ng cÿa các

m¿ng n¡-ron nhân t¿o Mất mát (Loss) Giá trß sai lệch do m¿ng n¡-ron t¿o ra

giữa đầu ra cÿa m¿ng và đầu ra đúng Tấn công đái nghßch

(Adversarial attack)

Ph°¡ng pháp gây nhiễu vào đầu vào làm cho m¿ng n¡-ron đ°a ra kết quÁ sai Tích hÿp và phát xung

DANH MĀC CÁC BÀNG

Trang

BÁng 2.1 Cấu trúc m¿ng n¡-ron và tham sá huấn luyện 72BÁng 2.2 Đá chính xác cÿa FBW-SNN vãi các hệ sá tỉ lệ khác nhau 75BÁng 2.3 Đá chính xác phân lo¿i cÿa BSNN vãi các cấu trúc m¿ng

khác nhau 77BÁng 2.4 Đá chính xác cÿa NUTS-BSNN Ánh h°çng bçi tính ngÁu nhiên 78BÁng 2.5 So sánh đá chính xác cÿa các BSNN 79BÁng 2.6 Sá l°ÿng tráng sá và sá phép tính MAC cÿa mô hình

FBW-SNN vãi mát b°ãc thåi gian 81BÁng 3.1 Tấn công đái nghßch trên mô hình BNN 98BÁng 3.2 Cấu trúc m¿ng và các tham sá huấn luyện BSNN 108

DANH MĀC CÁC HÌNH VẼ

Trang

Hình 1.1 Trí tuệ nhân t¿o, hác máy và hác sâu 9

Hình 1.2 Bài toán phát hiện đái t°ÿng āng dāng trong thực tế 13

Hình 1.3 Các tác vā cÿa bài toán phát hiện đái t°ÿng 15

Hình 1.4 Phân tầng các lo¿i thiết bß 23

Hình 1.5 Minh háa phép nhân và phép cáng đ°ÿc thay thế bằng các phép tính theo bit XNOR và POPCOUNT 24

Hình 1.6 Minh háa ho¿t đáng mát n¡-ron cÿa SNN 27

Hình 1.7 Sự khác nhau giữa ANN và SNN 29

Hình 1.8 So sánh các khái c¡ bÁn cÿa BNN và BSNN 32

Hình 1.9 Minh háa tấn công đái nghßch [32] 33

Hình 1.10 Nguyên lý cÿa tấn công đái nghßch 34

Hình 2.1 Các khái c¡ bÁn BSNN (minh háa t¿i mát b°ãc thåi gian) 48

Hình 2.2 Các khái c¡ bÁn cÿa FBW-SNN 50

Hình 2.3 Ho¿t đáng cÿa các xung t¿i n¡-ron IF 51

Hình 2.4 Bá t¿o sá ngÁu nhiên cho các tráng sá 53

Hình 2.5 Mã hóa tỉ lệ cho hình Ánh đầu vào 54

Hình 2.6 Các khái lãp đầu vào cÿa BSNN: a) BSNN vãi các tráng sá thực; b) FBW-BSNN vãi các tráng sá nhß phân; c) NUTS-BSNN vãi K bá tráng sá nhß phân 56

Hình 2.7 Ành đầu vào cÿa tập dữ liệu CIFAR-10 đ°ÿc mã hóa theo mã hóa tỉ lệ vãi các b°ãc thåi gian khác nhau 59

Hình 2.8 Hai kiến trúc In-Memory Computing a) Bulk bitwise Computing b) Crossbar Array Computing [11] 64

Hình 2.9 Thành phần MAC lãp tích chập cÿa BSNN 67

Hình 2.10 Mát kiến trúc IMC dự đoán sử dāng mÁng XNOR 68

Hình 2.11 Thực thi t¿i lãp đầu vào cÿa NUTS-BSNN 70

Hình 2.12 Đá chính xác phân lo¿i cÿa BSNN vãi các tráng sá giá trß thực t¿i lãp đầu vào và đầu ra khi thay đổi b°ãc thåi gian 73

Hình 2.13 Phân bá cÿa bá tráng sá lãp đầu vào 74

Hình 2.14 Đá chính xác cÿa NUTS-BSNN vãi K thay đổi 76

Hình 3.1 Phân bá cÿa các tập giá trß hệ sá Ą 91

Hình 3.2 Kiến trúc mô hình BNN sử dāng LeNet-5 92

Hình 3.3 Hình Ánh đầu vào d°ãi Ánh h°çng cÿa tấn công đái nghßch trên tập dữ liệu MNIST (a) MÁu s¿ch, (b) FGSM, and (c) PGD 93

Hình 3.4 Kiến trúc mô hình BNN sử dāng NiN 94

Hình 3.5 Hình Ánh đầu vào d°ãi Ánh h°çng cÿa tấn công đái nghßch trên tập dữ liệu CIFAR-10 95

Hình 3.6 BNN đ°ÿc huấn luyện vãi FAT tr°ãc tấn công đái nghßch FGSM và PGD vãi hệ sá ε thay đổi 97

Hình 3.7 So sánh kết quÁ tấn công đái nghßch trên DNN và BNN 99

Hình 3.8 So sánh kết quÁ tấn công đái nghßch PGD vãi hệ sá nhiễu thay đổi trên BNN 101

Hình 3.9 So sánh kết quÁ tấn công đái nghßch PGD vãi hệ sá kích th°ãc b°ãc thay đổi trên BNN 102

Hình 3.10 So sánh kết quÁ tấn công đái nghßch PGD trên BNN đ°ÿc huấn luyện vãi FAT và EFAT 103

Hình 3.11 Kiến trúc FBW-SNN cho tập dữ liệu Fashion-MNIST 105

Hình 3.12 Minh háa mát sá ví dā tấn công đái nghßch trên tập dữ liệu Fashion-MNIST 107

Hình 3.13 Kết quÁ tấn công FGSM trên BSNN 111

Hình 3.14 Kết quÁ tấn công PGD trên BSNN 112

MỞ ĐÄU

1 Tính cÃp thi¿t căa đÁ tài luÁn án

Hác sâu ngày càng đ°ÿc āng dāng sâu ráng trong nhiều lĩnh vực trong cuác sáng Sự phát triển cÿa các thuật toán hác sâu song hành vãi sự phát triển cÿa các nền tÁng phần cāng tính toán nh° CPU và GPU Ngày nay vãi sự phát triển cÿa phần cāng, GPU hay CPU có thể tính toán nhiều tỉ phép tính trên giây giúp cho việc thực thi các thuật toán hác sâu giÁm đá trễ tính toán Do đó các thuật toán hác sâu ngày càng đ°ÿc đ°a vào āng dāng trong đåi sáng phổ biến h¡n Các āng dāng sử dāng hác sâu trên nền tÁng hệ tháng nhúng là mát xu thế đang phát triển m¿nh mẽ trong thåi gian gần đây Đặc biệt là các hệ tháng nhúng

sử dāng các thiết bß xử lý dữ liệu t¿i nguồn dữ liệu hay còn gái là thiết bß biên

có āng dāng trí tuệ nhân t¿o (Edge-AI) Lÿi ích cÿa các thiết bß Edge-AI mang l¿i là giÁm thåi gian đáp āng, giÁm chi phí m¿ng và bÁo mật dữ liệu do các thiết

bß này xử lý dữ liệu và đáp āng ngay t¿i nguồn dữ liệu sử dāng các thuật toán trí tuệ nhân t¿o Ng°ÿc l¿i vãi lÿi ích mang l¿i thì các thiết bß Edge-AI yêu cầu

sử dāng tài nguyên h¿n chế và tiết kiệm năng l°ÿng để có thể kéo dài thåi gian ho¿t đáng do các thiết bß th°ång đ°ÿc triển khai xa trung tâm và sá l°ÿng rất lãn Các thiết bß Edge-AI ngày nay đ°ÿc āng dāng ráng rãi trong nhiều lĩnh vực, trong đó có lĩnh vực quân sự quác phòng Edge-AI đ°ÿc āng dāng trong thông minh hóa vũ khí trang bß Trong đó, các thiết bß xử lý trung tâm cho nhiều lo¿i vũ khí, đặc biệt là các thiết bß không ng°åi lái có thể sử dāng Edge-AI nh° mát thiết bß xử lý thông minh mang l¿i hiệu quÁ cao trong chiến đấu

Hác sâu đ°ÿc triển khai trên các thiết bß biên rất phổ biến hiện nay nh° trên các thiết bß không ng°åi lái, các hệ tháng quang điện tử, các hệ tháng cÁm biến thông minh, hệ tháng kiểm soát ra vào tự đáng Các thiết bß này sử dāng hác sâu xử lý các tác vā nh° phát hiện đái t°ÿng, phân lo¿i Ánh, nhận d¿ng Ánh trong thß giác máy tính Các mô hình hác sâu thông th°ång đ°ÿc sử dāng là các

mô hình m¿ng n¡-ron nhân t¿o vãi nhiều lãp ¿n Sá lãp ¿n cÿa m¿ng càng tăng thể hiện đá sâu cÿa mô hình, māc đích tăng đá chính xác chung cho mô hình nh°ng cũng làm tăng kích th°ãc (đá phāc t¿p) cÿa mô hình Các mô hình m¿ng n¡-ron nhân t¿o có sá l°ÿng lãp m¿ng càng lãn dÁn đến sá l°ÿng tráng sá cÿa

mô hình cũng tăng, điều này làm cho việc thực thi mô hình yêu cầu bá nhã l°u trữ lãn và sá l°ÿng phép tính tăng t°¡ng āng Khi yêu cầu tính toán tăng dÁn tãi năng l°ÿng tiêu thā chung cÿa thiết bß cũng tăng theo Do đó, nhu cầu nghiên cāu các mô hình m¿ng n¡-ron gán nhẹ và yêu cầu tính toán thấp là cần thiết h°ãng tãi phát triển các phần cāng cho các thiết bß Edge-AI

Mát vấn đề nữa là khi sử dāng các thuật toán hác sâu vào các āng dāng trong đåi sáng đòi hßi đá chính xác cao và không bß Ánh h°çng nhiễu có chÿ đích (hay bß tấn công) để đ°a ra các kết quÁ sai Các mô hình hác sâu đ°ÿc āng dāng ráng rãi nh° hiện nay mát phần nhå đá chính xác khi thực hiện các tác vā phāc t¿p mà các thuật toán hác máy tr°ãc đây ch°a đ¿t đ°ÿc Khi đ°ÿc đ°a vào āng dāng ráng rãi, mát câu hßi lãn đặt ra là có khi nào các mô hình hác sâu bß tấn công để làm sai lệch kết quÁ hay không Gần đây, tấn công đái nghßch

đã đ°ÿc các nhà khoa hác đ°a ra nh° là mát ph°¡ng pháp có thể đánh lừa các m¿ng n¡-ron nhân t¿o khi thực thi mát tác vā quan tráng là nhận d¿ng đái t°ÿng (phân lo¿i Ánh) Ph°¡ng pháp tấn công đái nghßch thêm mát l°ÿng nhiễu lo¿n nhß vào Ánh đầu vào nh°ng có thể làm cho m¿ng n¡-ron nhân t¿o nhận d¿ng sai khá trầm tráng Các mô hình m¿ng n¡-ron nhân t¿o h°ãng tãi các thiết bß Edge-AI nh° m¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân cũng chßu Ánh h°çng bçi tấn công đái nghßch do tính chất tuyến tính cÿa chúng Do đó, nghiên cāu ph°¡ng pháp cÁi thiện khÁ năng cháng đái nghßch cho các mô hình m¿ng n¡-ron phù hÿp vãi phần cāng yêu cầu khắt khe về tài nguyên và năng l°ÿng là rất cần thiết, là mát b°ãc quan tráng trong quá trình thiết kế m¿ng n¡-ron nhân t¿o vào các āng dāng trong đåi sáng

Từ hai yêu cầu cấp thiết cÿa các āng dāng có sử dāng hác sâu triển khai trên thiết bß biên là tiết kiệm tài nguyên, năng l°ÿng và cÁi thiện khÁ năng cháng tấn công đái nghßch, h°ãng nghiên cāu phát triển mát sá kỹ thuật cÁi thiện hiệu năng m¿ng hác sâu trên nền tÁng phần cāng nhúng là rất quan tráng Do đó luận án này tập trung vào nghiên cāu mát sá mô hình m¿ng n¡-ron sâu có thể phát triển trên các phần cāng yêu cầu tài nguyên h¿n chế và tiết kiệm năng l°ÿng h°ãng tãi các thiết bß Edge-AI

2 Māc tiêu nghiên cąu căa luÁn án

Māc tiêu nghiên cāu cÿa luận án tập trung đề xuất kiến trúc m¿ng hác sâu và ph°¡ng pháp cÁi thiện khÁ năng phòng thÿ đái nghßch cho m¿ng hác sâu phù hÿp vãi phát triển phần cāng nhúng yêu cầu tài nguyên h¿n chế và tiết kiệm năng l°ÿng h°ãng tãi các thiết bß Edge-AI Từ đó māc tiêu cÿa nghiên cāu cÿa luận án là:

+ Phát triển mô hình m¿ng n¡-ron xung sâu vãi tất cÁ tráng sá đ°ÿc nhß phân āng dāng cho tác vā phân lo¿i Ánh

+ Phát triển mát kiến trúc tính toán trong bá nhã để thực thi mô hình m¿ng n¡-ron xung nhß phân, h°ãng tãi các thiết bß Edge-AI

+ Phát triển mát ph°¡ng pháp giúp cÁi thiện khÁ năng phòng thÿ cho các m¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân tr°ãc các tấn công đái nghßch

3 Đßi t°ÿng và ph¿m vi nghiên cąu

Đối tượng nghiên cứu

Đái t°ÿng nghiên cāu cÿa luận án là mát sá m¿ng n¡-ron sâu thế hệ tiếp theo, đßnh h°ãng phát triển phần cāng cho hệ tháng nhúng yêu cầu giãi h¿n về tài nguyên và tiết kiệm năng l°ÿng Tập trung tráng tâm vào mô hình m¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân

Ph¿m vi nghiên cứu

Luận án tập trung nghiên cāu đề xuất mô hình m¿ng n¡-ron xung nhß phân; nghiên cāu các ph°¡ng pháp cÁi thiện khÁ năng phòng thÿ cho các mô hình m¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân tr°ãc các tấn công đái nghßch Ph¿m vi và điều kiện nghiên cāu cÿa luận án gồm có: M¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân; Ph°¡ng pháp nhß phân hóa nh° sá stochastic, các ph°¡ng pháp nhß phân hóa cÿa m¿ng n¡-ron nhß phân; Kiến trúc tính toán trong bá nhã; Ph°¡ng pháp cÁi thiện khÁ năng phòng thÿ cho các mô hình m¿ng n¡-ron tr°ãc các tấn công đái nghßch

4 Nßi dung nghiên cąu

Để hoàn thành đ°ÿc các māc tiêu nghiên cāu đề ra theo h°ãng nghiên cāu trong ph¿m vi nghiên cāu, nái dung chính cÿa luận án là:

- Nghiên cāu các ph°¡ng pháp nhß phân hóa tráng sá cÿa mô hình Nghiên cāu đề xuất mô hình m¿ng n¡-ron xung vãi toàn bá tráng sá đ°ÿc nhß phân hóa Nghiên cāu kiến trúc tính toán trong bá nhã từ đó đề xuất kiến trúc tính toán trong bá nhã để thực thi mô hình m¿ng n¡-ron xung nhß phân

- Nghiên cāu các ph°¡ng pháp tấn công và phòng thÿ đái nghßch trên các mô hình m¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân Đề xuất mát ph°¡ng pháp huấn luyện đái nghßch giúp cÁi thiện khÁ năng phòng thÿ đái nghßch cho các mô hình m¿ng n¡-ron tr°ãc các tấn công đái nghßch

- Nghiên cāu thực nghiệm trên các tập dữ liệu phân lo¿i Ánh khác nhau nh° MNIST, Fashion-MNIST, CIFAR-10, CIFAR-100

5 Ph°¢ng pháp nghiên cąu

Nghiên cāu tổng quan và lý thuyết về kiến trúc các mô hình m¿ng hác sâu phù hÿp vãi phần cāng yêu cầu tiết kiệm tài nguyên và năng l°ÿng Tổng hÿp tình hình nghiên cāu và đánh giá các công trình đã công bá cùng h°ãng

nghiên cāu để tìm ra các thiếu sót hoặc các bài toán ch°a đ°ÿc giÁi quyết triệt

để Từ đó đ°a ra đßnh h°ãng nghiên cāu cÿa luận án nhằm giÁi quyết các vấn

đề còn tồn đáng đó Tính toán, lập trình thực nghiệm bằng ngôn ngữ lập trình Python sử dāng Pytorch framework để đánh giá các mô hình, kỹ thuật nghiên cāu đ°ÿc đề xuất

6 Ý ngh*a khoa hác và thăc tißn căa luÁn án

Ý nghĩa khoa học của nghiên cứu:Nghiên cāu góp phần thúc đ¿y phát triển các mô hình hác sâu gán nhẹ h°ãng đến phát triển phần cāng Luận án đề xuất

mô hình m¿ng n¡-ron xung vãi tất cÁ tráng sá đ°ÿc nhß phân hóa h°ãng tãi phát triển phần cāng dựa trên kiến trúc tính toán trong bá nhã Thêm nữa, luận

án đề xuất mát ph°¡ng pháp cÁi thiện khÁ năng phòng thÿ cho m¿ng n¡-ron nhß phân và m¿ng n¡-ron xung nhß phân tr°ãc các tấn công đái nghßch

Ý nghĩa thực tiễn của nghiên cứu: Kết quÁ luận án có thể āng dāng hiệu

quÁ trên các hệ tháng có thực thi các thuật toán hác sâu yêu cầu tiết kiệm năng l°ÿng và tài nguyên nh° các hệ tháng không ng°åi lái, các cÁm biến thông minh, các thiết bß đeo đ°ÿc và các thiết bß xử lý trí tuệ nhân t¿o t¿i biên (Edge-AI) Luận án cũng giúp cÁi thiện đá chính xác cho các mô hình hác sâu thực thi trên các thiết bß tr°ãc các tấn công đái nghßch

phổ biến trong các āng dāng có sử dāng hác sâu Trong đó tác vā nhận d¿ng đái t°ÿng hay còn gái là phân lo¿i Ánh là mát tác vā quan tráng Tr°ãc khi trình bày về mát sá m¿ng hác sâu phù hÿp vãi phần cāng nhúng tiết kiệm năng l°ÿng

và tài nguyên h¿n chế, ch°¡ng này cũng trình bày tổng quan về hệ tháng nhúng Phần cuái cÿa Ch°¡ng 1 trình bày tình hình nghiên cāu và các vấn đề tồn đáng

từ đó đ°a ra đßnh h°ãng nghiên cāu cÿa luận án

Ch°¡ng 2 M¿ng n¡-ron xung nhß phân h°ãng tãi các thiết bß Edge-AI

Trong Ch°¡ng 2 cÿa luận án trình bày đề xuất hai mô hình m¿ng n¡-ron xung vãi tất cÁ tráng sá đ°ÿc nhß phân hóa Các tráng sá cÿa lãp đầu tiên và lãp cuái cùng cÿa mô hình đ°ÿc biểu diễn l¿i thành chußi nhß phân stochastic, trong khi các tráng sá t¿i các lãp ¿n đ°ÿc xấp xỉ theo nguyên lý XNOR-Net Hai mô hình này đã đ°ÿc huấn luyện thành công bằng ph°¡ng pháp huấn luyện trực tiếp trên các tập dữ liệu đánh giá phổ biến nh°: Fasion-MNIST, CIFAR-10

và CIFAR-100 Huấn luyện thành công hai mô hình BSNN này mç ra khÁ năng phát triển phần cāng nhúng yêu cầu khắt khe vãi tài nguyên và năng l°ÿng tiêu thā nh° các thiết bß Edge-AI Để thực thi hai mô hình này trên phần cāng, trong Ch°¡ng 2 cÿa luận án đề xuất mát kiến trúc phần cāng dựa trên tính toán trong

bá nhã thực thi các mô hình BSNN đ°ÿc đề xuất h°ãng tãi āng dāng cho các thiết bß Edge-AI Kiến trúc tính toán trong bá nhã đ°ÿc xây dựng dựa trên các mÁng nhã có các phép tính lô-gic XNOR

Ch°¡ng 3 Ph°¡ng pháp cÁi thiện khÁ năng phòng thÿ m¿ng n¡-ron hác sâu tr°ãc các tấn công đái nghßch

Trong Ch°¡ng 3 cÿa luận án sẽ tập trung giÁi quyết vấn đề tồn đáng về các tấn công và phòng thÿ đái nghßch trên các mô hình BNN và BSNN Luận

án sẽ khám phá khÁ năng phòng thÿ cÿa các mô hình BNN và BSNN tr°ãc các tấn công đái nghßch Đồng thåi nghiên cāu ph°¡ng pháp cÁi thiện khÁ năng phòng thÿ cho các mô hình này, đề xuất mát ph°¡ng pháp huấn luyện đái

nghßch giúp cÁi thiện khÁ năng phòng thÿ cho BNN và BSNN cháng l¿i các tấn công đái nghßch trên các tập dữ liệu MNIST, Fashion-MNIST và CIFAR-10 Kết quÁ thực nghiệm chāng tß ph°¡ng pháp huấn luyện đái nghßch có hiệu quÁ cÁi thiện khÁ năng phòng thÿ cho các mô hình BNN và BSNN khi thử nghiệm các tấn công đái nghßch nh° FGSM và PGD Trong Ch°¡ng 3 là lần đầu tiên đ°a ra các kết quÁ nghiên cāu khÁ năng tấn công và phòng thÿ trên BSNN

Ch°¢ng 1 TàNG QUAN VÀ M¾NG HàC SÂU TRÊN PHÄN CĄNG NHÚNG TÀI NGUYÊN H¾N CH¾ VÀ TI¾T KIàM NNG L¯þNG

Trí tuệ nhân t¿o là mát h°ãng mũi nhán cÿa cuác cách m¿ng công nghiệp 4.0, do đó đã nhận đ°ÿc sự quan tâm rất lãn từ cáng đồng Ngày nay, rất nhiều āng dāng đã sử dāng các thuật toán trí tuệ nhân t¿o để nâng cao hiệu quÁ trong công việc Trong Ch°¡ng 1 cÿa luận án trình bày tổng quan về hác sâu āng dāng cho các bài toán xử lý Ánh trong lĩnh vực thß giác máy tính Trong đó, tác

vā phân lo¿i Ánh hay còn gái là nhận d¿ng đái t°ÿng là mát tác vā bắt buác quan tráng trong bài toán phát hiện đái t°ÿng sử dāng hác sâu Tiếp theo luận

án trình bày mát sá mô hình m¿ng n¡-ron phù hÿp để phát triển trên các phần cāng nhúng yêu cầu tiết kiệm năng l°ÿng và h¿n chế về tài nguyên h°ãng tãi āng dāng cho các thiết bß Edge-AI Sau đó khÁo sát tình hình nghiên cāu và các vấn đề còn tồn đáng cÿa hai nái dung là nhß phân hóa tráng sá cÿa mô hình m¿ng n¡-ron xung và tấn công phòng thÿ đái nghßch trên BNN và BSNN Từ tình hình nghiên cāu và các vấn đề còn tồn t¿i luận án xác đßnh h°ãng nghiên cāu cÿa luận án

1.1 Hác sâu và các bài toán xÿ lý Ánh

1.1.1 Lịch sử phát triển trí tuệ nhân t¿o

Trong những năm gần đây, trí tuệ nhân t¿o (Artificial Intelligence - AI)

là mát chÿ đề nóng trong các h°ãng nghiên cāu và āng dāng Trí tuệ nhân t¿o

đã đ°ÿc sự quan tâm rất lãn từ các nhà nghiên cāu cũng nh° các công ty công nghệ trong n°ãc và trên thế giãi Khi tìm kiếm vãi cām từ <research papers on artificial intelligence= trên google có khoÁng 810 triệu kết quÁ tính đến tháng 10/2023 cho thấy trí tuệ nhân t¿o thực sự là mát trong những mũi nhán cÿa cuác cách m¿ng 4.0

Khái niệm và ý t°çng về trí tuệ nhân t¿o xuất hiện rất sãm từ những năm đầu cÿa thế kỷ 20 Nh°ng nó thực sự đ°ÿc đánh dấu bçi mát buổi hái thÁo vào

năm 1956 t¿i đ¿i hác Dartmouth, t¿i đây ng°åi ta đã dự đoán sẽ có mát cß máy

có trí thông minh nh° con ng°åi trong t°¡ng lai Tr°ãc đó mát năm, khái niệm

về trí tuệ nhân t¿o đã đ°ÿc giãi thiệu bçi John McCarthy cùng các cáng sự cũng t¿i đ¿i hác Dartmouth Do giãi h¿n bçi sự phát triển cÿa các công cā tính toán ch°a theo kßp yêu cầu thực thi các thuật toán nên trí tuệ nhân t¿o từ 1956 tãi

1974 là không có cát mác nào đáng nhã Từ năm 1974 thåi kỳ phát triển bùng

nổ m¿nh mẽ cÿa máy tính, nhiều bá xử lý m¿nh h¡n, bá nhã l°u trữ lãn h¡n đ°ÿc ra đåi đã giúp thực thi các thuật toán trí tuệ nhân t¿o tát h¡n Điều này giúp cho sự phát triển cÿa trí tuệ nhân t¿o trong những năm tiếp theo đ°ÿc đ¿y m¿nh h¡n nữa

TRÍ TUỆ NHÂN TẠO

Các kỹ thuật cho phép máy

tính có thể sao chép các

Các kỹ thuật AI cho phép các máy tính học

để gi¿i quyết mßt công vißc cÿ thể

HỌC SÂU

Mßt h±ßng cÿa học máy dựa trên các m¿ng n¡- ron nhân t¿o

Hình 1.1 Trí tuệ nhân t¿o, hác máy và hác sâu Trí tuệ nhân t¿o thực sự bùng nổ bắt đầu từ thập niên 80 cÿa thế kỷ 20, khi khái niệm hác máy ra đåi (Machine Learning - ML) cùng vãi sự phát triển cÿa công nghệ máy tính Từ năm 1980 đến 2010 là khoÁng thåi gian phát triển cÿa các thuật toán hác máy và các hãng công nghệ lãn đổ rất nhiều tiền vào đầu t° cho trí tuệ nhân t¿o Mát sá thuật toán phổ biến cÿa hác máy đ°ÿc công bá trong thåi gian này có thể kể tãi: Các thuật toán hồi quy (Regression

Algorithms) nh° hồi quy tuyến tính (Linear Regression), hồi quy logistic (Logistic Regression); Các thuật toán dựa trên mÁu (Instance-based Algorithms) nh° k-Nearest Neighbor (kNN – k láng giềng gần nhất), Learning Vector Quantization (LVQ), Locally Weighted Learning (LWL); Thuật toán chu¿n hoá (Regularization Algorithms) nh° Least-Angle Regression (LARS), Least Absolute Shrinkage and Selection Operator (LASSO); Các thuật toán cây quyết đßnh (Decision Tree Algorithms) nh° Classification and Regression Tree (CART), Iterative Dichotomiser 3 (ID3); Các thuật toán Bayes (Bayesian Algorithms); Các thuật toán m¿ng n¡-ron nhân t¿o (Artificial Neural Network Algorithms); Các thuật toán hác sâu (Deep Learning Algorithms)

Thåi kỳ phát triển tiếp theo cÿa trí tuệ nhân t¿o vãi sự bùng nổ cÿa các thuật toán hác sâu dựa trên m¿ng n¡-ron gần vãi n¡-ron thần kinh cÿa con ng°åi, bắt đầu từ năm 2010 Các thuật toán hác sâu (Deep Learning - DL) là mát nhánh cÿa hác máy dựa trên m¿ng n¡-ron kết hÿp vãi việc hác các đặc tr°ng cÿa dữ liệu Hác sâu có thể hác có giám sát (Supervised Learning) và hác không có giám sát (Unsupervised Learning) Mát sá mô hình hác sâu sử dāng m¿ng n¡-ron nh°: m¿ng Perceptron nhiều lãp (Multi-layer Perceptron-MLP); m¿ng n¡-ron tích chập (Convolutional Neural Network-CNN); m¿ng n¡-ron hồi quy (Recurrent Neural Network-RNN); m¿ng đái nghßch t¿o sinh (Generative adversarial networks-GAN)

Từ 2010 cho tãi nay là giai đo¿n phát triển nh° vũ bão cÿa trí tuệ nhân t¿o vãi sự giúp sāc cÿa công nghệ tính toán, phần cāng hiệu năng cao Các mô hình trí tuệ nhân t¿o có xu h°ãng sử dāng dữ liệu lãn đ°a ra các kết quÁ khuyến nghß rất ấn t°ÿng Mát sá āng dāng nh° Siri cÿa Apple, ch°¡ng trình dßch tự đáng trên video và nhận d¿ng giáng nói cÿa Google, Facebook Gần đây nhất

và đang gây đ°ÿc chú ý lãn tãi cáng đồng là mô hình nhận d¿ng và xử lý ngôn ngữ ChatGPT cÿa OpenAI Mô hình ngôn ngữ ChatGPT có thể hiểu câu hßi và

đ°a ra câu trÁ låi ç rất nhiều lĩnh vực thu hút 100 triệu ng°åi dùng chỉ trong vòng 2 tháng (từ 30/11/2022 tãi 31/1/2023) Sự ra đåi cÿa ChatGPT vào tháng 11/2022 có thể sẽ là mát dấu mác quan tráng tiếp theo cÿa trí tuệ nhân t¿o

1.1.2 Học sâu và ứng dụng

Hác sâu là mát ph°¡ng pháp hác máy dựa trên việc xây dựng các mô hình m¿ng n¡-ron nhiều tầng ¿n để tự đáng hác và trích xuất đặc tr°ng từ dữ liệu đầu vào Các mô hình m¿ng n¡-ron đa tầng này th°ång đ°ÿc thiết kế vãi hàng chāc và có thể lên đến hàng trăm lãp, mßi lãp đóng vai trò trích xuất các đặc tr°ng ç māc đá khác nhau từ dữ liệu đầu vào Sau đó, các đặc tr°ng đ°ÿc kết hÿp l¿i để t¿o thành các biểu diễn phāc t¿p và trừu t°ÿng cÿa dữ liệu đầu vào Vãi sự phát triển cÿa các mô hình hác sâu, nhiều āng dāng cÿa trí tuệ nhân t¿o nh° nhận d¿ng Ánh, nhận d¿ng giáng nói, xử lý ngôn ngữ tự nhiên, dự báo chußi thåi gian và điều khiển tự đáng đã có những cÁi tiến đáng kể Hác sâu đã đ¿t đ°ÿc kết quÁ ấn t°ÿng trong nhiều bài toán khó cÿa trí tuệ nhân t¿o, nh° giÁi mã ngôn ngữ tự nhiên, nhận diện Ánh, dự báo thåi tiết, đác hiểu văn bÁn và trÁ låi tự đáng Tuy nhiên, việc xây dựng mô hình hác sâu yêu cầu rất nhiều dữ liệu và tài nguyên tính toán Điều này đặt ra thách thāc lãn cho các nhà nghiên cāu và doanh nghiệp khi triển khai các āng dāng hác sâu vào thực tế

Ngày nay, hác sâu đang trong thåi kỳ phát triển và đ°ÿc āng dāng trong rất nhiều lĩnh vực khác nhau nh°:

- Các hệ thống không người lái: hác sâu đ°ÿc āng dāng rất phổ biến

trong các hệ tháng không ng°åi lái Hác sâu giúp các thiết bß không ng°åi lái

có thể nhận d¿ng, dÁn đ°ång bằng hình Ánh, nhận d¿ng âm thanh Mát sá ví dā nh°: ph°¡ng tiện bay không ng°åi lái (Unmanned Aerial Vehicle-UAV); ph°¡ng tiện mặt đất không ng°åi lái (Unmanned Ground Systems-UGS); ph°¡ng tiện nổi không ng°åi lái (Unmanned Surface Vehicle-USV); ph°¡ng tiện ngầm không ng°åi lái (Unmanned Undersea Vehicle-UUV)

- Hệ thống kiểm soát ra vào: hác sâu đ°ÿc āng dāng nhận d¿ng khuôn

mặt, giáng nói, vân tay trong các hệ tháng kiểm soát ra vào giúp nhanh chóng đßnh danh đ°ÿc đái t°ÿng để quyết đßnh cho vào/ra

- Rô bốt: Hác sâu đ°ÿc āng dāng trên các lo¿i rô bát phāc vā sÁn xuất

trong các nhà máy, các rô bát làm việc trong các môi tr°ång đác h¿i (dßch bệnh, hßa ho¿n, phóng x¿)

- Trợ lý ảo và các dịch vụ chatbot: Các nhà cung cấp dßch vā trực tuyến

giå đây th°ång dùng các trÿ lý Áo hay các dßch vā chatbots, bots để chăm sóc khách hàng Việc này không chỉ mang l¿i hiệu quÁ về chi phí mà còn nâng cao đ°ÿc năng suất nhå tác đá phÁn hồi nhanh chóng

- Y học: Āng dāng hác sâu trong chu¿n đoán hình Ánh hß trÿ cho bác sĩ

có thể chu¿n đoán nhanh chóng và chính xác bệnh tình cÿa bệnh nhân Các d¿ng hình Ánh trong chu¿n đoán có thể dùng hác sâu là Ánh cắt lãp vi tính, Ánh x-quang, Ánh MRI

- Mạng xã hội: Các m¿ng xã hái sử dāng hác sâu để phát hiện các Ánh

không phù hÿp vãi lāa tuổi, Ánh b¿o lực và các bình luận trái vãi quy đßnh Hác sâu cũng đ°ÿc āng dāng để gÿi ý nái dung phù hÿp vãi sç thích, gÿi ý kết b¿n Mát sá còn sử dāng để phân tích hành vi và thói quen sử dāng m¿ng xã hái cÿa ng°åi dùng để gÿi ý nái dung quÁng cáo nhắm tãi đúng đái t°ÿng quan tâm giúp quÁng cáo có hiệu quÁ

- Dịch thuật: Ph°¡ng pháp hác sâu sẽ dßch các ngôn ngữ, giúp khách du

lßch hay những ng°åi có nhu cầu về công việc có thể dễ dàng trao đổi, t°¡ng tác vãi nhau dễ dàng h¡n

Các āng dāng sử dāng hác sâu tập trung xử lý các lo¿i dữ liệu hình Ánh,

âm thanh, chữ viết, tín hiệu cÁm biến& Hiện t¿i các bài toán xử lý dữ liệu hình Ánh là chiếm °u thế h¡n cÁ

1.1.3 Các bài toán xử lý Ánh ứng dụng học sâu

Các āng dāng có sử dāng hác sâu thì các bài toán xử lý Ánh trong thß giác máy tính là rất phổ biến, trong phần này cÿa luận án sẽ trình bày các bài toán

xử lý Ánh sử dāng hác sâu Mát sá bài toán xử lý Ánh phổ biến trong các h°ãng āng dāng cÿa hác sâu hiện nay nh°:

Phân loại ảnh/ nhận dạng đối tượng: Phân lo¿i Ánh là bài toán xác đßnh

xem trong Ánh có lo¿i đái t°ÿng nào trong mát lãp các đái t°ÿng đã đ°ÿc huấn luyện Đôi khi có thể gái phân lo¿i Ánh là nhận d¿ng đái t°ÿng Đây là mát bài toán phổ biến cÿa thß giác máy tính sử dāng trí tuệ nhân t¿o đ°ÿc āng dāng nhiều trong việc nhận d¿ng các đái t°ÿng bằng camera an ninh

Định vị đối tượng: Đßnh vß đái t°ÿng là mát bài toán xác đßnh vß trí cÿa

đái t°ÿng trong Ánh, thông th°ång chỉ xác đßnh mát đái t°ÿng và kết quÁ là đ°a

ra vß trí khung biên bao quanh đái t°ÿng trong Ánh

Hình 1.2 Bài toán phát hiện đái t°ÿng āng dāng trong thực tế

Phát hiện đối tượng: là bài toán phát hiện các đái t°ÿng trong mát Ánh

hoặc video Bài toán phát hiện đái t°ÿng sẽ đ°a ra kết quÁ là các đái t°ÿng đ°ÿc đóng khung trong các háp biên và xác đßnh đây là đái t°ÿng gì trong các lãp đái t°ÿng đã đ°ÿc huấn luyện tr°ãc Bài toán phát hiện đái t°ÿng đ°ÿc āng

dāng nhiều trong các thiết bß không ng°åi lái, camera an ninh, rô bát

Phân đoạn ảnh: là bài toán mç ráng cÿa phát hiện đái t°ÿng Phân đo¿n

đái t°ÿng sẽ xác đßnh hình d¿ng cÿa đái t°ÿng thay vì chỉ đ°a ra vß trí khung bao quanh đái t°ÿng Mßi đái t°ÿng sẽ đ°ÿc tô mát màu để phân biệt trong Ánh Có hai lo¿i bài toán phân đo¿n đái t°ÿng là phân đo¿n ngữ nghĩa và phân đo¿n tr°ång hÿp Phân đo¿n ngữ nghĩa sẽ tiến hành phân đo¿n toàn bá các đái t°ÿng có trên Ánh và trÁ về kết quÁ là mát bāc Ánh vãi các đái t°ÿng đ°ÿc tô màu khác nhau Trong khi phân đo¿n tr°ång hÿp chỉ phân đo¿n các đái t°ÿng trong lãp đái t°ÿng đã biết Phân đo¿n đái t°ÿng đ°ÿc āng dāng trong

xử lý Ánh y tế hoặc Ánh vệ tinh

Bám đối tượng: Đây cũng là mát bài toán mç ráng cÿa phát hiện đái

t°ÿng Bám đái t°ÿng sẽ bám mát hoặc nhiều đái t°ÿng trên video theo thåi gian Hiểu mát cách đ¡n giÁn bài toán bám đái t°ÿng là tách video thành từng khung Ánh sau đó áp dāng bài toán phát hiện đái t°ÿng, nh°ng để kết hÿp thông tin giữa các khung Ánh cần phÁi có các thuật toán hÿp nhất thông tin giữa các khung Ánh sao cho xác đßnh đái t°ÿng không thay đổi sau các khung Đái t°ÿng

có thể bß che khuất trong mát vài khung nh°ng sau đó vÁn phÁi bám đ°ÿc đái t°ÿng

Bài toán phát hiện đái t°ÿng sử dāng hác sâu đ°ÿc āng dāng phổ biến trong mát sá lĩnh vực nh° Quân sự quác phòng, công nghiệp và giám sát an ninh Trong quân sự quác phòng, bài toán phát hiện đái t°ÿng sử dāng hác sâu đ°ÿc āng dāng trong các hệ tháng nh° hệ tháng quang điện tử, ra đa, xử lý Ánh trên các thiết bß không ng°åi lái

1.1.4 Các tác vụ trong bài toán phát hiện đối tượng

Bài toán phát hiện đái t°ÿng cần phÁi giÁi quyết hai vấn đề chính (thực hiện hai tác vā) là xác đßnh đái t°ÿng có trong Ánh hay không và đ°a ra vß trí

cÿa đái t°ÿng đó Để giÁi quyết bài toán này, các ph°¡ng pháp có thể sử dāng

là hác sâu, trong đó mô hình m¿ng n¡-ron sâu đ°ÿc sử dāng để hác và dự đoán

vß trí cÿa đái t°ÿng trong Ánh Các mô hình đ°ÿc huấn luyện trên các tập dữ liệu lãn để có thể phát hiện và xác đßnh vß trí cÿa đái t°ÿng trong nhiều tr°ång hÿp khác nhau

Nhận d¿ng đái t°ÿng (Object Recognition)

Phân lo¿i Ánh (Image Classification)

Đßnh vß đái t°ÿng (Object Localization)

Phát hiện đái t°ÿng (Object Detection)

Phân đo¿n Ánh (Segmentation)

Hình 1.3 Các tác vā cÿa bài toán phát hiện đái t°ÿng Xác đßnh đái t°ÿng có mặt trong Ánh là mát tác vā quan tráng và th°ång đ°ÿc sử dāng trong rất nhiều các bài toán xử lý Ánh trong thß giác máy tính và cũng đ°ÿc gái là phân lo¿i Ánh hay nhận diện đái t°ÿng Các mô hình phân lo¿i Ánh th°ång đ°ÿc huấn luyện trên các tập dữ liệu lãn, chāa nhiều Ánh cÿa các đái t°ÿng khác nhau, để có thể phát hiện đái t°ÿng trong nhiều tr°ång hÿp khác nhau và đ°a ra kết quÁ chính xác Các mô hình này th°ång đ°ÿc sử dāng để phân lo¿i các lo¿i đái t°ÿng khác nhau trong Ánh, từ đáng vật và cây cái đến các đái t°ÿng nh° xe h¡i, ng°åi dùng, đồ vật trong nhà

Có nhiều mô hình phân lo¿i Ánh đ°ÿc phát triển trong lĩnh vực thß giác máy tính và đã đ¿t đ°ÿc nhiều kết quÁ ấn t°ÿng Sau đây là mát sá mô hình phân lo¿i Ánh tiêu biểu:

- LeNet [39]: Là mát trong những mô hình đầu tiên sử dāng m¿ng

n¡-ron để phân lo¿i Ánh Mô hình này đ°ÿc giãi thiệu vào năm 1998 bçi Yann LeCun và đã đ¿t đ°ÿc kết quÁ tát trên tập dữ liệu nhận d¿ng chữ viết tay

- AlexNet [37]: Là mát mô hình CNN đ°ÿc giãi thiệu bçi Alex Krizhevsky, Ilya Sutskever và Geoffrey Hinton vào năm 2012 Mô hình này sử dāng 5 lãp tích chập và 3 lãp kết nái đầy đÿ để phân lo¿i Ánh trên tập dữ liệu ImageNet

- VGGNet [68]: Là mát mô hình CNN đ°ÿc phát triển bçi nhóm nghiên cāu t¿i Đ¿i hác Oxford vào năm 2014 Mô hình này sử dāng các kernel nhß (3x3) để tăng khÁ năng hác cÿa m¿ng và đ°ÿc huấn luyện trên tập dữ liệu ImageNet

- ResNet [30]: Là mát mô hình CNN đ°ÿc phát triển bçi Microsoft vào năm 2015 Mô hình này sử dāng cấu trúc khái phần d° (Residual Block) để giÁi quyết vấn đề triệt tiêu đá sâu trong m¿ng, giúp mô hình có thể huấn luyện đ°ÿc đến hàng trăm lãp

- Inception [69]: Là mát chußi các mô hình CNN đ°ÿc phát triển bçi Google Mô hình này sử dāng cấu trúc Module Inception để giÁm sá l°ÿng tráng sá trong mô hình và tăng tính hiệu quÁ cÿa mô hình

- MobileNet [31]: Là mát mô hình CNN đ°ÿc phát triển bçi Google vào năm 2017, nhằm giÁm kích th°ãc cÿa mô hình để có thể ch¿y trên các thiết bß

di đáng vãi tác đá nhanh và tiêu thā ít năng l°ÿng

Các mô hình trên là những mô hình phân lo¿i Ánh tiêu biểu và rất phổ biến trong thß giác máy tính Tuy nhiên, còn rất nhiều mô hình khác đ°ÿc phát triển để giÁi quyết tác vā phân lo¿i Ánh

Tác vā xác đßnh vß trí đái t°ÿng trong Ánh cũng là mát bài toán trong lĩnh vực thß giác máy tính, trong đó māc tiêu là xác đßnh vß trí và đ°ång bao quanh cÿa đái t°ÿng cần nhận diện trong Ánh Tác vā này khác vãi bài toán phân lo¿i

Ánh vì nó cung cấp thông tin về vß trí cÿa đái t°ÿng trong Ánh

Có nhiều cách để giÁi quyết bài toán xác đßnh vß trí đái t°ÿng trong Ánh, trong đó ph°¡ng pháp phổ biến nhất là sử dāng các mô hình hác sâu nh° YOLO

[57] (You Only Look Once), Faster R-CNN [27] (Region-based Convolutional Neural Networks), RetinaNet [44] và SSD [46] (Single Shot MultiBox Detector) Các mô hình này sử dāng kết hÿp giữa các lãp tích chập để tìm kiếm các đặc tr°ng cÿa đái t°ÿng trong Ánh và các lãp kết nái đầy đÿ để dự đoán vß trí và đ°ång bao quanh cÿa đái t°ÿng Tác vā xác đßnh vß trí trong Ánh có rất nhiều āng dāng trong thực tế, nh° giúp cho hệ tháng tự đáng lái xe có thể xác đßnh vß trí cÿa các vật cÁn trên đ°ång, giúp cho hệ tháng giám sát an ninh có thể xác đßnh vß trí cÿa ng°åi hoặc vật thể đang xâm nhập vào khu vực cần bÁo

vệ, hoặc giúp cho robot có thể xác đßnh vß trí cÿa đái t°ÿng cần thao tác trên

Nh° đã trình bày ç đây thì bài toán phát hiện đái t°ÿng bÁn chất là bài toán có hai tác vā là xác đßnh vß trí đái t°ÿng trong Ánh và phân lo¿i Ánh Để đánh giá các mô hình hác sâu giÁi quyết các tác vā xử lý Ánh này thông th°ång

sẽ có các tập dữ liệu t°¡ng āng để đánh giá Trong đó các tập dữ liệu cho hai tác vā là phát hiện đái t°ÿng và phân lo¿i Ánh là phổ biến h¡n, trong khi xác đßnh vß trí trong Ánh thì rất ít tập dữ liệu đ°ÿc công bá Điều này cũng dễ hiểu

vì thông th°ång trong bài toán phát hiện đái t°ÿng đã phÁi xử lý tác vā xác đßnh đái t°ÿng trong Ánh Mát sá tập dữ liệu phổ biến cho bài toán phát hiện đái t°ÿng có thể kể đến nh°: COCO [45] (Microsoft Common Objects in Context) là mát tập dữ liệu bao gồm 160 nghìn Ánh màu vãi 80 lãp đái t°ÿng đ°ÿc chia ra 83 nghìn Ánh cho huấn luyện, 41 nghìn Ánh cho th¿m đßnh (Validation) và 41 nghìn Ánh cho kiểm tra (Test); Tập dữ liệu PASCAL VOC

[22] (PASCAL Visual Object Classes Challenge) bao gồm h¡n 11 nghìn Ánh màu vãi 20 lãp đái t°ÿng; KITTI [26] (Karlsruhe Institute of Technology and Toyota Technological Institute) là tập dữ liệu phổ biến trong các āng dāng rô

bát và xe tự hành Vãi bài toán phân lo¿i Ánh, sá l°ÿng các tập dữ liệu công bá cũng nhiều t°¡ng đ°¡ng vãi bài toán phát hiện đái t°ÿng Mát sá tập dữ liệu phổ biến có thể kể đến: MNIST [39] (Modified National Institute of Standards and Technology) là tập dữ liệu có 70 nghìn Ánh chữ viết tay đen trắng vãi 10 chữ sá từ 1 tãi 10 đ°ÿc chia ra 60 nghìn Ánh cho huấn luyện và 10 nghìn Ánh cho kiểm tra; Fashion-MNIST [79] t°¡ng tự nh° MNIST cũng có 70 nghìn Ánh đen trắng và 10 lãp đái t°ÿng nh°ng khác là 10 lãp đái t°ÿng là các hình Ánh đen trắng cÿa quần áo giầy dép và túi; CIFAR-10 và CIFAR-100 [36] (Canadian Institute for Advanced Research) là hai tập dữ liệu rất phổ biến trong bài toán phân lo¿i Ánh, hai tập dữ liệu này đều có 60 nghìn Ánh màu nh°ng khác nhau

sá l°ÿng lãp đái t°ÿng khác nhau là 10 và 100 lãp do đó vãi CIFAR-100 sẽ thách thāc các mô hình h¡n CIFAR-10; ImageNet [16] là mát tập dữ liệu lãp gồm h¡n 1,2 triệu Ánh màu vãi 1000 lãp đái t°ÿng có thể nói đây là tập dữ liệu thách thāc nhất đ°ÿc công bá cho bài toán phân lo¿i Ánh

Trong khuôn khổ h°ãng nghiên cāu, nghiên cāu sinh sẽ sử dāng các tập

dữ liệu đã công bá để thử nghiệm đánh giá các ý t°çng cÿa mình nhằm cÁi thiện hiệu năng cho các mô hình m¿ng hác sâu đề xuất

1.2 Mßt sß m¿ng hác sâu phù hÿp vái phÅn cąng nhúng ti¿t kiám nng l°ÿng và tài nguyên h¿n ch¿

sử dāng phần cāng tùy chỉnh hoặc cá đßnh để thực hiện nhiệm vā cā thể Điều

này có thể bao gồm việc tích hÿp vi xử lý, bá nhã, cÁm biến và các thành phần phần cāng khác trên mát bo m¿ch điều khiển Mát sá hệ tháng nhúng cần phÁn hồi mát cách nhanh chóng và đáp āng theo thåi gian thực Ví dā, các hệ tháng nhúng đ°ÿc sử dāng trong ô tô để kiểm soát hệ tháng an toàn, hoặc trong thiết

bß y tế để theo dõi tín hiệu sinh hác Hệ tháng nhúng th°ång là các hệ tháng đác lập ho¿t đáng, có khÁ năng ho¿t đáng mà không cần sự can thiệp liên tāc

từ ng°åi dùng Hệ tháng nhúng ch¿y phần mềm nhúng đ°ÿc phát triển để điều khiển và quÁn lý phần cāng, thực hiện các chāc năng cā thể, và giao tiếp vãi môi tr°ång bên ngoài

Hệ tháng nhúng có mát lßch sử phát triển dài và thú vß D°ãi đây là mát

sá sự kiện quan tráng trong lßch sử phát triển cÿa hệ tháng nhúng:

- Đầu những năm 1960: Các hệ tháng nhúng đầu tiên đ°ÿc phát triển, chÿ yếu để điều khiển các hệ tháng sÁn xuất và sÁn xuất hàng hóa trong môi tr°ång công nghiệp Các hệ tháng này th°ång đ°ÿc lập trình bằng ngôn ngữ Assembly, vì vậy việc lập trình khá khó khăn

- Thập niên 1970: Các vi m¿ch tích hÿp đầu tiên ra đåi, cho phép các hệ tháng nhúng trç nên nhß gán h¡n Các āng dāng sử dāng hệ tháng nhúng bao gồm các hệ tháng điều khiển và giám sát trong các lĩnh vực nh° y tế, điện tử tiêu dùng và ô tô

- Thập niên 1980: Các āng dāng nhúng ngày càng phổ biến và đ°ÿc tích hÿp sâu vào các sÁn ph¿m tiêu dùng nh° thiết bß cá nhân, điện tho¿i di đáng và thiết bß y tế Các hệ tháng nhúng đ°ÿc lập trình bằng ngôn ngữ C và các công

cā phát triển tích hÿp nh° trình biên dßch và bá gỡ lßi

- Thập niên 1990: Các hệ tháng nhúng trç nên m¿nh mẽ h¡n và có khÁ năng tính toán cao h¡n, cho phép chúng đ°ÿc sử dāng trong các āng dāng nh°

hệ tháng thông tin đßa lý (GIS) và thß giác máy tính (CV)

- Thập niên 2000 đến nay: Các hệ tháng nhúng ngày càng phổ biến và đa d¿ng h¡n, và đã trç thành mát phần quan tráng cÿa nhiều lĩnh vực nh° y tế, điện tử tiêu dùng, ô tô và công nghiệp Các công nghệ mãi nh° Internet of Things (IoT) và trí tuệ nhân t¿o đang t¿o ra nhiều c¡ hái mãi cho các āng dāng

hệ tháng nhúng

Hệ tháng nhúng đang trç thành mát phần không thể thiếu cÿa nhiều lĩnh vực công nghiệp và sẽ tiếp tāc phát triển trong t°¡ng lai Các công nghệ mãi nh° trí tuệ nhân t¿o, hác máy, blockchain, v.v sẽ đ°ÿc tích hÿp vào hệ tháng nhúng để cÁi thiện hiệu suất và tính năng cÿa chúng Hệ tháng nhúng có thể tích hÿp các giÁi thuật trí tuệ nhân t¿o và hác máy để phân tích dữ liệu và đ°a

ra quyết đßnh thông minh Điều này sẽ giúp tăng tính linh ho¿t và đá chính xác cÿa hệ tháng nhúng, đồng thåi giÁm thiểu sự phā thuác vào ng°åi dùng Công nghệ m¿ng 5G đang đ°ÿc triển khai ráng rãi trên toàn cầu và sẽ t¿o ra nhiều c¡ hái mãi cho hệ tháng nhúng 5G cho phép truyền tÁi dữ liệu vãi tác đá rất nhanh

và đá trễ thấp, giúp kết nái các thiết bß IoT vãi nhau mát cách nhanh chóng và hiệu quÁ h¡n Hệ tháng nhúng sẽ tiếp tāc đ°ÿc tích hÿp vào các thiết bß thông minh và nhà thông minh Các thiết bß này sẽ trç nên thông minh h¡n và có thể

tự đáng thực hiện các nhiệm vā mát cách nhanh chóng và hiệu quÁ Hệ tháng nhúng cũng sẽ đ°ÿc cÁi tiến để tăng tính bÁo mật Các giÁi pháp bÁo mật mãi

sẽ đ°ÿc tích hÿp vào hệ tháng nhúng để đÁm bÁo an toàn và bÁo vệ dữ liệu cá nhân cÿa ng°åi dùng Hệ tháng nhúng là mát phần không thể thiếu trong nhiều āng dāng sử dāng công nghệ hiện đ¿i Chúng đã đóng vai trò quan tráng trong việc giúp cho các thiết bß điện tử tiêu dùng trç nên thông minh h¡n, tiện ích h¡n và hiệu quÁ h¡n T°¡ng lai, các hệ tháng nhúng sẽ tiếp tāc phát triển để đáp āng các nhu cầu ngày càng cao cÿa ng°åi dùng

Mát trong các h°ãng āng dāng cÿa các hệ tháng nhúng là tích hÿp các tác vā cÿa thß giác máy tính sử dāng trí tuệ nhân t¿o Mát sá ví dā về các hệ

tháng nhúng có sử dāng thß giác máy tính bằng các thuật toán trí tuệ nhân t¿o:

- Hệ thống giám sát an ninh: Hệ tháng này sử dāng các camera để phát

hiện các sự kiện an ninh nh° xâm nhập hoặc đát nhập Các hình Ánh đ°ÿc xử

lý bçi thß giác máy tính để xác đßnh xem có ho¿t đáng bất th°ång nào xÁy ra hay không

- Hệ thống không người lái: Các thiết bß nhúng trong các hệ tháng không

ng°åi lái sử dāng trí tuệ nhân t¿o để xử lý các tác vā thß giác máy tính phāc vā nhận d¿ng đái t°ÿng, phát hiện vật cÁn, dÁn đ°ång bằng hình Ánh

- Máy quét tia X: Các máy quét tia X trong y tế sử dāng thß giác máy tính

để phát hiện các vật thể bất th°ång trong hình Ánh tia X Các hệ tháng này có thể giúp các bác sĩ phát hiện các bệnh lý trong c¡ thể và giúp xác đßnh liệu có phÁi tiến hành can thiệp bệnh hác hay không

- Máy kiểm tra bao bì: Hệ tháng nhúng này sử dāng thß giác máy tính để

đác các thông tin trên bao bì, ví dā nh° mã v¿ch hoặc QR code Các hệ tháng này giúp kiểm tra chính xác thông tin sÁn ph¿m và h¿n sử dāng, giúp các nhà sÁn xuất kiểm soát đ°ÿc chất l°ÿng và ngăn chặn các sÁn ph¿m giÁ m¿o

Ngày nay, xu thế āng dāng sử dāng hệ tháng nhúng đ°ÿc đặt gần nguồn

dữ liệu và xử lý ra quyết đßnh ngay t¿i đó, các thiết bß này đ°ÿc gái là thiết bß biên Các hệ tháng nhúng sử dāng thiết bß biên mang l¿i nhiều lÿi ích:

1) Giảm thiểu chi phí mạng: Thiết bß biên có khÁ năng xử lý dữ liệu ngay

t¿i nguồn, giúp giÁm l°ÿng dữ liệu phÁi chuyển đến trung tâm dữ liệu hoặc máy chÿ để xử lý, giÁm chi phí liên quan đến m¿ng

2) Tăng hiệu suất tính toán: Thiết bß biên có khÁ năng xử lý dữ liệu giúp

giÁm tÁi tráng cho các máy chÿ và trung tâm dữ liệu Điều này có thể giúp tăng hiệu suất tính toán và giÁm thåi gian xử lý dữ liệu chung cÿa toàn bá hệ tháng do có nhiều bá xử lý cùng làm việc

3) Giảm thời gian đáp ứng: Thiết bß biên giúp tăng tác đá đáp āng cÿa hệ

tháng, bằng cách xử lý dữ liệu ngay t¿i nguồn và ra quyết đßnh ngay, điều này làm giÁm thåi gian phÁn hồi cÿa hệ tháng vãi các tác vā làm việc 4) Tăng tính khả dụng của hệ thống: Thiết bß biên giúp giÁm thiểu rÿi ro do

sự cá kết nái m¿ng, vì nó có khÁ năng l°u trữ và xử lý dữ liệu ngay t¿i chß mà không phÁi truyền về trung tâm

5) Tăng tính linh hoạt của hệ thống: Thiết bß biên có khÁ năng ho¿t đáng

đác lập vãi trung tâm dữ liệu hoặc máy chÿ, giúp tăng tính linh ho¿t và đác lập cho hệ tháng GiÁm rÿi ro toàn bá hệ tháng ngừng làm việc khi trung tâm dữ liệu hoặc máy chÿ gặp sự cá

6) Bảo mật dữ liệu: Thiết bß biên có khÁ năng l°u trữ và xử lý dữ liệu ngay

t¿i chß, giúp giÁm rÿi ro an ninh m¿ng, vì dữ liệu không phÁi chuyển qua nhiều kết nái trung gian để đ°ÿc xử lý t¿i trung tâm dữ liệu hoặc máy chÿ sau đó truyền l¿i

Vãi các °u điểm trên các thiết bß biên đang thực sự là mát xu thế phát triển cÿa hệ tháng nhúng Trên Hình 1.4 cho ta thấy sá l°ÿng thiết bß biên là lãn h¡n rất nhiều lần so vãi các trung tâm dữ liệu hoặc các nodes Edge-AI (còn đ°ÿc gái là AI trên biên - Edge Artificial Intelligence) là mát khái niệm trong lĩnh vực trí tuệ nhân t¿o, liên quan đến việc triển khai và thực thi các thuật toán

và mô hình trí tuệ nhân t¿o trực tiếp trên các thiết bß biên nh° điện tho¿i di đáng, máy tính bÁng, máy tính nhúng, thiết bß đeo đ°ÿc, các cÁm biến và các thiết bß IoT mà không cần phÁi truyền dữ liệu về mát trung tâm xử lý Việc triển khai AI t¿i biên mang l¿i nhiều lÿi ích, bao gồm tăng tác đá xử lý, giÁm đá trễ (latency), tiết kiệm năng l°ÿng và tăng tính bÁo mật Khi AI đ°ÿc triển khai t¿i thiết bß biên, dữ liệu có thể đ°ÿc xử lý trên thiết bß đầu cuái, giúp giÁm bãt tÁi tráng truyền dữ liệu m¿ng, tăng tác đá phÁn hồi và giÁm đá trễ

Mát sá āng dāng quan tráng cÿa Edge-AI bao gồm:

✓ Nhận d¿ng khuôn mặt trực tiếp trên camera giám sát để đ°a ra quyết đßnh

và hành đáng kßp thåi, giÁm đá trễ trong quá trình đáp āng

✓ Dự đoán sự cá trong các thiết bß IoT và thực hiện các biện pháp đái phó

trực tiếp trên thiết bß, giÁm đá trễ và tăng tính khÁ dāng cÿa hệ tháng

✓ Phân tích dữ liệu y tế trực tiếp trên thiết bß đeo tay để giám sát sāc khße, đ°a ra cÁnh báo và h°ãng dÁn cho ng°åi dùng, giÁm tÁi tráng truyền dữ

liệu và tăng tính bÁo mật

mô hình m¿ng n¡-ron triển khai trên các phần cāng nhúng nh° Edge-AI đòi hßi tiết kiệm năng l°ÿng và tài nguyên h¿n chế

1.2.2 M¿ng nơ-ron nhị phân

Các tác vā xử lý Ánh và xử lý tiếng nói đã đ°ÿc xử lý bçi các mô hình m¿ng n¡-ron sâu (Deep Neural Network - DNN) đ¿t kết quÁ ngày càng tát h¡n