Khóa luận tốt nghiệp Kỹ thuật máy tính: Thiết kế hệ thống giao tiếp tín hiệu không dây dựa trên phần cứng cho AI

Kết quả sẽ được đánh giá theo ba tiêu chí: - Tính hiệu quả: Đánh giá bằng BER Bit error rate của các hệ thông được đề xuất so với các hệ thông thông thường sử dụng bộ ước tính kênh LS Le

CO SỞ LY THUYÉT 2.1 Hệ thống MIMO OEDM cà L2 TH Hước 1 2.1.1 Hệ thống OFDM . .ccc22222ccEEEEverrrrrkrrrerrrrrrceer 1 2.1.2 Hệ thống MIMO OEDMM (Sàn ngư 3 2.1.3 Các bộ phát hiện tín hiệu trong hệ thống MIMO OFDM

Vấn đề PAPR cao che 6 2.3 Mạng nơ ron nhân {ạO - - - - tt vn HH ng tiệt 7 2.3.1 Tổng quát mạng no ron nhân tạo . :z©v+c++22v+zc++czvscee 7 2.3.2 Cac hàm kích hoạt thường được sử dụng ¿- - -<s= 20 2.4 Số lượng tử hóa -.-22:2222222222112122211112222111221211112211111 21111 cty 22 Chương 3 THIẾT KE TONG QUAN .2 2222¿22222z+222ESSztttEExerrsrrrscee 25 3.1 Mô hình loại I 3.2 (00 nh

MIMO OFDM là hệ thống có lượng dữ liệu được truyền tải cao, hiệu quả và sẽ có độ tin cậy cao hơn và cũng làm tăng tốc độ truyền dữ liệu đo đặc điểm của MIMO và OFDM Tuy nhiên, một trong những nhược điểm chính của nó là vấn đề PAPR cao, đặc biệt là vấn đề khi bộ PA với vùng hoạt động thấp được triển khai ở đầu cuối

RF của máy phát Giá trị của PAPR sé tỉ lệ thuận với kích thước của mô hình MIMO

OFDM Do đó, phương pháp đơn giản nhất là loại bỏ các đỉnh của tín hiệu tại những điểm có PAPR cao trước khi đi qua PA để đảm bảo rằng PA sẽ hoạt động trong vùng tuyến tính được minh họa trong Hình 2.6 Tuy nhiên, tín hiệu ban đầu cũng sẽ bị ảnh hưởng và sau đó gây ra hiện tượng nhiễu đối với tín hiệu truyền đi.

- Đỉnh Loại bỏ đỉnh mức 2 Loại bỏ đỉnh mức 2 Loại bỏ đỉnh mức trung bình

Hình 2.6: Mô tả việc tín hiệu bị loại bỏ đỉnh ở nhiều mức khác nhau

Snewm = 4 Sạ),nếu — CL < Sq@y < CL (2.6)

Trong đó SneW(n› va S(ny lần lượt là tín hiệu sau và trước khi được loại bỏ các đỉnh,

CL (Clipping level) là mức loại bỏ, CR (Clipping ratio) tỉ lệ loại bỏ, ứ là RMS (Root mean square) power của tín hiệu Ví dụ, nếu CR = 1, nó có nghĩa là tín hiệu bị loại bỏ các đỉnh ở mức công suất rms Hoặc nếu CR = 2.24, chúng ta có thể nói rằng CL cao hơn khoảng 7dB so với mức công suất RMS.

2.3 Mạng nơ ron nhân tạo.

2.3.1 Tổng quát mạng nơ ron nhân tạo

Bộ não của các loài động vật nói chung và con người nói riêng được cau tạo từ các nơ ron thần kinh được miêu tả trong Hình 2.7 Đối với một người trưởng thành, bộ não được cấu tạo từ khoảng 100 tỉ nơ ron Giữa các nơ ron là các liên kết thần kinh dùng dé truyền dẫn thông tin dé xử lí Và bộ não nhận thông tin từ các bộ phận như tay, chân, mắt, múi, tai, và dùng thông tin đó dé xử lí và đưa ra một quyết định

17 nao đó Ví dụ khi tay ta chạm vào vật nóng, thông tin từ tay được gửi đến bộ não và sau khi xử lí xong thông tin thì não quyết định sẽ rút tay lại.

Hình 2.7: Hình ảnh minh họa cho một nơ ron thần kinh Dựa trên nguyên tắc bên trên, mạng nơ ron nhân tạo được tạo thành từ mô hình toán học bao gồm một lớp đầu vào (input layer) đóng vai trò như tay, chân, mắt, mũi, , nhiều lớp ấn (hidden layer) đóng vai trò là bộ não và một lớp đầu ra (output layer) đóng vai trò đưa ra quyết định cuối cùng Chỉ tiết về mạng nơ-ron được trình bày trong [18].

Thông số của một mạng no ron nhân tạo bao gồm số lượng lớp ẩn, số nốt của mỗi lớp và loại hàm kích hoạt mỗi lớp (trừ lớp đầu vào) Trong mạng nơ ron, các nốt thuộc lớp thứ +1 mang giá trị sau khi được tính toán (trừ lớp đầu vào thì giá trị của nốt chính là đầu vào của mạng) bằng cách thực hiện phép nhân ma trận giữa các nốt trong lớp 1 và ma trận các kết nói giữa lớp và lớp 1+1 (gọi là ma trận trọng số) Sau khi thực hiện phép nhân ma trận, các giá trị thu được sẽ được cộng thêm hệ số bias của lớp 1+1 và cuối cùng là được tính toán bằng hàm kích hoạt riêng của lớp 1+1 được trình bày chỉ tiết trong Hình 2.8 và Hình 2.9 Đối với mạng nơ ron được sử dụng trong khóa luận, kết quả sau khi được tính toán tại lớp đầu ra sẽ được so sánh với kết quả có sẵn (lí tưởng) đã được chuẩn bị trước trong quá trình rèn luyện dé làm cơ sở để cập nhật lại các giá trị cho trọng số và bias (Được gọi là mạng nơ ron học có hướng dẫn).

Ma trận trọng sô Tờ A ES bias của lớn giữa lớp thứ I và lớp thứ (H1)

+ thứi TOP tht Lớp Túứnthứ2 Lớpthứ(L+l) Lớp thứ L vớiN nhât thứ ` ⁄ nốt Lớpđầu (+1) Các lớp ấn Lớp đầu vào với M ra not

Hình 2.8: Vi du về cấu tạo mạng nơ ron nhân tạo gồm 3 lớp an

Ma trận trọng số Giá trị trong Các giá trị của lớp thứ (I+1) giữa lớp thir] và các not của bias của lớp trước khi tính toán lớp thứ (+1) lớp thi! — thứ(+1) với hàm kích hoạt

CỬ QC V7 Vợ Oo @) wio) (wit) (W12) (W13) + (WIN (1) (BI) (21)

Hình 2.9: Vi dụ về việc tính toán giá trị cho các nốt trong mạng nơ ron

Trong quá trình huân luyện mạng nơ-ron còn có một sô khái niệm khác:

Batch (Batch size): là số lượng mẫu dit liệu trong một lần huấn luyện, và trong 1 Epoch thì có nhiều Batch.

Epoch: một Epoch được tính là khi chúng ta đưa tất cả dữ liệu trong tập dữ liệu huấn luyện vào mạng nơ-ron 1 lần.

Learning rate: là tốc độ học của mạng nơ-ron, là yếu tố quyết định việc mô hình mạng nơ-ron được huấn luyện tốt hay không.

Các hàm kích hoạt thường được sử dụng

Các hàm kích hoạt được trình bày chỉ tiết trong [19] Và đối với khóa luận, các hàm kích hoạt sau sẽ được sử dụng:

ReLU: tên đầy đủ là Rectified Linear Unit, hàm ReLU sẽ loại bỏ các giá trị âm bằng cách đặt nó về 0, làm tăng các đặc trưng phi tuyến tính của mạng tong thé mà không ảnh hưởng trực tiếp đến lớp tích chập Công thức đầy đủ của hàm kích hoạt ReLU được thể hiện ở phương trình (2.8) và Hình 2.10 Vì tính chất nên ReLU thường được sử dụng trong các lớp ân của mạng nơ-ron.

Hình 2.10: Công thức và biêu đồ của hàm ReLU Sigmoid: Sigmoid là một hàm phi tuyến với đầu vào là các số thực và cho kết quả nằm trong khoảng [0,1] và được xem là xác xuất trong một số bài toán Trong hàm Sigmoid, một sự thay đối nhỏ trong input dẫn đến một kết qua output không may thay đôi Công thức day đủ của hàm kích hoạt Sigmoid được thê hiện ở phương trình (2.9) và Hình 2.1 1 Nếu chúng ta cần đầu ra của

20 hàm kích hoạt được anh xạ vào khoảng [0, 1] va mang tính xác suất thì

Sigmoid là lựa chọn hoàn toàn phù hợp Và do đó Sigmoid thường được sử dụng tại lớp đâu ra của mạng nơ-ron.

Hình 2.11: Công thức và biéu đồ của hàm Sigmoid

- Softmax: Softmax là hàm trung bình mũ dùng dé tính toán xác suất xảy ra của một sự kiện Nói một cách khái quát, hàm Softmax sẽ tính khả năng xuất hiện của một lớp trong tông số tat cả các lớp có thé xuất hiện trong mang nơ ron Sau đó, xác suất này sẽ được sử dụng dé xác định class mục tiêu cho các input Từ định nghĩa về hàm Softmax, chúng ta có thé đoán được tính chất của nó Và đây là một vài tính chất của hàm Softmax: Xác suất sẽ luôn nằm trong khoảng [0:1] và tổng tat cả các xác suất bang 1 Công thức đầy đủ mà mô tả của hàm kích hoạt Softmax được thê hiện ở phương trình (2.10) và Hình 2.12 Hàm Softmax tính toán xác suất của một lớp trên tong số các lớp Xác suất tính được sẽ giúp quyết định lớp nào sẽ là lớp được lựa chọn và đặc biệt là tổng các xác suất của các lớp sẽ luôn bằng 1 Vì tính chất này nên Softmax thường được sử dụng tại lớp đầu ra của mạng nơ-ron.

Hình 2.12: Mô tả của hàm Softmax

Lượng tử hóa là một kĩ thuật giúp ánh xạ số từ miền số thực sang miền số nguyên x € [a, B] > xạ € [ta Bal Điều này giúp giảm lưu trữ cho bộ nhớ thay vi phải lưu trữ số dưới dang float thì chỉ cần lưu trữ số dưới dang integer và ngoài ra còn tăng tốc độ xử lí và tính toán được minh họa trong Hình 2.13.

Tuy nhiên do chỉ lưu trữ đưới dạng số integer nên sẽ xuất hiện sai số so với định dạng số float Độ sai số và độ ảnh hưởng tới kết quả khi tính toán phuộc vào độ rộng bit (bit-width) của số lượng tử hóa và mục đích sử dụng cho các hệ thống khác nhau thì cũng sẽ cho ra độ hiệu quả và sai sô khác nhau.

-[ LỊ L TL | LỊ1 | BỊ TL Ị L TỰ L1,

TN TT TT TT TT

Các chỉ sô phân cụm

Hinh 2.13: Minh hoa ki thuat quatization chúng ta có được các phương trình sau :

Trong đó: a, B lần lượt là giá trị nhỏ nhất và lớn nhất trong miền số thực (được quy định khác nhau trong các trường hợp được sử dụng) Trong khi đó ơ_q, B_q là giá trị nhỏ nhất (- 2"~4), giá trị lớn nhất (2"~1- 1) đưới dang số nguyên, and n là số lượng bit dùng dé biểu diễn số thực dưới dang số nguyên.

Lượng tử hóa có 2 dạng:

Và dé đơn giản hóa thiết kế, trong phạm vi khóa luận thì lượng tử hóa đồng nhất sẽ được sử dụng Từ đó rút ra được một số công thức hỗ trợ tính toán nhanh giữa hai số lượng tử hóa có yếu tố scale khác nhau:

-_ Phép nhân: Yạ = 75 XaW, (2.18) SxS y

- Phép chia: VY we (2.19) Sy X ySw ”q

Trong đó, Yq, Wq, Xq lần lượt là các số lượng tử hóa va S là yếu tổ Scale của riêng mỗi số lượng tử hóa.

Chương 3 THIET KE TONG QUAN

M6 hith load WD ee

Tnput layer and Hidden layer 0

Hidden layer 2 and Ifidden layer 3

Hình 4.1: Kiến trúc mạng no ron phần cứng chung

KIÊN TRÚC PHAN CỨNG DE XUÁT 4.1 Kiến trúc phan cứng thông thường của mạng nơ ron

Khối matrix computation 4.1.2 Khối activation function calculation .cc sssssssssesssssseessssseesesssseeeee 32 4.2 Kiến trúc phan cứng của mạng no ron có áp dụng lượng tử hóa Chương 5 KET QUA THUC HIEN 22-222222+2EEEE22EEEEE22EEEExrrrrkrcee 39 5.1 Kết quả mô phỏng trên phan mềm: 5.1.1 Mô hình MIMO OFDM 2x2 . -22222222222EEEEvrrrrrreerrev 4I 5.12 Mô hình MIMO OFDM 4x4 22222222cccvvrvrvrrrreeccev 45 5.2 Kết quả xây dựng phan cứng . -222+¿++222EEv+vrrrtttrrrkktrrrrrrrrrrrrer 50 Chương 6 TONG KET i.ccccssssssccssccsssssssssseccsssssiseesecesssssimecseceessnsiesssecesssneeseeeessste 56 6.1 Kết luận CN vơm

Với khối matrix computation, việc tính toán và lưu trữ dự liệu sẽ hoàn toàn sử dụng định dang là số floating point Thiết kế sử dụng nhiều đơn vị xử lý song song nhất có thé dé giảm thời gian chạy suy luận của toán bộ kiến trúc mạng nơ-ron Trong phan này, nó được chia thành hai phần nhỏ, một phần dành cho khối accumulation và một phần dành cho khối bias addition Nhóm sử dụng khối accumulation dé thực hiện phép nhân ma trận được giải thích một cách chỉ tiết trong Hình 4.3 Đầu ra của khối accumulation sẽ được đưa vào khối bias addition để cộng thêm các giá trị bias Ngoài ra, nhóm cũng sử dụng các thanh ghi trong khối accumulation và khối bias addition

31 dé thực hiện kỹ thuật pipeline trong thiết kế giúp giảm các critical path, tăng tần số tối đa, giảm thời gian chạy suy luận Từ đó giúp cải thiện hiệu suất thực thi của thiết kê.

Previous layer and ReLU / Max / Sigmoid Next layer

Hình 4.2: Khối layer calculation 4.1.2 Khối activation function calculation

Với khối activation function calculation, có ba loại ham kích hoạt là ReLU,

Ham kich hoat ReLU va Softmax

Bởi vi kiến trúc phan cứng của nhóm chi được thiết kế dé chạy suy luận (giai đoạn chạy thật) mà không có giai đoạn lan truyền ngược (giai đoạn huấn luyện), nên hàm Softmax không cần phải được triển khai dé tránh lãng phí tài nguyên phần cứng dùng để thiết kế là tiết kiệm thời gian chạy Do đó, hàm Max phù hợp hơn hàm Softmax trong thiết kế phần cứng của nhóm Và với hàm Max, chúng ta sẽ tìm được

32 nốt nao tại output có giá trị lớn nhất Chi tiết thiết kế phần cứng hàm ReLU và Max được trình ở trong Hình 4.4 và Hình 4.5.

Ma trận trọng số Giá trịtrong Các giá trị của lop thứ (I+1) giữa lớp thứ 1 và các not của bias của lớp trước khi tính toán lớp thứ (I1) lớp thứ I thứ (II) với hàm kích hoạt sọ 6) 6) đm

YMO nếu 0 < in thì out = in, ngược lại out = 0 do tín hiệu reset được kích hoạt.

Start || not Finish so sánh hai input đầu vào là In_0, In_1 và cho ra kết quả Max_index (Do thiết kế của khối layer calculation nên một lần chỉ có 2 input cho khối Max được tạo ra) Do đó tùy thuộc vào số lượng nốt tại lớp đầu ra của mang DNN mà khối Max sẽ lặp lại qua

34 trình tính toán đê tim ra được chỉ sô Max_index (và giá trị Max_value nêu cân thiệt) cuối củng.

Trong thiết kế phần cứng, theo thông thường chúng ta luôn muốn tối ưu hóa tối đa dé giảm tài nguyên phần cứng tiêu hao, giảm thời gian chạy nhưng không làm giảm độ chính xác và gây ra lỗi Vì vậy, thiết kế phần cứng của hàm Sigmoid được trình bày chỉ tiết trong Hình 4.6 được lấy ý tưởng từ [20] Tác giả trong [20] đã trình bày một thuật toán Sigmoid xấp xi hiệu đem lại hiệu quả cao Thuật toán Sigmoid xấp xỉ được trình bày trong hình Hình 4.7 và phương trình (4.1) bên dưới Và từ thuật toán ban đầu, nhóm đã chỉnh sửa nó một chút dé giúp dé dàng triển khai phần cứng hơn và thuật toán đã được chỉnh sửa được hiền thi trong Hình 4.8.

Hình 4.7: Thuật toán xấp xi Sigmoid trong [20]

Square = Sum * Sum Sign_1 = Sign 0

Hình 4.8: Thuật toán xấp xi Sigmoid trong [20] đã được chỉnh sửa

4.2 Kiến trúc phần cứng của mạng nơ ron có áp dụng lượng tử hóa

Khác với kiến trúc phần cứng được trình bày trong phần 4.1, kiến trúc phần cứng được áp dụng lượng tử hóa sẽ không dùng số floating point dé tính toán và lưu trữ dir liệu Thay vào đó, số lượng tử hóa sẽ được dùng để thực hiện các phép toán thông thường như cộng, trừ, nhân, chia và lưu trữ dữ liệu và số fixed point sẽ được sử dụng dé biểu diễn các hệ số tỉ lệ dé chuyên đổi giữa các miền số lượng tử hóa khác nhau trong thiết kế Trong thiết kế của nhóm, yếu tô về Offset sẽ không được quan tâm đến, tức là Offset theo mặc định là 0 như đã trình bày trong phần cơ sở lí thuyết về số lượng tử hóa Nó sẽ giúp thiết kế phần cứng trở nên đơn giản hơn rất nhiều so với việc có sử dụng yêu tô Offset Do đó, chúng ta chỉ cần nhân đữ liệu là các số lượng tử hóa với các hệ số tỷ lệ là các số fixed point được thé hiện trong Hình 4.9 Và từ đó dữ liệu giữa các lớp khác nhau sẽ được chuyên đôi mà không làm mat độ chính xác.

Previous layer and ReLU / Max / Sigmoid

Pre_layer_data reg Scale 1

Hình 4.9: Khối layer calculation có áp dụng lượng tử hóa

Chương 5 KET QUÁ THỰC HIỆN

Trong phan này, hiệu suất các mô hình máy thu MIMO OFDM dựa trên DNN được đề xuất sẽ được đánh giá Các thông số trong quá trình mô phỏng bao gồm:

- _ Hệ thống MIMO OFDM MxM được sử dụng với M =2 và M =4

- So đồ điều ché: QAM-4 (QPSK)

- M6 hình kênh truyền: Da đường truyền Rayleigh với 15 tap Bang 5.1: Thông số đào tạo các mô hình DNN của hệ thống MIMO OFDM 2x2

Mô hình loại I Mô hình loại II Mô hình loại II

Số lượng batch x 5 20 trong mỗi epoch

Số lượng mẫu l 200000 kiêm tra

Bảng 5.2: Thông số đào tạo các mô hình DNN của hệ thống MIMO OFDM 4x4

Mô hình loại I Mô hình loại II Mô hình loại III

5.1 Kết quả mô phỏng trên phần mềm: ĐỀ tạo ra tín hiệu MIMO OFDM nhận được tại máy thu, một chương trình mô phỏng hệ thống MIMO OFDM dựa trên Python được sử dụng Bộ mô phỏng MIMO

OFDM bao gồm bộ tạo dữ liệu mẫu, bộ điều chế tín hiệu tại máy phát, bộ phát tín hiệu của hệ thống MIMO OFDM, kênh truyén MIMO OFDM va nhiéu AWGN Sau qua trinh truyén tin hiệu bên trên, tín hiệu MIMO OFDM nhận được tại máy thu sé

40 được tiền xử ly và sau đó đưa đến các kiến trúc đã được đề xuất như đã trình bày chi tiết trong chương 3 Ngoài ra, Bảng 5.1 và Bảng 5.2 trình bày các tham số cho quá trình huan luyện các mô hình DNN của hệ thống MIMO OFDM 2x2 và 4x4.

Trong phần này, nhóm sẽ trình bày chỉ tiết các mô hình MIMO OFDM 2x2 thông thường và dựa trên DNN trong Hình 5.1- Hình 5.5 (linear đại diện cho tín hiệu lí tưởng va non-linear đại diện cho tín hiệu bị loại bỏ các đỉnh tại các điểm có PAPR cao).

ZF LS non-linear DSP model 5dB MMSE LS non-linear DSP model 5dB

ZF LS non-linear DSP model 7dB MMSE LS non-linear DSP model 7dB

ZF LS linear DSP mode MMSE LS linear DSP model MLD LS non-linear DSP model 5dB MLD LS non-linear DSP model 7dB MLD LS linear DSP model

Hình 5.1: Kết quả mô hình MIMO OFDM 2x2 thông thường

Sự khác biệt giữa tín hiệu lý tưởng (tín hiệu tuyến tính) và tín hiệu không lý tưởng (tín hiệu phi tuyến tinh) do van đề PAPR cao đã được thé hiện chi tiết trong Hình 5.1.

Chúng ta quan tâm đến kết quả mô hình thông thường sử dụng khối Signal detector là ZF, MMSE và MLD Đặc biệt, kết quả của khối Signal detector sử dụng ZF va

MMSE gần như bằng nhau trong mọi trường hợp vì trường hợp được xét đến ở đây là môi trường kênh truyền Rayleigh đa đường truyền với 15 tap Với kết quả của khối

Signal detector MLD, các tín hiệu bị loại bỏ các đỉnh ở mức 5dB và 7dB có giá tri

Khó khăn gặp phải +55: t2 E20 2tr 56 6.3 Hướng phat triete ccccccseseescsssseescssssessssssssccssssseessssseesssssecesssuseeesssueseesssesees 57 TÀI LIEU THAM KHAOvieeesccsssssssssssssssssssssssssssensnssssssscecceececcesssssnsnnnnnnnunmssesses 58

Đầu tiên, khi tìm hiểu các nghiên cứu khác dé đưa ra được đề tai phù hợp, có tính khả thi Nhóm đã phải tìm đọc và tham khảo rất nhiều bài báo, tạp chí nghiên cứu khoa học quốc tế Để từ đó đưa ra được những ý tưởng đầu tiên về đề tài khóa luận sẽ thực hiện.

Tiếp theo, trong quá trình tìm hiểu tài liệu và xây dựng mô hình, nhóm đã gặp rất nhiều khó khăn trong việc xây dựng được hệ thống để mô phỏng việc truyền nhận tín hiệu của hệ thông MIMO OFDM với kênh truyền đa đường Rất khó đề tìm được tư liệu tham khảo một cách đầy đủ nhất.

Cuối cùng, việc xây dựng và tối ưu thiết kế phần cứng sao cho có thé đáp ứng được giới hạn về tài nguyên phần cứng mà board FPGA Virtex 7 vc709 cung cấp. Ngoài ra còn phải đảm bảo thiết kế hoạt động đúng khi áp dụng số lượng tử hóa.

Hiện tại dé tài của nhóm do tập trung vào phát triển và tối ưu các mô hình trên phần mềm, ngoài ra cũng phát triển được thiết kế phần cứng đã được kiểm chứng bằng quá trình mô phỏng và chạy implementation trên phần mềm vivado Do đó, vẫn còn thiếu xót khi chưa thể thực hiện việc nạp thiết kế xuống board FPGA thật sự nên có thể phát triển việc nạp xuống board FPGA thật.

Ngoài ra thiết kế phần cứng vẫn có thê đi sâu vô thiết kế đề tối ưu hơn nữa về các yếu tố như tần số, tài nguyên tiêu hao, năng lượng tiêu thụ để có được một thiết kế phần cứng tốt hơn.

Hơn nữa có thé phát triển từ hệ thống MIMO OFDM lên hệ thống MU MIMO

OFDM (Multi-user MIMO OFDM).

[1] Y.-n Dong and G.-s Liang, “Research and discussion on image recognition and classification algorithm based on deep learning,” in 2019 International Conference on Machine Learning, Big Data and Business Intelligence (MLBDBI), 2019, pp 274— 278.

2] H Ye, L Liang, G Y Li, and B.-H Juang, “Deep learning-based end-to- end wireless communication systems with conditional gans as unknown channels,” IEEE Transactions on Wireless Communications, vol 19, no 5, pp 3133-3143, 2020.

3] D W Otter, J R Medina, and J K Kalita, “A survey of the usages of deep learning for natural language processing,” IEEE Transactions on Neural Networks and Learning Systems, vol 32, no 2, pp 604-624, 2021

4] H Ye, G Y Li, and B.-H Juang, “Power of deep learning for channel estimation and signal detection in ofdm systems,” IEEE Wireless Communications Letters, vol.

5] M.-S Baek, S Kwak, J.-Y Jung, H M Kim, and D.-J Choi, “Im- plementation methodologies of deep learning-based signal detection for conventional mimo transmitters,” IEEE Transactions on Broadcasting, vol 65, no 3, pp 636-642, 2019.

6] J Xia, K He, W Xu, S Zhang, L Fan, and G K Karagiannidis, “A mimo detector with deep learning in the presence of correlated interference,” [EEE

Transactions on Vehicular Technology, vol 69, no 4, pp 4492— 4497, 2020.

7] K He, Z Wang, W Huang, D Deng, J Xia, and L Fan, “Generic deep learning- based linear detectors for mimo systems over correlated noise environments,” IEEE Access, vol 8, pp 29 922-29 929, 2020.

8] L Xu, F Gao, W Zhang, and S Ma, “Model aided deep learning based mimo ofdm receiver with nonlinear power amplifiers,” in 2021 IEEE Wireless Communications and Networking Conference (WCNC), 2021, pp 1-6.

[9] S Han, H Mao, and W J Dally, “Deep compression: Compressing deep neural network with pruning, trained quantization and huffman coding,” arXiv: Computer Vision and Pattern Recognition, 2016.

[10] J Yang, X Shen, J Xing, X Tian, H Li, B Deng, J Huang, and X.-s Hua,

“Quantization networks,” in 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2019, pp 7300-7308.

[11] P Nayak, D C Zhang, and S M Chai, “Bit efficient quantization for deep neural networks,” 2019 Fifth Workshop on Energy Efficient Machine Learning and Cognitive Computing - NeurIPS Edition (EMC2-NIPS), pp 52-56, 2019.

[12] P Wang, Q Hu, Y Zhang, C Zhang, Y Liu, and J Cheng, “Two-step quantization for low-bit neural networks,” in 2018 IEEE/CVE Conference on Computer Vision and Pattern Recognition, 2018, pp 4376-4384.

[13] Z Cai, X He, J Sun, and N Vasconcelos, “Deep learning with low precision by half-wave gaussian quantization,” 2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp 5406-5414, 2017.

[14] C Pal, S Pankaj, W Akram, A Acharyya, and D Biswas, “Modified huffman based compression methodology for deep neural network implementation on resource constrained mobile platforms,” in 2018 IEEE International Symposium on Circuits and Systems (ISCAS), 2018, pp 1-5.

[15] Z Chiliang, H Tao, G Yingda, and Y Zuochang, “Accelerating convolutional neural networks with dynamic channel pruning,” in 2019 Data Compression Conference (DCC), 2019, pp 563-563.

[16] Marchetti, Nicola, et al "OFDM: Principles and challenges." New directions in wireless communications research Springer, Boston, MA, 2009 29-62.

[17] Bolcskei, Helmut "MIMO-OFDM wireless systems: basics, perspectives, and challenges." JEEE wireless communications 13.4 (2006): 31-37.

[18] Schmidhuber, Jũrgen "Deep learning in neural networks: An overview." Neural networks, vol 61, 2015, pp 85-117.

[19] Sharma, Sagar, Simone Sharma, and Anidhya Athaiya "Activation functions in neural networks." towards data science 6.12 (2017): 310-316.

[20] M Zhang, S Vassiliadis, and J Delgado-Frias, “Sigmoid generators for neural computing using piecewise approximations,” IEEE Transactions on Computers, vol.

Hướng dẫn sử dung chương trình mô phỏng và thiết kế phan cứng:

- Link chứa chương trình mô phỏng các mô hình thiết kế đã đề xuất: https://drive.google.com/drive/folders/164C Y OPbQHrObH3 WxdHMe0Yiv

- Link chứa các thiết kế phần cứng đã trình bay trong khóa luận: https://drive.google.com/drive/folders/1Kk3cJsEYTQD90Eg- 0Vm4fLS0TMXSAGO62usp=sharing Đôi với việc sử dụng chương trình mô phỏng đê train và test các mô hình đã đê xuât trên phần mềm sử dụng Python:

- Đối với mô hình MIMO OFDM 2x2: file dùng dé train và test ¢ M6 hình loại I: o Sử dụng ZF detector: /Model_type_I/ZF/Code/2x2.py o Su dung MLD detector: /Model_type_I /MLD/Code/2x2.py ° M6 hình loại II: o Sử dụng ZF detector: /Model_type_II/ZF/Code/2x2.py o Sử dung MLD detector: /Model_type_I/MLD/Code/2x2.py ¢ M6 hình loại III: o Sử dụng ZF detector: /Model_type_III /Code/2x2.py

- Đối với mô hình MIMO OFDM 4x4: file dùng dé train va test ¢* M6 hình loại I: o Sử dụng ZF detector: /Model_type_I/ZF/Code/4x4.py o Sử dung MLD detector: /Model_type_I /MLD/Code/4x4.py ¢ M6 hình loại II: o Sử dụng ZF detector: /Model_type_II/ZF/Code/4x4.py o Sử dung MLD detector: /Model_type_H/MLD/Code/4x4.py ° M6 hình loại HI: o Sử dụng ZF detector: /Model_type_ III /Code/4x4.py

- Cách sử dụng: về cơ bản việc train mô hình MIMO OFDM 2x2 và 4x4 là giống nhau

* Class sysconfig: Chứa các tham số cho quá trình train và test mô hình nên có thé chỉnh sửa dé có thê thay đổi cLass learning _rate_current 9.891 learning rate decrease step - 500 batch_size = 2000 total batch + training epochs = 5000 display step - 19 test_step 1889 num case big test 208088 num case small test = num case big test model saving step = 5ỉ test_idx_epoch = 1800 test_number - 2060 is_new = True start_idx_epoch = @ num_tx_antenna 4 num_rx_antenna 4 channel_type n_taps 15

CR 2.24 clipping flag False num_pilot = num_subCarrier

Pilot_file name str(num_pilot)

SNRdB 4a sigma = np.sqrt(@.5 (10**(SNRdB / 18))) ¢ Ham train(): dùng đê câu hình mô hình mang no-ron với các thông sô vê việc sử dụng các hàm kích hoạt và cach ma mạng nơ-ron sẽ hoc

„ config.n_output]) def encoder(x): weights {

-Variable(tf. truncated_normal ( truncated_normal (| truncated_normal (| truncated_normal (| truncated_normal (| truncated_normal (| truncated_normal ( truncated_normal (| tf.nn.relu(tf.add(tf.matmul(x, weights[' tf.nn.relu(tf.add(tf.matmul(layer 1, wei tf.nn.relu(tf.add(tf.matmul(layer 2, wei tf.add(tf.matmul(layer_ 3, weights[ 'encod layer_4 layer 1 layer_2 layer_ 3 layer_4

* Ham test(): dùng dé kiểm tra độ chính xác của mang no-ron def test(config):

, config.n_input]) , config.n output]) def encoder(x): weights {

-Variable(tf. truncated_normal([c‹ truncated_normal([c‹ truncated_normal([c‹ truncated_normal([c‹ truncated_normal([c‹ truncated_normal([c‹ truncated_normal([c‹ truncated_normal([c‹ Đối với việc kiểm thử độ kha thi của việc áp dụng lượng tử hóa và thực hiện việc mô phỏng phan cứng dé xác minh độ chính xác của hệ thống phần cứng đã thiết kế