Học máy và khả năng ứng dụng trong các hệ thống thông tin vô tuyến

Bài viết này trình bày một nghiên cứu tổng quan về nguyên lý và các kết quả đạt được gần đây về ứng dụng học máy trong các hệ thống TTVT, trên cơ sở đó gợi mở một số chủ đề nghiên cứu có ý nghĩa khoa học và thực tiễn.

Nghiên cứu khoa học công nghệ HỌC MÁY VÀ KHẢ NĂNG ỨNG DỤNG TRONG CÁC HỆ THỐNG THÔNG TIN VÔ TUYẾN Bùi Thị Thanh Tâm1*, Trần Xuân Nam2 Tóm tắt: Cùng với phát triển Cuộc cách mạng công nghiệp lần thứ 4, truyền thông vô tuyến ngày phát triển nhằm đảm bảo truyền dẫn, thông tin liên lạc nhanh, an toàn, tin cậy điều kiện chịu ảnh hướng lớn mơi trường truyền sóng vô tuyến phức tạp Sự phát triển mạnh mẽ công nghệ xử lý tiên tiến thúc đẩy việc nghiên cứu ứng dụng trí tuệ nhân tạo (Artificial Intelligence - AI) vào hệ thống thông tin vô tuyến (TTVT) hệ nhằm tăng khả tự học, nhận biết, tự xử lý để kết nối với thích nghi theo điều kiện truyền dẫn thực tế, giảm bớt thời gian xử lý, đồng thời đạt hiệu cao Bài báo trình bày nghiên cứu tổng quan nguyên lý kết đạt gần ứng dụng học máy hệ thống TTVT, sở gợi mở số chủ đề nghiên cứu có ý nghĩa khoa học thực tiễn Từ khóa: Hệ thống thơng tin vơ tuyến; Học máy; Học sâu GIỚI THIỆU Các hệ thống thông tin vơ tuyến ln địi hỏi ứng dụng cơng nghệ nhằm đáp ứng yêu cầu truyền tin tốc độ nhanh, độ tin cậy cao điều kiện băng tần hạn chế, môi trường kênh truyền phức tạp chịu ảnh hưởng nguồn nhiễu tượng pha-đinh vô tuyến Cùng với phát triển công nghệ tính tốn tiên tiến, trí tuệ nhân tạo ngày ứng dụng rộng rãi hệ thống công nghệ điện tử, truyền thông công nghệ thông tin Các nghiên cứu thông tin vô tuyến cho thấy trí tuệ nhân tạo, mà cụ thể học máy (Machine Learning - ML), ứng dụng rộng rãi thông tin vô tuyến hệ thông tin quân sự, thông tin di động hệ thứ (6G) [1], hệ thống kết nối Internet vạn vật (Internet of Things - IoT) [2], hệ thống thông tin phục vụ giao thông thông minh (Intelligence Transport System - ITS) [3], Việc ứng dụng ML TTVT đem lại nhiều tiềm xử lý tín hiệu nhờ đặc tính tự học không yêu cầu thông tin trạng thái kênh thông tin trạng thái kênh [4], mã hóa [5, 6], xử lý liệu lớn, đa chiều [7] theo định hướng hệ thống vơ tuyến cấu hình mềm, thơng minh Bài báo trình bày tổng quan khả ứng dụng học máy TTVT, kết bước đầu đạt tiềm phát triển tương lai Bài báo tập trung chủ yếu vào khả ứng học sâu (Deep Learning - DL) vào xử lý tín hiệu lớp vật lý coi lớp phức tạp hệ thống TTVT Bài báo có cấu trúc sau: Mục trình bày lý thuyết chung học máy học sâu, số mơ hình điển hình; Mục trình bày ứng dụng tiềm học máy học sâu hệ thống TTVT; Cuối Mục rút kết luận gợi mở số hướng nghiên cứu tiềm ứng dụng học máy TTVT HỌC MÁY VÀ CÁC MƠ HÌNH CỦA MẠNG HỌC SÂU 2.1 Học máy Học máy lĩnh vực khoa học máy tính, nhánh trí tuệ nhân tạo, Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, - 2020 11 Kỹỹ thuật điện tử sử dụng thuật toán để xây dựng mơ hhình ình tốn hhọc ọc dựa trên tập tập liệu mẫu đầu ầu vào thơng qua q trình huấn huấn luyện nhằm thực dự đoán định [8] ịnh tự động thơng qua trải nghiệm tự học [8] ình Hình 1 Mơ hình hhọc ọc máy điển hhình Hình trình bày m ột mơ hình hình hhọc ọc máy điển hình hình vvới ới hai trình: trình: trình huấn luyện (training huấn training)) trình xxử (training lý liệu Trong trình trình huấn huấn luyện, sử dụng thuật tốn học máy xây dựng mô ụng tập liệu hữu hạn đầu vvào thuật xử lý tín hiệu với tham số đảm bảo liệu đầu xác với liệu hình xử huấn luyện Quá tr huấn trình ự qquá ình tương tương ttự uá trình huấn huấn luyện để xác định trọng số nhiên, ộ lọc san tín hiệu xử lý tín hiệu Tuy nhi ên, điểm điểm khác biệt học ọc máy và bộ lọc llàà chỗ thuật toán vvàà trọng trọng số mơ hình hình xử xử lý tín hiệu ập tr trình trước, lọc đ được xác định và llập ình trư c, đó, thuật thuật tốn vvàà trọng học máy đđư ược ọng số mơ hhình ình học ợc xây dựng tự động thông qua tr trình ình huấn huấn luyện Dựa luyện loại phương pháp hu huấn ấn luyện phân học máy thành thành lo ại sau: học ọc có giám sát (supervised ( upervised learning), learning), học học không giám sát (uns ( nsupervised upervised reinforcement learning) learning) học học tăng cường cường (reinforce (reinforce ment learning learning) Các thuật tốn học có giám sát ssử dụng tập liệu gồm liệu huấn luyện vvàà ddữ ữ liệu mong muốn đầu gọi (còn gọi dữ liệu giám sát) để xây dựng mơ hình hình, đó, thuật thuật tốn khơng giám sát sử sử dụng tập liệu gồm liệu đầu vvào Học Học tăng ccường ờng sử dụng ào, ddữ chuẩn ụng tập liệu gồm liệu đầu vvào, ữ liệu đầu định và tiêu chu ẩn đầu để thực ttương ầu nh trò ữ liệu huấn huấn vào để ương tác yêu ccầu điều điều khiển, tr ò chơi chơi Bộ Bộ ddữ luyện luyện ột mơ hhình với đ ợc lựa chọn chọn để đưa m ình với với độ xác cao với m nhiệm thể Hai ứng dụng phổ biến học có giám sát llà phân loại nhiệm vụ cụụ thể loại (classification egression), classification hhồi classification) ồi quy (regression ( egression đó, ứng dụng chủ yếu học clustering)) hoặc giảm số chiều liệu ((dimension khơng giám sát phân nhóm (clustering (clustering dimension ưu tr trữ tính tốn H Học reduction) reduction) để để thuận tiện việc llưu ữ ọc tăng cường c ờng llàà phương hệ thống học cách xác định hoạt động dựa pháp hệ hồn ccảnh ảnh để đạt đđược ợc lợi ích cao nhấ trò chơi, t Hiện Hiện tại, học tăng cường c ờng chủ yếu được áp dụng lý thuyết tr ị chơi, thuật tốn xác định nước thuật n ớc để đạt đư ợc điểm số cao Các mơ hình học học máy phổ biến gồm mơ hình hình mạng ạng nnơ-ron ron nhân tạo tạo ((Artificial Artificial véc tơ hỗ Neural Network - ANN), mơ hình quy ết định (Decision (Decision Tree), Tree , máy véc tơ hỗ trợ (Support Vector Machine - SVM), phân tích hhồi ợ (Support ồi quy (analysis (analysis regression), regression), mạng Bayes (Bayesian mạng thuật (Bayesian Networks Networks)) thu ật toán di truyền ((Genetic Genetic Algorithm - GA) [9] Học [9] Học sâu là một nhánh học máy dựa trên ANN vvới ới nhiều lớp liên liên kkết ết mơ biểu ểu diễn hình hình 12 Tâm,, T T X “Học khả tuyến B T B T T Tâm X Nam Nam,, “H ọc máy khả ứng dụng … thông tin vô ến.” ” Nghiên cứu khoa học công nghệ output layer input layer hidden layer hidden layer hidden layer Hình Cấu trúc mạng nơ-ron sâu 2.2 Một số mơ hình mạng học sâu Những nghiên cứu tảng học sâu thực tế xuất từ năm 1940 [10, 11] Mặc dù biết đến mơ hình học máy hiệu quả, nhiên, học sâu gặp phải nhiều khó khăn thách thức lớn xử lý liệu phi tuyến, giải vấn đề khớp (overfitting), biến gra-đi-ên (vanishing gradient) tải tính tốn (computational load) [12] Cho đến đầu năm 2010, với phát triển phần cứng có khả tính tốn tốc độ cao, học sâu quan tâm trở lại phát triển bùng nổ Cho đến nay, có nhiều mơ hình học sâu khác đề xuất Trong báo này, không trình bày lại cấu trúc mạng nơ-ron học sâu mà tập trung vào mơ hình mạng học sâu có tính chất tảng sử dụng rộng rãi nghiên cứu Đó mạng nơ-ron chiều thuận (Feedforward Neural Networks - FNN), mạng nơ-ron chập (Convolution Neural Networks - CNN) mạng nơ-ron hồi quy (Recurrent Neural Networks - RNN) 2.2.1 Feedforward Neural Networks (FNN) Mạng nơ-ron hướng thuận (FNN) cịn có tên gọi khác mạng nơ-ron sâu (Deep Neural Networks - DNN) mơ hình học máy sử dụng nhiều ứng dụng thực tế Trong FNN, liệu đầu vào lớp phụ thuộc liệu đầu lớp trước Trong mạng học sâu có L lớp, biểu thức tính liệu đầu lớp thứ l (với l  1, 2, , L ) biểu diễn sau: y l  f W l y l 1  b l       l  đó, ma trận trọng số W biểu diễn trọng số (weight) kết nối từ lớp thứ l  (l  1) đến lớp thứ l , b véc-tơ biểu diễn độ lệch (bias) lớp thứ l , f () hàm kích hoạt đầu nút Giả thiết mạng FNN thực nhiệm vụ phân loại liệu, liệu đưa vào huấn luyện (x , y ) với x liệu đầu vào, y liệu đầu cho trước để điều chỉnh tham số mạng Quá trình tối ưu mạng trình tham số mạng W , b điều chỉnh theo chiều làm cực tiểu hàm mát L(y, yˆ) , với y đầu yˆ đầu ước lượng Một số hàm kích hoạt hàm mát điển hình trình bày [13] Các thuật tốn tối ưu điển hình thường sử dụng xuống dốc gra-đi-ên (gradient descent), Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, - 2020 13 Kỹ thuật điện tử xuống dốc gra-đi-ên ngẫu nhiên (Stochastic Gradient Descent), Adagrad, bậc hai bình phương sai số (Root Mean Square - RMS), Adam [10] Năm 1986, Geoffrey Hinton [14] chứng minh mạng nơ-ron với nhiều lớp ẩn huấn luyện hiệu sử dụng quy trình lan truyền ngược (Back Propagation BP) Mạng huấn huyện BP, có nghĩa đầu mạng có đường phản hồi đến lớp phía trước để điểu chỉnh tham số mạng từ lớp L , lớp L 1,… lớp Hầu hết mạng học sâu sử dụng phương pháp huấn luyện mạng dựa BP 2.2.2 Convolution Neural Networks (CNN) Mạng nơ-ron chập (CNN) giới thiệu [15] đề xuất ứng dụng nhiều toán thực tế [16-18] CNN kiểu mạng nơ-ron xử lý tốt liệu dạng lưới (grid-like data), đa chiều có kích thước thay đổi Đầu vào mạng CNN theo chuỗi theo thời gian, phù hợp với liệu đầu vào dạng ảnh CNN có sử dụng phép tính tích chập nhân ma trận lớp, với ảnh I đầu vào ta có phép tính tích chập biểu diễn sau [10]: S i, j   K * I i, j     I m, n  K i  m, j  n  m n S thường đồ đặc tính, K gọi Kernel Phép tính biểu diễn cho liệu chiều, mở rộng thành liệu nhiều chiều Các tham số K tương tự tham số trọng số mạng FNN, có để học thuật toán SGD BP Một ưu điểm CNN so với FNN đặc tính chia sẻ tham số (parameter sharing), nhờ đặc tính CNN phải học tham số nhất, đó, giảm yêu cầu nhớ Một số dạng biến đổi CNN LSTM (Long Short Term Memory), RN (Residual Network), HNN (Highway Neural Network) cho phép chống lại vấn đề vanishing gradients trình huấn luyện mạng 2.2.3 Recurrent Neural Network (RNN) RNN giới thiệu [10] cách để điều chỉnh xử lý liệu nối tiếp Kiểu mạng tương tự CNN theo nghĩa chia sẻ tham số; nhiên, RNN tham số chia sẻ theo bước thời gian số đầu vào nối tiếp Mạng có tên gọi hồi quy (recurrent) chúng lặp lại kết nối nút ẩn Biểu diễn toán học đầu nút thời điểm t sau:  y t   f y t  1, x t ;   đó, hàm f () hàm kích hoạt nút, y(t ) trạng thái nút ẩn thời điểm t , x (t ) đầu vào thời điểm t ,  tham số cần học mạng  khơng có số hay biến theo thời gian tham số trọng số, độ lệch mạng giống với thời điểm chuỗi đầu vào Các thuật toán SGD BPTT [10] (Back-Propagation Through Time) thường sử dụng để huấn luyện RNN Các mạng mở rộng RNN phổ biến LSTM GRU (Gated Recurrent Unit) CÁC ỨNG DỤNG CỦA ML TRONG THÔNG TIN VÔ TUYẾN Trong năm gần đây, học máy nghiên cứu đề xuất ứng dụng 14 B T T Tâm, T X Nam, “Học máy khả ứng dụng … thông tin vô tuyến.” Nghiên cứu cứu khoa học công nghệ hệ hệ thống TTVT nhằm nhằm đem lại tiềm lớn khả ứng dụng tiên giản hóa cấu trúc máy thu phát, nâng cao ụng cơng nghệ xử lý ti ên tiến tiến đơn giản chất lượng chất l ợng truyền dẫn dẫn Các ứng dụng học thành ọc máy đđã đđềề xuất thể chia th ành hai loại: loại: ứng dụng đầy ầy đủ từ máy phát đến máy thu, tạo ạo thành thành m ột thếế autoencoder [10] nhất; nhất; hai thay th khối chức năng san bbằng ằng ửa lỗi, m mãã hóa gi ải m mã, trải phổ tín hi hiệu,, nhận nhận kênh giải giải mã mã kênh, mã hóa ssửa giải ã, trải dạng ạng điều chế hay tách tín hiệu hiệu 3.1 Ứng dụng DL cho hệ thống thông tin từ máy phát đến máy thu 3.1 Hình Một Một hệ thống thông tin qua kkênh ênh AWGN m đư ợc biểu diễn nh ột autoencoder [13] [13] biểu ột mã Trong cơng trình [13] tác gi giảả bi ểu diễn hệ thống TTVT m tự động (autoencoder biểu hóa tự ( utoencoder) utoencoder biểu ểu diễn tr ên hình Cách bi ểu diễn này cho phép tối tối ưu hhệệ thống đồng từ máy phát đến máy thu, hứa hẹn cải thiện đđư ược ợc phẩm chất hệ thống tr trường ờng hợp phức tạp, khó mơ hình hình hóa hệ hệ thống ọc [19] [19] Tồn bbộ mơ hình tốn hhọc ộ hệ thống từ máy phát, kênh kênh truy truyền ền vvàà máy thu biểu diễn ron m ột mạng nơ nơ-ron s tơ one one-hot, Ở máy phát, tập liệu phát đầu vvào mã mã hóa bbằng ằng vécvéc-tơ hot, sau được đưa đưa vào m ột mạng FNN, là một lớp chuẩn hóa (normalization (normalization layer) Kênh diễn lớp tạp âm cộộng layer) biểu diễn ng tính (noise (noise layer layer) ) Máy thu ũng đư ợc biểu diễn mạng FNN, đó, lớp ớp cuối cùng sử sử dụng hàm hàm hoạt softmax có đầu p  (0,1) m suất kích hoạt ột vecvec-tơ tơ xác su ất xuất symbol Bộộ autoencoder đư crossợc huấn luyện luyện thuật toán SGD với hàm hàm mất mát llàà crossKết cho thấy thấy, hệ hệ thống ứng dụng DL cho phẩm chất entropy giữa 1s p Kết tương đương với với hệ thống thông tin thông thư thường ờng sử dụng tách hợp lệ tối đa ơn hhệệ thống sử dụng mức điều chế cao Trong trường tr ờng hợp khó hhơn phẩm autoencoder cho ph ẩm chất tốt hơn hhệệ thống thông tin thông thườ th ờng ng Giải pháp tiếp Giải ti ếp tục đư ợc phát triển ứng dụng từ hệ thống thông tin SISO (Single Single Input Single Output) Output) lên hhệệ thống thông tin MIMO ((Multiple Multiple Input Multiple Output) [20] qua kênh phapha-đinh Output) đinh Rayleigh, cho trường trường hợp hệ thống có vvàà khơng có ênh ((Channel kênh thông tin phản phản hồi trạng thái kkênh Channel State Information - CSI) Trong trường hợp hệ thống khơng có kkênh trường ênh ph phản ản hồi thông tin trạng thái kênh, kênh, tác giả giả mãã STBC 2x1 [21] hệ hệ so sánh hệ hệ thống MIMO phân tập không gian sử dụng m thống thông tin MIMO sử dụng DL ch thống cho pha-đinh o toàn bộ hệ thống qua kênh kênh pha đinh Tạp KH&CN tử, - 2020 20 ạp chí Nghiên Nghiên cứu cứu KH& CN quân uân sự, sự, Số ố Đặc san Viện ện Điện tử 15 Kỹ thuật điện tử Rayleigh Kết cho thấy, tỷ số lỗi bít hệ thống ứng dụng DL thấp hệ thống MIMO thơng thường tỷ số tín/tạp (SNR) lớn 15 dB Trong trường hợp có kênh thông tin phản hồi CSI tốt máy phát, máy phát sử dụng tiền mã hóa SVD (Singular Value Decomposition) để mã hóa symbol phát Kết mơ cho thấy, hệ thống MIMO sử dụng mạng nơ-ron cho phẩm chất tốt hệ thống phân tập không gian MIMO thông thường với giá trị SNR Giải pháp ứng dụng DL đồng cho hệ thống thông tin từ máy phát đến máy thu cung cấp phương pháp thiết kế hệ thống lớp vật lý Mặc dù, nhiều vấn đề cần phải thực cải thiện để hệ thống hoạt động hiệu hơn, với kết đạt nghiên cứu cho thấy, cải thiện giải pháp có ý nghĩa quan trọng, cải thiện phẩm chất, giảm độ phức tạp tính tốn so với mơ hình hệ thống thơng tin trước 3.2 San kênh giải mã sửa lỗi kênh Một ứng dụng DL hệ thống thông tin vô tuyến san mã sửa lỗi kênh để hạn chế ảnh hưởng méo tín hiệu đặc tính làm việc trộn khếch đại phi tuyến, kênh pha-đinh đa đường gây nhiễu xuyên dấu (Inter-Symbol Interference - ISI) Có nhiều nghiên cứu đề xuất giải pháp san méo phi tuyến mà khơng cần biết xác thông tin trạng thái kênh Các tác giả [22] trình bày phương pháp san kênh mạng nơ-ron gồm lớp, lớp đầu vào, lớp ẩn với hàm kích hoạt phi tuyến RBF (Radial Basis Function) lớp đầu Tín hiệu phát qua kênh truyền phi tuyến có ảnh hưởng nhiễu xuyên dấu Nghiên cứu so sánh san kênh đề xuất với hai san kênh tuyến tính khác LTE (Linear Transversal Equalizer) mạng FNN sử dụng hàm kích hoạt sigmoid Kết mơ cho san RBF cho phẩm chất tốt nhiều so với hai san lại Bài báo [23] đề xuất san sử dụng mạng nơ-ron CNN Một số nghiên cứu ứng dụng DL cho giải mã sửa lỗi kênh, mã sửa lỗi BCH [5], mã sửa lỗi polar code [6, 24] Cơng trình [17] đề xuất kết hợp san kênh giải mã sửa lỗi kênh trình tạo thành giải mã san khơng cần có thơng tin trạng thái kênh Nghiên cứu sử hai mạng nơ-ron, mạng có cấu trúc CNN để khơi phục tín hiệu phát truyền qua kênh khó có méo phi tuyến, mạng DNN thực giải mã tín hiệu từ san CNN Mạng CNN cho phép san kênh với số lượng tham số cần huấn luyện so với mạng DNN có khả phân tách đặc tính tốt CNN hiệu với liệu đầu vào bị ảnh hưởng bit lân cận nhờ đặc tính chia sẻ tham số (parameter sharing), điều phù hợp với kênh có ISI ảnh hưởng méo phi tuyến Lớp cuối CNN sử dụng hàm softmax, hàm mát MSE, mạng tối ưu SGD kỹ thuật BP Nghiên cứu thực so sánh, đánh giá mơ hình đề xuất với số san khác kênh AWGN kênh pha-đinh Kết cho thấy, giải pháp đề xuất cho phẩm chất tốt san giải mã trước 3.3 Trải phổ, đa truy cập Kỹ thật DL ứng dụng nhiều hệ thống đa truy cập trải phổ nhằm hạn chế tác động xuyên nhiễu đa người dùng (Multiple Access Interference MAI) Các tác giả cơng trình [25] đề xuất ứng dụng mạng DNN cho sơ đồ đa truy 16 B T T Tâm, T X Nam, “Học máy khả ứng dụng … thông tin vô tuyến.” Nghiên cứu khoa học công nghệ cập SCMA (Sparse Code Multiple Access) gọi DL-SCMA thực học giải mã tín hiệu SCMA kênh Gauss khắc phục giải mã SCMA có với độ xác cao, độ phức tạp thấp Xây dựng huấn luyện AE-SCMA (Autoencoder - Sparse Code Multiple Access) để tạo từ mã SCMA tối ưu, khôi phục tín hiệu gốc Bộ AE-SCMA giúp khái quát SCMA, từ đó, tác giả đề xuất sơ đồ DCMA (Dense Code Multiple Access) cho phẩm chất tốt SCMA Mạng nơ-ron đề xuất sử dụng làm tách đa người dùng máy thu cho hệ thống MC-CDMA kết hợp điều khiển công suất kênh pha-đinh Rayleigh trình bày [26] Trong nghiên cứu này, mạng nơ-ron đặt sau kết hợp tỉ số cực đại (Maximal Ratio Combining - MRC) Số nút lớp đầu vào, lớp ẩn lớp đầu mạng FNN số người dùng, hàm kích hoạt lớp ẩn sigmoid, mạng huấn luyện thuật toán Levenberg-Marquardt Kết cho thấy, phẩm chất hệ thống đề xuất cải thiện nhiễu so với máy thu đơn sử dụng MRC, đường BER tiến đến gần với BER hệ thống đơn người dùng (SUB) Bài báo [27] thực so sánh phẩm chất tách đa người dùng tuyến tính tách phi tuyến sử dụng mạng nơ-ron đặt phía sau lọc phối hợp sử dụng mã Gold hệ thống DS-CDMA Bộ tách mạng nơ-ron mạng FNN sử dụng thuật toán BP huấn luyện Các tách làm việc chế độ truyền dẫn đồng không đồng qua kênh Gauss Kết mô cho thấy, tách đa người dùng sử dụng mạng nơ-ron cho phẩm chất tốt so với tách tuyến tính Với số mơ hình tương tự [27], [28] thực tiền xử lý để triệt MAI cho hệ thống qua kênh pha-đinh Rayleigh Tác giả thực tiền xử lý liệu sau lọc phối hợp, chuẩn hóa biên liệu đa người dùng trước đưa vào mạng nơ-ron tách sóng Kết mơ cho thấy, với mức BER, hệ thống có tiền xử lý cho phép giảm số lần thực triệt nhiễu song song (PIC), nhờ vậy, máy thu giảm bớt độ phức tạp 3.4 Nhận dạng tín hiệu điều chế số tương tự Nhận dạng tín hiệu điều chế thực phân loại kiểu điều chế tín hiệu vô tuyến thu được, bước để hiểu nguồn phát tín hiệu loại gì, tín hiệu ra-đa, tín hiệu tiếng nói,… Cơng trình [16] thực so sánh hiệu phân loại điều chế phương pháp dựa đặc tính có phương pháp học đặc tính CNN DNN Với việc ứng dụng CNN DNN phân loại điều chế đảm bảo tính mềm dẻo hệ thống học đặc tính với độ xác phân loại cao Nghiên cứu thực phân loại 11 loại điều chế loại điều chế số (BPSK, QPSK, 8PSK, 16QAM, 64QAM, BFSK, CPFSK, PAM4) loại điều chế tương tự (WB-FM, AM-SSB, AM-DSB) Trong nghiên cứu [29] đề xuất mơ hình mạng DNN cho tự phân loại điều chế (AMC) sử dụng hàm kích hoạt RBFN cho hệ thống MIMO-STBC Nghiên cứu AMC phân thành hai loại, dựa tính hợp lệ (Likelihood Based - LB) dựa đặc tính (Feature Based - FB) Mặc dù phương pháp LB cho độ xác tối ưu phải trả giá độ phức tạp tính tốn cao không phù hợp với ứng dụng yêu cầu thời gian thực Các phương pháp FB cho độ xác cận tối ưu so với LB, nhiên, phương pháp cho hiệu tính tốn tốt phù hợp với ứng dụng thực Thuật toán L-BFGS [10] Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, - 2020 17 Kỹ thuật điện tử phương pháp tối thiểu bình phương (Least Square - LS) sử dụng để tối ưu trọng số DNN RBFN Nghiên cứu so sánh phẩm chất phương pháp đề xuất với nghiên cứu gần nhất, phân loại hợp lệ tối đa phân loại có ứng dụng ML bao gồm AdaBoost CNN Các kết mơ thực đánh giá ba cấu hình khác hệ thống MIMO-STBC (2x1, 2x2 4x4) cho trường hợp có thơng tin trạng thái kênh tốt trường hợp xấu xảy lỗi ước lượng kênh Cùng hướng nghiên cứu này, kể đến [24] đề xuất sử dụng CNN để phân loại điều chế, [30] sử dụng DNN cho tự động nhận dạng tín hiệu điều chế hệ thống kênh Rice 3.5 Tách tín hiệu thu Một hệ thống thơng tin thiết kế phân tích chất lượng dựa số mơ hình tốn học mơ tả q trình mã hóa giải mã tín hiệu, q trình lan truyền tín hiệu khơng gian, loại nhiễu ảnh hưởng đến chất lượng tín hiệu Tuy nhiên, số trường hợp sóng điện từ lan truyền phức tạp, khơng thể mơ hình mơ hình tốn học xác định Ví dụ mơ hình kênh truyền cho thơng tin thủy âm sử dụng tín hiệu dải sóng âm [31], hệ thống thông tin gọi thơng tin tế bào liên quan đến tín hiệu y sinh kết nối thiết bị nhỏ, tín hiệu lan truyền bề mặt bên thể người [32, 33] Vì vậy, việc thiết kế máy thu, tách tín hiệu mà khơng cần phải có kênh truyền mơ hình hóa vấn đề cần thiết Trong nghiên cứu [34] thiết kế thuật tốn tách tín hiệu đánh giá phẩm chất tách sử dụng DL hệ thống thông tin tế bào mà không cần biết thông tin trạng thái kênh truyền Dữ liệu phát biểu diễn qua hàm one-hot, q trình tách tín hiệu phát từ tín hiệu thu đầu vào máy thu trở thành nhiệm vụ phân nhóm (clustering) học máy, lớp đầu sử dụng hàm kích hoạt softmax Nghiên cứu tiến hành đo thử nghiệm để đánh giá hệ thống với cấu hình, kiến trúc khác Kết cho thấy, tách sử dụng DL cải thiện phẩm chất so với phương pháp trước mà khơng cần mơ hình kênh truyền Một số nghiên cứu khác ứng dụng DL cho hai nhiệm vụ ước lượng kênh tách tín hiệu [40, 41] Tuy nhiên, nghiên cứu tách rời hai trình, vậy, chưa đạt hiệu cao Nghiên cứu [35] đề xuất kết hợp ước lượng kênh tách tín hiệu cho hệ thống OFDM đa truy cập khơng trực giao (OFDM-NOMA) cho đường lên (uplink), đa người dùng truy cập vào sóng mang thời điểm Máy thu NOMA thiết kế dựa DL tách tin người dùng q trình one-hot mà khơng cần thơng tin ước lượng kênh thật hoàn hảo Kết nghiên cứu đưa cho thấy, phương pháp dựa DL cho phẩm chất tốt phương pháp ước lượng kênh dựa vào tín hiệu lái (pilot) thơng thường Nhóm nghiên cứu ứng dụng tách tín hiệu sử dụng DL cho hệ thống phức tạp hệ thống tiềm cải thiện phẩm chất, cung cấp hiệu phổ tần cao, độ tin cậy thông lượng tốt cho hệ thống thơng tin, hệ thống MIMO Các thuật toán để cải thiện phẩm chất hệ thống vấp phải thách thức, thách thức độ phức tạp tính tốn, đặc biệt tăng số ăngten thu phát độ khó tính tốn tăng lên lớn Cơng trình [36] đề xuất ứng dụng DL cho tách tín hiệu hệ thống massive MIMO [37] thực tách 18 B T T Tâm, T X Nam, “Học máy khả ứng dụng … thông tin vô tuyến.” Nghiên cứu cứu khoa học cơng nghệ MIMO-NOMA sóng đa người người dùng dùng cho hệ hệ thống MIMO NOMA ssử dụng mạng nơ-ron n ron Nghiên cứu hiệu ứu [38] đề đề xuất hai mơ hình hình tách tín hi ệu thu MIMO fullyfully-connected connected (FC) đổi Bộ tách FC có cấu DeNet cho trường trường hợp kênh kênh không thay đđổi ổi và kên kênhh thay đổi ược trường trúc mạng ạng FNN đđư ợc sử dụng cho tr ờng hợp kkênh ênh không thay đổi đổi Bộ tách DeNet có đưa thơng tin tr trạng ạng thái kkênh ênh vào hu huấn ấn luyện tối ưu mạng, mạng, tách hiệu cho trư hiệu ổi trường ờng hợp kênh kênh thay đđổi phẩm Hình so sánh ph ẩm chất số tách tín hiệu hiệu cho hệ thống MIMO, nh ZF, MMSE, FC, DeNet cho trư trường ờng hợp số ăng-ten ăng ten thu phát khác Phẩm chất hệ thống sử dụng a Phẩm ộ tách khác nhau b Phẩm Phẩm chất hệ thống MIMO số ăng-ten ăng ten thay đổi đ Hình So sánh phẩm phẩm chất hệ thống MIMO sử dụng số ộ tách tín hiệu truyền thống và ứng dụng kỹ thuật DL Ta thấy thấy, với với cùng ssố ố ăng-ten ăng ten thu phát 30x30 kênh pha đinh, bbộ ộ tách ZF FC có phẩm phẩm chất xấu, đường đ ờng BER DeNet tiến đến gần đư đường ờng BER bi biểu ăng-ten ộ tách MMSE nh ểu diễn tr ên hình 4a Từ Từ hình hình 4b, tăng tăng số số ăng ten thu tách cho đường phát, đ ờng phẩm chất tốt hơn thu được độ lợi phân tập đường ường phía thu DeNet có đư ờng BER hạ thấp nhanh hơn so vvới ới MMSE Với tr trư ờng hợp 2 ợc ccùng tỷ MIMO 10x10, DeNet đđạt ạt BER  10 SNR  16 dB , MMSE đạt đạt đư ùng tỷ số ố lỗi bit SNR  12 dB Tăng ssố ố ăng-ten ăng ten thu phát lên 30x30, DeNet 3 l ợt tại giá trị SNR 16dB MMSE đạt đạt phẩm chất BER  5.10 llần ần lượt 14dB 14dB 3.6 Một 3.6 Một số ứng dụng khác trư ước, bbản Trong phần phần tr ớc, chúng tơi đđãã trình bày ứng dụng ccơ ản mạng nơ-ron mạng n ron DL hệ hệ thống thơng tin vơ tuyến Ngồi Ngồi ra, DL llựa hệ ứng dụng cho nhiệm vụ khác nh ựa chọn CDMA và OFDM tron g hệ thống thông tin vô tuyến thủy âm [39] thống [39] DL được ứng dụng hệ thống điều khiển lưu khiển lưu lượng [40], tối ối ưu việc lượng mạng, định tuyến [40] việc phân phối nguồn tài tài nguyên của mạng không dây [41] mạng [41],, ứng dụng cho định vị [42, 43] 43],, đđảo [44] Một Một ảo tuyến tính [44] số ố nghiên nghiên cứu cứu ứng dụng mạng nnơ ron ron cho hệ hệ thống thông tin vệ tinh, thông động [45, 46] 46] tin di động Tạp KH&CN tử, - 2020 20 ạp chí Nghiên Nghiên cứu cứu KH& CN quân uân sự, sự, Số ố Đặc san Viện ện Điện tử 19 Kỹ thuật điện tử KẾT LUẬN Bài báo trình bày tổng quan học máy, mơ hình học sâu khái qt ứng dụng mạng nơ-ron DL cho hệ thống thông tin vô tuyến DL ứng dụng từ máy phát đến máy thu autoencoder, DL ứng dụng khối chức hệ thống thơng tin san giải mã kênh, trải phổ, đa truy cập, tách tín hiệu thu, nhận dạng tín hiệu, số ứng dụng khác Các nghiên cứu cho thấy, ứng dụng mạng nơ-ron cho hệ thống TTVT có tiềm lớn nhanh chóng thay phương pháp xử lý tín hiệu truyền thống tương lại gần Tuy nhiên, để hoàn chỉnh công nghệ đưa vào ứng dụng thực tiễn cần tiếp tục đầu tư nghiên cứu hướng này, đặc biệt ứng dụng DL cho hệ thống TTVT quân nhằm tăng khả bảo mật, chống nhiễu, chống thu chặn tín hiệu Ngồi ra, ứng dụng học máy hệ thống sô-na, cảnh giới ngầm đề tài nghiên cứu có ý nghĩa khoa học thực tiễn TÀI LIỆU THAM KHẢO [1] S J Nawaz et al., "Quantum Machine Learning for 6G Communication Networks: State-of-the-Art and Vision for the Future," IEEE Access, vol (2019), pp 46317-46350 [2] J Jagannath et al., "Machine learning for wireless communications in the Internet of Things: A comprehensive survey," Ad Hoc Networks, vol 93 (2019), p 101913 [3] A Ferdowsi et al., "Deep Learning for Reliable Mobile Edge Analytics in Intelligent Transportation Systems: An Overview," IEEE Vehicular Technology Magazine, vol 14 (2019), no 1, pp 62-70 [4] Y Jeon et al., "Blind detection for MIMO systems with low-resolution ADCs using supervised learning," in 2017 IEEE International Conference on Communications (ICC) (2017), pp 1-6 [5] E Nachmani et al., "Deep Learning Methods for Improved Decoding of Linear Codes," IEEE Journal of Selected Topics in Signal Processing, vol 12 (2018), no 1, pp 119-131 [6] W Xu et al., "Improved polar decoder based on deep learning," in 2017 IEEE International Workshop on Signal Processing Systems (SiPS) (2017), pp 1-6 [7] F Ullah et al., "Future of Big Data and Deep Learning for Wireless Body Area Networks," in Deep Learning: Convergence to Big Data Analytics, M Khan, B Jan, and H Farman, Eds Singapore: Springer Singapore, 2019, pp 53-77 [8] https://en.wikipedia.org/wiki/Machine_learning#cite_note-1 [9] https://machinelearningmastery.com/a-tour-of-machine-learning-algorithms/ [10] Y B Ian Goodfellow et al., “Deep Learning”, The MIT Press (2016) [11] W S McCulloch et al., "A logical calculus of the ideas immanent in nervous activity," The bulletin of mathematical biophysics, vol (1943), no 4, pp 115-133 20 B T T Tâm, T X Nam, “Học máy khả ứng dụng … thông tin vô tuyến.” Nghiên cứu khoa học công nghệ [12] P Kim, Matlab Deep learning with Machine Learning, Neeural Networks and Artificial Intelligience Apress (2017) [13] T O’Shea et al., "An Introduction to Deep Learning for the Physical Layer," IEEE Transactions on Cognitive Communications and Networking, vol (2017), no 4, pp 563-575 [14] D E Rumelhart et al., "Learning representations by back-propagating errors," Nature, vol 323 (1986), no 6088, pp 533-536 [15] Y LeCun, "Generalization and network design strategies," Connectionism in perspective Elsevier, Zurich, Switzerland (1989), pp 143–155 [16] T O'Shea et al., “Convolutional Radio Modulation Recognition Networks,” Springer International Publishing, Cham (2016), pp 213-226 [17] H Ye et al., "Initial Results on Deep Learning for Joint Channel Equalization and Decoding," IEEE 86th Vehicular Technology Conference (2017), pp.1-5 [18] Y Xu et al., "A Deep Learning Method Based on Convolutional Neural Network for Automatic Modulation Classification of Wireless Signals," MLICM (2017) [19] T J O Shea et al., "Learning to communicate: Channel auto-encoders, domain specific regularizers, and attention," IEEE International Symposium on Signal Processing and Information Technology (2016), pp 223-228 [20] T O'Shea et al., "Deep Learning Based MIMO Communications," arXiv preprint arXiv:1707.07980 (2017) [21] S M Alamouti, "A simple transmit diversity technique for wireless communications," IEEE Journal on Selected Areas in Communications, vol 16 (1998), no 8, pp 1451-1458 [22] H Sung-Hyun et al., "Channel equalization for severe intersymbol interference and nonlinearity with a radial basis function neural network," International Joint Conference on Neural Networks Proceedings 1999, vol (1999), pp 3992-3995 [23] A Caciularu et al., “Blind Channel Equalization Using Variational Autoencoders,” 2018 IEEE International Conference on Communications Workshops (2018), pp 1-6 [24] T Gruber et al., "On deep learning-based channel decoding," 51st Annual Conference on Information Sciences and Systems (2017), pp 1-6 [25] J Lin et al., “A Novel Deep Neural Network Based Approach for Sparse Code Multiple Access,” Neurocomputing, vol 382 (2020), pp 52-63 [26] N Taşpınar et al., "Neural Network Based Receiver for Multiuser Detection in MC-CDMA Systems," Wireless Personal Communications, vol 68 (2013) [27] H A Hassan et al., "Performance comparison of linear multiuser detectors and neural network detector for DS/CDMA systems in AWGN," Tenth International Conference on Computer Engineering & Systems (2015), pp 307-313 [28] B Geevarghese et al., “Pre-processed back propagation neural networks for CDMA interference cancellation,” 2013 IEEE International Conference ON Emerging Trends in Computing, Communication and Nanotechnology, Tirunelveli (2013), pp 100-103 Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, - 2020 21 Kỹ thuật điện tử [29] M H Shah et al., "Low-complexity deep learning and RBFN architectures for modulation classification of space-time block-code (STBC)-MIMO systems," Digital Signal Processing, vol 99 (2020) [30] B Kim et al., “Deep neural network-based automatic modulation classification technique,” 2016 International Conference on Information and Communication Technology Convergence, Jeju(2016), pp 579-582 [31] M Stojanovic et al., "Underwater acoustic communication channels: Propagation models and statistical characterization," IEEE Communications Magazine, vol 47 (2009), no 1, pp 84-89 [32] N Farsad et al., "A Comprehensive Survey of Recent Advancements in Molecular Communication," IEEE Communications Surveys & Tutorials, vol 18 (2016), no 3, pp 1887-1919 [33] S Hiyama et al., "Molecular Communication," 2005 NSTI Nanotechnology Conference and Trade Show, vol (2008) [34] N Farsad et al., "Detection Algorithms for Communication Systems Using Deep Learning," arXiv preprint arXiv:1705.08044 (2017) [35] Narengerile et al., "Deep Learning for Signal Detection in Non-Orthogonal Multiple Access Wireless Systems," 2019 UK/ China Emerging Technologies (2019), pp 1-4 [36] H He et al., "Deep Learning-Based Channel Estimation for Beamspace mmWave Massive MIMO Systems," IEEE Wireless Communications Letters, vol (2018), no 5, pp 852-855 [37] C Lin et al., "A Deep Learning Approach for MIMO-NOMA Downlink Signal Detection," Sensors (Basel, Switzerland), vol 19 (2019), no 11, p 2526 [38] N Samuel et al., "Learning to Detect," IEEE Transactions on Signal Processing, vol 67 (2019), no 10, pp 2554-2564 [39] Y Kim et al., "Selection of CDMA and OFDM using machine learning in underwater wireless networks," ICT Express, vol (2019) [40] Z M Fadlullah et al., "State-of-the-Art Deep Learning: Evolving Machine Intelligence Toward Tomorrow’s Intelligent Network Traffic Control Systems," IEEE Communications Surveys & Tutorials, vol 19 (2017), no 4, pp 2432-2455 [41] S K Tayyaba et al., "5G Vehicular Network Resource Management for Improving Radio Access Through Machine Learning," IEEE Access, vol (2020), pp 6792-6800 [42] J Li et al., "Mobile Location in MIMO Communication Systems by Using Learning Machine," Canadian Conference on Electrical and Computer Engineering (2007), pp 1066-1069 [43] P Sthapit et al., "Bluetooth Based Indoor Positioning Using Machine Learning Algorithms," in 2018 IEEE International Conference on Consumer Electronics - Asia, 2018, pp 206-212 [44] M Borgerding et al., "Onsager-corrected deep learning for sparse linear inverse problems," IEEE Global Conference on Signal and Information Processing (2016), pp 227-231 22 B T T Tâm, T X Nam, “Học máy khả ứng dụng … thông tin vô tuyến.” Nghiên cứu khoa học công nghệ [45] T Liu et al., Sun, "Fault Prediction for Satellite Communication Equipment Based on Deep Neural Network," International Conference on Virtual Reality and Intelligent Systems (2018), pp 176-178 [46] M Hikosaka et al., "Proposal of polarization state prediction using quaternion neural networks for fading channel prediction in mobile communications," International Joint Conference on Neural Networks (2016), pp 4105-4111 ABSTRACT AN OVERVIEW ON APPLICATIONS OF MACHINE LEARNING IN WIRELESS COMMUNICATION SYSTEMS Together with the development of The Fourth Industrial Revolution, wireless systems are also being developed to meet a variety of requirements for performance improvement, higher transmission rate and reliability, and secure communications under severe propagation environments Recent advancements in signal processing techniques have motivated the applications of artificial intelligence (AI) in wireless systems in order to provide the ability of automatic learning, identification and processing for adaptive transmission and cognitive radios This paper presents an overview on principles and recent achievements in application of machine learning in wireless communication systems, and outlines some potential open research directions Keywords: Wireless system; Machine learning; Deep learning Nhận ngày 02 tháng năm 2020 Hoàn thiện ngày 04 tháng năm 2020 Chấp nhận đăng ngày 28 tháng năm 2020 Địa chỉ: Viện Điện tử, Viện Khoa học Công nghệ quân sự; Học viện Kỹ thuật quân * Email: thanhtambui85@gmail.com Tạp chí Nghiên cứu KH&CN quân sự, Số Đặc san Viện Điện tử, - 2020 23 ... TRONG THÔNG TIN VÔ TUYẾN Trong năm gần đây, học máy nghiên cứu đề xuất ứng dụng 14 B T T Tâm, T X Nam, ? ?Học máy khả ứng dụng … thông tin vô tuyến. ” Nghiên cứu cứu khoa học công nghệ hệ hệ thống TTVT... tổng quan học máy, mơ hình học sâu khái qt ứng dụng mạng nơ-ron DL cho hệ thống thông tin vô tuyến DL ứng dụng từ máy phát đến máy thu autoencoder, DL ứng dụng khối chức hệ thống thơng tin san... hhệệ thống thông tin thông thườ th ờng ng Giải pháp tiếp Giải ti ếp tục đư ợc phát triển ứng dụng từ hệ thống thông tin SISO (Single Single Input Single Output) Output) lên hhệệ thống thông tin