Tự động nhận dạng điều chế dưới tác động của nhiễu pha-đinh đa đường sử dụng kỹ thuật học sâu

Bài viết trình bày phương pháp nhận dạng tín hiệu dựa trên các mô hình mạng nơ ron tích chập và khảo sát độ chính xác khi nhận dạng tín hiệu điều chế. Các kết quả mô phỏng cho độ chính xác cao so với các mô hình phân loại tín hiệu trong điều kiện tín hiệu chỉ chịu tác động của nhiễu tạp âm trắng.

Hội nghị Quốc gia lần thứ 24 Điện tử, Truyền thông Công nghệ Thông tin (REV-ECIT2021) Tự động nhận dạng điều chế tác động nhiễu pha-đinh đa đường sử dụng kỹ thuật học sâu Lê Hà Khánh1, Đoàn Văn Sáng2, Hoàng Văn Phúc1 Đào Thị Thủy1 Viện Tích hợp hệ thống, Học viện Kỹ thuật Quân Số 236 Hoàng Quốc Việt, Quận Bắc Từ Liêm, Hà Nội 2Học viện Hải Quân, Nha Trang, Khánh Hòa Email: phuchv@mta.edu.vn Gần đây, học sâu (DL: Deep learning) nhánh máy học đạt thành cơng đáng kể khả phân loại tuyệt vời DL áp dụng nhiều lĩnh vực phân loại hình ảnh, nhận dạng khuôn mặt, xử lý ngôn ngữ tự nhiên Một số mạng DL điển mạng nơ-ron tích chập (CNN: Convolutional Neural Network), mạng dư (RNN: Residual Neural Network) hay mạng CLDNN (Convolutional Long Short-term Deep Neural Network) áp dụng AMC [1] Độ xác phân loại phương pháp dựa DL chứng minh cao phương pháp phân loại khác, đặc biệt tỷ lệ tín hiệu nhiễu (SNR) thấp Tóm tắt— Tự động phân loại điều chế tín hiệu (Automatic Modulation Classification: AMC) nghiên cứu phần tư kỷ Tuy nhiên, việc thiết kế phân loại hoạt động tốt môi trường nhiễu điều kiện khác khó khăn Gần đây, phương pháp học tập sâu áp dụng cho hệ thống AMC đạt kết cao việc cải thiện độ xác phân loại tín hiệu Trong viết này, chúng tơi khảo sát mơ hình phân loại ứng dụng mạng nơ rơn tích chập để phân loại 26 dạng tín hiệu điều chế tác động năm loại môi trường nhiễu pha-đinh khác với SNR từ -20 dB đến +18 dB Bài báo trình bày phương pháp nhận dạng tín hiệu dựa mơ hình mạng nơ ron tích chập khảo sát độ xác nhận dạng tín hiệu điều chế Các kết mơ cho độ xác cao so với mơ hình phân loại tín điều kiện tín hiệu chịu tác động nhiễu tạp âm trắng Một số mơ ResNet, SqueezeNet cho độ xác cao 97,5% cho SNR > +2 dB Bảng I: Tập liệu HisarMod2019.1 [2] Loại điều chế Keywords—Tự động phân loại điều chế, học sâu, mạng nơ ron tích chập (CNN) Analog I GIỚI THIỆU Tự động phân loại tín hiệu điều chế (AMC: Automatic Modulation Classification) quy trình để xác định sơ đồ điều chế tín hiệu vơ tuyến Đây bước trung gian phát tín hiệu giải điều chế Tuy nhiên, khó để thiết kế phân loại tín hiệu hoạt động tốt điều kiện nhiễu khác nhau, đặc biệt ảnh hưởng nhiễu pha đinh đa đường Các thuật toán AMC nghiên cứu rộng rãi 20 năm qua Nhìn chung, thuật tốn AMC cổ điển chia thành hai loại: dựa tỷ lệ hợp lệ (LB: Likelihood-based) dựa đặc trưng (FB Feature based) Các phương thức LB dựa khả tín hiệu nhận phương thức FB phụ thuộc vào thiết kế phân loại phân loại đặc trưng tín hiệu Phương pháp phân loại điều chế LB so sánh giá trị tỷ lệ khả tín hiệu nhận nhóm điều chế xem xét Nó sử dụng mơi trường đa kênh để ước tính tham số không xác định cung cấp kết bật để phân loại điều chế Các phương thức LB cần biết tham số kênh tính tốn trở nên phức tạp tham số không xác định Mặc dù phương thức LB đạt giải pháp tối ưu, chúng phải chịu phức tạp tính tốn cao u cầu thông tin trước từ máy phát Ngược lại, phương thức FB có giải pháp với mức độ độ phức tạp tính tốn nhỏ nhiều không phụ thuộc vào thông tin tiên nghiệm Hiệu suất phương thức FB chủ yếu phụ thuộc vào đặc trưng trích xuất Các đặc trưng phải thiết kế thủ công để phù hợp với điều chế môi trường kênh tương ứng khơng khả thi điều kiện nhiễu khác Hơn nữa, việc tìm kiếm đặc trưng hiệu đòi hỏi xem xét lớn mặt liệu ISBN 978-604-80-5958-3 FSK PAM PSK QAM Các kiểu điều chế AM-DSB AM-SC AM-USB AM-LSB FM PM 2-FSK 4-FSK 8-FSK 16-FSK 4-PAM 8-PAM 16-PAM BPSK QPSK 8-PSK 16-PSK 32-PSK 64-PSK 4-QAM 8-QAM 16-QAM 32-QAM 64-QAM 128-QAM 256-QAM Trong báo này, sử dụng tập liệu HisarMod2019.1 báo [2], bao gồm 26 dạng tín hiệu điều chế thuộc nhóm điều chế khác chịu ảnh hưởng loại nhiễu pha đinh với điều kiện khác Bộ liệu bao gồm 26 loại điều chế từ nhóm điều chế khác tín hiệu tương tự, tín hiệu điều tần FSK, điều chế xung biên độ PAM, điều chế pha PSK, điều chế pha cầu phương QAM Tất loại điều chế liệt kê Bảng I Tập liệu công khai cung cấp tín hiệu 267 Hội nghị Quốc gia lần thứ 24 Điện tử, Truyền thông Công nghệ Thông tin (REV-ECIT2021) không dây điều kiện kênh lý tưởng, tĩnh, Rayleigh, Rician (k = 3) Nakagami-m (m = 2) Do đó, quan sát điều kiện kênh thực tế phương pháp AMC dựa DL đề xuất Trong liệu có 1500 tín hiệu có chiều dài 1024 mẫu I / Q loại điều chế, tỷ lệ mức tín hiệu nhiễu (signal to noise ratio: SNR) từ -20 dB đến +18 dB, bước cách dB Tổng cộng, liệu có 780.000 mẫu tín hiệu Khi tạo tín hiệu, tốc độ oversampling chọn sử dụng lọc cosin nâng với hệ số roll-off = 0.35 vanishing gradient Nhờ việc tổng hợp đặc trưng giúp giảm mát thơng tin với độ phức tạp tính tốn Chúng sử dụng cấu trúc mạng ResNet 18 làm mơ hình học sâu việc phân loại tín hiệu Sau lớp tích chập đầu tiên, phép gộp cực đại (max-pooling) sử dụng để trích xuất đặc trưng mức thấp, sau lớp tích chập cuối cùng, việc lấy gộp trung bình để tất đặc trưng trích xuất quan trọng để định Hàm kích hoạt ReLU (Rectified Linear Unit): r ( x ) = max ( 0, x ) sử dụng để tăng trình huấn luyện Sử dụng dropout với xác suất 0,5 để tránh tượng overfitting cho huấn luyện liệu Trong viết trình bày đánh giá lợi bất lợi kỹ thuật sử dụng mơ hình, cần thiết để nghiên cứu tương lai phân loại điều chế dựa DL Nhóm tác giả thực phân loại điều chế 26 tín hiệu vơ tuyến với mơ hình ứng dụng mạng nơ rơn khác nhau, sử dụng tập liệu HisarMod2019 Một số mơ ResNet, SqueezeNet cho độ xác cao 97,5% cho SNR > +2 dB Ngược lại số mơ hình khác GoogleNet cho độ xác thấp, đạt cao 56,76% +18 dB Input Shortcut path Weight Layer H ( xl −1 ) Cấu trúc báo trình bày gồm phần Phần I giới thiệu mục tiêu nghiên cứu Phần II trình bày chi tiết mơ hình cấu trúc mạng nơ ron ứng dụng cho phân loại điều chế tín hiệu Các kết khảo sát phân loại tín hiệu, tính khả thi mơ hình kiến trúc mạng đề xuất trình bày phần III Cuối phần IV trình bày kết luận hướng nghiên cứu báo ReLu Weight Layer F ( xl −1 ) ReLu + Output xl Hình 1: Khối Residual [1] II CẤU TRÚC MẠNG HỌC SÂU Các nghiên cứu gần mạng học sâu tập trung vào việc cải thiện độ xác phân loại tín hiệu Trong báo này, chúng tơi nghiên cứu hiệu suất phân loại điều chế tín hiệu dạng cấu trúc mạng nơ ron khác nhau: mạng ResNet18, mạng MobileNet_V2, mạng GoogLeNet, mạng SqueezeNet, mạng Rep_VGG B Mạng SqueezeNet Mạng SqueezeNet đề xuất vào năm 2016 [5] với mục đích tìm kiếm cấu trúc mạng CNN với tham số hơn, có độ xác tương đương với số mơ hình tiếng khác Điều cho phép giảm hàm lượng tính tốn tốc độ cải thiện tương đối số lượng tham số Cấu trúc mạng SqueezeNet mơ tả Hình 2, bắt đầu với lớp tích chập, khối (từ fire2- fire9) cuối khối tích chập Số lượng lọc tăng dần từ đầu mạng đến cuối mạng SqueezeNet sử dụng phép gộp cực đại (max-pooling) với bước trượt (stride) Chúng ta thấy Hình 2, lớp "Squeeze" lớp tích chập tạo thành từ lọc 1×1 lớp "mở rộng" lớp tích chập với lọc 1×1 3×3 Bằng cách giảm số lượng lọc lớp "squeeze" vào lớp "mở rộng", làm giảm số lượng kết nối vào lọc 3×3 này, làm giảm tổng số tham số Tác giả mơ hình SqueezeNet gọi kiến trúc cụ thể "mơ-đun lửa" đóng vai trị khối xây dựng cho kiến trúc Squeezenet A Mạng ResNet18 Khi mạng nơ ron phát triển sâu hơn, hiệu suất học tập bị thách thức vấn đề vanishing gradient (mạng nơ ron bị vơ hiệu) hay overfitting (mơ hình q phù hợp với liệu huấn luyện lại hiệu với liệu chưa biết) Do đó, việc huấn luyện kiểm tra độ xác bắt đầu suy giảm mạng nơ ron đạt đến độ sâu định Việc suy giảm kết độ xác kiểm tra vấn đề từ việc tăng độ phức tạp mạng nơ ron Sự giảm xác từ trình huấn luyện vanishing gradient làm cho trình tối ưu hoá khả thi hơn, dẫn đến khả hội tụ đến mức tối thiểu cho khả ước lượng giảm Cấu trúc mạng ResNet đưa ImageNet COCO 2015 [3] Nó giải vấn đề suy giảm độ xác mạng nơ ron sâu lựa chọn rộng rãi cho nhiệm vụ học máy Mơ hình ResNet [1] DenseNet [1, 4] gần góp phần giải vấn đề cách tạo đường dẫn tắt lớp khác mạng Một khối xây dựng mạng ResNet biểu thị phương trình Hình 1, đầu vào xl −1 , C Mạng MobileNet Mạng MobileNet mơ hình nhóm tác giả đến từ Google, cấu trúc mạng đề xuất cho phép xây dựng mạng nhỏ phù hợp với điều kiện hạn chế tài nguyên (thời gian, kích thước) ứng dụng thiết bị nhỏ gọn có tài nguyên hạn chế [6] MobileNet chủ yếu tập trung vào việc tối ưu hóa độ trễ tập trung cho mạng nhỏ việc cải thiện tốc độ Cấu trúc mạng MobileNet xây dựng từ việc sử dụng cách tính tích chập có tên Depthwise Separable Convolution (DSC) hàm ánh xạ xl = H ( xl −1 ) sử dụng cho hàm F ( xl −1 ) = H ( xl −1 ) − xl −1 , hàm F ( xl −1 ) gọi hàm dư Cấu trúc thắt cổ chai mạng ResNet giúp loại bỏ vấn đề độ phức tạp tính toán, thành phần đường nối tắt giúp loại bỏ ISBN 978-604-80-5958-3 xl −1 268 Hội nghị Quốc gia lần thứ 24 Điện tử, Truyền thông Công nghệ Thơng tin (REV-ECIT2021) để giảm kích thước mơ hình giảm độ phức tạp tính tốn DSC chia làm hai phần: tích chập theo chiều sâu (DC: Depthwise Convolution) tích chập theo điểm (PC: Pointwise Convolution) [6] Sau lớp tích chập MobileNet sử dụng hàm chuẩn hóa theo cụm (BN: Batch Normalization) hàm kích hoạt ReLu Khối Inception bao gồm bốn nhánh song song với Ba nhánh đầu sử dụng tầng tích chập với kích thước cửa sổ trượt 1×1, 3×3, 5×5 để trích xuất thơng tin từ vùng khơng gian có kích thước khác Hai nhánh thực phép tích chập 1×1 liệu đầu vào để giảm số kênh đầu vào, từ giảm độ phức tạp mơ hình Nhánh thứ tư sử dụng tầng gộp cực đại (max-pooling) kích thước 3×3, theo sau tầng tích chập 1×1 để thay đổi số lượng kênh Cả bốn nhánh sử dụng lọc phù hợp để đầu vào đầu khối có chiều cao chiều rộng Cuối cùng, đầu nhánh nối lại theo chiều kênh để tạo thành đầu khối Các tham số thường tinh chỉnh khối Inception số lượng kênh đầu tầng Mơ hình GoogleNet tập hợp khối Inception lại với để tạo thành mạng hoàn chỉnh Conv1 Maxpool/2 fire2 fire3 fire4 Ghép nối Maxpool/2 fire5 3x3 Conv 5x5 Conv 1x1 Conv 1x1 Conv 1x1 Conv 3x3 Maxpooling 1x1 Conv fire6 Đầu vào fire7 Hình 3: Cấu trúc khối Inception [7] Maxpool/2 E Mạng RepVGG Với yêu cầu đòi hỏi ngày cao học sâu, mơ hình mạng CNN thiết kế ngày phức tạp ResNet, Inception, MobileNet,… mang lại độ xác cao đồng thời tồn bất lợi Sự phức tạp mơ hình khiến việc xây dựng mơ hình trở nên khó khăn đồng thời dẫn dến việc suy luận chậm hay làm tăng việc chiếm tài nguyên hệ thống Xuất phát từ mô hình mạng VGG [8] với kiến trúc đơn giản gồm lớp tích chập Conv, ReLu pooling Mơ hình mạng RepVGG cải tiến từ mạng VGG nhằm sở hữu cấu trúc mạng đơn giản mà đảm bảo hiệu [9] Cấu trúc khối RepVGG Hình fire8 fire9 conv10 Hình 2: Khối SqueezeNet [5] Giả sử M số lượng đầu vào kênh, N số lượng đầu kênh, Dk kích thước lọc (kernel), Df kích thước đặc trưng tín hiệu Khi đó, chi phí tính tốn DC là: (1) Dk  Dk  M  D f  D f Stride = Chi phí tính tốn cho PC: M  N  Df  Df (2) Tổng chi phí tính tốn DSC là: Dk  Dk  M  D f  D f + M  N  D f  D f (3) Dk  Dk  M  N  D f  D f 3x3 3x3 = 1 + N D2k Stride = 3x3 1x1 3x3 1x1 3x3 1x1 3x3 + + (5) D Mạng GoogLeNet Mô hình mạng GoogleNet đưa vào năm 2014 [7] giành chiến thắng thi ImageNet Mô hình tập trung vào việc giải vấn đề kích thước lọc tích chập tốt nhất, việc kết hợp lọc có kích thước khác mang lại hiệu tốt Khối tích chập mơ hình GoogleNet gọi Inception Hình ISBN 978-604-80-5958-3 1x1 + Nếu không sử dụng DSC mà sử dụng phép tính chập bình thường chi phí tính tốn là: (4) Dk  Dk  M  N  D f  D f Do đó, chi phí tính tốn giảm: Dk  Dk  M  D f  D f + M  N  D f  D f 3x3 3x3 + (a) RepVGG tranning Convolution (b) RepVGG inference ReLu Identity Hình 4: Cấu trúc khối RepVGG [9] 269 Hội nghị Quốc gia lần thứ 24 Điện tử, Truyền thông Công nghệ Thông tin (REV-ECIT2021) Mơ hình RepVGG chia thành phần, phần gồm khối tương tự cấu trúc Các lớp khối gồm lớp Conv có bước trượt để thực down-sampling Trong khối training (Hình 4A), tín hiệu đầu vào truyền vào đoạn, tín hiệu qua đồng thời lớp Conv3x3 Conv1x1 với bước trượt 2, sau đầu hai lớp cộng lại với qua lớp kích hoạt ReLU cuối Tín hiệu khối tiếp tục sử dụng cho khối Từ khối thứ hai trở đi, cấu trúc khối giống hệt Các khối gồm ba nhánh: Conv3x3 với bước trượt 1, Conv1x1 với bước trượt 1, nhánh Identity sử dụng BN Đầu nhánh cộng lại với trước đưa qua lớp ReLU Hình 4a Trong khối inference (Hình 4b), cấu trúc RepVGG có thay đổi nhẹ Thay sử dụng nhánh Conv cộng đầu lại với khối training inference, tín hiệu đầu vào qua mơ hình cịn qua lớp Conv3x3 lớp kích hoạt ReLU liên tiếp (Hình 4B) Tuy nhiên điểm phức tạp xây dựng mơ hình này, Conv3x3 không đơn giản Conv3x3 với trọng số lấy ngẫu nhiên Trọng số Conv3x3 inference triển khai cách cộng trọng số nhánh Conv3x3, Conv1x1 Identity (nếu có) training Phương pháp gọi cấu trúc lại tham số (reparameterization) Các phần có cấu trúc khối tương tự nhau, điểm khác biệt phần số lượng khối phần đó mơ hình SqueezeNet cho kết phân loại cao so với mơ hình khác (độ xác đạt từ 97,5% cho SNR > +8 dB) Khi xem xét với ma trận nhầm lẫn (confusion matrix) cho hiệu suất phân loại 26 tín hiệu mơ hình SNR=10 dB Hình phân tích kỹ Từ confusion matrix, thấy vài loại điều chế tín hiệu mức thấp AM, FM cho kết nhận dạng phân loại bị nhầm lẫn, có độ xác 70% +10dB SNR bị lỗi Với tín hiệu điều chế mức cao PSK, QAM cho độ xác 60% +10dB SNR Có thể thấy tín hiệu điều chế mức cao mặc tốc độ truyền dẫn nhanh hơn, phân loại điều chế tín hiệu có nhiều thay đổi tỷ lệ lỗi tăng, thực tế phân bố chịm tín hiệu sát bị ảnh hưởng tạp nhiễu gây ra, làm giảm hiệu nhận dạng tín hiệu III SO SÁNH VÀ THẢO LUẬN Hình 5: So sánh độ xác phân loại mơ hình A Tập liệu Các mơ hình sử dụng tập liệu HisarMod2019.1 [1] để phân loại điều chế tín hiệu Tập liệu bao gồm 26 dạng điều chế tín hiệu Bảng I với SNR từ -20 dB đến +18 dB Số lượng mẫu tín hiệu 780 000 mẫu tín hiệu có độ dài 1024 cho loại nhiễu khác điều kiện kênh lý tưởng, tĩnh, Rayleigh, Rician (k = 3) Nakagami-m (m = 2), 520 000 mẫu tín hiệu cho huấn luyện liệu cịn lại cho kiểm tra Các mơ hình huấn luyện sử dụng số vòng lặp (epoch) 10, mini-batch size 64, tốc độ học khởi tạo 0,001 Thiết bị sử dụng để mô 3.70 GHz CPU, 32GB RAM, NVIDIA GeForce GTX 3060ti GPU B Thảo luận kết Trong phần này, nhằm đánh giá hiệu mơ hình cấu trúc mạng ResNet18, SqueezeNet, MobileNet, GoogleNet RepVGG, nhóm tác giả sử dụng mơ Matlab làm công cụ mô Các kết so sánh độ xác mơ hình thể Hình a) ResNet18 Từ kết mơ phỏng, mơ hình GoogleNet cho kết thấp so với mơ hình khác, độ xác cao 56,76% +18 dB Với hai mơ hình MobileNet RepVGG cho kết tốt so với GoogleNet khoảng 10% 15% cho SNR từ -20 dB đến 18 dB Với ưu điểm mơ hình ResNet bổ sung thơng tin tín hiệu ưu điểm mơ hình SqueezeNet giảm tham số tính tốn làm tăng tốc độ mơ hình Hai mơ hình cho kết phân loại tín hiệu tốt đoạn SNR cao từ +2 dB đến +18 dB, ISBN 978-604-80-5958-3 270 Hội nghị Quốc gia lần thứ 24 Điện tử, Truyền thông Công nghệ Thơng tin (REV-ECIT2021) cải thiện mơ hình dựa tính chất mơ hình có, từ đưa mơ hình giải nhiều u cầu đầu hơn, ví dụ vừa phân loại tín hiệu vừa nhận dạng tín hiệu điều chế b) MobileNet Cuối cùng, với phát triển cấu trúc mạng phần cứng tính tốn, phân loại điều chế dựa học sâu áp dụng rộng rãi hệ thống truyền thơng tương lai Hơn nữa, môi trường vô tuyến đa dạng, số thông số môi trường thay đổi, gây không phù hợp liệu huấn luyện suy luận liệu, chắn làm suy yếu hiệu suất phân loại nhận dạng tín hiệu, cần tập trung nghiên cứu REFERENCES [1] c) SqueezeNet [2] [3] [4] [5] [6] [7] d) GoogleNet [8] [9] [10] [11] [12] f) RepVGG Hình 6: Ma trận nhầm lẫn phân loại tín hiệu mơ hình +10dB SNR [13] KẾT LUẬN Với phát triển mơ hình học sâu áp dụng cho nhiều lĩnh vực khác nhau, nhiều mô hình học sâu sử dụng cho nhiệm vụ nhận dạng phân loại tín hiệu điều chế vơ tuyến Trong báo này, nhóm tác giả khảo sát mơ hình học sâu cho nhận dạng điều chế với 26 loại tín hiệu, với tập liệu dựa ảnh hưởng loại nhiễu khác sát với điều kiện thực tế Độ xác phân loại cao dải SNR từ -20 dB đến +18 dB, tuỳ thuộc vào cấu trúc mơ hình cho độ xác khác Trong nghiên cứu tiếp theo, nhóm tác giả tập trung nghiên cứu ISBN 978-604-80-5958-3 [14] [15] 271 Xiaoyu Liu; Diyu Yang; Aly El Gamal, “Deep Neural Network Architectures for Modulation Classification,” 2017 51st Asilomar Conference on Signals, Systems, and Computers Kürşat Tekbyk, Ali Rza Ekti, Ali Gửrỗin, Gỹne Karabulut Kurt, Cihat Keỗeci, Robust and Fast Automatic Modulation Classification with CNN under Multipath Fading Channels,” 2020 IEEE 91st Vehicular Technology Conference (VTC2020-Spring) K He, X Zhang, S Ren, and J Sun, “Deep residual learning for image recognition,” CoRR, vol abs/1512.03385, 2015 G Huang, Z Liu, and K Q Weinberger, “Densely connected convolutional networks,” CoRR, vol abs/1608.06993, 2016 Iandola, Forrest N., Song Han, Matthew W Moskewicz, Khalid Ashraf, William J Dally, and Kurt Keutzer "SqueezeNet: AlexNetlevel accuracy with 50x fewer parameters and