Đồ án tốt nghiệp: Ứng dụng mạng CNN cho việc ước lượng kênh của mạng viễn thông 5G

Đề tài “Ứng dụng mạng CNN cho việc ước lượng kênh của mạng viễn thông 5G” được chúng tôi đưa ra sẽ góp phần giúp giảm bớt chi phí và tài nguyên cần thiết cho việc thu thập dữ liệu thực

TỔNG QUAN

GIỚI THIỆU

Hiện nay, mạng di động 5G hứa hẹn sẽ mang lại những tiến bộ đáng kể trong việc kết nối và truyền tải dữ liệu Tính năng đáng chú ý của 5G bao gồm tốc độ cao, thời gian đáp ứng thấp, có thể kết nối hàng tỷ thiết bị cùng lúc và hỗ trợ ứng dụng đa dạng từ Internet of Things (IoT) đến truyền video 4K/8K và thậm chí là thực tế ảo (VR) Trong đó để đảm bảo vấn đề hiệu suất truyền tải và chất lượng dịch vụ của mạng 5G, việc ước lượng kênh là một yếu tố cực kỳ quan trọng Ước lượng kênh trong mạng di động là quá trình xác định tình trạng của kênh truyền dẫn thông qua việc phân tích tín hiệu được nhận từ các thiết bị di động Thông tin thu được từ quá trình này rất quan trọng để điều chỉnh cấu hình của mạng, tối ưu hóa nguồn lực và đảm bảo chất lượng dịch vụ Tuy nhiên, việc thu thập dữ liệu thực tế cho quá trình ước lượng kênh có thể đắt đỏ và khó khăn do yêu cầu về cơ sở hạ tầng và tài nguyên

Một giải pháp hiệu quả để giảm bớt chi phí và khả năng thu thập dữ liệu là sử dụng phương pháp tổng hợp dữ liệu Phương pháp sử dụng mô hình mạng nơ- ron để tạo ra dữ liệu mô phỏng, giúp hiệu suất của các ứng dụng được cải thiện mà không cần phải dựa vào dữ liệu thực tế Trong ngữ cảnh này, mô hình mạng CNN được coi là một công cụ tối ưu trong việc tổng hợp dữ liệu cho nhiều ứng dụng khác nhau, kể cả việc ước lượng kênh trong mạng di động 5G.

MỤC TIÊU CỦA ĐỀ TÀI

Mục tiêu của đề tài này là nghiên cứu và phát triển các phương pháp sử dụng mô hình mạng CNN để tổng hợp dữ liệu cho ước lượng kênh trong mạng 5G Mục tiêu cụ thể bao gồm:

• Phát triển một kiến trúc mô hình CNN hiệu quả cho việc tổng hợp dữ liệu kênh trong mạng 5G

• Cải thiện tính đa dạng và chính xác của dữ liệu tổng hợp để đảm bảo hiệu suất ước lượng kênh tốt nhất

• Đánh giá hiệu suất của việc ước lượng kênh bằng việc so sánh kết quả ước lượng kênh thực nghiệm với ước lượng kênh hoàn hảo.

GIỚI HẠN ĐỀ TÀI

• Đề tài chỉ sử dụng công cụ matlab để hỗ trợ thực hiện

• Quá trình ước lượng kênh chỉ trong chế độ truyền thông một đầu vào một đầu ra (SISO)

• Đề tài này chỉ tập trung xây dựng mô hình CNN và áp dụng nó trong việc ước lượng kênh của mạng viễn thông 5G.

CẤU TRÚC ĐỀ TÀI

Chương sẽ giới thiệu sơ lược về đề tài, đưa ra mục tiêu, giới hạn và cấu trúc của đề tài

Chương 2: Cơ sở lý thuyết

Chương này trình bày lý thuyết của mạng viễn thông 5G, mạng nơ-ron nhân tạo và mạng CNN để từ đó lựa chọn xây dựng mô hình cụ thể

Chương 3: Ứng dụng CNN trong việc ước lượng kênh

Chương này chủ yếu tập trung xây dựng mạng CNN, quy trình huấn luyện mạng và quy trình để ước lượng kênh

Chương 4: Kết quả và đánh giá

Chương này đưa ra các kết quả nghiên cứu đã mô phỏng và tiến hành đánh giá, nhận xét các thông số

Chương 5: Kết luận và hướng phát triển

3 Dựa trên kết quả thu thập được, nêu ra những thứ đã đạt được trong mục tiêu đề ra và hướng phát triển của đề tài

2.1 CƠ SỞ LÝ THUYẾT VỀ 5G

2.1.1 Sự phát triển và ứng dụng của 5G

Tiêu chuẩn Long Term Evolution (LTE) ra đời vào năm 2009 (phiên bản 8), đánh dấu bước khởi đầu của kỷ nguyên 4G và đã trải qua một loạt các giai đoạn tiến hóa, mang lại cải thiện về hiệu suất và khả năng mở rộng [1] Các cải tiến này bao gồm các tính năng dành cho dịch vụ di động rộng băng thông, như truyền dữ liệu có tốc độ cao hơn, hiệu suất phổ tốt hơn và cải thiện về phạm vi phủ sóng.Sự tiến hóa liên tục của LTE và các cải tiến trong tương lai được coi là phần quan trọng của giải pháp truy cập radio 5G tổng thể

Sau các phiên bản phát hành ban đầu 8 và 9, xuất hiện nhiều yêu cầu và mong đợi mới, do đó các phiên bản tiếp theo, được biết đến với tên gọi LTE Advanced hoặc Evolution, đã được chuẩn bị với mục đích cung cấp các cải tiến cũng như các tính năng khác trong các lĩnh vực khác nhau [1] Hình 2.1 cho thấy một số lĩnh vực chính mà LTE đã tiến hóa qua nhiều năm.

Hình 2.1: Sự tiến hóa của LTE [1]

CƠ SỞ LÝ THUYẾT

CƠ SỞ LÝ THUYẾT VỀ 5G

2.1.1 Sự phát triển và ứng dụng của 5G

Tiêu chuẩn Long Term Evolution (LTE) ra đời vào năm 2009 (phiên bản 8), đánh dấu bước khởi đầu của kỷ nguyên 4G và đã trải qua một loạt các giai đoạn tiến hóa, mang lại cải thiện về hiệu suất và khả năng mở rộng [1] Các cải tiến này bao gồm các tính năng dành cho dịch vụ di động rộng băng thông, như truyền dữ liệu có tốc độ cao hơn, hiệu suất phổ tốt hơn và cải thiện về phạm vi phủ sóng.Sự tiến hóa liên tục của LTE và các cải tiến trong tương lai được coi là phần quan trọng của giải pháp truy cập radio 5G tổng thể

Sau các phiên bản phát hành ban đầu 8 và 9, xuất hiện nhiều yêu cầu và mong đợi mới, do đó các phiên bản tiếp theo, được biết đến với tên gọi LTE Advanced hoặc Evolution, đã được chuẩn bị với mục đích cung cấp các cải tiến cũng như các tính năng khác trong các lĩnh vực khác nhau [1] Hình 2.1 cho thấy một số lĩnh vực chính mà LTE đã tiến hóa qua nhiều năm.

Hình 2.1: Sự tiến hóa của LTE [1]

Sự tiến hóa của LTE bắt đầu từ phiên bản 10, hoàn thành vào cuối năm

2010, với mục tiêu chính là đảm bảo tính tuân thủ của công nghệ truy cập radio LTE với các yêu cầu IMT-Advanced [1] Phiên bản LTE này giới thiệu tính linh hoạt tần số LTE nâng cao thông qua ghép kênh sóng mang - CA: như có thể thấy trong Hình 2.2, lên đến năm sóng mang thành phần - CC, có thể có băng thông khác nhau, được tổ hợp và sử dụng cùng nhau cho việc truyền/nhận từ một thiết bị đầu cuối duy nhất, cho phép có một băng thông truyền tối đa lên đến 100 MHz [1]

Hình 2.2: Tổ hợp tần số của LTE [1]

Việc sử dụng tổ hợp trạm mang lại một số lợi ích:

• Tốc độ dữ liệu cao hơn, vì việc tổ hợp các tần số tăng cường nguồn lực phổ

• Tăng dung lượng, nhờ vào việc tập trung lưu lượng từ việc lên kế hoạch động cho lưu lượng trên toàn bộ phổ

• Sử dụng tối ưu nguồn lực phổ của các nhà khai thác: hầu hết các nhà khai thác sở hữu các tần số phân mảnh bao gồm các băng tần khác nhau và tổ hợp trạm giúp kết hợp chúng thành một nguồn lực phổ thuận tiện hơn

Hình 2.3: Cấu hình đa điểm đồng bộ hóa [2]

Release 11 của LTE, hoàn thành vào cuối năm 2012, tập trung vào việc truyền và nhận điểm đa điểm phối hợp (CoMP): đây là một công cụ để cải thiện vùng phủ sóng với tốc độ dữ liệu cao và lưu lượng tại biên của cell [1] Các phương pháp CoMP, được mô tả trong Hình 2.3, đặc biệt có lợi cho người dùng ở biên của một cell, vì họ thường bị ảnh hưởng bởi nhiễu từ các cell lân cận Release 12, hoàn thành vào năm 2014, chủ yếu tập trung vào các tính năng liên quan đến triển khai cell nhỏ, chẳng hạn như kết nối kép, TDD động và tắt/bật cell nhỏ, với mục tiêu cải thiện tính linh hoạt cho động lực mạng Release 13, hoàn thành vào cuối năm

2015, giới thiệu hai tùy chọn giao tiếp Loại Máy: Narrowband Internet of Things (NB-IoT) và LTE-M; theo tài liệu [1], nó có thể được coi là một bước công nghệ trung gian giữa 4G và 5G New Radio (NR) giao diện không khí Các đặc điểm chính của cả hai công nghệ này là:

• Băng thông nhỏ (200 kHz cho NB-IoT và 1,4 MHz cho LTE-M)

• Phạm vi phủ rộng rãi

• Tiêu thụ điện năng rất thấp, tuổi thọ pin trên 10 năm

• Hỗ trợ kết nối hàng loạt

• Tối ưu hóa cho chi phí thiết bị rẻ nhất

Mặc dù có nhiều điểm tương đồng, LTE-M hỗ trợ tốc độ dữ liệu cao hơn, có sự cải thiện độ phủ sóng so với LTE tiêu chuẩn nhưng không tốt bằng NB-IoT

7 và giảm giá thành các module Bản phát hành 14 đã hoàn thành vào năm 2017 và giới thiệu hỗ trợ cho giao tiếp V2V và V2X Bản phát hành 15 xuất hiện vào giữa năm 2018, với mục tiêu giảm đáng kể độ trễ thông qua tính năng gọi là Khoảng thời gian Truyền dẫn rút ngắn (sTTI)

Tóm lại, tất cả các phiên bản LTE tiên tiến trong quá khứ và tương lai đều nhằm mục đích vượt qua các trường hợp sử dụng LTE truyền thống; tuy nhiên, nhu cầu duy trì tính tương thích ngược là một giới hạn rất hạn chế trong bối cảnh yêu cầu liên tục tiến triển [1]

Với mục tiêu đáp ứng các yêu cầu mới, 3GPP bắt đầu phát triển một công nghệ truy cập radio mới, được biết đến với tên gọi NR, nhằm khai thác tối đa tiềm năng của các công nghệ mới Triển khai 5G đã được phân theo giai đoạn, vì NR là một công nghệ khá phức tạp và không thể tiêu chuẩn hóa tất cả các tính năng của nó đúng thời hạn cho các phiên bản đầu tiên [1] Như được thể hiện trong Hình 2.4, các tham chiếu đầu tiên đến 5G trong tiêu chuẩn có thể được truy vấn từ giữa năm 2016 (giai đoạn 1) và giải pháp tiêu chuẩn đầu tiên cho NR xuất hiện vào cuối năm 2017 và được biết đến với tên gọi là Early Drop (phiên bản 15): bản phát hành đầu tiên này đã giải quyết các vùng nóng và các cell nhỏ không độc lập nơi mạng lõi vẫn hoàn toàn dựa trên LTE và một trạm cơ sở tăng cường (e-NodeB) vẫn hoạt động như một master Vào tháng 6 năm 2018, NR Stand Alone đầu tiên đã được hoàn thành, nơi một Next Generation (NG) Core cuối cùng đã thay thế LTE Core Giải pháp này đánh dấu sự kết thúc của giai đoạn đầu tiên, để lại không gian cho giai đoạn thứ hai với phiên bản 16

Hình 2.4: Tiến hóa thời gian của 5G [1]

8 Các lợi ích chính được giới thiệu bởi 5G NR so với công nghệ LTE [1]:

• Hỗ trợ băng thông truyền dẫn rất rộng và các tốc độ truyền dữ liệu cao tương ứng bằng cách tận dụng các dải tần số cao hơn;

• Hiệu suất năng lượng mạng được cải thiện và giảm nhiễu nhờ áp dụng thiết kế siêu gọn;

• Độ trễ thấp để cải thiện hiệu suất và cho phép các trường hợp sử dụng mới;

Sử dụng rộng rãi của kỹ thuật tạo hình tia và một số lượng lớn các yếu tố anten không chỉ cho việc truyền dữ liệu đã được kích hoạt bởi LTE, mà còn cho các thủ tục trên mặt điều khiển như truy cập ban đầu

Ngoài những cải tiến công nghệ này, một loạt các trường hợp sử dụng mới đặc trưng cho hệ thống 5G, được phác thảo trong Hình 2.5:

• Mở rộng di động rộng rãi (EMBB), với các ứng dụng như thực tế ảo/tăng cường, video UHD, gom cụm và các kịch bản khác nơi cần tốc độ dữ liệu rất cao

• Giao tiếp loại máy lớn (MMTC), với các ứng dụng như IoT, công nghiệp 4.0, cảm biến thông minh và nhiều kịch bản khác dự đoán một số lượng lớn thiết bị kết nối, với ít tin nhắn trao đổi mỗi giờ nhưng yêu cầu tiêu thụ năng lượng rất thấp

• Giao tiếp siêu đáng tin cậy và độ trễ thấp (URLLC), với các ứng dụng trong lĩnh vực quân sự, cho xe kết nối và cho phẫu thuật từ xa

Phiên bản 15 tập trung vào EMBB với tần số làm việc dưới 6 GHz; chỉ từ phiên bản 16 MMTC và URLLC mới được xem xét

Kênh truyền trong công nghệ LTE được phân thành ba nhóm [4]:

• Kênh logic (Logical channels): Xác định loại thông tin nào được truyền tải

• Kênh truyền tải (Transport channels): Cho biết cách thức truyền tải thông tin

• Kênh vật lý (Physical channels): Xác định vị trí gửi thông tin

Cả ba loại kênh này đều tồn tại trong cả hướng đường xuống (Downlink) và hướng đường lên (Uplink) Sơ đồ ánh xạ của kênh Downlink được minh họa như sau:

MẠNG NƠ-RON NHÂN TẠO

Mạng neural nhân tạo (ANN) là đóng vai trò quan trọng trong lĩnh vực trí tuệ nhân tạo được lấy cảm hứng từ hoạt động của não người [8] ANN gồm một tập hợp các "nơ-ron" hoạt động song song và qua các liên kết có trọng số chúng được kết nối với nhau Mỗi nơ-ron thực hiện một phép tính đơn giản, nhưng khi kết hợp với nhau trong một cấu trúc lớn, chúng có thể thực hiện các tác vụ phức tạp

Cơ chế hoạt động của ANN thường dựa trên việc học từ dữ liệu Quá trình này thường được thực hiện qua việc điều chỉnh các trọng số của các kết nối giữa các nơ-ron, dựa trên dữ liệu huấn luyện Một trong các thuật toán phổ biến nhất cho việc huấn luyện ANN là lan truyền ngược

Các ứng dụng của mạng ANN rất đa dạng Chúng thường được dùng trong nhận dạng hình ảnh, giọng nói, dịch thuật tự động, dự đoán dữ liệu và nhiều lĩnh vực khác Ví dụ, một ANN có thể được huấn luyện để nhận dạng các loại đối tượng trong hình ảnh, như khuôn mặt hoặc loại động vật

Mặc dù có nhiều ưu điểm, như khả năng học từ dữ liệu mà không cần đến sự can thiệp của con người, khả năng xử lý thông tin đồng thời và song song, và khả năng tự điều chỉnh khi có dữ liệu mới, nhưng mạng ANN cũng có nhược điểm của nó Điều này yêu cầu một lượng dữ liệu huấn luyện lớn cũng như tăng độ phức tạp của quá trình huấn luyện.

MẠNG CNN – MẠNG TÍCH CHẬP

Dựa vào các tài liệu [9] để minh họa cách CNN hoạt động cần hiểu kiến trúc của các ANN cơ bản, đại diện cho các kiến trúc được lấy cảm hứng từ não

18 người và được sử dụng rộng rãi trong học máy ANN bao gồm ba lớp cơ bản: lớp đầu vào, lớp ẩn và lớp đầu ra Bộ đặc điểm đại diện cho lớp mà ANN phải học được được nhận bởi lớp đầu vào Hơn nữa, việc xử lý dữ liệu đầu vào được thực hiện bởi lớp ẩn thông qua việc nhận diện các mẫu để đưa ra giá trị giống hoặc gần giống cho lớp cần được nhận dạng bởi lớp đầu ra Như được mô tả trong Hình 2.7 [9], quá trình này được biểu diễn dưới dạng truyền ngược Nếu đầu ra không khớp với lớp chính xác, một quá trình lan truyền ngược được thực hiện bởi ANN để điều chỉnh trọng số kết nối của các lớp ẩn tương ứng theo lỗi tính toán, cho phép nhận dạng lớp chính xác dựa trên các vòng lặp học lặp đi lặp lại

Hình 2.7: Kiến trúc của một mạng nơ-ron nhân tạo thông thường (ANN)

Lựa chọn gần đây thay thế cho ANN dữ liệu lớn, bao gồm hình ảnh là CNN

Sự khác biệt cơ bản giữa CNN và ANN là các lớp tích chập và lớp pooling được áp dụng trong CNN để trích xuất các đặc điểm hình ảnh hiệu quả hơn sử dụng ít chiều hơn Một CNN truyền một hình ảnh cụ thể qua các lớp của nó và đưa ra lớp quyết định Mạng có thể bao gồm hàng chục hoặc hàng trăm lớp, trong đó mỗi lớp học để phát hiện các loại đặc điểm khác nhau Mỗi hình ảnh đào tạo được chịu các bộ lọc ở các độ phân giải khác nhau, sau đó đầu ra của mỗi hình ảnh được tích

19 chập được đưa vào lớp tiếp theo Kiến trúc cơ bản của CNN được mô tả trong Hình 2.8 [9]:

Hình 2.8: Kiến trúc cơ bản của CNN

Mạng CNN là một trong những mô hình học sâu được sử dụng rộng rãi và có ảnh hưởng lớn trong lĩnh vực thị giác máy tính [9] CNN có thể áp dụng vào nhiều bài toán khác nhau như nhận dạng hình ảnh, phân tích video, xử lý ảnh MRI, và thậm chí cả xử lý ngôn ngữ tự nhiên, với hiệu quả cao trong hầu hết các trường hợp

CNN là một loại mạng nơ-ron truyền thẳng đặc biệt và hiện đang được coi là một trong những mô hình tiên tiến nhất trong học sâu Nhờ vào tốc độ xử lý nhanh và độ chính xác cao, CNN được sử dụng phổ biến trong các hệ thống nhận dạng và xử lý ảnh

Tích chập đại diện cho một loại phép toán tuyến tính cụ thể, trong đó ma trận hình ảnh được chịu một kernel Hình 2.9 [9] trình bày một ví dụ về tích chập, ví dụ, ứng dụng bộ lọc vào hình ảnh cho trước Hình 2.9a trình bày ma trận hình ảnh sẽ được lọc, kernel hoặc bộ lọc được trình bày trong Hình 2.9b, và kết quả tích chập được trình bày trong Hình 2.9c Bộ lọc được miêu tả trong Hình 2.9b đọc lần lượt từ trái sang phải, từ trên xuống dưới, trong đó tất cả các pixel trong khu vực hoạt động của kernel đều nằm trong khu vực màu xám của ma trận được hiển thị trong Hình 2.9a Sau phép tính này, giá trị pixel 16 trong mảng của Hình 2.9a trở

20 thành 17 trong ma trận của Hình 2.9c do tích chập Phép tính này được tính toán như sau:19×0 +12×0 +11×0 +17×1+16×0 + 18×0 + 13×0 +17×0 + 14×0

Hình 2.9: Hoạt động tích chập của CNN 2.3.2 Lớp Rectified Linear Unit

Lớp Rectified Linear Unit, được gọi là ReLU, xuất hiện sau các lớp tích chập nơi các bản đồ đặc trưng được đưa vào các hàm kích hoạt phi tuyến [9] Theo đó, toàn bộ mạng nơ-ron trở nên có khả năng xấp xỉ các hàm phi tuyến Hàm kích hoạt thường đại diện cho một hàm ReLU đơn giản, được định nghĩa như trong phương trình 2.1 Hàm ReLU hoán đổi tất cả các trạng thái âm thành các giá trị không Đồng thời, việc đưa các bản đồ đặc trưng kết quả vào hàm kích hoạt tạo ra các tensor mới, được gọi là bản đồ đặc trưng Hình 2.10 thể hiện một ví dụ về hoạt động của ReLU

Hình 2.10: Hoạt động của hàm kích hoạt ReLU 2.3.3 Pooling Layer

Các lớp Pooling nhằm vào việc giảm số lượng tham số của dữ liệu hình ảnh lớn Để đạt được điều này, mỗi bản đồ đặc trưng được tạo ra thông qua việc đưa dữ liệu vào các lớp tích chập đơn hoặc đa, sau đó được gộp lại trong một lớp lọc [9] Các phép toán gộp thu được từng phần nhỏ của lưới dưới dạng đầu vào và tạo ra một số duy nhất cho mỗi phần Điều này được biết đến là thu gọn hoặc giảm mẫu, trong đó chiều dữ liệu của mỗi bản đồ được giảm thiểu trong khi vẫn giữ lại thông tin quan trọng

Có các loại gộp không gian khác nhau bao gồm:

Gộp tối đa thu được giá trị lớn nhất của bản đồ đặc trưng được chỉ định Việc thu được giá trị trung bình của các phần tử trong bản đồ đặc trưng được gọi là gộp trung bình, trong khi lấy tổng của chúng được gọi là gộp tổng Hình 2.11 và Hình 2.12 [9] thể hiện hoạt động gộp tối đa được sử dụng trong công việc này với các bộ lọc và giá trị bước khác nhau Bước khớp đề cập đến số lần dịch chuyển trong pixel qua ma trận hình ảnh đầu vào Khi giá trị bước là 1, bộ lọc được dịch chuyển một pixel mỗi lần Khi giá trị là 2, bộ lọc được dịch chuyển hai pixel mỗi lần, và cứ thế

Hình 2.11: Max-pooling với bộ lọc 2x2 và bước nhảy là 2

Hình 2.12: Max-pooling với bộ lọc 3x3 và bước nhảy là 2

Lớp kết nối đầy đủ (FCL) là một phần quan trọng trong mạng CNN [9] Trong kiến trúc CNN, sau khi dữ liệu đã được truyền qua các lớp tích chập và lớp gộp, thông thường sẽ có một hoặc nhiều lớp FCL ở cuối cùng trước lớp đầu ra

Mỗi nơ-ron trong lớp FCL kết nối với tất cả các nơ-ron từ lớp trước đó Điều này có nghĩa là mỗi nơ-ron trong FCL nhận đầu vào từ tất cả các đầu ra của lớp trước đó Quá trình này tạo ra một mạng nơ-ron "đầy đủ kết nối", trong đó mỗi nơ-ron có thể ảnh hưởng đến mỗi nơ-ron trong lớp tiếp theo

Hàm softmax thường được sử dụng trong FCL cuối cùng của mạng CNN Hàm này có khả năng thay đổi các giá trị đầu ra của mỗi nơ-ron thành một phân phối xác suất Cụ thể, hàm softmax chuyển đổi tổng các đầu ra của mỗi nơ-ron thành các giá trị nằm trong khoảng từ 0 đến 1 và tổng của chúng bằng 1 Điều này giúp diễn giải đầu ra của mạng như là một phân phối xác suất, trong đó mỗi giá trị đại diện cho xác suất của một lớp hay một nhóm lớp cụ thể Điều này rất hữu ích

23 trong các bài toán phân loại, khi mà mạng nơ-ron cần dự đoán xác suất mỗi lớp của dữ liệu đầu vào

AlexNet là một trong những mạng nơ-ron đầu tiên với kiến trúc sâu và thành công đáng kể trong cuộc thi ImageNet năm 2012 Nó có kiến trúc đặc trưng với các lớp tích chập xen kẽ với các lớp pooling, kích thước lớn của bộ lọc và sử dụng hàm kích hoạt ReLU, đánh dấu bước ngoặc trong việc phát triển mạng nơ-ron học sâu

Inception, hay còn gọi là GoogleNet, là một mạng nơ-ron nổi tiếng với kiến trúc đa nhánh và sử dụng các lớp tích chập với kích thước khác nhau Điều này làm giảm số lượng tham số cần học trong mô hình, đồng thời giữ được độ chính xác cao

VGG16 là một mạng nơ-ron sâu với kiến trúc đơn giản nhưng mạnh mẽ

Nó bao gồm một loạt các lớp tích chập có kích thước nhỏ và các lớp pooling, được đặt tên theo số lượng các lớp trong mô hình Mặc dù có kiến trúc đơn giản, VGG16 đã chứng minh khả năng mạnh mẽ trong nhiều tác vụ như phân loại ảnh

DEEP LEARNING

Trong thời đại trí tuệ nhân tạo phát triển nhanh chóng, Deep Learning được xem là một công nghệ nền tảng, cách mạng hóa cách máy tính hiểu, học và tương tác với các dữ liệu phức tạp

Deep Learning là một phần của Machine Learning dựa trên cấu trúc của mạng nơ-ron nhân tạo [13] Bản chất của Deep Learning là mô phỏng mạng lưới thần kinh phức tạp của não bộ con người, cho phép máy tính tự động nhận diện các mẫu và đưa ra quyết định dựa trên khối lượng lớn dữ liệu phi cấu trúc

Thực tế các khái niệm về mạng nơ-ron nhân tạo và Deep Learning đã có từ những năm 1960 Tuy nhiên, vào thời điểm đó, khả năng ứng dụng của chúng bị giới hạn bởi lượng dữ liệu và khả năng tính toán còn hạn chế

Những tiến bộ gần đây trong phân tích dữ liệu đã mở ra cơ hội lớn cho việc khai thác tối đa tiềm năng của mạng nơ-ron nhân tạo Đó cũng chính là sự thúc đẩy cho Deep Learning phát triển Để hiểu rõ hơn về Deep Learning, ta cần tìm hiểu về mối quan hệ giữa nó với mạng nơ-ron, Machine Learning và trí tuệ nhân tạo (AI) Mối quan hệ này được thể hiện như hình dưới:

Hình 2.16: Minh họa về mối quan hệ của Deep Learning [14]

26 Trong mô hình này, gồm có ba tầng chính: Trí tuệ nhân tạo (AI), Machine Learning (ML), và Deep Learning (DL) AI là vòng ngoài cùng, đại diện cho khả năng tổng hợp mọi thông tin, lập luận và ra quyết định thông qua sự giúp đỡ của máy tính Bên trong là ML, một tầng con của AI, chịu trách nhiệm cho việc học từ dữ liệu và tinh chỉnh các mô hình dự đoán ML sử dụng các thuật toán để tự động học từ kinh nghiệm mà không cần lập trình cụ thể Trong ML, mạng nơ-ron nhân tạo là một mô hình tính toán được lấy cảm hứng từ cấu trúc và chức năng của não bộ con người

Deep Learning nằm ở trung tâm của ML, là một dạng đặc biệt của mạng nơ-ron nhân tạo Tên "Deep Learning" được để phản ánh độ sâu của mạng lưới, nhấn mạnh khả năng hấp thụ kiến thức sâu rộng mà nó có thể đạt được Trong mạng nơ-ron, các nút được sắp xếp thành nhiều lớp Lớp đầu tiên, gọi là lớp đầu vào, nhận dữ liệu trực tiếp từ môi trường bên ngoài Mỗi nút trong lớp này đại diện cho một đặc trưng hoặc thuộc tính của dữ liệu Đầu ra của mỗi nút sẽ trở thành đầu vào cho các nút trong lớp kế tiếp Trong mỗi lớp, các nút không kết nối trực tiếp với nhau Lớp cuối cùng, gọi là lớp đầu ra, tạo ra kết quả dự đoán hoặc phân loại

Trong khi đó, các lớp ẩn (thường gọi là lớp trung gian) là nơi mà các tính toán phức tạp diễn ra Các nơ-ron trong lớp ẩn không có kết nối trực tiếp với bên ngoài và chỉ nhận input từ các nút trong lớp trước Các nơ-ron này được kích hoạt thông qua các hàm kích hoạt, giúp chúng học và điều chỉnh trọng số của các kết nối Quá trình này cho phép Deep Learning học các đặc trưng phức tạp và thực hiện các tác vụ như nhận diện các hình ảnh, giọng nói, hoặc xử lý ngôn ngữ tự nhiên với độ chính xác và hiệu suất cao

Hình 2.17: Minh hoạ các lớp trong Deep Learning [15]

Trong machine learning, các chương trình máy tính không biết trước câu trả lời cho các vấn đề cụ thể Thay vào đó, chúng sẽ sử dụng training data để học từ kinh nghiệm và điều chỉnh để đạt được hiệu suất cao nhất Cách tiếp cận này thường sử dụng các thuật toán và mô hình phức tạp để phân tích dữ liệu và dự đoán kết quả Để thực hiện được điều này, machine learning yêu cầu một kiến thức sâu rộng, bao gồm kiến thức về công nghệ phần mềm và khoa học máy tính, cũng như các kỹ thuật trong lĩnh vực thống kê và đại số tuyến tính Sự hiểu biết sâu sắc về những nguyên tắc này là chìa khóa quan trọng để áp dụng Machine Learning một cách hiệu quả và thành công trong các ứng dụng thực tế Ứng dụng của Deep Learning

Deep learning đã cho ra nhiều ứng dụng tiềm năng trong các lĩnh vực như nhận diện hình ảnh và video, xử lý ngôn ngữ tự nhiên, xe tự hành, dịch thuật tự động, chăm sóc y tế, tài chính và quảng cáo Đây chỉ là một phần của tiềm năng của deep learning, và chúng ta có thể mong đợi thêm nhiều ứng dụng mới trong tương lai

ỨNG DỤNG CNN TRONG VIỆC ƯỚC LƯỢNG KÊNH

THIẾT KẾ MÔ HÌNH HỆ THỐNG

Hình 3.1: Sơ đồ hệ thống cho ước lượng kênh

Trong hình 3.1 thể hiện quy trình mô phỏng hệ thống bao gồm nhiều bước:

Trước hết cần có dữ liệu đầu vào được chuẩn bị để truyền qua hệ thống Sau đó, dữ liệu này được điều chế bằng một trong những phương pháp như: QPSK, 16-QAM, 64-QAM hoặc 256-QAM, nhằm biến đổi dữ liệu thành tín hiệu phù hợp để truyền qua kênh truyền không dây Sau đó tín hiệu qua IFFT để điều chế dạng sóng OFDM, tức là chuyển tín hiệu qua miền tần số mà các tín hiệu tần số này là trực giao để chuẩn bị cho việc truyền qua anten phát

29 Tiếp theo, tín hiệu sau đó truyền qua kênh truyền không dây, kênh này bao gồm nhiễu "n(t)" và phân bố Rayleigh "h(t)" với các mô hình kênh truyền TDL khác nhau Và tại anten thu thì sẽ thu được tín hiệu y = x.h(t) + n(t)

Tín hiệu sau khi thu được sẽ qua FFT để phân tích và giải mã tín hiệu để đi đến bộ ước lượng kênh CNN Tại đây, có thể thay đổi các mô hình ước lượng khác nhau để ước lượng được giá trị h(t) và tuỳ từng mô hình khác nhau thì giá trị h(t) có thể chính xác hoặc nhanh hoặc chậm nhằm cải thiện hay tăng cường hiệu suất sử dụng kênh

Cuối cùng, tín hiệu được giải điều chế để khôi phục lại dữ liệu và so sánh với dữ liệu đầu vào ban đầu

3.1.2 Mạng 1 Đầu tiên chúng tôi thử nghiệm với một mô hình mạng có cấu trúc như sau (Để dễ so sánh và phân tích so với các mạng khác thì chúng tôi đặt tên mạng này là mạng 1) sau đây là kiến trúc mô hình của mạng này:

Mạng bao gồm 11 lớp Lớp đầu vào của mạng nhận dữ liệu hình ảnh với kích thước 612x14 và 1 kênh màu (được gọi là ảnh xám vì chỉ có 1 kênh), không có bất kỳ quá trình chuẩn hóa nào được thực hiện trên dữ liệu đầu vào Lớp tích chập đầu tiên với 64 bộ lọc (filters), mỗi bộ lọc có kích thước 9x9 Lớp này sử dụng zero-padding với độ rộng là 4 ở mỗi cạnh của đầu vào

Lớp tích chập thứ hai với 64 bộ lọc, mỗi bộ lọc có kích thước 5x5 Lớp này sử dụng padding với độ rộng 2, và số kênh đầu vào là 64 (đây là số kênh đầu ra từ lớp trước) Lớp tích chập thứ ba và lớp tích chập thứ tư tương tự như lớp thứ hai nhưng ở lớp tích chập thứ tư sẽ giảm số bộ lọc xuống chỉ còn 32 bộ lọc

Lớp tích chập thứ năm với 1 bộ lọc, kích thước 5x5, và sử dụng padding với độ rộng 2 và sẽ có 32 kênh đầu vào

Cuối cùng là lớp hồi quy, chức năng chính của lớp hồi quy là tính toán và tối ưu hóa sai số dự đoán giữa giá trị thực tế và giá trị dự đoán của mô hình trong quá trình huấn luyện

30 Lớp kích hoạt ReLU được áp dụng sau mỗi lớp convolution để giúp mô hình học các đặc trưng phi tuyến tính và tăng tốc quá trình học

Hình 3.2: Mô hình của mạng 1

Dựa vào mạng 1 chúng tôi đã phát triển một mạng cải tiến mới Một trong những thay đổi chính của mạng CNN là việc thêm các lớp chuẩn hóa batchNormalization sau mỗi lớp tích chập Các lớp chuẩn hóa batchNormalization có tác dụng ổn định quá trình huấn luyện bằng cách giảm sự thay đổi trong các đầu ra của lớp tích chập, giúp cải thiện được độ chính xác và tăng tốc độ hội tụ của mô hình Trong mạng ban đầu, các lớp batchNormalization không được sử dụng, điều này có thể dẫn đến sự dao động lớn trong giá trị của các đặc trưng, gây khó khăn trong việc huấn luyện mạng sâu

Mạng bao gồm 18 lớp Lớp tích chập đầu tiên vẫn giữ nguyên bộ lọc có kích thước 9x9 nhưng tăng số lượng bộ lọc lên 128 Ở lớp thứ hai giảm kích thước bộ lọc xuống 7x7 nhưng vẫn giữ nguyên số lượng bộ lọc ban đầu và có số kênh đầu vào là 128 Lớp tích chập thứ ba, bốn giảm kích thước bộ lọc xuống 5x5 đồng thời giảm số lượng bộ lọc xuống còn 64 và giảm padding xuống còn 2 Lớp tích chập thứ 5 vẫn giữ nguyên kích thước của lớp trước đó nhưng giảm số lượng bộ lọc xuốn còn 32 và giảm padding xuống còn 1 Lớp tích chập cuối cùng giảm kích thước bộ lọc xuống 3x3 và chỉ sử dụng một bộ lọc duy nhất để tạo ra một kênh đầu ra duy nhất giúp mô hình học cách tổng hợp thông tin từ nhiều kênh đầu vào và giảm đi chi phí tính toán

Kiến trúc tổng thể của mạng cải tiến trở nên sâu hơn và phức tạp hơn so với mạng ban đầu Việc thêm các lớp batchNormalization giữa các lớp tích chập tạo ra một kiến trúc đa lớp với khả năng học các đặc trưng phức tạp hơn từ dữ liệu đầu vào Mạng ban đầu có cấu trúc đơn giản hơn với ít lớp hơn và không có batchNormalization, dẫn đến khả năng hạn chế trong việc học và tổng quát hóa từ dữ liệu

Mạng cũng sử dụng hàm Relu làm hàm kích hoạt, batch_size = 32

Hình 3.3: Mô hình của mạng 2

LƯU ĐỒ GIẢI THUẬT

Hình 3.4:Lưu đồ giải thuật của hệ thống

Hình 3.4 mô tả quá trình huấn luyện và ứng dụng mạng CNN cho việc ước lượng kênh trong hệ thống truyền thông Quá trình bắt đầu với việc tạo dữ liệu cần thiết để huấn luyện mô hình, bao gồm dữ liệu về kênh truyền thông hoặc dữ liệu liên quan đến 5G Sau đó, mô hình CNN được xây dựng và huấn luyện bằng dữ liệu đã tạo ở bước trước Khi quá trình huấn luyện hoàn tất, mô hình được sử dụng để ước lượng kênh, tức là dự đoán thông tin về kênh truyền thông Hiệu suất của mô hình sau đó được kiểm tra bằng cách so sánh kết quả ước lượng kênh thực nghiệm với ước lượng kênh hoàn hảo Cuối cùng, quá trình kết thúc sau khi hoàn tất tất cả các bước trên Lưu đồ này minh họa các bước cần thiết trong phát triển mô hình học máy cho ước lượng kênh trong các hệ thống truyền thông số hiện đại

34 như 5G, giúp tạo ra các dự đoán chính xác về kênh truyền thông, cải thiện hiệu suất truyền thông và tối ưu hóa việc sử dụng tài nguyên mạng.

QUY TRÌNH HUẤN LUYỆN MẠNG

• Tạo dữ liệu: Tạo ra dữ liệu vào và ra cho mạng nơ-ron Điều này có thể bao gồm thu thập dữ liệu từ thực tế hoặc tạo dữ liệu mô phỏng

• Chia dữ liệu: Dữ liệu được chia thành hai phần: một phần để huấn luyện mô hình và một phần để đánh giá hiệu suất của mô hình trên dữ liệu mới

• Xác định kiến trúc mạng CNN: bao gồm số lớp, số nơ-ron trong mỗi lớp và các tham số liên quan

• Chọn tùy chọn huấn luyện: Cấu hình các tùy chọn cho quy trình huấn luyện, bao gồm bộ tối ưu hóa để điều chỉnh các tham số của mạng nơ-ron và tỷ lệ học để điều chỉnh tốc độ học của mô hình

• Huấn luyện mạng: Áp dụng dữ liệu huấn luyện vào mô hình và điều chỉnh các tham số của mạng nơ-ron để đảm bảo mô hình có khả năng dự đoán đầu ra chính xác từ dữ liệu đầu vào

Ta có tập datasheet là do Matlab tạo ra, bao gồm:

• Tổng số lượng mẫu: Quá trình tạo dữ liệu tạo ra 256 mẫu huấn luyện (dataSize = 256) Điều này có nghĩa là hàm hGenerateTrainingData sẽ tạo ra 256 bộ dữ liệu và nhãn tương ứng mô phỏng các điều kiện kênh khác nhau và các phản ứng kênh hoàn hảo tương ứng

• Với batchsize2, đây là số lượng mẫu sẽ được xử lý cùng một lúc trong một lần cập nhật trọng số của mô hình trong quá trình huấn luyện Vì vậy ta có thể tính toán số lượng mẫu huấn luyện và kiểm tra: o Tổng số lượng mẫu: 256 o Số lượng mẫu kiểm tra: 32 o Số lượng mẫu huấn luyện: 256 – 32 = 224

Bảng 3.1: Thông số huấn luyện cho mạng CNN

Tham số Giá trị Mô tả trainModel true

Biến này quyết định liệu mô hình có được huấn luyện từ đầu hay không Nếu false, mô hình được tải từ tệp đã lưu trước đó rng(42) 42 Seed cho bộ sinh số ngẫu nhiên để đảm bảo tái lập kết quả batchSize 32 Số lượng ví dụ trong mỗi mini- batch khi huấn luyện valFrequency round(size(train Data,4)/batchSi ze/5)

Tần suất kiểm tra dữ liệu validation, khoảng 5 lần mỗi epoch

InitialLearnRate 3e-4 Tốc độ học ban đầu cho thuật toán tối ưu Adam

MaxEpochs 5 hoặc 10 Số epoch tối đa cho quá trình huấn luyện

Shuffle 'every-epoch' Sắp xếp ngẫu nhiên dữ liệu huấn luyện sau mỗi epoch

Nếu true, quá trình huấn luyện sẽ in ra thông tin chi tiết từng bước

Hiển thị biểu đồ tiến trình huấn luyện

MiniBatchSize batchSize (32) Kích thước mini-batch

Dữ liệu dùng để kiểm tra trong quá trình huấn luyện

36 ValidationFrequency valFrequency Tần suất kiểm tra dữ liệu validation.

QUY TRÌNH ƯỚC LƯỢNG KÊNH

Để thực hiện ước tính kênh cần huấn luyện mạng CNN bằng cách sử dụng dữ liệu được tạo bằng công cụ ToolBox 5G trong matlab Sử dụng CNN đã được huấn luyện, việc ước tính kênh được thực hiện ở chế độ một đầu vào một đầu ra (SISO), sử dụng tín hiệu tham chiếu giải điều chế kênh (DM-RS) chia sẻ đường xuống vật lý (PDSCH) Sau đó sẽ so sánh kết quả sử dụng CNN với các phiên bản thực tế và hoàn hảo của công cụ ước tính kênh Để khôi phục tín hiệu đã truyền, chúng ta cần loại bỏ các hiệu ứng do kênh gây ra khỏi tín hiệu nhận được Đầu tiên, chúng tôi ước tính các đặc điểm của kênh Trong một hệ thống như trong Hình 3.1, điều này bao gồm việc ước tính các đặc điểm của kênh được đại diện bởi H Việc biết thông tin này cho phép áp dụng xử lý tín hiệu để loại bỏ các hiệu ứng do kênh gây ra sau khi giải điều chế và giải mã tín hiệu

Trong mô hình này các pilot được truyền vào data và được trích xuất nguyên ra Sau đó, phần còn lại của phản hồi kênh được nội suy bằng cách sử dụng các ký hiệu Pilot này như trong Hình 3.5

Hình 3.5: Ước tính kênh từ các Pilot được trích xuất [16]

37 Để áp dụng các kỹ thuật Deeplearning cho hệ thống ước tính kênh cần phải biểu diễn dưới dạng các mẫu kênh pilot được sắp xếp trên mô hình 2D Điều này biến cách tiếp cận thành một vấn đề xử lý hình ảnh, tương tự như khử nhiễu hoặc siêu phân giải, trong đó CNN cũng thường được sử dụng

Cần tạo ra các dạng sóng và mô hình kênh tuân thủ tiêu chuẩn tùy chỉnh để sử dụng làm dữ liệu huấn luyện của mình Dữ liệu huấn luyện là cần thiết để CNN tìm hiểu thông tin về kênh Sau đó, CNN ước tính kênh đã được huấn luyện sẽ được sử dụng để xử lý các hình ảnh chứa các ký hiệu pilot nhận được nội suy tuyến tính (Hình 3.6) Có thể thấy cách sử dụng các ký hiệu thí điểm được trích xuất ở phần bên trái để ước tính các phần còn lại của kênh

Hình 3.6: Quá trình ước tính kênh [16]

Có thể sử dụng các ước tính hoàn hảo, thực tế và mạng nơ-ron của cùng một mô hình kênh và so sánh hiệu suất của chúng Toolbox 5G có các chức năng để thực hiện cả ước tính kênh hoàn hảo và thực tế mà chúng tôi đã sử dụng để so sánh Để thực hiện ước lượng kênh bằng mạng nơ-ron, cần phải nội suy lưới tín hiệu nhận được Sau đó, chia ảnh đã nội suy thành các phần thực và ảo và đưa những ảnh này vào mạng nơ-ron dưới dạng một batch duy nhất

KẾT QUẢ VÀ ĐÁNH GIÁ

KẾT QUẢ ƯỚC LƯỢNG MẠNG 1

Bảng 4.1: Bảng tóm tắt các thông số cấu hình của mạng 1

Conv Layer 1 Filter Size = 9x9, Number of Filters = 64, Stride = [1 1],

Output Layer Loss Function = mean-squared-error, Response = 'Response'

39 Dưới đây là kết quả tỉ lệ MSE khi thay đổi TDL và SNRdB từ 1 đến 10 của mạng 1:

Hình 4.1: Kết quả của mạng 1 với TDL-A

Hình 4.1 thể hiện kết quả ước lượng kênh cho mạng 1 với mô hình kênh truyền TDL-A Kết quả này thể hiện tỉ lệ sai số bình phương trung bình MSE của kênh ước lượng bằng phương pháp nội suy, kênh ước lượng thực tế, kênh ước lượng bằng mạng nơ-ron và cuối cùng là kênh ước lượng hoàn hảo hay còn gọi là lý tưởng

Hình đầu tiên là tại SNR = 10 dB, khi ta thay đổi SNR từ 1 đến 10 sẽ được biểu đồ bên cạnh cho thấy khi SNR tăng thì dẫn đến sai số MSE sẽ giảm do khi SNR tăng thì tín hiệu trở nên rõ ràng hơn và ít bị nhiễu

Hình 4.2: Kết quả của mạng 1 với TDL-B

Mô hình kênh TDL-B có các đặc điểm như độ trễ nhiều hơn so với mô hình TDL-A Khi sử dụng mô hình TDL-B, hệ thống OFDM phải đối mặt với sự phức tạp cao hơn do số lượng đường dẫn đa đường tăng lên Việc ước lượng kênh sẽ trở nên khó khăn hơn do sự phân tán tín hiệu cao hơn Dẫn đến tỷ lệ sai số MSE của việc ước lương kênh tăng lên như hình 4.2

Hình 4.3: Kết quả của mạng 1 với TDL-C

Mô hình TDL-C có độ trễ lớn hơn và phân bố năng lượng trải rộng hơn so với TDL-B Tuy nhiên kết quả cho ra ước lượng kênh lại tốt hơn so với mô hình TDL-B cho thấy mô hình mạng có khả năng học và tự điều chỉnh các đặc trưng phức tạp của dữ liệu, cho phép nó học được các mẫu tốt hơn phù hợp với mô hình kênh TDL-C

Hình 4.4: Kết quả của mạng 1 với TDL-D

Hình 4.5: Kết quả của mạng 1 với TDL-E

Mặc dù mô hình kênh truyền TDL- D và TDL-E có mô hình phức tạp và độ trễ lớn hơn so với các mô hình còn lại nhưng với cùng SNR dB kết quả ước lượng kênh như hình 4.4 và 4.5 lại cho thấy mô hình mạng 1 hoạt động tương đối ổn định với 2 mô hình kênh truyền này

Việc thay đổi mô hình kênh TDL khác như TDL-A, TDL-B, TDL-C, TDL-

D, và TDL-E sẽ tạo ra những thay đổi quan trọng trong đặc tính kênh, từ đó tác động đến quá trình ước lượng kênh và hiệu suất của hệ thống OFDM Mỗi mô hình kênh có những thách thức riêng, đòi hỏi mạng nơ-ron và các phương pháp ước lượng kênh phải được điều chỉnh và huấn luyện phù hợp để duy trì hiệu suất tối ưu trong các điều kiện kênh khác nhau

Hình 4.6: Kết quả của mạng 1 với phương pháp điều chế QPSK

42 16-QAM là một sơ đồ điều chế phức tạp hơn, cho phép truyền nhiều bit dữ liệu hơn trong mỗi ký hiệu so với QPSK Cụ thể, 16-QAM truyền 4 bit mỗi ký hiệu, trong khi QPSK chỉ truyền 2 bit mỗi ký hiệu Do đó, khi chuyển từ 16-QAM sang QPSK, tốc độ truyền dữ liệu sẽ giảm đi một nửa hoặc băng thông sẽ tăng lên gấp đôi

Từ kết quả như hình 4.6 ta thấy tỉ lệ sai số MSE của hai phương pháp điều chế gần như bằng nhau vì hệ thống chỉ tập trung vào ước lượng kênh sử dụng mạng CNN nên việc thay đổi các phương pháp điều chế không ảnh hưởng đến kết quả ước lượng kênh.

KẾT QUẢ ƯỚC LƯỢNG MẠNG 2

Bảng 4.2: Bảng tóm tắt các thông số cấu hình của mạng 2

Padding = 1, NumChannels = 32 Output Layer Loss Function = mean-squared-error, Response = 'Response'

43 Cũng tương tự như mạng 1, chúng tôi cũng tiến hành thay đổi mô hình kênh truyền TDL và SNR từ 1 đến 10 để đánh giá hiệu suất của mạng cải tiến Bên dưới là kết quả MSE của mạng 2 khi thay đổi các thông số:

Hình 4.7: Kết quả của mạng cải tiến 2 với TDL-A

Hình 4.8: Kết quả của mạng cải tiến 2 với TDL-B

Hình 4.9: Kết quả của mạng cải tiến 2 với TDL-C

Hình 4.10: Kết quả của mạng cải tiến 2 với TDL-D

Hình 4.11: Kết quả của mạng cải tiến 2 với TDL-E

Sau khi thay đổi các mô hình kênh truyền khác nhau và tại SNR dB cho thấy với mô hình kênh truyền TDL-E có kết quả ước lượng ổn định và tỉ lệ MSE nhỏ nhất thể hiện việc mô hình mạng 2 thích hợp với mô hình phức tạp

Hình 4.12: Kết quả của mạng 2 với phương pháp điều chế QPSK

Cũng giống như mạng 1 thì việc thay đổi các phương pháp điều chế cũng không ảnh hưởng đến kết quả ước lượng kênh

Bảng 4.3: Kết quả sai số bình phương MSE của 2 mạng với việc thay đổi các mô hình TDL tại SNR = 10dB

Sai số bình phương trung bình (MSE) Linear interpolation

Bảng 4.4: Kết quả sai số bình phương MSE của 2 mạng với phương pháp điều chế QPSK tại SNR = 10dB

Sai số bình phương trung bình (MSE) Linear interpolation

Từ hai bảng trên ta nhận thấy tùy vào mô hình mạng phức tạp hay đơn giản hoặc cấu trúc của mô hình thì có sai số bình phương trung bình khác nhau

Kết luận: Mô hình mạng 1 không có lớp chuẩn hoá batchNormalization nên sẽ phù hợp với các dữ liệu đã được chuẩn hoá tốt trước khi đưa vào mạng, mô hình có thể đơn giản hơn và giảm thiểu thời gian huấn luyện Chọn mô hình mạng 2 được cải tiến có thêm lớp batchNormalization nếu dữ liệu có biến động lớn cần cân bằng dữ liệu vào mỗi lần huấn luyện, giúp tăng tốc độ hội tụ của mô hình và cải thiện khả năng học các đặc trưng phức tạp Tuy nhiên, mô hình này có độ phức tạp cao hơn và yêu cầu nhiều tài nguyên tính toán hơn