LSTM có khả năng bỏ đi hoặc thêm vào các thơng tin cần thiết cho trạng thái tế bào, chúng được điều chỉnh cẩn thận bởi các nhóm được gọi là cổng (gate).
Các cổng là nơi sàng lọc thông tin đi qua nó, chúng được kết hợp bởi một tầng mạng sigmoid và một phép nhân.
Hình 1. 16: Các cổng sàng lọc thơng tin
Tầng sigmoid sẽ cho đầu ra là một số trong khoảng [0,1], mơ tả có bao nhiêu thơng tin có thể được thơng qua. Khi đầu ra là 0 thì có nghĩa là khơng cho thơng tin nào qua cả, còn khi là 1 thì có nghĩa là cho tất cả các thơng tin đi qua nó.
Đồ án tốt nghiệp Đại học Chương 1: Tổng quan về ML và RL
Đỗ Minh Toàn - D17CQVT07-B 18
Một LSTM gồm có 3 cổng như vậy để duy trì và điều hành trạng thái của tế bào.
2.3.4. Bên trong LSTM
Bước đầu tiên của LSTM là quyết định xem thông tin nào cần bỏ đi từ trạng thái tế bào. Quyết định này được đưa ra bởi tầng sigmoid - gọi là “tầng cổng quên” (forget gate layer). Nó sẽ lấy đầu vào là ℎ𝑡−1 và 𝑥𝑡 rồi đưa ra kết quả là một số trong khoảng [0,1] cho mỗi số trong trạng thái tế bào 𝐶𝑡−1. Đầu ra là 1 thể hiện rằng nó giữ tồn bộ thơng tin lại, cịn 0 chỉ rằng tồn bộ thơng tin sẽ bị bỏ đi.
Quay trở lại với ví dụ mơ hình ngơn ngữ dự đốn từ tiếp theo dựa trên tất cả các từ trước đó, với những bài tốn như vậy, thì trạng thái tế bào có thể sẽ mang thơng tin về giới tính của một nhân vật nào đó giúp ta sử dụng được đại từ nhân xưng chuẩn xác. Tuy nhiên, khi đề cập tới một người khác thì ta sẽ khơng muốn nhớ tới giới tính của nhân vật nữa, vì nó khơng cịn tác dụng gì với chủ thế mới này.
Hình 1. 17: LSTM Lọc thơng tin cần loại bỏ
Bước tiếp theo là quyết định xem thông tin mới nào ta sẽ lưu vào trạng thái tế bào. Việc này gồm 2 phần. Đầu tiên là sử dụng một tầng sigmoid được gọi là “tầng cổng vào” (input gate layer) để quyết định giá trị nào ta sẽ cập nhập. Tiếp theo là một tầng 𝑡𝑎𝑛ℎ tạo ra một véc-tơ cho giá trị mới 𝑐̃𝑡 nhằm thêm vào cho trạng thái. Trong bước tiếp theo, ta sẽ kết hợp 2 giá trị đó lại để tạo ra một cập nhập cho trạng thái.
Chẳng hạn với ví dụ mơ hình ngơn ngữ của ta, ta sẽ muốn thêm giới tính của nhân vật mới này vào trạng thái tế bào và thay thế giới tính của nhân vật trước đó.
Đỗ Minh Tồn - D17CQVT07-B 19 Hình 1. 18: LSTM Quyết định thơng tin mới được lưu
Giờ là lúc cập nhập trạng thái tế bào cũ 𝐶𝑡−1 thành trạng thái mới 𝐶𝑡. Ở các bước trước đó đã quyết định những việc cần làm, nên giờ ta chỉ cần thực hiện là xong.
Ta sẽ nhân trạng thái cũ với 𝑓𝑡 để bỏ đi những thông tin ta quyết định quên lúc trước. Sau đó cộng thêm 𝑖𝑡 ∗ 𝐶̃𝑡. Trạng thái mơi thu được này phụ thuộc vào việc ta quyết định cập nhập mỗi giá trị trạng thái ra sao.
Với bài toán mơ hình ngơn ngữ, chính là việc ta bỏ đi thơng tin về giới tính của nhân vật cũ, và thêm thơng tin về giới tính của nhân vật mới như ta đã quyết định ở các bước trước đó.
Hình 1. 19: LSTM cập nhật trạng thái
Cuối cùng, ta cần quyết định xem ta muốn đầu ra là gì. Giá trị đầu ra sẽ dựa vào trạng thái tế bào, nhưng sẽ được tiếp tục sàng lọc. Đầu tiên, ta chạy một tầng sigmoid để quyết định phần nào của trạng thái tế bào ta muốn xuất ra. Sau đó, ta đưa nó trạng thái tế bảo qua một hàm 𝑡𝑎𝑛ℎ để co giá trị nó về khoảng [−1,1], và nhân nó với đầu ra của cổng sigmoid để được giá trị đầu ra ta mong muốn.
Với ví dụ về mơ hình ngơn ngữ, chỉ cần xem chủ thể mà ta có thể đưa ra thơng tin về một trạng từ đi sau đó. Ví dụ, nếu đầu ra của chủ thể là số ít hoặc số nhiều thì ta có thể biết được dạng của trạng từ đi theo sau nó phải như thế nào.
Đồ án tốt nghiệp Đại học Chương 1: Tổng quan về ML và RL
Đỗ Minh Toàn - D17CQVT07-B 20
3. Kết luận chương 1
Chương 1 đã đề cập đến lịch sử phát triển và quá trình hình thành của Machine Learning cũng như các khái niệm về Reinforcement Learning. Đi sâu vào Machine Learning và Reinforcement Learning là cấu trúc, cách thức hoạt động các thuật toán K- mean, DBSCAN, Q-learning và mạng LSTM. Các thuật toán này là các thuật tốn chính để áp dụng cho hệ thống quản lý búp sóng và tài ngun vơ tuyến trong mạng di động 5G.
Đỗ Minh Toàn - D17CQVT07-B 21
CHƯƠNG 2: TỔNG QUAN VỀ MẠNG 5G 1. Thực trạng triển khai mạng 5G trên thế giới và tại Việt Nam 1. Thực trạng triển khai mạng 5G trên thế giới và tại Việt Nam
Nếu mạng 2G tập trung hỗ trợ việc gửi tin nhắn giữa các thuê bao, 3G là kỷ nguyên bùng nổ các ứng dụng điện thoại, 4G cho chúng ta kết nối Internet nhanh hơn để có thể dùng các ứng dụng dữ liệu lớn như gọi xe cơng nghệ hay dịch vụ thoại có kèm hình ảnh như FaceTime hoặc Video Call trên Zalo thì 5G có ưu điểm là nhanh hơn nhiều lần so với 4G [6].
Với tốc độ cao, độ trễ thấp, khả năng phủ sóng rộng, cơng nghệ 5G đang hiện thực hóa những điều mà trước nay thường chỉ thấy trong các bộ phim khoa học viễn tưởng. Kết nối 5G có thể nhanh gấp 10 lần kết nối 4G, cho phép tải một bộ phim với chất lượng hình ảnh Full HD chỉ mất có vài giây.
Tuy nhiên, đó là trong điều kiện hồn hảo. Trên thực tế, nếu có nhiều người sử dụng cùng một lúc, tốc độ 5G sẽ rơi vào khoảng 100 Megabits/giây (Mbps), cao hơn từ 3 - 5 lần so với chuẩn 4G LTE hiện tại.
1.1. Thực trạng triển khai mạng 5G trên thế giới
Theo báo cáo về tốc độ mạng 5G trên toàn cầu trong quý III/2020 của Open Signal - cơng ty chun phân tích và đánh giá về thị trường mạng di động và không dây tại Anh, Mỹ là quốc gia có tốc độ mạng 5G thấp nhất trong tất cả các quốc gia được khảo sát. Tốc độ trung bình mạng 5G của quốc gia này chỉ đạt 52 Mbps, nhỉnh hơn đôi chút tốc độ mạng 4G (trung bình đạt khoảng 28,9 Mbps).
Hình 2. 1: So sánh tốc độ mạng 4G và 5G tại các quốc gia và vùng lãnh thổ trên thế giới [6]
Đồ án tốt nghiệp Đại học Chương 2: Tổng quan về mạng 5G
Đỗ Minh Tồn - D17CQVT07-B 22
Dù có tốc độ mạng 5G bị đánh giá chậm nhất thế giới, Mỹ lại là một trong những quốc gia có mức độ phủ sóng mạng 5G lớn nhất thế giới. Đa số các nhà mạng tại Mỹ sử dụng mạng 5G với tần số thấp. Điều này khiến cho tốc độ mạng khơng được cao nhưng lại có mức độ phủ sóng lớn hơn.
Trong khi đó, Saudi Arabia là quốc gia có tốc độ mạng 5G nhanh nhất thế giới với tốc độ trung bình đạt 377,2 Mbps, nhanh gấp 12,5 lần so với tốc độ mạng 4G tại quốc gia này (trung bình đạt 30,1 Mbps). Các quốc gia xếp tiếp theo trong danh sách mạng 5G nhanh nhất thế giới do Open Signal công bố bao gồm Hàn Quốc (336,1 Mbps), Australia (215,8 Mbps)...
Theo báo cáo, dù không nằm trong top 5 quốc gia và vùng lãnh thổ có mạng 5G nhanh nhất thế giới, Thái Lan lại là nơi có tỷ lệ chênh lệch giữa tốc độ mạng 5G và mạng 4G lớn nhất. Cụ thể, mạng 5G tại Thái Lan trung bình đạt 169,8 Mbps, nhanh hơn gấp 15,7 lần so với tốc độ trung bình của mạng 4G tại quốc gia này (10,8 Mbps).
Hình 2. 2: Thái Lan có tỷ lệ chênh lệch tốc độ mạng 5G và 4G cao nhất thế giới [4]
1.2. Thực trạng triển khai mạng 5G tại Việt Nam
Mới đây, cả 3 nhà mạng lớn tại Việt Nam là VinaPhone, Viettel và MobiFone đã đồng loạt cơng bố việc phát sóng và cung cấp thử nghiệm mạng 5G thương mại. Với tốc độ cao gấp nhiều lần mạng 4G, khả năng kết nối nhiều thiết bị, mạng 5G thu hút sự quan tâm của những người làm công việc cần nhiều dữ liệu lại thường xuyên di chuyển.
Trong q trình phát sóng thử nghiệm, mạng 5G của cả 3 nhà mạng đạt tốc độ 600 - 800 Mbps, thậm chí có thời điểm lên đến 1 Gbps, nhanh gấp 10 lần so với tốc độ trung bình của mạng 5G trước đây và đạt ở mức cao so với thế giới.
Tuy nhiên, đây chỉ là tốc độ phát sóng 5G thử nghiệm. Vì vậy, việc so sánh với tốc độ mạng 5G ở các quốc gia đã được phát sóng thương mại là chưa thể chính xác bởi khi
Đỗ Minh Tồn - D17CQVT07-B 23
phát sóng thương mại với phạm vi phủ sóng lớn hơn, tốc độ trung bình của mạng 5G sẽ bị giảm xuống. Mặc dù vậy, người dùng Việt Nam vẫn có thể hy vọng được trải nghiệm những ưu điểm vượt trội về tốc độ mà mạng 5G mang lại khi chính thức được thương mại hóa.
2. Các yêu cầu kỹ thuật và các trường hợp sử dụng mạng 5G 2.1. Các yêu cầu kỹ thuật của mạng 5G 2.1. Các yêu cầu kỹ thuật của mạng 5G
Liên minh Viễn thông quốc tế về các hệ thống thông tin di động quốc tế (ITU - International Telecommunication Union) gồm các nhà công nghiệp hàng đầu thế giới, các tổ chức xây dựng tiêu chuẩn kỹ thuật của quốc gia và khu vực, cơ quan quản lý, các nhà khai thác, các nhà sản xuất thiết bị, các học giả và viện nghiên cứu đã xây dựng xong dự thảo các yêu cầu kỹ thuật tối thiểu của hệ thống IMT-2020 (được gọi là hệ thống thông tin động thế hệ thứ 5 - 5G) [7].
IMT-2020 sẽ có 3 nhóm ứng dụng là băng rộng di động nâng cao (Enhanced Mobile Broadband - eMBB), truyền thông thời gian trễ thấp và tin cậy cực cao (Ultra-Reliable and Low-Latency Communications - URLLC) và truyền thông máy số lượng lớn (Massive Machine Type Communications - mMTC).
Hình 2. 3: Các nhóm ứng dụng 5G (theo ITU) [7]
eMBB sẽ cung cấp dữ liệu tốc độ cực cao, tốc độ đường xuống là 10Gbps gấp 100 tốc độ sóng mang đơn của mạng LTE. Sử dụng các kỹ thuật tiên tiến như băng thông rộng hơn (2GHz), tần số mới ở băng tần cao (sóng milimet) và sử dụng kết hợp băng
Điện tốn đám mây Hình ảnh 3 chiều (3D), độ phân giải siêu cao (UHD)
Thực tế ảo tăng cường Tự động hóa
Ứng dụng độ tin cậy cao Phương tiện giao thông tự hành Thành phố thông
minh (smart city)
Nhà thông minh (smart home)
Tốc độ Gbps
Băng thông rộng di động nâng cao (eMBB)
Truyền thông máy số lượng cực lớn (mMTC)
Kết nối độ tin cậy cực kỳ cao với độ trễ thấp (URLLC)
Đồ án tốt nghiệp Đại học Chương 2: Tổng quan về mạng 5G
Đỗ Minh Toàn - D17CQVT07-B 24
tần cấp phép.
URLLC được sử dụng để xây dựng thành phố thông minh, kết nối giao tiếp giữa đèn giao thông, ô tô tự động và đường cao tốc để điều khiển giao thông. Trong môi trường này, mật độ nút, tiêu thụ năng lượng và chi phí là yêu cầu cực kỳ quan trọng.
Cuối cùng là mMTC, hai yêu cầu của kết nối không dây là độ trễ và độ tin cậy. Thử tưởng tượng việc bác sỹ thực hiện phẫu thuật từ xa bằng robot kết nối qua khơng dây, khi đó độ tin cậy của đường truyền chính là sự thành cơng của ca phẫu thuật.
Nhóm nghiên cứu 5D (Working Party 5D) của ITU-R vừa kết thúc cuộc họp đầu tiên tại Bắc Kinh, Trung Quốc. Một trong những nhiệm vụ chính của nhóm là xây dựng tiêu chuẩn IMT-2020 (5G) dựa trên các đóng góp của các cơ quan quản lý, nhà mạng, hãng sản xuất thiết bị, và các tổ chức tiêu chuẩn của quốc gia và khu vực.
Sau cuộc họp, ngày 23 tháng 2 năm 2017 ITU-R đã ra văn bản công bố Các yêu cầu tối thiểu liên quan đến hiệu suất kỹ thuật cho giao diện vô tuyến IMT-2020 (s), được tóm tắt các vấn đề cơ bản như sau:
• Tốc độ dữ liệu đỉnh đường xuống là 20 Gbps và đường lên là 10 Gbps. • Hiệu suất sử dụng phổ tần đỉnh đường xuống là 30 bit/s/Hz và đường lên là
15 bit/s/Hz.
• Tốc độ dữ liệu người dùng trải nghiệm đường xuống là 100 Mbps và đường lên là 50 Mbps.
• Lưu lượng đường xuống theo vùng 10Mb/s/m2 đối với Hotspot trong nhà. • Độ trễ trên giao diện người dùng là 4 mili giây (ms) cho ứng dụng eMBB và
1 ms cho ứng dụng URLLC, độ trễ trên giao diện điều khiển là 20 ms. • Mật độ kết nối: 1 triệu thiết bị/km2.
• Băng thơng tối thiểu là 100 MHz và cho phép hỗ trợ băng thông lên đến 1 GHz khi hoạt động ở băng tần trên 6 GHz.
• Tốc độ di chuyển tối đa của thuê bao là 500 km/h.
Ngồi ra cịn có các u cầu khác để đánh giá đạt tiêu chuẩn công nghệ IMT-2020 trong các vấn đề sử dụng khác nhau như: Hiệu quả sử dụng năng lượng, độ tin cậy, thời gian gián đoạn khi di động, tổng lưu lượng vùng.
Có thể tóm tắt các yêu cầu kỹ thuật đối với 5G trên vào trong 5 điều kiện cũng như các u cầu chính cho hệ thống thơng tin di động 5G như sau:
❖ Quan điểm người sử dụng: "Tốc độ siêu cao và độ trễ thấp".
• Đạt được tốc độ truyền dữ liệu nhanh gấp 1000 lần so với LTE, độ trễ cực thấp thời gian ít hơn một vài phần nghìn giây và thực hiện quan điểm: "Kết nối Massive".
Đỗ Minh Toàn - D17CQVT07-B 25
nối (kết nối bất cứ lúc nào, bất cứ nơi nào, bất cứ ai, bất cứ điều gì).
❖ Kiến trúc nhận thức: "Mạng linh hoạt, thơng minh".
• Đáp ứng nhu cầu di chuyển nhanh, liên tục phân tích dữ liệu trong thời gian thực và cung cấp dịch vụ thơng minh, cá nhân hóa.
❖ Quan điểm hoạt động: "Hoạt động tin cậy, an tồn".
• Bảo vệ hơn 99% mạng sẵn có và độ tin cậy cũng như tự phục hồi, cấu hình lại.
❖ Quan điểm quản lý: "Năng lượng, chi phí, hiệu quả chi phí".
• Đạt được hiệu quả năng lượng cao hơn 50-100 lần so với LTE và cơ sở hạ tầng, thiết bị có chi phí thấp.
2.2. Các trường hợp sử dụng mạng 5G
2.2.1. Các trường hợp sử dụng của Internet di động
Internet di động đang phá vỡ mơ hình kinh doanh truyền thống của truyền thông di động, cho phép người dùng trải nghiệm chưa từng có và tác động sâu sắc đến mọi khía cạnh của cơng việc và cuộc sống của mọi người [7]. Nhìn về phía trước đến năm 2020 và hơn thế nữa, Internet di động sẽ thúc đẩy sự phát triển liên tục của cách con người tương tác thông tin và cung cấp cho người dùng trải nghiệm tuyệt vời thông qua các dịch vụ phong phú hơn bao gồm nhưng khơng giới hạn ở:
• Các dịch vụ video, chẳng hạn như video Độ phân giải cực cao (UHD) và video xuyên thời gian (3D) phong phú
• Thực tế tăng cường • Thực tế ảo
• Chia sẻ video / hình ảnh trong sân vận động / tụ tập ngồi trời • Ứng dụng trị chơi trực tuyến
• Đám mây di động / đám mây máy tính để bàn • Internet xúc giác
• Máy tính từ xa • Kết nối 3D: máy bay
• Kết nối 3D: máy bay khơng người lái • Robot hợp tác
• Các dịch vụ giống như phát sóng, như tin tức và thơng tin địa phương, khu vực và quốc gia
• Văn phịng thơng minh
Sự phát triển trong tương lai của Mobile Internet sẽ kích hoạt sự tăng trưởng của lưu lượng di động lên hàng nghìn người trong tương lai, và thúc đẩy một làn sóng nâng cấp mới và một cuộc cách mạng trong công nghệ truyền thơng di động và tồn bộ ngành