Hệ thống WiMAX có thể bị tấn công trong quá trình xác thực hoặc trong quá trình truyền dữ liệu kết nối.
Trong quá trình xác thực, các BS và SS sử dụng các thông báo quản trị để trao đổi thông tin. Do vậy các thông tin này có thể bị nghe trộm hoặc bị thay đổi nội dung thông tin nếu như không được mã hóa.
Trong quá trình truyền dữ liệu giữa BS và SS, luồng dữ liệu cũng có thể bị nghe trộm hoặc bị mất nếu như không được mã hóa.
Hình 2.23 Mô hình kiến trúc bảo mật 802.16
Theo mô hình trên, một SS trước khi truyền dữ liệu phải thực hiện các yều về xác thực với BS để được cung cấp quyền truy nhập hệ thống. Luồng dữ liệu trước khi được truyền từ BS tới SS cũng cần được xác thực. Sau khi được cấp quyền truy cập, phần dữ liễu sẽ được mã hóa trước khi truyền. Tại phía đầu thu, cũng sẽ phải yêu cầu xác thực dữ liệu, mà trao đổi thông tin cần thiết để giải mã dữ liệu.
Lớp bảo mật sẽ thực thiện xác thực thông qua việc thực hiện một thủ tục quản lý khóa chủ/tớ xác thực. Trong đó BS (chủ) có niệm vụ phân phối các công cụ khóa cho SS(tớ). Việc xác thực này được thực hiện thông qua giao thức quản lý khóa (PKM).
Giao thực quản lý khóa PKM thiết lập bảo mật giữa BS và SS. SS sẽ sử dụng PKM để yêu cầu BS chứng thực và một khó để trao đổi, ngoài ra PKM còn hỗ trợ SS thực hiện yêu cầu chứng thực lại và cập nhật khóa. Giao thức PKM sử dụng mô hình client-server. Trạm SS đóng vai trò là các client gửi yêu cầu chứng thực đến BS, đóng vai trò là server có trách nhiệm đáp ứng yêu cầu mà các client gửi đến. Mô hình này bảo đảm mỗi một SS chỉ có duy nhất một khóa thực đã được chứng thực
Trong WiMAX cố định, việc bảo mật được thực hiện bằng thủ tục quản lí khóa phiên bản 1 (PKMv1). Trong phiên bản này sử dụng chứng thực số X.509 (IETF RFC 3280) cùng với thuật toán mã hóa công khai RSA (PKCS #1) hoặc thuật toán đối xứng để
trao đổi khó giữa SS và BS. Mỗi SS có một chứng thực X.509 duy nhất được cấp bởi nhà sản xuất. Việc xác thực thiết bị cũng dựa trên việc xác thực chứng thực số X.509.
WiMAX di động hỗ trợ tốt nhất các đặc tính bảo mật lớp nhờ việc thực hiện các công nghệ tốt nhất có thể áp dụng ngày nay. Sự hỗ trợ có trong nhận thực thiết bị/người sử dụng tương hỗ, giao thức quản lý khoá linh hoạt, mã hoá lưu lượng mạnh, bảo vệ bản tin nền tảng điều khiển và quản lý và các tối ưu giao thức bảo mật cho các chuyển vùng nhanh.
Các dạng sử dụng của các đặc tính bảo mật:
− Giao thức quản lý khoá: Giao thức quản lý khoá và bí mật phiên bản 2 (PKMv2) là cơ sở của bảo mật WiMAX di động như được định nghĩa trong 802.16e. Giao thức này quản lý bảo mật MAC sử dụng các bản tin PKM-REQ/RSP. Nhận thực PKM EAP, điều khiển mã hoá lưu lượng, chuyển đổi khoá chuyển vùng và các bản tin bảo mật Multicast/Broadcast tất cả được dựa trên giao thức này.
− Nhận thực thiết bị/người sử dụng: WiMAX di động hỗ trợ nhận thực thiết bị và người sử dụng sử dụng giao thức IETF EAP bằng việc cung cấp sự hỗ trợ cho tính tin cậy mà được dựa trên SIM, dựa trên USIM hay chứng chỉ số hay dựa trên Username/Password tương ứng với các phương thức kiểm nhận thực EAP-SIM, EAP-AKA, EAP-TLS hay EAP-MSCHAPv2 được hỗ trợ qua giao thức EAP. Các phương thức phân phát khoá chỉ được hỗ trợ bởi các phương thức EAP.
− Mã hoá lưu lượng: AES-CCM là mã hoá sử dụng để bảo vệ tất cả dữ liệu người sử dụng trên giao tiếp MAC của WiMAX di động. Các khoá sử dụng cho điều khiển mã hoá được phát từ nhận thực EAP. Máy trạng thái mã hoá lưu lượng mà có cơ cấu làm mới khoá theo chu kỳ TEK cho phép chuyển đổi khoá được duy trì cho bảo vệ tiên tiến sau này.
− Bảo vệ bản tin điều khiển: dữ liệu điều khiển được bảo vệ nhờ sử dụng AES dựa trên CMAC hay MD5 dựa các lược đồ HMAC.
− Hỗ trợ chuyển vùng nhanh: Một sơ đồ kết nối 3 đường được hỗ trợ bởi wimax di động để tối ưu cơ chế tái nhận thực để hỗ trợ chuyển vùng nhanh. Cơ cấu này cũng hữu ích để ngăn ngừa các tấn công người ở giữa bất kỳ.
Như vậy có thể thấy, việc bảo mật trong phiên phản 2 cho wimax di động có độ linh hoạt và tin cậy cao hơn rất nhiều so với phiên bản 1 sử dụng trong WiMAX cố định. Việc quản lý thiết bị/người sử dụng dựa vào SIM cho phép người sử dụng linh hoạt trong việc sử dụng thiết bị đầu cuối, đây cũng chính là vấn đề được các nhà cung cấp thiết bị hết sức quan tâm.