Do sự đơn giản và tính khả thi của việc triển khai phần cứng, bình phương trung bình nhỏ nhất (LMS) được áp dụng cho cập nhật bù. Đầu tiên ta xác định ma
trận dữ liệu cho bù Ψ(n)=[φ2(n), …, φN(n)], sao cho đầu ra bù có thể biểu diễn
bằng:
𝑆(𝑛) = 𝑦(𝑛) + 𝚿(𝑛)𝑾 (2.6)
Hai tiêu chuẩn của đầu ra bộ lọc là năng lượng ngoài băng được định nghĩa bằng hàm giá:
𝐽(𝑾) = ‖𝑒𝑟𝑟(𝑛)‖22 (2.7)
Ở đây:
𝑒𝑟𝑟(𝑛) = ℎ(𝑛) ∗ [𝚿(n)𝐖] (2.8)
Trong đó, h(n) là đáp ứng xung của bộ lọc ngoài băng. Kết quả ước lượng độ dốc được cho bởi:
𝜕𝐽(𝑾)
𝜕𝑾 = −2ℎ
∗∗ 𝚿𝐻(𝑛)𝑒𝑟𝑟(𝑛) (2.9)
Trong đó H biểu thị sự chuyển vị Hermite. Có thể thấy từ biểu thức (2.9) áp
dụng trực tiếp thuật toán LMS yêu cầu bộ lọc tới ma trận dữ liệu. Để giảm độ phức tạp của thuật toán, ước lượng sau đây được giới thiệu:
𝜕𝐽′(𝑾)
𝜕𝑾 = −2𝚿
𝐻(𝑛)𝑒𝑟𝑟(𝑛) (2.10)
Cuối cùng, kết quả LMS có thể được phát triển với phương trình cập nhật là: 𝑾(𝑘+1) = 𝑾(𝑘)− 𝛽𝚿𝐻(𝑛 − 𝜏)𝑒𝑟𝑟(𝑛) (2.11) Trong đó ma trận dữ liệu được giữ chậm bởi τ với thời gian phù hợp với đầu ra bộ lọc (hình 2.1). Các thuật toán dựa trên độ dốc khác như RLS (recursive least square) cũng có thể áp dụng cho bù tuy nhiên không được thảo luận ở đây.
Bộ lọc được sử dụng cho kỹ thuật bù được đề xuất để loại bỏ tín hiệu mong muốn và xuyên nhiễu để có được tín hiệu ngoài băng. Vì quá trình xử lý bù là trong băng gốc nên tín hiệu mong muốn nằm ở trung tâm miền tần số trong khi xuyên nhiễu nằm bên cạnh. Do đó đáp ứng của bộ lọc nên bất đối xứng dẫn đến một bộ lọc có hệ số phức tạp. Do đó, việc thực hiện lọc ngoài băng yêu cầu 3 bộ lọc thực.
Mộc khía cạnh của bộ lọc ở đây là bộ lọc không có đáp ứng tần số chuẩn như lọc thông thấp, thông cao hay lọc dải. Ứng dụng cụ thể trong phép bù được đề xuất là thiết kế bộ lọc với đáp ứng xung tùy ý. Các phương pháp thiết kế đã được nghiên
cứu nhiều và dễ dàng tìm thấy. Trong bài báo này, phương pháp xấp xỉ chebyshev [9] được sử dụng để tính các bộ lọc mong muốn.