Với tín hiệu gây nhiễu có phân bố Gaussian, việc tổng hợp thiết bị xử lý không gian tối ưu cần đến việc đảo ngược ma trận tương quan nhiễu chung [13]. Tuy nhiên, trong thực tế, thường phát sinh tình huống mà hạng ma trận tương quan xác định dương các tín hiệu gây nhiễu nhỏ hơn kích thước của nó [85], [87]. Đặc biệt, tình huống này xuất hiện trong xử lý không gian tín hiệu liên quan đến bù khử (chế áp) nhiễu bên ngoài trong kênh thu chính bằng cách sử dụng các kênh phụ (bù). Nếu số nguồn nhiễu ít hơn số kênh phụ, ma trận hiệp phương sai tổng nhiễu trong các kênh này sẽ suy biến nghiêm trọng. Trong trường hợp đó, ma trận này được gọi là điều hòa kém, tức là có tỷ số (giá trị riêng cực đại/giá trị riêng cực tiểu) >> 1. Biết rằng ngay cả với các biến dạng nhỏ ở ma trận điều hòa kém, đặc biệt là có liên quan đến các lỗi trong thực hiện tính toán, kết quả phép đảo ma trận có thể khác biệt đáng kể so với ma trận giá trị thực [81], do đó dẫn đến hiệu quả quá trình xử lý được tổng hợp giảm mạnh.
Để giải quyết vấn đề này, cần áp dụng quy trình điều hòa cho ma trận tương quan điều hòa kém [53], [57], [66], [92] hoặc bỏ qua nội tạp và tổng hợp xử lý với
giả định chỉ có các nhiễu ngoài mà ma trận tương quan của chúng bị suy biến [32]. Với ma trận tương quan không suy biến chung của các đại lượng thực hoặc phức ngẫu nhiên Gaussian, mật độ xác suất của chúng được xác định bởi biểu thức phổ biến [12] 𝑃(𝒀) = (2𝜋 𝛼)− 𝑁𝛼 2 (𝑑𝑒𝑡𝑹)−𝛼2𝑒𝑥𝑝 (−𝛼 2𝒀𝐻𝑹−1𝒀) (3.13) trong đó Y là véc tơ cột các đại lượng ngẫu nhiên y1, ..., yN; det (*) là định thức ma trận; (*) H là dấu hiệu liên hợp Hermitian; α là tham số bằng 1 hoặc 2 đối với Y thực hoặc phức, tương ứng; 𝑹 = 〈𝒀𝒀𝐻〉 - ma trận tương quan vectơ Y; 〈* 〉- dấu hiệu trung bình thống kê.
Đối với ma trận suy biến R, biểu thức (3.10) mất ý nghĩa vì ma trận nghịch đảo R-1 không tồn tại. Trong trường hợp này, người ta phải tìm kiếm các phương pháp khác để xác định vectơ Gaussian [87]. Trong [75] đã cho thấy vectơ Gaussian thực được xác định thông qua hàm đặc trưng dạng
𝛷(𝜽) = 𝑒𝑥𝑝 (−1
2𝜽𝑇𝑹𝜽) (3.14) Trong trường hợp này, hàm đặc trưng (3.14) phụ thuộc vào ma trận R mà không phụ thuộc vào ma trận nghịch đảo R-1, và do đó, cũng được xác định trong trường hợp suy biến.
Một cách tiếp cận khác để xác định vectơ Gaussian được đề xuất trong [85], [87]. Với ma trận tương quan không suy biến R thì ma trận nghịch đảo của nó là Hermitian và xác định dương có thể được biểu diễn bằng khai triển phổ [32]
𝑹−1 = ∑ 1 𝜇1 𝑁
𝑖=1 𝑼𝑖𝑼𝑖𝐻 (3.15) trong đó μ1, ..., μN là các giá trị riêng dương của ma trận R, U1, ..., UN là các vec tơ riêng trực giao chuẩn tương ứng.
Thay (3.15) vào (3.13) và giới hạn trong trường hợp Y thực (trong (3.13) tham số α = 1), ta nhận được
𝑝(𝒀) = ∏𝑁 (2𝜋𝜇𝑖)−1/2
𝑖=1 𝑒𝑥𝑝 [− 1
2𝜇1(𝒀𝐻𝑼𝑖)2] (3.16) Trong đó 𝑑𝑒𝑡𝑹 = ∏𝑁𝑖=1𝜇𝑖
tiến đến 0. Điều này, rõ ràng, tương ứng với quá trình chuyển từ ma trận không suy biến R thành ma trận suy biến có hạng r < N. Khi ấy, mỗi thừa số có số thứ tự
r+1,..., N sẽ có xu hướng trở thành hàm delta Dirac [23] 𝛿(𝑡) = 𝑙𝑖𝑚𝜎→0[(2𝜋𝜎2)−1/2𝑒𝑥𝑝 (− 𝑡2 2𝜎2)] (3.17) Kết quả là biểu thức (3.16) có dạng 𝑝(𝒀) = (2𝜋)−𝑟/2(∏𝑟𝑖=1𝜇1)−1/2𝑒𝑥𝑝 (−1 2𝒀𝐻𝑹+𝒀) ∏𝑁 𝛿(𝒀𝐻𝑼𝑖) 𝑟+1 (3.18) Ở đây 𝑹+ = ∑ 1 𝜇𝑖𝑼𝑖𝑼𝑖𝐻 𝑟
𝑖=1 - ma trận giả nghịch đảo Moore-Penrose, tương ứng với ma trận R.
Trong [85], [87] nhận được mật độ xác suất tương đương (3.18) không chứa các hàm delta và cho thấy hàm
𝑝(𝒀) = 𝐶𝑒𝑥𝑝 (−𝛼
2𝒀𝐻𝑹+𝒀) (3.19) có thể được xem là mật độ xác suất vectơ Y trong không gian con này (với α = 1 - véc tơ thực, với α = 2 - phức), trong đó R+ là ma trận giả nghịch đảo Moore-Penrose.