Thông thường để hiệu suất được cải thiện thì bộ giải mã phải biết về độ tin cậy của các các bít lối vào tiếp theo đối với giá trị lượng tử của chúng. Các giá trị trước đó coi như là giá trị quyết định mềm, trong khi những giá trị sau được gọi là giá quyết
(3.30) (3.31) (3.31) (3.32) (3.33) (3.34)
định cứng. Trong ZF, việc tạo ra giá trị lối ra quyết định mềm dựa trên sự biến đổi của vecto thu x từ “không gian x” sang “không gian s”. Nhắc lại hàm mật độ xác suất điều kiện của ước lượng vecto s cho kênh H
Chú ý là nói chung ma trận hiệp phương sai Q không được coi là ma trận đường chéo, tức là các lỗi ước lượng cho các anten khác nhau là tương quan. Việc tạo ra giá trị lối ra quyết định mềm cho ZF dựa theo nguyên tắc tối đa xác suất sau (MAP). Tại khoảng thời gian tức thời, Nb=Nrm bit được vecto/ký hiệu MIMO gửi đi, m=log2M là số lượng bit trên điểm chòm sao, nếu bk là bit thứ k của vecto phát si để ước lượng, thì bộ giải mã MAP tại bộ thu sẽ quyết định, vecto thu được x, bít là “1” nếu
Và ngược lại bít là “0”.Nguyên tắc này có thể được viết lại theo dạng trung bình của tỉ số xác suất log (LLR)
Hoặc tương đương khi truyền vấn đề tới “không gian s”
Với si (1≤i≤I) ký hiệu cho tất cả các vecti MIMO phát, với I=MN. Bây giờ nguyên tắc quyết định ở trên có thể dễ dàng thực hiện khi bk=(sgn(L(bk))+1)/2. Áp dụng công thức Bayer, Pr(A|B)=Pr(B|A).Pr(A)/Pr(B), LLR trở thành
Bởi vì vecto si đều được phát đi như nhau, nên Pr(si) là bằng nhau cho tất cả các vecto si. Áp dụng phân bố p(sest|si) cho LLR là
Áp dụng xấp xỉ max-log cho biểu thức trên ta có
(3.35) (3.36) (3.37) (3.38) (3.39) (3.40)
Suy giảm hiệu suất của xấp xỉ trên là không đáng kể. Tuy nhiên trong LLR thì khi I tăng theo hàm mũ với Nt, thì độ phức tạp cũng tăng theo hàm mũ với Nt. Để có thuật toán mà độ phức tạp chỉ tăng tuyến tính với số lượng anten TX, thì phải đưa vào một số điều kiện là, các phần tử của vecto lỗi ước lượng không tương quan với nhau, và Q là ma trận đường chéo, khi đó LLR trở thành
Với qab ký hiệu là phần tử (a,b) của Q, và (sest) tương ứng với phần tử thứ p của sest và si. Áp dụng xấp xỉ max-log trên kết quả và dụng một số hạng trong tổng là cực đại và bằng exp(max(…))…..exp(max(….)), giá trị mềm của một bít bk nào đó được ánh xạ lên phần tử thứ k’ của s, được chỉ ra là
Với Và (3.41) (3.42) (3.43) (3.44)
Với ký hiệu a cho phần nguyên nhỏ. Để tìm hệ số tỉ lệ thích hợp, trước tiên chúng ta xác định ma trận hiệp phương sai mong muốn của lỗi ước lượng cho số đa số kênh thực. Nếu hệ thống thông tin được giả sử là hoạt động trong môi trường fading Rayleigh phẳng thì ta chỉ ra là
Để phân tích giá trị mềm của bít thứ k, thì vài giả thiết cần có, thứ nhất là giả sử truyền bít bk=1, thứ 2 là (si)k’|bk=1 thì
Cuối cùng là giả sử (si)k’|bk=0 được chọn sai, khoảng cách giữa (sest)k’ và (si)k’|bk=0 được xem là khoảng cách euclit lớn nhất giữa hai điểm chòm sao bất kỳ. Với BPSK và QPSK khoảng cách này là 2, tổ hợp các kết quả, ta có giá trị mềm của bít thứ k bằng
Chú ý nếu giả sử bk=0 được phát đi, thì kết quả thu được sẽ là
Với Nq bít lượng tử hóa, khoảng lượng tử hóa là
Khi 4Nr>>n 2 thì hệ số tỉ lệ lượng tử được tính là (3.45) (3.46) (3.47) (3.48) (3.49) (3.50) (3.51)