tiểu luận lý thuyết và thuật toán ước lượng gauss, wiener, kalman

Truyền số liệu Chương 15: Lý thuyết thuật toán ước lượng Gauss, Wiener, Kalman 15.1 Giới thiệu Sự ước lượng bốn vấn đề mơ hình hóa Ba vấn đề trình bày (một nên tạo mơ nào), đo lường (những số lượng vật lý cần đo đo nào), giá trị (chứng minh niềm tin vào mơ hình) Ước lượng, phù hợp vấn đề đo lường giá trị, bàn định rõ số lượng vật lý mà đo từ chúng mà đo Chúng bao gồm phạm vi rộng kỹ thuật ước lượng bao gồm ước lượng bình phương tối thiểu, ước lượng khơng chệch tuyến tính tốt nhất, ước lượng khả tối đa, ước lượng bình phương trung bình ước lượng khả tối đa Những kỹ thuật cho ước lượng tham số ước lượng trạng thái kết hợp hai, áp dụng cho mơ hình tuyến tính phi tuyến Quan điểm thời gian rời rạc nhấn mạnh chương vì: (1) nhiều liệu thực thu thập loại số hóa, dạng sẵn sàng để xử lý thuật toán ước lượng thời gian rời rạc, (2) toán học kết hợp với lý thuyết ước lượng thời gian rời rạc đơn giản lý thuyết xác định thời gian liên tục Chúng xem lý thuyết ước lượng (rời rạc theo thời gian) mở rộng xử lý tín hiệu số cổ điển tới thiết kế lọc (số) thời gian rời rạc mà xử lý liệu không chắn cách tối ưu Lý thuyết ước lượng xem bổ xung tự nhiên đến lý thuyết xử lý tín hiệu số Mendel [12] tài liệu tham khảo cho tất tài liệu chương Thuật toán ước lượng xử lý liệu thực đầy đủ máy vi tính số Triết lý tính tốn bỏ thành thạo Nhiều thuật tốn chương sử dụng Matlab toolbox thích hợp Xem thích 12 để kết nối giữ Matlab toolbox file M thuật toán chương Mơ hình mà chúng tơi hướng vào tuyến tính tham số chưa biết Z(k) = H(k)θ + V(k) (15.1) Trong kiểu mẫu này, xem “ kiểu tuyến tính chung”, Z(k) = col ( z(k), z(k-1),…., z(k-N+1)), với N x gọi vecto số đo Yếu tố z(j) = h’(j)θ + v(j); với θ n x gọi vecto tham số, bao gồm thuyết chưa biết tham số ngẫu nhiên đánh giá sử dụng nhiều kỹ thuật chương này; H(k), với N x n gọi ma trận xác nhận; V(k) với N x 1được gọi vecto nhiễu số đo Theo quy ước, đối số “k” Z(k), H(k) V(k) biểu thị thực tế số đo cuối dùng đề đặt (15.1) k HVTH: Phạm Xuân Hoan Trang Truyền số liệu Những ví dụ vấn đề tính vào dạng kiểu tuyến tính chung là: nhận dạng hệ số đáp ứng xung kiểu mẫu tổng chập cho hệ thống tuyến tính bất biến thời gian từ số đo ngõ nhiễu; nhận dạng hệ số kiểu cân giới hạn khác tuyến tính thời gian bất biến cho hệ thống động từ số đo ngõ nhiễu; hàm xấp xỉ; đánh giá trạng thái; tham số đánh giá kiểu mẫu khơng tuyến tính sử dụng phiên tuyến tính kiểu mẫu đó; deconvolution; nhận dạng hệ số trình bày chuỗi Volterra rời rạc hệ thống khơng tuyến tính Kí hiệu đánh giá sau dùng xuyên suốt chương này: ^ ~ θ (k) biểu thị ước lượng θ θ (k) biệu sai số ước lượng, ~ ^ tức θ (k) = θ - θ (k) Mơ hình tuyến tính chung điểm bắt đầu cho phép lấy đạo hàm kỹ thuật ước lượng tham số cổ điển, mô ^ ^ hình ước lượng cho Z(k) Z (k) = H(k) θ (k) Trong phần lại ^ chương phát triển cấu trúc riêng cho θ (k) Những cấu trúc tham chiếu đến ước lượng Những ước lượng thu lại liệu xử lý ước lượng 15.2 Ước lượng bình phương cực tiểu Phương pháp liệu bình phương cực tiểu trở lại vào Karl Gauss vào khoảng 1795 tảng cho hầu hết lý thuyết ước lượng Ước ^ lượng trọng lượng bình phương cực tiểu (WLSE), θ WLS(k), thu lại ^ ~ ~ giảm đến giá trị nhỏ hàm đối tượng J[ θ (k)] = Z ’(k)W(k) Z (k), ~ ~ ^ sử dụng công thức 15.1, Z (k) = Z(k) - Z (k) = H(k) θ (k) + V(k), ma trận trọng lượng W(k) phải đối xứng xác định dương Ma trận trọng lượng dùng tăng thêm số đo gần nặng số đo trước Nếu W(k) = cI, tất số đo thêm giống nhau, sau trọng lượng bình phương cực tiểu giảm tới bình phương thấp, ^ ^ ^ trường hợp thu θ LS(k) Đặt dJ[ θ (k)]/d θ (k) = 0, thấy rằng: (15.2) Và (15.3) Chú ý Ma trận H’(k)W(k)H(k) khơng phải cho đảo để tồn Điều W(k) xác định dương, giả định H(k) vùng lớn ^ ^ ^ ^ Chúng ta biết θ WLS(k) thấp J[ θ WLS(k)] d2J[ θ (k)]/d θ ^ (k) = 2H’(k)W(k)H(k) > 0, H’(k)W(k)H(k) đảo Ước lượng θ WLS(k) HVTH: Phạm Xuân Hoan Trang Truyền số liệu xử lý số đo Z(k) tuyến tính, đo tham chiếu ước lượng ^ tuyến tính Trong thực tế khơng tính tốn θ WLS(k) cơng thức 15.2, tính tốn H’(k)W(k)H(k) đảo khó với nhiều số khó ^ Đo đo gọi biểu thức bình thường [H’(k)W(k)H(k)] θ WLS(k) = H’(k)W(k)H(k) để giải thuật toán ổn định từ số học tuyến tính ( e.g, [3] trình bày giải biểu thức bình thường chuyển đổi vấn đề bình phương cực tiểu gốc vào đương lượng, dễ dàng để giải vấn đề phép biến đổi thuật toán phép biến đổi Householder Givens) Chú ý công thức 15.2 15.3 ứng dụng cho ước lượng tham ^ số xác định ngẫu nhiên, khơng có chỗ có đạo hàm θ WLS(k) phải giả định θ ngẫu nhiên không ngẫu nhiên Cuối cùng, ý WLSEs bất biến thay đổi tỷ lệ Một cách để tháo gỡ khó khăn sử dụng liệu bình thường hóa Ước lượng bình phương cực tiểu tính tốn phân tích giá trị đặc biệt (SVD) ma trận H(k) Sự tính tốn có giá trị cho trường hợp N < n N > n trường hợp H(k) đầy không đầy SDV cho ma trận A kích thước K x M (15.4) U V ma trận đơn nhất, ∑ = diag (σ , σ , , σ r ) σ1 ≥ σ2 ≥ …≥σr>0 σi giá trị đặc biệt A, r hạng A SVD H(k) cho 15.4 Thậm chí H(k) không nằm hạng cực đại (15.5) Σ = diag (σ1 , σ2 ,… σr ) r hạng H(k) Thêm vào ngồi trường hợp xác định -1 -1 -1 -1 (15.6) ^ Phương trình θ WLS(k) tính tốn tương tự Phương trình (15.2) (15.3) phương trình đợt, chúng xử lý tất số đo thời điểm Những biểu thức tính đệ quy theo thời gian cách sử dụng kỹ thuật phân chia ma trận vec tơ đơn giản Dạng thông tin đệ quy WLSE HVTH: Phạm Xuân Hoan Trang Truyền số liệu Phương trình (15.8) (15.9) đảo ma trận P kích thước n x n Nếu n lớn tính tốn hao tốn Ứng dụng bổ đề ma trận đảo (15.9), thu dạng hiệp biến luân chuyển WLSE đệ quy sau: biểu thức (15.7) Biểu thức (15.7) – (15.9) (15.7), (15.10) (15.11) giá trị ^ ban đầu θ WLS(n) P-1(n), P(n) = [H’(n)W(n)H(n)]-1 , k= n, n + 1, , N-1 Biểu thức (15.7) diễn giải sau WLSE đệ quy lọc số thời gian thay đổi, mà kích thích ngõ vào ngẫu nhiên (i.e., số đo), ma trận plant [I-KW(k+1)h’(k+1)của lọc số thời gian thay đổi ngẫu nhiên KW(k+1) h’(k+1) ngẫu nhiên, tùy thuộc vào ứng dụng riêng Những chất ngẫu nhiên ma trận làm cho phép phân tích lọc khó khăn Hai phép đệ quy thực WLSEs đệ quy Cái thứ ^ ^ vec tơ đệ quy θ WLS từ công thức (15.7) Rõ ràng, θ WLS(k+1) khơng thể tính từ biểu thức đến số đo z(k+1) có giá trị Cái thứ hai ma trận đệ quy P-1 P từ (15.11) Quan sát giá trị từ ma trận tính tốn trước số đo tạo Một việc thi hành tính tốn số (15.7) – (15.9) ^ P-1(k+1) → P(k+1) → KW(k+1) →θ WLS(k+1) Ngược lại (15.7), (15.10) (15.11), ^ P(k) → KW(k+1) → θ WLS(k+1)→ P(k+1) Cuối cùng, WLSEs đệ quy dùng cho k = 0, 1,…,N-1 Thường z(0) = 0, khơng có số đo k=0, đặt z(0) = Trong trường hợp đặt w(0) = 0, WLSEs đệ quy ^ khởi tạo cách đặt θ WLS(0) = P(0) để ma trận chéo số lớn Điều thường làm phổ biến thực tế Những thuật tốn bình phương tối thiểu đệ quy bậc cố định nhanh dựa vào phép quay Givens thực sử dụng mảng tâm thu mô tả [5] tham khảo trường hợp 15.3 Đặc tính ước lượng Chúng ta biết hay kết đạt từ WLSE, chủ đề đánh giá tốt nào? Để trả lời câu hỏi này, phải vận dụng thực tế tất đánh giá để thực phép ^ biến đổi liệu ngẫu nhiên; θ (k) ngẫu nhiên, HVTH: Phạm Xuân Hoan Trang Truyền số liệu thuộc tính phải xem xét cẩn thận từ quan điểm thông kê Thực tế, hệ nó, xem xét rõ ràng ngày nay, với người thống kế xuất sắc R.A Fischer Nó phổ biến để phân biệt mẫu nhỏ lớn đặc tính ước lượng Số hạng “mẫu” tham chiếu số học số đo ^ sử dụng để đạt θ …, thứ nguyên Z Nhóm “mẫu nhỏ” nghĩa số đo ( 1, 2, 100, 10 4, chí số vơ hạn), ngượi lại, nhóm “mẫu lớn” nghĩa “một số vơ hạn giá trị đo” Đặc tính mẫu lớn tham khảo từ đặc tính tiệm cận Nếu ước lượng có đặc tính mẫu nhỏ, có đặc tính mẫu lớn liên quan; ngược lại khơng phải lúc Mặc dù mẫu lớn nghĩa số vô hạn giá trị đo, ước lượng bắt đầu có thuộc tính mẫu lớn số vô hạn giá trị đo Phụ thuộc miền θ, n, nhớ ước lượng, tổng quát hàm mật độ xác xuất ^ Một nghiên cứu cẩn thận θ xác định hàm mật độ xác xuất p( ^ ^ θ ) Thường khó để đạt p( θ ) cho hầu hết ước lượng (ngoại trừ ^ θ multivariate Gaussian); thơng thường để nhấn mạnh số ^ ~ ^ liệu thống kê bậc θ (hoặc sai số liên quan θ = θ- θ ), trị chung bình tích chập Những đặc tính mẫu nhỏ ước lượng không chệch hiệu Một ước lượng khơng chệch giá trị trung bình tự điều chỉnh tham số chưa biết giá trị theo thời gian, tức trị trung bình sai số ước lượng khơng giá trị theo thời gian Sự phân tán trị trung bình đo thay đổi sai số Hiệu liên kết thay đổi sai số nhỏ Liên quan với hiệu tiếng Cramer-Rao không (ma trận thông tin Fisher, trường hợp vec tơ tham số) mà đặt biên thấp khác biệt sai số, biên không phụ thuộc vào ước lượng cụ thể Những thuộc tính mẫu lớn ước lượng khơng chệch tiệm cận, kiên định, trạng thái thường tiệm cận hiệu tiệm cận Tầm quan trọng ước lượng trạng thái tiệm cận (Gaussian) toàn mơ tả xác xuất biết đến đặc điểm tồn thống kê tiệm cận bậc hai Tính quán dạng vùng ^ hội tụ θ (k) đến θ; đồng nghĩa với vùng hội tụ theo xác xuất Một lý tầm quan trọng tính quán lý thuyết ước lượng hàm liên tục ước lượng qn ước lượng qn, tức “thực kiên định.” Nó kiểm tra loại khác vùng hội tụ ngẫu nhiên để ước lượng, bình phương vùng hội tụ hội tụ với xác xuất Một đặc tính chung HVTH: Phạm Xuân Hoan Trang Truyền số liệu carry-over không tồn hai loại vùng hội tụ; phải thiết lập trường hợp.(ví dụ [11]) Tổng quát lại, khó để thiết lập đặc tính mẫu nhỏ lớn ước lượng bình phương nhỏ nhất, ngoại trừ trường hợp đặc biệt H(k) V(k) không phụ thuộc vào thống kê Trong điều kiện thỏa mãn ứng dụng xác định đáp ứng xung, vi phạm ứng dụng quan trọng việc xác định vùng hội tụ biểu thức khác biệt hữu hạn nhiều ứng dụng kỹ thuật quan trọng khác Nhiều đặc tính mẫu lớn LSEs xác định cách thiết lập mà LSE tương đương với ước lượng khác mà biết đặc tính mẫu lớn có giá trị Chúng ta tiếp tục vấn đề Ước lượng bình phương bé u cầu khơng giả định tính chất thơng kê mơ hình chung Do đó, cơng thức WLSE dễ dàng lấy Cái giá để trả cho không làm giả định đặc tính thống kê mơ hình tuyến tính chung khó việc thiết lập đặc tính mẫu lớn nhỏ cho kết ước lượng 15.4 Ước lượng khơng chệch tuyến tính tốt Ước lượng thứ hai không chệch hiệu thiết kế, hàm tuyến tính giá trị đo Z(k) Nó gọi ước lượng ^ khơng chệch tuyến tính tốt (BLUE), θ BLU(k) Như dẫn xuất WLSE, bắt đầu với mơ hình tuyến tính chung; làm hai giả định mơ hình này, (1) H(k) phải tất định, (2) V(k) phải zero nghĩa xác định dương biết ma trận hội tụ R(k) Dẫn xuất BLUE phức tạp dẫn xuất WLSE ràng buộc thiết kế; nhiên, phân tích cơng dễ xây dựng cơng tốt vào thiết kế ^ Chúng ta bắt đầu cách giả định cấu trúc tuyến tính sau cho θ ^ BLU (k), θ BLU(k) = F(k)Z(k) Ma trận F(k) thiết kế cho: - θ BLU(k) ước lượng không chệch θ - phương sai sai số cho tham số n nhỏ ^ Bằng cách này, θ BLU(k) không chệch hiệu qủa (trong lớp ước lượng tuyến tính) thiết kế Kết ước lượng BLUE là: ^ Một mối liên hệ đáng ý tồn BLUE WLSE, cụ thể là, BLUE θ trường hợp đặc biệt WLSE θ W(k)=R-1(k) Do đó, tất kết đạt đoạn ^ ^ -1 θ WLS(k) ứng dụng cho θ BLU(k) cách đặt W(k) = R (k) Ma HVTH: Phạm Xuân Hoan Trang Truyền số liệu trận R-1(k) ảnh hưởng đóng góp phép đo xác và giảm đóng góp phép đo khơng xác Kỹ thuật thiết kế ước lượng không chệch tuyến tính tốt dẫn đến ma trận trọng lượng mà hợp lý ^ ^ Nếu H(k) xác định R(k) = σ v2 I, θ BLU(k) = θ LS(k) Kết này, biết định lý Gauss-Markov, quan trọng kết ^ nối hai ước lượng khác biệt bên ngoài, θ BLU(k) có đặc tính thay đổi không chệch thấp thiết kế; đó, trường ^ hợp θ LS(k) thừa hưởng đặc tính Trong WLSE đệ quy, ma trận P(k) khơng có ý nghĩa đặc biệt Trong BLUE đệ quy [cái mà đạt cách thay W(k) = R (k) vào (15.7) – (15.9), (15.7), (15.10) (15.11)], ma trận ^ P(k) ma trận hội tụ cho sai số θ θ BLU(k), nghĩa ~ P(k) = [H’(k)R-1(k)H(k)]-1 = cov[ θ BLU(k)] Do đó, P(k) tính tốn BLUE đệ quy, đạt lượng giá trị đo ước lượng θ tốt Hãy nhớ nói WLSEs thay đổi giá trị số thay đổi tỷ lệ Những BLUE bất biến thay đổi tỷ lệ Điều thực tự động cách thiết lập W(k)=R-1(k) WLSE Thực tế H(k) phải xác định giới hạn khắt khe tính ứng dụng BLUE ứng dụng kỹ thuật 15.5 Khả tối đa ước lượng Xác suất liên kết với thử nghiệm tiếp, mơ hình xác suất, p(Z(k)|θ), đặc biệt, bao gồm giá trị tham số θ mơ hình (ví dụ trung bình khác hàm mật độ Gaussian), liệu (nghĩa thấy rõ) tạo cách sử dụng mơ hình Có thể đúng, l(θ|Z(k)), tỷ lệ với xác xuất Trong khả năng, liệu đưa tính chất mơ hình xác suất, thơng số mơ hình xác suất khơng định Nó phải xác định từ liệu cho Khả là, đó, kết hợp với thử nghiệm nghịch đảo Các phương pháp tối đa khả dựa ý tưởng tương đối đơn giản mà khác (thống kê) tổng thể tạo mẫu khác mẫu định (tức là, tập hợp liệu) có nhiều khả đến tập hợp từ khác ^ Để xác định ước lượng tối đa khả (MLE) xác định θ, θ ML(k), cần xác định công thức cho hàm xảy sau tối đa hàm Bởi khả tỷ lệ với xác suất, cần phải biết toàn hàm mật độ xác suất chung phép đo để xác định HVTH: Phạm Xuân Hoan Trang Truyền số liệu cơng thức cho hàm có khả xảy Điều này, tất nhiên, nhiều thông tin Z(k) cần thiết dẫn xuất BLUE Trong thực tế, hầu hết thông tin mà mong đợi để biết số đo Giá trả để biết thông tin nhiều Z(k) phức tạp khả tối đa hóa hàm Nói chung, lập ^ trình tốn học phải sử dụng để xác định θ ML(k) Khả tối đa ước lượng sử dụng phổ biến rộng rãi có đặc tính mẫu lớn tốt Nó phù hợp, tiệm cận Gaussian với trung bình θ ma trận hiệp biến J-1, J ma trận thông tin Fisher, hiệu tiệm cận Những hàm khả tối đa ước lượng khả tối đa ước lượng, tức g(θ) hàm vecto ánh xạ θ vào không gian không gian Euclidean thứ nguyên r, sau g(θML) MLE g(θ) Đặc tính khơng thay đổi thường khơng có WLSEs BLUEs ^ Trong trường hợp đặc biệt dễ tính tốn θ ML tức cho mơ hình tuyến tính chung H(k) xác định V(k) Gaussian ^ ^ Trong trường hợp θ ML = θ BLU Những ước lượng là: không chệch ^ θ BLU khơng chệch; hiệu ( lớp ước lượng tuyến tính), ^ ^ θ BLU hiệu quả; quán, θ ML qn; Gaussian, phụ thuộc tuyến tính vào Z(k), mà Gaussian Nếu, ngồi R(k) = σ v2 I, ^ ^ θ ML(k) = θ BLU(k), ước lượng không chệch, hiệu (trong lớp ước lượng tuyến tính), quán Gaussian Phương pháp khả tối đa bị giới hạn tham số tất định Trong trường hợp tham số ngẫu nhiên, sử dụng WLSE BLUE, có thêm thơng tin có sẵn, sử dụng bình phương trung bình ước lượng tối đa hậu nghiệm, mô tả Vấn đề trước không dùng thông tin thống kê tham số ngẫu nhiên, ngược lại sau có dùng 15.6 Ước lượng bình phương trung bình tham số ngẫu nhiên Cho giá trị đo z(1), z(2), ,z(k), ước lượng bình phương ^ trung bình θ ngẫu nhiên, θ MS(k)= φ [z(i), i = 1,2,…,k], sai số bình ~ ~ ~ ~ phương trung bình tốt thiểu J[ θ MS(k)]=E{ θ ’MS(k) θ MS(k)} [ với θ MS(k) = ^ θ - θ MS(k)] Hàm φ [z(i), i = 1,2,…,k] khơng tuyến tính tuyến ~ tính Cấu trúc xác định rõ giá trị nhỏ J[ θ MS(k)] Cách giải vấn đề ước lượng bình phương trung bình này, biết nguyên tắc định lý lý thuyết ước lượng : HVTH: Phạm Xuân Hoan Trang Truyền số liệu θ MS(k) = E{θ|Z(k)} ^ (15.14) Thật hợp lý, (15.14) khơng thực có ích việc tính ^ tốn θ MS(k) Tổng qt, phải tính tốn trước tiên p[θ|Z(k)] sau thực số yêu cầu tích phân θ p[θ|Z(k)] để đạt θ MS(k) Nó hữu ích để phân chia tính tốn thành hai trường hợp chính; θ Z(k) chung Gaussian – trường hợp Gaussian hai θ Z(k) khơng chung với Gaussian – trường hợp khơng Gaussian Khi θ Z(k) chung Gaussian, ước lượng mức tối thiểu sai số bình phương trung bình ^ mθ trị trung bình θ, mz(k) trị trung bình Z(k), Pz(k) ma trận hiệp biến Z(k), Pθz(k) đối hiệp biến θ Z(k) Dĩ ^ nhiên, để tính tốn θ MS(k) sử dụng (15.15), phải cách hay cách khác để biết tất số liệu thống kê, phải θ Z(k) chung Gaussian Cho mơ hình tuyến tính chung, Z(k) = H(k)θ + V(k), H(k) xác định, V(k) nhiễu Gaussian với ma trận hiệp biến đảo biết R(k), θ Gaussian với trị trung bình mθ mà trận hiệp biến Pθ ,và, θ V(k) độc lập thống kê, θ Z(k) chung Gaussian (15.15) trở thành ^ Ma trận hiệp biến sai số PMS(k) kết hợp với θ MS(k) ^ Sử dụng (15.17) (15.16), θ MS(k) nhấn mạnh Giả định θ Z(k) không chung với Gaussian biết mθ, mz(k), Pz(k), Pθz(k) Trong trường hợp này, ước lượng bị ép buộc để phép biến đổi affine Z(k) mức tối thiểu lỗi bình phương trung bình cho (15.15) Chúng ta biết câu trả lời cho câu hỏi quan trọng sau: Khi ước lượng bình phương trung bình tuyến tính (affine) giống ước lượng bình phương trung bình? Câu trả lời θ Z(k) chung với Gaussian Nếu θ Z(k) không chung Gaussian, ^ θ MS(k) = E{θ|Z(k)}, tổng qt hàm khơng tuyến tính trị đo Z(k), nghĩa ước lượng khơng tuyến tính HVTH: Phạm Xuân Hoan Trang Truyền số liệu Kết hợp với lý thuyết ước lượng bình phương trung bình nguyên tắc trực giao: giả định f[Z(k)] hàm liệu Z(k); sai số ước lượng bình phương trung bình trực giao f[Z(k)]trong hướng Một trường hợp đặc biệt bắt gặp thường ^ xuyên xảy f[Z(k)] = θ MS(k),trong trường hợp Khi θ Z(k) chung với Gaussian, θ MS(k) (15.15) có đặc tính sau: • Nó khơng chệch • Mỗi thành phần có thay đổi sai số nhỏ • Nó ước lượng tuyến tính • Nó đơn ^ ~ • Cả θ MS(k) θ MS(k) đa dạng Gaussian, nghĩa số lượng mô tả hoàn toàn thống kê bậc bậc hai Sự đơn giản hóa lớn xảy θ Z(k) với Gaussian! Nhiều kết thực phần thích hợp với hàm đối tượng khác hàm đối tượng bình phương trung bình Hiểu tài liệu bổ xung cuối 13 [12] để thảo luận số rộng hàm đối tượng mà đứng đầu E{θ|Z(k)}như ước lượng tối ưu θ , thảo luận ước lượng khơng tuyến tính tồn diện θ Có kết nối BLUE MSE Kết nối yêu cầu BLUE khác chút, kết hợp với thông tin thống kê trước ngẫu nhiên θ Để điều này, xử lý mθ giá trị đo thêm vào mà tăng lên Z(k) Phương trình trị đo thêm vào đạt cách cộng trừ θ đồng mθ = mθ tức mθ = θ + ( mθ -θ) Khối lượng ( mθ -θ) xử lý nhiễu số đo zero trung bình với hiệp biến P θ Mơ hình tuyến tính tăng ^ Để ước lượng BLUE cho mơ hình tăng rõ Thì ln ln Chú ý hàm đối tượng bình phương trọng kết hợp với 15.7 Cực đại ước lượng Posteriori tham số ngẫu nhiên Cực đại ước lượng Posteriori biết ước lượng Bayesian Sự lấy lại quy tắc Bayes: , hàm mật độ biết hàm mật độ điều kiện posteriori p(θ) hàm mật độ ưu tiên cho θ Quan sát có liên hệ với hàm hợp lý , Ngồi ra, p(Z(k)) khơng phụ thuộc vào θ, Trong ước lượng MAP, giá trị θ tìm thấy cực đại Đạt ước lượng MAP cần HVTH: Phạm Xuân Hoan Trang 10 Truyền số liệu X(n) = [x(n) x(n - 1) x(n – L + 1)]T biểu thị vecto tín hiệu ngõ vào T biệu thị vecto chuyển vị Lưu ý hệ thống đòi hỏi L nhân L - cộng vào để thực hiện, tính tốn dễ dàng thực xử lý mạch điện , miễn L lớn thời gian lấy mẫu cho tín hiệu khơng phải q ngắn Nó đòi hỏi tổng số vị trí nhớ 2L để lưu trữ mẫu tín hiệu đầu vào L giá trị hệ số L, tương ứng Cấu trúc lọc IIR dạng trực tiếp thể hình 18.3 Trong trường hợp này, ngõ hệ thống trình bày tốn học sau: sơ đồ khối không miêu tả rõ ràng hệ thống kiểu dáng Chúng ta dễ dàng viết (18.6) cách sử dụng ký hiệu vector với (2N + 1) vecto thứ nguyên W(n) U(n) định nghĩa tương ứng Như vậy, cho mục đích việc tính tốn tín hiệu ngõ y(n), cấu trúc IIR bao gồm số cố định phép nhân, cộng vị trí nhớ không giống cấu trúc FIR dạng trực tiếp Một cấu trúc thứ ba chứng tỏ hữu ích cho việc lọc thích ứng lọc mạng Một lọc mạng cấu trúc FIR mà sử dụng giai đoạn L - tiền xử lý để tính tập hợp tín hiệu phụ {bi(n)}, ≤ i ≤ L – biết sai số dự báo chậm Những tín hiệu có đặc tính đặc biệt chúng khơng tương quan, chúng trình bày cho phần tử X(n) thơng qua biến đổi tuyến tính Như vậy, sai số dự báo chậm sử dụng thay cho tín hiệu đầu vào bị trì hỗn cấu trúc tương tự hình 18,2, tính chất khơng tương quan sai số dự báo cung cấp cải thiện hiệu suất hội tụ hệ số lọc HVTH: Phạm Xuân Hoan Trang 27 Truyền số liệu thích nghi với lựa chọn thích hợp thuật tốn Chi tiết cấu trúc mạng khả thảo luận [6] Một vấn đề quan trọng lựa chọn cấu trúc lọc thích nghi tính tốn phức tạp Từ phép tốn lọc thích nghi thường xảy thời gian thực, tất tính tốn cho hệ thống phải diễn suốt thời gian lấy mẫu Các cấu trúc mô tả tất hữu ích y(n) tính khoảng thời gian hữu hạn sử dụng phép toán số học đơn giản khoảng nhớ hữu hạn Ngồi cấu trúc tuyến tính trên, ta xem xét hệ thống phi tuyến mà nguyên tắc chồng chất không giữ giá trị tham số cố định Hệ thống hữu ích mối quan hệ d(n) x(n) khơng tuyến tính trạng thái ban đầu Hai lớp hệ thống lớp lọc Volterra lớp lọc song tuyến tính mà tính y(n) dựa đa thức tín hiệu đầu vào đầu khứ Thuật toán cho thích nghi hệ số loại lọc thảo luận [7] Ngồi ra, nhiều mơ hình phi tuyến phát triển lĩnh vực mạng neural, chẳng hạn nhận thức nhiều lớp, phù hợp với dạng chung (18.3) nhiều thuật tốn sử dụng để điều chỉnh thơng số mạng neural có liên quan đến thuật tốn sử dụng cho lọc thích nghi FIR IIR Đối với thảo luận mạng neural bối cảnh kỹ thuật, người đọc tham khảo [8] 18.4 Cơng việc lọc thích nghi Khi xem xét vấn đề lọc thích nghi minh họa hình 18,1 cho lần đầu tiên, đọc giả hỏi: "Nếu có tín hiệu đáp ứng mong muốn, quan điểm khó khăn để phù hợp với sử dụng lọc thích nghi?" Trong thực tế, khái niệm " matching " y(n) với d(n) với vài hệ thống che lấp tinh vi công việc lọc thích nghi Hãy xem xét vấn đề sau liên quan đến nhiều vấn đề lọc thích ứng: • Trong thực tế, số lượng quan tâm luôn d(n) Mong muốn trình bày y(n) thành phần chắn d(n) chứa x(n), để cô lập thành phần d(n) sai số e(n) mà khơng có x(n) Ngồi ra, quan tâm đến giá trị tham số W(n) khơng có mối quan tâm x(n), y(n), d(n) Ví dụ thực tế cảnh tượng cung cấp sau chương • Có tình d(n) khơng có giá trị tất lần Trong tình vậy, thích nghi thường xảy d(n) có giá trị Khi d(n) khơng có giá trị, thường sử dụng ước lượng tham số gần để tính y(n) nỗ lực để ước lượng mong muốn tín hiệu đáp ứng d(n) • Có tình thực tế, d(n) khơng có giá trị Trong trường hợp này, người ta sử dụng thơng tin bổ sung đặc tính "giả thuyết" d(n), chẳng hạn đặc tính hành vi thống kê dự báo đặc tính biên độ nó, để hình thành ước lượng phù hợp d(n) từ tín hiệu sẵn có đền lọc thích nghi Các phương pháp gọi chung thuật toán thích nghi mù Thực tế đề án làm việc tribute khéo léo thuật toán phát triển trưởng thành cơng nghệ trường lọc thích nghi Cũng cần phải công nhận mối quan hệ x(n) d(n) thay đổi theo thời gian Trong tình vậy, lọc thích nghi cố gắng để thay đổi giá trị tham số để theo dõi thay đổi mối quan hệ "mã hóa" hai chuỗi x(n) d(n) Hành vi thường gọi tự hiệu chỉnh HVTH: Phạm Xuân Hoan Trang 28 Truyền số liệu 18.5 Ứng dụng lọc thích nghi Có lẽ quan trọng động lực đằng sau phát triển lọc thích nghi suốt lịch sử có nhiều ứng dụng rộng rãi hệ thống sử dụng Chúng ta thảo luận hình thức ứng dụng điều kiện lớp vấn đề chung nhấtvề mô tả giả định mối quan hệ d(n) x(n) Thảo luận minh họa vấn đề việc lựa chọn lọc thích nghi cho nhiệm vụ cụ thể Mở rộng chi tiết liên quan đến vấn đề cụ thể vấn đề kết hợp với thể loại vấn đề tìm thấy tài liệu tham khảo cuối chương 18.5.1 Nhận dạng hệ thống Hãy xem xét hình 18.4, cho thấy vấn đề chung nhận dạng hệ thống Trong sơ đồ này, hệ thống bao bọc đường nét đứt "hộp đen", nghĩa số lượng bên không quan sát từ bên Bên hộp (1) hệ thống không rõ mô tả mối quan hệ đầu vào-đầu chung (2) tín hiệu η(n), gọi tín hiệu nhiễu quan sát làm sai quan sát tín hiệu đầu hệ thống chưa biết Đặt trình bày ngõ hệ thống chưa biết với x(n) tín hiệu ngõ vào Sau tín hiệu đáp ứng mong muốn mơ hình Ở đây, nhiệm vụ lọc thích nghi trình bày xác tín hiệu đầu Nếu y(n) = , lọc thích nghi làm mơ hình xác phần hệ thống chưa biết điều khiển x(n) Kể từ mơ hình thường chọn cho lọc thích nghi lọc tuyến tính, mục tiêu thực tế lọc thích nghi để xác định mơ hình tuyến tính tốt mơ tả mối quan hệ đầu vào-đầu hệ thống chưa biết Như thủ tục làm ý nghĩa hệ thống chưa biết mơ hình tuyến tính cấu trúc tương tự lọc thích nghi, y(n) = cho số thiết lập thơng số lọc thích nghi Để dễ dàng thảo luận, cho phép hệ thống chưa biết lọc thích nghi lọc FIR cho Wopt(n) tối ưu hệ số lọc cho hệ thống chưa biết thời điểm n Trong công thức vấn đề này, thủ tục thích nghi lý tưởng điều chỉnh W(n) mà W(n) = Wopt(n), n → ∞ Trong thực tế, lọc thích nghi điều chỉnh W(n) mà y(n) xấp xỉ gần theo thời gian Công việc nhận dạng hệ thống trái tim nhiều ứng dụng lọc thích nghi Chúng ta liệt kê số ứng dụng HVTH: Phạm Xuân Hoan Trang 29 Truyền số liệu Nhận dạng kênh Trong hệ thống truyền thơng, thơng tin hữu ích truyền từ điểm tới điểm khác qua phương tiện truyền đạt dây điện, cáp quang liên kết radio không dây Nonidealities phương tiện phát kênh làm sai lệch độ xác tín hiệu truyền, làm cho giải mã thơng tin nhận khó khăn Trong trường hợp ảnh hưởng sai lệch mơ hình hóa lọc tuyến tính, kết "sự nhòe" kí hiệu phát biết đến nhiễu bên kí hiệu (ISI) Trong trường hợp vậy, lọc thích nghi sử dụng để mơ hình hóa hiệu kênh ISI cho mục đích giải mã thơng tin nhận cách tối ưu Trong trường hợp vấn đề này, máy phát gửi cho máy thu chuỗi mẫu x(n) biết đến hai máy phát nhận Máy thu sau cố gắng mơ hình tín hiệu nhận d(n) cách sử dụng lọc thích nghi có đầu vào chuỗi phát biết x(n) Sau thời gian thích hợp thích nghi, thơng số lọc thích nghi W(n) cố định sau sử dụng thủ tục để giải mã tín hiệu truyền tương lai qua kênh Nhận dạng kênh thường sử dụng độ trung thực kênh truyền bị tổn hại xấu kỹ thuật đơn giản để phát chuỗi sử dụng Các kỹ thuật phát tín hiệu kỹ thuật số hệ thống truyền thơng tìm thấy [9] Nhận dạng thiết bị Trong nhiều công việc điều khiển, kiến thức chức truyền thiết bị tuyến tính yêu cầu điều khiển vật lý tín hiệu điều khiển thích hợp tính tốn áp dụng Trong trường hợp này, mơ tả chức truyền thiết bị kích thích với tín hiệu biết x(n) sau cố gắng để phù hợp với đầu thiết bị d(n) với lọc thích nghi tuyến tính Sau thời gian thích hợp thích nghi, hệ thống mơ hình hóa đầy đủ, kết hệ số lọc thích nghi W(n) sử dụng sơ đồ điều khiển để kích hoạt hệ thống khép kín tổng thể để hành động cách mong muốn Trong tình định, cập nhật liên tục ước lượng hàm truyền thiết bị cung cầp W(n) cần thiết phép điều khiển hàm Một thảo luận chương trình điều khiển thích nghi vấn đề tinh tế đưa sử dụng họ [10, 11] Khử tiếng dội (Echo) cho truyền khoảng cách xa Trong giao tiếp thoại mạng điện thoại, tồn hộp tiếp nối gọi ghép gần hai đầu liên kết mạng cản trở khả hệ thống để truyền rõ ràng tín hiệu thoại Mỗi ghép cho phép tiếng nói truyền qua đường dây riêng biệt kênh mạng đường dài phải tiến hành cục đường điện thoại nhất, làm giảm chi phí dây mạng lưới địa phương Tuy nhiên, trở kháng nhỏ bất xứng đường khoảng cách xa mối nối ghép xảy ra, ghép phản ánh tín hiệu truyền lại cho nguồn việc truyền tải thời gian dài mạng lưới đường dài khoảng 0.3-cho gọi xuyên đại dương thông qua liên kết vệ tinh chuyển phản ánh thành tiếng vang đáng kể mà làm cho đàm thoại trở nên khó hiểu cho hai người gọi Các giải pháp truyền thống cho vấn đề trước đời giải pháp lọc thích nghi giới thiệu làm đáng kể mạng đường dài để tiếng vang phân rã đến mức chấp nhận trước chúng trở thành cảm quan cho người gọi Thật không may, giải pháp làm giảm chất HVTH: Phạm Xuân Hoan Trang 30 Truyền số liệu lượng truyền dẫn liên kết điện thoại, làm cho nhiệm vụ kết nối gọi đường dài khó khăn Một lọc thích nghi sử dụng để hủy bỏ tiếng vang gây ghép giải pháp Bộ lọc thích nghi sử dụng hai ghép hệ thống Tín hiệu đầu vào x(n) đến với lọc thích nghi tín hiệu thoại nhận trước đến ghép nối tín hiệu đáp ứng mong muốn d(n) tín hiệu gửi từ ghép qua kết nối đường dài Bộ lọc thích nghi cố gắng mơ hình đặc tính truyền dẫn chỗ nối ghép tiếng vang xuất phần đường dài mạng Khi hệ thống thiết kế phù hợp, tín hiệu sai số e(n) bao gồm gần hồn tồn tín hiệu thoại người nói vùng, sau truyền qua mạng Hệ thống lần đề xuất thập niên 1960 [12] thường sử dụng đến ngày hôm Để biết thêm chi tiết ứng dụng này, xem [13, 14] Khử âm tiếng vang Một vấn đề liên quan đến khử tiếng vang cho hệ thống truyền dẫn điện thoại khử âm tiếng vang cho điện thoại phong cách hội nghị Khi sử dụng điện thoại, người gọi muốn bật lên tăng thêm khuếch đại micro loa để truyền tải nghe giọng nói tín hiệu rõ ràng Tuy nhiên, đường phản hồi từ thiết bị loa với micro đầu vào gây âm hú đặc biệt độ lợi cao Trong trường hợp này, thủ phạm đáp ứng phòng để tín hiệu thoại phát người nói, hiệu lực, hành vi phòng nối ghép nghèo, tương tự với nhiệm vụ khử tiếng vang thảo luận trước Một giải pháp đơn giản cho vấn đề phép người để nói chuyện thời điểm, hình thức hoạt động gọi truyền bán song công Tuy nhiên, nghiên cứu truyền bán song công gây vấn đề với hội thoại bình thường, người thường chồng chéo tiếng nói họ với người khác trò chuyện Để trì truyền song công, triệt tiếng dội âm sử dụng điện thoại để mơ hình đường dẫn truyền âm từ loa đến microphone Các tín hiệu đầu vào x(n) triệt tiếng dội âm tín hiệu gửi đến người nói tín hiệu đáp ứng mong muốn d(n) đo microphone thiết bị Bộ thích nghi hệ thống xảy liên tục suốt gọi điện thoại để mơ hình thay đổi vật lý âm phòng Các thiết bị ln sẵn có thị trường Ngồi ra, cơng nghệ tương tự sử dụng để loại bỏ tiếng vang xảy thông qua kết hợp phát / phòng / đường truyền điện thoại đặt gọi đến đài phát truyền hình Thơng tin chi tiết vấn để khử âm vang tìm [14] Khử nhiễu thích nghi Khi đo thu thập tín hiệu định quy trình, ràng buộc vật lý thường giới hạn khả để đo rõ ràng số lượng quan tâm Thơng thường, tín hiệu quan tâm hỗn hợp tuyến tính với nhiễu bên ngồi khác q trình đo lường nhiễu bên ngồi giới thiệu chấp nhận sai số phép đo Tuy nhiên, phiên tham khảo liên quan tuyến tính nhiễu bên ngồi cảm nhận rõ ràng số địa điểm vật lý khác hệ thống, lọc thích nghi sử dụng để xác định mối quan hệ tham chiếu nhiễu x(n) thành phần tiếng ồn chứa tín hiệu đo d(n) Sau trừ thích nghi thành phần này, lại e(n) tín hiệu quan tâm Nếu số nhiễu bên làm sai số đo quan HVTH: Phạm Xuân Hoan Trang 31 Truyền số liệu tâm, số lọc thích nghi sử dụng song song miễn tín hiệu tham chiếu nhiễu phù hợp có sẵn hệ thống Khử nhiễu thích nghi sử dụng cho nhiều ứng dụng Một ứng dụng y khoa cho phép điện não đồ (EEG) nhịp tim thai thai nhi để lấy rõ ràng từ điện não đồ giao tiếp mạnh mẽ nhiều-tín hiệu nhịp tim mẹ Thơng tin chi tiết ứng dụng số khác mô tả tài liệu hội thảo Widrow đồng nghiệp ơng [15] 18.5.2 Mơ hình hóa nghịch đảo Bây xem xét vấn đề chung mơ hình nghịch đảo, hình 18.5 Trong sơ đồ này, tín hiệu nguồn s(n) đưa vào hệ thống chưa biết mà sản xuất tín hiệu đầu vào x(n) cho lọc thích nghi Các đầu lọc thích nghi trừ từ tín hiệu đáp ứng mong muốn phiên trì hỗn tín hiệu nguồn, mà ∆ giá tri nguyên dương Mục tiêu lọc thích nghi để điều chỉnh đặc tính tín hiệu đầu đại diện xác tín hiệu nguồn bị trì hỗn Cơng việc xây dựng mơ hình đảo ngược số đặc trưng cho ứng dụng lọc thích nghi, hai số mô tả Sự cân kênh Cân kênh thay cho kỹ thuật nhận dạng kênh mơ tả trước cho việc giải mã tín hiệu truyền qua kênh truyền thông không lý tưởng Trong hai trường hợp, máy phát gửi chuỗi s(n) mà biết hai máy phát nhận Tuy nhiên, cân bằng, tín hiệu nhận được sử dụng tín hiệu đầu vào x(n) đến lọc thích nghi, điều chỉnh đặc tính để đầu phù hợp chặt chẽ với phiên delay s(n - ∆) tín hiệu truyền biết Sau thời gian thích ứng phù hợp, hệ số hệ thống cố định sử dụng để giải mã thông điệp truyền tương lai điều chỉnh cách sử dụng ước lượng thơ tín hiệu đáp ứng mong muốn tính từ y(n) Mơ hình sau này hoạt động gọi thích nghi trực tiếp định hướng Cân kênh ứng dụng lọc thích ứng mô tả tiên phong làm việc Lucky [16] Ngày nay, sử dụng phổ biến lọc thích nghi Thực tế HVTH: Phạm Xuân Hoan Trang 32 Truyền số liệu modem điện thoại máy tính truyền phát mức 9600 baud (bit /giây) lớn có chứa cân thích nghi Cân thích nghi hữu ích cho mạng khơng dây hệ thống truyền thơng Qureshi [17] cung cấp hướng dẫn cân thích nghi Một vấn đề liên quan để cân giải chập, vấn đề xuất bối cảnh thăm dò địa vật lý [18] Cân có mối liên quan chặt chẽ tới dự đốn tuyến tính, chủ đề mà thảo luận ngắn gọn Mơ hình thiết bị ngược Trong nhiều nhiệm vụ điều khiển, đặc tính tần số pha thiết bị gây cản trở hội tụ hành động ổn định hệ thống điều khiển Chúng ta sử dụng hệ thống dạng hình 18.5 để bù cho đặc tính khơng lý tưởng thiết bị phương pháp cho điều khiển thích nghi Trong trường hợp, tín hiệu s(n) gửi đầu điều khiển tín hiệu x(n) tín hiệu đo ngõ thiết bị Các hệ số lọc thích nghi sau điều chỉnh cho bậc thiết bị lọc thích ứng trình bày gần chậm trễ Chi tiết thuật tốn thích nghi áp dụng để kiểm sốt cơng việc kiểu dáng tìm thấy [11] 18.5.3 Dự đốn tuyến tính Một dạng thứ ba cơng việc lọc thích nghi thể hình 18.6 Trong hệ thống này, tín hiệu đầu vào x(n) bắt nguồn từ tín hiệu đáp ứng mong muốn ∆ giá trị nguyên delay Trong thực tế, tín hiệu đầu vào phục vụ tín hiệu đáp ứng mong muốn lý này, ln ln có sẵn Trong trường hợp này, lọc thích nghi tuyến tính cố gắng để dự đốn giá trị tương lai tín hiệu đầu vào cách sử dụng mẫu khứ, dẫn đến đưa tên dự đốn tuyến tính cho cơng việc Nếu ước tính tín hiệu x(n + ∆) n thời gian mong muốn, lọc thích nghi có đầu vào mẫu x(n) sử dụng để tính tốn số lượng Tuy nhiên, dự đốn tuyến tính có số sử dụng bên cạnh ứng dụng rõ ràng dự báo kiện tương lai, mô tả hai ứng dụng sau Mã hóa dự đốn tuyến tính Khi phiên số hóa truyền tín hiệu giới thực lời nói, hình ảnh, thời tương quan tín hiệu hình thức dự phòng khai thác để mã hóa dạng sóng số nhỏ bit cần thiết cho đại diện ban đầu Trong trường hợp này, tuyến tính dự báo HVTH: Phạm Xuân Hoan Trang 33 Truyền số liệu sử dụng để mơ hình tương quan tín hiệu cho khối liệu ngắn theo cách để giảm số lượng bit cần thiết để đại diện cho dạng sóng tín hiệu Sau đó, thơng tin cần thiết mơ hình tín hiệu truyền với hệ số lọc thích nghi cho khối liệu Sau nhận được, tín hiệu tổng hợp cách sử dụng hệ số lọc bổ sung tín hiệu thơng tin cung cấp cho khối cho liệu Khi áp dụng cho tín hiệu tiếng nói, phương pháp mã hóa tín hiệu cho phép việc truyền tiếng nói để hiểu tại2,4 kb/s, tiếng nói khơi phục lại có chất lượng tổng hợp rõ rệt Mã hóa đốn trước kết hợp với lượng tử phép mã hóa tiếng nói chất lượng cao tốc độ liệu cao cách sử dụng sơ đồ điều chế xung mã vi phân thích nghi(ADPCM) Trong hai phương pháp, cấu trúc lọc mạng đóng vai trò quan trọng cách thức mà tham số hóa tính chất vật lý đường âm Thông tin chi tiết vai trò lọc mạng cơng việc dự báo tuyến tính tìm thấy [19] Tăng cường tuyến thích nghi Trong số trường hợp, tín hiệu đáp ứng mong muốn d(n) bao gồm tổng hợp tín hiệu băng thơng rộng tín hiệu gần định kỳ mong muốn tách riêng hai tín hiệu mà khơng cần kiến thức cụ thể tín hiệu (như tần số thành phần theo định kỳ) Trong tình này, lọc thích nghi lọc cấu hình 18.6 sử dụng Đối với ứng dụng này, delay ∆ chọn đủ lớn mà thành phần băng thông rộng x(n) không tương quan với thành phần băng thông rộng x(n - ∆) Trong trường hợp này, tín hiệu băng thơng rộng khơng thể gỡ bỏ thích ứng lọc thơng qua hoạt động tín hiệu sai số e(n) / sau thời gian phù hợp thích nghi Đầu lọc thích nghi y(n) hội tụ với thành phần băng thơng hẹp,mà dễ dàng dự đốn mẫu trước Tên tăng cường tuýen phát sinh tín hiệu định kỳ đặc trưng dòng phổ tần số chúng, vạch quang phổ tăng cường đầu lọc thích nghi Đối với thảo luận nhiệm vụ tăng cường dòng thích nghi cách sử dụng lọc thích nghi LMS, người đọc tham khảo [20] 18.5.4 Điều khiển mạng truyền thẳng Một lĩnh vực khác vấn đề kết hợp yếu tố hai nhiệm vụ mơ hình nghịch đảo nhận dạng hệ thống tiêu biểu cho loại vấn đề gặp phải lĩnh vực điều khiển thích nghi gọi điều khiển mạng truyền thẳng Hình 18.7 cho thấy sơ đồ khối hệ thống này, đầu lọc thích nghi qua thiết bị trước trừ từ đáp ứng mong muốn hình thành tín hiệu sai số Các thiết bị cản trở hoạt động lọc thích ứng cách thay đổi đặc tính biên độ pha tín hiệu đầu lọc thích nghi trình bày e(n) Như vậy, kiến thức thiết bị nói chung cần thiết để thích ứng với thơng số lọc cách Một ứng dụng phù hợp với vấn đề rõ ràng thực tế kiểm sốt nhiễu chủ động, khơng mong muốn lượng âm truyền khơng khí chất lỏng vào khu vực vật lý không gian Trong trường hợp vậy, hệ thống điện sử dụng micro, loa nhiều lọc thích nghi được sử dụng để tạo trường âm thứ hai can thiệp với âm khơng mong muốn, giảm mức độ khu vực thông qua sự nhiễu phá hoại Kỹ thuật tương tự sử dụng để giảm dao động phương tiện HVTH: Phạm Xuân Hoan Trang 34 Truyền số liệu truyền thông khối Thông tin chi tiết thuật tốn hữu ích cho cho nhiễu chủ động nhiệm vụ kiểm soát rung động tìm thấy [21, 22] 18.6 Thuật tốn thích nghi sở Gradient Một thuật tốn thích nghi thủ tục để điều chỉnh thơng số lọc thích nghi để giảm thiểu hàm chi phí lựa chọn cho nhiệm vụ Trong phần này, chúng tơi mơ tả hình thức chung nhiều thuật tốn lọc FIR thích ứng trình bày dẫn xuất đơn giản thuật tốn thích nghi LMS Trong thảo luận chúng tôi, xem xét cấu trúc lọc FIR thích nghi, mà tín hiệu đầu y(n) cho (18.5) Hệ thống phổ biến so với lọc IIR thích nghi vì: (1) đầu vào-đầu ổn định cấu trúc lọc FIR đảm bảo thiết lập hệ số cố định (2) thuật toán để điều chỉnh hệ số lọc FIR đơn giản nói chung để điều chỉnh hệ số lọc IIR 18.6.1 Dạng chung thuật tốn FIR thích nghi Dạng chung thuật tốn FIR thích nghi G(.)là hàm phi tuyến giá trị vector đặc biệt, µ(n) tham số kích thước bước, e(n) X(n) tín hiệu sai số vector tín hiệu đầu vào tương ứng, φ(n) vector trạng thái mà lưu trữ thơng tin thích hợp đặc tính tín hiệu đầu vào sai số / hệ số thời gian xảy trước Trong thuật tốn đơn giản nhất, φ(n) khơng sử dụng thông tin cần thiết để điều chỉnh hệ số thời gian n tín hiệu sai số, vector tín hiệu vào kích thước bước Kích thước bước gọi xác định độ lớn việc thay đổi, “bước” lấy thuật toán việc xác định lặp lặp lại vector hệ số hữu ích Phần lớn nỗ lực nghiên cứu tốn đặc trưng cho vai trò µ(n) đóng việc thực lọc thích nghi điều kiện thống kê đặc tính tần số đầu vào tín hiệu đáp ứng mong muốn Thơng thường, thành cơng hay thất bại ứng dụng lọc thích nghi phụ thuộc vào giá trị µ(n) lựa chọn tính để có hiệu suất tốt từ lọc thích nghi Vấn đề lựa chọn µ(n) HVTH: Phạm Xuân Hoan Trang 35 Truyền số liệu cho ổn định xác hội tụ bơ lọc thích nghi LMS đề cập chương 19 sổ tay 18.6.2 Hàm chi phí sai số bình phương trung bình Dạng G(.) (18.14) phụ thuộc vào hàm chi phí lựa chọn cho cơng việc lọc thích ứng Bây xem xét hàm chi phí cụ thể mà độ lợi thuật tốn thích nghi phổ biến Định nghĩa hàm chi phí sai số bình phương trung bình (MSE) pn(e) trình bày cho hàm mật độ xác suất sai số thời gian n E{.} viết tắt cho tích phân kỳ vọng phía bên phải (18.15) Hàm chi phí MSE hữu ích cho lọc thích nghi FIR • JMSE(n) có định nghĩa tốt tối thiểu với thơng số W(n) • Các giá trị hệ số thu mức tối thiểu mà giảm thiểu tối đa lượng tín hiệu sai số e(n), y(n) gần d(n) • JMSE(n) hàm san tham số W(n), mà khả vi thông số W(n) Điểm thứ ba quan trọng chỗ cho phép xác định giá trị hệ số tối ưu đưa kiến thức thống kê d(n) x(n) thủ tục đơn giản, lặp lặp lại để điều chỉnh thông số lọc FIR 18.6.3 Giải pháp Wiener Đối với cấu trúc lọc FIR, giá trị hệ số W(n) giảm thiểu JMSE(n) xác định số liệu thống kê tín hiệu đầu vào tín hiệu đáp ứng mong muốn biết đến Việc xây dựng vấn đề cho tín hiệu thời gian liên tục giải pháp kết lần bắt nguồn từ Wiener [23] Do đó, vector hệ số tối ưu WMSE(n) thường gọi giải pháp Wiener cho vấn đề lọc thích ứng Mở rộng phân tích Wiener trường hợp rời rạc theo thời gian Levinson [24] Để xác định WMSE(n), lưu ý hàm JMSE(n) (18.16) bậc hai thông số {wi(n)} hàm khả vi Vì vậy, sử dụng kết từ lý thuyết tối ưu nói dẫn xuất hàm chi phí cân thông số số không điểm bề mặt sai số hàm chi phí Như vậy, WMSE(n) tìm thấy từ giải pháp cho hệ phương trình Lấy dẫn xuất JMSE(n) (18.16) lưu ý e(n) y(n) cho (18,1) (18,5) tương ứng, có HVTH: Phạm Xuân Hoan Trang 36 Truyền số liệu chúng tơi sử dụng định nghĩa e(n) y(n) cho cấu trúc lọc FIR (18,1) (18,5)tương ứng, để mở rộng kết cuối (18,21) Bằng việc xác định ma trận Rxx(n) vector PdX(n) tương ứng, kết hợp (18.17) (18.21) để đạt hệ phương trình dạng vector vector Do ma trận Rxx(n) nghịch đảo, tối ưu vector giải pháp Wiener cho vấn đề 18.6.4 Phương pháp độ dốc Phương pháp độ dốc thủ tục tối ưu hóa tiếng để giảm thiểu giá trị hàm chi phí J(n) với trình bày đến tham số điều chỉnh W(n) Thủ tục điều chỉnh tham số hệ thống theo Nói cách khác, tham số thứ i hệ thống thay đổi theo dẫn xuất hàm chi phí tham số thứ i Thu thập phương trình dạng vector, chúng tơi có ∂J(n) / ∂W(n) vector phát sinh ∂J(n) / ∂wi(n) Đối với lọc thích FIR giảm thiểu hàm chi phí MSE, sử dụng kết (18,21) để đưa rõ ràng cho hình thức thủ tục dốc vấn đề Thay kết vào (18,25) độ lợi phương trình cập nhật cho W(n) Tuy nhiên, thủ tục độ dốc phụ thuộc vào số lượng thống kê E{d(n) x(n – i)} E{x(n -i) x(n – j)} chứa PdX(n) RXX(n),tương ứng Trong thực tế, chúng tơi có đo lường hai d(n) x(n) để sử dụng thủ tục thích ứng Trong ước lượng phù hợp số lượng thống kê cần thiết cho (18,27) xác định từ tín hiệu x(n) d(n), chúng tơi thay phát triển phiên gần phương pháp độ dốc mà phụ thuộc vào tín hiệu giá trị thân chúng Thủ tục gọi thuật toán LMS 18.6.5 Thuật toán LMS HVTH: Phạm Xuân Hoan Trang 37 Truyền số liệu Hàm chi phí J(n) chọn cho thuật tốn độ dốc (18,25) xác định hệ số giải pháp thu lọc thích ứng Nếu hàm chi phí MSE (18,16) chọn, kết thuật toán phụ thuộc vào số liệu thống kê x(n) d(n) hoạt động kỳ vọng định nghĩa hàm chi phí Vì thường có số đo d(n) x(n) sẵn cho chúng ta, thay hàm chi phí thay mà phụ thuộc vào phép đo Một hàm chi phí hàm chi phí bình phương trung bình cho α(n) chuỗi trọng phù hợp với điều khoản tổng kết Hàm chi phí này, nhiên, phức tạp thực tế đòi hỏi nhiều tính tốn để tính tốn giá trị dẫn xuất wi(n), hiệu phương pháp đệ quy hạn chế tối đa phát triển Xem Chương 21 cho biết thêm chi tiết phương pháp Ngồi ra, đề xuất chức đơn giản hóa hàm chi phí JLMS(n) cho Hàm chi phí dùng ước lượng tức thời hàm chi phí MSE, JMSE(n) = E{JLMS(n)} Mặc dù khơng xuất để hữu ích, thuật tốn kết thu JLMS(n) sử dụng cho J(n) (18,25) hữu ích cho ứng dụng thực tế Lấy dẫn xuất JLMS(n) yếu tố W(n) thay kết thành (18,25), chúng tơi có thuật tốn thích nghi LMS đưa Lưu ý thuật tốn hình thức chung (18,14) Nó đòi hỏi phép nhân bổ sung để thực Trong thực tế, số lượng loại hình hoạt động cần thiết cho thuật tốn LMS gần giống cấu trúc lọc FIR với giá trị hệ số cố định, lý phổ biến thuật toán Các hành động thuật toán LMS nghiên cứu rộng rãi, nhiều liên quan đặc tính thích nghi theo tình khác phát triển Đối với thảo luận số kết này, người đọc tham khảo chương 19 20 sổ tay Để bây giờ, cho thấy hành động hữu ích việc lưu ý giải pháp thu thuật toán LMS gần hội tụ điểm có liên quan đến giải pháp Wiener Trong thực tế, phân tích thuật tốn LMS theo số thống kê giả định đầu vào tín hiệu đáp ứng mong muốn cho thấy giải pháp Wiener WMSE(n) vector cố định Hơn nữa, hành động trung bình thuật tốn LMS tương tự thuật toán độ dốc (18,27) mà phụ thuộc cách rõ ràng số liệu thống kê tín hiệu đầu vào tín hiệu đáp ứng mong muốn Trong thực tế, tính chất lặp lặp lại LMS cập nhật hệ số dạng thời gian trung bình mà làm sai số gradient tức thời tính tốn để có ước lượng hợp lý gradient thật HVTH: Phạm Xuân Hoan Trang 38 Truyền số liệu 18.6.6 Các thuật toán Gradient Stochastic khác Thuật toán LMS họ tồn thuật tốn dựa xấp xỉ tức thời đến thủ tục độ dốc Thuật toán gọi thuật toán gradient ngẫu nhiên họ sử dụng phiên ngẫu nhiên gradient sai số hàm chi phí cụ thể để điều chỉnh thơng số lọc Ví dụ, xem xét hàm chi phí | | biểu thị giá trị tuyệt đối Giống JLMS(n), hàm chi phí có chi phí tối thiểu e(n) = khả vi khắp nơi ngoại trừ e(n) = Hơn nữa, giá trị tức thời hàm chi phí sai số tuyệt đối trung bình JMAE(n) = E{JSA(n)} Lấy dẫn xuất JSA(n) hệ số {wi(n)} thay kết thành (18,25) độ lợi thuật tốn sai số đăng nhập as2 Thuật tốn dạng chung (18.14) Thuật toán sai số đăng nhập quy trình lọc thích nghi hữu ích điều khoản sgn(e(n)) x(n-i) tính dễ dàng phần cứng kỹ thuật số chun dụng Thuộc tính hội tụ khác với thuật toán LMS, nhiên Các thảo luận thuật tốn khác dựa tiêu chí khơng MSE tìm thấy [25] 18.6.7 Hiệu dự đoán hữu hạn đưa vấn đề thực khác Trong tất cài đặt phần cứng kỹ thuật số cài đặt phần mềm thuật toán LMS (18,30), số lượng e(n), d(n), {x(n – i)} trình bày số lượng dự đoán hữu hạn với số lượng bit định Sai số nhỏ giới thiệu tính tốn cập nhật hệ số tình Những ảnh hưởng sai số số thường số nghiêm trọng hệ thống sử dụng dấu chấm động số học, tất giá trị số trình bày phần định trị số mũ, so với hệ thống có sử dụng số học điểm cố định, phần định trị bày số sử dụng Những ảnh hưởng sai số số học giới thiệu trường hợp đặc trưng, xem [26] cho thảo luận vấn đề Trong kiến thức hiệu ứng số số dự đốn hữu hạn cần thiết để đạt hiệu suất tốt từ lọc thích nghi LMS, trạng thái chung mà lọc thích nghi LMS thực mạnh mẽ trình bày sai số Trong thực tế, vững mạnh rõ ràng lọc thích nghi LMS dẫn đến phát triển thực gần (18,30) mà thực dễ dàng phần cứng chuyên dụng Hình thức chung thực g1(.) g2(.) khơng tuyến tính đối xứng lẻ chọn để đơn giản hóa việc thực hệ thống Một số thuật tốn mơ tả (18,35) bao gồm liệu đăng nhập {g1(e) = e, g2(x) = sgn(x)}, sign - sign zero – forcing { g1(e) = sgn(e), g2(x) = sgn(x)} lượng hai thuật toán lượng tử, thuật HVTH: Phạm Xuân Hoan Trang 39 Truyền số liệu toán sai số sai số đăng nhập giới thiệu trước Một trình bày phân tích so sánh việc thực nhiều thuật toán tìm thấy [27] 18.6.8 Ví dụ nhận biết hệ thống Bây minh họa cho hành động thực tế lọc thích nghi LMS thơng qua ví dụ nhận dạng hệ thống, đáp ứng xung loa âm nhỏ phòng ước lượng Một tín hiệu phân bố Gaussian với phổ tần số phẳng dải tần số sử dụng loa tạo gửi thông qua khuếch đại âm cho loa Tín hiệu giống Gaussian gửi đến chuyển đổi tương tự sang số 16-bit (A/D) mà mẫu với tốc độ kHz Các âm sản xuất loa truyền cho microphone đặt cách xa vài chục cm từ loa, nơi mà thu thập số hóa công cụ chuyển đổi A/D thứ hai lấy mẫu tốc độ kHz Cả hai tín hiệu lưu trữ vào tập tin máy tính để xử lý phân tích Mục tiêu phân tích để xác định kết hợp đáp ứng xung loa / phòng / microphone âm lan truyền Những thơng tin hữu ích loa micro sử dụng nhiệm vụ hoạt động kiểm sốt nhiễu mơ tả trước đây, nhiệm vụ nói chung tương tự giống khử độ vang âm cho loa Chúng xử lý tín hiệu cách sử dụng chương trình máy tính mà cài đặt lọc thích nghi LMS với mơi trường thao tác tín hiệu MATLAB Trong trường hợp này, chúng tơi chuẩn hóa các hai tín hiệu đầu vào Gaussian tín hiệu đáp ứng mong muốn thu thập vào micro để đơn chúng tơi có lọc thơng cao tín hiệu microphone cách sử dụng lọc với hàm truyền H(z) = (1 – z-1) / (1 – 0.95 z-1) loại bỏ điện áp offset DC vào tín hiệu Đối với nhiệm vụ này, lựa chọn L= 100-hệ số lọc FIR thích nghi cách sử dụng thuật tốn LMS (18,30) với kích thước bước cố định µ = 0.0005 để có ước lượng xác đáp ứng xung loa phòng Hình 18,8 cho thấy hội tụ tín hiệu sai số tình Sau khoảng 4000 mẫu (0,5 s), tín hiệu sai số giảm xuống lượng khoảng / 15 (-12 dB) HVTH: Phạm Xuân Hoan Trang 40 Truyền số liệu tín hiệu microphone, lọc hội tụ Hình 18,9 cho thấy hệ số lọc thích ứng lặp n=10000 Đáp ứng xung loa / phòng / microphone đường dẫn bao gồm xung lớn tương ứng với đường truyền âm trực tiếp nhiều xung nhỏ gây phản xạ âm tường bề mặt khác phòng 18.7 Kết luận Trong phần này, chúng tơi trình bày tổng quan lọc thích nghi, tập trung vào ứng dụng thuật tốn chứng minh để có ích thực tế Mặc dù nhiều đóng góp lĩnh vực này, nỗ lực nghiên cứu lọc thích nghi tiếp tục với tốc độ mạnh có khả ứng dụng cho lọc thích nghi phát triển tương lai Để giữ ngang tiến bộ, người đọc khuyến khích để tham khảo ý kiến tạp chí IEEE xử lý tín hiệu thủ tục hội nghị hội thảo hàng năm xử lý tín hiệu lĩnh vực liên quan HVTH: Phạm Xuân Hoan Trang 41 ... đến ước lượng Những ước lượng thu lại liệu xử lý ước lượng 15.2 Ước lượng bình phương cực tiểu Phương pháp liệu bình phương cực tiểu trở lại vào Karl Gauss vào khoảng 1795 tảng cho hầu hết lý thuyết. .. điểm thời gian vào tương lai Ước lượng cần lọc Kalman Từ định lý lý thuyết ước lượng, biết với từ theo sau với k = 1,2,…Quan sát phụ thuộc vào ước lượng lọc vecto trạng thái có trước x(k-1) Cho... p(θ)mà phân biệt cơng thức khó cho ước lượng MAP từ ước lượng MS Nếu θ1, θ2,…, θn phân bố đồng dạng, ước lượng MAP θ với ước lượng ML θ Tóm lại, ước lượng MAP khác ước lượng ML Ví dụ, đặc tính bất