Luận văn thạc sĩ Kỹ thuật điện tử: Kết hợp phương pháp phân tích thành phần chính và bộ lọc phần tử để phân đoạn và tách đặc trưng ảnh X-quang

- Xây thuật toán phân đoạn ảnh dựa trên lý thuyết bộ lọc phần tử và phương pháp tích thành phần chính.. Phương pháp phân tích thành phần chính đem lại hiệu quả cho việc giữ lại những điể

TRƯỜNG ĐẠI HỌC BÁCH KHOA

-

TRẦN XUÂN BỬU THẠCH

KẾT HỢP PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH VÀ BỘ LỌC PHẦN TỬ ĐỂ PHÂN ĐOẠN VÀ TÁCH

TRƯỜNG ĐẠI HỌC BÁCH KHOA –ĐHQG -HCM Cán bộ hướng dẫn khoa học : PGS.TS Lê Tiến Thường

(Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 1 : TS Chế Viết Nhật Anh

(Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 2 PGS.TS Phạm Hồng Liên

(Ghi rõ họ, tên, học hàm, học vị và chữ ký) Luận văn thạc sĩ được bảo vệ tại Trường Đại học Bách Khoa, ĐHQG Tp HCM ngày 12 tháng 07 năm 2016

Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm: 1 PGS.TS Phạm Hồng Liên

2 TS Huỳnh Phú Minh Cường 3 TS Lê Đăng Quang

4 TS Võ Quế Sơn 5 TS Chế Viết Nhật Anh Xác nhận của Chủ tịch Hội đồng đánh giá LV và Trưởng Khoa quản lý chuyên ngành sau khi luận văn đã được sửa chữa (nếu có)

ĐẠI HỌC QUỐC GIA TP.HCM

TRƯỜNG ĐẠI HỌC BÁCH KHOA CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh phúc

NHẬN XÉT CỦA CÁN BỘ HƯỚNG DẪN Họ tên học viên: TRẦN XUÂN BỬU THẠCH MSHV: 12140040 Ngày, tháng, năm sinh: 22 / 01 / 1986 Nơi sinh: BÌNH THUẬN Chuyên ngành: Kỹ Thuật Điện Tử Mã số : 605270

I TÊN ĐỀ TÀI: KẾT HỢP PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH VÀ BỘ LỌC PHẦN TỬ ĐỂ PHÂN ĐOẠN VÀ TÁCH ĐẶC TRƯNG ẢNH X-QUANG II CÁN BỘ HƯỚNG DẪN: PGS.TS LÊ TIẾN THƯỜNG III NHẬN XÉT CỦA CÁN BỘ HƯỚNG DẪN KHOA HỌC:

ĐẠI HỌC QUỐC GIA TP.HCM

TRƯỜNG ĐẠI HỌC BÁCH KHOA CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh phúc

NHIỆM VỤ LUẬN VĂN THẠC SĨ

Họ tên học viên: TRẦN XUÂN BỬU THẠCH MSHV: 12140040 Ngày, tháng, năm sinh: 22 / 01 / 1986 Nơi sinh: BÌNH THUẬN Chuyên ngành: Kỹ Thuật Điện Tử Mã số : 605270

IV TÊN ĐỀ TÀI:

KẾT HỢP PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH VÀ BỘ LỌC PHẦN TỬ ĐỂ PHÂN ĐOẠN VÀ TÁCH ĐẶC TRƯNG ẢNH X-QUANG

V NHIỆM VỤ VÀ NỘI DUNG:

- Lý thuyết bộ lọc phần tử, lý thuyết phân tích thành phần chính - Khái niệm phân đoạn ảnh

- Xây thuật toán phân đoạn ảnh dựa trên lý thuyết bộ lọc phần tử và phương pháp tích thành phần chính

- Thực nghiệm phân đoạn hình ảnh x-quang sử dụng thuật toán đề xuất trên phần mềm Matlab

- Đóng góp mới của phương pháp đề xuất trong phân đoạn ảnh

VI NGÀY GIAO NHIỆM VỤ : 11 / 01 / 2016 VII NGÀY HOÀN THÀNH NHIỆM VỤ: 17 / 06 / 2016 VIII CÁN BỘ HƯỚNG DẪN: PGS.TS LÊ TIẾN THƯỜNG

LỜI CẢM ƠN

Lời đầu tiên, tôi muốn gửi lời cảm ơn chân thành đến thầy hướng dẫn, Phó Giáo Sư, Tiến Sĩ Lê Tiến Thường trong thời gian vừa qua, đã hướng dẫn và giúp đỡ tôi trong quá trình thực hiện luận văn tốt nghiệp Những lời nhận xét, góp ý và hướng dẫn của thầy đã giúp tôi có một định hướng đúng trong quá trình thực hiện đề tài, giúp tôi nhìn ra được ưu khuyết điểm của đề tài và từng bước khắc phục để ngày một tốt hơn

Đồng thời tôi cũng muốn gửi lời cảm ơn sâu sắc đến gia đình và bạn bè đã động viên và cổ vũ tinh thần trong suốt quãng thời gian học tập, đặc biệt là bố mẹ, người đã chăm lo và hi sinh rất nhiều cho tôi để tôi có thể chuyên tâm học tập

Bên cạnh đó, tôi muốn nói lời cảm ơn đến những giáo viên đã đứng trên bục giảng truyền đạt kinh nghiệm, kiến thức cho tôi trong suốt những năm học cao học vừa qua

Một lần nữa, tôi xin gửi lời cảm ơn chân thành và sâu sắc đến bố mẹ, thầy cô và bạn bè, những người luôn ở cạnh động viên, giúp đỡ và cổ vũ tinh thần cho tôi

Tp Hồ Chí Minh, tháng 06 năm 2016

Trần Xuân Bửu Thạch

TÓM TẮT

Luận văn này trình bày nghiên cứu phân đoạn và tách đặc trưng ảnh x-quang trong hình ảnh y tế Kỹ thuật phân đoạn và tách đặc trưng hình ảnh y tế có tầm quan trọng cho việc chuẩn đoán bệnh, điều trị bệnh, kế hoạch cho phẫu thuật và các điều trị khác Luận văn đề xuất thuật toán phân tích thành phần chính và bộ lọc phần tử để thực hiện phân đoạn và tách đặc trưng ảnh x-quang Phương pháp phân tích thành phần chính đem lại hiệu quả cho việc giữ lại những điểm chính của hình ảnh nhưng không là mất đi các đặc trưng chính của ảnh, điều này làm giảm số phần tử phải thực hiện trong bộ lọc phần tử Bộ lọc phần tử được đánh giá là hiệu quả trong phân đoạn và tách đặc trưng khi nó thực hiện theo dõi(tracking) từ một điểm khởi đầu rồi thực hiện tracking trên các đường viền lồi lõm không theo một mô hình hình dạng cố định Các ý tưởng điều chỉnh hướng trong tracking cho bộ lọc phần tử dựa trên sự khác nhau của cường độ điểm ảnh nằm bên trong và bên ngoài đường phân đoạn dựa trên hàm lọc likelihood Các bộ lọc sử dụng cường độ gradient điểm ảnh như một phép đo và yêu cầu thông tin về bốn điểm ảnh được chọn thủ công: điểm hạt giống “seed”, điểm bắt đầu được chọn trên đường phân đoạn và hai điểm bổ sung để hình thành khu vực phân đoạn Kết quả của nghiên cứu được đánh giá qua đường phân đoạn ảnh x-quang thu được từ kết quả thực nghiệm Hình ảnh phân đoạn ảnh vẫn cho kết quả tốt với hình ảnh x-quang có mức nhiễu cao

Học Viên Thực Hiện

Trần Xuân Bửu Thạch

ABSTRACT

This thesis presents describe a novel approach to segment object in x-ray medical images Segmentation and separate technical characteristics of medical images are great significances for diagnoses, treatments, and surgery plans Hence, a novel approach to segment object in x-ray medical images was implemented In this thesis, the progress and results of these studies are presented Furthermore, an algorithm that is the principal component analysis (PCA) and a particle filter (PF) to segment and feature x-ray image are also proposed The PCA that has affected on retaining main points of the image without losing the key features of the image, which is reduced the amount of elements and this PCA must be performed in the PF An efficient model particle filter for progressive contour growing (tracking) from a starting point is developed, accounting for convex, non-circular forms of delineated contour areas The driving idea of the proposed particle filter consists in the incorporation of different image intensity inside and outside the contour into the filter likelihood function The filter employs image intensity gradients as measurements and requires information about four manually selected points: a seed point, a starting point, arbitrarily selected on the contour, and two additional points, bounding the measurement formation area around the contour The filter performance is studied by segmenting contours from a number of real and simulated x-ray medical images Accurate contour segmentation is achieved with the proposed approach in x-ray medical images with a high level of speckle noise

LỜI CAM ĐOAN

Tôi xin cam đoan luận văn này là sản phẩm của quá trinh nghiên cứu, tìm hiểu của cá nhân dưới sự hướng dẫn và chỉ bảo của các thầy hướng dẫn, thầy cô trong bô ̣ môn, trong khoa và các bạn bè Tôi không sao chép các tài liệu hay các công trình nghiên cứu của người khác để làm luận văn này

Nếu vi phạm, tôi xin chịu mọi trách nhiệm

Học Viên Thực Hiện

Trần Xuân Bửu Thạch

NHIỆM VỤ LUẬN VĂN THẠC SĨ Error! Bookmark not defined.

LỜI CẢM ƠN IITÓM TẮT IIILỜI CAM ĐOAN IVMỤC LỤC VDANH SÁCH HÌNH VẼ VIIDANH SÁCH TỪ VIẾT TẮT VIII

CHƯƠNG 1: 1

MỞ ĐẦU 1

1.1 Lý do chọn đề tài 1

1.2 Mục tiêu của luận văn 2

1.3 Đối tượng và phạm vi nghiên cứu 3

1.4 Phương pháp nghiên cứu 3

1.5 Nội dung luận văn 3

CHƯƠNG 2 5

LÝ THUYẾT BỘ LỌC PHẦN TỬ 5

2.1 Tổng quan về phương pháp ước lượng Bayes 5

2.1.1 Cơ sở lí thuyết định lý Bayes 5

2.1.2 Định lí Bayes với hàm mật độ xác suất 6

2.1.3 Ước lượng Bayes 7

2.1.4 Các phương pháp dựa trên ước lương Bayesian 9

2.1.5 Kết Luận 13

2.2 Bộ lọc phần tử 14

2.2.1 Cơ sở lý thuyết 14

2.2.2 Phương pháp Monter Carlo 17

2.2.3 Phương pháp lấy mẫu quan trọng tuần tự 21

2.2.4 Vấn đề thoái hóa mẫu 22

2.2.5 Lưu đồ thuật toán bộ lọc phần tử 26

2.2.6 Kết luận 28

PHÂN ĐOẠN ẢNH VÀ LÝ THUYẾT PCA 29

PHÂN ĐOẠN VÀ TÁCH ĐẶC TRƯNG ẢNH X-QUANG 41

4.1 Phân tích thành phần chính cho ảnh x-quang 41

4.2 Bộ lọc phần tử cho phân đoạn ảnh x-quang 41

4.2.1 Phân đoạn ảnh như công việc tracking 41

4.2.2 Bộ lọc phần tử cho phân đoạn ảnh x-quang 43

4.3 Tóm lược quá trình phân đoạn ảnh 48

CHƯƠNG 5 50

KẾT QUẢ THỰC NGHIỆM TRÊN MATLAB 50

5.1 Thu thập dữ liệu hình ảnh x-quang 50

5.2 Môi trường thực nghiệm 50

5.3 Kết quả thực nghiệm 50

5.3.1 Thiết lập thông số thực nghiệm 50

5.3.2 Kết quả thực nghiệm trên hình ảnh x-quang 51

5.3.3 Phân tích kết quả thực nghiệm 52

5.4 Kết Luận 53

CHƯƠNG 6 54

KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN ĐỀ TÀI 54

6.1 Đánh giá kết quả đề tài 54

6.2 Đóng góp của đề tài 54

6.3 Hướng phát triển đề tài 56

TÀI LIỆU THAM KHẢO 57

DANH SÁCH HÌNH VẼ

Hình 2.1: Ví dụ về lấy mẫu dựa trên đại diện PDF 20

Hình 2.2: Ví dụ về thuật toán tái lấy mẫu 26

Hình 2.3: Lưu đồ thuật toán bộ lọc phần tử 27

Hình 3.1: Ví dụ về dữ liệu PCA, dữ liệu gốc nằm ở bên trái, dữ liệu đã trừ đi trung bình nằm bên phải, và một đồ thị của các dữ liệu 33

Hình 3.2: Đồ thị của các dữ liệu chuẩn hóa (đã trừ trung bình) với các vector đặc trưng của ma trận hiệp phương sai 35

Hình 3.3: Bảng dữ liệu bằng cách áp dụng phân tích PCA sử dụng hai vector đặc trưng, và đồ thị của các điểm dữ liệu mới 38

Hình 3.4: Dữ liệu sau khi chuyển đổi chỉ sử dụng vector đặc trưng quan trọng nhất 39

Hình 4.1: Đường phân đoạn nằm giữa vòng tròn trong và elip bên ngoài 45

Hình 4.2: Gia tăng khoản cách cho các chế độ khác nhau 45

Hình 4.3: Phân đoạn và tách đặc trưng ảnh x-quang 49

Hình 5.1: Hình ảnh gốc và hình chọn bốn điểm bắt đầu 51

Hình 5.2: Kết quả phân đoạn và tách đặc trưng ảnh x-quang của não 51

Hình 5.3: Kết quả phân đoạn xương chậu 52

DANH SÁCH TỪ VIẾT TẮT

AAM Active Appearance Model ASM Active Shape Model CA Correspondence Analysis CT

DE

Computer Tomography Differential Evolution EKF Extended Kalman Filter IMM Interacting Multiple Model IS Importance Sampling KLD Kullback-Leibler DistanceMAP Maximum A Posteriori MC Monte Carlo

MFA Multiple Factor Analysis MRF Markov Random Fields MRI Magnetic Resonance Imaging PCA Principle Component Analysis PDAF Probabilistic Data Association Filter PDF Probability Density Function

PF Particle Filter RNG Random Number Generator SIR Sampling Importance Resampling SIS Sequential Importance Sampling SMC Sequential Monte Carlo

CHƯƠNG 1: MỞ ĐẦU

1.1 Lý do chọn đề tài

Kỹ thuật phân đoạn ảnh là bước xử lý quan trọng trong nhiều lĩnh vực khác nhau như hệ thống phân đoạn ảnh trong hình ảnh y tế, hệ thống phát hiện và nhận dạng đối tượng, hệ thống camera giám sát, … kỹ thuật này là bước tiền xử lý quan trọng trong hầu hết các hệ thống xử lý hình ảnh, kết quả phân đoạn tốt sẽ giúp cho quá trình xử lý về sau đạt hiệu quả cao hơn nhằm tiết kiệm về chi phí tính toán, thời gian cũng như tăng độ chính xác của các ứng dụng trên

Mục tiêu của phân đoạn ảnh trong hình ảnh y tế là việc linh động trong các lĩnh vực ứng dụng Kỹ thuật phân đoạn ảnh có đóng góp lớn cho việc chuẩn đoán các vùng bệnh ung thư và các u nang đồng thời cũng ứng dụng cho việc phẫu thuật và điều trị Hình ảnh y tế thường không thể tạo ra kết quả thoả mãn vì các hình ảnh y tế thường bị nhiễu như ảnh X-quang và hình ảnh siêu âm, nơi mà hình ảnh có chất lượng rất thấp do bị tác động bởi nhiễu nền, độ tương phản thấp, độ mờ dần, ánh sáng chói, ánh sáng không tập trung

Nhiều nghiên cứu chuyên sâu đã được thực hiện để giải quyết việc thực hiện phân đoạn ảnh trong hình ảnh y tế trong các tài liệu như: tạo ngưỡng, phát triển khu vực, phát hiện cạnh và nhóm, Markov Random Fields (MRF)[1], đường viền tích cực hoặc các mô hình biến dạng[2], điều chỉnh mức[3][4], cắt đồ thị[5][6][7], và thay đổi trung bình[8] là một số mô hình toán học phổ biến cho việc phân đoạn ảnh Sự mở rộng đáng kể và tích hợp các khung này đã được phát triển trong những năm qua để nâng cao hiệu quả, tính ứng dụng và tính chính xác của chúng[9][10][11][12][13][14] Do tính chất khó khăn của vấn đề phân đoạn hình ảnh y tế, mô hình thống kê dựa trên phương pháp phân đoạn như mô hình hình dạng tích cực (Active Shape Models - ASM) và mô hình bề ngoài tích cực (Active

Appearance Models - AAM) [15][16][17][18] đều được chấp nhận rộng rãi

Một số thuật toán xác định đường viền được công bố trong các tài liệu chuyên ngành, các phương tiện kỹ thuật theo dõi (tracking) với nhiều mức độ phức tạp khác nhau và phương pháp tracking cũng được chấp nhận cho mục đích phân đoạn và tách đặc trưng hình ảnh y tế Các đường phân đoạn đệ quy bị ảnh hưởng bởi sự hạn chế của mô hình chuyển động và vì vậy tác động của nó có thể được dự đoán Các điểm cạnh xung quanh các đường viền dự đoán đại diện cho phép đo vị trí đường viền Khái niệm kết hợp nhiều mô hình quỹ đạo để ước lượng trạng thái đối tượng trong tình trang lộn xộn với giải pháp hợp lý bằng cách kết hợp ước lượng tương tác đa mô hình (Interacting Multiple Model - IMM) và một bộ lọc liên kết các dữ liệu xác suất (probabilistic data association filter - PDAF) [26] Tác giả trong [26] đã chứng minh tính chính xác của việc thực hiện IMM-PDAF của họ bằng cách thực hiện phân đoạn lồi, không-tròn trên các tổn thương tuyến tiền liệt, động mạch tĩnh và hình ảnh siêu âm tĩnh mạch Kết quả IMM-PDAF cho thấy phương pháp áp dụng trên nhiều mô hình tracking cho kết quả chính xác và hội tụ trong môi trường hình ảnh y tế phức tạp

Việc lấy mẫu xấp xỉ bằng phương pháp Monte Carlo[33] cho phép biểu diễn chính xác hơn về phân phối đa phương thức, vốn có của hình ảnh y tế Bộ lọc phần tử (PF) đủ khả năng duy trì nhiều giả thuyết cho tương thích và cách đơn giản nhất Ngoài ra, những hạn chế về độ cong và tính năng của các ứng dụng có thể được đưa vào khung theo dõi một cách dễ dàng và tự nhiên Vì vậy, đây là phương pháp tiếp cận phân đoạn hình ảnh y tế tốt để phân tích hình ảnh y tế nhiễu sử dụng phương pháp phân tích thành phần chính (PCA) kết hợp với bộ lọc phần tử(PF) để từ đó thực hiện việc phân đoạn và tách đặc trưng hình ảnh x-quang

1.2 Mục tiêu của luận văn

- Nghiên cứu xây dựng thuật toán phân đoạn và tách đặc trưng ảnh x-quang

- Vận dụng kết quả nghiên cứu xây dựng chương trình thực hiện phân đoạn và tách đặc trưng ảnh x-quang

1.3 Đối tượng và phạm vi nghiên cứu

 Lý thuyết phương pháp phân tích thành phần chính  Lý thuyết bộ lọc phần tử

 Phân đoạn hình ảnh y tế

1.4 Phương pháp nghiên cứu

- Phương pháp nghiên cứu thực nghiệm - Thu thập nghiên cứu về ảnh x-quang - Lý thuyết về phân đoạn và tách đặc trưng ảnh - Lý thuyết về phương pháp phân tích thành phần chính (PCA) - Phương pháp ước lượng Bayes

- Lý thuyết Monter Carlo - Lý thuyết về Bộ lọc phần tử - Nghiên cứu kết hợp PCA và phương pháp PF cho phân đoạn và tách đặc

trưng ảnh x-quang - Nghiên cứu xây dựng chương trình thực nghiệm dựa trên thuật toán đề xuất

1.5 Nội dung luận văn

Luận văn sẽ trình bày các nội dung chính ở các chương như sau:

 Chương 2: Trình bày lý thuyết về phương pháp ước lượng Bayes và các phương pháp dựa trên ước lượng Bayes như bộ lọc Kalman, bộ lọc Kalman mở rông để từ đó hình thành lý thuyết cho bộ lọc phần tử Trình bày cơ sở hình thành bộ lọc phần tử và phương pháp Monter Carlo, phương pháp lấy mẫu quan trọng, cũng như nêu ra các điểm mạnh và điểm yếu mắc phải của bộ lọc phần tử Qua đó

đưa ra giải pháp cho quá trình tái lấy mẫu nhầm hạn chế vấn đền thoái hóa mẫu Từ đó xây dựng lưu đồ cho bộ lọc phần tử

 Chương 3: Trình bày các khái niệm về phân đoạn ảnh và tách đặc trưng ảnh qua đó đưa ra các hướng tiếp cận phân đoạn ảnh và tách đặc trưng cho đề tài nghiên cứu Trình bày về phương pháp phân tích thành phần chính trong xử lý ảnh một cách chi tiết và dễ hiểu, nêu lên các ưu điểm nổi trội mà phương pháp PCA có được đồng thời cũng trình bày những hạn chế của phương pháp

 Chương 4: Trình bày phương pháp kết hợp cả hai phương pháp PCA và PF cho việc thực hiện đề tài luận văn tốt nghiệp

 Chương 5: Trình bày kết quả thực nghiệm trên matlab cho kết quả chính xác đường phân đoạn ảnh

 Chương 6: Kết luận và hướng phát triển đề tài sau khi hoàn thành luận văn

CHƯƠNG 2 LÝ THUYẾT BỘ LỌC PHẦN TỬ

2.1 Tổng quan về phương pháp ước lượng Bayes

Phương pháp ước lượng Bayes là một phương pháp ước lượng hoặc phương pháp ra quyết định sao cho đạt được một cực tiểu giá trị kì vọng hậu nghiệm của một hàm lỗi (ví dụ như kì vọng sai số hậu nghiệm) Một cách khác để tìm ước lượng trong phương pháp Bayes là ước lượng cực đại hậu nghiệm

2.1.1 Cơ sở lí thuyết định lý Bayes

Phương pháp Bayes cho phép tính xác suất xảy ra của một sự kiện ngẫu nhiên A khi biết được sự kiện liên quan là B hay nói cách khác là tính xác suất có điều kiện của một biến ngẫu nhiên A khi có B Xác suất này được kí hiệu là P(A|B) Đại lượng này được gọi là xác suất hậu nghiệm vì nó có được sau khi có được xác suất của B

Theo định lí Bayes, xác suất xảy ra A khi biết B sẽ phụ thuộc vào ba yếu tố:

 Xác suất xảy ra A của chính nó, không liên quan đến B Kí hiệu là P(A) và đọc là “xác suất của A” Đây được gọi là xác suất biên duyên hay xác suất tiên nghiệm, nó là "tiên nghiệm" theo nghĩa rằng nó không quan tâm đến bất kỳ thông tin nào về B

 Xác suất xảy ra B của chính nó, không liên quan đến A Kí hiệu là P(B) và đọc là “xác suất của A” Đây được gọi là hằng số chuẩn hóa (normalizing constant), vì nó luôn giống nhau không phụ thuộc vào sự kiện A cần biết  Xác suất xảy ra B khi biết biến cố A xảy ra Kí hiệu là P(B|A) và đọc là

"xác suất của B khi có A" Đại lượng này gọi là khả năng (likelihood) xảy ra B khi biết biến cố A đã xảy ra Chú ý không nhầm lẫn giữa khả năng xảy ra B khi biết A và xác suất xảy ra A khi biết B

Khi biết ba đại lượng này, xác suất của A khi biết B cho bởi công thức:

𝑃(𝐴|𝐵) = 𝑃(𝐵|𝐴) 𝑃(𝐴)

𝑙𝑖𝑘𝑒𝑙𝑖ℎ𝑜𝑜𝑑 ∗ 𝑝𝑟𝑖𝑜𝑟𝑛𝑜𝑟𝑚𝑎𝑙𝑖𝑧𝑖𝑛𝑔 𝑐𝑜𝑛𝑠𝑡𝑎𝑛𝑡

(2.1) Vì:

2.1.2 Định lí Bayes với hàm mật độ xác suất

Một dạng định lý Bayes cho các phân bố liên tục, thay cho các xác suất trong định lý Bayes ta dùng hàm mật độ xác suất Như vậy ta có các công thức tương tự định nghĩa xác suất có điều kiện:

𝑓(𝑥|𝑦) =𝑓(𝑦|𝑥)𝑓(𝑥)

𝑓(𝑦)

(2.6)

Hay:

độ phân phối tiên nghiệm của X Điều kiện mặc định trong các công thức là hàm f khả vi và các tích phân của hàm f tồn tại

Định nghĩa theo khía cạnh trạng thái hệ thống thì phương pháp ước lượng Bayesian là phương pháp dựa trên xác suất, sử dụng các phương trình dự đoán để dự đoán trạng thái của đối tượng và phương trình cập nhật để hiệu chỉnh các dự đoán trước đó về trạng thái của đối tượng dựa trên những dữ liệu quan sát được từ đối tượng

2.1.3 Ước lượng Bayes

Các kí hiệu cần thống nhất

Quá trình cần ước lượng:

• Chuỗi các trạng thái từ thời điểm 0 đến t: X0:t= X0,X1, , Xt

• Chuỗi các giá trị trạng thái từ thời điểm 0 đến t: x0:t= x0, x1, ,xt

• Hàm mật độ của Xt: p(xt)

• Hàm mật độ ghép từ X0 đến Xk: p(x0:t) = p(x0,x1, ,xt)

Tương tự cho quá trình quan sát:

• Chuỗi quan sát từ thời điểm 1 đến t: Z0:t = Z0, Z1, , Zk

• Giá trị hàm quan sát từ thời điểm 0 đến thời điểm t : z0:t = z0, z1, , zt

• Hàm mật độ của Zt :p(zt)

• Hàm mật độ ghép từ Z0 đến Zt: p(z0:t) = p(z0, z1, , zt) Mục tiêu của phương pháp Bayesian là ước lượng trạng thái Xt dựa trên Z1:t Ta kí hiệu, giá trị ước lượng Xt dựa trên Z1:t là 𝑋̂ [19]

Dễ thấy các giá trị ước lượng là một hàm phụ thuộc vào quan sát:

Phương pháp lọc Bayesian được thực hiện đệ quy đối với 𝑝(𝑥𝑡|𝑥1:𝑡) qua hai bước [19]:

2.1.4 Các phương pháp dựa trên ước lương Bayesian

Một số phương pháp theo vết thông dụng dựa trên ước lượng Bayesian là:

Bộ lọc EKF là bộ lọc Kalman mở rộng(Extended Kalman Filter) nhằm khắc phục những hạn chế của bộ lọc Kalman là chỉ hoạt động tối ưu khi hệ thống là tuyến tính (linear) và nhiễu tác động lên hệ thống (bao gồm nhiễu hệ thống và nhiễu đo lường) là nhiễu trắng Gaussian

Bộ lọc Particle được phát minh nhằm giải quyết tốt hơn bài toán lọc phẩn tử, đặc biệt là nó có thể khắc phục được mọi nhược điểm của lọc Kalman và cũng không yêu cầu hệ phải có tập trạng thái

2.1.4.1 Bộ Lọc Kalman

Năm 1960 R.E Kalman xuất bản một bài báo nổi tiếng mô tả về một giải pháp đệ quy để giải quyết vấn đề bộ lọc tuyến tính dữ liệu rời rạc Kể từ đó, do có những ưu điểm lớn trong tính toán, bộ lọc Kalman là một chủ đề nhận được ngày càng nhiều nghiên cứu và ứng dụng, đặc biệt trong các hệ thống định vị, dẫn đường Một bản giới thiệu “thân thiện” về ý tưởng chung của bộ lọc Kalman có thể tìm thấy trong Chương 1 của tài liệu tham khảo [20]

Bộ lọc Kalman giải quyết một vấn đề tổng quát sau: Trạng thái dự đoán (predicted state) 𝑥𝑛 ∈ ℜ của một quá trình rời rạc được mô tả bởi phương trình sai phân tuyến tính ngẫu nhiên (linear stochastic difference equation) [20]:

(posteriori) tại bước t cho bởi phép đo (ước lượng của 𝑥̂𝑡) Chúng ta định nghĩa sai số ước lượng tiên nghiệm và hậu nghiệm như sau:

Ước lượng tiên nghiệm: 𝑒𝑡̅ = 𝑥𝑡− 𝑥̂𝑡̅

Ước lượng hậu nghiệm: 𝑒𝑡 = 𝑥𝑡− 𝑥̂𝑡

Hiệp phương sai của lỗi ước lượng tiền nghiệm: 𝑃𝑡̅ = 𝐸[𝑒𝑡̅(𝑒𝑡̅)𝑇]

Hiệp phương sai của lỗi ước lượng hậu nghiệm: 𝑃𝑡 = 𝐸[𝑒𝑡(𝑒𝑡)𝑇]

Từ đó ta có ước lượng như sau:

Trong đó K là độ lợi Kalman:

𝐾𝑡 = 𝑃𝑡̅𝐻

𝑇𝐻𝑃𝑡̅𝐻𝑇 + 𝑅

(2.19)

Bộ lọc Kalman thực hiện ước lượng một quá trình bằng cách sử dụng một dạng của điều khiển phản hồi (feedback control): bộ lọc ước lượng trạng thái của quá trình tại một thời điểm sau đó có được phản hồi từ các đo đạc (có nhiễu) Như vậy, các phương trình của bộ lọc Kalman được chia thành hai nhóm: cập nhật trạng thái theo thời gian (time update) và cập nhật trạng thái theo giá trị đo lường (measurement update) Các phương trình cập nhật theo thời gian để dự đoán (projecting forward) trạng thái hiện tại và vector hiệp phương sai lỗi nhằm ước lượng trạng thái tiên nghiệm cho bước tiếp theo Các phương trình cập nhật theo giá trị đo lường dùng để cung cấp phản hồi - ví dụ như kết hợp một giá trị đo lường mới với ước lượng tiên nghiệm để có được ước lượng trạng thái hậu nghiệm

2.1.4.2 Bộ lọc Kalman mở rộng

Trong thực tế có rất nhiều hệ thống không phải tuyến tính (phi tuyến tính, linear), trong trường họp này áp dụng bộ lọc Kalman sẽ cho sai số lớn Để khắc phục hạn chế trên, có rất nhiều phương pháp được đưa ra nhằm tuyến tính hóa (linearize) hệ thống bằng các hàm xấp xỉ như bộ lọc Kalman mở rộng, Unscented Kalman Filter, Bộ Lọc Phần Tử Một trong những cách tuyến tính hóa hệ thống một cách đơn giản là áp dụng khai triển chuỗi Taylor bậc 1 Đó chính là bộ lọc Kalman mở rộng [21]

non-Vấn đề ước lượng trạng thái một cách tổng quát trong [21] như sau:

Với 𝑤𝑡−1 là nhiễu hệ thống có phân bố Gaussian và hiệp phương sai là Q Vì có

nhiễu nên trạng thái của hệ thống là bất định

Người quan sát chỉ quan sát được đo lường của hệ thống khi có quan hệ với hệ thống thông qua phương trình đo lường:

Trong đó 𝑣𝑡 là nhiễu đo lường có phân bố Gaussian và hiệp phương sai là R

Nhiệm vụ của bộ lọc là dựa vào quan sát và mô hình hệ thống để ước lượng tối ưu (có thể) trạng thái của hệ thống Như đã nói ở trên, nếu cả hai phương trình trên là tuyến tính và nhiễu tác động lên hệ thống là nhiễu Gaussian thì bộ lọc Kalman là bộ lọc tối ưu được sử dụng cho trường hợp này Nếu ít nhất một trong hai phương trình ở trên là phi tuyến, ta phải sử dụng các phương pháp xấp xỉ tuyến tính Bộ lọc Kalman mở rộng sử dụng phương pháp xấp xỉ dựa vào triển khai Taylor bậc 1 Khi đó các phương trình trạng thái và đo lường được xấp xỉ bằng cách tuyến tính như sau:

𝑥𝑡+1 = 𝑥̃𝑡+1+ 𝐴(𝑥𝑡− 𝑥̂𝑡) + 𝑊𝑤𝑡 (2.22)

𝑧𝑡 = 𝑧̃𝑡+ 𝐻(𝑥𝑡 − 𝑥̂𝑡) + 𝑉𝑣𝑡 (2.23)

Để tuyến tính hóa dựa vào khai triển Taylor bậc 1, các ma trận chuyển trạng thái

A, ma trận đo H là các ma trận Jacobian, được xác định như sau:

2.2 Bộ lọc phần tử

Vào khoảng năm 1998, cùng với sự ra đời của thuật toán CONDENSATION, một loạt các thuật toán lọc tổng quát dựa vào phương pháp tuần tự Monte Carlo (Sequential Monte Carlo - SMC) với nhiều tên gọi khác nhau như bộ lọc Bootstrap (Bootstrap Filters), bộ lọc phần tử (Particle Filters), bộ lọc Monte Carlo (Monte Carlo Filters) được ra đời, đã giúp giải quyết bài toán lọc tổng quát một cách triệt để Các phương pháp này không đòi hỏi phải đặt ra bất kỳ giả định nào về hệ, ngoài ra, chúng còn rất linh động, mềm dẻo, dễ cài đặt, có khả năng mở rộng để thực hiện trong môi trường tính toán song song và đặc biệt là hoạt động rất hiệu quả trong trường hợp bài toán tổng quát Gần đây, các phương pháp này được thống nhất gọi với tên gọi là bộ lọc phần tử

Bộ lọc phần tử hiện đang được áp dụng trong rất nhiều lĩnh vực như mô hình hóa tài chính, kinh tế lượng (Econometrics), theo dõi đối tượng, dẫn đường cho tên lửa (Missle Guidance), di chuyến dựa vào địa hình (Terrain Navigation), thị giác máy tính, mạng neuron, máy học, robot, ứng dụng của bộ lọc phần tử trong thị giác máy tính đang được rất nhiều người quan tâm, đặc biệt là trong lĩnh vực theo vết đối tượng dựa vào thông tin thị giác

2.2.1 Cơ sở lý thuyết

Ta nhắc lại một số các quy ước toán học và phát biểu của bài toán lọc cần quan tâm Không mất tính tổng quát, ta xét một hệ (có thể là một hệ tín hiệu; hệ cơ học trong đó có các đại lượng vị trí, vận tốc, gia tốc; ) có không gian trạng thái được mô hình hóa bởi một hàm phân phối phi tuyến, phi Gauss, thỏa hai giả định của bài toán lọc Bayes đệ quy như sau:

Chuỗi trạng thái của hệ thỏa giả định về hệ Markov bậc I [19]

Các giá trị đo có được tại một thời điểm t bất kỳ chỉ phụ thuộc vào trạng thái

của hệ tại thời điểm đó

Vậy hệ đang xét có thế được đặc trưng bởi các hàm phân phối xác suất như sau:

𝑓𝑡(𝑥𝑡) = 𝑥𝑡𝑥𝑡𝑇 − 𝐸𝑝(𝑥

𝑡|𝑧1:𝑡)[𝑥𝑡]𝐸𝑝(𝑥

𝑡|𝑧1:𝑡)

Tại một thời điếm t bất kỳ, hàm phân phối xác suất hậu nghiệm được cho bởi

quy tắc Bayes như sau :

 Phương trình dự đoán: 𝑝(𝑥𝑡|𝑧1:𝑡−1) = ∫ 𝑝(𝑧𝑡|𝑥𝑡−1)𝑝(𝑥𝑡−1|𝑧1:𝑡−1) 𝑑𝑥𝑡−1 (2.32)  Phương trình cập nhật:

Không giống như các phương pháp dựa vào giải tích, trong đó mỗi phương pháp luôn cố gắng tìm kiếm một lời giải cho các phương trình trên thông qua một hoặc nhiều phương trình khác, các phương pháp Monte Carlo dựa vào sự mô phỏng và xấp xỉ các hàm phân phối và các tích phân trên bằng một tập các mẫu dữ liệu được

sinh ra bởi chính các hàm phân phối trong các tích phân này Đây là lý do chính giúp cho các thuật toán lọc dựa vào phương pháp Monte Carlo, cụ thể là lọc phần tử, có thể giải quyết được vấn đề phi tuyến và phi Gauss một cách triệt để và rất hiệu quả

2.2.2 Phương pháp Monter Carlo

Trong toán học, thuật toán Monte Carlo là phương pháp tính bằng số hiệu quả cho nhiều bài toán liên quan đến nhiều biến số mà không dễ dàng giải được bằng các phương pháp khác, chẳng hạn bằng tính tích phân Hiệu quả của phương pháp này, so với các phương pháp khác, tăng lên khi số chiều của bài toán tăng

Cơ sở của phương pháp Monte Carlo:

 Các số ngẫu nhiên (random numbers): đây là nền tảng quan trọng, góp

phần hình thành nên “thương hiệu” của phương pháp Các số ngẫu nhiên không chỉ được sử dụng trong việc mô phỏng lại các hiện tượng ngẫu nhiên xảy ra trong thực tế mà còn được sử dụng để lấy mẫu ngẫu nhiên của một phân bố nào đó, chẳng hạn như trong tính toán các tích phân số  Luật số lớn (law of large numbers): luật này đảm bảo rằng khi ta chọn

ngẫu nhiên các giá trị (mẫu thử) trong một dãy các giá trị (quần thể), kích thước dãy mẫu thử càng lớn thì các đặc trưng thống kê (trung bình, phương sai, ) của mẫu thử càng “gần” với các đặc trưng thống kê của quần thể Luật số lớn rất quan trọng đối với phương pháp Monte Carlo vì nó đảm bảo cho sự ổn định của các giá trị trung bình của các biến ngẫu nhiên khi số phép thử đủ lớn

 Định lý giới hạn trung tâm (central limit theorem): định lý này phát biểu rằng dưới một số điều kiện cụ thể, trung bình số học của một lượng đủ lớn các phép lặp của các biến ngẫu nhiên độc lập (independent random variables) sẽ được xấp xỉ theo phân bố chuẩn (normal distribution) Do phương pháp Monte Carlo là một chuỗi các phép thử được lặp lại nên

định lý giới hạn trung tâm sẽ giúp chúng ta dễ dàng xấp xỉ được trung bình và phương sai của các kết quả thu được từ phương pháp

Các thành phần chính của phương pháp mô phỏng Monte Carlo gồm:

 Hàm mật độ xác suất (probability density function − PDF): một hệ vật lý (hay toán học) phải được mô tả bằng một bộ các PDF

 Nguồn phát số ngẫu nhiên (random number generator − RNG): một nguồn phát các số ngẫu nhiên đồng nhất phân bố trong khoảng đơn vị  Quy luật lấy mẫu (sampling rule): mô tả việc lấy mẫu từ một hàm phân

bố cụ thể  Ghi nhận (scoring hay tallying): dữ liệu đầu ra phải được tích luỹ trong

các khoảng giá trị của đại lượng cần quan tâm  Ước lượng sai số (error estimation): ước lượng sai số thống kê (phương

sai) theo số phép thử và theo đại lượng quan tâm  Các kĩ thuật giảm phương sai (variance reduction technique): các phương

pháp nhằm giảm phương sai của đáp số được ước lượng để giảm thời gian tính toán của mô phỏng Monte Carlo

 Song song hoá (parallelization) và vector hoá (vectorization): các thuật toán cho phép phương pháp Monte Carlo được thực thi một cách hiệu quả trên một cấu trúc máy tính hiệu năng cao (high-performance)

Giả sử rằng mô hình trạng thái là mô hình Markov ẩn, phi tuyến, nhiễu là phi Gaussian Trạng thái ẩn ký hiệu 𝑥𝑡, trạng thái quan sát 𝑧𝑡

Gọi chuỗi trạng thái đến thời điểm t là 𝑥0:𝑡 = (𝑥0, … , 𝑥𝑡), và các mẫu ngẫu nhiên 𝑥0:𝑡𝑖 được rút ra từ phân bố hậu nghiệm

Đại diện cho phân bố hậu nghiệm sử dụng một tập các mẫu hoặc các phần tử:

𝑝̂(𝑥0:𝑡|𝐷𝑡) = 1

𝑁∑𝑁𝑖=1𝛿(𝑥0:𝑡 − 𝑥0:𝑡𝑖 ) (2.34)

Lúc này ta tình được xấp xỉ kỳ vọng theo công thức:

𝐸(𝑔(𝑥0:𝑡)) = ∫ 𝑔(𝑥0:𝑡) 𝑝(𝑥0:𝑡|𝐷𝑡)𝑑𝑥0:𝑡 (2.35)

Nhầm mục đích là tạo ra N mẫu phân phối độc lập và giống nhau (hay còn gọi

là các phần tử hoặc các hạt) từ phân phối hậu nghiệm 𝑝(𝑥0:𝑡|𝑧1:𝑡) Tùy theo từng ứng dụng thực tế mà có phương pháp lấy mẫu khác nhau Có nhiều phương pháp lấy mẫu trong đó chiến lược lấy mẫu quan trọng tuần tự SIS được sử dụng trong phương pháp Monte Carlo

Phương pháp lấy mẫu quan trọng là một kỹ thuật làm giảm phương sai và sử dụng trong phương pháp Monte Carlo Mục tiêu đằng sau lấy mẫu quan trọng là giá trị nhất định của các biến ngẫu nhiên đầu vào trong một mô phỏng có tác động nhiều hơn trên các thông số được ước tính Nếu các giá trị “quan trọng” được nhấn mạnh bằng cách lấy mẫu thường xuyên hơn, sau đó phương sai ước lượng có thể giảm Do đó phương pháp luận cơ bản trong lấy mẫu quan trọng là chọn một phân phối “khuyến khích” các giá trị quang trọng

Cho 𝑝(x) là một PDF mà việc tạo ra mẫu là rất khó khăng Cho 𝑥𝑖~𝑞(x), với i = 1, , N là các mẫu có thể dễ dàng tạo ra từ một hàm đề xuất PDF 𝑞(x) Khi đó việc xấp xỉ hàm mật độ 𝑝(x) được cho bởi:

𝑝̂(𝑥0:𝑡|𝐷𝑡) ≈ ∑𝑁𝑖=1w𝑡𝑖𝛿(𝑥0:𝑡 − 𝑥0:𝑡𝑖 ) (2.38)

Với w𝑡𝑖 =𝑝(𝑥0:𝑡𝑖 |𝐷𝑡)

𝑞(𝑥0:𝑡𝑖 |𝐷𝑡) là trọng số chuẩn hóa Xét một ví dụ về lấy mẫu dựa trên đại diện PDF như Hình 2.1

Hình 2.1: Ví dụ về lấy mẫu dựa trên đại diện PDF

Khu vực có mật độ cao thì có nhiều phần tử và các phần tử có trọng số lớn Sự phân chia không đều và các hàm xấp xỉ để tính các PDF liên tục:

𝑃𝑁(𝑥0:𝑡|𝑧1:𝑡) = ∑𝑁𝑖=1w𝑡𝑖𝛿(𝑥0:𝑡 − 𝑥0:𝑡𝑖 ) (2.39)

Qua những trình bày trên, quá trình IS là một phương pháp xấp xỉ mật độ xác xuất 𝑝(x|z) mà không đòi hỏi phải thực sự có khả năng tạo tập mẫu ngẫu nhiên từ 𝑝(x|z), các mẫu được phân phối theo hàm mật độ đề xuất Sau đó, các trọng số sẽ được cập nhật để phản ánh đúng ước lượng

Như vậy thuật toán IS là thuật toán có thể được áp dụng trong các bài toán lọc thời gian thực vì tính hiệu quả và chi phí thấp Vì thuật toán này không đòi hỏi quá trình sinh mẫu chọn lựa cũng như thời gian thực thi đủ lâu để thuật toán hội tụ Đây chính là lý do phương pháp lấy mẫu quan trọng trở thành phương pháp luận chủ yếu của bộ lọc phần tử

Tóm lại phương pháp tuần tự Monte Carlo dựa trên:

 Lấy mẫu quan trọng từ phương pháp trước đó  Cập nhập trọng số từ mô hình đo đạt

 Thực hiện đệ quy(tuần tự)

2.2.3 Phương pháp lấy mẫu quan trọng tuần tự

Thuật toán lấy mẫu quan trọng tuần tự SIS là một phương pháp MC làm cơ sở cho hầu hết các bộ lọc MC được liên tục phát triển trong nhiều thập kỷ qua Đây là một kỹ thuật để thực hiện một bộ lọc đệ quy Bayesian bằng mô phỏng MC Ý tưởng chính là trình bày các yêu cầu hàm mật độ hậu nghiệm bởi một tập hợp các mẫu ngẫu nhiên với trọng số liên quan và tính toán ước lượng dựa trên các mẫu và trọng số

Để phát triển thuật toán ta đặt {𝑥0:𝑡𝑖 , w𝑡𝑖}𝑖=1𝑁s là phép đo ngẫu nhiên mà phép đo đặc trưng là của PDF hậu nghiệm 𝑝(𝑥0:𝑡|𝑧1:𝑡), trong đó {𝑥0:𝑡𝑖 , 𝑖 = 0, … , 𝑁𝑠} là một tập hợp các điểm với trọng số thích hợp {w𝑡𝑖 , 𝑖 = 1, … , 𝑁𝑠} và 𝑥0:𝑡 = {𝑥j, 𝑗 = 0, … , 𝑡} là tập hợp các trạng thái đến thời điểm t Các trọng số

được chuẩn hóa, sau đó hàm mật độ hậu nghiệm tại thời điểm t có thể xấp xỉ:

(𝑥0:𝑡|𝑧1:𝑡) = 𝑞(𝑥𝑡|𝑥0:𝑡−1, 𝑧1:𝑡) 𝑞(𝑥0:𝑡−1|𝑧1:𝑡−1) (2.41)

Tiếp theo 𝑥0:𝑡𝑖 ~𝑞(𝑥0:𝑡|𝑧1:𝑡) được lấy mẫu bằng cách bổ sung mỗi mẫu tồn tại 𝑥0:𝑡−1𝑖 ~𝑞(𝑥0:𝑡−1|𝑧1:𝑡−1) với trạng thái mới 𝑥𝑡𝑖 = 𝑞(𝑥𝑡|𝑥0:𝑡−1, 𝑧1:𝑡)

Phương trình cập nhật trọng số được viết lại theo công thức:

𝑤𝑡𝑖 ∝𝑝(𝑧𝑡|𝑥𝑡

𝑖)𝑝(𝑥𝑡𝑖|𝑥𝑡−1𝑖 )𝑞(𝑥𝑡𝑖|𝑥𝑡−1𝑖 , 𝑧𝑡)

2.2.4 Vấn đề thoái hóa mẫu

Một vấn đề với các bộ lọc phần tử SIS đó là hiện tượng thoái hóa mẫu khi mà sau một vài trạng thái cập nhật tất cả những phần tử có trọng số không đáng kể bị thoái hóa Vấn đề này cho thấy phương sai của các trọng số quan trọng tăng dần theo các bước thuật toán và không tránh khỏi sự thoái hóa mẫu Sự thoái hóa mẫu này cần tránh thì phải có một tính toán lớn dành cho việc cập nhật các phần tử mà các phần tử này có phân phối xấp xỉ 𝑝(𝑥𝑡|𝑧1:𝑡) hầu như bằng 0 Một phép đo thích hợp về sự thoái hóa của thuật toán là kích thước mẫu hiệu quả 𝑁𝑒𝑓𝑓 được định nghĩa[33]:

Có hai phương pháp nghiên cứu để giảm bớt ảnh hưởng của hiện tượng này đó là: lựa chọn hàm mật độ quan trọng và tái lấy mẫu

2.2.4.1 Lựa chọn hàm mật độ quan trọng

Phương pháp đầu tiên liên quan đến việc lựa chọn hàm mật độ quan trọng 𝑞(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) để tối thiểu hàm 𝑉𝑎𝑟(𝑤𝑡∗𝑖) vì vậy thì 𝑁𝑒𝑓𝑓 phải tối đa hóa Hàm mật độ quan trọng tối ưu là khi hàm phương sai tối thiểu của trọng số thật 𝑤𝑡∗𝑖 với điều kiện 𝑥𝑡−1𝑖 và 𝑧𝑡 đã được chứng minh:

𝑞(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡)𝑜𝑝𝑡 = 𝑝(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) =𝑝(𝑧𝑡|𝑥𝑡)𝑝(𝑥𝑡|𝑥𝑡−1

𝑖 )𝑝(𝑧𝑡|𝑥𝑡−1𝑖 )

Nhưng cách tối ưu hóa mật độ quan trọng này còn tồn tại hai nhược điểm lớn đó là nó đòi hỏi khả năng để lấy mẫu từ 𝑝(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) và để ước tính tích phân trên các trạng thái mới

Trong trường hợp chung có thể không đơn giản để thực hiện một trong những điều này, có hai trường hợp được đề cập khi sử dụng tối ưu mật độ quan trọng là:

 Trường hợp đầu tiên là khi 𝑥𝑡𝑖 thuộc một tập hợp hữu hạn Trong trường hợp này các tích phân bên trong trở thành một tổng và lấy mẫu từ 𝑝(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) là có thể

 Trường hợp thứ hai là khi mô hình mà 𝑝(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) là Gaussian Điều này có thể xảy ra nếu mô hình động là phi tuyến và phép đo tuyến tính

Sự lựa chọn mật độ quan trọng được ưu tiên:

𝑞(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) = 𝑝(𝑥𝑡|𝑥𝑡−1𝑖 ) (2.48)

Đây là sự lựa chọn phổ biến nhất của hàm mật độ quan trọng vì nó trực quan và đơn giản để thực hiện Tuy nhiên có rất nhiều các hàm mật độ khác mà có thể được sử dụng và lựa chọn là các bước thiết kế rất quan trọng trong việc thiết kế bộ lọc phần tử

Việc sử dụng hàm mật độ để đề xuất đóng vai trò rất quan trọng trong quyết định đến hiệu suất của hệ thống Vì vậy có nhiều nghiên cứu quan tâm đến vấn đề cải tiến hàm mật độ đề xuất

Như vậy một hàm mật độ đề xuất tốt thường là hàm có khả năng sử dụng những thông tin có từ những phép đo về hệ thống ở những thời điểm gần nhất Đây chính là nguyên nhân làm cho hàm 𝑞(𝑥𝑡|𝑥𝑡−1𝑖 , 𝑧𝑡) = 𝑝(𝑥𝑡|𝑥𝑡−1𝑖 ) kém hiệu quả trong một số trường hợp

2.2.4.2 Tái lấy mẫu

Công việc cơ bản của tái lấy mẫu (resampling) là để loại bỏ những hạt có trọng số nhỏ và tập trung vào các hạt có trọng số lớn Bước tái lấy mẫu liên quan đến việc