Phương pháp monte carlo ứng dụng vào xử lý tín hiệu và mô hình hóa trên DS

Đại Học Quốc Gia Tp Hồ Chí Minh TRƯỜNG ĐẠI HỌC BÁCH KHOA NGUYỄN PHAN THANH BỬU PHƯƠNG PHÁP MONTE CARLO ỨNG DỤNG VÀO XỬ LÝ TÍN HIỆU VÀ MƠ HÌNH HĨA TRÊN DSP (MONTE CARLO METHODS APPLIED TO SIGNAL PROCESSING AND MODELLING BASED ON DSP) Chuyên ngành : Kỹ thuật điện tử Mã số ngành : 60.52.70 LUẬN VĂN THẠC SĨ Tp Hồ Chí Minh, tháng năm 2007 CƠNG TRÌNH ĐƯỢC HỒN THÀNH TẠI TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA TP HỒ CHÍ MINH Cán hướng dẫn khoa học: PGS-TS Lê Tiến Thường Cán chấm nhận xét 1: Cán chấm nhận xét 2: Luận văn thạc sĩ bảo vệ HỘI ĐỒNG CHẤM BẢO VỆ LUẬN VĂN THẠC SĨ TRƯỜNG ĐẠI HỌC BÁCH KHOA, ngày tháng năm 2007 TRƯỜNG ĐẠI HỌC BÁCH KHOA CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM PHÒNG ĐÀO TẠO SĐH ĐỘC LẬP – TỰ DO – HẠNH PHÚC Tp HCM, ngày tháng năm 2007 NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Nguyễn Phan Thanh Bửu Ngày, tháng, năm sinh: 07/04/1983 Chuyên ngành: Kỹ thuật điện tử Phái: Nam Nơi sinh: Đồng Nai MSHV:01405298 I- TÊN ĐỀ TÀI: ‘PHƯƠNG PHÁP MONTE CARLO ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU VÀ MƠ HÌNH HĨA TRÊN DSP’ II- NHIỆM VỤ VÀ NỘI DUNG: • Nghiên cứu vấn đề xử lý tín hiệu model-based mơ hình dynamic system • Xây dựng thuật toán cho phương pháp Monte Carlo (phương pháp MCMC SMC ) ứng dụng xử lý tín hiệu dựa vào mơ hình: tính tốn BER, hàm likelihood, số ứng dụng khác • Mơ thuật toán phương pháp Monte Carlo ứng dụng xử lý tín hiệu số vấn đề quan trọng khác (neural networks,…) để thấy hiệu suất BER phương pháp kênh truyền fading khả ứng dụng phương pháp Monte Carlo mơ hình khơng gian trạng thái tuyến tính, phi tuyến, hỗn hợp, mơ hình Bayesian, mơ hình nhiễu Gauss,… vào vấn đề quan trọng thực tiễn Thơng qua tiến hành so sánh phương pháp với • Thực mơ hình hóa số thuât toán phương pháp MCMC SMC ứng dụng xử lý tín hiệu model-based kit DSP TMS320C6711, đánh giá kết thu DSP kit TMS320C6711 so sánh với kết mô Matlab III- NGÀY GIAO NHIỆM VỤ: 22/02/2007 IV- NGÀY HOÀN THÀNH NHIỆM VỤ: 06/07/2007 V- CÁN BỘ HƯỚNG DẪN : PGS.TS LÊ TIẾN THƯỜNG CÁN BỘ HƯỚNG DẪN CN BỘ MÔN QL CHUYÊN NGÀNH Nội dung đề cương luận văn thạc sĩ Hội đồng chuyên ngành thơng qua Ngày… tháng… năm 2007 TRƯỞNG PHỊNG ĐT – SĐH TRƯỞNG KHOA QL NGÀNH LỜI CẢM ƠN Tôi xin chân thành cảm ơn thầy Lê Tiến Thường tận tình hướng dẫn, giúp đỡ tạo điều thuận lợi tài liệu trang thiết bị để hồn thành luận văn Tơi xin chân thành cảm ơn quý thầy cô Khoa Điện-Điện Tử trường Đại Học Bách Khoa, người dạy dỗ, truyền đạt kiến thức định hướng nghiên cứu suốt khóa đào tạo sau đại học Cuối xin cảm ơn ba, mẹ, anh, chị, đồng nghiệp bạn bè giúp đỡ, động viên tơi suốt q trình học tập nghiên cứu Xin chân thành cảm ơn Nguyễn Phan Thanh Bửu LÝ LỊCH TRÍCH NGANG Họ tên: NGUYỄN PHAN THANH BỬU Ngày sinh: 07/04/1983 Lý lịch: ⋅ Nơi sinh: Thành Phố Biên Hòa, Tỉnh Đồng Nai ⋅ Thường trú : Xóm 1, Khu 2, Bàu Cá, Trung Hòa, Trảng Bom, Đồng Nai ⋅ Tạm trú : 497/1C Sư Vạn Hạnh, P.12, Q.10, Tp.HCM ⋅ Dân tộc : Kinh ⋅ Điện thoại : 0903.382 466 Tôn giáo: Khơng Email: buunpt@hptvietnam.com Q trình đào tạo: ⋅ 1997-2000: Trường Phổ Thông Năng Khiếu – Đại học Quốc Gia Tp.HCM (chuyên Toán) ⋅ 2000-2005: Đại Học Bách Khoa – Đại học Quốc Gia Tp.HCM Khoa Điện-Điện Tử - Chuyên ngành Điện Tử - Viễn Thông ⋅ 2005-2007: Đại Học Bách Khoa – Đại học Quốc Gia Tp.HCM Cao học ngành Kỹ thuật Điện tử Q trình cơng tác 12/2005: Công ty Cổ phần tin học HPTvietnam corperation MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG LỜI GIỚI THIỆU Các phương pháp Monte Carlo lớp thuật toán để giải nhiều toán máy tính theo kiểu khơng xác định, thường cách sử dụng số ngẫu nhiên (thường số giả ngẫu nhiên) Một ứng dụng cổ điển phương pháp việc tính tích phân xác định, đặc biệt tích phân nhiều chiều với điều kiện biên phức tạp, số ứng dụng khác lĩnh vực khoa học kỹ thuật ứng dụng xử lý tín hiệu hệ thống thơng tin viễn thơng Phương pháp Monte Carlo có vị trí quan trọng vật lý tính tốn nhiều ngành khác, có ứng dụng bao trùm nhiều lĩnh vực, từ tính tốn sắc động lực học lượng tử, mơ hệ spin có tương tác mạnh, đến thiết kế vỏ bọc nhiệt hay hình dáng khí động lực học đến xử lý tín hiệu điện tử viễn thông Các phương pháp đặc biệt hiệu giải phương trình vi-tích phân; ví dụ mô tả trường xạ hay trường ánh sáng mơ hình ảnh chiều máy tính, có ứng dụng trị chơi điện tử, kiến trúc, thiết kế, phim tạo từ máy tính, hiệu ứng đặc biệt điện ảnh, hay nghiên cứu khí quyển, ứng dụng nghiên cứu vật liệu laser Trong toán học, thuật toán Monte Carlo phương pháp tính số hiệu cho nhiều tốn liên quan đến nhiều biến số mà khơng dễ dàng giải phương pháp khác, chẳng hạn tính tích phân Hiệu phương pháp so với phương pháp khác tăng lên số chiều toán tăng Phương pháp Monte-Carlo ứng dụng cho nhiều lớp tốn tối ưu hóa, ngành tài Phương pháp Monte Carlo thực hiệu với số giả ngẫu nhiên, thay cho số ngẫu nhiên thực thụ, vốn khó tạo máy tính, đặc biệt hiệu cao xử lý tín hiệu Các số giả ngẫu nhiên có tính xác định , tạo từ chuỗi giả ngẫu nhiên có quy luật, sử dụng để chạy thử, chạy lại mô theo điều kiện trước Các số giả ngẫu nhiên mơ xử lý tín hiệu cần tỏ "đủ mức ngẫu nhiên", nghĩa chúng theo phân bố hay theo phân bố định trước, số lượng chúng đủ lớn Phương pháp Monte Carlo thường thực lặp lại số lượng lớn bước đơn giản, song song với nhau; phương pháp phù hợp cho máy tính Kết phương pháp xác (tiệm cận kết đúng) số lượng lặp bước tăng Luận văn trình bày phương pháp Monte Carlo ứng dụng vào xử lý tín hiệu Trong tập trung vào phương pháp: Markov Chain Monte Carlo (MCMC) methods Sequential Monte Carlo (SMC) methods ứng dụng chúng vấn đề xử lý tín hiệu như: ứng dụng mơ hình cân mù (blind equalization), ứng dụng giải chập chuỗi xung (deconvolution of impulsive sequence) , ứng dụng optimal filtering ứng dụng neural networks, Để đánh giá hiệu phương pháp này, luận văn tiến hành mơ Matlab giả lập mơ hình xử lý tín hiệu kit DSP TMS320C6711 Qua đó, so sánh đánh giá ưu khuyết điểm phương pháp, đưa nhận xét kết thu hướng phát triển đề tài Lời Giới Thiệu ii HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG Nội dung luận văn bao gồm phần: - Phần I: Xử Lý Tín Hiệu Model-Based Và Các Mơ Hình Dynamic Systems gồm chương o Chương 1: Xử Lý Tín Hiệu Model-Based trình bày vấn đề xử lý tín hiệu mơ cân mù, giải chập chuỗi xung, phân tích phổ,… o Chương 2: Các Mơ Hình Dynamic Systems trình bày vấn đề mơ hình khơng gian-trạng thái gồm mơ hình khơng gian trạng thái phi tuyến, mơ hình khơng gian-trạng thái trộn phi tuyến tuyến tính, mơ hình khơng gian-trạng thái tuyến tính, … - Phần II: Phương Pháp Monte Carlo Và Ứng Dụng gồm chương o Chương 3: Tổng Quan Về Phương Pháp Monte Carlo trình bày tổng quan phương pháp Monte Carlo, phương pháp Monte Carlo cổ điển, phương pháp lấy mẫu, … o Chương 4: Phương Pháp Markov Chain Monte Carlo trình bày phương pháp MCMC, thuật toán Metropolis-Hastings, thuật toán MetropolisHastings one-at-time lấy mẫu Markov tổng quát, lấy mẫu Gibb sampler, thuật toán Reversible jump MCMC, o Chương 5: Ứng dụng Markov Chain Monte Carlo trình bày ứng dụng phương pháp MCMC ứng dụng cân mù với thuật toán lấy mẫu single-site Gibbs sampler, thuật toán Block Gibb sampler, Data Augmentation … ứng dụng giải chập chuỗi xung với thuật toán Gibbs sampler+MH steps, thuật toán collapsed Gibbs samplers,… ứng dụng Reversible jump MCMC vào lựa chọn mơ hình Bayesian ứng dụng Reversible jump MCMC simulated annealing o Chương 6: Phương Pháp Sequential Monte Carlo trình bày phương pháp SMC, thuật toán SIR, lọc particel filter (PF), lọc marginalized particle filter, thuật toán particle smoother thuật tốn particle smoother thích nghi o Chương 7: Ứng dụng Sequential Monte Carlo trình bày lọc tối ưu (ứng dụng SIR), lọc trộn Kalman filter mơ hình khơng gian trạng thái Gaussian tuyến tính, lọc Gauss, lọc Cost-reference, lọc RBPF mạng Bayesian động, lọc Kalman mở rộng, lọc Unscented particle filter, ứng dụng SMC với MCMC step lựa chọn mơ hình Bayesian - Phần III: Mơ Phỏng Phương Pháp Monte Carlo Trong Xử Lý Tín Hiệu Và Một Số Ứng Dụng Khác gồm chương o Chương : Mô Phỏng MCMC thực mô thuật tốn phương pháp MCMC gồm mơ BER ứng dụng cân mù MCMC với kênh truyền fading, mơ thuật tốn reversible jump MCMC ứng dụng lựa chọn mơ hình Bayesian với detect tín hiệu robot data arm, mơ thuật tốn reversible jump MCMC simulated annealing o Chương : Mô Phỏng SMC thực mô phương pháp SMC ứng dụng vào blind detection kênh truyền fading, mô RBOF mơ hình Gauss mạng Bayesian động, tiến hành mô lọc Kalman mở rộng với thuật toán cực đại kỳ vọng(EM_expectation maximum)_phương Lời Giới Thiệu iii HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG pháp HySIR, ứng dụng EKF vào vấn đề price call option, ứng dụng Unscented paticle filter,… o Chương 10: Đánh Giá Kết Quả Mơ Phỏng trình bày kết mơ từ phương pháp Monte Carlo trên, so sánh với kết thực lý thuyết thông qua kết mô đánh giá hiệu suất thực phương pháp khả ứng dụng phương pháp MCMC SMC thuật toán cụ thể vào số vấn đề xử lý tín hiệu, huấn luyện mạng neuron network ứng dụng thực tiễn vào thống kê kinh tế,… - Phần IV: Mô Hình Hóa Phương Pháp Monte Carlo Trên DSP gồm chương o Chương 11: Tổng Quan Về Kit DSP Texas InTrusment TMS320C6711 trình bày tổng quan kit DSP TMS320C6711 gồm sơ đồ hệ thống kit DSP, cấu trúc thành phần C6711 nhớ, tổ chức tập lênh, CPU, định địa chỉ, ngắt, ghi … Chương trình bày mơ hình thí nghiệm kit DSP đáp ứng cho việc thực mơ hình hóa cho phương pháp MCMC SMC kit TMS320C6711 o Chương 12: Mơ Hình Hóa MCMC thực mơ hình hóa phương pháp MCMC kit DSP TMS320C6711 ứng dụng vào tốn tính tốn hiệu suất BER cân mù MCMC kênh truyền fading Phần lấy kết thu từ file kết tập tin.log, sau thực thi file chương trình mơ hình hóa (đã qua trình biên dịch Code Composer Studio v3.2) DSP TMS320C6711 xử lý kết excel, đưa vào Matlab để mô đồ thị Dựa vào kết đồ thị BER thu được, ta so sánh kết thu mơ hình hóa DSP so với kết mô Matlab kết lý thuyết o Chương 13: Mơ hình Hóa SMC thực mơ hình hóa phương pháp SMC ứng dụng vào tốn tính BER máy thu SMC kênh fading, so sánh kết thu mơ hình hóa với kết mô Matlab kết lý thuyết o Chương 14 : Đánh Giá Kết Quả Mơ Hình Hóa Trên DSP trình bày kết thu từ việc mơ hình hóa phương pháp MCMC SMC kit DSP, so sánh kết đánh giá khách quan hiệu suất thực kit DSP so với kết mô Matlab lý thuyết - Phần V: Kết Luận Hướng Phát Triển gồm chương o Chương 15: Kết Luận trình bày vấn đề làm được, hạn chế phương pháp Monte Carlo, phương pháp MCMC, SMC với thuât toán ứng dụng xử lý tín hiệu ứng dụng số vấn đề khác Phần đánh giá kết thực mô Matlab phương pháp q trình thực mơ hình hóa phương pháp kit DSP TMS320C76711, qua so sánh phương pháp với o Chương 16: Hướng Phát Triển trình bày hạn chế phương pháp Monte Carlo mở rộng phương pháp ứng dụng vào vấn đề khác, đưa hướng phát triển đề tài với việc ứng dụng phương pháp vào mơ hình hỗn hợp ứng dụng ưu điểm phương pháp phù hợp ứng dụng cụ thể Lời Giới Thiệu iv HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG ABSTRACT In many areas of signal processing, the trend of addressing problems with increased complexity continues This is best reflected by the forms of the models used for describing phenomena of interest Typically, in these models the number of unknowns that have to be estimated is large and the assumptions about noise distributions are often non-tractable for analytical derivations One major reason that allows researchers to resolve such difficult problems and delve into uncharted territories is the advancement of methods based on Monte Carlo simulations including Markov chain Monte Carlo sampling methods and Sequential Monte Carlo methods The aim of this thesis is to provide the basic knowledge of these methods and apply into signal processing: sample and/or maximize high-dimensional probability distributions, perform likelihood for complex non-Gaussian signal processing problems, applications for blind equalization, deconvolution of impulse sequences and optimal filtering, neural networks ….To evaluate these methods, we has simulated them by using Matlab and modelled them on DSP kit After that, will compare advantages and disadvantages between Monte Carlo methods, then elaborate on the most recent advances in the field and improve the applications of these methods into many other areas TÓM TẮT Nhu cầu xác định vấn đề cần thiết xử lý tín hiệu ngày gia tăng mạnh mẽ Điều thể qua mơ hình dùng để mơ tả tượng quan tâm xử lý tín hiệu Đặc trưng mơ hình số ẩn chưa biết cần đánh giá tương đối lớn giả định phân bố nhiễu khó kiểm sốt phân tích chi tiết Một nguyên nhân cho phép nhà nghiên cứu tiếp tục giải vấn đề khó khăn nghiên cứu đào sâu vấn đề chưa nghiên cứu trước phát triển phương pháp mô Monte Carlo gồm phương pháp Markov Chain Monte Carlo Sequential Monte Carlo Luận văn trình bày tổng quan vấn đề phương pháp Monte Carlo ứng dụng chúng xử lý tín hiệu như: lấy mẫu và/hoặc cực đại phân bố xác suất highdimensional, tính tốn likelihood xử lý tín hiệu complex non-Gaussian, ứng dụng cân mù, deconvolution chuỗi xung optimal filtering, neural networks….Để đánh giá phương pháp này, luận văn tiến hành mơ Matlab mơ hình hóa kit DSP Thơng qua so sánh ưu khuyết điểm phương pháp với nhau, nói thêm ứng dụng gần Monte Carlo xử lý tín hiệu hướng phát triển phương pháp ứng dụng lĩnh vực rộng lớn Tóm tắt luận văn HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG Nội dung luận văn bao gồm phần: - Phần I: Xử Lý Tín Hiệu Model-Based Và Các Mơ Hình Dynamic Systems gồm chương o Chương 1: Xử Lý Tín Hiệu Model-Based o Chương 2: Các Mơ Hình Dynamic Systems - Phần II: Phương Pháp Monte Carlo Và Ứng Dụng gồm chương o Chương 3: Tổng Quan Phương Pháp Monte Carlo o Chương 4: Phương Pháp Markov Chain Monte Carlo o Chương 5: Ứng dụng Markov Chain Monte Carlo o Chương 6: Phương Pháp Sequential Monte Carlo o Chương 7: Ứng dụng Sequential Monte Carlo - Phần III: Mô Phỏng Phương Pháp Monte Carlo Trong Xử Lý Tín Hiệu Và Một Số Ứng Dụng Khác gồm chương o Chương 8: Mô Phỏng MCMC o Chương 9: Mô Phỏng SMC o Chương 10: So Sánh Các Phương Pháp Và Đánh Giá - Phần IV: Mô Hình Hóa Phương Pháp Monte Carlo Trên DSP gồm chương o Chương 11: Tổng Quan Về KIT DSP Texas InTrusment C6711 o Chương 12: Mơ Hình Hóa MCMC o Chương 13: Mơ hình Hóa SMC o Chương 14 : So Sánh Các Phương Pháp Đánh Giá - Phần V: Kết Luận Hướng Phát Triển gồm chương o Chương 15: Kết Luận o Chương 16: Hướng Phát Triển Tóm tắt luận văn HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG Kit DSP kết nối với máy tính thơng qua cổng COM, tín hiệu hiển thị Oscilloscope Dữ liệu từ DSP đổ PC dựa vào công cụ RTDX (real time data exchange) CCS (code composer studio) hỗ trợ Trình biên dịch sử dụng CCSv3.2 Ngơn ngữ viết cho thuật tốn ngôn ngữ C Sau biên dịch thành công chương trình mơ cho thí nghiệm viết ngơn ngữ C thơng qua trình biên dịch CCSv3.2 PC, file thực thi thực chạy mô kit DSP RTDX (real time data exchange) cho phép truyền nhận liệu host DSP kit mà không làm gián đoạn ứng dụng Dữ liệu thu quan sát trực tiếp lưu lại cách dễ dàng thông qua OLE (Object Linking and Embedding) API (Application Program Interface) Hình 11.9 Giao tiếp data DSP Host Quá trình truyền liệu DSP host thể hình 11.9 Khi liệu truyền từ DSP tới Host, kênh xuất liệu DSP mở trước tiên Dữ liệu đổ vào kênh ghi vào đệm thiết lập thư viện RTDX DSP Bộ đệm gửi tới Host từ thư viện RTDX thông qua giao tiếp JTAG (Joint Team Action Group) [31] Host nhận liệu lưu vào đệm ghi vào tập tin log Để truyền liệu từ host đến DSP, DSP mở kênh nhập liệu DSP yêu cầu liệu từ kênh nhập, yêu cầu thư viện RTDX gửi thông qua giao tiếp JTAG tới thư viện nguồn Khi ứng dụng host ghi xong liệu vào đệm thư viện RTDX gửi liệu tới đích thơng qua giao tiếp JTAG Trình biên dịch CCSv3.2 biên dịch source code C viết cho thuật toán thành file thực thi chạy thí nghiệm kit DSP TMS320C6711 kết nối với PC Tập tin kết log được đọc chương trình Dumprtd chứa thư mục CCStudio_v3.2\Examples\hostapps\rtdx\dumprtd [28] Tập tin xuất dạng dumped log file dễ dàng đọc notepad excel Dữ liệu sau xử lý excel vẽ lại Matlab để hiển thị kết đồ thị so sánh kết thu với phương pháp khác Tổng quan Kit DSP TMS320C6711 149 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG CHƯƠNG 12 MƠ HÌNH HĨA MCMC TRÊN DSP KIT 12.1 Mơ hình hóa phương pháp MCMC ứng dụng Blind Equalization Mô Performance MCMC blind equalizer dựa single-site Gibbs sampler Phần tiến hành mô hình hóa phương pháp MCMC kit DSP TMS320C6711 (chi tiết tài liệu tham khảo [1] [32]) để performance MCMC bilnd equalized dựa giải thuật single-site Gibbs sampler Ta xây dựng mơ hình với kênh truyền four-tap ISI với hệ số complex tap là: h = [−0.1611 − j 0.4270 , 0.0467 + j 0.4429 , − 0.6204 + j 0.4436 , 0.1702 − j 0.0140]T (12.1) (Chú ý kênh được chuẩn hóa để đạt unit form, nghĩa h = ) Để giải vấn đề delay phase ambiguities vốn có blind equalizer, Gibbs π sampler, ta bắt buộc constraints thỏa | h3 |>| hl | l ∈ {1, 2, 4} < ∠h3 ≤ π Channel code ½ mã chập length-5 (với phát 23, 35 octal notation) Bộ đan xen interleaver phát cách ngẫu nhiên cố định cho tất mô Kích thước khối bits thơng tin 128.(nghĩa M=256) Các code bits điều chế theo BPSK (binary phase shift-keying), nghĩa bk ∈ {+1, −1} Trong việc tính tốn xác suất ký tự (symbol probabilities), Gibbs sampler lặp lại 100 runs cho khối data block với 50 bước lặp xem khoảng thời gian burn-in Dưới phân bố noninformative conjugate prior dùng Gibbs sampler Trong blind turbo equalization, lần lặp đầu tiên, xác suất prior symbols p(bk = +1) = 1/ cho tất symbols Trong bước lặp liên tiếp, xác suất prior symbol cung cấp giải mã kênh (channel decoder), tận dụng deceoder-assited convergence Đặc biệt, số bits sửa lỗi tạo giải mã vượt mức 1/3 tổng số bit (M/3), định khơng đạt hội tụ Gibbs sampler áp dụng lại lần cho khối data (data block)[17] Trước hết, ta biểu diễn performance MCMC blind equalization môi trường nhiễu Gaussian Ở đây, 100 mẫu hiển vẽ Gibbs sampler channel taps (h1 , h2 , h3 , h4 ) noise variance σ2 biểu diễn Các giá trị tương ứng quantities biểu thị Nhận thấy Gibbs sampler đạt hội tụ (convergence) cách nhanh chóng (chỉ 20 bước lặp đầu tiên) Mơ hình hóa MCMC DSP 150 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG 12.2 Kết thí nghiệm Ta thực thí nghiệm Kit DSP TMS320C6711 với Eb/No khác Đây thông số thay đổi q trình thực mơ hình hóa, với giá trị Eb/No, sau biên dịch thành cơng qua trình biên dịch CCSv3.2 PC, chương trình thực thi kit DSP TMS320C6711 ghi nhận kết tập tin log Tập tin kết log được đọc chương trình Dumprtd chứa thư mục CCStudio_v3.2\Examples\hostapps\rtdx\dumprtd Tập tin xuất dạng dumped log file ta dễ dàng đọc notepad excel Ta ghi nhận kết thực nghiệm kit từ file tập tin kết chương trình excel PC vào bảng data 12.1 tiến hành tổng hợp data thu công cụ Matlab hiển thị kết đồ thị Hình 12.1 Bảng kết tập tin kết log thí nghiệm mơ hình hóa phương pháp MCMC với BER performance MCMC blind equlizer kit DSP thể bảng sau: Bảng 12.1 Kết mô DSP kit với hiệu suất BER cân mù MCMC Eb/No -2 -1 1st iteration 0.162017 0.113891 0.095228 0.083347 0.06354 2st iteration 0.085294 0.038402 0.008934 0.001748 0.00017 3st iteration 0.069418 0.023358 0.006362 0.000902 8.4E-05 AWGN uncoded 0.152544 0.083179 0.065194 0.042463 0.01925 AWGN coded 0.039337 0.009119 0.001569 0.000323 2.1E-05 Thông qua kết thu từ thí nghiệm mơ hình hóa kit DSP TMS320C6711, ta thu mối quan hệ thơng số Hình 12.1 Hình 12.1 bit error rate (BER) performance MCMC blind equalization Code BER đầu blind equalizer vẽ cho bước lặp Đường cong tương ứng với bước lặp uncoded BER ngõ blind equalizer.Các đường cong uncoded coded BER in môi trường kênh nhiễu additive white Gaussian noise (AWGN) ISI-free biểu thị Hình 8.2 ( tương ứng với đường dashed solid) Nhận thấy , việc kết hợp thơng tin (extrinsic information ) cung cấp channel decoder xác suất prior symbol, MCMC blind equalizer đạt performance gần với receiver performance kênh AWGN lý tưởng vài bước lặp Mơ hình hóa MCMC DSP 151 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG Như vậy, trình thí nghiệm kit TMS320C6711 kiểm nghiệm khả áp dụng phương pháp MCMC MCMC bilnd equalizer, với thông số điều chỉnh dễ dàng, thời gian xử lý nhanh Phương pháp MCMC ứng dụng tốt mơ hình blind detection, nhận thấy BER tốt môi trường nhiễu AWGN coded, môi trường AWGN uncoded BER không tối ưu AWGN Đối với thực BER performace kênh truyền fading bước lặp đối số bước lặp lớn BER nhỏ có nghĩa mơ hình tối ưu Nếu số bước lặp tăng lên BER tiến đến giá trị giống BER performance mơi trường AWGN coded Hình 12.1 Hiệu suất BER cân turbo mù kênh truyền Gaussian ISI Nhận thấy, kết thí nghiệm kit DSP gần giống kết mô Matlab, phương pháp MCMC với ứng dụng cân mù kênh truyền fading chạy ổn định kit DSP TMS320C6711 với hiệu suất BER tốt nhiễu cộng trắng Gauss mã hóa (AWGN code), đặc tính BER bô cân sau bước lặp có thơng số BER thấp dùng bước lặp thơng số BER lớn Mơ hình hóa MCMC DSP 152 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG CHƯƠNG 13 MƠ HÌNH HĨA SMC TRÊN DSP KIT 13.1 Mô Blind Detection in fading channel Trong phần này, ta xây dựng mơ hình blind detection với máy thu SMC kênh tuyền fading thực thi kit DSP Các bước thực mơ hình hóa xuất phát từ mơ hình thí nghiệm 11.5 Tương tự mục 8.1, ta thiết kế đầu vào input, chuỗi data input chuỗi binary symblols xn ∈ {+1, −1} , giả sử ta muốn truyền chuỗi data qua kênh truyền fading mà mối quan hệ vào-ra (input-output) cho bởi: yn = α n xn + ωn (13.1) Ở thông số {ωn } chuỗi nhiễu i.i.d Gaussian, {α n } đặc trưng cho xử lý unobserved Rayleighfading mà mơ hình hóa ngõ bơ lọc low-pass filter bậc r ảnh hưởng nhiễu Gaussian {α n } = Ψ ( D) {un } Φ ( D) Với D toán tử back-shift D k un = un −k ; Φ( z ) = φr z r + + φ1 z + ; Ψ ( z ) = ψ r z r + +ψ z +ψ {un } chuỗi nhiễu white complex Gaussian với thành phần thực ảo độc lập, un ∼ N c (0, σ ) Vấn đề inference để ước lượng symbols truyền xn bước n, dựa tín hiệu thu { y1 , , yn +δ } với δ ≥ với trình thống kê fading process Ta sử dụng giải pháp SMC dựa lọc mixture Kalman filter (xem tài liệu [12]) để giải vấn đề Vì hạn chế mặt thời gian hạn chế kiến thức chuyên sâu kit DSP TMS320C6711 nên ta thực thí nghiệm mơ hình hóa kit DSP TMS320C6711 phần mơ hình để biểu diễn BER performance máy thu SMC blind receiver Ở đây, fading process mơ hình hóa ngõ mộ lọc Butterworth filter bậc r=3 ảnh hưởng nhiễu complex white Gaussian noise Tần số cắt lọc 0.05, tương ứng với tần số Doppler chuẩn hóa (với tốc độ symbol rate tương ứng (1/ T ) f d T = 0.05 ), fast-fading ) Đặc biệt, chuỗi hệ số fading {α n } mơ hình hóa ARMA(3,3) process đây: α n − 2.37409 + 1.92936α nα n − − 0.53208α n −3 = 10−2 (0.89409un + 2.68227un −1 + 2.68227un − + 0.89409un −3 ) (13.2) Với un ∼ N c (0,1) Các hệ số lọc chọn cho Var{α n } = Điều chế vi sai (Differentially modulation) thực để giải phase ambiguity Theo kinh ngiệm Mơ hình hóa SMC DSP 153 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG từ mô Matlab ta chọn số mẫu Monte Carlo máy thu SMC receiver thời điểm N=50 Ta thiết lập ngưỡng ESS resampling thiết lập N/10 Tóm lại ta có thơng số quan trọng mơ sau: Input xn ∈ {+1, −1} Mối quan hệ vào yn = α n xn + ωn Butterworth filter bậc r=3 fcutoff=0.05 Symbol rate (1/ T ) f d T = 0.05 Chuỗi hệ số fading {α n } thỏa α n − 2.37409 + 1.92936α nα n − − 0.53208α n −3 = 10−2 (0.89409un + 2.68227un −1 + 2.68227un − + 0.89409un −3 ) Var{α n } = Ngưỡng ESS=N/10 Số Monte Carlo samples N=50 Hình 13.1 Các thơng số mơ hình 13.2 Kết thí nghiệm Ta thực Kit DSP TMS320C6711 với giá trị SNR khác Tương tự mục 12.2, chương trình C mơ thí nghiệm biên dịch trình biên dịch CCSv3.2 thành cơng, khơng có lỗi, file thực thi tạo thực chạy mô kit DSP Giá trị kết ghi nhận file kết log File kết đọc xử lý excel PC ghi nhận vào bảng kết data 13.1 Bảng giá trị 13.1 (trong tập tin kết quả.log xử lý excel ) gồm thông số BER performance máy thu SMC kênh fading thu thơng qua mơ hình hóa kit DSP TMS320C6711 thể đây: Bảng 13.1 Kết thí nghiệm DSP kit TMS320C6711 với blind detection kênh fading SNR 10 15 20 25 30 35 δ=0 0.06823 0.04723 0.01924 0.007747 0.00425 0.001846 δ=1 0.06824 0.03567 0.009904 0.004064 δ=2 0.06819 0.03332 0.008718 0.00367 0.001543 0.000611 Known channelbound 0.04975 0.01953 0.006374 0.002012 0.000724 0.000179 Genie-aided bound 0.06826 0.03745 0.008923 0.003115 0.001221 0.000462 Differential detect 0.06833 0.05142 0.028877 0.020147 0.018504 0.01734 Mơ hình hóa SMC DSP 154 0.001786 0.000624 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG Vẽ lại giá trị thu Bảng 13.1 cơng cụ Matlab ta hình 13.1 Hình 13.1 hiển thị thông số Bit error rate (BER) performance theo signal-to-noise ratio (SNR) xác định Var{α n }/ Var{ωn } tương ứng với giá trị delay: δ = (concurent estimate) δ = , δ = Trong hình 13.1, ta vẽ known channel lower bound, genie-aided lower bound đường BER differential detector Từ hình vẽ thấy rằng, SMC blind receiver không đưa error floor, không giống differential detector Hơn với giá trị delay δ = , SMC blind receiver không đạt genie-aided lower bound Hình 13.1 BER performance of the SMC receiver in a fading channel Mơ hình hóa SMC DSP 155 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS MODELLING ON DSP THD : PGS.TS LÊ TIẾN THƯỜNG CHƯƠNG 14 ĐÁNH GIÁ KẾT QUẢ MƠ HÌNH HĨA TRÊN DSP Đối với phương pháp MCMC, ta mơ matlab thuật toán single-site Gibb sampler ứng dụng vào cân mù kênh truyền fading, thuật toán RJMCMC ứng dụng signal detection robot data arm, thuật tốn RJMCMC simulated annealing Tuy nhiên thời gian có hạn để so sánh với kết mơ matlab, ta thực mơ hình hóa kit DSP TMS320C6711 cho thuật tốn single-site Gibbs sampler ứng dụng vào MCMC blind detection kênh truyền Gaussian ISI Kết mơ hình hóa kit DSP thuật toán single-site Gibbs sampler kênh truyền Gaussian ISI phản ánh hiệu suất BER thực phương pháp bước lặp đầu tiên, bước lặp thứ thứ thực tác động nhiễu AWGN mã hóa khơng mã hóa Kết với số bước lặp lớn hiệu suất BER tốt (nghĩa BER nhỏ) Nhận thấy đường đặc tính BER tốt mơi trường tác động nhiễu AWGN mã hóa, MCMC blind equalizer đạt hiệu suất gần hiệu suất máy thu kênh AWGN lý tưởng vài bước lặp Kết mơ hình hóa kit DSP có sai số nhỏ so với kết mơ lý thuyết matlab cho thấy khả thực thi thuật toán kit DSP tốt Đối với phương pháp SMC ta mơ hình hóa SMC blind receiver số mẫu Monte Carlo N=50 với kênh truyền fading kit DSP TMS320C6711 cho thấy kết BER cho delta δ khác nhau, SMC blind receiver không đưa mức lỗi sàn, đường BER vẽ cho mức biên kênh chưa biết, genie-aided, detect vi sai, theo với giá trị delay δ =2, SMC blind receiver không đạt genie-aid lower bound So sánh kết matlab ta thấy kết mơ hình hóa đường cong BER kit DSP khơng xác mơ matlab nhiên sai số khơng nhiều, nói chung khả thực thi thuật toán phương pháp SMC kit DSP tương đối ổn định Kết mô hình hóa phương pháp Monte Carlo lần cho thấy khả ứng dụng rộng lớn phương pháp SMC MCMC xử lý tín hiệu model based số lĩnh vực khác Nếu triển khai mở rộng hơn, phương pháp Monte Carlo mơ hình hóa số mơ hình khác mơ hình Bayesian, mơ hình hỗn hợp Gaussian tuyến tính/phi tuyến, … ứng dụng thuật tốn tối ưu RJMCMC phương pháp MCMC HySIR, RBPF, UPF phương pháp SMC để mơ hình hóa kit DSP thực tế cho kết mô tốt Đánh giá kết mô hình hóa DSP 156 HV : Nguyễn Phan Thanh Bửu KẾT LUẬN & HƯỚNG PHÁT TRIỂN THD : PGS.TS LÊ TIẾN THƯỜNG PHẦN V KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN Phần V 157 HV : Nguyễn Phan Thanh Bửu KẾT LUẬN & HƯỚNG PHÁT TRIỂN THD : PGS.TS LÊ TIẾN THƯỜNG CHƯƠNG 15 KẾT LUẬN Luận văn nghiên cứu phương pháp Monte Carlo ứng dụng vào xử lý tín hiệu model-based số ứng dụng quan trọng khác huấn luyện mạng neural network, dự đoán price call option thống kê tài … Đề tài xây dựng thuật toán cho phương pháp Monte Carlo (phương pháp MCMC SMC ) ứng dụng xử lý tín hiệu dựa vào mơ hình: tính tốn BER, hàm likelihood, inference, phân bố joint filtering số ứng dụng khác thuật toán RJMCMC ứng dụng detect signal tín hiệu nhiễu với tín hiệu Gauss, lọc PF, RBPF, UPF, HySIR phương pháp SMC ứng dụng vào xử lý tín hiệu model-based mơ hình phi tuyến, tuyến tính, non-Gaussian, mơi trường Bayesian,… ứng dụng huấn luyện mạng neural network, phân tích liệu y khoa… Phần mơ luận văn tập trung vào số giải thuật ứng dụng số vấn đề xử lý tín hiệu quen thuộc số ứng dụng khác nhằm nêu lên thuận lợi khả ứng dụng rộng lớn phương pháp Monte Carlo Luận văn mơ thuật tốn phương pháp Monte Carlo ứng dụng xử lý tín hiệu số vấn đề quan trọng khác (neural networks,…) để thấy hiệu suất BER phương pháp kênh truyền fading khả ứng dụng phương pháp Monte Carlo mơ hình khơng gian trạng thái tuyến tính, phi tuyến, hỗn hợp, mơ hình Bayesian, mơ hình nhiễu Gauss,… vào vấn đề quan trọng thực tiễn Đối với mơ RJMCMC ứng dụng detect thành phần tín hiệu nhiễu , so sánh kết hiệu suất lựa chọn mơ hình Bayesian mơ hình peanaled likelihood (AIC, BIC/MDL) lượng nhiễu khác ta thấy tiêu chuẩn AIC BIC/MDL , mode tương ứng với tiêu chuẩn có posterior lớn nhất, phương pháp Bayesian, mode tương ứng với MAP xác suất mơ hình Thực thuật tốn RJMCMC simulated annealing với chuẩn AIC MDL Kết cho thấy tiêu chuẩn MDL, posterior tăng theo số bước lặp hội tụ đến giá trị cực đại, phương pháp Bayesian, kết cho thấy phương pháp cung cấp mơ hình xác Luận văn thực mô phương pháp SMC với thuật toán SIS,SIR, PF, RBPF, UPF, EKF ứng dụng detect signal, nhận dạng hệ thống, lựa chọn mơ hình, huấn luyện mạng neural network, … kết mơ cho thấy rằng, so sánh PF RBPF; RBPF có hiệu suất tốt PF so sánh kết ước lượng với giá trị thực, phương pháp RBPF phức tạp tính tốn địi hỏi nhiều phép tính phức tạp nhiều so với PF cần phép tính đơn giản nên phương pháp RBPF có thời gian Kết Luận 158 HV : Nguyễn Phan Thanh Bửu KẾT LUẬN & HƯỚNG PHÁT TRIỂN THD : PGS.TS LÊ TIẾN THƯỜNG thực thi lớn nhiều so với PF túy Thực chất phương pháp lọc khác UPF, RBPF mở rộng phương pháp PF, nhiên có ưu điểm nhiều, RBPF có lỗi detect thời gian so với PF với số lượng mẫu phân bố joint filtering mức nhiễu cao thấp Khi so sánh PF, EKF UPF, nhận thấy hiệu suất UPF tốt nhất, sau đến EKF PF Kết ước lượng cho thấy EKF co kết ước lượng nhỏ UPF UPF tối ưu điều kiện mô với biến thiết lập nhau, PF dùng 200 phần tử mô lặp 100 lần Ngồi ứng dụng xử lý tín hiệu, luận văn trình bày số ứng dụng quan trọng khác phương pháp Monte Carlo neural networks hay ứng dụng thực tế kinh tế tài chính, ngân hàng, Phương pháp Monte Carlo có khả ứng dụng cao lĩnh vực khác sinh học, trắc địa, máy tính, tài chính, khoa học kỹ thuật ứng dụng, ….với ứng dụng cụ thể phương pháp có điểm mạnh yếu khác Tuy nhiên với thuận lợi có sẵn phương pháp Monte Carlo giải tốt vấn đề phức tạp xử lý tín hiệu phi tuyến và/hoặc non-Gaussian Mỗi phương pháp có điểm mạnh yếu riêng hiệu suất thực thời gian thực thi giải thuật Đối với trường hợp xử lý tín hiệu cụ thể (linear, nonlinear, Gaussian, ) môi trường nhiễu khác (AWGN, uniform, …) ta sử dụng giải thuật phù hợp để đạt hiệu suất tối ưu với khả tính tốn phức tạp cho thời gian thực thi nhanh Vì thời gian có hạn nên luận văn sâu vào tất giải thuật Monte Carlo ứng dụng vấn đề xử lý tín hiệu vấn đề mở rộng Tuy nhiên với thực trình bày luận văn nêu lên điểm mạnh, yếu phương pháp Monte Carlo ứng dụng xử lý tín hiệu cụ thể c ũng nh ứng d ụng vào lĩnh vực khác Phần kết thực mô Matlab giả lập kit DSP đánh giá khách quan chi tiết phương pháp Monte Carlo xử lý tín hiệu Việc thực giả lập kit DSP địi hỏi nhiều cơng sức thời gian phải xây dựng mơ hình giả lập xử lý tín hiệu phần giả lập mơ hình kit DSP thực giả lập mơ hình bản, nhằm so sánh đánh giá kết với phần mô Matlab, data thu từ kit DSP tổng hợp biểu diễn đồ Matlab Luận văn thực mơ hình hóa số tht tốn phương pháp MCMC SMC ứng dụng xử lý tín hiệu model-based kit DSP TMS320C6711 Kết Luận 159 HV : Nguyễn Phan Thanh Bửu KẾT LUẬN & HƯỚNG PHÁT TRIỂN THD : PGS.TS LÊ TIẾN THƯỜNG Kết mơ hình hóa kit DSP thuật tốn single-site Gibbs sampler kênh truyền Gaussian ISI phản ánh hiệu suất BER thực phương pháp bước lặp thực tác động nhiễu AWGN mã hóa khơng mã hóa Nhận thấy đường đặc tính BER tốt mơi trường tác động nhiễu AWGN mã hóa, MCMC blind equalizer đạt hiệu suất gần hiệu suất máy thu kênh AWGN lý tưởng vài bước lặp Kết thực thu có sai số nhỏ so với kết mơ lý thuyết matlab cho thấy khả thực thi thuật toán kit DSP tốt Kết mơ hình hóa SMC blind receiver với kênh truyền fading kit DSP cho thấy SMC blind receiver không đưa mức lỗi sàn, đường BER vẽ cho mức biên kênh chưa biết, genie-aided, detect vi sai, theo với giá trị delay δ =2, SMC blind receiver không đạt genie-aid lower bound So sánh kết Matlab ta thấy khả thực thi thuật toán phương pháp SMC kit DSP tương đối ổn định Qua đó, ta nhận xét đánh giá kết thu từ thí nghiệm thực tế kit so với mơ matlab lý thuyết Thêm nữa, để sử dụng thành thạo tối ưu kit DSP, cần phải dành lượng thời gian cho việc nghiên cứu tập lệnh tài liệu hướng dẫn kit DSP Tuy nhiên, kết thu từ công việc có giá trị khách quan quan trọng việc đánh giá phương pháp với so với việc mô Matlab điều kiện lý tưởng Luận văn đặt nhiều khó khăn cần phải vượt qua Việc thấu hiểu phương pháp Monte Carlo đòi hỏi nghiên cứu thấu đáo thuật tốn tính chất lý thuyết tốn học đề tài nên khơng tránh khỏi khó khăn với hàng loạt cơng thức tính tốn túy mang tính lý thuyết tư phức tạp trừu tượng Với quỹ thời gian tương đối hẹp số lượng lớn công việc phải đạt được, thực khó khăn khơng nhỏ Tuy nhiên vốn kiến thức hạn chế matlab DSP kit luận văn trình bày vấn đề quan trọng phương pháp Monte Carlo xử lý tín hiệu số ứng dụng khác, việc mô matlab mơ hình hóa kết DSP thu kết thực tế quan trọng phản ánh ưu, khuyết điểm phương pháp Monte Carlo với thuật toán ứng dụng khác khả mở rộng ứng dụng cho lĩnh vực quan trọng khác y học, quân sự, kỹ thuật… Kết Luận 160 HV : Nguyễn Phan Thanh Bửu KẾT LUẬN & HƯỚNG PHÁT TRIỂN THD : PGS.TS LÊ TIẾN THƯỜNG CHƯƠNG 16 HƯỚNG PHÁT TRIỂN Vì thời gian có hạn nên luận văn sâu vào tất giải thuật Monte Carlo ứng dụng vấn đề xử lý tín hiệu vấn đề mở rộng Với vốn kiến thức không nhiều tốn học, xử lý tín hiệu, cơng cụ DSP kit matlab, luận văn chắc cịn nhiều thiếu sót hạn chế, với làm luận văn trình bày vấn đề quan trọng khả ứng dụng đề tài Với khả ứng dụng rộng rớn, phương pháp Monte Carlo có khả mở rộng ứng dụng nhiều lĩnh vực, lĩnh vực xử lý tín hiệu ta có xây dựng mơ hình giải thuật mở rộng cho ứng dụng xử lý tín hiệu trộn lẫn mixture linear, nonlinear, Gaussian, non-Gaussian đa dạng môi trường đa nhiễu để thấy hiệu phương pháp với hiệu suất tối ưu bước lặp lớn Tuy nhiên để thực ứng dụng phải đánh đổi lượng tính tốn phức tạp với thời gian thực thi cho việc mô mô Matlab mơ hình hóa kit DSP lớn Phần mơ hình hóa DSP kit trình bày mơ hình đơn giản để đánh giá, so sánh kết khả giải thuật lý thuyết Ta xây dựng mơ hình khác để thực giả lập DSp nhằm phân tích chuyên sâu hiệu suất khả đáp ứng phương pháp Monte Carlo Bởi phương pháp có ưu điểm riêng nên hướng phát triển ta kết hợp trộn lẫn phương pháp với (SIS, SIR, HySIR, SMC với RJMCMC step,…) để bổ sung ưu khuyết lẫn ứng dụng mô hình hỗn hợp phức tạp với tín hiệu tổng hợp, đa dạng môi trường nhiễu công đa thành phần khơng có quy luật rõ ràng Vì phương pháp Monte Carlo cần nhiều tính toán phức tạp với lượng data lớn phép tính gần xấp xỉ, phép tính đệ quy, hội tụ, phép tính xác suất thống kê,… thông qua nhiều bước lặp (càng lớn tốt) để kết tiến đến giá trị xác phải tính tốn nhiều hàm tốn học phức tạp likelihood, evidence, posterior liên quan đến nhiều phân bố khác : phân bố Gaussian, phân bố posterior, … nên khối lượng kiến thức tính tốn vơ lớn Do đó, ta phải sử dụng giải thuật cách khéo léo phù hợp với mục đích ứng dụng khác nhằm đạt hiệu suất cao mà tốn nhiều bước lặp hay khối lượng tính tốn phức tạp thời gian thực thi nhỏ Phương pháp Monte Carlo có khả ứng dụng rộng lớn nhiều lĩnh vực Ta mở rộng đề tài ứng dụng xử lý ảnh, machine learning , pattern analysis , neural networks , behavioral studies , phylogenetic analysis , multiuser detection CDMA , communication networks , seismology , synthetic aperture radar imagery.… Hướng Phát Triển 161 HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG TÀI LIỆU THAM KHẢO [1] A Doucet and X Wang, ”Monte Carlo methods for signal processing”, IEEE Signal Processing Mag., vol 22, no 6, pp 152-170, Nov 2005 [2] Petar M Djuri´c,” Monte Carlo Methods for Signal Processing:Recent Advances”, trang web: http://www.eurasip.org/content/Eusipco/2004/defevent/abstract/a1932.pdf [3] Wikipedia, bách Khoa tòan thư mở, “Phương pháp Monte Carlo”, trang web: http://vi.wikipedia.org/wiki/T%C3%ADch_ph%C3%A2n_Monte-Carlo [4] Kristie Seymore, Andrew McCallum, and Roni Rosenfeld “Learning Hidden Markov Model Structure for Information Extraction” AAAI 99 Workshop on Machine Learning for Information Extraction, 1999 [5] B D Anderson and J B Moore, “Optimal Filtering”, Prentice-Hall, New Jersey, 1979 [6] C Andrieu, P M Djuri´c, and A Doucet, “Model selection by Markov chain Monte Carlo computations”, Signal Processing,vol 81, pp 19–38, 2001 [7] M S Arulampalam, S Maskell, N Gordon, and T Clapp, “A tutorial on particle filters for online nonlinear/non-gaussian Bayesian tracking”, IEEE Transactions on Signal Processing,vol 50, no 2, pp 174–188, 2002 [8] M Boli´c, A Athalye, P M Djuri´c, and S Hong, “A design study for practical physical implementation of Gaussian particle filters”, IEEE Transactions on Circuits and Systems I, 2004 [9] M Boli´c, P M Djuri´c, and S Hong, “New resampling algorithms for particle filters”, in the Proceedings of IEEE InternationalConference on Acoustics, Speech, and Signal Processing, Hong Kong, 2003 [10] M Boli´c, P M Djuri´c, and S Hong, “Resampling algorithmsand architectures for distributed particle filters”, IEEE Transactions on Signal Processing, 2003 [11] R.Chen and J.S.Liu,”Mixture Kalman filters”, J.Roy Stastist Soc B, vol 62, no 3, pp.493-509, 2000 [12] R Chen, X.Wang and J.S Liu, “Adaptive joint detection and decoding in flat-fading channels via mixture Kalman filtering”, IEEE Trans Inform Theory, vol.46, no.6, 2079-2094, 2000 [13] R Chen, J.S Liu and X.Wang,”Convergence analyses and comparisons of Markov Chain Monte Carlo algorithm in digital communications”, IEEE Trans Signal Processing, vol.50, no.2,pp 255-270, 2002 [14] C Andrieu, M Davy, and A Doucet, “Efficent particle filter for jump Markov systems Application to time-varyimg autoregressions,”IEEE Transactions on Signal Processing, vol [15] M S Arulampalam, S Maskell, N Gordon, and T Clapp, “A tutorial on particle filters for online nonlinear/non-gaussian Bayesian tracking,” IEEE Transactions on Signal Processing, vol 50, no 2, pp 174–188, 2002 [16] N de Freitas, M Niranjan, A.H Gee, and A Doucet, “Sequential Monte Carlo methods to train neural network models,” Neural Computation, vol 12, no 4, pp 955–993, 2000 [17] X.Wang and R.Chen, “Blind turbo equalization in Gaussian and impulse noise”, IEEE.Trans Veh Technol Vol 50, no.6, pp 1092-1105, 2001 Tài liệu tham khảo xiii HV : Nguyễn Phan Thanh Bửu MONTE CARLO METHODS THD : PGS.TS LÊ TIẾN THƯỜNG [18] T Ghirmai, M F Bugallo, J M´ıguez, and P M Djuri´c, “A sequential Monte Carlo method for adaptive blind timing estimation and data detection,” IEEE Transactions on Signal Processing, 2004, submitted [19] T Ghirmai, J Kotecha, and P M Djuri´c, “Semi-blind equalization for time-varying channels using particle filtering,” Digital Signal Processing, 2004, to be published [20] A Doucet, S.J God sill and C.Andrieu, “On sequential Monte Carlo sampling methods for Bayesian filtering”, Statist Comput., vol.10, no.3, pp 197-208, 2000 [21] A Doucet, N.J Gordon, and V Krishnamurthy, “Particle filter for state estimation of Jump Markov linear systems”, IEEE, Trans Signal Processing, vol.49, no.3, pp 613624, 2001 [22] L.R.Rabiner,”A tutorial on hidden Markov models and selected applications in speech recognition”, Proc IEEE, vol.77, no.2, pp 257-286, 1989 [23] W R Gilks, S Richardson, and D J Spiegelhalter, Markov Chain Monte Carlo in Practice, Chapman & Hall, New York, 1996 [24] P J Green, “Reversible jump Markov chain Monte Carlo computation and Bayesian model determination,” Biometrika, vol 4, pp 711–732, 1995 [25] J Kotecha and P M Djuri´c, “Gaussian particle filtering”,IEEE Transactions on Signal Processing, vol 51, no 10, pp.2592–2601, 2003 [26] J Kotecha and P M Djuri´c, “Blind sequential detection for Rayleigh fading channels using hybrid Monte Carlo – recursive identification algorithms,” Signal Processing, accepted for publication [27] Gareth Paddock, “A user guide to using the Taxas instrument, digital signal processing board, TMS320C6711 DSK & PC based data plotting” Staffordshire University [28] Rulph Chassaing, “DSP appliacations using C and the TMS320C6x DSK”, John Wiley and Sons, 2002 [29] A Doucet, N de Freitas, and N Gordon, Eds., Sequential Monte Carlo Methods in Practice, Springer, New York, 2001 [30] J M´ıguez and P M Djuri´c, “Blind equalization of frequency selective channels by sequential importance sampling,” IEEE Transactions on Signal Processing, 2004, to be published [31] Application note TI code composer Studio RTDX feature , “RTDXbyJTAG.doc”, Sundance Multiprocessor technology LTD [32] “TMS320C6711, TMS320C6711B floating point digital signal processors”, Texas Instrument, 2002 [33] E Punskaya, C Andrieu, A Doucet, and W Fitzgerald, “Particle filtering for demodulation in fading channels with non-Gaussian additive noise,” IEEE Transactions on Communications, vol 49, no 4, pp 579–582, 2001 [34] M S Johnson and B W Junker, “Using data augmentation and Markov chain Monte Carlo for the estimation of unfolding response models,” Journal of Educational and BehavioralStatistics, vol 28, no 3, pp 195–230, 2003 [35] G.K Kaleh and R Vallet,”Joint parameter estimation and symbol detection for linear and nonlinear unknown channels”, IEEE, Trans Commun., vol.42, no.11,pp 24062413, 1994 Tài liệu tham khảo xiv HV : Nguyễn Phan Thanh Bửu ... cho phương pháp Monte Carlo (phương pháp MCMC SMC ) ứng dụng xử lý tín hiệu dựa vào mơ hình: tính tốn BER, hàm likelihood, số ứng dụng khác • Mơ thuật toán phương pháp Monte Carlo ứng dụng xử lý. .. tập trung vào số giải thuật ứng dụng số vấn đề xử lý tín hiệu quen thuộc số ứng dụng khác nhằm nêu lên thuận lợi khả ứng dụng rộng lớn phương pháp Monte Carlo Ngoài ứng dụng xử lý tín hiệu, luận... phát triển phương pháp mô Monte Carlo gồm phương pháp Markov Chain Monte Carlo Sequential Monte Carlo Luận văn trình bày tổng quan vấn đề phương pháp Monte Carlo ứng dụng chúng xử lý tín hiệu như: