Phân tích dữ liệu nhiều chiều với bài toán khôi phục mù

Đại Học Quốc Gia Tp Hồ Chí Minh TRƯỜNG ĐẠI HỌC BÁCH KHOA - PHAN ANH HUY PHÂN TÍCH DỮ LIỆU NHIỀU CHIỀU VỚI BÀI TOÁN KHÔI PHỤC MÙ Chuyên ngành: Mã số ngành: Kỹ thuật vô tuyến điện tử 2.07.01 LUẬN VĂN THẠC SĨ TP HỒ CHÍ MINH, tháng 07 năm 2005 CÔNG TRÌNH ĐƯC HOÀN THÀNH TẠI TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA TP HỒ CHÍ MINH Cán hướng dẫn khoa học : PGS.TSKH Nguyễn Kim Sách Cán chấm nhận xét : PGS.TS Vũ Đình Thành Cán chấm nhận xét : TS Nguyễn Như Anh Luận văn thạc só bảo vệ HỘI ĐỒNG CHẤM BẢO VỆ LUẬN VĂN THẠC SĨ TRƯỜNG ĐẠI HỌC BÁCH KHOA, ngày thaùng năm Đại Học Quốc Gia Tp Hồ Chí Minh TRƯỜNG ĐẠI HỌC BÁCH KHOA CỘNG HÒA Xà HỘI CHỦ NGHĨA VIỆT NAM Độc Lập – Tự Do – Hạnh Phúc NHIEÄM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên : PHAN ANH HUY Phaùi : Nam Ngày, tháng, năm sinh : .01-07-1979 Nơi sinh : Đà nẵng Chuyên ngành : Kỹ thuật vô tuyến điện tử Mã số: 2.07.01 I- TÊN ĐỀ TÀI : Phân Tích Dữ Liệu Nhiều Chiều Với Bài Toán Khôi Phục Mù II- NHIỆM VỤ VÀ NỘI DUNG : - Giải toán khôi phục mù với tín hiệu âm kỹ thuật thuật phân tích thống kê, tìm tách tín hiệu ban đầu từ hỗn hợp tín hiệu với số cảm biến số nguồn phát - Thực nghiệm đánh giá kết theo tiêu chí khách quan chủ quan III- NGÀY GIAO NHIỆM VỤ (Ngày bảo vệ đề cương ): IV- NGÀY HOÀN THÀNH NHIỆM VỤ (Ngày bảo vệ luận án tốt nghiệp): V- HỌ VÀ TÊN CÁN BỘ HƯỚNG DẪN (Ghi đầy đủ học hàm học vị) : PGS.TSKH NGUYỄN KIM SÁCH VI- HỌ VÀ TÊN CÁN BỘ CHẤM NHẬN XÉT (Ghi đầy đủ học hàm học vị) : PGS.TS VŨ ĐÌNH THÀNH VII- HỌ VÀ TÊN CÁN BỘ CHẤM NHẬN XÉT (Ghi đầy đủ học hàm học vò) : TS NGUYỄN NHƯ ANH CÁN BỘ HƯỚNG DẪN CÁN BỘ NHẬN XÉT CÁN BỘ NHẬN XÉT (Ký tên ghi rõ họ, tên, học hàm học vị) Nội dung đề cương luận văn thạc só Hội Đồng Chuyên Ngành thông qua Ngày tháng 07 năm 2005 TRƯỞNG PHÒNG ĐÀO TẠO SĐH CHỦ NHIỆM NGÀNH LỜI CẢM ƠN Luận văn hoàn thành vào ngày ý nghóa với riêng cá nhân tôi: ngày tháng (năm 2005) Đây trang sách viết cuối lại đặt vị trí trang trọng luận văn Ở bày tỏ tình cảm, lòng biết ơn chân thành đến người hỗ trợ hoàn thành luận văn nghiên cứu Cảm ơn ba mẹ Người luôn quan tâm lo lắng đến trình kết học nghiên cứu Chỉ chừng ba mẹ hiểu hoàn tất luận văn khóa học sau đại học Tôi đặc biệt may mắn làm việc khoảng thời gian dài liên tục thầy giáo PGS.TSKH Nguyễn Kim Sách Tôi xin cảm ơn dìu dắt hỗ trợ thầy Xin cảm ơn kinh nghiệm quý báu với phong cách làm nghiên cứu nghiêm túc khoa học thầy Và cảm ơn thầy hai lần hướng dẫn làm luận văn Hơn bốn năm đại học gần hai năm sau đại học, khoa điện điện tử trường đại học bách khoa TP.HCM thành địa điểm gắn bó không quên Cảm ơn ban chủ nhiệm khoa điện-điện tử, môn điện tử – viễn thông cán phòng quản lý sau đại học trường Tôi xin cảm ơn giọng đọc mà lấy làm liệu mẫu, cảm ơn tư liệu Đài Tiếng Nói Việt Nam Điều mà lẽ phải xin phép trước sử dụng nguồn âm trình nghiên cứu Cảm ơn Giáo sư công trình nghiên cứu đăng tạp chí khoa học Sự ủng hộ chia xẻ kiến thức kinh nghiệm khoa học chuyên gia giúp định hướng cho đề tài Và cuối xin cảm ơn đơn vị công tác, Trung Tâm Nghiên Cứu ng Dụng Khoa Học Kỹ Thuật Truyền Hình Cảm ơn Ban Giám đốc tạo điều kiện cho có điều kiện theo học hoàn thành luận văn TP HCM, ngày 01 tháng 07 năm 2005 PHAN ANH HUY TÓM TẮT LUẬN VĂN Luận văn đề cập đến kỹ thuật phân tích thống kê nhiều chiều mạnh mẻ: PHÂN TÍCH THÀNH PHẦN ĐỘC LẬP _ INDEPENDENT COMPONENT ANALYSIS áp dụng toán phân tách nguồn mù: tìm tách tín hiệu nguyên từ tập hỗn hợp tín hiệu Từ mô hình sở với nhiều ràng buộc giới hạn mà yêu cầu phân tích với số tín hiệu hỗn hợp tối thiểu số nguồn tín hiệu gốc (xem chương 2), toán đặt giải mở rộng cho phép gỡ bỏ phần ràng buộc quan hệ số tín hiệu nguồn tín hiệu khảo sát, mà đích nhắm đến giảm số cảm biến đến tối thiểu: cần cảm biến Tận dụng đặc tính “thưa” tín hiệu, giải pháp đề nghị gồm hai bước tiến hành giải toán: Bước 1: Ước lượng ma trận lai trộn sử dụng đặc trưng hình học vectơ cột ma trận miền biến đổi Mỗi cột định hướng cho phân bố tán xạ tín hiệu Bước 2: Phân tách tín hiệu, tìm lại dạng nguyên từ hỗn hợp có sẵn sử dụng kết bước Giải tóan quy hoach tuyến tính với thuật tóan FOCUSS dạng cải tiến Một kết luận mang ý nghóa quan trọng với kết luận vướng mắc số lượng cảm biến hoàn toàn đựơc gỡ bỏ: Luôn sử dụng cảm biến giải tóan phân tích mù, vấn đề lựa chọn phép biến đổi đủ mạnh đưa tín hiệu sang miền thể đặc trưng nguồn riêng biệt tốt Mục Lục MỤC LỤC LỜI CẢM ƠN TOÙM TẮT LUẬN VĂN MUÏC LUÏC CHƯƠNG 11 PHÂN TÍCH THỐNG KÊ 11 NHIEÀU CHIEÀU 11 1.1 GIỚI THIỆU VẤN ĐỀ 11 1.1.1 Tính Cần Thiết Của Phân Tích Thống Kê 11 1.1.2 Phân tích thống kê _ tiến đến mô hình thông minh 12 1.1.3 Các kỹ thuật phân tích thống kê 13 1.1.4 Khả tiềm phân tích nhiều chiều 13 1.2 PHÂN TÍCH ÑA BIEÁN: ICA 15 1.2.1 Tình hình nghiên cứu giới 19 1.2.2 Tình hình nghiên cứu nước 19 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Mục Lục 1.3 NỘI DUNG NGHIÊN CỨU 20 1.3.1 Mục tiêu nghiên cứu 20 1.3.2 Nhiệm vụ nghiên cứu 21 1.3.3 Phương pháp nghiên cứu 21 1.3.4 Dự kiến kết nghiên cứu 21 1.3.5 Tiến độ thực 22 1.4 CẤU TRÚC ĐỀ TÀI 22 CHƯƠNG 24 PHÂN TÍCH THÀNH PHẦN CHÍNH: CƠ SỞ & RÀNG BUỘC 24 2.1 ĐỊNH NGHĨA PHÂN TÍCH THÀNH PHẦN ĐỘC LẬP 24 2.1.1 Mô hình định nghóa ICA sở 24 2.1.2 Giới hạn ICA 25 2.1.3 Tính nhập nhằng (ambiguities) ICA 26 2.2 MINH HOÏA ICA 27 2.3 TRƯỜNG HP BIEÁN GAUSS 29 2.4 KẾT LUẬN 31 CHƯƠNG 32 GIẢI HỆ TUYẾN TÍNH & VẤN ĐỀ LIÊN QUAN 32 3.1 PHÁT BIỂU BÀI TÓAN HỆ PHƯƠNG TRÌNH TUYẾN TÍNH 32 3.2 BÀI TÓAN BÌNH PHƯƠNG TỐI THIỂU 34 3.3 BIỂU DIỄN TÍN HIỆU THƯA VÀ BÀI TOÁN GIẢM THIỂU TIÊU HAO NHIÊN LIỆU 36 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Mục Lục 3.3.1 Nghiệm xấp xỉ sử dụng phương pháp LS lặp 36 3.3.2 Thuật tóan FOCUSS 38 CHƯƠNG 41 BÀI TỐN KHƠI PHỤC MÙ 41 4.1 MÔ HÌNH TÍN HIỆU 41 4.2 CÁC MÔ HÌNH LAI TRỘN 42 4.2.1 Lai troän tức 44 4.2.2 Trộn Có Trễ 45 4.2.3 Trộn có vang 45 CHƯƠNG 47 ƯỚC LƯNG THAM SỐ LAI TROÄN 47 5.1 LAI TRỘN TỨC THÌ 47 5.1.1 Xác Định Hướng Sử Dụng Đồng Hiệp Biến Dữ Liệu 47 5.1.2 Thuật tóan hình học 49 5.2 LAI TRỘN CÓ TRỄ 50 5.3 TROÄN COÙ VANG 52 CHƯƠNG 54 PHỤC HỒI TÍN HIỆU 54 6.1 PHÂN TÍCH TỨC THỜI 54 6.2 TIỀN XỬ LÝ THƯA VỚI BIẾN ĐỔI TUYẾN TÍNH KHẢ NGHỊCH 56 6.3 MÔ HÌNH GIẢI THUẬT CHUNG 59 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Mục Lục CHƯƠNG 60 THỰC NGHIỆM VÀ ĐÁNH GIÁ 60 7.1 ĐÁNH GIÁ 60 7.2 NGUỒN TÍN HIỆU MẪU 62 7.3 CÁC THỰC NGHIỆM 62 7.3.1 Thử nghiệm 1: ba nguồn âm ba nguồn hỗn hợp 63 7.3.2 Thử nghiệm 2: ba nguồn âm hai nguồn hỗn hợp 64 7.3.3 Thử nghiệm 3: ba nguồn âm hai nguồn hỗn hợp 66 7.3.4 Thử nghiệm 4: ba nguồn âm hai nguồn hỗn hợp 67 7.3.5 Thử nghiệm 5: ba nguồn âm hai nguồn hỗn hợp 68 7.3.6 Thử nghiệm 6: ba nguồn âm hai nguồn hỗn hợp 68 7.3.7 Thử nghiệm 7: bốn nguồn âm hai nguồn hỗn hợp 69 7.3.8 Thử nghiệm 8: bốn nguồn âm hai nguồn hỗn hợp 70 7.3.9 Thử nghiệm 9: bốn nguồn âm hai nguồn hỗn hợp 71 7.3.10 Thử nghiệm 10: bốn nguồn âm hai nguồn hỗn hợp 72 7.3.11 Thử nghiệm 11: năm nguồn âm hai nguồn hỗn hợp 74 7.3.12 Thử nghiệm 12: bốn nguồn âm ba nguồn hỗn hợp 75 7.4 KẾT LUAÄN 76 7.4.1 Ma trận lai ghép 76 7.4.2 Tín hiệu phân tách 76 CHƯƠNG 78 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Mục Lục 10 KẾT LUAÄN 78 8.1 ĐÁNH GIÁ CHUNG 78 8.2 KHẢ NĂNG HÒAN THIỆN CỦA ICA? 81 TÀI LIỆU THAM KHẢO 84 CÁC BÀI BÁO & CÔNG TRÌNH 88 TÓM TẮT LÝ LỊCH TRÍCH NGANG 89 QUÁ TRÌNH ĐÀO TAÏO 89 QUÁ TRÌNH CÔNG TÁC 89 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Chương 75 Thực Nghiệm & Đánh Giá 7.3.12 Thử nghiệm 12: bốn nguồn âm ba nguồn hỗn hợp lai trộn tức Thử nghiệm sau tiến hành số nguồn bốn thay đổi số cảm biến, lúc số cảm biến Vấn đề lại cần thử nghiệm tăng số cảm biến lên hai cảm biến ví dụ khác thực toán phân tách mù? Thực chất việc sử dụng tối thiểu số cảm biến điều mong muốn nghiên cứu nhiều chuyên gia Trong tập tín hiệu thử nghiệm cộng với sử dụng ma trận lai 4x4 làm chuẩn để phát sinh nguồn ảo thử nghiệm Tiến hành tách cặp hai nguồn trộn, không đảm bảo độ xác cao tín hiệu ước lượng Trong trường hợp này, lý thuộc tính thưa tập liệu chưa đủ mạnh phép sử dụng hai cảm biến Tiến hành thử nghiệm ba cảm biến cho ta kết khả quan Lúc ma trận ước lượng tìm gần với ma trận lai; dạng tín hiệu biểu diễn so sánh tốt Điều đáng nói toán cần số cảm biến (3 cảm biến) số nguồn tín hiệu (4 nguồn phát) b c a x1 x2 x3 E = 0.1555, E1(Cor(S, S’)) = 1.4746, SNR = {14.3394 2.8790 -0.7801 d 3.4177}  0.1361 - 0.1102 0.9137 0.9595    A =  - 0.2592 0.3891 0.0452 - 0.4571   0.4055 0.2426 0.7603 - 0.4953     0.7730 0.3701 0.0122 - 0.8259    ˆ A =  0.0333 - 0.4626 0.3921 0.3966   0.6335 0.8056 0.9199 0.4009    Hình 7-13: Thử nghiệm 12, với nguồn phát cảm biến: a) Tín hiệu gốc; b) Tín hiệu trộn; c) Tín hiệu giải lai ghép; d) Tín hiệu ước lượng sau khôi phục, nâng cao chất lượng HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Chương 76 Thực Nghiệm & Đánh Giá 7.4 KẾT LUẬN Quan sát thử nghiệm tựu chung lại nhận xét sau: 7.4.1 Ma trận lai ghép Các ma trận lai ghép ước lượng gần với ma trận lai gốc Chỉ số đánh giá xuyên âm E1(A, Â) hầu hết thử nghiệm có giá trị nhỏ Điều làm sở cho ước lượng tìm lại tín hiệu nguyên xác Kết không phụ thuộc vào hệ số ma trận lai ghép (thực tế ma trận lai ghép phát sinh ngẫu nhiên, không chịu ràng buộc nào) Lưu ý thực mô hình lai trộn tức thời Việc ước lượng ma trận  đại đa số trường hợp cho thấy đạt mục tiêu số nguồn tín hiệu bất kỳ, tăng giữ số cảm biến mức tối thiểu cho phép 7.4.2 Tín hiệu phân tách Tín hiệu tìm đựơc đầy đủ đảm bảo dạng với tín hiệu nguyên bản, âm nghe phân biệt nguồn Phần lớn tín hiệu cần nâng cao chất lượng nhằm đảm bảo dạng sóng sạch, tiếng nghe trơn Quá trình ước lượng không tránh khỏi trường hợp giá trị mẫu liệu không liên tục theo thời gian Do xét liệu số điểm mẫu khác độc lập, phép biến đổi giảm thiểu tương quan tín hiệu theo thời gian, vọt lố biên độ xuất hiện, gây suy giảm chất lượng tín hiệâu Chính thiếu khâu nâng cao chất lượng tín hiệu Kết tín hiệu sau lọc trơn có dạng sóng gần với nguyên hơn, dễ nghe Âm tách không phụ thuộc vào đặc trưng tín hiệu như: tuổi, giới tính, tốc độ đọc (tuy nhiên cần không nhanh quá), … phải tuân thủ điều kiện độc lập HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Chương 77 Thực Nghiệm & Đánh Giá Đặc trưng công suất tín hiệu trật tự xếp tín hiệu không đảm bảo (và không cần thiết phải đảm bảo) Yêu cầu số mẫu tín hiệu cần thiết để phân tách nhỏ so với tín hiệu âm Chỉ cần tính theo mili giây ta có dư số mẫu liệu đáp ứng cho trình Chính nghó đến giải thuật online cao thực thời gian thực Yếu tố tốc độ lấy mẫu tín hiệu, rõ ràng tần số lấy mẫu cao chất lượng âm tốt hiển nhiên tín hiệu tìm không lý lại xấu Đặc trưng hình học phân bố nhóm liệu lúc thể rõ hơn, có nghóa chất lượng xác định ma trận trộn cao Quá trình thực cần biết mẫu liệu, tốc độ cao số mẫu nhiều Dẫn đến thời gian xử lý lâu cho thời lượng Với tốc độ lấy mẫu 44.1kHz thời gian xử lý lâu gấp 5-6 lần so với tín hiệu lấy mẫu 8kHz Do tiến hành phân tách tín hiệu có tốc độ lấy mẫu cao thực cần thiết, trường hợp khác nên chuyển tín hiệu dạng lấy mẫu 8kHz đủ Lựa chọn phép biến đổi thưa quan trọng Đặc trưng thể tốt tính xác ma trận ước lượng cao Ở không thực so sánh biến đổi Fourier wavelet, thực nghiệm cho thấy FFT đủ mạnh để cải thiện tính thưa tín hiệu (thể đồ thị tán xạ hay phân bố xác suất đồng thời) Tuy nhiên điểm lợi với khai triển wavelet ta giới hạn số điểm mẫu cần thiết cho ước lượng  Nguyên tắc chọn node đặc trưng thưa tốt Xấu chọn hết hệ số khai triển Lúc không lợi số điểm xử lý, với liệu gốc, với số điểm thực Fourier (chỉ ước lượng với hệ số thực đủ) Và cuối thử nghiệm cho phép sử dụng với nguồn cảm biến Có thể kết luận mạnh rằng: Luôn sử dụng cảm biến giải tóan phân tích, mù vấn đề lựa chọn phép biến đổi đủ mạnh đưa tín hiệu sang miền thể đặc trưng nguồn riêng biệt tốt HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 78 Chương KẾT LUẬN 8.1 ĐÁNH GIÁ CHUNG Luận văn đề cập đến kỹ thuật phân tích thống kê nhiều chiều mạnh mẻ: PHÂN TÍCH THÀNH PHẦN ĐỘC LẬP (INDEPENDENT COMPONENT ANALYSIS) Với phân tích tương lai hệ thống xử lý điều khiển thông minh, việc gặp phải tóan chồng trập tín hiệu, tóan phân tách tín hiệu từ tập vô số tín hiệu (mà thiếu hẳn thông tin biết trước), … thường gặp hệ thống đo đạc tín hiệu, điều khiển, nhận dạng, truyền dẫn hệ thống multimedia, bảo mật, … Chính nhìn mà luận văn chọn hướng tiếp cận vào tóan Từ mô hình sở với nhiều ràng buộc làm vướng víu người nghiên cứu áp dụng kỹ thuật vào thực tế (chương 2), mô hình trình bày mở rộng cho phép gỡ bỏ phần ràng buộc quan hệ số tín hiệu nguồn tín hiệu khảo sát, mà đích nhắm đến giảm số cảm biến đến tối thiểu Với mục tiêu vậy, đề tài thực trình bày từ dạng sở tóan ICA Giới thiệu điều kiện tiên bắt buộc tuân theo sử dụng kỹ thuật (mục 2.1.2) Bên cạnh giới hạn ICA Từ cách nhìn giới hạn mà vô số hướng phát triển cho kỹ thuật phân tích thống kê mẻ Việc thực giải tóan ICA đặc tả ma trận vuông cho kết rõ ràng nói hoàn thiện, nhiều nghiên cứu tài liệu xuất vấn đề ( [1], [27]) Tuy nhiên mở rộng tóan ICA với ma trận lai trộn không vuông đặc biệt ma trận chữ nhật ngang (khi số cột nhiều số hàng – tương ứng với trường hợp số nguồn phát nhiều số cảm biến) tài liệu đề cập hạn chế Ngay hai ấn chuyên ngành [1], [27] xem gối đầu cho tất nhà nghiên cứu ICA, BSS sở hữu tay HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 79 nhắc đến toán dạng khái niệm không đưa đến giải thuật hòan thiện Tất vấn đề dừng mức công bố tạp chí hữu hạn Quay lại phát biểu tóan ICA với dạng hệ phương trình tuyến tính, công cụ đại số tuyến tính đòn bẩy cho phương pháp giải nghiệm, tóan nhìn nhận lại góc nhìn nhất, phương trình tóan Chính cách đặt góc nhìn mà hướng đề tài đựơc gợi mở Một lần tóan lại đựơc phát biểu sang dạng khác: BÀI TOÁN QUY HOẠCH TUYẾN TÍNH Và để áp mô hình loạt điều kiện đặt cho tín hiệu khảo sát qua yêu cầu về: thuộc tính thưa Thuật tóan FOCUSS dạng cải tiến đựơc lựa chọn cho phương pháp giải hệ Với lý chương cung cấp nhìn liên hệ hệ phương trình tuyến tính, thuật tóan FOCUSS Cũng cần nhắc đây, hệ tuyến tính với ma trận đặc tả ma trận chữ nhật dọc, số hàng nhiều số cột, hay hiểu số phương trình nhiều số biến Dạng dễ giải hơn, việc lựa chọn phương trình hệ đưa dạng chuẩn ma trận vuông Với cách phát biểu lại tóan vậy, điều bắt buộc cần xây dựng mô hình chung thống cho tóan ICA, BSS, xem mô hình tóan ICA tổng quát Điều đựơc trình bày chương 4, với ba dạng tạo tín hiệu hỗn hợp: tức thời, có trễ có vang (bảng 4.1) Ứng với dạng mô hình ý tưởng phương pháp định hướng giải Cách thức chung tiến hành giải toán gồm hai bước: Bước 1: Ước lượng ma trận lai trộn sử dụng đặc trưng hình học vectơ cột ma trận Mỗi cột định hướng cho phân bố tán xạ tín hiệu Bước 2: Phân tách tín hiệu, tìm lại dạng nguyên từ hỗn hợp có sẵn sử dụng kết bước Chương đảm nhiệm chức 1, chương chịu trách nhiệm bước Kiến thức chương đựơc sử dụng lại phát huy hiệu Như nói đến trên, việc áp dụng số thuật tóan dựa tận dụng đặc trưng thưa tín hiệu Nhưng thông thường liệu thô không thỏa mãn yêu cầu thưa Trong trường hợp ma trận lai trộn vuông, kết đạt tốt, nhiên trường hợp xác định, yêu cầu thưa điều kiện tiên cho phân tách nguồn hòan hảo, biết trước ma trận lai ghép Trường hợp khác, liệu HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 80 không đủ thưa, biện pháp hữu dụng sử dụng phép biến đổi khả nghịch chuyển liệu lai trộn vào miền cải thiện tính thưa, thực phân tách miền này, biến đổi tín hiệu kết ngược lại miền ban đầu Chính lý đề tài trực tiếp thử nghiệm với hai phép biến đổi Fourier wavelet Mô hình chung cho tòan trình giới thiệu chương Với tòan trình phương pháp vậy, chương làm công việc đơn giản tiếng nói quan trọng minh chứng cho tính hiệu khả đề tài Với đa dạng tập liệu loạt thử nghiệm, từ dạng đầy đủ số nguồn thu số tín hiệu (thử nghiệm 1), đến dạng không đầy đủ (thử nghiệm đến thử nghiệm 12), số nguồn tín hiệu tăng dần giữ số cảm biến không đổi (2 cảm biến) Trong tất ứng dụng, tín hiệu phân tách đầy đủ tín hiệu ban đầu Điều chứng tỏ tòan trình thực đắn Nhưng vượt lên ngòai sức mong đợi ta giảm số cảm biến đến mức tối thiểu, (chỉ cần hai cảm biến) Phân tích nhận xét cho tòan kết thực nghiệm nêu lên nhiều khía cạnh xét đến yếu tố phụ nhằm nâng cao chất lượng tín hiệu phục hồi (kết luận chương 7) Và kết luận mang ý nghóa quan trọng với kết luận vướng mắc số lượng cảm biến hòan tòan đựơc gỡ bỏ: Luôn sử dụng cảm biến giải tóan phân tích mù, vấn đề lựa chọn phép biến đổi đủ mạnh đưa tín hiệu sang miền thể đặc trưng nguồn riêng biệt tốt Kết luận mang tòan ý nghóa đề tài, rút từ kết đề tài làm được: - Giải tóan ICA, BSS với ma trận lai Gỡ bỏ vướng bận giới hạn số cảm biến Thực ước lượng tìm lại ma trận lai ghép tín hiệu qua đặc trưng hình học mô tả đồ thị tán xạ hỗn hợp Áp dụng tóan quy hoạch tuyến tính với thuật tóan FOCUSS vào hồi phục tìm lại tín hiệu nguyên thủy Thực tóan ICA miền biến đổi Đánh giá khách quan chủ quan kết thực Nâng cao chất lượng tín hiệu, cải thiện đáng kể âm phân tách HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 81 Kết luận bao hàm ý nghóa sau: - - Hòan tòan thực phân tách tín hiệu mù với số nguồn thu hẳn so với nguồn tín hiệu, điều mong muốn cuối Để số cảm biến công việc chọn lựa phép biến đổi cho bật đặc trưng tín hiệu gốc riêng biệt Rõ ràng Fourier wavelet hai số nhiều biến đổi làm điều Tuy nhiên, tuyệt đối hai biến đổi này, vấn đề tìm phép biến đổi mà đặc trưng chung nguồn thể rõ ràng Thời gian cho thấy phép biến đổi ưu việt tái sử dụng cho tóan Đặc trưng tín hiệu gốc gì? Ở luận văn đặc tính thưa tín hiệu Ở thời điểm khác sử dụng phép biến đổi khác, đặc trưng bật riêng biệt nguồn khác 8.2 KHẢ NĂNG HÒAN THIỆN CỦA ICA? Đề tài dừng lại với vướng mắc mô hình ICA đựơc gỡ bỏ Điều có nghóa nhiều ràng buộc giới hạn khác cần tháo dỡ, hoàn chỉnh dần kỹ thuật phân tích ICA Bản thân giải pháp nêu lên cần hiệu chỉnh cải thiện, chẳng hạn phát triển kỹ thuật online, cải tiến số chất lượng, thời gian thực Thực tế làm ta phải suy nghó đặt câu hỏi khả xử lý siêu việt thể sinh vật tự nhiên Bản thân chúng ta, quan thính giác tiếp nhận lúc nhiều tín hiệu âm, thời điểm ta chủ động lắng nghe hiểu tín hiệu xác định, chủ động thay đổi tức linh động Bản thân lúc nghe nắm rõ nội dung nhiều nguồn âm Nói để thấy tai óc khối xử lý phân tách tín hiệu mù lý tưởng, điều kiện với đa dạng tập liệu Một hệ thống thành công mô tả hoạt động Hiện số hướng nghiên cứu liên hệ đến tổ chức đặc trưng cấu tạo sinh học tai từ đặc tả lại hệ thống xử lý ICA Có thể mô tả sau: HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 82 Sóng âm truyền không khí dạng lượng học rung động tai giữa, sau lan truyền rung động đến màng rung động nằm ốc tai Hình 8.1 cấu trúc ốc tai màng rung động phân chia ốc tai Màng rung hẹp cứng gần với phần cứng, rộng mềm gần cuối Các sóng tần số cao kích hoạt phần cứng mạnh phần cuối; ngược lại tần số thấp kích hoạt phần cứng yếu phần cuối ốc tai Tác động tần số từ thấp đến cao tới điểm màng rung tương ứng gần đồng thời Điều dẫn đến xem hoạt động màng rung ốc tai filter bank Các rung động màng rung gây tác động tạo đáp ứng thần kinh thính giác Do toàn trình nghe người bắt đầu với hoạt động lọc Hình 8.2 minh họa tạo đáp ứng âm tần số thấp cao ốc tai Nhiều nghiên cứu đề cập đến mô tai người dựa lọc số [19], [59], [60] Chẳng hạn tổ hợp 10 lọc thông dải với dải tần 300Hz xử lý tiếng nói tầm 300-3000Hz Dựa theo phân tích điều hòan tòan tự nhiên xử dụng hệ thống filter-bank cho mô tả hệ tín hiệu vào Màn g Spiral cone Divided by Basilar Membrane In on top half Out on bottom “Sloshing” Hình 8.1: Cấu tạo ốc tai người Tần số thấp Tần số cao Phân bố đáp ứng tần số ốc tai Hình 8.2: Cơ cấu đáp ứng tần số ốc tai người HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 83 Và dựa đặc trưng sinh học, Pearlmutter [6], [7] tiến hành nghiên cứu dạng hàm truyền HRTF (head-related transfer function), kỹ thuật hướng cho số kết khả quan Cái mục tiêu nhận tín hiệu cảm biến Đây hướng việc triển khai tiếp tục theo dạng nghiên cứu hoàn tòan hợp lý, theo phát triển kết nghiên cứu đề tài Bên cạnh hướng mở rộng khác xét đến mô hình phòng thật, có trễ, chồng trập tín hiệu, kể yếu tố nguồn di động, thay đổi số nguồn, xác định số nguồn, … Quay lại phần 1.1.4 ta bắt gặp hướng phát triển đề tài, vấn đề thời gian mà Cuối cùng, người viết xin khẳng định toán phân tách nguồn mù thách thức quan tâm hai thập kỷ qua, kỹ thuật ICA đạt thành công vài năm lại Độ phức tạp toán chịu ảnh hưởng khảo sát môi trường, số nguồn cần phân tách Bài tóan phát triển qua hai bước giải, ước lượng trình trộn ước lượng nguồn sau Biểu diễn thưa tạo khả hữu hiệu cao đóng vai trò quan trọng thành công tóan Tp HCM, 01/07/2005 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 84 TÀI LIỆU THAM KHẢO [1] A Cichocki, Shun-ichi Amari, “Adaptive Blind Signal and Image Processing” John Wiley & Sons (2002) [2] A Jourjine, S Rickard, and O Yilmaz Blind separation of disjoint orthogonal signals: Demixing N sources from mixtures In IEEE Conference on Acoustics, Speech, and Signal Processing (ICASSP2000), volume 5, pages 2985-2988, June 2000 [3] A Jung, F Theis, C.G Puntonet and E.W Lang, FastGeo - A Histogram Based Approach to Linear Geometric ICA ICA 2001 Proceedings, 2001 [4] Andreas Jung and Andreas Kaiser, “Considering Temporal Structures In Independent Component Analysis”, 2002 [5] Andreas Jung, “An introduction to a new data analysis tool: Independent Component Analysis” Regensburg, March 18th 2002 [6] B A Pearlmutter and A M Zador Monaural source separation using spectral cues In Fifth International Conference on Independent Component Analysis, LNCS 3195, pages 478ñ485, Granada, Spain, Sept 22-24 2004 Springer-Verlag [7] B A Pearlmutter, Asari and Zador, Sparse representations for the cocktail party problem (2004) [8] B D Rao and K Kreutz-Delgado An affine scaling methodology for best basis selection IEEE Trans Sag Proc., 47( 1):187-200, January 1999 [9] B D Rao and K Kreutz-Delgado Basis selection in the presence of noise In Conference Record of the 32rd Asilomar Conference on Signals, Systems and Computers, pages 752-756, 1998 [10] Bell, A J., and Sejnowski, T J (1995) An information maximisation approach to blind separation and blind deconvolution Neural Computation, 7(6), 1129-1159 [11] C E Cherry Some experiments in the recognition of speech, with one and two ears Journalof the Acoustical Society of America, 25:975-979, 1953 [12] C.G Puntonet, Ch Bauer, E.W Lang, M.R Alvarez, and B Prieto, Adaptive-geometric methods: application to the separation of EEG signals," P.Pajunen, J.Karhunen, eds., Independent Component Analysis and BlindSignal Separation (Proc ICA'2000), pp 273:278, 2000 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 85 [13] D.-T Pham and J.-F Cardoso Blind Separation of Instantaneous Mixtures of Non Stationary Sources IEEE Tr SP, 49(9): 1837–1848, September 2001 [14] D.-T Pham and P Garat Blind separation of mixture of independent sources through a quasimaximum likelihood approach IEEE Tr SP, 45(7): 1712–1725, July 1997 [15] D.-T Pham Contrast for blind separation and deconvolution of sources In Proc ICA 2001, San Diego, USA, December 2001 [16] Donoho, D.L & Johnstone, “Adapting to unknown smoothness via wavelet shrinkage” J Am Statist Ass., (1995), 1200–1224 [17] Donoho, D.L & Johnstone, “Minimax estimation via wavelet shrinkage” Ann Statist., (1998), 879–921 [18] Donoho, D.L., Johnstone, I.M., Kerkyacharian, G & Picard, D., “Wavelet shrinkage: asymptopia? (with discussion)” J R Statist Soc B, (1995), 301–337 [19] E Tsiang, "A Cochlea Filter Bank for Speech Analysis", Proc International Conference on Signal Processing Applications and Technology, pp.1674-1678, 1997 [20] F Theis, A Jung, E.W Lang and C.G Puntonet, A Theoretic Model for Linear Geometric ICA ICA 2001 Proceedings, 2001 [21] F Theis, A Jung, E.W Lang and C.G Puntonet, Linear Geometric ICA: Fundamentals and Algorithms Neural Computation 2003, 15: 419-439 [22] G Darmois Analyse geùneùrale des liaisons stochastiques Rev Inst Internat Stat., 21:2ñ8, 1953 [23] H.-M Park, H.-Y Jung, T.-W Lee, and S.-Y Lee On subband-based blind signal separation for noisy speech recognition Electronic Letters, Vol.35(23):20112012, 1999 [24] Hyvăarinen, A and Oja, E (1997) A fast fixed-point algorithm for independent component analysis Neural Computation, 9:1483–1492 [25] Hyvarien, A Fast and robust fixed-point algorithms for independent component analysis IEEE Transactions on Neural Networks, 10(3):626–634 [26] Hyvarien, A Survey on independent component analysis Neural Computing Surveys, (2):94–128 [27] Hyvarien, A., Karhunen, J., and Oja, E (2001) Independent Component Analysi¡s John Wiley & Sons, Inc [28] I Takigawa, M Kudo, A Nakamura, and J Toyama On the minimum l1-norm signal recovery in underdetermined source separation In Fifth International Conference on Independent Component Analysis, LNCS 3195, pages 193ñ200, Granada, Spain, Sept 22ñ24 2004 Springer-Verlag [29] I.F Gorodnitsky and B D Rao Sparse signal reconstruction from limited data using FOCUSS: A re-weighted minimum norm algorithm IEEE Trans Szg Proc., 45(3):600616,March 1997 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 86 [30] J Karvanen, A Cichocki, Measuring sparseness of noisy signals, Proceedings of Fourth International Symposium on Independent Component Analysis and Blind Signal Separation, ICA2003, pages 125-130, Nara, Japan, April 2003 [31] Jelmer Van Ast And Mika Ruusunen, “A Guide To Independent Component Analysis – Theory And Practice”, Report A No 23, March 2004 [32] Jiraporn Pongsiri, Parita Amin and Charles Thompson, “Modeling The Acoustic Transfer Function Of A Room” Center for Advanced Computation and Telecommunications, University of Massachusetts Lowell, MA 01854, USA [33] K Kreutz-Delgado and B D Rao Sparse basis selection, ICA and majorization: towards a unified perspective In 1999 IEEE International Conference on Acoustics, Speech, and Signal Processing, pages 1081-1084, 1999 [34] L Vielva, D Erdogmus, and J Principe Underdetermined blind source separation using a probabilistic source sparsity model In 2nd International Workshop on Independent Component Analysis and Blind Signal Separation, pages 675ñ679, Helsinki, Finland, June 19-20,2000 [35] L Vielva, D Erdogmus, C Pantaleon, I Santamaria, J Pereda, and J Principe Underdetermined blind source separation in a time-varying environment In J Principe and H Bourlard, editors, Proceedings, IEEE International Conference on Acoustics, Speech and Signal Processing, volume 3, pages 3049-3052, 2002 [36] Lauri Savioja, Modeling Techniques for Virtual Acoustics, Helsinki University of Technology, 1999 [37] Luengo, D Santamaria, I Vielva, L Pantaleon, C., Underdetermined blind separation of sparse sources with instantaneous and convolutive mixtures, IEEE Publication Date: 1719 Sept 2003 On page(s): 279- 288 ISSN: 1089-3555 ISBN: 0-7803-8177-7 [38] M Aoki, M Okamoto, S Aoki, H Matsui, T Sakurai, and Y Kaneda Sound source segregation based on estimating incident angle of each frequency component of input signals acquired by multiple microphones Acoustic Science and Technology, 22(2):149ñ157, 2001 [39] M S Lewicki and T J Sejnowski, Learning overcomplete representations,"Neural Computation, 1998 [40] Michael Zibulevsky and Barak A Pearlmutter Blind Source Separation by Sparse Decomposition in a Signal Dictionary Neural Computation, 13(4):863-882 2001 [41] O Yilmaz and S Rickard Blind separation of speech mixtures via time-frequency masking IEEE Transactions on Signal Processing, 52(7):1830ñ1847, July 2004 [42] P Bofill and M Zibulevsky, ``Blind separation of more sources than mixtures using sparsity of their short-time fourier transform,'' International Workshop on Independent Component Analysis and blind Signal Separation , Helsinki, Finland, 19-22 June 2000, pp 87 92 [43] P Bofill and M Zibulevsky Underdetermined blind source separation using sparse representations Signal Processing, 81(11):2353-2362, 2001 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 87 [44] P Pajunen, J.Karhunen,eds., Independent Component Analysis and Blind Signal Separation (Proc.ICA'2000), pp 87-92, 2000 [45] Paul D O'Grady and Barak A Pearlmutter, Hard-LOST: Modified k-Means for Oriented Lines, Proceedings of the Irish Signals and Systems Conference 2004, pages 247-252 [46] Paul D O'Grady and Barak A Pearlmutter Soft-LOST: EM on a Mixture of Oriented Lines ICA2004, September 22-24, 2004, Granada, Spain, pages 430-436 [47] Paul D O'Grady, Barak A Pearlmutter and Scott T Rickard, Survey of Sparse and NonSparse Methods in Source Separation, to appear in IJIST (International Journal of Imaging Systems and Technology), 2005 [48] R H Lambert Multichannel Blind Deconvolution: FIR Matrix Algebra and Separation of Multipath Mixtures PhD thesis, Univ of Southern California, 1996 [49] S Choi, A Cichocki, H._M Park and S.-Y Lee: "Blind source separation and independent component analysis: A review", Neural Information Processing - Letters and Reviews, Vol 6, No.1, pp.1-57, January 2005 [50] S Jog and A Ingle, "Sound Restoration in Damaged Accoustical Recording", IEEE Transactions of Acoustics, Speech and Signal Processing, 1992 [51] Simon Godsill and Peter Rayner, Digital Audio Restoration, Dept of Engineering University of Cambridge,Cambridge, U.K [52] Simoncelli, E P., And Adelson, E H Subband Transforms In Subband Image Coding, J W Woods, Ed Kluwer Academic Publishers, Norwell, MA, 1990 [53] Simoncelli, E P., Freeman, W T., Adelson, E H., And Heeger, D J Shiftable Multi-Scale Transforms IEEE Transactions on Information Theory, Special Issue on Wavelets 38 (1992), 587–607 [54] Soorian Raman, Removing Noise From Vinyl Lp Recordings With Wavelet Transform, Department of Electrical and Computer Engineering, University of Queensland October 1997 [55] T Lee, M S Lewicki, M Girolami, and T J Sejnowski, Blind source separation of more sources than mixtures using overcomplete representations, IEEE Signal Processing Letters, vol 6, no 4, pp 87-90, 1999 [56] Tadeusz Ulrych and Sam Kaplan, Blind Deconvolution via Independent Component Analysis Department of Earth and Ocean Sciences, University of British Columbia, BC, Canada, 2002 [57] Toâ Cẩm Tú, Nguyễn Huy Hoàng, Phân Tích Số Liệu Nhiều Chieàu NXB KHKT, 2002 [58] Y Li, A Cichocki, and S Amari: "Analysis of sparse representation and blind source separation", Neural Computation, Vol 16, No 6, pp 1193-1234, June 2004 [59] Y Qi, P.S Krishnaprasad, and S Shamma The subband- based independent component analysis In Proceedings of ICA’2000, pages 19–22, 2000 [60] Yu Mao, Real-time Blind Separation and Deconvolution of Real-world signals Number: CAAR MS 2003-1, 2003 HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 88 CÁC BÀI BÁO & CÔNG TRÌNH [1] P A Huy, Máy chiếu phim ngày nay, TV Science & Technology, No – 1, (2002) [2] P A Huy, MPEG-4, TV Science & Technology, No -2 (2002) [3] P A Huy, Xử lý ảnh song song, TV Science & Technolog, No – -3, (2002) [4] P.A Huy, Đặng Thành Tín, Nguyễn Kim Sách, Lọc Nhiễu Gauss Trên nh Động Bằng Kỹ Thuật Coring Và Biến Đổi Wavelet, Hội nghị Khoa Học Bách Khoa, 2002 [5] Nguyen Kim Sach, Phan Anh Huy, Nguyen Lan Anh, Digital Video Restoration System (DVRS) for Broadcasting Purpose, REV 8th, (2002) [6] P A Huy, Mô hình thống kê nhiễu Các phương pháp nhận dạng nhiễu, TV Science & Technology, (2003) [7] P A Huy, “Phương pháp tự động nhận dạng khôi phục nhiễu băng tư liệu ”, Đề tài cấp ngành, VTV 2004 [8] P.A Huy, Nguyen Lan Anh and Nguyen Kim Sach, A New Affine Transform Model: 9Parameter Model, ISASE, HCM 2004 [9] P.A Huy, Nguyen Lan Anh and Nguyen Kim Sach, A Prof D.SC Automatic Identification of the Gaussian White Noise In Image and Video Archives REV 04, SESSION IMAGE AND AUDIO PROCESSING [10] Nguyen Lan Anh, Phan Anh Huy, Nguyen Kim Sach, A video stabilization proposal using a nine parameter affine model REV 04, SESSION IMAGE AND AUDIO PROCESSING HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH Tài Liệu Tham Khảo 89 TÓM TẮT LÝ LỊCH TRÍCH NGANG Họ tên: PHAN ANH HUY Ngày, tháng, năm sinh: Địa liên lạc: 01-07-1979 Nơi sinh: Đà Nẵng 171 Lý Chính Thắng, Quận 3, TP Hồ Chí Minh QUÁ TRÌNH ĐÀO TẠO Từ 1997 đến 2002: học đại học Khoa Điện – Điện Tử, trường Đại Học Bách Khoa Tp Hồ Chí Minh Từ 2003 đến 2005 : học sau đại học chuyên ngành Kỹ Thuật Vô Tuyến – Điện Tử, trường Đại Học Bách Khoa Tp Hồ Chí Minh QUÁ TRÌNH CÔNG TÁC Từ 2002 đến 2005: công tác Trung Tâm Nghiên Cứu Ứng Dụng Khoa Học Kỹ Thuật Truyền Hình- Đài Truyền Hình Việt Nam HỌC VIÊN: PHAN ANH HUY GVHD: PGS.TSKH NGUYỄN KIM SÁCH ... : Phân Tích Dữ Liệu Nhiều Chiều Với Bài Toán Khôi Phục Mù II- NHIEÄM VỤ VÀ NỘI DUNG : - Giải toán khôi phục mù với tín hiệu âm kỹ thuật thuật phân tích. .. phân tích xấp xỉ, phân tích phân loại, phân đoạn, phân tích hồi quy, phân tích hiệp phương sai, phân tích thành phần độc lập, … 1.1.4 Khả tiềm phân tích nhiều chiều Như đề cập lý hiển nhiên phân. .. KIM SÁCH Chương 14 Phân Tích Thống Kê Nhiều Chiều Hình 1.1: Sơ đồ khối tổng quát phân tách tín hiệu mù Phân tách mù giải thuật tiêu biểu phân tích số liệu nhiều chiều: phân tích thành phần độc