Tách mù các nguồn tín hiệu dùng phương pháp phân tích các thành phần độc lập

TRƯỜNG ĐẠI HỌC BÁCH KHOA Tp.HCM CAO HỌC NGÀNH VTĐT \’[ Luận văn cao học: GVHD HVTH MS Lớp : Thầy PGS.TS Lê Tiến Thường : Đặng Việt Hùng : 01403315 : Cao học K14 - VTĐT Tháng - 2005 LỜI CẢM ƠN Y™Z Đầu tiên em xin bày tỏ lòng biết ơn đến quý Thầy Cô trường Đại học Bách Khoa, đặc biệt quý Thầy Cô Khoa Điện – Điện Tử trường Đại Học Bách Khoa TP.HCM, tận tình dạy, truyền đạt kiến thức tạo điều kiện thuận lợi cho em suốt trình học tập vừa qua Em xin chân thành cảm ơn Thầy Lê Tiến Thường quan tâm theo dõi, tận tình hướng dẫn động viên suốt trình thực luận án tốt nghiệp Và em xin gửi đến gia đình bạn bè xung quanh, người bên cạnh giúp đỡ tinh thần vật chất để em hoàn thành luận văn Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG Mục Lục Y[z\Z Trang Lời cám ơn Abstract PHẦN 0: GIỚI THIỆU……………………………………………………………………………………………………………………….1 Tổng quan đề tài…………………………………………………………………………………………………………………… Tổ chức báo cáo luận văn ……………………………………………………………………………………………1 Công việc liên quan………………………………………………………………………………………………………… PHẦN I: LÝ THUYẾT……………………………………………………………………………………………………………………… Chương1: Các thống kê sử dụng hệ thống thông tin số………………………………………… 1.1 Các biến ngẫu nhiên hàm xác suất…………………………………………………………………… 1.1.1 Xác suất tần suất tương ứng ………………………………………………………………………………… 1.1.2 Các biến ngẫu nhiên ……………………………………………………………………………………………………… 1.1.3 Hàm phân bố tích lũy CDF hàm mật độ xác suất PDF ………………………… 1.1.4 Trung bình toàn ………………………………………………………………………………………………………… 1.1.5 Moment ……………………………………………………………………………………………………………………………… 1.1.6 Variance σ2 (phương sai)……………………………………………………………………………………………… 1.1.7 Độ lệch tiêu chuẩn σ: bậc hai variance……………………………………… 1.2 Các PDF CDF thường gặp hệ thống thông tin ………………………………………… 1.2.1 Gauss hay hàm mật độ xác xuất chuẩn………………………………………………………………… Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG 1.2.2 Định lý giới hạn trung tâm………………………………………………………………………………………… Chương 2: Không gian vector, không gian Euclid………………………………………………………………… 2.1 Khái niệm không gian vector……………………………………………………………………………………………… 2.2 Không gian hệ sinh …………………………………………………………………………………………………… 10 2.2.1 Định nghóa không gian con…………………………………………………………………………………………… 10 2.2.2 Tổ hợp tuyến tính họ vector …………………………………………………………………… 10 2.2.3 Không gian sinh họ vector…………………………………………………………………… 10 2.2.4 Định nghóa hệ sinh không gian vector……………………………………………………………… 10 2.3 Họ vector độc lập tuyến tính phụ thuộc tuyến tính………………………………………… 11 2.4 Không gian hữu hạn chiều sở nó………………………………………………………………… 11 2.4.1 Khái niệm không gian n chiều……………………………………………………………………………… 11 2.4.2 Cơ sở không gian n chiều……………………………………………………………………………………… 11 2.4.3 Những tính chất sở số chiều ……………………………………………………………………… 12 2.5 Tích vô hướng không gian có tích vô hướng………………………………………………………… 12 2.5.1 Nhắc lại tích vô hướng hai vector hình học…………………………………………………… 12 2.5.2 Tích vô hướng không gian vector không gian có tích vô hướng…… 13 2.5.3 Độ dài vector……………………………………………………………………………………………………………… 13 2.5.4 Sự vuông góc hai vector………………………………………………………………………………………… 14 2.5.5 Họ vector trực giao…………………………………………………………………………………………………………… 14 2.5.6 Quá trình trực giao hóa Gram–Smidt ……………………………………………………………………… 15 2.5.7 Tính độc lập tuyến tính họ vector trực giao………………………………………… 16 2.5.8 Sự tồn sở trực chuẩn không gian Euclid n chiều ………………………… 16 2.5.9 Hình chiếu vector lên không gian con…………………………………………… 17 2.6 Bài toán đổi sở……………………………………………………………………………………………………………………… 18 2.6.1 Đặt toán………………………………………………………………………………………………………………………… 18 2.6.2 Ma trận chuyển ………………………………………………………………………………………………………………… 18 Chương 3: Trị riêng vector riêng toán tử tuyến tính…………………………………………… 21 3.1 Nhắc lại khái niệm toán tử tuyến tính số tính chất liên quan……………… 21 3.1.1 Định nghóa ánh xạ tuyến tính toán tử tuyến tính…………………………………………… 21 3.1.2 Các phép toán ánh xạ tuyến tính………………………………………………………………………… 21 3.1.3 Sự đẳng cấu không gian n chiều với Rn ………………………………………………………… 21 3.2 Ma trận ánh xạ tuyến tính…………………………………………………………………………………………… 22 3.2.1 Khái niệm ma trận ánh xạ tuyến tính……………………………………………………………… 22 3.2.2 Ma trận đồng dạng…………………………………………………………………………………………………………… 22 3.3.2 Ma trận ánh xạ tuyến tính thông qua phép biến đổi sở……………………… 22 3.3 Trị riêng vector riêng ma trận ………………………………………………………………………… 23 3.3.1 Khái niệm trị riêng vector riêng ma trận………………………………………………… 23 3.3.2 Phương trình đặc trưng …………………………………………………………………………………………………… 24 Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG 3.3.3 Trị riêng ma trận đồng dạng………………………………………………………………………………… 24 3.3.4 Tìm vector riêng ma trận …………………………………………………………………………………… 25 3.3.5 trị riêng ma trận đối xứng …………………………………………………………………………………… 26 3.4 Vấn đề chéo hoá ma trận ……………………………………………………………………………………………………… 27 3.4.1 Ma trận chéo hóa …………………………………………………………………………………………………… 27 3.4.2 Quy trình chéo hóa ma trận………………………………………………………………………………… 27 3.5 Vấn đề chéo hóa trực giao …………………………………………………………………………………………………… 27 3.5.1 Khái niệm chéo hóa trực giao …………………………………………………………………………………… 27 3.5.2 Chéo hóa trực giao ma trận đối xứng ……………………………………………………………………… 27 3.5.3 Một số tính chất trị riêng ma trận đối xứng…………………………………………… 28 3.5.4 Quy trình chéo hóa trực giao ma trận đối xứng…………………………………………… 28 Chương 4: Tổng quan lý thuyết ICA …………………………………………………………………………………… 29 4.1 Cơ sở định nghóa ………………………………………………………………………………………………………… 29 4.1.1 Mô tả toán…………………………………………………………………………………………………………………… 29 4.1.2 Tính không rõ ràng ICA………………………………………………………………………………………… 29 4.1.3 Tính độc lập………………………………………………………………………………………………………………………… 30 4.1.4 Không tương quan – Dạng độc lập yếu hơn…………………………………………………………… 31 4.1.5 Vấn đề khôi phục tín hiệu Gauss…………………………………………………………………………………31 4.2 Tiền xử lý ICA …………………………………………………………………………………………………………………………… 31 4.2.1 Centering (chuyển khối joint density trung tâm)…………………………………………… 31 4.2.2 Whitening …………………………………………………………………………………………………………………………… 32 4.2.2.1 Giới thiệu Principal Component Analysis (PCA) …………………………………… 32 i) Thực PCA phương pháp tối đa hóa phương sai…………………………32 ii) PCA phương pháp nén sai số bình phương trung bình nhỏ nhất… 33 iii) Chọn lựa số thành phần chính…………………………………………………………………… 33 iv) PCA cách học trực tuyến (on-line learning)……………………………………… 34 4.2.2.2 Whitening ………………………………………………………………………………………………………………… 35 4.3 Tính Nongausss ICA cách đo tính Nongausss kinh điển ……………………… 36 4.3.1 Tính độc lập tính Nongauss …………………………………………………………………………………… 36 4.3.2 Đo lường tính độc lập (Nongausss) tối đa hóa tính độc lập……………………… 37 4.3.2a Đo lường tính Nongausss Kurtosis ……………………………………………………… 37 4.3.2b Thuật toán Gradient sử dụng kurtosis…………………………………………………………… 38 4.3.2c Đo lường tính Nongausss negentropy (entropy âm)……………………… 39 4.3.2d Thuật toán gradient cho negentropy……………………………………………………………… 40 4.3.3 ICA cho nhiều đơn vị……………………………………………………………………………………………………… 41 4.3.4 Tóm tắt ……………………………………………………………………………………………………………………………… 42 Chương 5: Giới thiệu FPGA Spartan-3 ngôn ngữ VHDL …………………………………………… 43 5.1 FPGA cấu trúc FPGA ……………………………………………………………………………………………………… 43 5.1.1 Giới thiệu FPGA Spartan-3 Starter Kit ………………………………………………………………… 44 5.1.2 Chi tiết FPGA Spartan-3 Starter Kit cần dùng đề tài……………………… 45 Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG a/ SRAM…………………………………………………………………………………………………………………………………… 45 b/ LED đoạn dùng để xuất liệu ………………………………………………………………………… 47 c/ Các công tắc trượt, nút nhấn LED ……………………………………………………………… 48 d/ Các nguồn xung clock…………………………………………………………………………………………………… 49 e/ Các port lập trình, debug JTAG………………………………………………………………………………… 49 f/ Các chân mở rộng Kit Spartan-3………………………………………………………………………… 50 5.2 Ngôn ngữ mô tả phần cứng VHDL ………………………………………………………………………………… 53 5.3 Phần mềm hỗ trợ …………………………………………………………………………………………………………………… 55 PHẦN II: THỰC THI ………………………………………………………………………………………………………………………….58 Chương 1: Lý thuyết bổ sung thực thi ………………………………………………………………………… 58 1.1 Whitening ……………………………………………………………………………………………………………………………………… 58 a/ công thức tính R k , với k=2,3,…n ……………………………………………………………………………………… 57 b/ Tính R −1 ……………………………………………………………………………………………………………………………………… 58 c/ Tính R1 / k , với k = 2,3, n …………………………………………………………………………………………………… 58 d/ Tính ma trận whitening Q …………………………………………………………………………………………………… 58 1.2 Một giải thuật ICA khác, (tạm gọi là) ICA vòng lặp ………………………… 59 1.2.1 Đặt vấn đề…………………………………………………………………………………………………………………………… 59 1.2.2 Tính chất…………………………………………………………… ……………………………………………………………… 60 1.2.3 Chứng minh…………….………………………………………………………………………………………………………… 61 1.2.4 Nhận xét phương pháp……………………………………………………………………………………………… 62 Chương 2: Thực ICA Matlab ………………………………………………………………………………………63 2.1 Thực ICA phương pháp tối đa hóa tính Nongausss …………………………… 63 2.1.1 ICA với ước lượng tính Nongausss kurtosis………………………………………………… 63 2.1.2 ICA với ước lượng tính Nongausss negentropy ………………………………………… 68 2.2 ICA khác với ICA kinh điển, ICA vòng lặp……………………………………………… 70 Chương 3: Thực ICA FPGA ……………………………………………………………………………………… 71 3.1 Cơ sở thực thi, đơn giản hóa vấn đề ………………………………………………………………………………… 71 3.2 Mạch A/D, D/A …………………………………………………………………………………………………………………………… 72 3.2.1 IC ADC0809 mạch A/D…………………………………………………………………………………………… 72 3.2.2 IC DAC0808 mạch D/A…………………………………………………………………………………………… 75 3.3 Thực thi FPGA ……………………………………………………………………………………………………………… 76 3.3.1 Mô hình 76 3.3.2 Chương trình thực chương trình 77 PHẦN III: KẾT QUẢ THỰC HIỆN …………………………………………………………………………………………… 80 Chương 1: Kết thực ICA Matlab …………………………………………………………………… 80 1.1 Thực ICA cách tối đa hóa tính Nongausss, đo Kurtosis ……… 80 1.1.1 ICA từ công thức (II.2.49), lưu đồ hình (III.2.1) (kurtosis) ……………………………… 80 Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG 1.1.1.a/ ICA cho tín hiệu thu chiều (kurtosis) ……………………………………………………… 80 1.1.1.b/ ICA cho tín hiệu thu chiều (kurtosis) ……………………………………………………… 83 1.1.2 ICA từ công thức (II.4.49), lưu đồ Hình (II.2.3)…………………………………………………… 89 1.1.2.a/ ICA cho liệu chiều (kurtosis, có lồng ICA con)……………………………… 89 1.1.2.b/ ICA cho liệu chiều (kurtosis, có lồng ICA con) …………………………… 94 1.2 Thực ICA cách tối đa hóa tính Nongausss, đo Negentropy… 96 1.2.1 ICA cho liệu tín hiệu chiều………………………………………………………………………………… 96 1.2.1.a/ Dùng hàm g1 ( y) = tanh(a1 y) …………………………………………………………………………… 96 1.2.1.b/ Dùng hàm g ( y ) = y exp(− y / 2) ………………………………………………………………… 98 1.2.2 Xử lý liệu tín hiệu chiều (negentropy)…………………………………………………………… 99 1.2.2.a/ Dùng hàm g1 ( y ) = tanh(a1 y ) ………………………………………………………………………… 100 1.2.2.b/ Dùng hàm g ( y ) = y exp(− y / 2) ……………………………………………………………… 101 1.2.3 Xử lý liệu tín hiệu chiều (negentropy)……………………………………………………… 102 1.2.3.a/ Dùng hàm g1 ( y) = tanh(a1 y) ……………………………………………………………………… 104 1.2.3.b/ Dùng hàm g ( y ) = y exp(− y / 2) ……………………………………………………………… 105 1.3 Thực ICA khác kinh điển, ICA vòng lặp …………………………………… 106 1.3.1 ICA không vòng lặp cho liệu tín hiệu chiều …………………………………………… 106 1.3.2 ICA không vòng lặp cho liệu tín hiệu chiều …………………………………………… 108 1.3.3 ICA không vòng lặp cho liệu tín hiệu chiều …………………………………………… 110 Chương 2: Kết Mô ICA vấn đề liên quan khác ……………………………… 112 2.1 Số sensor nhiều số nguồn ………………………………………………………………………………………… 112 2.2 Dấu phần tử ma trận tổ hợp A ………………………………………………………… 116 2.3 Ảnh hưởng nguồn Gauss …………………………………………………………………………………………… 119 2.2.1 Ảnh hưởng nguồn Gauss…………………………………………………………………………… 119 2.2.2 Ảnh hưởng nhiều nguồn Gauss……………………………………………………… 121 Chương 3: Kết thực ICA FPGA …………………………………………………………………… 123 PHẦN IV: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN ……………………………………………………… 125 Kết luận chung ………………………………………………………………………………………………………………………………… 125 Hướng phát triển …………………………………………………………………………………………………………………………… 126 Tài liệu tam khảo…………………………………………………………………………………………………………… 127 PHỤ LỤC……………………………………………………………………………………………………………………… 128 Các từ viết tắt……………………………………………………………………………………………………………128 ADC0808……………………………………………………………………………………………………………………129 DAC0809……………………………………………………………………………………………………………………133 Spartan-3 Starter Kit ……………………………………………………………………………………………… 136 Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG ABSTRACT The achievement of signal processing has become much more powerful since digital technique was put into any aspect of communications Along with that, countless techniques, algorithms have been developed and explicated to meet the need of affecting, improving and modifying signal, Independent Component Analysis (ICA) is one of them This thesis will concentrate on studying the Independent Component Analysis (ICA) approach, its properties, advances, disadvances applied to practice by using VHDL and FPGA, a morden way to design hardwares in the last few years ICA is an algorithm for separating linear dependent components among received signals, so called the common way to solve the “Cocktail Party” problem It can be simply explained like this: in a cocktail party, at the same time, we can hear many people talk simultaneously; if we have recorders, how can we separate the sound source of each person? At a higher view, ICA can be applied in getting and separating composite signals such as: electro-cardiogram (ECG), electroencephalogram (EEG), seismal signal, or in whitening signals that were received from remote sources … [1,2] TÓM TẮT Thành tựu thu việc xử lý tín hiệu trở nên to lớn nhiều kể từ lúc kỹ thuật số đưa vào ngõ ngách thông tin liên lạc Theo đà dòng chảy phát triển đó, vô số kỹ thuật, thuật toán đời để đáp ứng nhu cầu tác động, cải thiện thay đổi tín hiệu thông tin Và thuật toán phân tích thành phần đặc trưng (ICA) số chúng Bài luận tập trung nghiên cứu cách thực ICA, tính chất, ưu nhược điểm ứng dụng vào thực tế VHDL FPGA, cách thiết kế phần cứng đại năm gần ICA thuật toán tách thành phần phụ thuộc tuyến tính nguồn thu dựa tính độc lập thống kê nguồn phát, gọi chung cách giải toán “bữa tiệc cocktail” Có thể giải thích ngắn gọn sau: bữa tiệc cocktail, lúc, ta nghe thấy nhiều người nói đồng thời; có máy thu âm để thu tín hiệu thoại, tách riêng nguồn thoại người? Nhìn cách rộng hơn, ICA ứng dụng việc đo tách tín hiệu tổng hợp điện tâm đồ, điện não đồ, tín hiệu địa chấn, tín hiệu thu từ nguồn xa…[1,2] Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG PHẦN 0: GIỚI THIỆU Tổng quan đề tài: Tách mù thành phần độc lập toán phân tích thành phần độc lập (ICA–Independence Component Analysis), kỹ thuật suy nhân tố bị ẩn khuất tập biến ngẫu nhiên Kỹ thuật tương đối mới, xuất lần đầu vào đầu thập niên 1980 phạm vi ứng dụng mạng neural, nghiên cứu nhiều ICA với mục tiêu tách thành phần độc lập dựa vào tín hiệu thu, hỗn hợp pha tạp tín hiệu với trở thành đề tài thú vị để nghiên cứu ứng dụng giơi Tuy nước ta chưa có đề tài tổng hợp nghiên cứu phát triển vấn đề đặc biệt chưa thực thi phần cứng Bị lôi thú vị đó, học viên chọn đề tài để thực luận văn cao học Hơn nữa, theo xu hướng phát triển chip điện tử, công nghệ ASIC phát triển vũ bão nhằm đáp ứng tính đa dạng nhu cầu giới chế thị trường Việc loại FPGA đời mạnh rẻ, mật độ logic cực cao cho phép phép tính tính song song, cải thiện tốc độ xử lý, khiến cho việc thực thi mạch thử nghiệm trở nên khả thi Học viên định chọn FPGA để thực phần cứng nhằm hướng theo xu phát triển mạch chuyên dụng ASIC, nâng cao kinh nghiệm FPGA ngôn ngữ lập trình phần cứng VHDL, ngôn ngữ lập trình cho FPGA Đề tài trình bày loại thuật toán ICA kinh điển trình bày hướng mở nhỏ cho ICA, ICA vòng lặp Tổ chức báo cáo luận văn: Luận văn chia làm phần: Phần 0: Giới thiệu tổng quan đề tài Phần I: Phần lý thuyết, trình bày phần lý thuyết liên quan lý thuyết xác suất, không gian vector, trị riêng vector riêng, lý thuyết ICA, giới thiệu lý thuyết FPGA ngôn ngữ VHDL, phần gói chương Phần I gồm chương tương ứng Phần II: Phần thực thi, bổ sung lý thuyết cho thực thi, phần cụ thể hóa thuật toán, trình bày cách thực mô thực ICA FPGA Phần III: Phần kết quả: trình bày kết khảo sát ICA qua mô Matlab kết thi công FPGA Spartan-3 Starter Kit Phần IV: Phần kết luận chung hướng phát triển cho đề tài Công việc liên quan: Các ICA có tảng dựa tảng lý thuyết xác suất, không gian vector, trị riêng-vector riêng nên phần học viên tìm hiểu trình bày đề tài luận văn Ngoài học viên phải biết dùng ngôn ngữ VHDL phải thực mạch cứng A/D D/A giao tiếp với Kit FPGA Các ICA trình bày mô đầy đủ với loại tín hiệu chiều, chiều chiều đề liên quan khác nhằm khảo sát ICA tính chất Tách mù thành phần độc lập HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG PHẦN I : LÝ THUYẾT Chương1 Các thống kê sử dụng hệ thống thông tin số 1.1 Các biến ngẫu nhiên hàm xác suất: 1.1.1 Xác suất tần suất tương ứng: Xác suất đơn giản: xác suất kiện A định nghóa P(A) , số lần xảy kiện A n lần thử ⎛n ⎞ (I.1.1) P( A) = lim⎜ A ⎟ n →∞ n ⎝ ⎠ Xác suất kiện giao: xác suất xảy kiện A kiện B , kí hiệu P(AB): ⎛n ⎞ (I.1.2) P( AB ) = lim⎜ AB ⎟ n →∞ ⎝ n ⎠ nAB số lần hai kiện A B xảy Xác suất kiện hoặc: xác suất xảy kiện A kiện B hai xảy ra, định nghóa laø P( A + B) : ⎛n ⎞ P( A + B ) = lim⎜ A+ B ⎟ (I.1.3) n →∞ ⎝ n ⎠ nA+B số lần hai kiện A B hai xảy (I.1.4) P( A + B) = P( A) + P ( B) − P( AB) Nếu A B độc lập mặt xác suất P( AB ) = P( A) P( B) (I.1.5) (I.1.6) P( A + B) = P( A) + P ( B) − P( A) P ( B) Xác suất có điều kiện: xác suất kiện A kiện B xảy ra, ký hiệu P( A / B) : • • • ⎛n ⎞ P( A / B) = lim⎜⎜ AB ⎟⎟ n →∞ n ⎝ B ⎠ Các tính chất: P( A / B ) = P ( AB) / P ( B) P( AB) = P ( B) P ( A / B) = P ( A) P ( B / A) ⎧ P ( A / B ) = P( A) Nếu A B độc lập xác suất thì: ⎨ ⎩P ( B / A) = P( B) Tách mù thành phần độc lập (I.1.7) (I.1.8) (I.1.9) HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 132 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 133 HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG IC DAC0808 [11]: Tách mù thành phần độc lập 134 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 135 HVTH: Đặng Việt Hùng Independent Component Analysis THD: PGS.TS LÊ TIẾN THƯỜNG FPGA Spartan-3 Starter Kit: Tách mù thành phần độc lập 136 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 137 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 138 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 139 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 140 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 141 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 142 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 143 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 144 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 145 HVTH: Đặng Việt Hùng Independent Component Analysis Tách mù thành phần độc lập THD: PGS.TS LÊ TIẾN THƯỜNG 146 HVTH: Đặng Việt Hùng ... bình tín hiệu thành phần chiều tín hiệu, moment bậc hai tín hiệu (giá trị trung bình bình phương tín hiệu) công suất tín hiệu, phương trình (I.1.32) biểu diễn cách tính công suất thành phần xoay... ta suy tín hiệu phụ thuộc vào thành phần độc lập có phân bố gần phân bố Gauss: ej ei Hình I.4: Tín hiệu hai chiều tổ hợp tuyến tính, xây dựng từ hai biến có phân bố Tách mù thành phần độc lập... tả phân bố xác suất tín hiệu tổ hợp từ thành phần độc lập Hình cho ta khái niệm ban đầu tính Gauss tín hiệu mà ICA xử lý Với số biến nhiều tính Gauss tín hiệu sinh từ sở thành phần độc lập có tính