Nghiên cứu đặc tính và ứng dụng của thuật toán phân tích các thành phần độc lập ica,luận văn thạc sĩ kỹ thuật ngành kỹ thuật điện tử

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI [›\ NGUYỄN VĂN LÀNH NGHIÊN CỨU ĐẶC TÍNH VÀ ỨNG DỤNG CỦA THUẬT TỐN PHÂN TÍCH CÁC THÀNH PHẦN ĐỘC LẬP ICA LUẬN VĂN THẠC SỸ KỸ THUẬT TP HỒ CHÍ MINH - 2009 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI [›\ NGUYỄN VĂN LÀNH NGHIÊN CỨU ĐẶC TÍNH VÀ ỨNG DỤNG CỦA THUẬT TỐN PHÂN TÍCH CÁC THÀNH PHẦN ĐỘC LẬP ICA Chuyên ngành: Kỹ Thuật Điện Tử Mã số: 60.52.70 LUẬN VĂN THẠC SỸ KỸ THUẬT NGƯỜI HƯỚNG DẪN KHOA HỌC : TS TRỊNH QUANG KHẢI TP HỒ CHÍ MINH - 2009 TRÍCH YẾU LUẬN VĂN CAO HỌC Họ tên học viên: Nguyễn Văn Lành Năm sinh: 15-03-1978 Cơ quan cơng tác: Học Viện Cơng Nghệ Bưu Chính Viễn Thơng Khoá: K14(2006-2009) Chuyên ngành: Kỹ thuật Điện Tử Mã số: 60.52.70 Cán hướng dẫn: TS.Trịnh Quang Khải Bộ môn: Kỹ thuật Viễn Thông Tên đề tài luận văn: Nghiên cứu đặc tính ứng dụng thuật tốn phân tích thành phần độc lập ICA Mục đích nghiên cứu đề tài: Nhằm phát triển ứng dụng phương pháp phân tích thành phần độc lập ICA vào xử lý âm thanh, hình ảnh đặc biệt hệ thống viễn thông Phương pháp nghiên cứu kết đạt được: - Nghiên cứu cở sở toán học phương pháp ICA, đưa thuật tốn ICA, ứng dụng viễn thơng phương pháp ICA - Mô ứng dụng thuật tốn ICA viễn thơng , rút đánh giá, kết luận hướng phát triển đề tài Điểm bình qn mơn học: Điểm bảo vệ luận văn: Ngày 20 tháng 11 năm 2009 Học viên Xác nhận cán hướng dẫn: Nguyễn Văn Lành Xác nhận Bộ môn: i MỤC LỤC Trang MỤC LỤC i DANH MỤC CÁC KÝ HIỆU, CHỮ VIẾT TẮT vi DANH MỤC CÁC HÌNH VẼ viii PHẦN MỞ ĐẦU Chương : GIỚI THIỆU VỀ THUẬT TOÁN ICA 1.1 Giới thiệu tách nguồn mù 1.1.1 Mơ hình tách nguồn mù 1.1.2 Nguyên tắc chung thuật toán tách nguồn mù 1.2 Thuật toán ước lượng ICA 1.2.1 Mơ hình ICA .7 1.2.2 Ý tưởng thuật toán ICA 1.2.3 Giới hạn thuật toán ICA 11 1.3 Tổng quan thuật toán ước lượng ICA 12 1.3.1 Hàm mục tiêu 13 1.3.1.1 Hàm mục tiêu dùng để ước lượng tất thành phần độc lập 13 1.3.1.2 Hàm mục tiêu dùng để ước lượng thành phần độc lập 15 1.3.2 Phương pháp tối ưu hóa 15 1.3.3 Mối quan hệ phương pháp ước lượng ICA 16 1.4 Tiền xử lý PCA 18 1.4.1 Tại phải thực tiền xử lý PCA? .18 1.4.2 Các bước tiền xử lý 19 1.4.2.1 Quy tâm( cân biến) .19 1.4.2.2 Trắng hóa 19 1.5 Kết luận 20 Chương : CƠ SỞ TOÁN HỌC VÀ ĐẶC TÍNH CỦA THUẬT TỐN ICA .21 2.1 Xác suất thống kê 21 2.1.1 Sự phân phối biến ngẫu nhiên 21 2.1.2 Sự phân phối xác suất vector ngẫu nhiên 21 ii 2.1.3 Phân phối kết hợp .22 2.1.4 Xác suất có điều kiện 22 2.2 Phân phối Gauss 23 2.2.1 Định nghĩa 23 2.2.2 Tính chất phân phối Gauss cho vector ngẫu nhiên 23 2.2.3 Định lý giới hạn trung tâm 24 2.3 Các thông tin thống kê bậc cao 25 2.3.1 Kỳ vọng .25 2.3.2 Phương sai 26 2.3.3 Moment .26 2.3.4 Kurtosis .27 2.3.5 Cumulant 28 2.3.6 Ước lượng kỳ vọng .29 2.4 Bất tương quan độc lập thống kê 30 2.4.1 Bất tương quan 30 2.4.2 Độc lập thống kê 30 2.5 Các phương pháp tối ưu hóa .31 2.5.1 Gradient 31 2.5.2 Tối ưu hóa khơng ràng buộc .32 2.5.2.1 Thuật toán Gradient descent 33 2.5.2.2 Phương pháp Second-order learning 34 2.5.2.3 Phương pháp Gradient tự nhiên Gradient tương đối 35 2.5.2.4 Phương pháp Stochastic Gradient descent 36 2.5.3 Tối ưu hóa ràng buộc 37 2.5.3.1 Phương pháp lagrange 37 2.5.3.2 Phương pháp chiếu 38 2.6 Các phương pháp ước lượng .38 2.6.1 Các khái niệm ước lượng .38 2.6.2 Các phương pháp ước lượng .40 2.6.2.1 Phương pháp Moment 40 2.6.2.2 Phương pháp bình phương nhỏ nhất( least square) .40 2.6.2.3Phương pháp ước lượng khả cực đại(maximum likelihood) 41 iii 2.6.2.4 Phương pháp Bayesian 42 2.6.2.5 Phương pháp ước lượng Map( Maximum a Posterior) .44 2.7 Entropy 44 2.7.1 Khái niệm 44 2.7.2 Thông tin tương hỗ .45 2.7.3 Cực đại hóa entropy 46 2.8 Các phép biến đổi tuyến tính 49 2.8.1 Phương pháp sử dụng thông tin thống kê bậc 49 2.8.1.1 Priciple Component Analysis(PCA) .50 2.8.1.2 Factor Analysis(FA) 51 2.8.2 Phương pháp sử dụng xác suất bậc cao 52 2.8.2.1 Projection pursuit 52 2.8.2.2 Redundancy Reduction 53 2.8.2.3 Blind deconvolution 54 2.9 Mối quan hệ ICA phương pháp cổ điển 54 2.10 Kết luận .55 Chương : CÁC THUẬT TOÁN ƯỚC LƯỢNG ICA 57 3.1 ICA phương pháp cực đại hóa tính phi Gauss .57 3.1.1 Ý tưởng phương pháp 57 3.1.2 Đo tính phi Gauss kurtosis .58 3.1.3 Đo tính phi Gauss negentropy 60 3.1.4 Ước lượng nhiều thành phần độc lập 62 3.1.5 Các thuật toán trực giao hóa .63 3.2 ICA cách ước lượng khả cực đại (Maximum likelihood) .64 3.2.1 Ý tưởng phương pháp 64 3.2.2 Các thuật toán để ước lượng maximum likelihood 66 3.3 ICA cách cực tiểu hóa lượng thơng tin tương hỗ 68 3.3.1 Ý tưởng phương pháp 68 3.3.2 Thuật tốn phương pháp cực tiểu hóa lượng thông tin tương hỗ .70 3.4 ICA phương pháp giải tương quan phi tuyến (nonlinear decorrelation) 70 iv 3.4.1 Ý tưởng phương pháp 70 3.4.2 Các thuật toán phương pháp nonlinear decorrelation 71 3.5 PCA phi tuyến 73 3.6 Một số thuật toán ICA thực nghiệm ứng dụng BSS 73 3.7 Kết luận 74 Chương : CÁC MƠ HÌNH MỞ RỘNG CỦA ICA 76 4.1 Noisy ICA 76 4.1.1 Ý tưởng phương pháp 76 4.1.2 Phân biệt loại nhiễu 77 4.1.3 Một số phương pháp giải tốn ICA có nhiễu 77 4.1.3.1 Áp dụng phương pháp ICA thông thường 78 4.1.3.2 Kỹ thuật Bias Removal 78 4.1.3.3 Ước lượng thành phần độc lập khơng có nhiễu 79 4.2 ICA với liệu giá trị phức 81 4.2.1 Ý tưởng phương pháp 81 4.2.2 Lựa chọn hàm phi tuyến .81 4.2.3 Thuật toán fixed-point cho ICA phức .82 4.3 Các phép xử lý liên quan đến cấu trúc thời gian .82 4.3.1Ý tưởng phương pháp 82 4.3.2 Tách thành phần dựa vào tự hiệp phương sai .83 4.3.3 Tách dựa vào tính khơng dừng phương sai 84 4.3.4 Nguyên lý hợp pp Kolmogoroff complexity .85 4.4 Blind deconvolution blind separation of convolutive mixture 86 4.4.1 Blind deconvolution 87 4.4.2 Blind separation of convolutive mixture 89 4.5 Kết luận 90 Chương : CÁC ỨNG DỤNG CỦA THUẬT TOÁN ICA 92 5.1 Bài toán tách âm 92 5.2 Ứng dụng y học 93 5.3 Xử lý hình ảnh 95 v 5.4 Ứng dụng viễn thông .96 5.4.1 Giới thiệu hệ thống CDMA 97 5.4.2 Mơ hình ứng dụng ICA hệ thống CDMA 99 5.4.3 Các ứng dụng thuật toán ICA hệ thống CDMA .101 5.4.3.1 Ước lượng kênh truyền fading 101 5.4.3.2 Chia tách tổ hợp CDMA chập 102 5.4.3.3 Tăng cường khả hoạt động multiuser detection 104 5.5 Kết luận .110 Chương : MÔ PHỎNG GIẢI THUẬT ICA .111 6.1 Mơ xử lý sóng 111 6.2 Mô xử lý âm 114 6.3 Mô xử lý hình ảnh .117 6.4 Mô multiuser detecion 121 6.5 Kết luận .127 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN CỦA ĐỀ TÀI 128 LỜI CẢM ƠN 130 TÀI LIỆU THAM KHẢO 131 vi DANH MỤC CÁC KÝ HIỆU, CHỮ VIẾT TẮT AWGN: Nhiễu Gauss trắng cộng BER: Tỷ lệ lỗi bit BSS: Tách nguồn mù BTS: Trạm gốc CDF: Hàm phân phối tích lũy CDMA: Đa truy nhập phân chia theo mã DS-CDMA: Trải phổ trực tiếp - đa truy nhập phân chia theo mã EASI: Thuật toán Equivariant Adaptive Separation via Independent EEG: Phép ghi điện não EGC: Phép ghi điện tim EMG: Phép ghi điện ECG: Điện tâm đồ thai nhi EVD: Eigenvalue Decomposition FA: Phân tích thành thừa số FastICA: Thuật toán điểm cố định nhanh ICA FDMA: Đa truy nhập phân chia theo tần số FIR: Finite Impulse Response GSO: Trực giao hóa ICA: Phương pháp phân tích thành phần độc lập IIR: Infinite Impulse Response ISI: Nhiễu liên kí tự JADE: Thuật tốn Joint Approximate Diagonalization of Eigenmatrices LMS: Phương pháp bình phương trung bình nhỏ MAI: Nhiễu đa người dùng MAP : Phương pháp ước lượng MAP MEG: Chụp não từ MF: Bộ lọc Matched-Filter MIMO: Nhiều ngõ vào nhiều ngõ MMSE: Bộ tách lỗi bình phương trung bình cực tiểu MS: Thiết bị người dùng vii PCA: Phân tích thành phần PDF: Hàm mật độ phân phối xác suất PIC: Máy thu tách sóng triệt nhiễu từ song song PN: Giả ngẫu nhiên SIC: Máy thu tách sóng triệt nhiễu từ nối tiếp SUD: Tách sóng đơn User SUMF: Bộ lọc đơn User TDMA: Đa truy nhập phân chia theo thời gian WCDMA: Đa truy nhập phân chia theo mã băng rộng 118 ¾ Kết mơ sau: Ảnh nguồn Ảnh nguồn Ảnh nguồn Hình 6.11 : Ảnh nguồn trước trộn 119 Ảnh trộn Ảnh trộn Ảnh trộn Hình 6.12 : Ảnh sau trộn 120 Ảnh tách Ảnh tách Ảnh tách Hình 6.13 : Ảnh sau tách thuật toán ICA Ta thấy rõ ràng hình ảnh khơi phục độ sáng khơng đảm bảo Rõ ràng q trình khơi phục đơi lúc ta cịn thu ảnh âm (tức màu sắc hoàn toàn trái ngược với màu sắc ảnh) Sỡ dĩ gặp phải điều ta biết thành phần độc lập khơi phục có dấu khác Tuy nhiên ta dùng biến đổi đơn giản để khôi phục lại ảnh gốc rõ ràng, q trình khơi phục ảnh độ phân giải q trình làm trịn tính tốn Tuy nhiên kết đạt chấp nhận Chúng ta dùng biến đổi tuyến tính để khơi phục lại độ trung thực ảnh ban đầu 121 Hai hạn chế phương pháp tách ảnh dùng thuật toán ICA : ¾ Khơng thể đảm bảo thứ tự thành phần độc thứ tự file ảnh Ở phần mô này, ta thấy hình ảnh có tính phi Gauss lớn mà cụ thể ảnh có cấu trúc tách trước ¾ Độ lớn ảnh không đảm bảo Ở ta thấy ảnh có màu sắc đậm nhạt ảnh ban đầu Tuy nhiên điều khơng quan trọng quan tâm đến chi tiết hình ảnh khơng phải độ đậm nhạt Thêm vào muốn hình ảnh có độ trung thực, ta nhân chúng với số ¾ Nhận xét: - Phương pháp mô xử lý ảnh định dạng bmp đen trắng có kích thước 256 x 256 (hoặc 341 x 256) Sau xử lý ICA, kết nhận làm tròn dạng để biểu diễn hình ảnh - Kết mơ tách ảnh trộn hình ảnh chấp nhận Sau khôi phục, ta đảm bảo độ sáng thứ tự hình ảnh, song phép biến đổi tuyến tính thơng thường, ảnh khôi phục lại tốt - Về mặt thứ tự, ta thấy ảnh có cấu trúc khôi phục trước Ở ảnh nguồn khơi phục trước tiên Sau đến ảnh vật có cấu trúc so với ảnh khu rừng, nên khôi phục trước - Tuy nhiên hạn chế thuật toán dừng lại ảnh đen trắng q trình khơi phục làm giảm độ phân giải ảnh trình làm trịn Vì hướng mở rộng thuật toán xử lý ảnh màu sử dụng phép biến đổi hình ảnh trước sau xử lý để đảm bảo độ trung thực ảnh Tuy nhiên việc xử lý ảnh màu, ta phải khôi phục lúc ảnh R,G,B Mặc khác, thuật tốn ICA khơng bảo đảm độ lớn ảnh sau tách nên việc tổng hợp lại khơng đạt màu sắc ban đầu Đây hướng phát triển đề tài 6.3 Mô multiuser detecion Cấu trúc máy thu: 122 Bộ match-filter lấy mẫu N(t) s1 s2 r (t ) x1(t) Bộ match-filter lấy mẫu x2 t xK t () () Thuật toán ICA Bộ match-filter lấy mẫu sK Hình 6.14 Sơ đồ máy thu sử dụng thuật toán ICA x1 (t ) bˆ1 bˆ2 x2(t) Tiền xử lý PCA Thuật toán Fixed-Point ICA xK (t ) bˆK Hình 6.15 : Khối thực thuật toán ICA Trong phần này, ta mô hệ thống máy thu CDMA sử dụng kỹ thuật SUD (Single User Detection) hay gọi SUMF (Single User Match Filter) thông thường hệ thống CDMA sử dụng kỹ thuật ICA phương pháp hậu xử lý Thêm vào để tăng cường hoạt động hệ thống, ta kết hợp kỹ thuật SUD ICA kết tốt Do hệ thống sử dụng hệ thống CDMA, phần mô hoạt động tỉ lệ SNR thấp cho kết khả quan Kỹ thuật ICA sử dụng phương pháp kỹ thuật FastICA áp dụng cho số thực Giá trị khởi đầu w chuỗi Gold, ngẫu nhiên Nhiễu thêm vào thành phần độc lập thơng thường ta hồn tồn sử dụng thuật tốn khơng nhiễu trường hợp Thêm vào đó, ta sử dụng kỹ thuật xử lý theo khối (batch) không áp dụng kỹ thuật on-line Bằng cách 123 chia số liệu thành khối có độ lớn khoảng 10000 symbol, phép hội tụ thành phần diễn khoảng 6-9 vòng lặp cho kết xác với liệu có kích thước lớn ¾ Chương trình mơ phỏng: Chuỗi Bitstream (K x M) So sánh Tạo tín hiệu user Trải phổ (K x CM) Tính BER Hậu xử lý ICA (K x M) Cộng user (1 x CM) Tạo nhiễu AWGN (1 x CM) ICA Detector ((K+1) x M) Reshape (C x M) Hình 6.16: Sơ đồ khối máy thu sử dụng kỹ thuật ICA đơn Chuỗi Bitstream (K x M) So sánh Trải phổ (K x CM) Tính BER Cộng user (1 x CM) Tạo nhiễu AWGN (1 x CM) Bộ SUD (K x M) Hậu xử lý ICA (K x M) ICA Detector ((K+1) x M) Reshape (C x M) Hậu xử lý ICA (K x M) ICA Detector ((K+1) x M) Reshape (C x M) Hình 6.17 : Máy thu kết hợp kỹ thuật ICA SUD 124 Ở ta xây dựng hệ thống để so sánh BER thu ba hệ thống với Đó hệ thống sử dụng kỹ thuật SUD bình thường, hệ thống sử dụng kỹ thuật ICA hệ thống kết hợp SUD ICA ¾ Thuật tốn chương trình mơ chính: Bắt đầu Tạo Chuỗi Gold (Gold5.mat) Tạo lệu trộn user nhiễu (mixedsig.mat) Thực SUD Và tính BER Thực ICA tính BER Thực ICA-SUD tính BER Vẽ đồ thị BER Hình 6.18 : Sơ đồ khối thuật tốn tính BER máy thu ¾ Một số hạn chế phương pháp sử dụng ICA detector: Tương tự mô khác, thuật tốn ICA có hai nhược điểm May mắn phương pháp này, ta hồn tồn khắc phục hai nhược điểm đó: - Phương sai (năng lượng) thành phần độc lập không đảm bảo: Tuy vậy, thuật tốn cần quan tâm đến dấu tín hiệu (vì sau xử lý ICA có q trình xét dấu để định bit +1 hay -1 hàm sign(.) - Thứ tự thành phần độc lập không đảm bảo: Vấn đề hồn tồn khắc phục ta xét đường lên Ở đây, trạm gốc biết tất chuỗi code user Vì ta so sánh thành phần độc lập với mã code để định thành phần tách user 125 ¾ Kết mơ phỏng: Ở hình 6.19 kết mô so sánh máy thu SUD, ICA SUDICA với khối liệu M = 10000 symbol, SNR từ -10 đến dB Hình 6.20 kết mô máy thu SUDICA với khối liệu xử lý khác nhau: M=1000,2000,5000,10000 Cho SNR từ -10 đến dB Hình 6.21 kết mơ máy thu SUDICA với ma trận khởi tạo cho thuật toán ICA chuỗi Gold, ngẫu nhiên Hình 6.19 : Đồ thi BER ba máy thu SUD, ICA, SUDICA 126 Hình 6.20 : Đồ thị BER SUDICA với M=1000,2000,5000 10000 Hình 6.21: Đồ thị BER với ma trận khởi tạo Chuỗi Gold, ngẫu nhiên 127 ¾ Nhận xét đánh giá kết mô phỏng: Ở kết mơ hình 6.19, ta thấy SNR tăng, thứ tự hoạt động tốt (tương ứng với tỉ lệ BER nhỏ nhất) máy thu SUDICA, ICA SUD Tuy nhiên với tỉ lệ SNR nhỏ, máy thu ICA cho BER lớn SUD thơng thường Vì sử dụng phương pháp ICA khơng hiệu nên ta kết hợp hai SUD ICA máy thu kết tốt Ở kết mơ hình 6.20, ta thấy máy thu SUDICA xử lý với khối số liệu khác cho kết khác Khối liệu lớn cho kết BER tốt Với M=1000, kết chạy không ổn định tỉ lệ BER giảm dần M tăng lên Tuy nhiên M khơng nên q lớn phép tính diễn chậm không phù hợp với việc xử lý thời gian thực Ở ta đề nghị cho M=10000 kết chạy ổn định, thuật toán cho kết từ 3-7 lần lặp Ở kết mơ hình 6.21 cho ta thấy thuật toán ICA với ma trận khởi tạo khác cho kết giống Như thấy ma trận khởi tạo khơng quan trọng ta khởi tạo giá trị để có kết gần 6.5 Kết luận Từ kết mô ta thấy q trình tách sóng, âm hình ảnh dùng phương pháp ICA cho kết tốt Tuy nhiên q trình xử lý có nhược điểm biên độ thứ tự thành phần khơng đảm bảo Ngồi q trình xử lý chưa đáp ứng thời gian thực trình xử lý chậm, nhiên đáp ứng cho số ứng dụng không quan trọng với thời gian thực xử lý ảnh Để trình xử lý đáp ứng thời gian thực yêu cầu việc xử lý cần nhanh cách dùng thuật tốn xử lý bit thay thuật tốn xử lý khối batch Đối với máy thu mulituser detection, bổ xung phương pháp ICA cho kết BER tốt So sánh trường hợp, ta thấy máy thu kết hợp SUD–ICA cho kết tốt Đối với thuật tốn xử lý batch khối symbol M=10000 cho máy thu SUDICA cho kết tốt, M nhỏ q trình xử khơng ổn định, M q lớn q trình xử lý chậm khơng đáp ứng thời gian thực Thuật toán xử lý ổn định cho kết ma trận khởi tạo khác 128 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN CỦA ĐỀ TÀI Đề tài cung cấp nhìn tổng quan phương pháp ICA số mô cho thuật tốn ICA Thơng qua mơ hình thuật tốn kết mơ cụ thể thu giúp cho nắm đặc tính ứng dụng phương pháp Hiện có nhiều thuật tốn giải ICA, hai thuật toán bật nghiên cứu ứng dụng FastICA Informax Một thuật toán giải thành phần độc lập thuật toán giải lúc tất thành phần độc lập Một hướng nghiên cứu nghiên cứu ICA phi tuyến, tức ICA với giả định phương trình trộn khơng cịn ma trận trộn mà hàm phi tuyến Thuật toán tất nhiên phức tạp thường khơng có nghiệm Lúc áp dụng ICA thông thường, ta thu kết hàm phi tuyến thành phần độc lập thành phần độc lập ban đầu Trên thực tế phương pháp ICA không thu thành phần độc lập mà hàm tuyến tính thành phần độc lập Tuy may mắn hàm tuyến tính thành phần độc lập tích thành phần với số Điều nằm giả định tính bất định độ lớn thành phần độc lập nên khơng cịn quan trọng Hướng phát triển đề tài tóm tắt số hướng phát triển sau: ¾ Về phần xử lý âm thanh, ta giải tốn tổng quát tồn nhiễu độ trễ tín hiệu âm ¾ Về phần xử lý hình ảnh, nghiên cứu xử lý ảnh màu Tất nhiên toán phức tạp khơi phục ảnh riêng rẽ, ta khơng đảm bảo độ chói ảnh nên màu khơi phục khó mà xác Ngồi ra, cần nghiên cứu phép biến đổi ảnh trước sau xử lý để làm cho kết tách hình ảnh tốt ¾ Về phần ứng dụng hệ thống viễn thơng, có nhiều tài liệu báo khoa học liên quan, chủ yếu tập trung vào lĩnh vực multiuser detection Nói chung, hướng phát triển tập trung vào nghiên cứu việc sử 129 dụng phương pháp ICA để bổ sung cho máy thu multiuser detection RAKEICA, MMSE-ICA, SIC-ICA, PIC-ICA Ngoài ra, cần nghiên cứu thuật tốn ICA ngồi thuật tốn tập trung nghiên cứu đề tài để triển khai ứng dụng Ở đề tài ta tập trung vào thuật toán xử lý batch (với khối liệu xử lý M=10000 symbol) Tuy nhiên thuật toán khả thi thuật toán xử lý on-line (tức xử lý bit) nghiên cứu phát triển Thuật tốn on-line có thời gian xử lý nhanh nhiều so với thuật toán xử lý batch, đáp ứng tính thời gian thực liệu Dù tác giả có cố gắng thực đề tài hạn chế thời gian khối lượng kiến thức đề tài lớn nên không tránh khỏi sai sót Vì kính mong q thầy đóng góp ý kiến để đề tài hoàn thiện Em xin chân thành cảm ơn! 130 LỜI CẢM ƠN Để hồn thành luận văn tốt nghiệp mình, tác giả nhận giúp đỡ tận tình định hướng quý báu thầy giáo hướng dẫn, TS Trịnh Quang Khải giảng dạy nhiệt tình quý thầy cô Trường Đại Học Giao Thông Vận Tải Trong trình thực đề tài tác giả nhận hỗ trợ giúp đỡ tài liệu đồng nghiệp Học Viện Cơng Nghệ Bưu Chính Viễn Thông Tác giả xin gửi lời cám ơn chân thành đến thầy giáo hướng dẫn, quý thầy cô Trường Đại Học Giao Thông Vận Tải đồng nghiệp Tác giả kính mong nhận ý kiến đóng góp q báu thầy hội đồng để luận văn hoàn thiện ứng dụng hữu ích thực tế Học viên Nguyễn Văn Lành 131 TÀI LIỆU THAM KHẢO [1] Independent Component Analysis- Aaop Hyvarinen, Juha Karhunen, Erkki Oja2001- John Wiley and Sons, Inc [2] Detection Of DS-CDMA Signals Based On Independent Component Analysis – Jyoti Saxena [3] An Application of ICA to DS-CDMA Detection- Yue Fang and Kunio Takaya2007- trang 609-612, IEEE [4] Phương pháp phân tích nguồn tin Entropy cực đại ứng dụng phân tích ảnh- Nguyễn Thị Hoàng Lan, Nguyễn Việt Hùng [5] Complex ICA Using Nonlinear Functions – Hualiang Li – trang 4536 - 4544 , IEEE [6] Convergence Analysis of a Class of H.yvarinen – Oja’s ICA learning Algorithms With Constant Learning Rates – Jian Cheng Lv, Kok Kiong Tan, Zhang Yi, and Sunan Huang [7] ICA Color Space for Pattern Recognition – Chengjun Liu and Jian Yang – trang 248 – 257 – IEEE [8] On the Convergence of ICA Algorithms With Symmetric Orthogonalization – Alper T Erdogan – trang 2209 – 2221, IEEE [9] CDMA Wireless System with blind multiuser detector- Wai Yie Young, John Holmer- 2006- Journal of Telecommunication and Information Technology-1/1996 [10] Blind Interference Cancellation Schemes for DS-CDMA Systems- Karthikesh Rajul, Toni Huovinen, and Tapani Ristaniemi- 2005- trang 73-76, IEEE [11] Prior ICA Based Blind Multiuser Detection in DS-CDMA Systems- Malay Gupta, Balu Santhanam- 2004- trang 2155-2159, IEEE 2004 [12] A review of Independent Component Analysis Techniques- Bogdan Matei 132 [13] Topographic Independent Component Analysis- Aapo Hyvarinen- Patrik O.Hoyer, Mika Inki-2000 [14] An Application of Independent Component Analysis to DS-CDMA DetectionYue Fang-2006-Đại học Saskatchewan [15] Luận văn Kỹ thuật Multiuser Detection thơng tin di động CDMA- Trần Thị Hồng Qun- Học viện công nghệ BCVT [16] Learning Algorithms for lind Multiuser Detection in CDMA Downlink- Jyrki Joutsensalo and Tapani Ristaniemi- 1998- trang 1040-1044, IEEE [17] Blind Information-Theoretic MultiUser Detection Algorithms for DS-CDMA and WCDMA Downlink Systems-Khuram Waheed, Member, IEEE, and Fathi M Salem, Fellow, IEEE-2005-trang 937-948, IEEE [18] Blind Multi-User Detection by Fast Fixed Point Algorithm Without Prior Knowledge of Symbol-Level Timing Jyrki Joutsensalo and Tapani Ristaniemi [19] FastICA for Noisy Data Using Gaussian Moments- Aapo Hyvarinenhttp://www.cis.hut.fi/~aapo/ [20] ICALAB for Image Processing, Toolbox for ICA, BSS, BSE- http://www.cis.hut.fi/projects/ica/book [21] Introduction to Blind Source Seperation- http://perso.univ- rennes1.fr/laurent.albera/alberasiteweb/bss.html [22] Survey on Independent Component Analysis- Aapo Hyvarinen- 2002http://www.cis.hut.fi/~aapo [23] Sparse Code Shrinkage: Denoising by Nonlinear Maximum Likelihood Estimation- Aapo Hyvarinen, www.cis.hut.fi/project/ica/ Patrik Hoyer, Erkki Oja- http://