ỨNG DỤNG MÁY VECTƠ HỖ TRỢ TRONG PHÂN TÍCH MẪU VÀ CHẨN ĐOÁN BỆNH TRÊN CÂY XOÀI

NGUYỄN THỪA PHÁT TÀI ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA NGUYỄN THỪA PHÁT TÀI * ỨNG DỤNG MÁY VECTƠ HỖ TRỢ TRONG PHÂN TÍCH MẪU VÀ CHẨN ĐỐN BỆNH TRÊN CÂY XỒI KHOA HỌC MÁY TÍNH LUẬN VĂN THẠC SĨ KHOA HỌC CHUYÊN NGÀNH KHOA HỌC MÁY TÍNH * KHĨA K32 Đà Nẵng - Năm 2018 ĐẠI HỌC ĐÀ NẴNG TRƢỜNG ĐẠI HỌC BÁCH KHOA NGUYỄN THỪA PHÁT TÀI ỨNG DỤNG MÁY VECTƠ HỖ TRỢ TRONG PHÂN TÍCH MẪU VÀ CHẨN ĐỐN BỆNH TRÊN CÂY XỒI Chun ngành: KHOA HỌC MÁY TÍNH Mã số: 60.48.01 LUẬN VĂN THẠC SĨ KỸ THUẬT NGƢỜI HƢỚNG DẪN KHOA HỌC TS Huỳnh Hữu Hƣng Đà Nẵng - Năm 2018 -i- LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi Các số liệu, kết nêu luận văn trung thực chưa công bố cơng trình khác Tác giả Nguyễn Thừa Phát Tài -ii- MỤC LỤC MỞ ĐẦU Lý chọn đề tài Mục tiêu nhiệm vụ nghiên cứu Đối tƣợng phạm vi nghiên cứu Phƣơng pháp nghiên cứu Ý nghĩa khoa học thực tiễn luận văn Bố cục luận văn: CHƢƠNG - TỔNG QUAN VỀ NHẬN DẠNG VÀ XỬ LÝ ẢNH 1.1 Các bƣớc xử lý ảnh số 1.1.1 Thu nhận ảnh 1.1.2 Tiền xử lý 1.1.3 Phân đoạn hay phân vùng ảnh 1.1.4 Biểu diễn ảnh 1.1.5 Nhận dạng nội suy ảnh 1.2 Mốt số vấn đề xử lý ảnh số 1.2.1 Điểm ảnh 1.2.2 Mức xám ảnh 1.2.3 Ảnh đen trắng 1.2.4 Ảnh nhị phân 1.2.5 Ảnh màu 1.3 Cải thiện ảnh sử dụng toán tử điểm 1.3.1 Tăng giảm độ sáng 1.3.2 Tăng độ tƣơng phản 1.3.3 Tách nhiễu lấy ngƣỡng 1.3.4 Biến đổi âm 1.3.5 Biến đổi ảnh đen trắng 1.3.6 Lƣợc đồ xám(Histogram) 1.3.7 Kỹ thuật cải thiện ảnh nhị phân 1.4 Trích rút đặt trƣng ảnh 11 1.4.1 Đặc trƣng màu sắc 11 1.4.2 Đặc trƣng kết cấu 12 1.4.3 Đặc trƣng hình dáng 14 1.5 Phƣơng pháp nhận dạng 15 1.5.1 Khái niệm nhận dạng 15 1.5.2 Support vector machine (SVM) 15 1.5.3 K-láng giềng gần (k-Nearest Neighbors) 16 1.5.4 Mơ hình Markov ẩn (Hidden Markov Models) 16 1.5.5 Mạng nơ-ron nhân tạo16 1.6 Đánh giá ƣu điểm thuật toán SVM 16 1.7 KẾT CHƢƠNG 17 -iiiCHƢƠNG – PHƢƠNG PHÁP NHẬN DẠNG VÀ PHÂN LOẠI 2.1 Các cơng trình nghiên cứu liên quan 18 2.2 Trích xuất đặc trƣng đánh phân loại trái 18 2.2.1 Sử dụng đặc trƣng màu sắc 19 2.2.2 Trích chọn đặc trƣng màu cho toán so màu lúa 19 2.2.3 Sử dụng đặc trƣng kết cấu 21 2.2.4 Sử dụng đặc trƣng Gist Gist descriptor 22 2.3 Các phƣơng pháp phân loại trái 23 2.3.1 Phân biệt phần cuống khiếm khuyết thực tế trái 23 2.3.2 Kết hợp thống kê màu sắc đặc trƣng kết cấu để nhận biết bệnh táo 26 2.3.3 Nghiên cứu xây dựng hệ thống h trợ nông dân so màu lúa 31 2.4 KẾT CHƢƠNG 38 CHƢƠNG – ỨNG DỤNG MÁY VECTƠ HỖ TRỢ TRONG CHẨN ĐỐN BỆNH TRÊN XỒI 3.1 Phƣơng pháp phân lớp liệu máy vector h trợ SVM 39 3.1.1 Giới thiệu 39 3.1.2 Ý tƣởng phƣơng pháp 39 3.1.3 Các bƣớc phƣơng pháp 40 3.1.4 Cơ sở lý thuyết 40 3.2 Chẩn đoán bệnh xoài với máy vetor h trợ SVM 43 3.2.1 Mơ tả tốn 43 3.2.2 Mơ hình giải tốn 44 3.3 Tiền xử lý 44 3.3.1 Tăng/giảm độ tƣơng phản ảnh 44 3.3.2 Thực phép co/giãn ảnh 45 3.3.3 Chuyển tách ảnh màu RGB sang kênh H-S-V 45 3.4 Trích chọn đặc trƣng 46 3.4.1 Đặc trƣng màu sắc 46 3.4.2 Đặc trƣng kết cấu 47 3.5 Thực nghiệm 51 3.5.1 Tập mẫu trái xoài 51 3.5.2 Tập mẫu xoài 51 3.5.3 Xử lý 52 3.5.4 Huấn luyện chẩn đoán bệnh ứng dụng máy vetor h trợ SVM54 3.6 Kết chẩn đoán 55 3.6.1 Lá bệnh thán thƣ 55 3.6.2 Bệnh ghẻ lồi xoài 56 3.6.3 Lá xồi khơng bệnh 56 3.7 KẾT CHƢƠNG 57 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 57 MỤC LỤC 56 -ivỨNG DỤNG MÁY VECTƠ HỖ TRỢ TRONG PHÂN TÍCH MẪU VÀ CHẨN ĐỐN BỆNH TRÊN CÂY XỒI Học viên: Nguyễn Thừa Phát Tài; Chuyên ngành: Khoa học máy tính Mã số: 60.48.01; Khóa: 2016-2018 Trƣờng Đại học Bách khoa - ĐHĐN Tóm tắt –Ứng dụng kỹ thuật nhận dạng xử lý ảnh toán nhận dạng phân loại nông sản đƣợc ứng dụng thành công, hệ thống giúp nâng cao suất lao động, mang lại hiệu mặt kinh tế, khẳng định vai trị thực tiễn cơng nghệ thơng tin, tự động hóa ứng dụng sống, năm gần đây, phƣơng pháp sử dụng phân loại máy h trợ vector (Support Vector Machine - SVM) đƣợc quan tâm áp dụng nhiều lĩnh vực nhận dạng phân loại nơng nghiệp Từ cơng trình khoa học công bố cho thấy phƣơng pháp SVM có khả nhận dạng tốt toán lĩnh vực nhận dạng phân loại nhƣ nhiều ứng dụng khác Luận văn nghiên cứu ứng dụng kĩ thuật Support Vector Machine để nhận dạng mẫu chẩn đốn bệnh Xồi thơng qua ảnh chụp sử dụng phƣơng pháp phân lớp SVM Kết thực nghiệm với độ xác phân loại 96% cho thấy thành công việc áp dụng phƣơng pháp SVM vào việc chẩn đoán bệnh Xồi thơng qua ảnh chụp, đồng thời cho thấy khả xây dựng ứng dụng thực tiễn có hiệu từ cách tiếp cận Từ khóa - chẩn đốn bệnh Xồi; máy vectơ h trợ; nhận dạng mẫu; nhận dạng loài cây; phân lớp ảnh chụp Abstract - The application of image recognition and processing techniques in the identification and classification of agricultural products has been proved relatively successful The systems have helped improve labor productivity, bring economic efficiency, as well as emphasize the practical role of information technology, applied automation in life In recent years, the use of Support Vector Machine (SVM) has been taken into serious consideration and extensively applied in the field of identification and classification in agriculture Published scientific work shows that the SVM method can identify the problems in the field of identification and classification as well as in many other applications This thesis studies the application of Support Vector Machine technique to identify specimens and diagnose diseases on mango through photos using SVM classification method Experimental results with the accuracy of over 96% indicate the success of applying the SVM method to the diagnosis of mango disease through photos, and demonstrates the potential for developing effective practical applications from this approach Key words 1- the diagnosis of mango disease; Support Vector Machine; Specimen identification; image classification; leaf recognition -v- DANH MỤC CÁC CHỮ VIẾT TẮT Từ viết tắt Tiếng Anh ANN Artificial Neural Networks CM Convolution Mask GLCM Gray-Level Co-occurrence Matrices HMM Hidden Markov Models HSV Hue, Saturation, Value KNN MLP PE P-M QP RGB K-Nearest Neighbors algorithm MultiLayer Perceptron Processing Element McCulloch and Pitts Quadratic Programing Red, Green,Blue SDM Size-dependent measurements SIM Size-independent measurements SOM Self – Organizing Map SVM XLA Support Vector Machine Tiếng Việt Mạng nơron Mặc nạ cuộn Ma trận đồng mức xám Mơ hình Markov ẩn Vùng màu, Độ bão hịa màu, Độ sáng K -láng giềng gần Mạng Perceptron nhiều tầng Phần tử xử lý McCulloch Pitts Quy hoạch toàn phƣơng màu đỏ, xanh lục, xanh lơ Đo lƣờng phụ thuộc vào kích thƣớc Đo lƣờng khơng phụ thuộc vào kích thƣớc Kiểu học khơng có giám sát mạng nơron Máy vectơ h trợ Xử lý ảnh -vi- DANH MỤC HÌNH Hình 1.1 Các bƣớc xử lý ảnh Hình 1.2 Ảnh xám ngƣỡng 255 Hình 1.3 Ảnh trắng đen Hình 1.4 Ảnh nhị phân Hình 1.5 Ảnh màu Hình 1.6 Ảnh tăng/giảm độ sáng Hình 1.7 Biểu đồ giãn độ tƣơng phản Hình 1.8 Ảnh tăng tƣơng độ phản Hình 1.9 Ảnh âm Hình 1.10 Ảnh trắng đen Hình 1.11 Lƣợc đồ mức xám loại ảnh Hình 1.12 Biểu đồ lƣợc đồ xám (Histogram) ảnh Hình 1.13 Cân mức xám ảnh Hình 1.14 Minh hoạ phép giãn ảnh 10 Hình 1.15 Ứng dụng phép co ảnh 10 Hình 1.16 Khơng gian màu RGB 11 Hình 1.17 Không gian màu HSV 12 Hình 1.18 H2 siêu phẳng tốt 15 Hình 1.19 Mơ hình nơ-ron nhân tạo 16 Hình 2.1 Minh họa trích đặc trƣng màu với moment thứ 20 Hình 2.2 Minh họa trích đặc trƣng màu với moment màu 20 Hình 2.3 Minh họa hiệu suất mô tả dựa kết cấu 22 Hình 2.4 Mơ hình phân biệt phần cuống với khiếm khuyết trái 23 Hình 2.5 (a) Trái đầu vào với phần cuống phần khiếm khuyết 24 Hình 2.6 (a) Hình ảnh đầu vào, (b) Kết phân đoạn chuyển dịch trung bình, 25 Hình 2.7 (a) Vịng trịn đƣợc áp thủ cơng đối tƣợng, 26 Hình 2.8 Hệ thống nhận dạng bệnh trái táo 27 Hình 2.9 Một số kết phân đoạn khiếm khuyết 28 Hình 2.10 Hình ảnh mẫu từ liệu 29 Hình 2.11 Mơ hình hệ thống 31 Hình 2.12 Cắt/chọn phần lúa cần so màu 31 Hình 2.13 Xử lý nhiễu 32 Hình 2.14 Sơ đồ kỹ thuật so khớp ảnh 34 Hình 2.15 Cấu trúc tập liệu kiểu arff 34 Hình 2.16 Mơ hình phân lớp ảnh với kỹ thuật K láng giềng 36 Hình 2.17 Biểu đồ so sánh kết thực nghiệm kỹ thuật so khớp ảnh với K-NN 37 Hình Siêu phân hoạch tập mẫu từ không gian Rn sang không gian Rd 39 -viiHình Siêu phẳng phân chia liệu với khoảng cách biên lớn 39 Hình 3 Minh họa cho tốn phân hai lớp 40 Hình Minh họa tốn phân hai lớp với SVM 41 Hình Bài tốn SVM mẫu trƣờng hợp khơng phân tách tuyến tính 41 Hình Hàm nhận dạng SVM 2-vs-rest có giá trị bé nhất, nên mẫu cần nhận dạng lớp thứ 42 Hình SVM loại trừ 42 Hình Sơ đồ loại trừ tình 43 Hình Mơ hình chẩn đốn bệnh xồi 44 Hình 10 Độ tƣơng phản ảnh 45 Hình 11 Co giãn ảnh 45 Hình 12 Ảnh màu RGB chuyển đổi sang ảnh màu HSV ảnh kênh màu 45 Hình 13 Mơ hình trích lọc đo lƣờng đặc trƣng kết cấu 48 Hình 14 Xồi khơng bệnh 51 Hình 15 bệnh thối trái 51 Hình 16 bệnh nứt trái 51 Hình 17 xồi khơng bệnh 51 Hình 18 bệnh ghẻ lồi 52 Hình 19 bệnh thán thƣ 52 Hình 20 Giao diện trích xuất đặc trƣng 53 Hình 21 Giao diện huấn luyện chẩn đoán bệnh 54 Hình 22 Bệnh thán thƣ 56 Hình 23 Bệnh ghẻ lồi 56 Hình 24 Lá xồi khơng bệnh 57 -viii- DANH MỤC BẢNG Bảng Tỉ lệ sai số tổng thể phƣơng pháp 26 Bảng 2 Tính xác phân loại bệnh MSVM đƣợc huấn luyện với 70 hình ảnh m i loại 29 Bảng So sánh với phƣơng pháp 30 Bảng Giá trị vector đại diện có số chiều mức màu không gian màu RGB 32 Bảng Giá trị vector đại diện có số chiều mức màu không gian màu HSV 32 Bảng Giá trị vector đại diện có số chiều mức màu không gian màu CIE – LAB 33 Bảng Giá trị vector đại diện có số chiều mức màu không gian màu RGB 33 Bảng Giá trị vector đại diện có số chiều mức màu không gian màu HSV 33 Bảng Giá trị vector đại diện có số chiều mức màu không gian màu CIE LAB 33 Bảng 10 So sánh thực nghiệm kỹ thuật so khớp ảnh & K láng giềng 36 Bảng 11 So sánh kỹ thuật máy học với tập liệu kiểm tra 37 Bảng So sánh giá trị trung bình nhƣng độ lệch chuẩn khác 47 Bảng Các tham số hàm Gabor Wavelet đặc trƣng kết cấu ảnh V 49 Bảng 3 Các giá trị tham số GLCM 50 Bảng Các tham số đặc trƣng đƣợc trích xuất từ tập ảnh huấn luyện 53 Bảng Số lƣợng mẫu dùng thực nghiệm 55 Bảng Kết thực nghiệm phân lớp máy học SVM 55 Bảng Kết đạt đƣợc 57 -54- 3.5.4 Huấn luyện chẩn đoán bệnh ứng dụng máy vetor h trợ SVM 3.5.4.1 Giao diện chính: • Chọn ảnh: Chọn ảnh cần chẩn đốn bệnh từ tập liệu kiểm tra • Tiền xử lý: Thực xử lý, nâng cao chất lƣợng ảnh, tách kênh màu, trích xuất đặc trƣng đƣợc huấn luyện lƣu vào tập tin Training_Data.mat • Phân đoạn ảnh: Phân vùng ảnh đầu vào tìm các đặc trƣng giống ảnh đầu vào đƣa vào cụm tƣơng ứng • Dự đốn bệnh: Thực việc phân lớp chẩn đoán hiển thị kết Hình 21 Giao diện huấn luyện chẩn đoán bệnh Huấn luyện SVM yêu cầu liệu đƣợc diễn tả nhƣ vector số thực Trong q trình huấn luyện sử dụng thuật tốn tối ƣu hóa khoảng cách siêu phẳng trình phân lớp, xác định hàm phân lớp không gian đặc trƣng nhờ việc ánh xạ liệu vào không gian đặc trƣng cách mô tả hạt nhân cuối kiểm thử tập liệu Trong trình cài đặt thực nghiệm, xây dựng mơ hình huấn luyện nhận dạng theo phƣơng pháp one – vs – one Các máy phân lớp nhị phân đƣợc huấn luyện theo thuật toán SMO với hàm nhân SVC with RBF kernel Thuật toán phân rã tốn tồn phƣơng tổng qt thành tốn con, sử dụng định lý Osuma để đảm bảo hội tụ Máy học SVM thực nghiệm máy học với hàm nhân (kernel) RBF, với tham số C 12 Gama 2-8 Thực nghiệm đƣợc làm với số tham số khác C Gama, tham số nói đƣợc chọn phƣơng pháp thử sai Do tham số Gama nhỏ nên dùng máy học SVM với hàm nhân tuyến tính (linear kernel) Kết thực nghiệm liệu với hàm nhân tuyến tính (C=10 eps=0.01) cho kết tốt hàm nhân RBF, nhƣng khơng có khác biệt nhiều Vì dùng hàm nhân RBF hay hàm nhân tuyến tính với tham số nhƣ vừa nêu -553.5.4.2 ết thực nghiệm: Hình ảnh lá/quả xồi đƣa vào kiểm tra đƣợc tiền xử lý để nâng cao chất lƣợng ảnh, loại bỏ tạp nhiễu, sau xử lý tiếp tục đƣa vào trích xuất tham số đặc trƣng để đƣa vào chẩn đoán bệnh Kết hiển tên bệnh/không bệnh Tên lớp Bệnh thối trái Bệnh nứt trái Trái không bệnh Lá thán thƣ Lá ghẻ lồi Lá không bệnh Tổng Bảng Số lƣợng mẫu dùng thực nghiệm Số mẫu huấn luyện Số mẫu kiểm tra 100 20 100 20 100 20 100 20 100 20 100 20 600 120 Tổng số mẫu 100 100 100 100 100 100 600 Bảng Kết thực nghiệm phân lớp máy học SVM Tổng mẫu Tên lớp Nhãn lớp kiểm tra Bệnh thối trái 0 20 17 Bệnh nứt trái 2 0 20 16 Không bệnh 1 0 20 18 Lá thán thƣ 0 20 16 Lá ghẻ lồi 0 1 20 18 Lá không bệnh 0 20 15 a b c d e - Trong đó: • • Tên lớp đƣợc gán nhãn từ đến tƣơng ứng với tên lớp Bệnh thối trái đƣợc gán nhãn 1, với tổng mẫu kiểm thử 20, 17/20 mẫu chẩn đốn “bệnh thối trái , 1/20 mẫu đƣợc chẩn đốn “khơng bệnh , 2/20 mẫu đƣợc chẩn đoán “ bệnh nứt trái , độ xác=17/20*100=85% • Bệnh Lá thán thƣ đƣợc gán nhãn 4, với tổng mẫu kiểm thử 20, 16/20 mẫu chẩn đốn “Lá thán thƣ , 1/20 mẫu đƣợc chẩn đoán “ghẻ lồi , 3/20 mẫu đƣợc chẩn đốn “ khơng bệnh , độ xác=16/20*100=80% • Với số mẫu đƣa vào kiểm tra nhiều độ xác cao 3.6 Một số kết chẩn đốn 3.6.1 Lá bệnh thán thư • Các tham số đặc trƣng kết chẩn đoán ảnh xoài bị bệnh thán thƣ đƣa vào kiểm tra f g -56- Hình 22 Bệnh thán thƣ 3.6.2 Bệnh ghẻ lồi xồi • Các tham số đặc trƣng kết chẩn đoán ảnh xoài bị bệnh ghẻ lồi đƣa vào kiểm tra Hình 23 Bệnh ghẻ lồi 3.6.3 Lá xồi khơng bệnh • Các tham số đặc trƣng kết chẩn đốn ảnh xồi khơng bệnh đƣa vào kiểm tra -57- Hình 24 Lá xồi khơng bệnh 3.7 KẾT CHƢƠNG SVM đƣợc đánh giá hƣớng tiếp cận phân lớp đạt độ xác cao Hạn chế lớn SVM tốc độ phân lớp chậm, Tuy nhiên, SVM đƣợc đánh giá phƣơng pháp học máy tiên tiến đóng góp nhiều thành cơng lĩnh vực khai phá liệu nhƣ lĩnh vực nhận dạng Bài toán huấn luyện SVM thực chất tốn tồn phƣơng tập lồi, SVM ln có nghiệm tồn cục nhất, điểm khác biệt rõ SVM so với phƣơng pháp khác Nét đặc trƣng SVM việc phân lớp đƣợc thực gián tiếp không gian đặc trƣng với số chiều cao thơng qua hàm nhân Do đó, hiệu phân lớp SVM phụ thuộc vào hai yếu tố: giải tốn tồn phƣơng lựa chọn hàm nhân KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN Luận văn xây dựng hệ thống nhận dạng hình ảnh chẩn đốn bệnh xoài dùng SVM Cơ sở liệu luận văn tác giả sƣu tầm từ nhiều nguồn khác nhau, chủ yêu từ ảnh chụp thực tế, tham vấn ngƣời nơng dân làm vƣờn có kinh nghiệm, nên việc chẩn đoán xác định bệnh xồi cách xác, khách quan SVM phƣơng pháp có tính tổng qt cao, khả xử lý linh hoạt, hiệu xác, áp dụng cho nhiều tốn khác nhƣ: phát khuôn mặt, ngƣời, đồ vật…mà cần thay đổi liệu đầu vào với liệu đầu mong muốn Đây ƣu điểm phƣơng pháp SVM Bảng Kết đạt đƣợc Chức Trạng thái Xây dựng giao diện ngƣời dùng Hoàn thành Tập liệu huấn luyện kiểm tra Còn hạn chế Ghi -58Độ xác kết chẩn đốn cịn phụ thuộc vào chất lƣợng ảnh, nhiên yếu tố ta điều chỉnh đƣợc cách nâng cao chất lƣợng lọc nhiễu Hƣớng phát triển đề tài nhận dạng chẩn đoán bệnh từ ảnh chụp trực tiếp thiết bị di động, kết có bệnh đƣa lời tƣ vấn cách chữa trị, chăm sóc ứng với loại bệnh xoài giai đoạn phát triển xoài./ -59- DANH MỤC TÀI LIỆU THAM KHẢO • Tiếng Việt [1] Huỳnh Hữu Hƣng, Nguyễn Trọng Ngun, Võ Đức Hồng Giáo trình Xử Lý Ảnh NXB TT&TT, 2015 [2] Đ Năng Toàn, Phạm Việt Bình, “Bài giảng xử lý ảnh”, Đại học Thái nguyên, 2007 [3] Thái Sơn, “ Kỹ thuật Support Vector Machines ứng dụng”, Luận văn thạc sĩ Toán tin ứng dụng, Trƣờng Đại Học Bách khoa Hà Nội, Hà Nội,2006 [4] Nguyễn Thị Thảo, Nguyễn Thị Huyền, Đoàn Thị Thu Hà,Trần Thị Thu Huyền, Nguyễn Thị Thủy, “Phương pháp phân lớp sử dụng máy Vec-tơ hỗ trợ ứng dụng Tin sinh học , Tạp chí hoa học Phát triển,Trƣờng Đại Học Nông nghiệp Hà Nội,2011, Tập (số 6), trang 1021 – 1031 [5] Luận văn ThS Bùi Nguyên Khôi, Nguyên cứu số phƣơng pháp phân lớp cải tiến vào phân lớp văn 2009 ĐH KHTN • Tiếng Anh [6] Vladimir N Vapnik, “The Nature Of Statistical Learning Theory , AT&T Research Laboratories ,1995 [7] Andrew W Moore, “Support Vector Machines , School of Computer Science, [8] Jose Principe, Ph.D and ohan Seth, “Statistical Learning Theory: The Structural Risk Minimization Principle , Distinguished Professor ECE, BME Computational NeuroEngineering Laboratory, The University of Florida [9] John C Platt, Nello Cristianini, J Shawe Taylor, “Large Margin DAGs For Multiclass Classification , MIT Press (2000) Page 547 – 553 [10] Schölkopf Bernhard, Smola Alexander , “Learning with Kernels ,MIT Press, Cambridge,2002 [11] T Joachims Making large-Scale SVM Learning Practical MIT-Press, 1999 [13] T Starner, A Pentland , J Weaver, “Real-Time American Sign Language Recognition Using Desk and Wearable Computer Based Video , IEEE Transactions on Pattern Analysis and Machine Intelligence, vol 20 issue 12, page 1371-1375, December 1998 • Trang Web [14] “PCA–PrincipalComponent Analysis http://phvuresearch.wordpress.com/2011/10/05/pca-principal-componentanalysis/, 10/06/2013 [15] “Giới thiệu Matlab xử lý ảnh -60http://hlab.com.vn/index.php? Option =com_content&view=article &id =201%3 Agii-thiu-v-matlab-va-nh-s&catid =47%3Ac-bn-v-dsp & Itemid =113&lang=en, 10/06/2013