Máy vectơ tựa (support vector machine SVM) và ứng dụng trong việc xác định tham số độ thấm trong ngành địa chất

ðI HC QUC GIA HÀ TRƯNG ðI HC CÔNG NI NGH NGUYN HOÀNG DƯƠNG MÁY VECTƠ TA (SUPPOR T VECTOR MACHIN E SVM) VÀ NG DNG TRONG VIC XÁC ðNH THAM S ð THM TRONG NGÀNH ðA CHT LUN VĂN THC SĨ CÔNG NGH THÔNG TIN Hà Ni2012 ðI HC QU C GIA HÀ NI TRƯNG ðI HC CÔNG NGH NGUYN HOÀNG DƯƠNG MÁY VECTƠ TA (SUPPORT VECTOR MACHINE SVM) VÀ NG DNG TRONG VIC XÁC ðNH THAM S ð THM TRONG NGÀNH ðA CHT Ngành: Công ngh Thông tin Chuyên ngành: Công ngh Phn mm Mã s: 60 48 10 LUN VĂN THC SĨ CÔNG NGH THÔNG TIN NGƯI HƯNG DN KHOA HC: PGS.TSKH Phm Huy ðin Hà Ni – 2012 Li cam ñoan Li cm ơn MC LC Danh mc ký hiu, ch vit tt Danh mc hình v M ðU Chương TNG QUAN V MÁY VECTƠ TA SVM 1.1 ðt ñ 1.2 S chiu Vapnik Chervonenkis 1.2.1 Chiu V 1.3 1.4 1.5 1.6 1.7 1.8 1.2.2 Shatter 1.2.3 S chiu Máy SVM tuyn tính 1.3.1 Siêu ph 1.3.2 Mt ví d 1.3.3 Siêu ph Máy SVM phi tuyn 1.4.1 Nguyên 1.4.2 Ví d v 1.4.3 Mt s h Bài tốn phân loi ña lp 1.5.1 Chin lư 1.5.2 Chin lư Hi quy SVM (Support Vector Regression) 1.6.1 Hi quy 1.6.2 Hi quy Mt s ng dng ca SVM tốn phân l 1.7.1 Chn đo 1.7.2 Nhn dn Kt lun Chương TRIN KHAI TÍNH TỐN ð THM TRONG NGÀNH 2.1 Dn nhp 2.2 Bài tốn mơ phng va cha du khí [9,11] 2.2.1 Khái ni 2.2.2 Các đn 2.2.3 Các th 2.2.4 Mơ hình b 2.3 Vn đ tính đ thm 2.3.1 Phương 2.3.2 Các ñc 2.4 D báo ñ thm s dng hi quy SVM 2.4.1 Xác ñn 2.4.2 Xác ñn 2.5 2.5.1 2.5.2 2.6 2.6.1 2.6.2 2.7 KT LUN PH LC V Danh mc ký hiu, ch vit tt Thut ng, ch vit tt ANN Emp KKT OCR QP RBF SVM SVR VC VI Danh mc hình v gian ℝ Hình 01 Siêu phng phân hoch mu khơng ℝ Hình 11 Ba đim thng hàng khơng b nut Hình 12 Vi đim khơng thng hàng d 2 ℝ tn ti siêu phng tách n Hình 13 Siêu phng phân hoch đơi mu k hông gian ℝ 11 Hình 14 Siêu phng ti ưu phân lp mu 12 Hình 15 Tp mu khơng tách đưc bng siêu phng t Hình 16 Siêu phng ti ưu tng quát phân hoch t Hình 17 Mt phân hoch phi tuyn không gian i ưu 20 p mu 23 ℝ n 24 Hình 18 Mt phng ℝ thành mt cong ℝ 26 Hình 19 SVM loi tr phân lp mt chi mt 28 Hình 110 Chin lưc mt chi mt loi tr m i trưng hp xy 29 Hình 111 Sai s hi quy SVM tuyn tính 33 Hình 112 Màn hình hin th cu trúc ca bin svmS truct 37 Hình 113 Kt qu kim tra chéo SVM chn đốn ung thư vi λ = 0.1 (ln 1) 37 Hình 114 Kt qu kim tra chéo SVM chn đốn ung thư vi λ = 0.1 (ln 2) 38 Hình 115 nh mu biu din s cn nhn dng 41 Hình 116 Kt qu nhn dng s dng SVM phân loi 10 lp 41 Hình 21 Sơ đ h thng mơ phng m 44 Hình 22 Kt qu hun luyn s dng ANN vi 70 mu Hình 23 Kt qu hun luyn s dng hi quy SVM v luyn 58 i 70 mu luyn 58 Hình 24 Kt qu s dng ANN d báo ñ thm 59 Hình 25 Kt qu s dng SVR d báo ñ thm 59 M ðU Vi tc đ phát trin vũ bão ca thơng tin hin thơng tin da đ đưa d báo m ñưc rt nhiu ngưi quan tâm nghiên cu nay, vic khai thác, s dng t tốn có ng dng rng rãi Nhiu k thut mơ hình hóa d báo, gm mng th n kinh, phn cm, quyt ñnh, suy lun quy np, mng Beyesian, máy ve ctơ ta SVM (Support Vector Machine), ñi giúp cho vic d báo (predictio n), phân loi (classification) thông tin ngày mt tt xác ng d liu đ hun luyn d Các mơ hình d báo đưc sinh bt c s d mt k thut mơ hình hóa d báo hay nói cách khác: d báo liu + k thut mơ hình hóa = mơ hình Do mơ hình d báo kt qu ca vic kt hp d vic hun luyn có th coi vic xác đnh mt ánh cịn gi đu vào) vào mt hoc nhiu bin đích (h liu tốn hc, x t hp mu luyn (hay ay cịn gi bin đu ra) Trong k thut đó, máy vectơ ta SVM đưc Vapni mt phương pháp hc có s giám sát da lý t tích dùng tốn phân loi m rng ca n dùng toán d báo ñã ñưc ng dng nhiu mnh, ph bin ñc bit thích hp cho tốn vi Phân lp (classification) mt tin trình x lý n tưng vào mt lp ñã ñưc ñnh nghĩa ñi tưng ñưc xp vào lp da vào giá tr ca mu d liu hay ñi tưng Sau ñã xp tt c cá lp tương ng mi lp đưc đc trưng bi cá cha lp Q trình phân lp cịn đưc gi q trình gán nh v ca toán phân lp d liu cn xây dng mơ d liu mi vào mơ hình phân lp s cho bit d Bài toán phân lp đưc mơ t sau: Xét mt t ñó mi ñi tưng ñưc ñc trưng bi mt b cá mt vectơ không gian n chiu) Theo mt ngun tc “chun gia” đó, ngưi ta có th ch đnh (mt cách th cơng) cho m k lp xác đnh trưc Nói chung, ngun tc phân lp mt cách tưng minh dưi dng quy tc, cơng thc Vn đ đt ra: Khi s khơng th thc hin đưc, có hay khơng mt cơng cách t đng, vi kh sai sót có th xy đnh cho trưc? Mơ hình tốn hc cho tốn: Ta gi thit, mi đ A = (a , a mt vectơ j tính th ca ñi tưng Ta ký L = {Li | i = 1, ,k } tt c lp N ký hiu có th đưc D := {Ai | i = 1, , l ; l ≤ N thc hin vic phân lp cho sai sót (nu có đnh cho trưc ð xây dng thut tốn phân lp tưng theo phươ SVM, ngưi ta s dng mt ñi tưn s cho vic thit lp toán ti ưu Ý tưng ca SVM chuyn mu t không gi mt không gian tách mu da phân lp ca chúng đ t x cn nhn dng (trong không gian ℝ n Mt phân hoch Hình 01 Siêu phng phân hoch mu khơng Phương pháp máy vectơ ta SVM đưa mt cơng đánh giá kh sai sót (theo nghĩa xác sut), sn (cịn đưc gi hp luyn hoc mu luy xy vi vic phân lp thp Lun văn b cc sau, tốn phân loi đa lp, chin thut bà vectơ ta SVM (hay gi hi quy SVM) dùng tro ng tốn d đốn Phn cui chương trình bày v mt s ng dng ca SVM t hc tin ñưc áp dng da 56 end hold plot(1:length(yp), yp, 'linewidth',1,'color',[1 0]) %plot(1:length(yp),yp,'o', 'color',[1 0]) xlabel('S mu ', 'FontName', '.VnTime') ylabel('ð thm (%)', 'FontName', '.VnTime') hleg = legend('Mu ','D đốn '); % Make the text of the legend italic and color it brown set(hleg,'FontWeight','Bold','FontName', '.VnTime') Theo phương pháp ANN: trình xây dng mng bn sau ñưc s dng: S dng ANN có cu trúc mt lp n, quy tc hc thí vi phương pháp lan truyn ngưc hàm truyn sigm nguyên tc ch nghi a S dng h s tương quan gia tham s ñ thm ño ñư thí nghim làm kt qu mong mun tham s ñ thm ca mng ñ ñánh giá mc ñ khp % Build Training set dulieu = dlmread('dvlgkX1.las','', 11,0); u = dulieu(:,2:8); y = dulieu(:,9); train = dulieu(:,1:1)