Luận văn thạc sỹ Ứng dụng hồi quy bán tham số trong khoa học xã hội

Luận văn gồm bốn chương. Trong chương 1, trình bày một số phương pháp phân tích hồi quy tham số: hồi quy đơn biến, hồi quy đa biến. Trong chương này cũng trình bày một số kiến thức cơ bản về phương pháp bình phương cực tiểu, ước lượng, kiểm định tham số. Trong chương 2, trình bày về mô hình hồi quy phi tham số bao gồm:một số phương pháp làm trơn, phương pháp Sline phạt, mô hình cộng. Trong chương 3, trình bày mô hình hồi quy bán tham số, ước lượng trong mô hình hồi quy bán tham số. chương 4 nêu 2 ví dụ thể hiện tính tối ưu của mô hình hồi quy bán tham số số với mô hình hồi quy tham số và phi tham số.

I HC QUC GIA TP HCM TRNG I HC BCH KHOA NGUYN TRNG VINH NG DNG HI QUY BN THAM S TRONG KHOA HC X HI Chuyờn ngnh : TON NG DNG Mó s: 604636 LUN VN THC S TP H CH MINH, 15 thỏng 06 nm 2013 CễNG TRèNH C HON THNH TI TRNG I HC BCH KHOA HQG -HCM Cỏn b hng dn khoa hc : PGS.TS Tụ Anh Dng Cỏn b chm nhn xột 1: Cỏn b chm nhn xột : Lun thc s c bo v ti Trng i hc Bỏch Khoa, HQG Tp HCM ngy thỏng nm Thnh phn Hi ng ỏnh giỏ lun thc s gm: Xỏc nhn ca Ch tch Hi ng ỏnh giỏ LV v Trng Khoa qun lý chuyờn ngnh sau lun ó c sa cha CH TCH HI NG TRNG KHOA I HC QUC GIA TPHCM CNG HO X HI CH NGHA VIT NAM TRNG I HC BCH KHOA c lp T Hnh phỳc Tp HCM, ngy 15 thỏng 06 nm 2013 NHIM V LUN VN THC S H tờn hc viờn: NGUYN TRNG VINH MSHV: 11240508 Ngy, thỏng, nm sinh: 08 04 1986 Ni sinh: Vnh Long Chuyờn ngnh: Toỏn ng Dng Mó s : 604636 I TấN TI: HI QUY BN THAM S V NG DNG II NHIM V V NI DUNG: III NGY GIAO NHIM V : 08/ 2012 IV NGY HON THNH NHIM V: 06/ 2013 V CN B HNG DN PGS.TS Tụ Anh Dng CN B HNG DN CH NHIM B MễN O TO PGS.TS Tụ Anh Dng TRNG KHOA: LI CM N Tụi xin by t lũng bit n sõu sc ca mỡnh ti Thy hng dn PGS.TS Tụ Anh Dng Trng b mụn Xỏc sut thng kờ, i hc Khoa hc t nhiờn i hc Quc Gia Tp H Chớ Minh, ngi ó luụn khuyn khớch, quan tõm giỳp , truyn t kin thc v to mi iu kin thun li giỳp tụi hon thnh lun tt nghip ny Tụi xin by t lũng bit n chõn thnh n th Thy, Cụ giỏo b mụn Toỏn ng dng Khoa Khoa hc ng Dng, phũng o To Sau i Hc trng i hc Bỏch Khoa i hc Quc Gia Tp.H Chớ Minh ó tn tỡnh dy d, giỳp , truyn t cho tụi sut khúa hc Tụi xin gi li cm n n th anh ch lp Cao hc khoỏ 2009 ó giỳp , chia s, ng viờn tụi vt qua nhng khú khn sut quỏ trỡnh hc Cui cựng tụi xin by t lũng bit n sõu sc n gia ỡnh ó luụn khớch l v giỳp tụi sut thi gian hc va qua Nguyn Trng Vinh TểM TT Lun gm bn chng Trong chng 1, trỡnh by mt s phng phỏp phõn tớch hi quy tham s: hi quy n bin, hi quy a bin Trong chng ny cng trỡnh by mt s kin thc c bn v phng phỏp bỡnh phng cc tiu, c lng, kim nh tham s Trong chng 2, trỡnh by v mụ hỡnh hi quy phi tham s bao gm:mt s phng phỏp lm trn, phng phỏp Sline pht, mụ hỡnh cng Trong chng 3, trỡnh by mụ hỡnh hi quy bỏn tham s, c lng mụ hỡnh hi quy bỏn tham s chng nờu vớ d th hin tớnh ti u ca mụ hỡnh hi quy bỏn tham s s vi mụ hỡnh hi quy tham s v phi tham s MC LC Li cm n Túm tt Mc lc M u Tớnh cp thit ca ti Mc tiờu Ni dung nghiờn cu Phng phỏp nghiờn cu Chng 1: Hi quy tham s .1 1.1 Phõn tớch hi quy 1.2 Mụ hỡnh hi quy n bin 1.2.1 Hi quy tng th 1.2.2 Hm hi quy mu .1 1.2.3 c lng v kim nh gi thuyt mụ hỡnh hi quy n bin .2 1.2.3.1 Phng phỏp bỡnh phng cc tiu 1.2.3.2 Cỏc gi thuyt ca phng phỏp bỡnh phng cc tiu 1.2.3.3 Phng sai v sai s chun ca cỏc c lng 1.2.3.4 H s xỏc nh v h s tng quan 1.2.3.5 Phõn phi xỏc sut ca cỏc c lng 1.2.3.6 Khong tin cy ca , v 1.2.3.6.1 Khong tin cy ca 1.2.3.6.2 Khong tin cy ca .10 1.2.3.6.3 Khong tin cy ca 10 1.2.3.7 Kim nh gi thuyt v cỏc h s hi quy 10 1.3 Mụ hỡnh hi quy tuyn tớnh k bin 11 1.3.1 Hm hi quy tng th 11 1.3.2 Cỏc gi thuyt .11 1.3.3 c lng cỏc tham s .12 1.3.4 H s xỏc nh hi quy bi 13 1.3.5 Ma trn tng quan 13 1.3.6 Ma trn hip phng sai 14 1.3.7 Khong tin cy v kim nh gi thuyt 15 Chng Hi quy phi tham s 16 2.1 Lm trn n gin 17 2.1.1 Phng phỏp trung bỡnh trt 17 2.1.2 Xp x c bn 17 2.1.3 Tớnh thng nht v tc hi t .18 2.1.4 Chun tim cn v khong tin cy 19 2.1.5 Ma trn lm trn .19 2.2 Lm trn ht nhõn 20 2.2.1 c lng 20 2.2.2 Tim cn chun 21 2.2.3 So sỏnh vi lm trn trung bỡnh trt 22 2.2.4 Khong tin cy 22 2.2.5 ng nht dóy tin cy 22 2.3 Phng phỏp Sline pht .23 2.3.1 í tng .23 2.3.2 Chn s knot v v trớ knot 27 2.3.3 Hi quy spline pht 27 2.3.4 C s Spline bc hai 28 2.4 Mụ hỡnh cng .28 Chng 3: Hi quy bỏn tham s 31 3.1 Mụ hỡnh hi quy bỏn tham s .31 3.2 c lng 32 3.3 Kt lun .35 3.3.1 tin cy v sai s chun 36 3.3.2 Kim nh gi thuyt 37 Chng 4: Mt s ng dng ca hi quy bỏn tham s .40 4.1 Bi toỏn 40 4.2 So sỏnh gia hi quy tham s, phớ tham s v bỏn tham s 41 4.3 Bi toỏn 42 Kt lun .46 Ph lc A: Cỏc s liu lun .47 Ph lc B: Cỏc thut toỏn 52 Ti liu tham kho .54 M U Tớnh cp thit ca ti Trong cỏc ngnh khoa hc thỡ hi quy c ng dng rng rói Hai mụ hỡnh thng c s dng l hi quy tham s v hi quy phi tham s Trong ú, hi quy tham s c dựng nhiu hn Tuy nhiờn, mt s trng hp, hi quy tham s khụng a c mi tng quan phự hp vi d diu, ú ngi ta cn dựng n mụ hỡnh hi quy phi tham s Nhng hi quy phi tham s phự hp vi d liu thỡ bc ca ng cong ln, khú d oỏn cỏc kt qu t mụ hỡnh S kt hp gia hi quy tham s v phi tham s l mt s cn thit Hi quy bỏn tham s l cu ni gia hai mụ hỡnh hi quy tham s v phi tham s Cho phộp chỳng ta lm tt c hai vic phõn tớch hi quy tham s v phi tham s, giỳp lm gim bt s phc ca b d liu, giỳp chỳng ta cú th hiu d dng hn, tỡm mi tng quan phự hp vi b d liu Hi quy bỏn tham s khụng cú ngha l tỡm nhng mụ hỡnh mi thay th cho nhng mụ hỡnh c, m ch yu ú l s m rng nhng mụ hỡnh thng kờ chun gii quyt mt s khoa hc Mc tiờu Nghiờn cu cỏc mụ hỡnh hi quy phõn tớch thng kờ nh hi quy tham s, hi quy phi tham s, hi quy bỏn tham s Ni dung nghiờn cu Phng phỏp nghiờn cu m hiu c s lý thuyt v thc tin quy Chng HI QUY THAM S 1.1.Phõn tớch hi quy: Phõn tớch hi quy l nghiờn cu s ph thuc ca mt bin( bin ph thuc) vo mt hay nhiu bin khỏc( cỏc bin gii thớch), vi ý tng l c lng( hay d oỏn) giỏ tr trung bỡnh ca bin ph thuc trờn c s cỏc giỏ tr bit trc ca cỏc bin gii thớch 1.2 Mụ hỡnh hi quy n bin: 1.2.1 Hi quy tng th: Hm hi quy tng th cú dng: E(Y/Xi) = f(Xi) Hm hi quy tng th cho bit giỏ tr trung bỡnh ca bin ph thc Y s thay i nh th no bin c lp X nhn cỏc giỏ tr khỏc Xột trng hp n gin, hm hi quy tng th cú dng tuyn tớnh: E Y / X i X i ( 1.1) Trong ú: , l cỏc tham s cha bit nhng c nh v gi l h s hi quy Giỏ tr quan sỏt th i ca bin ph thuc Y kớ hiu l Yi Kớ hiu Ui l i lng chờnh lch gia Yi v E(Y/Xi) Ui = Yi - E(Y/Xi) Hay: Yi = E(Y/Xi)+ Ui = X i U i Ui gi l sai s ngu nhiờn, i din cho s nh hng ca ca cỏc yu t khỏc m khụng c a vo bin gii thớch 1.2.2 Hm hi quy mu: Trong thc t, nhiu khụng cú iu kin iu tra ton b tng th Khi ú ch cú th c lng giỏ tr trung bỡnh ca bin ph thuc t s liu ca mu Hm hi quy c xõy dng trờn c s mt mu c gi l hm hi quy mu Vic c lng hm hi quy tng th bng hm hi quy mu phi tha iu kin: tuyn tớnh, khụng chch, cú phng sai nh nht 10 Hỡnh 3.1 Kt qu d oỏn vi thut toỏn B.1.3 Hnh c trng khu vc (Purnong Langding) (x = 1), vi mt 160.00 (cõy trng/m2) (y = 160.00) ta c sn lng l 39.80422 (g/ cõy trng) vi sai s chun 0.03798192 4.2 So sỏnh gia hi quy tham s, hi quy phi tham s v bỏn tham s : Vn vi s liu A.1, ta xõy dng mụ hỡnh hi quy tham s, phi tham s vi thut toỏn B.1.4, B.1.5 kim tra fit vi s liu, ta d oỏn sn lng hnh vi nhng s liu ó cú cho c ba mụ hỡnh hi quy tham s (thut toỏn B.1.6) phi tham s (thut toỏn B.1.7) v bỏn tham s (thut toỏn B.1.3) ri so sỏnh 50 Mt /khu vc 23.48/0 33.27/0 61.78/1 144.31/1 Log(yield) 5.407261 5.285485 4.569750 3.867862 Tham 5.182301/ 5.084384/ 4.799233/ 3.973785/ log(yield)/sai s 0.0361508 0.03212929 0.02394287 0.04585971 s Phi 5.291411/ 5.130051/ 4.75043/ 3.991869/ tham 0.05215225 0.03464046 0.03092205 0.0535303 Bỏn 5.56607/ 4.553337/ 3.805261/ tham 0.03735181 0.0247531 D oỏn s 5.337518/ 0.02424471 0.03900957 s Qua bng so sỏnh ta thy d oỏn vi mụ hỡnh hi quy bỏn tham s ti u hn so vi mụ hỡnh hi quy tham s, phi tham s 4.3 Bi toỏn 2: Mụ t d liu: Gm 345 b s th hin mi liờn h gia nng ozone khụng khớ vi chờnh lch ỏp sut Daggett, s thay i da vo cao v s thay i da vo nhit Da vo bng s liu A.2 phn ph lc, hóy d oỏn nng ozone vi chờnh lch ỏp sut Daggett l 5(mmHg), s thay i da vo cao l 369 (feet), s thay i da vo nhit l 89.45 (F) Gii: Dựng thut toỏn B.2.1 gi gúi lnh dựng cho hi quy bỏn tham s v d liu Dựng cỏc thut toỏn B.2.2, B.2.3, B.2.4 v mi tng quan gia bin ozone.level v cỏc bin inversion.base.temp, inversion.base.height, daggett.pressure.gradient ta c hỡnh 3.2: 51 Hỡnh 3.2 Nhỡn vo hỡnh v, ta thy mi tng quan gia bin ozone.level v inversion.base.temp cú phn tuyn tớnh hn so vi bin cũn li nờn ta chn bin inversion.base.temp l phn hi quy tham s, bin cũn li inversion.base.height, daggett.pressure.gradient lm thnh phn hi quy phi tham s Nh vy, mụ hỡnh hi quy bỏn tham s bi toỏn cú dng: E(ozone.leveli) = inversion.base.tempi + f1(daggett.pressure.gradienti) + f2(inversion.base.heighti) Hay: ozone.level = + inversion.base.temp + f1(daggett.pressure.gradient) + 52 f2(inversion.base.height) Dựng thut toỏn B.2.5 c lng cỏc thnh phn tham s v phi tham s Ta c kt qu sau: Thnh phn tham s: H s Sai s chun T s p-giỏ tr H s chn -9.2900 5.10700 -1.819 0.0698 inversion.base.temp 0.4501 0.02845 15.820 0.0000 Theo kt qu trờn ta c: -9.2900 ; =0.4501 Thnh phn phi tham s: Bc t Tham s trn S knot f(daggett.pressure.gradient) 5.098 78.64 31 f(inversion.base.height) 4.189 2764.00 39 Theo kt qu trờn ta c: - Vi bin daggett.pressure.gradient : + Bc t bng 5.098 + Tham s lm trn = 78.64 + S knot K = 31 - Vi bin inversion.base.height : + Bc t bng 4.189 + Tham s lm trn = 2764.00 + S knot K = 39 Dựng thut toỏn B.2.6 v ng biu din mi liờn h gia bin ozone.level vi cỏc bin inversion.base.temp; daggett.pressure.gradient ;inversion.base.height Th hin hỡnh 3.3 53 Hỡnh 3.3 D oỏn nng ozone vi chờnh lch ỏp sut Daggett l 5(mmHg), s thay i da vo cao l 369 (feet), s thay i da vo nhit l 89.45 (F) Dựng thut toỏn B.2.7 ta c kt qu: Nng l 23.37021 vi sai s chun 0.8570518 54 KT LUN Túm li, qua lun trờn ó tỡm hiu vic kt hp mụ hỡnh hi quy tham s v phi tham s dn n mụ hỡnh hi quy bỏn tham s v tỡm cỏch c lng cỏc tham s ca mụ hỡnh hi quy Lun trỡnh by ng dng ca mụ hỡnh hi quy bỏn tham s vo vic d oỏn mt kt qu t s liu ó cho Trong ph lc B, phn ln cỏc on chng trỡnh da vo nhng th tc cú sn phn mm R nờn cha linh hot vic chn knot , bc t do, tham s trn Do thi gian cú hn nờn lun cha trỡnh by c nhiu vớ d tớnh toỏn phn mm v phỏt trin mụ hỡnh cao hn 55 PH LC A: CC S LIU TRONG LUN VN S liu A.1: Sn lng ca hnh c trng ti hai khu vc nam nc c: STT dens yield log(yield) location STT dens yield log(yield) location 23.48 26.22 223.02 234.24 5.40726 5.45635 0 43 44 18.78 21.25 272.15 235.23 5.606353 5.460564 1 27.79 32.88 221.68 221.94 5.40123 5.40241 0 45 46 23.23 27.18 180.47 177.31 5.195565 5.1779 1 33.27 36.79 197.45 189.64 5.28549 5.24513 0 47 48 30.15 31.63 141.28 169.39 4.950744 5.132204 1 37.58 37.58 211.2 191.36 5.35281 5.25416 0 49 50 32.12 32.62 138.17 171.81 4.928485 5.146389 1 10 41.49 42.66 156.62 168.12 5.05382 5.12468 0 51 52 32.62 33.61 112.02 156.09 4.718677 5.050433 1 11 12 44.23 44.23 197.89 154.14 5.28771 5.03786 0 53 54 37.07 38.55 137.29 154.1 4.922095 5.037602 1 13 14 51.67 55.58 153.26 142.79 5.03214 4.96138 0 55 56 39.54 39.54 124.17 146.28 4.821652 4.985523 1 15 16 55.58 57.93 126.17 167.95 4.83763 5.12367 0 57 58 41.02 42.5 105.47 139.24 4.658427 4.936199 1 17 18 58.71 59.5 144.54 151.3 4.97356 5.01926 0 59 60 43.98 45.47 148.31 110.44 4.999305 4.704472 1 19 20 60.67 62.63 130.52 125.3 4.87153 4.83071 0 61 62 49.92 50.9 90.72 102.61 4.507778 4.630935 1 21 22 67.71 70.06 114.05 116.31 4.73664 4.75626 0 63 64 53.87 57.82 107.36 92.66 4.676188 4.528937 1 23 24 70.45 73.98 120.71 134.16 4.79339 4.89903 0 65 66 61.78 61.78 96.52 94.71 4.56975 4.55082 1 25 26 73.98 78.67 114.48 91.17 4.7404 4.51273 0 67 68 63.75 67.71 99.86 93.37 4.603769 4.53657 1 27 28 95.9 96.68 101.27 97.33 4.61779 4.57811 0 69 70 71.66 77.59 89.78 69.34 4.497362 4.239022 1 29 30 96.68 101.38 101.37 97.2 4.61878 4.57677 0 71 72 80.56 86.49 73.74 75.17 4.300545 4.319752 1 31 32 103.72 104.51 87.12 81.71 4.46729 4.40318 0 73 74 88.46 89.45 72.98 79.94 4.290185 4.381276 1 33 34 105.68 108.03 76.44 87.1 4.33651 4.46706 0 75 76 90.93 92.91 79.13 70.93 4.371092 4.261693 1 35 36 117.82 127.21 84.54 69.09 4.43722 4.23541 0 77 78 101.81 103.78 60.99 74.09 4.11071 4.305281 1 37 38 134.26 137.39 64.4 66.81 4.16511 4.20185 0 79 80 115.15 123.06 49.45 56.65 3.900962 4.036892 1 39 40 151.87 163.61 63.01 55.45 4.14329 4.01548 0 81 82 144.31 155.68 47.84 40.03 3.867862 3.689629 1 41 42 166.35 184.75 62.54 54.68 4.13581 4.0015 0 83 84 158.15 180.39 38.7 28.96 3.65584 3.365916 1 56 Location nhn giỏ tr nu l khu vc Virginia, nu l khu vc Purnong Landing S liu A.2: STT Y 3 5 6 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 11 29 10 30 31 12 32 33 34 35 36 37 38 39 40 41 42 43 44 X1 -15 -25 -24 25 15 -33 -28 23 -2 -19 -44 -44 -53 -67 -40 -68 -66 -58 -26 18 23 -10 -25 -52 -15 -15 -38 -29 -7 62 70 28 18 -18 32 -1 -30 -8 21 51 42 X2 5000 2693 590 1450 1568 2631 554 2083 2654 5000 111 492 5000 1249 5000 5000 639 393 5000 5000 5000 3044 3641 111 692 597 1791 793 531 419 816 3651 5000 5000 1341 5000 3799 5000 5000 5000 5000 2398 5000 4281 X3 30.56 47.66 55.04 57.02 53.78 54.14 64.76 52.52 48.38 48.56 63.14 64.58 56.3 75.74 65.48 63.32 66.02 69.8 54.68 51.98 51.98 52.88 47.66 59.54 67.1 70.52 64.76 65.84 75.92 75.74 66.2 49.1 37.94 32.36 45.86 38.66 45.86 38.12 37.58 45.86 45.5 53.78 36.32 41.36 STT 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 57 Y 11 13 4 10 15 23 17 3 7 12 12 16 24 13 10 10 13 14 11 12 12 X1 27 26 -30 -53 -43 24 19 -4 73 73 44 39 15 -12 -2 30 24 38 56 66 -27 -9 13 -20 -15 68 28 -49 -27 -9 54 53 -16 38 40 -5 -14 34 X2 1161 2778 442 5000 5000 5000 5000 5000 1341 1318 885 360 3497 5000 5000 5000 5000 5000 5000 5000 3608 5000 5000 5000 613 334 567 488 531 508 1571 721 505 377 442 902 3188 1381 5000 5000 1302 1292 5000 472 X3 52.88 55.76 58.28 42.26 43.88 49.1 49.1 42.08 59.18 64.58 67.1 67.1 49.46 40.1 29.3 27.5 30.02 33.62 39.02 42.08 39.38 32.9 35.6 34.34 59.72 64.4 61.88 64.94 71.06 66.56 56.3 55.4 67.28 73.22 75.74 60.44 58.64 56.3 50 46.94 52.7 53.6 52.7 62.96 STT 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 Y 4 13 10 10 7 11 15 22 17 10 19 18 12 19 21 29 16 11 2 12 16 22 20 27 33 25 31 X1 42 35 75 41 62 44 31 56 27 57 55 59 24 29 107 36 28 30 10 46 81 45 40 55 43 49 31 16 46 63 60 77 75 20 23 32 40 24 50 X2 1404 944 5000 5000 5000 5000 2014 5000 5000 524 5000 5000 5000 2490 5000 5000 5000 1144 547 413 610 3638 3848 1479 1108 869 5000 5000 1148 856 807 2040 5000 314 5000 5000 1410 360 1568 1184 898 436 774 1181 X3 54.5 55.76 35.24 30.92 33.44 42.08 53.42 37.22 47.66 54.68 38.48 35.24 32.54 47.48 31.28 33.44 39.38 53.6 66.92 69.62 63.68 51.26 56.84 68 65.48 58.1 38.3 37.94 60.8 75.38 73.04 63.5 42.62 59 42.62 40.82 55.22 62.42 67.64 68.72 73.4 86.36 86 79.88 STT 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 58 Y X1 18 47 16 71 24 56 16 52 12 58 53 16 64 74 66 29 31 20 70 86 75 11 73 12 49 19 26 17 56 19 77 16 67 14 61 10 76 80 54 76 57 12 46 22 28 17 43 26 -24 27 -1 14 75 11 69 23 50 26 45 21 57 15 60 20 26 15 -11 18 -14 26 26 19 19 13 30 25 26 41 X2 1991 2057 1597 1184 3005 2880 2125 3720 4337 2053 1958 3644 1368 3539 2785 984 1804 3234 3441 1578 1850 2962 2670 5000 5000 5000 987 1148 898 777 1279 1046 1167 987 1144 977 770 629 337 590 400 580 646 826 X3 69.62 67.28 68 69.44 59.18 57.38 59 50.9 59.36 72.86 70.52 59.36 58.46 53.6 63.32 69.26 68 62.78 60.98 60.8 60.8 59.36 55.4 42.08 40.82 51.26 63.86 66.92 77.9 82.58 71.6 68.72 74.3 75.74 71.24 70.7 75.56 86.36 89.78 85.1 83.3 87.26 89.24 84.38 STT 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 Y 15 16 16 19 23 28 34 33 24 17 10 14 13 17 15 22 19 20 25 28 29 23 26 14 13 26 22 11 15 14 13 12 14 22 24 19 16 12 X1 52 47 52 41 37 33 22 29 56 63 67 64 56 58 75 54 61 55 42 40 45 32 35 28 27 39 46 68 52 46 56 60 59 30 36 28 57 71 68 73 45 46 52 31 X2 823 2116 2972 2752 1377 1486 990 508 1204 2414 2385 2326 3389 2818 3083 2394 2746 2493 1528 111 1899 1289 984 836 826 1105 1023 1453 2375 2956 2988 4291 3330 1233 1450 1069 984 1653 3930 5000 5000 4212 5000 5000 X3 74.48 70.34 64.4 69.98 78.44 79.88 85.1 85.28 79.88 76.46 70.34 71.24 68.72 71.78 72.32 69.62 69.44 72.5 73.94 78.08 76.46 75.2 78.8 81.5 79.34 74.12 77.18 70.16 66.2 67.28 65.66 62.24 58.64 70.52 69.8 74.3 73.4 68.72 59.18 51.62 51.26 56.84 49.82 57.38 STT 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 59 Y X1 15 43 17 44 13 55 20 16 22 32 24 44 26 39 32 19 33 24 27 38 23 27 19 33 19 21 15 -2 28 17 10 26 14 10 26 17 -27 39 14 13 29 10 18 56 37 35 19 26 31 23 31 13 35 17 39 36 11 25 12 18 30 25 38 35 10 13 17 X2 1545 994 1125 636 748 692 807 869 800 393 557 620 1404 898 377 528 2818 3247 895 721 774 134 5000 1965 1853 2342 5000 5000 4028 2716 3671 3795 3120 2667 5000 5000 308 2982 5000 5000 5000 5000 3070 830 X3 65.66 69.62 68 73.94 77 77.72 78.8 78.98 85.64 91.76 90.68 85.64 84.74 80.6 83.3 78.8 72.68 67.28 78.08 80.24 75.56 77.18 51.8 60.98 70.88 71.42 51.62 47.48 55.04 63.68 65.84 66.92 66.92 63.5 52.7 48.92 68.72 59.9 52.7 51.26 47.66 47.84 60.08 72.14 STT 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 Y 26 30 18 12 15 12 28 22 18 14 24 10 14 12 7 13 10 12 20 14 16 5 11 14 18 12 X1 -9 -10 -39 -40 -34 -3 27 -17 -2 13 27 11 21 23 -7 -13 12 13 11 25 21 -41 -21 -19 10 -11 -40 -29 -22 -4 18 24 15 27 54 -28 -38 -36 -20 -8 -17 X2 711 1049 511 5000 5000 377 862 337 492 1394 3146 2234 2109 5000 2270 2191 3448 5000 5000 2719 1899 5000 5000 5000 2385 1938 590 328 5000 597 469 1541 5000 5000 5000 5000 5000 5000 5000 2014 436 830 1112 1210 X3 75.56 78.98 83.84 67.64 69.44 78.8 73.58 81.14 82.22 75.02 64.04 66.74 69.62 54.5 68.9 68.72 58.64 48.92 49.46 56.84 62.06 52.52 50.9 54.32 60.44 62.6 69.98 80.6 61.7 73.58 71.78 63.14 41.9 41.72 44.6 42.8 53.6 63.5 60.08 69.98 70.34 66.02 66.38 67.82 STT Y X1 309 -22 310 -15 311 14 312 59 313 -63 314 -52 315 -54 316 -43 317 -69 318 -50 319 -24 320 28 321 -22 322 -40 323 -33 324 -16 325 326 -52 327 -48 328 -37 329 -26 330 -31 331 -48 332 -50 333 -22 334 -10 335 336 -19 337 -28 338 -25 339 -10 340 -5 341 -14 342 -36 343 18 344 345 -3 X2 501 875 1601 5000 5000 5000 2280 2047 5000 3720 311 2536 1154 2933 3064 826 5000 111 5000 5000 5000 5000 948 5000 5000 3687 5000 5000 5000 5000 508 2851 111 5000 3704 5000 5000 X3 70.88 68.9 62.06 41.9 37.04 41 55.76 63.5 56.48 61.34 69.98 56.48 61.52 59.9 62.78 64.76 42.98 68.18 54.68 55.58 51.08 51.44 70.7 50.9 48.56 46.94 44.24 45.68 45.32 48.38 58.64 50 72.5 51.26 46.94 39.92 37.22 Trong ú: Y: Ozone.level ; X 1: daggett.pressure.gradient ; X2: inversion.base.height ; X3: inversion.base.temp 60 PH LC B: CC THUT TON THUT TON BI TON TRONG PHN MM R B.1.1 Thut toỏn tỡm cỏc thnh phn tuyn tớnh v phi tuyn: library(SemiPar) data(onions) attach(onions) log.yield [...]... j   j0 t  t (n-k) Phía phải 24 Chương 2: HỒI QUY PHI THAM SỐ Hồi quy phi tham số là một hình thức phân tích hồi quy, đòi hỏi giả thuyết về dữ liệu ít hơn hồi quy tham số, dữ liệu không có phân phối chuẩn và do đó sẽ tốt hơn trong các tình huống mà sự phân bố là không biết hoặc không dễ dàng sử dụng xấp xỉ một phân bố xác suất Mô hình hồi quy phi tham số có dạng: yi  f ( xi1 , xi2 , xi3 , , xik...  21 /2 Phía trái  2   02  2   02  2  2  2   21 /2 19 1.3 Mô hình hồi quy tuyến tính k biến: 1.3.1 Hàm hồi quy tổng thể: Hàm hồi quy tổng thể trong trường hợp k biến có dạng: Yi   0  1 X 1i   2 X 2i    k X ki  U i (1.13) Trong đó,  0 là hệ số tự do,  j ( j  1, 2, , k ) là các hệ số hồi quy riêng Giả sử, có n quan sát, mỗi quan sát gồm k giá trị ( Yi, X1i,…,Xki), i = 1,2,…,n... f    Trong đó (2.25) d  2ln(1/  ) , c thoả exp[-2exp(-c)]=0,95, s fˆ là ước lượng sai số chuẩn của hàm hồi quy ước lượng được định nghĩa trong (2.22) 2.3 Phương pháp Sline phạt (penalized splines) 2.3.1 Ý tưởng: Ta sẽ bắt đầu với mô hình hồi quy đường thẳng: yi   0  1 xi   i (a) Mô hình hồi quy đường thẳng (b) Cơ sở tương ứng 32 (2.26) Hình 2.1 Hình 2.1 (a) biểu diễn mô hình hồi quy đường... R2 gọi là hệ số xác định ( coefficient of determination) và được sử dụng để đo mức độ phù hợp của hàm hồi quy Nếu R2 = 1 thì đường hồi quy phù hợp hoàn hảo, tất cả các sai lệch của Y ( so với giá trị trung bình) đều giải thích được bởi mô hình hồi quy Nếu R2 = 0 chứng tỏ X và Y không có quan hệ Hệ số tương quan: Hệ số tương quan r là số đo mức độ chặt chẽ của quan hệ tuyến tính giữa X và Y và được xác... hàm biên tích hợp đến 1 và đối xứng quanh 0 Định nghĩa trọng số : 1  xi  x0  K  n    wi  1 n  xi  x0  K  n i 1    (2.16) Hình dạng của trọng số được xác định bởi K, độ lớn được kiểm soát bởi  , gọi là bandwidth Giá trị lớn các kết quả của  trong các trọng số lớn hơn được đặt trên những quan sát xa x0 Sử dụng (2.15) hàm ước lượng hồi quy phi tham số trở thành : 1  xi  x0  K... nhân 2.2.1 Ước lượng : Hình thức ước lượng phi tham số : n fˆ ( x0 )   wi ( x0 ) yi (2.15) i 1 Ở đây, ta đang ước lượng hàm hồi quy tại điểm x0 như là tổng trọng số của yi , các trọng số wi(x0) phụ thuộc vào x0 Để xây dựng một trọng số trung bình địa phương ta dùng một hàm duy nhất tập trung tại 0 và giảm về hai phía, tỉ lệ được điều khiển bởi một tham số Hàm như vậy thường gọi là hạt nhân, là những... ; se ˆ1  var ˆ1 2 i i 1   2 ; 2 var ˆ1  n  xi2   i 1 Trong đó:  2  var(U i ) ; se: sai số chuẩn( standard error) Trong các công thức trên, nếu  2 chưa biết thì  2 được ước lượng bằng ước lượng không chệch của nó là ˆ 2 n ˆ 2  e i 1 2 i n2 ˆ  ˆ 2 ; là sai số chuẩn của hồi quy 1.2.3 4 Hệ số xác định và hệ số tương quan: Kí hiệu: n  TSS   Yi  Y i 1   Y 2 n 2 i i 1...Nếu hàm hồi quy tổng thể có dạng tuyến tính thì hàm hồi quy mẫu có dạng: Yˆi  ˆ0  ˆ1 X i (1.2) Trong đó: Yˆi là ước lượng điểm của E(Y/Xi); ˆ0 là ước lượng điểm của 0 ; ˆ1 là ước lượng điểm của 1 Dạng ngẫu nhiên của (1.2) là: Yi  ˆ0  ˆ1 X i  ei Trong đó, ei là ước lượng điểm của Ui và gọi là phần dư 1.2.3 Ước lượng và kiểm định giả thuyết mô hình hồi quy đơn biến: 1.2.3.1... rằng số quan sát trung bình tăng lên và phương sai của ước lượng dần đến 0 2.2.2 Tiệm cận chuẩn: Giả sử rằng x có phân phối ngẫu nhiên ( trên khoảng đơn vị ) với mật độ xác suất p(x) Cho hạt nhân tổng quát,ước lượng hạt nhân Nadaraya-Watson (2.17) là phù hợp Tử số hội tụ về f(x0)p(x0) và mẫu số hội tụ về p(x0) Tỉ lệ của hội tụ là tối ưu nếu   O  n1/5  , trong trường hợp này tổng bình phương sai số. .. ( x0 )n (2.22) Trong đó pˆ ( x0 )  1 n  xi  x0  K  n i 1    (2.23) là mẫu số của (2.17) Sau đó, 95% pointwise khoảng tin cậy có thể được xây dựng bằng cách sử dụng fˆ ( x0 )  1.96s fˆ (2.24) 2.2.5 Đồng nhất dãy tin cậy: Một hình ảnh thú vị cho ước lượng không tham số là dãy tin cậy của hàm ước lượng Trong các mẫu được lặp lại, 95% dãy tin cậy ước lượng sẽ chứa hàm 31 hồi quy đúng f Sự thật