Phân tích hồi quy tuyến tính đa biến trong SPSS- 123docz.net

Mô hình hồi quy tuyến tính đa biến [2] có dạng:

y= + 1x1i+ 2x2i + 3x3i + ...+...+ kxki + i

Với ví dụ trên ta có thể viết phƣơng trình tuyến tính đa biến với 9 yếu tố: (X1= Đ_HK1, X2= Đ_HK2, X3= Đ_HK3, X4= Đ_HK4, X5= Đ_HK5, X6= NO, X7=GT, X8=DT, X9=KTGĐ) nhƣ sau:

KQHT = + (Đ_HK1)+ (Đ_HK4)+ Đ_HK3)+ (Đ_HK4)+ (Đ_HK5)+ (NO)+ GT)+ DT)+ KTGĐ) +

Trong phân tích hồi quy tuyến tính đa biến, ta cần biết mức độ ảnh hƣởng của từng yếu tố lên biến kết cục y (KQHT trong ví dụ này). Muốn biết mức độ ảnh hƣởng cần lƣu ý đến các trị số sau:

a) Hệ số tƣơng quan R (coefficient of correlation): yếu tố nào có R càng lớn thì ảnh hƣởng càng nhiều.

b)Bình phƣơng của R (R square): yếu tố nào có R2

càng lớn thì mối quan hệ giữa yếu tố đó và biến y càng chặt chẽ.

c) Hệ số hồi quy (regression coefficient): yếu tố nào có cao thì ảnh hƣởng nhiều hơn, tuy nhiên các yếu tố có đơn vị khác nhau nên không thể so sánh mức ảnh hƣởng giữa các yếu tố. Nếu muốn so sánh phải đổi các yếu tố có cùng đơn vị là độ lệch chuẩn, lúc đó ta có hệ số hồi quy chuẩn hóa:

(Với Sx là độ lệch chuẩn của x tƣơng ứng và Sy là độ lệch chuẩn của y). Dựa vào công thức trên, ta tính đƣợc hệ số hồi quy chuẩn.

d)Trị số p (p value) càng nhỏ mức ảnh hƣởng càng mạnh. Ta đƣa tất cả các biến vào cùng lúc để phân tích đa biến.

Ta đƣợc phƣơng trình hồi quy đa biến nhƣ sau:

KQHT = 0.242 + 0.202 (Đ_HK1) + 0.180 (Đ_HK2) + 0.157 (Đ_HK3) + 0.229 (Đ_HK4) + 0.299 (Đ_HK5) – 0.144 (NO) – 0.128 (GT) + 0.187(DT) – 0.071(KTGĐ).

Hệ số tƣơng quan chung là R=0,953 và tất cả 9 yếu tố này chỉ giải thích đƣợc gần 91% (R2

=0,909) sự thay đổi của KQHT.

Nhìn vào trị số p (cột cuối cùng-Sig.), điểm học kì là có giá trị thống kê với p=0,000.

Nhƣ vậy trong phân tích từng biến riêng lẻ (phân tích đơn biến) thì điểm học kì có ý nghĩa thống kê. Trong phân tích đa biến điểm học kì có ý nghĩa độc lập giải thích sự thay đổi KQHT.

Kết luận: Điểm học kì là yếu tố độc lập có ý nghĩa dự đoán KQHT, các yếu tố

CHƢƠNG IV

BÀI TOÁN VÀ CHƢƠNG TRÌNH ỨNG DỤNG

PHÂN LỚP BAYES ĐỂ DỰ ĐOÁN KẾT QUẢ HỌC TẬP 4.1. Bài toán

Bài toán dự đoán kết quả học tập của sinh viên với dữ liệu đầu vào là điểm trung bình của các học kỳ, và một số thông tin cá nhân của sinh viên nhƣ nơi ở, giới tính, kinh tế gia đình… với những dữ liệu đầu vào mô hình đƣa ra kết quả dự đoán của sinh viên sẽ đạt đƣợc trong suốt quá trình đào tạo và mô hình sẽ phân tích những yếu tố nào ảnh hƣởng đến kết quả học tập để học sinh có lộ trình và phƣơng pháp học tốt hơn.

4.2 Xây dựng chƣơng trình dự đoán

Dữ liệu vào để dự đoán đƣợc kết quả học tập là cơ sở dữ liệu lấy từ các học kỳ trƣớc, gồm các thông tin điểm môn học, nơi ở, dân tộc, kinh tế gia đình.

Chƣơng trình hoàn thiện sẽ giúp sinh viên có thể dự đoán đƣợc kết quả cuối cùng của mình trong toàn khóa học. Chƣơng trình gồm 2 phần:

Phần 1: Thu thập thông tin cần thiết của sinh viên (bao gồm: Điểm học kì 1

(Đ_HK1), Điểm học kì 2 (Đ_HK2), Điểm học kì 3 (Đ_HK3), Điểm học kì 4 (Đ_HK4), Điểm học kì 5 (Đ_HK5), nơi ở (NO), giới tính (GT), dân tộc (DT), kinh tế gia đình (KTGĐ).

Phần 2: Thực hiện dự đoán kết quả học tập, gồm 2 bƣớc chính sau:

 Bước 1: Kiểm tra thông tin đầu vào trùng bộ huấn luyện thì sẽ cho ra ngay kết quả dự đoán.

 Bước 2: Nếu thông tin đầu vào không trùng bộ huấn luyện mẫu dùng

thuật toán Naive Bayes để dự đoán. (adsbygoogle = window.adsbygoogle || []).push({});

a. Dữ liệu Input/ Output của bài toán dự đoán kết quả học tập

Input: Giá trị các biến ngôn ngữ (Điểm học kì 1, Điểm học kì 2, Điểm học kì 3,

Điểm học kì 4, Điểm học kì 5, Nơi ở, giới tính, dân tộc, kinh tế gia đình)

Output: Mức độ kết quả học tập (giỏi (G), khá (K), trung bình khá (TBK), trung

b. Cơ sở dữ liệu của bài toán

 Xác định dữ liệu đầu vào: là các yếu tố ảnh hƣởng đến kết quả học tập của sinh viên gồm:

- Điểm đầu vào các học kỳ (Điểm học kì 1, Điểm học kì 2, Điểm học kì 3, Điểm học kì 4, Điểm học kì 5,…) gồm các lớp: Giỏi, Khá, Trung bình khá, Trung bình.

Và các thông tin cá nhân:

- Nơi ở gồm các lớp: Sinh viên ở thành phố (TP), Sinh viên ở tỉnh - Giới tính gồm các lớp: nam, nữ

- Dân tộcgồm các lớp: kinh, khác

- Kinh tế gia đình gồm các lớp: cao, khá, trung bình, thấp  Xác định dữ liệu đầu ra:

- Kết quả học tập của sinh viên dự đoán là: Giỏi, Khá, Trung bình khá, Trung bình, Yếu

 Các biến ngôn ngữ lƣợng hóa:

Điểm đầu vào:

DiemTB>=8.0: lớp Giỏi (G)

DiemTB>=6.5 và DiemTB<8.0: lớp Khá (K)

DiemTB>=5.0 và DiemTB<6.5: lớp Trung bình khá (TBK) DiemTB>=3.5 và DiemTB<5.0: lớp Trung bình (TB) DiemTB<3.5: lớp yếu (Y)

Nơi ở:

- Sinh viên ở TPHCM, Hà nội, Hải phòng, Đà nẵng, Cần Thơ: lớp (TP) - Sinh viên các tỉnh khác: lớp (Tỉnh)

Dân tộc:

- Dân tộc kinh: lớp (Kinh)

- Các trƣờng hợp còn lại: lớp (khác)

Các bƣớc thực hiện: Bài toán chia làm 2 bƣớc:

- Tạo bộ huấn luyện mẫu là các kết quả của sinh viên trong những năm học trƣớc gồm các biến (Điểm học kì 1, Điểm học kì 2, Điểm học kì 3, Điểm học kì 4, Điểm học kì 5, nơi ở, giới tính, dân tộc, kinh tế gia đình). - Nhập các thông tin đầu vào của sinh viên gồm: Điểm các học kì, thông

tin cá nhân nhƣ nơi ở, dân tộc, giới tính, kinh tế gia đình…

- Nếu thông tin đầu vào trùng với bộ huấn luyện mẫu thì sẽ cho ra kết quả dự đoán.

Bước 2: Phân lớp

- Kĩ thuật phân lớp của Naive Bayes dựa trên cơ sở định lí Bayes. Với mỗi loại dữ liệu nhập vào, thuật toán Naive Bayes tính cho mỗi lớp kết quả một xác suất mà dữ liệu cần phân hoạch có thể thuộc lớp đó. Dữ liệu đó sẽ đƣợc gán cho lớp kết quả nào có xác suất cao nhất.

- Do điềm các học kỳ là khác nhau nên các thuộc tính này độc lập với nhau, dựa vào định lý Bayes ta tính xác suất dữ liệu đầu vào.

- Xác suất P(Ck| ai) gọi là xác suất mà dữ liệu ai có khả năng thuộc vào lớp kết quả Ck đƣợc tính toán nhƣ sau: (adsbygoogle = window.adsbygoogle || []).push({});

ai ai

- Phân lớp cho lớp mới, lớp mới đƣợc gán vào lớp có xác suất lớn nhất và kết quả dự đoán sẽ thuộc vào phân lớp mới theo công thức:

Trong đó N là số lớp. Ck là lớp kết quả ai dữ liệu cần dự đoán

c. Sơ đồ mô tả:

Nhập điểm các học kỳ, và thông tin cá nhân

∐

Tính

Kết quả dự đoán Bắt đầu

Bộ huấn luyện mẫu Đúng

 Ví dụ mẫu: Kết quả học tập của sinh viên

TT Điểm

học kì 1 học kì 2 Điểm học kì 3 Điểm học kì 4 Điểm học kì 5 Điểm Nơi ở Giới tinh

Dân

tộc gia đình Kinh tế Kết quả học tập

1 TBK TB TBK TBK TBK Tỉnh Nữ Kinh Khá TBK 2 TBK K K G G TP Nữ Khác Khá K 3 TBK K TBK TBK TBK TP Nam Kinh Thấp TBK 4 TB Y TB TB Y Tỉnh Nam Kinh TB Y 5 TBK TB TB K TBK TP Nữ Kinh Khá TBK 6 G G TBK G G TP Nữ Kinh TB G 7 G G TBK TBK K Tỉnh Nữ Kinh Cao K 8 G TBK G K TBK TP Nam Kinh Khá K 9 TBK G TB TB TBK Tỉnh Nữ Khác Khá TBK 10 TBK TBK TB TBK TBK Tỉnh Nam Kinh TB TBK 11 K G TBK G K TP Nam Kinh TB K 12 TBK Y TB TBK Y Tỉnh Nữ Kinh Thấp TB 13 K G G G G Tỉnh Nam Kinh Cao G 14 TB TBK TBK TB TB TP Nữ Khác Khá TB 15 TBK K G G K Tỉnh Nam Kinh Cao K 16 Y TB TBK K G TP Nữ Kinh khá TBK 17 TBK Y TBK TBK TBK Tỉnh Nam Kinh khá TBK 18 TBK Y TBK TBK TBK Tỉnh Nữ khác TB TB 19 TBK TB TB K TBK TP Nam Kinh Thấp TBK 20 K TBK G K K Tỉnh Nam Kinh TB K 21 G G TBK TBK K Tỉnh Nam Kinh khá K 22 TBK TB TBK Y K TP Nữ Kinh TB TBK 23 G TBK TBK TBK K Tỉnh Nữ Kinh cao K 24 TBK Y TBK TB TBK TP Nam Kinh khá TB 25 K TBK TBK Y TBK Tỉnh Nữ khác Thấp TBK 26 G TBK TB Y TBK Tỉnh Nam Kinh TB TBK 27 G TBK TBK G G Tỉnh Nam Kinh TB K 28 G TBK TB TBK G Tỉnh Nam Kinh Thấp K 29 G G TB TB TBK Tỉnh Nam Kinh cao TBK 30 G TBK TBK TB K TP Nữ Kinh khá TBK 31 K G K K K Tỉnh Nam Kinh cao K 32 G TBK TBK TB TBK Tỉnh Nữ Kinh khá TBK 33 G G K G K Tỉnh Nam Kinh khá G 34 TB TB TBK K TBK Tỉnh Nam khác TB TBK 35 G K TBK Y K TP Nam Kinh khá TBK 36 G G K TBK G TP Nam Kinh cao K 37 TBK TB TB K K Tỉnh Nam khác Thấp TBK 38 TBK K K K G Tỉnh Nữ khác TB K 39 G Y Y K TBK TP Nam Kinh cao TBK 40 TBK TBK TBK TB TBK Tỉnh Nữ Kinh Thấp TBK 41 TBK TBK TBK TB K Tỉnh Nam khác TB TBK 42 G G TB Y TBK TP Nam Kinh khá TBK 43 G TBK TB K TBK Tỉnh Nam Kinh khá TBK 44 K TBK TB Y TB Tỉnh Nữ Kinh khá TBK 45 TBK TB TB K TB TP Nam Kinh TB TBK

Áp dụng phân lớp Naive Bayes vào tập dữ liệu mẫu trong bảng … để phân lớp cho một thể hiện mới sau đây: <G,K,TBK,TB,G, Tỉnh, nữ, kinh, thấp>

(kết quả học tập sẽ là giỏi (G), khá (K), trung bình khá (TBK), trung bình (TB), yếu (Y)).

Bước 1: Ƣớc lƣợng P(Ci) với G=“Giỏi”, K= “Khá”, TBK= “Trung bình khá”, TB=

“Trung bình”, Y= “Yếu”, và P(Xi|Ci) Ta thu đƣợc:

- Xác suất giỏi: P(G)=3/45 - Xác suất khá: P(K)=13/45

- Xác suất TB khá: P(TBK)=24/45 - Xác suất TB: P(TB)=4/45

- Xác suất yếu: P(Y)=1/45 Ta tính xác suất của các thuộc tính sau:

Điểm học kì 1

Điểm học kì 2

Điểm học kì 3

Điểm học kì 4

P(G|G)=3/3 P(G|K)=4/13 P(G| TBK)= 0/24 P(G|TB)= 0/4 P(G|Y)= 0/1 P(K|G)= 0/3 P(K|K)=4/13 P(K| TBK)=8/24 P(K|TB)= 0/4 P(K|Y)= 0/1 P(TBK|G)= 0/3 P(TBK|K)=5/13 P(TBK|TBK)=4/24 P(TBK|TB)=2/4 P(TBK|Y)= 0/1 P(TB|G)= 0/3 P(TB|K)= 0/13 P(TB| TBK)=6/24 P(TB|TB)=2/4 P(TB|Y)=1/1 P(Y|G)= 0/3 P(Y|K)= 0/13 P(Y| TBK)= 6/24 P(Y|TB)= 0/4 P(Y|Y)= 0/1 (adsbygoogle = window.adsbygoogle || []).push({});

Điểm học kì 5

Nơi ở

Bước 4: Phân lớp cho mẫu mới Ví dụ 1: X1=<G, K ,TBK,TB, G, Tỉnh, nữ, kinh, thấp> - P(X1 | G) = 3/45*2/3*0/3*11/3*0/3*2/3*2/3*1/3*2/3*0/3=0 - P(X1 | K) = 13/45*7/13*3/13*5/13*0/13*5/3*9/13*9/13*11/13*1/13 =0 - P(X1 | TBK) = 24/45*8/24*2/24*12/24*6/24*1/24*12/24*8/24 19/24 *5/24 = 2.121 - P(X1 | TB) = 4/45*0/4*0/4*3/4*2/4*0/4*2/4*3/4*2/4*1/4= 0 - P(X1 | Y) = 1/45*0/1*0/1*0/1*1/1*0/1*1/1*0/1*1/1*0/1 = 0

P (X1 | TBK) max vậy X1 thuộc lớp TBK nghĩa là (với sinh viên có điểm học kì 1 là giỏi, điểm học kì 2 là khá, điểm học kì 3 là trung bình khá, điểm học kì 4 là trung bình, điểm học kì 5 là giỏi, sống ở tỉnh, dân tộc kinh, kinh tế gia đình thấp và là nữ) thì kết quả là trung bình khá. Ví dụ 2: X2=<TBK,G,G ,TBK, K, Tỉnh, nữ, khác, thấp> - P(X2 | G) = 3/45*0/3*3/3*1/3*0/3*1/3*2/3*1/3*0/3*0/3=0 - P(X2 | K) =13/45*3/13*5/13*3/13*5/13*7/3*9/13*9/13*2/13*1/13 = 0.695 - P(X2 | TBK) = 24/45*12/24*3/24*0/24*4/24*5/24*12/24*8/24*5/24*5/24 =0 - P(X2 | TB) = 4/45* 3/4*0/4*0/4*2/4*0/4*2/4*3/4*2/4*1/4= 0 - P(X2 | Y) = 1/45*0/1*0/1*0/1*0/1*1/1*1/1*0/1*0/1*0/1 = 0

P (X2 | K) max vậy X2 thuộc lớp Khá nghĩa là (với sinh viên có điểm học kì 1 là TBK, điểm học kì 2 là giỏi, điểm học kì 3 là giỏi, điểm học kì 4 là trung bình khá, điểm học kì 5 là khá, giới tính nữ, sống ở tỉnh, ngƣời dân tộc, kinh tế gia đình thấp) thì kết quả là Khá.

Giới tính

Dân Tộc

Kinh tế gia đình

4.3. Chƣơng trình ứng dụng

Chƣơng trình dự đoán kết quả học tập của sinh viên đƣợc viết trên nền web để sinh viên có thể tự kiểm tra đánh giá kết quả học tập cuối cùng của mình suốt quá trình học.

Chương trình gồm có 3 trang:

Trang 2: Dự đoán kết quả học tập

Sinh viên nhập điểm các học kỳ và thông tin cá nhân nhƣ giới tính, nơi ở, dân tộc, kinh tế gia đình… vào các ô tƣơng ứng.

Nhấn nút Xem dự đoán kết quả học tập để xem kết quả

 Xem dự đoán kết quả học tập chƣơng trình xử lý thành 2 bƣớc:

− Bƣớc 1: Kiểm tra dữ liệu nhập vào của sinh viên nếu trùng với bộ huấn luyện mẫu (Trang nhập luật) thì sẽ hiện ra kết quả dự đoán.

− Bƣớc 2: Nếu dữ liệu nhập vào của sinh viên không trùng với bộ huấn luyện mẫu thì chƣơng trình dùng thuật toán phân lớp Bayes để đƣa ra kết quả dự đoán cuối cùng.

Trang 3: Nhập luật

Trang này chứa bộ huấn luyện mẫu lấy từ bảng 3.2 (Bảng kết quả học tập của sinh viên). Ngƣời quản trị có thể tự nhập thêm các thông tin điểm học kì và thông tin cá nhân của sinh viên để cập nhật thêm vào bộ huấn luyện mẫu.

4.3. Kết quả thực nghiệm

Chƣơng trình giúp sinh viên có thể dự đoán kết quả học tập cuối cùng của mình trong suốt quá trình học từ sẽ đó có lộ trình học tốt hơn.

Tuy nhiên chƣơng trình còn hạn chế bộ huấn luyện mẫu còn ít do đó xác suất dự đoán kết quả cũng bị ảnh hƣởng.

KẾT LUẬN

Luận văn này thực hiện nhằm mục đích hỗ trợ dự đoán kết quả học tập cuối cùng của sinh viên trƣờng nghề, luận văn sử dụng thuật toán chính là phân lớp Naive Bayes, thuật toán này cho xác suất kết quả cao. Phƣơng pháp phân tích hồi quy để dự đoán các yếu tố ảnh hƣởng đến kết quả học tập.

 Kết quả đã đạt đƣợc của luận văn: (adsbygoogle = window.adsbygoogle || []).push({});

- Tìm hiểu về hệ hỗ trợ ra quyết định và thuật toán phân lớp Naive Bayes để dự đoán kết quả học tập.

- Tìm hiểu về phƣơng pháp phân tích hồi quy để dự đoán các yếu tố ảnh hƣởng.

- Xây dựng chƣơng trình dự đoán kết quả học tập.  Hƣớng phát triển

Thử nghiệm chƣơng trình và xây dựng bộ huấn luyện mẫu với dữ liệu đầu là điểm các môn học của học kì trƣớc để dự đoán kết quả của học kì sau.

Phân tích hồi quy tuyến tính đa biến trong SPSS

Mục lục