(Tiểu luận) chuyên đề học phần nhập môn học máy đề ti kỹ thuật hồi quy tuyến tính v ứng dụng trong giáo dục

TRƯỜNG ĐẠI HỌC ĐIỆN LỰC KHOA CÔNG NGHỆ THÔNG TIN BÁO CÁO CHUYÊN ĐỀ HỌC PHẦN NHẬP MÔN HỌC MÁY ĐỀT I: KỸ THUẬT HỒI QUY TUYẾN TÍNH V ỨNG DỤNG TRONG GIÁO DỤC Sinh viên thực : PHẠM HUY MINH SƠN NGUYỄN VĂN THẮNG Giảng viên hướng :Đ ONAMANH dẫn Ngành : CÔNG NGHỆ THÔNG TIN Chuyên ngành : HỆ THỐNG TMDT Lớp : D15HTTMDT1 Khóa : D15 Hà Nội, tháng 12 năm 2022 PHIẾU CHẤM ĐIỂM Sinh viên thực hiện: Họ tên Chữ ký Ghi Giảng viên chấm: Họ tên Giảng viên chấm : Giảng viên chấm : Chữ ký Ghi LỜI CẢM ƠN Lời đầu tiên, em xin chân thành gửi lời cảm ơn tới thầy cô giáo Trường Đại học Điện Lực nói chung thầy giáo Khoa Cơng nghệ thơng tin nói riêng tận tình giảng dạy, truyền đạt cho chúng em kiến thức kinh nghiệm quý báu suốt trình học Đặc biệt, em gửi lời cảm ơn đến Giáo viên hướng dẫn Đào Nam Anh , thầy tận tình theo sát giúp đỡ, trực tiếp bảo, hướng dẫn suốt trình nghiên cứu học tập chúng em Trong thời gian học tập với cô, chúng em tiếp thu thêm nhiều kiến thức bổ ích mà cịn học tập tinh thần làm việc, thái độ nghiên cứu khoa học nghiêm túc, hiệu Đây điều cần thiết cho chúng em trình học tập công tác sau Chúng em muốn gửi lời cảm ơn đặc biệt nhất, sâu sắc nhất, thân thương đến thầy chúc thầy dồi sức khỏe, tiếp tục giảng dạy hết tâm huyết cho lứa học trò sau để đất nước ta ngày có nhiều nhân tài, người giỏi doanh nghiệp, xây dựng đất nước phát triển Em xin chân thành cảm ơn! MỤC LỤ LỜI CẢM ƠN .3 LỜI MỞ ĐẦU .7 CHƯƠNG TỔNG QUAN VỀ HỌC MÁY V KỸ THUẬT HỒI QUY TUYẾN TÍNH, ỨNG DỤNG TRONG GIÁO DỤC 1.1 KHÁI NIỆM VỀ HỌC MÁY: 1.2 HỌC GIÁM SÁT V HỌC KHÔNG GIÁM SÁT: 1.2.1 Học có giám sát (Supervised Learning)-SL 1.2.2 Học không giám sát (Unsupervised Learning)-UL: .3 1.3 ỨNG DỤNG CỦA HỌC MÁY: 1.4 KHÁI NIỆM PHÂN LỚP DỰ BÁO: 1.5 MƠ HÌNH REGRESSION: 1.5.1 Giới thiệu mô hình Regression: 1.5.2 Mơ hình Linear Regression: 11 1.5.3 Sai số dự đoán 12 1.5.4 Xác định Basic Function: .12 1.5.5 Hạn chế mơ hình Linear Regression: 13 1.6 ỨNG DỤNG TRONG GIÁO DỤC: .14 CHƯƠNG THỬ NGHIỆM V ĐÁNH GIÁ KẾT QUẢ 15 2.1 B I TỐN DỰ ĐỐN ĐIỀU KIỆN NHẬP HỌC VỚI MƠ HÌNH REGRESSION.15 2.2.1 Phát biểu toán: 15 2.2.2 Chuẩn bị liệu: 16 2.2.3 Xử lý liệu: 17 2.2.4.Code chạy liệu: .18 KẾT LUẬN 22 T I LIỆU THAM KHẢO 23 TÀI LIỆU THAM KHẢO 33 DANH MỤC HÌNH ẢNH HÌNH 1 MƠ HÌNH HỌC CĨ GIÁM SÁT HÌNH MƠ HÌNH HỌC KHƠNG GIÁM SÁT .3 HÌNH SỰ KHÁC BIỆT GIỮA MƠ HÌNH SL VÀ UL HÌNH 1.4.MƠ HÌNH REGRESSION TREE DỰ BÁO GIÁ CỦA MỘT CHIẾC XE TOYOTA HÌNH 1.5 VÍ DỤ VỀ PHÉP TỐN 10 HÌNH 1.6 QUAN HỆ Y=3+4X 10 HÌNH ĐỒ THỊ THỂ HIỆN GIÁ TRỊ HIỆN TẠI VÀ GIÁ TRỊ TƯƠNG LAI CỦA DỮ LIỆU 13 HÌNH 2.1.DỮ LIỆU TRUNG BÌNH TRÚNG TUYỂN VỚI MƠ HÌNH REGRESSION 15 LỜI MỞ ĐẦU Tính cấp thiết đề tài Cơng nghệ ngày phổ biến khơng phủ nhận tầm quan trọng hiệu mà đem lại cho sống Bất kỳ lĩnh vực nào, góp mặt trí tuệ nhân tạo giúp người làm việc hoàn thành tốt công việc Và gần đây, thuật ngữ “machine learning” nhiều người quan tâm.Thay phải code phần mềm với cách thức thủ công theo hướng dẫn cụ thể nhằm hoàn thành nhiệm vụ đề máy tự “học hỏi” cách sử dụng lượng lớn liệu thuật tốn cho phép thực tác vụ Đây lĩnh vực khoa học không mới, cho thấy lĩnh vực trí tuệ nhân tạo ngày phát triển tiến xa tương lai Đồng thời, thời điểm xem lĩnh vực “nóng” dành nhiều mối quan tâm để phát triển cách mạnh mẽ, bùng nổ Hiện nay, việc quan tâm machine learning ngày tăng lên nhờ có machine learning giúp gia tăng dung lượng lưu trữ loại liệu sẵn, việc xử lý tính tốn có chi phí thấp hiệu nhiều Những điều hiểu thực tự động, nhanh chóng để tạo mơ hình cho phép phân tích liệu có quy mô lớn phức tạp đồng thời đưa kết cách nhanh xác Chính hiệu cơng việc lợi ích vượt bậc mà đem lại cho khiến machine learning ngày trọng quan tâm nhiều Vì chúng em chọn đề tài: ”Kỹ thuật quy hồi tuyến tính ứng dụng Giáo dục”để làm báo cáo Mục tiêu nghiên cứu Báo cáo xây dựng mơ hình dự báo ứng dụng Giáo dục Từ sở cho lập trình xây dựng mơ hình dự đốn điểm thi đầu vào trường Đại hoc; Điểm sinh viên tốt nghiệp;… Recommandé pour toi Suite du document ci-dessous Câu 151 - 179 - Câu 151 - 179 mơn kế tốn tài doanh nghiệp Quản lý tài 100% (1) Đối tượng phạm vi nghiên cứu Đối tượng nghiên cứu: Đối tượng nghiên cứu báo cáo phân tích thiết kế theo hướng đối tượng Giáo dục điểm thi, sinh viên đạt học bổng, … Phạm vi nghiên cứu: Đồ án nghiên cứu phạm vi nhu cầu thực tế Giáo dục Việt Nam trường Đại học Phương pháp nghiên cứu Báo cáo sử dụng phương pháp phân tích di•n giải thực trạng cầu dự đoán điểm đầu vào, số sinh viên đạt học bổng, trường Đại học Tài liệu tham khảo trường Đại học Việt Nam Ngồi báo cáo cịn sử dụng phương pháp đ–nh tính để đưa giải pháp hồn thiên— cho toán cần giải Kết cấu báo cáo: Báo cáo gồm chương: +Chương 1: Tổng quan học máy kỹ thuật quy hồi tuyến tính, ứng dụng Giáo dục +Chương 2: Thử nghiệm đánh giá kết CHƯƠNG TỔNG QUAN VỀ HỌC MÁY V KỸ THUẬT HỒI QUY TUYẾN TÍNH, ỨNG DỤNG TRONG GIÁO DỤC 1.1 Khái niệm học máy Học máy (Machine learning) lĩnh vực Trí tuệ nhân tạo(Artificial Intelligence) sử dụng thuật toán cho phép máy tính học từ liệu để thực cơng việc thay lập trình cách rõ ràng, cung cấp cho hệ thống khả tự động học hỏi cải thiện hiệu suất, độ xác dựa kinh nghiệm từ liệu đầu vào Học máy tập trung vào việc phát triển phần mềm, chương trình máy tính truy cập vào liệu tận dụng nguồn liệu để tự học Học máy địi hỏi đánh giá người việc tìm hiểu liệu sở lựa chọn kĩ thuật phù hợp để phân tích liệu Đồng thời, trước sử dụng, liệu phải sạch, khơng có sai lệch khơng có liệu giả Các mơ hình học máy yêu cầu lượng liệu đủ lớn để "huấn luyện" đánh giá mơ hình Trước đây, thuật toán học máy thiếu quyền truy cập vào lượng lớn liệu cần thiết để mơ hình hóa mối quan hệ liệu Sự tăng trưởng liệu lớn (big data) cung cấp thuật toán học máy với đủ liệu để cải thiện độ xác mơ hình dự đốn Học máy có loại Học có giám sát (Supervised Learning) Học khơng có giám sát(Unsupervised Learning) 1.2 Học giám sát học không giám sát 1.2.1 Học có giám sát (Supervised Learning)-SL Là phương pháp sử dụng liệu gán nhãn từ trước để suy luận quan hệ đầu vào đầu Các liệu gọi liệu huấn luyện chúng cặp đầu vào-đầu Học có giám sát xem xét tập huấn luyện để từ đưa dự đoán đầu cho đầu vào chưa gặp Mỗi liệu có cấu trúc theo cặp {x, y} với x xem liệu thô (raw data) y nhãn liệu Nhiệm vụ SL dự đốn đầu mong muốn dựa vào giá tr– đầu vào D• nhận ra, học có GIÁM SÁT tức máy học dựa vào trợ giúp người, hay nói cách khác người dạy cho máy học giá tr– đầu mong muốn đ–nh trước người Tập liệu huấn luyện hoàn toàn gán nhãn dựa vào người Tập nhỏ máy tính học SL áp dụng cho nhóm tốn tốn dự đốn (regression) toán phân lớp (classification), dự đoán giá nhà, phân loại email dựa tập liệu mẫu - tập huấn luyện (training data) Hình 1 Mơ hình học có giám sát Học có giám sát hướng tiếp cận Máy học để làm cho máy tính có khả "học" Trong hướng tiếp cận này, người ta "huấn luyện" máy tính dựa quan sát có dán nhãn Ta hình dung quan sát câu hỏi, nhãn chúng câu trả lời Ý tưởng học có giám sát là: việc ghi nhớ tổng quát hóa số quy tắc từ tập câu hỏi có đáp án trước, máy tính trả lời câu hỏi dù chưa gặp phải, có mối liên quan Ví dụ ta dạy máy tính "1 + = 2" hy vọng học phép tính cộng x + trả lời "2 + = 3" Học có giám sát mơ việc người học cách đưa dự đốn cho câu hỏi, sau đối chiếu với đáp án Sau người rút phương pháp để trả lời khơng câu hỏi đó, mà cho câu hỏi có dạng tương tự Hình 1.5 Ví dụ phép tốn Trong vịng khoảng nửa phút ,bạn cách tìm dấu điền vào chỗ trống để có kết Và Machine-Learning ,bạn đưa cho máy tính số kết ,việc máy tính tìm mối liên hệ số để đồng kết vế trái vế phải phép tính Về ta có cặp huấn luyện chứa cặp (x(i),y(i)) ,tương ứng với nhiệm vụ ta phải tìm giá tr– ứng với đầu vào X Để làm điều ta cần phải tìm quan hệ x y để từ đưa dự đốn Hình 1.6 Quan hệ y=3+4x Một hàm số đơn giản mơ tả mối quan hệ giá nhà đại lượng đầu vào là: Trong ,w1 ,w2 ,w3 ,w0 số, w0 gọi bias.Mối quan hệ y=f(x) bên mối quan hệ tuyến tính (linear) Bài tốn làm toán thuộc loại regression Bài tốn tìm hệ số tối ưu { w1,w2,w3,,w0} {w1,w2,w3,w0} gọi tốn Linear Regression 1.5.2 Mơ hình Linear Regression Mơ hình đơn giản mơ hình kết hợp tuyến tính biến đầu vào: Trong véc tơ biến đầu vào véctơ trọng số tương ứng Thường θ gọi tham số mơ hình Giá tr– tham số ước lượng cách sử dụng cặp giá tr– tập huấn luyện Thực mơ hình tuyến tính cần mức tuyến tính tham số θ y đủ Và cho tên gọi tuyến tính xuất phát θ y x y Nói cách khác, ta kết hợp x cách phi tuyến trước hợp với θ để y Một cách đơn giản sử dụng hàm phi tuyến cho x sau: θ gọi tham số mơ hình Giá tr– tham số ước lượng cách sử dụng cặp giá tr– (x(i),y(i)) tập huấn luyện θo gọi độ lệch (bias) nhằm cắt mức độ chênh lệch mơ hình thực tế Viết lại công thức sau: Như quy ước tất véc tơ khơng nói ta ngầm đ–nh với véc tơ cột nên ta có cách viết nhân ma trận 1.5.3 Sai số dự đoán Chúng ta mong muốn sai khác e giá tr– thực y giá tr– dự đoán y^ (đọc y hat tiếng Anh) nhỏ Nói cách khác, muốn giá tr– sau nhỏ tốt: 1.5.4 Xác định Basic Function