(TIỂU LUẬN) báo cáo đồ án KHAI KHOÁN dữ LIỆU tìm HIỂU máy học tự ĐỘNG

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CẦN THƠ KHOA CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG BỘ MƠN KHOA HỌC MÁY TÍNH  BÁO CÁO ĐỒ ÁN KHAI KHOÁN DỮ LIỆU TÌM HIỂU MÁY HỌC TỰ ĐỘNG CÁN BỘ HƯỚNG DẪN SV THỰC HIỆN: TS Lưu Tiến Đạo Nguyễn Minh Nghiên MSSV: B1304993 Tháng 07/2020 MỤC LỤC Trang MỤC LỤC TÓM TẮT ĐỀ TÀI CHƯƠNG I GIỚI THIỆU 1.1 ĐẶT VẤN ĐỀ 1.2 GIẢI QUYẾT VẤN ĐỀ 1.3 CÔNG NGHỆ SỬ DỤNG CHƯƠNG II MÁY HỌC TỰ ĐỘNG 2.1 Máy học tự động 2.2 Một số máy học tự động 2.2.1 Auto-sklearn 2.2.2 Auto-keras 2.2.3 Auto-pytorch 2.2.4 Máy học tự động H2o 2.3 Cài đặt 2.2.1 Auto-sklearn 2.2.2 Auto-keras 2.2.3 Auto-pytorch 2.2.4 Máy học tự động H2o CHƯƠNG III THỰC NGHIỆM 3.1 Chuẩn bị liệu 3.2 KẾT QUẢ CHƯƠNG IV KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 4.1 Kết luận 4.2 Hướng phát triển LỜI CẢM ƠN Đồ Án Mơn Học TĨM TẮT ĐỀ TÀI Máy học thuật ngữ khơng cịn xa lạ với kĩ sư lĩnh vực cơng nghệ thơng tin, nói xác kĩ sư ngành khoa học máy tính Bằng cách tự học tập phát triển kinh nghiệm học để tìm kiếm, phát số thuộc tính đặc biệt hay phân loại liệu Máy học trở thành công cụ thiếu phát triển phần mềm tự động hướng tới AI, học tập tất lĩnh vực nghiên cứu khoa học Muốn sử dụng máy học cần kiến thức khoa học máy tính, tốn q trình học tập dài hạn, nên gây hạn chế cho phần lớn người có nhu cầu sử dụng machine learning không co kiến thức khoa học máy tính Vì thế, cấp thiết cần giải pháp để làm đơn giản q trình sử dụng máy học khơng làm giảm hiệu Do đó, máy học tự động đời để đáp ứng phát triển máy học Máy học tự động đươc hiểu tự động sử dụng máy học trình học tập tối ưu tham số để máy học hiệu tốt Vì chúng tơi muốn tìm hiểu máy học tự động để giới thiệu cho người dễ dàng sử dụng Qua đó, chúng tơi giới thiệu số AutoML như: Auto-sklearn, Auto-Pytorch, AutoML h2o, Auto-keras Cần Thơ, ngày tháng năm 2020 Sinh viên thực Nguyễn Minh Nghiên SVTH: Nguyễn Minh Nghiên –3– Chương II: MÁY HỌC TỰ ĐỘNG CHƯƠNG I GIỚI THIỆU 1.1 Đặt vấn đề - Với phát triển nhiều sản phẩm ứng dụng máy học - Cần số lượng lớn kĩ sư máy học - Máy học sử dụng rộng rải cho tất lĩnh vực, cần số lượng lớn kĩ sư máy học hiểu biết lĩnh vực cần máy học - Máy học tự động xuất nhiều năm chưa sử dụng rộng rải, chưa có nhiều người biết đến máy học tự động Vì cần phải tìm hiểu thư viên máy học tự động để nhiều người hiểu biết sử dụng máy học tự động cho mục đích 1.2 Giải vấn đề - Tìm hiểu số thư viện máy học tự động như: cách sử dụng, cài đặt - Sử dụng số tập liệu để kiểm tra hiệu thư viện - So sánh khác máy học máy học tự động 1.3 Công nghệ sử dụng - Python: ngôn ngữ lập trình hướng đối tượng, cấp cao, dễ dàng sử dụng - Google colab: dịch vụ đám mây miễn phí nhầm nhằm hỗ trợ cộng đồng nghiên cứu AI phát triển ứng dụng deep learning việc cung cấp GPU TPU miễn phí SVTH: Nguyễn Minh Nghiên –4– Chương II: MÁY HỌC TỰ ĐỘNG CHƯƠNG II MÁY HỌC TỰ ĐỘNG 2.1 Máy học tự động Máy học trình hệ thống thực số cơng việc từ kinh nghiệm học từ trước mà không cần lập trình cụ thể Máy học tự động tiếp nối cùa máy học q trình hồn thiện hệ thống hướng trí tuệ nhân tạo Máy học tự động làm đơn giản hóa q trình sử dụng máy học Người sử dụng cần cung cấp liệu nạp vào máy học tự động máy học tự động cho kết cuối mơ hình phù hợp Hình 2.1: Hình mơ tả máy học tự động 2.2 Một số máy học tự động Giới thiệu số đặt điểm vài máy học tự động 2.2.1 Auto-sklearn (Style “Cap 3”) Auto-sklearn thay scikit-learn tạo thành nhà nghiên cứu Đại học Freiburg Nó giải phóng người dùng máy học khỏi lựa chọn thuật tốn điều chỉnh siêu tham số Nó tận dụng lợi gần tối ưu hóa Bayes, siêu học xây dựng tồn Thay tập trung vào việc tìm kiếm kiến trúc nơ-ron cho hệ nơ-ron sâu, Auto-Scklearn sử dụng tối ưu hóa Bayesian cho siêu tham số, nhằm tương thích với thuật toán machine learning “truyền thống” scikit-learn 2.2.2 Auto-keras Auto-keras thư viện mã nguồn mở viết ngôn ngữ python với việt sử dụng thư viện keras cho trình học sâu Cung cấp việc tự động tìm kiếm SVTH: Nguyễn Minh Nghiên –5– Chương II: MÁY HỌC TỰ ĐỘNG kiến trúc nơ-ron siêu tham số Ngoài sử dụng tối ưu hóa Bayesian để tăng độ xác cho máy học Máy học tự động Auto-keras cung cấp nhiều tác vụ cho bào toán phân loại hồi quy, với nhiều dạng liệu da dạng như: văn bản, hình ảnh, liệu có cấu trúc Nó phát triển DATA LAB đại học Texas A&M nhóm keras-team Sự khác biệt thật phiên thể rõ rệt phiên 1.0.2 vào tháng 2/2020 tương thích với tensorflow 2.1.0 so với phiên 1.0.3 vào tháng 6/2020 sửa lỗi khơng tương thích với tensorflow 2.2.0 với đột phá việc sử dụng lớp tiền xử lý Keras cho ImageAug sắc tố Do việc sử dụng auto-keras đơn giản cho người khơng có kiến thức chuyên sâu máy học Với việc điều chỉnh kiến trúc mơ hình phù hợp với kiểu liệu thời gian huấn luyện máy học tự động làm chuyện lại để xuất mơ hình tối ưu 2.2.3 Auto-pytorch Auto-pytorch máy học tự động sử dụng thư viện pytorch facebook với việc tự động lựa chọn kiến trúc cài đặt siêu tham số, auto-pytorch tối ưu tham số với phương thức tối ưu hóa đa chân thực Bayesian (BOHB) Việc đem lại dự báo máy học tự động ưu việt thời gian tới, auto-pytorch chưa thức bước đầu 2.2.4 Máy học tự động H2o Máy học tự động h2o viết bang Java nên dễ dàng thực tác vụ đa luồng, phù hợp nhiều hệ điều hành khác nhau, tích hợp nhiều giao diện với ngơn ngữ lập trình khác Với việc đặt giới hạn thời gian hoạt động cụ thể, h2o trả danh sách mơ hình tốt 2.3 Cài đặt Trước hết nên sử dụng phần mềm tạo môi trường ảo để tránh viêc đụng độ thư viện vd: anaconda 2.2.1 Auto-sklearn Yêu cầu cấu hình: - Cài đặt python SVTH: Nguyễn Minh Nghiên –6– Chương II: MÁY HỌC TỰ ĐỘNG - Không cài đặt winđow Cú pháp cài đặt: pip install autosklearn Sử dụng colab: !apt-get install swig -y !pip install Cython numpy !pip install auto-sklearn 2.2.2 Auto-keras Yêu cầu cấu hình - Python 3.5 trở lên - Tensorflow 2.1.0 với autokeras 1.0.2 - Tensorflow 2.2.0 với autokeras 1.0.3 Cú pháp: pip install autokeras 2.2.3 Auto-pytorch Cú pháp: pip install torch pip install git+https://github.com/shukon/HpBandSter.git pip install git+https://github.com/automl/Auto-PyTorch.git 2.2.4 Máy học tự động H2o Cú pháp: pip install h2o SVTH: Nguyễn Minh Nghiên –7– Chương III: THỰC NGHIỆM CHƯƠNG III THỰC NGHIỆM 3.1 Chuẩn bị liệu Iris sklearn với 150 hàng, thuộc tính phân loại loại hoa Digits sklearn 1797 hàng, 64 thuột tính, phân loại 10 chữ số viết tay từ 0-9 Nmist keras gồm 60000 hình dùng để train, 10000 hình dùng để test 3.2 Kết SVTH: Nguyễn Minh Nghiên –8– Chương VI: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN CHƯƠNG IV KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 4.1 Kết luận Auto-sklearn dễ sử dụng, độ xác cao, sử lí liệu 3D khơng được, chuyển sang 2D cho độ xác cao nmist Auto-pytorch liệu nhỏ cho độ xác cao, liệu lớn khơng tìm kết (nmist) Auto-keras liệu lớn digits cho độ xác thấp Dễ sử dụng auto-sklearn Auto-keras hỗ trợ phân biệt nhiều kiểu liệu khác 4.2 Hướng phát triển Tìm hiểu thêm AutoML như: cnvrg.io, AutoFolio, Robo, Flexfolio Sử dụng AutoML để tạo phần mềm SVTH: Nguyễn Minh Nghiên –9– Chương VI: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN LỜI CẢM ƠN Tôi xin chân thành cảm ơn thầy Lưu Tiến Đạo quan tâm dạy, theo dõi, giúp đỡ tận tình suốt khoảng thời gian em thực dề tài Và hết, Tôi xin bày tỏ lòng biết ơn trân trọng đến quý thầy trường Đại học Cần Thơ tận tình dạy, truyền đạt kiến thức quý báo cho chúng em thời gian vừa qua để chúng em có đủ kiến thức, điều kiện để thực đề tài Đồng thời chúng em biết ơn cán trực thư viện khoa công nghệ, trung tâm học liệu, phòng máy hỗ trợ giúp đỡ chúng em thời gian qua Đồng cảm ơn đến tác giả sách báo, internet, anh chị trước tìm tịi, nghiên cứu đúc kết kinh nghiệm làm tài liệu để em tham khảo trình thực đề tài Sau xin cảm ơn bạn lớp Cơ khí chế tạo máy, khoa Cơng nghệ, trường Đại học Cần Thơ tận tình giúp đỡ, hỗ trợ cho thực tiểu luận Cần Thơ, ngày ) tháng năm 2020 (Ký ghi rõ họ tên) Nguyễn Minh Nghiên SVTH: Nguyễn Minh Nghiên – 10 – ... biết đến máy học tự động Vì cần phải tìm hiểu thư viên máy học tự động để nhiều người hiểu biết sử dụng máy học tự động cho mục đích 1.2 Giải vấn đề - Tìm hiểu số thư viện máy học tự động như:... cung cấp liệu nạp vào máy học tự động máy học tự động cho kết cuối mơ hình phù hợp Hình 2.1: Hình mơ tả máy học tự động 2.2 Một số máy học tự động Giới thiệu số đặt điểm vài máy học tự động 2.2.1... khoa học máy tính Vì thế, cấp thiết cần giải pháp để làm đơn giản q trình sử dụng máy học khơng làm giảm hiệu Do đó, máy học tự động đời để đáp ứng phát triển máy học Máy học tự động đươc hiểu tự