KHOA CÔNG NGHỆ THƠNG TIN ĐỀ CƯƠNG CHI TIẾT HỌC PHẦN TÍNH TOÁN SONG SONG – PARALLEL COMPUTING

KHOA CƠNG NGHỆ THƠNG TIN CỘNG HỊA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập – Tự – Hạnh phúc ĐỀ CƢƠNG CHI TIẾT HỌC PHẦN TÍNH TỐN SONG SONG – PARALLEL COMPUTING Thông tin giáo viên TT Họ tên giáo viên Nguyễn Mạnh Hùng Học Học vị Đơn vị công tác (Bộ môn) hàm GVC TS Công nghệ phần mềm Thời gian, địa điểm làm việc: Địa liên hệ: Điện thoại, email: manhhungk12@mta.edu.vn; manhhungk12@gmail.com Các hướng nghiên cứu chính: Cấu trúc liệu đại, Phân loại gói tin hiệu cao, Khai phá liêu Thông tin chung học phần - Tên học phần: TÍNH TỐN SONG SONG - Mã học phần: 12566151 - Số tín chỉ: - Cấu trúc học phần: 3(2,2) - Học phần (bắt buộc hay lựa chọn): - Các học phần tiên quyết: - Các yêu cầu học phần (nếu có): - Giờ tín hoạt động:  Nghe giảng lý thuyết: 30  Làm tập lớp: 15  Thảo luận:6  Thực hành, thực tập (ở PTN, nhà máy, thực tập ):  Hoạt động theo nhóm:  Tự học: - Khoa/Bộ mơn phụ trách học phần, địa chỉ: Mục tiêu học phần - Kiến thức: Lý thuyết thuật toán song song, mơ hình xử lý song song, kiến trúc xử lý song song - Kỹ năng: Sinh viên có khả sử dụng thành thạo môi trường, công cụ hỗ trợ lập trình song song - Thái độ, chuyên cần: Lên lớp đầy đủ chuẩn bị theo yêu cầu giáo viên 2 Tóm tắt nội dung học phần (khoảng 150 từ) Giới thiệu khái niệm, nguyên lý xử lý song song Giới thiệu số phương pháp thiết kế thuật toán song song Tìm hiểu số thuật tốn song song toán cụ thể: nhân ma trận, giải hệ phương trình tuyến tính, tìm kiếm đồ thị, khai phá liệu Giới thiệu thực hành xây dựng số chương trình song song thư viện Pthread, MPI OpenMP Nội dung chi tiết học phần (tên chương, mục, tiểu mục) Chương, mục, tiểu mục Nội dung Số tiết Chương 1: Giới thiệu chung Giới thiệu Phân loại kiến trúc máy tính Mơ hình trừu tượng máy tính song song Mơ hình tổ chức xử lý hệ thống xử lý song song 5.1 Các tiêu chuẩn đánh giá mơ hình 5.2 Các mơ hình dạng tuyến tính dạng lưới 5.3 Các mơ hình dạng Các mơ hình tính tốn Các mơ hình lập trình song song Các mức lập trình song song Chương 2: Các nguyên tắc thiết kế thuật tốn song song đồng hóa tác vụ Giới thiệu Một số kỹ thuật chia nhỏ toán Một số kỹ thuật ánh xạ tác vụ vào tiến trình Một số mơ hình thuật tốn song song Đánh giá độ phức tạp thuật toán song song Luật Amdahl 7.Vùng tranh chấp - Critical section Các phương pháp dùng xử lý vùng tranh chấp Giáo trình, Tài liệu tham Ghi khảo (Ghi TT TL mục 6) 1,2 1,2 Chương 3: Một số thuật toán song song Thuật toán xử lý mảng song song Thuật tốn tính số PI song song Thuật tốn tìm dãy chung dài song song Thuật toán nhân ma trận 1,2 Chương 4: Một số thuật toán song song đồ thị Thuật toán Kruskal song song Thuật toán Prim song song Thuật toán Dijkstra song song Chương 5: Thư viện lập trình song song Pthread I Giới thiệu PThread Cài đặt PTHREAD POSIX với VC++ Con trỏ hàm C++ Giới thiệu hàm pthread Ví dụ tạo lập kết thúc thread Trao đổi liệu thread với thread Các ví dụ 1,2 II Xử lý vùng tranh chấp Pthread Bài tốn bán vé 1.1 Mơ tốn bán vé nhiều thread 1.2 Xử ý tượng đua tranh vùng liệu 1.3 Xử lý đua tranh chương trình bán vé Tắc nghẽn LT Pthread Bài toán: Dining Philosophers Chương 5: Thư viện lập trình song song Pthread (tiếp) III Đồng hóa tác vụ Pthread Biến điều kiện: 1.1 Tạo lập hủy biến điều kiện 1.2 Sơ đồ đồng hóa thread Đồng hóa Semaphore IV Cài đặt số thuật toán song song Pthread Thuật toán nhân ma trận-vector Thuật toán nhân ma trận-ma trận Bài tập Chương 6: Thư viện lập trình song song MPI I Giới thiệu Hướng dẫn cài đặt MPICH2 với VC++ Cấu trúc trình MPI Các thủ tục MPI Trao đổi liệu Đồng tiến trình Chi tiết lệnh trao đổi liệu Các lệnh trao đổi liệu không bị chặn Các lệnh Persistent Trao đổi liệu mảng chiều 10 Định nghĩa kiểu liệu MPI II Các hàm truyền thơng theo nhóm III Thiết lập Topologies Tạo nhóm truyền thơng Virtual topologies Deadlock lập trình MPI Bài tập MPI Thiết lập môi trường làm việc MPI dùng máy ảo Thiết lập môi trường làm việc MPI máy nối trực tiếp Cài đặt thuật toán nhân ma trận thưa với vector 4 Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Cài đặt thuật toán nhân ma trận với ma trận Bài tập MPI Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Chương 7: Thư viện lập trình OpenMP Sử dụng OpenMP VC++.Net Khai báo vùng Parallel Quản lý việc tính tốn song song (for, sections) Đồng hóa OpenMP Bài tập OpenMP Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song 3 6 Giáo trình, tài liệu tham khảo TT Tên giáo trình, tài liệu Tình trạng giáo trình, tài liệu Có thư Giáo viên Đề Đề nghị viện khoa nghị biên (website) có mua soạn mới Introduction to Parallel Computing X (Second Edition), Addison Wesley, 2003 Parallel and Distributed X Programming Using C, Addison Wesley, 2003 Using OpenMP Portable Shared X Memory Parallel Programming, MIY, 2007 MPI Tutorial http://www.llnl.gov/computing/mpi Programming with POSIX pthreads http://www.awl.com/cseng/titles/0201-63392-2 Hình thức tổ chức dạy học 7.1 Lịch trình chung: (Ghi tổng số cho cột) X X Nội dung Chương 1: Giới thiệu chung Giới thiệu Phân loại kiến trúc máy tính Mơ hình trừu tượng máy tính song song Mơ hình tổ chức xử lý hệ thống xử lý song song 5.1 Các tiêu chuẩn đánh giá mơ hình 5.2 Các mơ hình dạng tuyến tính dạng lưới 5.3 Các mơ hình dạng Các mơ hình tính tốn Các mơ hình lập trình song song Các mức lập trình song song Chương 2: Các nguyên tắc thiết kế thuật tốn song song đồng hóa tác vụ Giới thiệu Một số kỹ thuật chia nhỏ toán Một số kỹ thuật ánh xạ tác vụ vào tiến trình Một số mơ hình thuật tốn song song Đánh giá độ phức tạp thuật toán song song Luật Amdahl 7.Vùng tranh chấp - Critical section Các phương pháp dùng xử lý vùng tranh chấp Chương 3: Một số thuật toán song song Thuật toán xử lý mảng song song Thuật tốn tính số PI song song Thuật tốn tìm dãy chung dài Hình thức tổ chức dạy học học phần Lên lớp Thực Tự hành, học, thí Thả tự Lý Bài nghiệm o ng.cứ thuyết tập luận , thực u tập 3 Tổn g song song Thuật toán nhân ma trận Chương 4: Một số thuật toán song song đồ thị Thuật toán Kruskal song song Thuật toán Prim song song Thuật toán Dijkstra song song Chương 5: Thư viện lập trình song song Pthread I Giới thiệu PThread Cài đặt PTHREAD POSIX với VC++ Con trỏ hàm C++ Giới thiệu hàm pthread Ví dụ tạo lập kết thúc thread Trao đổi liệu thread với thread Các ví dụ II Xử lý vùng tranh chấp Pthread Bài tốn bán vé 1.1 Mơ toán bán vé nhiều thread 1.2 Xử ý tượng đua tranh vùng liệu 1.3 Xử lý đua tranh chương trình bán vé Tắc nghẽn LT Pthread Bài toán: Dining Philosophers Chương 5: Thư viện lập trình song song Pthread (tiếp) III Đồng hóa tác vụ Pthread Biến điều kiện: 1.1 Tạo lập hủy biến điều kiện 1.2 Sơ đồ đồng hóa thread Đồng hóa Semaphore IV Cài đặt số thuật toán song song Pthread Thuật toán nhân ma trận-vector Thuật toán nhân ma trận-ma trận Bài tập Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Chương 6: Thư viện lập trình song song MPI I Giới thiệu Hướng dẫn cài đặt MPICH2 với VC++ Cấu trúc trình MPI Các thủ tục MPI Trao đổi liệu Đồng tiến trình Chi tiết lệnh trao đổi liệu Các lệnh trao đổi liệu không bị chặn Các lệnh Persistent Trao đổi liệu mảng chiều 10 Định nghĩa kiểu liệu MPI II Các hàm truyền thơng theo nhóm III Thiết lập Topologies Tạo nhóm truyền thơng Virtual topologies Deadlock lập trình MPI Bài tập MPI Thiết lập mơi trường làm việc 3 MPI dùng máy ảo Thiết lập môi trường làm việc MPI máy nối trực tiếp Cài đặt thuật toán nhân ma trận thưa với vector Cài đặt thuật toán nhân ma trận với ma trận Bài tập MPI Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Chương 7: Thư viện lập trình OpenMP Sử dụng OpenMP VC++.Net Khai báo vùng Parallel Quản lý việc tính tốn song song (for, sections) Đồng hóa OpenMP Bài tập OpenMP Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song 3 3 7.2 Lịch trình tổ chức dạy học cụ thể Tuần Hình thức Thời Nội dung tổ chức gian, dạy học địa điểm Lý thuyết Chương 1: Giới thiệu chung Giới thiệu Phân loại kiến trúc máy tính Mơ hình trừu tượng máy tính song song Mơ hình tổ chức xử lý Yêu cầu SV chuẩn bị Ghi 10 hệ thống xử lý song song 5.1 Các tiêu chuẩn đánh giá mơ hình 5.2 Các mơ hình dạng tuyến tính dạng lưới 5.3 Các mơ hình dạng Các mơ hình tính tốn Các mơ hình lập trình song song Các mức lập trình song song Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần Hình thức tổ chức dạy học Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Thời gian, địa điểm Nội dung Chương 2: Các nguyên tắc thiết kế thuật toán song song đồng hóa tác vụ Giới thiệu Một số kỹ thuật chia nhỏ toán Một số kỹ thuật ánh xạ tác vụ vào tiến trình Một số mơ hình thuật toán song song Đánh giá độ phức tạp thuật toán song song Luật Amdahl 7.Vùng tranh chấp - Critical section Các phương pháp dùng xử lý vùng tranh chấp Yêu cầu SV chuẩn bị Ghi 11 Tuần Hình thức tổ chức dạy học Thời gian, địa điểm Lý thuyết Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Yêu cầu SV Ghi Chương 3: Một số thuật toán song song Thuật toán xử lý mảng song song Thuật tốn tính số PI song song Thuật tốn tìm dãy chung dài song song Thuật toán nhân ma trận Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần Hình thức tổ chức dạy học Thời gian, địa điểm Lý thuyết Nội dung Chương 4: Một số thuật toán song song đồ thị Thuật toán Kruskal song song Thuật toán Prim song song Thuật toán Dijkstra song song Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần Hình thức tổ chức Thời gian, Nội dung 12 dạy học địa điểm Lý thuyết chuẩn bị Chương 5: Thư viện lập trình song song Pthread I Giới thiệu PThread Cài đặt PTHREAD POSIX với VC++ Con trỏ hàm C++ Giới thiệu hàm pthread Ví dụ tạo lập kết thúc thread Trao đổi liệu thread với thread Các ví dụ Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần Hình thức tổ chức dạy học Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự Thời gian, địa điểm Nội dung II Xử lý vùng tranh chấp Pthread Bài toán bán vé 1.1 Mơ tốn bán vé nhiều thread 1.2 Xử ý tượng đua tranh vùng liệu 1.3 Xử lý đua tranh chương trình bán vé Tắc nghẽn LT Pthread Bài toán: Dining Philosophers Yêu cầu SV chuẩn bị Ghi 13 nghiên cứu Tuần Hình thức tổ chức dạy học Thời gian, địa điểm Lý thuyết Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Chương 5: Thư viện lập trình song song Pthread (tiếp) III Đồng hóa tác vụ Pthread Biến điều kiện: 1.1 Tạo lập hủy biến điều kiện 1.2 Sơ đồ đồng hóa thread Đồng hóa Semaphore IV Cài đặt số thuật toán song song Pthread Thuật toán nhân ma trận-vector Thuật toán nhân ma trận-ma trận Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần Hình thức tổ chức dạy học Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Thời gian, địa điểm Nội dung Bài tập Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song 14 Tự học, tự nghiên cứu Tuần Hình thức tổ chức dạy học Thời gian, địa điểm Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Tự học, tự nghiên cứu Tuần 10 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Nội dung Chương 6: Thư viện lập trình song song MPI I Giới thiệu Hướng dẫn cài đặt MPICH2 với VC++ Cấu trúc trình MPI Các thủ tục MPI Trao đổi liệu Đồng tiến trình Chi tiết lệnh trao đổi liệu Các lệnh trao đổi liệu không bị chặn Các lệnh Persistent Trao đổi liệu mảng chiều 10 Định nghĩa kiểu liệu MPI 15 Tự học, tự nghiên cứu Tuần 11 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi II Các hàm truyền thơng theo nhóm III Thiết lập Topologies Tạo nhóm truyền thơng Virtual topologies Deadlock lập trình MPI Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần 12 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Nội dung Bài tập MPI Thiết lập mơi trường làm việc MPI dùng máy ảo Thiết lập môi trường làm việc MPI máy nối trực tiếp Cài đặt thuật toán nhân ma trận thưa với vector Cài đặt thuật toán nhân ma trận với ma trận 16 Tuần 13 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Thảo luận Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Xây dựng thuật toán Kruskal song song Xây dựng thuật toán Prim song song Xây dựng thuật toán Dijkstra song song Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần 14 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Nội dung Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần 15 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Nội dung Chương 7: Thư viện lập trình OpenMP Sử dụng OpenMP VC++.Net 17 Khai báo vùng Parallel Quản lý việc tính tốn song song (for, sections) Đồng hóa OpenMP Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần 16 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Thảo luận Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Trên môi trường OpenMP Xây dựng thuật toán Kruskal song song Xây dựng thuật toán Prim song song Xây dựng thuật tốn Dijkstra song song Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần 17 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Nội dung Cài đặt thuật tốn Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song 18 Tự học, tự nghiên cứu Tuần 18 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Nội dung Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Yêu cầu SV chuẩn bị Ghi Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Tuần 19 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Thảo luận Thực hành, thí nghiệm, thực tập,… Nội dung Cài đặt thuật toán Kruskal song song Cài đặt thuật toán Prim song song Cài đặt thuật toán Dijkstra song song Tự học, tự nghiên cứu Tuần 20 Hình thức Thời tổ chức gian, dạy học địa điểm Lý thuyết Bài tập Nội dung Ơn tập 19 Thảo luận Thực hành, thí nghiệm, thực tập,… Tự học, tự nghiên cứu Chính sách học phần yêu cầu khác giáo viên Sinh viên có mặt đầy đủ buổi học theo qui định, tích cực tham gia phát biểu lớp làm tập đầy đủ Phƣơng pháp, hình thức kiểm tra - đánh giá kết học tập học phần Phân chia mục tiêu cho hình thức kiểm tra - đánh giá 9.1 Điểm chuyên cần: 10% Mục đích: Nhằm hỗ trợ thúc đẩy việc học tập đầy đủ sinh viên, rèn luyện cho sinh viên ý thức học tập tốt Các kỹ thuật đánh giá: Điểm danh buổi lên lớp Gọi lên bảng làm tập buổi giảng 9.2 Điểm thường xuyên: 20% Mục đích: Nhằm hỗ trợ thúc đẩy việc học tập thường xuyên sinh viên, đồng thời qua có thông tin phản hồi giúp giảng viên, sinh viên điều chỉnh cách dạy, cách học, thay đổi phương pháp dạy, học cho phù hợp Các kỹ thuật đánh giá: Đọc phần tài liệu hướng dẫn theo phần; Bài tập theo nội dung môn học; Kiểm tra kỳ 9.3 Thi kết thúc học phần: 70% STT Nội dung thi, kiểm tra Theo toàn chương trình mơn học Chủ nhiệm Khoa (Ký ghi rõ họ tên) Lịch thi Lịch kiểm tra Ghi Thi cuối kỳ Theo lịch chung Học viện Thi lại Theo lịch chung Học viên Chủ nhiệm Bộ môn (Ký ghi rõ họ tên) Giảng viên biên soạn (Ký ghi rõ họ tên) 20