Nghiên ứu công nghệ tính toán tổng quát trên các bộ xử lý đồ họa và ứng dụng trong bài toán mô phỏng n body

Các hệ thống máy tính đa vi xử lý với mô hình lập trình song song chia sẻ bộ nhớ chung .... • Các hãng sản xuất bộ xử lý đồ họa như nVidia, AMD liên tục đưa ra những hệ thống phần mềm tr

TRầN THANH HùNG giáo dục đào tạo trờng đại học bách khoa hà nội - luận văn thạc sĩ khoa học công nghệ THÔNG TIN ngành : công nghệ THÔNG TIN NGHIÊN CứU CÔNG NGHệ TíNH TOáN TổNG QUáT TRÊN CáC Bộ Xử Lý Đồ HọA Và ứNG DụNG TRONG BàI TOáN MÔ PHỏNG N-BODY 2007 2009 TRầN THANH HïNG Hµ Néi 2009 Hµ Néi 2009 Tai ngay!!! Ban co the xoa dong chu nay!!! 17057205189501000000 bé gi¸o dục đào tạo trờng đại học bách khoa hà néi - luận văn thạc sĩ khoa học NGHIÊN CứU CÔNG NGHƯ TÝNH TO¸N TỉNG QU¸T TR£N C¸C Bé Xư Lý Đồ HọA Và ứNG DụNG TRONG BàI TOáN MÔ PHỏNG N-BODY ngành : công nghệ THÔNG TIN mà số: TRầN THANH HïNG Ngêi híng dÉn khoa häc: TS NGUN H÷U §øC Hµ Néi 2009 LỜI CAM ĐOAN Tơi xin cam đoan đồ án tốt nghiệp không copy, chép, chỉnh sửa hình thức từ đồ án có trước Các tài liệu tham khảo, thơng tin tham khảo lấy, trích dẫn từ nguồn có thật, xác, khơng bịa đặt Tóm tắt Bài tốn N-Body toán kinh điển, ứng dụng nhiều lĩnh vực khoa học vật lý, y sinh, thiên văn học, Trong tốn mơ này, số lượng Body mơ tốn số lớn, việc tính tốn tương tác tất cặp N-Body nhiều thời gian (độ phức tạp trường hợp tồi O(N 2)) Vì cần nghiên cứu phương pháp nhằm tăng tốc độ tính tốn tốn mơ N-Body, tận dụng sức mạnh tính tốn xử lý đồ họa Đề tài nhằm tìm hiểu mơi trường tính tốn hiệu cao xử lý đồ họa sử dụng công nghệ CUDA hãng nVidia, bước đầu thử nghiệm thành công tốn mơ N-Body đơn GPU, đưa số đề xuất giải thuật GPU cluster Abstract N-body algorithms are applicable to a number of common problems in computational physics including gravitation, electrostatics, and fluid dynamics Fast algorithms (those with better than O(N 2) performance) exist, but have not been successfully implemented on GPU hardware for practical problems In the present work, we introduce not only best-in-class performance for a all-pairs method, but a series of improvements that support implementation of this solver on highly-data-parallel graphics processing units (GPUs) The greatly reduced computation times suggest that this problem is ideally suited for the current and next generations of single and cluster CPU-GPU architectures We believe that this is an ideal method for practical computation of large-scale turbulent flows on future supercomputing hardware using parallel vortex particle methods MỤC LỤC LỜI MỞ ĐẦU CHƯƠNG TÍNH TỐN HIỆU NĂNG CAO VỚI GPU .9 1.1 Tính tốn hiệu cao vai trị ứng dụng thực tiễn 1.1.1 Thách thức tính tốn hiệu cao khoa học công nghệ 10 1.1.2 Giải pháp 11 1.2 Một số tiếp cận tính tốn hiệu cao 12 1.2.1 Các hệ thống máy tính đa vi xử lý với mơ hình lập trình song song chia sẻ nhớ chung 12 1.2.2 Cụm máy tính với mơ hình lập trình song song truyền thơng điệp 14 1.2.3 Các xử lý đồ họa với mơ hình lập trình song song liệu 15 CHƯƠNG II GIỚI THIỆU KIẾN TRÚC TESLA VÀ MƠ HÌNH LẬP TRÌNH SONG SONG CUDA 20 2.1 Giới thiệu kiến trúc phần cứng Tesla Nvidia (Tesla Architecture) 20 2.2 Kiến trúc tính tốn GPU Tesla mơ hình lập trình song song CUDA 21 2.2.1 Kiến trúc tính tốn GPU Tesla 22 2.2.2 Mơ hình lập trình song song CUDA 26 2.2.3 Những mặt hạn chế CUDA 35 2.3 Thiết lập mơi trường tính tốn CUDA 36 2.3.1 Môi trường phân cứng 37 2.3.2 Bộ công cụ phát triển phần mềm 37 2.3.3 Quy trình cài đặt 38 CHƯƠNG III BÀI TỐN MƠ PHỎNG N-BODY 39 3.1 Giới thiệu toán 39 3.2 Ứng dụng toán N-Body 40 3.3 Các giải thuật với tốn mơ N-Body 41 3.3.1 Giải thuật tương tác hạt-hạt (The Particle-Particle (PP) method) 41 3.3.2 Giải thuật Barnes-Hut (The Barnes-Hut Algorithm) 41 3.3.3 Phương pháp đa cực nhanh (The Fast Multipole Method – FMM) 42 3.3.4 Giải thuật đa cực song song (Parallel Multipole Tree Algorithm – PMTA) 43 3.4 Tổng kết giải thuật 44 CHƯƠNG IV MÔ PHỎNG N-BODY VỚI ĐƠN GPU 45 4.1 Mục đích mơ N-Body GPU 45 4.2 Tính tốn lực tương tác cặp N-Body 46 4.3 Sự thực thi CUDA giải thuật tất cặp N-Body 48 4.3.1 Tính tốn lực body - body 49 4.3.2 Tính tốn tile 51 4.3.3 Xếp nhóm tile vào Thread Block 52 4.3.4 Định nghĩa Grid Thread Block 55 4.4 Môi trường thử nghiệm toán 56 4.5 Cách thử nghiệm toán N-Body hệ thống 58 4.6 Các kết thực 59 4.7 Sự tối ưu hóa 63 4.7.1 Gia tăng hiệu với lặp không cuộn (loop unrolling) 63 4.7.2 Hiệu tăng kích thước Block thay đổi 65 4.7.3 Cải thiện hiệu N nhỏ 66 4.8 Phân tích kết thực 69 4.9 Các phương pháp trước sử dụng GPU mô N-Body 69 4.10 Các phương pháp N-Body phân cấp 71 4.11 Kết luận 72 CHƯƠNG V XÂY DỰNG GIẢI THUẬT MÔ PHỎNG N-BODY VỚI ĐA GPU .74 5.1 Tính chất hệ thống tính tốn đa GPU 74 5.2 Kiến trúc hệ thống GPU cluster 74 5.2.1 Cấu hình CPU/GPU 74 5.2.2 Cấu hình mạng 78 5.2.3 Phần mềm MPI 79 5.3 Thiết kế giải thuật mô N-Body hệ thống đa GPU 79 5.3.1 Sự thực thi song song 79 5.3.2 Giải thuật N-Body cho hệ thống đa GPU 81 5.3.3 Tối ưu hóa giải thuật song song 82 5.4 Kết luận 84 CHƯƠNG VI KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 85 6.1 Kết luận 85 6.1.1 Những vấn đề đạt 85 6.1.2 Những vấn đề chưa đạt 85 6.2 Hướng phát triển 86 DANH SÁCH TÀI LIỆU THAM KHẢO 87 PHỤ LỤC 89 LỜI MỞ ĐẦU Trong vài năm gần đây, khái niệm tính tốn thơng dụng xử lý đồ họa (GPGPU – General-Purpose Computing on Graphics Processing Units) thu hút nhiều quan tâm từ nhà nghiên cứu phương pháp tính tốn khoa học Những lý cho mối quan tâm là: • Hiệu tính tốn xử lý đồ họa (GPU) ngày vượt trội so với xử lý trung tâm truyền thống • Các hãng sản xuất xử lý đồ họa nVidia, AMD liên tục đưa hệ thống phần mềm trung gian (middleware) môi trường phát triển ứng dụng (trình dịch, trình gỡ rối,…) cho phép người phát triển dễ dàng xây dựng ứng dụng phi đồ họa xử lý đồ họa • Giá thành chi phí lượng cho hoạt động xử lý đồ họa thấp nhiều so với hệ thống máy tính số hiệu lý thuyết Các GPU có khả Tính tốn thơng dụng có mặt khắp nơi, từ máy tính quan trường học, đến máy tính nhà riêng người Sự phát triển rộng rãi mặt số lượng GPU dẫn đến yêu cầu cấp bách đầy thách thức cộng đồng phát triển phần mềm (đặc biệt phần mềm tính tốn khoa học), làm tận dụng sức mạnh song song GPU phần mềm ứng dụng phát triển vài năm Trong bối cảnh đó, lựa chọn đề tài: “Nghiên cứu công nghệ Tính tốn thơng dụng xử lý đồ họa ứng dụng tốn mơ N- Body” để làm đồ án tốt nghiệp cao học Bài tốn N-Body tốn kinh điển, ứng dụng nhiều lĩnh vực khoa học vật lý, y sinh, thiên văn học, Trong tốn mơ này, số lượng Body mơ toán số lớn, việc tính tốn tương tác tất cặp NBody nhiều thời gian (O(N2)) Vì cần nghiên cứu phương pháp nhằm tăng tốc độ tính tốn tốn mơ N-Body, tận dụng sức mạnh tính tốn xử lý đồ họa Qua đề tài này, tìm hiểu mơi trường tính tốn hiệu cao xử lý đồ họa sử dụng công nghệ CUDA hãng nVidia, bước đầu thử nghiệm thành cơng tốn mơ N-Body Nội dung luận văn bao gồm có chương chính: Chương 1: Tính tốn hiệu cao với xử lý đồ họa Chương 2: Kiến trúc Tesla Mơi trường lập trình song song CUDA Chương 3: Bài tốn mơ N- Body Chương 4: Mô N-Body với đơn GPU Chương 5: Xây dựng giải thuật mô N-Body với đa GPU Chương 6: Kết luận hướng phát triển Để hồn thành đồ án tốt nghiệp “Nghiên cứu cơng nghệ Tính tốn thơng dụng xử lý đ họa ứng dụng tốn mơ N-Body”, xin chân thành cảm ơn tới Tiến sỹ Nguyễn Hữu Đức – Thầy người trực tiếp hướng dẫn giúp đỡ Tôi xin gửi lời cảm ơn tới thầy cô, anh chị quản lý Trung tâm Tính tốn hiệu cao, trường Đại học Bách