KIẾN TRÚC CÁC HỆ THỐNG TÍNH TOÁN - CHƯƠNG 6 doc

1 KIẾN TRÚC CÁC HỆ THỐNG TÍNH TOÁN Nguyễn Phú Bình Trần Trung Kiên Bộ môn KTMT - Khoa CNTT Trường ĐH Bách Khoa Hà Nội 2 Lưu ý của tác giả  Không được tự ý sao chép hay quảng bá bài giảng này khi chưa được sự đồng ý của các tác giả.  Địa chỉ liên hệ của các tác giả: Nguyễn Phú Bình Email: ngphubinh@yahoo.com Mobile: 0983533925 Website: http://phubinh.vicosoft.com/ktmt Trần Trung Kiên Email: trankien_bk@yahoo.com Mobile: 0914919392 Bộ môn Kỹ thuật Máy tính Khoa Công nghệ Thông tin Trường Đại học Bách Khoa Hà Nội C1- P322, Tel: 8696125 Website: http://ktmt.shorturl.com 3 Ôn Tập 1. Ứng dụng của các hệ thống tính toán đa bộ xử lý 2. Phân loại của Flin 3. Phân biệt shared-memory và distributed memory system 4. Phân biệt UMA, SMP,NUMA, Cluster, MPP 5. Myrinet 4 1.Ứng dụng của các hệ thống tính toán đa bộ xử lý  Với kiến trúc đơn bộ xử lý:  Tốc độ của bộ xử lý ngày càng được nâng cao và nhanh hơn so với tốc độ truy cập bộ nhớ .  Hiện tượng thắt cổ chai (bottle-neck): trong các chu trình lệnh, CPU sẽ lãng phí một vài chu kỳ đồng hồ để chờ đợi quá trình truy cập bộ nhớ.  Kiến trúc song song là một giải pháp hữu hiệu để tăng năng lực cho các hệ thống tính toán.  Hệ thống đa bộ xử lý, song song dùng để thực hiện những bài toán đòi hỏi khối lượng tính toán lớn. 5 2. Phân loại của Flynn  Theo tài liệu: Flynn, M. “Some Computer Organizations and Their Effectiveness”, IEEE Transactions on Computers, 9/1972.  Flynn classified programs and computers by whether they were operating using a single set or multiple sets of instructions, whether or not those instructions were using a single or multiple sets of data. 6 Phân loại của Flynn (tiếp)  Có 4 loại kiến trúc máy tính:  SISD (Single Instruction Single Data stream): kiến trúc đơn dòng lệnh, đơn dòng dữ liệu.  SIMD (Single Instruction Multiple Data stream): kiến trúc đơn dòng lệnh, đa dòng dữ liệu.  MISD (Multiple Instruction Single Data stream): kiến trúc đa dòng lệnh, đơn dòng dữ liệu.  MIMD (Multiple Instruction Multiple Data stream): kiến trúc đa dòng lệnh, đa dòng dữ liệu. 7 a. Kiến trúc SISD  Đơn dòng lệnh  Một bộ xử lý  Dữ liệu được lưu trữ trong một bộ nhớ  Chính là kiến trúc Von Neumann 8 b. Kiến trúc MISD  Theo Flynn thì không tồn tại máy tính theo kiến trúc này. 9 c. Kiến trúc SIMD  Đơn dòng lệnh điều khiển đồng thời các phần tử xử lý PE (Processing Element)  Mỗi phần tử xử lý có một bộ nhớ dữ liệu riêng LM (Local Memory)  Mỗi lệnh được thực hiện trên một tập các dữ liệu khác nhau. CU PE 1 LM 1 DS PE 2 LM 2 DS PE n LM n DS IS 10 d. Kiến trúc MIMD  Tập các bộ xử lý: các bộ xử lý đồng thời thực hiện các dãy lệnh khác nhau trên các dữ liệu khác nhau.  Các mô hình MIMD:  Multiprocessor (Shared Memory) – đa bộ xử lý  Multicomputer (Distributed Memory) – đa máy tính [...]... Một hệ thống tính toán song song phân cụm (Cluster/bó) là một hệ thống máy tính cục bộ bao gồm một tập các máy tính độc lập và một mạng liên kết giữa các máy tính 29 Hệ thống song song phâm cụm (cluser)  Một hệ thống song song phân cụm/cục bộ với ý nghĩa là toàn bộ các thành phần hệ thống nằm trong một khu vực địa lý hẹp (thường là 1 phòng) và được quản lý tập trung như là một hệ thống thống nhất  Các. .. 3 Các thành phần phần mềm:  Thư viện và môi trường lập trình  Các phần mềm quản lý tài nguyên và phân tải 33 Hệ thống song song phâm cụm Thư viện và môi trường lập trình:  Lập trình song song trong các hệ thống tính toán bó là phức tạp hơn các hệ thống máy tính khác  Hệ thống tính toán có bộ nhớ phân tán, do vậy truyền thông giữa các nút trong quá trình tính toán thường là truyền thông điệp  Các. .. nhất  Các nút trong hệ bó có thể là sự kết hợp của các máy tính đơn bộ xử lý với các máy nhiều bộ xử lý (SMP - symmertric multiprocesor 30 Hệ thống song song phâm cụm (cluser)  Ưu điểm lớn nhất của hệ thống này là giá thành của hệ thống nhỏ hơn so với các hệ thống sever tương ứng khác Cùng với sự phát triển nhanh chóng của máy tính cá nhân (PC), hiện nay một hệ thống dựa trên công nghệ LAN và PC có thể... thông điệp dành cho hệ thống bó hiện nay có thể kể đến là: MPI, PVM, Active Message và CMMD (Connected Machine Message )  MPI với nhiều ưu điểm có thể coi là sự lựa chọn tốt cho các hệ thống tính toán bó ® 34 Hệ thống song song phâm cụm (cluser) Thư viện và môi trường lập trình (…):  Khi các nút mạng trong hệ thống tính toán bó không chỉ là các máy tính đơn bộ xử lý mà có cả các máy tình nhiều bộ... với các siêu máy tính  Ưu điểm thứ hai của hệ thống bó là sự linh hoạt của cấu hình Số lượng nút, dung lượng bộ nhớ trên mỗi nút, số lượng bộ xử lý trên mỗi nút, và cấu hình mạng và hàng loạt các tham số khác đều mang tính tuỳ biến cao 31 Hệ thống song song phâm cụm (cluser) 2 Các thành phần phần cứng:  Các thiết bị phần cứng của nút tính toán:  Một nút tính toán phải cung cấp chức năng tính toán. .. chung bộ nhớ và hệ thống vào-ra  Thời gian truy cập bộ nhớ là bằng nhau với các bộ xử lý và quyền truy cập (read/wirte) tới bộ nhớ của các bộ xử lý là như nhau  đa xử lý đối xứng  Tất cả các bộ xử lý chia sẻ truy cập vào-ra  Các bộ xử lý có thể thực hiện chức năng giống nhau  Hệ thống được điều hành bởi một hệ điều hành phân tán 24 Hệ đa xử lý đối xứng (tiếp)  Trong các kiến trúc hiện đại: mỗi... để tạo ra các chưưong trình song song như vậy 35 Hệ thống song song phâm cụm (cluser) Thư viện và môi trường lập trình (…):  Một trong những thành phần quan trọng của các chương trình tính toán song song là các giải thuật song song  Hiện nay, các thư viện giải thuật song song rất sẵn dùng và hầu hết là mã nguồn mở  Chúng là kết quả của các đề tài nghiện cứu trong các trường đại học, các viện ngiên... Shared-memory và distributed memory system  Có 2 mô hình: a Mô hình bộ nhớ riêng biệt / bộ nhớ phân tán (DistributedMemory ) b Mô hình bộ nhớ chia sẻ (Shared-Memory) 11 a Mô hình bộ nhớ riêng biệt 12 Mô hình bộ nhớ riêng biệt  Hệ thống được tạo bởi các máy tính riêng biệt kết nối với nhau bằng mạng nội bộ tốc độ cao  Những hệ thống song song kiểu này được gọi là hệ thống Boewufs hay Beowulf Cluster (hệ. .. thêm bộ xử lý 26 4.2 Hệ truy cập bộ nhớ không đồng nhất(NUMA) 27 Hệ truy cập bộ nhớ không đồng nhất  Mỗi bộ xử lý có một vùng nhớ gắn liền  Các bộ xử lý có thể truy cập tới vùng nhớ gắn liền với các bộ xử lý khác  Thời gian các bộ xử lý truy cập tới các vùng nhớ là khác nhau, phụ thuộc vào khoảng cách giữa bộ xử lý và bộ nhớ  gọi là hệ truy cập bộ nhớ không đồng nhất (NUMA) 28 4.3 Hệ thống song song... được gọi là hệ thống Boewufs hay Beowulf Cluster (hệ thống bó Beowulf) Các máy tính trong Cluster có thể là các máy tính cá nhân, các máy trạm (đơn bộ xử lý hoặc đa bộ xử lý đối xứng - SMP)  Mô hình lập trình cho các ứng dụng trong hệ thống này được gọi là mô hình truyền thông điệp (message passing) 13 Mô hình lập trình truyền thông điệp  Một chương trình thường bao gồm nhiều tiến trình con được . độ cao.  Những hệ thống song song kiểu này được gọi là hệ thống Boewufs hay Beowulf Cluster (hệ thống bó Beowulf). Các máy tính trong Cluster có thể là các máy tính cá nhân, các máy trạm (đơn. môn Kỹ thuật Máy tính Khoa Công nghệ Thông tin Trường Đại học Bách Khoa Hà Nội C 1- P322, Tel: 869 6125 Website: http://ktmt.shorturl.com 3 Ôn Tập 1. Ứng dụng của các hệ thống tính toán đa bộ xử lý 2 Flin 3. Phân biệt shared-memory và distributed memory system 4. Phân biệt UMA, SMP,NUMA, Cluster, MPP 5. Myrinet 4 1.Ứng dụng của các hệ thống tính toán đa bộ xử lý  Với kiến trúc đơn bộ xử lý: 