Slide kiến trúc máy tính chương 4 đến chương 6

11/03/2012 CHƯƠNG 4: K THU T PIPELINE KHÁI NI M PIPELINE Tìm hiểu chung pipeline Xung đột (Hazard) • Xung đột cấu trúc (Structural Hazard) • Xung đột liệu (Data Hazard) • Xung đột điều khiển (Control Hazard) Giải xung đột Ngoại lệ Kỹ thuật pipeline • Super pipelining tầng • Super Scalar – Dual pipeline Tuần tự Von Neumann Pipeline? Cấu trúc : • • O O O O O Thực lệnh cách Theo khâu : IF (Instruction Fetch) : Nhận lệnh ID (Instruction Decode) : Giải mã lệnh DF (Data Fetch) : Nhận liệu EX (Execution) : Thực lệnh DS (Data Save) : Lưu kết Patterson, D A., and J L Hennessy Computer Organization and Design: The Hardware/Software Interface, 3rd ed San Mateo, CA: Morgan Kaufman, 2004, chapter Pipeline Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung ng c om Khoa KTMT co C u trúc tu n t Các lệnh thực liên tiếp Lệnh trước thực xong đến lệnh sau Vì xuất khoảng thời gian rỗi (stall) khâu Kỹ thuật pipeline đưa để tận dụng stall này, từ tăng tốc độ cho vi xử lý du o ng th Mỗi lệnh thực chu kì τ, khâu thực thời gian τ /5… Với n lệnh : Ttuần tự = τ *n an Giả sử… Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung cu u Khoa KTMT VD Pipelining VD Pipelining Tại tiệm giặt ủi: An, Bình, Chinh, Diệu người sử dụng lần gồm: giặt, xấy khô ủi – Giặt 30 phút – Xấy khô 40 phút – Ủi 20 phút Khoa KTMT Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 C u trúc Pipeline khâu lệnh MIPS: Pipelining kĩ thuật thực lệnh lệnh thực theo kiểu gối đầu nhằm tận dụng khoảng thời gian rỗi (stalls) cơng đoạn (stages), qua làm tăng tốc độ thực lệnh VXL F (Fetch) : Nhận lệnh D (Decode) : Giải mã lệnh X (Execution) : Thực lệnh M (Memory Access) : Truy nhập nhớ W (Result Write Back) : Ghi kết MIPS Datapath Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung ng c om Khoa KTMT Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung 10 cu u Khoa KTMT du o ng th an co t ng pipeline MIPS v*i buffer Xung đ/t (Hazard) Trong trường hợp khơng có xung đột tăng tốc độ vi xử lý lên 400% Tính tốn: • • • • • • Trên lí thuyết, việc sử dụng kĩ thuật pipeline làm tăng tốc độ VXL lên gần 400% thực tế,việc tăng tốc độ phụ thuộc vào kiểu xung đột khác • Xung đột cấu trúc (Structural Hazard) • Xung đột liệu (Data Hazard) • Xung đột điều khiển (Control Hazard) Thời gian để thực công đoạn τ /5 Thời gian để thực lệnh τ Thời gian để thực lệnh τ + τ /5 Thời gian để thực lệnh τ + τ *2/5 … Thời gian để thực n lệnh τ + τ *(nO1)/5 Tổng quát : Tpipeline = τ + τ * (nO1)/m Khoa KTMT Vũ Đ c Lung 11 Khoa KTMT Vũ Đ c Lung 12 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Xung đ/t c u trúc (Structural Hazard) Xung đ/t c u trúc (Structural Hazard) Xung đột cấu trúc xảy có lệnh cố gắng sử dụng nguồn thời điểm – Khi lệnh ghi kết vào ghi: • ADD R1, R2, R3 • SUB R1, R4, R5 – Khi lệnh truy cập vào ô nhớ thời điểm – Khi lệnh yêu cầu tính toán số học (bộ cộng, nhân, chia) Xung đột xảy việc nạp lệnh đọc liệu từ nhớ diễn lúc Những kí hiệu “o” chèn vào tượng trưng cho chu kì trễ (stall cycles) sử dụng ta sử dụng nhớ đơn lưu trữ lệnh vào liệu Vũ Đ c Lung 13 Khoa KTMT Vũ Đ c Lung 14 ng c om Khoa KTMT Xung đ/t d5 li6u (Data Hazard) Khi stage X D yêu cầu cộng, mà có cộng VXL RAW (Read after Write) Instruction 1: Instruction 2: ADD R2, R1, R3 ADD R4, R2, R3 I1 I2 D F F X D R2 7 ? S(001)#>010#>E(010)#>011 #>S(011)#>110#>E(110)#>111 du o Omega network Vũ Đ c Lung 27 Khoa KTMT Vũ Đ c Lung 28 cu u Khoa KTMT M#ng k't n)i đ+ng (7) M#ng k't n)i đ+ng (8) Chuyển mạch nhiều tầng (Multistage): VD chuyển mạch nhiều tầng: Mạng Omega (TRAC – Texas Reconfigurable Array Computer ĐH Taxas, Cedar ĐH Illinois, RP3 IBM, Butterfly BBN Laboratories NYU Ultracomputer ĐH New York) – Khắc phục nhược điểm single bus system, cho phép kết nối lúc nhiều cặp PXM – Số tầng log2N = số bit địa nguồnXđích Các hàm kết nối: – – – – SXE Cube PlusXMinus 2i: Butterfly: S& component: N/2.Log2N VD: 8x8, có đường kết nối đồng thời Khoa KTMT Vũ Đ c Lung 29 Khoa KTMT Vũ Đ c Lung 30 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 M#ng k't n)i đ+ng (9) Cấu trúc chuyển mạch( Liên kết chéo: P1 P2 – cung cấp khả kết nối nội băng thông cao – Tại thời điểm cột có kết nối S& component: N2 P8 M1 M2 31 u du o ng th an co ng c om Vũ Đ c Lung cu Khoa KTMT M8 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 CHƯƠNG 6: H th ng b nh chia s (share share memory architecture ) CHƯƠNG 6: H th ng b nh chia s • Các vi xử lý dùng chung nhớ thông qua mạng nội kết nối • Các vấn đề đặt ra: – Kiến trúc hệ thống – Ràng buộc liệu – Đồng vi xử lý Phân lo!i ki)n trúc B nh không đ ng d!ng B nh đ ng d!ng UMA Vũ Đ c Lung Khoa KTMT COMA Vũ Đ c Lung ng c om Khoa KTMT NUMA Truy c#p b nh đ ng d!ng (UMA) Truy c#p b nh không đ ng d!ng (NUMA) an Vũ Đ c Lung T[ ch c b nh NUMA Khoa KTMT Vũ Đ c Lung cu u Khoa KTMT du o ng th VD: Sun Microsystems multiprocessor servers, Silicon Graphics Inc multiprocessor servers MEi vi xG lý đưIc gJn v i m t phKn c/a b nh chia sM MEi b nh nhN có m t khơng gian đPa chQ riêng BSt kỳ m t vi xG lý có th4 truy c-p t c th0i đ)n b nh n i sG dVng đPa chQ trWc ti)p 6Th0i gian truy c-p t i module b nh phV thu c vào khoXng cách t i vi xG lý VD: BBN TC6 2000, SGI Origin 3000, Cray T3E co -Các b P truy c-p đ)n M truy c-p đ)n b nh riêng c/a Th0i gian truy c-p b nh - M!ng k)t n1i n i: đơn bus, đa bus ho3c chuy4n m!ch - Có quy5n h i Ki-n trúc chia s b nh ch/ cache (COMA) Bus22based symmetric multiprocessors Bus COMA có ki)n trúc tương tW NUMA B nh chia sM bao g m b nh cache Yêu cKu d^ li_u phXi di trú t i vi xG lý yêu cKu VD: Kendall Square Research’s KSR_1 – Số P maximum có thể: N≤ BI (1 − h)V – h cache hit rate – B – Băng thông bus (chu kỳ/s) – I – chu kỳ P (số lệnh/chu kỳ) – V Tốc độ P (số lệnh/s) • VD: V=107, I=1, h=97%, B=106 => N = sơ đ t[ ch c ki)n trúc COMA Khoa KTMT Vũ Đ c Lung · Nếu cần N = 30 h=? Khoa KTMT Vũ Đ c Lung CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Ràng bu c d6 li u Ràng bu c d6 li u • Các phương pháp ràng buộc cache bản: – Ràng buộc Cache – Cache – Ràng buộc Cache – memory: • Write Invalidate: sử dụng dirty bit để thơng báo cho P vùng nhớ X • Ghi đồng thời (write through): Thông tin ghi đồng thời vào khối hiệu lực, ghi liệu xóa bit dirty cache khối nhớ • Write update trì tính qn cách cập nhật • Ghi lại (write back): Thông tin cần ghi ghi vào khối cache Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung ng c om Khoa KTMT copy lên tất cache sử dụng vùng nhớ co Ràng bu c d6 li u Ràng buộc liệu kiến trúc chia sẻ nhớ: – – – – – Write Write Write Write Write invalidate and write through invalidate and write back Once update and write through update and write back du o ng th an • • Giao thức snooping : giao thức theo dõi hoạt động bus mang theo lệnh ràng buộc cần thiết • Giao thức Directory _based :là giao thức để xác định đường dẫn tới cache sử dụng khối nhớ vùng nhớ Snooping protocol Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung 10 cu u Khoa KTMT Ghi m:t hi u l;c ghi đ ng th=i (Write22invalidate and write (Write write22through) Snooping protocol Bộ nhớ luôn phù hơp với copy cập nhật gần MEMORY CACHE1 CACHE2 P1 Khoa KTMT P2 Vũ Đ c Lung 11 Khoa KTMT Vũ Đ c Lung 12 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Ghi m:t hi u l;c ghi đ ng th=i (Write22invalidate and write (Write write22through) Ghi m:t hi u l;c ghi l!i (Write6invalidate and write6back) Giả sử vùng nhớ X nhớ đặt giá trị ban đầu 5, hoạt động X thực thi theo bước sau: (1) P reads X; (2) Q reads X; (3) Q updates X; (4) Q reads X; (5) Q updates X;(6) P updates X; (7) Q reads X Vũ Đ c Lung 13 Khoa KTMT Vũ Đ c Lung 14 ng c om Khoa KTMT (Write6Once) Vũ Đ c Lung 15 Khoa KTMT Vũ Đ c Lung 16 cu u Khoa KTMT du o ng th an Bộ nhớ cập nhật trường hợp Read Miss có copy dạng RW Ghi m t lBn co Ghi m:t hi u l;c ghi l!i (Write6invalidate and write6back) Ghi m t lBn Ghi c#p nh#t ghi đ ng th=i cDc b (Write6update and Partial write6thought) (Write6Once) RES báo liệu copy xác lần, DIRTY báo liệu cập nhật nhiều lần Khoa KTMT Vũ Đ c Lung 17 Khoa KTMT Vũ Đ c Lung 18 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Ghi c#p nh#t ghi đ ng th=i cDc b (Write6update and Partial write6thought) Vũ Đ c Lung 19 Khoa KTMT Vũ Đ c Lung 20 ng c om Khoa KTMT Ghi c#p nh#t ghi l!i (Write6update and write6back) Ghi c#p nh#t ghi l!i (Write6update and write6back) co Directory2 based protocol Giao thức để xác định đường dẫn tới cache sử dụng khối nhớ vùng nhớ th an Xác định xác cache cập nhật mà cache sử dụng vùng nhớ Có hai chế tập trung phân tán Trong chế tập trung: vùng nhớ chung làm nhiệm vụ lưu tất đường dẫn P cần truy cập vào vùng nhớ chung muốn cập nhật=> thắt cổ chai ng du o Vũ Đ c Lung Giao thức bổ trợ cho giao thức snooping, Cơ chế phân tán: khối nhớ chứa trỏ tới cache sử dụng nó, cache sử dụng khối nhớ lại có trỏ trỏ tới cache sử dụng khối nhớ đó, … 21 Khoa KTMT Vũ Đ c Lung 22 cu u Khoa KTMT thực tác vụ ghi Directory2 based protocol Full map directories Categorization protocol : MEi kh1i nh sn có m t vùng đ4 lưu trN c/a cache sG dVng nó, sn gi^ dirty bit cho cache mà ch a trN trN t i đươc m t cache write lên Categorization protocol Full map directories Khoa KTMT Limited directories Vũ Đ c Lung Chanied directories 23 Khoa KTMT Vũ Đ c Lung 24 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Chanied directories Limited directories Vũ Đ c Lung 25 Khoa KTMT Vũ Đ c Lung 26 ng c om Khoa KTMT Centralized Directory Invalidate co Giao thJc invalidate an Giao th c invalidate :là giao th c đ4 gi^ bit invalidate t i cache đưIc xác đPnh bqi giao th c directory ng Stanford Distributed Directory Vũ Đ c Lung 27 Khoa KTMT Vũ Đ c Lung 28 cu u Khoa KTMT Scalable Coherent Interface du o Centralized Directory Invalidate th invalidate Giao thJc ràng bu c vô hư ng (Scalable Coherent Interface) Khoa KTMT Vũ Đ c Lung Stanford Distributed Directory 29 Khoa KTMT Vũ Đ c Lung 30 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 ĐrC THÊM Đồng vi xử lý KT nhớ chia sẻ Kiến trúc truyền thông điệp (Message passing architecture) 31 u du o ng th an co ng c om Vũ Đ c Lung cu Khoa KTMT CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 CHƯƠNG 07: MESSAGE PASSING GI I THI U Kiến trúc Message Passing gì?Nó hoạt động nào? NỘI DUNG Giới thiệu Kỹ thuật định tuyến Các chế chuyển mạch Mơ hình lập trình Vi xử lý MPA Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung c om Khoa KTMT ng K thu t đ nh n m$ng truy%n thông đi(p (Routing in message passing networks) co GI I THI U Vũ Đ c Lung Routing kỹ thuật dùng để lựa chọn đường dẫn xác cho tin nhắn mạng.Nó bao gồm tập đường dẫn khả thi thơng điệp sử dụng để đến đích q trình truyền tải chức chọn số đường dẫn Phân loại kỹ thuật routing theo cách mà chọn đuờng dẫn: – Adaptive – Deterministic Ngoài kỹ thuật routing phân biệt theo cách thức đưa định tập trung hay phân tán Khoa KTMT Vũ Đ c Lung cu u Khoa KTMT du o ng th an Quá trình thực thi chương trình ứng dụng hệ thống Message Passing nào? K thu t đ nh n K thu t đ nh n Ví dụ điển hình Deterministic : – Xem S =S5 S0 địa node nguồn (6 bit) D=D5 D0 địa node đích.; – Lấy R = S XOR D,kết thu định chiều mà thơng điệp chuyển để đến điểm đích – Giả sử S = 10(001010) D = 39 (100111) => R= (101101) – => Thông điệp chuyển theo chiều 0,2,3,5.Thứ tự chiều không quan Giả sử thông điệp truyền theo chiều 5,3,2,0 – => kết quả: 10(001010) → 42(101010) → 34(100010) → 38(100110) → 39(100111) Khoa KTMT Vũ Đ c Lung Có loại thao tác liên lạc hệ thống message passing oneetoeone(pointetoepoint hay unicast) collective Routing cho Broadcasting Multicasting: – Boardcast Multicasting gì? – Chúng dùng trường hợp nào? – Các vấn đề cần quan tâm? Khoa KTMT Vũ Đ c Lung CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 K thu t đ nh n K thu t đ nh n Routing Potential Problems (Các vấn đề tiềm tàng).Trong vấn đền routing gặp phải trường hợp sau: Deadlock Livelock Starvation Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung ng c om Khoa KTMT K thu t đ nh n co K thu t đ nh n du o ng th an :xuất tồn vòng phụ thuộc tài ngun (đợi vơ hạn) Các phương pháp áp dụng để tránh deadlock gì? Vũ Đ c Lung Khoa KTMT Vũ Đ c Lung 10 cu u Khoa KTMT K thu t đ nh n K thu t đ nh n : livelock diễn tả trường hợp mà thông điệp di chuyển quanh mạng mà khơng đến điểm đích Hiện tượng xảy sử dụng thuật tốn thích nghi (adaptive) mà chúng reroute với mong muốn tìm đích đến Khi node muốn giao tiếp chúng phóng thơng điệp ngồi mạng Có loại mơ hình đưa thơng điệp mạng là: Một node xem Starvation mà có thơng điệp cần chuyển mạng khơng thể phép làm chuyện Các phương pháp để tránh starvation Đơn giản cho phép node có hàng đợi chuyển liệu mạng Khuyết điểm phương pháp tốc độ,nó làm chậm toàn node mạng – static injection – dynamic injection Khoa KTMT Vũ Đ c Lung 11 Khoa KTMT Vũ Đ c Lung 12 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Các ch chuy:n m$ch Switching mechanism chế dùng để chuyển liệu từ kênh input sang kênh output.Độ trễ bắt buộc mạng tùy thuộc vào chế switching sử dụng Các loại thường sử dụng: CÁC CƠ CH3 CHUY5N M6CH SWITCHING MECHANISMS IN MESSAGE PASSING Vũ Đ c Lung 13 storeeandeforward, circuiteswitching, virtualecutethough, wormhole Khoa KTMT Vũ Đ c Lung 14 ng c om Khoa KTMT – – – – Các ch chuy:n m$ch Cơ chế circuit switching: co Các ch chuy:n m$ch Cơ chế store and forward: – Cấp phát băng thông động cho thông điệp chuyển mạng, điều tránh hạn chế chế circuite switching – Có loại chế này: • packeteswitched • virtual cutethrough du o ng th an – Xác định đường dẫn đích nguồn mà khơng cần có đệm node – Kỹ thuật phù hợp với thông điệp dài tránh deadlock – Giảm thiểu tối đa độ trễ bắt buộc mạng, tổng phí delay xuất cài đặt đường dẫn cịn lại khơng có độ trễ khác – Tiêu tốn nhiều băng thông mạng mà tất các node trung gian phải thiết lập đường dẫn riêng cho trình truyền tải thơng điệp Vũ Đ c Lung 15 Khoa KTMT Vũ Đ c Lung 16 cu u Khoa KTMT Các ch chuy:n m$ch Các ch chuy:n m$ch Cơ chế wormhole: – Để giảm kích thước đệm giảm độ trễ – Các packet chia nhỏ thành flits (flow control bits) Các flits di chuyển mơ hình ống dẫn, đầu header flit – Khi mà header flit bị block mạng tắc flit cịn lại bị block – Cần trang bị thêm đệm lưu flit – Độ trễ tùy thuộc vào chiều dài thơng điệp cần chỗ lưu trữ node so với kỹ thuật storeeandeforward Khoa KTMT Vũ Đ c Lung 17 Khoa KTMT Vũ Đ c Lung 18 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 So sánh ch chuy:n m$ch Switching Mechanism Advantage Disadvantage Circuit switching Thích hợp cho thơng điệp dài Lãng phí băng thơng Tránh deadlock Đơn giản Thích hơp gặp vấn đề lưu thông mạng Store and forward Virtual cutethrough Thuật toán routing cho kỹ thuật wormhole:DimensioneOrderd routing Địi hỏi đệm Có thể gây độ trễ lớn Có thể gặp deadlock Cần có nhiều đệm cho thơng điệp Lãng phí băng thơng Băng thơng động Tốt cho thơng điệp dài Có thể tránh deadlock Loại bỏ phương thức dataelink Chủ yếu dùng với thuật toán routing tốt Tốt cho thơng điệp dài Giảm kích thước đệm Có thể bị deadlock Khơng có khả “quay lui” Wormhole Các ch chuy:n m$ch 2 Giảm ành hưởng chiều Vũ Đ cdài Lung đường dẫn 19 Khoa KTMT Vũ Đ c Lung 20 ng c om Khoa KTMT co Các ch chuy:n m$ch th an Virtual Channels: MƠ HÌNH L>P TRÌNH TRONG Ki3N TRÚC TRUYAN THƠNG ĐI P Vũ Đ c Lung 21 Khoa KTMT Vũ Đ c Lung 22 cu u Khoa KTMT du o ng MESSAGE PASSING PROGRAMMING MODELS Mơ hình l p trình Mơ hình l p trình Kiến trúc message passing sử dụng thành phần để vi xử lý node khác liên lạc với nhau,đó lệnh Lệnh send lấy vùng nhớ đệm lưu thông điệp vào chuyển cho node đích Lệnh receive chấp nhận thơng điệp từ node nguồn lưu vào vùng nhớ đệm xác định Khoa KTMT Vũ Đ c Lung Có chế block không bị block 23 Khoa KTMT Vũ Đ c Lung 24 CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 Vi xJ lý MPA Các vi xử lý hỗ trợ cho chế truyền thơng điệp địi hỏi cần phải có lệnh đặc biệt hỗ trợ cho việc truyền thông giựa vi xử lý,và chúng cần có đặc tính sau: CÁC VI XG LÝ TRONG KI3N TRÚC TRUYAN THÔNG ĐI P PROCESSOR SUPPORT FOR MESSAGE PASSING Cơ chế chống xung đột port Vũ Đ c Lung 25 Khoa KTMT Vũ Đ c Lung 26 ng c om Khoa KTMT Một port kênh truyền thông giao tiếp, đối tượng tham chiếu đến cho tác vụ luồng Các thao tác thực port Thông điệp sử dụng đối tượng.Thông điệp chia thành phần header body Thông điệp giữ thơng tin cần trao đổi tiến trình Các tập port (Port sets) th Thời điểm đến (như cấu trúc FIFO chẳng hạn) Độ ưu tiên Thời hạn vòng ưu tiên 27 Khoa KTMT Vũ Đ c Lung 28 u Vũ Đ c Lung cu Khoa KTMT du o ng an Máy iPAX 432 Intel sử dụng giao tiếp chuyển thông điệp hồn tồn hỗ trợ kiến trúc này.Nó sử dụng đối tượng port đường dẫn cho thông điệp.Vi xử lý chứa hàng đợi thơng điệp.Một giao tiếp thơng điệp xếp để giao tiếp dựa theo tiêu chí sau đây: CÂU HMI & BÀI T>P co Vi xJ lý MPA CuuDuongThanCong.com https://fb.com/tailieudientucntt ... đoạn thực tính tốn CuuDuongThanCong.com https://fb.com/tailieudientucntt 11/03/2012 CHƯƠNG 5: KI N TRÚC MÁY TÍNH SONG SONG CHƯƠNG 5: KI N TRÚC MÁY TÍNH SONG SONG PHÂN LOẠI KIẾN TRÚC MÁY TÍNH THEO... – SIMD – MISD – MIMD Mạng kết nối thành phần máy tính song song Phân loại kiến trúc máy tính song song Mạng kết nối nội Kiến trúc chia sẻ nhớ Kiến trúc truyền thông báo Mô hình trừu tượng Lập... dạng đơn (Single Bus Systems): HP 9000 K 64 0 , IBM RS /60 00 R40, sun Enterprise 60 00 – Cấu trúc đa đường truyền chung (Multiple Bus Systems): Univac 1100/ 94 Cấu trúc chuyển mạch – Chuyển mạch tầng (SingleXstage)