Bài giảng Kiến trúc máy tính: Chương 4 trình bày về Bộ xử lý lộ trình dữ liệu – Điều khiển. Nội dung cụ thể của chương này gồm có: Các bước thực hiện lệnh, bộ Multiplexer, bộ phận điều khiển, nguyên lý thiết kế luận lý, phần tử tuần tự, xây dựng lộ trình dữ liệu,...
Computer Architecture Computer Science & Engineering Chương Bộ Xử lý Lộ trình liệu – Điều khiển BK TP.HCM Dẫn nhập Các yếu tố xác định hiệu xuất Bộ Xử lý Số lệnh (Instruction Count) Số chu kỳ cho lệnh thời gian chu kỳ đ/hồ Phiên đơn giản Phiên thực (cơ chế đường ống) Nhóm lệnh đơn giản, đặc trưng: BK Xác định phần cứng CPU Đề cập mơ hình thực MIPS Xác định “Kiến trúc tập lệnh” ISA Trình biên dịch Truy cập nhớ: lw, sw Số học/luận lý: add, sub, and, or, slt Nhảy, rẽ nhánh (chuyển điều khiển): beq, j TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Các bước thực lệnh PC Bộ nhớ chứa lệnh, Nạp lệnh Đọc nội dung ghi (Register numbers[rs, rt, rd] register file) Tùy thuộc vào loại lệnh mà Sử dụng ALU để tính Phép số học Kết Xác định địa nhớ (load/store) Xác định địa rẽ nhánh Truy cập liệu nhớ cho lệnh for load/store PC Địa lệnh kế or PC + BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Lược đồ thực (CPU) BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Bộ Multiplexer Khơng thể nối dây trực tiếp lại với Sử dụng multiplexers BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Bộ phận Điều khiển BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Nguyên lý thiết kế luận lý Biểu diễn thông tin nhị phân Phần tử tổ hợp Áp mức thấp = 0, Áp mức cao = Một đường dây cho bit Dữ liệu gồm nhiều bit biểu diễn tuyến nhiều đường dây Thực liệu Kết đầu = hàm(đầu vào) Phần tử trạng tái (mạch tuần tự) Lưu liệu BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Ví dụ: phần tử tổ hợp BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Phần tử Thanh ghi: lưu liệu mạch Sử dụng tín hiệu xung đồng hồ để xác định cập nhật giá trị lưu trữ Kích cạnh: đầu cập nhật xung đồng hồ thay đổi từ lên D Q Clk D Clk Q BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính Phần tử (tt.) Thanh ghi với tín hiệu đ/khiển write Chỉ cập nhật theo cạnh xung mức điều khiển write mức Sử dụng trường hợp lưu cho chu kỳ sau Clk D Q Write Clk Write D Q BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 10 MIPS with Static Dual Issue Two-issue packets One ALU/branch instruction One load/store instruction 64-bit aligned ALU/branch, then load/store Pad an unused instruction with nop Address Instruction type Pipeline Stages n ALU/branch IF ID EX MEM WB n+4 Load/store IF ID EX MEM WB n+8 ALU/branch IF ID EX MEM WB n + 12 Load/store IF ID EX MEM WB n + 16 ALU/branch IF ID EX MEM WB n + 20 Load/store IF ID EX MEM WB BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 114 MIPS with Static Dual Issue BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 115 Hazards in the Dual-Issue MIPS More instructions executing in parallel EX data hazard Forwarding avoided stalls with single-issue Now can’t use ALU result in load/store in same packet Load-use hazard add $t0, $s0, $s1 load $s2, 0($t0) Split into two packets, effectively a stall Still one cycle use latency, but now two instructions More aggressive scheduling required BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 116 Scheduling Example Schedule this for dual-issue MIPS Loop: lw addu sw addi bne Loop: BK $t0, $t0, $t0, $s1, $s1, 0($s1) $t0, $s2 0($s1) $s1,–4 $zero, Loop # # # # # $t0=array element add scalar in $s2 store result decrement pointer branch $s1!=0 ALU/branch Load/store cycle nop lw addi $s1, $s1,–4 nop addu $t0, $t0, $s2 nop bne sw $s1, $zero, Loop $t0, 0($s1) $t0, 4($s1) IPC = 5/4 = 1.25 (c.f peak IPC = 2) TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 117 Loop Unrolling Replicate loop body to expose more parallelism Reduces loop-control overhead Use different registers per replication Called “register renaming” Avoid loop-carried “anti-dependencies” Store followed by a load of the same register Aka “name dependence” Reuse of a register name BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 118 Loop Unrolling Example IPC = 14/8 = 1.75 Closer to 2, but at cost of registers and code size BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 119 Dynamic Multiple Issue “Superscalar” processors CPU decides whether to issue 0, 1, 2, … each cycle Avoiding structural and data hazards Avoids the need for compiler scheduling Though it may still help Code semantics ensured by the CPU BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 120 Dynamic Pipeline Scheduling Allow the CPU to execute instructions out of order to avoid stalls But commit result to registers in order Example lw $t0, addu $t1, sub $s4, slti $t5, Can start sub 20($s2) $t0, $t2 $s4, $t3 $s4, 20 while addu is waiting for lw BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 121 Dynamically Scheduled CPU Preserves dependencies Hold pending operands Results also sent to any waiting reservation stations Reorders buffer for register writes Can supply operands for issued instructions BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 122 Register Renaming Reservation stations and reorder buffer effectively provide register renaming On instruction issue to reservation station If operand is available in register file or reorder buffer If operand is not yet available BK Copied to reservation station No longer required in the register; can be overwritten It will be provided to the reservation station by a function unit Register update may not be required TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 123 Speculation Predict branch and continue issuing Don’t commit until branch outcome determined Load speculation Avoid load and cache miss delay BK Predict the effective address Predict loaded value Load before completing outstanding stores Bypass stored values to load unit Don’t commit load until speculation cleared TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 124 Why Do Dynamic Scheduling? Why not just let the compiler schedule code? Not all stalls are predicable Can’t always schedule around branches e.g., cache misses Branch outcome is dynamically determined Different implementations of an ISA have different latencies and hazards BK TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 125 Does Multiple Issue Work? Yes, but not as much as we’d like Programs have real dependencies that limit ILP Some dependencies are hard to eliminate Some parallelism is hard to expose Limited window size during instruction issue Memory delays and limited bandwidth BK e.g., pointer aliasing Hard to keep pipelines full Speculation can help if done well TP.HCM 25-Aug-16 Faculty of Computer Science & Engineering 126 Tiết kiệm lượng Complexity of dynamic scheduling and speculations requires power Multiple simpler cores may be better Microprocessor Year Clock Rate Pipeline Stages Issue width Out-of-order/ Speculation Cores Power i486 1989 25MHz No 5W Pentium 1993 66MHz No 10W Pentium Pro 1997 200MHz 10 Yes 29W P4 Willamette 2001 2000MHz 22 Yes 75W P4 Prescott 2004 3600MHz 31 Yes 103W Core 2006 2930MHz 14 Yes 75W UltraSparc III 2003 1950MHz 14 No 90W UltraSparc T1 2005 1200MHz No 70W BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 127 Tổng kết ISA influences design of datapath and control Datapath and control influence design of ISA Pipelining improves instruction throughput using parallelism Rủi ro: cấu trúc, liệu, điều khiển Multiple issue and dynamic scheduling (ILP) BK More instructions completed per second Latency for each instruction not reduced Dependencies limit achievable parallelism Complexity leads to the power wall TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 128 ... R-type 10 add 100000 add 0010 subtract 100010 subtract 0110 AND 100100 AND 0000 OR 100101 OR 0001 set-on-less-than 101010 set-on-less-than 0111 BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy. .. R-type and load sign-extend and add BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 23 Lộ trình với tín hiệu đ/khiển BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 24 Lệnh dạng R-Type... TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 18 Lộ trình tổng hợp (R-Type/Load/Store) BK TP.HCM 25-Aug-16 Khoa Khoa học & Kỹ thuật Máy tính 19 Lộ trình tồn phần BK TP.HCM 25-Aug-16 Khoa