Kỹ Thuật Vi Xử Lý 2 Đối tượng: Cao học chuyên ngành Kỹ thuật Điện tử, Rada dẫn đường. Thời lượng: 60 tiết Mục đích: Giới thiệu cho học viên kiến trúc các bộ vi xử lý gần đây vàcác kỹ thuật cơ bản trong khai thác các kiến trúc này. Phương pháp: Bài giảng slides + Thảo luận Đánh giá kết quả: assignments + Vấn đáp Giáo trình: Computer Architecture A Quantitative Approach 5thEdition, tác giả John L. Hennessy và David A. Patterson. Tài liệu tham khảo: Computer Organization and Design, 5th Edition,tác giả David A. Patterson và John L. HennessyKỹ Thuật Vi Xử Lý 2 Nội dung:+ Chương 1: Introduction of quantitative design and analysis(Giới thiệu về thiết kế và phân tích định lượng)+ Chương 2: Memory Hierarchy (Hệ thống cấp bậc bộ nhớ)+ Chương 3: InstructionLevel Parallelism (Song song mức lệnh)+ Chương 4: DataLevel Parallelism (Song song mức dữ liệu)Chương 1: Giới thiệu về phân tích và thiết kế định lượngI. Hiệu năng của hệ vi xử lý1. Định nghĩa Là khối lượng công việc hệ vi xử lý hoàn thành trong mộtkhoảng thời gian nhất định. 2 tham số đánh giá hiệu năng của hệ vi xử lý+ Response time (Thời gian đáp ứng) hoặc latency (độ trễ)Là khoảng thời gian từ khi bắt đầu đến khi hoàn thànhmột sự kiện.+ Throughput (thông lượng) hoặc băng thông (bandwidth)Là tổng khối lượng công việc hoàn thành trong mộtkhoảng thời gian nhất định.Chương 1: Giới thiệu về phân tích và thiết kế định lượngI. Hiệu năng của hệ vi xử lý1. Định nghĩa2. Tăng hiệu năng của hệ vi xử lý Vì sao cần tăng hiệu năng: nhu cầu của ứng dụng (speech,image, video processing; big data; machine learning …) Có 2 cách tiếp cận để tăng hiệu năng của hệ vi xử lý:+ Công nghệ bán dẫn (Semiconductor technology)Feature size, clock speed, memory technology+ Kiến trúc bộ vi xử lý (processor architectures)Single Processor PerformanceRISCMove to multiprocessorChương 1: Giới thiệu về phân tích và thiết kế định lượngI. Hiệu năng của hệ vi xử lý1. Định nghĩa2. Tăng hiệu năng của hệ vi xử lý3. Các xu hướng hiện tại trong kiến trúc (Current Trends in Architecture) Không thể khai thác thêm hiệu quả từ việc song song hoá mức lệnh(instructionlevel parallelism)+ Không thể tăng hiệu năng của single processor sau năm 2003. Đang khai thác sự song song hoá:+ Song song hoá mức dữ liệu (Datalevel parallelism)+ Song song hoá mức luồng (Threadlevel parallelism)+ Song song hoá mức yêu cầu (Requestlevel parallelism)Chương 1: Giới thiệu về phân tích và thiết kế định lượngII. Phân loại máy tính (Classes of computer) Personal Mobile Devices:Tập trung vào hiệu quả năng lượng (energy efficiency) và thời gian thực(realtime). Desktop computers:Tập trung vào hiệu năng (performance) và giá thành (price) Servers:Tập trung vào tính có sẵn (availability) và hiệu năng (performance) Clusters Warehouse Scale Computers:Tập trung vào tính có sẵn (availability), internal networks, và hiệu năng(performance) Embedded Computers:Tập trung vào giá thành (price)Chương 1: Giới thiệu về phân tích và thiết kế định lượngIII. Các kiểu song song (Parallelism) Sự song song trong các ứng dụng (Parallelism in applications)+ Song song mức dữ liệu (Datalevel parallelism)+ Song song mức nhiệm vụ (Tasklevel parallelism) Sự song song trong kiến trúc phần cứng+ Song song mức lệnh (Instructionlevel parallelism)+ Các kiến trúc vector (Vector architectures) và GraphicProcessor Units+ Song song mức luồng (Threadlevel Parallelism)+ Song song mức yêu cầu (Requestlevel Parallelism)Chương 1: Giới thiệu về phân tích và thiết kế định lượngIV. Yếu tố quy định kiến trúc máy tính (Defining computerarchitecture)1. Quan điểm cũ: Kiến trúc máy tính quy định bởi kiến trúc tập lệnh (ISA). Memory addressing, addressing modes, operations, controlflow instructions2. Quan điểm ngày nay: Kiến trúc máy tính quy định bởi mục đích và yêu cầu chứcnăng của máy. Thiết kế máy tính để cực đại hoá hiệu năng trong sự ràng buộcvề giá thành, năng lượng, và sự có sẵn (availability) bao gồm ISA, microarchitecture (CPU), hardware.Chương 1: Giới thiệu về phân tích và thiết kế định lượngV. Năng lượng và công suất (Energy and Power)1. Năng lượng và công suất động (Dynamic Energy and Power) Năng lượng động (dynamic energy)+ Transistor switch from 0 > 1 or 1 > 0+ ½ x Capacitive load x Voltage2 Công suất động (dynamic power)+ ½ x Capacitive load x Voltage2 x Frequency switched+ Giảm tần số clock giúp giảm công suất động chứ không giảm năng lượngđộng.Chương 1: Giới thiệu về phân tích và thiết kế định lượngV. Năng lượng và công suất (Energy and Power)1. Năng lượng và công suất động (Dynamic Energy and Power) Các kỹ thuật giảm thiểu công suất+ Do nothing well+ Dynamic VoltageFrequency Scaling+ Low power state for DRAM, disks+ Overclocking, turning off coresChương 1: Giới thiệu về phân tích và thiết kế định lượngV. Năng lượng và công suất (Energy and Power)1. Năng lượng và công suất động (Dynamic Energy and Power)2. Công suất tĩnh (Static Power) Công thức:Currentstatic x Voltage Kỹ thuật giảm thiểu: Power gatingChương 1: Giới thiệu về phân tích và thiết kế định lượngVI. Đo hiệu năng (Measuring performance)1. Thước đo hiệu năng Thời gian đáp ứng (Response time or execution time) Thông lượng (Throughput) Nói máy tính X nhanh hơn máy tính Y n lần:n = Execution timeY Execution timeXn = PerformanceX PerformanceY2. BenchmarksChương 1: Giới thiệu về phân tích và thiết kế định lượngVII. Nguyên tắc thiết kế máy tính (Principles of computer design)1. Khai thác sự song song (Take advantages of Parallelism) Multiple processors, disks, memory banks, pipelining, multiplefunctional units2. Khai thác tính cục bộ (Locality) Reuse of data and instructions3. Ưu tiên tối ưu những phần được sử dụng thường xuyên nhất.Chương 1: Giới thiệu về phân tích và thiết kế định lượngVII. Nguyên tắc thiết kế máy tính (Principles of computer design)1. Khai thác sự song song (Take advantages of Parallelism)2. Khai thác tính cục bộ (Locality)3. Ưu tiên tối ưu những phần được sử dụng thường xuyên nhất.Luật Amdahl:Chương 1: Giới thiệu về phân tích và thiết kế định lượngVII. Nguyên tắc thiết kế máy tính (Principles of computer design)4. Phương trình hiệu năng của bộ xử lý(CPI: clock cycles per instruction)Chương 1: Giới thiệu về phân tích và thiết kế định lượngVII. Nguyên tắc thiết kế máy tính (Principles of computer design)4. Phương trình hiệu năng của bộ xử lý Các loại lệnh khác nhau có CPI khác nhau:IC: Instruction count.
Kỹ Thuật Vi Xử Lý - Đối tượng: Cao học chuyên ngành Kỹ thuật Điện tử, Rada dẫn đường - Thời lượng: 60 tiết - Mục đích: Giới thiệu cho học viên kiến trúc vi xử lý gần kỹ thuật khai thác kiến trúc - Phương pháp: Bài giảng slides + Thảo luận - Đánh giá kết quả: assignments + Vấn đáp - Giáo trình: Computer Architecture - A Quantitative Approach 5th Edition, tác giả John L Hennessy David A Patterson - Tài liệu tham khảo: Computer Organization and Design, 5th Edition, tác giả David A Patterson John L Hennessy Kỹ Thuật Vi Xử Lý - Nội dung: + Chương 1: Introduction of quantitative design and analysis (Giới thiệu thiết kế phân tích định lượng) + Chương 2: Memory Hierarchy (Hệ thống cấp bậc nhớ) + Chương 3: Instruction-Level Parallelism (Song song mức lệnh) + Chương 4: Data-Level Parallelism (Song song mức liệu) Chương 1: Giới thiệu phân tích thiết kế định lượng I Hiệu hệ vi xử lý Định nghĩa - Là khối lượng công việc hệ vi xử lý hoàn thành khoảng thời gian định - tham số đánh giá hiệu hệ vi xử lý + Response time (Thời gian đáp ứng) latency (độ trễ) Là khoảng thời gian từ bắt đầu đến hoàn thành kiện + Throughput (thông lượng) băng thông (bandwidth) Là tổng khối lượng cơng việc hồn thành khoảng thời gian định Chương 1: Giới thiệu phân tích thiết kế định lượng I Hiệu hệ vi xử lý Định nghĩa Tăng hiệu hệ vi xử lý - Vì cần tăng hiệu năng: nhu cầu ứng dụng (speech, image, video processing; big data; machine learning …) - Có cách tiếp cận để tăng hiệu hệ vi xử lý: + Công nghệ bán dẫn (Semiconductor technology) Feature size, clock speed, memory technology + Kiến trúc vi xử lý (processor architectures) Single Processor Performance Move to multi-processor RISC Chương 1: Giới thiệu phân tích thiết kế định lượng I Hiệu hệ vi xử lý Định nghĩa Tăng hiệu hệ vi xử lý Các xu hướng kiến trúc (Current Trends in Architecture) - Không thể khai thác thêm hiệu từ việc song song hoá mức lệnh (instruction-level parallelism) + Không thể tăng hiệu single processor sau năm 2003 - Đang khai thác song song hoá: + Song song hoá mức liệu (Data-level parallelism) + Song song hoá mức luồng (Thread-level parallelism) + Song song hoá mức yêu cầu (Request-level parallelism) Chương 1: Giới thiệu phân tích thiết kế định lượng II Phân loại máy tính (Classes of computer) - Personal Mobile Devices: Tập trung vào hiệu lượng (energy efficiency) thời gian thực (real-time) - Desktop computers: Tập trung vào hiệu (performance) giá thành (price) - Servers: Tập trung vào tính có sẵn (availability) hiệu (performance) - Clusters / Warehouse Scale Computers: Tập trung vào tính có sẵn (availability), internal networks, hiệu (performance) - Embedded Computers: Tập trung vào giá thành (price) Chương 1: Giới thiệu phân tích thiết kế định lượng III Các kiểu song song (Parallelism) - Sự song song ứng dụng (Parallelism in applications) + Song song mức liệu (Data-level parallelism) + Song song mức nhiệm vụ (Task-level parallelism) - Sự song song kiến trúc phần cứng + Song song mức lệnh (Instruction-level parallelism) + Các kiến trúc vector (Vector architectures) Graphic Processor Units + Song song mức luồng (Thread-level Parallelism) + Song song mức yêu cầu (Request-level Parallelism) Chương 1: Giới thiệu phân tích thiết kế định lượng IV Yếu tố quy định kiến trúc máy tính (Defining computer architecture) Quan điểm cũ: - Kiến trúc máy tính quy định kiến trúc tập lệnh (ISA) - Memory addressing, addressing modes, operations, control flow instructions Quan điểm ngày nay: - Kiến trúc máy tính quy định mục đích yêu cầu chức máy - Thiết kế máy tính để cực đại hố hiệu ràng buộc giá thành, lượng, có sẵn (availability) - bao gồm ISA, microarchitecture (CPU), hardware Chương 1: Giới thiệu phân tích thiết kế định lượng V Năng lượng công suất (Energy and Power) Năng lượng công suất động (Dynamic Energy and Power) - Năng lượng động (dynamic energy) + Transistor switch from -> or -> + ½ x Capacitive load x Voltage2 - Cơng suất động (dynamic power) + ½ x Capacitive load x Voltage2 x Frequency switched + Giảm tần số clock giúp giảm công suất động không giảm lượng động Chương 1: Giới thiệu phân tích thiết kế định lượng V Năng lượng công suất (Energy and Power) Năng lượng công suất động (Dynamic Energy and Power) - Các kỹ thuật giảm thiểu công suất + Do nothing well + Dynamic Voltage-Frequency Scaling + Low power state for DRAM, disks + Overclocking, turning off cores Chương 1: Giới thiệu phân tích thiết kế định lượng V Năng lượng công suất (Energy and Power) Năng lượng công suất động (Dynamic Energy and Power) Công suất tĩnh (Static Power) - Công thức: Currentstatic x Voltage - Kỹ thuật giảm thiểu: Power gating Chương 1: Giới thiệu phân tích thiết kế định lượng VI Đo hiệu (Measuring performance) Thước đo hiệu - Thời gian đáp ứng (Response time or execution time) - Thông lượng (Throughput) - Nói máy tính X nhanh máy tính Y n lần: n = Execution timeY / Execution timeX n = PerformanceX / PerformanceY Benchmarks Chương 1: Giới thiệu phân tích thiết kế định lượng VII Nguyên tắc thiết kế máy tính (Principles of computer design) Khai thác song song (Take advantages of Parallelism) - Multiple processors, disks, memory banks, pipelining, multiple functional units Khai thác tính cục (Locality) - Reuse of data and instructions Ưu tiên tối ưu phần sử dụng thường xuyên Chương 1: Giới thiệu phân tích thiết kế định lượng VII Nguyên tắc thiết kế máy tính (Principles of computer design) Khai thác song song (Take advantages of Parallelism) Khai thác tính cục (Locality) Ưu tiên tối ưu phần sử dụng thường xuyên Luật Amdahl: Chương 1: Giới thiệu phân tích thiết kế định lượng VII Nguyên tắc thiết kế máy tính (Principles of computer design) Phương trình hiệu xử lý (CPI: clock cycles per instruction) Chương 1: Giới thiệu phân tích thiết kế định lượng VII Nguyên tắc thiết kế máy tính (Principles of computer design) Phương trình hiệu xử lý - Các loại lệnh khác có CPI khác nhau: IC: Instruction count