Bài giảng Kiến trúc máy tính - Chương 4: Thiết kế bộ nhớ do TS. Vũ Đức Lung biên soạn cung cấp cho người học các kiến thức: Khái niệm cơ bản, bộ nhớ Cache, bộ nhớ trong, bộ nhớ ảo. Mời các bạn cùng tham khảo nội dung chi tiết.
CHƯƠNG 4: THIẾT KẾ BỘ NHỚ Khái niệm Bộ nhớ Cache Bộ nhớ Bộ nhớ ảo Khoa KTMT Vũ Đức Lung Khái niệm Các cấp nhớ bản: – – – – Thanh ghi Cache Bộ nhớ Bộ nhớ thứ cấp Khoa KTMT Vũ Đức Lung Khái niệm Thứ tự thực tìm item nhớ: – Tìm Item nhớ mức cao cấp nhớ (xác suất tìm thấy item gọi hit ratio h1, khơng tìm thấy miss ratio (1h1)) – Khi khơng tìm thấy tìm cấp thấp (h2, (1-h2)) – Quá trình tiếp diễn tìm thấy hết cấp nhớ – Khi tìm thấy Item chuyển cho Bộ xử lý Giả sử Các cấp nhớ có cấp Thời gian truy cập nhớ trung bình tính: tav = h1*t1 + (1-h1)*[t1+h2*t2+(1-h2)*(t2+t3)] = t1 + (1-h1)*[t2 + (1-h2)*t3] Khoa KTMT Vũ Đức Lung Nguyên tắc tổ chức nhớ Thống kê: 90% thời gian thi hành 10% số lệnh chương trình Ngun tắc khơng gian: – Khi xử lý thâm nhập vào ô nhớ => nhiều khả thâm nhập vào nhớ có địa thời gian sau Nguyên tắc thời gian: – Các ô nhớ hệ thống xử lý thâm nhập có khả thâm nhập lại tương lai gần Thơng thường có số lệnh phần số liệu thâm nhập nhiều mà thơi Ví dụ lệnh vịng lặp chương trình Khoa KTMT Vũ Đức Lung Cache Memory a small high-speed memory that is near the CPU Thành công cache (cache hit) Thất bại cache (cache miss) Tỷ số thành công cache hc(cache hit ratio) Tỷ số thất bại cache (1-hc) (cache miss ratio) Khoa KTMT Vũ Đức Lung Cache Memory (2) Ảnh hưởng nguyên lý lân cận thời gian ntc + tm tm tav = = tc + n n Ảnh hưởng nguyên lý lân cận không gian mtc + tm tm tav = = tc + m m Ảnh hưởng tổ hợp hai nguyên lý mtc + tm tm ( ) + (n − 1)tc tc + + (n − 1)tc t m m tav = = = tc + m n n nm Khoa KTMT Vũ Đức Lung Tổ chức nhớ cache (0) Khoa KTMT Vũ Đức Lung Tổ chức nhớ cache (1) Phải để khối nhớ vào chỗ cache (sắp xếp khối)? Có kỹ thuật tổ chức : – Kiểu tương ứng trực tiếp (Direct Mapping) – Kiểu hoàn toàn phối hợp (Fully Associative Mapping) – Kiểu phối hợp theo tập hợp (Set – Associative Mapping) Dựa hai khía cạnh: – Cách đặt vào cache khối nhớ từ nhớ – Cách thay khối cache (khi cache đầy) Khoa KTMT Vũ Đức Lung Tổ chức nhớ cache (2) Kiểu tương ứng trực tiếp – Nếu khối nhớ có vị trí đặt khối cache xác định theo cơng thức: K= i mod n Trong đó: K: vị trí khối đặt cache i: số thứ tự khối nhớ n: số khối cache Kiểu hoàn toàn phối hợp: Một khối nhớ đặt vào vị trí cache Khoa KTMT Vũ Đức Lung Tổ chức nhớ cache (3) Kiểu phối hợp theo tập hợp: cache bao gồm tập hợp khối cache Mỗi tập hợp khối cache chứa số khối Một khối nhớ đặt vào số vị trí khối giới hạn tập hợp xác định công thức: K= i mod s Trong đó: K: vị trí khối đặt cache i: số thứ tự khối nhớ s: số lượng tập hợp cache Khoa KTMT Vũ Đức Lung 10 Kỹ thuật thay khối Ví dụ: Ma trận số 4x8 Giả sử số lưu từ phần tử ma trận lưu theo thứ tự từ địa 1000 đến 1031 Cache chứa khối, khối từ Áp dụng kỹ thuật LRU Thứ tự yêu cầu từ CPU: Khoa KTMT Vũ Đức Lung 22 Kỹ thuật thay khối – Direct mapping Khoa KTMT Vũ Đức Lung 23 Kỹ thuật thay khối – Fully associative mapping Khoa KTMT Vũ Đức Lung 24 Kỹ thuật thay khối – Set Associative mapping Khoa KTMT Vũ Đức Lung 25 Chiến thuật ghi cache Chiến lược với cache hit: – Ghi đồng thời (write-through): Thông tin ghi đồng thời vào khối cache khối nhớ – Ghi lại (write-back): Thông tin cần ghi ghi vào khối cache • Sử dụng bit trạng thái (Dirty bit hay Update bit) • Khi khối bị thay thế, khối ghi lại vào nhớ bit trạng thái thiết lập Chiến lược với cache miss - Ghi có nạp (write-allocate): khối cần ghi từ nhớ nạp vào cache mô tả Cách thường dùng cách ghi lại - Ghi không nạp (write-no-allocate): khối thay đổi nhớ không đưa vào cache Cách dùng cách ghi đồng thời Khoa KTMT Vũ Đức Lung 26 CÁC LOẠI CACHE Cache để chứa đồng thời lệnh liệu Cache riêng lẻ cách sử dụng cache lệnh riêng cache liệu riêng (ví dụ Pentium, Pentium 4, Itanium, PowerPC 620, IBM SP,…) Cache mức (L1 cache): thường cache (on-chip cache; nằm bên CPU) Cache có kích thước nhỏ nằm gần CPU nên liệu nằm xử lý nhanh • Cache mức hai (L2 cache) thường cache (off-chip cache; cache nằm bên CPU) Như CPU thiết kế lõi cài đặt cache L2 có kích thước khác • Ngồi ra, số hệ thống (PowerPC G4, IBM S/390 G4, Itanium Intel) cịn có tổ chức cache mức ba (L3 cache), mức cache trung gian cache L2 thẻ nhớ Khoa KTMT Vũ Đức Lung 27 VD: Intel Pentium CPU Cache Main Memory size 16 MB, CPU addressing Byte addressable Sử dụng Level cache: L1: L2: Cache organization Setassociative Cache L1 size KB Number of blocks per set - block size = 64 byte Khoa KTMT Vũ Đức Lung Cache organization Setassociative Cache L1 size 256 KB Number of blocks per set - block size = 128 byte 28 Main Memory Khoa KTMT Vũ Đức Lung 29 TỔ chức nhớ Khoa KTMT Vũ Đức Lung 30 SRAM - DRAM Khoa KTMT Vũ Đức Lung 31 Virtual Memory Giải vấn đề kích thước nhớ vật lý khơng đủ chứa hệ điều hành với chương trình người sử dụng Vấn đề vùng nhớ phải bảo vệ cách chắn để khỏi bị chương trình người sử dụng làm hỏng Bộ nhớ ảo dựa kết hợp nhớ với tốc độ cao nhớ (RAM) nhớ có tốc độ chậm nhớ phụ Dưới quan điểm người lập trình người sử dụng tập hợp nhớ quan niệm nhớ với dung lượng lớn (gần dung lượng ổ đĩa cứng) lại làm việc tốc độ cao (gần tốc độ nhớ trong) Khoa KTMT Vũ Đức Lung 32 Virtual Memory Bộ nhớ ảo quản lý cách chia nhớ thành mảng nhỏ có độ lớn tính theo đoạn, chế gọi phân đoạn (đối với họ Intel có từ VXL 80286 trở đi) trang, chế gọi phân trang ( họ Intel có từ VXL 80386) trở Trong máy tính đại đoạn có độ lớn từ byte đến 4GB trang thơng thường có độ lớn từ 2KB đến 16 K bytes Khoa KTMT Vũ Đức Lung 33 Virtual Memory Tổ chức nhớ ảo: – Một khối nhớ đặt đâu nhớ trong? – Làm để tìm khối nằm nhớ trong? – Khối phải thay có thất bại trang? – Việc xảy cần ghi số liệu? Khoa KTMT Vũ Đức Lung 34 Virtual Memory Khoa KTMT Vũ Đức Lung 35 Ví dụ tổng quát Cho nhớ cache tương ứng trực tiếp có khối, khối có 16 byte (word) Bộ nhớ có 64 khối Giả sử lúc khởi động máy, khối nhớ đưa lên cache a Viết bảng nhãn khối nằm cache b CPU đưa địa sau để đọc số liệu: O4AH, 3F5H, 27CH Nếu thất bại cập nhật bãng nhãn c CPU dùng cách ghi lại Khi thất bại cache, CPU dùng cách ghi có nạp Mô tả công việc quản lý cache CPU đưa từ sau để ghi vào nhớ trong: 0C3H, 05AH, 1C5H Khoa KTMT Vũ Đức Lung 36 ... cầu từ CPU: Khoa KTMT Vũ Đức Lung 22 Kỹ thuật thay khối – Direct mapping Khoa KTMT Vũ Đức Lung 23 Kỹ thuật thay khối – Fully associative mapping Khoa KTMT Vũ Đức Lung 24 Kỹ thuật thay khối –... per set - block size = 64 byte Khoa KTMT Vũ Đức Lung Cache organization Setassociative Cache L1 size 256 KB Number of blocks per set - block size = 128 byte 28 Main Memory Khoa KTMT Vũ Đức Lung. .. Khoa KTMT Vũ Đức Lung 34 Virtual Memory Khoa KTMT Vũ Đức Lung 35 Ví dụ tổng quát Cho nhớ cache tương ứng trực tiếp có khối, khối có 16 byte (word) Bộ nhớ có 64 khối Giả sử lúc khởi động máy, khối