Bộ nhớ cache và bộ nhớ ảo

PowerPoint Presentation MEMORY SYSTEMS KTMT – NHÓM THUYẾT TRÌNH 3 Information Provider Presenter Nguyễn Duy Thường Information Provider Nguyễn Đình Minh Powerpoint creator Meet our team 1 1 1 1 2 1 3 1 4 2 2 1 2 2 2 3 2 4 2 5 2 6 What is Cache ? + Spatial locality (cục bộ về không gian) block Để bộ nhớ cache có tỉ lệ miss rate thấp nhất, bộ nhớ cache sử dụng hai nguyên lý để dự đoán dữ liệu + Temporal locality (cục bộ về thời gian) Cache là thành phần nhớ trong s.

MEMORY KTMT – NHĨM THUYẾT SYSTEMS TRÌNH Meet our team Nguyễn Đình Minh Nguyễn Xuân Giang Nguyễn Văn Hải Nguyễn Duy Thường Powerpoint creator Information Provider Presenter Information Provider 1.1 1.2 1.3 1.4 2.1 2.2 2.3 2.4 2.5 2.6 What is Cache ? Cache thành phần nhớ Để nhớ cache có tỉ lệ miss rate tính, thường sử dụng để thấp nhất, nhớ cache sử dụng hai lưu trữ liệu có dung ngun lý để dự đốn liệu: + Temporal locality (cục thời lượng nhỏ nhiều so với gian) nhớ block 1.1 What is Cache Cahe? + Spatial locality (cục không gian) sơ đồ phân cấp nhớ máy - Ánh xạ trực tiếp (direct mapping) - Trong Ánh xạnhớ tậpcache kết đa sử dụng đường ánh (N-way xạ trựcset tiếp set gồm associative mapping) - (direct Ánh xạmapping), tập kết đầy đủ bao (fully associative block, mà cache có S=B set mapping)  MỗiAddress địa nhớ ánh xạ với xác set cache.mem[0xFFFFFFFC] 11…11111100 11…11111000 11…11110100 11…11110000 11…11101100 11…11101000 11…11100100 11…11100000 mem[0xFFFFFFF8] mem[0xFFFFFFF4] mem[0xFFFFFFF0] mem[0xFFFFFFEC] mem[0xFFFFFFE8] mem[0xFFFFFFE4] mem[0xFFFFFFE0] 00…00100100 00…00100000 00…00011100 00…00011000 00…00010100 00…00010000 00…00001100 00…00001000 00…00000100 00…00000000 mem[0x00000024] mem[0x00000020] mem[0x0000001C] mem[0x00000018] mem[0x00000014] mem[0x00000010] mem[0x0000000C] mem[0x00000008] mem[0x00000004] mem[0x00000000] 230-Word Main 1.2 How is data found? 23-Word Set (111) Set (110) Set (101) Set (100) Set (011) Set (010) Set (001) Set (000) How is data Dữ liệu tìm thấy thơng qua việc ánh xạ (mapping) địa liệu nhớ vị trí chúng cache Dữ liệu tìm thấy thơng qua việc ánh xạ (mapping) địa liệu nhớ vị trí chúng cache  Trong nhớ cache sử dụng ánh xạ trực tiếp (direct mapping), set bao gồm block, mà cache có S=B set  Mỗi địa nhớ ánh xạ với xác set Byte cache Offs Memory Address Tag 111…111 FFFF Set 001 E et 00  Hai bit quan trọng số 32 bit địa gọi byte offset  Ba bit gọi set bit chúng set mà địa ánh xạ tới (thông thường, số lượng set bit log2S)  27 tag bit lại địa nhớ liệu lưu cache set định How is data - Ánh xạ trực tiếp (direct mapping) Dữ liệu tìm thấy thơng qua việc ánh xạ (mapping) địa liệu nhớ vị trí chúng cache - Ánh xạ trực tiếp (direct mapping) cho set để liệu set chứa liệu có Byte nghĩa (meaningful data) hay không Memory Address Tag Offs et 00 Set V Tag Data Set Set Set Set Set Set Set Set = Data Hit  Ưu điểm: Đơn giản thiết kế, nhanh cần phép so sánh  Nhược điểm: Có thể xảy xung đột How is data  Bộ nhớ cache sử dụng valid bit (bit giá trị) Dữ liệu tìm thấy thơng qua việc ánh xạ (mapping) địa liệu nhớ vị trí chúng cache - Ánh xạ tập kết hợp đa đường (Multiway Associative) Byteánh xạ tập kết hợp đa đường Set Phương pháp Offs Set Memory et N block set nơi mà cách Tag cung cấp 00 Way Way Address liệu 2ánh 2xạ Vtới Tagset Data V Tagđược Data tìm thấy Set Set  Mỗi địa nhỡ ánh xạ với set Set xác định ánh xạ Set tới4 3 block số N block set  Ưu điểm: Có tỉ lệ miss = = rate thấp ánh xạ trực tiếp, Có xung đột xảy Hit Hit0 Hit Data  Nhược điểm: Chậm đắt How is data - Ánh xạ trực tiếp (direct mapping) Dữ liệu tìm thấy thơng qua việc ánh xạ (mapping) địa liệu nhớ vị trí chúng cache - Ánh xạ trực tiếp (direct mapping)  Bộ nhớ cache sử dụng phương pháp tập kết hợp đầy đủ có set với B way, B số lượng block (number of blocks)  Một địa nhớ ánh xạ tới theo bất Way block Way Waykì wayWay Way V Tag Dat a V Tag Dat a V Tag Dat a V Tag Dat a V Tag Dat a Way V Tag Dat a Way V Tag Dat a Way V Tag Dat a How is data - Ánh xạ tập kết hợp đa đường (Multiway Set Associative) - Ánh xạ kết hợp đầy đủ (Fully associative) What is data is Replaced ? Cache sử dụng nguyên tắc LRU (least recently used ) để thay thế, loại bỏ block sử dụng gần Trong đệm ẩn liên kết tập hợp hai chiều, use bit, U, cho biết khối tập hợp sử dụng gần Mỗi khối sử dụng, U điều chỉnh để khối cịn lại Ví dụ 1.1: NGUYÊN TẮC THAY THẾ LRU 1.3 How is data found? Hiển thị nội dung đệm kết hợp gồm tám từ hai chiều sau thực thi mã sau Giả sử thay LRU, kích thước khối từ đệm trống ban đầu Way addi t0, zero, lw s1, 0x4(t0) lw s2, 0x24(t0) V U Tag 0 0 00…010 0 (a) lw s3, 0x54(t0) Data mem[0x00… 24] V 0 Tag Data 00… 000 mem[0x00… 04] Way V U Tag 0 0 1 00…010 0 (b) Data mem[0x00… 24] Way Set Set (11) Set (10) Set (01) (00) Way V 0 Tag Data 00… 101 mem[0x00… 54] Set Set (11) Set (10) Set (01) (00) Advanced Cahe Design Bộ nhớ đệm nhiều cấp độ (Multiple-Level Caches) Bộ nhớ đệm lớn có lợi chúng có nhiều khả chứa liệu lãi suất Speed - L1 Cache 1.4 Advanced Cache Design đó, có tỷ lệ lệch thấp L2 Cache Main Memory  Tuy nhiên, nhớ đệm lớn có xu hướng chậm nhớ đệm nhỏ Các hệ Virtual Memory thống đại thường sử dụng hai mức nhớ đệm Capacity Advanced Cahe Design - Bộ nhớ đệm nhiều cấp độ (Multiple-Level Caches) - Giảm Miss Rate (Reducing Miss Rate)  Cache misses giảm bớt cách thay đổi dung lượng, kích thước khối tính kết  Khi kích liên thước nhớ cache tăng lên, lệch dung lượng giảm  Tính liên kết tăng lên, đặc biệt nhớ đệm nhỏ, làm giảm số lần lệch xung đột hiển thị dọc theo đầu đường cong Advanced Cahe Design - Bộ nhớ đệm nhiều cấp độ (Multiple-Level Caches) - Giảm Miss Rate (Reducing Miss Rate) - Nguyên tắc ghi (Write Policy) Bộ nhớ đệm phân loại write-through write-back  Trong write-through cache , liệu ghi vào khối đệm đồng thời ghi vào nhớ  Trong write-back cache, bit ghi đè (dirty bit) (D) liên kết với khối đệm D khối nhớ cache ghi không ghi What is Virtual memory ? Các chương trình thể dữlượng liệu Bộ nhớ ảo tạo có bộtruy nhớcập dung lớn, nhớ ảo cách dụng Bộ tốn khiphải sử cung cấpcác tốcđịa độchỉ bộảo nhớ nhớ vậthơn lý cho chứacác phần truypháp cập tạm gần tạm nhanh truy cập,các giải vào ảo Theo hợp cáchhết này, lượng nhớ vật lý vật hoạt thời đề nhớ tránh trường dung RAM Bộ nhớ ảo nhớ hệ thống Quá trình xác định địa tạo từ hệ điều hành vật lý từ địa ảo gọi nằm ổ cứng Nó liên q trình dịch địa Hệ kết địa nhớ dùng phần thống nhớ ảo sử dụng mềm gọi địa ảo tới page table để thực tới địa vật lý nhớ dịch địa máy tính 2.1 What is Virtual Virtual memory memory ? động nhớ cache cho nhớ ảo lí Address translation Virtual Page Virtual AddressesNumber Trong hệ thống bao gồm nhớ ảo, chương trình sử dụng địa ảo để chúng truy cập vào nhớ. Máy tính phải dịch địa ảo để tìm địa nhớ 2.2 Address Translation vật lý lấy page fault tìm nạp liệu từ ổ cứng.  Virtual 30 29 28Memory … 14 13 Physical 12 Page VPN Number Physical 19 0x7FFF0007FFF Addresses 0x7FFFFFF 7FFE  Bộ nhớ ảo nhớ vật lý chia thành page 4KB.   Các bit quan trọng địa ảo 0001 0000 0x7FFE000Translation 0x7FFEFFF 15 VPN 0x000100026 25 24 … 13 0x0001FFF 12 0x00000000x0000FFF Physical Memory 0x7FFFF0000x7FFFFFFF 0x7FFFE0000x7FFFEFFF 0x7FFFD0000x7FFFDFFF 0x7FFFC0000x7FFFCFFF 0x7FFFB0000x7FFFBFFF 0x7FFFA0000x7FFFAFFF 11 10 90x7FFF9000…2 00x7FFF9FFF Page Offset 0x0000600012 0x00006FFF 0x000050000x00005FFF 0x000040000x00004FFF 0x000030000x00003FFF 0x00002000Page Offset 0x00002FFF 11 10 90x00001000…2 0x00001FFF 00x000000000x00000FFF Physical Memory Virtual Memory 7FFFF 7FFFE 7FFFD 7FFFC 7FFFB 7FFFA 7FFF9 00006 00005 00004 00003 00002 00001 00000 địa vật lý định virtual page number (VPN) physical page number (PPN)  Các bit mang quan trọng gọi page offset  15 địa ảo sang địa vật lý. Bảng trang chứa đầu vào cho trang ảo. Đầu vào Virtual Pagesố chứa pagelưu vàtrữ bit -này Page table lớnphysical bất Page Offset Virtual Number 0x000 Addres 02 s 19 47C hợp lệ. trong kỳ đâu nhớ vật lý.  12 V 0 1 0 Virtual Page Number 0x0000 0x7FFE 7FFFF 7FFFE 7FFFD 7FFFC 7FFFB 7FFFA 0 0 0 2.3 Page Table Physical 00007 00006 00005 00004 00003 00002 00001 00000 dụ: Tìm vật lý từ - Bộ xử lý thường V sửPage dụng Víthanh ghi địa chỉ0x0001 0 1 0 Number địaregister, ảo 0x247C sử dụng chuyên dụng, gọi page table 0x7FFF 0x0000 0x7FFE để lưu trữ địa sở page hình table2.8 nhớ vật lý.  0 0 0 Page Table Quá trình dịch địa ảo 0x247C sang địa vật lí  12 bit page offset không 0x0001 yêu cầu dịch 0x7FFF  19 bit lại địa 15 12 Hit Physic al Addres s 0x7FF FF 47C ảo số bit virtual page Page Table Bộ xử lý sử dụng page table để dịch Physical Page Number The Translation Lookaside Buffer TLB: đệm chuyển đổi làm nhiệm vụ tăng tốc trình tìm kiếm page tables Virtual Page Page offse Number t 0x0000 47C 1  Một nhớ vậtTLB lý tổ chức nhớ cache liên Virtual kếtAdress đầy es 2.4 The Translation Lookaside Buffer đủ thường chứa 16 đến 512 mục (entries) Entry Virtual  TLB truy cập số trang ảo Page V Numb er 0x7FFF D Entry Virtual Page Numb er 0x0000 V  TLB thiết kế đủ nhở để truy cập chưa đầy chu kỳ = Virtual Page Numb er 0x0000 2 Virtual Page Numb er 0x7FFF = Hit Hit0 Hit Physic al Adress es 0x7FFF 47C Memory Protection  Khi xảy lỗi trang, xử lý  Các thống nhớ ảo cung thay hệ trang cho chương nhấtmỗi trang trình ảo bị không thiếu gian 2.4 Memory Protection địa ảo riêng  Để hỗ trợ sách thay  Mỗi trình cónhập thể sử dụng chương này, mục bảng tồn khơng địa trang chứa hai gian bit trạng tháiảo màbit không lắng bổ sung: dirty phải D vàlobit usevề vị U trí chương trình khác  Tuy nhiên, chương Bit dirty trình hướng có truy trangđổi vật dẫnthể lưu trữcập thay lý đượcvật ánh trang lýxạ kểtrong từ đọc từ ổ cứng  Bit use trang vật lý Replacement Policies cấp khả sử bảo vệ cách vật lý dụng gần Để tiết kiệm nhớ vật lý, trang thành nhiều (thường chia hai) levels  The first-level page table 2.5 Multilevel Page Tables giữ nhớ vật lý Nó nơi bảng trang nhỏ cấp hai lưu trữ nhớ ảo  The second-level page table có chứa dịch cho loạt trang ảo  Số trang ảo chia thành hai phần: số bảng trang (page table number) phần bù Multilevel Page bảng ... Bộ nhớ ảo tạo có bộtruy nhớcập dung lớn, nhớ ảo cách dụng Bộ tốn khiphải sử cung cấpcác tốcđịa độchỉ bộ? ??o nhớ nhớ vậthơn lý cho chứacác phần truypháp cập tạm gần tạm nhanh truy cập,các giải vào... địa ô nhớ dùng phần thống nhớ ảo sử dụng mềm gọi địa ảo tới page table để thực tới địa vật lý nhớ dịch địa máy tính 2.1 What is Virtual Virtual memory memory ? động nhớ cache cho nhớ ảo lí Address... cập,các giải vào ảo Theo hợp cáchhết này, lượng nhớ vật lý vật hoạt thời đề nhớ tránh trường dung RAM Bộ nhớ ảo nhớ hệ thống Quá trình xác định địa tạo từ hệ điều hành vật lý từ địa ảo gọi nằm ổ