cấu trúc mạng CACHE MEMORY

1 TRƯỜNG ĐẠI HỌC CÔNG NGHỆ - ĐHQGHN KHOA CƠ HỌC KỸ THUẬT VÀ TỰ ĐỘNG HÓA -o0o - TIỂU LUẬN MƠN KIẾN TRÚC MÁY TÍNH VÀ MẠNG TRUYỀN THÔNG CÔNG NGHIỆP ĐỀ TÀI: CACHE MEMORY Lời mở đầu Chúng ta kỷ nguyên thông tin Ngày khơng cịn nghi ngờ vai trị thông tin đời sống, khoa học kỹ thuật, kinh doanh mặt vận động xã hội, quy mơ, từ xí nghiệp công ty quốc gia quốc tế Việc nắm bắt thơng tin thật nhanh, nhiều xác kịp thời ngày đóng vai trị cốt yếu quản lý, điều hành Hẳn nhiều người biết máy tính hoạt động theo quy trình quy tắc nào, để giúp người biết hiểu thiết bị máy cách hoạt động sao, nhóm chúng tơi xin phép nói sâu nhớ máy chi tiết nhớ đệm (cache memory) Ta nghiên cứu thành phần chức nhớ đệm: i Computer system memory overview (bộ nhớ hệ thống máy tính tổng quan) ii Cache memory principles (các nguyên tắc nhớ cache) Cuối ta xem ví dụ nghiên cứu tổ chức nhớ cache pentium II để hiểu rõ Cache memory I Computer sytem memory overview (Tổng quan nhớ máy tính) Bộ nhớ (memory) Các đặc trưng nhớ - Vị trí: nhớ thiết bị nhớ ghi chứa thơng tin ROM, RAM, cache, đĩa cứng, đĩa mềm, CD gọi nhớ (vì chúng lưu trữthơng tin) - Dung lượng: khả lưu trữ liệu thiết bị Với nhớ trong, dung lượng thường biểu diễn dạng byte (1 byte = bit) hay word Các độ dài word phổ biến 8, 16, 32 bit Bộ nhớ ngồi có dung lượng biểu thị theo byte Ví dụ: CD chứa 700MB, đĩa mềm chứa 1.44MB, đĩa cứng chứa 40 GB, 60GB, cache L1 chứa 16KB, cache L2 chứa 256 KB - Đơn vị truyền: từ nhớ khối nhớ - Giao tiếp: cấu trúc bên nhớ Ví dụ, RAM có số chân cắm đặc tính khác - Phương pháp truy nhập: truy nhập (băng từ), truy nhập trực tiếp (các loại đĩa), truy nhập ngẫu nhiên (bộ nhớ bán dẫn), truy nhập liên kết (cache) - Kiểu nhớ vật lý: nhớ bán dẫn, nhớ từ, nhớ quang - Các đặc tính vật lý: khả biến, khơng khả biến, xố được, khơng xố - Hiệu năng: thời gian truy nhập, chu kỳ truy xuất nhớ, tốc độ truyền Phân loại nhớ 2.1 Bộ nhớ trong: nhớ thường tổ chức từ nhiều vi mạch nhớ ghép lại để có độ rộng bus địa liệu cần thiết a Bộ nhớ đọc (ROM: Read Only Memory) -Ðây loại nhớ không khả biến dùng hãng sãn xuất chủ yếu Nó có đặc tính thơng tin lưu trữ ROM khơng thể xố không sửa được, thông tin lưu trữ mãi Nhưng ROM có bất lợi cài đặt thơng tin vào ROM khơng cịn tính đa dụng Ví dụ điển hình "chip" motherboard BIOS ROM để vận hành máy tính vừa khởi động Các kiểu ROM: - PROM (Programmable ROM) - EPROM (Erasable Programmable ROM) - EEPROM (Electrically Erasable Programmable ROM) - Flash Memory b Bộ nhớ đọc ghi (RAM: Random Access Memory) - RAM hệ ROM, RAM ROM nhớ truy xuất ngẫu nhiên, tức liệu truy xuất không cần theo thứ tự Tuy nhiên ROM chạy chậm RAM nhiều Thông thường ROM cần 50ns để xử lý liệu RAM cần 10ns Có loại chính: RAM tĩnh (SRAM: Static RAM) RAM động (DRAM: Dynamic RAM): - SRAM (RAM tĩnh) loại RAM lưu trữ liệu không cần cập nhật thường xuyên DSRAM (RAM động) loại RAM cần cập nhật liệu thường xuyên Thông thường liệu DRAM làm tươi (refresh) nhiều lần giây để giữ lại thông tin lưu trữ, khơng liệu DRAM bị tượng rị rỉđiện tích tụ điện Các khác biệt SRAM so với DRAM: - Tốc độ SRAM lớn DRAM tốn thời gian refresh - Chế tạo SRAM tốn DRAM nên thông thường sử dụng DRAM để hạ giá thành sản phẩm Các kiểu RAM: - FPM - DRAM (Fast Page Mode DRAM) - EDO - DRAM (Extended Data Out DRAM) - BDEO-DRAM (Burst Extended Data Out DRAM) - SDRAM (Synchronous DRAM) - DDR SDRAM (Double Data Rate SDRAM) - DRDRAM (Direct Rambus DRAM) - SLDRAM (Synchronous - Link DRAM) - VRAM (Video RAM) - SGRAM (Synchronous Graphic RAM) Bộ nhớ cache (cache memory) a Cache: chế lưu trữ tốc độ cao đặc biệt Nó vùng lưu trữ nhớ hay thiết bị lưu trữ tốc độ cao độc lập Có hai dạng lưu trữ cache dùng phổ biến máy tính cá nhân memory cache (bộ nhớ cache hay nhớ truy xuất nhanh) disk cache (bộ nhớ đệm đĩa) 5 b Memory cache: Đây khu vực nhớ tạo nhớ tĩnh (SRAM) có tốc độ cao đắt tiền thay nhớ động (DRAM) có tốc độ thấp rẻ hơn, dùng cho nhớ Cơ chế lưu trữ nhớ cache có hiệu Bởi lẽ, hầu hết chương trình thực tế truy xuất lặp lặp lại liệu hay lệnh y chang Nhờ lưu trữ thông tin SRAM, máy tính khỏi phải truy xuất vào DRAM vốn chậm chạp c Disk cache: Bộ nhớ đệm đĩa hoạt động nguyên tắc với nhớ cache, thay dùng SRAM tốc độ cao, lại sử dụng nhớ Các liệu truy xuất gần từ đĩa cứng lưu trữ buffer (phần đệm) nhớ Khi chương trình cần truy xuất liệu từ ổ đĩa, kiểm tra trước tiên nhớ đệm đĩa xem liệu cần có sẵn khơng Cơ chế nhớ đệm đĩa có cơng dụng cải thiện cách đáng ngạc nhiên sức mạnh tốc độ hệ thống Bởi lẽ, việc truy xuất byte liệu nhớ RAM nhanh hàng ngàn lần truy xuất từ ổ đĩa cứng Và hiệu cache tính hit rate (tốc độ tìm thấy liệu cache) 2.3 Bộ nhớ - Bộ nhớ vật liệu bán dẫn khơng thể lưu trữ khối lượng lớn dữliệu nên cần phải có thêm thiết bị nhớ bên ngồi đĩa từ, đĩa mềm, đĩa cứng, đĩa quang, băng giấy đục lỗ, băng cassette, trống từ a Đĩa từ đĩa tròn, mỏng làm chất dẻo, thủy tinh cứng hay kim loại cứng, có phủ lớp bột từ tính oxide sắt từ Đĩa từ sử dụng kỹ thuật ghi từ để lưu trữ liệu Khi ghi liệu đĩa, liệu tồn khơng cịn nguồn cung cấp có khả xóa đi, thay liệu b Đĩa mềm gồm đĩa từ nhựa dẻo bảo vệ bao giấy hay nhựa cứng Trên bao có khoét lỗ dài cho phép đầu đọc ổ đĩa tiếp xúc với mặt đĩa để đọc / ghi liệu Có loại đĩa mềm: đường kính 5.25 inch (hầu khơng cịn sử dụng) đường kính 3.5 inch (chỉ dùng dung lượng 1.44 MB) c Đĩa cứng (HDD: Hard Disk Driver) thành phần quan trọng lưu trữ hệ điều hành phần mềm tiện ích máy tính Một máy tính đĩa nhiều đĩa, dung lượng đĩa lớn từ 200MB đến 120GB.Tốc độ đọc ghi nhanh so nhớ khác Dữ liệu lưu trữ phân tán tất đĩa Có thể tạo lưu trữ thơng tin dư thừa nhằm mục đích cho việc phục hồi đĩa bị hỏng Độ tin cậy lưu trữ thông tin cao Được sử dụng nhớ cho hệ thống máy chủ d Đĩa quang (CD-ROM, DVD) gồm CD-ROM (Compact Disk ROM), CD-R (Recordable CD), CD-RW (Rewriteable CD) dung lượng phổ biến 650MB, Ổ đĩa CD, ổ CD ROM: đọc liệu từ đĩa CD, ổ CD RW: Có thể vừa ổ đọc đĩa CD ghi liệu lên đĩa CD-R, CD-RW Tốc độ đọc sở 150KB/s Tốc độ bội lần: 40x, 50x, 60x, DVD (Digital Video Disk): dùng đầu đọc, DVD (Digital Versatile Disk): dùng ổ đĩa máy tính dung lượng thông dụng 4.7GB e Bộ nhớ Flash thường kết nối qua cổng USB, dạng đĩa nhớ bán dẫn cực nhanh, dung lượng phát triển nhanh, gọn nhẹ tiện lợi, đặc điểm đĩa Flash f RAID cấu trúc đa đĩa vật lý để tạo nên đĩa logic có kích thước lớn, độ tin cậy khả vận hành cao II Cache Memory Principles (nguyên tắc nhớ cache) Nguyên tắc - Cache có tốc độ truy xuất nhanh nhiều nhớ - Cache đặt CPU nhớ nhằm tăng tốc độ trao đổi thơng tin CPU nhớ - Cache thường đặt chip vi xử lý - Bộ nhớ cache thiết kế với ý định mang lại nhớ có tốc độ xấp xỉ tốc độ nhớ nhanh có, đồng thời cung cấp kích thước nhớ lớn với phí tổn so với loại nhớ bán dẫn Bộ nhớ cache chứa phần nhớ Khi CPU cố gắng đọc từ nhớ, từ kiểm tra xem có cache hay khơng Nếu có, từ cung cấp cho CPU Trong trường hợp ngược lại, khối nhớ chính, bao gồm lượng cố định từ đọc vào cache sau từđó cung cấp cho CPU Do có tượng tham chiếu cục bộ, khối liệu lấy vào cache để đáp ứng tham chiếu đơn lẻ, có nhiều khả tham chiếu từ khác khối - Cache gắn trực tiếp thiết bị ngoại vi Các đĩa cứng đại gắn nhớ truy cập nhanh, khoảng 512 KB Máy tính khơng trực tiếp sử dụng nhớ mà chương trình điều khiển ổ cứng Đối với máy tính, chip có nhớ coi đĩa Khi máy tính yêu cầu liệu từ ổ cứng, chương trình quản lý đĩa kiểm tra nhớ trước di chuyển phận khí đĩa cứng (tốc độ chậm so với nhớ) Nếu tìm thấy liệu mà máy tính u cầu cache, cung cấp thơng tin khơng thực truy cập vào ổ đĩa, tiết kiệm nhiều thời gian Thao tác Cache - CPU yêu cầu lấy nội dung ngăn nhớ việc đưa địa xác định ô nhớ - CPU kiểm tra xem có nội dung cần tìm Cache - Nếu có: CPU nhận liệu từ nhớ Cache - Nếu khơng có: Bộ điều khiển Cache đọc Block nhớ chứa liệu CPU cần vào Cache - Tiếp chuyển liệu từ Cache đến CPU - Sơ đồ thao tác cache, nhớ CPU Tổ chức Cache - Giả sử nhớ gồm đến 2n từ nhớ đánh địa (với từ nhớ có địa rộng n bit) Bộ nhớ chia thành M khối, khối có K từ nhớ M=2n/K Bộ nhớ Cache có C khe khe có K từ nhớ (C giảm thời gian truy nhập nhớ Cache hoạt động dựa nguyên lý bản: Nguyên lý cục bộ/ lân cận không gian (spatial locality) Nguyên lý cục bộ/ lân cận thời gian (temporal locality) Cục (lân cận) không gian: Nếu vị trí nhớ truy cập, khả năng/ xác suất vị trí gần truy cập thời gian gần tới cao Áp dụng với mục liệu lệnh có thứ tự theo chương trình Hầu hết lệnh chương trình có thứ tự tuần tự, cache đọc khối lệnh nhớ, mà bao gồm phần tử xung quanh vị trí phần tử truy cập Cục (lân cận) thời gian: Nếu vị trí nhớ truy cập, khả truy cập thời gian gần tới cao Áp dụng với mục liệu lệnh vòng lặp Cache đọc khối liệu nhớ bao gồm tất thành phần vòng lặp Trao đổi liệu CPU đọc/ ghi mục liệu riêng biệt từ/ vào cache Cache đọc/ ghi khối liệu từ/ vào nhớ Hit kiện CPU truy cập tới mục liệu/ mục tin mà tìm cache Xác suất xảy Hit gọi hệ số hit H 0 Nhiều dòng nhớ chia sẻ dòng cache -> dòng nhớ nạp vào cache sử dụng thời gian thay dòng khác theo yêu cầu thơng tin phục vụ CPU 12 Chính sách thay (replacement policies): xác định cách thức lựa chọn dòng cache để thay có dịng từ nhớ cần chuyển vào chiến lược chính: Thay ngẫu nhiên (random replacement) Vào trước trước FIFO (First In First Out) Thay dịng sử dụng gần LRU (Least Recently Used) Thay ngẫu nhiên: Các dòng cache chọn ngẫu nhiên để thay Đơn giản Tỷ lệ miss cao phương pháp khơng xét tới dịng cache thực sử dụng Nếu dòng cache sử dụng mà bị thay kiện miss xảy cần phải đọc lại vào cache Thay kiểu vào trước trước FIFO: Dựa nguyên lý FIFO: Các dòng cache đọc vào cache trước chọn để thay trước Tỷ lệ miss thấp so với phương pháp ngẫu nhiên Tỷ lệ miss cao phương pháp chưa thực xem xét tới block thực sử dụng Cài đặt phức tạp cần thêm mạch để giám sát thứ tự nạp dòng nhớ vào cache Thay dịng sử dụng gần LRU Các dịng cache sử dụng thời gian gần chọn để thay Xét tới dòng sử dụng: Tỷ lệ miss thấp so với phương pháp ngẫu nhiên FIFO Cài đặt phức tạp cần thêm mạch để giám sát tần suất sử dụng dòng cache Hiệu cache: Thời gian truy cập trung bình hệ thống nhớ có cache: taccess = (Hit cost) + (miss rate) * (miss penalty) taccess = tcache + (1 - H) * (tmemory); H hệ số hit Nếu tcache = 5ns tmemory = 60ns H=80% 13 ta có: taccess = + (1 – 0.8) * (60) = 5+12 = 17ns Nếu tcache = 5ns tmemory = 60ns H=95% ta có: taccess = + (1 – 0.95) * (60) = 5+3 = 8ns Các yếu tố ảnh hưởng tới hiệu năng: Kích thước cache Phân chia cache: cache cho liệu, cache cho lệnh Tạo nhiều mức cache ========= HẾT ========= ... nhớ cache (cache memory) a Cache: chế lưu trữ tốc độ cao đặc biệt Nó vùng lưu trữ nhớ hay thiết bị lưu trữ tốc độ cao độc lập Có hai dạng lưu trữ cache dùng phổ biến máy tính cá nhân memory cache. .. thấp hiệu cache cao Kiến trúc Cache Cache nhớ kết nối tới bus hệ thống Cache nhớ “thấy” chu kỳ bus CPU thời điểm Ưu: Thiết kế đơn giản, Miss nhanh 10 Nhược: Hit chậm Cache nằm CPU nhớ Cache “thấy”... tiết nhớ đệm (cache memory) Ta nghiên cứu thành phần chức nhớ đệm: i Computer system memory overview (bộ nhớ hệ thống máy tính tổng quan) ii Cache memory principles (các nguyên tắc nhớ cache) Cuối