1 2x 5 = 33 chu kì bus
5.2. Tổ chức lại cấu trúc dữ liệu của cache
Cache có cấu trúc ánh xạ trực tiếp tỏ ra đơn giản trong việc lưu trữ, tuy nhiên cấu trúc này khiến cho các thuật toán tìm kiếm cũng như lưu dữ liệu kém linh hoạt do vị trí dữ liệu trong các ô nhớ không thể thay đổi.
Các phương pháp tổ chức dữ liệu của cache đều nhằm mục đích giảm thiểu số lần miss của cache thông qua việc tạo ra các cấu trúc dữ liệu linh hoạt, giúp tăng tốc độ tìm kiếm và tăng xác suất dữ liệu cần tìm có trong cache. Hơn nữa còn giảm số bit cần sử dụng cho trường index, với trường hợp fully associative, số bit cần cho index là 0.
Hình 8. Ba phương pháp tổ chức cấu trúc dữ liệu của cache.
5.2.1. Fully – associative
phải được search. Điều này có vẻ khiến cho thời gian tìm kiếm tăng lên, nhưng ngược lại, do xác suất dữ liệu đó nằm ở bất kì block nào là như nhau, nên có thể triển khai bộ tìm kiếm song song, tiết kiệm rất nhiều thời gian tìm kiếm dữ liệu.
5.2.2. Set - associative
Set – associative tổ chức cache theo một số vị trí địa chỉ xác định (ít nhất là 2) gọi là các tập hợp (set), một set bao gồm một tập hợp các block. Một cache có n sets hay n vị trí sẽ được gọi là bộ nhớ n đường. Để biết một dữ liệu thuộc set nào của cache, ta sử dụng công thức sau:
(Địa chỉ ô nhớ trong bộ nhớ chính) chia lấy dư (số set của cache) = Chỉ số set
Các dạng tổ chức bộ nhớ như direct-mapping hay fully-associative đều là trường hợp đặc biệt của set-associative.
5.2.2.1. Quá trình tìm kiếm dữ liệu song song
Hình 10. Quá trình tìm kiếm dữ liệu song song trong bộ nhớ cache set associative
Hình 10 mô tả quá trình tìm kiếm dữ liệu song song trong một bộ nhớ cache 4 đường. Các đường đều được tìm kiếm song song và trường tag được đưa ra các bộ so sánh để so sánh với các bit cao của địa chỉ bộ nhớ chính. Đầu ra của bộ so sánh được đưa vào cổng logic OR để đưa ra tín hiệu hit và bộ dồn kênh 4-1để lựa chọn lấy dữ liệu từ đường nào trong 4 đường.