Phân cấp bộ nhớ được thể hiện trên hình 3.7.
Quan sát hệ thống nhớ từ CPU ra ngoài ta có các thành phần nhớ sau:
1. Các thanh ghi đa năng chứa một toán hạng hay kết quả trung gian, được điều khiển bằng phần cứng
2. Bộ nhớ đệm Cache chứa mảng lệnh và số liệu được sử dụng trong thời gian gần nhất, được điều khiển bằng phần cứng và chương trình. Bộ nhớ cache đặt giữa CPU và bộ nhớ chính. Bộ nhớ cache chứa một phần bản sao của bộ nhớ chính. Khi CPU thâm nhập vào dữ liệu nó đưa địa chỉ tới bộ điều khiển Cache, sau đó một trong hai quá trình sẽ xảy ra.
- Trúng (cache hit): nếu địa chỉ tìm thấy trong Cache - Trượt (cache miss): nếu địa chỉ không có trong Cache
Khi trượt một khối nhớ từ bộ nhớ chính sẽ được đưa vào thay thế cho một đường (khối) của Cache. Đường nào sẽ được chọn để thay dựa trên hai nguyên lý sau:
- Cục bộ theo thời gian: nếu CPU thâm nhập vào một ô nhớ thì có xác suất cao nó sẽ thâm nhập ô nhớ đó trong tương lai.
- Cục bộ theo không gian: nếu CPU thâm nhập vào một ô nhớ thì có xác suất cao nó sẽ thâm nhập các lệnh và dữ liệu đặt sát các vị trí đó trong tương lai.
Trường hợp ghi vào Cache dữ liệu sẽ được ghi vào bộ nhớ chính, ta phân biệt hai trường hợp sau:
- Khi ghi vào Cache thì đồng thời ghi vào bộ nhớ chính, phương pháp này gọi là ghi xuyên (Write through)
- Khi ghi chỉ ghi vào bộ nhớ Cache, dữ liệu từ Cache sẽ được chuyển vào bộ nhớ chính tại một thời điểm thích hợp sau đó (ví dụ khi chuyển dữ liệu từ bộ nhớ chính ra thiết bị ngoại vi).
Việc ánh xạ giữa bộ nhớ Cache và bộ nhớ chính có thể tổ chức theo phương pháp khác nhau:
- Cache ánh xạ trực tiếp (Direct mapping cache)
- Cache ánh xạ liên kết cụm (Set associative mapping cache)
Nội dung về bộ nhớ Cache sẽ được nghiên cứu kỹ hơn trong cấu trúc máy II 3. Bộ nhớ trong (bộ nhớ chính) chứa chương trình và số liệu đang thực hiện 4. Bộ nhớ ngoài lưu trữ chương trình và số liệu với khối lượng lớn. Nó cũng chứa phần nhớ ảo, khi máy tính chạy trong chế độ địa chỉ ảo.
Nếu đánh số phân cấp theo giá trị tăng dần từ trong CPU ra ngoài, ta có nhận xét sau:
- Thời gian thâm nhập của bộ nhớ có mức phân cấp càng thấp thì càng nhỏ tAi < tAi+1
- Giá thành tính theo bit của bộ nhớ có mức phân cấp càng thấp thì càng cao ci > ci+1
- Dung lương của bộ nhớ có mức phân cấp càng thấp thì càng nhỏ Si < Si+1