6. Cấu trúc của luận án
2.1.1. Cache và các nguyên tắc làm việc của cache
Cache như là bộ nhớ trung gian nằm giữa CPU và bộ nhớ chính.Bộ nhớ cache sử dụng công nghệ SRAM, dung lượng nhỏ, tốc độ truy nhập nhanh. Sự trao đổi dữ
liệu giữa CPU và cache theo các từ, trong khi sự trao đổi dữ liệu giữa cache và bộ
nhớ chính theo các khối như hình 2.1.
Hình 2.1: Trao đổi dữ liệu giữa CPU, cache và bộ nhớ chính [62, 72].
Cache ở cấp nhớ càng thấp (gần CPU hơn) càng có dung lượng nhỏ và tốc độ
truy nhập càng nhanh hơn. Khi thực hiện các chương trình, mà phần lớn thời gian
CPU tham chiếu đến các cache thì tốc độ xử lý sẽ nhanh hơn so với truy nhập tới bộ
nhớ chính. Để thực hiện được điều này, những khoản nội dung (lệnh, dữ liệu) thường xuyên được sử dụng của chương trình thực hiện lưu trong bộ nhớ chính sẽ được sao chép vào trong cache.
Bộ nhớ cache làm việc nhờ sự dự đoán của CPU, CPU sẽ tham chiếu đến vùng nhớ và tải nội dung của vùng nhớ đó vào cache trước khi CPU thực hiện tham chiếu đến bộ nhớ chính. CPU luôn tham chiếu đến cache trước, như vậy nếu sự dự đoán
chính xác, thì CPU sẽ chỉ thực hiện trao đổi nội dung nhớ đã được tải vào trước từ
bộ nhớ chính. Nếu cache không có dữ liệu mà CPU cần (do dựđoán sai) thì CPU phải tham chiếu đến bộ nhớ chính để đọc khoản dữ liệu và khoản dữ liệu đó cũng đồng thời được nạp từ bộ nhớ chính vào cache. Sự làm việc của cache nhờ dự đoán
dựa trên cơ sở của vị trí của vùng nhớ mà chương trình tham chiếu đến các khoản
CPU Cache Bộ nhớ
chính
Các từ Các khối
Bus bộ nhớ
nội dung (lệnh, dữ liệu). Có 3 nguyên tắc tham chiếu: vị trí tạm thời, vị trí không
gian, và vị trí tuần tự [72].