Trong hơn một thập kỷ, các nhà tiên tri đã lên tiếng tranh cãi rằng tô chức của một máy tính duy nhất đã đạt đến giới hạn của nó và những tiễn bộ thực sự đáng kê chỉ có thê được thực hiện bằng cách kết nối nhiều máy tính theo cách cho phép giải pháp hợp tác. Việc chứng minh được thực hiện bằng cách tiếp tục có hiệu lực của cách tiếp cận bộ xử lý đơn. [tr. 483] Amdahl [1967] Giác mơ xây dựng máy tính bằng cách đơn gián là tổng hợp các bộ xử lý đã có từ những ngày đầu tiên của điện toán. Tiến độ xây dựng và sử dụng bộ xử lý song song hiệu quả và hiệu suất, tuy nhiên, đã chậm. Tốc độ tiến bộ này đã bị hạn chế bởi các vấn đề phần mềm khó khăn cũng như bởi một quá trình lâu dài của kiến trúc phát triển của bộ đa xử lý để tăng cường kha năng sử dụng và cải thiện hiệu suất, Chúng tôi đã thảo luận về nhiều thách thức phần mềm trong chương này, trong việc năm bắt những khó khăn của các chương trình viết có được tốc độ tốt do luật của Am- dahl, đối phó với thời gian chờ truy cập hoặc giao tiếp từ xa và giảm thiểu tác động của đồng bộ hóa. Sự đa dạng của các cách tiếp cận Architec- tural khác nhau và thành công hạn chế và tuôi thọ ngắn của nhiều Architec- tures cho đến nay đã kết hợp các khó khăn phần mềm.
Chúng ta thảo luận về lịch sử phát triển của các bộ đa xử lý này trong phân 6. l6.
Mặc dù có một quá khứ lâu dài, nhưng tiến bộ trong mười hai năm qua dẫn đến một số lý do dé lac quan về tương lai của bộ xử ly song song và bộ xử ly đa nhân. Sự lạc quan này dựa trên một sô quan sát về sự tiên bộ nay va các hướng công nghệ dài hạn:
1. Việc sử dụng xử lý song song trong một số lĩnh vực đang bắt đầu được hiểu. Có lẽ đầu tiên trong số này là lĩnh vực khoa học và kỹ thuật compu- tation. Tên miền ứng dụng này có một cơn khát gần như vô giới hạn đối với nhiều hơn compu- tation. Nó cũng có nhiều ứng dụng có tính song song tự nhiên. Tuy nhiên, điều đó đã không dễ dàng: việc lập trình các bộ xử lý song song ngay cả đối với các ứng dụng nảy vẫn còn rất nhiều thách thức. Một lĩnh vực ứng dụng quan trọng khác, và lớn hơn nhiều (về quy mô thị trường) là cơ sở dữ liệu quy mô lớn và hệ thống xử lý giao dịch. Lĩnh vực ứng dụng này cũng có tính song song tự nhiên rộng rãi có săn thông qua việc xử lý song song các tìm kiếm lại độc lập, nhưng nhu cầu của nó đối với tính toán quy mô lớn, trái ngược với truy cập thuần túy vào các hệ thống lưu trữ quy mô lớn, ít được hiểu rõ. Ngoài ra còn có một số cách tiếp cận kiến trúc khác có thê khả thi - một điểm mà chúng ta sẽ thảo luận trong thời gian tới.
2. Bây giờ nó được tô chức rộng rãi rằng cách hiệu quả nhất để xây dựng một máy tính có hiệu suất cao hơn so với đạt được với một bộ vi xử ly chip don la bang cách xây dựng một bộ đa xử lý hoặc một cụm tại tận dụng lợi thế giá/hiệu suất đáng kể của các bộ vi xử ly duoc san xuat hang loat.
3. Bộ đa xử lý có hiệu quả cao đối với khối lượng công việc đa chương trình, thường là việc sử dụng chính và máy chủ lớn, cũng như đối với máy chủ tệp hoặc máy chủ web, có hiệu quả là một loại tải công việc song song bị hạn chế. Trong tương lai, khối lượng công việc như vậy có thê tạo thành một phần lớn thị trường cho các bộ đa xử ly hiệu suất cao hơn.
Khi một khối lượng công việc muốn chia sẻ tài nguyên, chăng hạn như lưu trữ tệp hoặc có
thê chia sẻ hiệu quả tài nguyên, chăng hạn như bộ nhớ lớn, bộ đa xử lý có thể là một máy
chủ rất hiệu quả. Ngoài ra hơn, phần mềm OS cần thiết đề thực thi hiệu quả các tải công việc đa chương trình là phô biến.
0. Gần đây hơn, các bộ đa xử lý đã chứng minh rất hiệu quả đối với một số khối lượng công việc thương mại nhất định, chang han nhu OLTP (gia sử hệ thông hỗ trợ đủ I/O đề được giới hạn CPU), các ứng dụng DSS (nơi tối ưu hóa truy vấn là rất quan trọng) và các ứng dụng tìm kiếm web quy mô lớn. Đối với các ứng dụng thương mại với các yêu cầu truyền thông không yêu cầu, ít nhu cầu về bộ nhớ rất lớn (thường được sử dụng để cơ sở dữ liệu bộ nhớ cache) hoặc nhu cầu hạn chế về tính toán, các cụm có khá năng hiệu quả chỉ phí hơn so với các đa phân. Không gian thương mại hiện là sự pha trộn của các cụm PC co ban, SMP va SMP nhom với các phong cách kiến trúc khác nhau dường như giữ một số vị trí dẫn đầu trong các không gian ứng dụng khác nhau.
0. Đa xử lý trên chip đường như ngày càng quan trọng vì hai lý do. Đầu tiên, trong thị trường nhúng nơi mà tính song song tự nhiên thường tồn tại, các bộ xử ly như vậy là một sự thay thế rõ
ràng cho các bộ xử lý nhanh hơn, và có thê ít silicon hơn. Thứ hai, lợi nhuận giảm dẫn trong thiết
kế vi xử lý cao cấp sẽ khuyến khích các nhà thiết kế theo đuôi đa xử lý trên chip như một hướng
131
hiệu quả hơn về mặt chỉ phí. Chúng ta khám phá những thách thức đối với hướng đi này ở cuối phân này.
Mặc dù có lý do để lạc quan \ về tầm quan trọng ngày càng tăng của mul- tiprocessor, nhiều lĩnh vực của kiến trúc song song vẫn chưa rõ ràng. Hai câu hỏi đặc biệt quan trọng là, Làm thế nào các bộ đa xử lý quy mô lớn nhất (các bộ xử lý song song không lồ, hoặc MPP) sẽ được xây dựng? và vai trò của đa xử lý thay thé lâu dài cho các bộ đơn xử lý hiệu suất cao hơn là gì?
Tương lai của Kiến trúc MPP
Hennessy va Patterson nên chuyển MPP sang Chương 11.
Jim Gray, khi được hỏi về độ bao phủ của MPP trong ấn bản thứ hai của cuốn sách này, ám chỉ Chương I1 bảo VỆ phá sản trong luật pháp Hoa KY (1995)
Các bộ đa xử lý quy mô nhỏ được xây dựng bằng cách sử dụng các chương trình snooping- bus cực kỳ hiệu quả về chỉ phí. Các bộ vi xử lý theo truyền thông thậm chí đã bao gồm phần lớn log- ic cho sự gắn kết bộ nhớ cache trong chip bộ xử lý và một số cho phép bus của hai hoặc nhiều bộ xử lý được kết nối trực tiếp - thực hiện một bus gắn kết mà không có logic bỗ sung. Với các cấp độ tích hợp hiện đại, nhiều bộ xử ly co thể được đặt trên một bảng, trên một mô-đun đa chip (MCM)), hoặc thậm chí trong một khuôn đơn (như chúng ta thấy trong Phần 6. 13) dẫn đến một đa nhân hiệu quả cao về chi phi. Các bộ vi xử lý gần đây đã được phát triển bao gồm hỗ trợ cho các phương pháp tiếp cận DSM, làm cho nó có thê kết nối một số lượng nhỏ đến vừa phải các bộ xử lý với chỉ phí đầu tư thấp. Thật sớm đề dự đoán rằng các kiến trúc như vậy sẽ chiếm ưu thé trong phạm vi trung bình của số lượng bộ xử lý (16-64), nhưng có vẻ như hiện tại rằng điều này là hấp dan nhat.
Diéu hoan toan không rõ ràng hiện tại là làm thế nào các bộ đa xử lý lớn nhất sẽ được xây dựng. Những khó khăn mà các nhà thiết kế phải đối mặt bao gồm thị trường tương đối nhỏ cho các bộ đa xử lý rất lớn (> 64 nút và thường > 5 triệu đô la) và nhu cầu cho các bộ đa xử lý có quy mô đến số lượng bộ xử lý lớn hơn để có hiệu quả chỉ phí vượt trội tại số lượng bộ xử lý thấp hơn
nơi hầu hết các bộ đa xử lý sẽ được bán. Hiện tại, có bốn lựa chọn thay thế hơi khác nhau cho các bộ đa xử lý quy mô lớn:
1. Bộ đa xử ly quy mô lớn mà chỉ đơn giản là tăng quy mô một cách tự nhiên, sử dụng công nghệ liên lạc và bộ điều khiển kết nối độc quyền. Cách tiếp cận này đã được tuân thủ trong các bộ đa xử lý như Cray T3E và SGI Origin. Có hai khó khăn chính với những thiết kế như vậy. Đầu tiên, các bộ đa xử lý không hiệu quả về chi phí ở quy mô nhỏ, nơi chỉ phí
của khả năng mở rộng không được đánh giá cao. Thứ hai, các bộ đa xử lý này có các mô hinh lập trình không tương thích, ở các mức độ khác nhau, với chủ đạo là các bộ đa xử lý nhỏ hơn và tầm trung.
2.
Mỗi
Các bộ đa xử lý quy mô lớn được xây dựng từ các cụm bộ đa xử lý tầm trung với sự kết hợp của các công nghệ độc quyền và tiêu chuân để kết nỗi các bộ đa xử lý như vậy. Thiết ké Wildfire chi la mot hé thong nhu vay. Cach tiếp cận cụm này có được hiệu quả chi phi của nó thông qua việc sử dụng các khôi xây dựng tôi ưu hóa chỉ phí. Trong một số cách tiếp cận, mô hình kiến trúc cơ bán (ví dụ: bộ nhớ chia sẻ đồng thời) được mở rộng. Nhiều công ty cung cấp phiên bản cao cấp của một máy như vậy bao gồm HP, Sun và SGI. Do tinh chat hai cấp độ của thiết kế, mô hình lập trình đôi khi phải được thay đổi từ bộ nhớ
chia sẻ sang truyền tin nhắn hoặc đến một biến thể khác trên bộ nhớ chia sẻ, giữa các cụm.
Cỏc tớnh năng di chuyển và sao chộp trong Wildủre cung cấp một cỏch đề giảm thiểu bất lợi này. Loại máy này đã tạo ra những con đường trong nhà quan trọng, đặc biệt là trong các ứng dụng thương mại.
. Thiết kế các máy tính đa máy tính nhóm sử dụng các nút đơn xử lý ngoài và kết nối tùy chỉnh. Ưu điểm của thiết kế như vậy là tính chi phí-phục vụ của nút bộ xử lý đơn tiêu chuẩn, thường là một trạm làm việc đóng gói lại; nhược điểm là mô hình lập trình có thể sẽ cần phải được thông báo ngay cả ở số lượng nút rất nhỏ. Trong một số ứng dụng envi- ronments nơi ít hoặc không có chia sẻ xảy ra, điều này có thể được chấp nhận. Ngoài ra,
chi phi của kết nói liên kết, bởi vì nó là tùy chỉnh, có thê đáng kê, làm cho bộ đa xử lý tốn kém, đặc biệt là ở số lượng nút nhỏ. IBM SP-2 la ví dụ tốt nhất về cách tiếp cận này ngày nay.
._ Thiết kế một cụm sử dụng tất cả các thành phần không có sẵn, hứa hẹn chỉ phí thấp nhất.
Đòn bẩy trong cách tiếp cận này nằm ở việc sử dụng công nghệ hàng hóa ở mọi nơi: trong các bộ xử lý (PC hoặc nút máy trạm), trong kết nối liên thông (công nghệ mạng cục bộ tốc độ cao, chăng hạn như ATM hoặc Gigabit Ethemet) và trong phần mềm (hệ điều hành tiêu chuẩn và ngôn. ngữ lập trình). Tất nhiên, các bộ đa xử lý như vậy sẽ sử dụng chuyên thông điệp và giao. tiếp có khả năng có độ trễ cao hơn và băng thông thấp hơn so voi cac thiét ké thay thế. Giống như các thiết kế trước đây, đối với các ứng dụng không cần băng thông cao hoặc truyền thông độ trễ thấp, cách tiếp cận này có thể cực kỳ hiệu quả về chỉ phí. Các máy chủ web, ví dụ, có thê phù hợp với các máy tính đa năng này, như chúng ta đã thấy cho cụm Google trong Chương 8.
1 cách tiếp cận này có những ưu điệm và nhược điểm, và tác động của những thiêu sót của bất kỳ một cách tiếp cận nào đều phụ thuộc vào lớp ứng dụng. Trong năm 2000, không rõ liệu bat kỳ mô hình nào trong số này sẽ giành chiến thắng cho các bộ đa xử lý quy mô lớn hơn, mặc dù sự tăng trưởng của thị trường máy chủ web đã làm cho "giá đỡ của PC" trở thành hình thức chiếm ưu thế ít nhất là theo số lượng bộ xử lý. Có khá năng sự phân đôi hiện tai theo thị trường và quy mô sẽ tiếp tục trong một thời gian, mặc dù trong một sô lĩnh vực có thê xuât hiện sự lai tạo của những ý tưởng này, do sự tương đồng trong cách tiếp cận.
Tương lai của kiến trúc vi xử lý
133
Như chúng ta đã thấy trong Chương 3 và 4, các kiến trúc sư đang sử dụng các kỹ thuật phức tạp hơn bao giờ hết để cô gắng khai thác tính song song cấp độ hướng dẫn nhiều hơn. Như chúng ta cũng đã thấy trong chương đó, triển vọng đề tìm kiếm số lượng ngày cảng tăng của tính song Song ở cap độ giảng dạy theo cách có hiệu quả đề khai thác là hơi hạn chế. Giống như khôn ngoan, có các vấn đề ngày cảng khó khăn để được khắc phục trong việc xây dựng các phân cấp memo- ry cho các bộ xử lý hiệu suất cao. Tất nhiên, tiếp tục cải tiến công nghệ sẽ cho phép chúng ta tiếp tục nâng cao tốc độ đồng hồ. Nhưng việc sử dụng các cải tiến công nghệ cho phép tốc độ công nhanh hơn không đủ đề duy trì sự tăng trưởng đáng kinh ngạc về hiệu suất mà ngành công nghiệp đã trai qua trong hon 15 nam. Duy tri tốc độ tăng trưởng hiệu suất nhanh chóng sẽ phụ thuộc vào việc khai thác sự tăng trưởng ấn tượng trong khu vực silicon hiệu quả, sẽ tiếp tục phát triển nhanh hơn nhiều so với tốc độ cơ bản của quá trình công nghệ.
Thật không may, trong gần mười năm, sự gia tăng hiệu suất đã đến với chỉ phí của sự thiếu khoa học ngày càng tăng trong việc sử dụng silicon khu vực, connec- tions bén ngoai, va nang lượng. Hiện tượng giảm dần này chỉ mới xuất hiện gần đây (tính đến năm 200 1) đã làm chậm tốc độ tăng trưởng hiệu suất. Việc giảm tốc độ này có tạm thời hay không vẫn chưa rõ ràng. Điều rõ ràng là chúng ta không thê duy trì tốc độ cải tiễn hiệu suất nhanh chóng mà không có những sáng tạo mới quan trọng trong kiến trúc máy tính.
Không giống như các nhà tiên tri được trích dẫn ở đầu chương, các tác giả của bạn không tin rằng chúng ta sắp "chạm vào một bức tường gạch” trong nỗ lực của chúng ta dé cai thiện hiệu suất bộ xử lý. Thay vào đó, chúng ta có thể thấy sự chậm lại dần dần trong tăng trưởng hiệu suất, đặc biệt là đối với hiệu suất số nguyên, với sự tăng trưởng cuối cùng bị giới hạn chủ yếu bởi sự cải thiện tốc độ của công nghệ. Khi những hạn chế này sẽ trở nên nghiêm trọng là khó nói, nhưng có
thê sớm nhất là vào năm 2005 và có khả năng là vào năm 2010. Ngay cả khi một sự chậm lại như
vậy đã xảy ra, hiệu suất cũng có thê được mong đợi đề phát triển với tốc độ hàng năm là 1,35 mà chúng ta đã thấy trước năm 1985 ít nhất là cho đến khi những hạn chế buồn cười trong silic trở nên nghiêm trọng trong khung thời gian thir 2015.
Hơn nữa, chúng tôi không muốn loại trừ khả năng đột phá trong thiết kế bộ đơn xử lý. Vào đầu những năm 1980, nhiều người đã dự đoán sự kết thúc của sự tăng trưởng về hiệu suất đơn xử ly, chi dé thấy sự xuất hiện của công nghệ RISC và sự tăng trưởng chưa từng có trong 15 năm về hiệu suất trung bình 1,5 lần mỗi năm!
Với suy nghĩ này, chúng tôi thận trọng hỏi liệu hướng dài hạn sẽ là sử dụng silicon tăng cường để xây dựng nhiều bộ xử lý trên một con chip. Một sự thay đôi như vậy hấp dẫn từ quan điểm kiến trúc - nó cung cấp một cách để mở rộng quy mô cho mỗi hình thức mà không làm tăng độ phức tạp phần cứng. Nó cũng cung cấp một cách tiếp cận để giảm bớt một số thách thức trong thiết kế hệ thống bộ nhớ, vì một bộ nhớ phân tán có thê được sử dụng để mở rộng băng thông trong khi duy trì độ trễ thấp cho truy cập cục bộ. Thách thức nằm ở phần mềm và trong việc đôi mới kiến trúc có thê được sử dụng đề làm cho phần mềm dễ dàng hơn.