Những thuật toán, trong đó có một số thao tác có thể thực hiện đồng thời được gọi là thuật toán song song.
Tổng quát, thuật toán song song là một tập các tiến trình (process) hoặc các tác vụ (task) có thể thực hiện đồng thời và có thể trao đổi dữ liệu với nhau để kết hợp cùng giải một bài toán đặt ra.
31
Các nguyên lý cơ bản trong thiết kế thuật toán song song
a. Nguyên lý lập lịch:
Giảm tối thiểu các bộ xử lý sử dụng trong thuật toán sao cho thời gian tính toán là không tăng (xét theo khía cạnh độ phức tạp). Nghĩa là, nếu độ phức tạp tính toán của thuật toán là O(f(n)) thì thời gian thực hiện của chương trình có thể tăng khi số bộ xử lý giảm, và thời gian tính toán tổng thể tăng lên một hằng số nào đó nhưng vẫn là O(f(n)).
b. Nguyên lý hình ống:
Nguyên lý này được áp dụng khi bài toán xuất hiện một dãy các thao tác {T1,T2,...,Tn}, trong đó Ti+1 thực hiện sau khi Ti kết thúc.
c. Nguyên lý chia để trị:
Chia bài toán thành những phần nhỏ hơn tương đối độc lập với nhau và giải quyết chúng một cách song song.
d. Nguyên lý đồ thị phụ thuộc dữ liệu:
Phân tích mối quan hệ dữ liệu trong tính toán để xây dựng đồ thị phụ thuộc dữ liệu và dựa vào đó để xây dựng thuật toán song song.
e. Nguyên lý điều kiện tƣơng tranh:
Nếu hai tiến trình cùng muốn truy cập vào cùng một mục dữ liệu chia sẻ thì chúng phải tương tranh với nhau, nghĩa là chúng có thể cản trở lẫn nhau.
Ngoài ra khi thiết kế TTSS cần phải quan tâm
- Cấu hình tôpô liên kết mạng: cũng một thuật toán song song cài đặt trên hai máy tính có cấu hình tôpô liên kết mạng khác nhau thì có thể có độ phức tạp khác nhau.
Ví dụ: DAP là máy tính kiểu SIMD với 64*64 bộ xử lý, thời gian nhân ma trận là
tuyến tính theo kích cỡ của ma trận và phụ thuộc vào đường truyền dữ liệu giữa các hang với cột.
- Nhiều thuật toán song song được thiết kế dựa trên những kiến thức về kiến trúc máy tính, ngôn ngữ lập trình song song và các phương pháp tính toán.
32