Mô hình truyền thông ựiệp là mô hình chương trình song song ựược sử dụng rộng rãi trên cả hệ thống máy tắnh có bộ nhớ chia sẻ và bộ nhớ phân tán. MPI [37, 39]
là thư viện chuẩn chứa ựựng những hàm (hay thủ tục) ựể thực hiện việc giao tiếp giữa các máy tắnh thông qua cơ chế truyền và nhận các gói tin.
MPI có hai hình thức truyền tin là trao ựổi thông tin ựiểm Ờ ựiểm (pointỜtoỜ point communication) và trao ựổi thông tin tập hợp (collective communication). Mỗi hình thức truyền tin có các thủ tục trao ựổi thông tin của riêng nó.
Trao ựổi thông tin ựiểm Ờ ựiểm: đây là hình thức truyền tin cơ bản và ựơn giản nhất của MPI. Một xử lý nguồn gởi trực tiếp gói tin ựến từng xử lý ựắch. Chỉ những cặp xử lý cho và nhận gói tin là ựược phép thao tác trên gói tin. Hình 2.10(a) là một sơ ựồ vắ dụ của trao ựổi thông tin ựiểmỜựiểm. Theo [44] thời gian của loại truyền tin này thì tăng theoNproc −1, với Nproc là số xử lý.
Hình 2.10. Sơ ựồ truyền dữ liệu từ xử lý có rank =0 ựến 8 xử lý trong nhóm. (a) trao ựổi thông tin ựiểm Ờ ựiểm và (b) trao ựổi thông tin tập hợp [44].
Trao ựổi thông tin tập hợp: đây là hình thức truyền tin giữa các xử lý trong cùng một môi trường giao tiếp. Tất cả các xử lý ựồng thời tham gia phân tán hoặc thu thập dữ liệu. Hình 2.10(b) là một sơ ựồ cây vắ dụ cho trao ựổi thông tin tập hợp. Theo
[44] thời gian của loại truyền tin này tỉ lệ với log2 Nproclà ngắn hơn so với trao ựổi thông tin ựiểmỜựiểm. Do ựó, trong mô hình này, một số các thủ tục của MPI mà chúng tôi sử dụng là loại trao ựổi thông tin tập hợp. Chức năng của các thủ tục ựược tóm lược như sau [37, 39]:
Ớ MPI_BCAST: truyền dữ liệu từ một xử lý nguồn (root) ựến tất cả các xử lý.
Ớ MPI_SCATTER: phân tán số lượng dữ liệu bằng nhau từ root ựến các xử lý.
Ớ MPI_SCATTERV: sự mở rộng của MPI_SCATTER là các số lượng khác nhau
của các phần tử ựược gửi ựến các xử lý.
Ớ MPI_GATHER: ngược với MPI_SCATTER, lấy tất cả các dữ liệu có số phần tử
bằng nhau của các xử lý.
Ớ MPI_GATHERV: sự mở rộng của MPI_GATHER và ngược với MPI_SCATTERV
là các số lượng khác nhau của các phần tử nhận từ các xử lý.
Ớ MPI_REDUCE: kết hợp các dữ liệu từ các xử lý và gửi kết quả về một xử lý.
Ớ MPI_ALLREDUCE: kết hợp các dữ liệu từ tất cả các xử lý và gửi kết quả tới tất