Khi đó sẽ kết hợp p hàng tác vụ cơ sở tạo ra một tác vụ lớn. Với các tích tụ này sẽ không cần truyền thông để thực hiện rút gọn tổng trên hàng bởi vì bất kỳ hàng nào đợc đa ra đều đợc chứa toàn bộ trong một tác vụ. Không thực hiện song song trong việc tính những tổng này. Tuy nhiên vẫn yêu cầu broadcast theo chiều dọc để truyền thông các thành phần của x.
Hình 5. 7 Mô tả truyền thông giữa các tác vụ tích tụ theo hàng
Giải thuật song song tích tụ theo hàng đợc mô phỏng nh sau:
For j=1 to n
If j ∈ myrows then x j = b j /l jj
broadcast x j to other tasks else recv x j end for i ∈ myrows, i > j, bi = bi- lij x j end end Các vấn đề đặt ra khi kết hợp theo hàng
Mỗi tác vụ sẽ rỗi ngay sau khi thành phần lời giải tơng ứng với hàng cuối cùng trong tác vụ đó đợc tìm ra.
Nếu ta kết hợp liên tiếp các hàng vào một tác vụ thì có thể tác vụ sẽ rỗi một thời gian lâu trong khi toàn bộ tính toán hoàn thành
Tính toán sẽ nhiều lên khi số hiệu hàng tăng lên Các phơng pháp giải quyết
Cân bằng nạp và tính đồng thời có thể đợc cải thiện bằng cách ấn định các hàng vào các tác vụ theo chu trình với hàng i đợc ấn định vào tác vụ i mod p.
Có các cách ánh xạ khác nh chu trình-khối (block-cyclic) hay đối đầu ( reflection ).
Hình 5. 8 Mô tả truyền thông giữa các tác vụ ánh xạ chu trình
Hình 5. 9 Mô tả truyền thông giữa các tác vụ ánh xạ đối đầu
Tính toán thời gian thực hiện của giải thuật
- Nếu các bớc liên tiếp đợc pipeline thì thời gian thực hiện xấp xỉ là T p = tc (n2 + 2n(p-1))/(2p) + (ts + tw)(n-1)
- Nếu không pipeline đợc các bớc tính toán liên tiếp thì số hạng thể hiện chi phí truyền thông đợc nhân thêm với một hệ số :
+ p-1 đối với máy tính song song có mạng kết nối bộ xử lý hình 1-D Mesh
+ 2( p-1) đối với máy tính song song có mạng kết nối bộ xử lý hình 2-D Mesh
+ log(p) đối với máy tính song song có mạng kết nối bộ xử lý hình hypercube
Những hệ số này thể hiện chiều dài đờng truyền thông thực hiện broadcast.
Cải thiện hiệu năng
Hiệu năng có thể cải thiện thực sự bằng chiến lợc gửi tr“ ớc ( send“ ahead) trong đó tại mỗi bớc thứ j tác vụ quản lý hàng j+1 có thể tính toán x
1
+
j và broadcast x j+1 trớc khi hoàn thành cập nhật đối với x j .
Hiệu quả đạt đợc của pipeline bị tác động mạnh bởi cấu trúc mạng và ánh xạ các hàng tới các tác vụ. Ví dụ ánh xạ chu trình trên mạng Ring cho phép hoàn thành hầu hết khả năng pipeline trong khi kiến trúc Hypercube thì thấp hơn nhiều.