Một trong những khó khăn trong lịch sử lập trình ứng dụng GPGPU đó là mặc dù các tác vụ với mục đích thông dụng của chúng không có liên quan gì tới đồ họa, các ứng dụng vẫn phải được lập trình bằng cách sử dụng các API đồ họa. Ngoài ra, chương trình đã được cấu trúc trong điều kiện của
đường ống đồ họa, với các đơn vị lập trình được chỉ có thể truy cập được như
một bước trung gian trong đường ống, trong khi các lập trình viên chắc chắn muốn truy cập vào các đơn vị lập trình được trực tiếp.
Các môi trường lập trình sẽđược tác giả mô tả chi tiết trong chương 2, giải quyết khó khăn này bằng cách cung cấp một giao diện tự nhiên hơn, trực tiếp hơn, không có giao diện đồ họa cho phần cứng và đặc biệt là các đơn vị
lập trình được. Ngày nay, ứng dụng tính toán GPU được tổ chức theo cách sau:
22 1) Các lập trình viên trực tiếp xác định tên miền tính toán ưa thích như
một lưới cấu trúc của các luồng (thread).
2) Chương trình mục đích thông dụng SPMD tính giá trị của từng luồng.
3) Các giá trị cho mỗi luồng được tính bằng cách kết hợp các phép toán toán học và cả truy cập "thu thập" (đọc) và "scatter" (ghi) bộ nhớ toàn cục. Không giống như hai phương pháp trước đó, cùng một bộ đệm có thể được dùng cho cả đọc và ghi, cho phép thêm các thuật toán mềm dẻo hơn (ví dụ, các thuật toán sử dụng ít bộ nhớ).
4) Các vùng đệm chứa kết quả trong bộ nhớ toàn cục sau đó có thể được sử dụng như là một đầu vào của tính toán sau đó.
Mô hình lập trình này mạnh vì một số lý do sau:
- Đầu tiên, nó cho phép các phần cứng khai thác triệt để cơ chế song song dữ liệu của các ứng dụng bằng cách xác định rõ ràng cơ chế
song song trong chương trình.
- Tiếp theo, nó gây ấn tượng bằng việc tạo ra sự cân bằng vững chắc giữa tính phổ biến (một thủ tục hoàn toàn có thể lập trình tại mỗi phần tử) và sự hạn chế để đảm bảo hiệu năng tốt (mô hình SPMD, có các hạn chế về phân nhánh cho hiệu quả, có hạn chế về dữ liệu giao tiếp giữa các thành phần và giữa hạt nhân /chu kỳ, v.v..).
- Cuối cùng, khả năng truy cập trực tiếp đến các đơn vị lập trình được
đã loại bỏ nhiều thách thức phức tạp của các lập trình viên GPGPU trước đây trong việc đồng thời chọn giao diện đồ họa cho lập trình mục đích thông dụng.
Kết quả là các chương trình thường được thể hiện bằng ngôn ngữ lập trình quen thuộc (chẳng hạn như ngôn ngữ lập trình của NVIDIA giống như cú pháp của C thể hiện trong môi trường lập trình CUDA của họ) và đơn giản hơn
23 và dễ dàng hơn để xây dựng và gỡ lỗi (và đang ngày càng hoàn thiện như là các công cụ lập trình độc lập). Điều đó tạo nên một mô hình lập trình cho phép người dùng tận dụng đầy đủ các sức mạnh phần cứng của GPU nhưng cũng cho phép mô hình lập trình bậc cao ngày càng mạnh để có thể xây dựng các
ứng dụng phức tạp.