2.3.4. Biên dịch CUDA thông qua NVCC
Bao gồm biên dịch mã thiết bị sang dạng nhị phân hoặc các đối tượng cubin và luồng công việc cơ bản trong việc tách mã thiết bị từ mã Host. Mã Host sinh ra là đầu ra có thể là mã C để được biên dịch bằng cách sử dụng một công cụ khác.
Ứng dụng tải đối tượng cubin vào thiết bị và khởi động mã thiết bị sử dụng trình điều khiểu API của CUDA hoặc liên kết tới mã Host sinh ra, trong đó bao gồm các đối tượng cubin được xem như mảng dữ liệu khởi tạo toàn cục và chứa một bản dịch các cú pháp thực thi cấu hình thành mã cần thiết khởi động trong thời gian chạy CUDA để nạp và khởi động mỗi lần biên dịch hạt nhân.
Là một trình điều khiển biên dịch bằng việc đơn giản hóa quá trình biên dịch mã CUDA. NVCC cung cấp các dòng lệnh đơn giản và quen thuộc thực hiện chúng bằng cách gọi tập hợp của các công cụ với công đoạn biên dịch khác nhau.
Frond end của trình biên dịch xử lý các tập tin nguồn CUDA theo cú pháp quy định C++. Tuy nhiên, chỉ có các tập con C của C++ được hỗ trợ. Điều này có nghĩa là những đặc tính đặc trưng của C++ như các lớp (classes), sự kế thừa hoặc việc khai báo các biến trong khối cơ bản là không được hỗ trợ. Như một hệ quả của việc sử dụng cú pháp C++, con trỏ void (ví dụ như trả lại malloc()) không thể được gán tới những con trỏ non-void mà không có ép kiểu .
2.3.5.Một số trường hợp cụ thể tính toán song song bằngCUDA
Cộng hai số nguyên: Code tuầntự
void CongHaiSoNguyen(int *a,int *b, int *c) {
*c=*a+*b; }
void main() {
int *a,*b,*c; CongHaiSoNguyen(a,b,c); }
Code CUDA
global void KernelCongHaiSoNguyen(int *a,int *b,int*c) { *c=*a+*b; } void main() { int *a,*b,*c; *a=1; *b=5;
int *deva,*devb,*devc; cudaMalloc((void**)&deva, sizeof(int) ); cudaMalloc((void**)&devb, sizeof(int) ); cudaMalloc((void**)&devc, sizeof(int) ); cudaMemcpy(deva, a, sizeof(int), cudaMemcpyHostToDevice); cudaMemcpy(devb, b, sizeof(int), cudaMemcpyHostToDevice);
KernelCongHaiSoNguyen<<<1,1>>>(deva, devb, devc); cudaMemcpy(c, devc, sizeof(int), cudaMemcpyDeviceToHost); }
Cộng hai mảng số nguyên:
Cộng hai mảng số nguyên a[n] và b[n]
global void KernelAdd(int *a, int *b, int*c) {
c[blockIdx.x]= a[blockIdx.x] + b[blockIdx.x]; }
Trên thiết bị, mỗi block sẽ thực hiện song song: Block 0 thực hiện: c[0]= a[0] +b[0]; Block 1 thực hiện: c[1]= a[1] +b[1]; Block 2 thực hiện: c[2]= a[2] +b[2]; Block 3 thực hiện: c[3]= a[3] +b[3]; Block 4 thực hiện: c[4]= a[4] +b[4]; Block 5 thực hiện: c[5]= a[5] +b[5]; Block 6 thực hiện: c[6]= a[6] +b[6];
Block n-1 thực hiện: c[n-1]= a[n-1] +b[n-1];
Cách giải quyết thứ hai ta dùng luồng để song song, cấu hình gọi hàm sẽ là <<<1,n>>> (một block với nhiều luồng):
Code song song của chúng ta sẽ là :
global void KernelAdd(int *a, int *b, int*c) {
c[threadIdx.x]= a[threadIdx.x] + b[threadIdx.x]; }
Như vậy chúng ta đã thấy việc song song dùng : Nhiều block với một luồng cho mỗi block. Một block với nhiều luồng.
Cách giải quyết thứ ba là kết hợp cả block và luồng : ta hãy xem cách đánh chỉ số của một mảng với một phần tử của mảng cho mỗi thread (8thread/block) như trong Hình.