Thuật toán tích chập hiệu quả

Một phần của tài liệu Mạng neural tích chập (Trang 26)

Các ng d ng m ng tích ch p hi n đ i thứ ụ ạ ậ ệ ạ ường bao g m các m ng có ch a h n tri u đ n ồ ạ ứ ơ ệ ơ

v . Các cách kh i t o t i u khai thác các ngu n tính toán song song, nh sẽ th o lu n ị ở ạ ố ư ồ ư ả ậ ở

ph n 12.1, là c n thi t. Tuy nhiên, trong nhi u trầ ầ ế ề ường h p, ta cũng có th tăng t c vi c ợ ể ố ệ

tích ch p b ng cách l a ch n m t thu t toán tích ch p phù h p. Tích ch p tậ ằ ự ọ ộ ậ ậ ợ ậ ương đương v i vi c chuy n đ i c đ u vào và lõi sang ớ ệ ể ổ ả ầ mi n t n sề ầ ố (frequency domain) b ng cách s ằ ử

d ng phép bi n đ i Fourier, th c hi n phép nhân theo t ng đi m c a hai tín hi u, và sau ụ ế ổ ự ệ ừ ể ủ ệ

đó chuy n đ i ngể ổ ượ ạ ềc l i v mi n th i gian s d ng phép bi n đ i Fourier ngh ch đ o. Đ i ề ờ ử ụ ế ổ ị ả ố

v i m t s kích thớ ộ ố ước nh t đ nh, vi c này có th nhanh h n vi c kh i t o đ n thu n b ngấ ị ệ ể ơ ệ ở ạ ơ ầ ằ

phương pháp tích ch p r i r c. Khi m t lõi chi u có th đậ ờ ạ ộ ề ể ược mô t nh m t tích có ả ư ộ

hướng c a vector, m i vector trên m t chi u, lõi này đủ ỗ ộ ề ượ ọc g i là có th ểphân tách

(separable). Khi m t lõi có th phân tách, tích ch p đ n thu n sẽ không hi u qu . Nó cũng ộ ể ậ ơ ầ ệ ả

tương đương v i vi c k t h p l n tích ch p chi u đ i v i t ng vector này. Phớ ệ ế ợ ầ ậ ề ố ớ ừ ương pháp k t h p sẽ nhanh h n đáng k so v i m t tích ch p chi u v i tích có hế ợ ơ ể ớ ộ ậ ề ớ ướng c a chúng. ủ

Lõi cũng sẽ nh n ít tham s h n khi bi u di n b ng các vector. Nêu lõi bao g m ph n t ậ ố ơ ể ễ ằ ồ ầ ử ở

m i chi u thì phép tích ch p đa chi u đ n thu n sẽ yêu c u th i gian ch y và không gian ỗ ề ậ ề ơ ầ ầ ờ ạ

b nh tham s , trong khi phép tích ch p có phân tách yêu c u th i gian ch y và không ộ ớ ố ậ ầ ờ ạ

gian b nh tham s . T t nhiên là không ph i t t c các phép tích ch p đ u có th bi u ộ ớ ố ấ ả ấ ả ậ ề ể ể

di n đễ ược b ng cách này. Nghĩ ra nh ng cách nhanh h n đ th c hi n phép tích ch p ằ ữ ơ ể ự ệ ậ

ho c phép tích ch p x p x mà không gây nh hặ ậ ấ ỉ ả ưởng t i đ chính xác c a mô hình là m t ớ ộ ủ ộ

trong nh ng m ng nghiên c u sôi đ ng. Th m chí các kỹ thu t nâng cao đ hi u qu c a ữ ả ứ ộ ậ ậ ộ ệ ả ủ

ch lan truy n thu n đa t ng cũng có ích b i vì trong tinh ch nh thỉ ề ậ ầ ở ỉ ương m i, đa s các ạ ố

ngu n tài nguyên đồ ược dùng cho vi c tri n khai mô hình thay vì hu n luy n mô hình.ệ ể ấ ệ

Một phần của tài liệu Mạng neural tích chập (Trang 26)