Phân tích ảnh hưởng của trễ truyền thông đến hiệu năng của hệ thống tính toán song song

BỘGIÁODỤC VÀĐÀOTẠO TRƯỜNGĐẠIHỌCBÁCHKHOAHÀNỘI NGUYỄNMINHQUÝ PHÂN TÍCH ẢNH HƯỞNG CỦA TRỄ TRUYỀN THƠNGĐẾNHIỆUNĂNGCỦAHỆTHỐNGTÍNHTỐN SONGSONG CHUN NGÀNH: KỸ THUẬT PHẦN MỀMMÃSỐ:62480103 TĨMTẮTLUẬNÁNTIẾNSĨKỸTHUẬTPHẦNMỀM HàNội–2015 Cơng trình hồn thành tại:Trường ĐạihọcBáchkhoaHàNội Ngườihướngdẫnkhoa học: - PGS.TSHuỳnhQuyếtThắng - TSHồ KhánhLâm Phản biện 1: GS.TS Vũ Đức ThiPhản biện 2: PGS.TS Hà Hải NamPhảnbiện3:PGS.TSNgô QuốcTạo Luậnánsẽ bảovệ trước HộiđồngchấmluậnántiếnsĩcấptrườnghọptạiTrườngĐạihọc Báchkhoa Hà Nội Vào hồi…… giờ,ngày… tháng … năm……… Cóthểtìmhiểuluận án tại: ThưviệnTạQuang Bửu-TrườngĐHBKHàNội ThưviệnQuốcgiaViệtNam MỞĐẦU Lý dochọnđềtài Khi nghiên cứu hệ thống tính tốn song song mộtvấn đề quan trọng thường hay đề cập đến, làHiệunăng Trên thực tế, thêm nút tính tốn vào hệ thống thìmong muốn hiệu hay tốc độ tăng lên tươngứng.Tuynhiên,mộtđiềurấtrõrànglàtốcđộtănglênnàysẽc óxuhướnggiảmdần.Córấtnhiềungunnhânảnhhưởngđếnhiệunăngcủatồnbộhệthống,cóthểkểra như:cấuhìnhmạngliênkết, trễ truyền thông, kiến trúc nhớ chia sẻ, kiến trúc cache,kiến trúc chip đalõi, thuậtt o n c ủ a n g i d ù n g , c ô n g c ụ p h ầ n mềmhỗtrợlậptrìnhsongsongv.v Như vậy, việc xác định phân tích rõ ảnh hưởng yếutốkểđếnhiệunăngcủahệthốnglàmộtbàitốnvơcùngquantrọng cần thiết xác định rõ ảnh hưởng củacác thông số này,n g i ta hồn tồn điều chỉnh chúng đ ể cóđược hiệunăngtốtnhấtchohệthống Luận án vào nghiên cứu phân tích hiệu cáchệ thống tính tốn song song, tập trung nghiên cứu sâuảnh hưởngcủa trễtruyềnthơngđếnhiệunăngcủa hệ thống Mụctiêunghiêncứu Mục tiêu nghiên cứu củal u ậ n n l p h â n t í c h ả n h h n g c ủ a trễ truyền thông (Communication Overhead) tới hiệu hệthống tính tốn song song đề xuất cơng thức tính tốn trễ truyềnthơngứngvớimộtsốcấutrúcmạngliênkếtphổbiến.Ngồira,luận án tiến hành thiết kế thử nghiệm phần mềm thám mã mậtkhẩu MS Office Word chạy hệ thống tính tốn songsongđể chothấyrõsựảnhhưởngcủatrễtruyềnthơngđếnhiệunăng hệ thống Phương pháp lý thuyết sử dụng để phântích trễ truyền thơng trongluận án làmạnghàng đợi vàm n g Petri Đốitượngvàphạmvi nghiêncứu 3.1 Đốitượngnghiêncứu Đối tượng nghiên cứu luận án Trễ truyền thơng trongcác hệthốngtínhtốnsongsong 3.2 Phạmvi nghiêncứu Do việc phân tích hiệu hệ thống tính tốn songsong có phạm vi rộng phức tạp Vì vậy, phạm vi nghiên cứucủa luận án phân tích ảnh hưởng trễ truyền thơng đến hiệunăng hệ thống tính tốn song song Các hệ thống tính tốnsongsongnàychỉgồmkiếntrúcchipđalõivàkiếntrúcnốicụm Luận án giả thiết nút tham gia tính tốn hệthống cụm lõi vi xử lý có cấu hình vànănglựctínhtốngiốngnhau,cùnghồnthànhcơngviệcv i khoảngth ờigiannhưnhau Ngồi ra, luận án tập trung nghiên cứu hệthống tính tốn song song mà trao đổi thơng tin khơng nhỏgiữa phần tử tính tốn.Cịn cáchệthốngt í n h t o n m phần tử trao đổi thơng tin với phải chờ đợi, lệ thuộcnhauvề dữliệuvà tàingunthìcóthể bỏquatrễnày Ýnghĩakhoahọc vàthựctiễncủađềtài 4.1 Ýnghĩakhoahọc Về mặt khoa học, cơng thức đề xuất để tính trễ truyền thơngtrong luận án làm sở để nghiên cứu tính trễ cho nhiềucác loại liên kết mạng khác Ngồi ra, phương pháp sử dụngmạng Petri để phân tích hiệu cách tiếp cận ngồiphươngpháptruyềnthốnglàsửdụngmơhìnhmạnghàngđợi 4.2 Ýnghĩathựctiễn Kết nghiên cứu luận án sử dụng vàoviệc lựa chọn loại liên kết mạng phù hợp cho loại ứngdụngvớikíchthướccácgói tinkhácnhauđểgiảmthiểun h ấ t t rễ truyềnthơng, t đ ó c ó đ ợ c h i ệ u n ă n g c a o n h ấ t c h o t o n b ộ h ệ thống Dựa vào cơng thức tính tốn trễ đề xuất, hệ thốngphần mềm tính tốn tìm giải pháp thuật tốn trongchương trình để giảm thiểu truyền thơng khơng cần thiết, tránhđượccáctrễkhithựchiệngiaotiếpgiữa cácnúttínhtốn Phần xây dựng chương trình thuật tốn thám mã mật khẩucủa MS Office Word mở rộng để xử lý hệ thống vớinhiềunúttínhtốnhơnvàcótíchhợpcácbộ tăngtốcđồhọađể giải nhiều tốn thám mã tương tự khác, khơiphụcmậtkhẩuMSExcel,tệpzip,mậtkhẩu windows,v.v Đónggóp củaluận án Cáckếtquảchínhcủaluậnán, gồm: Thứnhất:Xây dựng cơng thức tính trễ truyền thơng(Cơng thức 4.5) cho số mạng liên kết hệ thống tính tốnsong song ghép cụm Cơng thức sử dụng để tínhtrễ truyền thơng cho hầu hết cấu trúc mạng liên kết đa xử lýphổ biến mạng liên kết lưới hai chiều (2Dmesh), lưới ba chiều(3Dmesh),lướivònghaichiều(2Dtorus), Thứ hai: Tiến hành phân tích ảnh hưởng mạng liên kết đếnhiệu hệ thống tính tốn song song có sử dụng chip đa lõithơng qua sử dụng mạng hàng đợi đóng có nghiệm dạng tích cácxác suấtvàmạngPetrithờigiantổngqt Thứ ba: Tiến hành phân tích ảnh hưởng trễ truyền thôngđến hiệun ă n g c ủ a h ệ t h ố n g t í n h t o n s o n g s o n g g h é p c ụ m S dụng mạng hàng đợi CPFQN mạng Petri để tiến hành phân tíchvà đánh giá ảnh hưởng mạng liên kết đến hiệu hệthống cho kiến trúc điển hình (lưới hai chiều, lưới vịng haichiều, lưới lưới ba chiều, lưới vòng ba chiều, siêu lập phương -Hypercube) Thứ tư: Thiết kế thuật toán chương trình thám mã mật khẩuMS Word chạy hệ thống cụm máy tính sử dụng vi xử lý đalõi,cóthểmởrộngchạytrênhệ thốngnhiềunúttínhtốn Bố cục luậnán Nộidungcủaluậnángồm4chương,cụthể nhưsau: - Chương 1:Trình bày tổng quan mơ hình kiến trúctính tốn song song, kỹ thuật phân tích phương pháp đánhgiá hiệu Các nghiên cứu liên quan ngồi nước vềlĩnhvựcnàycũngđược đềcậpvàphântích - Chương 2: Trình bày sở lý thuyết sử dụngtrongluậnánđểphântíchhiệunăng,đólàmạnghàngđợi(Queuingn etwork)vàmạngPetri(Petrinet).Ngồira,luậtAmdalh phân tích mở rộng trường hợp có tínhđếntrễtruyềnthơng - Chương 3: Luận án vào phân tích ảnh hưởng trễtruyền thơng đến hiệu hệ thống tính tốn song song có sửdụngchipđalõi.Luậnánđềxuấtcơngthức4.5đểxácđịnhtrễtruyềnthơng - Chương 4: Mở rộng đánh giá ảnh hưởng trễ truyềnthơng đến hiệu hệ thống tính tốn song song trongmơi trường cụm máy tính.Ngồi ra, chương thiết kếthuật tốn trình bày kết đánh giá hiệu ảnh hưởng củatrễ truyền thông ứng dụng thực với toán thám mãm ậ t khẩuMSOfficeWord CHƯƠNG1.TỔNGQUAN 1.1 Kiếntrúctínhtốnsongsong 1.1.1 Kháiniệm Tính tốn songsonglàmộtdạngtính tốntrongđónhiềulệnhđượcthực hiệnđồngthờitrêncácđơnvịxửlý 1.1.2 Cácloạixửlýsong song Theop h â n l o i c ủ a M i c h a e l J F l y n n t h ì c ó h ì n h t h ứ c s o n g songlà:SISD,SIMD,MISDvà MIMD 1.1.3 Mô hình tínhtốn songsong a) SongsongsửdụngCPUnhiềulõi(MultiCorechip) b) Song song sửdụng tăng tốc(bộxửlýđồhọaGPU) c) Songsong sửdụng cácmáytínhnốicụm d) Songs o n g s d ụ n g m ô h ì n h k ế t h ợ p : C ụ m , G P U , MultiCore 1.2 Hiệunăngtrongkiến trúctínhtốn songsong Có tiêu chí quan trọng để đánh giálà:T h i g i a n t h ự c t h i , tổng chi phí song song, mức độ tăng tốc, tính hiệu tính mởrộng 1.2.1 Thờigianthựcthi Thời gian thực thi song song khoảng thời gian bắt đầu qtrình tính tốn song song phần tử tính tốn cuối cùngkếtthúc,kýhiệulàTp 1.2.2 Tổng chiphísong song Chi phí tiêu tốn mộtc h n g t r ì n h s o n g s o n g đ ợ c b i ể u diễn biểu thức gọi hàm chi phí (Overheadfunction).KýhiệulàTovàTo=pTp- Ts 1.2.3 Mức tăngtốc Mức tăng tốc định nghĩa tỉ số thời gian chạy trênmộtđơn vị xửl ý ( t u ầ n t ự ) v t h i g i a n c h y t r ê n h ệ t h ố n g t í n h tốnsongsong 1.2.4 Tínhhiệuquả Gọiplà số phần tử tham gia tính tốn song song vàEplà mứcđộhiệuquảthì: 𝑆 𝑝= 𝑇 𝐸= 𝑝 𝑝 𝑝.𝑇𝑝 1.2.5 Tínhmở rộng Tính mở rộng đo khả tận dụng hiệu tăng số phầntử xử lý Các hệ thống mơ dùng để tiên đốntínhmở rộngcủahệthống 1.3 Cáckỹthuậtphântíchđánhgiáhiệu Để phân tích hiệu năng, tiến hành theo 3phương pháp:Mơhìnhhóa,mơphỏngvàđolường 1.3.1 Mơ hìnhhóa Sửdụngcácmơhìnhtốnhọcđểphântíchnhư:Mạnghàngđợi,mạn gPetri 1.3.2 Mơphỏng Mơphỏnghệthốngbằngcáccơngcụphầnmềm 1.3.3 Đo lường Thựchiệnchạy hệthốngvàdùng cácphầncứng,phần mềmđocác thơngsốcầnquantâm 1.4 Trễtruyềnthơngtrongcáchệthốngtính tốnsongsong 1.4.1 Các nguồngây trễ Baogồm kiến trúcmạngliên kết,đồngbộhóa,t h i g i a n truyềnthông,thờigiannghỉ/chờ 1.4.2 Mạng liênkết hệthống tính tốnsongsong Trong hệ thống tính tốn song song, phần tử xử lý liên kếtvớinhau quamộtmạngliên kết,có thểlà 2Dmesh,2Dtorus,3Dmesh,3Dtorus,Hypercube,v.v 1.5 Tổngquan vềcácnghiêncứu liênquan a) Tình hình nước: Chưa có nhiều nghiên cứu cơngtrình liên quan đến hệ thống xử lý song song Dù sở đào tạovànghiêncứuvềCNTTlớnnhưĐHBKHN,ĐHQGHN,ĐHQGHC M, Viện hàn lâm khoa học cơng nghệ VN trang bịhạ tầngtínhtốn b) Tình hình ngồi nước: Đã có nhiều nghiên cứu, nhiên vềvấn đềtrễ truyền thơngvẫn cịnnhiềuviệctiếptụcc ầ n p h ả i nghiên cứu, phát triển Trong việc tính tốn trễ truyền thơngtrong cơng thức Amdahl mở rộng cho số mạng liên kết cụ thểcầnđượctínhtốnđềxuất 1.6 Cácnhiệmvụtrongluận án - Nghiên cứu hướng tiếp cận đánh giá hiệu sử dụng mạnghàngđợiđóngcónghiệmdạngtíchvàmạngPetri - Phân tích ảnh hưởng trễ truyền thơng đến hiệu hệthống tính tốn song song có sử dụng vi xử lý đa lõi nhưhệ thốngmáytínhghépcụm -T r i ể n khai thửnghiệm đánh giáảnh h n g c ủ a t r ễ t r u y ề n thông toán thám mãm ậ t mơi t r n g tínhtốnsongsong CHƯƠNG CƠ SỞ LÝ THUYẾT CHO PHÂN TÍCHHIỆUNĂNG 2.1 Hàngđợivàmạnghàngđợi 2.1.1 Hàng đợi Mơ hình hàng đợi Trung tâm phục vụ bao gồmcác khách hàng tới cách tuỳ ý độc lập với Hệ thốngphục vụ có n điểm phục vụ (server),m ỗ i đ i ể m p h ụ c v ụ c ó k h ả phục vụ khách hàng thời gian Các thời gian phụcvụ cần thiếtchocác khách hàng đượcmơh ì n h h ó a n h nhữngbiếntuỳý 2.1.2 Mạnghàngđợi Mạng hàng đợi hệ thống mà chúng gồm số tùy ý,nhưnghữu hạncáchàngđợiđượcnốivớinhau 2.1.3 Mạnghàngđợimộtlớpvànhiều lớpcơngviệc Mạnghàngđợimộtlớpcơngviệclàcáccơngviệccócùngthờigian phụcvụvà xácsuấtđịnhtuyến 2.1.4 Các số đo hiệu mạng hàng đợi lớp công việcCácsốđohiệunăngbaogồm:Xácsuấtbiên,mứcđộsửdụng,thơng lượng,thơnglượngtổng,sốlượngtrungbìnhcủacáccơngviệc,độd àitrungbình củahàng đợi,thời gianđápứngtrungbình, thờigianchờđợitrungbình 2.1.5 Số đohiệu năngcủamạnghàngđợinhiềulớpcơngviệc Cácsố đonàygiốngnhưcácsốđo củamạnghàng đợimộtlớpcơngviệc,tuynhiêncơngthứctínhlà khácnhau 2.1.6 Cácmạng hàng đợicónghiệm dạngtíchcácxácsuất Baogồmcácmạnghàngđợi:BCMP,BCMPphiênbản1(choPFQN đóng)và BCMPphiênbản2(choPFQNmở) 2.2 MạngPetri 2.2.1 GiớithiệumạngPetri Petri Net (PN) đồ thị song hướng có trọng số gồm 4thành phần: tập hợp vị tríP(place), tập hợp chuyển tiếpT(transition),hàmvàoI(inputfunction)vàhàmraO(output function): N (P,T,I,O) (2.42) 2.2.2 Cácđặctínhcơbảncủa mạngPetri Các đặc tính mạng Petri gồm: Tuần tự, đồng bộ, kếthợp, song song hay tương tranh, đụng độ, hỗn độn, loại trừ lẫnnhau,các ưu tiên,các chuyểntiếpcuốicùng,khóa chết 2.2.3 Một sốmạngPetriphổ biến Trong mạng Petri, có số loại mạng hay sử dụng làmạng Petri có màu, mạng Petri có đánh dấu, mạng Petri thời gianngẫunhiên,mạngPetrimàungẫunhiên 2.2.4 Phântíchmơhìnhmạngpetri Việc phân tích mơ hình PN cho ta biết hành vi hệ thống.Cócác kỹthuậtphântíchcấutrúcvà kỹthuật phântíchkhơnggiantrạngthái Cáckỹthuậtphântíchcấutrúcgồmcácphươngpháp:matrậnliênthu ộc,cácT-invariantvà cácS-invariant 2.3 LuậtAmdahl 2.3.1 Mức tăngtốcvàhiệunăng Biểuthứcmứctăngtốcchunglà: (n)(n) (2.56) (n) (n) (n,p)p σ(n)-thờigianthựchiệnphầntuầntự φ(n) - thời gian thực phần song song.κ(n,p)-thờigianliênquanchothựchiệnsongsong 2.3.2 Mứctăngtốc theoLuậtAmdahl Theo luậtAmdahl,mứctăngtốclà: 𝑛,1) = 𝑆𝑝= 𝑇 (𝑇(𝑛,𝑝) 3.3.3 Kết luận Ngoài cơng cụ phân tích hiệu sử dụng CPFQN, cơng cụGSPN cho phép dễ dàng mơ hình kiến trúc đa lõi cóthể phân tích đặc tính hành vi hệ thống mà CPGQNcịn hạn chế Việc kết hợp hai công cụ cho ta cách nhìn tồndiện hệ thống cần phân tích, đồng thời cách để takiểmchứngkếtquảtheocáccáchtiếpcậnkhác CHƯƠNG PHÂN TÍCH ẢNH HƯỞNG CỦA TRỄTRUYỀN THƠNG ĐẾN HIỆU NĂNG CỦA HỆ THỐNGTÍNHTỐNSONGSONG GHÉPCỤM 4.1 Trễtruyềnthơngtrongcáchệthốngtínhtốnsongsongghép cụm 4.1.1 Hiệu năngcủahệ thốngtínhtốnsoangsongghépcụm - Gọi TO(p,n)–overhead s o n g s o n g K h i đó,tổng t h i gian thựch i ệ n c hư ơn g t r ì n h kí ch thước p t r ê n m y t ín hs on g s o n g ghépcụmvớinnútxửlýđượcxác địnhbằng: T(p,n)T comp (p,n)T( p) (p,n)T commO Tpar(p) seq T n - (p,n) (4.3) O LuậtA m d a h l m r ộ n g c h o m ứ c t ă n g t ố c c ó t í n h o v e r h e a d songsong: S(p,n) Tseq( p)Tpar(p) Tpar(p) T( p) T( p,n) seq O (4.4) n 4.1.2 Ảnh hưởng trễtruyền thôngđếnhiệunăng Để phân tích ảnh hưởng cấu hình mạng liên kết nútđến overhead song song, mặc định nhiệm vụ cóđược cân tải chạy nút server xử lý tương đồngnhauv ề t i n g u y ê n v t h i g i a n x lý,do đo c ó t h ể c o i TO(p,n)TcommO(p,n),cơngthứctính trễ truyền thơngnhưsau: TcommO(p,n)kHTnetkH(t sw t startupwt data) Trongđ ó , H khoảngcácht r u n g bìnhcủađịnhtuyếntừ switch/router(hop)củanútserverxửlýnguồnđếnnútđích (4.5) tsw trễởn út s w i t c h / router tstartu  thờig i a n k h i t o t r u y ề n t h ô n g p ts đượcc h o l k h ô n g tdata thờigia  ta thayđổi(consta n nt) truyềnm ộ t từd ữ l i ệ u , w Kícht h ccủabảntin (sốbytes) (khoản k sốlượngcácbảntin dữliệu), rt up 4.2 Sử dụng mạng hàng đợi đóng có nghiệm dạng tích cácxác suất để phân tích ảnh hưởng trễ truyền thơng đến hiệunăngtronghệthốngtínhtốnso ngsongghépcụm 4.2.1 Đánh giá ảnh hưởng trễ truyền thơng mơ hìnhmạnghàngđợiđóngcóng hiệmdạngtích Đểđánhgiáảnh hưởngcủatrễtruyềnthơng,luậnán 16 sửdụngmơhình mạnghàngđợi Mạnghàngđợic hohệthốngnhưs au: 4.1.4Thựcnghiệm môphỏngtrêncông cụJMT Phầnmềmsửdụngmô p h ỏ n g làJMT0.8.Cá cthamsốthiết l ậ p n h s a u : p0 0.8;p0net 0.2;pnet 0 0.2; pneti 0.8;pi 0,8;pinet  0.2 17