TỐI ƯU HÓA TOPOLOGY CHO MẠNG NGANG HÀNG CÓ CẤU TRÚC CHORD

Mạng ngang hàng (mạng đồng đẳng, peer-to-peer, P2P) hay công nghệ ngang hàng đã trở thành thuật ngữ phổ biến trong công nghệ thông tin nói chung và trong lĩnh vực Internet nói riêng.

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Đặng Ngọc Bền TỐI ƯU HÓA TOPOLOGY CHO MẠNG NGANG HÀNG CÓ CẤU TRÚC CHORD KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành: Công nghệ Thông tin Cán bộ hướng dẫn: TS. Nguyễn Hoài Sơn HÀ NỘI - 2009 LỜI CẢM ƠN Em xin chân thành cảm ơn các thầy cô giáo trong trường Đại học Công nghệ - Đại học Quốc gia Hà Nội đã tận tình giúp đỡ và truyền đạt kiến thức cho em trong suốt 4 năm học qua để em có đủ kiến thức hoàn thành khóa luận này. Đặc biệt, em xin gửi lời cảm ơn sâu sắc tới thầy Nguyễn Hoài Sơn – người đã nhiệt tình động viên, định hướng em trong quá trình định hình, nghiên cứu và hoàn thành khóa luận. Em xin cảm ơn sự nhiệt tình chia sẻ kinh nghiệm, đóng góp ý kiến của nhóm nghiên cứu do thầy Nguyễn Hoài Sơn hướng dẫn, của các anh chị cao học. Em xin gửi lời cảm ơn chân thành tới thầy Nguyễn Đại Thọ, người đã giảng dạy cho em những kiến thức cơ bản liên quan trực tiếp đến đề tài của khóa luận. Mặc dù đã rất cố gắng hoàn thành khóa luận này, xong khóa luận sẽ khó tránh khỏi những thiếu sót, kính mong quý thầy cô tận tình chỉ bảo giúp em. Một lần nữa em xin cảm ơn tất cả mọi người. Hà Nội, tháng 5 năm 2009 Sinh viên Đặng Ngọc Bền Tóm tắt Ngày nay, Internet đã thực sự phát triển và đi sâu vào đời sống của mỗi con người. Khả năng chia sẻ những tài nguyên lớn một cách nhanh chóng và hiệu quả luôn nhận được quan tâm từ những người nghiên cứu cũng như sử dụng Internet. Với những đặc điểm phù hợp, mạng ngang hàng, đặc biệt là mạng ngang hàng có cấu trúc ngày càng được sử dụng phổ biến cho các ứng dụng nêu trên. Tuy nhiên, bên cạnh những ưu điểm, mạng ngang hàng có cấu trúc cũng bộc lộ những hạn chế nhất định, làm tiêu tốn băng thông và khả năng của mạng cũng như ứng dụng. Vì thế, vấn đề tối ưu mạng ngang hàng có cấu trúc, khắc phục những nhược điểm còn tồn tại trở lên cần thiết. Khóa luận sẽ trình bày một giải pháp tối ưu mạng ngang hàng cấu trúc Chord - một giao thức của mạng ngang hàng có cấu trúc - dựa trên thời gian trễ. Giải pháp tập trung giải quyết vấn đề khác biệt về topo (topology mismatch) qua hai quá trình: lựa chọn vị trí tham gia mạng của nút và tối ưu bảng định tuyến. Tiêu chí dùng để tối ưu chính là thời gian trễ giữa các nút tham gia. Giải pháp này đã được thử nghiệm trên chương trình mô phỏng với môi trường mạng ảo có thời gian trễ gần giống với Internet. Kết quả cho thấy, giải pháp tối ưu đã đem lại hiệu quả với việc làm giảm thời gian trễ và chi phí truyền thông trong các truy vấn tìm kiếm. Theo đó, hiệu năng của mạng và ứng dụng cũng được nâng lên. Mục lục Mở đầu .1 Chương 1. Tổng quan .3 1.1. Mạng ngang hàng .3 1.2. Phân loại mạng ngang hàng 6 1.2.1. Hệ thống ngang hàng lai (Hybrid Peer-to-peer System) 6 1.2.2. Mạng ngang hàng thuần túy (Pure Peer-to-peer System) 7 1.2.3. Kiến trúc siêu ngang hàng (Super-peer Architecture) 8 1.2.4. Mạng ngang hàng có cấu trúc (Structured) .10 1.3. Cấu trúc Chord 12 1.3.1. Mô hình mạng Chord .13 1.3.2. Ánh xạ khóa vào một nút trong Chord 14 1.3.3. Tìm kiếm trong mạng Chord 15 1.3.4. Tham gia và ổn định mạng .15 Chương 2. Các nghiên cứu về tối ưu Chord .17 2.1. Tối ưu hóa trên Chord 17 2.2. Lựa chọn láng giềng gần (Proximity Neighbor Selection[5]) 18 2.3. Quasi-Chord [7] .20 Chương 3. Tối ưu Chord dựa trên lựa chọn độ trễ 25 3.1. Đề xuất 25 3.2. Nội dung 26 3.3. Ưu nhược điểm 28 Chương 4. Mô phỏng và đánh giá 29 4.1. Chương trình mô phỏng .29 4.1.1. Kiến trúc mạng mô phỏng .29 4.1.2. Dữ liệu 31 4.1.3. Các đối tượng 32 4.1.4. Thực thi 34 4.2. Kết quả và đánh giá 37 4.2.1. Hiệu quả so với Chord truyền thống .37 4.2.2. Hiệu quả khi thay đổi tham số .38 41 Chương 5. Kết luận .42 5.1. Kết luận .42 5.2. Hướng phát triển tiếp theo của đề tài .42 Tài liệu tham khảo 44 Phụ lục A .45 Danh mục hình ảnh Hình 1. Mô hình mạng ngang hàng 3 Hình 2. Mô hình mạng khách chủ 4 Hình 3. Mạng ngang hàng lai thế hệ thứ nhất (Napster) .7 Hình 4. Mạng ngang hàng thuần túy (Gnutella 0.4, FreeNet) .8 Hình 5. Kiến trúc siêu ngang hàng(Gnutella 0.6, JXTA) 9 Hình 6. Cơ chế của bảng băm phân tán (DHT) 11 Hình 7. Mạng ngang hàng có cấu trúc Chord dạng vòng tròn .12 Hình 8. Một mạng Chord với 3 nút 14 Hình 9. Lưu giữ key trong mạng Chord 15 Hình 10. Bản đồ miền trong không gian hai chiều 19 Hình 11. Tính toán với các điểm mốc 22 Hình 12. Tính toán với nút thông thường .22 Hình 13. Biểu đồ không gian Cantor với C=8 .23 Hình 14: Bảng định tuyến giả định của N51 trong Quasi-Chord .24 Hình 15: Lựa chọn vị trí tham gia mạng .27 Hình 16: Mô hình mạng thực tế 29 Hình 17: Mô hình mạng mô phỏng 31 Hình 18: Biểu đồ thời gian trễ trung bình của Chord truyền thống và cải tiến .38 Hình 19: Biểu đồ thời gian trễ trung bình biến đổi theo CHOICE 38 Hình 20: Biểu đồ thời gian trễ trung bình theo EXPANSION .39 Hình 21: Biểu đồ thời gian trễ trung bình thay đổi theo lượng miền .40 Hình 22: Biểu đồ thời gian trễ trung bình thay đổi theo lượng nút tối đa .41 Mở đầu Trong những năm gần đây, công nghệ ngang hàng (peer-to-peer - P2P) hay mạng ngang hàng đã trở nên phổ biến trong các nghiên cứu về lĩnh vực Internet. So với các mô hình mạng khác, mạng ngang hàng có nhiều ưu điểm như khả năng mở rộng, không tồn tại điểm chết, khả năng của hệ thống tỉ lệ với số lượng máy tham gia, Tất cả những đặc điểm trên đã tạo lên công nghệ P2P và các ứng dụng ngang hàng liên quan. Nhiều ứng dụng lớn đã và đang được xây dựng trên mạng ngang hàng như FreeNet, Napster, Gnutella, BitTorrent, eMule Mạng ngang hàng có cấu trúc sử dụng giải thuật DHT (Distributed Hash Table – bảng băm phân tán) tạo nên một mạng phủ (overlay) trên mạng liên kết vật lý. Giải thuật này định nghĩa liên kết giữa các nút mạng trong mạng phủ theo một cấu trúc cụ thể, đồng thời xác định chặt chẽ mỗi nút mạng sẽ chịu trách nhiệm đối với một phần dữ liệu chia sẻ trong mạng. Mỗi nút đều được kết nối với một tập các nút khác gọi là tập nút láng giềng. Chord là một giao thức của mạng ngang hàng có cấu trúc với không gian địa chỉ một chiều dạng vòng. Mạng ngang hàng cấu trúc Chord ngày càng thể hiện nhiều ưu điểm như khả năng mở rộng, cân bằng tải, định tuyến, . Giống như những giao thức trên mạng có cấu trúc khác, mỗi nút trong Chord xây dựng một bảng định tuyến giúp cho việc tìm kiếm thông tin giảm từ O(N) với N là số lượng tối đa nút trong mạng, xuống còn O(log 2 N). Trong mạng ngang hàng có cấu trúc nói chung và Chord nói riêng, quan hệ hàng xóm của các nút được thiết lập mà không xem xét đến topo (topology) tầng dưới. Đó chính là nguyên nhân gây ra sự sai khác giữa topo của mạng DHT và topo mạng liên kết vật lý (topology mismatch). Điều này làm cho độ trễ truyền thông báo giữa các nút và chi phí truyền thông trong mạng P2P. Yêu cầu đặt ra là làm sao để tối ưu mạng phủ, khắc phục sự khác biệt đó. Ngoài ra, khi xây dựng bảng định tuyến trong cấu trúc Chord, liên kết tại hàng thứ i được chọn cố định là nút quản lý định danh k+2 i . Như vậy, quá trình xây dựng liên kết trong bảng định tuyến cũng không xem xét đến quan hệ giữa các nút ở tầng dưới. Nếu như liên kết này có thời gian trễ lớn thì tất cả những truy vấn đi qua nó đều bị ảnh hưởng bởi độ trễ này. Quá trình chuyển tiếp truy vấn là đưa truy vấn đến vị trí mà khóa cần tìm kiếm thuộc lân cận của vị trí đó. Vì thế, phương pháp hiện có để xây dựng các liên kết trong bảng định tuyến là chưa tốt. 1 Khóa luận này sẽ đề xuất một phương pháp mới để giải quyết hai vấn đề nêu trên xảy ra với mạng ngang hàng có cấu trúc nói chung và cấu trúc Chord nói riêng. Vẫn dựa trên cấu trúc và định tuyến của Chord truyền thống, trong đề xuất mà khóa luận đưa ra, thứ nhất, các nút tham gia vào mạng sẽ lựa chọn vị trí theo tiêu chí mà tại đó, nút được chọn có thời gian trễ tới các nút liền trước và liền sau là nhỏ nhất; thứ hai, bảng định tuyến của nút sẽ được thay đổi bằng cách lựa chọn lại các nút đích của các liên kết từ một tập nút nào đó cũng theo tiêu chí thời gian trễ nhỏ nhất, nhằm tiết kiệm chi phí đường đi của các thông báo. Hai đề xuất sẽ giải quyết lần lượt vấn đề khác biệt về topo và xây dựng liên kết trong bảng định tuyến dựa vào thời gian trễ. Để đánh giá hiệu quả của giải pháp đề xuất, khóa luận xây dựng một chương trình mô phỏng giả lập mạng Internet và đo thời gian trễ truyền thông báo giữa các nút trong mạng Chord. Các kết quả thử nghiệm chứng minh cho khả năng của giải pháp đề xuất trong việc giảm thời gian truyển thông báo trên mạng, kéo theo giảm chi phí truyền thông. Khóa luận được chia thành năm chương: Chương 1: Giới thiệu tổng quan về ngạng ngang hàng, ưu nhược điểm và sự phân loại mạng ngang hàng; những kiến thức cơ bản về DHT và đặc biệt là cấu trúc Chord. Chương 2: Đề cập đến sự tối ưu hóa trong mạng Chord, các vấn đề và các nghiên cứu cho những vấn đề đó. Chương 3: Đề xuất giải pháp tối ưu cấu trúc Chord dựa trên độ trễ, những ưu nhược điểm của giải pháp đó. Chương 4: Xây dựng chương trình mô phỏng, các bước thực thi chương trình và những đánh giá từ kết quả đạt được. Chương 5: Kết luận, những vấn đề nảy sinh và hướng đi tiếp theo. 2 Chương 1. Tổng quan Mạng ngang hàng (mạng đồng đẳng, peer-to-peer, P2P) hay công nghệ ngang hàng đã trở thành thuật ngữ phổ biến trong công nghệ thông tin nói chung và trong lĩnh vực Internet nói riêng. Các ứng dụng trên mạng ngang hàng xuất hiện ngày càng nhiều, thu hút đông đảo người dùng máy tính. Rất nhiều công ty, ứng dụng với công nghệ ngang hàng đã trở lên nổi tiếng, được đông đảo cư dân mạng sử dụng như: Usenet, Freenet, Napster, Gnutella, BitTorrent… Trong điều kiện Internet ngày càng phát triển, lượng thông tin truyền tải và chia sẻ ngàng càng lớn, mô hình client server bộc lộ nhiều hạn chế về băng thông và sức mạnh, mạng ngang hàng với nhiều ưu điểm nổi bật có thêm nhiều cơ hội mới để phát triển. Chương này, khóa luận sẽ giới thiệu về mạng ngang hàng, những ưu nhược điểm của mạng ngang hàng để biết tại sao chúng lại được sử dụng rộng rãi như vậy. Phân biệt được các loại mạng ngang hàng, đặc điểm, cách hoạt động của từng loại. Và hơn hết, chúng ta sẽ làm quen với cấu trúc Chord, một trong những giao thức phổ biến nhất trong mạng ngang hàng có cấu trúc. 1.1. Mạng ngang hàng Định nghĩa Mạng ngang hàng, là một mạng máy tính trong đó hoạt động của mạng chủ yếu dựa vào khả năng tính toán và băng thông của các máy tham gia chứ không tập trung vào một số nhỏ các máy chủ trung tâm như các mạng thông thường. Mạng ngang hàng thường được sử dụng để kết nối các máy thông qua một lượng kết nối dạng ad hoc. Mạng ngang hàng có nhiều ứng dụng. Ứng dụng thường xuyên gặp nhất là chia sẻ tệp tin, tất cả các dạng như âm thanh, hình ảnh, dữ liệu, . hoặc để truyền dữ liệu thời gian thực như điện thoại VoIP. Một mạng ngang hàng đúng nghĩa không có khái niệm máy chủ và máy khách, nói cách khác, tất cả các máy tham gia đều bình đẳng và được gọi là peer, là một nút mạng đóng vai trò đồng thời là máy khách và máy chủ đối với các máy khác trong mạng. Một ví dụ điển hình là dịch vụ 3 Hình 1. Mô hình mạng ngang hàng truyền dữ liệu. Các nút trong mạng ngang hàng sẽ liên lạc với nhau, lấy dữ liệu từ nút khác về, đồng thời chia sẻ dữ liệu đó cho những nút có nhu cầu. Với mô hình khách chủ, máy khách gửi yêu cầu, thực hiện việc nhận dữ liệu một chiều từ phía máy chủ. Đây chính là điểm khác biệt cơ bản nhất của mô hình ngang hàng so với các mô hình truyền thống. Một số mạng hay kênh như Napster, IRC (thuộc thế hệ thứ nhất) sử dụng mô hình máy chủ- máy khách cho một số tác vụ và mô hình ngang hàng cho những tác vụ khác. Ngược lại, các mạng như Gnutella hay Freenet (thế hệ thứ 2) sử dụng mô hình ngang hàng cho tất cả các tác vụ, nên các mạng này thường được xem như là mạng ngang hàng đúng nghĩa (thực ra Gnutella vẫn sử dụng một số máy chủ để giúp các máy trong mạng tìm kiếm địa chỉ IP của nhau). Cấu trúc mạng ngang hàng là biểu hiện của một trong những khái niệm quan trọng nhất của Internet, mô tả trong "RFC 1, Host Software" xuất bản ngày 7 tháng 4 năm 1969. Gần hơn, khái niệm này đã được sự công nhận rộng rãi trong các cấu trúc chia sẻ nội dung mà không có máy chủ trung tâm. Khái niệm ngang hàng ngày nay được tiến hóa vào nhiều mục đích sử dụng khác nhau, không chỉ để trao đổi tệp mà còn khái quát hóa thành trao đổi thông tin giữa người với người, đặc biệt trong những tình huống hợp tác giữa một nhóm người trong cộng đồng. Ưu điểm Ưu điểm của mạng ngang hàng thể hiện ở việc áp dụng vào từng ứng dụng cụ thể mà cấu trúc mạng khách chủ không có được. Nói cách khác, ưu điểm của mạng ngang hàng chính là khắc phục những nhược điểm của mô hình mạng cũ. Mục đích quan trọng của mạng đồng đằng là trong mạng tất cả các máy tham gia đều đóng góp tài nguyên, bao gồm băng thông, lưu trữ, và khả năng tính toán. Do đó khi càng có nhiều máy tham gia mạng thì khả năng tổng thể của hệ thống mạng càng lớn. Ngược lại, trong cấu trúc máy chủ-máy khách, nếu số lượng máy chủ là cố định, thì khi số lượng máy khách tăng lên khả năng chuyển dữ liệu cho mỗi máy khách sẽ giảm xuống. 4 Hình 2. Mô hình mạng khách chủ [...]... thông cao, hiệu suất mạng giảm Tiếp theo, khóa luận sẽ nói kỹ hơn về một số vấn đề mà mạng Chord gặp phải, phương hướng giải quyết cũng như tối ưu những vấn đề trên Sau đó là một số nghiên cứu tiêu biểu cho vấn đề này 2.1 Tối ưu hóa trên Chord Cấu trúc Chord ngày càng được áp dụng cho nhiều ứng dụng ngang hàng Vì vậy, việc tối ưu, khắc phục những nhược điểm của cấu trúc này là cần thiết Có nhiều vấn đề... giữ cho nút Successor của nó 16 Chương 2 Các nghiên cứu về tối ưu Chord Trong chương một, chúng ta đã được làm quen với Chord, cách xây dựng, cơ chế vận hành của Chord nói riêng và mạng ngang hàng có cấu trúc DHT nói chung Đồng thời cũng thấy được tính ưu việt của Chord so với các cấu trúc khác Tuy nhiên, vẫn tồn tại rất nhiều vấn đề của Chord và cả DHT – những vấn đề trở thành nhược điểm làm cho chi... thức Chord thường đi kèm với dữ liệu, thường là một cặp (khóa, dữ liệu) Khóa được coi như phương thức chỉ đường để có thể tìm thấy dữ liệu mong muốn một cách nhanh nhất Có thể nói Chord là đại diện tiêu biểu nhất của hệ thống mạng ngang hàng có cấu trúc DHT, không những vậy Chord còn là nền tảng cho những nghiên cứu phát triển ứng dụng sau này Một số nghiên cứu đã chỉ ra rằng: Chord không chỉ là một mạng. .. được mô tả dưới dạng một vòng tròn và có không gian định danh cỡ N, với N là số bit định danh của không gian Mạng Chord sẽ có thế chứa tối đa 2 mũ N Chord nút Một Chord nút (hay một nút - một máy tính trong mạng Chord) có một định danh id, và các id trong mạng Chord sắp xếp thành vòng tròn và tăng theo chiều kim đồng hồ Chord sử dụng một hàm băm để sinh định danh cho nút và tài liệu, đầu ra của hàm băm... một cấu trúc dữ liệu bảng băm phân tán (Distributed Hash Table) Hình 6 Cơ chế của bảng băm phân tán (DHT) Dựa trên cấu trúc bảng băm phân tán đã có nhiều nghiên cứu và đề xuất ra các mô hình mạng ngang hàng có cấu trúc, điển hình là cấu trúc dạng vòng (như trong hình vẽ mô tả): Chord, Pastry…, và cấu trúc không gian đa chiều: CAN, Viceroy Ưu điểm:  Khả năng mở rộng được nâng cao rõ rệt do không có. .. hoặc 1 mục dữ liệu Chord có thể thực hiện chức năng này bằng cách lưu các cặp key/value ở các nút mà key được ánh xạ Một nút sẽ chịu trách nhiệm lưu giữ một khóa k nếu nút đó là nút có định danh id nhỏ nhất và lớn hơn k Một nút khi lưu giữ khóa k cũng sẽ được gọi là Successor(k) 14 Hình 9 Lưu giữ key trong mạng Chord 1.3.3 Tìm kiếm trong mạng Chord Khi một nút cần tìm kiếm một khóa có định danh id, nút... đến cấu trúc của mạng Nhược điểm:  Tốn băng thông  Phức tạp trong tìm kiếm  Các nút có khả năng khác nhau (CPU power, bandwidth, storage) đều có thể phải chịu tải (load) như nhau 1.2.3 Kiến trúc siêu ngang hàng (Super-peer Architecture) Để khắc phục nhược điểm của mạng ngang hàng thuần túy, một mô hình mang ngang hàng mới được phát triển với tên gọi là mạng siêu ngang hàng Đây được gọi là mạng ngang. .. gửi cho tất cả các nút mạng là láng giềng với nó, điều này làm tăng đáng kể lưu lượng trong mạng Đây là một yếu điểm của các mạng ngang hàng thuần túy Các phần mềm tiêu biểu cho mạng ngang hàng dạng này là Gnutella 0.4, FreeNet Hình 4 Mạng ngang hàng thuần túy (Gnutella 0.4, FreeNet) Ưu điểm:  Dễ xây dựng  Đảm bảo tính phân tán hoàn toàn cho các nút tham gia mạng, các nút tham gia và rời khỏi mạng. .. ra ánh xạ càng đầy đủ, càng gần thì chi phí xây dựng càng lớn 2.3 Quasi -Chord [7] Vấn đề sai khác topo mạng (topology mismatch) như đã được giới thiệu là một trong những vấn đề đáng kể nhất trong tối ưu mạng ngang hàng có cấu trúc Nghiên cứu này đưa ra một mô hình mạng Chord mới với tên Quasi -Chord Mô hình sử dụng hệ 20 thống mạng định vị toàn cầu (global network position - GNP) để liên kết các nút... hợp số lượng Client trong nhóm là rất lớn (tuy nhiên, nhược điểm này đã được giải quyết bằng việc cải tiến mạng siêu ngang hàng thông thường, đưa ra khái niệm siêu ngang hàng dư cấp k) Mạng ngang hàng có cấu trúc (Structured) Hệ thống mạng ngang hàng không cấu trúc thể hiện nhược điểm: không có gì đảm bảo tìm kiếm sẽ thành công Đối với tìm kiếm các dữ liệu phổ biến được chia sẻ trên nhiều máy, tỉ lệ