Tiểu luận môn học THIẾT KẾ VÀ PHÂN TÍCH THUẬT TOÁN PHƯƠNG PHÁP THAM LAM

Trong khuôn khổ đề tài này, nhóm chúng tôi xin đưa ra các phần như sau: - Phần 1: giới thiệu bài toán chọn hoạt động, đối với vấn đề này thì phương pháp tham lam là hiệu quả để đưa ra kế

ĐẠI HỌC HUẾTRƯỜNG ĐẠI HỌC KHOA HỌC

-o0o -TIỂU LUẬN MÔN HỌCTHIẾT KẾ VÀ PHÂN TÍCH THUẬT TOÁN

Đề tài:

PHƯƠNG PHÁP THAM LAM

Thầy giáo hướng dẫn: TS Hoàng Quang

LỜI NÓI ĐẦU

Giải thuật cho những bài toán tối ưu thường đi qua một số bước, với một tập hợp các chọn lựa tại mỗi bước Với nhiều bài toán tối ưu hoá có thể sử dụng phương pháp đơn giản và hiệu quả hơn phương pháp qui hoạch động Phương pháp tham lam luôn chọn phương án tốt nhất vào thời điểm hiện tại Nó chọn tối ưu cục bộ với hy vọng rằng lựa chọn này sẽ dẫn đến một kết quả tối ưu toàn cục Trong chương này sẽ chỉ ra những bài toán tối ưu mà có thể được giải quyết bằng phương pháp tham lam Trước khi đọc chương này chúng ta nên đọc kỹ về phần quy hoạch động

Phương pháp tham lam không phải luôn mang lại các kết quả tối ưu, nhưng có nhiều bài toán nó có thể giải quyết được Trong khuôn khổ đề tài này, nhóm chúng tôi xin đưa

ra các phần như sau:

- Phần 1: giới thiệu bài toán chọn hoạt động, đối với vấn đề này thì phương pháp tham lam là hiệu quả để đưa ra kết quả Ta sẽ đi đến một phương pháp tham lam bởi việc xét đến đầu tiên là một giải pháp quy hoạch động và sau đó chỉ ra rằng ta có thể luôn đưa ra những lựa chọn tham lam để đi đến một kết quả tối ưu

- Phần 2 nhắc lại những yếu tố cơ bản của phương pháp tham lam, đưa ra một một cách tiếp cận trực tiêp hơn để chứng minh phương pháp tham lam đúng hơn dựa trên quy hoạch động đã đề cập ở phần 1

- Phần 3 giới thiệu một ứng dụng quan trọng của kỹ thuật tham lam: một mô hình của các chuẩn nén dữ liệu

- Phần 4 ta nghiên cứu kỹ một số lý thuyết tổng hợp cơ sở được gọi là "matroids" mà đối với vấn đề này phương pháp tham lam luôn đưa ra kết quả tối ưu

- Phần 5 minh hoạ ứng dụng của việc sử dụng maitroids trong một bài toán lập lịch làm việc với thời hạn cuối cùng và số tiền phạt

Phương pháp tham lam là khá mạnh và làm việc tốt với nhiều bài toán Những chương sau sẽ giới thiệu nhiều phương pháp mà có thể được xem như các ứng dựng của phương pháp tham lam, bao gồm các giải thuật cây khung nhỏ nhất, thuật toán Dijktra về tìm đường đi ngắn nhất xuất phát từ một đỉnh và thuật toán heuristic phủ tập hợp tham

lam của Chvátal Thuật toán cây khung nhỏ nhất là một ví dụ cổ điển của phương pháp

tham lam

Mặc dù nội dung của tiểu luận được dịch từ Chương 16 trong cuốn Introdution To Algorithms, đây là một cuốn sách được viết khá công phu và kỹ lưỡng của nhóm tác giả Thomas H Cormen, Charles E Leiserson và Ronald L Rivest Tuy nhiên, vì thời gian thực hiện tiểu luận có hạn, đồng thời còn nhiều hạn chế trong vấn đề ngôn ngữ, nên chắc chắn tiểu luận sẽ có nhiều sai sót Rất mong sự góp ý của Thầy và các bạn lớp Cao học ngành Khoa Học Máy Tính khóa 2007 để chúng tôi hoàn chỉnh tiểu luận

Xin chân thành cảm ơn TS Hoàng Quang đã tận tụy giúp đỡ chúng tôi hoàn thành tiểu luận này

MỤC LỤC

LỜI NÓI ĐẦU 2

MỤC LỤC 4

PHẦN 1: BÀI TOÁN CHỌN HOẠT ĐỘNG 5

1.1.Giới thiệu bài toán 5

1.2 Cấu trúc con tối ưu của bài toán chọn hoạt động: 6

1.3 Giải pháp đệ quy: 8

1.4 Biến đổi một giải pháp quy hoạch động thành một giải pháp tham lam: 8

1.5 Giải pháp tham lam đệ quy 10

1.6 Giải pháp tham lam lặp: 11

1.7 Các bài tập liên quan: 14

PHẦN 2: CÁC THÀNH PHẦN CỦA CHIẾN LƯỢC THAM LAM 16

2.1 Tính lựa chọn tham lam: 17

2.2 Cấu trúc con tối ưu 18

2.3 Thuật toán tham lam mâu thuẫn với quy hoạch động 19

2.4 Các bài tập liên quan: 21

PHẦN 3: CÁC MÃ HUFFMAN 23

3.1 Mã tiền tố: 23

3.2 Xây dựng mã Huffman: 25

3.3 Tính đúng đắn của giải thuật Huffman 27

3.4 Các bài tập liên quan: 30

PHẦN 4: CƠ SỞ LÝ THUYẾT CỦA PHƯƠNG PHÁP THAM LAM 32

4.1 Matroid: 32

4.2 Giải thuật tham lam trên một matroid trọng số 34

4.3 Các bài tập liên quan: 38

PHẦN 5: BÀI TOÁN LẬP LỊCH LÀM VIỆC 39

5.1 Bổ đề 16.12 40

5.2 Định lý 16.13 41

5.3 Các bài tập liên quan: 42

CÁC BÀI TẬP TỔNG HỢP 43

CÁC CHÚ Ý TRONG ĐỀ TÀI 46

PHẦN 1: BÀI TOÁN CHỌN HOẠT ĐỘNG 1.1 Giới thiệu bài toán

Bài toán sắp xếp lịch cho nhiều hoạt động với ý nghĩa để có thể sử dụng chung một tài nguyên (mỗi thời điểm chỉ có một hoạt động sử dụng tài nguyên chung), với mục tiêu là sắp xếp sao càng có nhiều hoạt động tương thích sử dụng tài nguyên càng tốt

Giả sử ta có một tập hợp S = {a1,a2, an } là tập các hoạt động muốn sử dụng tài nguyên,

ví dụ một hội trường, chỉ mỗi một hoạt động tại mỗi thời điểm Mỗi hoạt động ai sẽ có thời điểm bắt đầu là si và thời điểm kết thúc là fi, với điều kiện 0 ≤ si < fi < ∞ Nếu hoạt động ai được chọn, thì nó sẽ độc chiếm tài nguyên trong khoảng thời gian [si, fi) Hoạt động ai và aj được gọi là tương thích lẫn nhau nếu như khoảng thời gian [si, fi) và [aj, fj) là không giao nhau (Ví dụ ai và aj là tương thích nếu si ≥ fj hoặc sj ≥ fi ) Trong bài toán chọn hoạt động ta phải chọn tập con lớn nhất của các hoạt động tương thích lẫn nhau Chẳng hạn, xem tập S của các hoạt động sau, mà ta có thể sắp xếp tăng dần theo thời điểm kết thúc

Ta sẽ giải quyết bài toán này trong một vài bước Ta bắt đầu bởi việc đưa ra công thức của giải pháp quy hoạch động đối với bài toán này trong đó ta tổng hợp các giải pháp tối

ưu đối với hai bài toán con để thiết lập giải pháp tối ưu của bài toán gốc Ta có các lựa chọn khi quyết định các bài toán để sử dụng trong một giải pháp tối ưu Sau đó, ta sẽ nhận thấy rằng ta chỉ cần một lựa chọn duy nhất - lựa chọn tham lam - và sau khi ta lựa chọn chỉ còn một bài toán con, một bài toán con còn lại sẽ rỗng Dựa trên những nhận xét này, ta sẽ xây dựng một giải thuật tham lam đệ quy để giải quyết bài toán lập lịch hoạt

động Ta sẽ hoàn thành quá trình xây dựng giải thuật tham lam bởi việc biến đổi giải thuật đệ quy sang giải thuật lặp Mặc dù những bước ta thực hiện trong phần này thể hiện mối liên quan nhiều hơn là tiêu biểu cho sự phát triển của phương pháp tham lam, chúng minh hoạ cho mối quan hệ của phương pháp tham lam và quy hoạch động.

1.2 Cấu trúc con tối ưu của bài toán chọn hoạt động:

Như đã đề cập ở trên, ta bắt đầu bằng phương quy hoạch động để giải quyết bài toán lựa chọn hoạt động Như ở chương 15, bước đầu tiên là tìm ra cấu trúc con tối ưu và sau

đó sử dụng nó để xây dựng một giải pháp tối ưu cho bài toán từ các giải pháp tối ưu cho các bài toán con

Ta nhận thấy rằng ở chương 15 ta cần định nghĩa một không gian thích hợp của bài toán con Ta hãy bắt đầu bằng việc định nghĩa các tập hợp:

Sij = {ak ∈S : fi ≤ sk < fk ≤ sj }Sao cho Sij là một tập con của các hoạt động trong tập S mà có thể bắt đầu sau khi hoạt động ai kết thúc và kết thúc trước hoạt động aj bắt đầu Thật ra, Sij chứa tất cả các hoạt động tương thích với ai và aj và cũng tương thích với tất cả các hoạt động hoàn thành không trễ hơn ai và tất cả các hoạt động bắt đầu không sớm hơn aj bắt đầu Để thuận tiện trong việc biểu diễn bài toán, không mất tính tổng quát, ta thêm vào những hoạt động giả

sử a0 và an+1 với qui ước rằng f0 = 0 và Sn+1 = ∞ Sau đó S = S0.n+1, và phạm vi của i và j được cho bởi 0 ≤ i, j ≤n+1

Ta có thể giới hạn hơn nữa phạm vi của i và j như sau Giả sử rằng các hoạt động đó được sắp xếp theo một thứ tự tăng dần của thời điểm kết thúc:

f0 ≤ f1 ≤ f2 ≤ ≤fn ≤ fn+1 (16.1)

Ta dễ dàng thấy rằng Sij = Ø với i ≥ j Tại sao? Giả sử rằng tồn tại hoạt động ak ∈ Sij

sao cho i ≥ j, vì vậy ai kế tiếp aj trong thứ tự sắp xếp Sau đó ta sẽ có

fi ≤ sk < fk ≤ sj < fj Vì vậy, fi < fj, điều này mâu thuẫn với giả thiết rằng ai kế tiếp aj trong thứ

tự sắp xếp Ta có thể kết luận rằng, ta sắp xếp các hoạt động theo thứ tự tăng dần của thời điểm kết thúc, phạm vi của các bài toán con của ta là chọn một tập con cực đại của các hoạt động tương thích lẫn nhau từ Sij với 0 ≤ i < j ≤ n+1, biết rằng tất cả các Sij khác là đều

Để nhận ra được cấu trúc con của bài toán chọn hoạt động, ta xét một bài toán con khác rỗng Sij, và giả sử rằng một giải pháp đối với Sij tồn tại một hoạt động ak, mà fi ≤ sk <

fk ≤ sj Việc chọn hoạt động ak sẽ phát sinh ra hai bài toán con, Sik (những hoạt động mà bắt đầu sau khi ai kết thúc và kết thúc trước khi ak bắt đầu) và Skj (những hoạt động mà bắt đầu sau khi ak kết thúc và kết thúc trước khi aj bắt đầu), mỗi hoạt đó bao gồm một tập con của các hoạt động trong Sij Giải pháp của ta đối với bài toán Sij là tổng hợp hai giải pháp cho hai bài toán con Sik và Skj, ứng với hoạt động ak Vì vậy số các hoạt động trong giải pháp đối với Sij của ta là kích thước của bài toán Sik, cộng với kích thước của bài toán Skj, cộng với một (cho ak)

Cấu trúc con tối ưu của bài toán này là như sau Nếu Aij là giải pháp tối ưu cho bài toán có chứa các hoạt động ak Thì giải pháp Aik cho Sik và Akj cho Skj được sử dụng trong Sij cũng tối ưu Lý luận cắt và dán thông thường áp dụng Thật vậy, nếu tồn tại một giải pháp A'ik cho Sik chứa nhiều hoạt động hơn Aik, ta có thể thay Aik bởi A'ik trong Aij, ta sẽ tìm

ra một giải pháp khác đối với Sij có nhiều hoạt động hơn Aij Điều này trái với giả thiết ta

co rằng Aij là giải pháp tối ưu đối với Sij Tương tự, nếu ta có một giải pháp A'kj đối với Skj với nhiều hoạt động hơn Akj, ta có thể thay thế Akj bởi A'kj để đưa ra một giải pháp cho Sij với nhiều hoạt động hơn Aij

Bây giờ ta sử dụng cấu trúc con tối ưu để chỉ ra rằng có thể xây dựng một giải pháp tối ưu cho bài toán từ những giải pháp tối ưu đối với những bài toán con Ta đã thấy rằng giải pháp nào đó cho bài toán con khác rỗng Sij có chứa hoạt động ak, và giải pháp tối ưu bất kỳ đó chứa trong nó những giải pháp tối ưu đối với bài toán con Sik và Skj Vì vậy, ta

có thể xây dựng một tập con cực đại của những hoạt động tương thích lẫn nhau trong Sij bởi việc phân chia bài toán thành hai bài toán con (tìm tập con lớn nhất của các hoạt động tương thích lẫn nhau trong Sik và Skj ), tìm ra những tập con lớn nhất Aik và Akj của những hoạt động tương thích lẫn nhau đối với những bài toán con này, và thành lập tập con lớn nhất Aij của các hoạt động tương thích lẫn nhau như:

Aij = Aik U {ak } U Akj (16.2) Giải pháp tối ưu cho bài toán chính là giải pháp cho S0,n+1

1.3 Giải pháp đệ quy:

Bước thứ hai trong việc phát triển giải pháp quy hoạch động là định nghĩa một cách

đệ quy giá trị của giải pháp tối ưu Đối với những bài toán chọn hoạt động, gọi c[i,j] là số các hoạt động trong tập con lớn nhất chứa các hoạt động tương thích lẫn nhau trong Sij

Ta có c[i,j] = 0 khi Sij = Ø, hoặc c[i,j] = 0 khi i ≥ j

Xét một tập con Sij khác rỗng Như ta đã thấy, nếu ak được sử dụng trong tập con lớn nhất các hoạt động tương thích lẫn nhau của Sij, Ta cũng sử dụng các tập con lớn nhất của các hoạt động tương thích lẫn nhau cho các bài toán con Sik và Skj Dùng công thức (16.2),

ta có công thức c[i,j] = c[i,k] + c[k,j] + 1

Công thức đệ quy này cho thấy rằng ta biết giá trị của k, mà ta không biết Ta có i-j-1 giá trị có thể chấp nhận cho k, cụ thể là k = i+1, , j-1 Vì tập con lớn nhất của Sij phải dùng một trong những giá trị này của k, ta phải kiểm tra tất cả chúng để tìm ra giá trị tốt nhất Vì vậy công thức đệ quy đầy đủ của c[i,j] trở thành:

(16.3)

1.4 Biến đổi một giải pháp quy hoạch động thành một giải pháp tham lam:

Tại điểm này, nó sẽ là một bài tập dễ hiểu lập một cái bảng, từ dưới lên, thuật toán quy hoạch động dựa trên công thức (16.3) Thực ra, bài tập 16.1-1 yêu cầu bạn thực hiện điều này Có hai sự xác định then chốt, tuy nhiên, điều này cho phép ta đơn giản hoá giải pháp của ta

b Chứng minh:

Ta chứng minh phần hai trước vì đơn giản hơn Giả sử rằng Sim là khác rỗng, do đó có một hoạt động ak nào đó sao cho fi ≤ sk < fk ≤ sm < fm Mà ak cũng nằm trong Sij và nó có thời gian kết thúc sớm hơn am, điều này mâu thuẫn với việc chọn am Ta kết luận rằng Sim là rỗng

Để chứng minh phần thứ nhất, ta giả sử rằng, Aij là một tập con lớn nhất của các hoạt động tương thích lẫn nhau của Sij, và ta sắp xếp các hoạt động của Aij theo thứ tự tăng dần của thời điểm kết thúc Gọi ak là hoạt động đầu tiên trong Aij Nếu a k = a m, thì ta đã chứng minh được, chỉ ra rằng am được sử dụng trong tập con lớn nhất nào đó của các hoạt động tương thích lẫn nhau của Sij Nếu ak ≠ a m, ta xây dựng tập con A’ij = Aij – {ak} ∪ {am} các hoạt động trong A’ij thì tách rời nhau, các hoạt động trong Aij thì, ak là hoạt động kết thúc đầu tiên trong Aij, và fm ≤ fk Chú ý rằng A’ij có số hoạt động giống như Aij, ta thấy rằng A’ij cũng là một tập con lớn nhất của các hoạt động tương thích lẫn nhau của Sij mà có chứa am

Tại sao định lý 16.1 có giá trị? Quay về phần 15.3 cấu trúc con tối ưu làm thay đổi cách nhiều bài toán được sử dụng trong giải pháp tối ưu để đến bài toán gốc và trong nhiều cách chọn ta có xác định những bài toán con để sử dụng Trong giải pháp quy hoạch động, hai bài toán con được sử dụng trong giải pháp tối ưu, và có j-i-1 cách chọn khi giải quyết bài toán con Sij Định lý 16.1 giảm cả số lượng lớn đáng kể này: chỉ duy nhất một bài toán con được sử dụng trong giải pháp tối ưu (một bài toán con khác thì là rỗng), và khi giải quyết bài toán con Sij, ta cần xem duy nhất một cách chọn: một cách với thời gian kết thúc sớm nhất trong Sij May mắn thay, ta có thể dễ dàng xác định đây là hoạt động nào

Cùng với việc giảm số các bài toán con và số cách chọn, định lý 16.1 cung cấp một lợi ích khác: ta có thể giải quyết mỗi bài toán con theo kiểu từ trên xuống (top-down), hơn là kiểu từ dưới lên (bottom-up) sử dụng điển hình trong quy hoạch động Để giải quyết bài toán con Sij, ta chọn hoạt động am trong Sij với thời gian kết thúc sớm nhất và thêm vào giải pháp này một tập của các hoạt động dùng trong giải pháp tối ưu đối với bài toán con Sij Bởi vì ta biết rằng, có chọn am, ta sẽ được sử dụng một giải pháp nào đó cho Smj trong giải pháp tối ưu của ta cho Sij, ta không cần giải quyết Smj trước việc giải quyết Sij Để

giải quyết Sij, ta có thể chọn am trước tiên như hoạt động trong Sij với thời điểm kết thúc sớm nhất và sau đó giải quyết Smj.

Cũng chú ý rằng có một mô hình đối với những bài toán con mà ta giải quyết Bài

toán ban đầu của ta là S =S0,n+1 Giả sử rằng chọn am1 là hoạt động trong S0,n+1 với thời điểm kết thúc sớm nhất (Từ việc sắp xếp các hoạt động theo thứ tự thời điểm kết thúc tăng dần và f0 = 0, ta phải có m1 = 1.) Bài toán con tiếp theo là Sm1,n+1 Bây giờ giả sử rằng

ta chọn am2 là hoạt động trong Sm1,n+1 với thời điểm kết thúc sớm nhất (Nó không cần thiết trong trường hợp m2 = 2) Bài toán con tiếp theo là Sm2,n+1 Tiếp theo, ta thấy rằng mỗi bài toán con sẽ có dạng Sm i,n+1 cho số hoạt động mi nào đó Tóm lại, mỗi bài toán con gồm có các hoạt động cuối cùng để kết thúc, và một số các hoạt động biến đổi từ bài toán con này đến bài toán con khác

Cũng có một mô hình đối với các hoạt động mà ta chọn Bởi vì ta luôn luôn chọn hoạt động với thời điểm kết thúc sớm nhất trong Sm i,n+1, thời điểm kết thúc của các hoạt động được chọn qua tất cả các bài toán con sẽ làm gia tăng nghiêm trọng thời gian Tuy nhiên,

ta có thể xem như mỗi hoạt động là một toàn diện, trong việc sắp xếp tăng dần của thời điểm kết thúc

Hoạt động am mà ta chọn khi giải quyết một bài toán con thì luôn là một hoạt động với thời điểm kết thúc sớm nhất mà có thể được lập lịch hợp lý Hoạt động được chọn như vậy là chọn lựa “tham lam” trong hướng này, qua trực giác, nó để lại nhiều cơ hội có thể cho những hoạt động còn lại để lập lịch Đó là, lựa chọn tham lam là một cách mà cực đại hoá số lượng đáng kể của thời gian còn lại chưa lập lịch

1.5 Giải pháp tham lam đệ quy

Bây giờ ta đã thấy cách tổ chức hiệu quả giải pháp quy hoạch động, và cách xử lý nó theo phương pháp từ trên xuống, ta xem một giải thuật mà nó hoạt động một cách thuần tuý trong thuật toán tham lam, kiểu từ trên xuống Dễ hiểu, một giải thuật đệ quy như là thủ tục RECURSIVE-ACTIVITY-SELECTOR Nó lấy thời điểm bắt đầu và kết thúc của các hoạt động, được trình bày như các mảng s và f, xem như những chỉ số bắt đầu i và n

mà nó định nghĩa bài toán con Si,n+1 nó là để giải quyết (Tham số n chỉ hoạt động thực tế

trong bài toán con) Nó trả về một tập lớn nhất của các hoạt động tương thích lẫn nhau trong Si,n+1 Ta cho rằng n hoạt động đưa vào được sắp xếp theo thời điểm kết thúc tăng dần, theo công thức (16.1) nếu không, ta có thể sắp xếp chúng theo thứ tự này với độ phức tạp O(nlgn), phá vỡ sự ràng buộc một cách tuỳ tiện Lời gọi ban đầu là

Minh hoạ 16.1 chỉ ra sự thực hiện của thuật toán Trong việc gọi đệ quy của

RECURSIVE-ACTIVITY-SELECTOR(s,f,i,n), vòng lặp while của dòng 2-3 tìm kiếm

hoạt động đầu tiên trong vòng lặp ví dụ ai+1, ai+2, …, an, cho đến khi nó tím thấy hoạt động đầu tiên am mà tương thích với ai, một hoạt động như vậy có Sm ≥fi Nếu vòng lặp giới hạn bởi nó tìm thấy một hoạt động như vậy giải thuật quay lại dòng 5 sự kết hợp của {am} và tập con cực đại của Sm,n+1 quay lại bởi việc gọi đệ quy RECURSIVE-ACTIVITY-

SELECTOR(s,f,m,n) Một cách lựa chọn, vòng lặp có thể giới hạn bởi m>n, trong trường

hợp này ta đã có kiểm tra tất cả các hoạt động mà không tìm thấy một hoạt động nào tương thích với ai Trong trường hợp này Si,n+1= ∅, vì vậy giải thuật sẽ trả về ∅ ở dòng 6

1.6 Giải pháp tham lam lặp:

Ta dễ dàng chuyển đổi giải thuật đệ quy thành giải thuật lặp Giải thuật RECURSIVE-ACTIVITY-SELECTOR thì hầu như “đệ qui yếu“ (xem bài toán 7-4): nó kết thúc với lời gọi đệ quy chính nó theo một sự thực hiện kết hợp Dễ dàng để thay đổi một giải thuật đệ qui yếu thành giải thuật lặp, thật ra, một số trình biên dịch cho ngôn ngữ lập trình bất kỳ thực hiện công việc này một cách tự động Như đã được viết, RECURSIVE-ACTIVITY-SELECTOR thực hiện cho các bài toán con Si,n+1…, những bài toán con mà có các hoạt động kết thúc cuối cùng

Giải thuật GREEDY-ACTIVITY-SELECTOR là một phiên bản lặp của giải thuật RECURSIVE-ACTIVITY-SELECTOR, ở đây cũng giả sử các hoạt động đầu vào được sắp xếp theo thời điểm kết thúc tăng dần Nó tập hợp các hoạt động được chọn vào một tập A và quay lại tập này khi nó đã được thực hiện xong.

Hình 16.1 Sự thực hiện của RECURSIVE-ACTIVITY-SELECTOR trong hoạt động 11

được cho sớm hơn Các hoạt động đã được xem trong mỗi lời đệ quy xuất hiện giữa những đường kẻ ngang Hoạt động không có thật a 0 kết thúc tại thời điểm 0, và trong lời gọi ban đầu RECURSIVE-ACTIVITY-SELECTOR (s,f,0,11), hoạt động a 1 được chọn Trong mỗi lời gọi đệ quy, những hoạt động mà đã được chọn được tô đen, và các hoạt động tmàu tô trắng đang được xem xét Nếu thời gian bắt đầu của một hoạt động xảy ra trước thời gian kêt thúc của hoạt động mới được chọn (mũi tên giữa chúng chỉ sang trái),

nó bị loại Trái lại (mũi tên chỉ trực tiếp hay qua phải), nó được chọn Lời gọi đệ quy cuối cùng, RECURSIVE-ACTIVITY-SELECTOR (s, f, 0, 11) trả về Ø Tập kết quả của các hoạt động được chọn là{a 1 , a 4 , a 8 , a 11 }.

fi = max{fk : ak ∈A} (16.4)

Dòng 2-3 chọn hoạt động ai, ban đầu A chỉ chứa chỉ một hoạt động này, và khởi đầu i

là chỉ số hoạt động này Vòng lặp for ở các dòng 4-7 tìm thấy hoạt động kết thúc sớm nhất trong S i ,n+1 Vòng lặp xem xét mỗi hoạt động am trong vòng lặp và thêm am vào A

nếu nó tương thích với tất cả các hoạt động được chọn trước đó Một hoạt động như vậy

là hoạt động kết thúc sớm nhất trong Si ,n+1 Để thấy nếu hoạt động am là tương thích với mỗi hoạt động hiện tại trong A, nó đáp ứng bởi phương trình (16.4) để kiểm tra (dòng 5) rằng thời điểm bắt đầu của nó Sm thì không sớm hơn thời điểm kết thúc fi của hoạt động thêm vào A gần đây nhất nếu hoạt động am tương thích, thì các dòng 6-7 thêm hoạt động

am vào A và thiết lập i đến m Tập A quay lại bởi lời gọi

GREEDY-ACTIVITY-SELECTOR(s,f) là chính xác tập được quay lại bởi lời gọi SELECTOR(s,f, 0, n ).

RECURSIVE-ACTIVITY-Giống như phiên bản đệ quy, GREEDY-ACTIVITY-SELECTOR lập lịch một tập của

n hoạt động với độ phức tạp là O(n) thời gian, giả sử rằng các hoạt động ban đầu đã được sắp xếp theo thời điểm kết thúc của chúng

1.7 Các bài tập liên quan:

Bài 1: Đưa ra thuật toán quy hoạch động cho bài toán chọn hoạt động, dựa trên công thức

(16.3) Có thuật toán của bạn tính toán kích cỡ c[i,j] như định nghĩa trên và cũng đưa ra

tập con lớn nhất A của các hoạt động Giả sử rằng các giá trị vào đã được sắp xếp theo công thức (16.1) So sánh thời gian thực hiện giải thuật của bạn với thời gian thực hiện của GREEDY-ACTIVITY-SELECTOR

Bài 2: Giả sử rằng thay vì luôn luôn chọn hoạt động kết thúc đầu tiên, ta thay thế chọn hoạt động cuối cùng để bắt đầu mà nó tương thích với tất cả các hoạt động được chọn trước đó Mô tả cách thực hiện này là thuật toán tham lam, và chứng tỏ rằng nó sinh ra một giải pháp tối ưu

Bài 3: Giả sử ta có một tập của các hoạt động để lập lịch trong một số luợng lớn của các

hội trường Ta lập lịch tất cả các hoạt động sử dụng các hội trường càng ít càng tốt Nêu

ra thuật toán tham lam hiệu quả để xác định hoạt động nào sẽ sử dụng hội trường nào

(Điều này cũng được gọi là bài toán tô màu đồ thị quãng Ta có thể tạo ra một đồ thị

quãng mà các đỉnh của nó là các hoạt đông đã cho và các cạnh của nó nối với các hoạt động không tương thích Số lượng màu nhỏ nhất cần có để tô màu mọi đỉnh sao cho không có hai đỉnh liền kề được tô cùng màu giống nhau sẽ tương ứng với việc tìm số phòng ít nhất cần có để lập lịch cho tất cả các hoạt động đã cho)

Bài 4: Không phải bất kỳ cách tiếp cận giải pháp tham lam nào cho bài toán chọn hoạt

động cũng đều tạo ra một tập lớn nhất của các hoạt động tương thích lẫn nhau Hãy nêu một ví dụ để chứng tỏ không thể dùng cách tiếp cận lựa chọn hoạt động với thời gian nhỏ nhất trong số các hoạt động tương thích với các hoạt động đã lựa chọn trước đó Làm tương tự với cách tiếp cận luôn lựa chọn hoạt động tương thích mà lấn lên những hoạt động còn lại khác ít nhất và luôn luôn lựa chọn hoạt động còn lại với thời điểm bắt đầu sớm nhất

PHẦN 2: CÁC THÀNH PHẦN CỦA CHIẾN LƯỢC THAM LAM

Thuật toán tham lam có được một giải pháp tối ưu cho một bài toán bằng cách thực hiện một chuỗi các lựa chọn Đối với mỗi quyết định chỉ ra trong thuật toán, sự lựa chọn này dường như tốt nhất tại thời điểm được chọn Chiến lược phỏng đoán này không luôn tạo ra giải pháp tối ưu, nhưng như ta đã thấy trong bài toán chọn hoạt động, thỉnh thoảng

nó giải quyết được Phần này thảo luận một số tính chất tổng quát của phương pháp tham lam

Quy trình mà ta đã thực hiện trong phần 16.1 để phát triển thuật toán tham lam là bao hàm nhiều hơn là điển hình Ta đi qua từng bước như sau:

1 Xác định cấu trúc bên trong tối ưu của bài toán

2 Xây dựng một giải pháp đệ quy

3 Chứng minh rằng tại mỗi bước của giải thuật đệ quy, lựa chọn tham lam là một trong những lựa chọn sẽ dẫn đến kết quả tối ưu

4 Chỉ ra rằng sau mỗi lần chọn tham lam thì một trong những bài toán con sẽ rỗng

5 Xây dựng giải thuật đệ quy cho chiến lược tham lam

6 Biến đổi giải thuật đệ quy thành giải thuật lặp

Qua các bước này, ta đã thấy chi tiết cơ bản nguồn gốc quy hoạch động của thuật toán tham lam Trong thực tế, tuy nhiên, ta thường tổ chức hiệu quả các bước trên khi thiết kế giải thuật tham lam Ta phát triển cấu trúc con với một cái nhìn hướng đến thực hiện lựa chọn tham lam mà để lại một bài toán con được giải quyết một cách tối ưu Ví dụ, trong bài toán chọn hoạt động, ta trước tiên định nghĩa bài toán con Sij, mà cả hai i và j khác nhau Ta đã thấy rằng nếu ta luôn thực hiện lựa chọn tham lam, ta có thể giới hạn các bài toán con được thành lập bởi Si,n+1

Như một sự lựa chọn, ta có thể tạo nên cấu trúc con tối ưu với một lựa chọn tham lam

có nghĩa Điều đó là, ta có thể bỏ qua chỉ số dưới thứ hai và định nghĩa các bài toán con

của công thức S i = {a k ∈S : f i ≤ S k} Sau đó, ta có thể chứng minh rằng một lựa chọn tham

lam (hoạt động đầu tiên am để kết thúc Si ), kết hợp với một giải pháp tối ưu để đi đến tập

còn lại Sm của các hoạt động tương thích, mang lại một giải pháp tối ưu đối với Si Tổng quát hơn, ta thiết kế thuật toán tham lam theo chuỗi các bước:

1 Tìm lựa chọn sao cho bước tiếp theo chỉ việc giải quyết một bài toán con

2 Chứng minh rằng với sự lựa chọn tham lam tại mỗi bước ta luôn tìm được một giải pháp tối ưu của bài toán ban đầu

3 Chỉ ra rằng, với sự lựa chọn tham lam tại mỗi bước, giải pháp tối ưu của bài toán con còn lại kết hợp với sự lựa chọn tham lam này sẽ đi đến một giải pháp tối ưu cho bài toán ban đầu

Ta sẽ sử dụng điều này nhiều hơn nhằm xử lý trong những phần sau của chương này Tuy nhiên, dưới mỗi thuật toán tham lam, hầu như luôn có một giải thuật quy hoạch động cồng kềnh

Có thể nói một cách như thế nào nếu một giải thuật tham lam sẽ giải quyết được một bài toán tối ưu riêng biệt? Không có cách tổng quát, nhưng chiến lược lựa chọn tham lam

và cấu trúc con tối ưu là hai thành phần then chốt Nếu ta có thể chứng minh rằng bài toán có các thuộc tính này, sau đó ta thuận lợi trong cách xây dựng một thuật toán tham lam cho nó

2.1 Tính lựa chọn tham lam:

Thành phần then chốt trước tiên là tính lựa chọn tham lam: một giải pháp tôi ưu toàn cục có thể đạt được bằng cách lựa chọn tối ưu cục bộ (tham lam) Nói một cách khác, khi

có nhiều sự lựa chọn thì ta lựa chọn phương án nào tốt nhất ở hiện tại trong bài toán hiện tại, mà không cần quan tâm đến kết quả các bài toán con của nó

Đây là chỗ khác nhau giữa các thuật toán tham lam và quy hoạch động Trong quy hoạch động tại mỗi bước ta thực hiện một lựa chọn, nhưng sự lựa chọn phụ thuộc vào các giải pháp cho các bài toán con Do đó, ta giải quyết một cách tiêu biểu các bài toán quy hoạch động theo kiểu từ dưới lên, nghĩa là lần lượt xử lý những bài toán con nhỏ hơn đến những bài toán con lớn hơn Trong giải thuật tham lam, ta thực hiện cách chọn bất kỳ dường như tốt nhất ngay lập tức và sau đó giải quyết bài toán con xuất hiện sau khi lựa chọn được thực hiện Lựa chọn được thực hiện bởi một thuật toán tham lam có lẽ phụ thuộc vào các lựa chọn cho đến giờ, nhưng nó không thể phụ thuộc vào những lựa chọn

bất kỳ trong tương lai hay những giải pháp cho các bài toán con Vì vậy, không giống quy hoạch động, nó giải quyết các bài toán con từ dưới lên, một chiến lược tham lam thường giải quyết theo kiểu từ trên xuống, thực hiện một lựa chọn tham lam sau một chọn lựa khác, liên tục rút gọn từng trường hợp bài toán đã cho thành một bài toán nhỏ hơn.

Dĩ nhiên, ta phải chứng minh rằng một lựa chọn tham lam tại mỗi bước đưa ra một giải pháp tối ưu toàn cục, và đây là nơi cần có sự thông minh Điển hình, như trong trường hợp của định lý 16.1, sự chứng minh kiểm tra một giải thuật tối ưu toàn cục đối với một bài toán con nào đó Rồi nó chỉ ra rằng giải thuật có thể được sửa đổi để sử dụng lựa chọn tham lam, kết quả trong một bài toán tương tự nhưng bài toán con nhỏ hơn.Thuộc tính lựa chọn tham lam thường đạt được hiệu lực trong việc thực hiện lựa chọn của ta trong bài toán con Ví dụ, trong bài toán chọn hoạt động, giả sử rằng ta có các hoạt động được sắp xếp sẵn theo thứ tự tăng dần của thời điểm kết thúc, ta cần kiểm tra mỗi một hoạt động Nó thường là trường hợp mà được xử lý trước khi đưa vào hay sử dụng một cấu trúc dữ liệu thích hợp (thường một hàng đợi ưu thế), ta có thể thực hiện các lựa chọn tham lam nhanh chóng, vì vậy đưa ra một thuật toán hiệu quả

2.2 Cấu trúc con tối ưu

Một bài toán có cấu trúc con tối ưu nếu giải pháp tối ưu cho bài toán này chứa trong

nó các giải pháp tối ưu cho các bài toán con Thuộc tính này là điểm để quyết định ta có thể giải quyết bài toán bằng phương pháp quy hoạch động cũng như tham lam được hay không Như một ví dụ của cấu trúc con tối ưu, quay về cách ta chứng minh trong phần 16.1 rằng nếu một giải pháp tối ưu đối với bài toán con Sij có chứa một hoạt động ak, sau

đó nó cũng phải chứa các giải pháp tối ưu đối với các bài toán S ik và S kj Cấu trúc con tối

ưu này được đưa ra, ta nói rằng nếu biết hoạt động nào sử dụng như ak, ta có thể xây dựng một giải pháp tối ưu đối với Sij bằng việc lựa chọn cùng với tất cả hoạt động của các giải pháp tối ưu đối với các bài toán con Sik và Skj Dựa trên sự quan sát này của cấu trúc con tối ưu, ta có thể đưa ra công thức đệ quy (16.3) mà nó định rõ giá trị của một giải pháp tối ưu

Ta thường sử dụng thêm cấu trúc con tối ưu gần như trực tiếp, khi áp dụng nó đối với các giải thuật tham lam Như sự chú ý ở trên, ta không cần thiết cho rằng đi đến một bài

cần làm là cho rằng một giải pháp tối ưu đối với bài toán con, kết hợp với lựa chọn tham lam vừa được thực hiện, mang lại một giải pháp tối ưu đối với bài toán ban đầu Sự phối hợp hoàn toàn sử dụng phương pháp quy nạp đối với các bài toán con để chứng mỉnh rằng việc sử dụng lựa chọn tham lam tại mỗi bước tạo ra một giải pháp tối ưu.

2.3 Thuật toán tham lam mâu thuẫn với quy hoạch động

Bởi vì thuộc tính cấu trúc con tối ưu được khai thác cả trong chiến lược tham lam và quy hoạch động Một mặt ta có thể có khuynh hướng phát sinh một giải thuật quy hoạch động cho một bài toán khi chỉ một giải thuật tham lam là đủ, hoặc ta có thể lầm lẫn khi nghĩ rằng giải thuật tham lam sẽ làm việc khi thực tế lại cần một giải pháp quy hoạch động Minh hoạ cho sự tinh tế giữa hai phương pháp, ta hãy khám phá hai biến thể của một bài toán tối ưu hoá cổ điển

Bài toán chiếc ba lô 0-1 được đưa ra như sau Một tên trộm lấy trộm tại một cửa hiệu

với n đồ vật, đồ vật thứ i có giá trị vi dollar và có trọng lượng wi pound, vi và wi là các số nguyên Hắn ta muốn lấy một tải trọng càng có giá trị càng tốt, nhưng hắn ta chỉ mang được nhiều nhất là W pound trong chiếc ba lô cho m của mình cho vài số nguyên W Những món hàng nào hắn ta phải lấy? (Đây được gọi là bài toán chiếc ba lô 0-1 bởi vì mỗi một món hàng hoặc là được lấy hoặc để lại; tên trộm khhông thể lấy một phần trong một món hàng hay lấy một món hàng nhiều hơn một lần.)

Trong bài toán chiếc ba lô phân số, thiết lập giống như vậy, nhưng tên trộm có thể

lấy một số phần trong các món hàng; Hơn là thực hiện cách chọn lựa nhị phân (0-1) cho mỗi món hàng Bạn có thể nghĩ mỗi một món hàng trong bài toán chiếc ba lô (0-1) giống như một thỏi vàng, trong khi đó mỗi món hàng trong bài toán chiếc ba lô phân số thì giống bụi vàng hơn

Cả hai bài toán chiếc ba lô thể hiện thuộc tính cấu trúc con tối ưu Trong bài toán 0-1, xem như tải trọng có giá trị lớn nhất cân nặng nhiều nhất là W pouds Nếu ta bỏ món hàng

j ra khỏiẩtỉ trọng này, tải trọng còn lại phải là tải trọng có giá trị nhất cân nặng nhiều nhất

là W–wj mà tên trộm có thể lấy từ n-1 món hàng ban đầu loại ra món hàng j Trong bài toán chiếc ba lô phân số tương thích, giả sử rằng nếu ta bỏ lại trọng lượng w của một món hàng j khỏi tải trọng tối ưu, tải trọng còn lại phải là tải trọng có giá trị nhất cân nặng

nhiều nhất là W-w mà tên trộm có thể lấy từ n-1 món hàng ban đầu cộng với wj-w pound của món hàng j.

Mặc dù các bài toán là tương tự nhau, bài toán chiếc ba lô phân số có thể được giải quyết bằng chiến lược tham lam, nhưng ngược lại bài toán 0-1 thì không Để giải quyết bài toán phân số, ta trước tiên tính toán đơn giá của mỗi pound vi /wi cho mỗi món hàng Tuân theo chiến lược tham lam, tên trộm bắt đầu lấy càng nhiều càng tốt món hàng với đơn giá cao nhất Nếu sự cung cấp của món hàng đó đã hết và hắn ta có thể mang thêm nữa, hắn ta lấy càng nhiều càng tốt như món hàng với đơn giá cáo nhất tiếp theo, tiếp tục cho đến khi hắn ta không thể mang được nữa Vì vậy, việc sắp xếp các món hàng theo đơn giá, thuật toán tham lam chạy với độ phức tạp O(nlogn) thời gian Sự chứng minh rằng bài toán chiếc ba lô phân số có chiến lược lựa chọn tham lam được để lại cho bài tập 16.2-1

Hình 16.2: Chiến lược tham lam không thực hiện trong bài toán chiếc ba lô 0-1 (a)

tên trộm phải chọn một tập con của ba món hàng mà khối lượng của chúng không vượt quá 50 pound (b) Tập con tối ưu bao gồm món hàng 2 và 3 Giải pháp bất kỳ có món hàng 1 là không tối ưu, mặc dù món hàng 1 có đơn giá lớn nhất (c) trong bài toán chiếc

ba lô phân số, lấy các món hàng theo thứ tự sắp xếp đơn giá lớn nhất của mỗi pound của các món hàng đưa lại một giải pháp tối ưu.

Để thấy rằng chiến lược tham lam này không thực hiện cho bài toán chiếc ba lô 0-1, xem trường hợp của bài toán đựoc minh hoạ trong hình 16.2(a) Có 3 món hàng, và cái ba

lô có thể chứa 50 pound Món hàng 1 nặng 10 pound có giá tri 60 dollar Món hàng 2 nặng 20 pound và có giá trị 100 dollar Món hàng 3 nặng 30 pound và có giá trị 120 dollar Vì vậy, đơn giá của món hàng 1 là 6 dollar mỗi pound, nó lớn hơn đơn giá của

món hàng 2 (5 dollar mỗi pound) hay cả món hàng 3 (4 dollar mỗi pound) Chiến lược tham lam, bởi vậy, sẽ lấy món hàng 1 trước tiên Như có thể thấy từ sự phân tích ở hình 16.2(b) Tuy nhiên, giải thuật tối ưu lấy món hàng 2 và 3, để lại 1 Hai giải thuật có khả năng mà bao gồm món hàng 1 là đều không tối ưu

Tuy nhiên, trong bài toán phân số tương ứng, chiến lược tham lam, lấy món hàng 1 trước tiên, mang lại một giải thuật tối ưu, như biểu diễn ở hình 16.2(c) Việc lấy món hàng 1 không thực hiện trong bài toán 0-1 bởi vì tên trộm không thể làm đầy ba lô của hắn đối với sức chứa, và khoảng trống hạ thấp giá trị hiệu qủa của mỗi pound của tải trọng của hắn Trong bài toán 0-1, khi ta xem một món hàng cho vào chiếc ba lô, ta phải

so sánh giải thuật đối với bài toán con trong đó món hàng được tính đến với giải thuật đối vơi bài toán con trong đó món hàng được tính đến trước khi ta có thể thực hiện lựa chọn Bài toán được thành lập theo cách này làm tăng lên đối với nhiều bài toán con phủ chồng

- một dấu chất lượng của quy hoạch động,và thực vậy, quy hoạch động có thể được sử dụng để giải quyết bài toán 0-1.(Xem bài tập 16.2-2)

2.4 Các bài tập liên quan:

Bài 1: Chứng minh rằng bài toán chiếc ba lô phân số có chiến lược lựa chọn tham lam.

Bài 2: Đưa ra một giải pháp quy hoạch động cho bài toán chiếc ba lô 0-1 chạy trong

O(nW) thời gian, với điều kiện n là số các món hàng và W là trọng lượng tối đa của các món hàng mà tên trộm có thể cho vào chiếc ba lô của hắn

Bài 3: Giả sử rằng trong bài toán chiếc ba lô 0-1, xem như trật tự khi sắp xếp các món

hàng theo sự tăng dần của trọng lượng giống như thứ tự khi sắp xếp theo sự giảm dần của giá trị Đưa ra một thuật toán hiệu quả để tìm một giải pháp tối ưu đối với biến thể này,

và chứng tỏ rằng thuật toán của bạn là đúng

Bài 4: Giáo sư Midas lái xe ô tô từ Newark đến Reno dọc theo 80 Interstate 80 Thùng xăng xe của ông ấy, khi đầy, đủ để chạy được n dặm, và bản đồ của ông ấy cho thấy các khoảng cách giữa các trạm xăng trên tuyến trình của ông Giáo sư muốn dừng càng ít điểm càng tốt Nêu ra một phương pháp hiệu quả mà giáo sư Midas có thể quyết định những trạm xăng mà ông ta dừng, và chứng minh rằng chiến thuật của bạn mang lại một giải pháp tối ưu

Bài 5: Mô tả một giải thuật hiệu quả mà, cho một tập {x1, x2,…,xn } các điểm trên một đường thẳng thực, Xác định tập nhỏ nhất gồm các quãng đóng có chiều dài đơn vị mà chứa tất cả các điểm đã cho Chứng tỏ rằng thuật toán của bạn là đúng

Bài 6: Chỉ ra cách giải quyết bài toán chiếc ba lô phân số trong O(n) thời gian Kết luận rằng bạn

có một giải pháp đối với bài toán 9-2

Bài 7: Giả sử bạn cho hai tập A và B, mỗi tập chứa n số thực Bạn có thể chọn để sắp xếp

lại mỗi tập khi bạn thích Sau khi sắp xếp lại, đặt ai là phần tử thứ i của tập A và đặt bi là phần tử thứ i của tập B Sau đó bạn nhận được tỷ lệ phần trăm của n1 b i

i

i= a

∏ Chứng minh rằng Giải thuật của bạn đạt được tối đa tỷ lệ phần trăm, và nói rõ số lần chạy của nó

PHẦN 3: CÁC MÃ HUFFMAN

Các mã Hufman là phương pháp hiệu quả và được sử dụng một cách rộng rãi trong việc nén dữ liệu, thường tiết kiệm từ 20% đến 90%, phụ thuộc vào đặc tính của tập tin được nén Ta xem như dữ liệu đó là một chuỗi các ký tự Giải pháp tham lam của Huffman sử dụng một bảng gồm các tần số xuất hiện của các ký tự để xây dựng nên một cách biểu diễn tối ưu mỗi ký tự dưới dạng một chuỗi nhị phân

Giả sử ta có tập tin dữ liệu gồm 100,000 ký tự mà ta muốn lưu trữ ở dạng nén Ta nhận thấy rằng những ký tự trong tập tin đó xuất hiện với tần số được cho bởi minh hoạ 16.3 Tức là, chỉ có 6 ký tự khác nhau xuất hiện, và ký tự a xuất hiện 45,000 lần

Có rất nhiều cách để biểu diễn thông tin của một tập tin nào đó Ta xét bài toán thiết

kế mã ký tự nhị phân (hoặc gọi tắt là mã) ở khía cạnh nào đó mỗi ký tự được biểu diễn bởi một chuỗi nhị phân duy nhất Nếu ta sử dụng mã có chiều dài cố định, ta cần 3 bit để

biểu diễn 6 ký tự: a = 000, b = 001, , f = 101 Phương pháp này yêu cầu có 300,000 bit

để mã hoá toàn bộ tập tin đó Ta có thể làm điều này tốt hơn không?

Mã có chiều dài bất định có thể thực hiện tốt hơn đáng kể so với mã có chiều dài cố định, bằng cách cho những từ mã ký tự ngắn thường xuyên và những từ mã ký tự dài

không thường xuyên Minh hoạ 16.3 chỉ ra một cách mã hoá như thế; ở đây chuỗi 1 bit 0 biểu diễn a, và chuỗi 4 bit 1100 biểu diễn f Cách mã hoá này cần:

(45.1 + 13.3 + 12.3 + 16.3 + 9.4 + 5.4).1,000 = 224,000 bit

để biểu diễn tập tin đó, tiết kiệm khoảng chừng 25% Thật vậy, đây là cách mã hoá tối ưu cho tập tin này, như ta thấy

3.1 Mã tiền tố:

Ở đây ta chỉ xét những mã trong đó không có từ mã nào là tiền tố của vài từ mã khác

Những mã này được gọi là mã tiền tố Điều này có thể chỉ ra rằng việc nén dữ liệu tối ưu

có thể thực hiện được bằng việc mã hoá ký tự có thể luôn luôn được hoàn thành với một

mã tiền tố, vì vậy không mất tính tổng quát trong việc giới hạn sự chú ý đến mã tiền tố.Việc giải mã luôn luôn đơn giản đối với bất cứ mã ký tự nhị phận nào; ta chỉ việc ghép nối các từ mã biểu diễn mỗi ký tự của tập tin đó với nhau Ví dụ, với mã tiền tố có