phân tích trình LZW 15 nhằm mô phỏng thuật toàn kỹ thuật nén dữ liệu.doc.DOC

phân tích trình LZW 15 nhằm mô phỏng thuật toàn kỹ thuật nén dữ liệu

Lời nói đầu

Ngày nay, cùng với sự phát triển không ngừng của khoa học và công nghệ thì máy tính đóng vai trò không thể thiếu trong cuộc sống xã hội loài ngời

Việc trao đổi thông tin của con ngời trong tất cả các ngành, các lĩnh vực của đời sống ngày càng trở nên cấp thiết và quan trọng, chính vì thế mà các thiết bị thông tin mới liên tục ra đời nhằm đáp ứng các yêu cầu này Tuy nhiên, vì một số phần mềm đòi hỏi rất nhiều bộ nhớ để hoạt động trao đổi thông tin nên ngời ta đã nghĩ ra một phơng pháp nhằm giải quyết vấn đề này, đó là phơng pháp nén dữ liệu mà vẫn bảo toàn thông tin.

Nén dữ liệu là một kỹ thuật quan trọng trong rất nhiều lĩnh vực khác nhau Chính nhờ có kỹ thuật nén dữ liệu mà ngày nay chúng ta có những phơng tiện truyền thông hiện đại phục vụ cho cuộc sống nh truyền hình cáp, điện thoại, th điện tử và rất nhiều khía cạnh khác Do đó kỹ thuật nén dữ liệu ngày càng đợc quan tâm và phát triển nhiều hơn ở Việt Nam, hầu hết các trờng Đại học đều quan tâm đến việc nén dữ liệu và điều này đợc thể hiện ở việc đa kỹ thuật nén trở thành môn học chính thức trong giai đoạn chuyên ngành

Trong phạm vi môn học “ Mã - mã nén” Tôi đa ra bài phân tích trình LZW 15 nhằm mô phỏng thuật toàn kỹ thuật nén dữ liệu.

Tuy nhiên do trình độ còn hạn chế, thời gian và kinh nghiệm cha nhiều, nên bài phân tích này không thể tránh khỏi sự sai sót trong quá trình phân tích Do vậy tôi rất mong đợc sự quan tâm tham gia góp ý Thầy Cô cũng nh cùng toàn thể các bạn Sinh Viên để bài phân tích này rõ dàng hơn.

Cuối cùng Em xin chân thành cảm ơn thày Nguyễn Lê Anh đã hớng dẫn và giảng dạy Em trong thời gian qua

2

Thuật toán nén LZW

Bớc 1 Cắt văn bản mới thành các đoạn copy nếu bảng chữ cái có m chữ thì các chữ

cái là m đoạn copy đầu tiên đợc đánh số từ 0 đến m-1.

Bớc 2 Bỏ tất cả phần chữ thu đợc mã nén.

Lu ý rằng các đoạn copy lần lợt đợc tạo ra và phần số của nó luôn nhỏ hơn số hiệu cột mà nó đứng.

Thuật toán giải nén LZW.

Bắt đầu là các cột đầu tiên (trong ví dụ là cột thứ 2) lặp lại thao tác sau cho đến hết Lấy hai số liên tiếp của bản mã ví dụ là X, Y thay nó về dạng X+? và Y+$ Trong đó kí tự đầu tiên của Y+$ là kí tự cuối cùng của X+? Dấu ? và $ là thay cho một kí tự cha biết Vì X và Y không thể lớn hơn chỉ số cột mà nó đứng cho nên chúng ta hoàn toàn tìm đợc giá trị đoạn copy ứng với cột có chỉ số X, Y và thay đoạn copy vào X+? và Y+ $ tơng ứng Giá tri ? là kí tự đầu của Y+$ cho nên luôn luôn xác định Nh thế chúng ta

Trong LZW thì token chỉ có index Để làm việc này, từ điển khi đợc khởi tạo đã gồm tất cả các ký tự đơn lẻ cho nên nó luôn đợc tìm thấy trong từ điển mặc dù có thể trớc đó cha xuất hiện trong văn bản.

Thuật toán nén cho LZW:

Khi mới bắt đầu, từ điển đã gồm tất cả các ký tự đơn lẻ.

Xâu hiện tại bắt đầu có độ dài 1 Mỗi khi đọc thêm 1 ký tự thì nó đợc thêm vào xâu hiện tại Nếu xâu hiện tại còn trùng với một trong các phrase đã có thì quá trình cứ tiếp tục.

Khi không có phrase trong từ điển trùng với xâu hiện tại nữa thì :

chúng ta cho ra index là chỉ số xâu trớc đó (không kể ký tự vừa đọc vào) trong từ điển thêm xâu hiện tại (bao gồm cả ký tự vừa đọc vào) vào trong từ điển.

bắt đầu một xâu mới bằng ký tự vừa đọc vào

Hai lệnh cuối cùng là để xử lý khi hết file, lúc đó cha có phrase mới nên không có lệnh add_to_dictionary() Cột đầu tiên là string1 (biến của lệnh add_to_dictionary) bỏ bớt đi ký tự đầu (ký tự này có do các lệnh string1[0]=character; string1[1]=’\0’; ở phần else {} của bớc trớc), đây thực chất là các ký tự đã đợc đọc bởi lệnh

character=getc(input) Cột thứ hai là index của phrase trong từ điển (ở đây khi phrase

chỉ có 1 ký tự thì chúng ta sử dụng chính ký tự này thay cho index, đúng ra là phải dùng hàm ascii (ký tự)) Cột thứ 3 là biến (string1 + character) trong lệnh add_to_dictionary (string1 + character) kèm theo index của nó trong từ điển

Ví dụ: Mỗi dòng của bảng sẽ ứng với một lần thực hiện vòng lặp while (!feof(input)) (trừ dòng đầu tiên).

Input String: “ WED WE WEE WEB WET” Từ thuật toán nén ta thấy rằng:

- index của string1 ở bớc hiện tại đợc đa vào tệp nén.

- phrase đợc thêm vào từ điển là string1 ở bớc hiện tại + character, trong đó

character là ký tự đầu của string1 ở bớc sau Thuật toán giải nén nh sau:

Đầu tiên, đọc một index vào và tìm phrase tơng ứng với nó trong từ điển Đa phrase

này ra tệp (string1 ở bớc trớc).

Vòng lặp:

đọc index tiếp theo, tra từ điển để tìm string1 ở bớc hiện tại, đa nó vào tệp giải nén thêm (string1 ở bớc trớc + ký tự đầu của string1 ở bớc hiện tại) vào từ điển

Trong đoạn pseudocode sau thì string2 chính là ‘string1 ở bớc trớc’:

Ví dụ của việc giải nén:

Trong bảng sau đây, mỗi dòng sẽ tơng ứng với một lần thực hiện vòng lặp while{},

riêng dòng đầu tiên là do các lệnh string2[0]=input_bits(); string2[1]=’\0’;

putc(string2[0], output);

Cột thứ nhất (I) là kết quả của lệnh code =input_bits();

Cột thứ hai (II) là kết quả của các lệnh

string1=dictionary_lookup(code);fputs(string1, output);

Cột thứ ba (III) là biến string2 trong lệnh add_to_dictionary(string2+ string1[0]).Nó bằng với cột thứ hai (string1) ở bớc trớc do lệnh strcpy(string2, string1)

Cột thứ t (IV) là ký tự đầu của cột thứ II (string1[0]).

Cột thứ năm (V) là biến (string2+string1[0]) trong lệnh add_to_dictionary(string2+

Input Codes: “ WED<256>E<260><261><257>B<260>T”

Một điều cần chú ý khi nén bằng LZW: nó thêm phrase vào từ điển trớc khi toàn bộ phrase này đợc nén, cụ thể là ký tự cuối của phrase chỉ đợc xử lý ở lần lặp sau Nếu vì

một lý do nào đó mà trình nén sử dụng ngay lập tức phrase này thì khi giải nén sẽ có

vấn đề là gặp phải code của một phrase mà phrase này lại cha xuất hiện trong từ điển (phrase này còn thiếu một ký tự cuối là ký tự đầu của xâu đợc giải mã tiếp theo Rất tiếc là điều này có thể xảy ra Điều này chỉ xảy ra khi trong dữ liệu vào có đoạn CHARACTER.STRING.CHARACTER.STRING.CHARACTER Trong ví dụ sau CHARACTER=’I’, STRING=’WOMBAT’ Giả sử xâu ‘IWOMBAT’ đã có trong từ điển (mã là 300) còn ‘IWOMBATI’ thì cha có Nh vậy khi gặp đoạn dữ liệu‘IWOMBATIWOMBATI’ trình nén sẽ cho ra mã 300 và thêm ‘IWOMBATI’ vào từ điển(với mã 400 chẳng hạn) Và sau đó nó sử dụng ngay mã 400 cho đoạn tiếp theo, tức là cả đoạn dữ liệu trên sẽ cho ra mã <300><400> Bây giờ chúng ta hãy theo dõi quá trình giải nén Sau khi thay <300> bằng ‘IWOMBAT’ thì trình giải nén gặp mã 400 Nhng khi đó trong từ điển của trình giải nén còn cha có phrase ‘IWOMBATI’ vì còn thiếu chữ‘I’ ở cuối Cho nên trong đoạn pseudocode trên, lệnh

string1=dictionary_lookup(code) không phải lúc nào cũng thành công Nhng nó cũng

chỉ không thành công trong trờng hợp gặp phải dữ liệu có dạng nh vừa mô tả, vì để tạo

thành pharase mới trong từ điển chúng ta cũng chỉ thiếu có 1ký tự cuối và ký tự này xuất hiện ở ngay đầu của đoạn dữ liệu tiếp theo Cho nên chúng ta cần phải sửa lại nh

Ch¬ng tr×nh LZW15:

/* LZW15V.C : realization of Lempel-Ziv*/#include "bitio.c"

void usage_exit(char *prog_name);

void CompressFile(FILE input, BIT_FILE *output, int argc, char *argv[]);void ExpandFile(BIT_FILE *input, FILE *output, int argc, char *argv[]);unsigned int decode_string(unsigned int count, unsigned int code);unsigned int find_child_node(int parent_code, int child_character);void InitializeStorage(void);

void InitializeDictionary(void);

char *CompressionName="LZW 15 Bit Variable Rate Encoder ";char *Usage="in-file out-file \n\n";

void usage_exit(char *prog_name){

char *short_name; char *extension;

short_name = strrchr(prog_name,'\\');

if (short_name == NULL) short_name=strrchr(prog_name,':'); if (short_name!= NULL) short_name++;

putc('F',stdout); //B¸o hiÖu khëi ®Çu hay khëi ®Çu l¹i tõ ®iÓn.

current_code_bits=9; //M· hiÖn t¹i.

dict[i]=(struct dictionary *) calloc(256,sizeof(struct dictionary)); if (dict[i]==NULL) fatal_error("Error allocating dictionary space");

unsigned int count;

index=(child_character << (BITS-8)) ^ parent_code;

Chúng ta tăng kích thớc của từ điển lên tới 15 bit Nhng không phải mọi code đều dùng15 bit để mã Chúng ta sử dụng 9 bit cho 512 phrase đầu (từ 0 đến 511), 10 bit cho các phrase từ 512 đến 1023, và cứ thế tiếp tục Nh vậy cần thêm một ký tự đặc biệt

là BUMP_CODE để đánh dấu khi nào thì tăng độ dài của từ mã Biến unsigned int

next_bump_code đợc sử dụng để theo dõi việc này Độ dài từ code ở biếncurrent_code_bits.

Một cải tiến thứ hai chúng ta đa vào để xử lý khi từ điển đã lớn hết cỡ Trong tr-ờng hợp này chúng ta cho ra một ký tự đặc biệt là FLUSH_CODE Khi đó sẽ xây dựng từ điển lại từ đầu.

Trong chơng trình này, chúng ta chia từ điển ra TABLE_BANKS khoảng, mỗi khoảng có 256 phrase và sử dụng macro

#define DICT(i) dict[i>>8][i & 0xff]

next_bump_code=511;

Thủ tục void InitializeStorage(void) để cấp phát bộ nhớ:

{ dict[i]=(struct dictionary *) calloc(256,sizeof(struct dictionary)); if (dict[i]==NULL) fatal_error("Error allocating dictionary space"); }

Thủ tục void CompressFile(FILE *input,BIT_FILE *output,int argc,char *argv[])

giống nh ở chơng trình LZW12, nhng có thêm phần xử lý khởi đầu lại từ điển: if(n ext_code >MAX_CODE)

Thủ tục void ExpandFile(BIT_FILE *input,FILE *output,int argc,char *argv[]) giống

nh trong chơng trình LZW12 nhng cũng có 2 thay đổi Nếu (new_code == FLUSH_CODE) thì sẽ gọi InitializeDictionary() để gán lại từ điển Thứ hai là nếu (new_ code == BUMP_CODE) thì độ dài từ mã đợc tăng lên bằng lệnh current_code_bits++

Các thủ tục unsigned int find_child_node(int parent_code,int child_character) và

unsigned int decode_string(unsigned int count,unsigned int code) giống nh ở LZW12