Ôtômát đơn định tối tiểu

Và loại ngôn ngữ đặc tảcho ôtômát - máy tự động chúng ta quan tâm là ngôn ngữ chính quy.Cùng một ngôn ngữ chính quy L có thể có nhiều ôtômát đoán nhận nó.Một cách tự nhiên, người ta quan

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

KHOA TOÁN

NGUYỄN THỊ LUÂN

ÔTÔMÁT ĐƠN ĐỊNH TỐI TIỂU

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

Chuyên ngành: Toán ứng dụng

Người hướng dẫn khoa học

TS TRẦN VĨNH ĐỨC

HÀ NỘI - 2014

LỜI CẢM ƠN

Để hoàn thành khóa luận tốt nghiệp này, lời đầu tiên em xin bày tỏ lòngbiết ơn chân thành và sâu sắc tới thầy giáo hướng dẫn TS Trần Vĩnh Đứctận tình hướng dẫn, giúp đỡ em trong suốt quá trình nghiên cứu và thựchiện đề tài

Em cũng xin bày tỏ lòng biết ơn chân thành tới toàn thể các thầy cô giáotrong khoa Toán, cũng như trong trường ĐH Sư phạm Hà Nội 2 đã truyềnthụ cho em những kiến thức, kĩ năng và kinh nghiệm trong suốt thời gianhọc tập, rèn luyện tại trường và tạo mọi điều kiện thuận lợi để em thựchiện đề tài này Đồng thời, em xin cảm ơn những lời động viên, khích lệ từgia đình, sự chia sẻ, học hỏi từ bạn bè đã góp phần rất nhiều cho em hoànthành khóa luận tốt nghiệp này

Do trình độ và thời gian nghiên cứu của bản thân còn hạn chế nên nhữngvấn đề mà em trình bày trong khóa luận này không tránh khỏi những thiếusót Em rất mong nhận được sự chỉ bảo và đóng góp ý kiến của các thầy côgiáo và các bạn để khóa luận của em được hoàn thiện hơn

Em xin chân thành cảm ơn!

Hà Nội, tháng 05 năm 2014

Sinh viên

Nguyễn Thị Luân

LỜI CAM ĐOAN

Khoá luận này là kết quả của bản thân em trong quá trình học tập vànghiên cứu Bên cạnh đó em được sự quan tâm của các thầy cô giáo trong

khoa Toán, đặc biệt là sự hướng dẫn tận tình của TS Trần Vĩnh Đức.

Trong khi nghiên cứu hoàn thành bản khoá luận này em đã tham khảomột số tài liệu đã ghi trong phần tài liệu tham khảo

Em xin khẳng định kết quả của đề tài “Ôtômát đơn định tối tiểu” không

có sự trùng lặp với kết quả của các đề tài khác

Hà Nội, tháng 05 năm 2014

Sinh viên

Nguyễn Thị Luân

Mục lục

1.1 Bảng chữ cái, từ và ngôn ngữ 3

1.2 Ôtômát hữu hạn và ngôn ngữ chính quy 6

1.3 Ôtômát không đơn định 11

1.4 Sự tương đương giữa NFA và DFA 13

2 Ôtômát đơn định tối tiểu 19 2.1 Phép toán thương trái và thương phải 19

2.2 Quan hệ tương đương của Nerode 23

2.3 Thuật toán Moore 25

2.4 Thuật toán Brozozowski 30

MỞ ĐẦU

Ngày nay với các thành tựu vượt bậc về mặt khoa học, công nghệ và kĩthuật, các loại máy móc hiện đại giúp giảm đáng kể sức lao động của conngười, phục vụ cho cuộc sống xuất hiện ngày càng nhiều Hệ thống điềukhiển tự động ngày càng phổ biến trong hầu hết các lĩnh vực Trong số đóôtômát là một dạng máy tự động có khả năng hoạt động theo yêu cầu củacon người dựa trên những lập trình có sẵn

Để có thể điều khiển được máy tính người ta cần phải giao tiếp với máybằng một loại ngôn ngữ riêng đảm bảo máy tính có thể hiểu và hoạt độngtheo yêu cầu, ngôn ngữ đó là ngôn ngữ lập trình Và loại ngôn ngữ đặc tảcho ôtômát - máy tự động chúng ta quan tâm là ngôn ngữ chính quy.Cùng một ngôn ngữ chính quy L có thể có nhiều ôtômát đoán nhận nó.Một cách tự nhiên, người ta quan tâm ôtômát hữu hạn có số trạng thái ítnhất cũng đoán nhận L, từ đó ta có khái niệm ôtômát đơn định tối tiểu.Việc nghiên cứu và ứng dụng nó có nhiều nghĩa khoa học và thực tế Vìvậy việc tìm hiểu và nghiên cứu về vấn đề này luôn mang tính thực tiễn vàcần thiết Với các lí do trên em đã chọn đề tài "Ôtômát đơn định tối tiểu".Khóa luận nghiên cứu các vấn đề sau:

- Ôtômát đơn định tối tiểu

- Một số thuật toán tối tiểu hóa ôtômát: Thuật toán Brzozowski, thuậttoán Moore.

Bố cục của khóa luận bao gồm 2 chương và một phụ lục:

• Chương 1: Ngôn ngữ và Ôtômát Chương này trình bày về các kiếnthức cơ sở như từ, ngôn ngữ, ôtômát hữu hạn có liên quan tới khóaluận

• Chương 2: Ôtômát đơn định tối tiểu Chương này tập trung trình bày

ý tưởng, các khái niệm và tính chất và nội dung cơ bản của các thuậttoán tối tiểu hóa ôtômát

Chương 1

Ngôn ngữ và ôtômát

Như chúng ta đã nói ở phần mở đầu trong khoa học máy tính tồn tại mộtloại ngôn ngữ khác để máy tính có thể hiểu được gọi là ngôn ngữ lập trình.Như vậy, con người muốn giao tiếp với máy tính phải dùng đến ngôn ngữlập trình

Cũng giống như ngôn ngữ tự nhiên gồm tập các từ trên bảng chữ cái latinh, ngôn ngữ lập trình xem như những tập các xâu hữu hạn các phần tửcủa một bộ chữ cái cơ sở nào đó Các tập đầu vào hoặc đầu ra của mộtthiết bị tính toán coi như các ngôn ngữ và cụ thể hơn thì mỗi mô hình tínhtoán sẽ có một lớp ngôn ngữ đặc tả, ví dụ ôtômát được đặc tả bởi ngôn ngữchính quy

1.1 Bảng chữ cái, từ và ngôn ngữ

Định nghĩa 1.1.1 Một bảng chữ cái là một tập hữu hạn khác rỗng Các

phần tử của một bảng chữ cái được gọi là các chữ cái hay các kí hiệu.

Ví dụ 1.1 Dưới đây là một số bảng chữ quen thuộc.

• {a, b, c, z} là bảng chữ cái tiếng anh

• {α, β , γ, , ω} là bảng chữ Hy Lạp.

• {0, 1} là bảng chữ nhị phân

Trong khóa luận này, ta sẽ dùng Σ để kí hiệu một bảng chữ cái

Định nghĩa 1.1.2 Từ trên bảng chữ Σ là một dãy hữu hạn (gồm một số lớn

hơn hoặc bằng 0) chữ của Σ

Dãy không có chữ nào cũng là một từ, gọi là từ rỗng và được kí hiệu là

ε

Ví dụ 1.2 abba, aabab và ε là các từ trên bảng chữ Σ = {a, b}.

Theo định nghĩa, hai từ w1= a1a2 an và w2= b1b2 bm bằng nhaunếu n = m và ai= bi với mọi i = 1, 2, , n

Định nghĩa 1.1.3 Cho hai từ w1 và w2trên bảng chữ cái Σ, phép ghép hai

từ w1 và w2 kí hiệu là w1w2 là từ được tạo bằng cách đặt từ w2 ngay sau

w1

Ví dụ 1.3 Cho Σ = {a, b} và hai từ w1= ab và w2= bbaa

Ghép hai từ này ta được từ w1w2= abbbaa

Từ rỗng là phần tử đơn vị đối với phép ghép, có nghĩa là wε = εw = wvới mọi từ w

Định nghĩa 1.1.4 Nếu w là một từ và n là một số tự nhiên thì wn là từ tạođược bằng cách ghép n lần w

Theo định nghĩa, w0= ε và w1 = w với mọi từ w

Định nghĩa 1.1.5 Cho w = a1a2 an là một từ trên bảng chữ Σ Ta kýhiệu

• |w| là số chữ (tính cả số lần xuất hiện) có trong từ w được gọi là độdài của từ Dễ thấy

|w1w2| = |w1| + |w2| và |wn| = n|w|

• |w|alà số chữ a trong từ w

Ví dụ 1.4 Cho w = abbbaaa Ta có |w| = 7 và |(abbbaaa)|a= 4

Định nghĩa 1.1.6 Ta kí hiệu Σ∗ là tập tất cả các từ trên Σ kể cả từ rỗng và

Σ+ là tập tất cả các từ trên Σ trừ từ rỗng

Có nghĩa rằng: Σ+ = Σ∗\ {ε}

Ví dụ 1.5 {a, b}∗= {ε, a, b, aa, ab, , }

Định nghĩa 1.1.7 Một tập con của Σ∗được gọi là một ngôn ngữ hình thứchay ngắn gọn hơn là ngôn ngữ trên Σ

là ngôn ngữ hình thức, cụ thể ta đang xét tới ngôn ngữ chính quy và công

cụ là những phép tính trên ngôn ngữ đó Ta định nghĩa ba phép tính trên

ngôn ngữ, gọi là phép tính chính quy, và sử dụng chúng để nghiên cứu các

đặc trưng của ngôn ngữ chính quy

Cho A và B là hai ngôn ngữ trên bảng chữ cái Σ Ta định nghĩa ba phéptoán trên ngôn ngữ:

Ví dụ 1.7 Cho bảng chữ cái Σ là bảng chữ cái chuẩn gồm 26 chữ cái

{a, b, c, , z}, và hai ngôn ngữ A = {yes, no} và B = {girl, boy} Ta có:

A∪ B = {yes, no, girl, boy}

A.B = {yesgirl, yesboy, nogirl, noboy}

A∗= {ε, yes, no, yesyes, nono, yesno, noyes, yesyesyes, · · · }

B∗= {ε, girl, boy, girlgirl, boyboy, girlboy, boygirl, girlgirlgirl, · · · }

1.2 Ôtômát hữu hạn và ngôn ngữ chính quy

Ôtômát hữu hạn là một mô hình tính toán của hệ thống với sự mô tả bởicác input và output Tại mỗi thời điểm, hệ thống có thể được xác định ởmột trong số các trạng thái Mỗi trạng thái của hệ thống thể hiện sự tómtắt các thông tin liên quan đến những input đã chuyển qua và xác định cácphép chuyển kế tiếp trên dãy input tiếp theo

Trong khoa học máy tính, ta có thể tìm thấy nhiều ví dụ về hệ thốngtrạng thái hữu hạn, và lý thuyết về ôtômát hữu hạn là một công cụ thiết

kế hữu ích cho các hệ thống này Chẳng hạn, một hệ chuyển mạch như bộđiều khiển (Control Unit) trong máy tính Các hệ thống trạng thái hữu hạnnày có khả năng ứng dụng đa dạng trong nhiều lĩnh vực thực tế.

Ôtômát hữu hạn được chia thành 2 loại: ôtômát hữu hạn đơn định terministic Finite Automata – DFA) và ôtômát hữu hạn không đơn định(Nondeterministic Finite Automata – NFA) Cả hai loại ôtômát hữu hạnđều có khả năng nhận dạng các ngôn ngữ chính quy

(De-Định nghĩa 1.2.1 Một ôtômát hữu hạn là một bộ gồm năm thành phần

(Q, Σ, δ , q0, F), trong đó:

• Q là tập hợp hữu hạn các trạng thái

• Σ là bộ chữ cái nhập hữu hạn

• δ : Q × Σ → Q là hàm chuyển Giá trị của δ (q, a) thể hiện trạng thái

tiếp theo xác định bởi trạng thái hiện tại q và ký hiệu vào a

• q0∈ Q là trạng thái bắt đầu

• F ⊆ Q là tập các trạng thái kết thúc

Định nghĩa 1.2.2 Xét ôtômát hữu hạn A = (Q,Σ,δ,q0, F) và một từ

w= w1w2 wnvới wi ∈ Σ Khi đó ta nóiA chấp nhận w nếu tồn tại dãy

r0, r1, , rn thuộc Q thoả mãn ba điều kiện:

1 r0= q0,

2 δ (ri, wi+1) = ri+1, với i = 0, , n1

3 rn∈ F

Điều kiện 1 xác định ôtômát bắt đầu từ trạng thái ban đầu.

Điều kiện 2 ôtômát đến trạng thái tiếp theo bằng hàm chuyển trạng thái.Điều kiện 3 chỉ ra rằng ôtômát chấp nhận đầu vào nếu kết thúc ở trạngthái chấp nhận

Định nghĩa 1.2.3 Ngôn ngữ đoán nhận bởi ôtômátA là tập

L(A ) = {w | A chấp nhận từ w}

Một ôtômát có thể đoán nhận nhiều từ nhưng nó chỉ đoán nhận mộtngôn ngữ Nếu ôtômát không đoán nhận từ nào, vậy nó đoán nhận ngônngữ L = /0

Ví dụ 1.8 Xét ôtômát hữu hạn A1 = (Q, Σ, δ , q1, F) gồm ba trạng thái

Q= {q1, q2, q3} trên bảng chữ cái Σ = {a, b}, với q1 là trạng thái bắt đầu,

và tập trạng thái kết thúc F = {q2}, và hàm chuyển δ được mô tả bởi bảngsau:

q1 q1 q2

q2 q3 q2

q3 q2 q2Ôtômát này có thể mô tả dưới dạng đồ thị như trong Hình 1.1

Khi đó, ôtômátA chấp nhận các từ baa, bbaa, bbbaaaa, Do đó, Ađoán nhận ngôn ngữ:

Ví dụ 1.10 Ngôn ngữ B = {w | w chứa ít nhất ba chữ b} là ngôn ngữ chính

quy vì B được chấp nhận bởi ôtômát dưới đây:

Biểu thức chính quy Trong số học, chúng ta có thể sử dụng các phép

tính + và × xây dựng biểu thức như (5 + 3) Tương tự như vậy, ta có thể

sử dụng các phép tính chính quy để xây dựng biểu thức mô tả ngôn ngữ,được gọi là biểu thức chính quy Chẳng hạn: (a ∪ b)a∗

Giá trị của biểu thức số học là số 32 Giá trị của một biểu thức chínhquy là một ngôn ngữ Trong trường hợp này, giá trị là ngôn ngữ bao gồmtất cả xâu bắt đầu với một chữ a hoặc b theo sau với bất kỳ số các chữ a.Biểu thức chính quy có vai trò quan trọng trong các ứng dụng khoa họcmáy tính Trong các ứng dụng liên quan đến văn bản, người dùng có thể

muốn tìm kiếm cho các chuỗi đáp ứng mô hình nhất định Biểu thức chínhquy cung cấp một phương pháp mạnh mẽ để mô tả mô hình như vậy Cácngôn ngữ lập trình hiện đại và soạn thảo văn bản đều mô tả các mô hìnhbằng cách sử dụng biểu thức chính quy.

Định nghĩa 1.2.5 R là một biểu thức chính quy nếu R là

1 a với a trong bảng chữ cái Σ

2 ε

3 /0

4 R1∪ R2, trong đó R1 và R2 là biểu thức chính quy,

5 R1.R2, trong đó R1 và R2 là biểu thức chính quy,

6 R∗1, trong đó R1 là biểu thức chính quy

Trong mục 1 và 2, các biểu thức chính quy a và ε biểu diễn ngôn ngữ{a} và {ε}, tương ứng Trong mục biểu thức chính quy /0 thể hiện ngônngữ rỗng Trong các mục 4, 5, và 6 biểu thức thể hiện các ngôn ngữ đượccho bằng cách lấy hợp hoặc nối của các ngôn ngữ R1 và R2, hoặc phép saocủa ngôn ngữ R1, tương ứng

Ví dụ 1.11.

1 a∗ba= {w | w chứa một số b}

2 Σ∗bΣ∗ = {w | w có ít nhất một số b}

1.3 Ôtômát không đơn định.

Định nghĩa 1.3.1 Một ôtômát hữu hạn không đơn định (NFA) là một bộ

Điều kiện 1 nói rằng máy bắt đầu ra trong trạng thái bắt đầu.

Điều kiện 2 nói rằng trạng thái ri+1 là một trong những trạng thái tiếptheo được cho phép khiA ở trạng thái rivà đọc yi+1 Thấy rằng δ (ri, yi+1)

là tập của các trạng thái tiếp theo cho phép và vì vậy ta nói rằng ri+1 làmột phần tử của tập đó

Cuối cùng, điều kiện 3 cho biết máy chấp nhận đầu vào của nó nếu trạngthái cuối cùng là một trạng thái được chấp nhận

Hệ quả 1.3.1 Một ngôn ngữ là chính quy khi và chỉ khi có một ôtômát hữu

hạn không đơn định đoán nhận được nó.

Ví dụ 1.13 Xây dựng một NFA đoán nhận ngôn ngữ {a} với hai trạng

thái:

1.4 Sự tương đương giữa NFA và DFA

Máy tự động hữu hạn đơn định (DFA) và không đơn định (NFA) nhậncùng một loại ngôn ngữ Như vậy là cả hai đều hữu ích Thật bất ngờ vìNFA có hoạt động tốt hơn DFA, vì vậy chúng ta có thể mong đợi rằngNFA nhận ra nhiều ngôn ngữ Nó rất hữu ích bởi vì mô tả một NFA chomột số ngôn ngữ đôi khi là dễ dàng hơn nhiều so với mô tả của một DFAcho ngôn ngữ đó

Định nghĩa 1.4.1 Hai máy là tương đương nếu chúng đoán nhận cùng một

Nếu k là số trạng thái của NFA, nó có 2k tập con của các trạng thái Mỗitập hợp con tương ứng với một trong các khả năng DFA, vì vậy DFA môphỏng NFA sẽ có 2k trạng thái Bây giờ chúng ta cần phải tìm ra trạng tháibắt đầu và trạng thái chấp nhận của DFA, và những thứ trong hàm chuyểnđổi Chúng ta có điều này dễ dàng hơn sau khi thành lập một số ký hiệuhình thức.

Quá trình chuyển đổi.

Cho A = (Q,Σ,δ,q0, F) là NFA nhận một số ngôn ngữ A Chúng tôixây dựng một DFA A0 = (Q0, Σ, δ0, q00, F) nhận A Trước khi xây dựnghàm đầy đủ, trước tiên xem xét các trường hợp dễ dàng hơn trong đó Akhông có mũi tên ε Sau chúng ta lấy thêm mũi tên εvào

1 Q = P (Q) Tất cả các trạng thái của A0 là một tập hợp các trạng tháicủaA Nhớ lại rằng P(Q) là tập hợp các tập hợp con của Q

2 Cho R ∈ Qvà a ∈ Σ, hay δ (R, a) = {q ∈ Q|q ∈ δ (r, a) đối với một số

r∈ R} Nếu R là một trạng thái của A0, nó cũng là một tập hợp các trạngthái của A Khi A0 đọc một kí tự trong trạng thái R, nó đưa ra vị trí mỗitrạng thái trong R Bởi vì mỗi trạng thái có thể đi đến một bộ của các trạngthái, chúng ta có hợp của tất cả các tập Một cách khác để viết biểu thứcnày là δ0(R, a) = δ (r, a)

3 q0= {q0}.A0 bắt đầu trong trạng thái tương ứng với tập có chứa chỉtrạng thái bắt đầu củaA

4 F = {R ∈ Q|R} chứa một trạng thái chấp nhận của A Máy A 0 chấpnhận nếu một trong các trạng thái có thể làA là một trạng thái chấp nhận

ở thời điểm này

Bây giờ chúng ta cần phải xem xét các mũi tên ε Để làm như vậy, chúng

ta lập thêm một số ký hiệu Đối với bất kỳ trạng thái R của M, chúng tôixác định E (R) là tập của các trạng thái mà có thể đạt được từ các phần tửcủa R bằng cách chỉ cùng mũi tên ε, bao gồm cả các phần tử của R

Cho R ⊂ Q cho E (R) = {q|q có thể đạt được từ R bằng cách đi cùng

0 hoặc nhiều mũi tên ε} Sau đó, chúng ta thay đổi hàm chuyển tiếp của

M để đặt lệnh thêm trên tất cả các trạng thái có thể đạt được bằng cách đitheo mũi tên ε Thay thế δ (r, a) bằng E (δ (r, a)) để được kết quả này Do

đó δ (R, a) = {q ∈ Q|q ∈ E(δ (r, a)) đối với một số r ∈ R}

Ngoài ra, chúng ta cần thay đổi các trạng thái bắt đầu củaA0để chuyểncác lệnh ban đầu cho tất cả các trạng thái có thể có thể đạt được từ trạngthái khởi đầu của N cùng các mũi tên ε Thay đổi q0 là E ({q0})để đượckết quả này Chúng ta có ngay việc xây dựng các DFAA0 mô phỏng NFA

A

Xây dựngA0 rõ ràng là hoạt động chính xác Từng bước trong tính toáncủa A0 trên một đầu vào, rõ ràng đi vào một trạng thái mà tương ứng vớitập hợp con củaA trong thời điểm đó

Định lý 1.4.1 Mỗi ôtômát hữu hạn không đơn định tương đương với một

ôtômát hữu hạn đơn định.

Do đó máy tự động hữu hạn không đơn định cho một cách khác để mô

tả đặc trưng các ngôn ngữ chính quy Thực tế điều này như là một hệ quảtất yếu của định lý trên

Hệ quả 1.4.1 Một ngôn ngữ là chính quy khi và chỉ khi một số máy tự

động hữu hạn không đơn định nhận dạng được nó.

Ví dụ 1.14 Hãy minh họa các bước chuyển đổi một NFA với một DFA

bằng ôtômátA

Ta có tập các phần tử của A là {1,2,3} Vì vậy, trong các mô tả hìnhthức củaA = (Q,{a,b},δ,1,{1}), tập hợp các trạng thái của Q là {1,2,3}như trong hình

Để xây dựng một DFA D tương đương A , đầu tiên ta xác định trạngthái D A có ba trạng thái, {1,2,3}, vì vậy ta xây dựng D với 23 = támtrạng thái, cho mỗi tập hợp con của các trạng tháiA Ta gọi mỗi trạng tháicủa D với tập con tương ứng

Hình vẽ : NFAATiếp theo, chúng ta xác định trạng thái bắt đầu và chấp nhận của D trạngthái bắt đầu là E ({1}),tập hợp của trạng thái mà tiến đến từ 1 bằng cách

đi dọc theo mũi tên ε, thêm vào 1 với chính nó Một mũi tên ε đi 1 đến

3, do đó E({1}) = {1, 3} Các trạng thái chấp nhận mới được chứa trongtrạng thái chấp nhận củaA , đó là {1},{1,2},{1,3},{1,2,3} Cuối cùng,chúng ta xác định hàm chuyển đổi D Mỗi trạng thái của D đi đến một vịtrí trên đầu vào a và một vị trí trên đầu vào b Chúng ta minh họa quá trình