Văn bản được sử dụng để thử nghiệm là bài báo “Generic Topic Segmentation of Document Texts” [Moens 2001]. Bài báo này bao gồm 1353 từ
với 63 câu được chia làm 5 mục lớn (không tính các phần tiêu đề, tóm tắt, lời cảm ơn và tài liệu tham khảo). Chi tiết về các phần được trình bày trong Bảng 3.
Bảng 3. Cấu trúc văn bản thử nghiệm
Mục Tiêu đề Câu
bắt đầu
Câu
kết thúc Mô tả
1 Introduction 1 6 Giới thiệu về bài toán phân đoạn văn bản.
2 Research problem 7 16 Giới thiệu vấn đề cần nghiên cứu và nhiệm vụ của bài báo.
3 Methods 17 52 Trình bày các phương pháp sử dụng
trong quá trình phân đoạn văn bản. 3.1 Content terms and
their distribution
17 22 Trình bày vấn đề về các khái niệm và sự
phân bố của nó ảnh hưởng tới phân đoạn văn bản.
3.2 Lexical chains 23 29 Mô tả về phương pháp sử dụng chuỗi từ
vựng để phân đoạn văn bản.
3.3 Topic segmentation 30 45 Trình bày các bước trong thuật toán phân đoạn văn bản mà bài báo trình bày, sử dụng sự phân bố của các khái niệm và chuỗi từ vựng.
3.4 Test corpora 46 52 Trình bày về tập dữ liệu thử nghiệm và sự khó khăn trong việc đánh giá mô hình.
4 Related research 53 60 Giới thiệu một số thuật toán phân đoạn văn bản khác và khiếm khuyết của các thuật toán đó.
5 Conclusions 61 63 Kết luận về bài báo: đóng góp và hướng phát triển.
Văn bản này được chia thành 5 mục lớn với mục số 3 được chia làm 4 mục con, do đó, với cách phân đoạn tuyến tính ta có thể coi văn bản được chia làm 8 mục. Trong phần này, luận văn sẽ chỉ giới hạn thử nghiệm bằng phương pháp phân đoạn tuyến tính.
Trong quá trình loại bỏ từ dừng, luận văn sử dụng tập từ dừng trong công cụ TextTiling của MartiHearst có sửa đổi để thêm nhiều từ dừng hơn. Danh sách các từ dừng được sử dụng được liệt kê trong Bảng 4.
Bảng 4. Danh sách từ dừng
said n't 'm a about above across after afterwards again against all almost alone along already also although always am among amongst amoungst amount an and another any anyhow anyone anything anyway anywhere are around as at back be became because become becomes becoming been before beforehand behind being below beside besides between beyond bill both bottom but by call can cannot cant co computer con could couldnt cry de describe detail do done down due during each eg eight either eleven else elsewhere empty enough etc even ever every everyone everything everywhere except few fifteen fify fill find fire first five for former formerly forty found four from front full further get give go had has hasnt have he hence her here hereafter hereby herein hereupon hers herself him himself his how however hundred i ie if in inc indeed interest into is it its itself keep last latter latterly least less ltd made many may me meanwhile might mill mine more moreover most mostly move much must my myself name namely neither never nevertheless next nine no nobody none noone nor not nothing now nowhere of off often on once one only onto or other others otherwise our ours ourselves out over own part per perhaps please put rather re same see seem seemed seeming seems serious several she should show side since sincere six sixty so some somehow someone something sometime sometimes somewhere still such system take ten than that the their them themselves then thence there thereafter thereby therefore therein thereupon these they thick thin third this those though three through throughout thru thus to together too top toward towards twelve twenty two un under until up upon us very via was we well were what whatever when whence whenever where whereafter whereas whereby wherein whereupon wherever whether which while whither who whoever whole whom whose why will with within without would yet you your yours yourself yourselves
Trong quá trình gán nhãn từ loại sử dụng công cụ LT CHUNK, tập các nhãn từ loại được sử dụng là tập nhãn thu gọn được kế thừa từ tập nhãn Penn Treebank (http://www.cis.upenn.edu/~treebank/). Danh sách các nhãn cùng mô tảđược trình bày trong Bảng 5 và Bảng 6.
Bảng 5. Tập nhãn từ loại (tập mở)
Nhãn từ loại Mô tả Ví dụ
JJ adjective green
JJS adjective, superlative greenest
RB adverb however, usually, naturally, here, good
RBR adverb, comparative better (adsbygoogle = window.adsbygoogle || []).push({});
RBS adverb, superlative best
NN common noun table
NNS noun plural tables
NNP proper noun John
NNPS plural proper noun Vikings
VB verb base form take
VBD verb past took
VBG gerund taking
VBN past participle taken
VBP verb, present, non-3d take
VBZ verb present, 3d person takes
FW foreign word d'hoevre
Bảng 6. Tập nhãn từ loại (tập đóng)
Nhãn từ loại Mô tả Ví dụ
CD cardinal number 1, third
CC coordinating conjunction and
DT determiner the
EX existential there there is
IN preposition in, of, like
LS list marker 1)
MD modal could, will
PDT predeterminer both the boys
POS possessive ending friend's
PRP personal pronoun I, he, it
PRP$ possessive pronoun my, his
TO to (both "to go" and "to him") to go, to him
UH interjection uhhuhhuhh
WDT wh-determiner which
WP wh-pronoun who, what
WP$ possessive wh-pronoun whose (adsbygoogle = window.adsbygoogle || []).push({});
WRB wh-adverb where, when
4.3. Quá trình thử nghiệm
Quá trình thử nghiệm được chia làm hai giai đoạn:
- Giai đoạn 1: Phân đoạn văn bản sử dụng các công cụ TextTiling và C99 để thu được các đoạn văn bản.
- Giai đoạn 2: Sinh tiêu đề cho từng đoạn văn bản bằng công cụ
SUMMA.
Việc sinh tiêu đề cho văn bản được thực hiện cho cả các đoạn văn bản
được phân đoạn tựđộng và các đoạn văn bản được phân sẵn của văn bản gốc.
4.4. Kết quả thử nghiệm
4.4.1. Kết quả phân đoạn văn bản
Kết quả phân đoạn văn bản được trình bày trong Bảng 7 và được biểu diễn trực quan hơn trong Hình 5. Trong Bảng 7 có 3 cột chính, mỗi cột tương
ứng với từng cách phân đoạn, trong mỗi cột có 3 cột con gồm số thứ tự của đoạn văn bản, số thứ tự của câu đầu tiên và số thứ tự của câu cuối cùng của văn bản
đó. Bảng 7. Kết quả phân đoạn văn bản Văn bản gốc C99 TextTiling STT Đầu Cuối STT Đầu Cuối STT Đầu Cuối 1 1 6 1 1 6 1 1 7 2 7 16 2 7 17 2 8 13 3 17 22 3 18 19 3 14 20 4 23 29 4 20 28 4 21 28 5 30 45 5 29 35 5 29 34 6 36 45 6 35 45
6 46 52 7 46 51 7 46 52
7 53 60 8 52 58
8 61 63 9 59 63 8 53 63
Trong Hình 5, dòng đầu tiên là mô hình phân đoạn có sẵn, dòng thứ 2 là mô hình phân đoạn do công cụ C99 sinh ra và dòng thứ 3 là mô hình phân đoạn do công cụ TextTiling sinh ra. Các dấu “-“ thể hiện cho các câu, các dấu “.” thể
hiện vị trí giữa các câu trong cùng một đoạn, còn các dấu “|” thể hiện đường biên phân tách giữa các đoạn. |-.-.-.-.-.-.-|-.-.-.-.-.-.-.-.-.-|-.-.-.-.-.-|-.-.-.-.-.-.-|-.-.-.-.-.-.-.-.-.-.-.-.-.-.-.-|-.-.-.-.-.-.-|-.-.-.-.-.-.-.-|-.-.-| |-.-.-.-.-.-.-|-.-.-.-.-.-.-.-.-.-.-|-.-|-.-.-.-.-.-.-.-.-|-.-.-.-.-.-.-|-.-.-.-.-.-.-.-.-.-|-.-.-.-.-.-|-.-.-.-.-.-.-|-.-.-.-.-| |-.-.-.-.-.-.-.-|-.-.-.-.-.-|-.-.-.-.-.-.-|-.-.-.-.-.-.-.-|-.-.-.-.-.-|-.-.-.-.-.-.-.-.-.-.-|-.-.-.-.-.-.-|-.-.-.-.-.-.-.-.-.-.-| Hình 5. Kết quả phân đoạn văn bản 4.4.2. Kết quả sinh tiêu đề
Các kết quả sinh tiêu đề cho văn bản lần lượt được trình bày trong Bảng 8, Bảng 9 và Bảng 10.
Bảng 8. Sinh tiêu đề cho phân đoạn gốc
Phần Tiêu đề thực Tiêu đề sinh
1 Introduction Segmentation text
2 Research problem Representation text
3.1 Content terms and their distribution Terms
3.2 Lexical chains Chains terms
3.3 Topic segmentation Aim topics
3.4 Test corpora Techniques corpora texts evaluation
4 Related research Segmentation terms
5 Conclusions Paper texts
Bảng 9. Sinh tiêu đề cho phân đoạn của C99 (adsbygoogle = window.adsbygoogle || []).push({});
Phần Tiêu đề Câu bắt đầu Câu kết thúc
1 Segmentation text 1 6
3 Synonyms 18 19
4 Terms 20 28
5 Information segmentation 29 35
6 Step topic 36 45
7 Techniques corpora texts evaluation 46 51
8 Addition topics 52 58
9 Referents 59 63
Bảng 10. Sinh tiêu đề cho phân đoạn của TextTiling
Phần Tiêu đề Câu bắt đầu Câu kết thúc
1 Segmentation topics 1 7
2 Structure text 8 13
3 Cues texts 14 20
4 Terms 21 28
5 Information segmentation 29 34
6 Algorithms chains topic 35 45
7 Techniques corpora texts evaluation 46 52
8 Segmentation terms 53 63
4.5. Đánh giá thử nghiệm
Kết quả phân đoạn cho thấy chất lượng phân đoạn tương đối khả quan. Xét một cách trực quan khi quan sát Hình 5, ta thấy các điểm biên thứ 1, 4, 5, 6 hầu như không chệch so với văn bản gốc. Điều này được thể hiện qua độđo Pk. Tuy nhiên cả hai thuật toán phân đoạn đều thống nhất chia đoạn văn bản thứ 5 “Topic Segmentation” ra làm hai đoạn tách rời với một bên là “segmentation” và một bên là “topic”.
Kết quả sinh tiêu đề của luận văn đã được một số giáo viên tiếng Anh thuộc Trường Đại học Ngoại ngữ, ĐHQG Hà Nội thẩm định và cho rằng các kết quảđó là chấp nhận được tuy đôi chỗ còn mang ý nghĩa rất chung chung. Ví dụ
như trường hợp sinh tiêu đề cho đoạn thứ 8 của văn bản gốc là “Paper Text” rất vô nghĩa so với “Conclusions”. Tuy nhiên điều này cũng không khó hiểu do cách đặt tiêu đề của văn bản tuân theo cách đặt tiêu đề của các bài báo. Đây là vấn đề thuộc yếu tố văn phong. Với các thuật toán sinh tiêu đề không phụ thuộc miền ứng dụng thì vấn đề này là dễ hiểu.
4.5. Phương hướng cải tiến
Các kết quả thử nghiệm đã chứng mình bài toán xây dựng mục lục văn bản là khả thi và có triển vọng phát triển. Các thuật toán được trình bày trong luận văn tuy còn tương đối đơn giản và hầu hết là dựa trên luật nhưng đã tỏ ra rất hiệu quả trong thử nghiệm. Tuy nhiên ta vẫn có thể tăng cường chất lượng của thuật toán thông qua một số cải tiến sau:
- Đưa thêm các dấu hiệu nhận biết phân đoạn đặc trưng theo từng ngôn ngữ, ví dụ như trong tiếng Anh ta thường có “In this section”, “As already discussed”,… Các yếu tố này mang tính thống kê và do đó có thể thực hiện một mô hình thống kê trên một tập văn bản có sẵn để tìm ra tập các dấu hiệu chuyển chủđề thông qua ngay câu đầu tiên của mỗi
đoạn văn.
- Trong quá trình xây dựng các chuỗi token, nếu sử dụng từ gốc của các token thì khi đó sẽ làm giảm được nhiễu và tăng cường độ chính xác khi đo độ tương tự giữa các chuỗi token do chúng ta có thể xem xét
được danh từ và tính từ với cùng một gốc thì tương đương nhau. - Sử dụng các mô hình học có giám sát hoặc bán giám sát để học từ
những dữ liệu có sẵn với các đặc trưng như: danh từ/cụm danh từ ở (adsbygoogle = window.adsbygoogle || []).push({});
câu nào, vị trí như thế nào trong câu thì sẽ xuất hiện ở trong tiêu đề. Việc lựa chọn danh sách các từ cho tiêu đề dựa theo một mô hình học với các đặc trưng không liên quan đến bản thân từ sẽ giúp cho việc lựa chọn được những từ quan trọng và từ hiếm, chưa từng xuất hiện trong dữ liệu học.
- Để đảm bảo cú pháp của tiêu đề, cần thiết phải áp dụng một mô hình xác suất sinh để tạo ra một tiêu đề dễ hiểu và quen thuộc. Tuy nhiên,
để đảm bảo được sự chính xác thì cần áp dụng mô hình cho các lĩnh vực khác nhau. Việc áp dụng cho từng loại văn bản cụ thể sẽ giúp tăng
độ chính xác và chất lượng của mô hình.
4.6. Tóm tắt chương bốn
Trong chương này, luận văn đã trình bày quá trình thử nghiệm xây dựng mục lục cho một văn bản cụ thể nhằm chứng minh tính khả thi và triển vọng của bài toán xây dựng mục lục cho văn bản. Luận văn cũng đã trình bày mô hình trực quan để so sánh sự phân đoạn của các thuật toán. Đồng thời, luận văn cũng
đưa ra một sốđánh giá của cá nhân và của các chuyên gia về kết quả thử nghiệm và đưa ra một số phương hướng cải tiến giúp tăng cường chất lượng của mô
hình. Trong thời gian tiếp theo, tác giả sẽ tiếp tục thử nghiệm và cải tiến các thuật toán trên đểđạt được kết quả cao hơn và hướng tới giải quyết triệt để bài toán phân đoạn đa cấp và sinh mục lục cho văn bản được phân đoạn đa cấp.
KẾT LUẬN
Luận văn đã tiến hành nghiên cứu và tìm hiểu bài toán xây dựng mục lục cho văn bản. Đây là một bài toán mới trong lĩnh vực xử lí ngôn ngữ tự nhiên và có liên hệ mật thiết với bài toán tóm tắt văn bản. Phương pháp giải quyết của luận văn là chia quá trình xây dựng mục lục thành hai quá trình nhỏ hơn là phân
đoạn văn bản và sinh tiêu đề cho đoạn văn bản. Với mỗi quá trình này, luận văn
đã tiến hành nghiên cứu, tìm hiểu và giới thiệu các phương pháp chính để giải quyết vấn đềđồng thời đánh giá ưu điểm cũng như khuyết điểm của các phương pháp. Luận văn đã tiến hành thử nghiệm trên một văn bản khoa học cụ thể để
chứng minh tính khả thi của bài toán. Các kết quả thu được tương đối khả quan cho thấy triển vọng phát triển của bài toán.
Luận văn cũng đã đưa ra một số đề xuất về phương án tích hợp hai quá trình để giảm thiểu dư thừa dữ liệu cũng như thời gian tính toán. Thêm vào đó, luận văn cũng đã đề xuất một số cải tiến và hướng phát triển trong thời gian sắp tới để có thểđạt được những kết quả tốt hơn. Một số hướng phát triển tiếp theo của luận văn:
- Triển khai phân đoạn văn bản dựa trên chuỗi từ vựng với sự hỗ trợ từ
WordNet.
- Cải tiến và đưa ra mô hình thuật toán mới cho phép phân đoạn văn bản
đa cấp.
- Thử nghiệm các mô hình học có giám sát và bán giám sát trong việc sinh tiêu đề cho một văn bản.
- Triển khai thuật toán cải tiến dựa trên [Branavan 2007] để đảm bảo tính hợp lí và chất lượng của mục lục.
Đây là những hướng phát triển đã được nêu ra trong các chương của luận văn và có tính khả thi cao. Việc phát triển bài toán xây dựng mục lục cho văn bản có ý nghĩa lớn đối với các văn bản không có cấu trúc sẵn, trong đó đặc biệt là các văn bản dạng âm thanh.
TÀI LIỆU THAM KHẢO
1. Angheluta R., De Busser R.D., Moens M.F. (2002), “The Use of Topic Segmentation for Automatic Summarization”, In Proceedings of the 40th Annual Meeting of the Association of Computational Linguistics, Philadelphia, USA.
2. Banko M., Mittal V.O., Witbrock M.J. (2000), “Headline Generation Based on Statistical Translation”, In Proceedings of the 38th Annual Meeting of the Association of Computational Linguistics, Hong Kong.
3. Beeferman D., Berger A., Lafferty J. (1999), “Statistical Models for Text Segmentation”, Machine Learning, 34(1-3), pp. 177-210.
4. Branavan S.R.K., Deshpande P., Barzilay R. (2007), “Generating a Table- of-Contents”, In Proceedings of the 45th Annual Meeting of the Association of Computational Linguistics: 544-551, Prague, Czech Republic.
5. Choi F. (2000), “Advances in domain independent linear text segmentation”,
In Proceedings of NAACL '00, pp. 26-33, Seattle, USA.
6. Church K.W. (1993), “Char align: A Program for Aligning Parallel Texts at the Character Level”, In Proceedings of the 31st Annual Meeting of the
(adsbygoogle = window.adsbygoogle || []).push({});