Friends of the Massachusetts native will hold a candlelight service in Mr. Cô ấy gọi món bít tết.[r]
(1)Xử lý ngôn ngữ tự nhiên (Natural Language Processing) (Natural Language Processing)
Lê Thanh Hương Bộ môn Hệ thống Thông tin Viện CNTT &TT – Trường ĐHBKHN Email:huonglt-fit@mail hut edu
1
Email: huonglt fit@mail.hut.edu.vn
Mục đích mơn học
z Hiểu nguyên tắc cách tiếp cận XLNNTN z Họọc kc ỹỹ thuuậật công cà g cụụ có thcó ểể dùng dù gđểđể phát trip ểển hcác ệ ốệ thống g
hiểu văn nói chuyện với người
z Thu số ý tưởng vấn đề mở XLNN Tài liệu tham khảo
z Christopher Manning and Hinrich Schütze 1999 Foundations of Statistical Natural Language Processing The MIT Press
z Dan Jurafsky and James Martin 2000 Speech and Language
2
z Dan Jurafsky and James Martin 2000 Speech and Language Processing.PrenticeHall
z James Allen 1994 Natural Language Understanding The
Benjamins/Cummings Publishing Company Inc
Thông tin chung z Đánh giá
z Giữa kỳ: 30%
z ĐĐiiểểm danh:10%m danh:10%
z Đóng góp học:10% z BTL: 10%
z Cuối kỳ: thi viết 70% z Điều kiện thi cuối kỳ:
z Vắng mặt 30% số lần điểm danh z Có tất loại điểm kỳ z Bài tập lớn:
z Viết tiểu luận cài đặt chương trình theo nhóm (<= 4sv) z Bảo vệ kết tuần cuối học kỳ
Xử lý NNTN gì?
(2)Xử lý NNTN = chuyển đổi âm thanh thành ngữ nghĩa
5
NNTN trung tâm trí tuệ người
Xử lý NNTN gì?
6
z Mục đích: hiểu nhiều ngơn ngữ
z Không chỉđơn giản xử lý xâu so khớp từ khoá
ELIZA
z http://en.wikipedia.org/wiki/ELIZA
z http://www.cs.bham.ac.uk/research/projects/c ogaff/eliza/
Nói chuyện với Eliza
z E: how are you today? z H: not so good
z E: why you say not so good? z H: i suffer from allergies? z E: that’s interesting z H: i come out in spots
z E: i’m not sure i know what you’re talking about z H: spots on my face
z E: your face z E: your face z H: that’s right
(3)Nói chuyện với Eliza
z H: you’re a program, aren’t you?
z E: does it please you to believe i am a program, am not i? z H: it sure doesH: it sure does
z E: i see z H: yup
z E: a while back you talk about your face z H: what about your face?
z E: what is it you really want to know? z H: are you my kind of girl?
9
z H: are you my kind of girl?
z E: perhaps in your fantasies i am your kind of girl z H: in my fantasies you are blonde
Nói chuyện với Eliza
z E: what makes you think i am blonde?
H i d ’t k
z H: i don’t know
z E: don’t you really know? z H: no
z E: are you saying no just to be negative? z H: no
10
z E: you are being a bit negative z H: no i’m not
z E: how long have you been not?
Tại nghiên cứu XLNNTN
z Nghiên cứu cách người xác định từ z Nghiên cứu cách người phân tích câu z Nghiên cứu cách người học ngôn
ngữ
z Nghiên cứu cách ngơn ngữ tiến hóa
Các chủ đề XLNNTN
z Mức phân tích: cú pháp, ngữ nghĩa, diễn ngôn, thực chứng, …
z Các toán con: gán nhãn từ loại, PTCP, phân giải nhập nhằng từ, phânt ích cấu trúc diễn ngơn, … z Thuật toán phương pháp: dựa tập ngữ liệu,
dựa tri thức, …
(4)Các mức phân tích
z Morphology (hình thái học): cách từđược xây dựng,
các tiền tốvà hậu tốcủa từ
các tiền tố hậu tố từ
z Syntax (cú pháp): mối liên hệ cấu trúc ngữ pháp
giữa từ ngữ
z Semantics (ngữ nghĩa): nghĩa từ, cụm từ,
cách diễn đạt
z Discourse (diễn ngôn): quan hệ ý
câu
13
câu
z Pragmatic (thực chứng): mục đích phát ngôn, cách
sử dụng ngôn ngữ giao tiếp
z World Knowledge (tri thức giới): các tri thức
thế giới, tri thức ngầm
Hình thái học
Tiếng Anh: ngơn ngữ biến hình, đa âm tiết
z kick kicks kicked kicking z kick, kicks, kicked, kicking z sit, sits, sat, sitting z murder, murders
Nhưng khơng phải ln thêm xóa đuôi
z gorge, gorgeous z arm, army
rực rỡ
v: nhồi nhét; n: ăn, hẻm núi
14
Tiếng Việt: ngôn ngữ không biến hình, đơn âm tiết Ỉcần tách từ
Cánh tay Quân đội
Tách từ
z Một câu có n khả tách từ,
t hú làđú
trong chúng
z Giải pháp đơn giản: lấy chuỗi âm tiết dài bắt
đầu từ vị trí có từđiển từ
z Vấn đề: chồng chéo từ
z Học sinh | học sinh | học z Học sinh | học | sinh học z Học sinh | học | sinh học
)Liệt kê tất khả thiết kế giải pháp để lựa chọn tốt
Gán nhãn từ loại
The boy threw a ball to the brown dog.
z The/DTboy/NNthrew/VBDa/DTball/NN to/IN the/DTbrown/JJdog/NN./.
DT – determiner từ chỉđịnh
NN – noun, danh từ, số số nhiều VBD – verb, past tenseđộng từ, khứ
IN – preposition giới từ
(5)Gán nhãn từ loại
Con ngựa đá ngựa đá.
z Con ngựa/DT đá/ĐgT ngựa/DT đá/TT.
z Ơng/ĐaT già/TT đi/Phó_từ nhanh/TT
quá/trạng_từ.
17
z Ông già/DT đi/ĐgT nhanh/TT quá/trạng_từ.
Ngữ pháp: nhập nhằng cấu trúc (từ loại)
Time flies like an arrow.
Time // flies like an arrow.
VBZ giới từ so sánh (IN)
18
Time flies// like an arrow.
NNS VBP
Ngữ pháp: nhập nhằng cấu trúc (từ loại)
Ông già // nhanh quá. Ông // già nhanh quá.
Ngữ pháp: nhập nhằng cấu trúc (liên kết)
S S
VP
NP
(6)Ngữ pháp: nhập nhằng cấu trúc (liên kết)
S
VP
NP
21
NP V NP PP PP I saw the man on the hill with a telescope.
Ngữ pháp: nhập nhằng cấu trúc (liên kết)
S
VP
22
NP V NP PP PP I saw the man on the hill with a telescope.
Nhưng ngữ pháp khơng nói lên nhiều điều…
z Colorless green ideas sleep furiously [Chomsky]
z fire match arson hotel z plastic cat food can cover
Ngữ nghĩa: nhập nhằng mức từ vựng
z I walked to the bank
f th i of the river to get money z The bug in the room
was planted by spies flew out the window z I work for John Hancock
z I work for John Hancock
(7)Diễn ngôn: đồng tham chiếu
President John F Kennedywas assassinated. The presidentwas shot yesterday.
Relatives said that John was a good father. JFKwas the youngest president in history. Hisfamily will bury himtomorrow.
25
Friends of the Massachusetts native will hold a candlelight service in Mr Kennedy’s home town.
Thực chứng
Bạn rút điều từ những điều tơi nói? Bạn hả ứ thế à ?
phản ứng thế nào?
Luật hội thoại
z Bạn rồi?
z Anh đưa cho em lọ muối không?
26
g
Nói kèm theo diễn tả
z Tơi cá với bạn 500.000 đội Việt Nam thắng.
Tri thức thế giới
Maiđiăn tối Côấy gọi bít tết Cơấyđểlại Mai ăn tối Cơ gọi bít tết Cơ để lại
tiền boa nhà.
z Mai ăn vào bữa tối? z Ai mang bữa tối đến cho Mai? z Ai làm bít tết?
z Mai có trả tiền khơng?
Tri thức về ngơn ngữ: Chúng ta biết gì về câu này?
z Các từ phải xuất theo trình tự định: a Chó kemăn b Chóăn kem
a Chó kem ăn b Chó ăn kem
z Các phận cấu thành câu:
chó = chủ ngữ (subject); ăn kem = vị ngữ (predicate)
z Ai làm cho ai: