Tríh rút thông tin á nhân từ văn bản tiếng việt

PT rs, Microsoft Corporation CEOBill Gatesgainst the economic philosophy of open-software with Orwellian fervor, ncing its communal licensing as a "cancer" fled technological innovation..

Nguyễn Cao Cườ ng 1 Lu ận văn Thạ c s ỹ

M C LC

L 4

L I C 5

B NG T VIT TT 6

DANH MNG 7

DANH M 7

 M  U 8

1.1     8

1.2 Mm vi 8

1.2.1 Mu 8

1.2.2 Phu 9

1.3 Nu 9

1.4 B c  c lu 10

1.5 a lu 10

   NG GI I QUY T 12 

2.1   12

2.1.1   12

2.1.2 Kia h th 13

2.2  15

2.3 i quy 18

2.3.1 c th 19

2.3.2 i quan h 21

2.4 ng dng c 22

2.5 t qu 23

 C TH   25 3.1  c th 25

3.1.1 Mt s ng ti p c n gi i quy   c th 25

1708177951719c7916a09-6766-4586-8c1b-56c1fb94c587

1708177951719e8441a00-73f3-45d1-b0df-43d3042f5e80

170817795171973d18308-dc0d-4556-87de-2a3848a25277

Nguyễn Cao Cườ ng 2 Lu ận văn Thạ c s ỹ

3.1.2 ng ngu ki n 31

3.2  36

3.2.1 Mt s ng ti p c n gi i quy   c th 36

3.2.2 c s  d 37

3.2.3 Biu th 37

3.2.4 ng d ng bi u th    39

 THI T K    45

4.1 Kia h  thng 45

4.2 Tin x  46

4.3 B  c th d  46

4.4  47

4.4.1   c nh 47

4.4.2  n 48

4.4.3  49

4.4.4 loi 50

4.5 Hu x  50

4.5.1 X  ng tham chin thc th i 51

4.5.2 Chnh s 57

4.6  57

4.7 Qu 58

4.8 t, th  nghi 58

4.8.1   FlexCRFs 58

4.8.2 Kt qu  59

4.8.3 Nh 60

 K T LU N 61

5.1 t qu  c trong lu 61

5.1.1 V  t 61

5.1.2 V thc nghim 61

5.1.3 Nh 61

Nguyễn Cao Cườ ng 3 Lu ận văn Thạ c s ỹ

5.2 n 62

PH  L C 1: TP D LI U 63

PH  L C 2: M T S GIAO DIN  65

U THAM KH O 68

Nguyễn Cao Cườ ng 4 Lu ận văn Thạ c s ỹ

L 

t nghi p Th c s    u

c a b   i s ng d n c t qu trong lu n  t nghia b t k  

m v n i dung quy n lu   





Nguy n  ng

Nguyễn Cao Cườ ng 5 Lu ận văn Thạ c s ỹ

Nguyễn Cao Cườ ng 6 Lu ận văn Thạ c s ỹ

B NG T   VI T T T 

CRFs Conditional Random Fields  



MEMM Maximum Entropy Markov

Model

entropy

Nguyễn Cao Cườ ng 7 Lu ận văn Thạ c s ỹ

DANH M  NG

B ng 2  t h thc th 24

-Bng 4-1: M u ng c   nh v  ng: 47 t v B ng 4  c s ng 48- d B ng 4  49

-B ng 4  lo 50- i B ng 4 - nh d c th 51

B   - n dng th c th 58

B ng 4  - L n th c nghi m cho k t qu t t nh t      59

Bng 4  - c c m t L n th c nghi m cho k t qu t t nh t         59

Bng 4-9: K t qu    60

DANH M  -   13 v -2: Kia h  th 14

- n ti u s phi c 16

-  18

- th   27

-2: V  30

- th  CRFs 32

-1: Ki th 45

- c th   s d ng CRF 47

-u x 51 

-4: X  ng tham chi u 56

Nguyễn Cao Cườ ng 8 Lu ận văn Thạ c s ỹ

 M   U

1.1  

Hin nay, s    c n m nh m c   tin  truy, kh  p cc k t n i Internet v i   

khng l lin kh gi t l

ng d li   tin hoc mu  th n V c

i quy th n ng d ng c  th

Mng lu ch p t c t o ra

  t b n et m m t v   trng m d li   quan

 u n d ch v  web N     ng    d liu

Nguyễn Cao Cườ ng 9 Lu ận văn Thạ c s ỹ

thc th tên ngườ tên tổ: i, ch c, ứ tên địa điể m, ngày tháng  i quan h 

gia thc th   i i v c th  i: ngày sinh tên ngườ ngày tháng( i- ), sinh (tên ngườ – địa điể i m  tên người tên tổvi c ( - ch c), s ng ứ ố (ở tên người-

tên địa điể m quan h), ệ gia đình tên ngườ tên ngườ ( i- i) Cu thng  s

 bra ng d li u g m         t d liu

:

Lê Công Vinh (sinh ngày 10 tháng 12 năm 1985) tạ i Qu ỳnh Lâm, Qu ỳnh Lưu, Nghệ An, là mộ ầ t c u th ủ bóng đá Việ t Nam hi ện đang thi đấu cho câu lạ c b ộ Sông Lam Nghệ An

Nguyễn Cao Cườ ng 10 Lu ận văn Thạ c s ỹ

ng th i n i quan h d luu th  

 u v ki   th

 thu ng h th ng    c l y t trang web wikipedia

Nguyễn Cao Cườ ng 11 Lu ận văn Thạ c s ỹ

ng th i, lu ng m t h th ng    

 Ngu   s d ng cho

    th h th ng h  ti u s 

Nguyễn Cao Cườ ng 12 Lu ận văn Thạ c s ỹ

n

Named Entity Recognition NER ),  Extraction

- RE),  i Co-Reference Resolution)

 P 





Nguyễn Cao Cườ ng 13 Lu ận văn Thạ c s ỹ

2-1    v

 u ng d ng r     gi i c ng dnhing d ng th c t    : H 

rs, Microsoft Corporation CEO Bill Gates

gainst the economic philosophy of

open-software with Orwellian fervor,

ncing its communal licensing as a "cancer"

fled technological innovation

Today, Microsoft claims to "love" the

open-source concept, by which software

code is made public to encourage

improvement and development by

outside programmers Gates himself

says Microsoft will gladly disclose its

crown jewels the coveted code behind

the Windows operating system to select

customers

"We can be open source We love the

concept of shared source," said Bill

Veghte , a Microsoft VP "That's a

super-important shift for us in terms of code

access.“

Richard Stallman , founder of the

Free Software Foundation, countered

saying…

NAME TITLE ORGANIZATION

Bill Gates CEO Microsoft

Bill Veghte VP Microsoft

Richard Stallman founder Free Soft

IE

Nguyễn Cao Cườ ng 14 Lu ận văn Thạ c s ỹ

2.1.2.2 

Nhn d  c th (Named Entity Recognition       

c th  a danh, th i gian, t ch  n (xem

c 2.3)

 u

Tin x  

c th Gii quyng tham chi u 

Nguyễn Cao Cườ ng 15 Lu ận văn Thạ c s ỹ

2.1.2.3 

Gii quyng tham chi u (Coreference Resolution   c nh n d ng  

ng tham chi u gi c th b t h p nh 

n m r  n t c th  ch    t h tr ng bn,

c

 :

Anh Nguy n Huy  Ti   n anh Ti  n

 ng Nguy  c

   Nguyễ n Huy Ti n ế  Tiến   n m ng 

Nguyễ n Huy Ti n Tiế ” ế   n t tham chin th c th   Nguyễn Huy Tiến

2.1.2.4 

i quan h    t c i quan

h gi c th  ng t p lu  th   d K t qu c 

i quan h ph thu c r t nhi    c th  

Nguyễn Cao Cườ ng 16 Lu ận văn Thạ c s ỹ



c b   An  i tuy n qu c gia Vi t Nam   

 nghi p 

Nguyễn Cao Cườ ng 17 Lu ận văn Thạ c s ỹ

trong 10 lo i  n ti u s :    nhsint, ), danh ti 

 ng t N Garera D Yarowsky [17] n h th 

kh   ng   bsinh, qu c t ch, ngh nghi p, gi  c s 

d ng k  6  thut  khat

  m: ng c nh b t bu c m t ph n (partially Untethered      Contextual Patterns), d -based),  a c

c th x ng th i (Attributes of Co-occurring Entities),  

t  c ch ng c nh m r ng (broad-context topical proles), t       

sinter-attribute correlations), gi i h  tui

Nguyễn Cao Cườ ng 18 Lu ận văn Thạ c s ỹ

2.3  p gi i quy  

  gi i quy    t n ti ng Vi  ng   

  a xu t  c

Nguyễn Cao Cườ ng 19 Lu ận văn Thạ c s ỹ

Hi tho MUC [7] i:

- c th bao g m: tên người tên tổ ứ, ch c, tên địa điểm

Anh <per> Nguyễn Quốc Hùng </per> sinh ngày <time > 05/07/1974

</time> tại <loc> Đà Nẵng </loc> Hôm nay , anh <per> Hùng </per> <loc> đi thành phố Hồ Chí Minh </loc>

Nguyễn Cao Cườ ng 20 Lu ận văn Thạ c s ỹ

 xu  gi i quyc th 

 thu t h   t nhi 

n (Hidden Markov Models -   c c

          - Conditional Random Field (CRF)

Trong lu     s t k thu t h    s d ng

Nguyễn Cao Cườ ng 21 Lu ận văn Thạ c s ỹ

Tro

nhau)

2.3.2 

2.3.2.1 

i quan h  (Relation Extraction  i - viquan h gi p thc th n

: M i quan h gi  tên ngườitên t ổ chứ   làm c

vi c t ệ ạ i i quan h gi tên ngư i   ờ tên địa điể m s ố ng  ở

Nguyễn Cao Cườ ng 22 Lu ận văn Thạ c s ỹ

 i quan h         c th Trong khi 

a khi  m i quan h gi c

th   s c th  i    n t c n c ti p theo s     c th   i m quan h v i th c th       Mi quan h   c hi  (quan h gi ),

Nguyễn Cao Cườ ng 23 Lu ận văn Thạ c s ỹ

Nguyễn Cao Cườ ng 24 Lu ận văn Thạ c s ỹ

     correct, incorrect missing,  spurious   

Nguyễn Cao Cườ ng 25 Lu ận văn Thạ c s ỹ

Nguyễn Cao Cườ ng 26 Lu ận văn Thạ c s ỹ

         i vi     i P(S,O)

Nguyễn Cao Cườ ng 27 Lu ận văn Thạ c s ỹ

S P S

O P S P O S

P

1 1

( ) ,

Nguyễn Cao Cườ ng 28 Lu ận văn Thạ c s ỹ

ch ph thu c tr  i thy, vliu d ng chu u di n c 

Nguyễn Cao Cườ ng 29 Lu ận văn Thạ c s ỹ

S P O

S P O S

P

2

1 1

( )

i i

i

S O Z O

S

),(

1)

|(

Nguyễn Cao Cườ ng 30 Lu ận văn Thạ c s ỹ

 n th i chuyn

vi entropy th i.n t

L  ta

u trong t p hu n luy n, t     t hi n 

 t P(3|0,r) s nh   

di trS=0125 s  c ch

 (1991)  nh

g p hai tr   c r n khi g p m 

nh (c th    ng hc bi t c a vi c chuy n    

mnh sang m khi

Nguyễn Cao Cườ ng 31 Lu ận văn Thạ c s ỹ

Nguyễn Cao Cườ ng 32 Lu ận văn Thạ c s ỹ

Nguyễn Cao Cườ ng 33 Lu ận văn Thạ c s ỹ

[6] cho p( | -y x 

  c - sau:

Nguyễn Cao Cườ ng 34 Lu ận văn Thạ c s ỹ

Nguyễn Cao Cườ ng 35 Lu ận văn Thạ c s ỹ

 i logarit c

-likelihood):

u  tr  c a tham s c    nh Thay ( , ) cp y x |        c (3.12

  (λ1, λ2 λn)  ( µ1, µ2µm)   c t

      t1(y i-1 ,y i,x,i),t2(y i-1 ,y i,x,i), tn (y i-1 ,y i,x,i)),  s 

s1(y i,x,i),s2(y i,x,i), s m (y i,x,i))

   t b c hai L-BFGS (Limited memory BFGS) [3] L-i quyng tham s   i