Sử dụng đa tác vụ kết hợp đồ thị

Một phần của tài liệu Ứng dụng học sâu vào xây dựng mô hình rút trích thông tin (Trang 39 - 40)

Chương 3 CƠNG TRÌNH NGHIÊN CỨU LIÊN QUAN

3.2. Mơ hình đa tác vụ cho bài tốn rút trích quan hệ và thực thể

3.2.2. Sử dụng đa tác vụ kết hợp đồ thị

Hình 3.3: Ví dụ cho thấy sự tương tác, hỗ trợ lẫn nhau giữa các tác vụ rúttrích thực thể, quan hệ. trích thực thể, quan hệ.

Việc dùng mơ hình multi-task, chia sẻ chung các span được tuy phần nào đã chia sẻ thông tin từ các tác vụ cho nhau, tuy nhiên việc khai khác các thông tin từ quan hệ, coreference resolution vẫn chưa thật sự tối ưu. Trong hình trên, việc Tom đang ở StartbucksTom, đồng thời Mike có quan hệ “PER-SOC” sẽ góp phần rút trích được thơng tin làMikeđang ởStartbucks.

Do đó, Yi Luan [15] đã bổ sung thêm hai lớp Coreference Propagation LayerRelation Propagation Layer cho mơ hình multi-task sciIE [14] trước đó. Đây là hai đồ thị thể hiện thơng tincorereference và quan hệ giữa cácspan. Theo đó, mỗi node trên đồ thị được xây dựng từ cácspan, và các

cạnh trên đồ thị tương ứng thể hiện thông tin corereference resolution và quan hệ giữa cácspanvới nhau. Ví dụ trong đồ thịcorereference resolution,

cạnh giữa hai spanThis thingit sẽ có trọng số cao hơn so với cạnh giữa hai spanTomitThis thingit cùng chỉ một vật là xe đạp của Tom.

Sau khi đã xây dựng được đồ thị với các node và cạnh, mơ hình thực hiện cập nhật giá trị cho các node ( tương ứng với một span) dựa theo các trọng

Hình 3.4: Mơ hình DyGIE

khác biệt của mơ hình, việc cập nhật trọng số của các node dựa trên mối liên hệ của nó với các node cịn lại góp phần làm giàu thêm thơng tin ngữ cảnh của một node. Cuối cùng mơ hình kết hợp thơng tin của mỗispantừ 2 đồ thị

corereference resolution và quan hệ lại với nhau để biểu diễn thành vector chospanvà đưa vào FFNN để phân lớp thực thể và quan hệ.

Một phần của tài liệu Ứng dụng học sâu vào xây dựng mô hình rút trích thông tin (Trang 39 - 40)

Tải bản đầy đủ (PDF)

(72 trang)