Bộ phân loại cựcđại Entropy

Một phần của tài liệu (LUẬN văn THẠC sĩ) nghiên cứu phương pháp trích chọn thông tin thời tiết từ văn bản tiếng việt 04 (Trang 40 - 41)

cực đại Entropy với một biến quan sát x, và một đồ thị thành phần tương ứng với ba đặc trưng như trong Hình 17(b)

Hình 17: Bộ phân loại cực đại Entropy

Các mơ hình đồ thị cĩ hướng và vơ hướng khác nhau ở cách phân bố xác suất phân chia thành các thành phần.Việc phân rã thành tích của các phân bố xác suất cĩ điều kiện được thực hiện trong mơ hình đồ thị cĩ hướng. Trong các mơ hình đồ thị vơ hướng một phân rã được thực hiện thành các hàm bất kì. Nĩ khơng yêu cầu đặc tả rõ ràng mối quan hệ giữa các biến. Nhưng nĩ phải đổi lại là tính tốn hằng số chuẩn hĩa.

3.3.3.3. Trường ngẫu nhiên cĩ điều kiện

Một mơ hình Markov ẩn cĩ thể được hiểu là dạng tuần tự của mơ hình Nạve Bayes: thay vì các quyết định độc lập đơn, mơ hình Markov ẩn mơ hình hĩa một chuỗi tuần tự. Tương ứng, trường ngẫu nhiên cĩ điều kiện cĩ thể được hiểu là phiên bản tuần tự của mơ hình cực đại entropy, điều đĩ cũng cĩ nghĩa là nĩ cũng là mơ hình rời rạc.Ngồi ra, ngược lại với mơ hình Markov ẩn, mơ hình ngẫu nhiên cĩ điều kiện khơng bắt buộc điều kiện là cấu trúc chuỗi tuyến tính, mà cĩ thể là cấu trúc bất kì. Những nguyên lý cơ bản

Được giới thiệu lần đầu tiên bởi Lafferty và các đồng nghiệp vào năm 2001 [6], trường ngẫu nhiên cĩ điều kiện là các mơ hình xác suất cho tính tốn với xác suất ( ⃗| ⃗)của một đầu ra cĩ thể là ⃗ = ( , … , ) ∈ cho chuỗi đầu vào ⃗ = ( , … , ) ∈

cũng được gọi là quan sát. Một CRF nĩi chung cĩ thể được thừa kế từ cơng thức 13:

Cơng thức: 13 Xác suất cĩ điều kiện p(y|x) cĩ thể được viết thành

Cơng thức: 14

Từ đĩ, cơng thức chung của mơ hình của CRF được viết thành

Cơng thức: 15

Trong đĩ là các thành phần khác nhau tương ứng với nhĩm cực đại trong đồ thị độc lập.Hình sau đây (bên dưới) là một ví dụ của một CRF chuỗi tuyến tính.

Một phần của tài liệu (LUẬN văn THẠC sĩ) nghiên cứu phương pháp trích chọn thông tin thời tiết từ văn bản tiếng việt 04 (Trang 40 - 41)