Slide thuyết trình lý thuyết quyết định bayes

LÝ THUYẾT QUYẾT ĐỊNH BAYES SVTH: Nhóm 3 GVHD: TS Thái Bá Chiến Chúng ta thảo luận về lý thuyết xác suất như là khung cơ bản để đưa ra quyết định trong điều kiện không chắc chắn Trong phân loại, nguyên tắc Bayes được sử dụng để tính toán xác suất của các lớp Chúng ta tổng quát hóa để thảo luận về cách chúng ta có thể đưa ra quyết định hợp lý giữa nhiều hành động để giảm thiểu rủi ro dự kiến 3.1 Giới thiệu Lập trình máy tính để suy luận từ dữ liệu là sự kết hợp giữa thống kê và khoa học máy tính, đến từ một quy trình không hoàn toàn được biết đến thông qua việc mô hình hóa quy trình như một quy trình ngẫu nhiên sử dụng lý thuyết xác suất để phân tích nó Ví dụ : Việc ném một đồng xu là một quy trình ngẫu nhiên chúng ta không thể dự đoán ở mỗi lần ném liệu kết quả sẽ là mặt trước hay mặt sau, Nếu chúng ta áp dụng vị trí ban đầu của nó, lực và hướng nơi bắt nó và cetera, kết quả chính xác của lần ném có thể được dự đoán x = f(z) Trong đó: - x : cái quan sát được - z : không cái quan sát được - f : Hàm xác định kết quả từ phần kiến thức không thể quan sát được Vì không thể lập mô hình theo cách này : P(X =x) x : một biến ngẫu nhiên được rút ra từ phân bố xác suất (Nếu x = 1 ngửa hoặc x = 0 là sấp ) 3.2 Phân loại Trong đoạn văn trích từ sách, chúng ta đã thảo luận về việc sử dụng định lý Bayes để xây dựng mô hình đánh giá tín dụng trong ngân hàng xem rủi ro khi họ trả lại khoản vay và ngân hàng có lợi nhuận trong khi một số khách hàng khác được xem là rủi ro cao khi họ không trả nợ Mục tiêu Lọc được lớp "khách hàng rủi ro cao" để trong tương lai có thể kiểm tra xem người đó có tuân theo mô tả lớp hay không để chấp nhận hoặc từ chối đơn đăng ký 3.2 Phân loại Chúng ta giả sử có hai thông tin có thể quan sát được về khách hàng: Thu nhập hàng năm và số tiết kiệm ( và ) Trong đó: : Khách hàng rủi ro cao Khi có đơn đăng ký mới là ( = ) và ( = ) (Nếu (P(C=1|x1, x2) > 0.5) và từ chối nếu ngược lại) 3.3 Tổn thất và rủi ro 3.3.1 Tổn thất Tổn thất là một giá trị đo lường mức độ thiệt hại hoặc mất mát kinh tế, xã hội, hoặc cá nhân có thể phải chịu khi quyết định đưa ra không chính xác Trong đó: thường liên : tổn thất kỳ vọng của một quyết định : mọi khả năng của tham số mà chúng ta đang (quan sát quan đến lớp ‘ rủi ro cao ’) : tổn thất liên quan đến quyết định khi tham số là : sác suất điều kiện của khi đã quan sát dữ liệu x 3.3.2 Rủi ro Rủi ro là kỳ vọng (hay giá trị kỳ vọng) của tổn thất dưới điều kiện xác suất của các giả thuyết Rủi ro được tính bằng cách tích của xác suất của mỗi kịch bản với tổn thất tương ứng: R Trong đó : Rrủi ro của bayes khi đưa ra quyết định : hàm tổn thất 3.4 Hàm phân biệt Được sử dụng trong bài toán phân loại giúp quyết định xem một quan sát nào Đối với bài toán phân loại hai lớp có thể được xây dựng để đánh giá giá trị của hàm đối Cụ thể, nếu giá trị lớn hơn một ngưỡng quan sát được gán vào một lớp, ngược lại nếu nhỏ hơn thì được gán vào lớp còn lại Giả sử có C lớp khác nhau và mỗi lớp có một hàm phân phối có điều kiện P (X|Ci),với X là biến ngẫu nhiên đại diện cho dữ liệu quan sát được đối với bài toán phân loại, chúng ta muốn tính xác suất điều kiện P (C|X) tức là xác suất để một quan sát thuộc về lớp C khi đã biết giá trị của X