1. Trang chủ
  2. » Luận Văn - Báo Cáo

Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng

68 2 0
Tài liệu đã được kiểm tra trùng lặp

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

THÔNG TIN TÀI LIỆU

Thông tin cơ bản

Tiêu đề Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Tác giả Bùi Thị Thiện Mỹ, Trần Thị Thu Hương, Nguyễn Thị Yến
Trường học Trường Đại học Ngân hàng TP Hồ Chí Minh
Chuyên ngành Toán học
Thể loại Đề tài khoa học cấp cơ sở
Năm xuất bản 2021
Thành phố TP Hồ Chí Minh
Định dạng
Số trang 68
Dung lượng 1,6 MB

Cấu trúc

  • 1. Lý do chọn đề tài (6)
  • 2. Mục đích nghiên cứu (8)
  • 3. Đối tƣợng và phạm vi nghiên cứu (8)
  • 4. Phương pháp nghiên cứu (9)
  • 5. Những đóng góp mới của đề tài (9)
  • CHƯƠNG 1. CƠ SỞ LÝ THUYẾT CỦA PHƯƠNG PHÁP LASSO (10)
    • 1.1. Các kiến thức liên quan (10)
      • 1.1.1. Hàm lồi và các tính chất (10)
      • 1.1.2. Điều kiện cần và đủ để hàm lồi đạt cực tiểu (11)
    • 1.2. Phương pháp Lasso cho mô hình hồi quy tuyến tính (12)
      • 1.2.1 Bài toán tổng quát (12)
      • 1.2.2. Cơ sở toán học của phương pháp Lasso (14)
      • 1.2.3. Thuật toán tìm ước lượng Lasso (15)
    • 1.3. Phương pháp Lasso cho bài toán phân loại (19)
      • 1.3.1. Mô hình hồi quy Logistic (LR) (19)
      • 1.3.2. Mô hình hồi quy Lasso-Logistic (LL) (20)
    • 1.4. Tính chất của ƣớc lƣợng Lasso (0)
      • 1.4.1. Bậc tự do (21)
      • 1.4.2. Tính duy nhất (21)
      • 1.4.3. Tính chệch (22)
      • 1.4.4. Tính vững (22)
  • CHƯƠNG 2. ỨNG DỤNG LASSO TRÊN BÀI TOÁN HỒI QUY (23)
    • 2.1. Mô hình nghiên cứu và các biến (23)
    • 2.2 Quy trình tính toán (25)
    • 2.3. Kết quả tính toán (26)
    • 2.4. Kết luận (30)
  • CHƯƠNG 3. ỨNG DỤNG LASSO TRÊN BÀI TOÁN PHÂN LOẠI (31)
    • 3.1. Giới thiệu (31)
    • 3.2. Khung phân tích vấn đề xây dựng mô hình đánh giá tín dụng (32)
      • 3.2.1. Khái niệm đánh giá tín dụng (32)
      • 3.2.2. Các yếu tố đầu vào (33)
    • 3.3. Các phương pháp thống kê trong xây dựng mô hình đánh giá tín dụng . 29 1. Các phương pháp thống kê truyền thống (34)
      • 3.3.2. Các mô hình học máy trong đánh giá tín dụng (36)
    • 3.4. Vấn đề mất cân bằng dữ liệu trong bài toán phân loại (37)
      • 3.4.1. Phương pháp CSL (38)
      • 3.4.2. Các kỹ thuật tái chọn mẫu (38)
    • 3.6. Kết quả thực nghiệm (41)
      • 3.6.1. Dữ liệu thực nghiệm (41)
      • 3.6.2. Các độ đo đánh giá hiệu quả của mô hình (42)
      • 3.6.3. Hiệu quả mô hình SMOTE-Lasso-Logistic (44)
      • 3.6.4 Nhận xét (49)
  • TÀI LIỆU THAM KHẢO (51)
  • PHỤ LỤC (56)
    • 1. Dữ liệu tỉ suất sinh lợi và các yếu tố nội tại của ngân hàng (56)
    • 2. Dữ liệu khách hàng tín dụng (60)
    • 3. Mã code chương 2 (62)
    • 4. Mã code chương 3 (67)

Nội dung

Mục đích nghiên cứu

Nghiên cứu được thực hiện nhằm các mục đích sau:

 Giới thiệu một khung lý thuyết về phương pháp ước lượng Lasso

 Giới thiệu các tình huống thực nghiệm với bộ dữ liệu Việt Nam bằng cách áp dụng phương pháp ước lượng Lasso Qua đó, chứng minh khả năng cải thiện dự báo của Lasso so với phương pháp ước lượng OLS trong bài toán hồi quy và so với mô hình hồi quy Logistic trong bài toán phân loại.

Đối tƣợng và phạm vi nghiên cứu

Đối tượng nghiên cứu: Cơ sở lý thuyết và ứng dụng của phương pháp ước lượng Lasso trong bài toán hồi quy và phân loại

 Cơ sở toán học cho lời giải của phương pháp Lasso, các thuật toán tìm lời giải Lasso, tính chất của các ước lượng từ phương pháp Lasso

 Ứng dụng Lasso trong lĩnh vực Tài chính – Ngân hàng trên bài toán hồi quy và phân loại.

Phương pháp nghiên cứu

Nghiên cứu tiến hành phân tích, tổng hợp các tài liệu khoa học liên quan đến phương pháp ước lượng Lasso, tập trung vào các khía cạnh chính: thuật toán để tìm ước lượng Lasso, nền tảng toán học của thuật toán và các đặc tính của ước lượng Lasso đã tìm được.

 Đối với nội dung ứng dụng Lasso, nghiên cứu sử dụng phương pháp định lượng với các mô hình phân tích hồi quy, mô hình phân loại dữ liệu Các ước lượng mô hình được thực hiện trên ngôn ngữ lập trình R.

Những đóng góp mới của đề tài

Phổ biến một phương pháp chọn biến của mô hình hồi quy và phân loại trong phân tích kinh tế, tài chính, ngân hàng Phương pháp này vừa có khả năng xây dựng một mô hình đơn giản, ít biến giải thích, đồng thời có thể cải thiện khả năng dự báo so với các phương pháp truyền thống

Thông qua ví dụ ứng dụng Lasso cho bài toán phân loại, nghiên cứu đề xuất một mô hình đánh giá tín dụng có hiệu quả cao hơn các phương pháp phân loại phổ biến

CƠ SỞ LÝ THUYẾT CỦA PHƯƠNG PHÁP LASSO

Các kiến thức liên quan

1.1.1 Hàm lồi và các tính chất

Tập lồi Một tập được gọi là tập lồi nếu với mọi và với mọi số thực , - ( )

Hàm lồi Hàm số được gọi là hàm lồi nếu tập xác định của là tập lồi và với mọi thuộc miền xác định của , với mọi số thực ( ), ( ( ) ) ( ) ( ) ( )

Nếu với mọi bất đẳng thức trong định nghĩa trên là dấu bất đẳng thức chặt (

Ngày đăng: 06/05/2024, 16:48

HÌNH ẢNH LIÊN QUAN

Hình 1. Đồ thị hàm lồi (a) và không lồi (b) - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 1. Đồ thị hàm lồi (a) và không lồi (b) (Trang 10)
Hình 2. Minh họa hình học hàm mục tiêu và miền giới hạn của Lasso và Ridge - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 2. Minh họa hình học hàm mục tiêu và miền giới hạn của Lasso và Ridge (Trang 14)
Hình 3 minh họa đồ thị của toán tử biên mềm   ( ). Khi       thì   ( )    . Tuy  nhiên, khi        thì |  ( )|   | | - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 3 minh họa đồ thị của toán tử biên mềm ( ). Khi thì ( ) . Tuy nhiên, khi thì | ( )| | | (Trang 16)
Bảng 2. Thuật toán Giảm chiều theo quỹ đạo. - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Bảng 2. Thuật toán Giảm chiều theo quỹ đạo (Trang 18)
Bảng 4. Thống kê mô tả các biến. - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Bảng 4. Thống kê mô tả các biến (Trang 24)
Bảng 3. Các biến giải thích trong mô hình. - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Bảng 3. Các biến giải thích trong mô hình (Trang 24)
Bước 3. Hình 4  minh  họa sự biến thiên  của  các hệ số ước lượng trong các - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
c 3. Hình 4 minh họa sự biến thiên của các hệ số ước lượng trong các (Trang 26)
Hình 5. Sự biến thiên của CVM theo lambda. - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 5. Sự biến thiên của CVM theo lambda (Trang 27)
Bảng 5. Kết quả ước lượng bằng phương pháp Lasso với   tốt nhất. - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Bảng 5. Kết quả ước lượng bằng phương pháp Lasso với tốt nhất (Trang 27)
Bảng 6. So sánh     từ Lasso với   tốt nhất và OLS trên tập kiểm tra - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Bảng 6. So sánh từ Lasso với tốt nhất và OLS trên tập kiểm tra (Trang 28)
Hình ảnh cho thấy rằng, đối với mô hình (2.1), phương pháp Lasso cho      nhỏ hơn phương pháp OLS, tuy không đáng kể - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
nh ảnh cho thấy rằng, đối với mô hình (2.1), phương pháp Lasso cho nhỏ hơn phương pháp OLS, tuy không đáng kể (Trang 29)
Hình 7. Biểu đồ     của mô hình (2.2) - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 7. Biểu đồ của mô hình (2.2) (Trang 30)
Bảng 7. Các yếu tố quan trọng trong đánh giá tín dụng theo quy tắc 5C và  FICO - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Bảng 7. Các yếu tố quan trọng trong đánh giá tín dụng theo quy tắc 5C và FICO (Trang 33)
Hình 8. Minh họa mô hình Cây quyết định - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 8. Minh họa mô hình Cây quyết định (Trang 37)
Bảng  10  minh  họa  các  kết  quả  có  thể  xảy  ra  trong  quá  trình  phân  loại  một  tập dữ liệu - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
ng 10 minh họa các kết quả có thể xảy ra trong quá trình phân loại một tập dữ liệu (Trang 42)
Hình 9. Minh họa đường cong ROC và AUC - Đề tài nghiên cứu khoa học: Phương pháp ước lượng Lasso: Cơ sở toán học và ứng dụng
Hình 9. Minh họa đường cong ROC và AUC (Trang 44)

TỪ KHÓA LIÊN QUAN

TÀI LIỆU CÙNG NGƯỜI DÙNG

  • Đang cập nhật ...

TÀI LIỆU LIÊN QUAN

w