Vấn đề hộp đen trí tuệ nhân tạo giải cách nào? Các nhà công nghệ ngân hàng làm nóng ý tư ởng sử dụng trí tuệ nhân tạo (AI) cơng nghệ máy học nhiều lĩnh vực cho vay, tuân thủ chống rửa tiền thu nợ Nhưng ngân hàng ph ải đối mặt với vấn đề “hộp đen” họ cố gắng sử dụng AI Họ vận hành mơ hình AI tr chứng minh với lãnh đạo ngân hàng quan quản lý rằng, mơ hình đảm bảo cơng bằng, an tồn có khả giải thích rõ ràng lý đ ằng sau định đưa Douglas Merrill, giám đốc điều hành ngư ời sáng lập ZestFinance, công ty cung cấp phần mềm dựa máy học vay tuân thủ quy tắc chống rửa tiền nói rằng, trừ mảng chống gian lận dịch vụ tài chưa sử dụng máy học Khơng phải cơng ty tài khơng đủ trình độ Mỗi tổ chức tài lớn có người nghiên cứu máy học tất người biết thuật toán tốt nhiều so với thuật tốn cũ Nhưng chưa có thuật tốn đư ợc đưa vào sử dụng, chủ yếu vướng quy định quan quản lý, chẳng hạn khả giải thích Một chuyên gia giấu tên nói “Nỗi sợ lớn tơi đề xuất áp dụng máy học vào việc câu trả lời "Tơi khơng nghĩ quan qu ản lý sẵn sàng" Tơi có th ể dùng máy học để phát trường hợp bất thường Nhưng v ấn đề liên quan tới cách đối xử với người hay áp dụng sách với khách hàng quan qu ản lý bắt đầu trở nên khó khăn Họ quen với việc nhìn thấy sơ đồ - bạn dùng điều kiện này, bạn nhận điều này.” Bao có giải pháp cho vấn đề này? Khi AI phát huy tiềm dịch vụ tài chính? Chúng ta tìm hiểu thực tế thị trường ứng dụng AI Mỹ để hiểu thêm xu hướng Thành kiến không rõ từ đâu tới Khả giải thích cần tới lĩnh vực cho vay Ý tư ởng đưa định cho vay dựa thuật toán hộp đen nỗi kinh hoàng quan bảo vệ người tiêu dùng nhà qu ản lý Điều xảy hộp đen đưa quy ết định có tương quan l ớn với sắc tộc? Điều xảy hộp đen bắt chước hành vi phân bi ệt đối xử người? Ví dụ như: người thuộc câu lạc golf đương nhiên có xếp hạng tín dụng tốt David Berglund, phó chủ tịch cấp cao trí tuệ nhân tạo U.S Bank, cho biết việc sử dụng cơng nghệ có rủi ro việc sử dụng AI, học máy bảo lãnh cho vay không ph ải trường hợp ngoại lệ Chúng lưu tâm đến cần thiết phải hạn chế thiên vị, đảm bảo công trì khả kiểm sốt Nhưng số người cho rằng, so với tất sai lầm tiềm AI, hệ thống (khơng có AI) tồi tệ Paul Gu, đồng sáng lập Upstart - công ty cho vay trực tuyến cung cấp tảng cho vay dựa AI cho Customers Bancorp, BankMobile m ột số đơn vị khác, phản đối mạnh mẽ ý tưởng cho việc sử dụng liệu thay AI dẫn đến phân biệt đối xử Ông cho rằng: “Các phương thức bảo lãnh truyền thống không công Nếu người lo lắng việc ngân hàng cho người giả vay, thử hỏi họ có sử dụng liệu thu nhập khách hàng (khi định cho vay) không? Thế người giả? Thường điểm tín dụng (FICO) cao Bạn nghĩ tỷ lệ người chủng tộc định có điểm FICO cao? Nếu bạn so sánh số với tỷ lệ phần trăm người tổ chức giáo dục hàng đầu Hoa Kỳ số cịn tốt so với số Điều khơng có nghĩa ngân hàng ph ản đối giáo dục Chúng tơi cải thiện đáng kể khả tiếp cận tín dụng”, ơng nói “Nhi ệm vụ là, với người thực trả lại khoản vay, muốn cho họ vay với lãi suất thấp có thể.” Khả giải thích trường phái cũ Berglund so sánh khả giải thích với việc học sinh làm kiểm tra Bạn trả lời đúng, b ạn làm điều cách quán theo thời gian làm tốt kiểm tra không? Ngày nay, người tiêu dùng bị từ chối cho vay biết lý từ chối hành động bất lợi khiến họ khơng vay Đơi lý gửi thẳng từ đơn vị xếp hạng tín dụng Merrill nói “Dữ liệu chúng tơi cho thấy gần 80% lý sai.” Ơng trích trạng ngân hàng: “Các hành đ ộng bất lợi khách hàng - mà hầu hết tổ chức cho vay - thiết kế cho giới bảo lãnh nhị phân túy, bảo lãnh phát hành điểm tín dụng bạn đạt mức này, tỷ lệ nợ thu nhập bạn mức chấp nhận được” Các mã hành động bất lợi hệ thống cho vay cũ thư ờng khơng đúng, th ậm chí khơng thể sửa Đôi khi, người ta bảo khách hàng anh ta/cơ ta khơng thể vay tiền chưa vay đủ nhiều Những người trở nên giàu thăng tiến cách đột ngột (Upstart) gây tranh cãi mơ hình c họ xem xét liệu giáo dục ứng viên cấp, trường học, lĩnh vực học tập năm tốt nghiệp - bên cạnh liệu người sử dụng lao động nghề nghiệp, liệu từ đơn xin vay liệu tổ chức xếp hạng tín dụng truyền thống Họ Cục Bảo vệ Tài Người tiêu dùng cho phép ho ạt động sau gửi cho quan thông tin chi ti ết tất đơn xin vay mà h ọ nhận được, phê duyệt từ chối Những Upstart có đủ khả giải thích mơ hình c họ Berglund ho rằng: “Nếu bạn từ chối cho người vay, b ạn phải giải thích rõ lý Chúng tơi làm đư ợc điều đó; vấn đề giải Bạn có mơ hình phức tạp tốn học giải tốn phức tạp Mơ hình chúng tơi giúp bạn đưa lý để giải thích với khách hàng, lý mà theo t ốt lý hệ thống kiểu cũ.” Tương tự, Scott Zoldi, chuyên gia phân tích trư ởng FICO nói rằng, phần mềm chống rửa tiền dựa AI cơng ty ơng xác định lý cho giao dịch rửa tiền tiềm ẩn mà đánh dấu “Nếu định kèm với mã lý kèm theo c ả câu chuyện nhân khách hàng (của FICO) giải thích họ chặn giao dịch cách giải thích tốt hẳn Mơ hình máy h ọc khơng cần có khả giải thích theo cách hàn lâm C ần có người đầu điện thoại có khả nói với tơi ngơn ngữ người việc giao dịch bị chặn Đó hư ớng tiến hóa (của thuật tốn).” Những dạng khả giải thích Các nhà khoa học tạo kỹ thuật để đưa lời giải thích từ mơ hình tốn máy học Một số LIME, xuất năm 2016 Một kỹ thuật phổ biến khác xuất năm 2017 với tên gọi SHAP (từ viết tắt SHapley Additive exPlanations) C ả ZestFinance underwrite.ai sử dụng SHAP Theo tổng giám đốc Marc Stein, underwrite.ai t ạo mơ hình có khả giải thích đầy đủ từ năm 2014 “Đó thứ Với định, chúng tơi xem xét kỹ mơ hình nói thuộc tính dẫn bạn tới kết luận (về việc cho vay hay khơng)” N ếu mơ hình underwrite.ai từ chối đơn xin vay, s ẽ cung cấp liệu quan trọng góp phần đưa đến định Nó có th ể vụ phạm pháp hay tiền “Đó quy tắc cứng nhắc Chúng khơng nói r ằng “Từ chối có tiền sự”, Stein nói “Nhưng mơ hình h ọc có nhiều tiền án tiền khả người khách hàng t ốt thấp Rất dễ để ánh xạ liệu với mã từ chối nên giải thích rõ cho khách hàng Chúng tơi p hấn khích với việc khoản đầu tư ngày tăng đư ợc đổ vào thị trường AI có khả giải thích” Thuyết phục quan quản lý Trong trao đổi riêng, ngân hàng thư ờng nói quản quản lý thể cởi mở với việc sử dụng AI tra địa phương thường không hiểu công nghệ phản đối họ Zoldi nói nhiều ngân hàng yêu cầu ơng giải thích cho quan qu ản lý địa phương cách công cụ chống rửa tiền dựa AI FICO hoạt động Đôi họ bảo “Nếu không làm thứ theo cách cũ tơi bị phạt nặng” Các quan quản lý Hoa Kỳ thực số động thái thúc đẩy việc ứng dụng AI Họ ban hành tuyên bố chung vào tháng 12, khuy ến khách việc sử dụng AI để tuân thủ Luật bí mật ngân hàng (Bank Secrecy Act) quy tắc chống rửa tiền khác Họ nói rằng, phần mềm AI xứng đáng để thử nghiệm Tuy nhiên, không rõ ều đủ để ngân hàng cảm thấy tin tưởng hay chưa Hơn th ế, số ngân hàng muốn vượt khỏi phạm vi chống rửa tiền sử dụng AI cho vay lĩnh v ực khác Merrill ZestFinance nói ơng dành th ời gian làm việc với quan quản lý, giải thích chế hoạt động phần mềm máy học công ty ông phát triển.“Chúng tơi có nh ững bước tiến lớn cịn nhiều việc phải làm.” Stein nói, ơng th ảo luận nhiều lần với người Cục Bảo vệ Tài Người tiêu dùng AI kiểu liệu mà công ty ông dùng mơ hình “Phản ứng họ ln ‘Chúng tơi khơng quan tâm đến quy trình kỹ thuật, chúng tơi quan tâm đến việc tuân thủ quy định Nếu khách hàng bị từ chối, ơng giải thích cho anh ta/cơ ta t ại họ bị từ chối khơng? Khả giải thích mơ hình có ổn định khơng?’” Chẳng hạn, mơ hình nói tiền lý khiến ngân hàng từ chối cho vay cần phải có tiền hồ sơ khách hàng xin vay bị từ chối Đó khơng phải tình hộp đen Tài liệu tham khảo: https://www.information -management.com/news/can-ais-black-boxproblem-be-solved ... câu chuyện nhân khách hàng (của FICO) giải thích họ chặn giao dịch cách giải thích tốt hẳn Mơ hình máy h ọc khơng cần có khả giải thích theo cách hàn lâm C ần có người đầu điện thoại có khả nói... Upstart có đủ khả giải thích mơ hình c họ Berglund ho rằng: “Nếu bạn từ chối cho người vay, b ạn phải giải thích rõ lý Chúng tơi làm đư ợc điều đó; vấn đề giải Bạn có mơ hình phức tạp tốn học giải. .. định cho vay dựa thuật toán hộp đen nỗi kinh hoàng quan bảo vệ người tiêu dùng nhà qu ản lý Điều xảy hộp đen đưa quy ết định có tương quan l ớn với sắc tộc? Điều xảy hộp đen bắt chước hành vi phân