7. CÔNG BẰNG, AN TOÀN, VÀ QUẢN TRỊ
7.1. Luật pháp, Công bằng, và trách nhiệm
Một chủ đề phổ biến trong các hội thảo Luật và Quản trị, TTNT cho Hàng hóa xã hội, và Tác động kinh tế và xã hội là sự cần thiết đảm bảo rằng TTNT thúc đẩy công lý và công bằng, và các quá trình dựa trên TTNT sẽ được các bên
30
liên quan chịu trách nhiệm. Vấn đề này đã được nhấn mạnh trước đó trong Báo cáo Dữ liệu lớn đầu tiên của Chính quyền xuất bản tháng 5/2014, và các báo cáo tiếp theo về Dữ liệu lớn, Các hệ thống thuật toán, Cơ hội, và các Quyền dân sự xuất bản tháng 5/2016.
Trong hệ thống tư pháp hình sự, một số trong những mối quan tâm lớn nhất với Dữ liệu lớn là thiếu dữ liệu và thiếu dữ liệu có chất lượng. TTNT cần có các dữ liệu tốt. Nếu dữ liệu không đầy đủ hoặc sai lệch, TTNT có thể làm trầm trọng thêm các vấn đề sai lệch. Điều quan trọng là bất cứ ai sử dụng TTNT trong bối cảnh tư pháp hình sự phải nhận thức được những hạn chế của dữ liệu hiện tại.
Các vấn đề tương tự có thể ảnh hưởng đến việc thuê tuyển lao động. Nếu một mô hình máy học được sử dụng để sàng lọc ứng viên xin việc, và nếu dữ liệu được sử dụng để đào tạo mô hình phản ánh các quyết định trong quá khứ có tính chất thiên vị, thì kết quả có thể để duy trì sự thiên vị quá khứ. Ví dụ, tìm kiếm những ứng viên giống như đã thuê trong quá khứ có thể thiên vị một hệ thống hướng vào thuê nhiều người giống như những người đã có trong nhóm, chứ không phải là xem xét các ứng cử viên tốt nhất với đầy đủ sự đa dạng của các ứng viên tiềm năng
Để đối phó với những mối lo ngại này, một số diễn giả hội thảo trao đổi về sự minh bạch cao hơn khi các công cụ TTNT được sử dụng cho những mục đích công cộng. Một diễn giả đã so sánh vai trò của TTNT với vai trò của các cơ quan hành chính trong việc ra quyết định công. Thẩm quyền được giao cho một cơ quan do chuyên môn đặc thù của cơ quan đó, nhưng việc giao thẩm quyền bị hạn chế bởi sự bảo vệ quy trình, các biện pháp thúc đẩy tính minh bạch và giám sát, và giới hạn về phạm vi thẩm quyền được giao. Một số diễn giả kêu gọi phát triển một lý thuyết tương tự về làm thế nào duy trì trách nhiệm khi trao quyền quyết định cho máy. Những mối quan tâm minh bạch không chỉ tập trung vào các dữ liệu và các thuật toán được sử dụng, mà còn về khả năng có một số hình thức giải thích mọi quyết định dựa trên TTNT.
Cũng tại các hội thảo, các chuyên gia TTNT cảnh báo rằng có những thách thức vốn có trong việc tìm hiểu, dự đoán, và giải thích hành vi của các hệ thống TTNT tiên tiến, do sự phức tạp của các hệ thống này và khối lượng lớn các dữ liệu mà chúng sử dụng.
Khó khăn trong việc hiểu các kết quả máy học là những mâu thuẫn với quan niệm sai lầm phổ biến mà các thuật toán phức tạp luôn luôn làm những gì
31
các nhà thiết kế ra chúng lựa chọn để chúng làm, và do đó sự thiên vị sẽ chui vào một thuật toán khi và chỉ khi bản thân các nhà phát triển bị thiên vị có ý thức hoặc vô thức. Điều chắc chắn đúng là một nhà phát triển công nghệ muốn sản xuất một thuật toán thiên vị có thể làm được như vậy, và sự thiên vị vô thức có thể khiến cho những người sử dụng không đủ nỗ lực để ngăn chặn thiên vị. Tuy nhiên, trong thực tế, các nhà phát triển thiên vị với những ý định tốt nhất có thể vô tình tạo ra các hệ thống với các kết quả thành kiến, bởi vì ngay cả các nhà phát triển một hệ thống TTNT có thể không hiểu nó đủ rõ để ngăn chặn các kết quả không mong đợi.
Moritz Hardt cho một ví dụ minh họa về thiên vị có thể vô tình xuất hiện như thế nào từ quá trình máy học. Ông mặc nhiên công nhận một mô hình máy học được đào tạo để phân biệt tên thật của một người dân với các tên giả. Mô hình này có thể xác định rằng một tên có nhiều khả năng là giả nếu phần tên riêng (firstname) của nó là độc đáo trong tập dữ liệu. Quy tắc này có thể tiên đoán toàn bộ dân số, bởi vì các tên giả nhiều khả năng được cách điệu và do đó độc đáo. Tuy nhiên, nếu có một nhóm dân tộc là một thiểu số dân cư nhỏ và có xu hướng sử dụng một bộ tên riêng khác với nhóm dân cư chiếm đa số, thì các tên khác biệt này nhiều khả năng là duy nhất trong mẫu, và do đó nhiều khả năng được xếp loại nhầm thành các tên giả. Tác động này phát sinh không phải vì bất kỳ sự đối xử đặc biệt nào với các tên của nhóm dân tộc thiểu số, và cũng không phải vì các dữ liệu đầu vào là không đại diện chung cho dân số, mà chỉ đơn giản vì nhóm dân tộc thiểu số đó quá ít.
Andrew Moore, Trưởng khoa Khoa học máy tính tại Đại học Carnegie Mellon, cung cấp một quan điểm về thách thức của TTNT và những hậu quả không lường trước tại hội thảo về công nghệ, an toàn, và kiểm soát TTNT. Ông lập luận rằng ngày nay, vì sự mờ của các thuật toán TTNT, cách hiệu quả nhất để giảm thiểu nguy cơ kết quả ngoài ý muốn là thông qua mở rộng thử nghiệm - điều cơ bản để có một danh sách dài của các loại quả xấu có thể xảy ra, và để loại trừ những kết quả đó bằng cách tạo ra nhiều kiểm tra chuyên biệt để tìm kiếm chúng.
Đào tạo đạo đức cho sinh viên và những người thực hành TTNT là một phần cần thiết của này giải pháp. Lý tưởng nhất, mỗi sinh viên học TTNT, khoa học máy tính, hay khoa học dữ liệu sẽ được tiếp xúc với chương trình giảng dạy và thảo luận về các vấn đề đạo đức liên quan và các chủ đề ninh. Tuy nhiên, chỉ đạo đức thôi là không đủ. Đạo đức có thể giúp những người sử dụng hiểu rõ trách nhiệm của mình đối với tất cả các bên liên quan, nhưng việc giáo dục đạo
32
đức cần phải được tăng cường với các tính năng kỹ thuật để đưa những ý định tốt vào thực tế bằng việc có những đề phòng kỹ thuật khi một hệ thống được chế tạo và thử nghiệm.
Khi những người sử dụng cố gắng làm cho hệ thống TTNT công bằng và có trách nhiệm hơn, sẽ có cơ hội để làm cho công nghệ trợ giúp thực hiện trách nhiệm chứ không phải là một rào cản đối với nó. Nghiên cứu để cải thiện khả năng giải nghĩa của các kết quả máy học là một ví dụ. Với một mô hình có thể giải nghĩa giúp mọi người hiểu một quyết định cho phép họ chất vấn các giả định và quy trình đằng sau nó. Có một số phương pháp kỹ thuật để nâng cao trách nhiệm và sự mạnh mẽ của các quyết định thuật toán phức tạp. Một hệ thống có thể được thử nghiệm "trong tự nhiên" bằng cách đưa nó vào các tình huống và quan sát hành vi của nó. Một hệ thống có thể bị kiểm tra hộp đen, trong đó nó tiếp nhận các đầu vào tổng hợp và hành vi của nó được theo dõi, cho phép kiểm tra hành vi trong các tình huống mà có thể không xảy ra tự nhiên.
Một số hoặc tất cả các chi tiết kỹ thuật của thiết kế hệ thống có thể được công bố, cho phép các nhà phân tích tái tạo nó và phân tích các khía cạnh hành vi bên trong của nó mà có thể khó mô tả chỉ bằng thử nghiệm. Trong một số trường hợp, có thể công bố thông tin giúp công chúng đánh giá rủi ro sai lệch của một hệ thống, trong khi giữ lại các thông tin khác về các hệ thống làm độc quyền hay tài sản riêng,