Trong rất nhiều khái niệm về Trí tuệ nhân tạo, chúng tôi lưu ý một khái niệm tương đối cập nhật và có ý nghĩa trong việc nghiên cứu những khía cạnh xã hội của nó (được trích từ bá[r]
(1)TRÍ TUỆ NHÂN TẠO
VÀ VẤN ĐỀ XÂM PHẠM QUYỀN CON NGƯỜI
Ths Đậu Cơng Hiệp Khoa Pháp luật Hành chính-nhà nước Đại học Luật Hà Nội Dẫn nhập: Trí tuệ nhân tạo sản phẩm công nghệ có tầm ảnh hưởng lớn coi thành tựu bật Cách mạng công nghiệp lần thứ tư Với tư cách phát minh công nghệ, giá trị trước hết Trí tuệ nhân tạo phục vụ sống mang lại tiện ích vật chất cho người Tuy nhiên, mặt trái Trí tuệ nhân tạo thể chỗ nó có thể hỗ trợ trở thành tác nhân cho việc xâm phạm tới quyền người Điều đặt thách thức mặt pháp lý nhằm ngăn ngừa nguy Trí tuệ nhân tạo bị lạm dụng Để thấy điều đó, nghiên cứu khởi đầu từ việc khái quát tính chất chung Trí tuệ nhân tạo mà từ đó nó có thể gây ảnh hưởng tới quyền người, ảnh hưởng Trí tuệ nhân tạo tới số khía cạnh quyền cụ thể cuối đề xuất phương hướng lập pháp để giải vấn đề
1 Trí tuệ nhân tạo nguy xâm phạm quyền người
Là vấn đề có lịch sử 50 năm358, khái niệm Trí tuệ nhân tạo luôn có biến động thay đổi nhằm cập nhật khía cạnh tiến mà nó đạt tới Việc cỗ máy có thể tư làm việc người ước mơ nhân loại từ hàng nghìn năm, phản ánh thần thoại với cỗ máy thần thợ rèn Hephaestus cỗ máy tính toán Alan Turing359 Trong nhiều khái niệm Trí tuệ nhân tạo, lưu ý khái niệm tương đối cập nhật có ý nghĩa việc nghiên cứu khía cạnh xã hội nó (được trích từ báo cáo Ủy ban lâm thời Trí tuệ nhân tạo Thượng viện Anh), đó là: “Trí tuệ nhân tạo hợp thành quy trình và cơng nghệ cho phép máy tính bổ sung hay thay nhiệm vụ cụ thể vốn được thực người, chẳng hạn đưa đề xuất giải vấn đề”360 Nói chung, dù đứng khía cạnh khái niệm Trí tuệ nhân tạo thường đề cập tới hai khía cạnh lớn: (1) Sự tự học tự hiểu biết máy móc; (2) Sự thay người số công việc máy móc Đặc biệt, với tư cách phát minh khoa học ngày hoàn thiện, nhiều quan niệm cho tương lai, Trí tuệ nhân tạo có khả tự ý thức 358 Hồ Tú Bảo, Trí tuệ nhân tạo chặng đường 50 năm, http://www.jaist.ac.jp/~bao/Writings/AI50years.pdf 359 Bruce G Buchaman, A (very) brief history of artificial intelligence, AI Magazine, December 2005 360 AI Now, “The AI now report: the social and economic implications of artificial intelligence technologies
(2)bản thể trở thành giống loài hay chủng tộc mới, cạnh tranh có khả hủy diệt văn minh nhân loại Dù vậy, mặt thực tế, thành tựu loài người đạt Trí tuệ nhân tạo chỉ dừng lại mức độ máy móc Tuy nhiên, khơng phải mà nó khơng có nguy xâm phạm tới quyền người Điều đó thể số mặt sau:
- Trí tuệ nhân tạo công nghệ mang tính trung lập
Nền tảng Trí tuệ nhân tạo thuật toán thiết kế người nhằm mục đích chuyển liệu đầu vào trở thành sản phẩm đầu Theo David Kaye, phụ thuộc Trí tuệ nhân tạo vào người cịn lớn gần tồn q trình vận hành nó có tác động người Cụ thể: (1) Ở bước thiết kế, người tạo Trí tuệ nhân tạo dựa dự định chủ quan mình; (2) Ở bước triển khai, người tạo liệu đầu vào (3) Ở bước thực thi, người sử dụng kết đầu theo ý muốn mình361 Thực tế cho thấy, can thiệp cách chủ quan tác động tới quy trình khách quan có thể làm tính trung lập nó Một nghiên cứu ProPublica chỉ số tòa án Mỹ sử dụng thuật tốn để dự đốn tình hình tội phạm tương lai kết cho thấy có thiên lệch rõ ràng chống lại người gốc Phi362 Sự thiếu trung lập Trí tuệ nhân tạo, nhìn chung có thể ảnh hưởng tới quyền người góc độ khác nhau, đó tiêu biểu quyền không bị phân biết đối xử
- Trí tuệ nhân tạo công cụ khó giám sát
Một đặc tính khác cần phải cân nhắc Trí tuệ nhân tạo đó việc máy học có thể đạt tới trình độ tự giải vấn đề Thuật toán thiết kế để Trí tuệ nhân tạo có thể tự thích ứng nhằm xác định vấn đề phát triển câu hỏi Điều dẫn đến vấn đề người bị loại trừ khỏi công đoạn, chí Trí tuệ nhân tạo tự tìm kiếm nguồn liệu đầu vào nằm ngồi kiểm sốt người khả sử dụng sản phẩm đầu gặp phải nhiều vấn đề Vấn đề xảy hệ thống có thể tự học để thực nhiệm vụ mà không có định hướng hay giám sát từ người số nghiên cứu gọi tự trị363 Sự tự trị khiến hiệu Trí tuệ nhân tạo bị nghi ngờ lý như: (1) Khi thiếu định hướng người, Trí tuệ nhân tạo có thể tiếp cận với nguồn liệu không đáng tin cậy; (2) Sự tự trị không tuyệt đối bị ảnh hưởng người thiết kế chủ sở hữu Đối với khía cạnh quyền người, việc Trí tuệ nhân tạo trở nên khó giám sát 361 David Kaye, Report of the Special Rapporteur on the promotion and protection of the right to freedom of
opinion and expression, submitted in accordance with Human Rights Council resolution 34/18
362 Theo: https://www.scitecheuropa.eu/artificial-intelligence-algorithms/92324/
363 European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence,
(3)khiến người ta nghi ngại công dụng nó lĩnh vực nhạy cảm đòi hỏi trách nhiệm cao
- Trí tuệ nhân tạo mang tới quyền lực khó kiểm soát
Sức mạnh Trí tuệ nhân tạo nằm chỗ nó thâu tóm sử dụng khối lượng liệu khổng lồ Đặc thù Trí tuệ nhân tạo kỷ XXI đó nó hoạt động tảng môi trường thông tin đa dạng mà suốt hàng thập kỷ qua, Internet góp phần tích lũy nên Sự vận dụng Trí tuệ nhân tạo, đó, đem lại cho tổ chức, cá nhân sở hữu chúng quyền lực to lớn mà hệ việc thiếu kiểm soát thứ quyền lực đó chính nguy xâm phạm nhân quyền Điều thể hai khía cạnh364: (1) Đối với nhà nước, Trí tuệ nhân tạo có thể sử dụng để tạo nên hệ thống giám sát sâu, qua đó can thiệp mạnh vào đời sống xã hội ngược lại xu hướng tự do, dân chủ hóa; (2) Đối với khối tư nhân, nguy phân biệt đối xử gia tăng ngày nhiều doanh nghiệp tài chính sử dụng Trí tuệ nhân tạo để sàng lọc đối tượng cho vay thông qua liệu họ, kể thói quen mua sắm Việc sở hữu sức mạnh mà Trí tuệ nhân tạo mang lại có thể dẫn tới lạm dụng nó vào mục đích xâm phạm tới quyền người
2 Ảnh hưởng Trí tuệ nhân tạo tới số quyền cụ thể
Nói chung, Trí tuệ nhân tạo với tư cách công cụ người có thể tác động tới hầu hết phương diện quyền người Tuy nhiên, Trí tuệ nhân tạo chủ yếu hoạt động môi trường Internet gần hướng tới khía cạnh giới ảo nên ảnh hưởng nó tới quyền người chỉ tập trung số mặt cụ thể như:
- Đối với quyền tự ý kiến Quyền hiểu cách cụ thể khả định hình ý kiến phát triển nó cách có lý trí365 Trong kết luận mình, Hội đồng nhân quyền Liên hợp quốc khẳng định quyền đòi hỏi tự khỏi chịu ép buộc không đáng có trình phát triển niềm tin, ý thức hệ, phản ứng hay lập trường cá nhân366 Tuy nhiên, ngày nay, thông qua Trí tuệ nhân tạo, phương tiện truyền thông ngày quản lý nội dung theo định hướng thị trường, thương mại hay chí chính trị Sự quản lý nội dung thực cách tinh vi nhằm chèo lái dư luận theo mục đích riêng họ Điều với độc quyền số kênh tìm kiếm tác động lớn tới khả hình thành phát triển ý kiến
364 Xem thêm, Lindsey Andersen, Human rights in the age of artificial intelligence, p 14
https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf
365 Human Rights Committee, general comment No 34 (2011) on the freedoms of opinion and expression,
para 9, available at www2.ohchr.org/english/bodies/hrc/docs/GC34.pdf; Manfred Nowak, U.N Covenant on Civil and Political Rights: CCPR Commentary (1993)
366 Yong Joo-Kang v Republic of Korea, Human Rights Committee communication No 878/1999, 16 July
(4)của cá nhân có thể coi ép buộc tới việc cá nhân tự hình thành ý kiến, quan điểm
- Đối với quyền tự biểu đạt, việc lạm dụng chế kiểm duyệt Trí tuệ nhân tạo có thể không tạo hiệu mà cịn gây tác hại khơng mong muốn Điều xảy phần thuật toán Trí tuệ nhân tạo thời không đủ khả để nhận diện vấn đề thuộc bối cảnh văn hóa, hoàn cảnh ngẫu nhiên Một ví dụ điển hình phần mềm Facebook loại bỏ hình ảnh “Cơ bé napalm” cho hình ảnh có tính chất khiêu dâm mà tới ý nghĩa lịch sử nó367 Bên cạnh đó nội dung mang tính cực đoan thù ghét có thể dễ dàng nhận thông qua thường thức người máy móc lại khó thấy Một ví dụ khác Trí tuệ nhân tạo khó nhận diện nghĩa tiếng lóng hay cách biểu thường dùng cộng đồng nhỏ368 Ngoài ra, với tảng quản trị Trí tuệ nhân tạo, người dùng khó khăn để hiểu phạm vi giới hạn giám sát để ứng xử cách phù hợp Đa phần người dùng chấp nhận rủi ro việc không hiểu hết điều khoản sử dụng vốn ngày phức tạp kể từ có tham gia Trí tuệ nhân tạo, để tiếp cận tới công cụ tiện ích mạng Internet Điều không phù hợp với Khoản 3, Điều 19, Công ước quyền dân chính trị vốn chỉ cho phép hạn chế quyền tự biểu đạt chúng đảm bảo tiêu chuẩn pháp lý cung cấp công khai, giải thích độc lập có mục đích tương xứng với cách thực
- Đối với quyền tự riêng tư, vấn đề Trí tuệ nhân tạo đó nó tồn dựa tảng khối lượng thông tin lớn tất mặt, đó có liệu cá nhân Để có thể hoạt động, Trí tuệ nhân tạo đòi hỏi việc thu thập xử lý ngày nhiều thông tin Một kênh cung cấp nhiều thông tin mua sắm dịch vụ mạng Vì vậy, sản phẩm tiêu dùng đòi hỏi việc khách hàng cung cấp thông tin nhiều đa dạng để nhà sản xuất có thể tập hợp sử dụng Trí tuệ nhân tạo để xử lý chúng Bên cạnh đó, với dịch vụ mạng, thông qua công cụ ngày phát triển, tính ẩn danh người dùng có thể bị tác động Ngày nay, công nghệ nhận diện khuôn mặt cho phép nhận chính xác tới 69% người đeo mũ lưỡi trai khăn che mặt dựa hình ảnh gốc369
367 Julia Carrie Wong, “Mark Zuckerberg accused of abusing power after Facebook deletes ‘napalm girl’
post”, The Guardian, September 2016 Available at
https://www.theguardian.com/technology/2016/sep/08/facebook-mark-zuckerberg-napalm-girlphoto-vietnam-war; see also A/HRC/38/35, para 29
368 Xem thêm: Article 19 Group, Privacy and Freedom of Expression In the Age of Artificial Intelligence,
April 2018, p.08-11 https://www.article19.org/wp-content/uploads/2018/04/Privacy-and-Freedom-of-Expression-In-the-Age-of-Artificial-Intelligence-1.pdf
369 S Walker, Face recognition app taking Russia by storm may bring end to public anonymity, The
(5)3 Khung pháp lý cho Trí tuệ nhân tạo với cách tiếp cận dựa quyền Tiếp cận dựa quyền phương pháp ban đầu áp dụng xây dựng, thực thi chương trình hợp tác Liên hợp quốc với nước thành viên Về sau, phương pháp ngày trở nên hữu dụng phổ biến, lĩnh vực chính sách, pháp luật370 Trong vấn đề Trí tuệ nhân tạo, bên cạnh việc phát huy giá trị tiềm nó việc bảo vệ quyền người trước nguy xâm phạm cần thiết Điều thể chỗ Trí tuệ nhân tạo cần hệ thống tiêu chuẩn quy trình vận hành thiết kế nhằm đảm bảo cách quyền người Cụ thể sau:
- Về tiêu chuẩn Trí tuệ nhân tạo
Đối với công ty, doanh nghiệp thuộc khối tư nhân, nguyên tắc quyền người đề cập rõ mục báo cáo A/HRC/38/35 đoạn 41-43371 Ứng với lĩnh vực này, doanh nghiệp phải định hướng tiêu chuẩn xây dựng, vận hành Trí tuệ nhân tạo theo nguyên tắc tính minh bạch Trong đó, đảm bảo phải thông tin đầy đủ cho cá nhân thông tin mà họ cung cấp có thể trở thành phần tập hợp liệu mà hệ thống Trí tuệ nhân tạo sử dụng, đồng thời giúp họ hiểu cách mà thông tin có thể sử dụng Trong trách nhiệm mình, doanh nghiệp phải cung cấp thông tin rõ ràng dễ hiểu đặc biệt phải mạnh vào hệ đáng kể mà khách hàng có thể gặp phải Một trách nhiệm khác doanh nghiệp đó phải tìm cách loại bỏ tối đa nguy dẫn đến phân biệt đối xử ứng dụng dựa Trí tuệ nhân tạo Đây vấn đề tương đối phức tạp ngồi việc xuất phát từ ý chí chủ quan nó cịn đến từ ngun nhân thuộc hồn cảnh xã hội khiếm khuyết mà công nghệ chưa giải Vấn đề cần phải giải cách đồng bộ, từ khâu lấy mẫu, lọc liệu xử lý chúng ứng dụng Đối với quan nhà nước, vấn đề tương tự đặt họ sử dụng Trí tuệ nhân tạo chương trình, dự án Bên cạnh đó, họ cần có tham vấn thích hợp với chuyên gia, người dân để lắng nghe ý kiến từ xã hội nhằm đảm bảo chương trình, dự án đó khơng gây hậu khó lường
- Về quy trình vận hành Trí tuệ nhân tạo
Nói đến giai đoạn vận hành, nhằm đảm bảo nhu cầu minh bạch, yếu tố không nhắc tới đó phải có đánh giá tác động Vấn đề đánh giá tác động nhân quyền vấn đề thường nói tới cần thực quan, tổ chức đưa ứng dụng Trí tuệ nhân tạo vào hoạt động Qua đó 370 Xem thêm: Vũ Công Giao, Ngô Minh Hương, Tiếp cận dựa quyền – Lý luận thực tiễn, Nxb Đại
học Quốc gia Hà Nội, Hà Nội, 2017
(6)xã hội có thể lường trước nguy mà nó xảy Một tổ chức tư vấn có tên AI Now đề xuất chính phủ doanh nghiệp cần bước đánh giá nội ứng dụng Trí tuệ nhân tạo mà cần có nghiên cứu bên độc lập để đảm bảo độ tin cậy372 Bên cạnh đó, nhu cầu minh bạch, nhà nước lẫn khối tư nhân cần có tham vấn với tổ chức xã hội dân sự, nhóm hoạt động nhân quyền, cộng đồng địa phương ảnh hưởng việc triển khai ứng dụng đó Trí tuệ nhân tạo Đây cách nhằm gia tăng tham gia người dân, điều vốn yêu cầu minh bạch phát triển bền vững Từ góc độ khác, ảnh hưởng Trí tuệ nhân tạo tới quyền người cần có chế để khắc phục điều dĩ nhiên thuộc trách nhiệm quan, tổ chức vận hành chúng Từ góc độ này, quan, tổ chức cần phải sẵn sàng biện pháp giải vấn đề bất cập phát sinh từ Trí tuệ nhân tạo cách nhanh gọn hiệu
Trí tuệ nhân tạo mang tới cho nhà nước doanh nghiệp sức mạnh to lớn mà kéo theo đó trách nhiệm tương xứng Đặc biệt phát triển lớn mạnh cơng ty, tập đồn đa quốc gia dường khiến chúng trở thành chủ thể quản trị toàn cầu tăng cường toàn cầu hóa khiến chủ quyền nhà nước trở nên bị co hẹp Nhờ có Trí tuệ nhân tạo, doanh nghiệp công nghệ Facebook, Google vươn lên trở thành tổ chức có sức ảnh hưởng toàn cầu Nhưng lạm dụng Trí tuệ nhân tạo để kiểm duyệt, khai thác thông tin mà quốc gia Trung Quốc trở thành hình mẫu xấu cho việc tơn trọng quyền người373 Việc doanh nghiệp mang quyền lực to lớn khiến người ta phải nghi ngại tính chính thống thứ quyền lực đó trái với nhà nước lý tưởng xây dựng tảng chủ quyền nhân dân doanh nghiệp lại hình thành với sở lợi nhuận Vụ việc liên quan đến mua bán thông tin người dùng Facebook điển hình cho việc Trong vấn đề Trí tuệ nhân tạo, khung pháp lý xây dựng dựa nguyên tắc quyền người, đó, cần thiết đáng cân nhắc
Kết luận
Trong bối cảnh Trí tuệ nhân tạo vấn đề quan tâm, cần ý tới khía cạnh ảnh hưởng nó tới quyền người Điều phần xuất phát từ việc Trí tuệ nhân tạo tồn nhiều khiếm khuyết, đó có phụ thuộc vào ý chí nhà phát triển người sở hữu Đặc biệt, Trí 372 Dillon Reisman and others, “Algorithmic impact assessments: a practical framework for public agency
accountability” (AI Now, 2018) Available at https://ainowinstitute.org/aiareport2018.pdf
373 Theo thống kê, tính đến năm 2014, có đến 9054 từ khóa bị ngăn chặn tìm kiếm mạng Internet
(7)tuệ nhân tạo gia tăng nguy phân biệt đối xử, gây ảnh hưởng tới quyền tự ý kiến, tự biểu đạt, tự riêng tư mà hậu chúng có thể khó lường trước Xây dựng khung pháp lý cho Trí tuệ nhân tạo với cách tiếp cận dựa quyền cần thiết Trong đó, tiêu chuẩn quy trình triển khai Trí tuệ nhân tạo cần phải đảm bảo minh bạch trách nhiệm giải trình
DANH MỤC TÀI LIỆU THAM KHẢO
1 AI Now, “The AI now report: the social and economic implications of artificial intelligence technologies in the near term”, 2016 Available at https://ainowinstitute.org/AI_Now_2016_ Report.pdf; United Kingdom of Great Britain and Northern Ireland House of Lords Select Committee on Artificial Intelligence, “AI in the United Kingdom: ready, willing and able? ”, 2018 Article 19 Group, Privacy and Freedom of Expression In the Age of
Artificial Intelligence, April 2018, p.08-11
https://www.article19.org/wp- content/uploads/2018/04/Privacy-and-Freedom-of-Expression-In-the-Age-of-Artificial-Intelligence-1.pdf
3 Bruce G Buchaman, A (very) brief history of artificial intelligence, AI Magazine, December 2005
4 David Kaye, Report of the Special Rapporteur on the promotion and
protection of the right to freedom of opinion and expression, submitted in
accordance with Human Rights Council resolution 34/18
5 Dillon Reisman and others, “Algorithmic impact assessments: a practical framework for public agency accountability” (AI Now, 2018) Available at https://ainowinstitute.org/aiareport2018.pdf
6 European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence, Robotics and ‘Autonomous’ Systems, Luxembourg: Publications Office of the European Union, 2018
7 Hồ Tú Bảo, Trí tuệ nhân tạo chặng đường 50 năm, http://www.jaist.ac.jp/~bao/Writings/AI50years.pdf
8 Human Rights Committee, general comment No 34 (2011) on the freedoms of opinion and expression, para 9, available at
www2.ohchr.org/english/bodies/hrc/docs/GC34.pdf; Manfred Nowak, U.N Covenant on Civil and Political Rights: CCPR Commentary (1993)
9 Julia Carrie Wong, “Mark Zuckerberg accused of abusing power after Facebook deletes ‘napalm girl’ post”, The Guardian, September 2016 Available at
(8)10 Lindsey Andersen, Human rights in the age of artificial intelligence, https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf
11 S Walker, Face recognition app taking Russia by storm may bring end to
public anonymity, The Guardian, 17 May 2016, available from:
https://www.theguardian.com/technology/2016/ may/17/findface-face-recognition-app-end-public-anonymity-vkontakte
12 Vũ Công Giao, Ngô Minh Hương, Tiếp cận dựa quyền – Lý luận
thực tiễn, Nxb Đại học Quốc gia Hà Nội, Hà Nội, 2017
13 Yong Joo-Kang v Republic of Korea, Human Rights Committee communication No 878/1999, 16 July 2003 (CCPR/C/78/D/878/1999) Các website:
https://citizenlab.ca/2014/12/repository-censored-sensitive-chinese-keywords-13-lists-9054-terms/
https://undocs.org/A/HRC/38/35
https://www.article19.org/wp- content/uploads/2018/04/Privacy-and-Freedom-of-Expression-In-the-Age-of-Artificial-Intelligence-1.pdf https://ainowinstitute.org/aiareport2018.pdf. http://www.jaist.ac.jp/~bao/Writings/AI50years.pdf https://www.accessnow.org/cms/assets/uploads/2018/11/AI-and-Human-Rights.pdf https://citizenlab.ca/2014/12/repository-censored-sensitive-chinese-keywords-13-lists-9054-terms/ https://undocs.org/A/HRC/38/35 https://www.scitecheuropa.eu/artificial-intelligence-algorithms/92324/