Untitled 20 Diễn đàn Khoa học và Công nghệ Số 8 năm 2020 ai và sự phát triển ở Việt nam Thuật ngữ AI (Artificial intelligence) đang ngày càng trở nên phổ biến trong nhiều lĩnh vực Dưới góc độ nghiên c[.]
Diễn đàn Khoa học Cơng nghệ trí tuệ nhân tạo thách thức pháp lý Lưu Minh Sang, Trần Đức Thành Khoa Luật, Trường Đại học Kinh tế - Luật Đại học Quốc gia TP Hồ Chí Minh Trí tuệ nhân tạo (AI) xem động lực cho phát triển kinh tế Việt Nam Tuy nhiên, bên cạnh lợi mà AI mang lại thách thức xã hội pháp lý Bài viết tập trung phân tích thách thức pháp lý gắn liền với AI Việt Nam đưa số khuyến nghị liên quan đến hoạt động nghiên cứu lập pháp phát triển Việt nam Thuật ngữ AI (Artificial intelligence) ngày trở nên phổ biến nhiều lĩnh vực Dưới góc độ nghiên cứu triển khai, khu vực AI hệ thống chuyên gia, người máy, hệ thống thị giác máy, hệ thống xử lý ngôn ngữ tự nhiên, hệ thống học mạng nơ-ron1 AI triển khai dạng gói phần mềm (nền tảng ảo, bot trò chuyện, chương trình ) lập trình (robot, drone ) công cụ cho mục tiêu cụ thể đặt khuôn khổ quan hệ pháp lý hình thành thực thể pháp lý2 http://tapchicongthuong.vn/bai-viet/tri-tuenhan-tao-trong-thoi-dai-so-boi-canh-thegioi-va-lien-he-voi-viet-nam-55038.htm, truy cập ngày 14/5/2020 A Atabekov, O Yastrebov (2018), “Legal Status of Artificial Intelligence Across Countries: Legislation on the Move”, European Research Studies Journal, XXI(4), pp.773-782 20 Như thấy rằng, AI triển khai dạng hệ thống liệu (hệ thống AI), sau ứng dụng hình thức thực thể vơ hình dạng phần mềm hay thực thể hữu hình dạng vật liệu AI ứng dụng vào loạt lĩnh vực như: chăm sóc sức khỏe, giáo dục, kinh doanh, pháp lý, tài - ngân hàng, giao thông vận tải, sản xuất, dịch vụ Tại Việt Nam, AI nhắc đến nhiều năm gần xem động lực quan trọng cho định hướng phát triển kinh tế - xã hội Minh chứng là, cơng trình nghiên cứu sản phẩm, thực thể gắn liền với AI xuất ngày nhiều3 Chính phủ nhận định AI cơng nghệ có tính đột phá 10 năm tới; đồng thời xác định “mũi nhọn” cần triển khai nghiên cứu nhằm tận dụng hội mà Cách mạng công nghiệp 4.0 mang lại4 Chính phủ xây dựng chiến lược quốc gia Cách mạng công nghiệp 4.0 với việc ưu tiên phát triển AI thông qua nhiều nhóm sách Trong đó, nguồn nhân lực ưu tiên, đào tạo AI bậc đại học, hỗ trợ khu vực doanh nghiệp ứng dụng AI, ưu tiên đầu tư cho AI thông qua quỹ, trung tâm đổi sáng tạo5 Nhưng cần phải lưu ý rằng, sách phát triển https://www.most.gov.vn/vn/tin-tuc/16538/ tri-tue-nhan-tao-se-la-mui-nhon-cho-cachmang-cong-nghiep-4-0-cua-viet-nam.aspx, truy cập ngày 18/5/2020 http://baochinhphu.vn/Khoa-hoc-Congnghe/Chien-luoc-quoc-gia-ve- Cachmang-cong-nghiep-lan-thu-tu-dennam-2030/394217.vgp, truy cập ngày 18/5/2020 https://www.most.gov.vn/vn/tin-tuc/16532/ ngay-hoi-tri-tue-nhan-tao-viet-nam huongden-xay-dung-cong-dong-ai-viet-nam-lonmanh.aspx, truy cập ngày 18/5/2020 Số năm 2020 Diễn đàn khoa học công nghệ AI cần phải xây dựng chế nhằm chống lại tác động tiêu cực AI Bởi lẽ, thách thức rủi ro xã hội pháp lý ln tiềm tàng, bùng phát khó kiểm soát thách thức pháp lý đặt Độ trễ hệ thống pháp luật Rất nhiều nghiên cứu cho thấy, AI mang đến nhiều hội kèm theo hàng loạt thách thức khơng dễ để giải Trong đó, đặc biệt quan trọng thách thức xã hội pháp lý6 Điều xảy thực thể mang AI thực hành vi gây hại cho người? việc xác định tư cách pháp lý sao? hay AI tham gia vào quan hệ xã hội làm phát sinh vấn đề pháp lý điều chỉnh nào? Đây câu hỏi đặt nhà lập pháp Trên bình diện quốc tế, thách thức pháp lý AI ln vấn đề mà phủ giới học giả quan tâm bên cạnh việc nghiên cứu phát triển ứng dụng AI Nhiều nước giới bắt đầu tiến hành nghiên cứu có bước đáng kể việc xây dựng khung pháp lý điều chỉnh quan hệ xã hội liên quan đến AI7 Tuy nhiên, vấn đề lại chưa quan tâm mức Việt Nam Hệ thống pháp luật Việt Nam trạng thái điều chỉnh quan hệ xã hội truyền thống liên quan đến thể nhân, pháp nhân, tổ chức tư cách pháp nhân Khơng gian pháp lý dành cho quan hệ pháp luật có tham gia công nghệ còn hạn hẹp Do Xem thêm: M Perc, M Ozer, J Hojnik (2019), “Social and juristic challenges of artificial intelligence”, Palgrave Commun., 5(61), https://doi.org/10.1057/s41599-0190278-x A Atabekov O Yastrebov (2018), tlđd đó, vấn đề liên quan đến AI xuất hiện, lúng túng việc điều chỉnh vấn đề bắt đầu Điều cho thấy, có chậm trễ định với xu hướng giới việc chuẩn bị giải pháp, kịch cụ thể dành cho viễn cảnh AI phát triển mạnh Việt Nam Vì thế, xây dựng quy định pháp lý điều chỉnh vấn đề AI cần thiết, phù hợp với tranh toàn cầu nhu cầu thực tế phát triển AI Việt Nam Tư cách pháp lý AI thực thể mang AI Để có giải pháp tối ưu từ thách thức pháp lý mà AI đặt ra, trước hết, cần xác định tư cách pháp lý AI Tuy vậy, cần hiểu rõ rằng, thuật ngữ AI định nghĩa lĩnh vực, việc xác định tư cách pháp lý phải đặt công nghệ AI thực thể mang AI Như phân tích, cơng nghệ AI tồn hệ thống liệu (chương trình máy tính, chat bot, phần mềm ) mang tính vơ hình mang thực thể hữu hình hay còn gọi tác tử thông minh robot hay xe tự lái Hiện tại, có hai cách tiếp cận tư cách pháp lý AI sau: (1) AI đối tượng pháp luật, số thực thể hữu hình có gắn AI robot xem xét có quyền người, nhiên số lượng quốc gia theo cách tiếp cận ít; (2) AI đối tượng riêng biệt pháp luật kiểm soát quy định đặc biệt, thực thể mang AI không công nhận có quyền người, chất tài sản, công cụ, hay sản phẩm (pháp luật chỉ quy định AI đối tượng kiểm sốt đặc biệt có quy định dành riêng để điều chỉnh vấn đề phát sinh liên quan đến AI)8 Ở Việt Nam, chưa có cách tiếp cận rõ ràng cho AI hay thực thể mang AI Việc thách thức trình vận dụng pháp luật điều chỉnh Pháp luật Việt Nam quy định chủ thể phải cá nhân tổ chức, xác định tư cách pháp lý AI thực thể mang AI chủ thể pháp luật, có quyền người Theo chúng tôi, xây dựng quy định pháp luật để điều chỉnh vấn đề pháp lý phát sinh liên quan đến AI, tiếp cận theo cách thứ (2), không cố gắng xác định tư cách pháp lý AI, mà tập trung vào định nghĩa AI vấn đề phát sinh Còn thực thể mang AI cần có quy định rõ đến việc xác định chất thực thể Quyền sở hữu trí tuệ Từ năm 2019, Tổ chức Sở hữu trí tuệ giới (WIPO) bắt đầu thảo luận ảnh hưởng AI tới hệ thống sở hữu trí tuệ Trong đó, WIPO định hình vài vấn đề cộm kêu gọi quốc gia tham gia thảo luận cho ý kiến, cụ thể là: (1) Việc quy định loại công nghệ AI đối tượng bảo hộ sáng chế; (2) Cách diễn giải áp dụng ba tiêu chí đánh giá khả bảo hộ sáng chế thẩm định cơng nghệ AI; (3) Có nên sửa đổi, bổ sung pháp luật sáng chế để phù hợp với đặc điểm riêng biệt công nghệ AI hay khơng9 Bên cạnh đó, vấn đề quyền sở hữu trí tuệ tác phẩm, sáng chế AI tạo tạo nên thách thức pháp lý Cuối A Atabekov, O Yastrebov (2018), tlđd https://www.most.gov.vn/vn/tin-tuc/17709/ mot-so-tac-dong-cua-cong-nghe-tri-tuenhan-tao-toi-he-thong-bao-ho-sang-che aspx, truy cập ngày 16/5/2020 Số năm 2020 21 Diễn đàn Khoa học Công nghệ năm 2019, Cơ quan Sáng chế châu Âu (EPO) nhận đơn đăng ký sáng chế (số EP3564144) dành cho hộp đựng thực phẩm thực thể AI tên Dabus sáng tạo Người nộp đơn đăng ký sáng chế TS Stephen Thaler - người tạo Dabus10 Mặc dù giải pháp kỹ thuật đáp ứng đủ điều kiện bảo hộ sáng chế, nhiên theo Điều 58 Công ước Sáng chế châu Âu quy định tác giả sáng chế phải người11 Do đó, Cơ quan Sáng chế châu Âu từ chối bảo hộ đăng ký sáng chế Tại số nước Nhật Bản hay Vương quốc Anh, robot AI tạo tác phẩm tranh vẽ, hát, thơ12 Như vậy, sáng chế, tác phẩm AI tạo có bảo hộ hay không? Vấn đề còn tồn nhiều quan điểm tranh cãi, có quan điểm cho nên ghi nhận tác giả sáng chế AI13 bên cạnh quan điểm truyền thống ghi nhận pháp luật nhiều quốc gia cho tác giả phải người Vấn đề AI xâm phạm quyền sở hữu trí tuệ WIPO khuyến nghị vấn đề pháp lý cần giải Pháp luật đa số quốc gia quy trách nhiệm pháp lý hành vi xâm phạm AI gây cho cá nhân, tổ chức xác định Pháp luật https://baodautu.vn/sang-che-cua-tri-tuenhan-tao-ai-xin-dang-ky-so-huu-tri-tuetai-chau-au-d104870.html, truy cập ngày 16/5/2020 10 11 https://www.most.gov.vn/vn/tin-tuc/17709/ mot-so-tac-dong-cua-cong-nghe-tri-tuenhan-tao-toi-he-thong-bao-ho-sang-che aspx, truy cập ngày 16/5/2020 https://vnexpress.net/nha-van-robot-nhatsang-tac-truyen-du-thi-toan-quoc-3376359 html vn; https://thanhnien.vn/van-hoa/nunghe-si-ro-bot-dau-tien-tren-the-gioi-trienlam-tranh-1091284.html, truy cập ngày 16/5/2020 12 https://www.wipo.int/wipo_magazine/ en/2019/06/article_0002.html, truy cập ngày 16/5/2020 13 22 châu Âu quy định “hành vi sử dụng sản phẩm chịu trách nhiệm thiệt hại xảy ra”, chủ thể sử dụng AI phải chịu trách nhiệm cho xâm phạm AI gây ra14 Ở Việt Nam, pháp luật sở hữu trí tuệ dường chưa điều chỉnh vấn đề Chúng cho thách thức lớn, ảnh hưởng đến phát triển hoạt động nghiên cứu ứng dụng AI Việt Nam thời gian tới Quyền liệu cá nhân, quyền riêng tư Những tiện ích mà AI mang lại kèm với nguy cơ, liệu cá nhân bị thu thập trái phép, xâm phạm đến quyền riêng tư nhằm vào mục đích khai thác trục lợi Các lo ngại đẩy lên xuất cáo buộc Công ty DeepMind, đơn vị AI Google, vi phạm luật bảo vệ liệu Vương quốc Anh quy tắc bảo mật bệnh nhân trình phát triển thử nghiệm ứng dụng cho Cơ quan Dịch vụ y tế quốc gia (NHS)15 Trước thách thức này, nhiều quốc gia tổ chức quốc tế có hành động cụ thể để bảo vệ quyền riêng tư liệu cá nhân thời đại công nghệ số Liên minh châu Âu (EU) ban hành Đạo luật bảo vệ liệu (General Data Protection Regulation - GDPR) có hiệu lực từ ngày 25/5/2018 Đạo luật quy định rõ liệu cá nhân, bảo vệ liệu cá nhân, hay quyền lãng quên sử dụng thông tin 14 https://www.most.gov.vn/vn/tin-tuc/17709/ mot-so-tac-dong-cua-cong-nghe-tri-tuenhan-tao-toi-he-thong-bao-ho-sang-che aspx, truy cập ngày 16/5/2020 15 https://www.birmingham.ac.uk/research/ quest/emerging-frontiers/AI-and-the-law aspx, truy cập ngày 17/5/2020 Số năm 2020 người khác16 Trong đó, quy định bảo vệ quyền riêng tư, liệu cá nhân Việt Nam còn sơ khai Một số quy định bắt gặp Điều 21, Hiến pháp 2013, Điều 31 Bộ luật Dân 2015 văn luật chuyên ngành khác Tuy nhiên quy định chưa quy định rõ chế để bảo vệ ngăn chặn vấn đề vi phạm quyền riêng tư liên quan đến AI Trách nhiệm bồi thường thiệt hại liên quan đến AI Với khả tích lũy kinh nghiệm học hỏi khả hành động độc lập đưa định riêng lẻ, AI đối tượng trực tiếp gây hại cho người đối tượng khác AI trở thành phương tiện để chủ thể dùng để gây hại, AI gây hại hành động Có thể kể đến trường hợp tác tử thông minh robot hay xe tự hành gây tai nạn cho người lý theo lập trình nằm ngồi liệu Pháp luật nước giới chưa quy định cách rõ ràng trách nhiệm bồi thường thiệt hại liên quan đến AI đó, vấn đề bồi thường phải giải theo quy định pháp luật hành17 Nếu trường hợp AI tự gây thiệt hại, vấn đề xác định chủ thể chịu trách nhiệm bồi thường lại vấn đề nan giải Regulation (EU) 2016/679 of the European Parliament and of The Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) 17 Paulius Cerka, Jurgita Grigiene, Gintare Sirbikyt (2015), “Liability for damages caused by artificial intelligence”, Computer Law & Security Review, 31, pp.376-389 16 Diễn đàn khoa học công nghệ Phần lớn luật pháp quốc gia quốc tế không công nhận AI chủ thể pháp luật, điều có nghĩa AI chịu trách nhiệm cá nhân thiệt hại mà gây ra18 Đa số quốc gia vào pháp luật hành để quy trách nhiệm chủ thể xác định Pháp luật châu Âu quy định “hành vi sử dụng sản phẩm chịu trách nhiệm thiệt hại xảy ra”, chủ thể sử dụng AI phải chịu trách nhiệm cho xâm phạm AI gây ra19 Pháp luật châu Âu có nhiều văn hành quy định vấn đề liên quan đến trách nhiệm bồi thường AI thực thể mang AI gây thiệt hại luật trách nhiệm sản phẩm theo Chỉ thị 85/374/EC, theo nhà sản xuất phải bồi thường thiệt hại sản phẩm AI gây ra20; trách nhiệm nghiêm ngặt nhà sản xuất, chủ sở hữu robot AI gây thiệt hại quy định Quy tắc luật dân robot (2015/2103 (INL))20 Bên cạnh đó, quy định chế độ bảo hiểm trách nhiệm liên quan đến thiệt hại sử dụng xe giới (Chỉ thị 2009/103/EC) điều chỉnh xe tự lái gây tai nạn ban hành21 Thêm vào đó, Điều 12 Cơng ước Liên hợp quốc sử dụng thông tin điện tử hợp đồng quốc tế nêu rõ, người (dù thể nhân hay pháp nhân) thay mặt cho máy tính lập trình cuối phải Paulius Cerka, Jurgita Grigiene, Gintare Sirbikyt (2015), tlđd 19 https://www.most.gov.vn/vn/tin-tuc/17709/ mot-so-tac-dong-cua-cong-nghe-tri-tuenhan-tao-toi-he-thong-bao-ho-sang-che aspx, truy cập ngày 16/5/2020 20 European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) 18 European Commision (2019), Liability for Artificial Intelligence and other emerging digital, Pulications Office of the European Union, ISBN 978-92-76-12959-2 21 chịu trách nhiệm cho thông báo tạo máy22 Theo cách diễn giải chủ thể sử dụng AI cơng cụ, dù có lỗi hay khơng phải bồi thường thiệt hại AI gây Pháp luật Việt Nam hành chưa có quy định trách nhiệm bồi thường thiệt hại liên quan đến AI Tuy nhiên pháp luật hành có quy định điều chỉnh vấn đề bồi thường thiệt hại liên quan đến AI Luật Chất lượng sản phẩm hàng hóa 2007, sửa đổi bổ sung 2018, hay chế định bồi thường hợp đồng Bộ luật Dân 2015 Khi sản phẩm mang AI vi phạm quy định chất lượng nhà sản xuất có trách nhiệm phải bồi thường Hay xem xét thực thể mang AI tài sản (tài sản trí tuệ tài sản vật hữu hình) theo quy định Khoản Điều 584 Bộ luật Dân chủ sở hữu, người chiếm hữu phải bồi thường thiệt hại Tuy vậy, quy định chỉ áp dụng vài trường hợp quan hệ đơn giản, quan hệ phức tạp khó điều chỉnh Ví dụ, trường hợp AI bị lấy cắp, sau AI gây thiệt hại nào, hay xác định trách nhiệm chủ sở hữu nhà sản xuất có lỗi AI gây thiệt hại Tất trường hợp chưa có quy định cụ thể để áp dụng giải phát sinh quan hệ bồi thường thiệt hại liên quan đến AI Kết luận khuyến nghị hoạt động nghiên cứu lập pháp Mặc dù AI bắt đầu quan tâm Việt Nam chưa lâu với tiềm lực sẵn có, chúng tơi tin AI phát triển nhanh Việt Nam tương lai Để tận dụng lợi AI mang lại cho phát triển kinh tế việc dự báo thách thức xã hội pháp lý đề giải pháp giải thách thức điều tất yếu phải làm Chúng tơi xin có vài khuyến nghị sau: Thứ nhất, cần nghiên cứu xác định rõ tư cách pháp lý, chất pháp lý AI hướng đến việc xây dựng khung pháp lý điều chỉnh mối quan hệ pháp luật liên quan đến AI quan hệ tài sản, quyền sở hữu, sở hữu trí tuệ, quan hệ lao động, bồi thường thiệt hại… Thứ hai, quyền sở hữu trí tuệ, cần xây dựng hành lang pháp lý vững cho việc công nhận bảo hộ AI Thêm vào đó, cần cơng nhận sáng chế, tác phẩm AI tạo ra, sửa đổi quy định xác định tác giả tác phẩm, sáng chế để tạo tiền đề cấp quyền cấp sáng chế Thứ ba, quyền riêng tư liệu cá nhân, cần học hỏi kinh nghiệm pháp luật châu Âu để đưa quy định cụ thể liệu cá nhân, xử lý diệu, bảo vệ liệu cá nhân quy định quyền cá nhân liên quan đến liệu không gian mạng Thứ tư, trách nhiệm bồi thường thiệt hại liên quan đến AI, áp dụng quy định hành để giải vấn đề bồi thường thiệt hại, nhà lập pháp cần chuẩn bị quy định việc xác định chủ thể trách nhiệm bồi thường thiệt hại Cụ thể quy định trách nhiệm bồi thường nhà sản xuất, chủ sở hữu AI, người chiếm hữu hợp pháp trái phép hệ thống AI thực thể mang AI mối quan hệ không liên đới liên đới ? Paulius Cerka, Jurgita Grigiene, Gintare Sirbikyt (2015), tlđd 22 Số năm 2020 23 ... đổi, bổ sung pháp luật sáng chế để phù hợp với đặc điểm riêng biệt công nghệ AI hay khơng9 Bên cạnh đó, vấn đề quyền sở hữu trí tuệ tác phẩm, sáng chế AI tạo tạo nên thách thức pháp lý Cuối A... dự báo thách thức xã hội pháp lý đề giải pháp giải thách thức điều tất yếu phải làm Chúng tơi xin có vài khuyến nghị sau: Thứ nhất, cần nghiên cứu xác định rõ tư cách pháp lý, chất pháp lý AI hướng... thể mang AI Việc thách thức trình vận dụng pháp luật điều chỉnh Pháp luật Việt Nam quy định chủ thể phải cá nhân tổ chức, xác định tư cách pháp lý AI thực thể mang AI chủ thể pháp luật, có quyền