Để tận dụng triệt để những lợi thế mà AI mang lại cho nền kinh tế thì việc dự báo những thách thức về mặt pháp lý cũng như trù liệu giải pháp giải quyết là việc nên làm. Theo đó, việc xác định rõ tư cách pháp lý cho AI là vấn đề tiên quyết, tạo nền tảng thiết lập khung pháp lý điều chỉnh các mối quan hệ pháp luật phát sinh xung quanh AI như quan hệ sở hữu, lao động, sở hữu trí tuệ...
NHÀ NƯỚC VÀ PHÁP LUẬT XÁC LẬP TƯ CÁCH PHÁP LÝ CHO TRÍ TUỆ NHÂN TẠO Bùi Thị Hằng Nga* Nguyễn Thảo Linh** * Giảng viên Khoa Luật Kinh tế, Trường Đại học Kinh tế - Luật ** Sinh viên ngành Luật Thương mại quốc tế (K18502), Trường Đại học Kinh tế - Luật Thơng tin viết: Từ khóa: Trí tuệ nhân tạo, Tư cách pháp lý Lịch sử viết: Nhận Biên tập Duyệt : 10/5/2021 : 22/5/2021 : 27/5/2021 Article Infomation: Keywords: Artificial Intelligence, legal eligibility Article History: Received Edited Approved : 10 May 2021 : 22 May 2021 : 27 May 2021 Tóm tắt: Mặc dù trí tuệ nhân tạo (AI) quan tâm gần Việt Nam, với tiềm lực sẵn có, AI hứa hẹn phát triển vượt bậc tương lai nước ta Để tận dụng triệt để lợi mà AI mang lại cho kinh tế việc dự báo thách thức mặt pháp lý trù liệu giải pháp giải việc nên làm Theo đó, việc xác định rõ tư cách pháp lý cho AI vấn đề tiên quyết, tạo tảng thiết lập khung pháp lý điều chỉnh mối quan hệ pháp luật phát sinh xung quanh AI quan hệ sở hữu, lao động, sở hữu trí tuệ Abstract: Although artificial intelligence (AI) has recently been interested in Vietnam, with the available potentials, it is expected to develop AI dramatically in the future in our country It is advisable to forecast legal challenges as well as plan solutions to take full advantage of the advantages that AI providing to the economy Accordingly, clearly defining the legal status for AI is a prerequisite, creating a foundation for establishing a legal framework governing legal relationships arising around AI such as ownership, employment, intellectual property etc Trí tuệ nhân tạo cần thiết xác lập tư cách pháp lý cho trí tuệ nhân tạo 1.1 Tổng quan trí tuệ nhân tạo “Trí tuệ nhân tạo” (Artificial Intelligence AI) định nghĩa lần đầu vào năm 1955 John McCarthy - nhà khoa học máy tính khoa học nhận thức Hoa Kỳ Theo đó, AI mơn khoa học kỹ thuật chế tạo máy thơng minh1 Tính tới thời điểm tại, có nhiều định nghĩa AI đưa chưa có định nghĩa thống Một số định nghĩa AI đưa sau: (i) AI hệ thống suy nghĩ (thông minh) người2; (ii) AI hệ thống suy nghĩ cách hợp lý3; A Brief History of AI (2018), AITopics, retrieved on 17/01/2021, from Bellman (1978) định nghĩa: trí tuệ nhân tạo tự động hóa hoạt động phù hợp với suy nghĩ người, chẳng hạn hoạt động định, giải toán Xem thêm R E Bellma (1978), An Introduction to Artificial Intelligence: Can Computers Think?, Boyd & Fraser Publishing Company, San Francisco Winston (1992) cho trí tuệ nhân tạo lĩnh vực nghiên cứu tính tốn để máy nhận thức, lập luận hành động Xem thêm P H Winston (1992), Artificial Intelligence (Third Edition), Addison-Wesley, Reading, Massachusetts 14 Số 12(436) - T6/2021 NHÀ NƯỚC VÀ PHÁP LUẬT (iii) AI hệ thống hành động, thông minh người4; (iv) AI hệ thống hành động cách hợp lý5 Hiểu cách đơn giản, AI nhánh khoa học máy tính liên quan đến việc xây dựng máy móc thơng minh có khả thực tác vụ mang trí tuệ người6 Trí tuệ người tạo học hỏi, tư người AI chia thành hai loại phổ biến sau đây: Thứ nhất, theo chức năng, AI chia thành 04 cấp độ: máy phản ứng (Reactive machines), AI với nhớ giới hạn (Limited memory), AI gắn với lý thuyết tâm trí (Theory of mind) cấp độ cao nhất: AI có khả tự nhận thức (Self-awareness)7 Thứ hai, theo khả tư – cách phân loại phổ biến AI chia thành loại: Narrow AI, General AI Strong AI Đối với Narrow AI, loại giải công việc cụ thể phạm vi hướng dẫn Với General AI, trí tuệ nhân tạo thực nhiệm vụ sử dụng trí tuệ có độ xác tương đương người Ở cấp độ cao - Strong AI, coi thơng minh nhiều so với trí thơng minh người8 1.2 Sự cần thiết xác lập tư cách pháp lý cho trí tuệ nhân tạo Sau nhiều thập kỷ bị xếp vào hàng viễn tưởng - ý tưởng cho điên rồ thành thực, AI trở thành phần sống đại Trong thực tiễn số ứng dụng AI kể đến như: Nhận dạng chữ viết, nhận dạng tiếng nói, dịch tự động, tìm kiếm thơng tin, khai phá liệu phát triển tri thức, lái xe tự động, robot Các lĩnh vực sử dụng AI có hiệu chất lượng tăng lên rõ rệt, góp phần thay đổi sâu sắc nhiều khía cạnh sống Tuy nhiên, việc AI ngày có sức ảnh hưởng đến khía cạnh sống tiềm ẩn nhiều vấn đề mà hầu hết hệ thống pháp luật nước chưa có chế giải giải chưa triệt để Đơn cử AI tự sáng tạo nên tranh9, thực đặt dấu hỏi lớn việc xác định quyền quyền tác giả tác phẩm đặc biệt Thêm vào đó, AI tiềm ẩn nguy vượt khỏi kiểm soát người, lẽ máy học có thể đạt tới trình độ tự giải vấn đề Mặc dù thời điểm tại, AI dừng lại Rich Knight (1991) cho Trí tuệ nhân tạo khoa học nghiên cứu xem làm để máy tính thực cơng việc mà người cịn làm tốt máy tính Xem thêm E Rich & K Knight E Rich (1991), Artificial Intelligence (Second Edition), McGraw (Second Edition), McGraw-Hill New York Hill, New York Thuộc nghiên cứu hành vi thông minh mô vật thể nhân tạo (Nilsson, 1998) Xem thêm N J Nilsson (1998), Artificial Intelligence: A New Synthesis, Morgan Kaufmann, San Mateo, C lif in California What is Artificial Intelligence? How Does AI Work? (2016), retrieved on 17/01/2021, from Arend Hintze (2016), Understanding the Four Types of Artificial Intelligence, Michigan State University, retrieved on 20/01/2021, from Kateryna Nekit, Vira Tokareva & Volodymyr Zubar (2020), “Artificial intelligence as a potential subject of property and intellectual property relations”, Ius Humani Law Journal, vol no 1, pp 237-238 Bức tranh “Chân dung Edmond Belamy” sáng tác AI nhóm nghệ sĩ Pháp sở hữu Xem thêm: Is artificial intelligence set to become art’s next medium? (2018), retrieved on 19/01/2021, from Số 12(436) - T6/2021 15 NHÀ NƯỚC VÀ PHÁP LUẬT hệ thống máy móc với khả giới hạn, tương lai, vấn đề xảy hệ thống có thể tự học để thực nhiệm vụ mà không có định hướng hay giám sát từ người số nghiên cứu gọi tự trị10 Stephen Hawking - Nhà vật lý người Anh, nhận định rằng: “Trí tuệ nhân tạo kiện (tốt) lớn lịch sử nhân loại, kiện tồi mà chưa biết”11 Do đó, để quản lý, kiểm sốt AI cách tối ưu tận dụng triệt để lợi ích mang lại việc dự trù, thiết lập khung pháp lý điều chỉnh vấn đề phát sinh liên quan đến AI điều cần thiết Theo đó, việc cấp bách cần giải “định vị” AI hệ thống pháp luật Khi AI đạt đến trình độ phát triển định, chúng khơng cịn thực thể vơ tri vơ giác, chúng có khả nhận thức, học hỏi, tự đưa định, có khả độc lập sáng tạo Nhu cầu người cỗ máy thông minh ngày cao động lực thúc đẩy phát triển AI Trong tương lai, việc AI tham gia vào quan hệ xã hội với chủ thể khác hồn tồn có thể, điều làm phát sinh quan hệ pháp luật cần điều chỉnh Điều xảy robot tích hợp AI thực cách hành vi gây hại cho người, chế tài thực thể hay AI tham gia vào quan hệ xã hội làm phát sinh vấn đề pháp lý điều chỉnh nào? Điển hình khả tham gia xác lập quan hệ lao động AI Năm 2018, Báo cáo thị trường việc làm Diễn đàn Kinh tế giới dự đoán, vào năm 2025, robot máy móc điều khiển AI thực phân nửa chức sản xuất nơi làm việc; viễn cảnh xa hơn, triển vọng AI trở thành “người lao động” thực thụ hồn tồn có Do đó, thiếu thuyết phục coi AI tài sản, công cụ hay sản phẩm, chúng cần trao tư cách pháp lý quyền, nghĩa vụ tương ứng tham gia vào quan hệ xã hội Mặt khác, tồn định kiến với AI, thực tế người có hành động bạo lực cỗ máy Trong tương lai AI tiên tiến hơn, chúng có khả suy nghĩ hành động gần người việc đặt chế bảo vệ AI cần thiết Ngược lại, trường hợp AI gây hại cho người hồn tồn xảy Vì vậy, việc xác định tư cách pháp lý AI tiền đề để quản lý, giám sát AI, tránh việc AI gây tổn hại đến đời sống xã hội Trao tư cách pháp lý cho AI đồng nghĩa với việc trao số quyền định tương xứng với đặc tính mà AI có hỗ trợ cho đóng góp xã hội Tuy nhiên, AI cần xem xét chủ thể quan hệ pháp luật không xếp vào nhóm chủ thể có Bởi lẽ, AI mang đặc điểm không đồng với chủ thể quan hệ pháp luật tại: AI không mang đặc điểm tổ chức, AI thực thể nhân tạo, thực thể tự nhiên người Quy định pháp luật số nước giới tư cách pháp lý trí tuệ nhân tạo Trên bình diện quốc tế, song song với việc nghiên cứu phát triển ứng dụng AI, giải thách thức pháp lý mà AI mang lại vấn đề mà phủ giới học giả quan tâm Nhiều nước giới tiến hành nghiên cứu có bước đáng kể việc xây dựng hành European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence, Robotics and “Autonomous” Systems, Luxembourg: Publications Office of the European Union, 2018 11 Wil M P van der Aalst (2016), Process Mining - Data Science in Action, 2nd edition, Springer 10 16 Số 12(436) - T6/2021 NHÀ NƯỚC VÀ PHÁP LUẬT lang pháp lý điều chỉnh quan hệ xã hội liên quan đến AI12 Sự kiện đánh dấu cột mốc lịch sử công nhận quyền công dân cho robot giới vào năm 2017, Ả Rập Xê Út, quốc gia trao quyền công dân cho robot xã hội Sophia13 Theo David Hansoncha đẻ robot này, Sophia tạo nhằm mục đích “lên tiếng quyền phụ nữ” Ả Rập Xê Út Hanson tin quyền robot tiền đề quan trọng để “trở thành người” - điều có khả robot bắt đầu chia sẻ suy nghĩ có ý thức với người Ơng giải thích: “Nó khơng địi hỏi khả thể chất, mà cảm giác khao khát tự chủ, tò mò nhận thức trạng thái người” Ngày 16/2/2017, Nghị viện châu Âu thông qua Nghị với khuyến nghị Ủy ban Quy tắc Luật Dân robot (Nghị Quyết) Nội dung Nghị Quyết bao gồm việc xác định loại hình sử dụng AI, vấn đề trách nhiệm pháp lý, đạo đức cung cấp quy tắc ứng xử cho nhà phát triển, nhà điều hành nhà sản xuất lĩnh vực robot, quy tắc dựa ba định luật công nghệ rô bốt Azimov (1942) Trong tương lai gần, Nghị xác định vấn đề quan trọng quyền tự chủ robot hỗ trợ AI mức độ tham gia bên thứ ba vào việc điều khiển robot Nghị Quyết “[ ] lưu ý rằng, giai đoạn tại, trách nhiệm phải thuộc người khơng phải robot”14; theo đó, xung đột pháp lý phát sinh, robot chịu trách nhiệm hành động và/hoặc không hành động mà trách nhiệm thuộc người dùng, nhà phát triển phần mềm nhà sản xuất Thêm vào đó, Nghị cịn đưa đề xuất “tạo tình trạng pháp lý cụ thể cho robot lâu dài, để robot tự động tinh vi thiết lập có tư cách cá nhân điện tử chịu trách nhiệm giải thiệt hại mà chúng gây áp dụng nhân cách điện tử15 (electronic personality) cho trường hợp robot đưa định tự chủ tương tác với bên thứ ba cách độc lập”16 Ở Nga, trình sửa đổi Bộ luật Dân (BLDS) Liên bang Nga, dự thảo luật lĩnh vực robot có tên “Robot-Agent” chủ thể quan hệ dân sự, tham gia vào hoạt động dân theo định chủ sở hữu dựa tính thiết kế nó17, quyền tự chủ robot, áp đặt tất trách nhiệm cho nhà phát triển, người vận hành nhà sản xuất robot A Atabekov, O Yastrebov (2018), “Legal Status of Artificial Intelligence Across Countries: Legislation on the Move”, European Research Studies Journal, XXI(4), pp.773-782 13 Sophia robot hình người phát triển Hansen Robotics Technology có trụ sở Hồng Kông, Trung Quốc Sophia xuất lần vào tháng tư năm 2015 Liên hoan South By Southwest Texas, với cấu thành từ ba phần: trí tuệ mức để trả lời câu hỏi đơn giản, khả diễn thuyết với tài liệu cung cấp sẵn kết hợp thuật toán để ngắt nối câu từ cho hợp lý Ngồi ra, cịn có hệ thống sử dụng chatbot kết hợp với khí, giúp Sophia nhận dạng khn mặt, lắng nghe để lọc “từ khóa”, sau lựa chọn câu trả lời soạn sẵn để phát ngơn Sophia trả lời câu hỏi kết nối với Internet, máy tính giới hạn thơng tin có 14 European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), para 59(f), retrieved on 20/01/2021, from 15 Xem tài liệu dẫn thích 15 16 Xem tài liệu dẫn thích 15 17 Xem tài liệu dẫn thích 19 12 Số 12(436) - T6/2021 17 NHÀ NƯỚC VÀ PHÁP LUẬT bao gồm vấn đề quyền đại diện robot trước tịa án, quan giám sát 18 Có thể thấy, phát triển mạnh mẽ AI động lực thúc đẩy nhà lập pháp nghiên cứu, thiết lập khung pháp lý điều chỉnh vấn đề phát sinh mà AI mang lại thời điểm thách thức mặt pháp lý tương lai Một số quốc gia giới có động thái tích cực việc giải vấn đề Nhìn chung, tư cách pháp lý AI có hướng giải sau đây: Thứ nhất, xét AI có quyền nghĩa vụ người, phần lớn pháp luật quốc gia quốc tế không theo cách tiếp cận này; Thứ hai, coi AI đối tượng đặc biệt hệ thống pháp luật với chất cơng cụ, hồn tồn khơng trao quyền người Xác lập tư cách pháp lý cho trí tuệ nhân tạo Việt Nam Ở Việt Nam, AI ứng dụng vào nhiều lĩnh vực đời sống đạt thành tựu đáng kể Đặc biệt, vào ngày 22/11/2020, khuôn khổ Diễn đàn công nghệ giáo dục EDU 4.0, Người máy Trí Nhân mắt Đây người máy “make in VietNam” Trí Nhân đời với mục đích giáo dục, hỗ trợ cho việc dạy học giảng viên học sinh, sinh viên Về cấu tạo, Trí Nhân robot nam có kích thước người trưởng thành, in 3D với giác quan yếu tố mô sinh học tim phổi nhân tạo chuỗi ADN, robot hội tụ nhiều công nghệ AI, liệu lớn, vạn vật kết nối, điện toán đám mây Về khả năng, robot trả lời kiến thức hầu hết lĩnh vực, nhận dạng khn mặt, nhận dạng hình ảnh đo nhịp tim người đối diện Có thể nói, Trí Nhân thành cơng lớn ngành khoa học AI Việt Nam, hứa hẹn phát triển AI ứng dụng rộng rãi vào sống tương lai19 Tuy nhiên, bên cạnh sách phát triển AI trọng, việc dự liệu, thiết lập khung pháp lý điều chỉnh vấn đề phát sinh liên quan đến AI lại chưa quan tâm mức Xét tổng thể, hệ thống pháp luật nước ta nay, không gian pháp lý điều chỉnh quan hệ pháp luật có tham gia cơng nghệ cịn hạn hẹp, khơng thể xử lý vấn đề phát sinh liên quan đến AI Do đó, việc chuẩn bị giải pháp, kịch cụ thể trước viễn cảnh AI phát triển mạnh Việt Nam cần thiết Để có giải pháp tối ưu giải thách thức pháp lý mà AI mang lại, theo xu hướng chung, việc xác định tư cách pháp lý cho AI Theo quy định BLDS nước ta, chủ thể quan hệ pháp luật cá nhân, pháp nhân20 Do AI thực thể nhân tạo, thực thể tự nhiên người; đó, khơng thể gộp AI vào nhóm chủ thể cá nhân; hiển nhiên AI tổ chức, không mang đặc điểm để công nhận pháp nhân Mặt khác, không nên coi AI công cụ Bởi lẽ, tương lai, A.Atabekov, Oleg Aleksandrovich Yastrebov (2018), Legal status of artificial intelligence across countries: Legislation on the move, European Research Studies Journal, Volume XXI, Issue 4, p 778–779, retrieved on 21/01/2021, from 19 Trí Nhân: Người máy AI “Make in Vietnam” lần đầu mắt (2020), Thông tin Truyền thông, truy cập ngày 21/1/2021, từ 20 Quốc hội (2015), Bộ luật Dân Việt Nam ban hành ngày 24/11/2015, Điều quy định chủ thể tham gia vào quan hệ dân phải cá nhân pháp nhân 18 18 Số 12(436) - T6/2021 NHÀ NƯỚC VÀ PHÁP LUẬT viễn cảnh AI tự tham gia vào quan hệ xã hội cách độc lập hồn tồn xảy Việc coi AI tài sản, công cụ hay sản phẩm chưa phù hợp với trình độ phát triển AI Từ lập luận này, thấy rằng, giải pháp tối ưu cho vấn đề trao tư cách pháp lý cho AI, coi chủ thể độc lập với chủ thể thực tại, từ xây dựng khung pháp lý riêng điều chỉnh vấn đề pháp lý liên quan đến AI Khi thiết lập tư cách pháp lý cho AI, cần xác lập tên gọi cho AI Chúng cho rằng, AI “cá nhân điện tử” Đây tên phù hợp có lý sau: Thứ nhất, AI thực thể nhân tạo, người, hoạt động dựa nguyên lý điện tử học Thứ hai, pháp luật Việt Nam ghi nhận khái niệm “cá nhân” có nhiều khái niệm liên quan đến “điện tử”21, khái niệm cá nhân điện tử khơng gây khó khăn nhiều cho việc giải thích sử dụng Tuy nhiên, AI “sinh ra” trao tư cách pháp lý, mà có AI phát triển đạt đến ngưỡng tự hoạt động độc lập không phụ thuộc vào người, cộng thêm với việc tích hợp thể robot, AI cơng nhận chủ thể quan hệ pháp luật Do vậy, kèm với việc trao tư cách pháp lý Nhà nước cần xây dựng khung tiêu chuẩn đánh giá lực riêng cho AI Việc đánh giá khả AI để công nhận tư cách pháp lý cần phải có thời gian quan sát, nghiên cứu tham khảo ý kiến chuyên gia lĩnh vực công nghệ để xây dựng tiêu chuẩn quy trình giám định kèm theo Khi công nhận tư cách pháp lý, AI định dạng chủ thể quan hệ pháp luật Tuy nhiên, AI khơng có đầy đủ nhận thức khả tư duy, chịu trách nhiệm thể nhân, pháp nhân Vì vậy, quyền AI phải bị giới hạn khơng hồn toàn giống quyền chủ thể quan hệ pháp luật Các quyền nghĩa vụ bị giới hạn tương ứng với khả tham gia vào quan hệ xã hội cách độc lập AI Song song vấn đề trách nhiệm pháp lý AI, cho rằng, cần tham khảo Nghị Nghị viện châu Âu22 Theo đó, trách nhiệm pháp lý phát sinh từ AI thuộc người, cụ thể chủ sở hữu cá nhân điện tử lý sau: thứ nhất, tương lai gần, AI tự chịu trách nhiệm pháp lý cho hành động mà chịu trách nhiệm giới hạn khả nó; thứ hai, chủ sở hữu AI, bên cạnh việc hưởng lợi từ quyền tài sản AI nên phải đại diện chịu trách nhiệm cho AI vấn đề phát sinh khác Hiện tại, việc xem xét đặt tư cách cho AI xem mẻ Tuy nhiên, tương lai AI đáp ứng đủ điều kiện cần cơng nhận tư cách pháp lý Do đó, để chuẩn bị cho viễn cảnh AI phát triển mạnh mẽ Việt Nam, việc nghiên cứu, xem xét, đề dự thảo luật điều chỉnh vấn đề phát sinh điều cần thiết “Điện tử” xuất thuật ngữ pháp lý “thương mại điện tử”, “tiền điện tử” Điện tử thường hiểu không gian điện tử, không gian số lưu giữ giá trị kiện, vật thể xác định Ví dụ, theo Dự thảo Nghị định quy định tốn khơng dùng tiền mặt Điều (12), tiền điện tử xác định “giá trị tiền tệ lưu trữ phương tiện điện tử” Tương tự vậy, “cá nhân điện tử” hiểu cá nhân khác với cá nhân sinh học Tính “cá nhân” chủ thể thể tảng số, không gian điện tử Chính khơng gian điện tử thay cho quan sinh học, mang vai trò chủ đạo, điều khiển cá nhân suy nghĩ, hành động Tương tự với quan quan trọng cá nhân tự nhiên xác định sống - chết pháp lý, y học, não tim, quan sinh học 22 Neznamov, A., Naumov, V (2017), Model Convention on Robotics and AI, retrieved on 21/01/2021, from 21 Số 12(436) - T6/2021 19 ... AI, trí tuệ nhân tạo thực nhiệm vụ sử dụng trí tuệ có độ xác tư? ?ng đương người Ở cấp độ cao - Strong AI, coi thơng minh nhiều so với trí thơng minh người8 1.2 Sự cần thiết xác lập tư cách pháp lý. .. thiết lập tư cách pháp lý cho AI, cần xác lập tên gọi cho AI Chúng cho rằng, AI “cá nhân điện tử” Đây tên phù hợp có lý sau: Thứ nhất, AI thực thể nhân tạo, người, hoạt động dựa nguyên lý điện... tế không theo cách tiếp cận này; Thứ hai, coi AI đối tư? ??ng đặc biệt hệ thống pháp luật với chất cơng cụ, hồn tồn khơng trao quyền người Xác lập tư cách pháp lý cho trí tuệ nhân tạo Việt Nam Ở