Cách mạng công nghiệp lần thứ tư (CMCN 4.0) là cuộc cách mạng thể hiện sự kết hợp của công nghệ trong các lĩnh vực vật lý, số hóa và sinh học, tạo ra thời đại công nghệ thông tin kết hợp giữa các hệ thống ảo và thực thể, vạn vật đều kết nối Internet và các hệ thống kết nối Internet diễn ra trên phạm vi toàn cầu.
VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 Review Article Models of Criminal Liability of Artificial Intelligence: From Science Fiction to Prospect for Criminal Law and Policy in Vietnam Trinh Tien Viet* VNU School of Law, 144 Xuan Thuy, Cau Giay, Hanoi, Vietnam Received 15 November 2019 Revised 01 December 2019; Accepted 20 December 2019 Abstract: The Industrial Revolution 4.0 (4IR) reflects combination of technologies in physics, digitalisation and biology, shaping a modern world of information technology where virtual and real systems are integrated through worldwide internet connection networks Artifical Intelligence (AI) and decision making process have seen profound changes The relevant question is whether criminal liability is applicable to AI entities in the near future given criminal law in many jurisdictions including Vietnam has provided for criminal liability of legal persons as “abstract entities” On this basis, from the criminal law and science fiction approach, the paper initially assumes AI entities as subjects of crimes to explore possible models of criminal liability applicable to AI entities and prospect for changes of criminal law and policy in Vietnam in the future, making recommendations on improvement of legal framework, contributing to crime prevention and protection of human rights in the industrial revolution 4.0 Keywords: Criminal liability; AI entity; model of criminal liability; Criminal Law Corresponding author E-mail address: ttviet@vnu.edu.vn https://doi.org/10.25073/2588-1167/vnuls.4257 VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 Các mơ hình trách nhiệm hình thực thể trí tuệ nhân tạo: Từ khoa học viễn tưởng đến viễn cảnh đặt sách, pháp luật hình Việt Nam1 Trịnh Tiến Việt* Khoa Luật, Đại học Quốc gia Hà Nội, 144 Xuân Thủy, Cầu Giấy, Hà Nội, Việt Nam Nhận ngày 15 tháng 11 năm 2019 Chỉnh sửa ngày 01 tháng 12 năm 2019; Chấp nhận đăng ngày 20 tháng 12 năm 2019 Tóm tắt: Cách mạng cơng nghiệp lần thứ tư (CMCN 4.0) cách mạng thể kết hợp công nghệ lĩnh vực vật lý, số hóa sinh học, tạo thời đại cơng nghệ thông tin kết hợp hệ thống ảo thực thể, vạn vật kết nối Internet hệ thống kết nối Internet diễn phạm vi tồn cầu Trong số lĩnh vực có chuyển dịch sâu sắc có trí tuệ nhân tạo (AI) trình định Vấn đề đặt liệu tương lai đặt vấn đề trách nhiệm hình (TNHS) thực thể AI hay khơng Bộ luật Hình (BLHS) nhiều nước, có Việt Nam quy định TNHS “thực thể trừu tượng” pháp nhân Trên sở này, với cách tiếp cận khoa học luật hình khoa học viễn tưởng, viết “giả định” thực thể AI chủ thể tội phạm liệu có mơ hình TNHS dự kiến áp dụng thực thể AI viễn cảnh đặt sách, pháp luật hình (PLHS) Việt Nam tương lai thay đổi nào, từ kiến nghị tiếp tục hồn thiện hệ thống pháp luật nói chung, góp phần đấu tranh phòng, chống tội phạm bảo vệ hữu hiệu quyền người CMCN 4.0 nói riêng Từ khóa: TNHS; thực thể AI; mơ hình TNHS; PLHS Thế giới khoa học công nghệ phát triển nhanh chóng mạnh mẽ, đem lại nhiều thành tựu, hiệu thiết thực cho người CMCN 4.0 Theo đó, rơ-bốt máy tính thay dần tất hoạt động người [1; p.172]2 Tuy nhiên, cách mạng khoa học công nghệ mang đến cho I Dẫn nhập * Đặt vấn đề1 * Một thực tế là, phải hàng trăm năm chấp nhận máy móc làm tốt lĩnh vực Nếu khứ, máy móc đánh bại người lĩnh vực lao động chân tay khoảng 50 năm trở lại đây, dường bị thất cơng việc mang tính trí tuệ Dường chạy đua kết thúc vào khoảng năm 2062 với phần thắng nghiêng Người số Xem: Toby Walsh, Năm 2062 - Thời đại trí thơng minh nhân tạo, Đỗ Tôn Minh Khoa dịch, Nxb tổng hợp thành phố Hồ Chí Minh, 2019, tr.29 Tác giả liên hệ Địa email: ttviet@vnu.edu.vn https://doi.org/10.25073/2588-1167/vnuls.4257 Bài viết có tham khảo ý tưởng số nội dung viết tác giả Gabriel Hallevy, The Criminal Liability of Artificial Intelligence Entities - from Science Fiction to Legal Social Control, Akron Intellectual Property Journal, Vol.4: Iss.2, Article, 2010, p.171-219 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 nhân loại thách thức, cảnh báo đặt mối nguy hiểm [2; tr.462] Thế giới nói chung Việt Nam nói riêng bước chủ động đề giải pháp, cách thức ứng phó từ phương diện sách, chủ trương đến ban hành hệ thống văn pháp luật đề giải pháp thực thi, xét riêng phương diện pháp lý, nhìn tổng thể có phản ứng chậm pháp luật, có PLHS để điều chỉnh hàng loạt vấn đề phát sinh từ phát triển vượt bậc khoa học, công nghệ, AI [2; tr.463-464] CMCN 4.0 cách mạng thể kết hợp công nghệ lĩnh vực vật lý, số hóa sinh học, tạo thời đại công nghệ thông tin kết hợp hệ thống ảo thực thể, vạn vật kết nối Internet hệ thống kết nối Internet diễn phạm vi tồn cầu Theo ơng Klaus Schwab3, có 23 lĩnh vực có dịch chuyển sâu sắc bao gồm: (1) Các công nghệ cấy ghép; (2) Hiện diện số; (3) Mắt trở thành giao diện mới; (4) Internet đeo người; (5) Điện toán phổ cập khắp nơi; (6) Siêu máy tính bỏ túi; (7) Dịch vụ lưu trữ cho tất cả; (8) Internet kết nối vạn vật; (9) Nhà kết nối mạng; (10) Thành phố thông minh; (11) Dữ liệu lớn hỗ trợ định; (12) Ơ tơ khơng người lái; (13) AI q trình định; (14) AI cơng việc văn phịng; (15) Khoa học rơ-bốt dịch vụ; (16) Bitcoin chuỗi khối; (17) Nền kinh tế chia sẻ; (18) Chính phủ chuỗi khối; (19) Cơng nghệ in sản xuất 3D; (20) Công nghệ in 3D sức khỏe người; (21) In 3D sản phẩm tiêu dùng; (22) Con người theo thiết kế và; (23) Công nghệ thần kinh [3; tr.201-204] Trong số này, AI có thay đổi mạnh mẽ gắn AI với thực thể, kiểm soát xã Chủ tịch Điều hành Diễn đàn Kinh tế giới (TG) hội xây dựng “khung pháp lý” để điều chỉnh hoạt động (hành vi) thực thể AI không khoa học viễn tưởng, mà vấn đề thực tiễn ngày diễn toàn giới, với phát triển vượt bậc, siêu việt rõ ràng chưa thể lường trước, chưa thể dự đốn trước nguy hiểm tiềm ẩn, khó lường bước nhận diện, mơ phỏng, dự báo xảy người mà trước hết người sử dụng AI để thực mục đích xấu4, tiếp đến thực thể AI tự định, tự thực mức độ nguy hiểm cho xã hội báo động đến (mà nhiều phim khoa học viễn tưởng đặt ra) Do đó, thực tiễn pháp lý xã hội địi hỏi phải có nghiên cứu, hoạch định sách, PLHS để điều chỉnh kịp thời ứng phó với vấn đề nêu, trách nhiệm không nhà dự báo học, công nghệ học, khoa học thần kinh, sách học, tâm lý học, ngơn ngữ học mà cịn nhiệm vụ nhà luật học5 Hiện tương lai, hoạt động mà đối tượng phạm tội lợi dụng AI để thao túng, điều khiển thiết bị bay không người lái, phát tán đoạn phim giả mạo, công hệ thống an ninh diện rộng thực nhiều hình thức khủng bố khác tới nhiều quốc gia Ngồi ra, phát triển nhanh chóng AI dần vượt khỏi tầm kiểm sốt, khiến cơng nghệ trở thành tay sai đắc lực cho đối tượng, tổ chức có dã tâm bạo loạn, khủng bố Nhiều chuyên gia nhận định, AI thay đổi hình thức gây nguy hiểm cho cơng dân, tổ chức nhà nước - tội phạm “huấn luyện”/đào tạo máy móc có kỹ giống người để công mạng thám, thu thập thông tin nhận dạng mục tiêu nhằm phục vụ mục đích cá nhân hay thao túng trị Các nhà khoa học dự báo có nhiều nguy hiển liên quan đến AI, đặc biệt âm mưu sử dụng kỹ thuật mới, bao gồm thiết bị không người lái, công cụ công mạng tự động để can thiệp bầu cử, giả mạo giọng nói mục tiêu, sử dụng phần mềm nhận diện khuôn mặt, hay tạo nội dung đánh lừa người xem với tốc độ lan truyền chóng mặt mạng xã hội Trong năm tới, viễn cảnh xe không người lái lao vào đám đông người bộ, hay tịa nhà Chính phủ bị cơng máy bay khơng người lái sớm trở thành thực mối nguy hiểm cao, đáng lo ngại cho đời sống xã hội, cho an ninh, an toàn xã hội người (TG) Ví dụ: Google ứng dụng AI vào lĩnh vực xe tự hành, nhận diện giọng nói; Facebook sử dụng AI vào việc nhận diện hình ảnh; Microsoft theo đuổi dự án điều trị ung thư AI; SoftBank sử dụng AI, chế tạo rô-bốt Pepper làm lễ tân; v.v 4 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 Câu hỏi pháp lý đặt liệu “cỗ máy biết suy nghĩ” có phải chủ thể tội phạm PLHS hay khơng mơ hình TNHS dự kiến (thực thể AI6) trở thành chủ thể tội phạm Sự kiện năm 1981, nhân viên 37 tuổi người Nhật nhà máy sản xuất xe máy bị giết rô-bốt có AI làm việc gần Rơ-bốt lầm tưởng người nhân viên mối nguy hại việc thực nhiệm vụ tính tốn phương thức hiệu loại trừ mối nguy cách đẩy người nhân viên vào máy vận hành gần sử dụng cánh tay thủy lực mạnh để nghiền nát sau tiếp tục làm việc dẫn đến người nhân viên bị nghiền nát chết [1; p.171]; [4; p.267, p.273] Như vậy, câu chuyện khoa học viễn tưởng - viển vông mà vấn đề pháp lý (hình sự) đặt ra: Chủ thể chịu TNHS hành vi giết người liệu thực thể AI có cần thiết nên coi chủ thể tội phạm hay không Sau đó, theo thời gian, khoa học cơng nghệ đã, thay đổi mạnh mẽ nhanh chóng tồn giới, rơ-bốt, máy tính ngày phát triển dần thay toàn hoạt động người Tuy nhiên, vấn đề ngày phức tạp, khó lường máy tính tiến hóa từ cỗ máy “tư duy” (cỗ máy lập trình để thực quy trình hay phép tính xác định) trở thành cỗ máy “biết suy nghĩ” (hay cịn gọi trí tuệ nhân tạo-AI) [1; p.172] Cùng với đó, cỗ máy mang AI ngày có khả tư duy, nhận thức, trí tuệ, cảm xúc hành động độc lập, tồn diện, thơng minh người, chí địi bình đẳng người [5; p.31-98] Như vậy, trước tiên, AI mơ tả ngắn gọn khoa học làm cho máy móc trở nên thơng minh, để thực nhiệm vụ thường địi hỏi trí thơng minh người Lái xe, giao dịch cổ phiếu sàn giao dịch chứng khoán xác định mục tiêu quân Lưu ý, thực thể AI có bề ngồi thực thể (ví dụ rơbốt), song đơi tồn cách trừu tượng (ví dụ phần mềm cài đặt hệ thống máy tính hay máy chủ mạng lưới) Vì vậy, viết này, thực thể AI có bề ngồi thực thể có trí tuệ nhân tạo (TG) chiến tranh ví dụ nhiệm vụ cần thiết trí tuệ người [6; tr.81-83] Ngày nay, có AI thực nhiệm vụ xác tuyệt đối mà khơng cần có người tham gia [7; p.12] Song, đồng thời chúng lập trình, học tập, biến đổi kèm theo có hành động lệch chuẩn, xâm phạm đến an ninh, trật tự xã hội quyền người mà PLHS thiết lập, bảo vệ Ở đây, mối liên hệ đặt “thực thể trừu tượng” tạo pháp luật “pháp nhân” PLHS nhiều nước, có PLHS Việt Nam8 ghi nhận (ở nước ta pháp nhân thương mại phạm tội), lơgíc - xu hướng ghi nhận tương tự có lẽ sớm diễn (thời gian sau vài chục năm nữa, đốn dự báo năm 2062 theo số nhà khoa học) đặt “cỗ máy mang AI” thực thể người tạo ngày giống người, thay nhiều dần toàn hoạt động người, “siêu việt” người nhiều phương diện [8; tr.1]9, Theo tác giả John McCarthy, Đại học Stanford, trí tuệ nhân tạo (AI) lĩnh vực nghiên cứu (khoa học công nghệ) nhằm mang lại thơng minh cho máy tính (intelligent machines), đặc biệt chương trình máy tính thông minh (intelligent computer programs), Xem thêm: http://www-formal.stanford.edu/jmc/whatisai/node1.html, truy cập ngày 10/10/2019 Ngoài ra, nay, nghiên cứu tương lai có 26 loại AI mới: (1) Một trí tuệ người, trả lời giải đáp nhanh hơn; (2) Một trí tuệ chậm, chủ yếu gồm nhớ lưu trữ; (3) Một siêu trí tuệ tồn cầu gồm hàng triệu trí tuệ; (4) Một trí óc tập thể gồm nhiều trí tuệ thơng minh, khơng nhận thức tập thể; (5) Một siêu trí tuệ người máy gồm nhiều tiểu trí tuệ có nhận thức tạo thành thể thống nhất; (6) Một trí tuệ rèn luyện để hỗ trợ trí tuệ riêng bạn; (7) Một trí tuệ có khả hình dung trí tuệ vĩ đại hơn, khơng thể tạo nó; (8) Một trí tuệ có khả hình dung trí tuệ vĩ đại hơn, khơng thể hình dung nó; (9) Một trí tuệ có khả tạo trí tuệ vĩ đại lần; (10) Một trí tuệ có khả trí tuệ vĩ đại trí tuệ vĩ đại lại tạo trí tuệ vượt trội BLHS Việt Nam năm 2015, sửa đổi năm 2017 bổ sung chủ thể tội phạm pháp nhân thương mại phạm tội (TG) Đặc biệt, nhà nghiên cứu AI giới cho rằng, đến lúc chúng phát triển vượt khỏi tầm kiểm soát người, đồng thời đưa cảnh báo thảm họa xảy tương lai dẫn đến nguy hiểm cho cho người: (1) AI có khả giả dạng người dẫn đến tiếp tay cho việc lừa đảo chiếm đoạt tài sản; (2) AI T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 chí nhà cơng nghệ học dự báo lo sợ đến lúc AI phát triển vượt bậc, biến người trở thành vơ dụng, thừa đưa lồi người đến chỗ diệt vong với nhiều kịch đặt [9; tr.72] Do đó, với thay đổi khơng cịn viễn tưởng khoa học điều cần dự liệu, mô phỏng, lý giải nghiên cứu, bước dự báo dự kiến điều chỉnh sách, PLHS Việt Nam tương lai coi “thực thể AI” chủ thể tội phạm [10; tr.271] Cách tiếp cận Như vậy, từ cách dẫn nhập trên, viết tiếp cận góc độ khoa học luật hình (căn lý luận tội phạm cấu thành tội phạm, TNHS đồng phạm), kết hợp với khoa học viễn tưởng10 để lý giải, đồng thời giả định “thực thể AI” chủ thể pháp luật, sau chủ thể tội phạm11, chịu điều chỉnh PLHS, đáp ứng điều kiện thực hành vi nguy hiểm cho xã hội liệu có mơ hình TNHS áp dụng với thực thể AI Trên sở đó, chúng tơi đưa số dự báo, nhận xét viễn cảnh tương lai Việt Nam thay đổi sách, PLHS thực thể AI chủ thể tội phạm phải chịu TNHS Giả thuyết nghiên cứu Từ đặt vấn đề cách tiếp cận, viết đặt ba giả thuyết nghiên cứu sau: đọc suy nghĩ người dẫn đến đe dọa đến an tồn cho người; (3) AI thành thạo việc nhanh chóng người dẫn đến khả kiểm soát; (4) AI “mẹ” tạo AI “con” khả tương ứng trên, có khả đe dọa đến an tồn người; (5) AI có khả gây chiến tranh giới lần thứ III 10 Khoa học viễn tưởng việc đưa nội dung tưởng tượng khác để tiên đoán tác dụng tiến khoa học trạng thái giới tương lai Bối cảnh khoa học viễn tưởng thường khác biệt so với giới thực, lại dễ chấp nhận xảy nhờ phương thức lý giải yếu tố hư cấu khoa học lập luận chặt chẽ 11 Trong viết này, giả định “thực thể AI” chủ thể pháp luật, chịu điều chỉnh pháp luật để nghiên cứu đặt viễn cảnh tương lai vấn đề để nghiên cứu (TG) (1) Tại phải nghiên cứu đặt vấn đề TNHS “thực thể AI” bối cảnh (2) Nếu “mặc định” AI chủ thể tội phạm có loại mơ hình TNHS dự kiến thích hợp để điều chỉnh ưu điểm, hạn chế mơ hình (3) Các mơ hình TNHS thực thể AI phát sinh vấn đề pháp lý tương lai Việt Nam, đồng thời sách, PLHS cần dự liệu Giả thuyết thứ giải mục I viết, giả thuyết thứ hai thứ ba đề cập mục II mục III II Các mơ hình trách nhiệm hình dự kiến áp dụng thực thể AI tương lai Hiện nay, đề cập đến luật hình có nghĩa nhắc đến “tội phạm” “TNHS” [11; tr.4]; [12; tr.50] TNHS (và hình phạt) bắt nguồn, xuất phát từ nội dung tội phạm [12; tr.51] Ngồi ra, góc độ truyền thống, để áp dụng TNHS người, cần phải có làm sáng tỏ yếu tố khách quan - hành vi phạm tội (thường gọi “actus reus”), yếu tố chủ quan - ý định phạm tội (còn gọi “mens rea”) phù hợp, thống (“concurrence”) hai yếu tố [13; p.198-143] Trước hết, “thực thể” theo Từ điển tiếng Việt, quan niệm “cái tồn độc lập” [14; tr.974]12 Một thực thể bị áp dụng TNHS có tồn hai yếu tố hành vi phạm tội cụ thể Vì vậy, chứng minh người thực hành vi phạm tội cách có chủ đích (hay có ý định phạm tội) người phải chịu TNHS hành vi phạm tội Vấn đề liên hệ có nên đặt TNHS thực thể AI thực thể AI đáp ứng yêu cầu để phải chịu Ngồi ra, thực thể (tiếng Anh: entity) cịn hiểu tồn tự nó, chủ thể khách thể, cách thực hay cách tiềm năng, cách cụ thể hay cách trừu tượng, cách vật lý khơng Nó khơng cần tồn vật chất 12 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 TNHS khơng Do đó, viết này, đề cập, giả định “thực thể AI” chủ thể pháp luật [15; tr.142-156], chịu điều chỉnh pháp luật để nghiên cứu đặt viễn cảnh tương lai vấn đề để nghiên cứu [16; tr.253-276], vấn đề pháp lý có chủ thể [2; tr.462-470] Ngồi ra, “thực thể AI” có bề ngồi thực thể (ví dụ rơ-bốt) có “trí tuệ nhân tạo” phát triển phát triển siêu việt Cho nên, từ ý tưởng khoa học tác giả Gabriel Hallevy (đã nêu), viết này, tập trung phân tích, đánh giá rõ mơ hình TNHS dự kiến áp dụng với thực thể AI tương lai13, đồng thời gắn với lý luận luật hình xu hướng phát triển cơng nghệ từ thực tiễn nước ta để làm rõ ưu điểm, số vấn đề gặp phải (nếu có) mơ hình TNHS tương ứng [1; p.171-219] Mơ hình TNHS thơng qua chủ thể phạm tội khác - thực thể AI xem tác nhân vô tội (vật trung gian) Mô hình TNHS thứ khơng coi thực thể AI sở hữu thuộc tính người Thực thể AI coi tác nhân vơ tội [1; p.179]; [17; p.1231] Nhìn từ quan điểm pháp lý này, “máy móc” 14 ln “máy Hiện nay, nhà khoa học giới phân chia theo mức độ phát triển, AI chia làm ba loại - AI thông thường (hay AI hẹp), AGI (Artificial General Intelligence) ASI (Artificial Superintelligence): (1) AI thông thường khái niệm để tất loại AI nói chung, việc máy móc tư hành động giống người; (2) AGI thuật ngữ để mức độ AI thông minh ngang với người tất khía cạnh; (3) ASI khái niệm việc máy móc thơng minh người thơng minh tất khía cạnh, lĩnh vực Xem cụ thể hơn: https://medium.com/@nguyenphuonglam96/, truy cập ngày 10/10/2019 Như vậy, mối nguy hiểm với người ASI, chúng thơng minh người Ngồi ra, tương lai khơng dự đốn chí có loại cịn siêu việt gấp nhiều lần với người, liệu giới xã hội nào, chờ xem (TG) 14 Máy móc hay đơn giản máy thiết bị sử dụng lượng để thực số công việc Trong cách hiểu thông thường, có nghĩa thiết bị có nhiệm vụ thực trợ giúp việc thực công việc Trong lịch sử, thiết bị xem máy móc có di chuyển 13 móc” không người Tuy nhiên, người bỏ qua khả AI [18; p.59]15 Theo mơ hình này, khả rõ ràng không đủ để coi thực thể AI “thủ phạm” gây hành vi nguy hiểm cho xã hội16 Những khả giống khả người có nhận thức hạn chế trẻ em, người khơng có đủ lực TNHS người mắc bệnh tâm thần bệnh lý khác làm khả nhận thức khả điều khiển hành vi nên chịu TNHS (do chưa thỏa mãn điều kiện chủ thể tội phạm) Cho nên, mặt pháp lý, tác nhân vô tội thực hành vi phạm tội “vật trung gian” (tác nhân) coi “công cụ” túy, cho dù công cụ “tinh vi”, “siêu việt” bên đạo thực hành vi (chủ thể phạm tội thông qua chủ thể khác) thủ phạm với tư cách người chủ mưu phải chịu TNHS hành vi nguy hiểm cho xã hội “tác nhân vô tội” Ở đây, TNHS xác định sở hành vi “công cụ” trạng thái tinh thần người sử dụng “cơng cụ” Tuy nhiên, chủ thể phải chịu TNHS với tư cách chủ thể tội phạm lại phân loại sau [1; p.175]17: (1) Người lập trình phần mềm AI: Người thiết kế chương trình nhằm thực hành vi nguy hiểm cho xã hội thông qua thực thể AI nên người lập trình phải chịu TNHS phận; nhiên với phát triển công nghệ điện tử đời phát triển nhiều thiết bị không di chuyển phận xem máy móc, mà ví dụ máy vi tính ví dụ điển hình (TG) 15 Con người mong đợt thực thể thơng minh có năm thuộc tính sau: (1) Giao tiếp; (2) Sự hiểu biết, kiến thức mình; (3) Có kiến thức bên ngồi; (4) Thực hành vi dựa mục tiêu (5) Có tính sáng tạo (TG) 16 Sau gọi cách khác hành vi khách quan/hành vi phạm tội hành vi nguy hiểm cho xã hội Hành vi nguy hiểm cho xã hội hành vi gây đe dọa gây thiệt hại đáng kể cho quan hệ luật hình xác lập bảo vệ (TG) 17 Một số ví dụ chúng tơi lược giản, đơn giản hóa minh họa rõ sở tiếp cận tác giả Gabriel Hallevy (TG) T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 Ví dụ: A người lập trình thiết kế phần mềm AI cho rơ-bốt vận hành có chủ đích phóng hỏa đốt nhà máy Z vào 24h đêm Đêm đó, rơ-bốt thực hành vi gây hậu nghiêm trọng tài sản Do đó, TNHS thuộc người lập trình phần mềm AI A trường hợp A xác định chủ thể tội phạm (2) Người sử dụng người sử dụng cuối: Trong trường hợp này, người sử dụng người sử dụng cuối khơng lập trình phần mềm AI sử dụng thực thể AI phần mềm AI mục đích cá nhân nên người sử dụng người sử dụng cuối (sau cùng) phải chịu TNHS Ví dụ: C người sử dụng mua rô-bốt giúp việc thiết kế để thực mệnh lệnh người chủ C cài đặt thêm lệnh cho rô-bốt công D người hàng xóm vào nhà C, qua gây thương tích nặng cho D Như vậy, rô-bốt thực mệnh lệnh C cách xác việc cơng D, nhiên, TNHS thuộc C trường hợp này, C người sử dụng coi chủ thể tội phạm Ở đây, hai ví dụ trên, thực tế, hành vi nguy hiểm cho xã hội thực thực thể AI (chúng tơi nhấn mạnh) Dù người lập trình phần mềm hay người sử dụng không thực hành động theo định nghĩa “hành vi phạm tội” cụ thể truyền thống18 Do đó, khơng đáp ứng u cầu khách quan tội phạm hành vi phạm tội cụ thể Vì vậy, mơ hình TNHS chủ thể phạm tội thông qua chủ thể khác coi hành vi thực thể AI hành vi người lập trình phần mềm hay người sử dụng Đồng thời, sở pháp lý TNHS trường hợp việc coi thực thể AI tác nhân vô tội [17; p.1231] Theo lý luận này, thuộc tính mặt tinh thần (chủ quan) TNHS áp Trong luật hình sự, hành vi phạm tội (hay hành vi khách quan, hành vi nguy hiểm cho xã hội) biểu người giới khách quan ngun nhân làm biến đổi tình trạng đối tượng tác động, đồng thời nguyên nhân gây thiệt hại cho quan hệ xã hội gọi khách thể tội phạm (TG) 18 dụng thực thể AI [19; p.329]19 Vì vậy, yếu tố bên cần để chứng minh hành vi phạm tội cụ thể tồn tâm trí “người lập trình người sử dụng” Tương tự, với hai ví dụ trên, A người lập trình phần mềm có ý định phạm tội lệnh thực hành vi phóng hỏa C người sử dụng AI có ý định phạm tội lệnh thực hành vi công người khác, hành vi phạm tội lại thực thực tế rô-bốt - thực thể AI Kết luận là, người sử dụng dùng tác nhân vô tội “cơng cụ” để phạm tội người sử dụng coi chủ thể tội phạm Mơ hình lập luận cho thực thể AI khơng có khả tinh thần hay khả suy nghĩ người Mơ hình TNHS phù hợp với trường hợp sử dụng thực thể AI để thực hành vi phạm tội mà không sử dụng lực tiên tiến (siêu việt) AI áp dụng phiên cũ AI Ngoài ra, cách lý giải TNHS “gián tiếp” luật hình truyền thống (trong có luật hình nước ta) “người thực hành” 20 sử dụng (hay thông qua) người “không đủ điều kiện chủ thể tội phạm” để thực hành vi phạm tội, người (người bị sử dụng) chịu TNHS, mà người sử dụng phải chịu TNHS với vai trị người thực hành (họ có ý định phạm tội)21 Ở đây, thực thể AI sử dụng công cụ người tham gia thực thể AI sử dụng đặc tính xử lý thơng tin Ngồi ra, hành vi khách quan biểu người giới khách quan, đồng thời mặt thực tế ý thức kiểm sốt ý chí điều khiển chủ thể thực (TG) 20 Người thực hành người trực tiếp thực tội phạm thông qua người khơng có đủ điều kiện chủ thể tội phạm để thực (như: người chưa đủ tuổi chịu TNHS, người khơng có lực TNHS ), trường hợp coi người trực tiếp thực tội phạm (TG) 21 Trong trình hồn thiện viết này, chúng tơi có trao đổi với số nhà khoa học thấy quan niệm rằng, dù tương lai khoa học cơng nghệ có phát triển đến máy móc ln máy móc, thực thể AI khơng thể sở hữu hết thuộc tính người, người được, đồng thời máy móc “cơng cụ” (vật trung gian) mà thơi, có nghĩa áp dụng mơ hình TNHS thứ tương lai Mọi hành động thực thể AI 19 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 Tuy nhiên, mơ hình này, vấn đề nảy sinh lực tiên tiến trình độ AI phát triển vượt bậc, “siêu việt”, tự xử lý, tự định thực hành vi nguy hiểm cho xã hội dựa kinh nghiệm, tổ hợp kiến thức “tỷ tỷ liệu” mà tự tích lũy sáng tạo, tự dự đoán, tự xử lý, tự định thông minh siêu việt người tất phương diện dẫn đến thực hành vi nguy hiểm cho xã hội [6; tr.81-83]; [20; tr.131-218] Đây vấn đề pháp lý cần dự liệu xem xét mơ hình TNHS thứ tương lai Mơ hình trách nhiệm hình dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên: Các loại hình tội phạm dự đốn thực thể AI gây Khác với mô hình TNHS thứ nhất, mơ hình TNHS thứ hai cho người lập trình phần mềm hay người sử dụng có liên hệ mật thiết với hành động hàng ngày thực thể AI khơng có ý định phạm tội thông qua thực thể AI Cụ thể, trình thực nhiệm vụ, thực thể AI thực hành vi phạm tội người lập trình phần mềm AI người sử dụng hành vi phạm tội hành vi xảy gây hậu nguy hiểm cho xã hội Ở đây, chủ thể không dự định thực hành vi phạm tội họ không tham gia vào giai đoạn trình thực hành vi [1; p.182] Ví dụ: Rơ-bốt phần mềm AI thiết kế để thực chức “phi công” máy bay tự động AI lập trình để bảo vệ nhiệm vụ giao phần nhiệm vụ lái máy bay Trong suốt chuyến bay, E phi cơng kích hoạt chế độ lái tự động (AI) Tuy nhiên, sau kích hoạt chương trình lái tự động, E lại nhận thấy có bão lớn đến nên cố gắng hủy bỏ nhiệm vụ quay trở lại sân bay Lúc này, AI cho hành động E (người phi công) người lập trình Tuy nhiên, cịn q sớm, chờ xem (TG) mối nguy hiểm hữu nhiệm vụ giao có hành động để loại bỏ mối nguy hiểm Do đó, AI khóa nguồn cung cấp khí thở cho E kích hoạt ghế bật làm E bị giết chết hành động AI Xem xét trường hợp này, người lập trình phần mềm AI khơng có ý định giết ai, đặc biệt khơng có ý định giết E (phi công) Tuy nhiên, E bị giết hành động AI hành động thực theo lập trình [1; p.183] Như vậy, ví dụ này, mơ hình TNHS thứ (đã nêu trên) không phù hợp mặt pháp lý để áp dụng Mơ hình thứ cho yếu tố chủ quan tội phạm (mens era), ý định phạm tội người lập trình phần mềm AI người sử dụng nhằm thực hành vi phạm tội thông qua việc sử dụng số khả AI “công cụ” tình pháp lý trường hợp Ở đây, người lập trình phần mềm hay người sử dụng hành vi phạm tội thực hiện, họ không lập kế hoạch để thực hành vi phạm tội khơng có ý định sử dụng thực thể AI để thực hành vi phạm tội Trong trường hợp vậy, mơ hình TNHS thứ hai phù hợp mặt pháp lý Cụ thể, mơ hình dựa khả người lập trình phần mềm hay người sử dụng việc dự báo hành vi phạm tội xảy Ngồi ra, người phải chịu TNHS hành vi phạm tội hành vi phạm tội hậu xảy cách tự nhiên từ hành vi người Ban đầu, mơ hình TNHS dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên sử dụng để áp dụng TNHS đồng phạm người thực hành vi phạm tội vốn không lập kế hoạch trước phần kế hoạch phạm tội Quy tắc xem TNHS đồng phạm áp dụng hành vi người phạm tội “hậu xảy cách tự nhiên” kế hoạch mà người đồng phạm đồng lõa trợ giúp TNHS dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên công nhận rộng rãi nhiều đạo luật luật T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 thành văn quy định chung TNHS đồng phạm [1; p.183] TNHS dựa hậu nguy hiểm cho xã hội xảy tự nhiên dường phù hợp mặt pháp lý tình thực thể AI thực hành vi phạm tội mà người lập trình phần mềm hay người sử dụng khơng biết (nhận thức) hành vi đó, khơng có ý định thực hành vi phạm tội không tham gia thực hành vi phạm tội Mơ hình TNHS cần người lập trình phần mềm người sử dụng trạng thái tinh thần sơ suất khơng cần Người lập trình phần mềm người sử dụng khơng cần phải biết hành vi thực phạm tội xảy hậu hành vi họ, họ buộc phải biết hành vi phạm tội hậu xảy cách tự nhiên từ hành động Như vậy, luật hình sự, người có hành vi sơ suất người (nhận thức được) hành vi phạm tội, mà người bình thường biết hành vi phạm tội hành vi phạm tội cụ thể hậu xảy cách tự nhiên từ hành vi người [21; p.674] Người lập trình phần mềm hay người sử dụng thực thể AI đáng phải biết (nhận thức được) khả thực hành vi phạm tội cụ thể phải chịu TNHS hành vi phạm tội cụ thể cho dù họ không thực biết hành vi thực tế Đây sở pháp lý để áp dụng TNHS trường hợp phạm tội sơ suất (hay cịn gọi vơ ý cẩu thả)22 Như vậy, mơ hình TNHS dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên cho phép áp dụng TNHS dự đoán hành vi sơ suất Người lập trình phần mềm hay người sử dụng bình thường phải dự đốn hành vi phạm tội phải ngăn thực thể AI thực hành vi Tuy nhiên, hậu pháp lý việc áp dụng mơ hình TNHS dựa hậu xảy cách tự nhiên hai loại chủ thể - người lập trình phần mềm hay người sử Trong luật hình cịn gọi trường hợp phạm tội vơ ý cẩu thả Đây trường hợp chủ thể không thấy trước hành vi gây hậu nguy hại cho xã hội, phải thấy trước thấy trước hậu (TG) 22 dụng lại tiếp tục cụ thể hóa sau [1; p.183]: (1) Trường hợp mà người lập trình phần mềm hay người sử dụng sơ suất trình lập trình hay sử dụng thực thể AI khơng có ý định thực hành vi phạm tội Đây trường hợp coi hành vi sơ suất (vô ý) túy, họ sơ suất hành động không thực hành động, đó, khơng có lý mà họ lại phải chịu TNHS việc này, pháp luật quy định khác tội phạm vơ ý (2) Trường hợp người lập trình phần mềm người sử dụng lập trình sử dụng thực thể AI cách có chủ đích cố tình để thực hành vi phạm tội thơng qua nó, nhiên, AI lại khơng thực kế hoạch phạm tội mà lại thực hành vi phạm tội khác bên cạnh thay thực hành vi phạm tội lập kế hoạch Trường hợp giống với quan điểm TNHS dựa hậu xảy cách tự nhiên trường hợp áp dụng TNHS đồng phạm Tuy nhiên, mơ hình TNHS cịn vấn đề cần phải xem xét TNHS thực thể AI áp dụng mơ hình TNHS dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên Thực tế cho thấy có hai hậu xảy ra: Một là, thực thể AI hành động tác nhân vô tội (vật trung gian), khơng biết điều hành vi bị cấm theo quy định luật hình sự, thực thể AI khơng phải chịu TNHS hành vi phạm tội thực Trong tình vậy, hành động AI khơng khác so với hành động AI mơ hình TNHS thứ - mơ hình TNHS chủ thể phạm tội thông qua chủ thể khác Hai là, thực thể AI không hành động túy tác nhân vơ tội (vật trung gian), có nhận thức, xử lý định, bên cạnh TNHS người lập trình phần mềm người sử dụng theo mơ hình TNHS dựa hậu xảy cách tự nhiên, thân thực thể AI phải chịu TNHS trực tiếp hành vi phạm tội cụ thể [1; p.184-185] Do đó, từ dẫn đến mơ hình 10 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 TNHS thứ ba - mơ hình TNHS trực tiếp thực thể AI (tiểu mục đây) Mơ hình trách nhiệm hình trực tiếp - thực thể AI cho tương đương với chủ thể phạm tội người kết hợp với chuỗi trách nhiệm hình tương ứng để xử lý tồn diện Mơ hình TNHS thứ ba khơng cho có phụ thuộc AI vào người lập trình phần mềm hay người sử dụng Mơ hình TNHS tập trung vào thân thực thể AI [22; p.123]; [23; p.623]; [24; p.239] AI phát triển mức độ siêu việt (chúng mạnh - TG)23 Như phân tích trên, TNHS hành vi phạm tội cụ thể bao gồm yếu tố bên (actus reus) yếu tố bên (mens era) hành vi phạm tội Bất kỳ chủ thể chứng minh có đủ hai yếu tố liên quan đến hành vi phạm tội cụ thể phải chịu TNHS hành vi phạm tội sở chung Do đó, để áp dụng TNHS thực thể nào, cần phải chứng minh có tồn yếu tố thực thể Vấn đề đặt liệu thực thể AI đáp ứng yêu cầu áp dụng TNHS Thực thể AI có khác biệt so với người tương lai với phát triển vượt bậc, siêu việt, tự xử lý, tự định AI viễn cảnh Rõ ràng, thuật tốn AI có nhiều đặc điểm thuộc tính vượt xa người bình thường đặc điểm thuộc tính cần phải điều kiện để áp dụng TNHS Hiện nay, PLHS nước (trong có Việt Nam), người hay pháp nhân đáp ứng yêu cầu yếu tố bên yếu tố bên trong, TNHS áp dụng Như vậy, trường hợp thực thể AI có khả đáp ứng yêu cầu yếu tố bên yếu tố bên thực tế AI [6; p.60] đáp ứng hai yếu tố đó, lơgíc đương nhiên khơng có lý mà Hiện nay, nhiều nhà tương lai học, công nghệ học, khoa học thần kinh, ngơn ngữ học dự đốn năm 2060, 2062 thời đại trí thơng minh nhân tạo, xuất Người số Xem thêm: Toby Walsh, Năm 2062 - Thời đại trí thơng minh nhân tạo, Đỗ Tôn Minh Khoa dịch, Nxb Tổng hợp thành phố Hồ Chí Minh, 2019, tr.29 23 khơng áp dụng TNHS thực thể AI [1; p.191], cụ thể: (1) Yếu tố khách quan, nhìn chung, dễ để đánh giá đáp ứng yêu cầu yếu tố bên hành vi phạm tội thực thể AI với điều kiện thực thể AI kiểm soát chế học hay chế khác để di chuyển phận mình, hành vi coi thực thể AI thực Ví dụ: Rơ-bốt có AI kích hoạt cánh tay điện tử/thủy lực di chuyển để cơng người gây thiệt hại cho xã hội, thực hành vi coi đáp ứng điều kiện thứ TNHS yêu cầu khách quan tội phạm Còn hành vi phạm tội thực khơng có hành động việc chứng minh lại đơn giản Trong tình này, thực thể AI khơng cần phải có hành động nên việc thực thể AI khơng thực hành động sở pháp lý để áp dụng TNHS, miễn giao nhiệm vụ hành động Tuy nhiên, trường hợp thực thể AI giao nhiệm vụ hành động khơng thực nhiệm vụ đó, u cầu khách quan tội phạm (actus reus) hành vi phạm tội cụ thể đáp ứng thông qua việc không hành động (2) Yếu tố chủ quan, việc chứng minh yếu tố bên hành vi phạm tội thực thể AI thách thức lớn mặt pháp lý vấn đề khó chứng minh tính phức tạp (vì nay, pháp luật hình nhiều nước, có Việt Nam, việc chứng minh yếu tố lỗi pháp nhân khó khăn nhiều ý kiến khác nhau)24 Ở đây, Ví dụ: BLHS Việt Nam năm 2015 quy định bốn điều kiện để pháp nhân thương mại phạm tội phải chịu TNHS, có điều kiện “hành vi phạm tội thực có đạo, điều hành chấp thuận pháp nhân thương mại” (điểm c khoản Điều 75) Đây điều kiện phản ánh dấu hiệu “lỗi” pháp nhân Theo đó, pháp nhân thương mại phải chịu TNHS người đại diện (hoặc người đứng đầu) pháp nhân nhận thức rõ hành vi người đại diện thực trái pháp luật, đạo, cho phép, trực tiếp điều hành chấp thuận cho người đại diện thực hành vi đó, nên pháp nhân thương mại bị coi có lỗi (TG) 24 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 việc chứng minh yếu tố bên khác loại hình thực thể AI Hầu hết khả nhận thức phát triển cơng nghệ AI đại mang tính phi vật chất việc áp dụng TNHS “Sự sáng tạo” đặc tính người mà số lồi vật có Tuy nhiên, sáng tạo yêu cầu việc áp dụng TNHS Yêu cầu mặt tinh thần (chủ quan) cần để áp dụng TNHS hiểu biết, ý định, cảm xúc yêu cầu hành vi phạm tội cụ thể theo lý thuyết chung luật hình truyền thống lẫn đại, cụ thể25: (a) Sự hiểu biết cảm nhận liệu thực tế mặt giác quan nhận thức liệu Hiện nay, hầu hết thực thể AI trang bị để tiếp nhận liệu Việc cảm nhận mặt giác quan ánh nhìn, giọng nói, tiếp xúc thể chất, sờ nắm… phổ biến hầu hết thực thể AI [25; p.108] Việc cảm nhận giúp chuyển liệu thực tế nhận đến đơn vị xử lý trung tâm giúp phân tích liệu Quy trình phân tích liệu AI tương tự quy trình nhận thức người26 Bộ não người hiểu biết liệu nhận mắt, tai, tay thơng qua việc phân tích liệu Các thuật tốn AI tiên tiến, siêu việt lập trình cố gắng bắt chước giống trình nhận thức người nên trình khơng q khác biệt, chí ngày siêu việt (chúng nhấn mạnh - TG) [26; p.190] (b) Ý định yêu cầu cao yếu tố bên [27; p.380-414] Ý định ý muốn cụ thể làm việc [14; tr.1167], cịn ý định cụ thể tồn mục đích mà kiện Sự nhận thức máy móc cịn hình thành theo ba cách sau: (1) Được lập trình; (2) Tự xuất từ phức tạp (3) Được dạy Xem: Toby Walsh, Năm 2062 - Thời đại trí thơng minh nhân tạo, Đỗ Tơn Minh Khoa dịch, Nxb Tổng hợp thành phố Hồ Chí Minh, 2019, tr.74-75 26 Theo quan điểm phép tư biện chứng, hoạt động nhận thức người từ trực quan sinh động đến tư trừu tượng, từ tư trừu tượng đến thực tiễn Con đường nhận thức thực qua giai đoạn từ đơn giản đến phức tạp, từ thấp đến cao, từ cụ thể đến trừu tượng, từ hình thức bên đến chất bên (TG) 25 11 thực tế xảy Do kết việc tồn ý định này, người phạm tội thực hành vi phạm tội, có nghĩa người thực yếu tố bên hành vi phạm tội tình khơng có người Một thực thể AI lập trình với mục đích (hay mục tiêu) xác định phải thực hành động để đạt mục đích xem tương đương ý định cụ thể (c) Cảm xúc, số quan điểm nhà khoa học cho người có cảm xúc mà thực thể AI bắt chước chí sử dụng phần mềm AI tiên tiến nhất, đại [28; p.215] Những cảm xúc bao gồm yêu thương, yêu mến, ghét, ghen nhiều cảm xúc khác (thậm chí cảm xúc đau đớn) khơng thể có thực thể AI Tuy nhiên, với phát triển vượt bậc AI, cảm xúc người thực thể AI có khả bắt chước được, làm thay được, làm tốt 27 Mặc dù vấn đề khoa học viễn tưởng, rõ ràng khoảng cách khoa học viễn tưởng thực tế cho thấy xích lại gần (điều minh chứng qua nhiều phim khoa học viễn tượng cho thấy nhiều vấn đề tưởng viễn tưởng đến trở thành thật thật)28; Ví dụ: Rơ-bốt Sophia mắt vào năm 2015 công nhận công dân Arab Saudi vào ngày 25/10/2017, trở thành “cỗ máy” lịch sử làm điều Tuyên bố trao quyền công dân cho nữ rô-bốt Sophia khiến dư luận tranh cãi dội, cho nàng rơ-bốt cịn hưởng nhiều quyền lợi phụ nữ quốc gia Rô-bốt Sophia thiết kế với mục tiêu học hỏi tính sáng tạo, cảm thơng, lịng trắc ẩn đặc biệt trở thành cỗ máy thiên tài, thông minh người Cơ nàng rơ-bốt thực trò chuyện, giao tiếp linh hoạt với khoảng 60 sắc thái cảm xúc khác Sophia nhiều lần khiến dư luận giới dậy sóng với phát ngơn sốc, có tun bố: “OK, tơi hủy diệt lồi người” 28 Ví dụ: Những phát minh trở thành thật từ dự đoán khoa học viễn tưởng: (1) iPad - 1968: iPad “đồ chơi công nghệ” đắt tiền tiếng phát minh đặc biệt mô tả từ cách 47 năm qua tác phẩm “2001 - A Space Odyssey” nhà văn Arthur C Clarke đề cập đến thiết bị có tên gọi “Newspad” với tính tương tự sản phẩm “nhà táo”; (2) Xe tăng - 1903: Những xe tăng đồ sộ đầy uy lực chiến 27 12 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 Do đó, kỹ sư công nghệ, nhà tương lai học, nhà luật học cần phải hợp tác với nhà tâm lý học, khoa học thần kinh, ngôn ngữ học giáo dục học để lý giải sáng tỏ thêm vấn đề chứng minh yếu tố chủ quan - rõ ràng thực thể AI đáp ứng [29; p.4]29 trường, “con quái vật” thép gây khiếp sợ cho đối phương với hỏa lực khủng khiếp Cỗ máy to lớn đề cập tác phẩm viễn tưởng tiếng “The Land Ironclads” tác giả HG Wells vào năm 1903, có đoạn mơ tả thứ có “thân hình bọc sắt” khổng lồ, bắn viên đạn với tốc độ chóng mặt sau nhanh chóng biến đêm; (3) Bom nguyên tử: Thứ vũ khí đáng sợ biết đến Mỹ thả bom xuống thành phố Hiroshima Nagasaki Nhật Bản Đây sáng kiến tồi tệ lịch lồi người, xảy thực từ nhận định H.G Wells “The World Set Free” vào năm 1914; (4) Chat Video: Cơng nghệ đàm thoại hình ảnh từ xa dự báo từ năm 1911, “Ralph 124C 41+”, Hugo Gernsback có dịng mơ tả cách thức giao tiếp đặc biệt video, đến năm 1964 nhà cung cấp dịch vụ viễn thơng AT&T bắt đầu thử nghiệm tính này; (5) Tàu ngầm: Tàu ngầm đánh giá cơng trình nghiên cứu có giá trị lĩnh vực quân nhân loại Jules Verne, tác giả tiểu thuyết khoa học viễn tưởng “Hai vạn dặm biển” - ý tưởng tàu có khả hoạt động mặt nước biển thời gian dài, điều thú vị viết vào năm 1869; (6) Thẻ tín dụng: Các hình thức tốn hệ thống tiền tệ tồn cầu vận hành trơn tru nhờ máy ATM có mặt hầu khắp nơi tiên đốn từ trước “Looking Backward” Edward Bellamy xuất năm 1888, mơ tả cơng dân tương lai sử dụng thẻ để tốn hàng hóa, dịch vụ mà không cần phải sử dụng tiền mặt; (7) Con người chinh phục Mặt trăng: Đây điều khơng tưởng lồi người, cách hàng trăm năm, tác giả Jules Verne tác phẩm “From The Earth To The Moon” mơ tả xác cách thức mà đặt chân lên Mặt trăng, có khác biệt việc sử dụng pháo khổng lồ để tạo lực đẩy; (8) Người đột biến: Mặc dù khái niệm khơng cịn trở nên xa lạ với hầu hết qua nhiều phim đến thực tế công nghệ biến đổi gen thực nâng lên nấc thang nhờ xuất CRISPR-Cas (khám phá vào năm 2003) nhiều nhiều lĩnh vực khác nữa; v.v Xem: Những phát minh trở thành thật từ dự đoán khoa học viễn tưởng, https://www.lalung.vn/, truy cập ngày 02/10/2019 29 Hiện nay, nhiều phim khoa học viễn tưởng “Hạnh phúc ảo”, 2013; “Cuộc phiêu lưu vào dải ngân hà”, 2014 phác họa rõ chân dung người máy có cảm xúc Mặc dù khoa học viễn tưởng, qua phim cho thấy, nhà tương lai học, tâm lý học, khoa học thần kinh, Như vậy, chủ thể đáp ứng yêu cầu yếu tố bên yếu tố bên hành vi phạm tội cụ thể chủ thể phải chịu TNHS Câu hỏi đặt thực thể AI đáp ứng yếu tố lại không đặt vấn đề phải chịu TNHS, yếu tố chủ quan vơ khó chứng minh (đã nêu), với phát triển vượt bậc, siêu việt AI thuật tốn AI có khả phân tích điều bị cấm điều phép thực [30; p.68] Ngồi ra, thuật tốn AI vận hành đầy đủ, khơng có lý để khơng sử dụng tất khả để phân tích liệu thực tế nhận thông qua quan cảm giác Đặc biệt, đề cập trên, tương lai với xuất loại trí tuệ mức siêu việt với tên gọi ASI (Artificial Superintelligence) việc “máy móc” thơng minh siêu việt người thông minh tất khía cạnh hồn tồn đáp ứng yếu tố chủ quan Tuy nhiên, có vấn đề pháp lý đặt liệu đưa luận bảo vệ trường hợp thuật toán AI gặp trục trặc khả phân tích khơng thể thực trục trặc hay khơng [1; p.184] Điều q trình lập trình, phân tích trao quyền định cho thực thể AI cần làm sáng tỏ Tóm lại, TNHS thực thể AI không thay TNHS người lập trình phần mềm hay người sử dụng TNHS áp dụng người lập trình phần mềm (hoặc) người sử dụng theo quy định pháp luật khác Ở đây, TNHS không tách rời mà kết hợp TNHS thực thể AI áp dụng bên cạnh TNHS người lập trình phần mềm hay người sử dụng TNHS thực thể AI không phụ thuộc vào TNHS người lập trình phần mềm hay người sử dụng thực thể AI Do đó, thực thể AI cụ thể lập trình hay sử dụng thực thể AI khác, TNHS thực thể AI lập trình hay sử dụng không chịu ảnh hưởng thực tế Thực thể AI lập trình hay sử dụng phải chịu TNHS hành vi phạm tội cụ thể theo mô hình TNHS trực tiếp cơng nghệ học, giáo dục học kết hợp tạo người máy có cảm xúc thật người (TG) T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 trừ tác nhân vơ tội Cùng với đó, người lập trình phần mềm hay người sử dụng thực thể AI phải chịu TNHS cho hành vi phạm tội theo ba mơ hình TNHS, tùy thuộc vào vai trị cụ thể hành vi phạm tội Chuỗi TNHS tiếp tục có nhiều bên tham gia hơn, cho dù người hay thực thể AI Ngoài ra, khơng có lý loại trừ TNHS thực thể AI hay người trường hợp có thơng đồng (nhất trí) hai chủ thể Nếu thực thể AI người phối hợp đồng phạm TNHS có liên quan áp dụng tương ứng thỏa mãn dấu hiệu đồng phạm/phạm tội có tổ chức sở chung [31; tr.457482]; [32; tr.131-137] Cùng với đó, lý luận đồng phạm/phạm tội có tổ chức luật hình tiếp tục cần nghiên cứu thấu đáo TNHS thực thể AI theo mơ hình TNHS trực tiếp khơng khác biệt so với TNHS có liên quan người Trong số trường hợp, cần phải điều chỉnh bản, TNHS giống dựa yếu tố truy cứu TNHS theo cách thức tương tự Vấn đề chỗ, quy định TNHS trực tiếp, việc quy định điều kiện TNHS nào, vấn đề đồng phạm/phạm tội có tổ chức áp dụng, thi hành chế tài hình đối tượng Mơ hình kết hợp, đan xen mơ hình trách nhiệm hình thực thể AI Như vậy, mơ hình TNHS nêu khơng phải mơ hình TNHS thay cho Có thể áp dụng kết hợp mơ hình để hình thành tranh tổng thể TNHS vụ án cụ thể có tham gia hành vi thực thể AI Ngoài ra, khơng có mơ hình TNHS ba mơ hình loại trừ lẫn Việc kết hợp, liên hệ đan xen mơ hình TNHS thể sau [1; p.182-183]: (1) Trường hợp thực thể AI đóng vai trị “tác nhân vô tội” (vật trung gian) việc thực hành vi phạm tội cụ thể người lập trình phần mềm người đạo trình phạm tội, việc áp dụng mơ 13 hình TNHS chủ thể phạm tội thông qua chủ thể khác (mô hình thứ nhất) phù hợp trường hợp (2) Trường hợp tương tự, bên lập trình phần mềm thực thể AI (khi thực thể AI lập trình cho thực thể AI khác để thực hành vi phạm tội cụ thể), mô hình TNHS trực tiếp (mơ hình thứ ba) phù hợp để áp dụng bên lập trình thực thể AI Như vậy, trường hợp này, mô hình TNHS thứ ba áp dụng bên cạnh mơ hình TNHS thứ khơng thay cho mơ hình Do đó, trường hợp nêu, bên lập trình phần mềm cho thực thể AI phải chịu TNHS theo mơ hình kết hợp mơ hình TNHS chủ thể phạm tội thông qua chủ thể khác mơ hình TNHS trực tiếp (3) Trường hợp thực thể AI đóng vai trị bên thực hành vi phạm tội cụ thể thực tế hành vi khơng lập kế hoạch trước, áp dụng mơ hình TNHS dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên (mơ hình thứ hai) Người lập trình phần mềm coi có hành vi sơ suất (vô ý cẩu thả) hành vi thực cách không cố ý hay người lập trình phần mềm phải chịu hồn toàn trách nhiệm cho hành vi phạm tội cụ thể hành vi phạm tội khác lên kế hoạch cách có chủ đích hành vi phạm tội cụ thể xảy phần kế hoạch phạm tội ban đầu Tuy nhiên, bên lập trình phần mềm khơng phải người, cần áp dụng mơ hình TNHS trực tiếp (mơ hình thứ ba) bên cạnh việc áp dụng đồng thời mơ hình TNHS dựa hậu nguy hiểm cho xã hội xảy cách tự nhiên, tương tự trường hợp người phạm tội thực tế người người lập kế hoạch lại thực thể AI (mơ hình thứ hai) Tóm lại, đan xen, liên hệ kết hợp ba mơ hình TNHS tạo mạng lưới TNHS đan xen, tổ hợp việc xác định TNHS đắn thực thể trừu tượng với cá nhân, pháp nhân thực thể AI Việc áp dụng kết hợp phối hợp ba mơ hình TNHS lại dẫn đến tình 14 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 pháp lý bối cảnh cụ thể thực thể AI luật hình Cụ thể, có tham gia thực thể AI [33]; [34; tr.1] người cách trực tiếp hay gián tiếp trình thực hành vi phạm tội, khó để trốn tránh TNHS Một điều quan trọng tất thực thể - cá nhân, pháp nhân hay AI chịu điều chỉnh PLHS xâm phạm đến lợi ích mà PLHS bảo vệ nay, TNHS thực thể AI xem điều viển vông, khoa học viễn tưởng, chí khơng tưởng, dù vậy, việc nghiên cứu, dự liệu đặt vấn đề cần thiết nhà tương lai học, công nghệ học, tâm lý học nhà hình học để hoạch định sách hình xây dựng, hồn thiện hệ thống PLHS tương lai không xa III Một số viễn cảnh đặt sách, pháp luật hình Việt Nam tương lai Nhận xét Như vậy, với phát triển nhanh chóng cơng nghệ AI địi hỏi phải có giải pháp pháp lý (cả PLHS) phù hợp để bảo vệ xã hội khỏi nguy hiểm xảy từ loại hình cơng nghệ vốn khơng chịu điều chỉnh pháp luật, đặc biệt PLHS [3; p.273] Đây trình phức tạp tranh luận kéo dài Lấy ví dụ đơn giản, giới bổ sung TNHS pháp nhân, pháp nhân tồn hình thức đại kể từ kỷ 14, phải hàng trăm năm để điều chỉnh pháp nhân theo quy định pháp luật, đặc biệt PLHS [34; p.411, p.419] Ngay vào kỷ XIX, Tòa án Anh, xuất phát từ sách hình mềm dẻo lý thực dụng tái thiết lập TNHS pháp nhân [35; tr.13] Pháp nhân tham gia đầy đủ vào sống người thật thiếu sót pháp nhân khơng chịu điều chỉnh pháp luật người hành vi phạm tội thực pháp nhân thông qua đại diện pháp nhân Tuy nhiên, pháp nhân thể hay linh hồn Các giải pháp pháp lý đưa liên quan đến TNHS theo pháp nhân chịu TNHS đáp ứng yêu cầu yếu tố bên yếu tố bên [1; p.200] BLHS nhiều quốc gia, có BLHS Việt Nam năm 2015, sửa đổi năm 2017 bổ sung thêm chủ thể tội phạm “pháp nhân thương mại” với cá nhân phạm tội (mặc dù cịn có ý kiến coi pháp nhân chủ thể TNHS) [36; tr.3-12]; [37; tr.14-15]; [38; tr.341-324] Đây tiến đáng ghi nhận lịch sử lập pháp hình nước ta, điểm thay đổi tư pháp lý PLHS Pháp nhân coi “thực thể trừu tượng” tạo pháp luật khơng có lẽ - khoa học viễn tưởng, đáp ứng tất điều kiện cụ thể, áp dụng TNHS thực thể AI (bên cạnh cá nhân, pháp nhân) (tương lai chờ xem) Vì vậy, thực tiễn phát triển khoa học cơng nghệ địi hỏi nhà lập pháp phải có giải pháp phương diện pháp lý giải vấn đề thời đại, xây dựng sách để đáp ứng nhu cầu điều chỉnh tương lai Do đó, từ việc nghiên cứu mơ hình TNHS dự kiến (đã nêu) cho thấy có số viễn cảnh đặt sách, PLHS Việt Nam tương lai có ý nghĩa cấp bách mà tiểu mục - giải Các cỗ máy mang AI có thay đổi, phát triển vượt bậc, siêu việt không dự đoán Hiện nay, người giới (trong có Việt Nam) đứng thời điểm lịch sử chưa có cỗ máy AI đưa định có ảnh hưởng tới nhiều lĩnh vực sống Cụ thể, nhiều định quan trọng với người đưa thông qua chế công cụ AI Tháng 7/2017, AI Facebook vốn dạy dỗ tiếng Anh, dường chán ngán với sắc thái không quán thứ ngơn ngữ này, thay tiếp tục sử dụng tiếng Anh, chúng tự phát triển hệ thống mã để giao tiếp hiệu - ngơn ngữ hình thành Những điều khiến T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 câu chuyện viễn tưởng người máy (rô-bốt) thay người ngày khẳng định lo lắng điều hiểu Ngay từ thủa AI cịn sơ khai, người bao quanh câu chuyện viễn tưởng mà nơi rơ-bốt thống trị loại người diệt vong Những câu chuyện dù khơng có thực khiến mặc định sẵn thành kiến AI [17; tr.1231]30 Hay công ty bảo hiểm từ chối toán khoản bảo hiểm sức khỏe dựa thuật toán đánh giá rủi ro, hay cảnh sát định bắt giữ cá nhân do nghi ngờ lên kế hoạch phạm tội dựa mơ hình dự báo từ siêu máy tính xử lý liệu Ngoài ra, xu hướng ngành công nghiệp rô-bốt học tăng cường sâu (deep reinforcement learning) mà nhà thiết kế đơn giản vạch mục tiêu hành vi hệ thống tự động học hỏi tương tác trực tiếp với môi trường Điều dẫn tới hệ hệ thống cịn khó hiểu Mặt khác, AI sử dụng để hỗ trợ đưa án phạt tù giam, hỗ trợ thẩm phán hay để thực hỗ trợ thi hành án trại giam rõ ràng cách thức nhận định đưa định phải rõ ràng nhiều tiến bộ, phát triển vượt bậc, siêu việt khác Gần nhất, theo tác giả Toby Walsh, với phát triển khoa học công nghệ, ông dự báo đến năm 2062 thời đại trí thơng minh nhân tạo toàn [39; tr.35], đồng thời đặt hàng loạt vấn đề mà giới phải đối mặt như: (1) Người số31; 15 (2) Khơng cịn “chúng ta”; (3) Khơng cịn ý thức; (4) Khơng cịn cơng việc; (5) Khơng cịn chiến tranh; (6) Khơng cịn giá trị nhân văn; (7) Khơng cịn bình đẳng; (8) Khơng cịn riêng tư; (9) Khơng cịn trị; (10) Phương Tây sụp đổ [39; tr.29-216] Đáng ý, cần dự báo khả loài người bị máy móc tàn sát cách vơ tình cố ý [39; tr.57] Do đó, với thay đổi giới, sách, pháp luật liên quan đến lĩnh vực AI cần đặc biệt đầu tư, quan tâm nghiên cứu, lĩnh vực luật hình - việc sử dụng AI thân AI gắn thực thể thực hành vi nguy hiểm cho xã hội, gây thiệt hại (hậu quả) nguy hiểm cho xã hội, xâm phạm đến quyền người trật tự, an toàn xã hội32 Thay đổi lớn tư sách, pháp luật hình Việt Nam liên quan đến tội phạm, dấu hiệu yếu tố cấu thành tội phạm mà hành vi thực thể AI thực Mặc dù thời gian qua, xét riêng lĩnh vực sách, PLHS nước ta phản ứng chậm phát triển AI nghiên cứu, đào tạo, giảng dạy… Do đó, từ biến đổi liên tục trên, với “giả định” thực thể AI chủ thể tội phạm phải chịu TNHS, xét riêng sách hình PLHS Việt Nam địi hỏi phải có thay đổi tư tương lai sau33: Ví dụ: Trong lần giao tiếp, Bob Alice (hai AI Facebook) từ bỏ sử dụng cấu trúc ngữ pháp tiếng Anh bắt đầu giao tiếp cách sử dụng thứ ngôn ngữ mà chúng tự tạo Bob mở đầu câu “I can i i everything else”, Alice đáp lại “balls have zero to me to me to me…” Và trò chuyện tiếp tục theo cách Cuộc hội thoại bao hàm nhiều thứ có nghĩa khơng đơn thấy 31 Người số (Homodigitalis - tiến hóa lồi người Homo dạng kỹ thuật số) Các hoạt động không gian sinh hoạt dần số hóa, chí có trại nghiệm dạng số hóa mà thơi Suy nghĩ người thay tư máy móc Cuộc sống người đời sống thực mã hóa thành giới nhân tạo thực thể ảo Xem: Toby Walsh, Năm 2062 - Thời đại trí thơng minh nhân tạo, Đỗ Tôn Minh Khoa dịch, Nxb Tổng hợp thành phố Hồ Chí Minh, 2019, tr.10 32 Chẳng hạn, nay, giới ngày xuất tội phạm sử dụng giọng nói AI để đánh cắp tiền Cụ thể, theo Nhật báo The Wall Street Journal đưa tin, tội phạm mạng giả mạo thành cơng giọng nói giám đốc điều hành công ty lượng để yêu cầu chuyển khoản khẩn cấp 243.000 USD công lừa đảo Các chuyên gia tội phạm mạng gọi thủ đoạn bất thường sử dụng liên quan tới trí tuệ nhân tạo (AI) 33 Về nội dung này, chúng tơi phân tích cụ thể số nghiên cứu khác tới (TG) 30 16 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 (1) Về sách hình sự, địi hỏi phải xây dựng chủ thuyết, hệ quan điểm để lý giải, giải thích hàng loạt vấn đề định hướng TNHS thực thể AI, thực thể AI có khác biệt so với pháp nhân việc truy cứu TNHS Liệu có cần quy định chủ thể tội phạm PLHS không, có quy định Hiện nay, thực thể AI dạng rô-bốt tham gia ngày nhiều vào hoạt động người tương tự pháp nhân [4; p.267] Các hành vi phạm tội thực thực thể AI thông qua thực thể AI [4; p.273] Các thực thể AI khơng có linh hồn số thực thể AI khơng có thể hay khơng có linh hồn AI phát triển thể linh hồn AI Điều kiện chủ thể thực thể AI bao gồm điều kiện sở khái niệm tội phạm thực thể AI thực Cùng với đó, sở lý luận, thực tiễn loại tội phạm thực thể AI phải chịu TNHS, vấn đề đồng phạm thực thể AI chủ thể khác (pháp nhân, cá nhân) từ đưa sách xử lý hệ quan điểm giải vấn đề hệ thống sách, pháp luật chung điều chỉnh (2) Về PLHS, sở sách hình trên, PLHS cần điều chỉnh hàng loạt vấn đề liên quan đến tội phạm, cấu thành tội phạm như: khái niệm tội phạm, dấu hiệu đặc trưng yếu tố cấu thành tội phạm thực thể AI thực cụ thể hóa PLHS, vấn đề chủ thể tội phạm điều kiện chịu TNHS, đồng phạm TNHS đồng phạm, hệ thống biện pháp cưỡng chế hình áp dụng thực thể AI bên cạnh áp dụng với pháp nhân, cá nhân phạm tội 34 Thay đổi lớn tư việc quy định chế tài hình thực thể AI việc quy định thủ tục, trình tự bắt giữ, điều tra, truy tố, xét xử, thi hành… Từ đây, dẫn đến thay đổi lớn pháp luật tố tụng hình sự, pháp luật thi hành án hình nhiều đạo luật khác có liên quan (TG) 34 Tiếp theo “giả định” trên, giả định tiếp thực thể AI phải chịu TNHS, đồng thời bị truy tố, xét xử buộc tội việc bắt giữ, điều tra, truy tố xét xử nào35 Sau buộc tội, Tòa án phải đưa án thực thể AI hệ thống biện pháp cưỡng chế hình áp dụng (có nhiều loại biện pháp cưỡng chế hình khác nhau, quan trọng hình phạt gì, thi hành nào) Tất vấn đề cần dự liệu sách hình xây dựng, áp dụng PLHS Ở đây, chúng tơi ví dụ loại hình phạt biện pháp cưỡng chế hình nghiêm khắc áp dụng người phạm tội tử hình (cịn pháp nhân đình hoạt động vĩnh viễn) Theo đó, tử hình hình phạt đặc biệt áp dụng người phạm tội đặc biệt nghiêm trọng thuộc nhóm tội xâm phạm an ninh quốc gia, xâm phạm tính mạng người, tội phạm ma túy, tham nhũng số tội phạm đặc biệt nghiêm trọng khác BLHS quy định Vì vậy, câu hỏi đặt đây, trường hợp thực thể AI phạm tội tương tự, hình phạt áp dụng thực thể AI tương tự hình phạt tử hình Rõ ràng, “mạng sống” thực thể AI tồn độc lập thực thể Đôi thực thể AI có bề ngồi thực thể (ví dụ, rơ-bốt), đơi tồn cách trừu tượng (ví dụ, phần mềm cài đặt hệ thống máy tính hay máy chủ mạng lưới) [1; p.200] Do đó, hình phạt tử hình thực thể AI ví dụ là: xóa bỏ (hủy bỏ) phần mềm AI kiểm soát thực thể AI (các nhà công nghệ học cần kết hợp với nhà luật học) Tuy nhiên, việc quy định trình tự, thủ tục thi hành hình phạt (chưa nói đến hình phạt khác việc quy định thủ tục, trình tự bắt giữ, điều tra, truy tố, xét xử, thi hành ) Những vấn đề quan trọng quy định TNHS thực thể AI việc đặt hệ thống chế tài hình phạt dự Về nội dung này, tiếp tục đề cập số nghiên cứu khác tới (TG) 35 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 kiến áp dụng nhiệm vụ không phần quan trọng Phát sinh vấn đề đổi tư sách, pháp luật tố tụng hình sự, pháp luật thi hành án hình sự, hồn thiện hệ thống pháp luật có liên quan Đây vấn đề phái sinh từ vấn đề Đổi sách, PLHS có nghĩa đồng thời phải đổi tư xây dựng sách, pháp luật luật hình thức (luật tố tụng hình luật thi hành án hình sự) sở định hướng sách, PLHS, qua đó, tạo hệ thống tổng thể đáp ứng yêu cầu đất nước dự báo tương lai Ngồi ra, sách hình đặt yêu cầu hoàn thiện hệ thống pháp luật Việt Nam lĩnh vực công nghệ thông tin có liên quan đến AI như: (1) Luật Cơng nghệ cao năm 2008, sửa đổi năm 2013, 2014; (2) Luật Công nghệ thông tin năm 2006; (3) Luật An ninh thông tin mạng năm 2015; (4) Luật An ninh mạng năm 2018; (5) Và văn tạo hàng lang pháp lý điều chỉnh lĩnh vực cụ thể như: AI, tiền ảo, công nghệ in 3D tạo hệ thống tồn diện, tổng thể cơng tác đấu tranh phòng, chống tội phạm thực thể AI thực trước thách thức CMCN 4.0 Nhu cầu lớn việc tăng cường hợp tác quốc tế, công tác đào tạo, bồi dưỡng cán bộ, đội ngũ chuyên môn tạo tổng thể hệ thống đáp ứng yêu cầu trước thách thức thực thể AI có hoạt động gây hậu nguy hiểm cho xã hội Như vậy, với việc đổi tư duy, hồn thiện sách, PLHS chế bảo đảm đòi hỏi thường xuyên tăng cường hợp tác quốc tế phịng, chống tội phạm với khu vực tồn cầu như: hợp tác song phương, đa phương, tham gia tổ chức phòng, chống tội phạm quốc tế nhằm bước tiếp cận, chuyển giao công nghệ, kỹ phịng, chống tội phạm, nắm bắt kiến thức, cơng nghệ sử dụng 17 phương tiện công nghệ, kinh nghiệm phòng ngừa, phát đấu tranh chống tội phạm thực thể AI thực Đặc biệt, việc có sách liên quan đến xây dựng đội ngũ cán làm công tác lập pháp, hành pháp tư pháp tinh thông AI giải quyết, ứng phó xu hướng cần triển khai sớm Kết hợp nghiên cứu nhà luật học với nhà tâm lý học, khoa học thần kinh, công nghệ học, ngôn ngữ học, giáo dục học kinh tế học nghiên cứu AI, sách để xử lý, kiểm sốt thực thể AI phịng ngừa thực thể AI vi phạm Cùng với với việc đẩy mạnh nghiên cứu khoa học, phát triển sử dụng thành thạo ứng dụng khoa học công nghệ cơng tác phịng, chống tội phạm, kết hợp với đầu tư kinh phí mua sắm, trang bị phương tiện phát hiện, thu thập loại tài liệu, chứng điện tử… phục vụ công tác phát hiện, xử lý yêu cầu nâng cao trình độ, chun mơn cho cán nhiệm vụ quan trọng để chủ động ứng phó, xử lý Tóm lại, nghiên cứu bước đầu mơ hình TNHS đặt dự kiến áp dụng thực thể AI vấn đề vô khó khăn Việt Nam trở lên khoa học viễn tưởng “thực thể AI” người tạo điều kiện chịu TNHS chủ thể đòi hỏi yếu tố khách quan chủ quan Xã hội biến đổi không ngừng, thay đổi lĩnh vực khoa học cơng nghệ ngày trở lên vũ báo khó dự đốn khó lường, khơng thể thấy trước Tuy nhiên, nghiên cứu bước đầu dự liệu tương lai viễn cảnh nước ta, có thêm kiến nghị giúp cho việc nghiên cứu, hoạch định sách hình xây dựng, hồn thiện hệ thống PLHS bối cảnh CMCN 4.036 [40]; [41; tr.17-18]; [42; tr.204-216]; [43; tr.9-21], qua đó, khơng bảo vệ người trước hành vi nguy hiểm cho thực thể AI Ngày 27/9/2019, Bộ Chính trị ban hành Nghị số 52-NQ/TW số chủ trương, sách chủ động tham gia CMCN lần thứ tư, mục III có đề số chủ trương, sách chủ động tham gia CMCN lần thứ tư (TG) 36 18 T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 thực hiện, mà cịn có chế kiểm sốt chủ thể này, tương lai chủ thể tội phạm phải chịu TNHS [39; tr.3-7]37 Mặc dù vậy, nghiên cứu Việt Nam nên chúng tơi khơng tránh khỏi có nhận xét, đánh giá mang tính đốn, cịn mơ hồ chưa tồn diện sở lý luận thực tiễn vững chắc, chúng tơi tin rằng, có nhiều nghiên cứu sâu, rộng liên ngành [2]; [44]; [45; tr.1200-1236] chủ đề kết hợp tương lai nhà luật học, dự báo học, khoa học thần kinh, ngôn ngữ học, công nghệ học tâm lý học Tài liệu tham khảo [1] Gabriel Hallevy, The Criminal Liability of Artificial Intelligence Entities - from Science Fiction to Legal Social Control, Akron Intellectual Property Journal, Vol.4: Iss.2, Article, 2010, https://ideaexchange.uakron.edu/akronintellectual property/vol4/iss2/1 [2] I.N Mosechkin, Artificial Intelligence and Criminal Responsibility: Problems of the Formation of a New Type of Crime Subject, Vestnik SPbGU Right 2019.Vol 10 Vol (И Н Мосечкин, Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления, Вестник СПбГУ Право 2019 Т 10 Вып 3) [3] Klaus Schwab, Fourth Industrial Revolution, National Political Publishing House - Truth, Hanoi, 2018 (in Vietnamese) [4] Yueh-Hsuan Weng, Chien-Hsun Chen, ChuenTsai Sun, Toward the Human-Robot Co-Existence Society: On Safety Intelligence for Next Generation Robots, INT.J.SOC, ROBOT, 2009 Tác giả Toby Walsh không trình bày thành tựu cơng nghệ máy tính văn phong ngôn ngữ truyền cảm hứng, tập sách có cách dẫn dắt tuyệt vời để người đọc - dù khơng chun lĩnh vực máy tính - cảm nhận ngày trí thơng minh nhân tạo diện nhiều cảnh người truyền thống, gần đến đưa tay sờ thấy Tác giả đặt hình dung nhân loại từ Người tinh khôn đến Người số - giống loài tạo kỹ thuật số sống mơi trường kỹ thuật số Trí thơng minh nhân tạo phá hủy hay đóng góp cho phát triển xã hội loài người Xem: Toby Walsh, Năm 2062 Thời đại trí thơng minh nhân tạo, Đỗ Tôn Minh Khoa dịch, Nxb tổng hợp thành phố Hồ Chí Minh, 2019 37 [5] Klaus Schwab, The fourth industrial revolution: What it means, how to respond, World Economic Forum, Geneva, 2016 [6] Kevin Kelly, 12 technology trends in the 4.0 era, National Economics University Press, Hanoi, 2018 (in Vietnamese) [7] Matilda Claussén-Karlsson, Artificial Intelligence and the External Element of the Crime: An Analysis of the Liability Problem, JU101A, Final Thesis for the Law Program, Second Cycle, 30 Credits, Spring 2017 [8] Tien Phuc, Five frightening warnings about future AI disasters, http://kenh14.vn/, accessed May 1, 2019 (in Vietnamese) [9] Amir Husain, Cỗ máy tri giác - Kỷ nguyên trí thơng minh nhân tạo, Hồng Lan dịch, Nxb Công thương, Hà Nội, 2019 [10] Trinh Tien Viet, Policy and Criminal Law of Vietnam against the challenge of Industrial Revolution 4.0, Proceedings of the National Scientific Conference: “Fourth Industrial Revolution and legal issues posed for the construction and completion of Vietnam legal system”, Ministry of Justice, Hanoi, June 24, 2019 (in Vietnamese) [11] Trinh Tien Viet, From the Beginning to the End of the Criminal Law, Journal of Law, VNU, Episode 34, No.1/2018 (in Vietnamese) [12] Trinh Tien Viet, Crime and criminal responsibility, National Political Publishing House, Hanoi, 2013 (in Vietnamese) [13] Lisa M Storm, Criminal Law, Chapter “Elements of a crime”, Lulu Publishing Services, United States, 2015 [14] Hoang Phe (chief editor), Vietnamese dictionary, Institute of Linguistics, Danang Publishing House and Dictionary Center, 2006 (in Vietnamese) [15] Nguyen Thi Que Anh, Ngo Huy Cuong (co-editor), The Fourth Industrial Revolution and issues on Vietnam's legal reform, National Political Publishing House - Truth, Hanoi, 2018 (in Vietnamese) [16] Klaus Schwab, Shaping the Fourth Industrial Revolution, translated by Nguyen Van and Thanh Thep, World Publishing House, Hanoi, 2019 (in Vietnamese) [17] Lawrence B Solum, Legal Personhood for Artifical Intelligences, 70 N.C.L.REV, 1992 [18] Roger C Schank, What Is AI Anyway?, Al MAG., Winter 1987 [19] George R Cross, Cary G Debessonet, An Artificial Intelligence Application in the Law: T.T Viet / VNU Journal of Science: Legal Studies, Vol 35, No (2019) 1-19 [20] [21] [22] [23] [24] [25] [26] [27] [28] [29] [30] [31] [32] [33] CCLIPS, A Computer Program that Processes Legal Information, HIGH TECH L.J., 1986 Ajay Agrawal, Joshua Gans, Avi Goldfarb, Artificial Intelligence in the 4.0 technology revolution, translated by Dao Loi, Labor Publishing House, Hanoi, 2018 (in Vietnamese) Robert P Fine, Gary M Cohen, Is Criminal Negligence a Defensible Basic for Criminal Liability? 16 BUFF L REv., 1966 Donald Stuart, Mens Rea, Negligence and Attempts, CRIM L REV., 1968 Steven J Frank, Tort Adjudication and the Emergence of Artificial Intelligence Software, 21 SUFFOLK U L REV., 1987 Maruerite E Gerstner, Liability Issues with Artificial Intelligence Software, 33 SANTA CLARA L REV, 1993 Margaret A Boden, Has AI Helped Psychology?, The Foundations of Artifical Intelligence, Derek Partridge & Yorick Wilks eds., 2006 Daniel C Dennett, Evolution, Error, and Intentionality, The Foundations of Artifical Intelligence Derek Partridge & Yorick Wilks eds., 2006 Robert Batey, Judicial Exploration of Mens Rea Confusion at Common Law and Under the Model Penal Code, 18 GA ST U L REV 341, 2001 David Levy, The Ethical Treatment of Artificially Conscious Robots, I INT'L J SOC ROBOTICS, 2009 Dylan Evans, Can robots have emotions?, Oxford University Press, 2001, http://www.inf.ed.ac.uk/events/hotseat/dylan_posi tion.pdf, truy cập ngày 19/9/2019 Tang Howe Hing, Musa Mailah, Simulator for Control of Control of Autonomous Nonholomich Wheeled Robot, J OF APPLIED SCI 2534, 2536, 2008 Le Van Cam, Postgraduate Monograph: Basic issues in Criminal Law science (General Part), Hanoi National University Press, 2005 (in Vietnamese) Dinh Van Que, Commenting on Criminal Code 2015 - Part 1: General provisions, Information and Communications Publishing House, Hanoi, 2017 (in Vietnamese) AI accompanies the threat, http://www.pcworld.com.vn/, accessed September 15, 2019 (in Vietnamese) 19 [34] Andrew Weissmann, David Newman, Rethinking Criminal Corporate Liability, 82 IND L.J., 2007 [35] Trinh Quoc Toan, Criminal Responsibility of Legal Entities in Criminal Law, National Political Publishing House, Hanoi, 2011 (in Vietnamese) [36] Nguyen Ngoc Hoa, The concept of crime and the determination of criminal liability of commercial legal entities in Vietnam's Criminal Code 2015, Juricprudence Journal, No.2/2016 (in Vietnamese) [37] Nguyen Ngoc Hoa (chief editor), Scientific commentary Criminal Code 2015, amended and supplemented in 2017 (General Part), Justice Publishing House, Hanoi, 2017 (in Vietnamese) [38] Le Cam (chief editor), Vietnam's criminal law from the tenth century to the present: History and reality, Hanoi National University House, 2018 (in Vietnamese) [39] Toby Walsh, 2062 - The era of artificial intelligence, translated by Do Ton Minh Khoa, Ho Chi Minh City General Publishing House, 2019 (in Vietnamese) [40] Politburo, Resolution No.52-NQ/TW on a number of guidelines and policies to actively participate in the Fourth Industrial Revolution, Hanoi, September 27, 2019 (in Vietnamese) [41] Trinh Tien Viet, Continuing to innovate legal thinking in Vietnamese Criminal Law before the challenge of Industrial Revolution 4.0, Journal of Procuratorate Studies, No.4 (31).2019 (in Vietnamese) [42] Trinh Tien Viet (Editor), Vietnam's criminal law before to non-traditional security challenges, National Politice Publishing House, Hanoi, 2019 (in Vietnamese) [43] Trinh Tien Viet, Vietnam's Criminal Policy in the Context of the Fourth Industrial Revolution, Journal of the People's Court, No.7(4).2019 (in Vietnamese) [44] http://wwwformal.stanford.edu/jmc/whatisai/node1.html, truy cập ngày 10/10/2019 [45] Houbing Song, Ravi Srinivasan, Tamim Sookor, Sabina Jeschke (ed.), Smart Cities: Foundations, principles and applications, translated by Ngo Thanh Nam, National Political Publishing House Truth, Hanoi, 2019 (in Vietnamese) ... No (2019) 1-19 Các mơ hình trách nhiệm hình thực thể trí tuệ nhân tạo: Từ khoa học viễn tưởng đến viễn cảnh đặt sách, pháp luật hình Việt Nam1 Trịnh Tiến Việt* Khoa Luật, Đại học Quốc gia Hà... nhân Trên sở này, với cách tiếp cận khoa học luật hình khoa học viễn tưởng, viết “giả định” thực thể AI chủ thể tội phạm liệu có mơ hình TNHS dự kiến áp dụng thực thể AI viễn cảnh đặt sách, pháp. .. khả hình dung trí tuệ vĩ đại hơn, khơng thể hình dung nó; (9) Một trí tuệ có khả tạo trí tuệ vĩ đại lần; (10) Một trí tuệ có khả trí tuệ vĩ đại trí tuệ vĩ đại lại tạo trí tuệ vượt trội BLHS Việt