Một số khía cạnh pháp lý trong lĩnh vực luật tư khi ứng dụng trí tuệ nhân tạo

NHÀ NƯỚC VÀ PHÁP LUẬT MỘT SỐ KHÍA CẠNH PHÁP LÝ TRONG LĨNH vực LUẬT Tư KHI ỨNG DỤNG TRÍ TUỆ NHÂN TẠO PGS TS Nguyễn Thị Quế Anh* *Khoa Luật, Đại học Quốc gia Hà Nội Thông tin viết: Từ khóa: Trí tuệ nhân tạo; luật tu; liệu cá nhân; trách nhiệm pháp lý, quyền sở hữu trí tuệ Lịch sử viết: Nhận : 10/10/2021 Biên tập : 05/11/2021 Duyệt : 08/11 /2021 Article Infomation: Keywords: Artificial intelligence; private law; personal data; liability, intellectual property rights Article History: Received :10Otc 2021 Edited : 05 Nov 2021 Approved : 08 Nov 2021 Tóm tắt: Trí tuệ nhân tạo bước tiến công nghệ kỹ thuật số có tác động sâu sắc đến giới Trí tuệ nhân tạo mang lại tác động to lớn công nghệ, kinh tế xã hội, đồng thời thay đổi cách sản xuất tiêu thụ hàng hóa, dịch vụ thực thay đổi cách sống giới lồi người Nói cách khác, việc xem xét ứng dụng trí tuệ nhân tạo không đơn chi khuôn khổ lĩnh vực mà cần phải nhìn nhận phạm vi tương đối bao quát, có lĩnh vực pháp luật Trong phạm vi viết này, tác giả số khoảng trống tồn điều chinh pháp lý, đặc biệt lĩnh vực luật tư, tượng này, tụt hậu lý thuyết pháp lý truyền thống so với tiến khoa học kỹ thuật, thiếu quy định pháp luật tương tác người với trí tuệ nhân tạo, vấn đề tư cách pháp lý trí tuệ nhân tạo, đạo đức an ninh, liệu cá nhân, quyền sở hữu trí tuệ, trách nhiệm pháp lý vấn đề bất khả xâm phạm đời sống cá nhân Abstract: Artificial intelligence is the next step of digital technology and shall provide a profound worldwide impacts Artificial intelligence will particularly provide enormous technological, economic and social impacts, and will change the way we produce and consume goods and services, and indeed it will change the way we live In other words, considering the application of artificial intelligence is not only within the framework of one field but needs to be viewed on a relatively broad scale, including the legal field Within the scope of this article, the author provides discussions of the existing gaps in legal regulations, especially in the field of private law, for this new phenomenon, such as the lagging behind of traditional legal theories compared with advances in science and technology, lack of legal provisions in human interaction with artificial intelligence, issues of legal status of artificial intelligence, ethics and security, personal data, intellectual property rights, liability and inviolability to personal life Địa vị pháp lý trí tuệ nhân tạo Sự tham gia ngày phổ biến công nghệ lĩnh vực đời sống người đặt toán mối quan hệ chúng với người tự nhiên Thông tin đến cho thấy, cơng nghệ hồn tồn thay người việc “tư duy” “quyêt định hành động” (như trí tuệ nhân tạo - TTNT) Điều có nghĩa người đứng trước mối quan hệ pháp lý hoàn toàn khác so với thực thể pháp lý gặp pháp nhân, chí giao dịch điện tử (hợp đồng điện tử, chữ ký điện từ, ) Bởi vì, ỵ NGHIÊN Cứu « Số 22(446) - T11/202l\ LẬP PHÁP U NHÀ NƯỚC VÀ PHÁP LUẬT nay, dù có tư cách pháp lý riêng pháp nhân hay hình thức giao dịch điện tử phải thực thông qua hành vi người Trong đó, xuất trí tuệ nhân tạo có thề khơng cần tới, chí, khơng thể bị điều khiển ý chí người Minh chứng điền hình hồi cuối tháng 7/2017, hai chương trình trí tuệ nhân tạo kỳ sư Facebook phát triển tự tạo ngôn ngữ riêng để liên lạc với mà không kỳ sư hiểu nội dung giao tiếp đó1, dù ràng sau nhà nghiên cứu nói “có thể hiểu kết hội thoại”1 Liên minh Châu Âu trọng phát triển lĩnh vực TTNT Năm 2012, ủy ban Châu Âu khởi xướng dự án Robolaw3 nhằm hệ thống hóa phân tích biện pháp quản lý có lĩnh vực robot Các nhà nghiên cứu khuôn khổ dự án đề cập đến vấn đề thuật ngữ, quy phạm pháp luật đạo đức Kết hoạt động góp phần tạo sở cho Nghị viện Châu Âu ban hành Nghị số 2015/2103 ngày 16/02/2017 “Bộ quy tắc quyền dân robot” (Nghị số 2015/2103 )4 Nghị bao gồm hướng dẫn cách tiếp cận để xác định thuật ngữ robot, xác định nội dung vấn đề quan trọng khác lĩnh vực này, kiến nghị thành lập Cơ quan Châu Áu kỹ thuật robot TTNT, giới thiệu địa vị “nhân cách điện tử” robot5 Mặc dù tất sáng kiến nêu triển khai thực tế, khẳng định rằng, Nghị số 2015/2103 xem điển hình dạng luật “mềm” nhiều điều khoản tiếp tục xem xét đến tương lai Những động thái nêu cho thấy, xu hướng mở rộng phạm vi chủ thể quyền thay dành cho chủ thể truyền thống cá nhân người Xu hướng đặt số câu hỏi như: Có hay khơng việc phân biệt địa vị pháp lý người với người máy tương tự tồn chủ nô nô lệ trước đây? Pháp luật có cách thức để dung hòa khác biệt nhu cầu người với thực thể mang trí tuệ nhân tạo? Liệu có khả trí tuệ nhân tạo trở thành thành viên hội đồng xét xừ tòa án với tư cách “bồi thẩm đoàn”? Ngoài ra, nghĩa vụ pháp lý người máy thách thức đặt lập pháp bối cảnh Rõ ràng, truy cứu robot trách nhiệm pháp lý giống pháp nhân xảy thiệt hại Bởi lẽ, xét đến cùng, trách nhiệm pháp nhân Báo Nhân dân (2017), Facebook xóa sổ trí tuệ nhân tạo có khả tự sáng tạo ngơn ngữ mới, http:// nhandan.com.vn/congnghe/item/33622102-facebook-xoa-so-tri-tue-nhan-tao-co-kha-nang-tu-sang-tao-rangon-ngu-moi.html, truy cập ngày 15/8/2021 VNReview(2017), Facebook khơng hoảng sợ tắt chương trình AI tự tạo ngôn ngữ tin đồn, http://vnreview.vn/tin-tuc-khoa-hoc-cong-nghe/-/view_content/content/2232722/facebook-da-khong-hoangso-va-tat-ai-tu-tao-ra-ngon-ngu-nhu-tin-don, truy cập ngày 15/8/2021 Xem thông tin kết Dự án tại: http://www.robolaw.eu/, truy cập 22/9/2021 Xem Nghị tại: Resolution 2015/2103 (INL) of the European Parliament of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, https://www.europarl.europa.eu/doceo/ document/TA-8-2017-005 l_EN.pdf, truy cập 20/8/2021 Xem: Resolution 2015/2103 (INL) of the European Parliament of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, https://www.europarl.europa.eu/doceo/document/TA-82017-0051_EN.pdf, truy cập 20/8/2021 NGHIÊN cưu , LẬP PHÁP Sô 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT phải thực thi người đại diện cho pháp nhân đó, cịn người máy khơng cần đến người đại diện Tại Việt Nam, Chiến lược Quốc gia nghiên cứu, phát triển ứng dụng TTNT đến năm 2030 xác định TTNT lĩnh vực công nghệ tảng Cách mạng cơng nghiệp lần thứ tư, góp phần quan trọng tạo bước phát triển đột phá lực sản xuất, nâng cao lực cạnh tranh quốc gia, thúc đẩy phát triển kinh tế tăng trưởng bền vững Tuy nhiên, Việt Nam chưa quan tâm mức đến việc xây dựng khung pháp lý điều chỉnh quan hệ phát sinh Hệ thống pháp luật Việt Nam điều chỉnh quan hệ xã hội truyền thống liên quan đến thể nhân, pháp nhân, tổ chức khơng có tư cách pháp nhân Khơng gian pháp lý dành cho quan hệ pháp luật có tham gia cơng nghệ cịn hạn hẹp6 Do vậy, để theo kịp với nhu cầu thực tế phát triển, sở kinh nghiệm lập pháp quốc gia phát triển, Việt Nam cần nghiên cứu xây dựng khung pháp lý phù hợp nhằm điều chỉnh quan hệ liên quan đến phát triển ứng dụng TTNT Vấn đề an toàn trách nhiệm pháp lý ứng dụng trí tuệ nhân tạo An tồn trách nhiệm pháp lý vấn đề cốt lõi hàng đầu ứng dụng TTNT vấn đề trở nên đặc biệt quan trọng trường hợp liên quan đến việc ứng dụng tích cực phương tiện giao thông không người lái (phương tiện tự hành) Cho đến nay, vấn đề trách nhiệm pháp lý TTNT thiệt hại gây cho sức khỏe, tính mạng người chưa có cách giải thống Những trường hợp phương tiện tự hành gây tai nạn cho người loạt quốc gia làm dấy lên thảo luận nhu cầu điều chỉnh vấn đề trách nhiệm TTNT Trong Nghị số 2015/2103, khái niệm “cá nhân kỳ thuật số” xuất với vấn đề trách nhiệm hành vi robot (chủ sở hữu robot, người sử dụng robot hay người tạo robot) vấn đề bảo hiểm cho trách nhiệm Nghị số 2015/2103 nhấn mạnh tới số đặc tính robot thông minh như: khả chủ động sử dụng cảm biến trao đổi liệu mơi trường (tương thích); khả trao đổi liệu phân tích chúng; khả tự học hỏi sở kinh nghiệm tương tác; diện tối thiểu hồ trợ vật lý; khả thích ứng hành vi phù hợp với mơi trường7 Trên sở đó, Nghị đưa lưu ý vấn đề trách nhiệm hoạt động robot thông minh: Thứ nhất, nhờ có phát triển chức cụ thể cho phép robot thông minh hoạt động tự chủ (tự động), thực trình tự nhận thức, đưa định độc lập, robot ngày trở nên giống với tác nhân tương tác với môi trường đem lại thay đôi đáng kê cho mơi trường Trong bối cảnh vậy, vấn đề quan trọng đặt trách nhiệm thiệt hại robort gây hoạt động Thứ hai, tự chủ robot tự động định nghĩa khả đưa Xem: Lưu Minh Sang, Trần Đức Thành, Trí tuệ nhãn tạo thách thức pháp lý, https://vjst.vn/vn/ tin-tuc/3303/tri-tue-nhan-tao-va-nhung-thach-thuc-phap-ly.aspx, truy cập 08/7/2021 HopMbi rpa>K4aHCKoro npaBa o põoTOTexHHKe Pe3OJ!K)ijHíi EBponapjiaMCHTa OT 16 ộeBpans 2017 rofla Xem: http://robopravo.ru/riezoliutsiia_ies, truy cập ngày 22/8/2021 ỵ NGHIÊN CỨU Số 22(446) - T1V2021LẬP PHÁP NHÀ NƯỚC VÀ PHÁP LUẬT định thực cách độc lập, khơng cần có kiểm sốt hay tác động từ bên ngồi Quyền tự chủ robot hồn tồn có tính chất kỹ thuật mức độ tự chủ hoàn toàn phụ thuộc mức độ lập trình cho robot tương tác với mơi trường nhà sản xuất Thứ ba, mức độ tự chủ robot cao khả coi robot công cụ tay người thứ ba (nhà sản xuất, người điều hành, chủ sở hữu, người sử dụng, ) giảm Vậy, có nên phát triển nguyên tắc quy tắc nhàm làm rõ trách nhiệm bên thứ ba với hành vi robot, đặc biệt với trường họp mà không làm rõ mối quan hệ nhân hậu thiệt hại với hành vi cá nhân cụ thể; tránh hành động (hoặc không hành động) robot dần đến thiệt hại hay không Thứ tư, thân robot khơng thể tự chịu trách nhiệm thiệt hại mà chúng gây cho bên thứ ba Các quy định hành cho phép xem xét trách nhiệm trường hợp hành vi robot nằm mối quan hệ nhân với hành vi cá nhân cụ thể (nhà sản xuất, người điều hành, chủ sở hữu người sử dụng), không phụ thuộc vào yếu tố lồi, hành vi robot Thứ năm, thiệt hại hành vi robot gây cịn áp dụng quy định về: 1) Trách nhiệm chất lượng an tồn hàng hóa, theo nhà sản xuất chịu trách nhiệm trục trặc hàng hóa; 2) Trách nhiệm hành vi gây thiệt hại mà người sử dụng sản phẩm phải chịu trách nhiệm trường hợp có hành vi dần tới thiệt hại Thứ sáu, quy chuẩn hành trách nhiệm pháp lý không đủ trường họp thiệt hại gây hoàn toàn định mà robot đưa cách độc lập Trong trường hợp này, xác định chủ thể chịu trách nhiệm thiệt hại xảy Những thiếu khuyết chế điều chỉnh pháp lý hành thể rõ lĩnh vực trách nhiệm theo họp đồng Neu máy móc thiết kế để thân chúng tự lựa chọn đối tác, thỏa thuận điều khoản hợp đồng, ký kết định thực thỏa thuận rõ ràng ngun tắc thơng thường khơng áp dụng với chúng Điều có nghĩa là, cần phải tạo lập nguyên tắc mới, hiệu quả, đại, tính đến phát triển công nghệ đổi Ngay nguyên tắc bồi thường thiệt hại họp đồng sản phẩm khuyết tật quy định pháp luật Liên minh Châu Âu áp dụng trường họp thiệt hại bị xảy nguyên nhân có khiếm khuyết sản xuất với điều kiện bên bị gây thiệt hại phải chứng minh kiện gây thiệt hại, tồn khiếm khuyết sản xuất mối liên hệ nhân chúng với nhau8 Chưa kể robot hệ có khả tự hồn thiện thích nghi với môi trường, Xem: Chi thị số 85/374/EEC ban hành ngày 25.7.1985 Liên minh Châu Âu- Ị(npeKTHBa CoBera OT 25 HK)jia 1985 r o cõnnaceHHM 3aKOHOB, peraaMCHTOB H a/iMMHHCTpaTHBHbix noJio>KeHHM rocy/iapcTBHJICHOB, npMMeHseMbix K OTBeTCTBeHHOCTM 3a HencnpaBHỴK) npoayKiỊHiõ (85/374/E3C) Xem: https://eulaw edu.ru/spisok-dokumentov-po-pravu-evropejskogo-soyuza/dokumenty-o-pravah-cheloveka-i-grazhdanina/ normativnye-akty-o-svobode-peredvizheniya-tovarov-lits-i-uslug/direktiva-soveta-ot-25-iyulya-1985-go-sblizhenii-zakonov-reglamentov-i-administrativnyh-polozhenij-gosudarstv-chlenov-primenyaemyh-kotvetstvennosti-za-neispravnuyu-produktsiyu-85-374-ees-perevod/, truy cập 18/8/2021 NGHIÊN CỨU ỵ - LẬP PHÁP số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT hành vi tương tác chúng với môi trường xung quanh hồn tồn ngồi dự liệu người Như vậy, việc áp dụng nguyên tắc hành trách nhiệm chủ quan trách nhiệm khách quan (trách nhiệm khơng có yếu tố lồi) không đáp ứng với vấn đề đặt ra9 thống kinh tế giới dựa việc sử dụng bổ sung công nghệ kỹ thuật số đầu cuối Đặc biệt, nhà kinh tế học người Đức, Chủ tịch Diễn đàn Kinh tế giới Davos, Klaus Schwab, có đóng góp đáng kể vào việc phát triển phổ biến khái niệm Hiện nay, Đức thông qua Chiến lược công nghệ cao quốc gia đến Cộng hòa liên bang Đức quốc gia có nhiều kinh nghiệm lập pháp thực tiễn lĩnh vực Đức không quốc gia đầu lĩnh vực chế tạo robot với tư cách độc lập, mà thành viên Liên minh Châu Âu - hiệp hội có tính hội nhập cao đóng vai trị quan trọng thị trường robot toàn cầu Ở Đức, việc mở rộng sử dụng TTNT nhìn nhận bối cảnh rộng hơn, không bối cảnh ngành riêng biệt, mà phần đối chung kinh tế, hình thành mơ hình kinh tế Từ năm 2011, Đức xây dựng triển khai Chương trình cơng nghiệp 4.0 (một phần Chiến lược Công nghệ cao quốc gia 2020), với mục đích tái cấu triệt để ngành sản xuất sử dụng Internet of Things, robot, TTNT, mạng truyền thông hệ công nghệ đại khác Chương trình cho đời khái niệm Cách mạng công nghiệp 4.0, chuyển đổi có tính hệ năm 2025 (The High-Tech Strategy 2025), thể trọng đặc biệt phát triển TTNT1011 Đức quốc gia thông qua Luật Giao thông đường sửa đổi để điều chỉnh việc sử dụng phương tiện tự động hóa cao, có quy định khoản tiền đền bù cho thiệt hại gây trường hợp sử dụng phương tiện đó11 Bên cạnh đó, giống quốc gia hàng đầu lĩnh vực TTNT, Đức vần áp dụng “regulatory sandbox” - “khung pháp lý thí điểm” để điều chỉnh số hoạt động có liên quan đến TTNT Ví dụ, vào năm 2017 Hamburg, dịch vụ giao hàng Hermes thử nghiệm robot giao hàng tự động có giấy phép cá nhân để miễn tuân thủ quy định đăng ký, cấp phép phương tiện giao thông tiện quy định giao thông hành12 Như vậy, phương án xem xét trách nhiệm pháp lý mang tính chất truyền thống (trách nhiệm sản phẩm, trách nhiệm Nguyễn Thị Quế Anh, Nhận diện thay đổi cùa pháp luật bối cảnh công nghệ số Kỷ yếu Hội thảo quốc tế “Luật học trước biên đôi thời đại”, tô chức Khoa Luật - Đại học Quôc gia Hà Nội, tháng 8/2019, tập 2, tr125-126 10 Xem: Federal Ministry of Education and Research of Germany (2021) The high-tech strategy 2025 The Federal Government, https://www.bmbf.de/upload_filestore/pub/Research_and_innovation_that_benefit_ the_people.pdf 11 Xem: UccjiejoBarejibCKim neHTp npo&neM peryrmpoBaHMM poõoroTexHHKn (2017) BocbMoũ3OKOH o BHeceHuu u3MeueHuu e 3aKOH o dopootcHOM ÒBuotceHUu om 16 UÌOHỈI 2017 z, https://robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013_2 12 Xem: Federal Ministry for Economic Affairs and Energy of Germany (2019) Making spacefor innovation The handbookfor regulatory sandboxes The Federal Government, https://www.bmwi.de/Redaktion/EN/Publikationen/ Digitale-Welt/handbook-regulatory-sandboxes.pdf? blob=publicationFile&v=2, truy cập ngày 20/8/2021 NGHIÊN Cứu — Số 22(446) - T1I/2021LẬP PHÁP - ỵ NHÀ NƯỚC VÀ PHÁP LUẬT bồi thường thiệt hại ngồi hợp đồng) chủ thể thơng thường nhà sản xuất hay chủ sở hữu robot, có đề xuất ràng, máy móc tiên tiến phải có tư cách chủ thể đặc biệt thực thể điện tử Nghị số 2015/2103 đề cập tới việc, tính chất tự động robot cao cần xem xét dạng cơng cụ đặc biệt Từ đặt câu hỏi: TTNT tự chịu trách nhiệm cho “tác vi” (hành động) “bất tác vi” (khơng hành động) hay khơng? Nghị số 2015/2103 đưa quy định việc thiết lập hệ thống bảo hiểm bắt buộc robot chủ sở hữu nhà sản xuất chúng (tưcmg tự như bảo hiểm trách nhiệm dân người chủ sở hữu ô tô trường hợp xảy tai nạn) Khi thiệt hại gây khơng bảo hiểm chi trả tiền bồi thường trả từ quỳ bồi thường đặc biệt Hiện nay, Việt Nam, pháp luật chưa xem xét vấn đề bồi thường thiệt hại ứng dụng TTNT loại trách nhiệm đặc biệt Vấn đề bồi thường thiệt hại TTNT gây áp dụng sở nguyên tắc chung bồi thường thiệt hại họp đồng quy định trách nhiệm sản phẩm pháp luật bảo vệ quyền lợi người tiêu dùng Bảo vệ liệu cá nhân ứng dụng trí tuệ nhân tạo Chúng ta sống thời đại mà quyền riêng tư trở thành mối quan tâm trung tâm người dùng quan quản lý Người dùng đòi hỏi minh bạch kiểm soát cao việc thu thập, lưu trữ, sử dụng liệu trao đổi liệu, đặc biệt liệu cá nhân Thành phần TTNT liệu, số lượng lớn dừ liệu cho phép hệ thống “học máy” (machine learning) tự phát triển đưa định cách độc lập Dữ liệu dạng nguyên liệu đầu vào TTNT, cho phép TTNT học cách tư người, chép hành vi ứng xử người, tư giải pháp để giải vấn đề từ đưa định với độ tính tốn xác, thơng minh người lợi xử lý kỳ thuật cơng nghệ vốn có Trong thời đại trí tuệ nhân tạo, dừ liệu, đặc biệt liệu cá nhân thực trở thành loại “hàng hóa” có giá trị kinh tế Dừ liệu cá nhân giúp cho TTNT học cách tư người, cho kết cao tư người13 Do vậy, việc ứng dụng TTNT có liên quan mật thiết đến bảo hộ liệu, đặc biệt liệu cá nhân Với phát triển công nghệ thông tin phần cấu thành thiếu TTNT, vấn đề bảo vệ liệu cá nhân ngày nhận quan tâm đặc biệt lý dừ liệu cá nhân bị tiết lộ thơng qua định đưa TTNT Ở hầu hết quốc gia, quyền bảo vệ liệu cá nhân coi quyền cá nhân Châu Âu có thê xem hình mầu việc bảo hộ dừ liệu cá nhân Ngày 27/4/2016, Liên minh Châu Âu thông qua Chỉ thị số 2016/679 bảo vệ cá nhân liên quan đến xừ lý tự lưu chuyển dừ liệu cá nhân (hay gọi Quy định bảo vệ 13 Xem: Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư Bài viết sách tham khảo “Tri tuệ nhân tạo với pháp luật quyền người” Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng Khoa Luật, Đại học Quốc gia Hà Nội, Nxb Tư pháp, 2019, tr 368 o NGHIÊN Cứu O LẬP PHAP Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT liệu chung (General Data Protection Regulation - GDPR), thức có hiệu lực từ 25/5/2018‘4 Dữ liệu cá nhân thông tin liên quan đến việc xác định nhận dạng cá nhân (chủ thê liệu) mà theo xác định trực tiếp gián tiếp chủ Những thông tin bao gồm tên, thơng tin vị trí, số nhận dạng trực tuyến, nhiều yếu tố cụ thể danh tính, định dạng vật lý, sinh lý, di truyền, tinh thần, kinh tế, văn hóa xã hội cá nhân14 15 Định nghĩa rộng bao hàm khẳng định rõ ràng địa IP coi liệu cá nhân Một số dạng liệu cá nhân thuộc loại đặc biệt bí mật Đó thơng tin liên quan đến nguồn gốc chủng tộc sắc tộc, kiến trị, tín ngưỡng tơn giáo triết học danh tính thành viên tổ chức nghiệp đồn, thơng tin di truyền, sinh trắc học sử dụng để xác định cá nhân, thơng tin tình trạng sức khỏe, thơng tin đời sống tình dục khuynh hướng tình dục16 Việc bảo vệ dừ liệu cá nhân thực sở tiêu chí sau: thân việc bảo vệ liệu cá nhân nhìn nhận tương quan với việc bảo vệ quyền riêng tư xem tiếp nối quyền riêng tư; tồn quy định nghiêm ngặt chế thể đồng ý đổi với xử lý liệu cá nhân; liệu cá nhân sử dụng mục đích công cộng với điều kiện tồn chế thông báo khiếu nại; bảo vệ liệu cá nhân cần đồng thời tôn trọng quyền tự khác quyền tự ngôn luận, tự lưu thông thông tin Việc xử lý liệu cá nhân thực nguyên tắc sau: Thứ nhất, hợp pháp, công minh bạch Dữ liệu cá nhân cần xử lý cách hợp pháp, công minh bạch Bất kỳ thơng tin mục đích, phương pháp quy mô xử lý liệu cá nhân cần thể cách tối đa, dễ tiếp cận đơn giản Thứ hai, giới hạn mục tiêu Các thông tin cá nhân cần thu thập sử dụng giới hạn mục đích đã tuyên bố đơn vị thu thập thơng tin Thứ ba, tối thiểu hóa liệu Khơng thể thu thập số lượng liệu cá nhân nhiều so với mức cần thiết so với mục tiêu xừ lý liệu 14 Trước thời điêm Châu Âu có quy định bảo vệ liệu cá nhân Tuy nhiên, với phát triển công cụ kỹ thuật cách thức tổ chức thu thập, lưu trữ thông tin lượng thông tin mà tổ chức, cá nhân phải xử lý thay đổi nhiều Quy định bảo vệ liệu GDPR đời nhằm mục đích nhằm thiết lập quy tắc chung cho luật bảo vệ liệu riêng tư EU, khơng phụ thuộc vào vị trí địa lý, áp dụng cà cho người quản lý liệu người xử lý liệu Các quyền cá nhân GDPR bảo vệ bao gồm: Quyền thông báo, quyền truy cập, quyền chỉnh sửa, quyền xóa, quyền giới hạn/ ngừng xử lý, quyền trích xuất liệu, quyền phản đối, quyền từ chối xử lý phân nhóm tự động định Xem: Nguyễn Thị Quế Anh, Bảo vệ liệu cá nhân kỷ nguyên số - Kinh nghiệm Châu Âu, Kỷ yếu Hội thảo quốc tế “Hoàn thiện pháp luật tư bối cảnh kỷ nguyên số - kinh nghiệm từ Đức Việt Nam ”, Hà Nội, 3.2019, tr 65 15 Khoản Điều GDPR Xem: Regulation (EU) 2016/679 of the European Parliament and the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) // OJ L119 Vol 59 May 2016 p 1-89 https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016R0679) 16 Điều GDPR Xem: nguồn dẫn - ỵ NGHIÊN Cứu n Số 22(446) - T11/2021\_IÀP PHÀP y NHÀ NƯỚC VÀ PHÁP LUẬT Thứ tư, xác Những thơng tin cá nhân khơng xác cần loại bỏ chỉnh sửa (theo yêu cầu người sử dụng dịch vụ) Thứ năm, hạn chế lưu trữ Thông tin cá nhân cần lưu trữ dạng cho phép xác định chủ thể dừ liệu khoảng thời gian không vượt mức cần thiết cho mục đích xử lý Thứ sáu, toàn vẹn bảo mật Khi xử lý liệu người dùng, cơng ty có nghĩa vụ đảm bảo bảo vệ liệu cá nhân khỏi việc xử lý, phá hủy trái phép'7 Có thể dễ dàng nhận thấy, bối cảnh ứng dụng TTNT, nguyên tắc xủ lý liệu nêu gặp phải mâu thuẫn thách thức định Vậy yêu cầu nguyên tắc ứng xử với liệu cá nhân cần phải xừ lý việc ứng dụng TTNT, đặc biệt trường hợp TTNT tự đưa định độc lập, có việc thu thập, xừ lý, tiết lộ thơng tin thuộc bí mật cá nhân? Làm để để cơng ty tích họp phân tích liệu liên quan đến cá nhân vào hệ thống sản phẩm, dịch vụ tảng TTNT họ? Dưới góc độ kỳ thuật, nhà khoa học doanh nhân tích cực phát triển phương pháp cơng cụ bảo vệ liệu cá nhân để sử dụng hệ thống TTNT Có thể kể đến số phương thức kỳ thuật để bảo vệ liệu cá nhân môi trường ứng dụng TTNT như: Học liên kết (Federated Learning); Thuật toán quyền riêng tư khác biệt (Differential Privacy); Mã hóa đồng hình (Homomorphic Encryption cịn gọi “mã hóa đồng cấu”); Sử dụng mạng ngang hàng (Peer-to-Peer) hay cịn gọi mơ hình phi tập trung17 18 Việc ứng dụng TTNT tạo nguy tiềm ẩn tính bất khả xâm phạm quyền riêng tư mà nhiều trường hợp chúng thiết kế với chủ định thiết lập hồ sơ cá nhân Dưới góc độ này, pháp luật quốc gia phát triển, đặc biệt Liên minh Châu Âu có quy định nghiêm ngặt, chí có khả kìm hãm đáng kể phát triển TTNT Như vậy, sách phát triển chung thiết kế, sản xuất ứng dụng TTNT, nhà hoạch định sách, nhà thiết kế, sản xuất cung cấp dịch vụ cần bảo đảm ứng dụng TTNT không dần đến việc làm suy yếu quyền liệu cán nhân Đối với hoạt động nêu trên, yêu cầu chung liên quan đến bảo vệ dừ liệu cá nhân sau19: 17 Xem: Nguyễn Thị Quế Anh, Bảo vệ liệu cá nhãn kỳ nguyên số - Kinh nghiệm Châu Au, Kỷ yếu Hội thảo quốc tế “Hoàn thiện pháp luật tư bối cảnh kỷ nguyên số - kinh nghiệm từ Đức Việt Nam”, Ha Nội, 2019, tr 67 18 Xem: HHTepBbK) c BeHOM JIopuKOH, BeayujHM cnennajiHCTOM no paốoTe c AaHHHMM KOMnaHHM O’Reilly Media B3anMOCB5!3b Mexny 3amnTOM nepconajibHbix aaHHbix, oõynenneM MainHH H ncKyccTBeHHbiM nHTejuieKTOM, https://www.wipo.int/tech_trends/ru/artificial_intelligence/ask_the_experts/techtrends_ai_lorica html, truy cập ngày 28/8/2021 19 Xem: KoHcynbTaTMBHbiií KOMMTeT «KoHBeHiỊMH o 3anjMTe HacTHbixnniỊB oTHomeHMM aBT0MaTM3np0BaHH0 a oópaóoTKM flaHHbix TiMHHoro xapaKTepaw (ETS No 108 tại: https://www.coe.int/en/web/conventions/fulllist/-/conventions/treaty/108?module=treaty-detail&treatynum=108) CoBeTa EBponbi «PyKOBOflCTBO no 3aiụnTe nepcoHa/ibHbix flaHHbix npn Mcn0Jib30Bamm MCKyccTBeHHoro MHTe7i7ieKTa» (Guidelines on artificial intelligence and data protection tại: https://rm.coe.int/guidelines-on-artificial-intelligence-and-dataprotection/168091 f9d8) -n 1u NGHIÊN CỨU , LẬP PHÁPSo 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT - Các ứng dụng TTNT trường hợp phải tôn trọng đầy đủ quyền chủ thể liệu; hưởng đến quan điểm phát triển riêng - Các ứng dụng TTNT phải cho phép chủ thể liệu kiểm sốt cách có ý thức q trình xử lý liệu tác động có liên quan đến cá nhân xã hội; trí tuệ nhân tạo - Ở tất giai đoạn xử lý liệu, bao gồm thu thập liệu, nhà phát triển, nhà sản xuất nhà cung cấp dịch vụ TTNTI nên áp dụng phưong pháp tiếp cận theo thiết kể nhân quyền (human rights by­ design) tránh thành kiến tiềm ẩn (bao gồm vơ tình khơng rõ ràng), nguy phân biệt đối xử hậu tiêu cực khác quyền người quyền tự chủ thể liệu;20 - Tất sản phẩm dịch vụ dựa ứng dụng TTNT phải thiết kế theo cách đảm bảo quyền cá nhân để đảm bảo định có ảnh hưởng quan trọng đến họ khơng dựa xử lý liệu tự động mà khơng tính đến ý kiến họ; - Các chủ thể liệu phải thông báo họ tương tác với ứng dụng TTNT Họ nên có quyền nhận thông tin logic đằng sau hoạt động xử lý liệu có ứng dụng TTNT liên quan đến lợi ích họ; - Phải đảm bảo quyền phản đối việc xử lý liệu dựa công nghệ ảnh cá nhân Quyền sở hữu trí tuệ ứng dụng TTNT ngày trở thành động lực thúc đẩy tiến cơng nghệ kinh doanh Nó sử dụng rộng rãi nhiều ngành cơng nghiệp có tác động đến hầu hết khía cạnh hoạt động sáng tạo Sự phát triển TTNT thúc đẩy sẵn có lượng lớn liệu gia tăng khả tính tốn sẵn có Do vậy, TTNT có nhiều điểm giao thoa tác động tới lĩnh vực sở hữu trí tuệ (SHTT) Cịn sớm để nói vấn đề cụ thể, rõ ràng rằng, TTNT có tác động tới lĩnh vực truyền thống sở hữu trí tuệ Nen kinh tế số nói chung TTNT nói riêng sớm tạo tác phẩm âm nhạc thương mại sáng chế, làm thay đổi khái niệm niệm truyền thống “nhà soạn nhạc”, “tác giả”, “nhà sáng chế” TTNT quan hệ pháp lý liên quan phát triển TTNT tương quan với hệ thống bảo hộ quyền SHTT ngày trở thành vấn đề cấp bách cần xem xét điều chỉnh Mục tiêu tảng hệ thống SHTT ln khuyến khích việc tạo cơng nghệ mới, cơng trình sáng tạo tạo sở kinh tế bền vừng cho 20 Có thể lấy ví dụ vấn đề nghiên cứu Tạp chí ProPulica, phân tích kết từ ứng dụng TTNT sử dụng để hỗ trợ việc cho phép bảo lãnh bị cá định mức án tòa án Hoa Kỳ ứng dụng có nhiệm vụ đánh giá khả tái phạm bị cáo Nghiên cứu ProPulica cho răng, bị cáo người da đen bị đánh giá có rủi ro tái phạm cao gấp đơi so với người da trắng Nhà phát triển ứng dụng khơng đồng tình với kêt luận nêu trên, từ chịi cung câp tiêu chí thuật tốn xác định khả tái phạm bị cáo Như vậy, công chủng giới nghiên cứu biết thực thuật tốn ứng dụng TTNT có thiên vị hay không Như vậy, trường hợp AI có thê khơng khách quan, nêu liệu đầu vào có thiên vị Việc sử dụng liệu cá nhân trường họp trái với ngun tắc cơng bàng Xem: Lê Lương Minh, Trí tuệ nhãn tạo quyền riêng tư, Sách tham khảo “Trí tuệ nhân tạo với pháp luật quyền người”; Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng, Khoa Luật, Đại học Quốc gia Hà Nội, Nxb Tư pháp, 2019, tr 377 - ỵ NGHIÊN CỨU Số 22(446)-T11/202l LÀP PHÁP NHÀ NƯỚC VÀ PHÁP LUẬT sáng tạo Từ quan điểm kinh tế đon thuần, mục tiêu khác hệ thống SHTT bảo đảm “phần thưởng xứng đáng” bảo vệ quyền nhân thân khơng có lý để khơng sử dụng SHTT nhằm khun khích cơng trình sáng tạo TTNT tạo lập Tuy nhiên, thời điểm nay, chế phương thức thực mục tiêu hồn tồn chưa rõ ràng TTNT cơng nghệ hiểu theo cách khác nhau, điểm mấu chốt với pháp luật SHTT chồ, kết việc sử dụng phức hợp giải pháp công nghệ cho phép bắt chước nhận thức người, thu nhận kết tương đương với kết hoạt động trí tuệ người Từ dẫn đến câu hỏi liệu sản phẩm tạo từ TTNT - kết trình tự phân tích đưa định độc lập TTNT - có bảo hộ quyền SHTT hay khơng? Và bảo hộ chủ thể nắm giữ quyền SHTT Pháp luật SHTT hành công nhận quyền tác giả tác phẩm tạo thành từ công sức lao động sáng tạo cá nhân người Quyền tác giả tác phẩm liên quan trực tiếp đến vấn đề tính nguyên gốc chúng - đặc điểm pháp luật bảo hộ Nền tảng pháp luật bảo hộ quyền tác giả truyền thống tiếp cận theo hướng bảo hộ tác phẩm mà tính ngun chúng phản ánh hoạt động sáng tạo trí tuệ tác giả TTNT hoạt động theo thuật toán thường xuyên tạo tác phẩm trình xử lý phân tích tác phẩm có, trường hợp này, để tác phẩm bảo hộ cần thiết phải đưa tiêu chí để xác định - — 1í NGHIÊN CVU í LẬP PHÁPSố 22(446) - T11/2021 tính chất nguyên gốc tác phẩm hình thành Do vậy, vấn đề quan trọng việc công nhận quyền tác giả cho đối tượng tạo TTNT tác giả tính ngun gốc tác phẩm Có xu hướng giải vấn đề sau: - Tác giả người tạo nên TTNT; - Tác giả người sử dụng TTNT; - Tác giả trực tiếp TTNT Trong đó, hai xu hướng đầu những xu hướng phổ biến nhất, lại khơng hồn tồn tương ứng với đặc điểm tác phẩm đối tượng SHTT - diện hoạt động sáng tạo trí tuệ người Kết hoạt động trí tuệ sáng tạo nhà phát triển TTNT TTNT dạng chương trình máy tính mã nguồn Các sản phẩm TTNT tạo thường không bị ảnh hưởng từ phía người tạo TTNT sản phẩm TTNT tạo cách thực thuật tốn định Do vậy, việc cơng nhận người phát triển TTNT tác giả không phù hợp với pháp luật hành Tiếp theo, việc coi người sử dụng TTNT tác giả khơng tương thích với ngun tắc quyền SHTT Thông thường, tất hành động người dùng liên quan đến trình tạo tác phẩm TTNT bao gồm việc khởi động chương trình máy tính thích hợp tải thơng tin, tài liệu thiết lập cài đặt cần thiết để tạo kết cuối Những hành động khó coi hoạt động có tính sáng tạo Cho đến nay, chưa có quốc gia công nhận TTNT trực tiếp tác giả tác phẩm Điều liên quan trực tiếp NHÀ NƯỚC VÀ PHÁP LUẬT đến vấn đề có cơng nhận “cá nhân điện tử” (như đề cập nội dung trên) chủ thể quan hệ pháp luật hay không Tuy nhiên, việc áp dụng xu hướng liên quan đến việc giải hàng loạt khía cạnh pháp lý khác bảo hộ quyền SHTT đối tượng “cá nhân điện từ” - TTNT tạo nên: chế thực thi quyền nhân thân tài sản; thời hạn bảo hộ; giải tranh chấp; Ngoài ra, việc ứng dụng cơng nghệ TTNT có tác động khơng tới hoạt động SHTT, hệ thống pháp luật sách SHTT mà cịn tới hệ thống hành SHTT tồn giới Trong năm gần đây, Tổ chức SHTT giới (WIPO) nỗ lực nghiên cứu thảo luận vấn đề câu hỏi liên quan đến việc sử dụng công nghệ hệ thống TTNT để quản lý quy trình hành sách sở hữu trí tuệ Tóm lại, trí tuệ nhân tạo bước tiến công nghệ kỹ thuật số có tác động sâu sắc đến giới Nó mang lại tác động to lớn công nghệ, kinh tế xã hội, đồng thời thay đổi cách sản xuất tiêu thụ hàng hóa, dịch vụ thực thay đổi cách sống giới loài người Nói cách khác, việc xem xét áp dụng trí tuệ nhân tạo không đơn khuôn khổ lĩnh vực mà cần phải nhìn nhận phạm vi tương đối bao quát, có lĩnh vực pháp luật Có thể đưa số tiêu chí để nhận diện hệ thống pháp luật hồn thiện nhằm điều chỉnh hồ trợ cho lĩnh vực TTNT: có đạo luật chuyên ngành điều chỉnh quan hệ phát triển sử dụng công nghệ robot; có hệ thống quan nhà nước chịu trách nhiệm lĩnh vực cơng nghệ robot; có chương trình quốc gia phát triển ngành công nghiệp robot có khung pháp pháp lý thí điểm cho việc thử nghiệm công nghệ robot Hiện nay, số quốc gia phát triển lĩnh vực công nghệ chưa phải đáp ứng đầy đủ yếu tố nêu Tuy nhiên, kinh nghiệm nêu quốc gia phát triển coi hình mầu quan trọng cho hoạt động lập pháp TTNT quốc gia, có Việt Nam ■ Tài liệu tham khảo Tiếng Việt Nguyễn Thị Quế Anh, Nhận diện thay đôi pháp luật bôi cảnh công nghệ sổ Kỷ yếu Hội thảo quốc tế “Luật học trước biến đổi thời đại”, tổ chức Khoa Luật - ĐHQGHN, tháng 8/2019, tập 2 Nguyễn Thị Quế Anh Bào vệ liệu cá nhân kỷ nguyên số - Kinh nghiệm Châu Ầu Kỷ yếu Hội thảo quốc tế “Hoàn thiện pháp luật tư bối cảnh kỷ nguyên số - kinh nghiệm từ Đức Việt Nam”, Hà Nội, 3.2019 Báo Nhân dân (2017), Facebook xóa số trí tuệ nhân tạo có khả tự sảng tạo ngôn ngữ mới, http://nhandan.com.vn/ congnghe/item/33622102-facebook-xoaso-tri-tue-nhan-tao-co-kha-nang-tu-sangtao-ra-ngon-ngu-moi.html, truy cập ngày 15/8/2021 Lưu Minh Sang, Trần Đức Thành Trí tuệ nhân tạo thách thức pháp lý Nguồn: Tạp chí Khoa học cơng nghệ Việt Nam https://vjst.vn/vn/tin-tuc/3303/tritue-nhan-tao-va-nhung-thach-thuc-phap-ly aspx (truy cập 08/7/2021) ỵ NGHIÊN CỨU ft Số 22(446) -T11/202l\ LẬP PHÁP NHÀ NƯỚC VÀ PHÁP LUẬT Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư Bài viết sách tham khảo “Trí tuệ nhân tạo với pháp luật quyền người” Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng Khoa Luật, ĐHQGHN NXB Tư pháp, 2019 VNReview(2017), Facebook khơng hoảng sợ tắt chưomg trình AI tự tạo ngôn ngừ tin đồn, http://vnreview vn/tin-tuc-khoa-hoc-cong-nghe/-/view_ content/content/2232722/facebook-dakhong-hoang-so-va-tat-ai-tu-tao-ra-ngonngu-nhu-tin-don, truy cập ngày 15/8/2021 Tiếng Anh European Parliament, Resolution 2015/2103 (INL), https://www europarl.europa.eu/doceo/document/TA-82017-0051_EN.pdf, (truy cập 20/8/2021) Federal Ministry of Education and Research of Germany (2021) The high-tech strategy 2025 The Federal Government, tại: https://www.bmbf.de/upload_filestore/pub/ Research_and_innovation_that_benefit_ the_people.pdf Federal Ministry for Economic Affairs and Energy of Germany (2019) Making space for innovation The handbook for regulatory sandboxes The Federal Government https://www.bmwi.de/ Redaktion/EN/Publikationen/DigitaleWelt/handbook-regulatory-sandboxes, pdf? blob=publicationFile&v=2, (truy cập 20/8/2021) Tiếng Nga 10 HopMbi rpa»caaHCKoro npaBao poốOTOTexHHKe Pe3OJnonna EsponapnaMeHTa OT 16 ộeBpana 2017 rozia Xem: http://robopravo.ru/riezoliutsiia_ies (truy cập: 22/8/2021) - NGHIÊN CỨU ị 14 LẬP PHÁP số 22(446)-T11/2021 11 HccjieaoBaTejibCKiiH ưeHTp npofijieM peryjmpoBaHHH pofioTOTexHHKH (2017) BocbMoũ 3OKOH o GHeceHuu U3MeHeHuủ 3aKOH o dopotNCHOM òeuotceHuu om 16 UK)HH 2017 e, tại: https://robopravo.ru/initsiativy_ frantsii_v_sfierie_robototiekhniki_2013_2 12 FlHTepBbio c EeHOM JIopHKOỈí, BC/iymwM cnennaJiHCTOM no paỗOTe c ^aHHbiMH KOMnaHHH O’Reilly Media B3anMOCBS3b MeaựỊy 3aujHTOH nepconajibHbix aaHHbix, oõyưeHneM MamMH H HCKyCCTBCHHblM HHTemieKTOM Nguồn: https://www.wipo.int/tech_trends/ ru/artificial_intelligence/ask_the_experts/ techtrends_ai_lorica.html (truy cập 28/8/2021) 13 JfnpeKTHBa CoBera OT 25 mo™ 1985 r o cfijncKeHHM 33KOHOB, pernaMeHTOB n qUMHHHCTpaTMBHbix nonoaceHHỈí rocyaapcTBHJieHOB, npnMCHMeMbix K OTBeTCTBeHHOCTH 3a HencnpaBHyro npoayKimio (85/374/ E3C) Xem: https://eulaw.edu.ru/spisokdokumentov-po-pravu-evropejskogosoyuza/dokumenty-o-pravah-cheloveka-igrazhdanina/normativnye-akty-o-svobodeperedvizheniya-tovarov-lits-i-uslug/ direktiva-soveta-ot-25-iyulya-l 985-go-sblizhenii-zakonov-reglamentov-iadministrativnyh-polozhenij-gosudarstvchlenov-primenyaemyh-k-otvetstvennostiza-neispravnuyu-produktsiyu-85-374-eesperevod/ (truy cập 18/8/2021) 14 KoHCynbTaTHBHblỉí KOMHTeT "KoHBeHUMM o 3auỉHTe HacTHbix Jinn B OTHOmeHMM aBTOMaTH3npOBaHHÍ õpãoTKH aaHHbix JIHHHOFO xapaicrepa" (ETS No 108 tại: https://www.coe int/en/web/conventions/full-list/-/ conventions/treaty/108?module=treatydetail&treatynum= 108) ... ỵ NGHIÊN CỨU ft Số 22(446) -T11/202l LẬP PHÁP NHÀ NƯỚC VÀ PHÁP LUẬT Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư Bài viết sách tham khảo ? ?Trí tuệ nhân tạo với pháp luật quyền người” Chủ... cách sống giới lồi người Nói cách khác, việc xem xét áp dụng trí tuệ nhân tạo không đơn khuôn khổ lĩnh vực mà cần phải nhìn nhận phạm vi tư? ?ng đối bao quát, có lĩnh vực pháp luật Có thể đưa số. .. quan hệ liên quan đến phát triển ứng dụng TTNT Vấn đề an toàn trách nhiệm pháp lý ứng dụng trí tuệ nhân tạo An tồn trách nhiệm pháp lý vấn đề cốt lõi hàng đầu ứng dụng TTNT vấn đề trở nên đặc biệt