Một số khía cạnh pháp lý trong lĩnh vực luật tư khi ứng dụng trí tuệ nhân tạo

Trong phạm vi bài viết này, tác giả chỉ ra một số khoảng trống còn tồn tại trong điều chỉnh pháp lý, đặc biệt là lĩnh vực luật tư, đối với hiện tượng mới này, như sự tụt hậu của các lý thuyết pháp lý truyền thống so với các tiến bộ của khoa học kỹ thuật, thiếu các quy định của pháp luật trong tương tác giữa con người với trí tuệ nhân tạo, các vấn đề về tư cách pháp lý của trí tuệ nhân tạo, đạo đức và an ninh, dữ liệu cá nhân, các quyền sở hữu trí tuệ, trách nhiệm pháp lý và vấn đề bất khả xâm phạm đối với đời sống cá nhân.

NHÀ NƯỚC VÀ PHÁP LUẬT MỘT SỐ KHÍA CẠNH PHÁP LÝ TRONG LĨNH VỰC LUẬT TƯ KHI ỨNG DỤNG TRÍ TUỆ NHÂN TẠO PGS TS Nguyễn Thị Quế Anh* *Khoa Luật, Đại học Quốc gia Hà Nội Thông tin viết: Từ khóa: Trí tuệ nhân tạo; luật tư; liệu cá nhân; trách nhiệm pháp lý, quyền sở hữu trí tuệ Lịch sử viết: Nhận Biên tập Duyệt : 10/10/2021 : 05/11/2021 : 08/11/2021 Article Infomation: Keywords: Artificial intelligence; private law; personal data; liability, intellectual property rights Article History: Received Edited Approved : 10 Otc 2021 : 05 Nov 2021 : 08 Nov 2021 Tóm tắt: Trí tuệ nhân tạo bước tiến cơng nghệ kỹ thuật số có tác động sâu sắc đến giới Trí tuệ nhân tạo mang lại tác động to lớn công nghệ, kinh tế xã hội, đồng thời thay đổi cách sản xuất tiêu thụ hàng hóa, dịch vụ thực thay đổi cách sống giới lồi người Nói cách khác, việc xem xét ứng dụng trí tuệ nhân tạo không đơn khuôn khổ lĩnh vực mà cần phải nhìn nhận phạm vi tương đối bao quát, có lĩnh vực pháp luật Trong phạm vi viết này, tác giả số khoảng trống tồn điều chỉnh pháp lý, đặc biệt lĩnh vực luật tư, tượng này, tụt hậu lý thuyết pháp lý truyền thống so với tiến khoa học kỹ thuật, thiếu quy định pháp luật tương tác người với trí tuệ nhân tạo, vấn đề tư cách pháp lý trí tuệ nhân tạo, đạo đức an ninh, liệu cá nhân, quyền sở hữu trí tuệ, trách nhiệm pháp lý vấn đề bất khả xâm phạm đời sống cá nhân Abstract: Artificial intelligence is the next step of digital technology and shall provide a profound worldwide impacts Artificial intelligence will particularly provide enormous technological, economic and social impacts, and will change the way we produce and consume goods and services, and indeed it will change the way we live In other words, considering the application of artificial intelligence is not only within the framework of one field but needs to be viewed on a relatively broad scale, including the legal field Within the scope of this article, the author provides discussions of the existing gaps in legal regulations, especially in the field of private law, for this new phenomenon, such as the lagging behind of traditional legal theories compared with advances in science and technology, lack of legal provisions in human interaction with artificial intelligence, issues of legal status of artificial intelligence, ethics and security, personal data, intellectual property rights, liability and inviolability to personal life Địa vị pháp lý trí tuệ nhân tạo Sự tham gia ngày phổ biến công nghệ lĩnh vực đời sống người đặt toán mối quan hệ chúng với người tự nhiên Thông tin đến cho thấy, cơng nghệ hồn tồn thay người việc “tư duy” “quyết định hành động” (như trí tuệ nhân tạo - TTNT) Điều có nghĩa người đứng trước mối quan hệ pháp lý hoàn toàn khác so với thực thể pháp lý gặp pháp nhân, chí giao dịch điện tử (hợp đồng điện tử, chữ ký điện tử,…) Bởi vì, Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT nay, dù có tư cách pháp lý riêng pháp nhân hay hình thức giao dịch điện tử phải thực thơng qua hành vi người Trong đó, xuất trí tuệ nhân tạo khơng cần tới, chí, khơng thể bị điều khiển ý chí người Minh chứng điển hình hồi cuối tháng 7/2017, hai chương trình trí tuệ nhân tạo kỹ sư Facebook phát triển tự tạo ngôn ngữ riêng để liên lạc với mà không kỹ sư hiểu nội dung giao tiếp đó1, sau nhà nghiên cứu nói “có thể hiểu kết hội thoại”2 Liên minh Châu Âu trọng phát triển lĩnh vực TTNT Năm 2012, Ủy ban Châu Âu khởi xướng dự án Robolaw3 nhằm hệ thống hóa phân tích biện pháp quản lý có lĩnh vực robot Các nhà nghiên cứu khuôn khổ dự án đề cập đến vấn đề thuật ngữ, quy phạm pháp luật đạo đức Kết hoạt động góp phần tạo sở cho Nghị viện Châu Âu ban hành Nghị số 2015/2103 ngày 16/02/2017 “Bộ quy tắc quyền dân robot” (Nghị số 2015/2103)4 Nghị bao gồm hướng dẫn cách tiếp cận để xác định thuật ngữ robot, xác định nội dung vấn đề quan trọng khác lĩnh vực này, kiến nghị thành lập Cơ quan Châu Âu kỹ thuật robot TTNT, giới thiệu địa vị “nhân cách điện tử” robot5 Mặc dù tất sáng kiến nêu triển khai thực tế, khẳng định rằng, Nghị số 2015/2103 xem điển hình dạng luật “mềm” nhiều điều khoản tiếp tục xem xét đến tương lai Những động thái nêu cho thấy, xu hướng mở rộng phạm vi chủ thể quyền thay dành cho chủ thể truyền thống cá nhân người Xu hướng đặt số câu hỏi như: Có hay khơng việc phân biệt địa vị pháp lý người với người máy tương tự tồn chủ nơ nơ lệ trước đây? Pháp luật có cách thức để dung hòa khác biệt nhu cầu người với thực thể mang trí tuệ nhân tạo? Liệu có khả trí tuệ nhân tạo trở thành thành viên hội đồng xét xử tòa án với tư cách “bồi thẩm đoàn”? Ngoài ra, nghĩa vụ pháp lý người máy thách thức đặt lập pháp bối cảnh Rõ ràng, truy cứu robot trách nhiệm pháp lý giống pháp nhân xảy thiệt hại Bởi lẽ, xét đến cùng, trách nhiệm pháp nhân Báo Nhân dân (2017), Facebook xóa sổ trí tuệ nhân tạo có khả tự sáng tạo ngôn ngữ mới, http:// nhandan.com.vn/congnghe/item/33622102-facebook-xoa-so-tri-tue-nhan-tao-co-kha-nang-tu-sang-tao-rangon-ngu-moi.html, truy cập ngày 15/8/2021 VNReview(2017), Facebook không hoảng sợ tắt chương trình AI tự tạo ngơn ngữ tin đồn, http://vnreview.vn/tin-tuc-khoa-hoc-cong-nghe/-/view_content/content/2232722/facebook-da-khong-hoangso-va-tat-ai-tu-tao-ra-ngon-ngu-nhu-tin-don, truy cập ngày 15/8/2021 Xem thông tin kết Dự án tại: http://www.robolaw.eu/, truy cập 22/9/2021 Xem Nghị tại: Resolution 2015/2103 (INL) of the European Parliament of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, https://www.europarl.europa.eu/doceo/ document/TA-8-2017-0051_EN.pdf, truy cập 20/8/2021 Xem: Resolution 2015/2103 (INL) of the European Parliament of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, https://www.europarl.europa.eu/doceo/document/TA-82017-0051_EN.pdf, truy cập 20/8/2021 Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT phải thực thi người đại diện cho pháp nhân đó, cịn người máy khơng cần đến người đại diện Tại Việt Nam, Chiến lược Quốc gia nghiên cứu, phát triển ứng dụng TTNT đến năm 2030 xác định TTNT lĩnh vực công nghệ tảng cách mạng cơng nghiệp lần thứ tư, góp phần quan trọng tạo bước phát triển đột phá lực sản xuất, nâng cao lực cạnh tranh quốc gia, thúc đẩy phát triển kinh tế tăng trưởng bền vững Tuy nhiên, Việt Nam chưa quan tâm mức đến việc xây dựng khung pháp lý điều chỉnh quan hệ phát sinh Hệ thống pháp luật Việt Nam điều chỉnh quan hệ xã hội truyền thống liên quan đến thể nhân, pháp nhân, tổ chức khơng có tư cách pháp nhân Khơng gian pháp lý dành cho quan hệ pháp luật có tham gia cơng nghệ cịn hạn hẹp6 Do vậy, để theo kịp với nhu cầu thực tế phát triển, sở kinh nghiệm lập pháp quốc gia phát triển, Việt Nam cần nghiên cứu xây dựng khung pháp lý phù hợp nhằm điều chỉnh quan hệ liên quan đến phát triển ứng dụng TTNT Vấn đề an toàn trách nhiệm pháp lý ứng dụng trí tuệ nhân tạo An toàn trách nhiệm pháp lý vấn đề cốt lõi hàng đầu ứng dụng TTNT Vấn đề trở nên đặc biệt quan trọng trường hợp liên quan đến việc ứng dụng tích cực phương tiện giao thông không người lái (phương tiện tự hành) Cho đến nay, vấn đề trách nhiệm pháp lý TTNT thiệt hại gây cho sức khỏe, tính mạng người chưa có cách giải thống Những trường hợp phương tiện tự hành gây tai nạn cho người loạt quốc gia làm dấy lên thảo luận nhu cầu điều chỉnh vấn đề trách nhiệm TTNT Trong Nghị số 2015/2103, khái niệm “cá nhân kỹ thuật số” xuất với vấn đề trách nhiệm hành vi robot (chủ sở hữu robot, người sử dụng robot hay người tạo robot) vấn đề bảo hiểm cho trách nhiệm Nghị số 2015/2103 nhấn mạnh tới số đặc tính robot thơng minh như: khả chủ động sử dụng cảm biến trao đổi liệu mơi trường (tương thích); khả trao đổi liệu phân tích chúng; khả tự học hỏi sở kinh nghiệm tương tác; diện tối thiểu hỗ trợ vật lý; khả thích ứng hành vi phù hợp với mơi trường7 Trên sở đó, Nghị đưa lưu ý vấn đề trách nhiệm hoạt động robot thông minh: Thứ nhất, nhờ có phát triển chức cụ thể cho phép robot thông minh hoạt động tự chủ (tự động), thực trình tự nhận thức, đưa định độc lập, robot ngày trở nên giống với tác nhân tương tác với môi trường đem lại thay đổi đáng kể cho mơi trường Trong bối cảnh vậy, vấn đề quan trọng đặt trách nhiệm thiệt hại robort gây hoạt động Thứ hai, tự chủ robot tự động định nghĩa khả đưa Xem: Lưu Minh Sang, Trần Đức Thành, Trí tuệ nhân tạo thách thức pháp lý, https://vjst.vn/vn/ tin-tuc/3303/tri-tue-nhan-tao-va-nhung-thach-thuc-phap-ly.aspx, truy cập 08/7/2021 Нормы гражданского права о робототехнике Резолюция Европарламента от 16 февраля 2017 года Xem: http://robopravo.ru/riezoliutsiia_ies, truy cập ngày 22/8/2021 Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT định thực cách độc lập, khơng cần có kiểm sốt hay tác động từ bên ngồi Quyền tự chủ robot hồn tồn có tính chất kỹ thuật mức độ tự chủ hoàn toàn phụ thuộc mức độ lập trình cho robot tương tác với mơi trường nhà sản xuất Thứ ba, mức độ tự chủ robot cao khả coi robot công cụ tay người thứ ba (nhà sản xuất, người điều hành, chủ sở hữu, người sử dụng, …) giảm Vậy, có nên phát triển nguyên tắc quy tắc nhằm làm rõ trách nhiệm bên thứ ba với hành vi robot, đặc biệt với trường hợp mà không làm rõ mối quan hệ nhân hậu thiệt hại với hành vi cá nhân cụ thể; tránh hành động (hoặc không hành động) robot dẫn đến thiệt hại hay không Thứ tư, thân robot khơng thể tự chịu trách nhiệm thiệt hại mà chúng gây cho bên thứ ba Các quy định hành cho phép xem xét trách nhiệm trường hợp hành vi robot nằm mối quan hệ nhân với hành vi cá nhân cụ thể (nhà sản xuất, người điều hành, chủ sở hữu người sử dụng), không phụ thuộc vào yếu tố lỗi, hành vi robot Thứ năm, thiệt hại hành vi robot gây cịn áp dụng quy định về: 1) Trách nhiệm chất lượng an tồn hàng hóa, theo nhà sản xuất chịu trách nhiệm trục trặc hàng hóa; 2) Trách nhiệm hành vi gây thiệt hại mà người sử dụng sản phẩm phải chịu trách nhiệm trường hợp có hành vi dẫn tới thiệt hại Thứ sáu, quy chuẩn hành trách nhiệm pháp lý không đủ trường hợp thiệt hại gây hoàn toàn định mà robot đưa cách độc lập Trong trường hợp này, xác định chủ thể chịu trách nhiệm thiệt hại xảy Những thiếu khuyết chế điều chỉnh pháp lý hành thể rõ lĩnh vực trách nhiệm theo hợp đồng Nếu máy móc thiết kế để thân chúng tự lựa chọn đối tác, thỏa thuận điều khoản hợp đồng, ký kết định thực thỏa thuận rõ ràng ngun tắc thơng thường khơng áp dụng với chúng Điều có nghĩa là, cần phải tạo lập nguyên tắc mới, hiệu quả, đại, tính đến phát triển công nghệ đổi Ngay nguyên tắc bồi thường thiệt hại hợp đồng sản phẩm khuyết tật quy định pháp luật Liên minh Châu Âu áp dụng trường hợp thiệt hại bị xảy nguyên nhân có khiếm khuyết sản xuất với điều kiện bên bị gây thiệt hại phải chứng minh kiện gây thiệt hại, tồn khiếm khuyết sản xuất mối liên hệ nhân chúng với nhau8 Chưa kể robot hệ có khả tự hồn thiện thích nghi với môi trường, Xem: Chỉ thị số 85/374/EEC ban hành ngày 25.7.1985 Liên minh Châu Âu- Директива Совета от 25 июля 1985 г о сближении законов, регламентов и административных положений государствчленов, применяемых к ответственности за неисправную продукцию (85/374/ЕЭС). Xem: https://eulaw edu.ru/spisok-dokumentov-po-pravu-evropejskogo-soyuza/dokumenty-o-pravah-cheloveka-i-grazhdanina/ normativnye-akty-o-svobode-peredvizheniya-tovarov-lits-i-uslug/direktiva-soveta-ot-25-iyulya-1985-go-sblizhenii-zakonov-reglamentov-i-administrativnyh-polozhenij-gosudarstv-chlenov-primenyaemyh-kotvetstvennosti-za-neispravnuyu-produktsiyu-85-374-ees-perevod/, truy cập 18/8/2021 Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT hành vi tương tác chúng với mơi trường xung quanh hồn tồn ngồi dự liệu người, Như vậy, việc áp dụng nguyên tắc hành trách nhiệm chủ quan trách nhiệm khách quan (trách nhiệm khơng có yếu tố lỗi) khơng thể đáp ứng với vấn đề đặt ra9 Cộng hịa liên bang Đức quốc gia có nhiều kinh nghiệm lập pháp thực tiễn lĩnh vực Đức không quốc gia đầu lĩnh vực chế tạo robot với tư cách độc lập, mà thành viên Liên minh Châu Âu - hiệp hội có tính hội nhập cao đóng vai trị quan trọng thị trường robot toàn cầu Ở Đức, việc mở rộng sử dụng TTNT nhìn nhận bối cảnh rộng hơn, không bối cảnh ngành riêng biệt, mà phần đổi chung kinh tế, hình thành mơ hình kinh tế Từ năm 2011, Đức xây dựng triển khai Chương trình cơng nghiệp 4.0 (một phần Chiến lược Công nghệ cao quốc gia 2020), với mục đích tái cấu triệt để ngành sản xuất sử dụng Internet of Things, robot, TTNT, mạng truyền thông hệ công nghệ đại khác Chương trình cho đời khái niệm Cách mạng cơng nghiệp 4.0, chuyển đổi có tính hệ thống kinh tế giới dựa việc sử dụng bổ sung công nghệ kỹ thuật số đầu cuối Đặc biệt, nhà kinh tế học người Đức, Chủ tịch Diễn đàn Kinh tế giới Davos, Klaus Schwab, có đóng góp đáng kể vào việc phát triển phổ biến khái niệm Hiện nay, Đức thông qua Chiến lược công nghệ cao quốc gia đến năm 2025 (The High-Tech Strategy 2025), thể trọng đặc biệt phát triển TTNT10 Đức quốc gia thông qua Luật Giao thông đường sửa đổi để điều chỉnh việc sử dụng phương tiện tự động hóa cao, có quy định khoản tiền đền bù cho thiệt hại gây trường hợp sử dụng phương tiện đó11 Bên cạnh đó, giống quốc gia hàng đầu lĩnh vực TTNT, Đức áp dụng “regulatory sandbox” - “khung pháp lý thí điểm” để điều chỉnh số hoạt động có liên quan đến TTNT Ví dụ, vào năm 2017 Hamburg, dịch vụ giao hàng Hermes thử nghiệm robot giao hàng tự động có giấy phép cá nhân để miễn tuân thủ quy định đăng ký, cấp phép phương tiện giao thông tiện quy định giao thơng hành12 Như vậy, ngồi phương án xem xét trách nhiệm pháp lý mang tính chất truyền thống (trách nhiệm sản phẩm, trách nhiệm Nguyễn Thị Quế Anh, Nhận diện thay đổi pháp luật bối cảnh công nghệ số Kỷ yếu Hội thảo quốc tế “Luật học trước biến đổi thời đại”, tổ chức Khoa Luật – Đại học Quốc gia Hà Nội, tháng 8/2019, tập 2, tr.125-126 10 Xem: Federal Ministry of Education and Research of Germany (2021). The high-tech strategy 2025 The Federal Government, https://www.bmbf.de/upload_filestore/pub/Research_and_innovation_that_benefit_ the_people.pdf 11 Xem:  Исследовательский центр проблем регулирования робототехники (2017). Восьмой закон о внесении изменений в Закон о дорожном движении от 16 июня 2017 г,  https://robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013_2 12 Xem: Federal Ministry for Economic Affairs and Energy of Germany (2019). Making space for innovation The handbook for regulatory sandboxes The Federal Government, https://www.bmwi.de/Redaktion/EN/Publikationen/ Digitale-Welt/handbook-regulatory-sandboxes.pdf? blob=publicationFile&v=2, truy cập ngày 20/8/2021 Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT bồi thường thiệt hại hợp đồng) chủ thể thông thường nhà sản xuất hay chủ sở hữu robot, có đề xuất rằng, máy móc tiên tiến phải có tư cách chủ thể đặc biệt thực thể điện tử Nghị số 2015/2103 đề cập tới việc, tính chất tự động robot cao cần xem xét dạng công cụ đặc biệt Từ đặt câu hỏi: TTNT tự chịu trách nhiệm cho “tác vi” (hành động) “bất tác vi” (khơng hành động) hay khơng? Nghị số 2015/2103 đưa quy định việc thiết lập hệ thống bảo hiểm bắt buộc robot chủ sở hữu nhà sản xuất chúng (tương tự như bảo hiểm trách nhiệm dân người chủ sở hữu ô tô trường hợp xảy tai nạn) Khi thiệt hại gây khơng bảo hiểm chi trả tiền bồi thường trả từ quỹ bồi thường đặc biệt Hiện nay, Việt Nam, pháp luật chưa xem xét vấn đề bồi thường thiệt hại ứng dụng TTNT loại trách nhiệm đặc biệt Vấn đề bồi thường thiệt hại TTNT gây áp dụng sở nguyên tắc chung bồi thường thiệt hại hợp đồng quy định trách nhiệm sản phẩm pháp luật bảo vệ quyền lợi người tiêu dùng Bảo vệ liệu cá nhân ứng dụng trí tuệ nhân tạo Chúng ta sống thời đại mà quyền riêng tư trở thành mối quan tâm trung tâm người dùng quan quản lý Người dùng đòi hỏi minh bạch kiểm soát cao việc thu thập, lưu trữ, sử dụng liệu trao đổi liệu, đặc biệt liệu cá nhân Thành phần TTNT liệu, số lượng lớn liệu cho phép hệ thống “học máy” (machine learning) tự phát triển đưa định cách độc lập Dữ liệu dạng nguyên liệu đầu vào TTNT, cho phép TTNT học cách tư người, chép hành vi ứng xử người, tư giải pháp để giải vấn đề từ đưa định với độ tính tốn xác, thơng minh người lợi xử lý kỹ thuật công nghệ vốn có Trong thời đại trí tuệ nhân tạo, liệu, đặc biệt liệu cá nhân thực trở thành loại “hàng hóa” có giá trị kinh tế Dữ liệu cá nhân giúp cho TTNT học cách tư người, cho kết cao tư người13 Do vậy, việc ứng dụng TTNT có liên quan mật thiết đến bảo hộ liệu, đặc biệt liệu cá nhân Với phát triển công nghệ thông tin phần cấu thành thiếu TTNT, vấn đề bảo vệ liệu cá nhân ngày nhận quan tâm đặc biệt lý liệu cá nhân bị tiết lộ thơng qua định đưa TTNT Ở hầu hết quốc gia, quyền bảo vệ liệu cá nhân coi quyền cá nhân Châu Âu xem hình mẫu việc bảo hộ liệu cá nhân Ngày 27/4/2016, Liên minh Châu Âu thông qua Chỉ thị số 2016/679 bảo vệ cá nhân liên quan đến xử lý tự lưu chuyển liệu cá nhân (hay gọi Quy định bảo vệ 13 Xem: Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư Bài viết sách tham khảo “Trí tuệ nhân tạo với pháp luật quyền người” Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng Khoa Luật, Đại học Quốc gia Hà Nội, Nxb Tư pháp, 2019, tr 368 Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT liệu chung (General Data Protection Regulation - GDPR), thức có hiệu lực từ 25/5/201814 Dữ liệu cá nhân thơng tin liên quan đến việc xác định nhận dạng cá nhân (chủ thể liệu) mà theo xác định trực tiếp gián tiếp chủ thể Những thông tin bao gồm tên, thơng tin vị trí, số nhận dạng trực tuyến, nhiều yếu tố cụ thể danh tính, định dạng vật lý, sinh lý, di truyền, tinh thần, kinh tế, văn hóa xã hội cá nhân15 Định nghĩa rộng bao hàm khẳng định rõ ràng địa IP coi liệu cá nhân Một số dạng liệu cá nhân thuộc loại đặc biệt bí mật Đó thơng tin liên quan đến nguồn gốc chủng tộc sắc tộc, kiến trị, tín ngưỡng tơn giáo triết học danh tính thành viên tổ chức nghiệp đồn, thơng tin di truyền, sinh trắc học sử dụng để xác định cá nhân, thơng tin tình trạng sức khỏe, thơng tin đời sống tình dục khuynh hướng tình dục16 Việc bảo vệ liệu cá nhân thực sở tiêu chí sau: thân việc bảo vệ liệu cá nhân ln nhìn nhận tương quan với việc bảo vệ quyền riêng tư xem tiếp nối quyền riêng tư; tồn quy định nghiêm ngặt chế thể đồng ý xử lý liệu cá nhân; liệu cá nhân sử dụng mục đích cơng cộng với điều kiện tồn chế thông báo khiếu nại; bảo vệ liệu cá nhân cần đồng thời tôn trọng quyền tự khác quyền tự ngôn luận, tự lưu thông thông tin Việc xử lý liệu cá nhân thực nguyên tắc sau: Thứ nhất, hợp pháp, công minh bạch Dữ liệu cá nhân cần xử lý cách hợp pháp, công minh bạch Bất kỳ thông tin mục đích, phương pháp quy mơ xử lý liệu cá nhân cần thể cách tối đa, dễ tiếp cận đơn giản Thứ hai, giới hạn mục tiêu Các thông tin cá nhân cần thu thập sử dụng giới hạn mục đích đã tuyên bố đơn vị thu thập thơng tin Thứ ba, tối thiểu hóa liệu Khơng thể thu thập số lượng liệu cá nhân nhiều so với mức cần thiết so với mục tiêu xử lý liệu 14 Trước thời điêm Châu Âu có quy định bảo vệ liệu cá nhân Tuy nhiên, với phát triển công cụ kỹ thuật cách thức tổ chức thu thập, lưu trữ thông tin lượng thông tin mà tổ chức, cá nhân phải xử lý thay đổi nhiều Quy định bảo vệ liệu GDPR ra đời nhằm mục đích nhằm thiết lập quy tắc chung cho luật bảo vệ liệu riêng tư EU, không phụ thuộc vào vị trí địa lý, áp dụng cho người quản lý liệu người xử lý liệu Các quyền cá nhân GDPR bảo vệ bao gồm: Quyền thông báo, quyền truy cập, quyền chỉnh sửa, quyền xóa, quyền giới hạn/ ngừng xử lý, quyền trích xuất liệu, quyền phản đối, quyền từ chối xử lý phân nhóm tự động định Xem: Nguyễn Thị Quế Anh, Bảo vệ liệu cá nhân kỷ nguyên số - Kinh nghiệm Châu Âu, Kỷ yếu Hội thảo quốc tế “Hoàn thiện pháp luật tư bối cảnh kỷ nguyên số - kinh nghiệm từ Đức Việt Nam”, Hà Nội, 3.2019, tr 65 15 Khoản điều GDPR Xem: Regulation (EU) 2016/679 of the European Parliament and the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) // OJ L 119 Vol 59 May 2016 P 1-89 https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016R0679) 16 Điều GDPR Xem: nguồn dẫn Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT Thứ tư, xác Những thơng tin cá nhân khơng xác cần loại bỏ chỉnh sửa (theo yêu cầu người sử dụng dịch vụ) Thứ năm, hạn chế lưu trữ Thông tin cá nhân cần lưu trữ dạng cho phép xác định chủ thể liệu khoảng thời gian không vượt mức cần thiết cho mục đích xử lý Thứ sáu, tồn vẹn bảo mật Khi xử lý liệu người dùng, công ty có nghĩa vụ đảm bảo bảo vệ liệu cá nhân khỏi việc xử lý, phá hủy trái phép17 Có thể dễ dàng nhận thấy, bối cảnh ứng dụng TTNT, nguyên tắc xủ lý liệu nêu gặp phải mâu thuẫn thách thức định Vậy yêu cầu nguyên tắc ứng xử với liệu cá nhân cần phải xử lý việc ứng dụng TTNT, đặc biệt trường hợp TTNT tự đưa định độc lập, có việc thu thập, xử lý, tiết lộ thông tin thuộc bí mật cá nhân? Làm để để cơng ty tích hợp phân tích liệu liên quan đến cá nhân vào hệ thống sản phẩm, dịch vụ tảng TTNT họ? Dưới góc độ kỹ thuật, nhà khoa học doanh nhân tích cực phát triển phương pháp công cụ bảo vệ liệu cá nhân để sử dụng hệ thống TTNT Có thể kể đến số phương thức kỹ thuật để bảo vệ liệu cá nhân môi trường ứng dụng TTNT như: Học liên kết (Federated Learning); Thuật toán quyền riêng tư khác biệt (Differential Privacy); Mã hóa đồng hình (Homomorphic Encryption - cịn gọi “mã hóa đồng cấu”); Sử dụng mạng ngang hàng (Peer-to-Peer) hay gọi mơ hình phi tập trung18 Việc ứng dụng TTNT tạo nguy tiềm ẩn tính bất khả xâm phạm quyền riêng tư mà nhiều trường hợp chúng thiết kế với chủ định thiết lập hồ sơ cá nhân Dưới góc độ này, pháp luật quốc gia phát triển, đặc biệt Liên minh Châu Âu có quy định nghiêm ngặt, chí có khả kìm hãm đáng kể phát triển TTNT Như vậy, sách phát triển chung thiết kế, sản xuất ứng dụng TTNT, nhà hoạch định sách, nhà thiết kế, sản xuất cung cấp dịch vụ cần bảo đảm ứng dụng TTNT không dẫn đến việc làm suy yếu quyền liệu cán nhân Đối với hoạt động nêu trên, yêu cầu chung liên quan đến bảo vệ liệu cá nhân sau19: 17 Xem: Nguyễn Thị Quế Anh, Bảo vệ liệu cá nhân kỷ nguyên số - Kinh nghiệm Châu Âu, Kỷ yếu Hội thảo quốc tế “Hoàn thiện pháp luật tư bối cảnh kỷ nguyên số - kinh nghiệm từ Đức Việt Nam”, Hà Nội, 2019, tr 67 18 Xem: Интервью с Беном Лорикой, ведущим специалистом по работе с данными компании O’Reilly Media Взаимосвязь между защитой персональных данных, обучением машин и искусственным интеллектом, https://www.wipo.int/tech_trends/ru/artificial_intelligence/ask_the_experts/techtrends_ai_lorica html, truy cập ngày 28/8/2021 19 Xem: Консультативный комитет «Конвенция о защите частных лиц в отношении автоматизированной обработки данных личного характера» (ETS No.108 tại: https://www.coe.int/en/web/conventions/fulllist/-/conventions/treaty/108?module=treaty-detail&treatynum=108) Совета Европы «Руководство по защите персональных данных при использовании искусственного интеллекта»  (Guidelines on artificial intelligence and data protection tại: https://rm.coe.int/guidelines-on-artificial-intelligence-and-dataprotection/168091f9d8) 10 Số 22(446) - T11/2021 NHÀ NƯỚC VÀ PHÁP LUẬT - Các ứng dụng TTNT trường hợp phải tôn trọng đầy đủ quyền chủ thể liệu; - Các ứng dụng TTNT phải cho phép chủ thể liệu kiểm sốt cách có ý thức trình xử lý liệu tác động có liên quan đến cá nhân xã hội; - Ở tất giai đoạn xử lý liệu, bao gồm thu thập liệu, nhà phát triển, nhà sản xuất nhà cung cấp dịch vụ TTNTI nên áp dụng phương pháp tiếp cận theo thiết kế nhân quyền (human rights bydesign) tránh thành kiến ​​tiềm ẩn (bao gồm vơ tình không rõ ràng), nguy phân biệt đối xử hậu tiêu cực khác quyền người quyền tự chủ thể liệu;20 - Tất sản phẩm dịch vụ dựa ứng dụng TTNT phải thiết kế theo cách đảm bảo quyền cá nhân để đảm bảo định có ảnh hưởng quan trọng đến họ không dựa xử lý liệu tự động mà khơng tính đến ý kiến​​ họ; - Các chủ thể liệu phải thông báo họ tương tác với ứng dụng TTNT Họ nên có quyền nhận thơng tin logic đằng sau hoạt động xử lý liệu có ứng dụng TTNT liên quan đến lợi ích họ; - Phải đảm bảo quyền phản đối việc xử lý liệu dựa công nghệ ảnh hưởng đến quan điểm phát triển riêng cá nhân Quyền sở hữu trí tuệ ứng dụng trí tuệ nhân tạo TTNT ngày trở thành động lực thúc đẩy tiến cơng nghệ kinh doanh Nó sử dụng rộng rãi nhiều ngành cơng nghiệp có tác động đến hầu hết khía cạnh hoạt động sáng tạo Sự phát triển TTNT thúc đẩy sẵn có lượng lớn liệu gia tăng khả tính tốn sẵn có Do vậy, TTNT có nhiều điểm giao thoa tác động tới lĩnh vực sở hữu trí tuệ (SHTT) Cịn sớm để nói vấn đề cụ thể, rõ ràng rằng, TTNT có tác động tới lĩnh vực truyền thống sở hữu trí tuệ Nền kinh tế số nói chung TTNT nói riêng sớm tạo tác phẩm âm nhạc thương mại sáng chế, làm thay đổi khái niệm niệm truyền thống “nhà soạn nhạc”, “tác giả”, “nhà sáng chế” TTNT quan hệ pháp lý liên quan phát triển TTNT tương quan với hệ thống bảo hộ quyền SHTT ngày trở thành vấn đề cấp bách cần xem xét điều chỉnh Mục tiêu tảng hệ thống SHTT khuyến khích việc tạo cơng nghệ mới, cơng trình sáng tạo tạo sở kinh tế bền vững cho 20 Có thể lấy ví dụ vấn đề nghiên cứu Tạp chí ProPulica, phân tích kết từ ứng dụng TTNT sử dụng để hỗ trợ việc cho phép bảo lãnh bị cá định mức án tòa án Hoa Kỳ Ứng dụng có nhiệm vụ đánh giá khả tái phạm bị cáo Nghiên cứu ProPulica cho rằng, bị cáo người da đen bị đánh giá có rủi ro tái phạm cao gấp đơi so với người da trắng Nhà phát triển ứng dụng không đồng tình với kết luận nêu trên, từ chối cung cấp tiêu chí thuật tốn xác định khả tái phạm bị cáo Như vậy, công chúng giới nghiên cứu biết thực thuật tốn ứng dụng TTNT có thiên vị hay khơng Như vậy, trường hợp AI không khách quan, liệu đầu vào có thiên vị Việc sử dụng liệu cá nhân trường hợp trái với nguyên tắc cơng Xem: Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư, Sách tham khảo “Trí tuệ nhân tạo với pháp luật quyền người”; Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng, Khoa Luật, Đại học Quốc gia Hà Nội, Nxb Tư pháp, 2019, tr 377 Số 22(446) - T11/2021 11 NHÀ NƯỚC VÀ PHÁP LUẬT sáng tạo Từ quan điểm kinh tế đơn thuần, mục tiêu khác hệ thống SHTT bảo đảm “phần thưởng xứng đáng” bảo vệ quyền nhân thân khơng có lý để khơng sử dụng SHTT nhằm khuyền khích cơng trình sáng tạo TTNT tạo lập Tuy nhiên, thời điểm nay, chế phương thức thực mục tiêu hồn tồn chưa rõ ràng TTNT cơng nghệ hiểu theo cách khác nhau, điểm mấu chốt với pháp luật SHTT chỗ, kết việc sử dụng phức hợp giải pháp công nghệ cho phép bắt chước nhận thức người, thu nhận kết tương đương với kết hoạt động trí tuệ người Từ dẫn đến câu hỏi liệu sản phẩm tạo từ TTNT – kết trình tự phân tích đưa định độc lập TTNT - có bảo hộ quyền SHTT hay khơng? Và bảo hộ chủ thể nắm giữ quyền SHTT Pháp luật SHTT hành công nhận quyền tác giả tác phẩm tạo thành từ công sức lao động sáng tạo cá nhân người Quyền tác giả tác phẩm liên quan trực tiếp đến vấn đề tính nguyên gốc chúng - đặc điểm pháp luật bảo hộ Nền tảng pháp luật bảo hộ quyền tác giả truyền thống tiếp cận theo hướng bảo hộ tác phẩm mà tính ngun chúng phản ánh hoạt động sáng tạo trí tuệ tác giả TTNT hoạt động theo thuật toán thường xuyên tạo tác phẩm trình xử lý phân tích tác phẩm có, trường hợp này, để tác phẩm bảo hộ cần thiết phải đưa tiêu chí để xác định 12 Số 22(446) - T11/2021 tính chất nguyên gốc tác phẩm hình thành Do vậy, vấn đề quan trọng việc công nhận quyền tác giả cho đối tượng tạo TTNT tác giả tính nguyên gốc tác phẩm Có xu hướng giải vấn đề sau: - Tác giả người tạo nên TTNT; - Tác giả người sử dụng TTNT; - Tác giả trực tiếp TTNT Trong đó, hai xu hướng đầu những xu hướng phổ biến nhất, lại khơng hồn tồn tương ứng với đặc điểm tác phẩm đối tượng SHTT - diện hoạt động sáng tạo trí tuệ người Kết hoạt động trí tuệ sáng tạo nhà phát triển TTNT TTNT dạng chương trình máy tính mã nguồn Các sản phẩm TTNT tạo thường khơng bị ảnh hưởng từ phía người tạo TTNT sản phẩm TTNT tạo cách thực thuật toán định Do vậy, việc công nhận người phát triển TTNT tác giả không phù hợp với pháp luật hành Tiếp theo, việc coi người sử dụng TTNT tác giả khơng tương thích với nguyên tắc quyền SHTT Thông thường, tất hành động người dùng liên quan đến trình tạo tác phẩm TTNT bao gồm việc khởi động chương trình máy tính thích hợp tải thơng tin, tài liệu thiết lập cài đặt cần thiết để tạo kết cuối Những hành động khó coi hoạt động có tính sáng tạo Cho đến nay, chưa có quốc gia cơng nhận TTNT trực tiếp tác giả tác phẩm Điều liên quan trực tiếp NHÀ NƯỚC VÀ PHÁP LUẬT đến vấn đề có cơng nhận “cá nhân điện tử” (như đề cập nội dung trên) chủ thể quan hệ pháp luật hay khơng Tuy nhiên, việc áp dụng xu hướng cịn liên quan đến việc giải hàng loạt khía cạnh pháp lý khác bảo hộ quyền SHTT đối tượng “cá nhân điện từ” - TTNT tạo nên: chế thực thi quyền nhân thân tài sản; thời hạn bảo hộ; giải tranh chấp; … Ngồi ra, việc ứng dụng cơng nghệ TTNT có tác động khơng tới hoạt động SHTT, hệ thống pháp luật sách SHTT mà cịn tới hệ thống hành SHTT toàn giới Trong năm gần đây, Tổ chức SHTT giới (WIPO) nỗ lực nghiên cứu thảo luận vấn đề câu hỏi liên quan đến việc sử dụng công nghệ hệ thống TTNT để quản lý quy trình hành sách sở hữu trí tuệ Tóm lại, trí tuệ nhân tạo bước tiến cơng nghệ kỹ thuật số có tác động sâu sắc đến giới Nó mang lại tác động to lớn công nghệ, kinh tế xã hội, đồng thời thay đổi cách sản xuất tiêu thụ hàng hóa, dịch vụ thực thay đổi cách sống giới lồi người Nói cách khác, việc xem xét áp dụng trí tuệ nhân tạo không đơn khuôn khổ lĩnh vực mà cần phải nhìn nhận phạm vi tương đối bao quát, có lĩnh vực pháp luật Có thể đưa số tiêu chí để nhận diện hệ thống pháp luật hoàn thiện nhằm điều chỉnh hỗ trợ cho lĩnh vực TTNT: có đạo luật chuyên ngành điều chỉnh quan hệ phát triển sử dụng cơng nghệ robot; có hệ thống quan nhà nước chịu trách nhiệm lĩnh vực cơng nghệ robot; có chương trình quốc gia phát triển ngành cơng nghiệp robot có khung pháp pháp lý thí điểm cho việc thử nghiệm cơng nghệ robot Hiện nay, số quốc gia phát triển lĩnh vực công nghệ chưa phải đáp ứng đầy đủ yếu tố nêu Tuy nhiên, kinh nghiệm nêu quốc gia phát triển coi hình mẫu quan trọng cho hoạt động lập pháp TTNT quốc gia, có Việt Nam  Tài liệu tham khảo Tiếng Việt Nguyễn Thị Quế Anh, Nhận diện thay đổi pháp luật bối cảnh công nghệ số Kỷ yếu Hội thảo quốc tế “Luật học trước biến đổi thời đại”, tổ chức Khoa Luật - ĐHQGHN, tháng 8/2019, tập 2 Nguyễn Thị Quế Anh Bảo vệ liệu cá nhân kỷ nguyên số - Kinh nghiệm Châu Âu Kỷ yếu Hội thảo quốc tế “Hoàn thiện pháp luật tư bối cảnh kỷ nguyên số - kinh nghiệm từ Đức Việt Nam”, Hà Nội, 3.2019 Báo Nhân dân (2017), Facebook xóa sổ trí tuệ nhân tạo có khả tự sáng tạo ngơn ngữ mới, http://nhandan.com.vn/ congnghe/item/33622102-facebook-xoaso-tri-tue-nhan-tao-co-kha-nang-tu-sangtao-ra-ngon-ngu-moi.html, truy cập ngày 15/8/2021 Lưu Minh Sang, Trần Đức Thành Trí tuệ nhân tạo thách thức pháp lý Nguồn: Tạp chí Khoa học công nghệ Việt Nam https://vjst.vn/vn/tin-tuc/3303/tritue-nhan-tao-va-nhung-thach-thuc-phap-ly aspx (truy cập 08/7/2021) Số 22(446) - T11/2021 13 NHÀ NƯỚC VÀ PHÁP LUẬT Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư Bài viết sách tham khảo “Trí tuệ nhân tạo với pháp luật quyền người” Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng Khoa Luật, ĐHQGHN NXB Tư pháp, 2019 VNReview(2017), Facebook khơng hoảng sợ tắt chương trình AI tự tạo ngôn ngữ tin đồn, http://vnreview vn/tin-tuc-khoa-hoc-cong-nghe/-/view_ content/content/2232722/facebook-dakhong-hoang-so-va-tat-ai-tu-tao-ra-ngonngu-nhu-tin-don, truy cập ngày 15/8/2021 Tiếng Anh European Parliament, Resolution 2015/2103  (INL), https://www europarl.europa.eu/doceo/document/TA-82017-0051_EN.pdf, (truy cập 20/8/2021) Federal Ministry of Education and Research of Germany (2021). The high-tech strategy 2025 The Federal Government, tại: https://www.bmbf.de/upload_filestore/pub/ Research_and_innovation_that_benefit_ the_people.pdf Federal Ministry for Economic Affairs and Energy of Germany (2019).  Making space for innovation The handbook for regulatory sandboxes The Federal Government.  https://www.bmwi.de/ Redaktion/EN/Publikationen/DigitaleWelt/handbook-regulatory-sandboxes pdf? blob=publicationFile&v=2, (truy cập 20/8/2021) Tiếng Nga 10 Нормы гражданского правао робототехнике Резолюция Европарламента от 16 февраля 2017 года Xem: http://robopravo.ru/riezoliutsiia_ies (truy cập: 22/8/2021) 14 Số 22(446) - T11/2021 11 Исследовательский центр проблем  регулирования  робототехники (2017).  Восьмой закон  о  внесении изменений  в  Закон  о  дорожном движении от 16 июня 2017 г, tại: https://robopravo.ru/initsiativy_ frantsii_v_sfierie_robototiekhniki_2013_2 12 Интервью с Беном Лорикой, ведущим специалистом по работе с данными компании O’Reilly Media Взаимосвязь между защитой персональных данных, обучением машин и искусственным интеллектом Nguồn: https://www.wipo.int/tech_trends/ ru/artificial_intelligence/ask_the_experts/ techtrends_ai_lorica.html (truy cập 28/8/2021) 13 Директива Совета от 25 июля 1985 г о сближении законов, регламентов и административных положений государствчленов, применяемых к ответственности за неисправную продукцию (85/374/ ЕЭС).  Xem: https://eulaw.edu.ru/spisokdokumentov-po-pravu-evropejskogosoyuza/dokumenty-o-pravah-cheloveka-igrazhdanina/normativnye-akty-o-svobodeperedvizheniya-tovarov-lits-i-uslug/ direktiva-soveta-ot-25-iyulya-1985-go-sblizhenii-zakonov-reglamentov-iadministrativnyh-polozhenij-gosudarstvchlenov-primenyaemyh-k-otvetstvennostiza-neispravnuyu-produktsiyu-85-374-eesperevod/ (truy cập 18/8/2021) 14 Консультативный комитет ''Конвенция о защите частных лиц в отношении автоматизированной обработки данных личного характера'' (ETS No.108 tại: https://www.coe int/en/web/conventions/full-list/-/ conventions/treaty/108?module=treatydetail&treatynum=108) ... quan hệ liên quan đến phát triển ứng dụng TTNT Vấn đề an toàn trách nhiệm pháp lý ứng dụng trí tuệ nhân tạo An toàn trách nhiệm pháp lý vấn đề cốt lõi hàng đầu ứng dụng TTNT Vấn đề trở nên đặc biệt... cách sống giới lồi người Nói cách khác, việc xem xét áp dụng trí tuệ nhân tạo không đơn khuôn khổ lĩnh vực mà cần phải nhìn nhận phạm vi tư? ?ng đối bao quát, có lĩnh vực pháp luật Có thể đưa số. .. VÀ PHÁP LUẬT Lê Lương Minh, Trí tuệ nhân tạo quyền riêng tư Bài viết sách tham khảo ? ?Trí tuệ nhân tạo với pháp luật quyền người” Chủ biên: Nguyễn Thị Quế Anh, Vũ Công Giao Mai Văn Thắng Khoa Luật,