ỨNG DỤNG TRÍ TUỆ NHÂN tạo và tác ĐỘNG tới QUYỀN CON NGƯỜI góc NHÌN từ mô HÌNH ĐÁNH GIÁ tín NHIỆM xã hội (SCS) ở TRUNG QUỐC

VIỆN ■ HÀN LÂM KHOA HỌC ■ Xà HỘI ■ VIỆT ■ NAM VIỆIM NHÀ NƯỚC VÀ PHÁP LUẬT Vietnam Academy of Social Sciences In stitu te o f State and L aw THÁNG RA MỘT KỲ ( 375 ) 2019 NHÀ Nưởc »ÀPHÁP LUẬT MỤC LỤC NĂM THỨ 48 TỔNG BIÊN TẬP LUẬT HIẾN PHÁP, LUẬT HÀNH CHÍNH PGS.TS LÊ MAI THANH ❖ NGUYỄN MINH TUẤN: Những vấn đề pháp lý bỏ ngỏ giới hạn quyền người, quyền cơng dân Việt Nam PHĨ TỔNG BIÊN TẬP TS TRẦN VÃN BIÊN HỘI ĐỔNG BIÊN TẬP (ỈS.TSKH ĐÀO TRÍ ú c PGS.TS BÙI XUÂN ĐÚC PGS.TS PHẠM HỔNG HẢI PGS.TS TRẦN ĐÌNH HẢO ❖ CAO VŨ MINH: LUẬT HÌNH SỤ ❖ NGUYÊN PHUƠNG THẢO - TRÀN VÀN THUỢNG: Trách nhiệm hình đồng phạm Quốc triều Hình luật LUẬT DẰN SỤ PGS.TS PHẠM HŨU NGHỊ ❖ PGS.TS LÊ MINH THƠNG Hồn thiện quy định pháp luật hình thức kỷ luật giáng chức công chức PGS.TS HÀ THỊ MAI HIÊN PGS.TS NGUYỄN NHU PHÁT NGUYỄN VÕ LINH GIANG: 18 Giải thích hợp đồng theo pháp luật Việt Nam pháp luật Pháp 26 POS TS NGUYỄN TRUNG TÍN GS.TS VỒ KHÁNH VINH POS TS ĐINH NGỌC VUỢNO LUẬT KINH TẾ,LUẬTĐẮT ĐAI ❖ VŨ QUANG - NGUYÊN VÀN LÂM: Một số vấn đề quyền tiếp cận thông tin cổ đông công ty cổ phần Trụ sở T oà soạn: 27 Trấn Xuân Soạn Hà Nội Tel: 02439713333 Fax: 02439764534 Email: tcnnpl@isl.gov ❖ Đ ỏ THỊ HẢI YẾN: Một số bất cập pháp luật hành đối tượng hợp đồng chấp quyền sử dụng đất 40 TU PHÁP QC TÉ ♦> DƯ NGỌC BÍCH: Tiếp cận học thuyết tiếp cận thực tiễn vấn đề công nhận, thi hành án dân tòa án nước ngồi Giây phép hoạt động báo chí: số 121/GPBTTTT, ngày 22/4/2013 34 48 NHÀ NƯỚC VÀ PHÁP LUẬT NƯỚC NGOÀI ❖ TRƯONG THỊ MINH THÙY: Quyền miễn trừ trách nhiệm quyền bất khả xâm phạm nghị sĩ số quốc gia In Công ty in Thủy lợi giới gợi mở cho Việt Nam 56 ❖ NGUYÊN VĂN QUÂN - BÙI PHÚ CHÂU: ứng dụng trí tuệ nhân tạo mơ hình đánh giá tín nhiệm xã hội (SCS) Trung Giá: 20.000đ Quốc tác động quyền người 74 ỨNG DỤNG TRÍ TUỆ NHÂN TẠO TRONG MƠ HÌNH ĐÁNH GIÁ TÍN NHIỆM Xà HỘI (SCS) Ở TRUNG QUỐC VÀ TÁC ĐỘNG ĐÓI VỚI QUYÊN CON NGƯỜI Nguyễn Văn Bùi Phú Châu** Tóm tắt: Trítuệ nhăn tạo sử dụng ngày phổ biến quản nhà nước công cụnâng cao hiệu quả, hiệu lực quản Tuy nhiên, việc ứng dụng t nhân tạo quản lý tạo nguy thách thức đối quyền người Bài viết phân tích số tác động trí tuệ nhân tạo dối với người Trung Quốc, thơng qua mơ hình đánh giả tín nhiệm xã hội Abstract: Artificial intelligence isincreasingly used to maximize management effectiveness and efficiency However, the use artificial intelligence inmanagement may also pose risks and challenges to human rights The article analyzes the impacts o f artificial intelligence on human rights in China through social credit system Khái quát vê hệ thông “tín nhiệm lý thuyết, văn Chính xã hội” Trung Quốc phủ Trung Quốc định nghĩa scs phận quan trọng hệ thống kinh tế thị Khái niệm “Hệ thống tín nhiệm xã hội” hay thường phương trường xã hội chủ nghĩa hệ thống quản lý xã hội Trung Quốc Nền tảng scs gồm Tây gọi “SCS - Social Credit System” hai yếu tố bản: (i) Cơ sở hạ tầng để chấm Trung Quốc nhắc đến thức điểm tín nhiệm thành viên, lần Đe cương xây dựng hệ (ii) Hệ thống mạng lưới hồn chỉnh chứa thống Tín nhiệm xã hội giai đoạn 2014đựng hồ sơ tín nhiệm tất thành 2020 Quốc vụ viện Trung Quốc ban viên xã hội Mục đích scs cải hành ngày 14/06/2014*12* thiện hệ thống kinh tế thị trường xã hội chủ nghĩa, cải tiến đổi quản trị xã * TS., Khoa Luật - Đại học Quốc gia Hà Nội hội, tạo mơi trường sống tích cực, nâng Bài viết kế thừa bổ sung nội dung tham luận cao lực cạnh tranh chung quốc gia, Hội thảo “Trí tuệ nhân tạo vấn đề đật thúc đẩy phát triển xã hội cải thiện pháp luật quyền người” Khoa Luật - Đại học Quốc gia Hà Nội tổ chức ngày 28/5/2019 văn minh *’ ThS., Công ty luật Bizlink Lawyers & Consultants Cụ thể, hệ thống đặt chế Xem: http://www.xinhuanet.com/2018-06/04/c_112 2931164,htm?fbclid=IwAR2-80O7ygrtcTqjesDAzR khen thưởng trừng phạt để khuyến khích 7tjVi_KzIIjCLGBtytkGTl fDgX0p84nYumP2s, truy tín nhiệm hạn chế khơng tín cập ngày 25/4/2019 Quốc vụ viện Trung Quốc, Đề cương xây dựng hệ thống Tín nhiệm xã hội giai đoạn năm 2014-2020 ( íi ê 74 Is ^5 ỈẼ iỗ í® d U l ), 2014 Xem: http://www.gov.cn/zhengce/content/2014-06/27/con tent_8913.htm, truy cập ngày 20/3/2019 ỨNG DỤNG TRÍ TUỆ nhiệm, nhằm đạt kết quà nâng cao mức độ tín nhiệm nhận thức tín nhiệm xã hội Mục tiêu đặt đến năm 2020 xây dựng hệ thống pháp luật, quy định tiêu chuẩn tín nhiệm xã hội, xây dựng hệ thống điều tra, đánh giá tín nhiệm tồn xã hội tảng chia sẻ thơng tin, hồn thành hệ thống quản lý giám sát tín nhiệm, có hệ thống thị trường dịch vụ tín nhiệm tương đối hoàn chinh phát huy đầy đủ chế khuyến khích tín nhiệm trừng phạt thiếu tín nhiệm Tuy nhiên, dự án hệ thống tín nhiệm xã hội Trung Quốc cho có ý tưởng thí điểm bước từ trước văn lâu, năm 20033, hệ thống tín dụng tập đồn Alibaba - tập đồn cơng nghệ lớn Trung Quốc Năm 2007, Quốc vụ viện Trung Quốc Thông báo Hệ thống hội nghị liên để xây dựng hệ thống tín nhiệm xã hội bao gồm 15 quan nhà nước lĩnh vực thương mại, thuế ngân hàng4 Danh sách quan tham gia xây dựng hệ thống scs đến năm 2012 tăng lên thành 35, khơng bao gồm lĩnh vực tài mà bao trùm lên tất lĩnh vực y tế, giáo dục, nơng nghiệp5 Ngồi ra, vài nghiên cứu cho rằng, scs thí điểm đơn vị cấp tỉnh phía bắc Thượng Hải từ năm 20106* Tuy nhiên, từ đến nay, ngồi nội dung khái qt hồn tồn mang tính lý luận Đề cương xây dựng hệ thống Tín nhiệm xã hội giai đoạn năm 2014-2020, khơng có tuyên bố thức Chính phủ Trung Quốc mô tả cụ thể cách thức thu thập thông tin, nguồn liệu hay cách hoạt động tồn hệ thống scs Vì vậy, nghiên cứu, phân tích nồ lực để hiểu hệ thống từ bên Trung Quốc phần lớn dựa hệ rõ ràng áp dụng hệ thống lên người dân, mà chủ yếu bị hạ điểm tín nhiệm hình phạt cơng dân bị Chính phủ Trung Quốc đánh giá có điểm tín nhiệm thấp Một vài ví dụ cụ thể: Cuối năm 2013, Tòa án tối cao Trung Quốc cơng bố trang web thức tên thơng tin 31 ngàn người cho chưa chậm hoàn thành nghĩa vụ trà nợ giao dịch dân Cùng với việc công bố thông tin cá nhân, người bị liệt vào danh sách bị tù’ chối đặt phòng Du Liqun, Xemxét việcxây nhiệm xã hộicùa Trung Quốc từ góc độ xây liêm Alibaba, Trường Kinh tế, Đại học Bắc Kinh, 2014 Xem: http://www.aliresearch.com/ blog/article/detail/id/19744.html, truy cập ngày 20/4/2019 Quốc vụ viện Trung Quốc, Thông báo Hệ thong hội nghị liênbộ đế xây dựng hệ thống tín xã hội, 2007 Xem: http://www.gov.cn/gongbao /content/2007/content_632090.htm, truy cập ngày 20/4/2019 Xem danh sách này: http://www.gov.cn/ zwgk/2012-07/25/content_2191732.htm, truy cập thống tín ngày 20/4/2019 dựng Audrey Murrell, Pushing the Ethical Boundaries o f Big Data: A Look at China's Social Credit Scoring System, University of Pittsburgh College of Business Administration, đăng Tạp chi Forbes ngày 31/07/2018 Xem: https://www.forbes.com/sites/audreymurrell /2018/07/3 l/pushing-the-ethical-boundaries-of-bigdata-a-look-at-chinas-social-credit-scoring-system/# 4ac3f4325e56, truy cập ngày 20/4/2019 75 NHÀ NƯỚC VÀ PHÁP LUẬT SÔ 7/2019 khách sạn từ trở lên, không cho phép đặt vé máy bay, vé tàu cao tốc, bị tính phí cao đặt xe7 Đến thời điểm ngày 21/04/2019, truy cập vào địa trang web http://zxgk.court.gov.cn/ Tòa án tối cao Trung Quốc thấy danh sách 13 triệu trường hợp công dân nêu tên, 25,5 triệu lượt đặt vé máy bay, 5,7 triệu lượt đặt vé tàu hỏa bị từ chối8 Năm 2015, Ngân hàng nhân dân Trung Quốc thông báo việc cấp phép cho tám công ty lớn thử nghiệm xây dựng vận hành hệ thống tín dụng9 Nổi bật số Sesame Credit Tập đồn Alibaba, hay Tencent với ứng dụng WeChat Dừ liệu từ 400 triệu người dùng tất tảng mua sắm trực tuyến, toán trực tuyến Alibaba hay 850 triệu người dùng WeChat sê sở để đánh giá điểm tín dụng cá nhân tham gia Hệ thống theo thu thập thơng tin mua sắm toán cúa người dùng, đưa hệ thống điểm tín dụng riêng sử dụng biện pháp khen thưởng mang tính thương mại ưu tiên đặt phòng khách sạn, ưu tiên sử dụng thử sàn phẩm dựa mức điểm tín dụng người dùng Năm 2018, đánh dấu bước hệ thống scs đưa vào áp dụng thực Tara Francis Chan, Debtors China are placed on a blacklist that prohibits them from flying, buying train tickets,and staying at luxury hotels, Business insider Xem: https://www.businessinsider.com /chinas-tax-blacklist-shames-debtors-2017-12?r=UK, truy cập ngày 20/4/2019 Xem trang website thức Toà án nhân dân tối cao Trung Quốc: http://zxgk.court.gov.cn/, truy cập ngày 20/4/2019 Thông báo cùa Ngân hàng trung ương Trung Quốc hệ thống thơng tin tín nhiệm cá nhân Xem: http://www.gov.cn/xinwen/2015-01/05/content_280 0381.htm, truy cập ngày 20/4/2019 76 tế Theo báo cáo thường niên Trung tâm Thơng tin tín dụng cơng dân quốc gia (NPCIC)10, có 17,5 triệu lượt mua vé máy bay 5,5 triệu lượt mua vé tàu bị từ chối năm 2018 Trong số đó, Bắc Kinh cho công khai kế hoạch thu thập liệu để đến năm 2020 chấm điểm tín nhiệm xã hội toàn 22 triệu dân thành phố có 10 thành phố khác có kế hoạch tương tự1‘ Để thực kế hoạch nói trên, quyền Trung Quốc cho lắp đặt 200 triệu camera giám sát mà theo báo chí phương Tây gọi kế hoạch “Khơng góc khuất”12 Trong đó, mồi người sè theo dõi 24/24, bước chân, hành động, hàng cho vào giỏ theo dõi đánh giá để chấm điểm tín nhiệm cá nhân theo thời gian thực Như vậy, từ biểu thơng tin nói trên, hiểu hệ thống tín nhiệm xã hội mà Chính phủ Trung Quốc có kế hoạch xây dựng cấu thành từ nhiều hệ thống đánh giá tín nhiệm cơng dân khác nhau, có chia sẻ thông tin 10 Lily Kuo, China bans 23m from buying travel tickets as part o f 'social cred The guardian Xem: https://www.theguardian.com/world/2019/mar /01/china-bans-23m-discredited-citizens-from-buyin g-travel-tickets-social-credit-systenij truy cập ngày 20/4/2019 11 Claire Che, David Ramli, and Dandan Beijing to Judge Every Resident Based on Behavior by End o f 2020 Xem: https://www.bloomberg.com/news /articles/2018-11-21 /beijing-to-judge-every-residentbased-on-behavior-by-end-of-2020, truy cập ngày 20/3/2019 12 Matthew Carney, Leave no dark corner Xem: https://www.abc.net.au/news/2018-09-18/china-socia l-credit-a-model-citizen-in-a-digital-dictatorship/102 00278, truy cập ngày 20/4/2019 NHÀ NƯỚC VÀ PHÁP LUẬT SÔ 7/2019 khách sạn từ trở lên, không cho phép đặt vé máy bay, vé tàu cao tốc, bị tính phí cao đặt xe7 Đến thời điểm ngày 21/04/2019, truy cập vào địa trang web http://zxgk.court.gov.cn/ Tòa án tối cao Trung Quốc thấy danh sách 13 triệu trường họp công dân nêu tên, 25,5 triệu lượt đặt vé máy bay, 5,7 triệu lượt đặt vé tàu hỏa bị từ chối8 Năm 2015, Ngân hàng nhân dân Trung Quốc thông báo việc cấp phép cho tám công ty lớn thử nghiệm xây dựng vận hành hệ thống tín dụng9 Nổi bật số Sesame Credit Tập đoàn Alibaba, hay Tencent với ứng dụng WeChat Dữ liệu từ 400 triệu người dùng tất tảng mua sắm trực tuyến, toán trực tuyến Alibaba hay 850 triệu người dùng WeChat sở để đánh giá điểm tín dụng cá nhân tham gia Hệ thống theo thu thập thơng tin mua sắm toán người dùng, đưa hệ thống điểm tín dụng riêng sử dụng biện pháp khen thưởng mang tính thương mại ưu tiên đặt phòng khách sạn, ưu tiên sử dụng thử sản phẩm dựa mức điểm tín dụng người dùng Năm 2018, đánh dấu bước hệ thống scs đưa vào áp dụng thực Tara Francis Chan, D eb to rs C h in a a re p la c e d on a b la cklist th at p ro h ib its th em fro m flying, bu yin g train tickets,and sta y in g at lu xu ry hotels, Business insider Xem: https://www.businessinsider.com /chinas-tax-blacklist-shames-debtors-2017-12?r=UK, truy cập ngày 20/4/2019 Xem trang website thức cùa Tồ án nhân dân tối cao Trung Quốc: http://zxgk.court.gov.cn/, truy cập ngày 20/4/2019 v Thông báo cùa Ngân hàng trung ương Trung Quốc hệ thống thơng tin tín nhiệm cá nhân Xem: http://www.gov.cn/xinwen/2015-01/05/content_280 0381.htm, truy cập ngày 20/4/2019 76 tế Theo báo cáo thường niên Trung tâm Thơng tin tín dụng cơng dân quốc gia (NPCIC)10*, có 17,5 triệu lượt mua vé máy bay 5,5 triệu lượt mua vé tàu bị từ chối năm 2018 Trong số đó, Bắc Kinh cho công khai kế hoạch thu thập dừ liệu để đến năm 2020 chấm điểm tín nhiệm xã hội toàn 22 triệu dân thành phố có 10 thành phố khác có kế hoạch tương tự" Để thực kế hoạch nói trên, quyền Trung Quốc cho lắp đặt 200 triệu camera giám sát mà theo báo chí phương Tây gọi kế hoạch “Khơng góc khuất”12102 Trong đó, mồi người theo dõi 24/24, bước chân, hành động, hàng cho vào giỏ theo dõi đánh giá để chấm điểm tín nhiệm cá nhân theo thời gian thực Như vậy, từ biểu thơng tin nói trên, hiểu hệ thống tín nhiệm xã hội mà Chính phủ Trung Quốc có kế hoạch xây dựng cấu thành từ nhiều hệ thống đánh giá tín nhiệm cơng dân khác nhau, có chia sẻ thơng tin 10 Lily Kuo, C h in a ba n s 23m from b u yin g tra v e l tick ets a s p a r t o f 's o c ia l c r e d The guardian Xem: https://www.theguardian.com/world/2019/mar /01/china-bans-23m-discredited-citizens-from-buyin g-travel-tickets-social-credit-system, truy cập ngày 20/4/2019 11 C la ire Che,David Ram il, a n d D an dan B eijin g to J u d g e E v ery R esid en t B a se d B eh avior b y E n d o f 020 Xem: https://www.bloomberg.com/news /articles/2018-11 -21 /beij ing-to-judge-every-residentbased-on-behavior-by-end-of-2020, truy cập ngày 20/3/2019 12 Matthew Carney, Leave no dark corner Xem: https://www.abc.net.au/news/2018-09-18/china-socia 1-credit-a-model-citizen-in-a-digital-dictatorship/102 00278, truy cập ngày 20/4/2019 ỨNG DỤNG hệ thống này13, không loại trừ khả lớn tương lai tổ chức thành hệ thống tín nhiệm cơng dân nằm quản lý Nhà nước nêu Đề cương xây dựng hệ thống Tín nhiệm xã hội giai đoạn năm 2014-2020 Cụ thể, tồn hệ thống chấm điểm tín nhiệm cơng dân sau: Danh sách đen Tòa án tối cao; xếp hạng tín dụng cá nhân Ngân hàng Trung ương Trung Quốc; Hệ thống tín nhiệm cơng ty Alibaba, Tencent; Danh sách đen khách du lịch Bộ Văn hóa Du lịch Danh sách đen ủy ban Cải cách Phát triển quốc gia14 hình thức chế tài, khơng biết có hình thức chế tài cơng dân có điểm tín nhiệm thấp Chính phủ Trung Quốc lên kế hoạch để đưa tương lai Tuy nhiên, ngày 25/09/2016, Tân Hoa xã đăng toàn văn: “Ý kiến việc đẩy nhanh việc giám sát tín nhiệm cơng dân, cảnh báo chế kỷ luật người có tín nhiệm thấp” Văn phòng Trung ương Đảng Cộng sản Trung Quốc15 Theo đó, hiểu hình thức chế tài tiêu biểu người có tín nhiệm thấp nêu bao gồm nhóm sau: (i) Hạn chế doanh nghiệp tham gia vào lĩnh vực, ngành kinh tế cụ thể; (ii) Hạn chế doanh nghiệp hưởng trợ cấp, hồ trợ Chính phủ; (iii) Hạn chế cá nhân giữ chức vụ cụ thể quan nhà nước, tổ chức tín dụng; (iv) Hạn chế cá nhân làm việc ngành nghề cụ thể dược phẩm, thực phẩm; (v) Hạn chế việc trao giải thưởng cá nhân, đơn vị, hãng luật, ngân hàng; (vi) Hạn chế cá nhân tham gia số giao dịch thị trường giao dịch bất động sản, tài nguyên thiên nhiên; (vii) Hạn chế tiêu dùng bao gồm sử dụng máy bay, tàu hỏa, khách sạn, du lịch, cải tạo nhà ở; (viii) Hạn chế xuất cảnh Như vậy, chất, hệ thống Tín nhiệm xã hội - scs Trung Quốc hệ thống xây dựng để thu thập tồn thơng tin tất khía cạnh, bao gồm không giới hạn ở: Hoạt động sinh hoạt, lại, mua sắm, tốn, giãi trí, kết bạn, biểu lộ ý chí mạng xã hội mồi cá nhân; sở để đánh giá, cho điểm hành vi mồi cá nhân, làm sở để đưa hình thức khuyến khích hành vi xem tốt, hạn chế hành vi bị cho xấu theo tiêu chuẩn mà hệ thống đặt 13 “Ý kiến việc đẩy nhanh việc giám sát tín nhiệm cơng dân, cảnh báo chế kỷ luật người có tín nhiệm thấp” cùa Văn phòng Trung ương Vai trò trí tuệ nhân tạo (AI) Đảng Cộng sản Trung Quốc hệ thống scs 14 Dartdan Liand Yinan Zhao, How C itizen s Are Watched and Rated Xem: Ngày 08/07/2017, Quốc vụ viện Trung https://www.bloomberg.com/ ne ws/articles/2019-04Quốc ban hành Thông báo Ke hoạch 09/the-list-of-ways-china-kceps-tabs-on-citizens-isphát triển trí tuệ nhân tạo hệ tầm getting-longer, truy cập ngày 20/4/2019 15 Văn phòng trung ương Đảng cộng sản Trung nhìn đến năm 2030'6 Trong đó, công nghệ Quốc,"Ỷikến vèv iệ c đ y nhanh giám sát tín nhiệm còng dân,cánh háo ký luậtdoi 16 Quốc vụ viện Trung Quốc, Thông háo Ke hoạch người cótínnhiệmthắp pháttriên tr í tuệ nhântạo the hệ tầm nhìn đến Xem: http://www.xinhuanet.eom//politics/2016-09/ năm 2030 Xem: http://www.gov.cn/zhengce/ 25/c_l 119620719.htm, truy cập ngày 20/4/2019 77 NHÀ NƯỚC VÀ PHÁP LUẬT SƠ 7/2019 trí tuệ nhân tạo (AI) xác định từ camera CCTV, AI có nhiệm vụ công cụ giúp cải thiện đáng kể khả so sánh với sở liệu 1,3 tỷ dân, mức độ quản trị xã hội Trung Quốc Thật tính tốn để biết người theo vậy, với tham vọng xây dựng hệ thống dõi ai, phân biệt người có khả thu thập, quản lý thông tin, đám đông liên kết với sở đánh giá hành vi toàn 1,3 tỷ dân, hệ dừ liệu cá nhân Đây công việc mà không hay chế dựa thống scs không dựa vào, hay lực người làm Một nói cách khác buộc phải hình thành dựa ví dụ, người nằm danh sách việc ứng dụng thành tựu công đen qua số giao lộ định Bắc nghệ trí tuệ nhân tạo (AI) Kinh, AI nhận diện khn Có nhiều định nghĩa AI, mặt để phát người đám công ty công nghệ, cách ứng đông, đồng thời chiếu ảnh dụng AI khác đưa đến so ID người để cảnh báo lên định nghĩa khác Ví dụ, Intel, cơng ty hình lớn19 hàng đầu trí tuệ nhân tạo đưa cách định nghĩa AI*17, ngồi Amazon, Apple, Phân tích, theo dõi hành vi: Sau DeepMind, Google, IBM Microsoft nhận diện cá nhân, nhiệm vụ cơng ty có cách định nghĩa riêng AI điều khiển camera, micro hay Tuy nhiên, đơn giản bao quát nhất, phương tiện khác để theo dõi AI hiểu theo định nghĩa từ phát hành vi Hành vi việc điển Oxford là: Mộtchương trình muamáy mộttính loại hàng hóa siêu thị mà nhờ có phẩm chất hoạt động giống phát triển cơng nghệ, AI nhận trí tuệcủa người, khả biết qua hình ảnh xác loại hiếu ngơn ngữ, nhận diện hình ảnh hàng hóa nào, hay hành vi bóp còi q to học tập từnhững trải ln8 nhiều loại hành vi mà AI lệnh cho micro thu thập Cụ thể, để hiểu rõ AI gì, cần thơng Ngồi ra, hành vi mạng internet qua vai trò, nhiệm vụ AI hệ AI nhận biết, đánh giá thống scs bao gồm: thu thập Có thể kể đến đây, công ty Nhận dạng khuôn mặt: Đây cơng China’s SenseTime, startup AI có giá trị nghệ quan trọng hệ giới, cung cấp cho Chính thống scs Dựa hình ảnh thu thập phủ Trung Quốc giải pháp để giám sát, AI xem video, đọc nghe content/2017-07/20/content_5211996.htm, truy cập ngôn ngữ để loại bỏ video hay văn ngày 20/3/2019 17 Một số định nghĩa khác trí tuệ nhân tạo Xem: https://newsroom.inte 1.com/news/many-waysdefine-artificial-intelligence/#gs.7czxxl, truy cập ngày 20/3/2019 18 Xem: https://dictionary.cambridge.org/fr/ diction naire/anglais/artificial-intelligence, truy cập ngày 20/3/2019 78 19 Charlie Campbell, H ow C h in a Is U sin C re d it S co re s" to R e w a rd a n d P unish Its C itizens Xem: http://time.com/collection/davos-2019/5502 592/china-social-credit-score/, truy cập ngày 20/3/2019 ■ ỨNG DỤNG TRÍ TUỆ scs trước tiên xuất phát từ thiếu hiệu hệ thống pháp luật Nổi bật lên tình trạng khó khăn thi hành án dân sự, không hiệu bảo vệ quyền sở hữu trí tuệ, bảo vệ mơi trường đảm bảo an tồn thực phẩm Giới lãnh đạo Trung Quốc thừa nhận thực tế này, đồng thời xác định nhiệm vụ cải thiện tình trạng tuân thủ pháp luật nội dung nêu Hội nghị Trung ương năm 201422* Ngồi ra, có nhiều biểu cho thấy, phát triển nhanh chóng kinh tế Trung Quốc khơng kèm với tiến hành vi ứng xử, ý thức tự giác, tôn trọng giá trị văn hóa đời sống xã hội Như vậy, với vai trò của người dân Tiêu biểu hành vi AI nêu trên, nói rằng, từ thể ý thức khách du lịch thực tiễn xây dựng hệ thống scs Trung Trung Quốc ghi nhận khắp Quốc, khơng có cơng nghệ AI giới, hay ứng xử vơ cảm xã hội mà khơng xây dựng trì người Trung Quốc cảm hoạt động hệ thống theo dõi thấy chấp nhận chấm điểm công dân hệ thống scs Trong bối cảnh đó, phát triển mạnh Tác động tói quyền người mẽ công nghệ, cộng với thiếu vắng hệ thống tín nhiệm xã hội chế hữu hiệu bảo vệ quyền 3.1Hệ thống tín nhiệm xã hội nhìn từ người, tạo hội cho giới lãnh đạo chất nhà nước Trung Quốc nghĩ đến ý tưởng hệ Có thể nhận thấy, tính chất đặc trưng thống theo dõi kiểm sốt tồn diện công hệ thống scs áp đặt sức dân, nhằm đạt nhanh mục tiêu cải mạnh nhà nước lên mồi cá nhân CÓ nội dung khiêu dâm ngược với sách Chính phủ Trung Quốc20 Chấm điểm cơng dân: Dựa tồn liệu mà hệ thống thu thập được, so sánh với tất hành vi định danh tốt hay xấu, mồi hành vi AI có nhiệm vụ đánh giá chấm điểm cho công dân Hiện tại, thuật tốn Chính phũ Trung Quốc sử dụng để chấm điểm công dân Tuy nhiên, khối lượng liệu khổng lồ 1,3 tỷ công dân với hệ thống đa dạng hành vi người việc ứng dụng trí tuệ nhân tạo để đạt mục đích điều khơng thể tránh khỏi Trong nghiên cứu mình21, Rogier Creemers cho rằng, đời hệ thống papers.ssrn.com/sol3/papers.cfm?abstract_id=31757 92, truy cập ngày 20/4/2019 22 CCP Central Committee, Guanyu quanmian tuiịin 20 Meng Jing, World's most valuable start­ yifa zhiguo rúo'gan zhongda wentị de jueding up SenseTime eyes move into online censorship [Decision concerning Some Major Questions in South China Morning Post Comprehensively Moving Governing the Country Xem: https://www.scmp.com/tech/start-ups/article/ According to the Law Forward.] 28 October 2014 2143324/worlds-most-valuable-ai-start-eyes-moveXem: https://chinacopyrightandmedia.wordpress online-censorship, truy cập ngày 20/3/2019 com/2014/10/28/ccp-central-committee-decision21 Rogier Creemers, China's Social Credit System: concerning-some-major-questions-in-comprehensive An Evolving Practice o f Control, Leiden University ly-moving-governing-the-country-according-to-theVan Vollenhoven Institute, 2018 Xem: https:// law-forward/, truy cập ngày 20/5/2019 79 dụng m ộ t xẫ hởi vãn tiền hộ hcrn .Hạ V.nói each khác CĨ ih.ể nhìn nhân _sjrjra đời scs hệ hệ thống pháp luật không hiệu quả, hệ thống giáo dục không đạt mục tiêu xây dựng nên người văn minh, xã hội mà quyền người chưa coi trọng mức Rogier Creemers coi scs đon giản chế cung cấp phần thưởng hình phạt trả lời tương ứng cho hành động cá nhân, không dựa tính hợp pháp hành vi, mà dựa đạo đức hành động họ, bao gồm hành vi kinh tế, xã hội trị23 Có ba vấn đề đặt cách thức hoạt động hệ thống scs, là: (i) Chính quyền có quyền theo dõi ghi lại tất hoạt động sinh hoạt người dân hay khơng? (ii) Chính quyền có quyền đánh giá khía cạnh đạo đức tất hành vi kinh tế, xã hội trị người dân theo tiêu chuẩn đặt hay khơng? (iii) Chính quyền có quyền áp dụng chế tài người dân hình thức khơng quy định pháp luật hay không? Câu trả lời cho ba vấn đề khơng Ngay Hiến pháp mình, Trung Quốc đưa “sự tôn nghiêm thống pháp luật xã hội chủ nghĩa” thành nguyên tăc Theo đó, “tất quan nhà nước, lực lượng vũ trang, tất đảng trị, tổ chức công quyền 23 Rogier Creemers, C h in a ’s S o c ia l C re d it S ystem : An E vo lvin g P c tic e o f C o n tro l, tlđd 80 theo Miền pháp oáo luật kháo 2Wọi hành vi vi p M m Hiến phấp iụâí ỵ bị truy cứu”24 Cụ thể hơn, mồi cá nhân, hoạt động hệ thống scs, đặc biệt việc triển khai hình thức chế tài bao gồm hạn chế quyền lại, sinh hoạt, học tập hay công bố thông tin cá nhân khấp nơi xâm phạm quyền công dân quy định Hiến pháp Trung Quốc25*, bao gồm quyền tự trị (Điều 35), quyền tự thân thể (Điều 37), quyền tôn trọng báo vệ danh dự (Điều 38), quyền bất xâm phạm nơi (Điều 39) Như vậy, xem Nhà nước chế định nhân dân trao quyền thông qua Hiến pháp, pháp luật giới hạn quyền lực, không để Nhà nước vượt quyền hạn, xâm phạm vào quyền người hoạt động hệ thống scs dường ngược lại với chất Nhà nước Rõ ràng, scs đưa nhân dân từ vị trí trao cho Nhà nước quyền quản lý xã hội bảo vệ quyền cơng dân thành vị trí bị Nhà nước theo dõi, quản lý mặt Hơn nữa, quyền người lại, học tập, tự trị đáng phải Nhà nước bảo vệ lại trở thành phần thưởng cho người mà Nhà nước đánh giá có tín nhiệm cao bị Nhà nước tước bỏ bị đánh giá tín nhiệm thấp 24 Điều Hiến pháp Trung Quốc (bản tiếng Anh): http://www.npc.gov.cn/englishnpc/Constitution/2007 -1 l/15/content_1372963.htm, truy cập ngày 04/6/2019 25 Hiến pháp Trung Quốc (bản tiếng Anh): http://www.npc.gov.cn/englishnpc/Constitution/2007 -11/15/content_l 372963.htm, truy cập ngày 04/6/2019 ỬNG DỤNG TRÍ Chưa nói đến biểu xâm Hay nói cách khác, hoạt động hệ phạm quyền người rõ ràng AI thống scs hình thành nên định chế chấm điểm đưa chế tài xã hội Khi chế định xã hội cấm lại, hạn chế thực thi quyền sống tồn tại, việc dùng AI hay xảy Trung Quốc, việc công cụ để chấm điểm cho sử dụng ứng dụng AI để thu thập phân người hồn tồn bị nghi ngờ tính tích thơng tin cá nhân phút xâm minh bạch xác Như phạm quyền riêng tư Đây thực tế Yoshua Bengio, cha đẻ AI nhận xét xảy nhiều quốc gia Có thể kể việc ứng dụng AI hệ thống scs đến thông tin việc Trung Quốc rằng: “ Công nghệngày xuất công nghệ theo dõi AI ngồi ảnh hưởng khác, dẫn tớinguy tập trung quyền lực sựkhắp nơi giới Cụ thể như: Công nghệ nhận diện khuôn mặt bán cho giàu có phía Điều đỏ không công cho xã người”26 Bolivia, Ecuado, Peru27; 110.000 camera theo dõi kèm nhận diện khn mặt Nhìn rộng ra, nguy xã hội nơi bán cho Singapore28; hay tổng cộng có 54 người giàu có điểm tín nhiệm cao, người quốc gia tồn giới nhận nghèo có điểm tín nhiệm thấp, thị cơng nghệ Trung Quốc29* trường mua bán điểm tín nhiệm đời hay việc tất hành vi tốt thực hiện, Và không quốc gia theo dõi không xuất phát từ chất người công dân mình, tất cơng ty cơng mà mong muốn cải thiện điểm số nghệ hay tảng mạng xã hội lớn tín nhiệm cá nhân (như Google, Facebook, Apple, Nói tóm lại, theo chúng tơi, hoạt động Twitter) xem AI công cụ quan trọng hệ thống scs ngược lại chất, để thu thập, phân tích thơng tin người vai trò, chức Nhà nước, thông dùng để sử dụng, trao đổi thứ hàng qua đó, xâm phạm giá trị quyền hóa thu lợi nhuận Thậm chí, người cơng dân Do đó, cần cân Facebook cho thu thập tất nhắc lý biện minh cho tồn hoạt động hệ thống hệ thống scs 27 Charles Rollet, Ecuador’s All-Seeing Eye Is Made in âm phạm quyền riêng tư nhìn từ 2X hệ thống tin nhiệm xã hội số viễn cảnh 26 Jeremy Kahn, Deep Learning ‘Godfather’ Bengio Worries About China's Use of At, Bloomberg Xem: https://www.bloomberg.com/news/articles/2019-0202/deep-learning-godfather-bengio-worries-about-ch ina-s-use-of-ai, truy cập ngày 20/5/2019 China, Foreign Policy Xem: https://foreignpolicy com/2018/08/09/ecuadors-all-seeing-eye-is-made-in -china/, truy cập ngày 20/3/2019 28 TyJoplin, China’s Newest Global Export? Policing Dissidents, A1 Bawaba Xem: https://www.albawaba.com/news/china%E2%80%99 s-newest-global-export-policing-dissidents-1139230, truy cập ngày 20/3/2019 29 Steven Feldstein, How artificial intelligence systems could threaten democracy, The Conversation Xem: https://theconversation.com/ how-artificial-intelligence-systems-could-threaten-de mocracy-109698, truy cập ngày 20/3/2019 81 NHÀ NƯỚC VÀ PHÁP 7/2019 cã thông Ún cùa người không luận vàbào vệý kiến mà không can íhỉện mộttrong nến táng xã phài người dùng FacebookM hội dân chủ Tiếp theo đó, quyền riêng tư Trong bối cảnh đó, “Quyền riêng tư thòi đại cơng nghệ nội dung Right to Privacy” dù quy định báo cáo Cao ủy Liên hợp quốc nhân chung Điều 12 Tuyên ngôn giới quyền tháo luận toàn thể nhân quyền (UDHR) Điều 17 Công ước Liên họp quốc quốc tế quyền dân trị, Có thể thấy rằng, quyền riêng tư không đủ để đáp ứng yêu cầu thời đại công nghệ trở thành nội bảo vệ quyền trước sức phát triển mạnh dung quan trọng cấp thiết việc mẽ công nghệ thực thi quyền người phạm vi toàn Thực tế dẫn đến việc Đại hội đồng cầu Tuy nhiên, phần ìổng kết, Liên họp quốc phải thông qua Nghị Báo cáo Cao ủy Liên hợp quốc nhân số 68/176 vào tháng 12/2013 quyền số 27/37, ngày 30/06/201432 nêu, Quyền riêng tư thời đại công nghệ31 thực tiễn nhiều quốc gia thể Văn kiện cảnh báo: phát thiếu vắng luật pháp và/hoặc chế nhanh chóng cùa cơng nghệ thực thi đầy đủ bình diện quốc gia, kiện cho mọingười sử chế bảo vệ yếu chế giám dụng ứng dụng công nghệ thơng sát khơng hiệu quả, tất điều truyền thơng mới,tuy nhiên, đồng góp phần vào tình trạng thiếu trách thời nâng cao khả công ty vàcánhân trongviệc giám nhiệm can thiệp bất họp pháp vào quyền riêng tư33 đánh cắp thuthập cá nhân Điều Quyền riêng tư thời đại công nghệ viphạm hoặcdụng quyền baỏ gồm khía cạnh sau34: người, đặc biệtlà quyền riêng tư, nêu Điều 12 Tuyên ngôn (i) Quyền riêng tư hoạt động liên quốc tế người Điểu 17 lạc, giao tiếp: Là quyền riêng tư Công ước quốc tếvề quyềnemail, dân thoại, nội dung mạng xã điện trị".Quyền riêng tư theo hội hiểu là: “ Khơngaiphái chịu canthiệp tùy tiệnhoặc bất hợp pháp vào riêng gia đình, nơicưtrú,thư từ 32 UN Human Rights Council, The right privacy in quyền pháp luật bảo the digital age: Report o f tOffice hành vi đó.Việc thực riêng tư Nations High Commissionerfor Human Rights Xem: https://www.ohchr.org/Documents/Issues/ yếu tố đê thực tự ngôn 30 Xem: https://www.recode.nct/2018/4/20/17254312 /facebook-shadow-profiles-data-collection-non-users -mark-zuckerberg, truy cập ngày 20/3/2019 31 Xem: https://undocs.Org/A/RES/68/167, truy cập ngày 20/3/2019 82 DigitalAge/A-HRC-27-37_en.doc, truy cập ngày 20/3/2019 33 Paragrap 47, Báo cáo cùa Cao ủy Liên hợp quốc nhân quyền số 27/37, ngày 30/06/2014 34 Terence Craig and Mary E Ludloff, Privacy and Big Data, Published by O’Reilly Media, Inc., 1005 Gravenstein Highway North, Sebastopol, CA 95472, 2011, tr 14, 15 th ỦNG DỤNG TRÍ (ii) Quyền riêng tư hoạt động sống: Bao gồm tất hành vi sống, mua bán, lại, tìm kiếm thơng tin (iii) Quyền riêng tư nhân thân: Bao gồm hình ảnh, thơng tin cá nhân, thơng tin bạn bè, người thân Từ phân tích cho thấy, rõ ràng hệ thống scs hệ thống theo dõi công dân khắp giới, hay hệ thống thu thập thông tin người dùng công ty công nghệ hay táng mạng xã hội, dù với mục đích xâm phạm quyền riêng tư cá nhân Hậu tất yếu cùa việc xâm phạm quyền riêng tư môi trường sống mà quyền tự ngôn luận tảng khác xã hội dân chù bảo đảm Sử dụng hệ thống scs để đánh giá tín nhiệm cơng dân qua hạn chế, chí tước đoạt số quyền tự cá nhân, bán chất, việc giớilạn quyền người cách tuỳ tiện 3.Hệ thống tín nhiệm xã nguyên tắc giới hạn người Trong xã hội dân chủ, tảng cúa tự thiết lập ý tướng rằng, không quyền coi tuyệt đối Đòi hói đời sống xã hội, đặc biệt yêu cầu trật tự công cộng, dẫn đến hạn chế việc thực quyền cần thiết, bảo đảm cho quyền Học giả Pierre Bon cho rằng, trật tự công cộng “đảm nhận chức cụ thể giới hạn quyền tự điều mang tính bắt buộc chi giới hạn quyền cách tương xứng với điều mà việc bảo vệ quyền khác đòi hỏi”35 35 Pierrc BON, La dactylographice, Bordeaux I, 1975, tr 226 Giới hạn quyền (limitation of rights) theo ghi nhận UDHR điều ước quốc tế quyền người cho phép quốc gia thành viên đưa số điều kiện thực hiện/thụ hưởng số quyền người định Cụ thể, khoản Điều 29 UDHR qui định: "trong thực hiệncác tự cho cá nhân chi pháichịu hạn định nhằm mục đích háo đám thừa nhận tôntrọnđoi tự docủanhững ngưkhác phù với nhữngđòi hỏichính đáng đạo đức trật tự công cộng vù phồn vinh chung mộtxã hộidân ”36 Theo luật nhân quyền quốc tế pháp luật cúa nhiều quốc gia, biện pháp mà quan công quyền dự định áp dụng nhằm hạn chế quyền người cần phái tuân thủ điều kiện sau nhằm bảo đảm việc hạn chế phù họp37: Thứ nhất,việc giới hạn quyền phải qui định rõ ràng luật Ngoài ra, qui định cùa luật đặt giới hạn việc thực quyền cần phải: 1) Cơng khai với người dân có chi dẫn thích hợp để người hiểu hạn chế luật định quyền họ; 2) Qui định giới hạn quyền luật phái rõ ràng, xác để người dân hiểu rõ tự điều chỉnh hành vi họ; 3) Có biện pháp thích họp để phòng ngừa việc lạm 36 Bàn dịch cùa Trung tâm nghiên cứu quyền người, Học viện Chính trị quốc gia Hồ Chí Minh 37 Nguyền Hoàng Anh (Chú biên), Pháp luật hội.hộihọp hồ hình poliThesequn tự lụp cua ViệtN , xb Hồng Đức, 2015, tr.27 am 83 thê giớ NHÀ NƯỚC VÀ PHÁP LUẬT SÔ 7/2019 dụng qui định giới hạn quyền, tùy tiện đặt giới hạn mới38 Thứ hai, giới hạn đặt không trái với chất quyền bị giới hạn Yêu cầu nhằm bảo đảm giới hạn đặt không làm tổn hại đến khả cá nhân có liên quan việc thụ hưởng quyền Việc giới hạn quyền phải nhằm mục đích đáng/hợp pháp (legitimate objective); biện pháp hạn chế phải hợp lý (reasonable), cần thiết (necessary) tương xứng (proportion) Nghĩa giới hạn quyền phải: 1) Thật cần thiết để đạt mục tiêu hợp pháp, đáng; 2) Biện pháp áp dụng nhằm thực mục tiêu hợp pháp, đáng đó; 3) Các biện pháp hạn chế không nghiêm khắc mức độ cần thiết để đạt mục đích việc giới hạn quyền Thứ ba, đặt giới hạn quyền điều cần thiết xã hội dân chủ nhằm mục đích thúc đẩy phúc lợi chung cộng đồng để bảo vệ an ninh quốc gia, an toàn cộng đồng, trật tự công cộng, sức khỏe cộng đồng, đạo đức xã hội quyền tự người khác39 Thứ tư, nhằm hạn chế tuỳ tiện công quyền hạn chế quyền, tự công dân, cần phải có chế hữu hiệu để người dân bảo vệ quyền trường họp bị Nhà nước hạn chế, cấm cản 38 Nguyễn Minh Tuấn (Chủ biên), Giới đáng quyền người, quyền công dân pháp luật quốc tế pháp luật Việt Nam, Nxb Hồng Đức, 2015, tr.31 39 Nguyễn Minh Tuấn (Chủ biên), hạn đáng đổi với quyền người, quyền công dân pháp luật quốc tế pháp luật Việt Nam, sđd, tr.32 84 cách tuỳ tiện Cơ chế tồ án Bởi vì, từ lâu tồ án xem chốt chặn bảo vệ quyền người Trong đó, tồ án hành có vai trò quan trọng kiểm soát biện pháp hạn chế quyền người mà công quyền sử dụng, đánh giá biện pháp hạn chế quyền quyền đưa có thực lợi ích bảo đảm trật tự cơng cộng Trên thực tế, hành vi hạn chế quyền, tự quan hành tiến hành, thơng qua định hành Tồ án hành xem “người gác đền”, bảo đảm cho việc hạn chế quyền người tuân thủ nguyên tắc pháp luật liên quan Kết luận Thông qua việc nghiên cứu cách thức hoạt động, chất hệ thống scs vai trò AI hệ thống rằng, trí tuệ nhân tạo thành tựu quan trọng khoa học công nghệ, việc áp dụng để xây dựng hệ thống theo dõi, thu thập thông tin Chấm điểm công dân hệ thống scs Trung Quốc ngược lại với chất vốn có Nhà nước Đồng thời, tạo nguy xã hội mà quyền người không xem giá trị tự nhiên bản, không tôn trọng khơng có chế để bảo đảm thực thi Ngồi ra, việc ứng dụng trí tuệ nhân tạo việc thu thập thông tin cá nhân nhiều quốc gia hãng công nghệ, tảng mạng xã hội từng phút xâm phạm đến quyền riêng tư mồi cá nhân, từ nguy tạo xã hội mà quyền tự ngôn luận tảng khác xã hội dân chủ không bảo đảm  ... CHÂU: ứng dụng trí tuệ nhân tạo mơ hình đánh giá tín nhiệm xã hội (SCS) Trung Giá: 20.000đ Quốc tác động quyền người 74 ỨNG DỤNG TRÍ TUỆ NHÂN TẠO TRONG MƠ HÌNH ĐÁNH GIÁ TÍN NHIỆM Xà HỘI (SCS) Ở TRUNG. .. việc ứng dụng t nhân tạo quản lý tạo nguy thách thức đối quyền người Bài viết phân tích số tác động trí tuệ nhân tạo dối với người Trung Quốc, thông qua mô hình đánh giả tín nhiệm xã hội Abstract:... phát triển mạnh Tác động tói quyền người mẽ cơng nghệ, cộng với thiếu vắng hệ thống tín nhiệm xã hội chế hữu hiệu bảo vệ quyền 3.1Hệ thống tín nhiệm xã hội nhìn từ người, tạo hội cho giới lãnh