Cụ thể hơn, đối với mỗi cá nhân, hoạt động của hệ thống SCS, đặc biệt là việc triển khai các hình phạt bao gồm hạn chế quyền đi lại, sinh hoạt, học tập hay công bố thông tin cá nhân ở [r]
(1)ỨNG DỤNG TRÍ TUỆ NHÂN TẠO VÀ TÁC ĐỘNG TỚI QUYỀN CON NGƯỜI: GĨC NHÌN TỪ MƠ HÌNH ĐÁNH GIÁ TÍN NHIỆM XÃ HỘI
(SCS) Ở TRUNG QUỐC
ThS Bùi Phú Châu TS Nguyễn Văn Quân*
Dẫn nhập
Trí tuệ nhân tạo sử dụng ngày phổ biến quản lý nhà nước công cụ nâng cao hiệu quả, hiệu lực quản lý Tuy nhiên, việc ứng dụng trí tuệ nhân tạo quản lý có thể tạo nguy thách thức quyền người Bài viết phân tích số tác động trí tuệ nhân tạo quyền người Trung Quốc, thơng qua mơ hình đánh giá tín nhiệm xã hội
1.Khái quát hệ thống “tín nhiệm xã hội” Trung Quốc
Khái niệm “Hệ thống tín nhiệm xã hội” (社会信用体系322 -tiếng Trung) hay thường phương tây gọi “SCS- Social Credit System” Trung Quốc nhắc đến chính thức lần Đề cương xây dựng hệ thống Tín nhiệm xã hội giai đoạn 2014-2020 Quốc vụ viện Trung Quốc ban hành ngày 14/06/2014323
Về tổng thể lý thuyết, văn Chính phủ Trung Quốc định nghĩa SCS phận quan trọng hệ thống kinh tế thị trường xã hội chủ nghĩa hệ thống quản lý xã hội Trung Quốc Nền tảng SCS gồm hai yếu tố bản: (i) sở hạ tầng để chấm điểm tín nhiệm thành viên, (ii) hệ thống mạng lưới hoàn chỉnh chứa đựng hồ sơ tín nhiệm tất thành viên xã hội Mục đích SCS cải thiện hệ thống kinh tế thị trường xã hội chủ nghĩa, cải tiến đổi quản trị xã hội, tạo môi trường sống tích cực, nâng cao lực cạnh tranh chung quốc gia, thúc đẩy phát triển xã hội cải thiện văn minh Cụ thể, hệ thống đặt chế khen thưởng trừng phạt để khuyến khích tín nhiệm hạn chế không tín nhiệm để nhằm đạt kết nâng cao mức độ tín nhiệm nhận thức tín nhiệm xã hội
Mục tiêu đặt đến năm 2020 xây dựng hệ thống pháp luật, quy định tiêu chuẩn tín nhiệm xã hội, xây dựng hệ thống điều tra, đánh giá tín nhiệm tồn xã hội tảng chia sẻ thơng tin, hoàn thành hệ thống quản lý giám sát tín nhiệm, có hệ thống thị trường dịch vụ tín nhiệm tương đối hoàn chỉnh phát huy đầy đủ chế khuyến khích tín nhiệm trừng phạt thiếu tín nhiệm
* Khoa Luật - ĐHQG Hà Nội
322 Xem:
http://www.xinhuanet.com/2018-06/04/c_1122931164.htm?fbclid=IwAR2-80O7ygrtcTqjesDAzR7tjVi_KzIIjCLGBtytkGT1fDgX0p84nYumP2s, truy cập ngày 25/4/2019
323 Quốc vụ viện Trung Quốc, Đề cương xây dựng hệ thống Tín nhiệm Xã hội giai đoạn 2014-2020
(2)Tuy nhiên dự án hệ thống tín nhiệm (hoặc tín dụng) xã hội Trung Quốc cho có ý tưởng thí điểm bước từ trước văn lâu, có thể năm 2003324, hệ thống tín dụng tập đồn Alibaba – tập đồn cơng nghệ lớn Trung Quốc Năm 2007, Quốc vụ viện Trung Quốc Thông báo Hệ thống hội nghị liên để xây dựng hệ thống tín nhiệm xã hội bao gồm 15 quan nhà nước lĩnh vực thương mại, thuế ngân hàng325 Danh sách quan tham gia xây dựng hệ thống SCS đến năm 2012 tăng lên thành 35, đó không chỉ bao gồm lĩnh vực tài chính mà bao trùm lên tất lĩnh vực y tế, giáo dục, nơng nghiệp326 Ngồi ra, vài nghiên cứu cho rằng, SCS thí điểm đơn vị cấp tỉnh phía bắc Thượng Hải từ năm 2010327 Tuy nhiên, từ đó đến nay, nội dung khái quát hoàn toàn mang tính lý luận Đề cương xây dựng hệ thống Tín nhiệm xã hội giai đoạn 2014-2020, không có tuyên bố chính thức Chính phủ Trung Quốc mô tả cụ thể cách thức thu thập thông tin, nguồn liệu hay cách hoạt động tồn hệ thống SCS
Vì vậy, nghiên cứu, phân tích nỗ lực để hiểu hệ thống từ bên Trung Quốc phần lớn dựa hệ rõ ràng áp dụng hệ thống lên người dân, mà chủ yếu bị hạ điểm tín nhiệm hình phạt nó cơng dân bị Chính phủ Trung Quốc đánh giá có điểm tín nhiệm thấp
Một vài ví dụ cụ thể: cuối năm 2013, Tịa án Tối cao Trung quốc cơng bố trang web chính thức tên thơng tin 31 nghìn người cho chưa chậm hoàn thành nghĩa vụ trả nợ giao dịch dân Cùng với việc công bố thông tin cá nhân, người bị liệt vào danh sách bị từ chối đặt phòng khách sạn từ trở lên, không cho phép đặt vé máy bay, vé tàu cao tốc, bị tính phí cao đặt xe328 Đến thời điểm ngày 21/04/2019, người truy cập vào địa chỉ trang web http://zxgk.court.gov.cn/ Toàn án tối cao Trung Quốc có thể thấy danh sách 13 triệu trường hợp công dân nêu tên, 25,5 triệu lượt đặt vé máy bay, 5,7 triệu lượt đặt vé tàu hỏa bị từ chối329
324 Du Liqun, Xem xét việc xây dựng hệ thống tín nhiệm xã hội Trung Quốc từ góc độ xây dựng liêm
chính Alibaba, Trường Kinh tế, Đại học Bắc Kinh, 2014 Xem:
http://www.aliresearch.com/blog/article/detail/id/19744.html, truy cập ngày 20/4/2019
325 Quốc vụ viện Trung Quốc, Thông báo Hệ thống hội nghị liên để xây dựng hệ thống tín nhiệm xã
hội, 2007, Xem: http://www.gov.cn/gongbao/content/2007/content_632090.htm, truy cập ngày 20/4/2019
326 Xem: http://www.gov.cn/zwgk/2012-07/25/content_2191732.htm, truy cập ngày 20/4/2019
327 Audrey Murrell, Pushing the Ethical Boundaries of Big Data: A Look at China's Social Credit Scoring
System, University of Pittsburgh College of Business Administration, đăng Tạp chí Forbes ngày 31/07/2018
Xem: https://www.forbes.com/sites/audreymurrell/2018/07/31/pushing-the-ethical-boundaries-of-big-data-a-look-at-chinas-social-credit-scoring-system/#4ac3f4325e56, truy cập ngày 20/4/2019
328 Xem: https://www.businessinsider.com/chinas-tax-blacklist-shames-debtors-2017-12?r=UK, truy cập
ngày 20/4/2019
(3)Năm 2015, Ngân hàng nhân dân Trung Quốc thông báo việc cấp phép cho tám công ty lớn thử nghiệm xây dựng vận hành hệ thống tín dụng330 Nổi bật số đó Sesame Credit Tập đoàn Alibaba, hay Tencent với ứng dụng WeChat Dữ liệu từ ít 400 triệu người dùng tất tảng mua sắm trực tuyến, toán trực tuyến Alibaba hay 850 triệu người dùng Wechat sở để đánh giá giá điểm tín dụng cá nhân tham gia Hệ thống theo đó thu thập thơng tin mua sắm tốn người dùng, đưa hệ thống điểm tín dụng riêng sử dụng biện pháp khen thưởng mang tính thương mại ưu tiên đặt phòng khách sạn, ưu tiên sử dụng thử sản phẩm dựa mức điểm tín dụng người dùng
Năm 2018, đánh dấu bước hệ thống SCS đưa vào áp dụng thực tế Theo báo cáo thường niên Trung tâm Thông tin tín dụng công dân Quốc gia (NPCIC)331, có 17,5 triệu lượt mua vé máy bay 5,5 lượt mua vé tàu bị từ chối năm 2018 Trong số đó, Bắc Kinh cho công khai kế hoạch thu thập liệu để đến năm 2020 có thể chấm điểm tín nhiệm xã hội toàn 22 triệu dân thành phố có 10 thành phố khác có kế hoạch tương tự332 Để thực kế hoạch nói trên, chính quyền Trung Quốc cho lắp đặt 200 triệu camera giám sát mà theo báo chí Phương tây gọi kế hoạch “Khơng cịn góc khuất”333 Trong đó, người theo dõi 24/24, bước chân, hành động, món hàng cho vào giỏ theo dõi đánh giá để chấm điểm tín nhiệm cá nhân theo thời gian thực
Như vậy, từ biểu thông tin nói trên, có thể hiểu hệ thống tín nhiệm xã hội mà Chính phủ Trung Quốc có kế hoạch xây dựng cấu thành từ nhiều hệ thống đánh giá tín nhiệm công dân khác nhau, có chia sẻ thông tin hệ thống này334, không loại trừ khả lớn tương lai tổ chức thành hệ thống tín nhiệm công dân nằm quản lý nhà nước nêu Đề cương xây dựng hệ thống Tín nhiệm xã hội giai đoạn 2014-2020 Cụ thể, tồn ít hệ thống chấm điểm tín nhiệm công dân bao gồm: Danh sách đen Tòa án tối cao; Xếp hạng tín dụng cá nhân Ngân hàng Trung ương Trung Quốc; Hệ thống tín nhiệm công ty
330Xem: http://www.gov.cn/xinwen/2015-01/05/content_2800381.htm, truy cập ngày 20/4/2019 331 Xem:
https://www.theguardian.com/world/2019/mar/01/china-bans-23m-discredited-citizens-from-buying-travel-tickets-social-credit-system, truy cập ngày 20/4/2019
332Xem:
https://www.bloomberg.com/news/articles/2018-11-21/beijing-to-judge-every-resident-based-on-behavior-by-end-of-2020, truy cập ngày 20/3/2019
333Xem:
https://www.abc.net.au/news/2018-09-18/china-social-credit-a-model-citizen-in-a-digital-dictatorship/10200278
334 “Ý kiến việc đẩy nhanh việc giám sát tín nhiệm công dân, cảnh báo chế kỷ luật
(4)Alibaba, Tencent; Danh sách đen khách du lịch Bộ Văn hóa Du lịch Danh sách đen Ủy ban Cải cách Phát triển Quốc gia335
Về phía hình phạt, khơng biết có hình phạt dành cho công dân có điểm tín nhiệm thấp chính phủ Trung Quốc lên kế hoạch để đưa tương lai Tuy nhiên, ngày 25/09/2016, Tân Hoa Xã đăng toàn văn: “Ý kiến việc đẩy nhanh việc giám sát tín nhiệm công dân, cảnh báo chế kỷ luật người có tín nhiệm thấp” Văn phòng Trung ương Đảng Cộng sản Trung Quốc336 Theo đó, có thể hiểu hình phạt tiêu biểu người có tín nhiệm thấp nêu bao gồm nhóm chính sau: (i) hạn chế doanh nghiệp tham gia vào lĩnh vực, ngành kinh tế cụ thể; (ii) hạn chế doanh nghiệp hưởng trợ cấp, hỗ trợ chính phủ đối; (iii) hạn chế cá nhân giữ chức vụ cụ thể quan nhà nước, tổ chức tín dụng; (iv) Hạn chế cá nhân làm việc ngành nghề cụ thể dược phẩm, thực phẩm; (v) hạn chế việc trao giải thưởng cá nhân, đơn vị, hãng luật, ngân hàng; (vi) hạn chế cá nhân tham gia số giao dịch thị trường giao dịch bất động sản, tài nguyên thiên nhiên; (vii) Hạn chế tiêu dùng bao gồm sử dụng máy bay, tàu hỏa, khách sạn, du lịch, cải tạo nhà ở; (viii) hạn chế xuất cảnh
Như vậy, nói tóm lại, chất, Hệ thống tín nhiệm xã hội – SCS Trung Quốc hệ thống xây dựng để thu thập tồn thơng tin tất khía cạnh, bao gồm không giới hạn ở: hoạt động sinh hoạt, lại, mua sắm, toán, giải trí, kết bạn, biểu lộ ý chí mạng xã hội cá nhân, sở đó để đánh giá, cho điểm hành vi cá nhân, làm sở để đưa hình thức khuyến khích hành vi xem tốt, trừng phạt hành vi bị cho xấu theo tiêu chuẩn mà hệ thống đặt
2 Vai trị trí tuệ nhân tạo hệ thống SCS
Ngày 08/07/2017, Quốc vụ viện Trung Quốc ban hành Thông báo Kế hoạch phát triển trí tuệ nhân tạo hệ tầm nhìn đến năm 2030337 Trong đó, cơng nghệ trí tuệ nhân tạo (AI) xác định công cụ giúp cải thiện đáng kể khả mức độ quản trị xã hội Trung Quốc Thật vậy, với tham vọng xây dựng hệ thống có khả thu thập, quản lý thông tin, đánh giá hành vi toàn 1,3 tỷ dân, hệ thống SCS không dựa vào, hay nói cách khác buộc phải hình thành dựa việc ứng dụng thành tựu công nghệ trí tuệ nhân tạo (AI)
Có nhiều định nghĩa AI, đó công ty công nghệ, cách ứng dụng AI khác có thể đưa đến định nghĩa khác Ví dụ,
335Xem:
https://www.bloomberg.com/news/articles/2019-04-09/the-list-of-ways-china-keeps-tabs-on-citizens-is-getting-longer, truy cập ngày 20/4/2019
(5)Intel, công ty hàng đầu trí tuệ nhân tạo đưa cách định nghĩa AI338, Amazon, Apple, DeepMind, Google, IBM Microsoft công ty có cách định nghĩa riêng Tuy nhiên, để đơn giản bao quát nhất, AI có thể định nghĩa theo định nghĩa từ điển Oxford đó là: một chương trình máy tính có phẩm chất hoạt động giống trí tuệ con người, ví dụ khả hiểu ngơn ngữ, nhận diện hình ảnh học tập từ những trải nghiệm339
Cụ thể, để hiểu rõ AI gì, cần thơng qua vai trò, nhiệm vụ AI hệ thống SCS bao gồm:
Nhận dạng khuôn mặt: đây công nghệ quan trọng hệ thống SCS, dựa hình ảnh thu thập từ camera CCTV, AI có nhiệm vụ so sánh với sở liệu 1,3 tỷ dân, tính toán để biết người theo dõi ai, phân biệt người đám đông liên kết với sở liệu cá nhân Đây công việc mà không hay chế dựa lực người có thể làm Một ví dụ, người nằm danh sách đen qua số giao lộ định Bắc Kinh, AI nhận diện khuôn mặt để phát người đó đám đông, đồng thời chiếu ảnh số ID người để cảnh báo lên hình lớn340
Phân tích, theo dõi hành vi: sau nhận diện cá nhân, nhiệm vụ AI điều khiển camera, micro hay phương tiện khác để theo dõi phát hành vi Hành vi đó có thể việc mua loại hàng hóa siêu thị mà nhờ phát triển cơng nghệ, AI có thể nhận biết qua hình ảnh chính xác loại hàng hóa nào, hay hành vi bóp còi to nhiều loại hành vi mà AI có thể lệnh cho micro thu thập Ngoài ra, hành vi mạng Internet có thể AI nhận biết, đánh giá thu thập Có thể kể đến công ty China’s SenseTime, startup AI có giá trị giới, cung cấp cho chính phủ Trung Quốc giải pháp để giám sát, đó AI có thể xem video, đọc nghe ngôn ngữ để loại bỏ video hay văn có nội dung khiêu dâm ngược với chính sách Chính phủ Trung Quốc341
Chấm điểm cơng dân: Dựa tồn liệu mà hệ thống thu thập được, so sánh với tất hành vi định danh tốt hay xấu, hành vi AI có nhiệm vụ đánh giá chấm điểm cho công dân Hiện tại, khơng biết thuật tốn chính phủ Trung Quốc sử dụng để chấm điểm công dân
338Xem: https://newsroom.intel.com/news/many-ways-define-artificial-intelligence/#gs.7czxx1, truy cập
ngày 20/3/2019
339Xem: https://dictionary.cambridge.org/fr/dictionnaire/anglais/artificial-intelligence, truy cập ngày 20/3/2019 340Xem: http://time.com/collection/davos-2019/5502592/china-social-credit-score/, truy cập ngày 20/3/2019 341 Xem:
(6)như Tuy nhiên, với khối lượng liệu khổng lồ 1,3 tỷ công dân với hệ thống đa dạng hành vi người, việc ứng dụng trí tuệ nhân tạo để đạt mục đích điều tránh khỏi
Như vậy, với vai trò AI nêu trên, có thể nói rằng, từ thực tiễn xây dựng hệ thống SCS Trung Quốc, khơng có cơng nghệ AI khơng có thể xây dựng trì hoạt động hệ thống theo dõi chấm điểm công dân hệ thống SCS
3 Tác động tới quyền người hệ thống SCS 3.1 Hệ thống SCS nhìn từ chất nhà nước
Có thể nhận thấy tính chất đặc trưng hệ thống SCS áp đặt thô bạo sức mạnh nhà nước lên cá nhân
Trong nghiên cứu mình342, Rogier Creemers cho rằng, đời hệ thống SCS trước tiên xuất phát từ thiếu hiệu hệ thống pháp luật Nổi bật lên đó tình trạng khó khăn thi hành án dân sự, không hiệu bảo vệ quyền sở hữu trí tuệ, bảo vệ mơi trường đảm bảo an tồn thực phẩm Giới lãnh đạo Trung Quốc thừa nhận thực tế này, đồng thời xác định nhiệm vụ cải thiện tình trạng tuân thủ pháp luật nội dung nêu Hội nghị Trung ương năm 2014343
Ngoài ra, có nhiều biểu cho thấy rằng, phát triển nhanh chóng kinh tế Trung Quốc không kèm với tiến hành vi ứng xử, ý thức tự giác, tôn trọng giá trị văn hóa đời sống xã hội người dân Tiêu biểu hành vi thể ý thức khách du lịch Trung Quốc ghi nhận khắp giới, hay ứng xử vô cảm xã hội mà chính người Trung Quốc cảm thấy chấp nhận
Trong bối cảnh đó, phát triển mạnh mẽ công nghệ, cộng với thiếu vắng chế hữu hiệu bảo vệ quyền người, tạo hội cho giới lãnh đạo Trung Quốc nghĩ đến ý tưởng hệ thống theo dõi kiểm sốt tồn diện cơng dân, nhằm nhanh đạt mục tiêu cải thiện tuân thủ pháp luật xây dựng xã hội văn minh tiến Hay nói cách khác, có thể nhìn nhận đời SCS hậu hệ thống pháp luật không hiệu quả, hệ thống giáo dục không đạt mục tiêu xây dựng nên người văn minh,
342 Rogier Creemers, China’s Social Credit System: An Evolving Practice of Control, Leiden University -
Van Vollenhoven Institute, 2018 Xem:: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3175792, truy cập ngày 20/4/2019
343 CCP Central Committee Guanyu quanmian tuijin yifa zhiguo ruogan zhongda wenti de jueding [Decision
concerning Some Major Questions in Comprehensively Moving Governing the Country According to the Law Forward.] 28 October 2014 Translation available:
https://chinacopyrightandmedia.wordpress.com/2014/10/28/ccp-central-committee-decisionconcerning- some-major-questions-in-comprehensively-moving-governing-the-country-according-tothe-
(7)trong xã hội mà quyền người ít coi trọng không có chế bảo vệ Rogier Creemers coi SCS đơn giản chế cung cấp phần thưởng hình phạt trả lời tương ứng cho hành động cá nhân, không chỉ dựa tính hợp pháp hành vi, mà dựa đạo đức hành động họ, bao gồm hành vi kinh tế, xã hội chính trị344
Có ba vấn đề đặt cách thức hoạt động hệ thống SCS, đó là: (i)Chính quyền có quyền theo dõi ghi lại tất hoạt động sinh hoạt người dân hay không?
(ii) Chính quyền có quyền đánh giá khía cạnh đạo đức tất hành vi kinh tế, xã hội chính trị người dân theo tiêu chuẩn chính đặt hay không?
(iii) Chính quyền có quyền xử phạt người dân hình thức khơng quy định pháp luật thực hay không?
Câu trả lời cho ba vấn đề không Rõ ràng không có khái niệm nhà nước dân chủ giới chấp nhận tạo cho phép chính quyền tồn Ngay chính Hiến pháp mình, Trung Quốc đưa “sự tơn nghiêm thống pháp chế” lên thành nguyên tắc Ở đó, hành vi quan nhà nước phải dựa quy định pháp luật hành vi vi phạm hiến pháp, pháp luật bị truy cứu345
Cụ thể hơn, cá nhân, hoạt động hệ thống SCS, đặc biệt việc triển khai hình phạt bao gồm hạn chế quyền lại, sinh hoạt, học tập hay công bố thông tin cá nhân khắp nơi xâm phạm thơ bạo lên tồn quyền công dân, dù ít ỏi quy định Hiến pháp Trung quốc, bao gồm quyền tự chính trị (Điều 35), quyền tự thân thể (Điều 37), quyền tôn trọng bảo vệ danh dự (Điều 38), quyền bất khả xâm phạm nơi (Điều 39)…
Như vậy, xem nhà nước chế định nhân dân trao quyền thông qua Hiến pháp, pháp luật giới hạn quyền lực, không để nhà nước vượt quyền hạn, xâm phạm vào quyền người hoạt động hệ thống SCS ngược lại hoàn toàn với chất đó nhà nước Rõ ràng SCS đưa nhân dân từ vị trí trao cho nhà nước quyền quản lý xã hội bảo vệ quyền công dân thành vị trí bị nhà nước theo dõi, quản lý mặt Nguy hiểm hơn, quyền người lại, học tập, tự chính trị đáng phải nhà nước bảo vệ lại trở thành phần thưởng cho người mà nhà nước đánh giá có tín nhiệm cao sẵn sàng bị nhà nước tước bỏ từ người bị đánh giá tín nhiệm thấp
Hay nói cách khác, hoạt động hệ thống SCS hình thành nên định
344 Rogier Creemers, China’s Social Credit System: An Evolving Practice of Control, Tlđd
(8)chế xã hội mới, không nhà nước theo nghĩa Kể chế định xã hội có thể tồn tại, việc dùng AI hay công cụ để chấm điểm cho người hoàn toàn có thể bị nghi ngờ tính minh bạch chính xác Như chính Yoshua Bengio, cha đẻ AI nhận xét việc ứng dụng AI hệ thống SCS rằng: “cơng nghệ ngày đại, ngồi ảnh hưởng khác, có thể dẫn tới nguy tập trung quyền lực giàu có phía Điều khơng cơng cho xã hội người”346 Nhìn rộng ra, nguy xã hội nơi người giàu có điểm tín nhiệm cao, người nghèo có điểm tín nhiệm thấp, thị trường mua bán điểm tín nhiệm đời hay việc tất hành vi tốt thực hiện, không xuất phát từ chất người mà chỉ mong muốn cải thiện điểm số tín nhiệm cá nhân phải đặt
Nói tóm lại, hoạt động hệ thống SCS hoàn toàn ngược lại chất, vai trị, chức nhà nước thơng qua đó xâm phạm nghiêm trọng lên giá trị quyền người công dân Do đó, có lý có thể đưa để biện minh cho tồn hoạt động hệ thống hệ thống SCS xã hội loài người
3.2 Xâm phạm quyền riêng tư nhìn từ hệ thống SCS số viễn cảnh Rõ ràng SCS hệ thống cực đoan, nó dùng để mơ tả xấu xa việc áp dụng AI quản lý xã hội cách theo dõi, chấm điểm trừng phạt tất công dân
Chưa nói đến biểu xâm phạm quyền người rõ ràng AI chấm điểm đưa hình phạt cấm lại, hạn chế thực thi quyền sống xảy Trung Quốc, việc sử dụng ứng dụng AI để thu thập phân tích thông tin cá nhân phút xâm phạm quyền riêng tư thực tế nguy hiểm xảy không chỉ Trung Quốc Có thể kể đến thông tin việc Trung Quốc xuất công nghệ theo dõi AI khắp nơi giới Cụ thể như: công nghệ nhận diện khuôn mặt bán cho Bolivia, Ecuado, Peru347; 110.000 camera theo dõi kèm nhận diện khuôn mặt bán cho Singapore348; hay tổng cộng có 54 quốc gia tồn giới nhận cơng nghệ Trung Quốc349
Và không chỉ quốc gia theo dõi công dân mình, tất cơng ty cơng nghệ hay tảng mạng xã hội lớn Google, Facebook,
346 Xem:
https://www.bloomberg.com/news/articles/2019-02-02/deep-learning-godfather-bengio-worries-about-china-s-use-of-ai
347Xem: https://foreignpolicy.com/2018/08/09/ecuadors-all-seeing-eye-is-made-in-china/, truy cập ngày
20/3/2019
348 Xem:
https://www.albawaba.com/news/china%E2%80%99s-newest-global-export-policing-dissidents-1139230, truy cập ngày 20/3/2019
349Xem: https://theconversation.com/how-artificial-intelligence-systems-could-threaten-democracy-109698,
(9)Apple, Twitter xem AI công cụ quan trọng để thu thập, phân tích thông tin người dùng để sử dụng, trao đổi thứ hàng hóa có thể thu lợi nhuận Thậm chí, Facebook cho thu thập tất thông tin người người dùng Facebook350
Trong bối cảnh đó, “Quyền riêng tư – Right to Privacy” dù quy định chung Điều 12, Tuyên ngôn quốc tế quyền người Điều 17, Công ước quốc tế quyền chính trị dân sự, không đủ để đáp ứng yêu cầu bảo vệ quyền riêng tư trước sức phát triển mạnh mẽ công nghệ
Thực tế đó dẫn đến việc Đại hội đồng Liên Hợp Quốc phải thông qua Nghị số 68/176 vào tháng 12/2013 Quyền riêng tư thời đại công nghệ351 Văn kiện cảnh báo: “sự phát triển nhanh chóng cơng nghệ tạo điều kiện cho người giới sử dụng ứng dụng công nghệ thông tin truyền thơng mới, nhiên, đồng thời nâng cao khả phủ, công ty cá nhân việc giám sát, đánh cắp thu thập liệu cá nhân Điều vi phạm lạm dụng quyền người, đặc biệt quyền riêng tư, nêu Điều 12 Tuyên ngôn quốc tế quyền người và Điều 17 Công ước quốc tế quyền trị dân sự” Quyền riêng tư theo đó định nghĩa là: “không phải chịu can thiệp tùy tiện bất hợp pháp vào riêng tư, gia đình, nơi cư trú, thư từ quyền pháp luật bảo vệ trước hành vi Việc thực quyền riêng tư yếu tố để thực hiện quyền tự ngôn luận bảo vệ ý kiến mà không bị can thiệp, những tảng xã hội dân chủ” Tiếp theo đó, quyền riêng tư thời đại công nghệ nội dung báo cáo Cao ủy Liên Hợp Quốc nhân quyền thảo luận toàn thể UN
Có thể thấy rằng, quyền riêng tư thời đại công nghệ trở thành nội dung quan trọng cấp thiết việc thực thi quyền người phạm vi toàn cầu Tuy nhiên, phần tổng kết, Báo cáo Cao ủy Liên Hợp Quốc nhân quyền số 27/37, ngày 30/06/2014352 nêu, thực tiễn nhiều quốc gia thể thiếu vắng luật pháp và/ chế thực thi đầy đủ bình diện quốc gia, chế bảo vệ yếu chế giám sát khơng hiệu quả, tất điều góp phần vào tình trạng thiếu trách nhiệm can thiệp bất hợp pháp vào quyền riêng tư.353
Để làm rõ, quyền riêng tư thời đại công nghệ có thể hiểu bao gồm khía cạnh sau sau354:
350Xem:
https://www.recode.net/2018/4/20/17254312/facebook-shadow-profiles-data-collection-non-users-mark-zuckerberg, truy cập ngày 20/3/2019
351Xem: https://undocs.org/A/RES/68/167, truy cập ngày 20/3/2019
352 https://www.ohchr.org/Documents/Issues/DigitalAge/A-HRC-27-37_en.doc
353 Paragrap 47, Báo cáo Cao ủy Liên hợp quốc nhân quyền số 27/37, ngày 30/06/2014
354 Terence Craig and Mary E Ludloff, Privacy and Big Data, Published by O’Reilly Media, Inc., 1005
(10)(i) Quyền riêng tư hoạt động liên lạc, giao tiếp: quyền riêng tư email, điện thoại, nội dung mạng xã hội…
(ii)Quyền riêng tư hoạt động sống: bao gồm tất hành vi sống, mua bán, lại, tìm kiếm thơng tin…
(iii) Quyền riêng tư nhân thân: bao gồm hình ảnh, thơng tin cá nhân, thông tin bạn bè, người thân…
Như vậy, nhìn từ định nghĩa quyền riêng tư Liên Hợp Quốc cụ thể hóa khía cạnh nêu trên, rõ ràng hệ thống SCS hệ thống theo dõi công dân khắp giới, hay hệ thống thu thập thông tin người dùng công ty công nghệ hay tảng mạng xã hội, dù với mục đích xâm phạm ngang nhiên thô bạo quyền riêng tư cá nhân Hậu tất yếu việc xâm phạm quyền riêng tư môi trường sống mà quyền tự ngôn luận tảng khác xã hội dân chủ đảm bảo Sử dụng hệ thống SCS để đánh giá tín nhiệm công dân qua đó hạn chế, chí tước đoạt số quyền tự cá nhân chất việc giới hạn quyền người cách tuỳ tiện
3.3 SCS nguyên tắc giới hạn quyền người
Trong xã hội dân chủ, tảng tự thiết lập ý tưởng không quyền có thể coi tuyệt đối Đòi hỏi đời sống xã hội, đặc biệt yêu cầu trật tự công cộng, dẫn đến hạn chế việc thực quyền cần thiết cho việc bảo vệ trật tự chung - vốn bảo đảm cho quyền Pierre Bon cho rằng, trật tự công cộng “đảm nhận chức cụ thể chỉ giới hạn quyền tự điều bắt buộc chỉ giới hạn quyền cách tương xứng với điều mà việc bảo vệ quyền khác đòi hỏi”355
Giới hạn quyền (limitation of rights) theo ghi nhận Tuyên ngôn giới nhân quyền 1948 (UDHR) điều ước quốc tế quyền người cho phép quốc gia thành viên đưa số điều kiện với việc thực hiện/thụ hưởng số quyền người định Cụ thể, khoản Điều 29 UDHR qui định: “Mỗi người thực quyền tự cho cá nhân chỉ phải chịu những hạn chế luật định nhằm mục đích bảo đảm việc thừa nhận sự tôn trọng quyền tự người khác phù hợp với những địi hỏi đáng đạo đức, trật tự công cộng phồn vinh chung trong xã hội dân chủ”356
Theo luật nhân quyền quốc tế pháp luật nhiều quốc gia, biện pháp mà quan công quyền dự định áp dụng nhằm hạn chế quyền
355 Pierre BON, La police municipale, Thèse dactylographiée, Bordeaux I, 1975, tr 226
(11)người cần phải tuân thủ điều kiện sau nhằm đảm bảo việc hạn chế phù hợp357:
(1) Việc giới hạn quyền phải qui định rõ ràng luật Không chỉ vậy, qui định luật đặt giới hạn việc thực quyền cần phải: 1) Công khai với người dân có chỉ dẫn thích hợp để người có thể hiểu hạn chế luật định quyền họ; 2) Qui định giới hạn quyền luật phải chính xác, rõ ràng để người dân có thể hiểu rõ tự điều chỉnh hành vi họ; 3) Có biện pháp thích hợp để phòng ngừa việc lạm dụng qui định giới hạn quyền, tùy tiện đặt giới hạn
(2) Giới hạn đặt không trái với chất quyền bị giới hạn Yêu cầu nhằm đảm bảo giới hạn đặt không làm tổn hại đến khả cá nhân có liên quan việc thụ hưởng quyền đó Việc giới hạn quyền phải nhằm mục đích chính đáng/hợp pháp (legitimate objective); biện pháp hạn chế phải hợp lý (reasonable), cần thiết (necessary) tương xứng (proportion) Nghĩa giới hạn quyền phải: 1) Thật cần thiết để đạt mục tiêu hợp pháp, chính đáng; 2) Biện pháp áp dụng chỉ để thực mục tiêu hợp pháp, chính đáng đó; 3) Các biện pháp hạn chế không nghiêm khắc mức độ cần thiết để đạt mục đích việc giới hạn quyền
(3) Chỉ đặt giới hạn quyền điều đó cần thiết xã hội dân chủ nhằm mục đích thúc đẩy phúc lợi chung cộng đồng để bảo vệ an ninh quốc gia, an toàn cộng đồng, trật tự công cộng, sức khỏe cộng đồng, đạo đức xã hội quyền tự người khác
Ngoài ra, để hạn chế tuỳ tiện công quyền hạn chế quyền, tự công dân, cần phải có chế hữu hiệu để người dân bảo vệ quyền trường hợp bị nhà nước hạn chế, cấm cản cách tuỳ tiện Cơ chế đó chính Tồ án Bởi vì, từ lâu tồ án xem chốt chặn bảo vệ quyền người Trong đó, án hành chính có vai trị quan trọng kiểm sốt biện pháp hạn chế quyền người mà công quyền sử dụng, đánh giá biện pháp hạn chế quyền chính quyền đưa có thực vì lợi ích bảo đảm trật tự cơng cộng Bởi vì, thực tế, hành vi hành vi hạn chế quyền, tự quan hành chính tiến hành, thông qua định hành chính Toà án hành chính xem “người gác đền”, đảm bảo cho việc hạn chế quyền người tuân thủ nguyên tắc pháp luật liên quan
4 Kết luận
Thông qua việc nghiên cứu cách thức hoạt động, chất hệ thống SCS
357 Nguyễn Hoàng Anh (Chủ biên), Pháp luật quyền tự lập hội, hội họp hồ bình giới
(12)cũng vai trò AI hệ thống có thể chỉ rằng, trí tuệ nhân tạo thành tựu quan trọng khoa học công nghệ, việc áp dụng nó để xây dựng hệ thống theo dõi, thu thập thông tin chấm điểm công dân hệ thống SCS Trung Quốc hoàn toàn ngược lại với chất vốn có nhà nước Đồng thời, tạo nguy hệ hình xã hội mà đó quyền người không xem giá trị tự nhiên bản, không tôn trọng không có chế để đảm bảo việc thực thi
Ngoài ra, việc ứng dụng AI việc thu thập thông tin cá nhân nhiều quốc gia hãng công nghệ, tảng mạng xã hội phút xâm phạm đến quyền riêng tư cá nhân, từ đó tạo nguy xã hội mà quyền tự ngôn luận tảng khác xã hội dân chủ không đảm bảo
Tài liệu tham khảo
1 Nguyễn Hoàng Anh (Chủ biên), Pháp luật quyền tự lập hội, hội họp hồ bình giới Việt Nam, Nxb Hồng Đức, 2015
2 Rogier Creemers, China’s Social Credit System: An Evolving Practice of Control, Leiden University - Van Vollenhoven Institute, 2018 Xem:: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3175792, truy cập ngày 20/4/2019
3 CCP Central Committee Guanyu quanmian tuijin yifa zhiguo ruogan zhongda wenti de jueding [Decision concerning Some Major Questions in Comprehensively Moving Governing the Country According to the Law Forward.] 28 October 2014 Translation available:
https://chinacopyrightandmedia.wordpress.com/2014/10/28/ccp-central-committee-decisionconcerning- some-major-questions-in-comprehensively-moving-governing-the-country-according-tothe-law-forward/
4. Terence Craig and Mary E Ludloff, Privacy and Big Data, Published by O’Reilly Media, Inc., 1005 Gravenstein Highway North, Sebastopol, CA 95472, 2011
5 Đề cương xây dựng hệ thống Tín nhiệm Xã hội giai đoạn 2014-2020, Quốc vụ viện Trung Quốc, 2014 Xem: http://www.gov.cn/zhengce/content/2014-06/27/content_8913.htm, truy cập ngày 20/3/2019
6 Du Liqun, Xem xét việc xây dựng hệ thống tín nhiệm xã hội Trung Quốc từ góc độ xây dựng liêm chính Alibaba, Trường Kinh tế, Đại học Bắc Kinh, 2014 Xem:
(13)7 Audrey Murrell, Pushing the Ethical Boundaries of Big Data: A Look at China's Social Credit Scoring System, University of Pittsburgh College of Business Administration, đăng Tạp chí Forbes ngày 31/07/2018
8 Quốc vụ viện Trung Quốc, Thông báo Hệ thống hội nghị liên để xây dựng hệ thống tín nhiệm xã hội, 2007, Xem:
http://www.xinhuanet.com/2018-06/04/c_1122931164.htm?fbclid=IwAR2-80O7ygrtcTqjesDAzR7tjVi_KzIIjCLGBtytkGT1fDgX0p84nYumP2s, http://www.gov.cn/zhengce/content/2014-06/27/content_8913.htm, b http://zxgk.court.gov.cn/ http://www.aliresearch.com/blog/article/detail/id/19744.html, http://www.gov.cn/gongbao/content/2007/content_632090.htm, : http://www.gov.cn/zwgk/2012-07/25/content_2191732.htm, https://www.forbes.com/sites/audreymurrell/2018/07/31/pushing-the-ethical-boundaries-of-big-data-a-look-at-chinas-social-credit-scoring-system/#4ac3f4325e56, https://www.businessinsider.com/chinas-tax-blacklist-shames-debtors-2017-12?r=UK, http://www.gov.cn/xinwen/2015-01/05/content_2800381.htm, https://www.theguardian.com/world/2019/mar/01/china-bans-23m-discredited-citizens-from-buying-travel-tickets-social-credit-system, https://www.bloomberg.com/news/articles/2018-11-21/beijing-to-judge-every-resident-based-on-behavior-by-end-of-2020, https://www.abc.net.au/news/2018-09-18/china-social-credit-a-model-citizen-in-a-digital-dictatorship/10200278 https://www.bloomberg.com/news/articles/2019-04-09/the-list-of-ways-china-keeps-tabs-on-citizens-is-getting-longer, : http://www.xinhuanet.com//politics/2016-09/25/c_1119620719.htm, : http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm, https://newsroom.intel.com/news/many-ways-define-artificial-intelligence/#gs.7czxx1, : https://dictionary.cambridge.org/fr/dictionnaire/anglais/artificial-intelligence, http://time.com/collection/davos-2019/5502592/china-social-credit-score/, https://www.scmp.com/tech/start-ups/article/2143324/worlds-most-valuable-ai-start-eyes-move-online-censorship, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3175792, https://foreignpolicy.com/2018/08/09/ecuadors-all-seeing-eye-is-made-in-china/, https://www.albawaba.com/news/china%E2%80%99s-newest-global-export-policing-dissidents-1139230, https://theconversation.com/how-artificial-intelligence-systems-could-threaten-democracy-109698, https://www.recode.net/2018/4/20/17254312/facebook-shadow-profiles-data-collection-non-users-mark-zuckerberg, : https://undocs.org/A/RES/68/167, https://chinacopyrightandmedia.wordpress.com/2014/10/28/ccp-central-committee-decisionconcerning- some-major-questions-in-comprehensively-moving-governing-the-country-according-tothe-law-forward/