Công nghệ deepface

bài tập lớn môn Đạo đức máy tính đề tài: Đạo đức AI- trách nhiệm của sinh viên và công ty công nghệ, Công nghệ Deepfake nghiên cứu sâu về công nghệ Deepfake thời đại 4.0

NGUYỄN VĂN THOAN (2121050829) LÊ VĂN HÙNG (2121050870)

LÊ ANH TRUNG (2121050833)

NGUYỄN VIỆT HOÀNG (2121050485)

ĐẠO ĐỨC AI–TRÁCH NHIỆM CỦASINH VIÊN VÀ CÔNG TY CÔNG NGHỆ

CÔNG NGHỆ DEEPFAKE

BÀI TẬP LỚN

MÔN: ĐẠO ĐỨC MÁY TÍNH – 7080105

MỤC LỤC

MỤC LỤC IIDANH MỤC CÁC HÌNH VẼ III

1.4.1 Trong lĩnh vực nghệ thuật và sáng tạo 7

1.4.2 Trong lĩnh truyền thông và quảng cáo 8

1.4.3 Trong lĩnh vực y tế và y học 9

1.4.4 Trong linh vực an ninh và phòng chống tội phạm 10

1.5.Rủi ro và hậu quả của deepfake 11

CHƯƠNG 2 CƠ SỞ LÝ THUYẾT 14

1.6.Vấn đề đạo đức trong sử dụng AI 15

1.7.Cách chèn nhãn cho bảng biểu và hình vẽ 17

1.8.Hướng dẫn chèn công thức và nhãn 21

CHƯƠNG 3 CÁC BIỆN PHÁP KIỂM SOÁT VÀ NGĂN CHẶN DEEPFAKE 25

3.1 Phát triển công nghệ phát hiện deepfake: 25

3.1.1 Các nhà nghiên cứu của tập đoàn Intel đã phát triển công nghệ như thếnào? 25

3.1.2 Nâng cao quyền riêng tư và đạo đức trong môi trường trực tuyến: 26

1.9.4.2 Quy định pháp lý về việc sử dụng deepfake 28

1.9.1 4.2.1 Công nghệ deepfake tiềm ẩn nhiều nguy cơ cho xã hội: 28

1.9.2 4.2.2 Công nghệ đằng sau deepfake 29

1.9.3 4.2.3 Lợi dụng công nghệ deepfake 30

1.9.4 4.2.4 Ảnh hưởng của công nghệ deepfake với hoạt động thực thi phápluật311.9.5 4.2.5 Phát hiện của các bên liên quan đối với deepfake 32

1.9.6 4.2.6 Kết luận 33

1.10.5.3 Tăng cường giáo dục và nhận thức công chúng 34

1.10.1.5.3.1 Lợi ích của công nghệ deepfake: 34

1.10.2.5.3.2 Nguy cơ và rủi ro của nó: 35

1.10.3.5.3.3 Đối mặt với những nguy cơ và rủi ro trên, cần có các biệnpháp và giải pháp để bảo vệ, phòng tránh lừa đảo từ công nghệ Deepfake: 36

CHƯƠNG 4 HƯỚNG PHÁT TRIỂN VÀ TƯƠNG LAI CỦA DEEPFAKE 38

4.1 Ứng dụng tiềm năng của deepfake trong nghiên cứu và giáo dục 40

4.2 Cần thiết có quy định rõ ràng về việc sử dụng deepfake 42

4.3 sự phát triển của công nghệ AI và tác động tới đạo đức 43

CHƯƠNG 5 45

KẾT LUẬN 47

Tài liệu tham khảo 49

PHỤ LỤC 51

DANH MỤC CÁC HÌNH VẼ

Hình 1.1-1 Thay đổi khuân mặt bằng công nghệ deepfake 4

Hình 1.1-2 Eternity - nhóm nhạc ảo được tạo ra bởi công nghệ deepfake 5

Hình 1.3-1: Deepfake tạo nên bản thay thế của một đối tượng dựa trên một bản mẫuchất lượng cao 8

Hình 1.4-1 Deepfake tái hiện lại diễn viên Peter Cushing trong vai Grand MoffTarkin 8

Hình 1.4-2 Bruce Willis, cựu diễn viên người Mĩ (bên trái) xuất hiện trong mộtvideo quảng cáo của Nga nhờ công nghệ Deepfake 9

Hình 1.4-3 Thương hiệu có thể dễ dàng điều chỉnh sao cho phù hợp với trảinghiệm, sở thích và đặc điểm của khách hàng mục tiêu - chẳng hạn như màu dacủa họ 10

Hình 1.4-4.Hình ảnh minh họa áp dụng deepfake trong y tế và y học 11

Hình 1.5-1 Một người nổi tiếng là nạn nhân của trí tuệ nhân tao 13

Hình 1.5-2 Giả mạo công an để lấy thông tin, số điện thoại người dân 14

MỞ ĐẦU

Lý do chọn đề tài

Khi mà đời sống vật chất của con người ngày càng đầy đủ hơn thì cái người taquan tâm sau đó chính là yếu tố tinh thần Cùng với sự phát triển không ngừng của cáclĩnh vực như văn hóa, công nghệ, khoa học kỹ thuật Đặc biệt trong cuộc cách mạngchuyển đổi số các công nghệ hiện đại tiên tiến được áp dụng vào đời sống của con

người đã làm thay đổi đi rất nhiều về cả hai mặt là mặt tốt cũng như mặt xấu Trong đóDeepfake là ví dụ điển hình

Deepfake (một từ ghép của “deep learning” và “fake”) là một kỹ thuật để tổnghợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI) Nó được sử dụng để kết hợp vàchồng các hình ảnh và video hiện có lên các hình ảnh hoặc video nguồn bằng cách sửdụng một kỹ thuật học máy (machine learning) được gọi là Generative AdversarialNetwork (tạm dịch là mạng chống đối tạo sinh) Cụm từ Deepfake đã được đặt ra vàonăm 2017.Nói nôm na, dễ hiểu thì deepfake là những nội dung giả được tạo ra từ AI, cóthể là hình ảnh, video, thậm chí là âm thanh mà rất khó phân biệt thật giả bằng mắt/taitheo cách thông thường [CITATION Placeholder1 \l 1033 ]

ảnh 1 giả mạo bằng deepfake[CITATION Placeholder1 \l 1033 ]

Xuất phát từ thực tế, nhóm em xin chọn đề tài “Deepfake” làm đề tài nghiên cứu

Tình hình nghiên cứu

Deepfake luôn là một chủ đề nóng bỏng trong cuộc sống hàng ngày ở trên thế giớinói chung và Việt Nam nói riêng Do vậy, trong thời gian ở Việt Nam chủ đề deepfake đãđược đưa vào nghiên cứu Tính đến đầu năm 2023 Việt Nam có rất nhiều bài báo cũng nhưbài luận xoay quanh về đề tài này Trong những bài luận, công trình nghiên cứu này cónhững sự khai thác khác nhau, nhìn nhận vấn đề dưới những góc độ khác nhau Do đócông trình nghiên cứu của chúng tôi nhằm hệ thống hóa một cách tổng quát lại một số vấnđề cơ bản của kết hôn.

Phương pháp nghiên cứu

Trong quá trình nghiên cứu nhóm chúng tôi đã dùng những phương pháp sau:  Phương pháp thu thập dữ liệu

 Phương pháp thống kê  Phương pháp phân tích  Phương pháp đưa ra kết luận.

Nội dung nghiên cứu

Mục đích nghiên cứu:

- Hiểu rõ deepfake qua góc nhìn của giới trẻ

- Đưa ra những dữ liệu thực tế

- Đề xuất ý kiến nhằm hiểu rõ về những cái deepfake mang lại

Nhiệm vụ nghiên cứu: Để thực hiện được mục đích nghiên cứu trên chúng em cầntìm hiểu những vấn đề lý luận cơ bản, thu thập số liệu thống kê của đối tượng vàtrình bày nội dung trong phạm vi nghiên cứu.

Đối tượng nghiên cứu: deepfake trong thực tại của đời sống con người.

Phạm vi nghiên cứu: deepfake và những ứng dụng của nó, những ảnh hưởng xấu mànó đem lại và cách phòng chống.

CHƯƠNG 1 GIỚI THIỆU VỀ DEEPFAKE

1.1 Định nghĩa deepfake

Deepfake là một từ ghép giữa "deep learning" - học sâu và "fake" - giả mạo.Deepfake là một kỹ thuật trong lĩnh vực trí tuệ nhân tạo cho phép tạo ra những hình ảnh,video giả mạo bằng cách sử dụng các mô hình deep learning Các mô hình này đã đượchuấn luyện với một lượng lớn dữ liệu để có khả năng ghép đầu người này lên cơ thể ngườikhác hoặc tạo ra những hành động giả mạo một cách chân thật nhất Deepfake đã tạo ranhững công cụ mạnh mẽ cho việc chỉnh sửa hình ảnh và video, từ đó dẫn đến nhiều tácđộng lớn đến xã hội và vấn đề an ninh.

Hình 1.1-1 Thay đổi khuân mặt bằng công nghệ deepfake

Hình 1.1-2. Eternity - nhóm nhạc ảo được tạo ra bởi công nghệ deepfake

1.2 Lịch sử phát triển công nghệ deepfakeGiái đoạn đầu tiên (2014-2017)

Giai đoạn này đánh dấu sự ra đời của công nghệ deepfake Năm 2014, hai nhà nghiêncứu của Đại học California, Berkeley đã phát triển một thuật toán có thể ghép khuôn mặtcủa hai người khác nhau trong một video Tuy nhiên, thuật toán này vẫn còn nhiều hạn

chế, và các video deepfake được tạo ra trong giai đoạn này thường có chất lượng thấp vàdễ dàng nhận biết.

Năm 2017, một người dùng có tên "deepfakes" trên diễn đàn Reddit đã đăng tải mộtsố đoạn video deepfake có chất lượng cao, trong đó khuôn mặt của các ngôi sao nổi tiếngnhư Gal Gadot, Taylor Swift, Scarlett Johansson được thay thế bằng khuôn mặt của nhữngdiễn viên khiêu dâm Những đoạn video này đã gây ra một làn sóng phản ứng mạnh mẽ, vàtừ đó, thuật ngữ "deepfake" bắt đầu được sử dụng rộng rãi.

Giai đoạn thứ hai (2018-2022)

Giai đoạn này đánh dấu sự phát triển nhanh chóng của công nghệ deepfake Nhờ sựphát triển của các mô hình học máy, các video deepfake được tạo ra trong giai đoạn này cóchất lượng ngày càng cao, khó phân biệt được với video thật.

Năm 2018, một nhóm nghiên cứu của Đại học Washington đã phát triển một thuậttoán deepfake có thể ghép khuôn mặt của hai người khác nhau trong một video với độphân giải cao Thuật toán này đã được sử dụng để tạo ra một số video deepfake có chấtlượng rất cao, khiến nhiều người tin rằng chúng là video thật.

Năm 2020, một nhóm nghiên cứu của Đại học Stanford đã phát triển một thuật toándeepfake có thể thay đổi giọng nói của một người trong một video Thuật toán này đã đượcsử dụng để tạo ra một số video deepfake trong đó các nhân vật nổi tiếng nói những điều màhọ chưa từng nói.

Giai đoạn thứ ba (2023 – nay)

Giai đoạn này đánh dấu sự phát triển phức tạp và đa dạng của công nghệ deepfake.Các video deepfake không chỉ được sử dụng để ghép khuôn mặt hoặc thay đổi giọng nói,mà còn được sử dụng để tạo ra các video hoàn toàn mới, trong đó nhân vật không tồn tạitrong thực tế.

Năm 2023, một nhóm nghiên cứu của Đại học Carnegie Mellon đã phát triển mộtthuật toán deepfake có thể tạo ra một video hoàn toàn mới, trong đó nhân vật có thể nói vàcử động giống như một người thật Thuật toán này đã được sử dụng để tạo ra một số videodeepfake trong đó các nhân vật lịch sử như Abraham Lincoln hay Martin Luther King Jr.được tái hiện lại.

Sự phát triển của công nghệ deepfake đã đặt ra nhiều thách thức cho xã hội, đặc biệtlà trong lĩnh vực truyền thông, chính trị và an ninh Các video deepfake có thể được sửdụng để lan truyền thông tin sai lệch, gây tổn hại đến uy tín của các cá nhân và tổ chức.Chúng cũng có thể được sử dụng để thực hiện các hành vi tội phạm, như lừa đảo, đe dọahoặc khủng bố.

Để ứng phó với những thách thức này, các chính phủ và doanh nghiệp đang nỗ lựcphát triển các công nghệ để phát hiện và ngăn chặn các video deepfake Tuy nhiên, đây làmột vấn đề phức tạp, và không có giải pháp đơn giản.

1.3.Cách thức hoạt động deepfake

Công nghệ deepfake hoạt động dựa trên các thuật toán học máy, cụ thể là các mạngneural Các mạng neural là các mô hình toán học được thiết kế để mô phỏng hoạt động củanão bộ.

Để đưa ra một video deepfake, các thuật toán học máy sẽ thực hiện các bước sau:

-Thu thập dữ liệu: Đầu tiên, các thuật toán cần thu thập một lượng lớn dữ liệu hình

ảnh và video của người mà họ muốn ghép khuôn mặt Dữ liệu này có thể được thu thập từcác nguồn công khai, chẳng hạn như mạng xã hội hoặc các trang web chia sẻ video.

-Phân tích dữ liệu: Sau khi thu thập dữ liệu, các thuật toán sẽ phân tích dữ liệu để

tìm ra các đặc trưng khuôn mặt của người đó Các đặc trưng này bao gồm các điểm đầumắt, mũi, miệng, v.v.

-Huấn luyện mô hình: Các đặc trưng khuôn mặt được phân tích ở bước 2 sẽ được

sử dụng để huấn luyện một mô hình mạng neural Mô hình này sẽ học cách tái tạo khuônmặt của người đó từ các đặc trưng này.

-Tạo video deepfake: Khi mô hình đã được huấn luyện, các thuật toán có thể sử

dụng mô hình này để tạo ra một video deepfake Trong video này, khuôn mặt của ngườiđược ghép sẽ được thay thế bằng khuôn mặt của người mà mô hình đã được huấn luyện.

Công nghệ deepfake có thể được sử dụng để khuôn mặt của một người vào videohoặc hình ảnh có sẵn Nó cũng có thể được sử dụng để thay đổi giọng nói của một ngườitrong một video.

Hình 1.3-3: Deepfake tạo nên bản thay thế của một đối tượng dựa trên một bản mẫu chấtlượng cao.

1.4 Ứng dụng của deepfake

1.4.1 Trong lĩnh vực nghệ thuật và sáng tạo

Deepfake có thể được sử dụng để tạo ra những hiệu ứng đặc biệt cho phim ảnh, hoặcđể tái hiện lại những diễn viên đã qua đời hoặc già đi Ví dụ, trong bộ phim Star Wars:Rogue One (2016), người ta dùng deepfake để tái hiện lại diễn viên Peter Cushing trongvai Grand Moff Tarkin.

Hình 1.4-4 Deepfake tái hiện lại diễn viên Peter Cushing trong vai Grand Moff Tarkin.

1.4.2 Trong lĩnh truyền thông và quảng cáo

Tiết kiệm chi phí: Với các chiến dịch video của thương hiệu, có những trường

hợp sử dụng diễn viên người đóng là không cần thiết Lúc này Deepfake có thể là mộtgiải pháp mới khi doanh nghiệp chỉ cần mua giấy phép sử dụng hình ảnh diễn viên,tạo hoặc sử dụng lại một video quảng cáo, sau đó chèn hình ảnh và lời thoại thích hợpđể tạo ra một sản phẩm quảng cáo mới hoàn toàn Thậm chí, doanh nghiệp có thể tiếtkiệm được nhiều chi phí hơn nếu sử dụng chính nhân sự nội bộ để làm video Nói tómlại Deepfake sẽ cực kì hữu ích cho các nhà tiếp thị có ngân sách eo hẹp nhưng vẫnmuốn sản xuất nội dung chất lượng cao cho các chiến dịch.

Hình 1.4-5 Bruce Willis, cựu diễn viên người Mĩ (bên trái) xuất hiện trong một videoquảng cáo của Nga nhờ công nghệ Deepfake.

Dễ dàng tiếp thị đa kênh: Vì không sử dụng diễn viên thật, thương hiệu có thể

dễ dàng điều chỉnh/sản xuất video để phù hợp với tính chất từng kênh tiếp thị Ví dụ,vẫn là gương mặt đó nhưng thương hiệu có thể dùng Deepfake để hợp nhất nó trongnhiều nền tảng khác nhau như video đăng Youtube, TikTok, hay Reels trênInstagram… Chưa kể, quy trình này không hề đắt đỏ và mất nhiều thời gian bằngviệc thuê diễn viên để quay lại một lần nữa.

“Siêu” cá nhân hóa nội dung: Deepfake sẽ mở ra một kỷ nguyên mới cho các

nội dung/chiến dịch cá nhân hóa Với công nghệ này, thương hiệu có thể dễ dàng điềuchỉnh video/hình ảnh sao cho phù hợp với trải nghiệm, sở thích và đặc điểm củakhách hàng mục tiêu - chẳng hạn như màu da của họ Nếu doanh nghiệp hướng tớimột tệp khách thuộc nhóm người yếu thế, hoặc thuộc nhóm dân tộc khác không giốngvới đại sứ/người mẫu của thương hiệu, vậy thì Deepfake sẽ giúp họ giải quyết đượchạn chế này Thậm chí, cũng sẽ không quá khó thực hiện với Deepfake nếu thương

hiệu cần một video sử dụng một loại ngôn ngữ hoàn toàn khác Thế nhưng, phải thừanhận rằng không dễ để “tẩy trắng” Deepfake sau những tai vụ vướng phải trong 5năm qua Khi quyết định sử dụng công nghệ này, thương hiệu cũng cần lường trướcmột số hạn chế của nó

Hình 1.4-6 Thương hiệu có thể dễ dàng điều chỉnh sao cho phù hợp với trải nghiệm,sở thích và đặc điểm của khách hàng mục tiêu - chẳng hạn như màu da của họ.

1.4.3 Trong lĩnh vực y tế và y học

Công nghê deepfake cung cấp nhiều lợi ích đáng kể trong lĩnh vực y tế và y học Đầutiên, nó có thể được sử dụng để đào tạo các bác sĩ chuyên nghiệp Với deepfake, họ có thểthực hành và trải nghiệm các kịch bản khó khăn và hiếm gặp mà không cần tới bệnh nhânthực tế.

Công nghệ deepfake cũng có thể giúp trong việc ứng phó với tình huống khẩn cấp vàkiểm tra tác động của các phương pháp điều trị mới Bằng cách tạo ra các mô phỏng giả,các nhà nghiên cứu y tế có thể dự đoán được kết quả, phản ứng và tác động của các liệupháp trước khi thực hiện trên người thật.

Bằng cách sử dụng công nghệ deepfake trong lĩnh vực y tế và y học, chúng ta có thểnâng cao khả năng đào tạo, phục vụ khẩn cấp và nghiên cứu y tế Ngoài ra, việc áp dụngdeepfake cũng có thể giúp tối ưu hóa quy trình chẩn đoán và điều trị bệnh Các bác sĩ vànhân viên y tế có thể sử dụng các mô phỏng deepfake để kiểm tra hiệu quả của các phươngpháp khác nhau và tìm ra những giải pháp tối ưu cho từng trường hợp Điều này giúp tăngcường khả năng chẩn đoán đồng thời giảm thiểu rủi ro và chi phí.

Hình 1.4-7.Hình ảnh minh họa áp dụng deepfake trong y tế và y học

Như vậy, công nghệ deepfake mang đến nhiều ứng dụng hữu ích trong lĩnh vực y tếvà y học Từ việc đào tạo bác sĩ, ứng phó tình huống khẩn cấp, mô phỏng dữ liệu y học đếntối ưu hóa quy trình chẩn đoán và điều trị bệnh, deepfake đóng vai trò quan trọng trong

việc cải thiện chất lượng dịch vụ y tế Việc sử dụng deepfake đã và đang mở ra nhiều cơhội cho ngành y tế, góp phần nâng cao khả năng đào tạo, phục vụ chuẩn đoán và điều trị,cũng như tạo ra những bước tiến đáng kể trong nghiên cứu y tế.

1.4.4 Trong linh vực an ninh và phòng chống tội phạm

Công nghệ deepfake đã được áp dụng rộng rãi trong lĩnh vực an ninh với nhiều lợiích và tiềm năng phát triển Một trong những ứng dụng đáng chú ý của deepfake trong lĩnhvực an ninh là khả năng nhận diện gương mặt và giọng nói, mang lại tính bảo mật và antoàn cao hơn trong các hệ thống kiểm soát truy cập Deepfake cũng được sử dụng để tạo racác bằng chứng giả mạo hết sức hiệu quả trong các vụ án hình sự, giúp cơ quan chức năngthu thập thông tin và làm rõ vụ án một cách nhanh chóng và hiệu quả hơn Ngoài ra, côngnghệ deepfake còn có thể đóng vai trò quan trọng trong việc phát hiện và ngăn chặn các vụlừa đảo và tội phạm trực tuyến, từ đó đảm bảo sự an toàn và trật tự trong môi trường sốngvà làm việc của mọi người.

Tuy vậy, việc sử dụng deepfake cũng đồng thời đặt ra những thách thức và rủi ro vềquyền riêng tư Việc tạo ra những bằng chứng giả mạo có thể gây ra sự đánh đồng và nhầmlẫn, ảnh hưởng đến danh dự và thể diện của cá nhân Do đó, cần phải có những biện phápkiểm soát và đối phó hiệu quả để đảm bảo an ninh và trách nhiệm trong việc sử dụng côngnghệ này Điều này có thể bao gồm việc thiết lập các quy tắc và quy định rõ ràng về việcsử dụng deepfake, đảm bảo tính trung thực và minh bạch trong việc sử dụng công nghệnày Ngoài ra, cần cung cấp đào tạo và nâng cao nhận thức cho công chúng về công nghệdeepfake và tác động của nó, giúp mọi người nhận biết và phòng ngừa những tình huốngtiềm tàng.

1.5.Rủi ro và hậu quả của deepfake

Bên cạnh những lợi ích to lớn mà deepfake mang lại trong nhiều lĩnh vực, nhưngcũng đi kèm nhiều rủi ro và hậu quả Dưới đây là một số nguy cơ của deepfake:

-Sự đe dọa đến quyền riêng tư và danh dự cá nhân: Việc tạo ra những video giả mạovà lan truyền chúng có thể gây hại và làm hỏng sự đồng thuận trong các mối quan hệ cánhân Những ảnh hưởng này gây lo ngại về việc lộ thông tin riêng tư và tạo ra sự không antoàn khi chia sẻ hình ảnh và video cá nhân trên mạng Với khả năng biến đổi và phổ biếnnhững video gây xấu hổ hoặc phản cảm, deepfake có thể làm tổn thương danh dự và uy tíncủa một người Những video giả mạo có thể tạo ra những hình ảnh sai lệch về một ngườivà lan truyền thông tin không chính xác, gây ảnh hưởng đến thể diện và sự tôn trọng trongxã hội.

Hình 1.5-8 Một người nổi tiếng là nạn nhân của trí tuệ nhân tao

- Lừa đảo và gian lận: Công nghệ deepfake mang đến nguy cơ sử dụng vào việc lừađảo và gian lận thông tin Deepfake có thể tạo ra những bằng chứng giả mạo và làm sailệch sự thật, từ đó tạo ra sự nhầm lẫn và lừa dối người xem Việc lan truyền những video

giả mạo và thông tin không chính xác có thể gây ảnh hưởng lớn đến sự tin tưởng và ảnhhưởng của một cá nhân hoặc tổ chức Ngoài ra có thể thay đổi được khuân mặt giống nhưngười thật để vay tiền, chiếm đoạt tài sản.

Hình 1.5-9 Giả mạo công an để lấy thông tin, số điện thoại người dân

-Đe dọa an ninh quốc gia: tội phạm lợi dụng các khả năng thay đổi khuân mặt tạo racác video giả mạo những người có chức quyền cao của một quốc gia để tung tin bịa đặt saisự thật gây rối loạn an ninh quốc gia.

HƯƠNG 3VẤN ĐỀ ĐẠO ĐỨC TRONG SỬ DỤNG AI

Trong thời đại Công nghệ 4.0, AI (trí tuệ nhân tạo ) ngày càng phát triểnvà trở thành một lĩnh vực đầy tiềm năng Việc sử dụng nó mang lại nhiều lợiích cho con người, nhưng cũng đặt ra nhiều vấn đề đối với đạo đức và tráchnhiệm trong phát triển AI của chúng ta

Đạo đức và trách nhiệm trong phát triển nguồn: internet.

[CITATION Jef18 \l 1033 ], AI ngày càng dễ sử dụng hơn đối với nhữngngười không phải là chuyên gia Một số dịch vụ và ứng dụng AI hiện có giaodiện người dùng trực quan và chức năng kéo và thả—khác xa so với mã hóalõi cứng Những đổi mới này mang lại khả năng mạnh mẽ cho các công ty vàđang góp phần gia tăng số lượng và triển khai AI

Tuy nhiên, có một nhược điểm đối với sự phổ biến của những công cụnày Con người có sử dụng công nghệ cho mục đích xấu cũng như mục đích

tốt Điều này chắc chắn đúng với AI Bằng cách sử dụng các công cụ AInguồn mở, bất kỳ ai cũng có thể tạo ra những hình ảnh và video giả mạo cóđộ chân thực cao chỉ bằng vài cú click chuột Cho dù là hành vi giải trí hay ácý, bạn cũng có thể dễ dàng tạo một video trong đó giám đốc điều hành côngty hoặc chính trị gia dường như nói điều gì đó mang tính kích động Việc giảmạo video thực tế có thể đưa “tin giả” lên một tầm cao mới về độ tin cậy vàkhả năng tiếp cận lan truyền.

Ảnh tham khảo (nguồn: internet) 1

Chính vì vậy công nghệ Ai Deepfakes đưa ra những tình huống khó xửnghiêm trọng về mặt đạo đức xung quanh quyền riêng tư, sự đồng ý và độ tincậy của thông tin, định hình bối cảnh đạo đức của truyền thông và công nghệhiện đại Việc giải quyết các tình huống khó xử về đạo đức liên quan đếndeepfake đòi hỏi các khuôn khổ mạnh mẽ và sự cảnh giác về công nghệ Cânbằng sự đổi mới và đạo đức là rất quan trọng để giải quyết một cách có tráchnhiệm những thách thức nhiều mặt.[ CITATION Jef18 \l 1033 ]

1.6 Trách nhiệm của nhà phát triển AI deepfakes

[CITATION Pla23 \l 1033 ][ CITATION Nei23 \l 1033 ], Đạo đức tráchnhiệm trong phát triển AI đóng một vai trò quan trọng trong phát triển AI Chúng ta cần đảm bảo rằng AI được phát triển dựa trên các giá trị đạo đức vàtuân thủ các quy định pháp luật Chúng ta cần sử dụng AI để giải quyết cácvấn đề phức tạp để nó mang lại lợi ích người, không làm hại họ.

Deepfakes là các video, hình ảnh hoặc âm thanh được tạo ra bằng côngnghệ trí tuệ nhân tạo (AI) để giả mạo hoặc thay đổi khuôn mặt, giọng nóihoặc hành động của một người Deepfakes có thể được sử dụng cho nhiềumục đích, từ giải trí, nghệ thuật, giáo dục cho đến tội phạm, lừa đảo, xâmphạm quyền riêng tư hoặc gây ảnh hưởng tiêu cực đến chính trị và xã hội

Trách nhiệm của nhà phát triển AI (nguồn: Neil Sahota)

Trách nhiệm của nhà phát triển AI deepfakes là một vấn đề đạo đức phứctạp và khó giải quyết Một số quan điểm cho rằng nhà phát triển AI deepfakescó trách nhiệm đảm bảo rằng các sản phẩm của họ được sử dụng một cáchhợp pháp, đạo đức và minh bạch, và phải tuân thủ các quy định, tiêu chuẩnhoặc nguyên tắc ứng xử của ngành

Nhà phát triển sẽ phải chịu trách nhiệm đảm bảo công nghệ có tính minhbạch trong việc tạo ra các nội dung deepfakes để cho người xem có thể nhậnbiết được tính chất nhân tạo của nó, giúp người xem phân biệt được giữa nội

dung thật và được chỉnh sửa Tránh tạo ra và phổ biến các nội dung có thể gâyhại cho cá nhân, lừa dối công chúng hoặc được sử dụng cho mục đích ác ýnhư lan truyền thông tin sai lệch

Nhà phát triển cũng nên nhận thức về các hậu quả và tiềm năm của côngnghệ của họ và đưa ra các biện pháp để ngăn chặn việc sử dụng sai mục đích.Từ đó giáo dục công chúng nâng cao nhận thức và tăng cường khả năngtruyền thông về sự tồn tại, nguy cơ tiềm ẩn do deepfakes gây ra

Nhà phát triển nên chia sẻ kiến thức và chuyên môn, tích cực hợp tác vớicác nhà nghiên cứu, nhà lập luận chính sách và các bên liên quan khác để giảiquyết những thách thức do deepfakes gây ra cùng nhau phát triển các chiếnlược và công nghệ để phát hiện, giảm thiểu và đối phó với những tác độngtiêu cực của deepfakes

1.7 Ảnh hưởng đến quyền riêng tư và danh dự

[CITATION Pla23 \l 1033 ] Sự nguy hiểm của deepfake còn vượt xa sựlan truyền của thông tin sai lệch Deepfake cũng có thể làm suy yếu niềm tincủa công chúng vào các tổ chức quan trọng Nếu người dân không còn phânbiệt được đâu là truyền thông thật và giả, họ có thể vỡ mộng và mất lòng tinvào những người cầm quyền

Sự lan rộng của deepfake đã tác động sâu sắc đến diễn ngôn công khai,sự ổn định chính trị và các mối quan hệ cá nhân Việc thao túng nội dung này

đặt ra một thách thức đáng kể, định hình lại nhận thức về thông tin và niềmtin trong xã hội

2.2.1 Các mối quan hệ cá nhân:

[CITATION Pla23 \l 1033 ]Deepfakes xâm phạm quyền riêng tư của mộtcá nhân bằng cách sử dụng hình ảnh của họ mà không có sự đồng ý, có khảnăng dẫn đến hành vi lợi dụng hoặc quấy rối không chính đáng Nội dung bịađặt được tạo mà không được phép có thể xâm phạm ranh giới cá nhân và gâyđau khổ về mặt tinh thần Ví dụ: một video deepfake về cuộc trò chuyệnriêng tư có thể được tạo và chia sẻ mà không có sự đồng ý, gây tổn hạinghiêm trọng đến danh tiếng

Kẻ lừa đảo có thể sử dụng AI để tái tạo khuôn mặt và giọng nói củangười khác (nguồn: vtcnews)

Các cá nhân có thể phát hiện ra mình được mô tả trong nội dungdeepfake mà không có bất kỳ sự kiểm soát nào, gây ra mối lo ngại về sự đồngý và quyền tự chủ đối với danh tính của chính họ Việc sử dụng sai mục đíchdeepfake có thể ép buộc các cá nhân tỏ ra nói hoặc làm những điều trái với ýmuốn của họ, có khả năng gây tổn hại hoặc lợi dụng danh tiếng

Deepfakes nhắm mục tiêu vào các cá nhân có thể gây mất lòng tin vànghi ngờ trong các mối quan hệ cá nhân, có khả năng tạo ra rạn nứt Tác độngtinh thần của nội dung bị bóp méo, đặc biệt khi được sử dụng để quấy rối

hoặc phỉ báng, có thể nghiêm trọng đối với các cá nhân và gia đình, gây tổnhại đáng kể

Ảnh hưởng rộng rãi của deepfake thách thức niềm tin và sự thật của xãhội Việc chống lại những tác động này đòi hỏi nỗ lực tập thể, kết hợp côngnghệ, hiểu biết về truyền thông và các nguyên tắc đạo đức để bảo vệ tính toànvẹn của các tương tác xã hội trong bối cảnh kỹ thuật số đang phát triển.[CITATION Pla23 \l 1033 ]

2.2.2 Buổi đàm luận công cộng

[CITATION Pla23 \l 1033 ] Sự lan truyền rộng rãi của deepfake tháchthức độ tin cậy của các nguồn thông tin và ảnh hưởng đến niềm tin của côngchúng Nội dung gây hiểu lầm hoặc bị thao túng có thể bóp méo các cuộc tròchuyện, cản trở các cuộc thảo luận có ý nghĩa về các vấn đề xã hội quantrọng

Việc sử dụng rộng rãi các tác phẩm làm mờ ranh giới giữa thực tế và hưcấu, làm xói mòn niềm tin vào truyền thông và gây khó khăn cho việc phânbiệt nội dung thật với tài liệu bị thao túng Điều này có nguy cơ làm suy yếuđộ tin cậy của các nguồn hợp pháp do khả năng phổ biến thông tin bịa đặt,ảnh hưởng đến diễn ngôn và quá trình ra quyết định của công chúng

Ảnh tham khảo Nguồn: internet

Việc giải quyết các tình huống khó xử về đạo đức liên quan đếndeepfake đòi hỏi các khuôn khổ mạnh mẽ và sự cảnh giác về công nghệ Cânbằng sự đổi mới và đạo đức là rất quan trọng để giải quyết một cách có tráchnhiệm những thách thức nhiều mặt mà chúng đặt ra trong bối cảnh kỹ thuật sốngày nay [CITATION Pla23 \l 1033 ]

2.2.3 Ổn định chính trị

[CITATION Pla23 \l 1033 ] Deepfakes cũng có thể bịa đặt các bài phátbiểu hoặc hành động, ảnh hưởng đến dư luận và có khả năng gây bất ổn chobối cảnh chính trị thông qua các chiến dịch thông tin sai lệch Sự phổ biến củanội dung chính trị bị thao túng có thể làm xói mòn niềm tin vào các nhân vậthoặc thể chế chính trị, ảnh hưởng đến các quá trình dân chủ và niềm tin vàoquản trị

Người nổi tiếng đang là mục tiêu để người xấu dùng Deepfake lợi dụng.Nguồn: Aaj Tak.

Ảnh hưởng rộng rãi của deepfake thách thức niềm tin và sự thật của xãhội Việc chống lại những tác động này đòi hỏi nỗ lực tập thể, kết hợp côngnghệ, hiểu biết về truyền thông và các nguyên tắc đạo đức để bảo vệ tính toànvẹn của các tương tác xã hội trong bối cảnh kỹ thuật số đang phát triển.[CITATION Pla23 \l 1033 ]

1.8 Ảnh hưởng đến quyền riêng tư và danh dự

Việc tạo và phân phối deepfake có thể có những tác động nghiêm trọngvề mặt đạo đức, gây ra những mối đe dọa nghiêm trọng đối với quyền riêng tưvà danh tiếng của cá nhân Nhiều người đã bày tỏ lo ngại về tác hại mà côngnghệ deepfake có thể gây ra, bao gồm cả khả năng tạo ra nội dung gây tổn hạivà sai sự thật, khó có thể phân biệt được với thực tế

2.3.1 Sự đồng thuận của cộng đồng

[ CITATION VũC23 \l 1033 ] Deepfake, một sản phẩm của công nghệ tiêntiến kết hợp “học sâu” và sáng tạo nội dung, sử dụng các thuật toán phức tạpđể thay đổi hình ảnh hoặc video một cách thuyết phục, tạo ra sự giống nhaukỳ lạ giữa các cá nhân Khả năng tái tạo nét mặt và phong cách của công nghệnày làm mờ đi ranh giới giữa thực tế và sự bịa đặt

Các ứng dụng của nó bao gồm từ việc nâng cao trải nghiệm giải trí chođến việc định hình lại các sự kiện lịch sử Ứng dụng của nó trải rộng trênnhiều lĩnh vực khác nhau Về khả năng sáng tạo và giải trí, deepfake cũng cóthể được sử dụng trong ngành công nghiệp phim ảnh để tạo ra các cảnh quayhoặc các nhân vật mới, cho phép các diễn viên tích hợp liền mạch vào cáccảnh hoặc hồi sinh các nhân vật lịch sử cho mục đích kể chuyện giúp giảm chiphí và thời gian sản xuất phim ảnh

Hình 3 nhân vật Brian O'Conner (nguồn:internet) 1

Chắc bạn vẫn còn nhớ nhà sản xuất Fast and Furious 7 đã phải sử dụngDeepfake lên chính người em của cố nam diễn viên Paul Walker để giúp chonhân vật Brian O'Conner có thể hoàn thành cái kết thật trọn vẹn đúng khôngnào? [ CITATION VũC23 \l 1033 ]

Nhân vật Luke Skywalker Nguồn: internet.

( https://www.youtube.com/watch?v=wrHXA2cSpNU&t=96s)

[ CITATION Nei23 \l 1033 ] Sự xuất hiện của Luke Skywalker trong phầncuối của The Mandalorian mùa hai đã khơi dậy cộng đồng người hâm mộ StarWars Tuy nhiên, người xem đã nhanh chóng chỉ trích việc tái tạo kỹ thuật sốcủa Mark Hamill thời trẻ.

[ CITATION Anh23 \l 1033 ]Ngoài những lĩnh vực này, tiềm năng củadeepfake còn mở rộng sang cả các lĩnh vực đổi mới và liên quan Trongnghiên cứu và giáo dục, deepfakes cung cấp các công cụ đầy hứa hẹn để môphỏng các sự kiện lịch sử hoặc hỗ trợ việc học ngôn ngữ Trong y tế,deepfakes góp phần thúc đẩy những tiến bộ trong việc tạo ra các bộ phận giảvà thiết bị hỗ trợ thực tế, mang đến sự thể hiện chính xác hơn các đặc điểmtrên khuôn mặt Điều này hỗ trợ tùy chỉnh tốt hơn và phù hợp với bệnh nhân.

Tuy nhiên, nguy cơ lạm dụng là rõ ràng, với việc deepfake được sử dụng đểđánh lừa, thao túng hoặc gây tổn hại đến danh tiếng

2.3.2 Sự phản đối của cộng đồng

[ CITATION Nei23 \l 1033 ]Tính linh hoạt của deepfake thể hiện một tìnhthế khó xử phức tạp về mặt đạo đức, cân bằng giữa hứa hẹn đổi mới với nguycơ thao túng và thông tin sai lệch Khi công nghệ này phát triển, việc hiểu rõkhả năng và hạn chế của nó ngày càng trở nên quan trọng

Sự phát triển của công nghệ deepfake đã mang lại những rủi ro và nguyhiểm đáng kể cho bối cảnh kỹ thuật số của chúng ta Deepfake có thể được sửdụng để:

 Truyền bá thông tin sai lệch và tuyên truyền Thao túng diễn ngôn chính trị

 Làm tổn hại danh tiếng.

[ CITATION Anh23 \l 1033 ]Hơn nữa, deepfake có thể được sử dụng chocác mục đích độc hại như tống tiền, tạo ra những video khiêu dâm giả mạocủa những người nổi tiếng và lừa đảo Ví dụ: một video deepfake có thể đượcsử dụng để mạo danh ai đó và tống tiền hoặc thông tin nhạy cảm

Điều này có thể gây ra tổn thương tinh thần hoặc xâm phạm quyền riêngtư của các cá nhân, đặc biệt là phụ nữ và trẻ em

Deepfake còn được sử dụng để tạo ra những video giả mạo của các sựkiện quan trọng Chẳng hạn như cuộc bầu cử hay biểu tình với mục đích lan