Tiểu luận tin học Đề tài deepfake và những nguy hiểm tiềm tàng

NỘI DUNG CHÍNHCác bản sao do trí tuệ nhân tạo tạo ra dựa trên vẻ ngoài của những influencerTrung Quốc, đã và đang giúp các nền tảng thương mại điện tử như Taobao bán sảnphẩm của họ trong

TIỂU LUẬN TIN HỌC

ĐỀ TÀI: DEEPFAKE VÀ NHỮNG NGUY HIỂM TIỀM TÀNG

Nhóm:

Lớp tín chỉ: 24311910003001

Giảng viên hướng dẫn: TS Trương Thành Công

LỜI CẢM ƠN

Đầu tiên, chúng em xin gửi lời cảm ơn sâu sắc đến Trường Đại học Tài chính– Marketing đã đưa môn Tin học ứng dụng vào chương trình giảng dạy để chúng

em có cơ hội tiếp thu kiến thức quý giá

Đặc biệt, chúng em xin gửi lời cảm ơn chân thành nhất đến thầy TrươngThành Công (giảng viên bộ môn) đã truyền đạt kiến thức cho chúng em bằng tất cảtâm huyết Bộ môn Tin học ứng dụng không chỉ bổ ích mà còn có tính thực tế cao.Đây chắc chắn sẽ là hành trang để chúng em vững bước trên con đường mà chúng

em đã chọn Tuy nhiên, do vốn kiến thức của chúng em còn nhiều hạn chế nên bàotiểu luận của chúng em sẽ khó tránh khỏi những thiếu sót và nhiều chỗ còn chưachính xác Kính mong thầy xem xét và góp ý để bài tiểu luận của chúng em đượchoàn thiện hơn

Lời cuối cùng, chúng em xin kính chúc thầy nhiều sức khỏe, thành công vàhạnh phúc

Chúng em xin chân thành cảm ơn!

Toàn bộ thành viên nhóm

Mục lục

I THÔNG TIN CHUNG v

1 Tên đề tài v

2 Thời gian thực hiện: 3 tuần v

II NỘI DUNG CHÍNH 1

1 Khái niệm 1

2 Mục đích sử dụng Deepfakes 3

3 Cách thức hoạt động 4

4 Ưu điểm và nhược điểm của công nghệ Deepfakes 6

a Ưu điểm 6

b Nhược điểm 7

5 Thực trạng 8

a Các ứng dụng chính của Deepfake 8

b Mối lo ngại và các vấn đề về đạo đức 11

c Biện pháp đối phó 15

6 Cách nhận biết và đề phòng 16

a Làm sao để phát hiện Deepfake: 16

b Cách đề phòng, ngăn chặn: 16

7 Kết luận 20

DANH MỤC HÌNH ẢNH Hình 1 Nguồn: shutterstock.com 1

Hình 2 Nguồn: abmindia 4

Hình 3 Nguồn: algoscale.com 4

Hình 4 AI có khả năng phân tích các đặc điểm nhận dạng trên khuôn mặt 5

Hình 5 Nguồn kenh14.vn 8

Hình 6 Kurt Russell trong "Guardians Of The Galaxy" (2017) Nguồn: kenh14.vn.8 Hình 7 Samuel L Jackson trong "Captain Marvel" (2019) Nguồn: kenh14.vn 9

Hình 8 Robert Downey Jr trong "Captain America: Civil War" (2016) Nguồn:

kenh14.vn 9

Hình 9 Paul Walker thật (trái) và hình ảnh tái tạo Paul Walker từ công nghệ vi tính (phải) 9

Hình 10 Poster của triển lãm Deepfakes Art and Its Double (2021) Nguồn: digitalprojection.com 10

Hình 11 Ảnh của Martin Luther King, Jr Nguồn: time.com 11

Hình 12 Nguồn: nccnews.newhouse.syr.edu 12

Hình 13 Nguồn: usatimesnow24.com 12

Hình 14 Nguồn:yna.co.kr 13

Hình 15 Nhận biết cuộc gọi deepfake mạo danh Nguồn: vnexxpress.net 13

Hình 16.Cảnh giác thủ đoạn giả danh công an gọi video Zalo lừa đảo Nguồn: cellphones.com.vn 14

Hình 17 Nguồn: digitalinformationworld.com 14

Hình 18 Các người nổi tiếng đang trở thành mục tiêu của kẻ xấu sử dụng Deepfake để lợi dụng Nguồn: Unite.Ai 16

Hình 19.Các tổ chức cần thực hiện xác thực nội dung thường xuyên để tránh gây hiểu lầm do Deepfake gây ra Nguồn: Aaj Tak 17

Hình 20 Người dùng cần phải cảnh giác với những mẫu nội dung chưa được kiểm chứng trên mạng Nguồn: Protego Press 18

I THÔNG TIN CHUNG

1 Tên đề tài

Tiếng Việt: Deepfakes và những nguy hiểm tiềm tàng

Tiếng Anh: Deepfakes and potential dangers

2 Thời gian thực hiện: 3 tuần

3 Thực hiện đề tài

S

TT

Họ và tên

Phân công công việc

Đán

h giá mức

độ đóng góp

100

%

3

VũNgọc Bảo

Trân

Nội dung phần: tìm kiếm nội dung về cách thức hoạt động, ưu, nhược điểm của Deepfake và làm Powerpoint

100

%

4

LêNguyễn Thái

II NỘI DUNG CHÍNH

Các bản sao do trí tuệ nhân tạo tạo ra dựa trên vẻ ngoài của những influencerTrung Quốc, đã và đang giúp các nền tảng thương mại điện tử như Taobao bán sảnphẩm của họ trong các buổi phát trực tiếp… Mặc dù những bản sao này có ngoạihình giống hệt các influencer, nhưng công chúng vẫn dễ dàng nhận ra đó chỉ làrobot Tuy nhiên, điều này mang lại nhiều lợi ích cho doanh nghiệp Nhữnginfluencer thật không cần phải xuất hiện trực tiếp trong các buổi livestream, giúpcác sự kiện phát sóng có thể diễn ra kéo dài, thậm chí đến tận đêm khuya, mà không

bị hạn chế bởi tình trạng sức khỏe hay thời gian của người nổi tiếng Nhờ vậy,doanh nghiệp có thể tối ưu hóa thời gian phát sóng và tiếp cận được nhiều khán giảhơn

Cách thức hoạt động của Deepfake liên quan đến quá trình "học" của trí tuệnhân tạo Từ đó, hình ảnh khuôn mặt của một số đối tượng nhất định (tạm gọi là đốitượng A) với chất lượng cao được thay thế hoàn toàn bằng khuôn mặt của mộtngười khác (đối tượng B)

Ảnh nén của A được đưa vào bộ giải mã của B Bộ giải mã sau đó tái tạo lạikhuôn mặt của người B với biểu cảm và hướng khuôn mặt của người A Quá trìnhnày được thực hiện liên tục, chi tiết đến khi cho ra sản phẩm “thật” nhất

1 (Vietnam+ (VietnamPlus), 2019)

Hình 1 Nguồn: shutterstock.com

Nghiên cứu và Phát triển

Nghiên cứu AI: Sử dụng deepfake để nghiên cứu các thuật toán học máy và học sâu, cải thiện công nghệ nhận diện khuôn mặt và hình ảnh

Quảng cáo và Tiếp thị

Quảng bá sản phẩm: Tạo nội dung quảng cáo sáng tạo và thu hút hơn bằng cách

sử dụng hình ảnh của người nổi tiếng hoặc các nhân vật hoạt hình

Giao tiếp và Kết nối

Hội nghị video: Sử dụng công nghệ để tạo ra các avatar hoặc hình đại diện 3D cho người dùng trong các cuộc họp trực tuyến

Khoa học và Y tế

Mô phỏng y tế: Tạo ra mô hình 3D cho phẫu thuật hoặc nghiên cứu sinh học, giúp bác sĩ và sinh viên y khoa học tập và thực hành

3 Cách thức hoạt động

eepfake sử dụng hai thuật

toán gồm trình tạo dữ liệu

(Generator)

D

Hình 2 Nguồn: abmindia

để tạo ra các dữ liệu giống như thật và

trình phân biệt dữ liệu (Discriminator)

để cố gắng phân biệt đâu là dữ liệu

được sinh ra từ trình tạo dữ liệu và

đâu là dữ liệu thật Trình tạo dữ liệu

xây dựng tập dữ liệu huấn luyện dựa

trên đầu ra mong muốn, tạo nội dung

kỹ thuật số giả mạo ban đầu, trong khi

trình phân biệt dữ liệu phân tích mức

độ thực hoặc giả của phiên bản ban

đầu của nội dung Quá trình này được

lặp lại, cho phép trình tạo dữ liệu cải

thiện việc tạo nội dung thực tế và trình

phân biệt dữ liệu trở nên thành thạo

hơn trong việc phát hiện ra các sai sót

để chỉnh sửa

Hình 3 Nguồn: algoscale.com

Sự kết hợp giữa các thuật toán tạo dữliệu và phân biệt dữ liệu tạo ra mộtmạng đối nghịch chung, hay còn gọi

là mạng GAN (Generative AdversarialNetwork) GAN sử dụng phương pháphọc sâu để nhận dạng các mẫu tronghình ảnh thực và sau đó sử dụng cácmẫu đó để tạo ra hình ảnh giả

Deepfake sẽ quét video và ảnh chân dung của một người sau đó hợp nhất vớivideo riêng biệt và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với

chuyển động gương mặt, giọng nói như thật Càng có nhiều dữ liệu gốc, độ chânthực của video deepfake càng cao, đến mức gần như không thể phân biệt với videothật.

Cách thức hoạt động của công nghệ Deepfake liên quan rất nhiều đến quátrình “học” của tính năng AI trí tuệ nhân tạo Từ đó, các thông tin về hình ảnhkhuôn mặt của một số đối tượng nhất định (tạm gọi là A) với chất lượng cao được

sử dụng để thay thế hoàn toàn bằng khuôn mặt của một người nào đó(tạm gọi là B)

Hình 4 AI có khả năng phân tích các đặc điểm nhận dạng trên khuôn mặt.

Nguồn: viettelstore.vn

Ảnh nén của người A được cung cấp đưa vào bộ giải mã của người B Bộ giải

mã sau đó sẽ tiến hành tái tạo lại khuôn mặt của người B với các đặc trưng biểu cảm

và chuyển động khuôn mặt của người A Quá trình này được vận hành thực hiệnliên tục, chi tiết đến khi cho ra kết quả chân thực nhất.2

2 (Viettel, 2023)

4 Ưu điểm và nhược điểm của công nghệ Deepfakes

a Ưu điểm

“Siêu” cá

nhân hóa nội

dung

Deepfake sẽ mở ra một kỷ nguyên mới cho các nội dung/chiến dịch

cá nhân hóa Với công nghệ này, thương hiệu có thể dễ dàng điều chỉnh video/hình ảnh sao cho phù hợp với trải nghiệm, sở thích và đặc điểm của khách hàng mục tiêu - chẳng hạn như màu da của họ Nếu nhà sản xuất hướng tới các nhóm đối tượng khác hàng khác nhau như nhóm người yếu thế, hoặc nhóm người dân tộc khác không giống với đại sứ/người mẫu của thương hiệu, vậy thì Deepfake sẽ giúp họ giải quyết được hạn chế này Thậm chí, cũng sẽ không quá khó thực hiện với Deepfake nếu thương hiệu cần một video sử dụng một loại ngôn ngữ hoàn toàn khác.

đề điều này được thực hiện, người làm Deep fake phải có được

nữa 3

b Nhược điểm

Suy

giảm niềm tin

Nếu hơn 30 năm trước, Photoshop với quá trình cắt ghép kỳ công làm người ta hoài nghi về độ thật giả của một tấm ảnh, thì ngày nay Deepfake đã gây ra một hiệu ứng tương tự với video và âm thanh Nếu không thông báo trước về việc sử dụng Deepfake trong một sản phẩm, một khi khán giả phát hiện ra họ sẽ không tránh khỏi cảm giác bị lừa đảo

và sản phẩm quảng cáo kia không khác gì là giả mạo 4

Gia

tăng lừa đảo

Như Neil Patel đã nói “khi được sử dụng với mục đíchtích cực, Deepfake sẽ là một công cụ tiếp thị mạnh mẽ”, nhưngnếu đặt trường hợp ngược lại thì Deepfake sẽ tiếp tay nhữngdoanh nghiệp lừa đảo Các doanh nghiệp này có thể sử dụngDeepfake để tạo ra các video bôi nhọ công ty đối thủ, lừa đảonhân sự, hoặc tạo ra các những đánh giá sản phẩm giả mạo đểkhiến sản phẩm của họ trông hấp dẫn hơn so với thực tế

Vi

phạm quyền

riêng tư và

đạo đức

Việc sử dụng deepfake để tạo ra nội dung khiêu dâm không đồng ý

là một vấn đề nhức nhối, đặc biệt đối với phụ nữ và những người nổi tiếng Công nghệ này có thể bị lạm dụng để vi phạm quyền riêng tư của người khác, gây ra tổn hại tâm lý và danh dự Ngoài ra, việc sử dụng hình ảnh và giọng nói của người khác mà không có sự cho phép còn đặt ra câu hỏi về đạo đức và tính pháp lý 5

 Deepfake được sử dụng trong phim

hoặc truyền hình chủ yếu để tay thếkhuôn mặt, làm trẻ hóa (de-aging)hoặc già đi một cách siêu thực Ví

dụ với công nghệ de-aging, các diễnviên sẽ được trẻ hóa một cách đơngiản hơn, chân thực hơn thay vìdành hàng tiếng đồng hồ cho khâu trang điểm và khâu lựa chọn trangphục.6

 Dưới đây là một số vai diễn nổi tiếng trong lịch sử Hollywood từng áp

dụng de-aging để tạo ra một hình ảnh trẻ trung hơn của chính mìnhmột cách chân thực nhất

6 (Những diễn viên từng sử dụng công nghệ trẻ hóa để “cưa sừng làm nghé” không hề giả trân trong các

bom tấn của Hollywood, 2021)

Hình 7 Samuel L Jackson trong "Captain Marvel" (2019) Nguồn: kenh14.vn

Hình 5 Nguồn kenh14.vn

Hình 6 Kurt Russell trong

"Guardians Of The Galaxy"

(2017) Nguồn: kenh14.vn

 Một số ví dụ đó chính là bộ phim “Quá nhanh quá nguy hiểm” có sựtham gia của cố diễn viên Paul Walker Anh đã qua đời vào năm 2013khi bộ phim đang được sản xuất Hình ảnh do máy tính tạo ra (CGI)sau đó được kết hợp với công nghệ deepfake để tạo ra một bản saosiêu thực của Paul Walker.

Hình 9 Paul Walker thật (trái) và hình ảnh tái tạo Paul Walker từ công

nghệ vi tính (phải)

Hình 8 Robert Downey Jr trong

"Captain America: Civil War" (2016) Nguồn: kenh14.vn

 Bên cạnh các sản

phẩm giải trí,deepfake còn được

sử dụng trong nghệthuật khi cho phéptạo ra các thửnghiệm mới, chẳnghạn như một triển lãmtại Bảo tàng Nghệthuật CAFA ở Bắc Kinh (Trung Quốc) mang tên Deepfakes in Art andMuseums (2020) cho phép khách tham quan chiêm ngưỡng khuônmặt và lắng nghe giọng nói của các nhân vật lịch sử cũng như thưởngthức các tác phẩm nghệ thuật nổi tiếng theo một cách sống động.Ngoài ra, một triển lãm khác tại EPFL Pavilions ở Lausanne (ThụySĩ) mang tên Deepfakes: Art and Its Double (2021) đã sử dụng côngnghệ deepfake để diễn giải lại các mẫu vật tinh xảo của nghệ thuật vàkiến trúc xuyên Á, v.v 7

- Quảng cáo và Truyền thông

 Có nhiều chương trình, quảng cáo đã sử dụng deepfake để chèn hìnhảnh của một người truyền tải các thông điệp đến người xem Qua cáchlàm này, các nhà sản xuất có thể thiết kiệm được chi phí thuê diễnviên, công tác di chuyển và quay phim Tất nhiên, để điều này đượcthực hiện, người làm deepfake phải có được sự chấp nhận của người

“phiên bản gốc”

 Chẳng hạn như, vào năm 2019, danh thủ David Beckham đã làm mọingười bất ngờ khi nói đến chín thứ tiếng trong một video dài 55 giâyphát động chiến dịch chống bệnh sốt rét của tổ chức từ thiện Malaria

No More Tổ chức này và các đối tác đã sử dụng công nghệ giọng nói

7 (Công nghệ deepfake và những ứng dụng của nó trong giáo dục - Language Link International, 2024)

Hình 10 Poster của triển lãm Deepfakes Art

and Its Double (2021) Nguồn:

digitalprojection.com

“deepfake” David bắt đầu video bằng tiếng Anh, sau chuyển sangtám thứ tiếng khác với kỹ thuật lồng tiếng rất thuyết phục 8

- Giáo dục và đào tạo

 Trong giáo dục, deepfake hỗ trợ tạo nội dung hoặc mô phỏng nộidung học đa chiều hơn với sự góp mặt của các nhân vật hoặc chuyêngia nhằm giúp bài giảng trở nên sinh động, cho phép người học tiếpthu kiến thức một cách hiệu quả hơn Không chỉ tái tạo hình ảnh,

hiện đại và thú vị hơn Hiện nay, các môn học như khoa học, lịch sử,ngôn ngữ, giáo dục thể chất áp dụng deepfake nhiều hơn cả tính tươngtác trong lớp học cao Ví dụ như Tạp chí TIME kết hợp cùng với Đạihọc Stanford đã sử dụng deepfake để chiếu cảnh Martin Luther King

Jr đọc bài phát biểu “Tôi có một giấc mơ” ở một sự kiện trong năm

2020.9

b Mối lo ngại và các vấn đề về đạo đức

Bất chấp những công dụng tích cực của Deepfake, công nghệ này phổ biếnhơn đối với tội phạm mạng và cũng có thể được sử dụng cho mục đích xấu.Deepfake cho phép tội phạm mạng dễ dàng tạo nội dung lừa đảo và lan truyềnthông tin sai lệch có thể ảnh hưởng nghiêm trọng đến tâm trí người xem

8 (Mai, 2019)

9 (Công nghệ deepfake và những ứng dụng của nó trong giáo dục - Language Link International, 2024)

Hình 11 Ảnh của Martin Luther King, Jr.

Nguồn: time.com

Ngày 17/4/2018, trên mạng xuất hiện đoạn video cho thấy một người giốngvới cựu Tổng thống Mỹ Barack Obama sử dụng những lời lẽ không hay để chỉ tríchđương kim Tổng thống Donald Trump Mặc dù công chúng sau đó phát hiện videonày không phải sự thật, nhưng đoạn phim trên đã được lan truyền rất nhanh chóng

và gây ra những hậu quả đáng tiếc.10

thống kê của Deeptrace - Công ty có trụ sở tại Amsterdam (Hà Lan) chuyên nghiêncứu về những nội dung được tạo ra bởi AI, 96% video Deepfake có nội dung đồitrụy Hầu hết nạn nhân là ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phimkhiêu dâm “Chúng tôi phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăngtải các video Deepfake có tổng lượt xem lên tới 134 triệu”, CEO Deeptrace - ôngGiorgio Patrini nói Lượng người truy cập vào các trang web ngày càng lớn đãgióng lên hồi chuông đáng báo động về nhu cầu của người dùng Internet với côngnghệ này.11

10 (Phan Văn Hòa, 2023)

11 (Thế Hảo, 2020)

Hình 12 Nguồn: nccnews.newhouse.syr.edu

Không chỉ dừng lại với người nổi

tiếng, những người bình thường cũng có thể bị người xấu dùng công nghệ này tạo ranhững video khiêu dâm, khỏa thân giả mạo, gây ảnh hưởng xấu đến danh dự vàphẩm giá của họ Những ngày gần đây, tại Hàn Quốc đã xuất hiện vô sốvideo Deepfake ghép mặt nữ sinh với nội dung khiêu dâm nhưng chủ yếu do nam

Hình 14 Nguồn:yna.co.kr Hình 13 Nguồn: usatimesnow24.com

giới chỉnh sửa Theo nhà báo Ko Narin, một trong những người đầu tiên phát hiện

ra sự việc, trong các nhóm trò chuyện trên Telegram, người dùng chia sẻ ảnh củanhững người phụ nữ họ quen biết và sử dụng phần mềm trí tuệ nhân tạo (AI) đểchuyển chúng thành hình ảnh khiêu dâm giả chỉ trong vài giây Nạn nhân của nhữngnhóm chat này không chỉ là giảng viên, sinh viên đại học, mà còn có giáo viên, họcsinh trung học phổ thông, thậm chí là trung học phổ thông.12

Tại Việt Nam thời gian gần đây, nhiều người đã trở thành nạn nhân của cáccuộc lừa đảo tài chính sử dụng deepfake và có sự tham gia của trí tuệ nhân tạo (AI).Hiện nay, nội dung của kịch bản lừa đảo bằng Deepfake tập trung chủ yếu ở haimục đích: “thao túng tâm lý bằng nỗi sợ hãi” và “thao túng tâm lý bằng niềm tin”.Thủ đoạn thường được các đối tượng sử dụng phổ biến nhất hiện nay có thể kể đếncác cuộc gọi video giả mạo người thân, bạn bè để vay tiền, nhờ chuyển tiền đến tài

12 (Hàn Quốc: Deepfake khiêu dâm len lỏi trong nhóm chat, 2024)

Hình 15 Cuộc gọi deepfake mạo danh Nguồn:

Vnexpress.net