tiểu luận môn học khai thác dữ liệu đề tài tìm hiểu các mô hình học sâu cho bài toán đánh giá cảm xúc

lOMoARcPSD|9242611 Bà GIAO THƠNG VÀN TÀI TR¯àNG Đ¾I HàC GIAO THƠNG V¾N TÀI TP.HCM TIÂU LN MƠN HàC KHAI THÁC DỮ LIÞU ĐÀ TÀI: TÌM HIàU CÁC MƠ HÌNH HàC SÂU CHO BÀI TỐN ĐÁNH GIÁ CÀM XÚC HVTH: Đ¾NG THANH VŨ - 1948010109 TR¯¡NG THÞ BIàN - 1948010106 Lớp: Khoa hác máy tính - KM1902 GVHD: TS LÊ VN QUàC ANH TP.HCM, tháng 07 năm 2022 lOMoARcPSD|9242611 MĀC LĀC Giới thiáu Tổng quan .5 2.1 Ph°¡ng pháp truyÁn tháng 2.2 Ph°¡ng pháp hián đ¿i .7 Mơ hình m¿ng tích chÁp cho nhÁn d¿ng cÁm xúc qua khn mặt 3.1 Tổng quan vÁ CNN cho nhÁn d¿ng cÁm xúc qua khuôn mặt 3.2 Mơ hình ki¿n trúc nhÁn d¿ng cÁm xúc qua khuôn mặt 3.3 Hồi quy tuy¿n tính (Linear Regression) .10 3.4 Máy vect¡ hß trợ (SVM) 11 3.5 M¿ng n¡-ron tích chÁp (CNN) .12 3.6 Mát sá mơ hình khác 13 3.6.1 M¿ng n¡-ron cổ điÃn 13 3.6.2 M¿ng n¡-ron hồi quy (RNN) 14 3.6.3 M¿ng bá nhớ dài-ngắn (Long Short Term Memory networks) .15 3.6.4 M¿ng sinh đái nghßch (GAN) 16 3.6.5 Boltzmann machine .17 3.6.6 Hác tng c°ờng sâu .17 a Autoencoder 18 b Backpropagation .18 c Gradient Descent .19 d M¿ng n¡ ron sâu (Deep Neural Network - DNN) 20 e M¿ng hác sâu niÁm tin (Deep belief net-DBN) 21 K¿t luÁn 22 TÀI LIàU THAM KHÀO .23 lOMoARcPSD|9242611 Gißi thißu Khn mặt ng°ời biÃu hián nhiÁu cÁm xúc mà khơng cần phÁi nói Đó mát ph°¡ng tián m¿nh mẽ tự nhiên đà ng°ời truyÁn đ¿t thà hián cÁm xúc Khơng giáng nh° hình thức giao ti¿p phi ngơn ngữ khác, cÁm xúc khn mặt phổ quát Hián nay, nhÁn d¿ng phân tích cÁm xúc khuôn mặt tự đáng mát vấn đÁ thú vß đầy thách thức, có Ánh h°ởng to lớn đ¿n xã hái CÁm xúc khuôn mặt hành đáng ph°¡ng tián giao ti¿p phi ngôn ngữ, bao gồm 93% cÁm xúc giao ti¿p ng°ời, 55% thà hián cử khn mặt hành đáng ng°ời CÁm xúc khuôn mặt có thà đ°ợc phân tích dß dàng thơng qua hình Ánh khn mặt máy tính có thà t°¡ng tác với ng°ời, nh° cách ng°ời t°¡ng tác với Đó lý t¿i nhÁn d¿ng cÁm xúc qua khuôn mặt ngày đ°ợc quan tâm mái lĩnh vực Các nhà nghiên cứu cÁm xúc khuôn mặt phổ quát bẩm sinh tất cÁ chủng tác, giới tính đá tuổi Thêm cÁm xúc trung tính có bÁy cÁm xúc c¡ bÁn, gồm: trung tính, giÁn dữ, ghê tởm, sợ hãi, h¿nh phúc, buồn bất ngờ NhÁn d¿ng cÁm xúc qua khn mặt có ứng dụng lĩnh vực khác nhau: Hình Trạng thái cảm xúc khuôn mặt nghiên cứu Matsumoto • Giáo dục: PhÁn ứng ng°ời hác thời gian thực tham gia vào nái dung giáo dục mát th°ớc đo l°ờng cho hiáu quÁ giÁng GVHD: Lê Vn Quác Anh Trang lOMoARcPSD|9242611 ã Tip thò: õy l mỏt cách tuyát vời đà công ty kinh doanh phân tích cách khách hàng phÁn hồi với quÁng cáo, sÁn phẩm, bao bì thi¿t k¿ cửa hàng há • Ch¡i game: Với đời game thực t¿ Áo gần với trÁi nghiám thực t¿ NhÁn d¿ng cÁm xúc khn mặt đóng mát vai trị quan tráng đà cÁi thián trÁi nghiám ch¡i trị ch¡i • BÁo mÁt: Nó có thà giúp xác đßnh hành vi đáng ngờ đám đơng có thà đ°ợc sử dụng đà ngn chặn tái ph¿m kẻ khủng bá tim nng ã Chm súc sc khòe: Nú cú th hữu ích viác tự đáng hóa dßch vụ y t¿ CÁ sức khße thà chất tinh thần có thà đ°ợc phân tích thơng qua ứng dụng • Dßch vụ khách hàng: QuÁn lý dßch vụ khách hàng có thà hiáu quÁ h¡n cách sử dụng há tháng nhÁn d¿ng cÁm xúc khn mặt Phân tích phÁn hồi khách hàng phÁn ứng máy tính đÁm bÁo t°¡ng tác máy tính với ng°ời cuác sáng thực Há tháng nhÁn dián cÁm xúc khuôn mặt đ°ợc sử dụng nhiÁu cuác sáng: điÁu trß y t¿, giao ti¿p song ngơn ngữ, đánh giá đau bánh nhân, phát hián nói dái, giám sát tr¿ng thái ng°ời lái xe phát hián tr¿ng thái buồn ngủ dựa vào cÁm xúc khuôn mặt đ°ợc phát triÃn đà cÁnh báo cho ng°ời lái xe thấy dấu hiáu buồn ngủ, mát mßi Há c¡ mặt đóng vai trị quan tráng viác t¿o biÃu cÁm mặt, c¡ khuôn mặt tr¿ng thái khác với tr¿ng thái biÃu cÁm khác Hình Hệ mặt GVHD: Lê Vn Quác Anh Trang lOMoARcPSD|9242611 Nói chung, tr°ớc có phát triÃn lĩnh vực công nghá thông tin, đặc biát lĩnh vực thß giác máy, viác phân tích biÃu cÁm khn mặt vÁ c¡ bÁn vấn đÁ nhà nghiên cứu tâm lý bác sĩ Tuy nhiên sau có thay đổi xuất hián nhiÁu nhóm nghiên cứu, nhiÁu công ty đầu t° vào vấn đÁ phân tích biÃu cÁm khn mặt ph°¡ng dián xử lý Ánh đồ háa máy tính Có thà kà đ¿n mát vài k¿t quÁ khởi đầu nh°: vào nm 1978, Suwa cáng trình bày mát khÁo sát s¡ bá vÁ viác phân tích biÃu cÁm khn mặt tự đáng từ mát chi hình Ánh; vào nm 90, vấn đÁ nghiên cứu biÃu cÁm khuôn mặt tự đáng đ¿t đ°ợc nhiÁu quan tâm với tiên phong Mase Pentland, cơng trình tác giÁ trình bày mát ph°¡ng pháp sử dụng luồng quang hác đà °ớc l°ợng cử đáng c¡ mặt dựa vào đà nhÁn d¿ng mát sá biÃu cÁm đặc tr°ng, theo thí nghiám ban đầu cho thấy đá xác khoÁng 80% nhÁn bán lo¿i: h¿nh phúc, giÁn dữ, ghê tởm, ng¿c nhiên Nghiên cứu vÁ biÃu cÁm khuôn mặt lĩnh vực công nghá thông tin đ°ợc quan tâm đ¿n hứa hẹn nhiÁu ứng dụng cuác sáng, chẳng h¿n: • Các há tháng xác thực sinh trắc hác thời gian thực cho phép ng°ời dùng đng nhÁp cách nhìn vào kính camera • Các há tháng kiÃm sốt vào có l°u v¿t thời gian • Các ứng dụng nhÁn d¿ng đái t°ợng không cần ghi danh tr°ớc • Há tháng giám sát video nhÁn d¿ng khuôn mặt tự đáng Tổng quan Đầu tiên, muán nghiên cứu vÁ đÁ tài này, b¿n cần phÁi chuẩn bß ki¿n thức hác máy gì? Phân lo¿i kỹ thuÁt hác máy? Đ°a mát sá kỹ thuÁt hác máy? Ti¿p theo, tìm hiÃu vÁ SVM cách thức ho¿t đáng ứng dụng SVM thực t¿ Cuái cùng, tìm hiÃu vÁ CNN: giới thiáu vÁ khái niám mơ hình CNN Các ki¿n thức trên, b¿n có thà dß dàng tìm hiÃu qua báo, website khác m¿ng, khơng nhắc đ¿n nữa, n¿u có thời gian có báo chi ti¿t vÁ chủ đÁ Sau đây, xin bắt đầu vào phần nái dung vi¿t theo nh° có tìm hiÃu ch°a có nhiÁu vi¿t đ°ợc nhắc đ¿n nái dung nghiên cứu Chủ GVHD: Lê Vn Quác Anh Trang lOMoARcPSD|9242611 đÁ nhÁn d¿ng cÁm xúc qua khuôn mặt, sử dụng ph°¡ng pháp SVM CNN Mục tiêu vi¿t: • So sánh ph°¡ng pháp SVM CNN nhÁn d¿ng cÁm xúc qua khn mặt • So sánh ph°¡ng pháp CNN c¡ bÁn CNN c¡ bÁn k¿t hợp đặc tr°ng trun tháng Mình có tìm hiÃu sá báo sá phần mÁm ứng dụng thực t¿ hián vÁ nhÁn dián khn mặt thấy có vấn đÁ quan tráng cần giÁi quy¿t là: Thi¿u liáu traning bi¿n thà không liên quan đ¿n biÃu hián cÁm xúc: ánh sáng, t° th¿ đầu sai lách nhÁn d¿ng Đà giÁi quy¿t vấn đÁ ph°¡ng pháp nhÁn d¿ng cÁm xúc qua khn mặt đ°ợc chia thành nhiÁu h°ớng theo tiêu chí khác nhau, chia thành hai lo¿i chính: ph°¡ng pháp truyÁn tháng ph°¡ng pháp hián đ¿i Đà hiÃn rõ h¡n th¿ ph°¡ng pháp truyÁn tháng, ph°¡ng pháp hián đ¿i, nói qua vÁ nái dung này: 2.1 PhÂng phỏp truyòn thng Hỏ thỏng nhn dng cm xỳc qua khn mặt với ph°¡ng pháp trun tháng xử lý qua giai đo¿n: tiÁn xử lý hình Ánh khn mặt, trích xuất đặc tr°ng phân lo¿i Hình Kiến trúc nhận dạng khn mặt phương pháp truyền thống • TiÁn xử lý q trình đ°ợc sử dụng đà cÁi thián hiáu suất há tháng nhÁn d¿ng cÁm xúc qua khuôn mặt đ°ợc thực hián lo¿i quy trình khác nhau: cn chỉnh đá rõ, chia tỷ hình Ánh, điÁu chỉnh đá t°¡ng phÁn sử dụng quy trình nâng cao đà cÁi thián khung biÃu thức • Trích xuất đặc tr°ng thß giác máy tính mát giai đo¿n quan tráng, phát hián viác chuyÃn từ mô tÁ đồ háa sang mô tÁ liáu ẩn, trích chán đặc GVHD: Lê Vn Quác Anh Trang lOMoARcPSD|9242611 tr°ng riêng hình Ánh, sau mơ tÁ liáu có thà đ°ợc sử dụng làm đầu vào cho tốn phân lo¿i • Phân lo¿i giai đo¿n cuái há tháng nhÁn dián cÁm xúc qua khuôn mặt (FER), đà phân lo¿i lo¿i cÁm xúc khuôn mặt: h¿nh phúc, buồn bã, bất ngờ, tức giÁn, sợ hãi, ghê tởm bình th°ờng Sử dụng ph°¡ng pháp phân lo¿i nh°: Cây quy¿t đßnh (ID3), SVM, HMM (Hidden Markov Model) phân lo¿i SVM cho đá xác phân lo¿i tát Chính vÁy, chán SVM đ¿i dián cho ph°¡ng pháp truyÁn tháng đà sử dụng cho há tháng nhÁn dián 2.2 Ph°¢ng pháp hißn đ¿i Trong phần này, mơ tÁ b°ớc phổ bi¿n há tháng nhÁn d¿ng cÁm xúc qua khuôn mặt thực hián qua giai đo¿n: tiÁn xử lý, phân lớp sử dụng hác sâu Những nm gần đây, hác sâu có đá xác h¡n ph°¡ng pháp trun tháng khơng phÁi qua b°ớc trích xuất đặc tr°ng mát cách t°ờng minh, thực hián kèm với ph°¡ng pháp phân lo¿i Hình Kiến trúc hệ thống nhận dạng cảm xúc khn mặt phương pháp deep learning • TiÁn xử lý Ánh: phÁi xử lý sá vấn đÁ Ánh đầu vào há tháng, xử lý tr°ớc trình trainning Các b°ớc thực hián: Cn chỉnh khn mặt đà phát hián khn mặt, tng liáu hình Ánh đÁm bÁo đủ liáu training, cuái chuẩn hóa liáu khn mặt Sử dụng ph°¡ng pháp CNN, DBN, DAE, RNN, GAN GVHD: Lê Vn Quác Anh Trang lOMoARcPSD|9242611 • Phân lo¿i: Trong ph°¡ng pháp truyÁn tháng b°ớc trích xuất đặc tr°ng b°ớc phân lo¿i tính nng đác lÁp với nhau, Deep learning có thà thực hián FER theo cách từ đầu đ¿n cuái Mát lớp đ°ợc thêm vào cuái m¿ng đà điÁu chỉnh lßi lan trun ng°ợc, sau xác suất dự đốn m¿u có thà đ°ợc m¿ng trực ti¿p xuất Mơ hình m¿ng tích ch¿p cho nh¿n d¿ng cÁm xúc qua khuôn m¿t Trong nái dung này, đặt câu hßi y Trong đó, ý0 , ý1 , &, ý�㕘 (với ví dụ k = 3) đ°ợc gái tham sá mơ hình, ý0 cịn đ°ợc gái bias þ�㕖 đặc tr°ng đ°ợc đ°a vào mơ hình y đ¿i dián GVHD: Lê Vn Quác Anh Trang 10 lOMoARcPSD|9242611 cho lớp đầu ra, với toán này, y = t°¡ng ứng với tiêu cực, y = t°¡ng ứng với tích cực ÿ̂ k¿t q dự đốn mơ hình hác máy, ÿ̂ ∈ (0,1), n¿u ÿ̂ -> câu đầu vào đ°ợc dự đoán thuác lớp tiêu cực, ng°ợc l¿i n¿u ÿ̂ -> câu đ°ợc k¿t ln thc lớp tích cực ¯u điÃm: Đ¡n giÁn, dß cài đặt v s dng Nhc im: ã Dò nhy cm vi nhiòu ã Khụng biu diòn c cỏc mụ hỡnh phc t¿p 3.4 Máy vect¢ hỗ trÿ (SVM) Nh° bi¿t, với tốn phân lo¿i nhß phân tuy¿n tính ta cần vẽ đ°ợc mặt phân tách (với không gian chiÁu mặt phẳng đ°ờng phân tách): ÿ�㕇 þ + Ā = đà phân biát đ°ợc liáu Khi dấu hàm °ớc l°ợng H = {x -> sng( ỵ + ), a , b ∈ R} thà hián đ°ợc điÃm liáu x nằm cụm liáu SVM mát bián pháp đà thực hián đ°ợc phép lấy mặt phẳng nh° vÁy Mát máy vector hß trợ thực hián phân lo¿i vi¿t thành lớp tích cực tiêu cực cách lÁp bÁn đồ phi tuy¿n tÁp liáu huấn luyán thành mát không gian đặc tr°ng đa chiÁu Sau đó, xây dựng mát siêu phẳng (ranh giới quy¿t đßnh) N-chiÁu đà tách bá liáu thành hai cụm tích cực tiêu cực Hình Ví dụ đường thẳng khác cho phép tách liệu thành cụm Hình cho thấy mát bá liáu tuy¿n tính đ°ợc tách biát mát không gian chiÁu với hai cách khác đà phân biát chúng Chất l°ợng siêu phẳng đ°ợc quy¿t đßnh mát khoÁng cách (đ°ợc gái biên) điÃm liáu gần mßi GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 11 lOMoARcPSD|9242611 lớp đ¿n mặt phẳng KhoÁng cách biên lớn phân chia điÃm thành hai lớp tát, nghĩa đ¿t đ°ợc k¿t quÁ phân lo¿i tát Đái với toán phân tích tình cÁm câu, mßi bình ln đầu vào cho n đặc tr°ng thông qua kỹ thuÁt tf-idf Do đó, câu đ°ợc biÃu dißn thành điÃm liáu không gian n chiÁu Nhiám vụ sử dụng SVM đà xây dựng siêu phẳng làm biên t°¡ng ứng cho lớp tích cực tiêu cực cho khoÁng cách biên lớn ¯u điÃm: • Hiáu quÁ khơng gian sâu • V¿n hiáu q tr°ờng hợp kích th°ớc khơng gian lớn h¡n sá m¿u • Dß tùy chỉnh với nhiÁu hàm kernel khác Nh°ợc điÃm: • N¿u sử dụng sá l°ợng đặc tr°ng lớn h¡n nhiÁu sá l°ợng m¿u dß xÁy hián t°ợng over-fitting • Các SVM khơng trực ti¿p cung cấp °ớc tính xác suất, chúng đ°ợc tính tốn cách sử dụng five-fold cross-validation 3.5 M¿ng n¢-ron tích ch¿p (CNN) M¿ng n¡-ron tích chÁp (Convolutional Neural Network – CNN) mát ki¿n trúc m¿ng n¡-ron nhân t¿o nâng cao, đ°ợc xây dựng đà giÁi quy¿t toán phức t¿p, đặc biát liên quan đ¿n xử lý hình Ánh Tích chÁp mát khái niám xử lý tín hiáu sá nhằm bi¿n đổi thơng tin đầu vào qua mát phép tích chÁp với bá lác, nhằm trÁ vÁ đầu mát tín hiáu Tín hiáu giÁm bớt đặc tr°ng mà bá lác khơng quan tâm, giữ l¿i đặc tr°ng quan tráng Bên c¿nh input layer output layer, mơ hình CNN cịn có thêm mát sampling layer đà giới h¿n sá l°ợng n¡-ron tham gia vào layer t°¡ng ứng Viác xây dựng mơ hình trÁi qua ba giai đo¿n chính: • Q trình tích chÁp (convolution): Thơng qua tích chÁp ma trÁn đầu vào với bá lác đà t¿o thành đ¡n vß mát tầng Q trình có thà dißn GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 12 lOMoARcPSD|9242611 liên tục phần đầu m¿ng th°ờng sử dụng kèm với hàm kích ho¿t ReLU Mục tiêu tầng trích suất đặc tr°ng hai chiÁu • Q trình tổng hợp (max pooling): GiÁm kích th°ớc khái ma trÁn đầu vào thơng qua viác tìm giá trß đ¿i dián cho mßi mát vùng không gian mà bá lác qua không làm thay đổi đ°ờng nét Ánh nh°ng l¿i giÁm đ°ợc kích th°ớc Ánh • Q trình k¿t nái hoàn toàn (fully connected): Sau giÁm kích th°ớc đ¿n mát mức đá hợp lý, ma trÁn cần đ°ợc trÁi phẳng (flatten) thành mát vector sử dụng k¿t nái hoàn toàn tầng Tầng k¿t nái hoàn toàn cuái (fully connected layer) có sá l°ợng đ¡n vß với sá lớp Dựa vào đặc điÃm mình, ứng dụng phổ bi¿n m¿ng CNN gồm có: NhÁn dián, phân tích phân khúc hình Ánh, phân tích video, xử lý ngôn ngữ tự nhiên, & 3.6 Một số mô hình khác 3.6.1 M¿ng n¢-ron cổ đián Ki¿n trúc cổ điÃn m¿ng n¡-ron m¿ng k¿t nái đầy đủ, th°ờng đ°ợc xác đßnh perceptron đa lớp (Perceptron mát tht tốn đ¡n giÁn, cho phép tìm mát ranh giới siêu phẳng cho toán phân lớp nhß phân) M¿ng n¡-ron cổ điÃn đ°ợc thi¿t GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 13 lOMoARcPSD|9242611 k¿ Fran Rosenblatt vào nm 1958, chủ y¿u đ°ợc sử dụng cho tốn phân lớp nhß phân Có ba lo¿i hàm th°ờng đ°ợc sử dụng mơ hình là: 3.6.2 M¿ng n¢-ron hồi quy (RNN) Recurrent Neural Network (RNN) mát thuÁt toán ti¿ng lĩnh vực xử lý ngôn ngữ tự nhiên Trong mơ hình m¿ng n¡-ron trun tháng, đầu vào đầu đác lÁp với nhau, nhiên RNN thực hián mát tác vụ cho tất cÁ phần tử mát chußi với đầu phụ thuác vào cÁ phép tính tr°ớc Vì vÁy m¿ng RNN có khÁ nng nhớ thơng tin đ°ợc tính tốn tr°ớc Có hai thi¿t k¿ RNN: • LSTM (Long Short-Term Memory): Đ°ợc dùng đà dự đoán liáu d¿ng chi thời gian, có khÁ nng bß thêm thông tin cần thi¿t, đ°ợc điÁu chỉnh nhóm đ°ợc gái cổng (gate): Input, Output Forget • Gated RNN: Cũng mát thi¿t k¿ phổ bi¿n lĩnh vực dự đốn liáu chi thời gian, có hai cổng Update Reset Các d¿ng tốn RNN: • One to one: Chỉ có mát input k¿t nái với mát output nhất, chẳng h¿n nh° tốn phân lo¿i hình Ánh • One to many: Mát input liên k¿t với nhiÁu chußi output, phổ bi¿n toán đặt caption cho Ánh • Many to One: NhiÁu input nh°ng có output, ví dụ phổ bi¿n tốn phân lo¿i cÁm xúc • Many to many: NhiÁu input nhiÁu output, chẳng h¿n nh° phân lo¿i video Hình Mạng nơ-ron hồi quy (RNN) GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 14 lOMoARcPSD|9242611 3.6.3 M¿ng nhß dài-ngắn (Long Short Term Memory networks) M¿ng bá nhớ dài-ngắn (Long Short Term Memory networks) th°ờng đ°ợc gái LSTM – d¿ng đặc biát RNN, có khÁ nng hác đ°ợc phụ thuác xa LSTM đ°ợc giới thiáu Hochreiter Schmidhuber, sau đ°ợc cÁi ti¿n phổ bi¿n nhiÁu ng°ời ngành Chúng ho¿t đáng hiáu quÁ nhiÁu toán khác nên dần trở nên phổ bi¿n nh° hián LSTM đ°ợc thi¿t k¿ đà tránh đ°ợc vấn đÁ phụ thuác xa (long-term dependency) Viác nhớ thông tin suát thời gian dài đặc tính mặc đßnh chúng, ta khơng cần phÁi huấn luyán đà có thà nhớ đ°ợc tức nái t¿i có thà ghi nhớ đ°ợc mà không cần can thiáp Thay có mát tầng m¿ng n¡-ron nh° RNN, chúng có tới tầng (hình 8) t°¡ng tác với mát cách đặc biát Hình Cấu tạo nút mạng LSTM LSTM có khÁ nng bß thêm vào thơng tin cần thi¿t cho tr¿ng thái t¿ bào, chúng đ°ợc điÁu chỉnh cẩn thÁn nhóm đ°ợc gái cổng (gate) Hián nay, có nhiÁu bi¿n thà LSTM đ°ợc đÁ xuất nh°: Bi-LSTM, GRu, & Trong toán này, đầu vào đầu m¿ng LSTM đ°ợc thi¿t lÁp t°¡ng tự nh° m¿ng CNN ¯u điÃm: • Th°ờng đ°ợc áp dụng cho đái t°ợng vn bÁn âm có khÁ nng ghi nhớ tát GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 15 lOMoARcPSD|9242611 • Khơng cần phÁi huấn lun đà có thà nhớ đ°ợc, Do đó, giÁi quy¿t đ°ợc vấn đÁ phụ thuác xa mà RNN không làm đ°ợc Nh°ợc điÃm: • Phức t¿p h¡n m¿ng RNN tác đá th°ờng chÁm h¡n • Do có mát tÁp cơng thức, khi¿n cho LSTM trở nên khó hiÃu 3.6.4 M¿ng sinh đối nghßch (GAN) Generative Adversarial Networks (GAN) lớp mơ hình có mục tiêu t¿o liáu giÁ giáng với thÁt, tên m¿ng đ°ợc dựa ki¿n trúc gồm hai m¿ng có mục tiêu đái nghßch nhau: Generator Discriminator Trong Generator hác cách sinh liáu giÁ đà lừa mơ hình Discriminator, cịn Discriminator l¿i hác cách phân biát liáu giÁ liáu thÁt Thơng qua q trình huấn lun cÁ hai mơ hình đÁu cÁi thián đ°ợc khÁ nng Mát sá ứng dụng phổ bi¿n GAN là: T¿o khuôn mặt ng°ời, thay đổi đá tuổi khuôn mặt, sinh Ánh vÁt thÃ, t¿o nhân vÁt ho¿t hình, & Hình Mạng sinh đối nghịch (GAN) GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 16 lOMoARcPSD|9242611 3.6.5 Boltzmann machine Đây mát mô hình m¿ng khơng có h°ớng xác đßnh, vÁy node m¿ng đ°ợc liên k¿t với thành mát hình trịn Dựa vào ki¿n trúc này, máy Boltzmann (Boltzmann machine) th°ờng đ°ợc sử dụng đà t¿o tham sá cho mơ hình Các ứng dụng phổ bi¿n mơ hình là: giám sát há tháng, xây dựng há tháng khuy¿n nghß nhß phân, & 3.6.6 Hác tăng c°áng sâu Deep Reinforcement Learning trình mà tác tử (agent) t°¡ng tác với môi tr°ờng đà thay đổi tr¿ng thái Các tác tử có thà quan sát thực hián hành đáng phù hợp, từ giúp m¿ng đ¿t đ°ợc mục tiêu Mơ hình m¿ng gồm mát input layer, output layer nhiÁu hidden layer khác, tr¿ng thái mơi tr°ờng input layer Mơ hình huấn luyán liên tục đà dự đoán điÃm đ¿t đ°ợc sau mßi hành đáng đ°ợc thực hián tr¿ng thái đßnh Mơ hình hác tng c°ờng sâu đ°ợc ứng dụng chủ y¿u game cờ vua, poker, xe tự lái, robot, & Hình 10 Học tăng cường sâu GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 17 lOMoARcPSD|9242611 a Autoencoder Autoencoder mát kỹ thuÁt Deep Learning phổ bi¿n hián nay, có khÁ nng hác biÃu dißn liáu đầu vào mà khơng cần nhãn, hay nói cách khác m¿ng có khÁ nng hác khơng giám sát (unsupervised learning) Mát sá lo¿i autoencoder gồm có: • Sparse (th°a): Sá l°ợng hidden layer lớn h¡n sá l°ợng input layer nhằm h¿n ch¿ hián t°ợng khớp (overfitting) Ph°¡ng pháp giới h¿n hàm mát ngn không cho autoencoder l¿m dụng tất cÁ node có mng ã Denoising (lỏc nhiòu): Mỏt phiờn bn input c chuyÃn thành ng¿u nhiên • Contractive: Bổ sung há sá ph¿t vào hàm mát đà h¿n ch¿ overfitting tr°ờng hợp sá l°ợng hidden layer lớn h¡n input layer • Stacked: X¿p chồng nhiÁu hidden layer lên đà t¿o thành mát m¿ng autoencoder • Các ứng dụng phổ bi¿n: Phát hián đặc tr°ng, xây dựng há tháng khuy¿n nghß, bổ sung đặc tr°ng cho tÁp liáu, & Hình 11 Autoencoder b Backpropagation Lan truyÁn ng°ợc (backpropagation) mát kỹ thuÁt quan tráng m¿ng n¡-ron VÁ c¡ bÁn ph°¡ng pháp giúp tính gradient ng°ợc từ layer cuái GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 18 lOMoARcPSD|9242611 đ¿n layer m¿ng Tr°ớc h¿t, m¿ng phân tích tham sá điÁu chỉnh thơng qua hàm mát Ti¿p theo, giá trß lßi đ°ợc tính tốn lan trun ng°ợc l¿i đà điÁu chỉnh tham sá cho phù hợp Hình 12 Backpropagation c Gradient Descent Trong Deep Learning tái °u hoá, ta th°ờng phÁi tìm giá trß nhß (hoặc lớn nhất) mát hàm sá Tuy nhiên viác tìm điÃm tái °u toàn cục hàm mát th°ờng phức t¿p, bất khÁ thi Do ta có thà cá gắng tìm điÃm cực tiÃu đßa ph°¡ng có thà xem nghiám cần tìm tốn Các điÃm cực tiÃu đßa ph°¡ng vÁ mặt tốn hác nghiám hác ph°¡ng trình đ¿o hàm 0, nhiên viác giÁi ph°¡ng trình đ¿o hàm gần nh° không thà Machine Learning hay Deep Learning Mát cách ti¿p cÁn phổ bi¿n xuất phát từ mát điÃm mà ta coi gần với nghiám tốn, sau dùng mát phép lặp đà ti¿n dần đ¿n GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 19 lOMoARcPSD|9242611 điÃm cần tìm Ph°¡ng pháp đ°ợc gái h¿ gradient đ°ợc sử dụng vô phổ bi¿n tái °u Với m¿ng n¡-ron hián đ¿i, nhờ vào tht tốn lan trun ng°ợc mà gradient descent có thà nhanh h¡n hàng triáu lần so với cách truyÁn tháng Hình 13 Gradient Descent d M¿ng n¢ ron sâu (Deep Neural Network - DNN) M¿ng n¡ ron sâu (Deep Neural Network - DNN) mát d¿ng cụ thà lĩnh vực hác sâu M¿ng n¡ ron sâu mát m¿ng n¡ ron nhân t¿o nh°ng có ki¿n trúc phức t¿p "sâu" h¡n nhiÁu so với ki¿n trúc m¿ng n¡ ron truyÁn tháng Nghĩa có sá nút mßi lớp sá lớp ẩn lớn h¡n nhiÁu cách thức ho¿t đáng phức t¿p h¡n so với ki¿n trúc m¿ng n¡ ron truyÁn tháng Mát sá nghiên cứu v°ợt trái GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 20 lOMoARcPSD|9242611 mơ hình viác phát hián xâm nhÁp, nhiÁu tÁp liáu KDDCup 99, NSL-KDD, Kyoto, UNSW-NB15, WSN-DS, and CICIDS 2017 e M¿ng hác sâu nißm tin (Deep belief net-DBN) M¿ng hác sâu niÁm tin (Deep belief net-DBN) mát mơ hình m¿ng n¡-ron nhân t¿o nhiÁu lớp Quá trình huấn luyán m¿ng DBN gồm hai pha: tiÁn huấn luyán hiáu chỉnh tráng sá Trong pha tiÁn huấn luyán, máy hác Boltzmann đ°ợc sử dụng đà khởi t¿o tráng sá tát cho mơ hình với liáu khơng cần đ°ợc gán nhãn Trong pha hiáu chỉnh tráng sá, DBN ti¿p tục đ°ợc huấn luyán ph°¡ng pháp lan truyÁn ng°ợc cổ điÃn với liáu đ°ợc gán nhãn Đái với IDS, DBN đ°ợc sử dụng cho nhiám vụ trích xuất đặc tr°ng phân lớp GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 21 lOMoARcPSD|9242611 Kết lu¿n Dựa vào giới thiáu vÁ mơ trình tùy tốn cụ thÃ, ta có thà áp dụng mát mơ hình Deep learning đà ứng dụng xử lý tốn mát cách thích hợp Đây không mát lĩnh vực mẻ, nh°ng bùng nổ liáu nhiÁu nm gần giúp nhà khoa hác tÁn dụng đ°ợc tái đa khÁ nng mơ hình m¿ng n¡-ron nhân t¿o, t¿o tiÁn đÁ cho viác giÁi quy¿t nhiÁu toán t°ởng chừng nh° bất khÁ thi nhiÁu nm vÁ tr°ớc Hy váng qua tìm hiÃu cung cấp cho b¿n ki¿n thức hữu ích GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 22 lOMoARcPSD|9242611 TÀI LIÞU THAM KHÀO https://viblo.asia/p/nghien-cuu-va-ung-dung-cac-ky-thuat-nhan-dang-cam-xucqua-khuon-mat-ORNZqdmeK0n https://medium.com/@jonathan_hui/how-deep-learning-fakes-videosdeepfakes-and-how-to-detect-it-c0b50fbf7cb9 https://www.geeksforgeeks.org/generative-adversarial-network-gan/ https://forum.machinelearningcoban.com/t/generative-adversarial-networksgans/704 https://vietnix.vn/deep-learning-la-gi/ https://viblo.asia/p/recurrent-neural-networkphan-1-tong-quan-va-ung-dungjvElaB4m5kw GVHD: Lê Vn Quác Anh Downloaded by tran quang (quangsuphamhoak35@gmail.com) Trang 23 ... hình kiến trúc nh¿n d¿ng cÁm xúc qua khn m¿t Hình Mơ hình CNN kết hợp đặc trưng truyền thống cho hệ thống nhận dạng cảm xúc Hình mơ hình thi¿t k¿ há tháng nhÁn d¿ng cÁm xúc qua khuôn mặt sử dụng... cÁm xúc trung tính có bÁy cÁm xúc c¡ bÁn, gồm: trung tính, giÁn dữ, ghê tởm, sợ hãi, h¿nh phúc, buồn bất ngờ NhÁn d¿ng cÁm xúc qua khn mặt có ứng dụng lĩnh vực khác nhau: Hình Trạng thái cảm xúc. .. kích th°ớc 256 cho k¿t quÁ đầu mát tr¿ng thái cÁm xúc Mơ hình SVM thi¿t k¿ cho há tháng nhÁn d¿ng cÁm xúc qua khuôn mặt Mơ hình CNN c¡ bÁn thi¿t k¿ cho há tháng nhÁn d¿ng cÁm xúc qua khuôn mặt