Áp dụng thuật toán k nearest neighbor để phân loại nhạc theo thể loại

TRƢỜNG ĐẠI HỌC SƢ PHẠM HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN ************* NGUYỄN LAN HƢƠNG ÁP DỤNG THUẬT TOÁN K – NEAREST NEIGHBOR ĐỂ PHÂN LOẠI NHẠC THEO THỂ LOẠI KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Chuyên ngành: Khoa ho ̣c máy tính HÀ NỘI – 2015 TRƢỜNG ĐẠI HỌC SƢ PHẠM HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN ************* NGUYỄN LAN HƢƠNG ÁP DỤNG THUẬT TOÁN K – NEAREST NEIGHBOR ĐỂ PHÂN LOẠI NHẠC THEO THỂ LOẠI KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Chuyên ngành: Khoa ho ̣c máy tính Ngƣời hƣớng dẫn khoa học PGS. TS. BÙI THẾ HỒNG HÀ NỘI –2015 LỜI CẢM ƠN Lời đầ u tiên em xin chân thành cảm ơn sƣ̣ hƣớng dẫn tâ ̣n tiǹ h của thầ y giáo PGS. TS. BÙI THẾ HỒNG đã trƣ̣c tiế p hƣớng dẫn và chỉ bảo tận tình cho em hoàn thành khóa luâ ̣n này. Em cũng xin chân thành cảm ơn các thầ y , cô giáo khoa Công nghê ̣ Thông tin, cũng nhƣ các thầy cô giáo trƣờng đã giảng dạy và giúp đỡ em các năm ho ̣c vƣ̀a qua . Chính các thầ y , cô giáo đã xây dƣ̣ng cho chúng em nhƣ̃ng kiế n thƣ́c nề n tảng và kiế n thƣ́c chuyên môn để em có thể hoàn thành khóa luận tốt nghiệp và chuẩn bị cho những công việc của mình sau này. Cuố i cùng em xin bày tỏ lòng biế t ơn tới gia điǹ h và ba ̣n bè đã giúp đỡ đô ̣ng viên em rấ t nhiề u suố t quá triǹ h ho ̣c tâ ̣p để em có thể thƣ̣c hiê ̣n tố t khóa luận này. Do kiế n thƣ́c và thời gian còn ̣n chế nên khóa luâ ̣n không tránh khỏi nhƣ̃ng thiế u sót. Kính mong nhận đƣợc sự đóng góp ý kiến của các thầy cô và các bạn để khóa luận đƣợc hoàn thiện hơn. Hà Nội, tháng 05 năm 2015 Sinh viên Nguyễn Lan Hƣơng LỜI CAM ĐOAN Tên em là: NGUYỄN LAN HƢƠNG Sinh viên lớp : K37 – CNTT, khoa Công nghê ̣ Thông tin , trƣờng Đa ̣i ho ̣c sƣ phạm Hà Nội 2. Em xin cam đoan: 1. Đề tài : “Áp dụng thuật toán K – Nearest Neighbor để phân loại nhạc theo thể loại” là nghiên cƣ́u của riêng em , dƣới sƣ̣ hƣớng dẫn của thầ y giáo PGS. TS. Bùi Thế Hồng. 2. Khóa luận hoàn toàn không chép của tác giả nào khác. Nế u sai em xin hoàn toàn chiụ trách nhiê ̣m. Hà Nội, tháng 05 năm 2014 Ngƣời cam đoan Nguyễn Lan Hƣơng MỤC LỤC Mở đầu . CHƢƠNG 1. CƠ SỞ LÝ THUYẾT 11 1.1. Lịch sử hệ thống xử lí âm . 11 1.2. Âm số hóa âm . 14 1.2.1. Âm 14 1.2.2. Các tham số của sóng âm . 15 1.2.3. Số hóa âm . 17 1.3. Tổng quan âm nhạc 20 1.3.1. Nốt nhạc . 21 1.3.2. Bát độ . 22 1.4. Các phƣơng pháp phân loại nhạc 25 1.5. Biến đổi Fourier rời rạc . 26 CHƢƠNG 2. THUẬT TOÁN K – NEAREST NEIGHBOR ĐỂ PHÂN LOẠI NHẠC THEO THỂ LOẠI . 29 2.1. Khai phá dữ liệu 29 2.2. Phân lớp . 30 2.3. Mô tả thuật toán phân lớp k – Nearest Neighbor 32 2.4. Phân lớp K – Nearest Neighbor 33 CHƢƠNG 3. XÂY DỰNG ỨNG DỤNG PHÂN LOẠI NHẠC THEO THỂ LOẠI 36 3.1. Giới thiệu toán . 36 3.2. Thuật toán 37 3.2.1. Trích rút đặc trƣng . 37 3.2.2. Các đặc trƣng liên quan đến bố cục âm sắc (Timbral Texture Features) 38 3.2.3. Cân hệ số các đặc trƣng liên quan đến bố cục âm sắc 41 3.2.4. Khoảng cách giữa hai mẫu . 42 3.2.5. Huấn luyện nhận dạng 43 3.3. Xây dựng chƣơng trình . 43 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN . 49 TÀI LIỆU THAM KHẢO 51 DANH MỤC HÌNH Hình 1.1 Sự truyền chuyển động của phần tử khí . 14 Hình 1.2 Sóng âm truyền theo hƣớng . 15 Hình 1.3 Chất điểm M dao động xung quanh vị trí cân 15 Hình 1.4 Sóng âm . 18 Hình 1.5 Giai đoạn lấy mẫu 19 Hình 1.6 Độ phân giải 20 Hình 1.7 Chu kì lớp nốt . 22 Hình 1.8 Mô hình biểu diễn vùng bát độ . 23 Hình 1.9 Mô hình biểu diễn mức bán âm bát độ 23 Hình 1.10 Khoảng cách giữa các pitch class tƣơng ứng với tỷ lệ tần số . 24 Hình 1.11 Tín hiệu x1(t) . 26 Hình 1.12 Tín hiệu X1(f) - biến đổi Fourier của x1(t) 27 Hình 1.13 Tín hiệu x2(t) . 27 Hình 1.14 Tín hiệu X2(t) – biến đổi Fourier của x2(t) 28 Hình 2.1 Phƣơng pháp phâp loại k – nearest neighbor 33 Hình 2.2 Phƣơng pháp phân loại 35 Hình 3.1 Sơ đồ xác định tín hiệu nhạc từ tín hiệu radio. . 37 Hình 3.2 Sơ đồ một vector đặc trƣng từ một tín hiệu nhạc 38 Hình 3.3 Sơ đồ xác định các đặc trƣng liên quan đến bố cục âm sắc 38 Hình 3.4 Kết quả thử nghiệm với 10 thể loại . 45 Hình 3.5 Biểu đồ tƣơng quan độ xác phân loại 10 thể loại 46 Hình 3.6 Trích xuất giá trị các đặc trƣng . 46 Hình 3.7 Phân loại với 10 thể loại (1) 47 Hình 3.8 Phân loại nhạc với 10 thể loại (2) . 48 Mở đầu 1. Lí chọn đề tài Trong những năm gần đây, với sự bùng nổ công nghệ thông tin định dạng nén đời, làm cho việc sở hữu những nhạc trở nên dễ dàng bao giờ hết. Kéo theo đó là sự gia tăng nhu cầu sƣu tập nhạc số cá nhân hay tổ chức. Nhƣ chúng ta đã biết, với số lƣợng lớn nhạc sƣu tầm đƣợc việc sƣu tầm nhạc tiến hành từ nhiều nguồn, với nhiều nguồn chất lƣợng âm khác nhau, cũng nhƣ thông tin nhạc tải cũng có mức độ xác khác nhau, nên việc phân loại nhạc chỉ dựa vào những thông tin lƣu giữ tập tin lƣu trữ gặp nhiều hạn chế. Thay chỉ dựa vào những thông tin có sẵn, ngƣời sƣu tầm nghe lại tự phân loại chúng, nhiên với số lƣợng lớn nhạc việc làm không khả thi. Điều này đã làm nảy sinh nhu cầu tự động phân loại nhạc hệ thống lƣu trữ âm nhạc. Các hệ thống tự động phân loại nhạc cần thiết, hỗ trợ thay ngƣời việc phân loại nhạc, truy tìm thông tin nhạc internet, . Bên cạnh đó, việc phân loại nhạc tự động cung cấp sở khoa học cho việc phân tích dựa nội dung của tín hiệu âm nhạc. Chính những lý trên, cộng với những kiến thức tìm hiểu từ môn Trí tuệ nhân tạo, em đã chọn đề tài "Áp dụng thuật toán K-Nearest Neighbor để phân loại nhạc theo thể loại" làm đề tài khóa luận. 2. Mục đích nghiên cứu Dựa vào thuật toán K-nearest neighbor để phân loại nhạc theo thể loại. 3. Nhiệm vụ nghiên cứu  Thu thập các đặc trƣng của thể loại nhạc.  Xác định khoảng cách giữa các vetor đặc trƣng của tín hiệu cần phân loại với các vetor đặc trƣng láng giềng gần nó. Từ đó xác định thể loại nhạc dựa vào thể loại nhạc của vetor gần nhất.  Xây dựng chƣơng trình và đánh giá kết quả phân loại. 4. Đối tƣợng nghiên cứu Nghiên cứu với 10 thể loại nhạc: Blues, Classical, Country, Disco, Hiphop, Jazz, Metal, Pop, Regguage, Rock. 5. Phạm vi nghiên cứu Các đặc trƣng chung và riêng của 10 thể loại nhạc đƣợc chọn nghiên cứu. 6. Ý nghĩa kha học ý nghĩa thực tiễn đề tài Phân loại nhạc tự động sở khoa học cho việc phân tích tín hiệu audio. Việc sử dụng thuật toán K – Nearest Neighbor để phân loại nhạc theo thể loại, rút ngắn đƣợc thời gian thực mang lại kết quả xác cao. Các hệ thống phân loại nhạc tự động cần thiết, hỗ trợ thay ngƣời việc sƣu tập nhạc, truy tìm thông tin internet, . Bên cạnh đó, cung cấp các đặc trƣng quan trọng của tín hiệu audio phục vụ cho hệ thống truy tìm thông tin, thích tự động tập tin nhạc, nhận dạng giọng nói phục vụ điều tra, . 7. Phƣơng pháp nghiên cứu  Phƣơng pháp nghiên cứu lí luận: Nghiên cứu qua việc đọc sách, báo tài liệu liên quan nhằm xây dựng sở lý thuyết của đề tài biện pháp cần thiết để giải vấn đề của đề tài.  Phƣơng pháp thực nghiệm: Thông qua quan sát thực tế, yêu cầu của sở, những lý luận đƣợc nghiên cứu kết quả đạt đƣợc qua những phƣơng pháp trên.  Phƣơng pháp chuyên gia: Tham khảo ý kiến của các chuyên gia để thiết kế chƣơng trình phù hợp với yêu cầu thực tiễn. Nội dung xử lý nhanh đáp ứng đƣợc yêu cầu ngày cao của ngƣời sử dụng 8. Cấu trúc khóa luận Ngoài phần mở đầu, kết luận và phƣơng hƣớng phát triển cấu trúc khóa luận gồm có các chƣơng sau: Chƣơng 1: Cơ sở lí thuyết. Chƣơng 2: Thuật toán K- Nearest Neighbor để phân loại nhạc theo thể loại. Chƣơng 3: Xây dựng ứng dụng phân loại nhạc theo thể loại. 10 CHƢƠNG 3. XÂY DỰNG ỨNG DỤNG PHÂN LOẠI NHẠC THEO THỂ LOẠI 3.1. Giới thiệu toán Âm nhạc trở thành phƣơng tiện để nâng cao giá trị tinh thần cho đời sống. Điều đó đã làm gia tăng số lƣợng file nhạc, đặc biệt World Wide Web. Đòi hỏi cần xây dựng một sở dữ liệu để quản lí tốt nhạc đó. Từ xƣa, muốn biết một nhạc thuộc thể loại nào, thƣờng dựa vào kinh nghiệm ngƣời nghe. Tuy nhiên, để biết một nhạc thuộc thể loại nào, thƣờng tìm tên hát, tác giả, ca sĩ hát bài đó để xác định xem bài hát đó thuộc thể loại nào. Ví dụ nhƣ nghe một hát của tác giả chuyên sáng tác nhạc pop, quy bài hát đó thuộc thể loại nhạc pop. Hoặc là, nghe một hát của một ca sĩ chuyên hát nhạc rock, quy nhạc rock. Ngoài ra, việc phân loại nhạc của ngƣời dựa vào loại nhạc cụ đƣợc sử dụng nhạc. Tuy nhiên, với sự phát triển của công nghệ, số lƣợng hát nhiều, ngồi nghe để kết luận bài đó thuộc thể loại nào. Các hệ thống phân loại nhạc theo thể loại thƣờng mô những kĩ của ngƣời để nhận biết đƣợc thể loại của bản nhạc. Tuy nhiên, chúng phân loại nhạc chủ yếu dựa vào kinh nghiệm ngƣời nghe nhạc mà cần thiết phải xác định một số đặc trƣng chung, phục vụ cho việc nhận dạng theo thể loại. Một thể loại nhạc một tập đặc trƣng chung là mà ngƣời nghe phân biệt với những loại nhạc khác từ những bản nhạc khác nhau. Những đặc trƣng có thể đƣợc kể nhƣ là: độ cao thấp nốt nhạc (pitch), âm sắc (timbre), nhịp (rhythm) của một bản nhạc những đặc trƣng liên quan đến bố cục nhạc 36 (music texture). Một những thách thức phân loại thể loại nhạc tự động tìm yếu tố đó. Trong khóa luận chỉ sử dụng bố cục âm sắc để phân loại thể loại nhạc. Các tín hiệu audio đƣợc phân loại một cách tự động thuộc một thể loại sau: classical, Rock, Jazz, Pop, Blues, country, disco, hip hop, metal. Reggae. Thử nghiệm với 10 thể loại nhạc này, thể loại classical, rock, jazz, pop. Hình 3.1 Sơ đồ xác định tín hiệu nhạc từ tín hiệu radio. 3.2. Thuật toán 3.2.1. Trích rút đặc trƣng Để xác định thể loại của một nhạc, cần xác định đặc trƣng của chúng cho máy tính phân biệt sự khác giữa loại nhạc. Chƣơng này giới thiệu một số phƣơng pháp chính việc rút trích đặc trƣng các tập tin nhạc và đề cập đặc trƣng thƣờng sử dụng phân tích nhạc. Rút trích đặc trƣng là quá trình xử lý tính toán để đƣa các đặc trƣng cần thiết cho việc phân loại nhạc. Ngoài ra, việc chọn lọc đặc trƣng từ dữ liệu đầu vào làm giảm số chiều và đó làm tăng hiệu quả mặt thời gian nhận dạng. Trong bài báo “Musical Genre Classification of Audio Signals” của George Tzanetakis Pery Cook, nhóm tác giả đã sử dụng ba tập đặc trƣng sau: 37 Rút trích đặc trƣng Tín hiệu nhạc Chọn lọc đặc trƣng Vector đặc trƣng Hình 3.2 Sơ đồ một vector đặc trƣng từ một tín hiệu nhạc  Các đặc trƣng liên quan đến bố cục âm sắc (Timbral Texture Features).  Các đặc trƣng liên quan đến nhịp nhạc (Rhythmic Content Features).  Các đặc trƣng liên quan đến độ cao thấp nốt nhạc (Pitch Content Features). Tuy nhiên, hạn chế trình độ thời gian, em chỉ sử dụng các đặc trƣng bố cục âm sắc cho việc phân loại nhạc. 3.2.2. Các đặc trƣng liên quan đến bố cục âm sắc (Timbral Texture Features) Quá trình xác định đặc trƣng bố cục âm sắc đƣợc mô tả sơ đồ sau: Hình 3.3 Sơ đồ xác định các đặc trƣng liên quan đến bố cục âm sắc Các đặc trƣng liên quan đến bố cục âm sắc đƣợc xác định dựa STFT đƣợc tính cửa sổ. Sau là các đặc trƣng đƣợc dùng để biểu diễn bố cục âm sắc. Spectral Centroid Spectral Centriud đƣợc định nghĩa là đo lƣờng phân bố lƣợng của phổ biên độ thực STFT tín hiệu. 38 𝐶𝑡 = 𝑁 𝑛 =1 𝑀𝑡 𝑛 ∗𝑛 𝑁 𝑛 =1 𝑀𝑡 𝑛 (3.1) Trong đó Mt[n] là biên độ của biến đổi Fourier cửa sổ t ứng với tần số n. Centroid một độ đo trạng thái phổ của phổ. Các giá trị Centroid cao tƣơng ứng với phổ có độ sáng chói và chứa nhiều tần số cao. Spectral Rolloff Spectral Rolloff đƣợc định nghĩa nhƣ một tần số Rt cho có khoảng 85% phân bố lƣợng đƣợc tập trung. 𝑅𝑡 𝑛 =1 𝑀𝑡 𝑛 = 0.85 ∗ 𝑁 𝑛=1 𝑀𝑡 𝑛 (3.2) Rolloff cũng là một độ đo trạng thái của phổ. Nó cho biết lƣợng của tín hiệu tập trung tần số thấp. Spectral Flux Spectral Flux đƣợc định nghĩa là bình phƣơng hiệu giữa các biên độ chuẩn của sự phân bố phổ 𝐹𝑡 = 𝑁 𝑛 =1 𝑁𝑡 𝑛 − 𝑁𝑡−1 𝑛 (3.3) Trong đó Nt[n] Nt-1[n] biên độ chuẩn thực biến đổi Fourier cửa sổ t t-1 trƣớc đó. 𝑁𝑡 𝑛 = 𝑀𝑡 𝑛 𝑁 𝑖=1 (3.4) 𝑀𝑡 𝑖 Spectral Rolloff là độ đo sự thay đổi phổ biên độ cục bộ. Time Domain Zero Crossings Time Domain Zero Crossings là độ đo độ ồn của tín hiệu. Nó xuất mẫu kề tín hiệu số khác dấu. Nó đƣợc tính công thức: 39 𝑍𝑡 = 𝑁 𝑛=1 𝑠𝑖𝑔𝑛 𝑥 𝑛 − 𝑠𝑖𝑔𝑛 (𝑥 𝑛 − ) (3.5) Trong đó: 𝑠𝑖𝑔𝑛 (𝑥 𝑛 = 𝑥 𝑛 ≥0 𝑥 𝑛 [...]... dụng phƣơng pháp phân loại K láng giềng gần nhất (K- Nearest Neighbour) vì phƣơng pháp này có một số ƣu điểm sau:  Dễ phân tích 31  Thực hiện đơn giản  Dễ thực hiện việc so sánh  Hiệu quả khi tập huấn luyện lớn  Bổ sung mẫu huấn luyện vào bộ huấn luyện một cách dễ dàng 2.3 Mô tả thuật toán phân lớp k – Nearest Neighbor K- Nearest Neighbors algorithm (K- NN) đƣợc sử dụng rất phổ biến... khác chúng ta muốn biết liệu Query Point sẽ đƣợc phân vào lớp (+) hay lớp (-) 1- Nearest neighbor outcome is a puls 2- Nearest neighbor outcome is unknown 5- Nearest neighbor outcome is a minus Hình 2.1 Phƣơng pháp phâp loại k – nearest neighbor Thấy rằng: 1 - Nearest neighbor: K t quả là + (Query Point đƣợc xếp vào lớp dấu +) 2 - Nearest neighbors: không xác định lớp cho Query Point vì số láng... + và 1 là lớp – (không có lớp nào có số đối tƣợng nhiều hơn lớp kia) 5 - Nearest neighbors: K t quả là - (Query Point đƣợc xếp vào lớp dấu – vì trong 5 láng giềng gần nhất với nó thì có 3 đối tƣợng thuộc lớp - nhiều hơn lớp + chỉ có 2 đối tƣợng) 2.4 Phân lớp K – Nearest Neighbor Phân lớp K – Nearest Neighbor là kiểu mở rộng của phân lớp 1 – Nearst Neighbor dựa trên khoảng cách Nó... Mining K- NN là phƣơng pháp để phân lớp các đối tƣợng dựa vào khoảng cách gần nhất giữa đối tƣợng cần xếp lớp (Query point) và tất cả các đối tƣợng trong Training Data Một đối tƣợng đƣợc phân lớp dựa vào K láng giềng của nó K là số nguyên dƣơng đƣợc xác định trƣớc khi thực hiện thuật toán Ngƣời ta thƣờng dùng khoảng cách Euclidean để tính khoảng cách giữa các đối tƣợng Thuật toán. .. nhạc rock Ngoài ra, việc phân loại nhạc của con ngƣời có thể dựa vào các loại nhạc cụ đƣợc sử dụng trong bài nhạc Tuy nhiên, với sự phát triển của công nghệ, số lƣợng bài hát càng nhiều, không thể nào ngồi nghe từng bài rồi để k t luận bài đó thuộc thể loại nào Các hệ thống phân loại nhạc theo thể loại thƣờng mô phỏng những k năng của con ngƣời để có thể nhận biết đƣợc thể loại... huấn luyện lớn Khuyết điểm  Cần tính khoảng cách giữa tất cả các điểm với điểm truy vấn, do đó việc tính toán nhiều Chính vì vậy, thuật toán phân lớp K - NN có độ phức tạp còn cao  Chi phí cho việc phân loại đối tƣợng mới có thể tốn k m do gần nhƣ toàn bộ chi phí tính toán diễn ra lúc phân loại đối tƣợng mới chứ không diễn ra lúc huấn luyện dữ liệu  Nếu đặc trƣng để phân loại đối... x cần phân lớp 2 Gọi x1,x2, xk là k mẫu từ trong kho mẫu huấn luyện gần x nhất 3 Xác định nhãn 𝑓(x) của mẫu x từ nhãn 𝑓(x1), 𝑓(x2), , 𝑓(xk) Việc học trong thuật toán phân lớp k – NN chỉ đơn giản là lƣu trữ dữ liệu huấn luyện Khi cần phân loại đối tƣợng mới, một tập các đối tƣợng “gần giống” hay “tƣơng tự” sẽ đƣợc chọn ra từ kho dữ liệu có sẵn và đƣợc sử dụng để phân loại... nhiễu, thì FT của hai tín hiệu x1(t) và x2(t) là giống nhau, mặc dù các tín hiệu x1(t) và x2(t) hoàn toàn khác nhau Rõ ràng phƣơng pháp dùng phép biến đổi Fourier đã bỏ qua thời gian xuất hiện của mỗi tần số 28 CHƢƠNG 2 THUẬT TOÁN K – NEAREST NEIGHBOR ĐỂ PHÂN LOẠI NHẠC THEO THỂ LOẠI 2.1 Khai phá dữ liệu Ngày nay, với sự phát triển của xã hội, con ngƣời phải đối diện với một tập dữ liệu... khám phá ra “cấu trúc” ẩn dƣới dữ liệu đầu vào Ví dụ, một ngƣời bán hàng Online muốn phân cụm khách hàng dựa trên lịch sử mua hàng Cần chọn tất cả các khách hàng có tiềm năng và sau đó khám phá nhóm khách hàng này về sự tƣơng đồng và sở thích Trái ngƣợc với phân lớp, phân cụm không hề biết trƣớc, nó sẽ đƣa khách hàng thuộc về nhóm nào – đó là nhiệm vụ của thuật toán phân. .. 33 Sau đó, nó xác định khoảng cách giữa mẫu cần kiểm tra với tất cả các mẫu đã đƣợc huấn luyện mà chọn ra K mẫu huấn luyện gần với mẫu kiểm tra nhất, gọi là phân lớp K - Nearst Neighbor K t quả của việc phân loại là nhãn của mẫu huấn luyện cần xác định nhãn sẽ là nhãn của loại nào xuất hiện nhiều nhất trong K mẫu gần mẫu cần xác định nhãn Thuật toán phân lớp nhƣ sau:  Input: . T TOÁN K     PHÂN LOI NHC THEO TH LOI 29 2.1. Khai phá d liu 29 2.2. Phân lp 30 2.3. Mô t thut toán phân lp k  Nearest Neighbor 32 2.4. Phân lp K  Nearest. " ;Áp dng thut toán K-  phân loi nhc theo th loi tài khóa lun. 2. Mh nghiên cu Da vào thut toán K-  phân loi nhc theo th loi phn m u, k t lung phát trin cu trúc khóa lun g sau:  lí thuyt.  Thut toán K- Nearest Neighbor  phân loi nhc theo th loi.