(Luận văn thạc sĩ) Nghiên cứu một số phương pháp sinh đầu vào kiểm thử tự động cho Android

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TRẦN THỊ HỒNG SIM NGHIÊN CỨU MỘT SỐ PHƯƠNG PHÁP SINH ĐẦU VÀO KIỂM THỬ TỰ ĐỘNG CHO ANDROID LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Hà Nội – 2017 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TRẦN THỊ HỒNG SIM NGHIÊN CỨU MỘT SỐ PHƯƠNG PHÁP SINH ĐẦU VÀO KIỂM THỬ TỰ ĐỘNG CHO ANDROID Ngành: Công Nghệ Thông Tin Chuyên ngành: Kỹ thuật Phần mềm Mã số: 60480103 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS TS TRƯƠNG ANH HOÀNG Hà Nội – 2017 Lời cam đoan Tôi xin cam đoan nội dung luâ ̣n văn với đề tài “Nghiên cứu số phương pháp sinh đầu vào kiểm thử tự động cho Android” cơng trình nghiên cứu thân, xuất phát từ yêu cầu phát sinh công việc để hình thành hướng nghiên cứu Các số liệu có nguồn gốc rõ ràng tuân thủ nguyên tắc, kết thực nghiệm trình bày luận văn thu thập trình nghiên cứu trung thực, chưa công bố trước Hà Nội, Ngày 12 tháng 12 năm 2017 Tác giả luận văn Trần Thị Hồng Sim Lời cảm ơn Đầu tiên, em xin gửi lời cảm ơn chân thành biết ơn sâu sắc tới PGS.TS Trương Anh Hoàng, giảng viên môn Kỹ thuật Phần mềm, khoa Công Nghệ Thông Tin, trường Đại học Công Nghệ, Đại học Quốc Gia Hà Nội Trong suốt trình học tập thực luận văn này, thầy người trực tiếp hướng dẫn đưa định hướng quý báu cho q trình nghiên cứu Chính nhờ nhiệt tình bảo, dành thời gian quý báu thầy suốt q trình hướng dẫn mà em hồn thành việc nghiên cứu Em xin gửi lời cảm ơn chân thành đến thầy giáo, cô giáo giảng viên trường Đại học Công Nghệ giảng dạy, truyền đạt kiến thức cho em hai năm học trường Những kiến thức mà thầy cô truyền thụ tảng cho em công việc sau kiến thức tiên việc nghiên cứu tìm hiểu đề tài luận văn Và cuối cùng, xin gửi lời cảm ơn đến bạn bè, đồng nghiệp đặc biệt gia đình, người ln bên động viên, giúp đỡ, tạo điều kiện tốt cho suốt trình học tập thực luận văn Hà Nội, tháng 12/2017 Trần Thị Hồng Sim Mục lục Mục lục Đặt vấn đề Chương Nền tảng Android 1.1 Giới thiệu chung Android 1.2 Bản kê khai ứng dụng AndroidManifest 12 1.2.1 Hoạt động (activity) 12 1.2.2 Dịch vụ (service) 15 1.2.3 Bộ nhận quảng bá (Broadcast Receiver) 16 1.2.4 Trình cung cấp nội dung (Content Provider) 17 Chương Sinh đầu vào kiểm thử tự động 18 2.1 Phương pháp kiểm thử Fuzz (Fuzzing) 20 2.1.1 Kiểm thử Fuzz là gı̀? 20 2.1.2 Các giai đoa ̣n của kiể m thử Fuzz 21 2.1.3 Phân loa ̣i kiểm thử Fuzz 26 2.1.4 Các lỗ hổ ng đươ ̣c phát hiê ̣n bởi kiểm thử Fuzz 27 2.1.5 Ưu nhươ ̣c điể m của kiể m thử Fuzz 29 2.1.6 Một số công cụ kiể m thử Fuzz 29 2.2 Phương pháp dựa mơ hình (Model based Testing) 29 2.2.1 Kiểm thử dựa mơ hình gì? 29 2.2.2 Các loại kiểm thử dựa mơ hình 31 2.2.3 Các mơ hình khác kiểm thử 31 2.2.4 Tiến trình kiểm thử dựa mơ hình 33 2.2.5 Ưu nhược điểm kiểm thử dựa mô hình 41 2.2.6 Một số công cụ kiểm thử dựa mô hình 42 Chương Mô ̣t số công cụ sinh đầu vào kiểm thử tự động cho ứng dụng Android 43 3.1 Công cu ̣ kiể m thử ngẫu nhiên – Monkey tool 43 3.1.1 Tổ ng quan chung về Monkey tool 43 3.1.2 Kiểm thử Fuzz với Monkey 44 3.2 Công cu ̣ kiể m thử dựa mô hı̀nh – DroidBot 47 3.2.1 Tổng quan chung về DroidBot 47 3.2.3 Kiểm thử dựa mơ hình với DroidBot 49 Chương 4: Nghiên cứu thực nghiê ̣m 52 4.1 Thiế t lâ ̣p môi trường thực nghiệm 52 4.1.1 Chuẩn bị công cụ kiểm thử 52 4.1.2 Chuẩn bị thiế t bi ̣kiể m thử 53 4.2 Xây dựng ứng du ̣ng kiể m thử 53 4.3 Tiế n hành kiểm thử 55 4.4 Kế t quả thực nghiê ̣m 58 4.5 Phân tích – đánh giá 60 4.4.1 Tính hiệu việc phát lỗi 60 4.4.2 Tính hiệu chiến lược khám phá 60 4.4.3 Tính khả dụng 62 Kết luận 63 Tài liệu tham khảo 65 Đặt vấn đề Như biết nhu cầu sử dụng thiết bị di động thông minh người ngày cao, số lượng nhà sản xuất thiết bị ngày nhiều đa dạng chủng loại, mẫu mã Mỗi điện thoại thông minh ngày không đơn để nghe, gọi nhắn tin trước, mà giống máy tính để bàn thu nhỏ, lướt web, chat wifi, mua hàng trực tuyến, tìm kiếm thơng tin, xử lý thông tin mạng, kết nối thiết bị ngoại vi, điều khiển ô tô, điều khiển robot, giải cơng việc với đối tác nơi đâu vơ vàn lợi ích lớn lao khác Để các thiế t bi ̣ di ̣ng có sức mạnh trước hế t nhờ công ty phát triển phần mềm mà cụ thể Google với Android, Apple với iOS và Microsoft với Windows Phone Các công ty này tập trung lớn nguồn lực họ vào việc phát triển tảng di động kể để đưa chúng lên tầm cao trước đây, mà ngày thường hay gọi “HỆ ĐIỀU HÀNH” Trong số hệ điều hành cho thiết bị di động, Android hệ điều hành phổ biến lớn mạnh Với tính chất nguồn mở, Android thu hút nhiều nhà sản xuất thiết bị giới Sony, Samsung, LG, HTC, v.v… Ngày Android không sử dụng hệ điều hành điện thoại thơng minh máy tính bảng, mà cịn ứng dụng vào dự án khác như: đồng hồ thông minh (smartwatch), nhà thông minh (smart home), tivi thông minh (smart tivi), robot, điều khiển tơ, kính thực thể ảo … Theo số liệu thống kê, Android nắm giữ 86% [1] tổng thị phần cho hệ điều hành di động Sự phổ biến ngày tăng thiết bị Android có tác động trực tiếp đến cửa hàng ứng dụng Google Play Đây cửa hàng ứng dụng lớn giới có 3.3 triệu ứng dụng (tháng 9/2017) có sẵn để tải xuống Chỉ riêng quý năm 2017, có gần 17 tỷ lượt tải xuống ứng dụng từ Google Play Với số thống kê trên, thấy việc xây dựng ứng dụng cho thiết bị Android đã, xu hướng phát triển mạnh mẽ bền vững Trong vòng đời phát triển phần mềm, kiểm thử hoạt động quan trọng bỏ qua phần mềm nói chung ứng dụng Android nói riêng Hoạt động kiểm thử tiến hành cách thủ công nhiên điều thời gian, tốn chi phí đơi khơng mang lại hiệu cao Thậm chí vài phương pháp kiểm thử, hoạt động kiểm thử thủ công khơng thể thực Do địi hỏi phải có hình thức kiểm thử tự động hỗ trợ Tuy nhiên kiểm thử tự động có nhiều kỹ thuật khác với các mức đô ̣ tự đô ̣ng khác Đối với nhiều công cụ kiểm thử, cần có tham gia kiểm thử viên vào trình Kiểm thử viên phải xây dựng kịch kiểm thử hoàn toàn thủ cơng để cơng cụ kiểm thử thực thi từ kịch Đây công việc không đơn giản, tốn thời gian nhân lực Vậy câu hỏi đặt ra, để hoạt động kiểm thử hoàn toàn tự động, từ thao tác sinh kịch kiểm thử việc thực thi kịch kiểm thử Đã có nhiều nghiên cứu kỹ thuật sinh liệu kiểm thử tự động Và nội dung luận văn tìm hiểu kỹ thuật sinh liệu kiểm thử tự động, cụ thể áp dụng vào trình kiểm tra tự động cho ứng dụng Android Cụ thể luận văn xây dựng bao gồm chương với chi tiết sau: - Chương 1: Trình bày tổng quan hệ điều hành Android bao gồm tầng Android cấu trúc tập tin Manifest tập tin kê khai thông tin thiết yếu ứng dụng với hệ thống - Chương 2: sâu vào tìm hiểu hai phương pháp sinh đầu vào kiểm thử tự động phương pháp kiểm thử Fuzz (Fuzzing) phương pháp kiểm thử dựa mơ hình (model-based testing) - Chương 3: tìm hiểu hai công cụ kiểm thử tự động cho Android đại diện cho hai phương pháp kiểm thử Fuzz kiểm thử dựa mơ hình Monkey DroidBot - Chương 4: tiến hành nghiên cứu thực nghiệm cách sử dụng hai công cụ Monkey DroidBot để kiểm tra cho danh sách ứng dụng Android, đồng thời đo lại kết số lượng lỗi tìm được, độ bao phủ mã nguồn, từ đưa phân tích đánh giá cho kết thực nghiệm đạt Cuối kết luận tài liệu tham khảo Chương Nền tảng Android 1.1 Giới thiệu chung Android Android hệ điều hành mã nguồn mở, dựa Linux, tạo cho loạt thiết bị yếu tố hình thức Sơ đồ hình 1.1 cho biết thành phần tảng Android [2]: - Tầng hạt nhân Linux: tảng hệ điều hành Android hạt nhân Linux Tất hoạt động thiết bị phải thực thi tầng Tầng bao gồm tiến trình quản lý nhớ (memory management), giao tiếp với phần cứng (driver model), bảo mật (security), quản lý tiến trình (process) Sử dụng hạt nhân Linux cho phép Android tận dụng tính bảo mật then chốt cho phép nhà sản xuất thiết bị phát triển trình điều khiển phần cứng cho hạt nhân tiếng - Lớp trừu tượng phần cứng (Hardware Abstraction Layer - HAL): cung cấp giao diện chuẩn để phần cứng thiết bị giao tiếp với tảng Java API cấp cao Lớp trừu tượng phần cứng bao gồm nhiều mô đun thư viện, mô đun lại thực thi giao diện cho loại thành phần phần cứng cụ thể, chẳng hạn mô đun máy ảnh mô đun Bluetooth Khi khung API (API framework) thực gọi để truy cập phần cứng thiết bị, hệ thống Android tải mô đun thư viện cho thành phần phần cứng - Thời gian chạy Android (Android Runtime – ART): thiết bị chạy Android phiên 5.0 (API 21) trở lên, ứng dụng chạy tiến trình với thể thời gian chạy Android Thời gian chạy Android viết để chạy nhiều máy ảo thiết bị có nhớ thấp cách thực thi tập DEX, định dạng byte-code thiết kế đặc biệt cho Android, tối ưu hóa cho nhớ tối thiểu Xây dựng cơng cụ, chẳng hạn Jack, biên soạn nguồn Java vào mã DEX byte-code, chạy tảng Android Một số tính thời gian chạy Android bao gồm: • Biên dịch trước thời hạn (Ahead-Of-Time - AOT) thời hạn (Just-InTime - JIT) • Tối ưu hóa thu gom rác (Garbage Collection - GC) • Hỗ trợ gỡ lỗi tốt hơn, bao gồm hồ sơ mẫu riêng, ngoại lệ chuẩn đoán chi tiết, báo cáo cố khả thiết lập điểm quan sát để giám sát lĩnh vực cụ thể Trước phiên Android 5.0 (Cấp độ API 21), Dalvik thời gian chạy Android Nếu ứng dụng người dùng chạy tốt ART, làm việc Dalvik, ngược lại không Android bao gồm tập hợp thư viện chạy lõi cung cấp hầu hết chức ngơn ngữ lập trình Java, bao gồm số tính ngơn ngữ Java 8, mà khn khổ Java API sử dụng - Tầng thư viện C/C++: nhiều thành phần dịch vụ cốt lõi hệ thống, HAL ART, xây dựng từ mã nguồn cục yêu cầu thư viện gốc viết C C++ Nền tảng Android cung cấp API khung Java để phô bày tính số thư viện gốc cho ứng dụng Ví dụ, truy cập vào OpenGL ES thông qua Java OpenGL API khung Android để thêm hỗ trợ vẽ thao tác đồ họa 2D 3D ứng dụng Nếu ứng dụng phát triển yêu cầu mã nguồn C C ++, ta sử dụng Android NDK để truy cập vào số thư viện tảng gốc trực tiếp từ mã nguồn gốc - Tầng khung Java API: tồn tập hợp tính hệ điều hành Android có sẵn thơng qua API viết ngôn ngữ Java Các API tạo thành khối xây dựng sẵn mà hoàn toàn lấy sử dụng muốn xây dựng ứng dụng Android Các API giúp đơn giản hóa việc tái sử dụng phần lõi Android thành phần dịch vụ hệ thống mơ đun sau: • View System phong phú và có khả mở rơ ̣ng, người dùng có thể sử du ̣ng để xây dựng UI của ứng du ̣ng, bao gồm các danh sách, lưới, hô ̣p văn bản, các nút bấ m, và thâ ̣m chí mơ ̣t trıǹ h duyê ̣t web nhúng • Trıǹ h quản lý tài nguyên, cung cấp quyền truy cập vào tài nguyên không mã nguồ n là chuỗi cu ̣c bộ, đồ họa, các tê ̣p bố cu ̣c • Trı̀nh quản lý thông báo: cho phép tấ t cả ứng du ̣ng hiể n thi ̣ cảnh báo tùy chın ̉ h trạng thái • Trıǹ h quản lý hoa ̣t đô ̣ng: quản lý vòng đời của ứng du ̣ng và cung cấ p ngăn xế p trở la ̣i chuyể n hướng thông du ̣ng 10 DroidBot cung cấp danh sách API dễ sử dụng cho việc tìm nạp thơng tin từ thiết bị gửi đầu vào tới thiết bị Ví dụ, lập trình viên đơn giản gọi hàm device.dump_views () để lấy danh sách UI view gọi hàm view.touch () để gửi đầu vào tới view Bước 4: Cụ thể hóa kiểm thử Để kiện đầu vào tạo bước thực thiết bị kiểm thử, DroidBot tìm nạp thơng tin thiết bị/ ứng dụng từ thiết bị gửi đầu vào kiểm thử tới thiết bị thông qua ADB Các kiện đầu vào sinh dạng lệnh ADB để thiết bị thực thi Hình 3.5: Các kiện sinh DroidBot Bước 5: Thực thi kiểm thử Các kiện sinh DroidBot thông qua ADB thực thi thiết bị kiểm thử Đồng thời trình thực thi, thông tin giám sát lưu lại: - Thơng tin tiến trình: DroidBot giám sát trạng thái tiến trình mức hệ thống sử dụng lệnh ps giám sát trạng thái tiến trình mức ứng dụng sử dụng công cụ dumpsys Android - Logs: logs bao gồm dấu vết phương thức kích hoạt đầu vào kiểm thử log sinh ứng dụng Chúng lấy từ cơng cụ định hình Android logcat 51 Chương 4: Nghiên cứu thực nghiêm ̣ Trong chương này, tiến hành thực thực nghiệm nhỏ: kiểm thử số ứng dụng Android với công cụ kiểm thử tự động giới thiệu chương Monkey DroidBot kiểm thử thủ công Trong trình thực nghiệm tiến hành việc đo đạc số liệu thời gian thực hiện, số lỗi tìm được, độ bao phủ mã nguồn, từ giúp đưa ưu, nhược điểm phương pháp Các bước tiến hành thực nghiệm thể hình 4.1 Hình 4.1: Quy trình tiến hành thực nghiệm 4.1 Thiế t lâ ̣p môi trường thực nghiệm 4.1.1 Chuẩn bị cơng cụ kiểm thử Về phía kiểm thử tự động, hai công cu ̣ đươ ̣c lựa cho ̣n cho thực nghiê ̣m là Monkey đa ̣i diê ̣n cho kỹ thuâ ̣t kiể m thử ngẫu nhiên/ kiể m thử mờ và DroidBot đa ̣i diê ̣n kỹ thuâ ̣t kiể m thử dựa mơ hình Kiểm thử thủ cơng: thực người dùng Cài đă ̣t Monkey: Do Monkey tích hợp phát triể n phầ n mềm Android (Android SDK) nên để cha ̣y đươ ̣c Monkey trước hế t cần tiế n hành cài đă ̣t Android SDK Tiế p theo đó là cài đă ̣t các biế n môi trường: Ta ̣o biế n ANDROID_HOME = ~/Android/Sdk Ta ̣o biế n Path = %PATH%; %ANDROID_HOME%\tools; %ANDROID_HOME%\platformtools 52 Cài đă ̣t DroidBot Cài đă ̣t Python 2.7.14 Cài đặt các gói liên quan: - Androguard 3.0.1 - Networkx 2.0 - Pillow 4.3.0 Cài đă ̣t Droidbot: chép mã nguồ n từ: https://github.com/honeynet/droidbot Thực hiê ̣n cài đă ̣t Droidot bằ ng lê ̣nh: pip install –e droidbot Kiểm thử thủ công Người dùng cài đặt ứng dụng thiết bị kiểm thử, tiến hành thao tác ứng dụng cách ngẫu nhiên theo kịch người dùng thông thường khoảng thời gian ~ phút cho ứng dụng 4.1.2 Chuẩn bị thiế t bi kiể ̣ m thử Sử du ̣ng Samsung Galaxy Note (N920I), hệ điều hành Android Nougat 7.0 để cài đă ̣t ứng dụng và tiến hành kiể m thử 4.2 Xây dựng ứng du ̣ng kiể m thử Bước 1: Tải mã nguồn ứng dụng: STT TÊN ỨNG DỤNG LINK MÃ NGUỒN AAT A Photo Manager AnyMemo https://f-droid.org/en/packages/org.liberty.android.fantastischmemo/ Calculator https://f-droid.org/en/packages/com.xlythe.calculator.material/ Camera https://f-droid.org/en/packages/com.simplemobiletools.camera/ Catan Dice Game https://f-droid.org/en/packages/com.ridgelineapps.resdicegame/ https://f-droid.org/en/packages/ch.bailu.aat/ https://f-droid.org/en/packages/de.k3b.android.androFotoFinder/ Clear List https://f-droid.org/en/packages/douzifly.list/ FreeShisen https://github.com/knilch0r/freeshisen Giggity https://f-droid.org/en/packages/net.gaast.giggity/ 10 Glucosio https://f-droid.org/en/packages/org.glucosio.android/ 11 Good Weather 12 Inbox Pager 13 Internet Radio 14 Clip Stack https://f-droid.org/en/packages/org.asdtm.goodweather/ https://f-droid.org/en/packages/net.inbox.pager/ https://f-droid.org/en/packages/community.peers.internetradio/ https://f-droid.org/packages/com.catchingnow.tinyclipboardmanager/ Bảng 4.1: Danh sách ứng dụng thực nghiệm 53 Danh sách các ứng du ̣ng lựa cho ̣n cho thực nghiê ̣m thể bảng 4.1 Các ứng du ̣ng đươ ̣c lấ y mã nguồ n từ https://f-droid.org/ [27], cửa hàng ứng dụng Android mã nguồn mở Bước 2: Sử dụng Jacoco, build lại apk để đo độ bao phủ mã nguồn: Sau có mã nguồn ứng dụng, sử du ̣ng Jacoco để xây dựng la ̣i apk, phu ̣c vu ̣ cho việc đo độ bao phủ mã nguồn Các bước xây dựng lại apk sử dụng Jacoco Gradle: - Xây dựng mô ̣t thư viê ̣n CoverageLib để lấ y các tâ ̣p tin ec chứa thơng tin bao phủ mã nguồn Hình 4.2: Thư viện CoverageLib - Cấ u hình tâ ̣p tin build.gradle: • Áp du ̣ng Jacoco bâ ̣t tın ́ h đo độ bao phủ: apply plugin: 'jacoco' buildTypes { debug{ testCoverageEnabled true } } • Ta ̣o task sinh báo cáo bao phủ mã nguồn task jacocoTestReportAndroidTest(type: JacocoReport) { def coverageSourceDirs = [ "${rootDir}/covData/src/main/java" ] group = "Reporting" description = "Generates Jacoco coverage reports" reports { csv.enabled true 54 xml{ enabled = true destination "${rootDir}/covData/reportcov/jacoco/jacoco.xml" } html{ enabled true destination "${rootDir}/covData/reportcov/jacocoHtml" } } classDirectories = fileTree( dir: "${rootDir}/covData/classfiles", excludes: ['**/R.class', '**/R$*.class', '**/BuildConfig.*', '**/Manifest*.*', ] ) sourceDirectories = files(coverageSourceDirs) additionalSourceDirs = files(coverageSourceDirs) //poiter to coverage data executionData=fileTree("${rootDir}/covData/covfiles") } 4.3 Tiế n hành kiểm thử Bước 1: Cài đă ̣t các ứng du ̣ng và lầ n lươ ̣t thực hiê ̣n kiểm tra tự động với Monkey và Droidbot, kiểm tra thủ công người dùng STT TÊN ỨNG DỤNG CHẠY DROIDBOT 1000 5000 10000 CHẠY MONKEY 1000 5000 10000 KIỂM THỬ THỦ CÔNG ~ phút AAT O O O A Photo Manager O O O AnyMemo O O O O O O O Calculator O O O O O O O Camera O O O O O Catan Dice Game O O Clear List O FreeShisen O O O Giggity O O O 10 Glucosio O 11 Good Weather 12 O O O O O O O O O O O O O O O Inbox Pager O O O O O 13 Internet Radio O O O O O 14 Clip Stack O O O O O Ghi O O O O O O Thực thi kiểm thử Bảng 4.2: Danh sách ứng dụng thực thi kiểm thử 55 Với việc kiểm tra tự động, mỡi ứng dụng thực mơ ̣t lầ n hoă ̣c nhiề u lần với số kiê ̣n lầ n kiể m tra là khác (1000 sự kiê ̣n, 5000 sự kiê ̣n, 10000 kiê ̣n) Với việc kiểm thử thủ công, ứng dụng kiểm tra khoảng thời gian từ ~ phút, chi tiế t bảng 4.2 Với Monkey, thực hiê ̣n cha ̣y lê ̣nh: adb shell monkey -p throttle ignore-crashes -ignore-timeouts ignore-security-exceptions -v > log.txt Với Droidbot, thực cha ̣y lê ̣nh: droidbot –a -o -count -grant_perm Kiểm thử thủ công: thao tác với ứng dụng kiểm tra tay, thực kịch người dùng thông thường cách ngẫu nhiên, khơng theo kịch có sẵn Người dùng khám phá chức ứng dụng nhiều khoảng thời gian từ ~ phút Đồng thời với quá trıǹ h kiểm tra Monkey, Droidbot kiểm tra thủ công, cha ̣y lê ̣nh để lấ y tâ ̣p tin ec sau khoảng thời gian 30 giây: :lable timeout -t 30 adb shell am broadcast -a SQA.COM.ACTION.GETCOVERAGE.DATA goto lable Bước 2: lấ y tâ ̣p tin ec và sinh báo cáo cho độ bao phủ mã nguồn - Các tâ ̣p tin ec sinh sau mỗi lầ n lê ̣nh SQA.COM.ACTION.GETCOVERAGE.DATA adb shell am broadcast -a đươ ̣c thực hiê ̣n Các tâ ̣p tin này đươ ̣c lưu thiết bi,̣ mô ̣t thư mu ̣c đươ ̣c có tên chıń h là tên gói (package) tương ứng mà tập tin ec đươ ̣c sinh 56 Hình 4.3: Thư mục chứa tập tin ec - Các tâ ̣p tin ec đươ ̣c đưa vào thư mu ̣c covfiles ta ̣o trước đó Hình 4.4: Cây thư mục covData - Cha ̣y lê ̣nh reporting ở Gradle Android Studio để sinh báo cáo Hình 4.5: Sinh báo cáo bao phủ mã nguồn Gradle 57 - Sau Gradle hoàn thành viê ̣c chạy build, báo cáo mức độ bao phủ sẽ đươ ̣c sinh thư mu ̣c reportcov, cho ta các thông tin về kết bao phủ mã nguồn: Hình 4.6: Báo cáo bao phủ mã nguồn Bước 3: Tổ ng hơ ̣p số liê ̣u và phân tı́ch kế t quả - Phân tıć h các các tâ ̣p tin log, thố ng kê số lươ ̣ng lỗi tım ̀ đươ ̣c - Tổ ng hơ ̣p số liê ̣u kế t quả đo độ bao phủ 4.4 Kế t quả thực nghiêm ̣ Sau quá trıǹ h kiểm tra ứng dụng hai công cụ DroidBot, Monkey kiểm tra thủ công, kết thu từ thực nghiệm sau: Thời gian kiểm tra ứng dụng trung bình thể bảng 4.3 DROIDBOT PHƯƠNG THỨC KIỂM THỬ THỜI GIAN TRUNG BÌNH MONKEY KIỂM THỬ THỦ CÔNG 1000 5000 10000 1000 5000 10000 117 phút 610 phút 1210 phút 3.55 phút 14.04 phút 28.69 phút ~ phút Bảng 4.3: Thời gian thực thi kiểm thử Số lượng lỗi crash phát phương thức kiểm thử thể bảng 4.4 STT DROIDBOT TÊN ỨNG DỤNG 1000 5000 KIỂM THỬ THỦ CÔNG MONKEY 10000 1000 5000 10000 ~ phút AAT O O O A Photo Manager O O O AnyMemo O O O O O O O Calculator O O O O O O O Camera O O O O O Catan Dice Game O O Clear List O FreeShisen O O O O O 58 O O O O O Giggity O 10 Glucosio O 11 Good Weather 12 O O O O O O O O O O O Inbox Pager O O O O O 13 Internet Radio O O O O O 14 Clip Stack O O O O O Thực thi kiểm thử O O O O O Có lỗi xảy Bảng 4.4: Danh sách số lượng lỗi crash Mức độ bao phủ mã nguồn phương thức kiểm thử: DROIDBOT TÊN ỨNG DỤNG 1000 5000 Instructions Branches AAT A Photo Manager AnyMemo Calculator Camera Catan Dice Game Clear List FreeShisen Giggity Glucosio Good Weather Inbox Pager Internet Radio Clip Stack 18% 10% 26% 32% 46% 77% 47% 30% 50% 10% 31% 7% 92% 61% 10% 6% 18% 19% 33% 25% 23% 11% 38% 7% 16% 2% 74% 44% Trung bình 38% 23% 10000 Instructions Branches Instructions Branches 26% 36% 18% 21% 40% 38% 26% 23% 47% 23% 47% 22% 14% 10% 13% 8% 62% 45% 67% 51% 37% 23% 41% 26% Bảng 4.5: Độ bao phủ mã nguồn DroidBot MONKEY TÊN ỨNG DỤNG AAT A Photo Manager AnyMemo Calculator Camera Catan Dice Game Clear List FreeShisen Giggity Glucosio Good Weather 1000 5000 Instructions Branches 31% 18% 12% 39% 45% 85% 44% 66% 51% 9% 20% 20% 11% 9% 27% 32% 51% 15% 54% 37% 6% 8% 10000 Instructions Branches Instructions Branches 26% 51% 55% 18% 38% 38% 19% 57% 56% 14% 45% 42% 43% 15% 53% 28% 9% 63% 7% 35% 19% 69% 12% 41% 59 Inbox Pager Internet Radio Clip Stack 2% 37% 43% 0% 13% 32% 2% 92% 49% 1% 73% 40% 13% 94% 65% 5% 78% 52% Trung bình 36% 23% 43% 29% 49% 35% Bảng 4.6: Độ bao phủ mã nguồn Monkey KIỂM THỬ THỦ CÔNG TÊN ỨNG DỤNG ~ phút Instructions Branches AAT A Photo Manager AnyMemo Calculator Camera Catan Dice Game Clear List FreeShisen Giggity Glucosio Good Weather Inbox Pager Internet Radio Clip Stack 48% 35% 35% 55% 65% 88% 54% 90% 21% 29% 75% 12% 94% 69% 32% 24% 23% 40% 45% 54% 33% 75% 11% 16% 48% 5% 78% 54% Trung bình 55% 38% Bảng 4.7: Độ bao phủ mã nguồn kiểm thử thủ cơng 4.5 Phân tích – đánh giá 4.4.1 Tính hiệu việc phát lỗi Dựa số liệu lỗi bảng 4.4 ta thấy hai cơng cụ Droibot Monkey hiệu việc tìm lỗi so với kiểm thử thủ công Tuy nhiên Monkey chạy với số lượng kiện lớn việc phát lỗi cao so với DroidBot 4.4.2 Tính hiệu chiến lược khám phá Monkey sinh kiện cách ngẫu nhiên, không theo luồng định Do vậy, thực chạy với số lượng kiện nhỏ có khả khám phá nhiều chức khác ứng dụng Trong DroidBot sinh kiện dựa mơ hình UI, sử dụng chiến lược tham ăn thuật tốn duyệt theo chiều rộng, kiện sinh theo luồng định Chính thực thi với số lượng kiện nhỏ khả bao phủ mã nguồn Monkey tốt so với DroidBot 60 Mặc dù vậy, công cụ tự động có hạn chế gặp phải giao diện có trường nhập thông tin chứa yêu cầu đặc biệt, giao diện mà thành phần thông tin khơng hiển thị sẵn hình, cần phải qua thao tác gạt sang phải/ trái lên/ xuống để hiển thị Trong trường hợp này, hai cơng cụ gặp khó khăn để vượt qua, chí mắc kẹt Hình 4.7: Màn hình bắt đầu ứng dụng quản lý bệnh tiểu đường Hình 4.7 giao diện bắt đầu ứng dụng quản lý bệnh tiểu đường Chỉ nhập thông tin đầy đủ hợp lệ, chạm vào “GET STARTED” bắt đầu sử dụng ứng dụng Tuy nhiên, vấn đề xảy trường thông tin nhập tuổi hợp lệ số nhập vào nhỏ 100 Điều hồn tồn gây khó khăn cho hai công cụ tự động, không may mắn để nhập thông tin tuổi hợp lệ, việc kiểm tra bị tắc khám phá ứng dụng sâu thêm Chính hạn chế mà ta thấy kết bao phủ mã nguồn hai công cụ tự động thấp so với việc kiểm thử thủ công 61 ĐỘ BAO PHỦ MÃ NGUỒN Monkey Kiểm thử thủ công INSTRUCTIONS 29% 24% 38% 43% 39% 55% Droidbot BRANCHES Biểu đồ 4.1: Độ bao phủ mã nguồn 4.4.3 Tính khả dụng Cả Monkey DroidBot cơng cụ chạy dịng lệnh, việc cài đặt sử dụng không phức tạp Tuy nhiên, với số lượng kiện, thời gian thực DroidBot lớn nhiều so với Monkey Có chênh lệch lớn phần với kiện, DroidBot lưu lại kịch thực hiện, ảnh chụp hình lưu lại luồng giao diện qua Mặc dù với khoảng thời gian phải bỏ nhiều tại, hiệu suất DroidBot chưa thực tốt so với Monkey 62 Kết luận Sau trình nghiên cứu tìm hiểu đề tài “Nghiên cứu số phương pháp sinh đầu vào kiểm thử tự động cho Android”, kết mà luận văn đạt là: Đầu tiên, luận văn giúp đưa nhìn tổng quan kiểm thử tự động dành cho phần mềm nói chung kiểm thử tự động cho ứng dụng Android nói riêng Từ nhìn tổng quan kiểm thử tự động, luận văn giúp đưa khái niệm chi tiết sinh đầu vào kiểm thử tự động với kỹ thuật phổ biến sử dụng để sinh đầu vào kiểm thử tự động: phương pháp kiểm thử Fuzz phương pháp kiểm thử dựa mơ hình Đưa ưu, nhược điểm phương pháp để từ giúp người đọc có đánh giá, so sánh đưa lựa chọn phương pháp phù hợp cho mục đích sử dụng Luận văn đưa tìm hiểu số hướng tiếp cận phương pháp áp dụng cho ứng dụng Android Để có nhìn cụ thể chi tiết hai phương pháp sinh đầu vào kiểm thử tự động trình bày trên, luận văn lựa chọn hai công cụ tự động tiêu biểu tương ứng cho hai phương pháp DroidBot Monkey để tìm hiểu Bên cạnh việc tìm hiểu lý thuyết, tiến hành làm thực nghiệm để so sánh với đồng thời so sánh với việc kiểm thử thủ công Sau thực nghiệm thu kết số lượng lỗi, độ bao phủ mã nguồn, thời gian thực thi công cụ Từ kết thu giúp đưa so sánh, phân tích đánh giá cho tính hiệu phương pháp kiểm thử Tuy nhiên luận văn cịn có hạn chế việc tiến hành thực nghiệm: số lượng công cụ kiểm thử hạn chế, số lượng ứng dụng lựa chọn chưa phong phú Với hạn chế nêu trên, số hướng mở rộng nghiên cứu tìm hiểu tương lai: - Mở rộng thực nghiệm với số lượng công cụ lựa chọn lớn hơn, tiến hành kiểm tra với số lượng ứng dụng nhiều có độ phức tạp cao hơn, đồng thời kiểm tra với số lượng kiện lớn 63 - Có kế hoạch cho việc lựa chọn cơng cụ thích hợp để cải tiến phát triển, để áp dụng thực tế vào công việc kiểm thử phần mềm cho ứng dụng Android Samsung 64 Tài liệu tham khảo [1] "Statista," [Online] Available: https://www.statista.com/statistics/266136/global-market-share-held-bysmartphone-operating-systems/ [2] "Android Developer," [Online] Available: https://developer.android.com/guide/platform/index.html [3] "Android Developer," [Online] Available: https://developer.android.com/reference/android/app/Activity.html [4] "Android Developer," [Online] Available: https://developer.android.com/guide/components/services.html [5] "Android Developer," [Online] Available: https://developer.android.com/guide/topics/manifest/receiverelement.html [6] "Android Developer," [Online] Available: https://developer.android.com/guide/topics/providers/contentproviders.html [7] Abel Méndez-Porras, Christian Quesada-López, and Marcelo Jenkins, "Automated Testing of Mobile Applications: A Systematic Map and Review," p [8] Hitesh Tahbildar, Bichitra Kalita, "Automated software test data generation: Direction of research," in International Journal of Computer Science & Engineering Survey (IJCSES) Vol.2, 2011, pp 2-3 [9] WANG Tao, LI Yanling，MA Yingli，GUO Wei, "Research and Application of a New Fuzz-test Framework," p [10] “VIBLO,” [Trực tuyế n] Available: https://viblo.asia/p/tim-hieu-ve-fuzz-testing-YWOZrDzv5Q0 [11] "Guru99," [Online] Available: https://www.guru99.com/fuzz-testing.html [12] P Garg, "Fuzzing - mutation vs generation".INFOSEC Institute [13] "Tutorials point," [Online] Available: https://www.tutorialspoint.com/software_testing_dictionary/fuzz_testing.htm [14] “Khoa CNTT, Đại học Duy Tân,” [Trực tuyế n] Available: http://kcntt.duytan.edu.vn/Home/ArticleDetail/vn/128/2461/bai-01-so-luoc-ve-fuzzing-testing [15] "OWASP," [Online] Available: https://www.owasp.org/index.php?title=File:CLASP_Vulnerabilities_SDLC_Phases.gif&setlang=en [16] "Guru99," [Online] Available: https://www.guru99.com/fuzz-testing.html [17] R T M N Aravind MacHiry, "Dynodroid: An Input Generation System for Android Apps" [18] J R Raimondas Sasnauskas, "Intent Fuzzer: Crafting Intents of Death" [19] ANTOJOSEPH, "DROID-FF – THE ANDROID FUZZING FRAMEWORK" [20] "Guru99," [Online] Available: https://www.guru99.com/model-based-testing-tutorial.html [21] Zoltan Micskei, Istvan Majzik, "Model-based test generation," Software and Systems Verification (VIMIMA01), pp 13-17 [22] E Karaman, "Model Based Software Testing," SWE550 Boaziỗi University, pp 7-17 [23] P Ana, "Model based testing," MDSE – Model Driven Software Engineering, pp 3-12 [24] Shauvik Roy Choudhary, Alessandra Gorla, Alessandro Orso, "Automated Test Input Generation for Android: Are We There Yet?" [25] "Android Developer," [Online] Available: https://developer.android.com/studio/test/monkey.html [26] Yuanchun Li, Ziyue Yang, Yao Guo, Xiangqun Chen, "DroidBot: A Lightweight UI-Guided Test Input Generator for Android" [27] [Online] Available: https://f-droid.org/ 65