Tóm tắt: Trong luận án này, chúng tôi đề xuất hướng tiếp cận kiểm tra thực thi ký hiệu động kết hợp quá trình phân tích tĩnh và kiểm tra động để xây dựng đồ thị luồng điều khiển từ mã nhị phân của chương trình. Mục tiêu của hướng tiếp cận này là để giảm sự không chính xác trong xử lý lệnh nhảy động của quá trình xây dựng đồ thị luồng điều khiển. Các đóng góp chính của luận án được tóm tắt như sau: i. Luận án đề xuất một khung thức tổng quát cho xây dựng đồ thị luồng điều khiển từ mã nhị phân của chương trình một cách tự động. ii. Luận án đưa ra giải pháp để tăng tốc quá trình thực thi của chương trình bằng cách áp dụng giải thuật song song hóa với tính toán đa luồng để tăng tốc độ xử lý các trạng thái. iii. Luận án đề xuất cách khai thác tri thức dựa trên đồ thị luồng điều khiển của mã nhị phân. Luận án tập trung vào vấn đề nhận diện chương trình đóng gói trên mã độc với hai hướng tiếp cận: (i) sử dụng kiểm tra Chi bình phương; (ii) sử dụng mô hình Markov ẩn. iv. Luận án trình bày giải pháp nhận diện mã độc dựa trên phương pháp học sâu. v. Cuối cùng, luận án cũng đã xây dựng một công cụ hoàn chỉnh có tên là BEPUM cho việc xây dựng đồ thị luồng điều khiển từ mã nhị phân