a. R-CNN
Sau khi các nghiên cứu về các kỹ thuật học sâu thu được nhiều kết quả rõ ràng các kỹ thuật phân loại dựa trên HOG[2] dần được thay thế bằng một kỹ thuật học sâu như CNN đã cho kết quả chính xác hơn. Tuy nhiên, có một vấn đề là CNN quá chậm và tính toán rất tốn kém. Không thế chạy CNN trên nhiều cửa sổ được tạo bởi thuật toán cửa sổ trượt (sliding window detector). R-CNN[12] đã giải quyết vấn đề này bằng cách chạy một thuật toán được gọi là Selective Search để giảm số hộp giới hạn (bounding box) được đưa vào bộ phân loại. Selective Search sử dụng các dấu hiệu bố cục như kết cấu, cường độ, màu sắc ... để tạo ra các vị trí có thể chứa đối tượng. Sau đó chúng ta có thể cung cấp các hộp giới hạn này cho một bộ phân loại dựa trên CNN. Hãy nhớ rằng, lớp kết nối đầy đủ (Fully connected layer) của CNN có một đầu vào kích thước cố định vì vậy chúng ta thay đổi kích cỡ của tất cả các hộp giới hạn về một kích thước cố định và cũng cấp cho CNN. Do đó R-CNN[3] thường có 3 phần quan trọng.
- Chạy Selective Search để tìm kiếm các hộp các đối tượng có thể xuất hiện - Đưa các hộp đó vào CNN, sau đó là SVM[7] để dự đoán lớp của từng hộp - Tối ưu hóa các hộp bằng cách huấn luyện
Hình 1.14: Mô hình R-CNN
Tuy R-CNN[12] đã đạt được nhiều tiến bộ nhưng nó vẫn còn rất chậm. Bởi vì nó phải chạy CNN với 2000 khu vực được đề xuất bởi Selective Search dẫn đến mất rất nhiều thời gian. SPP-net[6] (Spatial Pyramid Pooling Network) đã cố gắng tối ưu nó. Với SPP-net các tính toán đặc trưng trên CNN chỉ thực hiện một lần và có thể sử dụng để tính toán các đặc trưng cho mỗi khu vực được tạo bởi Selective Search.
Hình 1.15: Mô hình SPP-net
Fast R-CNN[5] sử dụng ý tưởng của SPP-net, R-CNN và sửa một vấn đề chính trong SPP-net như: Fast R-CNN có thể thực hiện từ đầu đến cuối (end-to-end). Một điều nữa là họ đã thêm tính toán hồi quy để tìm hộp giới hạn vào việc huấn luyện. Vì vậy mạng có hai đầu ra một đầu phân loại đầu ra và một đâu dự đoán hộp giới hạn. Mục tiêu này là tính năng nổi bật của Fast R-CNN[5] vì nó không còn yêu cầu huấn luyện mạng độc lập để tìm vị trí và phân loại đối tượng. Hai thay đổi này đã làm giảm bớt thời gian huấn luyện tổng thể và tăng độ chính xác so với SPP-net.