CHƯƠNG 4 THỰC NGHIỆM VÀ KẾT QUẢ
4.5. Quy trình thực nghiệm lần 2
4.5.8. Tối ưu hóa về dung lượng vật lý với TFLite
Sau khi quy trình huấn luyện hồn thành ta có được các mơ hình ở định dạng file *.h5 và nhìn nhận một cách tổng quan thì con số kích thước của các mơ hình đã đào tạo ra rất lớn, chúng thì khơng thể nào triển khai cho các ứng dụng đơn giản và nhỏ gọn, chính vì thế nhóm đã tìm hiểu và biết thêm được thư viện nhỏ trong thư viện Tensorflow đó là Tenfsorflow Lite (TF Lite), có thể giúp ta tinh chỉnh gọn lại được kích thước cũng như thời gian tải mơ hình lên bộ nhớ. Ta cũng xem qua một số thống kê sau:
4.5.8.1. Kích thước
• Các mơ hình keras có kích thước rất lớn để các nền tảng nhỏ có thể hoạt động được, đó là một trở ngại lớn cho việc phát triển trên các ứng dụng (xem Hình
4.90), chỉ riêng mơ hình tự tạo thứ nhất là có kích thước nhỏ hơn 50Mb (bởi
vì số lượng tham số chỉ ~ 1,5 triệu)
Hình 4.90: Kích thước của các mơ hình sau khi đào tạo.
Sau khi nhóm áp dụng cơng cụ chuyển đổi sang dạng mơ hình khác đó là TF Liite với định dạng *.tflite ta có các kích thước sau:
Trang | 140
• Chuyển đổi mơ hình khơng dùng tối ưu:
Hình 4.91: Kích thước của các mơ hình TF Lite khơng dùng tối ưu.
• Chuyển đổi mơ hình với tối ưu kích thước:
Trang | 141
• Chuyển đổi mơ hình với tối ưu tự động:
Trang | 142 Ta cùng so sánh các kích thước của tất cả mơ hình đã chuyển đổi và mơ hình Keras:
Hình 4.94: Kích thước các mơ hình (bao gồm Keras và TF Lite) .
Kích thước của mơ hình TF Lite được chuyển đổi từ mơ hình Keras ban
Trang | 143
4.5.8.2. Tốc độ tải mơ hình
Sau khi chuyển đổi thì tốc độ tải mơ hình của TF Lite nhanh hơn nhiều so với mơ hình Keras ban đầu, cùng xem qua thống kê sau:
Hình 4.95: Thời gian load của các mơ hình.
Tốc độ tải của mơ hình TF Lite lên bộ nhớ nhanh hơn nhiều so với mô
Trang | 144
4.5.8.3. So sánh hiệu năng của mơ hình TF Lite
Cuối cùng phần quan trọng nhất đó là so sánh độ chính xác của các mơ hình đã chuyển sang mơ hình TF Lite với mơ hình gốc Keras.
Hình 4.96: So sánh hiệu suất của các mơ hình Keras với TFLite.
Ta có cái nhìn nhận xét như sau:
• Độ hiệu quả của TF Lite sau khi chuyển đổi bị mất mát khá nhiều bởi sự cắt giảm về trọng số bên trong mơ hình.
• Bên cạnh đó áp dụng phương pháp biểu quyết tổng hợp có tác dụng hiệu quả hơn cho TF Lite.
• Nhìn tổng quan độ sai lệnh của các mơ hình sau khi chuyển đổi là < 5%.
Với dung lượng giảm bởi sự cắt giảm về trọng số làm ảnh hướng khá lớn
đến độ chính xác của mơ hình nhưng ta có thể chấp nhận được để triển khai mơ hình TF Lite trên các nền tảng mini.
Trang | 145