Ở mô hình trên ta thấy phân lớp là quá trình phức tạp. Hệ thống phân loại bao gồm một bộ chuyển đổi đầu vào (Input transducer) cung cấp mẫu dữ liệu đầu vào cho bộ trích chọn đặc trưng (Feature extractor). Thông thường đầu vào cho bộ trích chọn đặc trưng là tập của các véctơ dữ liệu thuộc một loại nào đó. Giả sử rằng mỗi tập bao gồm các số thực tương ứng với các kết quả đo được trong một tình huống vật lý cụ thể. Dữ liệu được chuyển đổi tại đầu ra của bộ chuyển đổi có thể được nén lại nhưng vẫn làm cho hệ thống chạy bình thường. Dữ liệu được nén lại gọi là các đặc trưng (feature). Bộ trích chọn đặc trưng thực hiện việc giảm số chiều của dữ liệụ Số chiều không gian đặc trưng nhỏ hơn nhiều so với không gian mẫụ Các véctơ đặc trưng sau khi trích chọn vẫn giữ được tính chất chủ yếu của dữ liệu mà không ảnh hưởng đến kết quả nhận dạng của hệ thống, lại giúp hệ thống thao tác với dữ liệu dễ hơn.
Đứng về phía mạng nơron ta có thể chia bài toán thành hai quá trình:
Quá trình học dữ liệu: từ dữ liệu thô được thu nhận và được lưu trữ dưới dạng một không gian mẫụ Các mẫu sẽ được trích chọn đặc trưng và lưu trữ dưới dạng một không gian đặc trưng. Các đặc trưng sẽ là đầu vào cho mạng nơron huấn luyện.
Quá trình phân lớp: dữ liệu cần nhận dạng cũng được xử lý tương tự như trên để thu được các đặc trưng cần phân loạị Sau đó các đặc trưng này sẽ cho qua mạng nơron để phân lớp.
Trong luận văn, giải thuật di truyền được sử dụng như là bộ trích chọn đặc trưng. Cụ thể vấn đề này sẽ được trình bày ở chương 4 của luận văn.
3.2.3 Mạng Back propagation
Ở đây, luận văn không trình bày kỹ lý thuyết về mạng nơron nhân tạo mà chỉ đề cập tới mạng nơron được sử dụng đến trong phương pháp học máy đề xuất ở chương 4, đó là mạng Back Propagation ba lớp [8] .
Thuật học lan truyền ngược là một trong những phát triển quan trọng trong mạng nơron. Thuật toán này được áp dụng cho các mạng nhiều lớp truyền thẳng (feedforward) gồm các phần tử xử lý với hàm kích hoạt liên tục. Các mạng như vậy kết hợp với thuật toán học lan truyền ngược được gọi là mạng lan truyền ngược (Back- Propagation Network).