2.2. Mạng Nơron
2.2.5. Nhận dạng hệ phi tuyến sử dụng mạng Nơron
Mạng nơron nhõn tạo rất phự hợp cho bài toỏn nhận dạng hệ thống khi mụ hỡnh toỏn của hệ khụng biết và hoạt động của hệ chỉ được biết dưới dạng dữ liệu
mẫu. Mạng nơron nhõn tạo cú thể được sử dụng cho cỏc hệ phi tuyến, và chỳng cũng cú thể được sử dụng cho điều khiển tối ưu.
Bước đầu tiờn trong nhận dạng hệ thống là tiến hành thử nghiệm để cú được hiểu biết về đối tượng. Một thử nghiệm tốt sẽ cho ta một tập dữ liệu bao gồm cỏc đỏp ứng tương ứng với đầu vào và khỏi quỏt được toàn bộ phạm vi hoạt động của đối tượng. Tập dữ liệu này sẽ được dựng làm tập dữ liệu để luyện mạng.
Bước tiếp theo là lựa chọn mụ hỡnh mạng nơron. Việc lựa chọn này bao gồm cả việc lựa chọn đầu vào mạng và việc lựa chọn cấu trỳc bờn trong của mạng. Hai cấu trỳc thường được sử dụng là cỏc perceptron nhiều lớp và cỏc mạng nơron hàm cơ sở xuyờn tõm (RBF).
Mụ hỡnh cú thể được biểu diễn như sau:
y(t) = g(x(t,θ),θ) + e(t) (2.118)
trong đú x(t, ) là một vectơ hồi quy, θ θ là một vộc tơ bao gồm cỏc trọng số. Vectơ hồi quy cú thể cú dạng sau:
- -
x(t,θ) =[ y(t),…, y(t n), u(t d), …, u(t-d-m), e(t,θ), …, e(t k, )]- θ T (2.119) việc lựa chọn cỏc bộ hồi quy phụ thuộc vào hiểu biết về đối tượng.
Mụ hỡnh sau đú được luyện với dữ liệu mẫu. Sau khi luyện xong, mụ hỡnh sẽ được sử dụng để kiểm tra cỏc tiờu chuẩn cần thiết. Nếu kết quả khụng hoàn toàn như mong muốn thỡ sẽ thử với cỏc mụ hỡnh mạng khỏc. Nếu tập dữ liệu mẫu là khụng đủ để khỏi quỏt đối tượng thỡ ta sẽ khụng tỡm được mụ hỡnh mong muốn do đú cần phải làm lại thớ nghiệm để xõy dựng lại dữ liệu huấn luyện. Mụ hỡnh thu được sau khi nhận dạng gọi là tốt nếu nú thể hiện được đỳng đối tượng. Mạng nơron được luyện để mụ hỡnh hoỏ quan hệ vào-ra của đối tượng. Như vậy
quỏ trỡnh nhận dạng cú bản chất là một thuật toỏn luyện mạng. Mụ hỡnh nhận dạng sử dụng mạng nơron cơ bản được biểu diễn như hỡnh 2.12
Ngoài ra cũng cú thể sử dụng mụ hỡnh nhận dạng như hỡnh 2.13. ĐT (Hệ phi tuyến) MẠNG NƠRON y u e y ~ Hỡnh 2.12: Mụ hỡnh nhận dạng cơ bản. ĐT (Hệ phi tuyến) MẠNG NƠRON y u e y ~
Hỡnh 2.13: Mụ hỡnh nhận dạng khi thụng tin vào cú thể bổ sung.
Nếu cú tri thức tiờn nghiệm về đối tượng thỡ cú thể nhỳng trong mụ hỡnh của đối tượng dưới dạng mụ hỡnh song song như hỡnh 2.14. Hay cũng cú thể nhận dạng động học nghịch như hỡnh 2.15.Kiểu nhận dạng này phự hợp với những phương phỏp điều khiển tiền định.
Hỡnh 2.14: Mụ hỡnh nhận dạng sử dụng tri thức tiờn nghiệm.
Mụ hỡnh đối tượng song song chứa tri thức tiờn nghiệm y u e y~ ĐT (Hệ phi tuyến) MẠNG NƠRON ĐT (Hệ phi tuyến) y u e Hỡnh 2.15: Mụ hỡnh nhận dạng động học nghịch. MẠNG NƠRON
Với mỗi một bài toỏn, khụng cú một phương phỏp nào đưa ra quy định trước về cấu trỳc một mạng nơron. Dưới đõy là một vài nhận xột cần ghi nhớ khi lựa chọn một cấu trỳc mạng nơron.
- Mạng nơron cú nhiều hơn một lớp ẩn cú thể tốt cho một vài ứng dụng, nhưng núi chung một lớp ẩn là đủ.
- Tốc độ học cú thể chọn tuỳ ý trong khoảng (0;1), tốc độ học lớn thỡ hội tụ nhanh tuy nhiờn lại dễ bị dao động trong một số trường hợp cú thể khụng đạt được giỏ trị tối ưu, tốc độ nhỏ thỡ hội tụ ổn định nhưng quỏ trỡnh tiến tới điểm tối ưu chậm.
- Huấn luyện mạng nơron cú nghĩa là tạo ra một mụ hỡnh thể hiện mối quan hệ giữa tớn hiệu vào và tớn hiệu ra từ cỏc mẫu. Mụ hỡnh này cú thể được ứng dụng cho cỏc tập dữ liệu mới của bài toỏn, hay là cú thể khỏi quỏt hoỏ dữ liệu mới.
- Quỏ điều chỉnh cú nghĩa là việc thực hiện khỏi quỏt hoỏ trờn dữ liệu mới chưa được tốt. Điều này xảy ra khi số lượng cỏc thụng số (cỏc trọng số) lớn hơn số lượng cỏc điều kiện (mẫu huấn luyện).
- Khụng cú một kết luận chung nào chỉ ra rằng cần phải cú bao nhiờu nơron trong lớp ẩn.
- Việc lựa chọn cỏc giỏ trị trọng số khởi đầu sẽ ảnh hưởng tới việc đạt được điểm tối ưu cực tiểu toàn cục hay cục bộ của sai lệch E và tốc độ hội tụ của bài toỏn. Việc cập nhật cỏc trọng số wik phụ thuộc vào cả f’k
của lớp trờn và giỏ trị ra của nơron i trong lớp dưới. Do đú cần phải trỏnh việc lựa chọn giỏ trị khởi đầu bằng khụng cho cỏc trọng số. Giỏ trị khởi đầu cho cỏc trọng số cũng khụng nờn quỏ lớn, hay việc khởi đầu cỏc tớn hiệu vào sẽ rơi vào vựng làm cho giỏ trị đạo hàm của cỏc
hàm tạo tớn hiệu ra cú giỏ trị rất nhỏ (vựng bóo hồ). Núi cỏch khỏc, nếu cỏc trọng số khởi đầu là quỏ nhỏ, đầu vào (net input) một nơron ẩn hay nơron ra sẽ gần bằng khụng, điều này cũng làm cho quỏ trỡnh học rất chậm. Thụng thường, cỏc trọng số khởi đầu được lựa chọn ngẫu nhiờn trong khoảng (-1,1) hay theo một vài biến đổi khỏc.
- Chỳng ta cần phải huấn luyện mạng trong bao lõu? Chỳng ta cú thể chia tập huấn luyện ra làm hai tập con I và II. Sử dụng I để huấn luyện, sử dụng II để kiểm tra. Trong quỏ trỡnh huấn luyện, chỳng ta cú thể tớnh toỏn sai lệch từ II. Nếu sai lệch này giảm thỡ tiếp tục huấn luyện, cũn nếu sai lệch tăng thỡ dừng lại bởi vỡ mạng lỳc này đó nhớ tập I quỏ rừ ràng do vậy nờn đỏnh mất khả năng khỏi quỏt hoỏ.
- Kớch thước tập huấn luyện bằng bao nhiờu là tốt? vỡ trong thống kờ, những cõu hỏi như thế này chỉ cú ý nghĩa khi cho trước một độ chớnh xỏc nhất định.