Chương 4 : MẠNG PERCEPTRONS
4.4. CÁC HẠN CHẾ CỦA PERCEPTRON
Mạng perceptron có thể được huấn luyện với hàm Adapt, nó đưa lần lượt các véc tơ vào đển mạng và tiến hành hiệu chỉnh mạng dựa trên kết quả của mỗi lần thực hiện. Sử dụng Adapt đảm bảo rằng một bài tốn độc lập tuyến tính bất kỳ sẽ được giải quyết trong một số hữu hạn các bước huấn luyện. Perceptron cũng có thể được huấn luyện với hàm train. Khi trình được sử dụng cho perceptron, nó gửi véc tơ vào đển mạng theo gói và tiến hành hiệu chỉnh mạng trên cơ sở tổng của tất cả các hiệu chỉnh thành phần. Tuy nhiên đển nay ta chưa chứng minh được sự hội tụ thuật toán huấn luyện của perceptron.
Mạng perceptron có một vài hạn chế sau:
- Đầu ra của perceptron chỉ có thể nhận 1 trong 2 giá trị 0 hoặc 1 do hàm chuyển hard-limit.
- Perceptron chỉ có thể phân loại, cho tập các véc tơ độc lập tuyến tính. Nếu là đường thẳng hoặc mặt phẳng ta có thể vẽ để tách rời các véc tơ vào thành các loại chính xác, các véc tơ vào là độc lập tuyến tính. Nếu các véc tơ vào khơng độc lập tuyến tính sử học sẽ khơng bao giờ đạt tới mức tất cả các véc tơ được phân loại chính xác. Tuy nhiên điều đó cũng chứng minh rằng nếu các véc tơ là độc lập tuyến tính, perceptron huấn luyện thích nghi sẽ ln tìm được đáp án trong thời gian hữu hạn. Ta cũng có thể sử dụng nhiều nơron perceptron có thể được để giải quyết các bài toán phức tạp hơn.
riêng biệt với 2 đường thẳng được vẽ để tách rời chúng. Khi đó, ta có thể sử dụng mạng 2 nơron perceprton, mạng được thiết lập sao cho 2 đường biên giới của nó phân chia đầu vào thành 4 loại. (Bạn đọc có thể đọc [HDB1996]
để hiểu thểm về perceptron và các bài toán perceptron phức tạp).
Những sự bất thường và luật pcrceptron mở rộng
Thời gian huấn luyện dài có thể do sự hiện diện của véc tơ vào bên ngồi, chúng có kích thước q rộng hoặc quá nhỏ so với các véc tơ vào khác. Việc áp dụng luật học perceptron bao gồm việc cộng hay trừ véc tơ vào dựa vào hàm trọng và độ dốc hiện thời ở đáp ứng đển sai số. Do vậy một véc tơ vào với phần tử lớn có thể làm cho sự thay đổi hàm trọng và độ dốc lâu hơn nhiều lần véc tơ vào nhỏ.
Bằng việc thay đổi luật học perceptron chút ít, thời gian huấn luyện có thể thích hợp cho các véc tơ vào rất lớn hoặc rất nhỏ.
Luật gốc để cập nhật hàm trọng là:
ΔW = (t-a)pT = epT
Như đã chỉ ra ở trên, độ rộng của véc tơ vào p, có tác động lên véc tơ hàm trọng W. Do vậy, nếu một véc tơ vào lớn hơn nhiều so với các véc tơ vào
khác, các véc tơ vào nhỏ chỉ cần một thời gian ngắn để có kết quả. Để khắc phục nhược điểm này, ta đưa ra luật học mở rộng. Khi đó, tác động của mỗi véc tơ vào lên hàm trọng:
Luật perceptron mở rộng được thực hiện nhờ hàm learnp. Nó làm giảm bớt thời gian thực hiện nhưng không làm giảm số lần huấn luyện một cách đáng kể nếu có véc tơ vào bất thường (outlier).