Đặc tính hội tụ

Một phần của tài liệu Mạng nơron RBF và ứng dụng (Trang 45)

Với mỗi vectơ N-chiều u, ta ký hiệu chuẩn u *cho bởi công thức :

   N j j u u 1 * (3.20)

Đinh lý sau đảm bảo Tính hội tụ và cho phép ƣớc lƣợng sai số của thuật toán.

Định lý 2: Thuật toán trên luôn kết thúc sau hữu hạn bƣớc và đánh giá sau là đúng    * * 1 W W (3.21)

Chứng minh: Trƣớc hết, từ kết luận của Định lý 1 ta dễ dàng suy ra pha thứ nhất của thuật toán sẽ kết thúc sau hữu hạn bƣớc và qkq với mọi k. Theo [6] thì chuẩn  * của ma trận  tƣơng ứng với chuẩn vectơ (3.20) sẽ là:

 qk q N k     max * (3.22)

Vì vậy pha hai là thủ tục tìm điểm bất động uuZ của ánh xạ co có hệ số co q và xấp xỉ ban đầu u0=0, u1=Z. Với t bƣớc lặp ở pha 2 sẽ tƣơng ứng với t+1 bƣớc lặp uk1 ukZ

của thuật toán tìm điểm bất động trong [6]. Vì vậy ta có đánh giá: * 1 * 0 1 1 * * 1 1 1 q Z q u u q q W W t t         (3.23)

Biểu thức (3.19) tƣơng đƣơng với vế phải của (3.23) nhỏ hơn hoặc bằng ε.

Mặt khác ở bƣớc cuối của pha 2, nếu áp dụng (3.23) cho t=0; u0=W0; u1=W1; áp dụng (3.23) cho t=0 thì ta có:

* 0 1 * * 1 1 q w w q W W     (3.24) Kết hợp (3.18) với (3.24) ta có (3.21). Định lý đƣợc chứng minh. 3.5. Ứng dụng mạng RBF

Trong nhiều hƣớng nghiên cứu nhằm triển khai các hệ thống thông minh, mạng nơron đang là lựa chọn khá phổ biến. Chúng là cơ sở cho các giải pháp nhƣ nhận dạng, tự động hoá điều khiển, trí tuệ nhân tạo...

Có thể liệt kê ra rất nhiều khía cạnh nghiên cứu và ứng dụng của mạng nơron RBF nhƣ: Dùng các phép biến đổi để khử nhiễu và tách đối tƣợng từ ảnh thu nhận đƣợc, sau đó đối tƣợng tách ra từ ảnh đƣợc nhận dạng nhờ một mạng nơron RBF; Hệ thống tay máy có gắn camera để quan sát và bám mục tiêu, với phƣơng thức điều khiển dựa trên nguyên lý tuyến tính hóa các tín hiệu ảnh phản hồi, kết hợp với khả năng của mạng nơron RBF để làm giảm nhẹ tác động của những thành phần ngẫu nhiên, cho phép sử dụng các tham số có độ chính xác hạn chế vào mô hình động lực học của hệ thống theo dõi; ...

Ứng dụng mạng nơron để nhận dạng mẫu

Nhận dạng mẫu là một bài toán tổng quát, trong từng trƣờng hợp ứng dụng cụ thể, mẫu nhận dạng có thể là ảnh, chữ viết, tiếng nói, … Trong đó ứng dụng về nhận dạng ảnh là một khía cạnh đƣợc xem là có bƣớc tiến lớn và phổ biến rộng rãi nhất.

Nhận dạng ảnh là một quá trình nằm trong lĩnh vực Xử lý ảnh. Xử lý ảnh là một lĩnh vực liên quan đến nhiều ngành khoa học khác nhau, về mặt tổng quát có thể đƣa ra một quá trình Xử lý ảnh nhƣ sau:

Trong đó, đầu vào là ảnh thu đƣợc từ các thiết bị ghi ảnh, giai đoạn xử lý ảnh bao gồm nhiều quá trình con để đƣa ra kết quả nhận dạng, kết quả nhận dạng này sẽ đƣợc sử dụng trong các ứng dụng khác nhau với những mục đích khác nhau.

Một vài trong số rất nhiều ứng dụng sử dụng kết quả nhận dạng đó là: Nhận dạng ảnh mặt ngƣời, ta có thể thấy rằng tại các cửa khẩu quốc tế, khi ảnh của ngƣời xuất nhập cảnh đƣợc đọc vào thông qua máy đọc hộ chiếu, ảnh này cần phải đƣợc nhận dạng ngay lập tức để có thể xác định ảnh thu đƣợc có nằm trong danh sách đối tƣợng “nhạy cảm” hay không, qua đó mà cán bộ tại bục xuất nhập cảnh có những nghiệp vụ phù hợp; Nhận dạng chữ, hiện nay, tồn tại một khối lƣợng đồ sộ các tài liệu nhƣ sách báo cũ, thƣ từ, tƣ liệu, ... đã đƣợc in ấn hay viết tay. Nếu muốn chỉnh sửa các tài liệu đó, trƣớc đây thƣờng sử dụng cách đánh máy lại tài liệu. Với tiến bộ của công nghệ xử lý ảnh, ngƣời ta hoàn toàn có thể quét ảnh các tài liệu (thu nhận), số hóa, phân tích, nhận dạng trƣớc khi lƣu trữ để phục vụ cho các mục đích khác nhau (chỉnh sửa, tra cứu, ...).

Để đọc một đối tƣợng ảnh hay nhận biết một đối tƣợng qua ảnh, chúng ta cần trích từ ảnh đối tƣợng các vector đặc trƣng. Vector đặc trƣng của một ảnh là duy nhất, và từ vector đặc trƣng của một ảnh đối tƣợng, chúng ta có thể tái tạo lại những đƣờng nét cơ bản của ảnh đó.

Ở đây chúng ta đi chi tiết vào một hệ thống nhận dạng ảnh mặt ngƣời (Human Face Recognition System), đƣợc viết tắt là HFRS. Nhìn chung, HFRS thực

CAMERA SCANNER SENSOR ... Thu nhận Trích đặc trƣng Nhận dạng THIẾT BỊ XỬ LÝ ẢNH ỨNG DỤNG LƢU TRỮ HỆ QUYẾT ĐỊNH ...

hiện bao gồm 2 giai đoạn: Giai đoạn thứ nhất là tách ra những vùng đối tƣợng chính trong mặt ngƣời và biểu diễn chúng bởi các vector đặc trƣng, hay còn gọi là trích đặc trƣng; Giai đoạn thứ hai là phân loại ảnh mặt ngƣời dựa trên vector đặc trƣng thu đƣợc từ giai đoạn thứ nhất. Ở đây, mạng nơron RBF có thể đƣợc sử dụng nhƣ một công cụ phân loại trong HFRS.

Ta có thể trình bày ứng dụng mạng RBF nhƣ sau: Mạng RBF nội suy từ miền n m

R R D( ) . Tập mẫu  N k k x 1 (xkRn) là tập vector đặc trƣng của N ảnh mẫu dùng để huấn luyện mạng và khởi tạo tập vector tâm  N

k k

c 1 tƣơng ứng với tập vector đặc trƣng. Bằng thuật toán đƣợc chọn để huấn luyện mạng RBF, với tập  N

k k

x 1,  N k k

c 1 đã biết ta xác định đƣợc tập vector giá trị nội suy  N

k k

y 1(ykRm).

Mỗi khi bắt gặp một ảnh mới cần kiểm tra, ta thực hiện trích đặc trƣng thành một vector k

j

x , sau đó đƣa vào mạng RBF để thu đƣợc vector giá trị nội suy

k j

y . Nếu k j

y thuộc tập giá trị nội suy đã biết, ảnh đó đƣợc nhận dạng, ngƣợc lại, ta có thể sử dụng các phƣơng pháp để xét sai số tƣơng quan của vector k

j

y và phân loại ảnh.

CHƢƠNG 4: CHƢƠNG TRÌNH MÁY TÍNH THỰC NGHIỆM

4.1. Giới thiệu chƣơng trình máy tính

4.1.1. Giới thiệu

Chƣơng trình máy tính đƣợc xây dựng bằng giao diện đồ họa trực quan theo chuẩn giao diện Microsoft Windows (tham khảo thêm trong Phần Phụ lục).

Chƣơng trình máy tính này có thể thực hiện đƣợc các công việc sau:

 Đọc dữ liệu từ file số liệu có sẵn (file dạng text, mỗi số liệu đƣợc lƣu trữ theo từng dòng).

 Ghi dữ liệu tính toán đƣợc từ chƣơng trình ra các file số liệu.

 Hiển thị số liệu đầu vào, số liệu trung gian, số liệu đầu ra ở dạng bảng hoặc ở dạng biểu đồ.

 Cho phép theo dõi quá trình huấn luyện mạng.

 Cho phép nội suy số liệu từ chƣơng trình.

Chƣơng trình máy tính này bao gồm các module sau:

 Đọc file số liệu huấn luyện mạng hoặc sinh mốc số liệu huấn luyện mạng theo quy tắc định sẵn.

 Thiết lập các thông số huấn luyện, huấn luyện và theo dõi quá trình huấn luyện mạng, thống kê thời gian huấn luyện mạng.

 Đọc file số liệu và nội suy dựa trên số liệu đầu vào.

// MÔ TẢ THUẬT TOÁN: XÁC ĐỊNH BÁN KÍNH CỦA MẠNG RBF InPut:

- Các tham số huấn luyện mạng q,  , cho trước.

- Các mốc huấn luyện mạng.

OutPut:

- Các bán kính tương ứng với các tâm.

Body: Begin

Bước 1: Khởi tạo: Khởi tạo các bán kính k=0;

Bước 2 : Tính     N k i i i k k q , 1 ,

 trong đó k,i là ma trận được xác định bởi các hàm bán kính;

Bước 3 : Nếu qk>q thay k=k. và trở về Bước 2 ngược lại sang Bước 4;

Bước 4 : Nếu qk<q thì thay k=k. và trở về Bước 2;

(Thuật toán dừng khi xác định được hết tất cả các bán kính)

End.

// MÔ TẢ THUẬT TOÁN: XÁC ĐỊNH TRỌNG SỐ KẾT NỐI W CỦA MẠNG RBF InPut:

- Ma trận k,i tương ứng với các bán kính vừa xác định được ở.

- Các giá trị lấy được từ mốc huấn luyện mạng.

OutPut:

- Các trọng số kết nối W sau khi huấn luyện.

Body: Begin

Bước 1: Khởi tạo: Khởi tạo các trọng số kết nối W0=Y;

Bước 2: Lặp Wk1 WkY cho đến khi  

 1 1 k k W W q q ,  là sai số cho trước; End.

// MÔ TẢ THUẬT TOÁN: NỘI SUY BẰNG MẠNG RBF InPut:

- Vecto mốc nội suy đã có giá trị xác định.

- Các thống số huấn luyện mạng (Tâm, Bán kính, Trọng số).

OutPut:

- Vecto giá trị nội suy từ mạng RBF.

Body: Begin

Bước 1: Khởi tạo: Khởi tạo các trọng số kết nối W0=Y;

Bước 2: Tính toán giá trị ma trận bán kính;

Bước 3: Nội suy các giá trị;

4.1.2. Cấu hình máy tính sử dụng chƣơng trình

Quá trình sử dụng chƣơng trình máy tính mô tả ở phần tiếp theo đƣợc chạy trên máy tính có cấu hình và các thông số nhƣ sau:

 Tốc độ CPU: 2GHz

 Bộ nhớ RAM: 1024 MB

 Hệ điều hành: Microsoft Windows XP

4.2. Sử dụng chƣơng trình máy tính

4.2.1. Cấu trúc dữ liệu vào

File số liệu đầu vào chƣơng trình có cấu trúc nhƣ sau:

Trong đó:

 Dòng đầu tiên chứa thông số của file số liệu bao gồm: Số mốc và số chiều (số biến của hàm nội suy). Trên đây có thể thấy rằng file số liệu này có 474 mốc nội suy và có 3 chiều (hàm 3 biến), cột cuối cùng của file chính

là giá trị tƣơng ứng với các mốc nội suy. Từ nay trong tài liệu này, ta có thể gọi 3 biến là (x, y, h) và giá trị là (f).

 Với mỗi giá trị (x, y, h) sẽ có một giá trị (f) tính đƣợc. Hay nói cách khác, sau khi thực hiện huấn luyện mạng, mỗi khi đƣa vào các giá trị thuộc tính (x, y, h) thì mạng cần phải nội suy ra giá trị (f).

Đây sẽ là file số liệu sử dụng để huấn luyện mạng RBF.

4.2.2. Đọc dữ liệu vào

Chƣơng trình máy tính sẽ thực hiện đọc file số liệu vào, số liệu này đƣợc dùng để huấn luyện mạng. Dƣới đây là màn hình chƣơng trình máy tính cho phép ngƣời sử dụng mở file số liệu và hiển thị số liệu đó trên màn hình, số liệu quan trắc có thể đƣợc xem ở 2 dạng: Dạng danh sách và Dạng biểu đồ vị trí.

Dƣới đây là số liệu dạng danh sách:

4.2.3. Sinh mốc dữ liệu vào

Thay vì đƣa mốc dữ liệu vào chƣơng trình bằng file sẵn có, ngƣời sử dụng có thể tự sinh các mốc số liệu đầu vào theo các cách khác nhau:

 Sinh mốc theo khoảng cách ngẫu nhiên

 Sinh mốc trên lƣới đều

 Tính giá trị mốc theo hàm cố định hoặc hàm bất kỳ

Tại màn hình này, ngƣời dùng lần lƣợt đƣa vào khoảng giá trị của các mốc và số mốc theo từng chiều (x, y, h), có thể nhập hàm sinh mốc vào từ bàn phím hoặc sinh mốc theo hàm cố định.

4.2.4. Huấn luyện mạng RBF với các mốc nội suy đầu vào

Ngay sau khi đƣa các mốc nội suy đầu vào (từ file hoặc sinh mốc), các số liệu này đã sẵn sàng cho việc huấn luyện mạng RBF.

Thiết lập các thông số huấn luyện

Các tham số huấn luyện chính là: q,,

Trong đó:

q là hằng số dƣơng < 1

 là giá trị sai số

 là các hằng số dƣơng < 1

Các tham số này sẽ ảnh hƣởng tới độ hội tụ và độ sai số của mạng huấn luyện.

Huấn luyện mạng RBF

Sau khi các tham số chính đƣợc thiết lập, mọi thông số cần thiết đã đầy đủ cho việc huấn luyện.

Trong quá trình huấn luyện, các số liệu trung gian cùng với trạng thái hiện tại của quá trình huấn luyện cũng đƣợc hiển thị trên màn hình để cung cấp thông tin cần thiết cho ngƣời dùng.

4.2.5. Nội suy bằng mạng RBF vừa huấn luyện Đọc các file thiết lập cho mạng RBF Đọc các file thiết lập cho mạng RBF

Trƣớc khi nội suy các mốc lƣới, ngƣời dùng cần phải đọc vào các file để thiết lập hoạt động cho mạng RBF bao gồm:

 File số liệu thông số huấn luyện mạng bao gồm q, ,   File số liệu tâm huấn luyện

 File số liệu bán kính huấn luyện

 File số liệu trọng số huấn luyện

Đọc file số liệu cần nội suy giá trị

Chƣơng trình máy tính đọc file số liệu cần nội suy giá trị (file số liệu này có cấu trúc tƣơng tự file số liệu đầu vào).

Nội suy bằng mạng RBF đã huấn luyện

Với file số liệu cần nội suy, chƣơng trình máy tính sẽ thực hiện đƣa ra các giá trị nội suy (f_ns) tƣơng ứng các thuộc tính vào (x, y, h).

Sau khi hoàn thành nội suy các giá trị (f_ns). Chƣơng trình máy tính sẽ đƣa kết quả ra file dữ liệu. File dữ liệu này có cấu trúc bao gồm các dữ liệu đầu vào (x, y, h, f) và đƣợc bổ sung thêm giá trị đã đƣợc nội suy (f_ns).

Dƣới đây là màn hình hiển thị kết quả nội suy:

Nhận xét

Trong toàn bộ các quá trình thao tác ở trên, ngƣời sử dụng hoàn toàn chủ động thực hiện các chức năng từ việc tạo mốc nội suy, chọn các tham số huấn luyện, chọn mốc để nội suy giá trị, đánh giá thời gian huấn luyện, kiểm tra sai số kết quả nội suy.

Những điều trên mang ý nghĩa thực nghiệm rất lớn đối với những ngƣời tiếp cận nghiên cứu về mạng nơron RBF và hiệu quả của nó.

CHƢƠNG 5: BÀI TOÁN XẤP XỈ HÀM TRONG KHÍ TƢỢNG THỦY VĂN

Chƣơng này trình bày một số vấn đề trong công tác Khí tƣợng Thủy văn và nêu bài toán xấp xỉ hàm trong Khí tƣợng thủy văn. Đồng thời cũng đƣa ra đề xuất ứng dụng mạng RBF vào công tác này.

5.1. Phát biểu bài toán

5.1.1. Hoạt động thực tế

Công tác Khí tƣợng Thủy văn và Hải dƣơng học là một trọng những lĩnh vực đóng vai trò quan trọng tại Việt Nam. Lãnh thổ Việt Nam ở điều kiện địa lý tự nhiên bao gồm các vùng địa lý khác nhau (biển, núi, lục địa, …), môi trƣờng khí hậu khá đa dạng và phức tạp, đặc biệt phần lớn dân số hoạt động trong những lĩnh vực nông nghiệp, thủy hải sản (là những lĩnh vực phụ thuộc và bị ảnh hƣởng trực tiếp bởi khí hậu, thời tiết). Với những yếu tố nhƣ vậy, vai trò của công tác Dự báo các số liệu liên quan đến Khí tƣợng trở nên vô cùng quan trọng.

Trên thực tế, công tác Khí tƣợng Thủy văn và Hải dƣơng học là một lĩnh vực lớn bao gồm rất nhiều vấn đề khác nhau. Tuy nhiên vấn đề chính nằm trong hầu hết các hoạt động thực tế là vấn đề Dự báo, hay nói cách khác, đó là việc “đƣa ra các số liệu cần thiết của một địa điểm xác định nào đó khi số liệu tại các điểm xác định khác đã đƣợc biết”.

Trong công tác dự báo, hai đặc điểm quan trọng nhất cần phải quan tâm đó là Thời gian thực và Sai số dự báo. Đặc điểm thời gian thực quy định việc kết quả dự báo phải đƣợc đƣa ra tại thời điểm mong muốn. Đặc điểm sai số quy định mức độ chính xác so với thực tế của số liệu kết quả đƣa ra. Ta có thể thấy rằng hai yếu tố này thƣờng tỷ lệ nghịch với nhau. Hay nói cách khác nếu cần kết quả dự báo cho một khoảng thời gian xa thì sai số sẽ lớn và ngƣợc lại nếu quy định mức sai số cho phép là nhỏ thì thời gian để đƣa ra kết quả dự báo sẽ kéo dài và khó có thể dự báo tại thời điểm cách xa so với thời điểm đƣa ra kết quả.

Có rất nhiều yếu tố ảnh hƣởng đến kết quả của công tác dự báo, ở đây xin lƣu ý đến yếu tố các tập số liệu thu thập đƣợc. Khi tập số liệu thu thập đƣợc là phân

Một phần của tài liệu Mạng nơron RBF và ứng dụng (Trang 45)