0
Tải bản đầy đủ (.pdf) (64 trang)

Các dạng kiến trúc mạng CNN

Một phần của tài liệu NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH TRUYỀN NHIỆT (Trang 26 -32 )

Phân loại theo hình trạng

Về mặt hình trạng mạch (topology) chúng ta có thể phân loại CNN thành các mô hình khác nhau. Ngoài kiến trúc chuẩn nhƣ đã giới thiệu trên, sau đây chúng ta xét một số mô hình tiêu biểu:

+ CNN không đồng nhất: (NUP – CNN) có hai loại tế bào đƣợc mô tả bởi ô trắng và đen trong Hình 1.8.a. Cấu trúc NUP-CNN có chứa hơn một kiểu tế bào trên lƣới trong khi các tế bào tƣơng tác với nhau là biến không gian.

+ CNN đa lân cận (MNS-CNN: Multiple Neighborhood Size – CNN): CNN có hai kiểu lân cận nhƣ Hình 1.8.b. Mọi chip trong mạch có cấu tạo phần cứng giống nhau nhƣng chia làm hai lớp lƣới (P, S). Lƣới P có các lân cận r=1; lƣới S là lớp trên hoặc dƣới của lƣới P có r=3. Kiến trúc MNS-CNN có chứa những lớp có những lƣới và lân cận khác nhau, chúng mô phỏng theo hệ thống tế bào tự nhiên. Trƣờng hợp đặc biệt của MNS-CNN với hai kiểu lân cận chỉ chứa một chip trong lớp S, và mọi chíp khác đều kết nối tới con chíp này. Nhƣ đã nói CNN có cấu tạo rất linh hoạt tùy theo yêu cầu giải quyết xử lý của mỗi bài toán, do vậy ngƣời ta cũng đƣa ra mô hình MSN-CNN. Loại MSN-CNN không phổ biến chỉ sử dụng trong một số trƣờng hợp đặc biệt cho những bài toán thích hợp.

Hình 1.8 Một số kiến trúc CNN không chuẩn (a) Không đồng nhất; (b) Đa lân cận

(b) (a)

Số hóa bởi Trung tâm Học liệu http://www.lrc-tnu.edu.vn/

+ Kiến trúc CNN đa lớp: Nhƣ đã xét ở phần trƣớc, một lớp CNN đơn, mỗi tế bào chỉ có một biến trạng thái. Với bài toán có nhiều biến trạng thái (nhƣ giải hệ phƣơng trình vi phân có nhiều biến) ngƣời ta cần một hệ có nhiều lớp gọi là cấu trúc đa lớp. Trong cấu trúc CNN đa lớp có nhiều biến trạng thái cho mỗi đầu vào. Khái niệm đa lớp nhấn mạnh đến sự tƣơng tác giữa các biến trong một lớp, giữa các lớp. Có thể hình dung một hệ CNN đa lớp là kết hợp của nhiều lớp đơn xếp chồng lên nhau, ngoài tƣơng tác giữa các tế bào trong một lớp còn có tƣơng tác giữa các lớp.

Khi có nhiều biến trạng thái ta có thể chọn nhiều kiểu tƣơng tác đồng thời cho mỗi biến trạng thái khác nhau. Thuộc tính này làm cho CNN cực kỳ linh hoạt và cho phép chúng ta giải quyết những bài toán xử lý phức tạp.

Hình 1.9 Kiến trúc CNN hai chiều 3 lớp

Một cách tổng quát trong CNN đa lớp, kích thƣớc và hình trạng liên kết có thể khác nhau giữa các lớp. Ký hiệu mỗi lớp k

j trong đó k kích thƣớc của lớp (nếu k = 2 nghĩa là ở lớp j có là ma trận 2 chiều MxN), j là chỉ số của lớp. Xét một hệ CNN hai chiều 3 lớp (Hình 1.9) có ký hiệu các lớp là 2

1, 22,

2

3 trong đó mỗi lớp là các ma trận 3x5. Tuy nhiên, để đơn giản hoá ta coi kích thƣớc của các lớp là giống nhau nên ta có thể bỏ chỉ số k, chỉ còn chỉ số

2 1 2 2 2 3

Số hóa bởi Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ j ( j) với mọi j {1,2,...n}. Ta thấy mỗi tế bào ta xét trong Hình 1.9 không chỉ liên kết với các tế bào trong lớp mà còn liên kết với các tế bào trong lớp trên và dƣới. Một cách tổng quát chúng ta có thể coi kích thƣớc của các lân cận của mỗi tế bào ở mỗi lớp là tùy ý.

Phân loại theo thời gian xử lý

-Discrete-Time Cellular Neural Network (DT-CNN): Xử lý các tín hiệu rời rạc theo thời gian

-Continuous-Time Cellular Neural Network (CT-CNN): Xử lý các tín hiệu liên tục theo thời gian

Phân loại theo tín hiệu đầu vào

+ CNN tuyến tính (Linear CNN): Tín hiệu đƣa vào xử lý là tín hiệu tuyến tính. CNN loại này đƣợc sử dụng cho xử lý các tín hiệu tuyến tính rất phù hợp cho một số thao tác cơ bản trong xử lý ảnh tuyến tính. Mẫu CNN tuyến tính đƣợc ký hiệu:

A(i,j;l,k); B(i,j;k,l)

+ CNN phi tuyến (Non-Linear Cellular Neural Network-NLCNN): Tín hiệu đƣa vào sử lý là tín hiệu phi tuyến trong một số ứng dụng nhƣ giải phƣơng trình vi phân, xử lý ảnh phi tuyến ngƣời ta sử dụng CNN phi tuyến. Bản chất của CNN phi tuyến khác với CNN tuyến tính là nguồn dòng điều khiển Ixy và Ixu đƣợc xác định bởi mẫu phi tuyến có ký hiệu:

( , ; , )

A i j l k và ( , ; , )B i j k l

+ CNN trễ: Trong quá trình xử lý có những lúc cần tạo ra những tín hiệu trễ và ngƣời ta sử dụng CNN trễ. Bản chất trễ ở đây đƣợc thực hiện với các mẫu trễ và các tín hiệu vào/ra trễ, điện áp là hàm của biến thời gian trễ (T- t). Tham số trễ thời gian t có thể đƣợc điều khiển thông qua các phần tử mạch (điện trở R, tụ điện C) mẫu trễ đƣợc ký hiệu:

Số hóa bởi Trung tâm Học liệu http://www.lrc-tnu.edu.vn/

( , ; , )

A i j k l B i j k l( , ; , )

+ CNN hỗn độn (chaos): Một số trƣờng hợp mạch CNN làm việc ở trạng thái phi tuyến và có dao động không tuần hoàn trở thành trạng thái hỗn độn (chaos). Hiện tƣợng này trái ngƣợc với trạng thái hoạt động bình thƣờng của CNN. Hiện nay, vấn đề này vẫn đƣợc tiếp tục nghiên cứu để ứng dụng cho một số bài toán nhƣ mã hóa, bảo mật

.Phân loại theo tương tác

+ CNN không ghép cặp: Là hệ CNN mà các tế bào có tƣơng tác với tế bào láng giềng nhƣng không truyền thông tin cho nhau mà chỉ xử lý độc lập nghĩa là không có hiện tƣợng lan truyền tín hiệu trong toàn hệ.

+ CNN ghép cặp: Trái với CNN không ghép cặp hệ CNN này các tế bào trong quá trình xử lý có truyền thông tin cho nhau để xử lý có tính toàn cục. Với nhiều bài toán xử lý các thông tin trạng thái thay đổi liên tục có ảnh hƣởng đến nhau thông qua hàm trạng thái thì CNN ghép cặp đƣợc sử dụng nhất là trong cấc bài toán giải phƣơng trình đạo hàm riêng.

Một số dạng CNN đơn giản

Trong tƣơng tác xử lý của CNN một tế bào luôn có tác động và chịu tác động của tế bào láng giềng. Tùy trƣờng hợp những tác động này mạnh, yếu, cố định hay thay đổi tùy theo các mẫu. Mẫu trong CNN quyết định bản chất hoạt động của CNN. Mỗi mẫu là một cặp các giá trị (A,B,z) nhƣ đã giới thiệu ở trên.

Hình 1.10: CNN không gian bất biến với 3 láng giềng Đầu vào U Trạng thái X Đầu ra Y

Số hóa bởi Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Chúng ta xét trƣờng hợp tổng quát đƣợc mô tả trực quan về tƣơng tác giữa các tế bào thông qua mẫu trong Hình 1.10 với hệ CNN có đủ các tham số. Cấu trúc luồng tín hiệu của một CNN với 3x3 láng giềng, 2 bóng hình nón bóng mầu tím là biểu tƣợng của trọng số bổ sung của điện áp đầu vào (giá trị của ma trận trọng số B) và bóng mầu vàng là biểu tƣợng của trọng số hồi tiếp từ đầu ra (giá trị của ma trận trọng số A) của tế bào C(k,l) S1(i,j) tới trạng thái điện áp của tế bào trung tâm C(i,j). Cấu trúc hệ thống của tế bào C(i,j) đƣợc mô tả trong Hình 1.11. Mũi tên in đậm đánh dấu đƣờng dữ liệu song song từ đầu vào và đầu ra của các tế bào láng giềng ukl và ykl. Mũi tên trên các đƣờng mảnh theo thứ tự biểu thị ngƣỡng, đầu vào, trạng thái và đầu ra, z, uij, xij và yij.

Từ cấu trúc tổng quát chúng ta có thể đi nghiên cứu cấu trúc của một số lớp CNN đơn giản:

+Lớp hồi tiếp bằng 0 C(0,B,z): Một CNN thuộc lớp hồi tiếp bằng 0 C(0,B,z) nếu và chỉ nếu tất cả các mẫu phần tử hồi tiếp là 0, tức là mẫu A ≡ 0. Mỗi tế bào của CNN hồi tiếp bằng 0 đƣợc miêu tả bởi phƣơng trình trạng thái:

ij ij ij

x x B U z

Hình 1.11 Mô tả cấu trúc tƣơng tác của CNN tổng quát

dt f (.) A + B z uij ukl ykl yij x(T) . - yij

Số hóa bởi Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Cấu trúc luồng tín hiệu của hồi tiếp bằng 0 với 3x3 láng giềng (Hình 1.11). Hình nón là biểu tƣợng của trọng số bổ sung của điện áp đầu vào của các tế bào C(k,l) S1(i,j) tới tế bào trung tâm C(i,j).

Hình 1.12: CNN hồi tiếp bằng 0: C(0,B,z) Mô hình mạch điện của lớp C(0,B,z) nhƣ trong Hình 1.13:

Hình 1.13: Mạch điện của CNN có hồi tiếp bằng 0

+ Lớp đầu vào bằng 0 C(A,0,z): Một CNN thuộc lớp đầu vào bằng 0 C(A,0,z) nếu và chỉ nếu tất cả các mẫu phần tử dẫn nhập là 0, tức là B ≡ 0, mỗi tế bào của CNN đầu vào bằng 0 đƣợc miêu tả bởi phƣơng trình trạng thái:

ij ij ij

x x A Y z

Mô hình trực quan về tƣơng tác mẫu của lớp C(A,0,z) nhƣ trong Hình 1.14.

Hình 1.14: CNN đầu vào bằng 0, C(A,0,z)

dt f (.) + B z uij ukl yij x(T) . - C(0,B,z)

Đầu vào U Trạng thái X Đầu ra Y

Số hóa bởi Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Cấu trúc luồng tín hiệu của CNN đầu vào bằng 0 với 3x3 láng giềng. Hình nón màu vàng là biểu tƣợng của trọng số bổ sung của điện áp đầu ra của các tế bào láng giềng C(k,l) Sr(k,l) tới tế bào trung tâm C(i,j). Mô hình mạch điện đƣợc mô tả trong Hình 1.15 sau:

Hình 1.15: Mạch điệnCNN đầu vào bằng 0:C(A,0,z)

Một phần của tài liệu NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH TRUYỀN NHIỆT (Trang 26 -32 )

×