Chip noron

Một phần của tài liệu Nghiên cứu thiết kế mạng nơron truyền thẳng nhiều lớp bằng các phần tử điện tử thông thường (Trang 72 - 74)

Nhƣ đã nêu trong phần 2.3.3, điện áp đầu ra của chíp khớp thần kinh thế hệ thứ hai sẽ có điện áp tham chiếu Vref để tránh dòng điện DC chế độ bình thƣờng

trong khớp thần kinh. Nhƣ điện áp đầu ra noron thì có liên quan tới điện áp này, cần thiết để tách cặp lƣỡng cực và phạm vi đầu ra MRC với mạch gƣơng dòng điện để đảm bảo đủ điện áp cặp Collector-Emitor của bipolar lƣỡng cực. Nếu không sơ đồ noron chủ yếu không thay đổi gì. Sơ đồ của một noron tang hypebol thế hệ thứ hai đƣợc chỉ ra trên hình 3.7. Mạch gƣơng dòng điện đƣợc thêm vào sẽ chắc chắn gây ra sự gia tăng bù đầu ra noron.

Hình 3.7: Noron tang hypebol thế hệ thứ haị

Mở rộng chip noron thế hệ thứ hai cho on-chip lan truyền ngƣợc, chúng ta phải cho phép các noron tính toán sai lệch trọng số kl . Mặc dù cấu trúc cập nhật trọng số nối tiếp (O(1)) đã đƣợc lựa chọn, chúng tôi đã chọn để đặt một vài phần cứng cập nhật trọng số trên chip noron. Nói đúng ra điều này thì không cần thiết cho tất cả nhƣng cần cho một trong những chip noron trong hệ thống. Tuy nhiên nó thì thuận tiện để đặt mạch nhân "kl.zkl " gần vị trí vật lý của tín hiệu "kl" và "zlk".

Ngoài ra, nếu RAM lƣu trữ đƣợc tổ chức trong các dãy tiếp cận song song, sự bán song song này có thể đƣợc khai thác. Sơ đồ khối của noron lan truyền ngƣợc đƣợc thấy trong hình 3.8. Nó thì rất quan trọng cho các chức năng của thuật học điều này bù sai lệch trên tín hiệu thay đổi trọng số là rất nhỏ. Vì vậy, phần cứng cho việc bù tín hiệu thay đổi trọng số là không thể thiếụ Khi hệ thống sử dụng một phần cứng cập nhật trọng số nối tiếp và nhƣ các trọng số mới cuối cùng phải đƣợc viết trong bộ nhớ lƣu trữ kỹ thuật số, không có một động lực mạnh mẽ để giữ tính toán thay đổi trọng số phần cứng tƣơng tự. Thật vậy, bằng cách sử dụng phần cứng kỹ thuật số trong hầu hết các phần của hệ thống O(1), chúng ta có thể giảm các vấn đề với việc bù thay đổi trọng số (phần 4.5)

Hình 3.8: Sơ đồ khối noron lan truyền ngược.

Nhƣ chúng tôi sử dụng một sự kích hoạt noron tang hyperbol, đạo hàm của hàm kích hoạt này đƣợc tính toán nhƣ sau g'calc  1 g2. Cho hoạt động này nhƣ hai chiều cung cấp bởi mạch nhân cơ bản trên MRCs đƣợc sử dụng. Đây là một thành phần rất linh hoạt, đƣợc coi là cốt lõi của hầu hết các mạch tính toán trong luận văn. Nó có khả năng để thực hiện mạch nhân, ngoài ra còn thực hiện phép trừ và phép chia: bằng cách sử dụng sơ đồ MRCs đầu ra thì đƣợc đƣa ra bởi (các thông số quá trình độc lập): 1 1 1 1 2 2 2 2 1 1 1 1 ( )( ) ( )( ) ( )( ) k z z k k z z k k out s z z k k C C v v v v v v v v v v v v v v v v                        

Trong đó vz1,vk1,vz2,vk2 and vC là những đầu vàọ Điều này có thể dễ dàng cấu hình để tính toán các chức năng mong muốn (Bộ dịch chuyển mức sẽ phải đƣợc chèn tại vwk và vC đầu vào để đảm bảo các bóng bán dẫn hoạt động trong vùng đèn ba cực)

Sai lệch trọng số kl thì đƣợc tính toán bằng cách sử dụng một MRC IPM một chiềụ Nhƣ các đầu vào cho các chíp khớp thần kinh là bộ đệm. Chip noron không cần phải có một trở kháng đầu ra thấp (không phải trong chế độ truyền thẳng cũng không đảo chiều). Do đó, Các thiết bị chuyển mạch dùng để chuyển hƣớng dòng tín hiệu trong các chế độ làm việc khác nhau có thể đƣợc đơn giản bằng transistor MOS trong kỹ thuật bằng cách sử dụng có thể truyền tải 50pF để chính xác 8bit trong 100ns – cho tải điện dung lớn, phản hồi có thể đƣợc sử dụng để giảm trở kháng các chuyển đổi, chủ yếu là các hàng và cột chíp khớp thần kinh. Khi đang hoạt động trong chế độ học hoặc chế độ truyền thẳng, đầu vào mạng noron skl thì

không sẵn có. Do đó hàm kích hoạt noron đã đƣợc lấy mẫu trong chế độ truyền thẳng để cung cấp dữ liệu cho tính toán sai lệch trọng số.

Chíp khớp thần kinh cung cấp cho các sai lệch noron kl nhƣ dòng điện. Nhƣ phép nhân " '( ).g sklkl" cần thiết các đầu vào điện áp, chúng tôi cần một khuếch đại transimpedance tại đầu vào sai lệch noron. Sai lệch noron thì đƣợc tính toán theo cách khác cho các lớp đầu ra hơn so với các lớp trƣớc. Chúng tôi có thể trang bị điều này bằng cách thêm vào một MRC thứ hai để sai lệch noron transimpedance (tức là chuyển đổi một IPM một chiều) và kích hoạt MRC này chỉ ở một lớp đầu rạ. Mạch điện có khác biệt của một điện áp đầu vào ứng dụng và kích hoạt noron on- chip. Nói cách khác, ở một lớp đầu ra bây giờ đƣợc cung cấp một giá trị mục tiêu nhƣ một điện áp chứ không phải là một sai lệch noron nhƣ một dòng điện.

Một phần của tài liệu Nghiên cứu thiết kế mạng nơron truyền thẳng nhiều lớp bằng các phần tử điện tử thông thường (Trang 72 - 74)