MỤC LỤC
Phương trỡnh vi phõn trờn mạng neuron ược dựng ể xấp xò ỏnh xạ liờn tục x7→ y bằng việc học hàm fạ và ỏnh xạ tuyến tớnh ℓ1ạ, ℓ2ạ sao cho. Trong mục này chỳng tụi sẽ chò ra một cỏch ể ước lượng tham số cho phương trình vi phân trên mạng neuron. Như vậy, việc dựng mạng ODE thay cho mạng ResNet em lại hiệu quả về bộ nhớ khi không phải lưu trữ các ại lượng trung gian.
• Lợi ớch về mặt tớnh toỏn: Cỏc phương phỏp xấp xò cú lịch sử phỏt triển hơn 100 năm và dần hoàn thiện về mặt lý thuyết. • Giải quyết về mụ hỡnh chuỗi thời gian liờn tục: thay vỡ ở mạng ResNet chò có thể tính toán ở từng thời iểm, mạng ODE cho phép tính toán ở cả khoảng thời gian liên tục, thích hợp ể xử lý các dữ liệu ến ở bất kỳ thời iểm nào. Chúng tôi sẽ trình bày cách tiếp cận ở [2] cho việc giải số phương trình vi phân trên mạng neuron.
Chỳ ý rằng việc lựa chọn chuẩn, nửa chuẩn∥ ã ∥ ảnh hưởng lớn ến lược ồ chấp nhận/từ chối của chúng ta. Vỡ vậy ta thiết lập nửa chuẩn mới, cho trọng số của aạ bằng 0 và dựng lược ồ tương thớch như ó trỡnh bày ở trờn.
Cụ thể, ước lượng sai số này có thể là sai số giữa lược ồ Runge-Kutta bậc 2 và bậc 4. Ở trong (1.4), nhận thấy rằng việc giảiz và az quan trọng hơn nhiều so với giải aạ. Trong chương 4, ta sẽ tìm hiểu xem nghiệm của phương trình có dạng (1.7) xấp xò cỏc ỏnh xạ liờn tục tốt như thế nào.
Phương trình vi phân nhám trên mạng neuron ược ưa về giải phương trình vi phân trên mạng neuron nếu giả thiết thêm X là khả vi. Bài toán ưa về ước lượng nghiệm của phương trình vi phân trên mạng neuron. Ta thấy việc xấp xò X bởi ường cong bậc ba là khụng tốt do cỏc dữ liệu quan sát có dạng nhịp tim, nhiệt ộ,.
Trong chương 3 chúng tôi sẽ ịnh nghĩa phương trình vi phân nhám, tính tồn tại duy nhất của nghiệm và lược ồ ước lượng nghiệm của phương trình vi phân nhám. Cuối cùng chương 4 dùng ể trình bày sự hiệu quả của phương trỡnh vi phõn nhỏm trong xấp xò cỏc hàm liờn tục.
Trong mục này chúng tôi sẽ trình bày một số tính chất cơ bản của ặc trưng. Bổ ề sau cho thấy các ặc trưng thoả mãn phương trình vi phân iều khiển bởi quỹ ạo.
Giả sử à là một hàm liờn tục từ ∆2I vào khụng gian Banach B thoả món tồn tại các hằng số K và ε > 0 sao cho. Trong bài luận văn này, chỳng tụi chò quan tõm ến phương trỡnh vi phõn nhám trong trường hợp¿ ∈ 14, 13. Vì tính chính quy của nghiệm là thấp, chúng ta cần nhiều hơn thông tin từ các ặc trưng.
Cụ thể, chúng tôi nhắc lại cách xây dựng của Gubinelli cho tích phân R ydx, ược trình lại ở [6].
Trong bài luận văn này, chỳng tụi iều chònh một số lập luận ể mở rộng cỏc kết quả ú. Trước hết ta chứng minh hệ có nghiệm duy nhất trên khoảng thời gian [a, T] với T−a f1. Vậy chúng ta có thể mở rộng khoảng [a, T] ra toàn khoảng I và chứng minh ược sự tồn tại duy nhất nghiệm của hệ.
Với B là không gian ịnh chuẩn, một hàm rời rạc lấy giá trị trên B ịnh nghĩa trên Π là ánh xạ. Trong chương này, chúng tôi sẽ áp ặt các giả thiết như sau Giả thiết 3.4.1. Từ ây, chú ý X là chuyển ộng một quỹ ạo của quá trình Brown phân thứ, ta có.
Cuối cùng ta xây dựng chuỗi thời gian dừng kết hợp cho cả hai trường hợp. Ước lượng của Nˆ ã ược trình bày ở mục xây dựng chuỗi thời gian dừng rời rạc. Chúng ta cũng có những kết quả tương tự cho trường hợpg là hàm bậc nhất.
Sử dụng bất ẳng thức ex g x+ 1 và bất ẳng thức Young, ta có các ánh giá sau.
Khi ó, theo ịnh lý 2.1.2, ặc trưng của quỹ ạo tại bậc N có thể viết lại như yX,N is nghiệm duy nhất của phương trình vi phân nhám. Nói cách khác, ặc trưng của quỹ ạo tại bậc N có thể hiểu như là một ánh xạ. Tương tự ịnh nghĩa cho X∗, nghĩa là chò thờm oạn thẳng vào quỹ ạo, không thêm vào thời gian.
Trong mục này, chỳng ta luụn xấp xò quỹ ạo X bằng cỏc ường cong nội suy bậc ba. Ta sẽ tìm hiểu xem phương trỡnh vi phõn nhỏm iều khiển bởi cỏc quỹ ạo nội suy sẽ xấp xò ỏnh xạ liờn tục tốt như thế nào. Khi ó ta ịnh nghĩa một topo trên TS[Ä,T](Rv) là topo yếu nhất ể º liên tục.
Với không gian topo ã ịnh nghĩa, chúng tôi phát biểu không chứng minh ịnh lý xấp xò toàn cục sau (ịnh lý B14, [9]). Gọi bº là ường cong nội suy bậc ba và nhắc lại ký hiệu ’loại bỏ dấu mũ’.