PHÉP BIẾN ĐỔI TUYẾN TÍNH CHO MẠNG NEURAL Linear transformations for neural networks

Linear Transformations for Neural Networks Linear Transformations for Neural Networks “Neural Network Design” (Martin T Hagan, Howard B Demuth, Mark Beale Thomson Learning, 1996) Chương 6 PHÉP BIẾN ĐỔI TUYẾN TÍNH CHO MẠNG NEURAL Mục đích Lý thuyết và các ví dụ Phép biến đổi tuyến tính Biểu diễn ma trận Sự thay đổi các cơ sở Giá trị đặc trưng và vecto đặc trưng Đường chéo Tóm tắt các kết quả Các vấn đề được giải quyết Kết luận Phần nghiên cứu sâu hơn Các bài tập Mục đích Chương này sẽ tiếp tục ch.

Linear Transformations for Neural Networks “Neural Network Design” (Martin T Hagan, Howard B Demuth, Mark Beale Thomson Learning, 1996) Chương 6: PHÉP BIẾN ĐỔI TUYẾN TÍNH CHO MẠNG NEURAL  Mục đích  Lý thuyết ví dụ o o o o o Phép biến đổi tuyến tính Biểu diễn ma trận Sự thay đổi sở Giá trị đặc trưng vecto đặc trưng Đường chéo  Tóm tắt kết  Các vấn đề giải  Kết luận  Phần nghiên cứu sâu  Các tập 6.1 Mục đích Chương tiếp tục chương trình bày sở tốn học cho phân tích mạng nơron Ở chương xem xét không gian vecto; chương nghiên cứu phép thay đổi tuyến tính áp dụng mạng nơron Như thấy chương trước, phép nhân vecto đầu vào với ma trận trọng số phép toán quan trọng thực mạng nơron Phép toán Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks ví dụ phép biến đổi tuyến tính Chúng ta muốn nghiên cứu biến đổi tuyến tính thơng thường xác định thuộc tính chúng Những khái niệm bao trùm chương , ví dụ giá trị đặc trưng, vecto đặc trưng phép biến đổi sở , tới hạn cho hiểu biết chủ đề mạng nơron học thuật ( bao gồm quy tắc Widrow- Hoff lan truyền ngược) mạng Hopfield hội tụ 6.2 Lý thuyết ví dụ Xem lại mạng Hopfield thảo luận chương 3( xem hình 6.1) Đầu mạng cập nhật cách đồng theo phương trình: Chú ý phép lặp đầu mạng nhân với ma trận W Hệ phép toán lặp lại gì? Liệu đầu mạng có đồng quy vài gía trị chuẩn khơng đổi, tiến đến vô hạn hay biến đổi? Trong chương trình bày sở cho việc trả lời câu hỏi trên, với nhiều câu hỏi khác mạng lưới nơron thảo luận sách Hình 6.1: Mạng Hopfield Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks 6.2.1 Phép biến đổi tuyến tính Chúng ta bắt đầu với vài định nghĩa * Phép biến đổi Một phép biến đổi bao gồm ba phần: Một tập hợp phần tử X = {xi} , gọi miền xác định Một tập hợp phần tử Y = {yi}, gọi vùng, Một quy tắc liên kết xi X ∊ với phần tử y i Y ∊ * Phép biến đổi tuyến tính Một phép biến đổi A tuyến tính nếu: Với tất x1, x2 X, ∊ A (x + x2) = A(x1) + A(x2), Với tất x X, ∊ a ∊R, A(ax) = aA(x) Xem xét, ví dụ, phép biến đổi chứa vector quay R góc θ, hình bên Hai hình đại lượng I thỏa mãn cho vòng quay Chúng bạn muối quay tổng hai vecto, bạn quay vecto trước cộng chúng sau Hình thứ tư miêu tả đại lượng Nếu bạn muốn quay vecto có tỉ lệ bạn quay trước chia tỉ lệ sau Vì phép quay phép tuyến tính Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks 6.2.2 Biểu diễn ma trận Như đề cập đến phần đầu chương này, phép nhân ma trận ví dụ phép biến đổi tuyến tính Chúng ra biến đổi tuyến tính hai khơng gian vecto hữu hạn chiều biểu diễn ma trận( chương trước vecto không gian vecto hữu hạn chiều biểu diễn cột số) Để điều sử dụng hầu hết khái niệm chương trước Hãy lấy tập hợp {v1, v2,…, vn} làm sở không gian vecto X, lấy {u1, u2,…, um} sở không gian vecto Y Điều có nghĩa với hai vecto x X ∊ y Y: ∊ Lấy A phép biến đổi tuyến tính với miền X vùng Y mà ( A:XY ) thì: Hay viết là: Vì A tốn tử tuyến tính, cơng thức (6.4) viết là: Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks A(ax)=aA(x) A(x) ax x Vì vector A(vi) phần tử Y, chúng biểu diễn thành kết hợp tuyến tính vecto sở Y: ( Chú ý ký hiệu sử dụng cho hệ số triển khai a ịj, không chọn ngẫu nhiên) Nếu thay cơng thức (6.6) vào cơng thức (6.5) có: Điều kiện cho phép cộng thỏa mãn có: Phương trình viết lại thành: Do ui tập hợp chuẩn nên chúng phải độc lập Điều có nghĩa hệ số mà nhân với u i phương trình 6.9 phải đồng khơng( xem cơng thức 5.4) Do ta có: Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks Vậy ta có ma trận nhân sau: Chúng ta tóm tắt kết sau: Với phép biến đổi tuyến tính hai khơng gian vecto hữu hạn chiều cho ta kết ma trận nhân Khi nhân nhiều lần ma trận mở rộng vecto vecto miền x, mở rộng vecto cho vecto biến đổi y Nhớ ma trận đại diện khơng phải ( ví dụ biểu diễn vecto thông thường cột số – xem lại chương 5) Nếu thay đổi chuẩn cho miền vùng biểu diễn ma trận thay đổi Chúng ta sử dụng điều cho chương sau Là ví dụ ma trận đại diện, xem xét biến đổi góc quay Lấy ma trận đại diện cho biến đổi Bước biểu diễn phương trình 6.6 Chúng ta phải biến đổi vecto chuẩn vùng sau nhân để tạo nên vecto chuẩn miền Trong ví dụ miền vùng giống nhau( X=Y=R2), để đơn giản tìm chuẩn chung cho hai (ui=vi=si), biểu diễn hình bên Bước biến đổi vecto chuẩn nhân vecto kết biến đổi để tạo nên vecto chuẩn Nếu quay S1 ngược chiều kim đồng hồ góc θ được: Và xem hình bên trái hệ số phần mở rộng tạo nên cột ma trận đại diện Bước biến đổi vecto sở thứ Nếu quay s ngược chiều kim đồng hồ góc θ ta Có thể xem hình bên trái Từ phần mở rộng có cột thứ hai cho ma trận đại diện Ma trận đại diện hoàn chỉnh : Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks Khi nhân vecto ma trận cơng thức 6.14 vecto quay góc θ Tóm lại, để có ma trận đại điện phép biến đổi sử dụng công thức 6.6 Chúng ta biến đổi vecto chuẩn vùng nhân để tạo nên vecto chuẩn miền Các hệ số phép nhân tạo cột ma trận Nghiên cứu hình học trình tạo nên ma trận đại diện, sử dụng hình biểu diễn hệ thống noron A(s2) -sin(θ) S2 S2 A(x) cos(θ) θ X A(s1) sin(θ) θ θ S1 S1 6.2.3 cos(θ) Sự thay đổi vector sở chuẩn Chú ý phần trước ma trận đại diện phép biến đổi tuyến tính Mỗi ma trận đại diện phụ thuộc vào tập hợp sở sử dụng cho miền vùng phép biến đổi Trong phần miêu tả xác làm ma trận đại điện thay đổi mà tập hợp sở bị thay đổi Xem xét phép biến đổi tuyến tính A: XY Lấy {v1,v2…, vn} sở không gian vecto X, lấy { u1,u2…, un} làm sở cho khơng gian vecto Y Vì vecto x Є X viết thành: Và vecto y Є Y viết thành: Vì nếu: Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks Thì ma trận đại diện : Hoặc Nếu sử dụng tập hợp sở khác cho X Y Lấy {t 1,t2,…, tn} sở cho X, lấy {w1,w2…, wm} sở cho Y Với sở mới, vecto x Є X viết là: Và vecto y Є Y viết thành Điều tạo ma trận đại diện mới: Hoặc Để tìm mối liên hệ A A’, cần tìm mối liên hệ hai tập hợp sở Đầu tiên, t phần tử X, chúng nhân lên để tạo nên sở ban đầu X Sau đó, wi phần tử Y, chúng nhân lên để tạo nên sơ ban đầu Y Vì vecto ban đầu biểu diễn cột số: Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks Ta có ma trận mà cột t: Sau viết cơng thức 6.20 dạng ma trận: Phương trình miêu tả mối liên hệ hai điện diện cho vecto X ( Chú ý kết giống với phương trình 5.43 Có thể xem lại vecto sở thuận nghịch chương 5) Ta có ma trận mà cột wi Theo viết 6.21 dạng ma trận mà biểu diễn mối quan hệ hai ma trận đại diện cho vecto y sau: Bây thay (6.28) (6.30) vào (6.19) ta có: Nó nhân hai vế phương trình với được: So sánh (6.32) (6.23) tốn tử sau cho thay đổi bản: Kết quan trọng thể mối liên hệ ma trận đại diện phép biến đổi tuyến tính gọi phép biến đổi đồng dạng Nó sử dụng hữu chương sau Nó với lựa chọn chuẩn vecto sở có Báo cáo Chuyên Đề - Lớp KTTT1 Page Linear Transformations for Neural Networks ma trận đại diện thể đặc tính phép biến đổi tuyến tính mà biểu diễn Điều thảo luận phần Lấy ví dụ thay đổi tập hợp sở, xem xét lại ví dụ vecto quay phần trước Trong phần ma trận đại điện phát triển nhờ sử dụng tập hợp sở chuẩn {s 1, s2} Bây tìm đại diện sử dụng sở { t 1, t2 } , thể hình bên cạnh ( ý ví dụ tập hợp sở tương tự sử dụng cho vùng miền) t2 s2 t1 s1 Bước nhân t1 t2 để tạo sở chuẩn, phương trình (6.24) (6.25) Ở hình bên ta thấy: Khi ta viết thành: Bây ta có ma trận sau: Và sử dụng sở cho vùng miền phép biến đổi nền: Chúng ta có ma trận đại diện từ phương trình 6.33 (6.39) Báo cáo Chuyên Đề - Lớp KTTT1 Page 10 Linear Transformations for Neural Networks Để tìm giá trị riêng cần giải phương trình sau: =0; (6.55) Hoặc ; (6.56) ; (6.57) Thu giá trị riêng: Để tìm vector riêng, chúng giải phương trình (6.48), ví dụ là: (6.58) Giải phương trình với giá trị λ1 λ2 Với λ1 ta có: (6.59) Hoặc z21≈0, không phụ thuộc vào z11 (6.60) Như ta thu vector riêng thứ là: ; (6.61) tích vơ hướng khác Với λ2 ta có: Hoặc: z22 = -z12; ; (6.62) ; (6.64) (6.63) Giá trị vector riêng thứ thu được: tích vơ hướng khác Để kiểm tra lại kết quả, ta xem xét phương trình sau: ; Báo cáo Chuyên Đề - Lớp KTTT1 (6.65) Page 14 Linear Transformations for Neural Networks ; 6.2.5 (6.66) Phép chuyển ma trận đơn vị (DIAGONALIZATION) Với n giá trị riêng độc lập, đảm bảo tìm n vector riêng độc lập [Brog91] Vì vector riêng tạo thành không gian vector phép biến đổi Để tìm ma trận tiền biến đổi (công thức 6.54) sử dụng vector riêng làm vector Từ công thức 6.33 ta có: ; (6.67) Chú ý ma trận chéo với giá trị riêng nằm đường chéo Với giá trị riêng độc lập, bất kỳ, ta chuyển thành ma trận đơn vị cách sử dụng vector riêng Quá trình chuyển đổi tổng hợp lại sau Coi ; (6.68) Với vector riêng ma trận A Ta có: ; (6.69) Với giá riêng riêng ma trận A Kết giúp ta phân tích hiệu suất mạng neural 6.3 Tổng hợp kết * Phép biến đổi (transformations) Một phép chuyển đổi bao gồm thành phần: nhóm thành phần X={xi} gọi miền (domain) nhóm thành phần Y={yi} gọi dải (range) quy luật ánh xạ vào thành phần * Phép biến đổi tuyến tính Báo cáo Chuyên Đề - Lớp KTTT1 Page 15 Linear Transformations for Neural Networks Một phép biến đổi A tuyến tính nếu: Với tất Với tất * Ma trận biểu diễn (matrix Representation) Không gian vector X , không gian vector Y A phép biến đổi tuyến tính miền X dải Y, ta có: Hệ số ma trận biểu diễn nghiệm phương trình: * Các thơng số * Các giá trị riêng vector riêng * Phép biến đổi ma trận đơn vị Với vector riêng ma trận vuông A 6.4 Các vấn đề cần giải P6.1 Xem xét mạng đơn lớp hình 6.1, với hàm biến đổi tuyến tính Vậy phép biến đổi vector đầu vào thành vector đầu có phải phép biến đổi tuyến tính hay khơng ? Báo cáo Chun Đề - Lớp KTTT1 Page 16 Linear Transformations for Neural Networks Inputs Linear Layer p Rx1 W R n a Sx1 Sx1 SxR b Sx1 S A=purelin(Wp+b) Hình 6.1 Mạng đơn Neuron Phương trình mơ tả mạng là: Để cho phép biến đổi tuyến tính, cần thỏa mãn điều kiện sau: Với điều kiện thứ 1: Đem so sánh với: Rõ ràng cách biểu diễn tương đương b=0 Vì mạng thực phép biến đổi phi tuyến, có sử dụng hàm tuyến tính Kiểu mạng phi tuyến đặc biệt gọi phép biến đổi mô (affine) P6.2 Xem xét lại phép chiếu chương 5, xem có phải phép biến đổi tuyến tính hay không ? S2 X S1 A(X) Báo cáo Chuyên Đề - Lớp KTTT1 Page 17 Linear Transformations for Neural Networks Hình 6.2 Phép biến đổi phản xạ Phép chiếu vector x vào vector v tính tốn sau: Với (x,v) tích số nội x v Kiểm tra xem phép biến đổi với điều kiện tuyến tính, ta có với điều kiện thứ nhất: (Ở sử dụng đặc điểm tuyến tính tích số nội) Xét với điều kiện thứ 2: Như vậy, phép chiếu ví dụ tuyến tính P6.3 Xét phép biến đổi A tạo cách ánh xạ vector x miền R2 đường thẳng x1+x2=0, hình 6.2 Xác định ma trận biến đổi liên quan đến chuẩn miền R2 Phương pháp để tìm ma trận biến đổi thực phương trình 6.6 Cần phải biến đổi vector miền, sau mở rộng kết nhóm vector dải Môi lần mở rộng, ta lấy cột ma trận biểu diễn Trong trường hợp này, nhóm miền dải {s1, s2} Vậy ta biến đổi s1 trước Nếu ánh xạ s1 đường thẳng x1+x2=0, ta thu kết quả: Báo cáo Chuyên Đề - Lớp KTTT1 Page 18 Linear Transformations for Neural Networks S1 A(s1)=-s2 Từ cho ta cột ma trận Tiếp theo ta biến đổi s2: S2 A(s2)= -s1 Ta thu cột thứ ma trận Và kết cuối là: Kiểm tra lại kết với vector Kết thực thể ánh xạ vector x đường thẳng x1+x2=0 hình 6.3 S2 S1 A(x) Báo cáo Chuyên Đề - Lớp KTTT1 X Page 19 Linear Transformations for Neural Networks Hình 6.3 Kiểm tra lại phép ánh xạ P6.4 Xét không gian số phức, xem không gian vector X, lấy vector X {1+j, 1-j} Phép biến đổi A: X->X liên hợp (ví dụ: A(x)=x*) Các bước thực Trước tiên ta tìm ma trận phép biến đổi A liên quan đến nhóm chọn Tìm giá trị riêng vector riêng phép biến đổi Tìm phép biểu diễn ma trận cho A liên quan đến vector riêng vector Bước 1: để tìm ma trận cho phép biến đổi, ta biến đổi vector cách tìm liên hợp phức nó: Ta thu phép biểu diễn ma trận: Bước 2: để tìm giá trị riêng, cần phải sử dụng công thức 6.49 Vậy giá trị riêng là: Để tìm vector riêng, dùng công thức 6.48: Với cho ra: Hoặc Vậy vector riêng thu là: tích vơ hướng khác Với vector riêng thứ ta sử dụng thu được: Báo cáo Chuyên Đề - Lớp KTTT1 Page 20 Linear Transformations for Neural Networks Hoặc Vậy vector riêng thứ là: tích vơ hướng khác Chú ý rằng, vector riêng biểu diễn thành cột chữ số thực, thực tế chúng số phức, ví dụ: Kiểm tra lại kết quả: Bước 3: thực thay đổi vector bản, sử dụng công thức 6.33 (sử dụng nhóm vector cho miền dải) với Thu Theo cơng thức 6.69 biến đổi chéo ma trận biểu diễn P6.5 Biến đổi chéo ma trận Bước tìm giá trị riêng: Vậy giá trị riêng là: Để tìm vector riêng: Với ta có: Hoặc Báo cáo Chuyên Đề - Lớp KTTT1 Page 21 Linear Transformations for Neural Networks Vậy vector riêng là: tích vơ hướng khác Với λ = λ2 = thì: z1 = = Hoặc : z12 = -z22 Do đó, vector đặc trưng thứ hai phải là: z2 = , Hoặc bội số vơ hướng Để chéo hóa ma trận ta dùng cơng thức (6.69): A’ = [B-1 AB], Trong B = [z1 z2] = Do ta có: A= = = P6.6 Giả sử có biến đổi A:R3  R2 ma trận liên hệ tới tập hợp sở chuẩn là: A= Tìm ma trận liên hệ biến đổi với tập hợp sở: T= W= Giải: Bước tìm ma trận: Bt = Bw = Bây sử dụng cơng thức (6.33) để tìm cách biểu diễn ma trận mới: A’ = [B ABt] A’ = = Do ma trận biến đổi ánh xạ tới tập hợp T W P6.7 Giả sử có biến đổi A: R2  R2 Một tập hợp R2 V = {v1,v2} i Tìm ma trận biến đổi A với tập hợp V cho sau: ii A(v1) = v1 + 2v2 A(v2) = v1 + v2 Giả sử có tổ hợp W = {w1,w2} Tìm ma trận biến đổi A với tập W cho sau: w1 = v1 + v2, w2 = v1 – v2 Giải: Mỗi câu hỏi cho ta cột ma trận, định nghĩa công thức (6.6) Do ma trận có dạng: A= Ta biển diễn vector cột số tập vector V: w1 = w2 = Ta tìm ma trận cách thực biến đổi tương đương: Bw = Báo cáo Chuyên Đề - Lớp KTTT1 Page 22 Linear Transformations for Neural Networks Cách biểu diễn ma trận nêu công thức (6.33): A’ = [B ABw] A’ = = P6.8 Giả sử không gian vector P2 tất đa thức nhỏ Tập hợp cho không gian vector V = { 1,t,t2} Giả sử có vi phân biến đổi D i Tìm ma trận liên hệ tập hợp V phép biến đổi ii Tìm giá trị đặc trưng vector đặc trưng phép biến đổi Giải: Bước biến đổi vector bản: D(1) = = (0)1 + (0)t + (0)t2, D(t) = = (1)1 + (0)t + (0)t2, D(t2) = 2t = (0)1 + (2)t + (0)t2 Do ma trận biến đổi là: D= Để tìm giá trị đặc trưng ta phải giải: [D – λI] = = -λ3 = Do tất giá trị đặc trưng Để tìm vector đặc trưng ta cần phải giải: [D – λI]z = z = Với λ = ta có: = Có nghĩa là: z2 = z3 = Do ta có vector đặc trưng đơn: z= Do có đa thức suy từ phiên mở rộng thân số P6.9 Giả sử có biến đổi A: R2  R2 Hai ví dụ vector biến đổi hình P6.4 Tìm ma trận liên hệ với tập hợp chuẩn Hình P6.4 Biến đổi tốn P6.9 Giải: Báo cáo Chuyên Đề - Lớp KTTT1 Page 23 Linear Transformations for Neural Networks Đối với toán này, khơng biết vector sở biến đổi nào, khơng thể sử dụng cơng thức (6.6) để tìm ma trận biểu diễn Tuy nhiên, chungsta hai vector biến đổi nào, vector biểu diễn tập hợp chuẩn Từ hình P6.4 viết lại phương trình sau: A =, A = Ghép phương trình lại với ta có: A = Do đó: A= = = Đây cách biểu diễn ma trận biến đổi với tập hợp đặc biệt Hàm sử dụng “Biến đổi tuyến tính mơ thiết kế mạng Neural” 6.5 Tổng kết Trong chương đánh giá thuộc tính biến đổi tuyến tính ma trận, điều đóng vai trị quan trọng việc nghiên cứu mạng neutral Các khái niệm giá trị đặc trưng, vector đặc trưng, biến đổi (biến đổi tương đương) chéo hóa ma sử dụng lặp lặp lại suốt chương Nếu khơng có kiến thức đại số tuyến tính nghiên cứu mạng neutral mang tính chất tìm hiểu bên ngồi Trong chương tiếp theo, sử dụng đại số tuyến tính để phân tích hoạt động thuật toán huấn luyện mạng neutral – thuật toán Hebb 6.6 Tài liệu tham khảo [Brog91] W.L.Brogan, Modern Control Theory, 3rd Ed., Englewood Cliffs, NJ: Prentice-Hall, 1991 Đây tài liệu viết tốt chủ đề hệ thống tuyến tính Nửa đầu sách nói đại số tuyến tính Đây phần quan trọng để giải biến đổi vi phân tuyến tính tính ổn định hệ thống tuyến tính phi tuyến [Stra76] G Strang, Linear Algebra and Its Applications, New York: Academic Press, 1980 Strang viết đại số tuyến tính tốt Rất nhiều ứng dụng đại số tuyến tính viết sách 6.7 Bài tập E6.1 Biến đổi tuyến tính ma trận có phải chuyển vị ma trận khơng? E6.2 Giả sử có mạng neutral hình P6.1 Chỉ đường chéo vector b mạng có thực biến đổi tuyến tính khơng E6.3 Giả sử có biến đổi tuyến tính minh họa hình E6.1 Tìm ma trận liên hệ biểu diễn phép biến đổi tập hợp sở chuẩn Tìm ma trận liên hệ biểu diễn phép biến đổi tập sở {v1,v2} Báo cáo Chuyên Đề - Lớp KTTT1 Page 24 Linear Transformations for Neural Networks Hình E6.1 Ví dụ minh họa phép biến đổi dùng tập E6.3 E6.4 Giả sử có không gian số phức, không gian vector X, tập sở X (1+j, 1j) Phép biến đổi A: X  X thực cách nhân với (1+j) (ví dụ: A(χ) = (1+j)χ) i Tìm ma trận liên hệ phép biến đổi A với tập hợp cho ii Tìm giá trị đặc trưng vector đặc trưng phép biến đổi iii Tìm cách biểu diễn ma trận cho miền A cho vector đặc trưng vector sở iv Kiểm tra tính sai câu trả lời MATLAB E6.5 Giả sử có phép biến đổi A: P2  P3, từ không gian đa thức bậc tới không gian đa thức bậc 3, định nghĩa sau: χ = a0 + a1t + a2t2 A(χ) = a0(t+1) + a1(t+1)2 + a2(t+1)3 Tìm cách biểu diễn ma trận liên hệ miền V2 = {1,t,t2}, V3 = {1,t,t2,t3} E6.6 Giả sử có khơng gian hàm có dạng αsin(t+ϕ) Tập sở cho không gian V = {sint, cost} Giả sử có biến đổi vi phân D i Tìm ma trận biến đổi D miền tập hợp sở V ii Tìm giá trị đặc trưng vector đặc trưng phép biến đổi Chỉ vector đặc trưng cột số hàm t iii Tìm cách biểu diễn ma trận liên hệ cho vector đặc trưng vector sở E6.7 Giả sử có khơng gian vector P2 P3 đa thức bậc bậc Tìm cách biểu diễn ma trận phép biến đổi tích hợp I:P2  P3 miền V2 = {1,t,t2}, V3 = {1,t,t2,t3} E6.8 Một phép biến đổi tuyến tính A:R2  R2 có cách biểu diễn ma trận miền tập hợp sở là: A= Tìm biểu diễn ma trận phép biến đổi với miền mới: V= E6.9 Biết biến đổi tuyến tính A:R2  R2 có giá trị đặc trưng vector đặc trưng sau: =1 z1 = =2 z2 = (Các vector đặc trưng biểu diễn tập hợp sở) i Tìm biểu diễn ma trận phép biến đổ A tập hợp sở ii Tìm biểu diễn ma trận miền: V= Báo cáo Chuyên Đề - Lớp KTTT1 Page 25 Linear Transformations for Neural Networks E6.10 Giả sử có tập hợp miền R2: V = {v1,v2} = (các vector sở biểu diễn tập hợp sở) i Tìm vector sở tương hỗ tập hợp sở ii Giả sử có phép biến đổi A: R2  R2 Biểu diễn ma trận cho phép biến đổi A miền R2 là: iii iv v A= Tìm mở rộng Av1 miền tập hợp sở V (sử dụng vector sở tương hỗ) Tìm mở rộng Av2 miền tập hợp sở V Tìm biểu diễn ma trận cho phép biến đổi A miền tập hợp sở V Báo cáo Chuyên Đề - Lớp KTTT1 Page 26 ... mạng thực phép biến đổi phi tuyến, có sử dụng hàm tuyến tính Kiểu mạng phi tuyến đặc biệt gọi phép biến đổi mô (affine) P6.2 Xem xét lại phép chiếu chương 5, xem có phải phép biến đổi tuyến tính. . .Linear Transformations for Neural Networks ví dụ phép biến đổi tuyến tính Chúng ta muốn nghiên cứu biến đổi tuyến tính thơng thường xác định thuộc tính chúng Những khái... 17 Linear Transformations for Neural Networks Hình 6.2 Phép biến đổi phản xạ Phép chiếu vector x vào vector v tính tốn sau: Với (x,v) tích số nội x v Kiểm tra xem phép biến đổi với điều kiện tuyến