9. Đóng góp của đề tài
2.1.2.Thuật toán ACE
Công thức chung của một mô hình hồi quy tuyến tính có p biến độc lập, bao gồm X1, X2, …, Xp và một biến phụ thuộc Y đƣợc trình bày nhƣ sau:
(2.1)
Với các , , …, là các hệ số hồi quy cần ƣớc tính và là sai số giới hạn.
Hồi quy bội thông thƣờng đòi hỏi giả định mối quan hệ giữa các biến hồi quy là tuyến tính, do đó vấn đề còn lại chỉ là việc ƣớc lƣợng các tham số. Phƣơng pháp tiếp cận tham số tuyến tính chỉ thành công khi giả định về mối quan hệ tuyến tính giữa các biến là chính xác. Khi mối tƣơng quan giữa các biến độc lập và các biến phụ thuộc không phải là tuyến tính hoặc chƣa đƣợc xác định rõ ràng, hồi quy tham số tuyến tính có thể mang lại kết quả sai lầm, dẫn đến kết luận không chính xác.
Thuật toán ACE là một thuật toán có thể đƣợc áp dụng để giải quyết vấn đề hồi quy các biến khi mối quan hệ của chúng không phải là tuyến tính. Một mô hình hồi quy ACE có công thức chung:
(2.2)
Với là hàm số của biến phụ thuộc, Y, và là hàm số của các biến độc lập Xi với i = 1,...p. Do đó, mô hình ACE thay thế các bài toán ƣớc tính một hàm tuyến tính của một biến p – chiều X = (X1, X2, …, Xp) bằng cách ƣớc tính p hàm số một chiều riêng biệt, và bằng cách sử dụng phƣơng pháp vòng lặp. Thuật toán ACE bắt đầu bằng cách xác định các khai triển ngẫu nhiên có kỳ vọng bằng 0, (Y), (X1),..., (Xp). Nhằm đạt đƣợc các khai triển tối ƣu, chúng ta cần cực đại hóa R2 từ một mô hình hồi quy trong phƣơng trình
(2.2). Với điều kiện chuẩn hóa E[f(yt)] = 1, điều này đồng nghĩa với việc cực tiểu hóa tổng bình phƣơng của các phần dƣ đƣợc xác định theo công thức sau:
(2.3)
Tối thiểu hóa đƣợc thực hiện thông qua một loạt các tối thiểu hóa hàm số đơn, kết quả là các đẳng thức sau:
(2.4)
(2.5)
Thuật toán bao gồm hai tiến trình cơ bản là kỳ vọng có điều kiện và tái lập cho đến khi đạt cực tiểu. Sau khi các ƣớc tính gi(xit), f(yt) đƣợc xác định dựa trên những ƣớc tính này theo phƣơng trình số (2.6). Bằng việc thay (2.5) vào (2.6), tác giả lặp lại cho đến khi phƣơng trình (2.4) đạt cực tiểu. Các khai triển tối ƣu đƣợc ký hiệu * ( ), i = 1,..,p và
*(Y). Trong không gian tối ƣu chuyển đổi, các biến số có liên quan nhƣ sau:
(2.6)
Với e* là sai số không thể loại bỏ bởi việc sử dụng các phép khai triển ACE và giả định là có một phân phối chuẩn và kỳ vọng bằng 0. Sai số hồi quy tối thiểu hóa, e*.
Các phép khai triển ACE tối ƣu có nguồn gốc duy nhất từ dữ liệu trong thời kỳ và không đòi hỏi một giả định nào về mẫu hàm cho biến phụ thuộc hoặc biến độc lập, từ đó cung cấp một công cụ mạnh để thăm dò phân tích dữ liệu.