Dự báo tỉ giá ngoại tệ với mô hình học cộng đồng kết hợp giải thuật tiến hóa đa mục tiêu

Nội dung bài viết bao gồm: phần II trình bày lý thuyết nền tảng, phương pháp đề xuất giải quyết bài toán dự báo tỉ giá ngoại tệ được trình bày trong phần III, phần IV là kết quả thử nghiệm và cuối cùng là kết luận.

Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT Tập V-2, Số 14 (34), tháng 12/2015 Dự báo tỉ giá ngoại tệ với mơ hình học cộng đồng kết hợp giải thuật tiến hóa đa mục tiêu Forecasting of Currency Exchange Rates with Multi-Objective Evolutionary Ensemble Learning Đinh Thị Thu Hƣơng, Đỗ Thị Diệu My, Vũ Văn Trƣờng, Bùi Thu Lâm Abstract: Time series forecasting is paid a considerable attention of the researchers At present, in the field of machine learning, there are a lot of studies using artificial neural networks to construct the model of time series forecast in general, and foreign currency exchange rates forecast, in particular However, determining the number of members of an ensemble is still debatable This paper proposes the way of constructing a model and designing a multi-objective evolutionary algorithm in training neural networks ensembles in order to increase the diversity of the population Two objectives of the selected model include: Mean Sum of Squared Errors - MSE and Diversity We experimented the model on four data sets and compared three methods (single-objective, multiobjective and ensembles) The experimental results showed that the proposed model produced better in investigated cases Keywords: Ensemble learning, multi-objective evolutionary algorithm, diversity I GIỚI THIỆU Các nhà khoa học minh chứng, lĩnh vực dự báo mơ hình học cộng đồng đem lại hiệu suất tốt mơ hình đơn [21] Vì vậy, xây dựng mơ hình học cộng đồng cách làm phổ biến để cải thiện hiệu suất loại toán phân lớp hồi quy Thơng thường mơ hình cộng đồng dựa mơ hình đơn, chẳng hạn: mạng nơron [3,15,16,21], máy vector hỗ trợ [9] hồi qui [14] Những giải thuật tiến hóa đa mục tiêu nhà khoa học ứng dụng dự báo chuỗi thời gian Có ba lí khiến tối ưu tiến hóa (Evolutionary Optimiztion – EO) quan tâm nhiều: (i) EOs khơng u cầu thơng tin đặc trưng; (ii) EOs thực tương đối đơn giản; (iii) EOs cách tiếp cận đa điểm (làm việc quần thể) thể rõ tính linh hoạt miền giới hạn rộng để áp dụng [4],[12] Mơ hình học cộng đồng (ensemble learning) kết hợp giải thuật tiến hóa đa mục tiêu dùng mạng nơron nhân tạo (Artificial Neural Network - ANN) để huấn luyện triển khai nhiều lĩnh vực dự báo chuỗi thời gian Chẳng hạn: [13] thực dự báo chuỗi thời gian với mô hình cộng đồng sở mơ hình đơn để xây dựng dự báo lặp nhằm tìm số thành viên cộng đồng góp phần nâng cao hiệu suất dự báo; Trong [9] đề xuất dự báo chuỗi thời gian giải thuật lai tiến hóa đa mục tiêu để tối ưu cấu trúc mạng RNNs dựa hai mục tiêu: mục tiêu thứ cá thể ngưỡng biên Pareto mục tiêu thứ hai dựa lỗi huấn luyện; [20] minh chứng việc cân độ đa dạng thành viên cộng đồng tính xác (đó hai yêu cầu quan trọng để xây dựng phương pháp học cộng đồng dựa giải thuật tiến hóa đa mục tiêu Nhìn chung nghiên cứu trước chủ yếu tập trung vào việc xem xét số lượng thành viên cộng đồng hay độ đa dạng (Diversity - DIV) giải pháp [18] cách chọn hàm mục tiêu toán phân lớp mà đề cập tới toán hồi quy Trong báo - 98 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT này, nhóm tác giả đề xuất mơ hình học cộng đồng kết hợp giải thuật tiến hóa đa mục tiêu để tối ưu trọng số mạng nhằm nâng cao hiệu suất dự báo toán hồi qui Hai mục tiêu lựa chọn là: MSE DIV Về liệu, thử nghiệm tập liệu (HKD, JPY, EURO USD) với khoảng thời gian 19/10/2012 đến 06/04/2015 Kết thử nghiệm, so sánh với dự báo dùng mơ hình ANN Mơ hình đề xuất khẳng định ưu kỹ thuật học cộng đồng kết hợp với giải thuật tiến hóa Nội dung báo bao gồm: phần II trình bày lý thuyết tảng, phương pháp đề xuất giải toán dự báo tỉ giá ngoại tệ trình bày phần III, phần IV kết thử nghiệm cuối kết luận Tập V-2, Số 14 (34), tháng 12/2015 gọi có tính cộng (additive), kích thước ảnh hưởng mùa tỉ lệ với giá trị trung bình gọi có tính nhân (multiplicative) Tính chu kì (cyclical): Biến động tượng lặp lại với thời vụ mà khoảng thời gian lớn năm Tính ngẫu nhiên (irregular): Biến động khơng có quy luật khơng thể dự đốn Những nhân tố làm cho chuỗi thời gian trở nên khơng dừng Bốn thành phần kết hợp với theo mơ hình nhân [2]: yt  Tt St Ct It Trong đó: yt : giá trị quan sát thời điểm t II LÝ THUYẾT NỀN TẢNG Tt : thành phần xu hướng thời gian t II.1 Dự báo chuỗi thời gian St : thành phần thời vụ thời gian t II.1.1 Khái niệm Ct : thành phần chu kì thời gian t I t : thành phần ngẫu nhiên thời gian t Một chuỗi thời gian hiểu dãy rời rạc giá trị quan sát khoảng thời gian cách Y   y1 , y2 , , yt  xếp thứ tự diễn biến thời gian với y1 giá trị quan sát thời điểm đầu tiên, y2 quan sát thời điểm thứ yt quan sát thời điểm thứ t [1],[2] II.1.2 Phân tích chuỗi thời gian Để nhận thấy biến động tượng qua thời gian, cần phải phân tích chuỗi thời gian Có thể kể đến yếu tố nguồn gốc tạo đặc tính dao động, là: tính xu hướng, tính mùa, tính chu kì tính ngẫu nhiên [5] Tính xu hướng (trend): Thể chiều hướng biến động, tăng giảm tượng nghiên cứu thời gian dài Tính mùa (seasonality): Biểu qua tăng/giảm mức độ tượng số thời điểm (tháng/q) lặp lặp lại qua nhiều năm Điều quan tâm kích thước ảnh hưởng mùa: Kích thước ảnh hưởng mùa đặn hàng năm (1) Khi xem xét biến động thành phần chuỗi thời gian Trước tiên, xét đến biến động thời vụ Với đặc tính phương pháp số trung bình di động có tác dụng hạn chế, loại bỏ biến động mang tính ngẫu nhiên Vì vậy, sau tính số trung bình di động từ nhóm với mức độ (chiều dài nhóm – thường chọn giá trị mức độ giá trị thời vụ) dãy chuỗi số thời gian bao hàm hai thành phần xu hướng chu kì, hai thành phần mùa vụ ngẫu nhiên bị loại bỏ Khi đó: SI  TCSI yt  TC yt (2) đó: yt số trung bình di động ứng với giá trị quan sát thời điểm t Tiếp theo, xu hướng chuỗi thời gian có tính chất mùa vụ cần loại bỏ yếu tố mùa vụ khỏi dãy số Tức là: - 99 - CTI  TCSI yt  S Is (3) Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT đó: I s số thời vụ Sau có yếu tố thành phần T, S, C ta xác định biến động yếu tố ngẫu nhiên cách tính: It  yt TI s I c (4) đó: I c số chu kì Ngồi đặc tính trên, chuỗi thời gian có đặc tính khác như: tuyến tính (linearity) tính dừng (stationary) Tuy nhiên, khó gặp chuỗi thời gian “dừng” theo nghĩa thực tế Thông thường, người ta thường dùng phép sai phân để chuyển chuỗi thời gian khơng dừng chuỗi dừng [17] Khi phân tích chuỗi thời gian, tham số thống kê quan tâm hệ số tương quan Với chuỗi thời gian x, giả sử giá trị trung bình khơng thay đổi, ta xấp xỉ hệ số tương quan xt squared Errors) MAPE (Mean Absolute Percentage Error) II.3 Mạng nơron Theo tài liệu [7] mạng nơron cơng cụ tính tốn phổ biến lĩnh vực trí tuệ nhân tạo Cấu trúc mạng bao gồm tập đơn vị tính tốn (hay nút) chia thành nhiều lớp (mỗi lớp có nhiều nút), (xem hình 1) Mức độ liên kết nút xác định tập giá trị trọng số Tham số bias sử dụng để tăng độ thích nghi mạng với tốn đặt Số lớp nút lớp phụ thuộc vào toán xác định thử nghiệm Số lượng nút lớp số biến vector lời giải bias bias x0 h0 y1 x1 h1 xt  k sau [1]: y2 x2 t  x )( xt  k  x ) N ( x t 1 t  x )2 xl (5) Input Layer t 1  (x h2 N k rk  Tập V-2, Số 14 (34), tháng 12/2015 yn w(1) ji hm Hidden Layer wkj(2) Output Layer Hình Cấu trúc mạng nơron nhiều lớp đó: rk hệ số tương quan độ trễ k x giá trị trung bình x Mục tiêu phân tích chuỗi thời gian nhận tách riêng yếu tố ảnh hưởng để thực bước dự đoán II.2 Chỉ số đánh giá lỗi Về bản, mơ hình dự báo chuỗi thời gian dựa vào liệu có sẵn khứ để dự đoán liệu tương lai cách khái quát hóa từ liệu khứ để xây dựng mơ hình Tuy nhiên, khơng có mơ hình tuyệt đối, ln ln có sai số giá trị thực giá trị dự đốn Biểu diễn dạng cơng thức tốn học sai số sau: et  xt  xˆt , đó: xˆt giá trị dự đốn thời điểm thứ t Có số số đo độ lỗi thường hay dùng dự báo chuỗi thời gian như: SSE (Sum Squared Error), RMSE (the Root Mean Squared Error), MSE (Mean Sum of Theo [7] trình huấn luyện mạng nơron cần xác định hai thành phần kiến trúc mạng trọng số liên kết Việc xác định kiến trúc mạng thường dùng trí tuệ chuyên gia (xác định trước) Trong đó, xác định giá trị trọng số người ta dùng giải thuật lan truyền ngược (Back Propagation-BP) Bản chất BP giải thuật tìm kiếm có sử dụng kĩ thuật tìm kiếm ngược hướng gradient Mặc dù dễ thực thi giải thuật bộc lộ số nhược điểm như: (1) Tại vùng số hướng mà bề mặt sai số phẳng, giá trị gradient nhỏ dẫn đến tốc độ hội tụ giải thuật chậm; (2) Bề mặt sai số thường khơng lồi mà có nhiều vùng lõm khác nhau, phụ thuộc vào q trình khởi tạo trọng số ban đầu mạng, điều dẫn đến giải thuật bị tắc cực trị địa phương (tắc vùng lõm) Tuy nhiên, BP lại có khả hội tụ nên nghiên cứu nhóm tác giả sử dụng BP để tinh chỉnh trọng số mạng nơron tốt - 100 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT sau huấn luyện qua thuật toán NSGA-II II.4 Bài toán tối ƣu đa mục tiêu Bài toán tối ưu đa mục tiêu có k hàm mục tiêu  f  x   f  x  , f  x  , , f sau:  k T  x   [10] định nghĩa Tập V-2, Số 14 (34), tháng 12/2015 phép toán lai ghép (crossover), đột biến (mutation) lựa chọn (selection) Trong đó, việc xếp hạng quần thể chọn cá thể từ quần thể định hình thành tập quần thể Các bước thuật toán biểu diễn qua sơ đồ khối (xem Hình 2) Khởi tạo quần thể ban đầu có N cá thể  minimize f  x   f  x  , f  x  , , f  x T k   (6) g j  x    j  1, , m    n xX  R   đó: x vector định n biến Đánh giá hàm mục tiêu Xếp hạng quần thể tính theo điềukiện khơng trội ( x   x1 , x2 , , x2  );  f  x   biểu diễn mối quan hệ T Lựa chọn tiêu chuẩn chất lượng trình khảo sát biến độc lập x gọi hàm mục tiêu;  g  x   điều Lai ghép kiện ràng buộc tốn Trong khơng gian biến, hàm số tạo miền giới hạn D khả cho phép hàm  f  x   Đột biến Đánh giá hàm mục tiêu quần thể II.5 Mơ hình học cộng đồng kết hợp giải thuật tiến hóa đa mục tiêu II.5.1 Thuật toán NSGA-II NSGA-II thuật toán di truyền xếp lời giải khơng trội Đó phiên cải tiến từ NSGA đề xuất Deb Agarwal [10], [11] Bản chất thuật toán xem lời giải phải xác định có lời giải trội tập lời giải trội NSGA-II ước tính mật độ lời giải xung quanh lời giải cụ thể quần thể cách tính khoảng cách trung bình hai điểm theo mục tiêu toán Giá trị gọi khoảng cách tập trung (crowding distance) Trong suốt q trình lựa chọn, xem xét hai yếu tố: xếp hạng độ trội tính khoảng cách tập trung Những lời giải thỏa mãn thuộc biên lớp thứ Nói cách khác, thuật toán lặp nhằm giải tốn tìm kiếm Đặc biệt tìm kiếm tiến hành song song quần thể không tìm kiếm điểm Mặt khác nhờ áp dụng tốn tử di truyền có trao đổi thơng tin điểm, giảm bớt khả kết thúc cực trị địa phương mà tìm thấy cực tiểu tồn cục NSGA-II làm việc quần thể (population) gồm Hợp (combined) quần thể cũ Xếp hạng quần thể combined Điều kiện dừng thỏa? thỏa + Giải pháp tối ưu Pareto Tính khoảng cách tập trung giải pháp Chọn N cá thể từ quần thể (hợp) dựa điều kiện xếp hạng khoảng cách tập trung Thay quần thể cha cá thể tốt quần thể combined Hình Sơ đồ khối thuật tốn NSGA-II II.5.2 Khái niệm khoảng cách tập trung Khoảng cách tập trung giải pháp nằm biên (front) độ dài trung bình cạnh hình hộp (cuboid) Để ước tính mật độ giải pháp xung quanh giải pháp i quần thể, ta tính khoảng cách trung bình hai giải pháp i-1 i+1 theo mục tiêu (xem Hình 3) - 101 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT Tập V-2, Số 14 (34), tháng 12/2015 f2 i-1 w ( f i cuboid i i i  d )   w i ( f i  f ens  f ens  d ) i   w i [( fi  f ens )  ( f ens  d )  2( fi  f ens )( f ens  d )] i = w i ( fi  f ens )2   w i ( f ens  d )2  2 w i ( fi  f ens )( f ens  d ) i+1 i Mà giá trị biểu thức 2( f ens  d ) w i ( fi  f ens )  Học cộng đồng mô hình máy học mà nhiều học viên huấn luyện để giải toán (phân loại hồi quy), ngược lại phương pháp tiếp cận học máy thơng thường - cố gắng tìm hiểu giả thuyết từ liệu huấn luyện - phương pháp học cộng đồng cố gắng xây dựng tập hợp giả thuyết kết hợp chúng để sử dụng [22] (Hình 4) Training Data Data2 Data m Learner1 Learner2 Learner m Model1 Model2 Model m Model Combiner Final Model Hình Mơ hình học cộng đồng II.5.4 Động lực thúc đẩy sử dụng học cộng đồng Krogh Vedelsby [20] chứng minh rằng, điểm liệu nhất, bình phương lỗi dự báo cộng đồng ln nhỏ trung bình bình phương lỗi dự báo thành phần ( f ens  d )2   w i ( fi  d )2   w i ( fi  f ens )2 i (7) i Trong đó: f ens   w i fi mà f ens đầu dự báo cộng i đồng, f i đầu dự báo thứ i, w i trọng số dự báo thứ i mà  w i  , d giá trị thực i Mặt khác, theo [20] biểu diễn đây: i (8) II.5.3 Khái niệm học cộng đồng Data1 i i Hình Minh họa khoảng cách tập trung quanh giải pháp i i = w i ( fi  f ens )2  ( f ens  d )  2( f ens  d ) w i ( fi  f ens ) f1 Nếu hai mạng nơron tạo lỗi khác tập liệu đầu vào (input) gọi đa dạng [8] i w i 1 i Khi đó, cơng thức (8) cơng thức (7) Điều cho thấy động lực khiến nhà nghiên cứu đóng góp đề xuất để tạo mơ hình cộng đồng nhằm tăng đa dạng quần thể Đó vấn đề mà báo hướng tới III XÂY DỰNG MƠ HÌNH DỰ BÁO TỈ GIÁ Một thách thức tốn dự báo liệu khơng đầy đủ chứa nhiễu Kỹ thuật dùng ANN dự báo có nhiều ưu điểm tồn lớn dùng giải thuật BP việc khởi tạo trọng số ngẫu nhiên mạng dễ xảy tượng cực trị địa phương Như biết, giải thuật tiến hóa thực tìm kiếm song song nên giảm tượng cực trị địa phương hướng tới cực trị tồn cục Xuất phát từ lí trên, ý tưởng tác giả tiến hóa mạng nơron xem xét thêm mục tiêu (gọi phương pháp tiếp cận đa mục tiêu) để kiểm soát mức độ khái quát, cân tính xác khái quát mạng nơron Khi đó, ta có toán tối ưu hai mục tiêu Trước tiên, cần phải xác định mục tiêu toán III.1 Xác định hàm mục tiêu Với tốn dự báo hiệu suất dự báo đánh giá thông qua giá trị lỗi Mặt khác, dùng giải thuật NSGA-II yếu tố quan trọng thường xem xét tới, độ đa dạng1 cá thể Trong nghiên cứu này, hai hàm mục tiêu chọn là: Trung bình tổng bình phương lỗi độ đa dạng (DiversityDIV) Mục tiêu 1- MSE: MSE sai số bình phương trung bình tính theo cơng thức (9): - 102 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT n i 1  xthuc - xdu bao  n MSE  (9) Trong đó: n số giá trị liệu; xthuc : liệu thực; xdubao : liệu dự báo Tập V-2, Số 14 (34), tháng 12/2015 đường tròn (R) khoảng cách lớn giá trị MSE kề (để đảm bảo ln có hai cá thể rơi vào đường tròn này) xdubao biến chứa liệu dự báo tính trung bình từ M liệu dự báo (M số cá thể lựa chọn từ thuật toán NSGA-II để tham gia trình tinh chỉnh) Mục tiêu 2-DIV: DIV độ đa dạng cá thể cộng đồng Để tránh tượng cực trị địa phương, cá thể nên phân bố bề mặt lớp biên Trong nghiên cứu này, với cá thể i độ đa dạng DIV tính theo ba cách đo khác nhau: Hình Minh họa cách tính khoảng cách đường tròn DIVi III.2 Mơ hình tốn học toán dự báo Bài toán dự báo tỉ giá biểu diễn sau: Input: Chuỗi tỉ giá ( X t : t T ) khoảng thời gian Khoảng cách tập trung DIV   MSEi1  MSEi1  (10)  MSEmax  MSEmin  t (đơn vị tính ngày) Output: Xây dựng mơ hình dự báo thỏa mãn:  f1  MSE   f  DIV Trong đó: MSEi 1 MSEi 1 giá trị hàm mục tiêu thứ hai cá thể thứ (i+1) (i-1); MSEmax MSEmin giá trị lớn nhỏ  f1 ; max  f  hàm mục tiêu thứ tập cá thể lớp biên với cá thể i Trong đó: MSE tính theo cơng thức (9); DIV tính theo cơng thức (10) Khoảng cách tới quần thể III.3 Ý tƣởng DIV  ( N  1) N  (11) d (i, j ) j 1, j  i Trong đó: d  i, j   khoảng cách hai cá thể i j d  i, j   MSEi  MSE j tính theo công thức: Như DIV cá thể i tính khoảng cách trung bình i với tất cá thể quần thể Khoảng cách đƣờng tròn Khi đó: DIV cá thể i tính khoảng cách trung bình cá thể nằm đường tròn (trên Hình hai cá thể k, m nằm hình tròn) Đường tròn xác định với tâm cá thể i, bán kính Trong nghiên cứu này, tác giả sử dụng cửa sổ trượt ANN có giá trị thực làm đầu vào, giải thuật BP huấn luyện mạng cho trọng số tính giá trị đầu (chính giá trị dự đốn điểm liệu tiếp theo) thể Hình Tuy nhiên, thực giải thuật BP bước khởi tạo trọng số ngẫu nhiên ban đầu làm giá trị sai số tìm dễ rơi vào giá trị cực trị địa phương Vì vậy, nghiên cứu thiết kế mơ hình cộng đồng với giải thuật tiến hóa NSGA-II để tối ưu trọng số mạng Cụ thể, thiết lập cá thể quần thể gồm K trọng số K mạng nơron (hay nói quần thể chứa mạng nơron có cấu trúc nơron đầu vào, nơron ẩn nơron đầu giống nhau, khác trọng số mạng) - 103 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT Hình Minh họa cửa sổ trượt ANN tập liệu tỉ giá Việc thiết lập này, có mơ hình triển khai biểu diễn Hình Hình Quần thể có n cá thể ưu việt W1 W2 Output Wn Output … Output n Output Output  n i i 1 Hình Mơ hình 1: cá thể trọng số mạng ANN (K=1) Quần thể có n cá thể ưu việt (W21,W22, ,W2k) Output1 Output (Wn1,Wn2, ,Wnk) Mơ hình mơ hình học cộng đồng với cá thể tập K mạng nơron mô hình Q trình tính tốn giống với mơ hình 1, khác biệt chỗ: việc đánh giá cá thể quần thể dựa tiêu chí “làm việc theo nhóm” tức hệ tiến hóa, nhóm K cá thể lựa chọn, sinh sản, đột biến nhóm cá thể đáp ứng tốt tất hàm mục tiêu ưu tiên giữ lại để tham gia vào trình chọn lọc Cứ đến hệ cuối cùng, nhóm gồm K cá thể lớp biên mà giá trị trung bình MSE nhỏ lựa chọn Giải thuật thiết kế thể sơ đồ khối (Hình 10) Mơ tả chi tiết bước giải thuật gồm: Bƣớc 1: Khởi tạo quần thể (kích thước quần thể N, kích thước nhóm cá thể K) - Duyệt qua tất cá thể quần thể + Tính hàm mục tiêu f1 - Duyệt qua tất cá thể quần thể + Tính hàm mục tiêu f Output n Bƣớc 2: Vòng lặp q trình tiến hóa qua hệ Với hệ thực hiện: - Thực lai ghép, đột biến tạo cá thể Sắp xếp quần thể theo thứ tự tăng dần hàm f1 Chọn cá thể Hình Mơ hình 2: cá thể gồm K trọng số mạng ANN Mơ hình mơ hình đơn giản cá thể mạng ANN Ban đầu cá thể gán giá trị ngẫu nhiên, sau qua q trình tiến hóa, chọn lọc tự nhiên cá thể đáp ứng hai hàm mục tiêu giữ lại, đến hệ cuối ta giữ lại n cá thể tốt nằm lớp biên quần thể (hay n mạng nơron có sai số nhỏ để định) Lúc này, kết đầu giải thuật NSGA-II làm đầu vào giải thuật BP (tức giá trị trọng số ban đầu không cần phải khởi tạo ngẫu nhiên) Từ trọng số này, có hệ định với n máy định Tiếp tục, lấy giá trị trung bình đầu n máy có giá trị đầu (giá trị dự đoán điểm tiếp theo) III.4 Mơ hình học cộng đồng kết hợp giải thuật NSGA-II n Ouput (W11,W12, ,W1k ) Tập V-2, Số 14 (34), tháng 12/2015 - Tính tốn giá trị hàm mục tiêu f1 cho nhóm cá thể - 104 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT - Tính tốn giá trị hàm mục tiêu f cho quần thể (kích thước 2*N, bao gồm cá thể cha mẹ cá thể tạo ra) - Thực xếp hạng (ranking) cá thể dựa tiêu chí hàm mục tiêu f1 f - Chọn lọc N cá thể tốt (N cá thể nằm nhiều lớp biên khác nhau) Khởi tạo cấu trúc mạng tham số tiến hóa Khởi tạo quần thể ban đầu với tham số khởi tạo Tập V-2, Số 14 (34), tháng 12/2015 Trong giải thuật mà nhóm tác giả đề xuất: Với giải thuật NSGA-II nguyên sau bước lựa chọn cá thể lớp biên để thực tính tốn giá trị MSE trung bình bước Còn giải thuật xuất phát từ ý tưởng lựa chọn hàm mục tiêu f2 (DIV) nhóm tác giả để việc lựa chọn cá thể diễn tồn khơng gian tìm kiếm, tránh việc hội tụ sớm (nếu đơn sử dụng hàm mục tiêu MSE) vào cực trị địa phương Ở đây, hàm DIV tính tốn dựa khoảng cách giá trị MSE cá thể Điều dẫn đến phải thực tách rời lần duyệt cho lần tính hàm mục tiêu MSE DIV Cụ thể, thuật toán đề xuất : Bước 1, thực theo ý tưởng giải thuật đa mục tiêu có điểm khác biệt: Thứ nhất, bước hàm f phải thực sau tính toán hàm f1 cho tất cá thể Thứ hai, bước sau tạo Thực đột biến, lai ghép, chọn lọc xêp tập cá thể con, cá thể tính tốn giá trị hàm mục tiêu f1 Lúc tiến hành gộp hạng cá thể cha mẹ cá thể thành quần thể có kích thước lớn gấp hai lần, tiến hành xếp lại cá thể theo giá trị hàm f1 sau tính tốn lại giá trị hàm N cá thể tốt lưu lại f quần thể khơng tính tốn riêng + Điều kiện dừng K cá thể tốt lưu lại Tinh chỉnh (BP algorithm) cá thể tạo độ đa dạng tính theo khoảng cách tập trung cá thể trước sau cá thể xét Sau tính tốn xong f1 , f Một tập trọng số (Tập mơ hình ANN ) Hình 10 Minh họa sơ đồ khối giải thuật tiến hóa đa mục tiêu Bƣớc 3: Tinh chỉnh Kết thúc q trình tiến hóa, tiến hành xếp nhóm cá thể lớp biên theo chiều tăng dần hàm f1 ; Sau lựa chọn nhóm cá thể (có MSE min) lớp biên Với cá thể nhóm cá thể lựa chọn tiến hành tinh chỉnh cách đưa qua ANN huấn luyện Bƣớc 4: Tính tốn giá trị MSE cộng đồng Phân tích: tiến hành xếp hạng quần thể để tạo thành lớp biên khác chọn lựa N cá thể tốt vào quần thể Bước (đưa thêm bước 3): Tại hệ có thao tác xếp hạng (ranking) dựa tiêu chí hàm mục tiêu Cá thể có hạng nhỏ giá trị hàm mục tiêu tốt Những cá thể có hạng nằm lớp biên (front) cá thể nằm lớp biên cá thể tốt Như vậy, mục đích sử dụng cá thể trọng số khởi tạo ban đầu đưa qua ANN để hiệu chỉnh cho kết tốt Sau - 105 - Các cơng trình nghiên cứu, phát triển ứng dụng CNTT-TT Tập V-2, Số 14 (34), tháng 12/2015 đưa qua ANN huấn luyện giá trị hàm f1 cá thể thay đổi, lúc tiến hành tính tốn lại hàm f thực xếp hạng lại tập cá thể thành lớp biên khác Kết lựa chọn cá thể lớp biên đảm bảo đưa kết tối ưu hai hàm mục tiêu Bước 4, sau lựa chọn cộng đồng cá thể tốt từ bước 3, cá thể i cho ta ANN với trọng số Wi lấy từ cá thể Lúc Hình 11 Dữ liệu tỉ giá JPY/AUD tiến hành đưa tập liệu thực qua ANN để tính tập liệu dự báo Giá trị MSE tính dựa tập liệu thực trung bình tập liệu dự báo sinh cộng đồng cá thể (*) Độ phức tạp thuật toán đề xuất: Với N số cá thể quần thể; M số hàm mục tiêu; C số cá thể cá thể, T số hệ, B số vòng lặp q trình tinh chỉnh (với M=2; C=1 3; N