Dùng genetic programming giải bài toán symbolic regression

Dùng genetic programming giải bài toán symbolic regression

DÙNG GENETIC PROGRAMMING GIẢI BÀI TOÁNSYMBOLIC REGRESSION

Trần Ngọc AnhKhoa Toán Tin

Đề tài nghiên cứu khoa học cấp trường 2006

TÓM TẮT

Trong đề tài này, tác giả tìm hiểu và áp dụng Genetics Programming (GP) giải bàitoán Symbolic Regression (SR) Các thử nghiệm trên bảy hàm một biến thực đã chỉ rarằng có thể giải bài toán này bằng GP Tiếp theo đó, tác giả áp dụng chiến lược động vàophép lai chuẩn nhằm khắc phục nhược điểm tìm kiếm cục bộ của phép lai này Kết qủachạy 6 thử nghiệm khi xấp xỉ hai hàm một biến được chọn từ bảy hàm trên đã chỉ ra: phéplai chuẩn có áp dụng chiến lược động đạt được độ chính xác cao hơn và ổn định hơn trongkhoảng thời gian ít hơn.

1 Mở đầu

Genetic Programming (GP) là một nhánh của Genetics Algorithm được nghiên cứuđầu tiên bởi John Koza từ năm 1972, sau đó bởi William Langdon, Ricardo Poli, GP là một phương pháp tối ưu ký hiệu dựa trên biểu diễn cây – cây là cấu trúc linhhoạt có thể biểu diễn các chương trình máy tính, các biểu thức, phương trình toánhọc, … GP có nhiều ứng dụng quan trọng như lập trình tự động, giải bài toán hồiquy ký hiệu (Symbolic Regression).

Phần 2 giới thiệu bài toán SR và mô hình áp dụng GP giải bài toán SR Phần 3 ápdụng chiến lược động vào phép lai chuẩn trong GP nhằm tăng độ chính xác của lờigiải Phần 4 là giao diện chương trình thử nghiệm và kết qủa thử nghiệm Phần 5 làcác vấn đề cần nghiên cứu thêm.

2 Mô hình GP giải bài toán SR2.1 Bài toán SR

Cho trước tập các điểm

D={( i, i)=1, ,}, i∈ M, i∈ ,tập các hàm cơ sở

F = {+,−,*,/,pow,ln,exp,abs,sin,cos,tan,sqrt }

và tập các toán hạng T = {x1,x2, ,cons1,cons2, } Bài toán đặt ra là tìm một hàm

f*: M → , f* được tạo bởi các hàm trong F và các toán hạng trong T sao cho

−= ∑

2.2 Thuật giải di truyền – GA

Hoạt động của GA được cho trong hình 1.

Tạo ngẫu nhiên PopSize (PS) cá thể ban đầu (Q), t = 0

while (t < T)

Qrep= Qcm

rU Qmr U QbrU Qg

Đột biến

(5)Sinh ngẫu

nhiên (I)

Hình 1: Các bước thực hiện của GA

Trong đó, số lượng các phần tử được:

(1) chọn (theo độ thích nghi) từ Q để lai là PSC = (pCPS % 2 = 0 ? pCPS :pCPS+1),

(2) chọn (ngẫu nhiên) từ Qc

r để đột biến là PSCM = pcm*PS,

(3) chọn (ngẫu nhiên) từ Q để đột biến là PSM = pmPS,

(4) chọn (xén theo độ thích nghi) từ Q để tái tạo là PSb = pbPS; và(5) có (1 – (pC+ pm+ pb))PS được sinh ngẫu nhiên.

Các phép chọn trên dựa vào thủ tục chọn phần tử từ tập L phần tử theo bàn xoayroulette thêm vào tập T ở vị trí thứ r.

Gọi selilà xác suất chọn Li (chú ý: ∑ ≤1

sel ) Sắp tăng L theo {seli}và đặt:p0 := 0,

= ( )1:

S Thủ tục như sau:

RWS (L, p, kind, r)

)return T[r]

với kind là hình thức chọn:

3210

o bước chọn (4): T[r] := RWS(Q, g, DIFF_TWO, r), r=1, …, PSC.

2.3 Aùp dụng GP giải bài toán SR

Thuật giải di truyền tiến hóa trên cấu trúc cá thể có dạng cây được gọi là GP.Biểu diễn hàm bằng cây nhị phân ta có thể dùng GP để giải bài toán SR Ở thế hệđầu tiên, một quần thể các hàm (hay cây hay cá thể) được sinh ngẫu nhiên Trongcác thế hệ sau, ở mỗi thế hệ, các hàm tốt có E bé được chọn lựa để biến hóa (laighép, đột biến) nhằm tạo ra thế hệ sau tốt hơn Hàm tốt nhất ở thế hệ cuối cùngđược chọn làm lời giải.

2.3.1 Biểu diễn hàm bằng cây nhị phân

Các nút trong chứa các toán tử, các nút lá chứa các toán hạng Chẳng hạn, xemhình 2.

2.3.2 Khởi tạo quần thể

Khởi tạo quần thể ban đầu chứa PopSize cây có độ cao tối đa là d Có 3 phươngpháp khởi tạo: Full, Grow, Ramped.

2.3.2.1 Khởi tạo Full

Các hàm cơ sở được chọn làm các nút của cây cho đến khi đạt đến độ sâu d-2, cáctoán hạng được chọn làm các nút ở độ sâu d-1.

Đặc điểm của phương pháp này là: mọi cá thể đều có cùng độ cao d, quần thểkhông đa dạng về cấu trúc.

2.3.2.2 Khởi tạo Grow

Đầu tiên, chọn hàm cơ sở làm nút gốc Sau đó, chọn ngẫu nhiên hàm cơ sở hoặctoán hạng cho các nút ở độ sâu 1 Nếu một nút ở độ sâu 1 là toán hạng thì chấmdứt khởi tạo trên nhánh con tương ứng đó, tiếp tục khởi tạo các nhánh còn lại.

Hình 2: Biểu diễn một số hàm bằng cây nhị phân

Ngược lại, nếu một nút ở độ sâu 1 là hàm cơ sở thì tiếp tục khởi tạo các nút ở độsâu 2 Tiếp tục khởi tạo cho các nhánh cho đến khi các nhánh đều đã có toán hạnghoặc nút cuối của nhánh có độ sâu d-2 Khi nút cuối của nhánh có độ sâu d-2, tachọn ngẫu nhiên một hoặc hai toán hạng làm các nút có độ sâu d-1 và kết thúcnhánh.

Đặc điểm của phương pháp Grow là: các cá thể có độ cao ngẫu nhiên thuộc đoạn[2, d], quần thể sẽ chứa nhiều cá thể có độ cao nhỏ (2, 3, …) và ít cá thể có độ caolớn (d, d-1, …).

2.3.2.3 Khởi tạo Ramped half-and-half

Để khởi tạo quần thể chứa PopSize cá thể có độ cao nhỏ hơn giới hạn độ cao d chotrước, ta trải qua m giai đoạn, giai đoạn k khởi tạo N/m cá thể chứa: a) N/m/2 cáthể có cùng độ cao k bằng phương pháp Full, b) N/m/2 cá thể có độ cao trong đoạn[1, k] bằng phương pháp Grow.

Phương pháp này kết hợp đặc điểm của hai phương pháp Full và Grow để tạo raquần thể đa dạng về cấu trúc.

2.3.3 Độ thích nghi của cá thể

Độ thích nghi của cá thể thể hiện khả năng tham gia của cá thể (so với quần thể)

vào qúa trình tái tạo – các qúa trình chọn (1), (4) trong hình 1 – ra thế hệ sau Nó

phụ thuộc chính vào lỗi của cá thể trên tập D: cá thể f có E(f) lớn/nhỏ sẽ có độthích nghi cao/thấp.

Các công thức sau chỉ ra các cách tính độ thích nghi gicho cá thể fi(G(fi)):),

(4)

)(:

Hình 3: Minh họa phép lai chuẩn

Đột biến

Hình 4: Minh họa phép đột biến

sau: a) chọn ngẫu nhiên một nút (điểm lai) trên cha, b) chọn ngẫu nhiên một điểmlai trên mẹ, c) tráo đổi hai cây con có gốc là hai điểm lai đã chọn để tạo ra hai câycon.

3.1 Nhược điểm của phép lai chuẩn

Đối với phép lai chuẩn, mọi điểm lai trên cây cha (mẹ) đều có xác suất chọn bằngnhau Khi các điểm lai được chọn là các nút lá thì các cá thể con tạo ra rất gần vớicha, mẹ (chỉ khác biệt ở các toán hạng)ï Các nút lá trong cây chiếm “gần” một nửasố lượng các nút của cây Do đó, phép lai chuẩn thực hiện tìm kiếm cục bộ: khôngkhám phá được nhiều vùng khác (chứa các dạng hàm khác) của không gian tìmkiếm.

Để khắc phục, Koza đã đưa ra luật 90-10: 90% điểm lai được chọn ứng với các núttrong, 10% đối với các nút lá [Langdon, 1990] và [Harries, Smith, 1997] đã nghiêncứu các phân phối chọn điểm lai khác.

3.2 Các phép lai khác

Trong [2], [3]; R Poli, W.B Langdon đề nghị các phép lai một điểm, lai đồng nhất.

3.2.1 Phép lai một điểm

Phép lai một điểm (xem ví dụ trong hình 5) gồm các bước:

§ Tìm cây lai tiềm tàng của cha và mẹ: (a) nút trong tương ứng với hai nút ởcha và mẹ có chung số đối (hoặc trùng nhau trong trường hợp lai ngặt), (b)nút lá tương ứng với hai nút con chung cuối cùng của cha và mẹ.

§ Chọn (với xác suất đều) một nút trên cây chung làm điểm lai cho cả cha vàmẹ.

§ Tráo đổi hai cây con tương ứng của cha và mẹ.

Trong giai đoạn ban đầu (nếu quần thể đủ đa dạng về mặt cấu trúc), lai ghép diễn

ra ở phần trên (xác suất lai ghép ở phần dưới thấp, thậm chí có thể bằng 0), các cây

con được tráo đổi có kích thước lớn, sự tráo đổi lượng vật chất di truyền mạnh, tìm

kiếm mang tính toàn cục Đến một lúc, quần thể sẽ hội tụ về các cá thể có chung

cấu trúc ở phần trên Lúc này, lai ghép diễn ra ở các điểm lai bên dưới nhưng với

tốc độ chậm hơn vì lai ghép cũng có thể diễn ra ở trên, tuy nhiên, các thay đổi củaphần dưới sẽ tác động lớn đến độ thích nghi của các cá thể (vì phần trên đã hội tụ

đến cấu trúc chung) Lượng vật chất di truyền tráo đổi bây giờ ít hơn, tìm kiếm

mang tính cục bộ hơn trong không gian các cá thể có chung cấu trúc phần trên Tình

trạng tương tự diễn ra, tìm kiếm sẽ chuyển “dần” từ không gian lớn (toàn cục) vàocác không gian nhỏ (cục bộ) hơn – cố định cấu trúc.

Ở giai đoạn cuối, khi quần thể hầu như giống nhau về cấu trúc, lai ghép một điểm

trở thành lai chuẩn Tuy nhiên, không giống lai chuẩn – tìm kiếm mang tính cục bộ

trong không gian lớn – lai một điểm tìm kiếm cục bộ trong không gian các cấu trúccố định – không gian này là kết qủa của qúa trình hội tụ dần về mặt cấu trúc từtrên xuống dưới trong qúa trình chuyển từ tìm kiếm toàn cục sang tìm kiếm cục bộ.

Lúc này, quần thể gồm nhiều cá thể có vật liệu di truyền giống nhau, do đó tìmkiếm mang tính chất rất cục bộ, nó có khả năng tinh chỉnh và chỉ ra lời giải tốtnhất.

3.2.2 Phép lai đồng nhất

Phép lai đồng nhất (xem ví dụ trong hình 6) gồm các bước:

§ Tìm cây lai tiềm tàng con chung của cha và mẹ: (a) nút trong tương ứng vớihai nút ở cha và mẹ có chung số đối (hoặc trùng nhau trong trường hợp laingặt), (b) nút lá tương ứng với hai nút con chung cuối cùng của cha và mẹ.§ con_1 ß cha; con_2 ß mẹ

§ Duyệt trên cây lai tiềm tàng:o if (Flip(pS)) then

Hình 5: Phép lai một điểm

Hình 6: Phép lai đồng nhất

§ tráo đổi hai nút tương ứng của con_1 và con_2 nếu điểm lai lànút trong (của cây lai tiềm tàng),

§ tráo đổi hai cây con tương ứng của con_1 và con_2 nếu điểmlai là nút lá (của cây lai tiềm tàng).

Tính toàn cục hoặc cục bộ của tìm kiếm được điều khiển bằng pS:

o nếu pSqúa bé (gần 0): tìm kiếm mang tính cục bộ, lượng vật chất di

truyền tráo đổi ít,

o nếu pSqúa lớn (gần 1): tất cả đều bị tráo đổi, nhưng do tính đối xứng,

thực chất chẳng có tráo đổi nào: tìm kiếm mang tính cục bộ,

o nếu pS= 0.5: lượng vật chất tráo đổi nhiều nhất: tìm kiếm mang tính

toàn cục.

Nếu quần thể ban đầu đủ đa dạng, trong giai đoạn đầu của tiến hóa, lai đồng nhấtchỉ tráo đổi các nút và các cây con (có kích thước lớn) gần gốc Qua một thời giantiến hóa, khi phần trên đã bắt đầu hội tụ, tương tự như lai một điểm, lai đồng nhấtsẽ bắt tráo đổi các nút và cây con (nhỏ hơn) ở các mức thấp hơn Đến cuối tiếnhóa, mọi nút của cây đều có thể được chọn lai ghép, nhưng lai ghép chỉ là tráo đổicác nút đơn của cây (các cây con tương ứng ở cha và mẹ ở các nút lá của cây laitiềm tàng chỉ chứa một nút đơn – là nút lá đó) Tìm kiếm lúc này mang tính cục bộ,nhưng quần thể gồm nhiều cá thể có vật liệu di truyền giống nhau, do đó tìm kiếmmang tính chất rất cục bộ, nó có khả năng tinh chỉnh và chỉ ra lời giải tốt nhất.

3.3 Aùp dụng chiến lược động vào phép lai chuẩn

Ở đây, ta áp dụng chiến lược động [4] vào phép lai chuẩn (phép lai chuẩn động)

như sau: giai đoạn đầu chọn các điểm lai ở gần gốc với xác suất lớn (các điểm lai

xa gốc với xác suất bé), giai đoạn sau chọn các điểm lai ở gần các nút lá với xácsuất lớn (các điểm lai ở gần gốc với xác suất bé).

Để chọn điểm lai trên cá thể c (cha hoặc mẹ) ở thế hệ thứ t trong qúa trình tiến hóaT thế hệ, ta xác định tam giác ∆c(t) chứa các nút có độ sâu 0, 1, , lim_depth(t, c)với

Xác suất chọn điểm lai trong ∆c(t) là

)(

4 Chương trình và kết qủa thử nghiệm4.1 Chương trình thử nghiệm

Chương trình thử nghiệm được viết trên NET 2003 với giao diện như sau:

4.2 Thử nghiệm

Aùp dụng mô hình GP trên với phép lai chuẩn để xấp xỉ 7 hàm một biến thực

(cho trong bảng 1; các hàm 3, 4, 5, 6 được chọn từ [1], các hàm 1, 2, 7 là các hàm

đa thức phổ biến trong các tài liệu về SR; đồ thị các hàm cho trong hình 8) Thử

nghiệm 1: chạy 5 lần với siêu hạt giống 8000, kích thước quần thể 100, số thế hệ

100 Thử nghiệm 2: chạy 10 lần với siêu hạt giống 2000, kích thước quần thể 150,

số thế hệ 100 Lỗi (%) trung bình, min, max, phương sai cho trong bảng 2.

Hiệu qủa của phép lai chuẩn và phép lai chuẩn động được so sánh trên 6 thử

nghiệm với: cùng mô hình áp dụng GP (phép lai chuẩn động với beg = 0.7, end =0.0), xấp xỉ các hàm 4 và 7 (bảng 1), số thế hệ 100, kích thước quần thể 50 Lỗi

(%) trung bình, phương sai, thời gian của các thử nghiệm cho trong bảng 3 (với các

ký hiệu: phép lai chuẩn: LC, phép lai chuẩn động: LC_D).

12 4 2

3 − − −+

1)2sin(3

Bảng 1: Tham số của các hàm thử nghiệm

550 lần

(%)

Từ bảng 2 và bảng 3, ta có nhận xét:

1) GP có thể giải hiệu qủa bài toán xấp xỉ hàm một biến thực với lỗi bé (2.3%).2) Phép lai chuẩn động tốt hơn phép lai chuẩn: độ chính xác cao hơn (lỗi giảm 8%)và ổn định hơn (phương sai bé hơn 6%) trong khoảng thời gian ít hơn (5%).

5 Các vấn đề cần nghiên cứu thêm

a) Các phép lai: một điểm, lai đồng nhất; các phép đột biến: điểm, tráo

đổi hai cây con của chính nó; đột biến động.

b) Tối ưu các hệ số bằng kỹ thuật giảm gradient, hồi quy tuyến tính.

c) Các phương pháp hạn chế sự phát triển độ sâu: parsimony pressure (độ

cao cá thể là một cơ sở để đánh giá độ tốt của cá thể), doubletournament (hai lượt chọn, một lượt dựa vào độ cao và một lượt dựavào độ tốt).

TÀI LIỆU THAM KHẢO

[1] M Keijzer, “Improving Symbolic Regression with Interval Arithmetic andLinear Scaling”, Computer Science Department, Free University Amsterdam.[2] R Poli, W.B Langdon, “Genetic Programming with One-Point Crossover and

Point Mutation”, School of Computer Science, The University of Birmingham(UK).

[3] R Poli, W.B Langdon, “On the Search Properties of Different CrossoverOperators in Genetic Programming”, School of Computer Science, TheUniversity of Birmingham (UK).

[4] T.C Tin, “Ứng dụng chiến lược động trong thuật giải di truyền giải một số bàitoán tối ưu toàn cục”, Hội thảo quốc gia CNTT, Đà Lạt, 2006.

[5] M Walker, “Introduction to Genetic Programming”, October 7, 2001.