Khái ni m: Hu n luy n (học) lƠ quá trình thay đ i hành vi c a các v t theo m t cách nƠo đó lƠm cho chúng có th thực hi n t t h n trong t ng lai.
Có hai ki u học:
Học thông s (Parameter Learning): dùng đ c p nh t các trọng s liên k t gi a các t bƠo n -ron vƠ ng ng phân cực trong m ng.
Học c u trúc (Structure Learning): dùng đ thay đ i c u trúc m ng bao g m c t bƠo n -ron và cách liên k t gi a chúng.
M t m ng n ron đ c huy n luy n sao cho v i m t t p các vector đ u vào
X, m ng có kh năng t o ra t p các vector đ u ra mong mu n Y c a nó. T p X đ c s d ng cho hu n luy n m ng đ c gọi là t p hu n luy n (training set). Các ph n t
x thu c X đ c gọi là các m u hu n luy n (training example). Quá trình hu n luy n, b n ch t là sự thay đ i các trọng s liên k t c a m ng. Trong quá trình này, các trọng s c a m ng s h i t d n t i các giá tr sao cho v i m i vector đ u vào x t t p hu n luy n, m ng s cho ra vector đ u ra Y nh mong mu n
Có ba ph ng pháp học ph bi n: - Học có giám sát (supervised learning) - Học không giám sát (unsupervised learning) - Học tăng c ng (Reinforcement learning)
H c có giám sát: là quá trình học có sự tham gia giám sát c a m t “th y giáo”. Cũng gi ng nh vi c ta d y m t em nh các ch cái. Ta đ a ra m t ch “a” vƠ b o v i em đó rằng đơy lƠ ch “a”. Vi c nƠy đ c thực hi n trên t t c các m u ch cái. Sau đó khi ki m tra ta s đ a ra m t ch cái b t kì (có th vi t h i khác đi) vƠ h i em đó đơy lƠ ch gì?
V i học có giám sát, t p m u hu n luy n đ c cho d i d ng
D = {(x,t)|(x,t) ∈ [IR N x R K ]} (4.13) Trong đó: x=(x 1, x 2, ..., x
N) lƠ vector đ c tr ng N chi u c a m u hu n luy n
và t=(t
1, t 2, ..., t
K) là vector m c tiêu K chi u t ng ng, nhi m v c a thu t toán là ph i thi t l p đ c m t cách tính toán trên m ng nh th nƠo đó đ sao cho v i m i vector đ c tr ng đ u vào thì sai s gi a giá tr đ u ra thực sự c a m ng và giá tr m c tiêu t ng ng là nh nh t. Chẳng h n m ng có th học đ x p x m t hàm t =
f(x) bi u di n m i quan h trên t p các m u hu n luy n (x, t).
Nh v y v i học có giám sát, s l p c n phân lo i đƣ đ c bi t tr c. Nhi m v c a thu t toán là ph i xác đ nh đ c m t cách th c phân l p sao cho v i m i vector đ u vào s đ c phân lo i chính xác vào l p c a nó.
H c không giám sát: là vi c học không c n có b t kỳ m t sự giám sát nào. Trong bài toán học không giám sát, t p d li u hu n luy n đ c cho d i d ng: D = {(x 1, x 2 ..., x N)} (4.14) v i (x 1, x 2, ..., x
N) lƠ vector đ c tr ng c a m u hu n luy n.
Nhi m v c a thu t toán là ph i phân chia t p d li u D thành các nhóm con, m i nhóm ch a các vector đ u vƠo có đ c tr ng gi ng nhau.
Nh v y v i học không giám sát, s l p phân lo i ch a đ c bi t tr c, và tùy theo tiêu chu n đánh giá đ t ng tự gi a các m u mà ta có th có các l p phân lo i khác nhau.
H c tăng c ờng: đôi khi còn đ c gọi là học th ng-ph t (reward-penalty learning), là sự t h p c a c hai mô hình trên. Ph ng pháp nƠy c th nh sau: v i vector đ u vƠo, quan sát vector đ u ra do m ng tính đ c. N u k t qu đ c xem lƠ “t t” thì m ng s đ c th ng theo nghĩa tăng các trọng s k t n i lên; ng c l i m ng s b ph t, các trọng s k t n i không thích h p s đ c gi m xu ng. Do đó học tăng c ng là học theo nhà phê bình , ng c v i học có giám sát.
H c có giám sát trong các m ng n ron
Học có giám sát có th đ c xem nh vi c x p x m t ánh x : X→ Y, trong đó X là t p các v n đ và Y là t p các l i gi i t ng ng cho v n đ đó.
Các m u (x, y) với x = (x1, x2,. . ., xn) ∈ X, y = (yl, y2, . . ., ym) ∈ Y đ c cho tr c. Học có giám sát trong các m ng n ron th ng đ c thực hi n theo các b c sau:
- B c 1: Xây dựng c u trúc thích h p cho m ng n ron, chẳng h n có (n+1) n ron vƠo (n n ron cho bi n vƠo vƠ 1 n ron cho ng ng x0), m n ron đ u ra, và kh i t o các trọng s liên k t c a m ng.
- B c 3: Tính vector đ u ra o c a m ng
- B c 4: So sánh vector đ u ra mong mu n y (là k t qu đ c cho trong t p hu n luy n) v i vector đ u ra o do m ng t o ra; n u có th thì đánh giá l i. - B c 5: Hi u ch nh các trọng s liên k t theo m t cách nƠo đó sao cho l n
ti p theo khi đ a vector x vào m ng, vector đ u ra o s gi ng v i y h n. - B c 6: N u c n, l p l i các b c t 2 đ n 5 cho t i khi m ng đ t t i tr ng
thái h i t . Vi c đánh giá l i có th thực hi n theo nhi u cách, cách dùng nhi u nh t là:
L i t c th i: (adsbygoogle = window.adsbygoogle || []).push({});
Err = (o - y), hoặc Err = |o - y| (4.15)
L i trung bình bình ph ng (MSE - Mean-Square Error)
Err = (o- y)2/2 (4.16)
Có hai lo i l i trong đánh giá m t m ng n ron.
Th nh t, gọi là l i rõ ràng (apparent error), đánh giá kh năng x p x các m u hu n luy n c a m t m ng đƣ đ c hu n luy n.
Th hai, gọi là l i ki m tra (test error), đánh giá kh năng t ng quát hóa c a m t m ng đƣ đ c hu n luy n, t c kh năng ph n ng v i các vector đ u vào m i. Đ đánh giá l i ki m tra chúng ta ph i bi t đ u ra mong mu n cho các m u ki m tra.
Thu t toán t ng quát trên cho học có giám sát trong các m ng n ron có nhi u cƠi đ t khác nhau, sự khác nhau ch y u là cách các trọng s liên k t đ c thay đ i trong su t th i gian học. Trong đó tiêu bi u nh t là thu t toán lan truy n ng c.
4.5. M ng n -ron truy n thẳng nhi u l p v i thu t toán lantruy n ng c
M ng n -ron truy n thẳng nhi u l p v i thu t toán lantruy n ng c(BPMFNN ậ Back Propagation Multilayer Feedforward Neural
Network)đ c thi tk đ nólàm vi cnh m tm ng
nhi ul p,lantruy nv phíatr c,bằng cáchs
d ngch cnănghọccógiámsát.Ph ngphápnàyđ cđ ctr ng b iquátrình học.
Đ gi iquy tm tv nđ c th ,cóbab c, trong quátrình hu n luy n cho m nghọc lan truy n ng c có giámsát:
▪ Lựa chọnd li uđ u vƠo cho m ng
▪ Lựa chọn ki n trúcc a m ng
▪ Hu n luy n m ng
Khôngcóquyđ nhchungnàomàcóth đ cthựchi nđ xácđnhcácbi nđ uvào. Đi unƠy ph nl nph thu cvƠokỹ thu t phán đoán và kinh nghi m.
4.5.1. C u trúc
BPMLFNNcóc utrúcx lý phântánvàsong song.
Chúngcóth đ cdùngnh m tt ph pcácm ngtínhtoánc a hàng lo tph n t x lý
gi ng nhaul p đi l p l ib trí trênm tl i.
Vi chọcđ tđ cbằngcáchthayđ icácliênk tgi acácph nt
x lý.Đ nnay,t nt inhi um ng ANNđ cđ ctr ng b i c u hìnhc a chúng và các quytắc học.BPMFNNlàm tm ng đ cs d ng r ng rƣinh t.V ikh năng x px b t kỳ hƠmphituy nliên t cnào,m ng BPMFNNcókh năng ánhx (dựbáo) b tth ng.
BPMFNNlàm tm ng truy nthẳngnhi ul p,vàhàm chuy n đ i trong m ng thông th ng là m t hƠm phi tuy n nh hƠm sigmoid.
Hình 4.10:C u trúc M ng N -ron truy n thẳng nhi u l p
C u trúc c b n c a MFNN đ c s d ng mô ph ng trong lu n văn đ c th hi n trong Hình 4.10. M ng g m 1 l p ngõ vào, 1 l p ngõ ra và 1 l p n g m 10 n -ron đ thực thi quá trình kích ho t phi tuy n. M i n -ron trong m t l p liên k t v i m t trọng s c th đ n v i m i n -ron khác trong l p sau. S l ng n -ron trong l p ngõ vào bằng v i s l ng bi n đ c tr ng trong m i m u hu n luy n và t ng s n -ron trong l p n đ c chọn là 10, v i hàm kích ho t lƠ „hyperbolic tangent sigmoid‟, m ng đ c hu n luy n s d ng gi i thu t truy n ng c „Levenberg-Marquardt‟[13]
Quá trình huấn luy n m ng Khởi t o các tr ng s
Do b n ch t c a gi i thu t học lan truy n ng c sai s lƠ ph ng pháp gi m đ l ch gradient nên vi c kh i t o các giá tr ban đ u c a các trọng s các giá tr nh ng u nhiên s làm cho m ng h i t v các giá tr cực ti u khác nhau.
Quá trình hu n luy n là quá trình học v i các t p m u (Xs, Ts), s ,1N đ đi u ch nh t p trọng s liên k t. Gi i thu t hu n luy n ph bi n đ i v i các m ng BPMFNNlà gi i thu t lan truy n ng c sai s .
- B c1: Lan truy n xuôi đ u vào Xs={x1,x2,…, xn} qua m ng: (adsbygoogle = window.adsbygoogle || []).push({});
* Đ u ra t i n ron j c a l p n: yj = g( n i j i ii x w 1 . ) (4.17) * Đ u ra t i n ron k c a l p ra: yk=g( m j jk j w y 1 . ) = g( k m j n i j i ij jk g w x w 1 1 ) . ( . ) (4.18)
- B c 2: Lan truy n ng c sai s :
So sánh các ph n t c a vect đ u ra thực Ysv i các ph n t t ng ng c a vect đ u ra m u Tsđ tính sai l ch: ek = tk - yk (4.19) T ng bình ph ng sai s c a m ng ng v i m u học (Xs, Ts): 2 1 1 ( ) 2 p s k k k E y t (4.20) P là s ph n t c a vect Ys và Ts.
Thông tin v sai s đ c lan truy n ng c qua m ng đ đi u ch nh l i các giá tr trọng s t i vòng l p th l:
V i liên k t gi a n ron n vƠ n ron ra: ) ( ). ( . l y l wjk k j (4.21) ọ
)) ( ( ). ( ) ( ' l y g l e l k k k k (4.22) jk jk jk l w l w w ( 1) ( ) (4.23)
* V i liên k t gi a n ron vƠo vƠ n ron n:
i j ij l x w . ( ). m k jk k j j j l g y l w l 1 ' ( ). ( ). ( 1) ) ( (4.24) ij ij ij l w l w w ( 1) ( ) (4.25)
Sau khi hi u ch nh trọng s , m u Xs ti p t c đ c đ a vƠo m ng l n th
(l+1) và ti p t c thu t toán hi u ch nh trọng s cho đ n khi E< cho tr c ho c s vòng l p đ t đ n m c đ nh tr c.
M u ti p theo đ c đ a vƠo m ng và quá trình hu n luy n l p l i nh trên cho đ n khi m ng học thu c t t c các m u. L u c u hình m ng l i đ s n sƠng đ a vào s d ng.
Ch ng 5
TRONG ĐÁNH GIÁ N Đ NH H TH NG ĐI N
5.1. Mô hình nh n d ng thông minhđánh giá n đ nh đ ng h th ng đi n dùng m ng n -ron.
Nh trình bƠy trong Hình 5.1. Thi t k h th ng nh n d ng dùng ANN, tr i qua m t s b c liên ti p, nh ng giai đo n chính đ c bi u th nh sau:
Giai đo n 1:T o c s d li u
Giai đo n 2: Lựa chọn bi n đ c tr ng
Giai đo n 3: Xây dựng mô hình nh n d ng thông minh dùng ANN
Giai đo n 4: Đánh giá đ chính xác mô hình nh n d ng thông minh dùng ANN
5.2. T o c sở d li u
Sự thành công c a mô hình nh n d ng thông minh dùng ANN ph thu c vào giá tr c a t p d li u hu n luy n, t p d li u này ph i bi u th đ c m t cách đ y đ nh ng k ch b n v n hành c a h th ng. M t s l ng l n nh ng bi n đ c tr ng cho tr ng thái v n hành c a h th ng đ c gọi là m u, đ c t o ra thông qua mô ph ng off-line và tr ng thái n đ nh/ không n đnh c a h th ng đi n đ c đánh giá cho m i mô ph ng ngắn m ch trên h th ng. M i m u d li u đ c bi u di n d i d ng vector mà bao g m m t s bi n đ c tr ng đ c bi u di n nh sau X = [Vbus, Pload, Qload, Pflow, Qflow,…]. Trong quá trình đánh giá n đ nh đ ng h th ng đi n, m i m u d li u đ c phân lo i thu c v m t trong hai tr ng thái (l p)
n đnh/ không n đnh.
Hình 5.1: Mô hình nh n d ng thông minh đánh giá n đ nh đ ng h th ng đi n dùng m ng n -ron nhân t o Chia t p d li u M t cách ng u nhiên Đánh giá tr ng thái n đnh/ không n đnh Mô ph ng off-line K t qu Chu n hóa d li u D li u hu n luy n D li u ki m nghi m Gi i thu t lựa chọn bi n đ c tr ng Hu n luy n ANN Đánh giá hi u su t c a ANN Chọn bi n đ c tr ng ng viên
5.2.1. Chu n hóa d li u
Chu n hóa d li u lƠ ph ng pháp x lý d li u đ u vƠo tr c khi đ t chúng vào thu t toán lựa chọn bi n đ c tr ng mƠ đ c h n ch d i kho ng giá tr đ u vào c a MLFNN.
Chu n hóa giá tr c a các bi n đ c tr ng đ c thực hi n dùng công th c (5.1): i i i i m x z (5.1)
V i: milà giá tr trung bình c a d li u, iph ng sai chu n c a d li u 5.2.2. Phơn chia d li u
Các m u d li u đ c phân chia m t cách ng u nhiên thành t p d li u hu n luy n (80%), ki m tra (20%). Đơy lƠ đi u quan trọng đ đ m b o rằng t p d li u hu n luy n bao hàm nh ng k ch b n v n hành h th ng đi n cho c hai tr ng thái n đnh và không n đ nh.
5.3. L a ch n bi n đ c tr ng
Lựa chọn bi n đ c tr ng r t quan trọng trong b c xây dựng h th ng nh n d ng thông minh dùng ANN đ đánh giá n đ nh đ ng h th ng đi n. N u bi n đ c tr ng đ c lựa chọn có đ tách bi t d li u ít thì d n đ n hi u su t c a h th ng nh n d ng không cao. Lựa chọn bi n đ c tr ng là chọn ra nh ng bi n đ c tr ng tách bi t d li u gi a các l p cao và d li u c a các bi n đ c tr ng cùng l p g n nhau. Lựa chọn bi n đ c tr ng là chọn vector Z có d bi n đ c tr ng mƠd < n, v i n lƠ đ i di n cho c s d li u g c, d đ i di n cho c s d li u m i d i i i new z y D { . }1 và quan h d li u đ u vƠo vƠ đ u ra m i ynewi=fnew(zi). Nh v y, v nguyên lý, lựa chọn bi n đ c tr ng là quá trình chọn ra m t t p con g m các bi n đ c tr ng ng viên giàu thông tin sao chohi u su t nh n d ng c a mô hình v n m c cao nh kỳ vọng. (adsbygoogle = window.adsbygoogle || []).push({});
5.3.1. Xác đ nh t p bi n đ c tr ng ban đ u
Đơy lƠ b c xác đ nh t p d li u bi n đ c tr ng ban đ u đ s d ng hu n luy n ANN, nh ng bi n đ c tr ng ban đ u này bi u th t t c nh ng tham s có th có trong su t quá trình v n hành h th ng đi n mà có th đ c tr ng cho tr ng thái v n hành n đ nh bi t tr c. Thông th ng có th tuân theo hai lo i bi n đ c tr ng, ph thu c vào vi c chọn nh ng bi n đ c tr ng tr c ho c sau khi h th ng đi n g p sự c hay nh ng giá tr đo đ c khi h th ng tr ng thái xác l p ho c nh ng đi u ki n đ ng.
Nh ng bi n đ c tr ng tr c sự c : là nh ng tham s v n hành tr ng thái xác l p nh biên đ đi n áp và góc pha t i các bus, công su t phát, công su t ph t i, phân b công su t trên đ ng dơy tr c khi xu t hi n nhi u đ ng. Nh ng bi n đ c tr ng nƠy đ c s d ng trong [31]-[39].
Nh ng bi n đ c tr ng sau sự c : là nh ng tham s bi u th thu c tính đ ng