- Ĉӝng lѭӧng (Momentum): Sӵ suy giҧm gradient có thӇ sӁ rҩt chұm nӃu nh ѭ hҵng sӕ hӑcK quá lӟn Do ÿó phѭѫng pháp chӋchÿi khҧ năng dao ÿӝ ng biên
2.3 Trình tӵ thiӃt kӃ mҥng nѫron ӭng dөng
Quá trình thiӃt kӃ mӝt mҥng nѫron thѭӡng gӗm các bѭӟc sau: Bѭӟc 1: Xác ÿӏnh bài toán.
Bѭӟc 2: Xác ÿӏnh các biӃn vào ra. Bѭӟc 3: Thu thұp dӳ liӋu
Bѭӟc 4: TiӅn xӱ lý dӳ liӋu.
Bѭӟc 6: Huҩn luyӋn mҥng.
Bѭӟc 7: Thӱ nghiӋm mҥng. NӃu phù hӧp thì tiӃp tөc bѭӟc 8 hoһc dӯng, còn không phù hӧp thì quay lҥi bѭӟc 2.
Bѭӟc 8: Tinh chӍnh mҥng, sau ÿó quay lҥi bѭӟc 7. Yêu cҫu cө thӇ ÿӕi vӟi tӯng bѭӟc nhѭ sau:
Bѭӟc 1: Xác ÿӏnh bài toán
Mҥng nѫron thѭӡng tӓ ra hiӋu quҧ khi giҧi các bài toán:
- Nhұn dҥng, phân lӟp dӳ liӋu: Cho mô tҧ ÿӕi tѭӧng, cҫn xӃp ÿӕi tѭӧng vào lӟp sao cho tҩt cҧ ÿӕi tѭӧng trong mӝt lӟp có cùng mӝt sӕ ÿһc tính nào ÿó. Các bài toán thuӝc dҥng này gӗm nhұn dҥng ký tӵ, nhұn dҥngҧnh, nhұn dҥng tiӃng nói.
- Mô hình hóa: Xác ÿӏnh sӵ phө thuӝc giӳa các giá trӏ ÿҫu ra và ÿҫu vào. Các bài toán này bao gӗm dӵ báo giá cҧ, thӡi tiӃt, thӏ trѭӡng, dӵ báo phө tҧiÿiӋn....
Bѭӟc 2: Xác ÿӏnh các biӃn vào, ra
Xác ÿӏnh các biӃn vào/ra và miӅn giá trӏ, kiӇu giá trӏ các biӃn.
Bѭӟc 3: Thu thұp dӳ liӋu
Thu thұp mӝt lѭӧng lӟn các dӳ liӋu mүu, ÿҧm bҧo nguyên tҳc ngүu nhiên, khách quan và phӫ toàn bӝ không gian ÿҫu vào.
Bѭӟc 4: TiӅn xӱ dӳ liӋu
Thông thѭӡng tұp dӳ liӋu thu thұp ÿѭӧc cҫn phҧi xӱ lý sѫ bӝ theo nhӳng phѭѫng pháp truyӅn thӕng nhҵm ÿҧm bҧo dӳ liӋu mүu phân bӕ ÿӗng ÿӅu, ÿӫ ÿҥi diӋn cho tҩt cҧ các dҥng và ÿѭӧc thu gӑn trong không gian biӇu diӉnÿҫu vào.
Bѭӟc 5: Lӵa chӑn mô hình mҥng nѫron
TuǤ thuӝc bҧn chҩt xӱ lý dӳ liӋu cӫa bài toán mà lӵa chӑn mô hình mҥng nѫron phù hӧp.
Bѭӟc 6: Huҩn luyӋn mҥng
Các thao tác cҫn thӵc hiӋn gӗm:
- Phân dӳ liӋu mүu thành 3 tұp con: tұp mүu hӑc, tұp kiӇm soát (ÿӇ xác ÿӏnh khi nào dӯng quá trình hӑc) và tұp kiӇm thӱ (ÿӇ kiӇm tra khҧ năng ÿoán nhұn, dӵ
ÿoán mҥng). Trong ÿó, tұp mүu hӑc phҧi mang tính ÿҥi diӋn, còn tұp kiӇm thӱ gҳn vӟi dáng ÿiӋu thӵc cӫa môi trѭӡngÿang xem xét.
- Xácÿӏnh luұt hӑc, cѫ chӃ cұp nhұt trӑng sӕ các nѫron trong quá trình huҩn luyӋn và khӣi tҥo các tham sӕ.
Bѭӟc 7: Thӱ nghiӋm mҥng:
Sӱ dөng mҥngÿӇ giҧi quyӃt bài toán ÿһt ra theo dӳ liӋu mүuÿҫu vào.
Bѭӟc 8: Tinh chӍnh mҥng:
Muӕn nâng cao hiӋu quҧ sӱ dөng mҥng cҫn phҧi cұp nhұt tұp mүu hӑc, cҧi tiӃn cѫ chӃ huҩn luyӋn, tinh chӍnh cҩu trúc và tham sӕ mҥng. Trong trѭӡng hӧp mҥng tuy ÿã huҩn luyӋn tӕt nhѭng kӃt quҧ không ÿáp ӭng yêu cҫu vӟi các dӳ liӋu kiӇm thӱ - gӑi là hiӋn tѭӧng quá tham sӕ (over - parameters) thì tiӃn hành:
- Tăng kích thѭӟc tұp dӳ liӋu mүu và huҩn luyӋn lҥi mҥng.
- Xem xét lҥi sӕ ÿҫu vào. Sӕ ÿҫu vào cҫn phҧi ÿѭӧc giҧm bӟt tӟi mӝt kích thѭӟc hӧp lý so vӟi kích thѭӟc cӫa tұp hӧp huҩn luyӋn. Không cҫn thiӃt nhұp vào nhӳng biӃn có quan hӋ không rõ ràng vӟiÿҫu ra mong muӕn.
- Giҧm sӕ lѭӧng nѫron lӟpҭn và bҳtÿҫu lҥi mӝt quá trình hӑc khác.