Date post: | 25-Jun-2015 |
Category: |
Science |
Upload: | siri-kanlaya |
View: | 184 times |
Download: | 0 times |
โครงรางวทยานพนธ
เรอง การเปรยบเทยบวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทม
โดยใชองคประกอบหลกในการพยากรณอนทรยวตถในดน : กรณศกษาพนท
เกษตรกรรมสวนผลไมในภาคตะวนตกของประเทศไทย
อาจารยทปรกษา
ผศ. ดร.กมลชนก พานชการ
โดย
นางสาวสรกลยา ประมวล
สาขาวชาสถตประยกต คณะวทยาศาสตร
1
บทนำ
2
1. ทมาและความสำคญของปญหา
การสรางโมเดลทางคณตศาสตร
ดานสงแวดลอม ดานการเงน ดานการแพทย
การพยากรณ
ดานอนๆ
สรางโมเดลสำหรบการพยากรณอนทรยวตถในดน
3
1. ความสำคญของอนทรยวตถในดน
1. คณสมบตทางกายภาพ
๏ ความหนาแนนและความพรนของดน
๏ โครงสรางของดนและความสามารถในการอมนำของดน
2. คณสมบตทางชวภาพ
๏ การปลดปลอยไนโตรเจนในรปของแอมโมเนยหรอไนเตรตทเปนประโยชน
๏ การยบยงการเจรญเตบโตของเชอโรคในพช
3. คณสมบตทางเคม
๏ เปนแหลงธาตอาหารใหแกพช
๏ ทำใหดนมคาการแลกเปลยนประจบวกเพมขน ชวยในการดดซบอาหาร
4
1. ความสำคญของอนทรยวตถในดน
ปรมาณอนทรยวตถ
เปนคณสมบตอยางหนงในการบงชคณภาพของดน
5
2. การเลอกใชโมเดลในการพยากรณ
1. วธการถดถอยเชงเสนพหคณ
๏ นยมใชกบการพยากรณตวแปรตามทมลกษณะขอมลแบบตอเนอง
๏ สามารถหาความสมพนธของตวแปรอสระหลายตวกบตวแปรตามทเปนแบบเชงเสน
2. วธโครงขายประสาทเทยม
๏ ใชกบขอมลทมลกษณะแบบไมเปนเชงเสน
๏ สามารถใชไดกบปญหาทยงยากซบซอน
3. วธจนเนตกอลกอรทม
๏ มกระบวนการทซบซอนแตสามารถใหคำตอบทดและรวดเรวได
๏ สามารถใชไดกบปญหาทยงยากซบซอน
6
3. สรปขนตอนการสรางโมเดลในการพยากรณ
7
4. วตถประสงคของงานวจย
1. ศกษาความสมพนธของตวแปรอสระและลดมตของขอมลโดยใชการวเคราะห
องคประกอบหลก
2. เปรยบเทยบประสทธภาพของโมเดลทไดจากองคประกอบหลก โดยพจารณา
2.1 วธการถดถอยเชงเสนพหคณ
2.2 วธโครงขายประสาทเทยมแบบทมการเชอมโยงไปขางหนา
2.3 วธจนเนตกอลกอรทม
8
5. สมมตฐานของการวจย
โมเดลในการพยากรณปรมาณอนทรยวตถในดนทมประสทธภาพ
มากทสดคอโมเดลทไดจากวธจนเนตกอลกอรทม
9
6. ขอบเขตของการวจย
6.1 ขอมลดน
ภาพท 1 พนทศกษาทเกบขอมลตวอยางดนทงหมด 58 ชด จากพนทเกษตกรรมสวนผลไม
10
6. ขอบเขตของการวจย
6.2 ตวแปรทใชในการสรางโมเดล
อลมนม (Al), แมงกานส (Mn), เหลก ( Fe), โครเมยม (Cr),
แมกนเซยม (Mg), สงกะส (Zn), ทองแดง (Cu), ตะกว (Pb),
โพแทสเซยม (K), โซเดยม (Na), แคลเซยม (Ca), กรดฟลวก (FA),
กรดฮวมก (HA), คาการแลกเปลยนประจบวก (CEC), Percent clay
(%clay), ไนโตรเจนรวม (TN) และ อนทรยคารบอน (OC)
ตวแปรตาม คอปรมาณอนทรยวตถ (Organic Matter )
ตวแปรพยากรณ คอคณสมบตทางเคมของดน ทงหมด 17 ตวแปร ไดแก
11
6. ขอบเขตของการวจย
6.3 คาวดประสทธภาพ (Performance Index)
6.3.1 ดชนการยอมรบ (Index of Agreement : IA)
6.3.2 คารากทสองของคาความคลาดเคลอนเฉลยกำลงสอง (Root Mean Square Error: RMSE)
(1)
(2)
12
6. ขอบเขตของการวจย
6.3.3 คาความคลาดเคลอนเอนเอยงเฉลย (Mean Bias Error: MBE)
6.3.4 คาความคลาดเคลอนสมบรณเฉลย (Mean Absolute Error: MAE)
(3)
(4)
13
ทฤษฎทเกยวของ
14
1. การวเคราะหองคประกอบหลก
เปนเทคนคการลดจำนวนตวแปร โดยสรางเซตของตวแปรใหมใหเปนฟงกชนเชงเสน
ของตวแปรเดม โดยยงคงรายละเอยดหรอสารสนเทศจากขอมลเดมไวในตวแปรใหมทได
ภาพท 2 ตวอยาง scree plot จากการวเคราะหองคประกอบหลก
15
1. การวเคราะหองคประกอบหลก
ใชการทดสอบ Bartlett’s sphericity ตรวจสอบวาควรใช PCA กบชดขอมลนหรอไม ?
ln |R| คอคา log ของดเทอรมแนนตของเมตรกซสหสมพนธ R
p คอจำนวนตวแปร
n คอจำนวนขอมล
(5)
16
1. การวเคราะหองคประกอบหลก
ใชการทดสอบ Bartlett’s sphericity ตรวจสอบวาควรใช PCA กบชดขอมลนหรอไม ?
สมมตฐานทพจารณา
H0 : ตวแปรอสระไมมสหสมพนธตอกน (R=I)
H1 : ตวแปรอสระมสหสมพนธตอกน (R≠I)
∴ จะใช PCA ถา ปฏเสธสมมตฐานหลก นนคอ ตวแปรอสระมสหสมพนธตอกน (R≠I)
17
2. วธการถดถอยเชงเสนพหคณ
Y = β0+β1X1 +β2X2+...+βkXk +e
โดยท
Y คอตวแปรตาม (dependent variable)
X คอตวแปรพยากรณ (Independent variable)
β0 คอสวนตดแกน Y หรอคาของ Y เมอกำหนด X1 = X2 = ... = Xk = 0
β1, β2, ..., βk คอสมประสทธการถดถอยเชงสวน
= a+b1X1 +b2X2+...+bkXk (Least Square Method)
(6)
(7)
18
3. วธโครงขายประสาทเทยม
ภาพท 2 โครงสรางระบบประสาทในสมอง
ทมา : Lippmann, Klimasauskas and Medsker et al. อางถงใน ศรลย ปานศรพงษ, การพฒนาแบบจำลองโครงขายใยประสาทประดษฐและแบบ
จำลองความถดถอยเชงพห เพอทำนายความเขมขนของ PM10 ในพนทกรงเทพมหานครและเทศบาลนครราชสมา (2005), 14
19
3. วธโครงขายประสาทเทยม
ภาพท 3 โมเดลของโครงขายประสาทเทยมแบบ Single Layer
20
3. วธโครงขายประสาทเทยม
สถาปตยกรรมโครงขายประสาทเทยม
ภาพท 4 สถาปตยกรรมโครงขายประสาทเทยมแบบ Feed-forward และ แบบ Feedback
21
3. วธโครงขายประสาทเทยม
ภาพท 5 กระบวนการทำงานของโครงขายประสาทเทยม ทมา : ปรบปรงจาก Haykin, Simon, Neural Networks: A Comprehensive Foundation (Upper Saddle River, NJ: Prentice Hall, 1998), 11
22
3. วธโครงขายประสาทเทยม
Activation Function
‣ Sigmoid Function
‣ Binary Function
‣ Linear Function
Learning Algorithm
‣ Backpropagation Algorithm
‣ Levenberg-Marquardt Algorithm
‣ Quasi-Newton Algorithm
‣ Conjugate Gradient Algorithm
กระบวนการสอนหรอการเรยนร (Training or Learning)กระบวนการสอนหรอการเรยนร (Training or Learning) 23
3. วธโครงขายประสาทเทยม
ชดขอมล (Samples)
‣ แบบสอบถาม
‣ ขอมลทางสถต
‣ การทดลอง
การทดสอบโครงขาย (Testing)
‣ แบงขอมลเปนสองชด ชดแรกสำหรบสอนอกชดสำหรบทดสอบโครงขาย
‣ ใชชดขอมลทงหมดมาเปนชดสอน และใชชดเดมนนมาทดสอบโครงขาย
กระบวนการสอนหรอการเรยนร (Training or Learning)กระบวนการสอนหรอการเรยนร (Training or Learning)
ชดขอมลจะแบงเปนสองชดคอชดการสอน และชดทดสอบ (อยางนอย 5 ชด)
24
3. วธโครงขายประสาทเทยม
สรปขนตอนการสรางแบบจำลองโครงขายประสาทเทยม
25
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
“จนเนตกอลกอรทม เปนวธการคนหาคำตอบทดทสดโดยใชหลกการคด
เลอกแบบธรรมชาตและหลกการทางสายพนธ ซงเปนการคำนวณ
ทมววฒนาการในการหาคำตอบ”
‣ การคดเลอกทางสายพนธ (Selection)
‣ ปฏบตการทางสายพนธ (Genetic Operation)
‣ การแทนท (Replacement)
26
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
องคประกอบทสำคญของ Genetic Algorithm
องคประกอบท 1 Chromosome Encoding คอขนตอนสำหรบแปลงทางเลอกสำหรบการแกปญหาท
เปนไปไดใหอยในรปของโครโมโซม
องคประกอบท 2 Initial Population คอการสมเลอกเพอสรางประชากรตนแบบขนมาเพอใชเปนจด
เรมตนของขนตอนการววฒนาการ
องคประกอบท 3 Fitness Function คอฟงกชนสำหรบประเมนคาความเหมาะสม เพอใหคะแนน
สำหรบคำตอบตางๆ ทเปนไปไดของปญหา
องคประกอบท 4 Genetic Operator คอการดำเนนงานตามขนตอนตางๆของ Genetic Algorithm เพอ
ใหเกดววฒนาการไปสคำตอบทดขน ซงไดแก Selection, Crossover และ Mutation
องคประกอบท 5 Parameter คอปจจยทสงผลตอการทำงานของ Genetic Algorithm เชนขนาดของ
ประชากร, ความนาจะเปนของการ crossover หรอ ความนาจะเปนของการ mutation
27
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.1 Chromosome Encoding
1. Binary Encoding
โครโมโซม A : 1 0 1 1 0 0 1 0 1 0 0
โครโมโซม B : 1 1 0 1 0 0 0 1 1 1 1
2. Permutation Encoding
โครโมโซม A : 1 5 3 2 6 4 7 9 8
โครโมโซม B : 8 5 6 7 2 3 1 4 9
28
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
3. Valued Encoding
โครโมโซม A : 1.2324 5.2343 0.4556 2.3293 2.4545
โครโมโซม B : (back) (back) (right) (left) (left)
4. Tree Encoding
29
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.2 Initial Population
ขนตอนนเปนขนตอนแรกทเกดขนกอนกระบวนการของ Genetic Algorithm
โดยประชากรกลมแรก หรอประชากรตนกำเนด จะเกดจากการสมเลอกขนมาจาก
กลมของประชากรทงหมดทมอย โดยสมตามทกำหนดไว
4.3 Fitness Function
โครโมโซมทกตวจะมคาความเหมาะสมของตวเองเพอใชสำหรบพจารณาวา โครโมโซม
ตวนน เหมาะหรอไมทจะนำมาใชสบทอดพนธกรรมสำหรบสรางโครโมโซมรนใหม
โดยวธการคดคาความเหมาะสมนน จะใชสมการทสอดคลองกบปญหาทตองการ
30
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4 Genetic Operator
ประกอบดวยกระบวนการพนฐานทสำคญ 3 ขนตอนคอ
4.4.1 Selection
4.4.2 Crossover
4.4.3 Mutation
31
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4.1 Selection (การคดเลอกสายพนธ)
1. วธแบงเปนสดสวน (Proportionate Selection)
2. วธของโบลตซมน (Boltzmann Selection)
3. วธการจดอนดบ (Ranking Selection)
4. วธการแขงขน (Tournament Selection)
5. วธการชกตวอยางแบบวงลอรเลท (Roulette Wheel Sampling)
32
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4.2 Crossover (ครอสโอเวอร)
Single point
Two point
33
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.4.3 Mutation (มวเทชน)
โครโมโซมเกา
โครโมโซมใหม
โครโมโซมเกา
โครโมโซมใหม
Binary Encoding
Permutation Encoding 1 2 3 4 5 6 7 8 9
1 9 3 4 5 6 7 8 2
34
4. วธจนเนตกอลกอรทม (Genetic Algorithm)
4.5 Parameter
พารามเตอรพนฐานทสำคญตอการทำงานของ Genetic Algorithm ม 3 ตวคอ
4.5.1 Crossover Probability คอความนาจะเปนของการเกด Crossover มคาใน 0-100 โดย
ทวไปคาความนาจะเปนในการเกด Crossover จะอยท 60% - 95%
4.5.2 Mutation Probability คอความนาจะเปนของการเกด Mutation มคาใน 0-100 โดย
ทวไปคาความนาจะเปนในการเกด Mutation จะถกกำหนดใหอยในชวง 0% - 1%
4.5.3 Population Size คอจำนวนของประชากรในแตละรน ถามจำนวนมากเกนไปจะ
ทำใหเสยเวลาในการประมวลผลมาก และทำงานไดชาลง
35
5. ทฤษฎทเกยวของ
เงอนไขในการหยดกระบวนการคนหาคำตอบ
1. ครบจำนวนรอบทไดกำหนดไว
2. พบเปาหมายหรอคำตอบทตองการแลว
3. พบคำตอบใกลเคยงกบคำตอบทตองการ หรอคำตอบทไดไมม
การเปลยนแปลงหรอคงทเปนจำนวนตดตอกน
36
5. งานวจยทเกยวของ
Hasan , Ozer, Ramazan และ Mehmet (2005)
เรอง การเปรยบเทยบวธโครงขายประสาทเทยมและการถดถอย สำหรบฟงกชนการแปลงคาสำหรบการ
เกบรกษานำในดนและความสามารถในการทำใหนำซมผาน
ผลการศกษา ‣ ผลลพธจากทงสองวธไมแตกตางกนอยางมนยสำคญ
‣ ผลลพธจากวธการถดถอยวดประสทธภาพดกวาวธโครงขายประสาทเทยม
‣ วธโครงขายประสาทเทยมสามารถใชเปนเทคนคใหมในการพฒนางานในอนาคต
วธการศกษา ‣ ใชขอมลคณสมบตพนฐานของดน เชนความพรน การกระจายของขนาดดน
‣ ในการหาฟงกชนการแปลงคาสำหรบการเกบรกษานำในดน
‣ เปรยบเทยบคาวดประสทธภาพ R2 และ RMSE ในฟงกชนการแปลงคาทหาได
37
5. งานวจยทเกยวของ
Sousa, Martin, Alvim-Ferraz และ Pereira (2006)
เรอง การวเคราะหการถดถอยเชงเสนพหคณและโครงขายประสาทเทยมทมการเชอมโยงไปขางหนา ในการ
ทำนายความเขมขนของโอโซนรายชวโมงในวนถดไป
ผลการศกษา ‣ วธ FANN ใหผลลพธดกวาวธ MLR
‣ วธ PC-FANN ใหผลลพธดกวาวธ PCR ผลลพธดทสดทเมอใช 5 องคประกอบหลก
‣ การใชองคประกอบหลกทำใหผลลพธดขน (ขจดปญหา Multicollinearity)
‣ การใชวธ FANN ใหผลลพธดเนองจากเหมาะกบปญหาทไมเปนเชงเสน
วธการศกษา ‣ ใชขอมลความเขมขนโอโซน, ไนโตรเจนมอนอกไซด ฯ และตวแปรทางอตนยมวทยา
‣ สรางโมเดลโดยใชและไมใชวธวเคราะหองคประกอบหลก
‣ เปรยบเทยบคาวดประสทธภาพ R, MBE, MAE, RMSE และ d2 ในการเปรยบเทยบโมเดล
38
5. งานวจยทเกยวของ
Karunakar และ Datta (2007)
เรอง การควบคมคณสมบตแบบทรายชนโดยใชวธโครงขายประสาทเทยมและวธจนเนตกอลกอรทม : ศกษา
เชงเปรยบเทยบ
ผลการศกษา ‣ โดยภาพรวมวธ Genetic Algorithm ใหผลลพธแมนยำกวา
‣ วธโครงขายประสาทเทยมใหผลลพธเปนทนาพอใจแตมความยงยากกวาวธจนเนตกอลกอรทม
วธการศกษา ‣ คณสมบตของแมพมพ เชนแรงอดในสภาวะชน ความสามารถในการซมผาน ฯ เปนอนพต
‣ พารามเตอรการควบคมเปนเอาทพต เชน %ดนเหนยว %ความชน
‣ วธโครงขายประสาทเทยมใช back-propagation algorithm ในการเรยนร
‣วธจนเนตกอลกอรทม กำหนดขนาดประชากร 5, crossover = 1.0, mutation = 0
‣เปรยบเทยบประสทธภาพของโมเดล ดวย %error
39
5. งานวจยทเกยวของ
Yang, Dawson, และ Brown (2006)
เรอง วธโครงขายประสาทเทยมและวธจนเนตกอลกอรทมสำหรบการพยากรณจำนวนการเกดไฟใหมในทพก
อาศย
ผลการศกษา ‣ วธการถดถอยโลจสตก, วธโครงขายประสาทเทยม, วธจนเนตกอลกอรทม ใหคา MSE
เทากบ 4.875, 2.375 และ 2.875 ตามลำดบ
‣วธโครงขายประสาทเทยมใหผลลพธดทสด ใกลเคยงกบวธจนเนตกอลกอรทม
วธการศกษา ‣ พยากรณโดยวธการถดถอยโลจสตก วธโครงขายประสาทเทยมและ วธจนเนตกอลกอรทม
‣ เกบรวมรวมตวแปรทเกยวของแลวใชการวเคราะหองคประกอบหลกเพอลดตวแปรพยากรณ
‣ เปรยบเทยบคาวดประสทธภาพ MSE ในการเปรยบเทยบโมเดล
40
วธดำเนนงานวจย
41
1. ภาพรวมขนตอนการศกษา
ภาพท 2 ภาพรวมขนตอนการศกษา
๏ วธการถดถอยเชงเสนพหคณและวธโครง
ขายประสาทเทยม ใชโปรแกรม SAS
๏ วธจนเนตกอลกอรทม ใชโปรแกรม
MATLAB
42
2. การสรางโมเดลดวยวธการถดถอยเชงเสนพหคณ
ภาพท 3 ขนตอนการสรางโมเดลการถดถอยเชงเสนพหคณ
43
3. การสรางโมเดลดวยวธโครงขายประสาทเทยม
ภาพท 4 ขนตอนการสรางโครงขายประสาท
เทยมแบบทมการเชอมโยงไปขางหนา
ทมา : ปรบปรงจาก Jiang et al., Progress in developing an ANN
model for air pollution index forecast (Atmospheric Environment
38), 7055-7064
๏ Levenberg-Maquardt Algorithm
๏ Sigmoid Function
44
4. ขนตอนการทำงานของจนเนตกอลกอรทม
ภาพท 5 ขนตอนการทำงานของ Genetic Algorithm
ทมา : ปรบปรงจาก Kucuk and Derebasi , Prediciton of power loss in transformer cores using
feed forward neural network and genetic algorithm , (Measurement 39 ,2005), 607
Population Size 50
Probability of crossover 1.0
Probability of mutation 0.0
Maximum generation 20
45
5. ผลของงานวจยบางสวน
วธการถดถอยเชงเสนพหคณกบวธโครงขายประสาทเทยมแบบทมการเชอมโยงไปขางหนา
46
5. ผลของงานวจยบางสวน
เปรยบเทยบคาพยากรณกบขอมลจรงจากโมเดล MLR และ FANN ในขอมลชดเรยนร
✓f✓f✓f
✓.47
จบการนำเสนอ
Q&A48
ขอบคณคะ
49