rozwój algorytmu ewolucji różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · plan...
TRANSCRIPT
![Page 1: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/1.jpg)
ROZWÓJ ALGORYTMU
EWOLUCJI RÓŻNICOWEJ
Konrad Wypchło
![Page 2: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/2.jpg)
Plan prezentacji
Elementy klasycznego algorytmu ewolucyjnego
Ewolucja różnicowa
DMEA i inne modyfikacje
Adaptacja zasięgu mutacji (AHDMEA, SaHDMEA)
Analiza środka populacji
Ograniczenia kostkowe
2012-01-12
2
Rozwój algorytmu ewolucji różnicowej
![Page 3: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/3.jpg)
Wprowadzenie
2012-01-12 Rozwój algorytmu ewolucji różnicowej
3
Praca magisterska „Rozwój algorytmu ewolucji
różnicowej”
Cel pracy
Wprowadzenie reguł adaptacji parametrów w
algorytmach z rodziny DMEA
Zbadanie wpływu modyfikacji proponowanych przez
promotora oraz stworzonych podczas prac nad
algorytmami
![Page 4: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/4.jpg)
Optymalizacja globalna
2012-01-12 Rozwój algorytmu ewolucji różnicowej
4
Wielowymiarowa rzeczywista funkcja celu 𝑞: 𝑅𝑛 → 𝑅
Ograniczenia dziedziny
Kostkowe 𝑥𝑖 ∈ 𝑙𝑏𝑖 , 𝑢𝑏𝑖 , 𝑖 ∈ {1, … , 𝑛}
Funkcyjne gi x ≤ 0, 𝑖 ∈ 1,… , 𝑐𝑛𝑒
Poszukiwane 𝑥𝑜𝑝𝑡 = argminx∈Ω𝑞 𝑥
![Page 5: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/5.jpg)
Algorytmy ewolucyjne
2012-01-12 Rozwój algorytmu ewolucji różnicowej
5
Klasyczne algorytmy ewolucyjne
Estimation of Distribution Algorithms (EDA)
Ewolucja różnicowa
Optymalizacja rojowa (PSO)
Algorytmy mrówkowe
![Page 6: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/6.jpg)
Plan prezentacji
Wprowadzenie
Ewolucja różnicowa
DMEA i inne modyfikacje
Adaptacja zasięgu mutacji (AHDMEA, SaHDMEA)
Analiza środka populacji
Ograniczenia kostkowe
2012-01-12
6
Rozwój algorytmu ewolucji różnicowej
![Page 7: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/7.jpg)
Schemat EA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
7
Algorytm EA
zainicjalizuj populację 𝑃0
while nie zachodzi warunek stopu
if krzyżować then
𝑌𝑡 ← krzyżowanie selekcja 𝑃𝑡
𝑈𝑡 ← mutacja(Yt)
else
𝑈𝑡 ← mutacja(selekcja(𝑃𝑡))
end if
𝑃𝑖𝑡+1 ← sukcesja(𝑌𝑡, 𝑈𝑡 , 𝑃𝑡)
𝑡 ← 𝑡 + 1
end while
![Page 8: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/8.jpg)
Elementy EA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
8
Selekcja
Sukcesja
Mutacja
Krzyżowanie
![Page 9: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/9.jpg)
Mutacja
2012-01-12 Rozwój algorytmu ewolucji różnicowej
9
W klasycznych algortymach EA – mutacja
gaussowska 𝑢𝑖 = 𝑥𝑖 +𝑚𝑖 , 𝑖 ∈ {1, …𝑛}
𝑚𝑖~𝒩 0, 𝑣𝑚
Wariancja rozkładu normalnego jest zasięgiem
mutacji
Celem mutacji jest generowanie punktów w nowych
obszarach przestrzeni – eksploracja
![Page 10: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/10.jpg)
Krzyżowanie
2012-01-12 Rozwój algorytmu ewolucji różnicowej
10
Krzyżowanie uśredniające
dwuosobnicze 𝑥𝑐𝑟𝑜𝑠𝑠 = 1 − 𝛼 𝑥1 + 𝛼 𝑥2 , 𝛼 ∈ (0,1)
wieloosobnicze
𝑥𝑐𝑟𝑜𝑠𝑠 = 𝑥𝑚𝑖𝑑𝑑𝑙𝑒 + 𝛼𝑖 𝑥𝑖 − 𝑥𝑚𝑖𝑑𝑑𝑙𝑒𝑘
𝑖=1, 𝛼𝑖 ∈ (0,1)
Krzyżowanie wymieniające
𝑦𝑖 = 𝑢𝑖 , 𝑗𝑒ż𝑒𝑙𝑖 𝑟𝑖 < 𝑝𝑐𝑥𝑖 , 𝑗𝑒ż𝑒𝑙𝑖 𝑟𝑖 ≥ 𝑝𝑐
, 𝑖 ∈ {0, …𝑛}
Operator krzyżowania w większości przypadków służy eksploatacji
![Page 11: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/11.jpg)
Selekcja i sukcesja
2012-01-12 Rozwój algorytmu ewolucji różnicowej
11
Selekcja
proporcjonalna
𝑃𝑠𝑒𝑙 𝑃𝑖𝑡 =
𝑞𝑐𝑜𝑟𝑟 − 𝑞 𝑃𝑖𝑡
𝑞𝑐𝑜𝑟𝑟 − 𝑞 𝑃𝑖𝑡𝜇
𝑖=1
turniejowa
losowa
Sukcesja
prosta
elitarna
![Page 12: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/12.jpg)
Plan prezentacji
Wprowadzenie
Elementy klasycznego algorytmu ewolucyjnego
DMEA i inne modyfikacje
Adaptacja zasięgu mutacji (AHDMEA, SaHDMEA)
Analiza środka populacji
Ograniczenia kostkowe
2012-01-12
12
Rozwój algorytmu ewolucji różnicowej
![Page 13: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/13.jpg)
Schemat DE
2012-01-12 Rozwój algorytmu ewolucji różnicowej
13
Algorytm DE
𝑧𝑎𝑖𝑛𝑖𝑐𝑗𝑎𝑙𝑖𝑧𝑢𝑗 𝑝𝑜𝑝𝑢𝑙𝑎𝑐𝑗ę 𝑃0
while 𝑛𝑖𝑒 𝑧𝑎𝑐ℎ𝑜𝑑𝑧𝑖 𝑤𝑎𝑟𝑢𝑛𝑒𝑘 𝑠𝑡𝑜𝑝𝑢
for 𝑖 ∈ 1,… , 𝜇
𝑃𝑟1𝑡 ← 𝑠𝑒𝑙𝑒𝑘𝑐𝑗𝑎(𝑃𝑡)
𝑃𝑟2𝑡 , 𝑃𝑟3𝑡 ← 𝑙𝑜𝑠𝑜𝑤𝑎_𝑠𝑒𝑙𝑒𝑘𝑐𝑗𝑎(𝑃𝑡)
𝑢 ← 𝑚𝑢𝑡𝑎𝑐𝑗𝑎_𝑟𝑜𝑧𝑛𝑖𝑐𝑜𝑤𝑎(𝑃𝑟1𝑡 , 𝑃𝑟2𝑡 , 𝑃𝑟3𝑡 )
𝑦 ← 𝑘𝑟𝑧𝑦𝑧𝑜𝑤𝑎𝑛𝑖𝑒_𝑤𝑦𝑚𝑖𝑒𝑛𝑖𝑎𝑗𝑎𝑐𝑒(𝑃𝑖𝑡, 𝑢)
𝑃𝑖𝑡+1 ← 𝑠𝑢𝑘𝑐𝑒𝑠𝑗𝑎_𝑒𝑙𝑖𝑡𝑎𝑟𝑛𝑎(𝑃𝑖
𝑡 , 𝑦)
end for
𝑡 ← 𝑡 + 1
end while
![Page 14: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/14.jpg)
Główne elementy DE
2012-01-12 Rozwój algorytmu ewolucji różnicowej
14
Selekcja losowa
Krzyżowanie wymieniające
Zwiększa liczność zbioru generowanych punktów
Sukcesja elitarna
Zapewnia zbieżność algorytmu
Mutacja różnicowa
Generuje punkty odległe – eksploracja
Generuje punkty wewnątrz zajmowanego obszaru – eksploatacja
Posiada dynamiczny zasięg uzależniony od stanu populacji
![Page 15: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/15.jpg)
Mutacja różnicowa
2012-01-12 Rozwój algorytmu ewolucji różnicowej
15
Przesunięcie mutowanego punktu o tzw. wektor
różnicowy pomnożony przez współczynnik
skalowania 𝐹
Wektor różnicowy wyznaczany jako różnica dwóch
punktów z populacji
𝑢 = 𝑥𝑟1 + 𝐹𝑣, 𝑣 = 𝑥𝑟2 − 𝑥𝑟3
𝐹 ∈ 0,1
![Page 16: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/16.jpg)
Mutacja różnicowa – ilustracja
2012-01-12 Rozwój algorytmu ewolucji różnicowej
16
![Page 17: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/17.jpg)
Zasięg mutacji różnicowej
2012-01-12 Rozwój algorytmu ewolucji różnicowej
17
Zasięg mutacji różnicowej jest ściśle powiązany z
aktualnym stanem populacji (różnorodnością)
Algorytm DE zapewnia pewnego rodzaju
adaptację zasięgu mutacji
Sterowanie zasięgiem poprzez współczynnik 𝐹
![Page 18: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/18.jpg)
Plan prezentacji
Wprowadzenie
Elementy klasycznego algorytmu ewolucyjnego
Ewolucja różnicowa
Adaptacja zasięgu mutacji (AHDMEA, SaHDMEA)
Analiza środka populacji
Ograniczenia kostkowe
2012-01-12
18
Rozwój algorytmu ewolucji różnicowej
![Page 19: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/19.jpg)
Znane modyfikacje DE
2012-01-12 Rozwój algorytmu ewolucji różnicowej
19
DE/X/Y/Z
np. DE/rand/k/bin
DE/rand/inf/bin
SaDE, jDE (losowa adaptacja zasięgu)
JADE (koewolucja wzorowana na PSO)
FDE
DEPD, DE1-3
DMEA
![Page 20: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/20.jpg)
DMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
20
Differential Mutation Evolutionary Algorithm
Wybór mutowanego punktu selekcją
proporcjonalną
Wprowadzenie dodatkowego szumu
Gaussowskiego do mutacji
Zmiany wartości współczynnika 𝐹
Brak sukcesji elitarnej
![Page 21: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/21.jpg)
HDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
21
Hybrid Differential Mutation Evolutionary Algorithm
Optymalizacja lokalna w końcowej fazie
optymalizacji (L-BFGS-B)
Zmiany wartości 𝐹 = 0,1 + 𝐹𝑚𝑎𝑥 1 −cos
𝑡
10
10
Wektor różnicowy wyznaczany na podstawie k
wektorów
Wykorzystanie historycznych populacji
![Page 22: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/22.jpg)
HDMEA – Schemat
2012-01-12 Rozwój algorytmu ewolucji różnicowej
22
Algorytm HDMEA
1 𝑧𝑎𝑖𝑛𝑖𝑐𝑗𝑎𝑙𝑖𝑧𝑢𝑗 𝑝𝑜𝑝𝑢𝑙𝑎𝑐𝑗ę 𝑃0
2 while 𝑛𝑖𝑒 𝑧𝑎𝑐ℎ𝑜𝑑𝑧𝑖 𝑤𝑎𝑟𝑢𝑛𝑒𝑘 𝑠𝑡𝑜𝑝𝑢
3 𝐹 = 0,1 + 𝐹𝑚𝑎𝑥 1 −cos
𝑡
10
10
4 for 𝑖 ∈ {1, … , 𝜇}
5 𝑃𝑟1𝑡 ← 𝑠𝑒𝑙𝑒𝑘𝑐𝑗𝑎_𝑝𝑟𝑜𝑝𝑜𝑐𝑗𝑜𝑛𝑎𝑙𝑛𝑎(𝑃𝑡)
6 𝑣 ← 0
7 for 𝑗 ∈ {1, … , 𝑘}
8 𝑎 ∈ 0,1 − 𝑙𝑜𝑠𝑜𝑤𝑎𝑛𝑖𝑒 𝑧 𝑟𝑜𝑧𝑘ł𝑎𝑑𝑒𝑚 𝑗𝑒𝑑𝑛𝑜𝑠𝑡𝑎𝑗𝑛𝑦𝑚
9 𝐻𝑟2𝑡 , 𝐻𝑟3𝑡 ← 𝑙𝑜𝑠𝑜𝑤𝑎 𝑠𝑒𝑙𝑒𝑘𝑐𝑗𝑎 𝐻𝑡 , 𝑟2, 𝑟3 ∈ {1,… , ℎ𝜇}
10 𝑣 ← 𝑣 + 𝑎𝑗(𝐻𝑟2𝑡 − 𝐻𝑟3
𝑡 )
11 end for
12 𝑣 ← 𝑣
𝑎𝑗2𝑘
𝑗=1
13 𝑢 ← 𝑃𝑟1𝑡 + 𝐹𝑣 +𝑚
14 𝑦 ← 𝑢
15 𝑦 ← 𝑛𝑎𝑝𝑟𝑎𝑤(𝑦)
16 end for
17 𝑡 ← 𝑡 + 1
18 end while
19 𝑥𝑏𝑒𝑠𝑡 = 𝑢𝑟𝑢𝑐ℎ𝑜𝑚 𝑚𝑒𝑡𝑜𝑑ę 𝑜𝑝𝑡𝑦𝑚𝑎𝑙𝑖𝑧𝑎𝑐𝑗𝑖 𝑙𝑜𝑘𝑎𝑙𝑛𝑒𝑗(𝑥𝑏𝑒𝑠𝑡)
![Page 23: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/23.jpg)
Przebieg optymalizacji
2012-01-12 Rozwój algorytmu ewolucji różnicowej
23
HDMEA
DE
![Page 24: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/24.jpg)
Właściwości DMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
24
Model nieskończonej populacji w iteracji o nieskończonym
numerze dla funkcji celu będącej pojedynczą funkcją Gaussa
Wariancja populacji
𝑣∞ = 𝑉2𝐹2
1 − 2𝐹2
![Page 25: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/25.jpg)
Plan prezentacji
Wprowadzenie
Elementy klasycznego algorytmu ewolucyjnego
Ewolucja różnicowa
DMEA i inne modyfikacje
Analiza środka populacji
Ograniczenia kostkowe
2012-01-12
25
Rozwój algorytmu ewolucji różnicowej
![Page 26: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/26.jpg)
AHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
26
Adaptive Hybrid Differential Mutation Evolutionary Algorithm
Badanie współczynnika korelacji pomiędzy wartościami funkcji
celu punktów bazowych a wartościami funkcji celu punktów
zmutowanych
𝑟𝑋𝑌 = (𝑥𝑖 − 𝑥 )(𝑦𝑖 − 𝑦 )𝜇𝑖=1
𝑥𝑖 − 𝑥 2𝜇
𝑖=1 𝑦𝑖 − 𝑦
2𝜇𝑖=1
![Page 27: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/27.jpg)
Etapy pracy algorytmu
2012-01-12 Rozwój algorytmu ewolucji różnicowej
27
![Page 28: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/28.jpg)
AHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
28
Adaptacja współczynnika F mająca na celu zwiększenie
różnorodności populacji
Reguła adaptacyjna: 𝐹𝑡+1 =
𝐹𝑡 ∙ 1,05 𝑗𝑒ż𝑒𝑙𝑖 𝑟1 > 𝑟2 𝐹𝑡
1,05 𝑗𝑒ż𝑒𝑙𝑖 𝑟1 < 𝑟2
𝐹𝑡 𝑤 𝑝. 𝑝.
Wysoka wartość szumów współczynnika korelacji – analiza
wartości średnich kroczących 𝑟1 = 𝑟𝑖𝑡𝑖=𝑡−19
20
![Page 29: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/29.jpg)
AHDMEA – Cykl działania
2012-01-12 Rozwój algorytmu ewolucji różnicowej
29
![Page 30: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/30.jpg)
Wyniki AHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
30
Porównanie z HDMEA
CEC 2005 (30)
F1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
AHDMEA H=4 K=5 . . - - - . . . + + - - . + . - . . . . . - . - +
AHDMEA . . - - - . . . . + - . . + . . + . . . - . . - +
![Page 31: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/31.jpg)
Przebieg AHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
31
![Page 32: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/32.jpg)
Zależność parametrów AHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
32
![Page 33: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/33.jpg)
SaHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
33
Self-adaptive Hybrid Differential Mutation Evolutionary
Algorithm
Samoczynna adaptacja współczynnika F
Wprowadzanie indywidualnych wartości F dla każdego z
osobników populacji
𝑃𝑖𝑡 = {𝑃1𝑖
𝑡 , 𝑃2𝑖𝑡 , … , 𝐹𝑃𝑖
𝑡 }
![Page 34: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/34.jpg)
SaHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
34
Adaptacja współczynnika F przy pomocy mutacji różnicowej
Brak losowych zmian współczynników F (w odróżnieniu od SaDE i
jDE)
𝐹𝑃𝑖𝑡 ∈ 0,1
Mutacja zdefiniowana następująco
𝑈𝑖𝑡 = 𝑃𝑟1
𝑡 + 𝐹𝑃𝑖𝑡𝑣 + 𝑚
𝑣,𝑚 − 𝑗𝑎𝑘 𝑤 𝐻𝐷𝑀𝐸𝐴
![Page 35: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/35.jpg)
Wyniki SaHDMEA
2012-01-12 Rozwój algorytmu ewolucji różnicowej
35
Porównanie z HDMEA
CEC 2005 (30)
F1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
SaHDMEA_v2 F=0.5 . . . . + . . . + . . . . . + + . + + + . + . + +
SaHDMEA_v2 F=0.6 . . . - . . . . . . + . . . + . . - - - . - . + -
SaHDMEA_v2 F=0.7 . . . - - . . . . - . . . . - - - - - - - - . - -
SaHDMEA_v1 . . . + + . . . + + + . + . + + + + + + . + . + +
![Page 36: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/36.jpg)
Przebieg zbieżności CEC2005-F15(30)
2012-01-12 Rozwój algorytmu ewolucji różnicowej
36
![Page 37: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/37.jpg)
Zależność parametrów CEC2005-F15(30)
2012-01-12 Rozwój algorytmu ewolucji różnicowej
37
![Page 38: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/38.jpg)
Plan prezentacji
2012-01-12 Rozwój algorytmu ewolucji różnicowej
38
Wprowadzenie
Elementy klasycznego algorytmu ewolucyjnego
Ewolucja różnicowa
DMEA i inne modyfikacje
Adaptacja zasięgu mutacji (AHDMEA, SaHDMEA)
Ograniczenia kostkowe
![Page 39: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/39.jpg)
Analiza środka populacji
2012-01-12 Rozwój algorytmu ewolucji różnicowej
39
Populacje w wielu algorytmach ewolucyjnych mają
tendencje do skupiania się na wzgórzu będącym
ekstremum lokalnym
Środek populacji może leżeć blisko wartości
danego ekstremum lokalnego (bliżej niż każdy inny
osobnik populacji)
Środek geometryczny 𝑞 𝑃𝑚𝑖𝑑𝑑𝑙𝑒𝑡 = 𝑞
𝑃𝑖𝑡𝜇
𝑖=0
𝜇
Środek ważony 𝑞 𝑃𝑤𝑀𝑖𝑑𝑑𝑙𝑒𝑡 = 𝑞 𝑤𝑖
𝑡𝑃𝑖𝑡𝜇
𝑖=0
![Page 40: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/40.jpg)
Analiza środka - wyniki
2012-01-12 Rozwój algorytmu ewolucji różnicowej
40
Porównanie z algorytmami bazowymi
CEC 2005 (30)
F1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
DE/Rand/1/Bin C + + + + + . . . . . . . . . . . . . . . + . + + +
DE/Rand/2/Bin C + + + + + + . . . + . . + . . . . . . . + . + + +
DE/Rand/Inf/Bin C + + + + . + . . . . . + + . . . . . . . . . . + .
DE/Rand/K/Bin C K=5 + + + + + + - . . + . . . . . . . . . - + . + + +
DMEA C . . . + + . . . . . . . . . . . . . . . . . . + +
HDMEA C . . . . . - . . . . + . . . . . . . . . . . . + +
AHDMEA C . . . . . . . . . . . . . . . + . . . . . . . . .
ADHDMEA C . . . . . . . . . . + . + . . . . + . . . . . + +
HMEA C H=4 K=5 . . . . . . . . . . . . . . . . + . . . . . . + -
![Page 41: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/41.jpg)
Analiza środka – przebieg zbieżności BBOB2009-F14(30)
2012-01-12 Rozwój algorytmu ewolucji różnicowej
41
![Page 42: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/42.jpg)
Plan prezentacji
Wprowadzenie
Elementy klasycznego algorytmu ewolucyjnego
Ewolucja różnicowa
DMEA i inne modyfikacje
Adaptacja zasięgu mutacji (AHDMEA, SaHDMEA)
Analiza środka populacji
2012-01-12
42
Rozwój algorytmu ewolucji różnicowej
![Page 43: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/43.jpg)
Istotność problemu uwzględniania ograniczeń
2012-01-12 Rozwój algorytmu ewolucji różnicowej
43
Odsetek punktów niedopuszczalnych (generowanych
poza ograniczeniami) dochodzi nawet do 90%,
przy średniej na poziomie 50%.
Nieodpowiednio dobrana metoda uwzględniania
ograniczeń, znacząco wpływa na stan populacji
Zmniejszenie różnorodności
Degeneracja wymiaru
Błądzenie losowe
![Page 44: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/44.jpg)
Znane metody uwzględniania ograniczeń
2012-01-12 Rozwój algorytmu ewolucji różnicowej
44
Metoda konserwatywna (conservatism)
Reinicjalizacja (reinitialization)
Odbicie (reflection)
Rzutowanie (projection)
Zawijanie (wraping)
Ponowne próbkowanie (resampling)
Obcięcie (center cutting) (metoda z algorytmu
DMEA)
![Page 45: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/45.jpg)
Obcięcie (center cutting)
2012-01-12 Rozwój algorytmu ewolucji różnicowej
45
Do naprawy punktów stosowany jest wzór
𝑥′ = 𝑃𝑚𝑖𝑑𝑑𝑙𝑒𝑡 + 𝑎 𝑥 − 𝑃𝑚𝑖𝑑𝑑𝑙𝑒
𝑡
Gdzie 𝑎 =1
2. Jeżeli po zastosowaniu wzoru punkt dalej jest
niedopuszczalny, współczynnik a dzielony jest przez 2 oraz
następuje ponowne obliczenie nowego punktu.
Zasada stworzona dla algorytmu DMEA, tak aby w jak
najmniejszym stopniu wpływać na macierz kowariancji
populacji.
![Page 46: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/46.jpg)
Ponowne próbkowanie (resampling)
2012-01-12 Rozwój algorytmu ewolucji różnicowej
46
Naprawa punktów niedopuszczalnych odbywa się
poprzez ponowne ich wygenerowanie przy pomocy
operatorów genetycznych.
W przypadku zbyt dużej liczby prób ponownego
generowania, stosowana jest metoda inicjalizacji
(punkt losowany jest z całego zbioru
dopuszczalnego)
Metoda osiągająca najlepsze wyniki dla
klasycznych algorytmów DE
![Page 47: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/47.jpg)
Resampling – Wyniki
2012-01-12 Rozwój algorytmu ewolucji różnicowej
47
Porównanie z innymi metodami dla HDMEA
CEC 2005 (30)
F1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
Conservative HDMEA . . - - - . . . - - . - . . - - - - . . - - - - -
Center Cutting HDMEA . . - - - . . . - - - - . + - - + - - - - - - - -
Projection HDMEA . . + . - - . - - - - - . . . . + . . . - + - - +
Reflection HDMEA . . + . - . . . - - . - . . . - + + + . - + - . +
Reinit HDMEA . . - - - . . . - - . - . - - - . . - - - - - - -
Wraping HDMEA . . . - - . . . - - - . . . . - . + + . . - . - -
![Page 48: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/48.jpg)
Odsetek naprawianych punktów (HDMEA)
2012-01-12 Rozwój algorytmu ewolucji różnicowej
48
Funkcja
(CEC2005)
10 30
Ponowne
próbkowanie
Obcinanie Ponowne
próbkowanie
Obcinanie
F1 0,01 (0,00) 0,00 (0,00) 0,13 (0,01) 0,03 (0,02)
F2 0,01 (0,00) 0,00 (0,00) 0,16 (0,02) 0,05 (0,02)
F7 0,97 (0,00) 0,09 (0,03) 0,98 (0,00) 0,20 (0,02)
F8 0,78 (0,03) 0,33 (0,04) 0,88 (0,20) 0,42 (0,02)
F9 0,03 (0,01) 0,01 (0,00) 0,66 (0,06) 0,05 (0,01)
F10 0,01 (0,00) 0,01 (0,02) 0,35 (0,04) 0,09 (0,10)
F11 0,16 (0,14) 0,15 (0,21) 0,43 (0,14) 0,34 (0,14)
F12 0,04 (0,09) 0,14 (0,22) 0,32 (0,07) 0,30 (0,18)
F13 0,00 (0,00) 0,00 (0,00) 0,08 (0,01) 0,01 (0,00)
F17 0,28 (0,09) 0,13 (0,05) 0,97 (0,01) 0,30 (0,02)
F18 0,02 (0,00) 0,10 (0,19) 0,88 (0,01) 0,42 (0,12)
F19 0,02 (0,00) 0,06 (0,14) 0,88 (0,01) 0,42 (0,08)
F24 0,01 (0,00) 0,01 (0,01) 0,17 (0,01) 0,24 (0,12)
F25 0,68 (0,01) 0,49 (0,10) 0,88 (0,01) 0,37 (0,06)
Średnia 0,16 (0,02) 0,08 (0,06) 0,47 (0,04) 0,20 (0,07)
![Page 49: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/49.jpg)
Podsumowanie
2012-01-12 Rozwój algorytmu ewolucji różnicowej
49
Dobre wyniki metody SaHDMEA
Trudności w stworzeniu reguły adaptacyjnej (AHDMEA,
ADHDMEA)
Wyniki zaciemnione przez stosowanie optymalizacji lokalnej
Odległe od rzeczywistości modele teoretyczne funkcji celu
Korzystny wpływ analizy środka populacji na wyniki
Wyznaczanie ponownego próbkowania na najlepszą metodę
uwzględniania ograniczeń kostkowych
![Page 50: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/50.jpg)
Źródła
2012-01-12 Rozwój algorytmu ewolucji różnicowej
50
1. K. V. Price, R. M. Storn i J. A. Lampinen, Differential Evolution: A
Practical Approach to Global Optimization, Springer, 2005.
2. J. Arabas, Ł. Bartnik i K. Opara, „Crossing saddles by combining
differentia lmutation with the fitness proportional selection”,
Niepublikowana parca.
3. J. Arabas, A. Szczepankiewicz i T. Wroniak, „Experimental
Comparsion of Methods to Handle Boundary Constraints in
Differantial Evolution”.
4. K. Opara i J. Arabas, „Differential Mutation Based on Population
Covariance Matrix,” w PPSN'10 Proceedings of the 11th
international conference on Parallel problem solving from nature:
Part I , 2010.
![Page 51: Rozwój algorytmu Ewolucji Różnicowejmandziukj/2012-01-12.pdf · 2012. 1. 12. · Plan prezentacji Elementy klasycznego algorytmu ewolucyjnego Ewolucja różnicowa DMEA i inne modyfikacje](https://reader036.vdocuments.net/reader036/viewer/2022071609/61486aa82918e2056c22acc4/html5/thumbnails/51.jpg)
Dziękuję za uwagę
2012-01-12
51
Rozwój algorytmu ewolucji różnicowej