ingo rechenberg powerpoint-folien zur 10. vorlesung evolutionsstrategie i evolutionsstrategie bei...

37
Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Upload: ivo-anselmi

Post on 05-Apr-2015

112 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Ingo Rechenberg

PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“

Evolutionsstrategie bei Störungen

Optimieren mit subjektiver Bewertung

Page 2: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

(1 , )-ES

ES mit Störung

= 5

Page 3: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Ideale Funktion in der mathematischen Welt

Rauer Berg in der experimentellen Welt

Praxis

Page 4: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Qualitätsfunktion mit Rauschen

RQQ ~

Fehler

222

1

e21

)(R

R

R

Rw

+

w

R

Linearer Fortschritt für

Nach einer ziemlich aufwändigen Ableitung

,1,1~ h

22)( Ra

ah

Streuung- gesamteStreuung- mutative

QQ

h wird in der Biologie Fitness-Heritabilität genannt

R xaQ~

Q~

x

Page 5: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Beispiel: 10Mutationen durch vonStreuung Rauschen durch vonStreuung

QQ

aR

linlin ,1,1 1,0~

,1,1~ chc

,,~ chc ,,

~ chc !

,1,12,1 linlin)/(1

1~ chaR

Formale Erweiterung auf ( , ) - ES ?

,1~c

Page 6: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Fortschrittsbeiwerte bei Rauschen

h = 1 h = 1/10 h = 1/100

154,0~10,1 c

242,0~10,2 c

293,0~10,5 c

54,110,1 c

90,010,5 c

35,110,2 c

015,0~10,1 c

025,0~10,2 c

037,0~10,5 c

51,2100,1 c

16,2100,5 c

62,1100,20 c

251,0~100,1 c

635,0~100,5 c

773,0~100,20 c

025,0~100,1 c

095,0~100,5 c

206,0~100,20 c

100,1100,20~24,8~ cc

Das ist keine bloße statistische Mittelung

0457,0100120 h 072,062,10457,0~

100,20 c

für h = 1/100

Page 7: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Individuen-Dispersion einer ( , 10 ) - Evolutionsstrategie

klein

groß

Deutung der Robustheit der ( , ) - ES bei Störungen

Größere Q-Unterschiede,zuverlässigere Selektion

Page 8: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Nichtlineare Störungstheorie für die (1, )-ES

rnc2

~~2

,1,1 kug

rnc

aR2)/(1

1~2

,12,1 kug

0d

~d

2

opt

opt 2~

hh 24

,1

,1 2~

max

max hh

22

opt21 hha

R

Hilfsvariable

Page 9: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

opt

opt~

opt

aR

max

max~

opt

aR

Optimale Mutationsstreuung am verrauschten Kugelmodell

Maximaler Fortschritt am verrauschten Kugelmodell

Page 10: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Stagnationsradius:

2opt

aRFür ist 0~

max

nrc ,1

,12Stagnation ca

nr R

Eine gestörte Optimierung kann nicht beliebig nahe an die Lösung herankommen. Es bleibt ein Restzielabstand.

Für das Kugelmodell berechnet sich bei Anwendung einer (1, ) - ES der

siehe Diagramm

Page 11: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Robustheit der ( / , ) - ES bei Störungen

Robustheit der ( , ) - ES bei Störungen

Min2

221

RxaxQn

kk

Page 12: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Deutung der Robustheit der ( , ) - ES bei Störungen

Die -fach vergrößerte Schrittweite lässt die Nachkommen besser aus dem Rauschen herausragen.

nrc

,/opt

Aus 0d

d ,/

nrc

2

2,/

max

rnc 2

2

,/,/

Für serielles Arbeiten mit der ( /, ) - ES gilt die Regel (s. Vorlesung ES II):

27,0opt

Multirekombination

Page 13: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

NeueGeneration

Nachkommenrealisieren

FlexibleBleistreifen

Messungc ca w--

Nachkommenbewerten

Elterneingeben

Evolution eines Spreizflügels im Windkanal

Page 14: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Generation

0

9

1215

18

21

24

27

Evolution eines Spreizflügels im Windkanal

6

3

Page 15: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Selektionsansicht

Subjektiv gewählte (selektierte) Figur nachGeneration 0 Generation 20 Generation 40 Generation 80

Entwicklung eines Quadrats bei subjektiver Bewertung

Die x-y-Koordinaten der 6 Ecken der Figur werden mutiert

Page 16: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Weiterentwicklung des Quadrats zum Mercedes-Stern

bei subjektiver Bewertung

Subjektiv gewählte (selektierte) Figur nach

Generation 1

Generation 20

Generation 40

Generation 60

Generation 80

Generation 100

Generation 200

Page 17: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Farbanpassung - Subjektive Bewertung

Page 18: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Subjektive Bewertung

Kaffee-Komposition mitder Evolutionsstrategie

Page 19: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Elter25% Columbia

40% Sumatra

13% Java

5% Bahia

17% Jamaica

Nachkomme 120% Columbia

34% Sumatra

23% Java

5% Bahia

18% Jamaica

Nachkomme 223% Columbia

37% Sumatra

12% Java

10% Bahia

18% Jamaica

Nachkomme 325% Columbia

32% Sumatra

15% Java

8% Bahia

20% Jamaica

Nachkomme 430% Columbia

38% Sumatra

8% Java

2% Bahia

22% Jamaica

Nachkomme 533% Columbia

38% Sumatra

9% Java

8% Bahia

12% Jamaica

O 1

O 2

O 3

O 4

O 5

Subjektive Bewertung

E

N 3

Evolutionsstrategische Entwicklungeiner Marken-Kaffeemischung

M. Herdy

Page 20: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

MimikrySchmeckt eklig

Schmeckt gut

Page 21: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Der Blauhäher frisst einen Monarchen

Der bekommt dem Vogel schlecht

Vor Übelkeit sträuben sich die Federn

Heraus mit dem Gift

Vorüber, die Lehre wird nicht vergessen

Subjektive Selektion in der Natur

Page 22: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Meilensteine in der Theorie der Evolutionsstrategie

12

3

4

Page 23: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

1

Definition der Fortschrittsgeschwindigkeit

Zurückgelegter Weg berganZahl der Versuche

Page 24: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

2

Gradienten Strategie kontra Evolutionsstrategie

Für n >> 1

nn

21)(

evonn )(

grad

1/ n

Evolutionsstrategie

1/n

Gradientenstrategie

Paul Guldin (1577 – 1643)

Guldinsche Regeln

Page 25: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

3

Entdeckung des Evolutionsfensters

Kugelmodell

Korridormodell

10010-210-410-610-8

102 104 106 1080

0,4

0,3

0,2

0,1

*

*

Korridormodell Kugelmodell

Page 26: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

4

Entwicklung der 1/5-Erfolgsregel

gggEN zxx

1gEx

)() (für gggENN QQ xxx

sonst gEx

vergrößern für We > 1 / 5

verkleinern für We < 1 / 5

gz auf die Länge 1 normiert

Page 27: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

5

Elter

Erfolgs-gebiet

Versagen der 1/5-Erfolgsregel am spitzen Grat

Versagen der 1/5-Erfolgsregel an Unstetigkeiten

Page 28: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

6Mehrgliedrige

Evolutionsstrategie

ES -),1(

= 6

Page 29: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

7Vererbbarkeit der Mutabilität und Mutation der Mutabilität

Mutation

DNA-Kopierer

Hat Kopierer hergestellt

Knackpunkt der Evolutionsstrategie

Page 30: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

? ? ?

8

ich bin Spitze

Idee der Mutativen Schrittweiten Regelung (MSR)

Page 31: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

9Von der

ES-),1(

über die

ES-),(

zur

ES-),/(

Page 32: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

10

Kugelmodell

E

r

.. .x x2 n

x1

a

q

a

a

Linien Fortschritt

Reduktion des vom Ziel wegführenden

Querschritts durch intermediäre Variablenmischung

q

Geometrisches Modell

Page 33: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

11

Steigerung der optimalen Mutationsschrittweite um das -fache

Steigerung der maximalen Fortschrittsgeschwindigkeit um das -fache

ES-),/(

Allerdings nur für 12

n

Page 34: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

12 ES-Optimierung mit subjektiver Bewertung

Rauschen der Qualitätsfunktion

Page 35: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Versagen der Mutativen Schrittweiten Regelung (MSR)

für eine ( 6/6, 12 ) - ES

Nachkommen mit vergrößerter Mutationsschrittweite:

50% auf der positiven Seite, 50% auf der negativen Seite.

Nachkommen mit verkeinerter Mutationsschrittweite:

50% auf der positiven Seite, 50% auf der negativen Seite.

E

!

Ansteigende Ebene

(kleine Schrittweite)

Auslese der 6 besten Nachkommen und Mittelung ihrer Schrittweiten ergibt die Schrittweitenänderung Null und nicht, wie es richtig wäre, eine -Vergrößerung.

Im Mittel

Page 36: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Ende

www.bionik.tu-berlin.de

Page 37: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung Evolutionsstrategie I Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung