department mathematics-statistics: stochastics i

Department Mathematics-Statistics: Stochastics I


Ich gehe davon aus, dass Sie die Lebesguesche Integrationstheoriebeherrschen. Zur besseren Lesbarkeit des Skripts ist ein Kurzkursim Skriptum. Sollten Notationsfragen sein, so bitte dort nachsehen.

Dies ersetzt aber in keinster Weise den Besuch einer entsprechenden Vorlesung !


Erinnerung


Erinnerung

definiert den positiven und den negativen Anteil einer LV


Erinnerung


DESHALB


Diese Definition ist nicht konstruktiv !!!


Existenz

Integrierbarkeit

Eindeutigkeit


Dieses Bild gibt eine intuitive Erklärung für die Bedeutung des bedingten Erwartungswerts:

Angenommen, ein System x beinhaltet die Information F in dem Sinne, dass x Fx =F–messbar ist. Nun kennen Sie diese Information F nicht, sondern Sie kennen aus Beobachtungen heraus nur eine Teilinformation G.

Sie suchen nun eine Beschreibung des Systems, die nur auf der Beobachtung G beruht und x in „bester“ Weise schätzt. Sie suchen also eine G-messbare Zva y, die im Sinne von „best“ möglichst nahe an x liegt.

y kann man als (besten, hier im Sinne des quadratischen Kriteriums) Schätzer von x aufgrund der Beobachtung G bezeichnen (s.Statistik)

http://www.spsu.edu/math/deng/m2260/stat/cond/cond.html


t


Marina Bay SingaporeCourtesy of starwood


EIGENSCHAFTEN


EINSCHUB

WIEDERHOLUNG

NOTATION (wegen zweier Fragen):Fast sichere Eigenschaften: Wir hatten schon bemerkt, dass häufig Zufallsvariablen dasselbe beschreiben, wenn sie sich nur auf Nullmengen unterscheiden:

Sei ein Wahrscheinlichkeitsraum und x, y zwei reelle Zvaen darauf. Man sagt x ist gleich y P-fast sicher (, P-almost surely, mit Wahrscheinlichkeit 1, …) wenn

Man schreibt

x=y P-f.s. oderx=y P-a.s. oder

x=y (P)

usw. Häufig versteht man für Zvaen auch x=y automatisch als P-a-s.

Allgemeiner sagt man, eine Eigenschaft „a“ gilt P-fast sicher, falls es eine Nullmenge A gibt, so dass für alle Elemente außerhalb von A gilt: „a“ ist richtig.

),,( P

0)()})()(|({ yxPyxP


EIGENSCHAFTEN


Explizite Berechnung des bedingten Erwartungswerts: Seien x,y Zva mit gemeinsamer Dichte

Sei die Randdichte von y. Dann ist die bedingte Dichte von x bzgl y definiert durch

Die bedingte Dichte ist eindeutig definiert außerhalb der Nullmenge, wo Null wird. Die Größe

Ist der bedingte Erwartungswert von x bzgl y. Hier ist E(x|y) als Baire Funktion von y dargestellt: E(x|y)=z(y)

Offensichtlich muss gelten

so dass wir das Analogon der Bayes Formel erhalten, hier für die Dichten:

ddfyxP

),(),(

)(1 f )|( f

)()|(),( 1 fff

)(1 f

dfz )|(:)(

)()|()()|(),( 21 fffff

dff

ff

f

fff

)()|(

)()|(

)(

)()|()|(

2

2

1

2


Beispiel

Man interpretiere (mn) als den Wert einer Aktie zum Zeitpunkt n. Was bedeutet die obige Aussage ?


Vergleich Gleichverteilung und Binomialverteilung, n=6, p=1/2


Varianz für die Binomialverteilung in Abhängigkeit von p

Dies hängt eng zusammen mit der „Entropie“ eines Systems: Gegeben eine diskrete Wkt mit (p1,,, pn), so heißt

H= - S pi ln pi

die Entropie des Systems. Sie ist eine Größe, die die Unordnung in einem System misst: Für p=q hat die Binomialverteilung ein Höchstmaß an „Unbestimmtheit“

Entropie


EXPERIMENTERGEBNIS

Erwartungswert und Varianz sind zwei Größen, die das Auskommen in einem Experiment charakterisieren sollen. Konkret: Im Beispiel oben haben wir gesehen, dass der Ewert nicht ausreicht. Deshalb haben wir die Varianz hinzugenommen.

0,51984212 0,00860495 0,67065267 0,93108874 0,53524882 0,31384865 0,165341570,68956073 0,32319064 0,38617224 0,20190009 0,50403263 0,13666644 0,166846610,99973381 0,93655619 0,42711217 0,54397365 0,78835428 0,44044898 0,144272990,78182251 0,58960578 0,98473782 0,26380462 0,37765475 0,56444707 0,200863390,7401399 0,69245529 0,44735247 0,30857458 0,93419027 0,1407006 0,097556980,42431116 0,26096362 0,71087777 0,3718993 0,60292248 0,75767497 0,03646910,91877868 0,1637884 0,49155645 0,3607585 0,75015717 0,31838357 0,501793670,8742795 0,45020053 0,73484998 0,73683598 0,54630763 0,24961606 0,224497040,31519959 0,62195666 0,82557496 0,27787085 0,89782665 0,67048628 0,711126520,61006508 0,32045599 0,13226938 0,92888855 0,35251626 0,19930171 0,715765820,40538549 0,9050577 0,94491784 0,37605784 0,86747411 0,26597928 0,073876150,33350041 0,90030402 0,12301034 0,49844366 0,76541105 0,09886841 0,494870010,55280791 0,3239125 0,45382455 0,46467789 0,07303418 0,39100538 0,69111120,07567294 0,46632792 0,38233702 0,98818949 0,82513915 0,05051877 0,753806950,12017192 0,54303497 0,19821781 0,37477761 0,76697761 0,58085876 0,097217630,4764849 0,25876849 0,25254871 0,68645357 0,18357497 0,51660599 0,261940740,80213866 0,91558686 0,85580474 0,84115443 0,47182171 0,38045577 0,16100930,91019297 0,78783468 0,91119333 0,81325847 0,60504183 0,31411176 0,495790770,92458308 0,18272832 0,25922254 0,01513579 0,30364652 0,90205042 0,575634410,7963475 0,34220313 0,55167844 0,31099784 0,05794892 0,1741567 0,275368030,00754445 0,27764454 0,90567379 0,58892557 0,00491066 0,37075055 0,70611624


EXPERIMENTERGEBNIS

Lassen sich diese Ergebnisse „lesbarer“ zusammenfassen.

In diesem Fall ja: Wenn Sie hier wissen, dass die Verteilungsannahme Bernoullirichtig ist, so reicht zur gesamten Beschreibung die Angabe

p=0.5.

Aber:


Im Beispiel oben haben wir gesehen, dass der Ewert nicht ausreicht. Deshalb haben wir die Varianz hinzugenommen. Aber auch diese beiden reichen i.a. nicht aus, um die Verteilung zu charakterisieren. Da var(x)= E(x^2)-E(x)^2 können wir auch fragen: Charakterisieren die Momente

E(x^n) , n N

die Verteilung eindeutig. Auch das ist i.a. nicht korrekt.Dies ist ein eigenständiges Problem, das wir hier nicht weiterverfolgen wollen.

Wir wollen mit verwandten Größen nun versuchen, den Zusammenhang zwischen Zvas zu charakterisieren


)|(|]))|([|(]))|[|]|([|()( 2222 xPxxExxxExE


Quantiles})(|inf{

}}))(|({|inf{

zFz

zxPzQ

x


Erinnerung: Die Lp Räume sind normierte Räume. Sie sind Banachräume. Lp und Lq sind für 1/p+1/q=1, p>1 dual zueinander. L2 ist ein Hilbertraum.

Kolmogorov !


Galton Board Irrfahrt

ABER :


Galton Board

Betrachten Sie n

Lässt sich hier etwas sagen über die Konvergenz der Reihe ? !!


GGZ

ZGS


„Die Binomialverteilung konvergiert gegen die Normalverteilung“


Diverse Konvergenzarten:


In allgemeinerer Form finden Sie die Aussage in den Übungen !


s. Begriff der Uniformen Integrierbarkeit in den Übungen !


Die Konvergenz nach Wkt kann also keine Normkonvergenz sein !


Dice ExpGGZ


GGZ


GGZ

Frage eines Studenten: z(k) ist die Summe bis k von unabhängigen Zvaen, z(n)-z(k) ist die Summe der k+1sten bis n-ten unabhängigen Zvaen. Damit haben wir Borelfunktionen unabhängiger Zvaen, die wieder unabhängig sind.


GGZ


Aus der Analysis ist bekannt:

GGZ


GGZ


Anwendungen GGZ

http://www.plu.edu/~heathdj/java/stats/MonteCar.html


Anwendungen GGZ

Department Mathematics-Statistics: Stochastics IDie symmetrische Irrfahrt – eigentlich eine Vorlesung für sich, aber auch eine gute Möglichkeit, den gesamten Stoff der Vorleung zu wiederholen 7.Üblatt


Die symmetrische Irrfahrt – eigentlich eine Vorlesung für sich, aber auch eine gute Möglichkeit, den gesamten Stoff der Vorleung zu wiederholen 7.Üblatt


Einschub random walk:

link


https://www.msu.edu/~schenke6/applets/RandomWalks.files/DiscreteRandomWalk1D_Simulation.html


Verallgemeinerung random walk:



Elementare Eigenschaften des random walk:


Department Mathematics-Statistics: Stochastics IElementare Eigenschaften des random walk:


VERIFIZIEREN SIE UNBEDINGT DIESE ERGEBNISSE !


Elementare Eigenschaften des random walk:



random walk, examples:

In an election, candidate A receives W votes and candidate B receives L votes, where W > L. The votes are assumed to be randomly ordered. The first graph shows the difference between the number of votes for A and the number of votes for B, as the votes are counted. The parameters W and L can be varied with scroll bars.The event of interest is that A is always ahead of B in the vote count, or equivalently, that the graph is always above the horizontal axis (except of course at the origin). The indicator variable I of this event is recorded in the first table on each update. The density function of I is shown in blue in the distribution graph and is recorded in the distribution table. On each update, the empirical density of I is shown as red in the distribution graph and recorded in the distribution table.

Random walks applications ballot problem



The optimal policy for the problem is a stopping rule. Under it, the interviewer rejects the first r − 1 applicants (let applicant M be the best applicant among these r − 1 applicants), and then selects the first subsequent applicant that is better than applicant M.r=~n/e=0,368 * nFrom wikipedia

random walk, examples:

Mabinogian sheep problem

Sekretärinnenproblem - fiancee problemWann sollte man zuschlagen

Anwendungen im finance


http://en.wikipedia.org/wiki/Stopping_rule

Eine klassische Anwendung: Der Weierstrasssche Approx-satz:


B(i,n)

Weierstrassapproximation

http://www.kaktoos.de/fh_projekte/cg_bernstein/bernstein.html

http://mathdl.maa.org/images/upload_library/4/vol6/Mayans/Weierstrass.html

Department Mathematics-Statistics: Stochastics IDER

HAUPTSATZ

ALS

ERINNERUNG


HAUPTSATZ

ALS

ERINNERUNG


Damit ist die Aufgabe der Berechnung der Verteilung der Summe zweier Cauchy-verteilter Zvaen

eine Trivialitäts. 3.5.3 und s.Übungen


HAUPTSATZ

ALS

ERINNERUNG


VORGEHEN


VORGEHEN

Was so aber nicht gelten wird !


Wmasse

Grenzwert kein W-mass

Dies Verhalten ist auszuschliessen !


HAUPTSATZ

ALS

ERINNERUNG


Beispiel:Die Summe zweier unabhängiger und stetig gleichverteilter Zufallsvariablen ist dreiecksverteilt. Wegen des Zentralen Grenzwertsatzes nähert sich die Summe von unabhängigen gleichverteilten Zufallsvariablen umso mehr der Normalverteilung an, je mehr Zufallsvariablen aufsummiert werden.Trick:Eine zuweilen verwendete Methode (Zwölferregel) zur approximativen Erzeugung (standard-)normalverteilter Zufallszahlen funktioniert so: man summiert 12 (unabhängige) auf dem Intervall [0,1] gleichverteilte Zufallszahlen und subtrahiert 6 (das liefert die richtigen Momente, da die Varianz einer U(0,1)-verteilten Zufallsvariablen 1/12 ist und sie den Erwartungswert 1/2 besitzt).

http://de.wikipedia.org/w/index.php?title=Datei:Summe-von-Gleichverteilungen3.svg&filetimestamp=20091018175233

http://de.wikipedia.org/w/index.php?title=Datei:Summe-von-Gleichverteilungen3.jpg&filetimestamp=20091018175233


ZGS ODER POISSONS GESETZ

Van der Waerden


PO

ISS

ON


Da die Poisson Verteilung eine wichtige Rolle spielen wird, wollen wir uns in dem Einschub mit einigen Eigenschaften undAnwendungen befassen (falls die Zeit es zulässt !):

EINSCHUB


EINSCHUB

Die Poisson-Verteilung (benannt nach dem Mathematiker Siméon Denis Poisson) ist eine diskrete Wahrscheinlichkeitsverteilung, die beim mehrmaligen Durchführen eines Bernoulli-Experiments entsteht. Letzteres ist ein Zufallsexperiment, das nur zwei mögliche Ergebnisse besitzt (z. B. „Erfolg" und „Misserfolg"). Führt man ein solches Experiment sehr oft durch und ist die Erfolgswahrscheinlichkeit gering, so ist die Poisson-Verteilung eine gute Näherung für die entsprechende Wahrscheinlichkeitsverteilung. Die Poisson-Verteilung wird deshalb manchmal als die Verteilung der seltenen Ereignisse bezeichnet


EINSCHUB


EINSCHUB

TYPISCHE ANWENDUNGEN „Seltene Ereignisse“


EINSCHUB

TYPISCHE ANWENDUNGEN


…. Aber was sind nun seltene Ereignisse ?? Bitte nicht raten !

EINSCHUB



EINSCHUB

TYPISCHE ANWENDUNGEN ABER VORSICHT !

Überspringen

aus Wikipedia


EINSCHUB


ABER VORSICHT !


EINSCHUB


ABER VORSICHT !

p(n) q 3% 5%

13%

23 %


EINSCHUB

Wichtige Eigenschaften

( )


…………………………………………………………………………………………………………………………………………..

EINSCHUB

ENDE

Wichtige Eigenschaften


…… und zurück zu den Poissonschen GS


…… und zurück zu den ZGS


ZGS allgemein

Department Mathematics-Statistics: Stochastics IEINIGE

HINREICHENDE

BEDINGUNGEN

Hinreichende und notwendige Bedingungen für das ZGS

Department Mathematics-Statistics: Stochastics IEINIGE

HINREICHENDE

BEDINGUNGEN


Bemerkenswertes – Grundsätzliches: Was braucht man für den ZGS

ABER: Immer dran denken, der ZGS ist nicht immer gut !


Beziehung zwischen GGZ und ZGS



Dividing both parts by φ1(n) and taking the limit will produce a1, the coefficient of the highest-order term in the expansion, which represents the rate at which ƒ(n) changes in its leading term.

The law of large numbers as well as the central limit theorem are partial solutions to a general problem: "What is the limiting behavior of Sn as n approaches infinity?" In mathematical analysis, asymptotic series are one of the most popular tools employed to approach such questions.Suppose we have an asymptotic expansion of ƒ(n):



Informally, one can say: "ƒ(n) grows approximately as a1 φ(n)". Taking the difference between ƒ(n) and its approximation and then dividing by the next term in the expansion, we arrive at a more refined statement about ƒ(n):

Here one can say that the difference between the function and its approximation grows approximately as a2φ2(n). The idea is that dividing the function by appropriate normalizing functions, and looking at the limiting behavior of the result, can tell us much about the limiting behavior of the original function itself.

Informally, something along these lines is happening when the sum, Sn, of independent identically distributed random variables, X1, ..., Xn, is studied in classical probability theory. If each Xi has finite mean μ, then by the Law of Large Numbers,

Sn/n → μ.



If in addition each Xi has finite variance σ2, then by the Central Limit Theorem,

where ξ is distributed as N(0, σ2). This provides values of the first two constants in the informal expansion


conclusion

EndeDanke für Ihre Aufmerksamkeit

und auf ein Wiedersehen in der Stochastik II

m. kohlmann

department mathematics-statistics: stochastics i

Documents