istatistik i: olasılık ve dagılım teorisi kavramlarının...

ISTATISTIK I:Olasılık ve Dagılım Teorisi Kavramlarının Gozden

Gecirilmesi

Huseyin Tastan1

1Yıldız Teknik Universitesi

Iktisat Bolumu

22 Eylul 2012

Ekonometri: Olasılık ve Dagılım - H. Tastan 1

Istatistik Biliminin Ugrası Alanları

Veriden anlam cıkarılması, ozetlenmesi

Belirsizlik: neyin oldugu degil, neyin olası oldugu

Ornekleme (sampling): anakutlenin (population) tumune aitbilgi toplamak cogu zaman imkansızdır. Bunun yerineanakutleye iliskin analiz bu anakutleyi en iyi temsil eden birornekleme dayandırılabilir.

Iktisadi iliskilerin analizi: Ekonometrinin alanı

Kestirim (Prediction)

Belirsizlik altında karar alma

ISTATISTIK

ISTATISTIK I ISTATISTIK II

Olasılık Teorisi Ornekleme ve Orneklem DagılımlarıRassal Degiskenler Nokta ve Aralık Tahmini

Kesikli ve Surekli R.D. Hipotez TestiOlasılık Fonksiyonu Regresyon ve Korelasyon

Beklenen Deger, Moment Parametrik Olmayan TestlerNormal Dagılım Varyans Analizi

Merkezi Limit Teoremi

RASSAL DEGISKENLER ve OLASILIK DAGILIMLARI

Rassal (Stokastik) Degisken (r.d.) : Alacagı deger belli birrassal denemenin sonucuna baglı olan, bu degere iliskinkesinlik bulunmayan degisken. Buyuk harflerle gosterecegiz.

x: rassal degisken X’in aldıgı belli bir deger.

Kesikli r.d. : Alacagı degerler sayılabilir (sonlu ya da sonsuz)olan rassal degiskenler. Ornegin, iki zar atımında uste gelensayıların toplamı, belli bir uretim bandında bir calısanın yaptıgıhata sayısı, bir bankaya 15 dk icinde gelen musteri sayısı, vb.

Surekli r.d.: Belli bir aralıkta her hangi bir degeri alabilenrassal degisken. Bir cok iktisadi degisken bu gruba girer,ornegin, bir sehirdeki ortalama harcanabilir gelir, belli birdonemdeki enflasyon oranı, IMKB100 endeksinin kapanısdegeri, bir yılda yapılan toplam ihracat tutarı, vb.

OLASILIK DAGILIMLARI - KESIKLI

f(x) ile gosterecegiz,

f(x) ≥ 0,

f(x) = P (X = x),∑

x f(x) = 1, Bu toplam x’in alabilecegi tum degerleruzerinedir,

Birikimli dagılım fonksiyonu:P (X ≤ x0) = F (x0) =

x≤x0f(x)

KESIKLI OLASILIK DAGILIMLARI

Ornek: 3 para atılıyor ve tura (T) gelme sayısı X ilegosteriliyor.Bu deneyde ortaya cıkabilecek sonuclar sunlardır: (TTT),(TTY), (TYT), (YTT), (TYY), (YTY), (YYT), ve (YYY).Bu 8 sonuc karsılıklı olarak bagdasmazdır ve herbirinin gelmeolasılıgı aynıdır. Olasılık: 1/8.X’in alabilecegi degerler: 0, 1, 2, and 3.X rassal degiskeninin dagılımını bulalım.

Sonuclar x f(x)YYY 0 1/8YYT 1YTY 1 3/8TYY 1YTT 2TYT 2 3/8TTY 2TTT 3 1/8

X’in olasılık dagılımı:

x 0 1 2 3

f(x) = P (X = x) 18

x f(x) = 1

P (X ≤ 1) =?

P (1 ≤ X ≤ 3) =?

X’in birikimli olasılık dagılımı

F (x) = P (X ≤ x) =

0, x < 0;18 , 0 ≤ x < 1;12 , 1 ≤ x < 2;78 , 2 ≤ x < 3;1, x ≥ 3.

Kesikli Olasılık Dagılımı

−1 −0.5 0 0.5 1 1.5 2 2.5 3 3.5 40

OLASILIK FONKSIYONU

−1 −0.5 0 0.5 1 1.5 2 2.5 3 3.5 40

BIRIKIMLI OLASILIK FONKSIYONU

Kesikli r.d.’lerin BEKLENEN DEGERLERI

Kesikli r. d. X’in beklenen degeri

E(X) =∑

g(x), X’in bir fonksiyonu olsun, g(x)’in beklenen degeri

E(g(X)) =∑

g(x)f(x)

Kesikli r.d.’lerin BEKLENEN DEGERLERI

Kesikli r. d. X’in beklenen degeri

E(X) =∑

g(x), X’in bir fonksiyonu olsun, g(x)’in beklenen degeri

E(g(X)) =∑

g(x)f(x)

Onceki ornekte X’in beklenen degerini bulun.

(i) g(x) = x2’nin beklenen degerini bulun.

E(X2) = 01

Onceki ornekte X’in beklenen degerini bulun.

(i) g(x) = x2’nin beklenen degerini bulun.

E(X2) = 01

Kesikli r.d.’lerin VARYANSları

Tanım:

Var(X) = E[

(X − E(X))2]

(X2 − 2XE(X) + (E(X))2)]

− 2E (XE(X)) + E(

(E(X))2))

− 2E(X)2 + (E(X))2

− E(X)2

µx = E(X) dersek varyans

Var(X) = E(

− µ2x

olarak yazılabilir.

Kesikli r.d.’lerin VARYANSları

Tanım:

Var(X) = E[

(X − E(X))2]

(X2 − 2XE(X) + (E(X))2)]

− 2E (XE(X)) + E(

(E(X))2))

− 2E(X)2 + (E(X))2

− E(X)2

µx = E(X) dersek varyans

Var(X) = E(

− µ2x

olarak yazılabilir.

Kesikli r.d.’lerin MOMENTLERI

Tanım: Kesikli r.d. X’in knci momenti

µk = E(Xk) =∑

xkf(x) k = 0, 1, 2, ...

1. moment µ1 = E(X) =⇒ populasyon ortalaması2. moment µ2 = E(X2) = Var(X) + µ2

3. moment µ3 = E(X3)4. moment µ4 = E(X4)

Kesikli r.d.’lerin MERKEZI MOMENTLERI

Tanım: Kesikli r.d. X’in knci merkezi momenti

mk = E((X − µ1)k) =

(x− µ1)kf(x) k = 0, 1, 2, ...

1. merkezi moment m1 = 02. merkezi moment m2 = E((X − µ1)

2) = Var(X)3. merkezi moment m3 = E((X − µ1)

3)4. merkezi moment m4 = E((X − µ1)

Kesikli r.d.’lerin STANDART MOMENTLERI

Tanım: Kesikli r.d. X’in knci standart momenti

γk =mk

σkk = 0, 1, 2, ...

Burada σ populasyon standart sapmasıdır:

σ =√

Var(X) =

(X − µ1)2]

1. standart moment γ1 = 02. standart moment γ2 = 1 neden?3. standart moment γ3 = m3

σ3 carpıklık (skewness)4. standart moment γ4 = m4

σ4 basıklık (kurtosis)

Bazı Kesikli Dagılımlar

Bernoulli

Hipergeometrik

Poisson

Bernoulli(p) Dagılımı

f(x) =

p, if X = 11− p, if X = 0

Beklenen Deger:

E(X) =∑

xf(x) = p · 1 + (1− p) · 0 = p

Ikinci Moment:

E(X2) =∑

x2f(x) = p · 1 + (1− p) · 0 = p

Varyans (ikinci merkezi moment):

Var(X) = E(X2)− (E(X))2 = p− p2 = p(1− p)

BINOM DAGILIMI

X, n bagımsız Bernoulli denemesinde 1 degerini alma (basarı)sayısı olsun. Yani eger Y Bernoulli(p) ise X =

(Y ), Binom(n, p)dagılımına uyar. X toplam basarı sayısı.

f(x) =

px(1−p)n−x =n!

x!(n− x)!px(1−p)n−x, x = 0, 1, 2, . . . , n

E(X) = np

Var(X) = np(1− p)

HIPERGEOMETRIK DAGILIM

Eger Bernoulli denemeleri birbirinden bagımsız degilse, toplambasarı sayısı Binom dagılımına uymaz. Icinde B tane basarıbulunan N nesneli rassal bir orneklemde, toplam basarı sayısı X’inolasılık dagılımı

f(x) =

N −Bn− x

Burada x max(0, n − (N −B)) ve min(n,B) arasında tamsayıdegerler alabilir

E(X) = np, V ar(X) =N − n

N − 1np(1− p), p =

POISSON DAGILIMI

Bir olayın belli bir zaman diliminde gerceklesme sayısıNotasyon: X ∼ Poisson(λ), pmf:

f(x, λ) =λxe−λ

x!, x = 0, 1, 2, . . .

E(X) = λ

Var(X) = λ

skewness =1√λ

excess kurtosis =1

Kesikli r.d. icin ORTAK DAGILIMLAR

ORTAK OLASILIK FONKSIYONU: Birden fazla r.d.’in ortakdavranısını betimlemek istiyoruz. Once iki degiskenli durumuinceleyelim. X ve Y iki r.d. olsun. Bunların ortak olasılık fonksiyonu

f(x, y) = P (X = x ∩ Y = y)

Daha genel olarak X1,X2, . . . ,Xk k tane kesikli r.d. ise bunlarınortak olasılık fonksiyonu soyle olur:

f(x1, x2, . . . , xk) = P (X1 = x1 ∩X2 = x2,∩, . . . ,∩Xk = xk)

X: Bir bankada 1 nolu gisede sırada bekleyen musteri sayısı, Y : Birbankada 2 nolu gisede sırada bekleyen musteri sayısı. Bu iki r.d.icin ortak olasılık fonksiyonu asagıdaki tabloda verilmistir.

y \ x 0 1 2 3 Toplam

0 0.05 0.21 0 0 0.261 0.20 0.26 0.08 0 0.542 0 0.06 0.07 0.02 0.153 0 0 0.03 0.02 0.05

Toplam 0.25 0.53 0.18 0.04 1.00

MARJINAL OLASILIK FONKSIYONU

Ortak olasılık fonksiyonu biliniyorsa, bundan hareketle marjinal yada tekil olasılık fonksiyonları elde edilebilir.X’in marjinal olasılık fonksiyonu:

f(x) =∑

f(x, y)

Y ’nin marjinal olasılık fonksiyonu:

f(y) =∑

f(x, y)

KOSULLU OLASILIK FONKSIYONU

Ortak olasılık fonksiyonu biliniyorsa, bundan hareketle kosulluolasılık fonksiyonları elde edilebilir.Y = y verilmisken X’in kosullu olasılık fonksiyonu:

f(x|y) = f(x, y)

X = x verilmisken Y ’nin kosullu olasılık fonksiyonu:

f(y|x) = f(x, y)

BAGIMSIZLIK

X ve Y r.d.’lerinin istatistik bakımından bagımsız oldugunusoyleyebilmemiz icin asagıdaki kosulun saglanması gerekir:

f(x, y) = f(x)f(y)

Baska bir deyisle

f(x|y) = f(x), vef(y|x) = f(y)

KOVARYANS

g(X,Y ), X ve Y r.d.’lerinin herhangi bir fonksiyonunu ifade etsin.Bu fonksiyonun beklenen degeri:

E [g(X,Y )] =∑

g(x, y)f(x, y)

g(X,Y ) = (X − µx)(Y − µy) olsun. Bu fonksiyonun beklenendegerine KOVARYANS denir:

Cov (X,Y ) =∑

(x− µx)(y − µy)f(x, y)

SUREKLI RASSAL DEGISKENLER ve OLASILIKDAGILIMLARI

X surekli bir r.d. ise verilmis bir aralıkta herhangi bir degerialabilir. Bir surekli rassal degiskenin belli bir degere esit olmaolasılıgından (kesikli r.d. gibi) bahsedemeyiz. Ancak verilmis biraralık icine dusme olasılıklarını bulabiliriz.f(x): olasılık yogunluk fonksiyonu. Ozellikleri:

f(x) ≥ 0∫∞

−∞f(x)dx = 1

Pr(a < X < b) =∫ ba f(x)dx

f(x) ≥ 0∫∞

−∞f(x)dx = 1

f(x) ≥ 0∫∞

−∞f(x)dx = 1

Ornek Olasılık Yogunluk Fonksiyonu

P(a<X<b) =∫ b

af(x)dx

X surekli r.d. icin birikimli olasılık fonksiyonu, ya da dagılımfonksiyonu, X’in belli bir x degerini asmama olasılıgı olaraktanımlanır ve F (x) ile gosterilir.

F (x) = P (X ≤ x) =

−∞

f(t)dt

oyf ile dagılım fonksiyonu arasındaki iliski:

f(x) =dF (x)

F (x)’in ozellikleri:

F (−∞) = 0, F (+∞) = 1

Buna gore F (x), x’in azalmayan bir fonksiyonudur. x1 ≤ x2 olmakuzere F (x1) ≤ F (x2).

P (a < X < b) = F (b)− F (a) =

af(x)dx

P (−∞ < X < +∞) = P (−∞ < X < a)+P (a < X < b)+P (b < X < +∫ ∞

−∞

f(x)dx =

−∞

f(x)dx+

af(x)dx+

∫ +∞

bf(x)dx

F (+∞)−F (−∞) = [F (a)−F (−∞)]+P (a < X < b)+[F (+∞)−F (b)]

1 = F (a)− 0 + P (a < X < b) + 1− F (b)

P (a < X < b) = F (b)− F (a)

Ornek oyf ve Birikimli oyf

af(x)dx = F (b)−F (a)

F (a) −F (−∞) = F (a)

F (+∞)−F (b) = 1 −F (b)

SUREKLI r.d.’lerin BEKLENEN DEGERLERI

E(X) ≡ µx =

∫ ∞

−∞

xf(x)dx

g(x), X’in bir fonksiyonu ise,

E(g(X)) =

∫ ∞

−∞

g(x)f(x)dx

Var(X) =

∫ ∞

−∞

(x− µx)2f(x)dx

Varyans

Integral ozellikleri kullanılarak V ar(X) asagıdaki gibi yazılabilir:

Var(X) = E[

(X − E(X))2]

≡∫ ∞

−∞

(x− µx)2f(x)dx

∫ ∞

−∞

x2f(x)dx+ µ2x

∫ ∞

−∞

f(x)dx− 2µx

∫ ∞

−∞

xf(x)dx

∫ ∞

−∞

x2f(x)dx−(∫ ∞

−∞

xf(x)dx

= E(X2)− µ2x

Burada∫∞

−∞f(x)dx = 1 ve

∫∞

−∞xf(x)dx = E(X) ≡ µx

ozelliklerini kullandık. Bunu kesikli r.d.ler icin de gostermistik.

Surekli r.d.’lerin MOMENTLERI

Tanım: Surekli r.d. X’in knci momenti

µk = E(Xk) =

x∈Xxkf(x)dx k = 0, 1, 2, ...

1. moment µ1 = E(X) =⇒ populasyon ortalaması2. moment µ2 = E(X2) = V ar(X) + µ2

3. moment µ3 = E(X3)4. moment µ4 = E(X4)

Surekli r.d.’lerin MERKEZI MOMENTLERI

Tanım: Surekli r.d. X’in knci merkezi momenti

mk = E((X − µ1)k) =

x∈X(x− µ1)

kf(x)dx k = 0, 1, 2, ...

1. merkezi moment m1 = 02. merkezi moment m2 = E((X − µ1)

2) = V ar(X)3. merkezi moment m3 = E((X − µ1)

3)4. merkezi moment m4 = E((X − µ1)

BEKLENTI ISLEMCISININ OZELLIKLERI

Dogrusallık: X rassal degiskeninin dogrusal bir fonksiyonuY = a+ bX olsun. Y ’nin beklenen degeri:

E[Y ] = E[a+ bX] = a+ bE(X)

X1,X2, . . . ,Xn rassal degiskenlerinin asagıdaki gibi birfonksiyonu tanımlanıyor:

Y = b1X1 + bnX2 + . . .+ bnXn

Y ’nin beklenen degeri:

E[Y ] = b1E[X1] + b2E[X2] + . . .+ bnE[Xn]

ya da kısaca

E(Y ) = E

biE(Xi)

Dogrusallık: X rassal degiskeninin dogrusal bir fonksiyonuY = a+ bX olsun. Y ’nin beklenen degeri:

E[Y ] = E[a+ bX] = a+ bE(X)

X1,X2, . . . ,Xn rassal degiskenlerinin asagıdaki gibi birfonksiyonu tanımlanıyor:

Y = b1X1 + bnX2 + . . .+ bnXn

Y ’nin beklenen degeri:

E[Y ] = b1E[X1] + b2E[X2] + . . .+ bnE[Xn]

ya da kısaca

E(Y ) = E

biE(Xi)

X’in dogrusal olmayan bir fonksiyonu icin genellikle

E[h(X)] 6= h(E(X))

Ornegin, E(X2) 6= (E(X))2, E(ln(X)) 6= ln(E(X))

X ve Y gibi iki r.d. icin

6= E(X)

E[h(X)] 6= h(E(X))

6= E(X)

E[h(X)] 6= h(E(X))

6= E(X)

VARYANSIN OZELLIKLERI

Herhangi bir c sabit sayısı icin

Var(c) = 0

Y = bX’in varyansı, b sabit

Var(Y ) = Var(bX) = b2Var(X)

Y = a+ bX’in varyansı

Var(Y ) = Var(a+ bX) = b2Var(X)

X ve Y iki bagımsız r.d. ise

Var(X + Y ) = Var(X) + Var(Y )

Var(X − Y ) = Var(X) + Var(Y )

Bu kural n r.d. icin genellestirilebilir.

Var(c) = 0

Surekli Standart Uniform (Tekduze) Dagılım

Notasyon: X ∼ U(0, 1), oyf:

f(x) =

1, if 0 < x < 1,0, otherwise.

E(X) =1

Var(X) =1

(Genel) Uniform (Tekduze) Dagılım

Notasyon: X ∼ U(a, b), oyf:

f(x; a, b) =

{ 1b−a if a < x < b,

0, otherwise.

E(X) =b− a

Median =b− a

Var(X) =(b− a)2

Skewness = 0

Excess kurtosis = −6

X ∼ U(a, b) icin beklenen deger ve varyans

E(X) =

b− adx

b− a

b2 − a2

=(b− a)(b+ a)

2(b− a)

X ∼ U(a, b) icin g(x) = x2 fonksiyonunun beklenen degerinibulalım.

E[g(x)] =

b− a

=b3 − a3

3(b− a)

=(b− a)(b2 + ab+ a2)

3(b− a)

=a2 + ab+ b2

3= E[X2].

X ∼ U(a, b) icin varyans

Var(X) = E[(X − E(X))2] = E(X2)− [E(X)]2

=(a2 + ab+ b2)

3− (a+ b)2

=(b− a)2

U ∼ (a, b) icin dagılım fonksiyonu

F (x) = P (X ≤ x)

b− adt

b− a

=x− a

b− a, a ≤ x ≤ b aralıgı icin

yazılabilir. Oyleyse X ∼ U(a, b)’nin bof’nu soyle olur:

F (x) =

0, x < a icin;x−ab−a , a ≤ x ≤ b icin;

1, x > b icin.

Uniform Dagılım

b −a

f(x) F (x)

Asagıda verilen fonksiyonu dusunelim.

f(x) =

e−x, 0 < x < ∞ ise;0, degilse.

1 Bunun bir oyf oldugunu gosterin.

2 Bu fonksiyunun grafigini cizin ve X > 1 olasılıgı ile ilgili alanıisaretleyin.

3 P (X > 1) olasılıgını hesaplayın.

4 Birikimli olasılık fonksiyonunu bulun.

f(x) =

1 Olasılık yogunluk fonksiyonları ozelliklerini saglayıpsaglamadıgına bakalım:

1 (i) Ilk olarak, f(x) ≥ 0 kosulunun 0 < x < ∞ aralıgındaki herx degeri icin saglandıgı acıktır.

2 (ii) Ayrıca, x’in degerler aralıgında oyf’nin integralinin 1 olmasıgerekir.

e−xdx = 1

−e−x

−e−∞ − (−e0) = 1

0 + 1 = 1

−e−∞ = limx→∞ −e−x = 0 olarak dusunulmelidir. Bu kosulda saglandıgına gore fonksiyon bir oyf’dir.

e−xdx = 1

−e−x

−e−∞ − (−e0) = 1

0 + 1 = 1

e−xdx = 1

−e−x

−e−∞ − (−e0) = 1

0 + 1 = 1

1 P (X > 1) olasılıgı grafikte gosterilmistir.2

P (X > 1) =

∫ ∞

1e−xdx

= −e−x∣

= e−1

≈ 0.36787

F (x) =

0e−tdt

= −e−t∣

= −e−x + e0

= 1− e−x

Buradan birikimli olasılık fonksiyonu

F (x) =

0, x < 0;1− e−x, 0 < x < ∞.

olarak bulunur.Ekonometri: Olasılık ve Dagılım - H. Tastan 48

P (X > 1) =

∫ ∞

1e−xdx

= −e−x∣

= e−1

≈ 0.36787

F (x) =

0e−tdt

= −e−t∣

= −e−x + e0

= 1− e−x

F (x) =

0, x < 0;1− e−x, 0 < x < ∞.

P (X > 1) =

∫ ∞

1e−xdx

= −e−x∣

= e−1

≈ 0.36787

F (x) =

0e−tdt

= −e−t∣

= −e−x + e0

= 1− e−x

F (x) =

0, x < 0;1− e−x, 0 < x < ∞.

Ustel (Exponential) Dagılım

0 1 2 3 4 50

1oyf : f( x) =e−x

f ( x )

0 1 2 3 4 50

1bof : f( x) =1 −e−x

F ( x )

P( X > 1) =∫∞

1e−xdx

ORTAK OLASILIK YOGUNLUK FONKSIYONU

X ve Y , sırasıyla, −∞ < X < +∞ ve −∞ < Y < +∞aralıklarında tanımlı iki surekli r.d. olsun. Bu iki r.d. icin ortakolasılık yogunluk fonksiyonu, f(x, y) ile gosterilir ve asagıdaki gibitanımlanır.

f(x, y) ≥ 0,∫ ∞

−∞

∫ ∞

−∞

f(x, y)dxdy = 1,

P r(a < X < b, c < Y < d) =

af(x, y)dxdy.

f(x, y) = xye−(x2+y2), x > 0, y > 0, icin ortak olasılık yogunlukfonksiyonu

f(x,y)

Asagıda verilen iki degiskenli fonksiyonun bir ortak olasılıkyogunluk fonksiyonu olmasını saglayacak k sabit sayısını bulun.Elde ettiginiz ooyf’nu kullanarakP(

0 < X < 12 , 1 < Y < 2

olasılıgını bulun.

f(x, y) =

k(x+ y), 0 < x < 1, 0 < y < 2 ise;0, degilse.

Ornek: devam

Oncelikle f(x, y) > 0 kosulunun saglanabilmesi icin k > 0 olmalı.Ikinci kosuldan hareketle

0k(x+ y)dxdy = 1

dy = k

= 3k = 1

k = 13 bulunur. Oyleyse ooyf

f(x, y) =

13(x+ y), 0 < x < 1, 0 < y < 2 ise;0, degilse.

Istenen olasılık ooyf’nun altındaki hacim olarak bulunur:

0 < X <1

2, 1 < Y < 2

3(x+ y) dxdy

MARJINAL YOGUNLUK FONKSIYONU

X’in myf:

f(x) =

∫ ∞

−∞

f(x, y)dy

Integralin sınırları y’nin tanım aralıgıdır.

Y ’nin myf:

f(y) =

∫ ∞

−∞

f(x, y)dx

Integralin sınırları x’in tanım aralıgıdır.

Onceki ornekteki ooyf’nu kullanarak X ve Y rassal degiskenlerininmarjinal olasılık yogunluk fonksiyonlarını bulalım.

f(x) =

3(x+ y)dy

xy +y2

3(x+ 1)

Ornek: moyf

Boylelikle X icin moyf’nu soyle yazılır:

f(x) =

23(x+ 1), 0 < x < 1 ise;0, degilse.

Benzer sekilde Y ’nin moyf’nu

g(y) =

13(y + 1

2), 0 < y < 2 ise;0, degilse.

KOSULLU OLASILIK YOGUNLUK FONKSIYONU

Y = y degeri verilmisken X’in kosullu yogunluk fonksiyonu:

f(x|y) = f(x, y)

Benzer sekilde X = x verilmisken Y ’nin kosullu yogunlukfonksiyonu

f(y|x) = f(x, y)

BAGIMSIZLIK

Hatırlarsak asagıdaki kosul saglanıyorsa A ve B bagımsız olaylardırdenir:

P (A ∩B) = P (A)P (B)

Benzer sekilde X ve Y iki bagımsız surekli r.d. ise

f(x, y) = f(x)f(y)

kosulu saglanmalıdır.i.e., ortak yogunluk fonksiyonu, marjinal yogunlukların carpımıolarak yazılabiliyorsa bu iki r.d. birbirinden bagımsızdır.

BAGIMSIZLIK

Onceki kosul genellestirilebilir.X1,X2, . . . ,Xn rassal degiskenlerinin ortak olasılık yogunlukfonksiyonu marjinal yogunluk fonksiyonlarının carpımı olarakyazılabiliyorsa

f(x1, x2, . . . , xn) = f1(x1) · f2(x2)·, . . . , ·fn(xn)

fj(xj)

bu rassal degiskenler birbirinden bagımsızdır denir. Bu ozellikkullanılarak Maksimum Olabilirlik (Maximum Likelihood) tahminedicileri turetilebilmektedir. Bu konuya Tahmin Yontemleri baslıgıaltında deginecegiz.

BAGIMSIZLIK ORNEK

Onceki ornekteki ortak oyf ve marjinal oyf’nı kullanarak X veY ’nin bagımsız olup olmadıgını bulalım.

f(x)g(x) =2

3(x+ 1)

6= f(x, y)

oldugundan X ve Y rassal degiskenleri bagımsız degildir.

BAGIMSIZLIK ORNEK

Asagıda verilen ooyf’nu kullanarak moyf’nı bularak bagımsız olupolmadıklarına karar verelim.

f(x, y) =

19 , 1 < x < 4, 1 < y < 4 ise;0, degilse.

Marjinal olasılık yogunluk fonksiyonları

f(x) =

g(y) =

Buradan

f(x, y) =1

9= f(x)g(y) =

kosulu saglandıgı icin X ve Y rassal degiskenleri bagımsızdır.

NORMAL DAGILIM

Notasyon: X ∼ N(µ, σ2)

f(x;µ, σ2) =1

σ√2π

2σ2(x− µ)2

, −∞ < x < ∞

E(X) = µ

Var(X) = σ2

skewness = 0

kurtosis = 3

Normal Dagılım oyf, σ2 = 1, farklı lokasyon parametreleri(µ)

−10 −8 −6 −4 −2 0 2 4 6 8 100

0.4Normal Dagilim, σ2=1

µ = −5

µ = −2

µ = 0 µ = 2µ = 5

Normal Dagılım oyf, µ = 0, farklı varyans (scale)parametreleri

−10 −8 −6 −4 −2 0 2 4 6 8 100

Normal Dagilim, µ=0

σ2 = 1, µ = 0

σ2 = 2, µ = 0

σ2 = 3, µ = 0

STANDART NORMAL DAGILIM

Z = X−µσ ,

φ(z) =1√2π

, −∞ < z < ∞

E(Z) = 0

Var(Z) = 1

Birikimli dagılım fonksiyonu:

Φ(z) = P (Z ≤ z) =

−∞

1√2π

−4 −3 −2 −1 0 1 2 3 40

0.4STANDART NORMAL DAGILIM φ(z)

−4 −3 −2 −1 0 1 2 3 40

1STANDART NORMAL DAGILIM Φ(z)

NORMAL DAGILIM OLASILIKLARININ HESAPLANMASI

X ∼ N(µ, σ2) olsun. Asagıdaki olasılıgı hesaplamak istiyoruz:

P (a < X < b) =

σ√2π

2σ2(x− µ)2

Bu integralin acık bir cozumu yoktur. Ancak numerik yontemlerleistenen kesinlik duzeyinde hesaplanabilir. Bunun icin her seferindebilgisayarda hesap yapmak yerine, standart normal dagılımtablolarını kullanabiliriz. Istenen olasılıgı asagıdaki gibi yazalım:

a− µ

X − µ

b− µ

a− µ

σ< Z <

b− µ

a− µ

σ< Z <

b− µ

− Φ

a− µ

Burada Φ(z) = P (Z ≤ z) standart normal dagılımın z’dekidegeridir.

Bu tabloda sadece pozitif degerler icin dagılım fonksiyonu degerleriverilmistir. Negatif degerler icin Φ(z) = P (Z ≤ z)’nin simetriozelligi kullanılabilir:

Φ(−z) = P (Z ≤ −z)

= P (Z ≥ z)

= 1− P (Z ≤ z)

= 1− Φ(z)

P (Z ≤ −1.25) = Φ(−1.25)

= 1− Φ(1.25)

= 1− 0.8944 = 0.1056

−4 −3 −2 −1 0 1 2 3 40

Φ(−1.25) = 0.1056

1 − Φ(1.25) = 0.1056

P(−1.25<Z<1.25) = Φ(1.25) −Φ(−1.25)= Φ(1.25) − (1−Φ(1.25))= 0.8944 − 0.1056 = 0.7888

MERKEZI LIMIT TEOREMI (CENTRAL LIMITTHEOREM)

X1,X2, . . . ,Xn herbirinin ortalaması µ ve varyansı σ2 olan ve aynı

dagılıma uyan n tane bagımsız r.d. olsun. Baska bir sekilde ifadeetmek istersek:

Xi ∼ i.i.d (µ, σ2), i = 1, 2, . . . , n

iid: turdes (identical), ve bagımsız (independent) dagılımlıBurada dagılımın ne oldugunu belirtmedigimize dikkat edin. Bur.d.’lerin toplamlarının beklenen degeri ve varyansı:

E[X1 +X2 + . . . +Xn] = E[X1] + E[X2] + . . .+ E[Xn] = nµ

Var[X1+X2+ . . .+Xn] = Var[X1]+Var[X2]+ . . .+Var[Xn] = nσ2

MERKEZI LIMIT TEOREMI (CENTRAL LIMITTHEOREM)

Bu r.d.’lerin toplamına X diyelim. Yani, X = X1 +X2 + . . . +Xn

Z =X − E(X)√

Var(X)=

X − nµ√nσ2

=Xn − µ

=X − µ

σ/√n

∼ N(0, 1)

MLT’ye gore gozlem sayısı arttıkca, yani, n → ∞, yukarıdaki ifadestandart normal dagılıma yakınsar, yani, Z → N(0, 1)

MERKEZI LIMIT TEOREMI

0 0.2 0.4 0.6 0.8 10

2000n= 1

0 0.2 0.4 0.6 0.8 10

4000n= 2

0 0.2 0.4 0.6 0.8 10

4000n= 3

0 0.2 0.4 0.6 0.8 10

6000n= 10

0.2 0.3 0.4 0.5 0.6 0.70

5000n= 30

0.35 0.4 0.45 0.5 0.55 0.6 0.650

6000n= 50

0.35 0.4 0.45 0.5 0.55 0.6 0.650

6000n= 75

0.35 0.4 0.45 0.5 0.55 0.6 0.650

6000n= 100

0.44 0.46 0.48 0.5 0.52 0.54 0.560

6000n= 1000

BUYUK SAYILAR KANUNU (LAW of LARGE NUMBERS)

Merkezi Limit Teoremi, Buyuk Sayılar Kanunu ile yakındaniliskilidir. Buyuk Sayılar Kanununa gore, turdes dagılımlı (aynıanakutle beklenen degeri µ ve varyansına σ2 sahip), birbirindenbagımsız ve sonlu varyanslı n r.d.’in aritmetik ortalaması (orneklemortalaması) n buyudukce anakutle ortalamasına yakınsar.Xn = 1

n(X1 +X2 + . . .+Xn) orneklem ortalaması olsun. Buyuksayılar yasasına gore

n −→ ∞, Xn −→ µ

Baska bir deyisle, istedigimiz kadar kucuk secebilecegimiz ε gibipozitif herhangi bir sayı icin:

limn→∞

|Xn − µ| < ε]

MERKEZI LIMIT TEOREMI ORNEK

X1,X2, . . . ,X12 birbirinden bagımsız ve herbiri U ∼ (0, b), b > 0dagılımına sahip rassal degiskenler olsun. Merkezi Limit Teoreminikullanarak P ( b4 < X < 3b

4 ) olasılıgının yaklasık 0.9973 oldugunugosterelim.CEVAP: Bu 12 bagımsız r.d. uniform anakutleden geldigine goreonce anakutledeki ortalama ve varyansı bulmamız gerekir.Uniform(a, b) dagılım icin beklenen deger ve varyans

µx =b+ a

2, σ2

x =(b− a)2

olduguna gore, ornegimizde

µx =b

2, σ2

MERKEZI LIMIT TEOREMI: Ornek

Var(X) =σ2x

CEVAP (devam): MLT’yi kullanarak:

4< X <

b4 − b

<X − µx√

σ2x/n

<3b4 − b

= P (−3 < Z < 3) = Φ(3)− (1− Φ(3))

= 0.99865 − (1− 0.99865) = 0.9973

Student t Dagılımı

TANIM: Z ve Y su sekilde dagılan birbirinden bagımsız iki r.d.olsun: Z ∼ N(0, 1), ve Y ∼ χ2

ν . Asagıda tanımlanan r.d. νserbestlik derecesi ile Student t Dagılımına uyar.

tν =Z

Y/ν∼ tν

tν rassal degiskeni ν s.d. ile Student t dagılımına uyar. Buradaki νs.d. paydada yer alan ki-kare r.d.’nin serbestlik derecesidir.

ν serbestlik derecesine sahip Student t Dagılımının o.y.f.:

f(t) =Γ(

Γ(ν/2)√πν

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞

Tek parametreli (ν) ve simetrik bir dagılımdır. E(tν) = 0 veν ≥ 3 icin Var(tν) = ν/(ν − 2)

ν → ∞, tν → N(0, 1)

Izleyen grafikler cesitli s.d.ne sahip t yogunluklarını std normalile karsılastırmalı olarak gostermektedir.

tν =Z

Y/ν∼ tν

f(t) =Γ(

Γ(ν/2)√πν

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞

ν → ∞, tν → N(0, 1)

tν =Z

Y/ν∼ tν

f(t) =Γ(

Γ(ν/2)√πν

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞

ν → ∞, tν → N(0, 1)

tν =Z

Y/ν∼ tν

f(t) =Γ(

Γ(ν/2)√πν

(1 + (t2/ν))(ν+1)/2, −∞ < t < ∞

ν → ∞, tν → N(0, 1)

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

Standart Normaltν ν=1

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

tν ν=3

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

tν ν=3

tν ν=4

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

tν ν=3

tν ν=4

tν ν=5

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

tν ν=3

tν ν=4

tν ν=5

tν ν=10

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

tν ν=3

tν ν=4

tν ν=5

tν ν=10

tν ν=20

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

tν ν=2

tν ν=3

tν ν=4

tν ν=5

tν ν=10

tν ν=20

tν ν=30

Olasılıkların hesaplanması:tν , ν s.d. ile Student t dagılımına uyan bir rassal degikeni ifadeetsin. tν,α asagıdaki esitligi saglayan sayı olarak tanımlanır:

P (tν > tν,α) = α

Ornegin ν = 5 ve α = 0.05 icin yukarıdaki esitligi saglayan sayıtν,α = 2.015’dir:

P (t5 > 2.015) = 0.05

Standart Normal dagılımla karsılastırırsak:

P (Z > 2.015) ≈ 1− 0.9781 = 0.0219

Ya da esik degerlerini karsılastırırsak:

P (Z > 1.645) = 0.05

Burada 2.015 > 1.645 olduguna dikkat edin. Genel olaraktν,α ≥ zα yazılabilir. P (Z > zα) = α oldugunu hatırlayın.

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.45 s.d. Student t dagilimi

1−αP(t

5>2.015)=α=0.05

STUDENT t DAGILIMI

Olasılıkların hesaplanması:Kucuk orneklemlerde Student t dagılımı Normal Dagılıma goredaha yayvandır. Bu nedenle kuyruk olasılıkları daha buyuktur. νbuyudukce bu olasılıklar birbirine yaklasır. Ornegin ν = 60 icin

P (t60 > 1.671) = 0.05, ve P (Z > 1.671) =≈ 1−0.9525 = 0.0475

Yani, ν → ∞, tν,α → zα

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.45 s.d. t dagilimi ve standard normal dagilim

Std Normal

STUDENT t DAGILIMI

Olasılıkların hesaplanması (Ek Cizelge 6, s.941):ν serbestlik derecesine sahip bir t rassal degiskeninin %100(1 − α)olasılıkla icinde yer alacagı iki deger bulmak istiyoruz. t esikdegerleri tablosundan ve simetri ozelliginden hareketle

tν > tν,α/2)

2, ve P

tν < −tν,α/2)

Olasılık parantezi icinde yer alan olaylar birbiriyle bagdasmaz vebutunu kapsayıcı olduguna gore:

P (−tν,α/2 < tν < tν,α/2) = 1− P (tν > tν,α/2)− P (tν < −tν,α/2)

= 1− α

2− α

2= 1− α

Ornegin ν = 10 ve 1− α = 0.95 icin t10,0.025 = 2.228,P (t10 > 2.228) = 0.025 ve P (t10 < −2.228) = 0.025, buradan

P (−2.228 < t10 < 2.228) = 1− 0.025 − 0.025 = 0.95

t Dagılımı

−5 −4 −3 −2 −1 0 1 2 3 4 50

0.410 s.d. Student t dagilimi

2.228−2.228

1−α = 0.95α = 0.025α = 0.025

P(−2.228<t10

<2.228) = 1−α

Ki-kare Dagılımı

Standart normal dagılan bir rassal degiskenin karesi 1serbestlik derecesi ile ki-kare dagılımına uyar:

If Z ∼ N(0, 1) then Z2 ∼ χ21

Birbirinden bagımsız n standart normal rassal degisken nserbestlik derecesi ile ki-kare dagılımına uyar:

If Zi ∼ i.i.d. N(0, 1) i = 1, 2, . . . , n thenn∑

Z2i ∼ χ2

Ki-kare dagılımının bir parametresi vardır: ν (nu) serbestlikderecesi. χ2

ν icin olasılık yogunluk fonksiyonu:

f(x) =1

2ν/2Γ(ν/2)xν/2−1e−x/2, x > 0, ν > 0

where Γ: gamma fonksiyonu:

Γ(α) =

∫ ∞

0xα−1e−xdx, α > 0

Ki-kare Dagılımı

If Z ∼ N(0, 1) then Z2 ∼ χ21

Z2i ∼ χ2

f(x) =1

2ν/2Γ(ν/2)xν/2−1e−x/2, x > 0, ν > 0

Γ(α) =

∫ ∞

Ki-kare Dagılımı

If Z ∼ N(0, 1) then Z2 ∼ χ21

Z2i ∼ χ2

f(x) =1

2ν/2Γ(ν/2)xν/2−1e−x/2, x > 0, ν > 0

Γ(α) =

∫ ∞

Ki-kare Dagılımı

χ2ν , ν serbestlik derecesi ile ki-kare dagılan bir rassal degisken

olsun. Bu rassal degiskenin beklenen deger ve varyansı:

E(χ2ν) = ν ve Var(χ2

ν) = 2ν

Normal dagılan bir populasyon icin:

(n− 1)s2

∑ni=1(Xi −X)2

σ2∼ χ2

Serbestlik derecesi: n ortalamadan sapma, (Xi −X), bilgisi(n− 1) matematiksel bagımsız bilesene esdegerdir.

Ki-kare Dagılımı

ν) = 2ν

(n− 1)s2

∑ni=1(Xi −X)2

σ2∼ χ2

Ki-kare Dagılımı

ν) = 2ν

(n− 1)s2

∑ni=1(Xi −X)2

σ2∼ χ2

Ki-kare Dagılımı

Saga carpık bir dagılımdır. Yani sag kuyrugu sol kuyruga goredaha uzundur. Bu nedenle ucuncu momenti pozitiftir.

Serbestlik derecesi parametresi ν buyudukce daha simetrikdagılır. Limitte normal dagılıma yakınsar.

Ki-kare olasılıkları uygun tablolar ya da bilgisayar aracılıgıylakolayca hesaplanabilir.

Ki-kare Dagılımı

Ki-kare dagılımı

0 5 10 15 20 25 300

0.5ν serbestlik dereceli ki−kare dagilimi

ν = 2

ν = 4

ν = 6

ν = 12

Ki-kare dagılımı

0 5 10 15 20 25 300

0.1ν=10 serbestlik dereceli ki−kare dagiliminin olasilik yog.fonks.

f(χ 1

χ2(10)

P(χ102 >15.99) = 0.10

F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2

birbirinden bagımsız ki-kare dagılımınauyan iki rassal degisken olsun:

Asagıda tanımlanan rassal degisken k1 ve k2 serbestlikdereceleri ile F dagılımına uyar:

F =X1/k1X2/k2

∼ F (k1, k2)

F dagılımının iki parametresi vardır:

k1 payın serbestlik derecesi

k2 paydaın serbestlik derecesi

F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2

F =X1/k1X2/k2

∼ F (k1, k2)

F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2

F =X1/k1X2/k2

∼ F (k1, k2)

F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2

F =X1/k1X2/k2

∼ F (k1, k2)

F Dagılımı

X1 ∼ χ2k1

ve X2 ∼ χ2k2

F =X1/k1X2/k2

∼ F (k1, k2)

F Dagılımı

0 1 2 3 4 50

F(2,8)F(6,8)F(6,20)F(10,30)

istatistik i: olasılık ve dagılım teorisi kavramlarının...

Documents

graf teorİsİ

kirpi teorisi

olasılık ve İstatistik - Örnek sorular

kısıtlar teorisi

temel tanımlar ve kavramlar-iii - mehmet...

difüzyon teorisi

ir teorisi

olasılık teorisi ve rastgele degiskenler sık kullanilan...

kuantum teorisi

olasılık ve olay Çeşitleri

para teorisi

olasılık kuramı

belirsizlik ve sigorta olgusu · 2005-06-03 · 2...

talep teorisi

olasılık ve İstatistik - erzurum atartürk Üniversitesi...

matematik 8.sınıf olasılık

olasılık ve normal dağılım -...

otomata teorİsİ

üretici teorisi

olasılık ve İstatistik - bazı kesikli olasılık...