anareg fix
TRANSCRIPT
-
8/17/2019 Anareg Fix
1/25
H u b u n g a n A n t a r
V a r i a b e l
H u b u n g a n F u n g s i o n a l /
M a t e m a t i s
H u b u n g a n S e c a r a
S t a t i s t i k
M o d e l
L i n i e r
M o d e l
R e r e s i
M o d e l E x p .
D e s i n
D l
l
M o d e l o n
L i n i e r
! n t r i n s i
k
o n
! n t r i n s i k
ANALISIS REGRESI
Analisis regresi merupakan alat statistik "ang meman#aatkan $ubungan antara
dua atau lebi$ %ariabel kuantitati# se$ingga sala$ satu %ariabel dapat diprediksi dari
%ariabel "ang lain. &onto$n"a' (ika diketa$ui $ubungan antara bia"a iklan dan pen(ualan'
maka dapat diperkirakan nilai pen(ualan berdasarkan analisis regresi dengan bia"a iklan
"ang ditentukan.
Secara umum' $ubungan antar %ariabel dapat digambarkan sebagai berikut )
REGRESI DAN KORELASI
Persamaan : *eduan"a mempela(ari $ubungan antar %ariabel
REGRESI
• Mempela(ari bentuk $ubungan antar %ariabel melalui suatu persamaan +RLS' RL,'
Regresi non Linier-. Hubungan bisa berupa $ubungan sebab akibat
• Dapat mengukur seberapa besar suatu %ariabel mempengaru$i %ariabel lain
• Dapat digunakan untuk melakukan peramalan nilai suatu %ariabel berdasarkan
%ariabel lain
KORELASI
• Mempela(ari keeratan $ubungan antar %ariabel kuantitati# "ang bisa dili$at dari
besarn"a angka' bukan tandan"a• Dapat mengeta$ui ara$ $ubungan "ang ter(adi +berbanding lurus (ika tandan"a
positi#' dan berbanding terbalik (ika tandan"a negati#-
• ilain"a berkisar 0 sampai dengan 0
• 1idak bisa men"atakan $ubungan sebab akibat
-
8/17/2019 Anareg Fix
2/25
2Korelasi yang tinggi tidak selalu berarti baha suatu !ariabel
menyebabkan"mem#engaruhi !ariabel yang lain$&onto$ )+0- 3 kematian karena kekeringan di musim panas
3 so#t drink "ang dikonsumsi di musim panasHigh positive correlation
Apaka$ so#t drink men"ebabkan kematian44
%ARIA&EL &E&AS 'INDEPENDEN() DAN %ARIA&EL (AK &E&AS 'DEPENDEN()• Dependent Variable/ Variabel 1ak ,ebas +5- ) Variabel "ang nilain"a ditentukan
ole$ %ariabel lain. Diasumsikan bersi#at random/stoc$astic.
• Independent Variable/Variabel ,ebas +6- ) Variabel "ang nilain"a ditentukan
secara bebas +%ariabel "ang diduga mempengaru$i %ariabel tak bebas-.
Diasumsikan bersi#at 7xed/non stoc$astic.
• Syarat : 5) ,er(enis data kuantitati# 6) ,er(enis data kuantitati# atau kualitati#/kategorik
• 8enis data untuk 5)
Data obser%asiDiperole$ tanpa melakukan kontrol ter$adap %ariabel 6 9 tidak kuat
men"atakan $ubungan sebabakibat Data Eksperimen
Diperole$ dengan melakukan kontrol ter$adap %ariabel 6 9 dapat
men"atakan $ubungan sebabakibat
KONSEP DASAR
:ada suatu nilai 6 tertentu akan terdapat ban"ak kemungkinan nilainilai 5 +5
akan terdistribusi mengikuti suatu #ungsi peluang tertentu9diasumsikan
berdistribusi normal- dengan nilai ratarata E+5- dan nilai %arians σ 2
tertentu
ilai ratarata E+5- diasumsikan beruba$ secara sistematik mengikuti peruba$an
nilai 6' "ang digambarkan dalam bentuk garis linier
ilai %arians σ 2
pada setiap nilai 6 akan sama
• 1a$apanta$apan dalam analisis regresi)0. !denti7kasi dan pembentukan model. :endugaan parameter model;. :engu(ian keberartian parameter
-
8/17/2019 Anareg Fix
3/25
Menggunakan scatter plot/diagram pencar )• ,erguna untuk mengidenti7kasi model $ubungan antara %ariabel 6 dan 5
• ,ila pencaran titiktitik pada plot ini menun(ukkan adan"a suatu
kecenderungan +trend- "ang linier maka model regresi linier la"ak
digunakan. ,ila bentuk pencarann"a parabola maka regresi kuadratik "ang
la"ak digunakan' dan sebagain"a. ,eberapa conto$ model regresi linier +linier artin"a linier dalam parameter-)
• Regresi Linier Seder$ana +RLS- )Y i= βo+ β1 X i+εi
• Regresi Linier ,erganda +RL,-)Y i= βo+ β1 X i1+ β2 X i2+…+ β p−1 X i , p−1+εi
• Regresi :olinomial =rdo dengan 0 %ariabel bebas)
Y = βo+ β1 X 1+ β2 X 12+ε
• Regresi :olinomial =rdo dengan %ariabel bebas dan interaksi )
Y = βo+ β1 X 1+ β2 X 2+ β3 X 12+ β4 X 2
2+ β5 X 1 X 2+ε
• dll
REGRESI LINIER SEDER,ANA
+odel :Y i= βo+ β1 X i+εi
- βo dan
β1 disebut (uga koe7sien regresi' βo merupakan intercept dan
β1 merupakan slope/kemiringan "ang men"atakan peruba$an nilai 5 untuk
setiap peruba$an satu satuan 6. 1anda dari slope ini sekaligus menun(ukkan ara$$ubungan antara 5 dan 6 apaka$ berbanding lurus +positi#- atau berbanding
terbalik +negati#-.
Asumsi )
0.0
ε N ¿ ' σ 2 I ¿ 9 nilai $arapan nol' normalitas' $omoskedastisitas
. X non−st ochastic
;. Cov ( εi , ε j )=0→non−autokorelasi
Se$ingga )
E {Y i }= βo+ β1 X i dan Var {Y i}=Var {εi }=σ 2
.
*arenaY i merupakan kombinasi linier dari εi maka Y i (uga berdistibusi normal.
βo+ β1 X i , σ 2
Y i N ¿ - untuk i>0''?'n.Y i dan Y j (uga tidak berkorelasi untuk i ≠ j .
Estimasi :arameter
-
8/17/2019 Anareg Fix
4/25
•
X i
∑ ¿¿¿2¿
¿¿ X i
2−¿
∑ ¿
^ β1=
1=
s !"s !!
=∑ X i Y i−
∑ X i∑Y in
¿
E {1 }= β1 @ Var {1 }= σ
2
∑ ( X i− ´ X )2 @s2 {1 }=
#$E
∑ ( X i− ´ X )2
1−% CI ¿ -
100 untuk
β1:
1−t (1−% 2 & n−2)s {1 }' β1' 1+t (1−
%
2& n−2)s {1 }
•
^ β0=0=Ý −1 ´ X
E {0 }= β0 @ Var {0 }=σ 2
[ 1
n+
´ X 2
∑( X i− ´ X )2
] @
s2 {0 }= #$E[ 1n+
´ X 2
∑ ( X i− ´ X )2 ]1−% CI ¿ -
100 untuk β
0:
0−t (1−% 2 & n−2)s {0 } ' β0 '0+ t (1−
%
2& n−2)s {0 }
•
^σ 2=s2= #$E=
∑ ei2n−2
= $$E
n−2
E { #$E }=σ 2
$$E=∑Y i2−0∑ Y i 1∑ X i Y i
-
8/17/2019 Anareg Fix
5/25
∑ ( X i− ´ X )(Y i−Ý )¿2¿¿
Y i−Ý ¿2−¿
¿
¿∑ ¿
• Estimasi !nter%al untuk E {Y h } )
Ŷ h=o+1 X h
E Ŷ h }= E {Y h } @ Var {Ŷ h}=σ 2[ 1n + ( X h−
´ X )2
∑( X i− ´ X )2 ] @
s2 {Ŷ h}= #$E [ 1n+ ( X h−
´ X )2
∑ ( X i− ´ X )2 ]1−% CI ¿ -
100 untuk E {Y h }:
Ŷ h−t (1−% 2 & n−2) s {Ŷ h}' E {Y h }' Ŷ h+ t (1−%
2& n−2)s {Ŷ h}
• :rediksi untuk =bser%asi ,aru +:rediction !nter%al-)
Ŷ h(ne()−t (1−% 2 & n−2)s {Ŷ h(ne()}' Y h (ne()' Ŷ h(ne()+t (1−%
2& n−2)s {Ŷ h (ne() }
s2 {Ŷ h(ne()}= #$E [1+ 1n + ( X h−
´ X )2
∑ ( X i− ´ X )2 ]:engu(ian Hipotesis
0. Ho ) β
1=0
+ 6 tidak mempengaru$i 5 atau tidak terdapat asosiasi linear
antara 6 dan 5-
H0 ) β1≠0 +6 mempengaru$i 5 atau terdapat asosiasi linear antara 6 dan 5-
Statistik (i )
t ¿=
1
s {1 }
*riteria :enolakan ) 1olak Ho (ika B t ¿∨¿ t (1−% /2 & n−2 )
. Ho ) β
1'0
H0 ) β1>0
-
8/17/2019 Anareg Fix
6/25
Statistik (i )
t ¿=
1
s {1 }
*riteria :enolakan ) 1olak Ho (ika t ¿>t (1−% & n−2 )
;. Ho ) β
1= β
10
H0 ) β
1≠ β
10
Statistik (i )
t ¿=
1− β
10
s {1 }
*riteria :enolakan ) 1olak Ho (ika B t ¿∨¿ t (1−% /2 & n−2 )
ANO%A
Sour.e
o/ %ariatio
n
SS d/ +S E0+S1
Regressio
n
SSR> 12∑ ( X i− ´ X )2
0
MSR>
$$)
1
σ 2+ β1
2∑ ( X i− ´ X )2
ErrorSSE > ∑Y i
2−0∑ Y i
1∑ X i Y i
n MSE>
$$En−2
σ 2
1otalSS1 > ∑ (Y i−Ý )
2 n0
*oe7sien Determinasi ) )
2= $$)
$$* 9 mengukur proporsi keragaman total
dari nilai obser%asi 5 di sekitar rataann"a "ang dapat diterangkan ole$ garis
regresin"a atau %ariabel bebas "ang digunakan. ilain"a ) 0' )2
' 1 ' makin
mendekati 0 berarti model regresi "ang digunakan makin tepat/baik.
*oe7sien korelasi )
r > +√ )2
-
8/17/2019 Anareg Fix
7/25
X i
∑i=1
n
¿
¿¿2
¿Y i
∑i=1
n
¿
¿¿2¿
Y i2−¿¿
X i2−¿
n∑i=1
n
¿
√ ¿
r=
n∑i=1
n
X i Y i−∑i=1
n
X i∑i=1
n
Y i
¿
1=( sY s X )r
Diagnosa/:emeriksaan Asumsi Menggunakan Cra7k)• Diagnosa untuk Variabel !ndependen )
,ox :lot9 Cunan"a untuk meli$at outlier' distribusi data +ex)
skeness-' dll 1ime :lot9 Memeriksa apaka$ data diperole$ secara acak atau
berdasarkan urutan aktu Stem and Lea# :lot9meli$at apaka$ distribusi data simetris atau tidak Dot :lot9meli$at apaka$ ada obser%asi "ang terlalu sedikit dalam
kumpulan data
• Diagnosa untuk Residual + e i¿
ntuk mengu(i ba$a #ungi regresi linear cocok untuk data "ang
dianalisis' digunakan plot antara e i dan 6 atau bisa leat scatter
plot. 8ika pencaran titiktitik "ang terbentuk tersebar secara acak di
sekitar nol' maka asumsi linieritas terpenu$i. ntuk mengu(i ba$a %arians error adala$ konstan +$omoskedastis-
digunakan plot antaraei dan Ŷ i . 8ika polan"a acak membentuk
sabuk "ang lurus maka asumsi $omoskedastisitas terpenu$i.
-
8/17/2019 Anareg Fix
8/25
ntuk mengu(i ba$a error bersi#at independen +nonautokorelasi-
digunakan plot antaraei dengan aktu +time plot dari residual-
ntuk meli$at beberapa obser%asi "ang outlier digunakan ,ox :lot dari
residual atau plot antara standardied residuals + e i /√ #$E - dengan
6 ntuk mengu(i ba$a error berdistribusi normal digunakan normal
probabilit" plot dari residual. 8ika pencaran titiktitikn"a membentuk
atau mendekati suatu garis linier maka asumsi normalitas terpenu$i.
-
8/17/2019 Anareg Fix
9/25
1.00.80.60.40.20.0ObservedCumProb
1.00.80.60.40.20.0
• (i Lack o# Fit(i ini merupakan u(i #ormal untuk menentukan apaka$ #ungsi regresi
tertentu cocok untuk data. (i ini memerlukan pengulangan obser%asi pada
satu atau lebi$ le%el 6.
Ho ) E {Y }= β
0+ β
1 X
H0 ) E {Y }≠ β
0+ β
1 X
ANO%A
Sour.e
o/ %ariatio
n
SS d/ +S E0+S1
Regressio
n
SSR> 12∑ ( X i− ´ X )2
0
MSR>
$$)
1
σ 2+ β1
2∑ ( X i− ´ X )2
ErrorSSE > ∑Y i
2−0∑ Y i
1∑ X i Y i
n MSE>
$$E
n−2
σ 2
Lack o#
Fit
SSLF > SSE SS:E c MSLF
:ure
error SS:E> ∑
j
∑i
(Y ij−Ý j)2 nc MS:E
1otalSS1 > ∑ (Y i−Ý )
2 n0
¿=
$$-
c−2: $$E
n−c
-
8/17/2019 Anareg Fix
10/25
¿ #$-
#$E
*riteria :enolakan )
8ika ¿
' (1−% & c−2,n−c ) maka terima Ho
8ika ¿> (1−% & c−2,n−c ) maka tolak Ho
Dimana ) c > ban"ak le%el 6n > ban"ak obser%asi
REGRESI LINIER &ERGANDA
+odel :Y i= βo+ β1 X i1+ β2 X i2+…+ β p−1 X i , p−1+εi
8ika din"atakan dalam bentuk matriks dan %ektor )
2 3 45 6 ε
Y n!1=[Y 1Y
2
⋮
Y n] X n!p=[
1 X 11
X 12
⋯ X 1, p−1
1 X 21 X 22 ⋯ X 2, p−1
⋮
1
⋮
X n1
⋮ ⋱ ⋮
X n2 … X n , p−1]
β p!1=
[ β0
β1⋮
β p−1] εn! 1=
[ε1
ε2⋮
εn]Asumsi )
0.0
ε N ¿ ' σ 2 I ¿ 9 nilai $arapan nol' normalitas' $omoskedastisitas
. X non−stoc h astic
;. Cov ( εi , ε j )=0→non−autokorelasi
-
8/17/2019 Anareg Fix
11/25
• Estimasi :arameter
=( X / X )−1 X / Y
^
Y = X β ,( X / X )−1 σ 2
N ¿ -
1−% CI ¿ -
100 untuk β j :
j−t (1−% 2 & n− p)s { j }' β j ' j+t (1−%
2& n− p)s { j }
•
^σ 2=s2= #$E=
∑ ei2n− p
= $$E
n− p
E { #$E}=σ 2
$$* =Y / Y −(1n )Y / 0Y $$E=Y / Y −/ X / Y
$$)= / X / Y −(1n )
Y / 0Y
Dimana 8 adala$ matriks berukuran nxn "ang elemenn"a 0 semua.
•
1−% CI ¿ -
100 untuk E {Y h }:
Ŷ h−t (1−% 2 & n− p) s {Ŷ h}' E {Y h }' Ŷ h+ t (1−%
2& n− p)s {Ŷ h}
X h/ ( X / X ¿−1 X h)
s2
{^Y h}= #$E ¿
X h=[ 1
X h1
⋮
X h , p−1]
Pengu7ian ,i#otesis
Pengu7ian Simultan
Ho )
β1¿ β2=…= β p−1=0 +tidak terdapat $ubungan regresi antara %ariabel
bebas dan %ariabel tak bebas-
-
8/17/2019 Anareg Fix
12/25
H0 ) 1idak semua β j=0( j=1,2,… , p−1) +terdapat $ubungan regresi antara
%ariabel bebas dan %ariabel tak
bebas-
Statistik (i )
¿=
#$)
#$E
*riteria :enolakan )
8ika ¿
' (1−% & p−1,n− p ) maka terima Ho
8ika ¿> (1−% & p−1,n− p ) maka tolak Ho
ANO%A
Sour.e o/ %ariation
SS d/ +S
Regression
$$)= / X / Y −
(1
n
)Y
/ 0Y
p0 MSR>
$$)
p−1
Error $$E=Y / Y −/ X / Y npMSE>
$$E
n− p
1otal$$* =Y / Y −( 1n )Y / 0Y
n0
*oe7sien Determinasi ) )
2= $$)
$$*
Ad(usted )
2=1−( n−1n− p ) $$E
$$*
*oe7sien determinasi parsial )
rY 1.232 =
$$)( X 1∨ X 2 , X 3)$$E ( X
2, X
3)
rY 2.132 =
$$)( X 2∨ X 1 , X 3)
$$E ( X 1
, X 3)
rY 3.122 =
$$)( X 3∨ X 1 , X 2)$$E ( X
1, X
2)
rY 4.1232 =
$$)( X 4∨ X 1 , X 2, X 3)$$E( X 1, X 2 , X 3)
Pengu7ian Parsial
Ho ) β j=0 + 6 ( tidak mempengaru$i 5-
H0 )
β j ≠0 +6 ( mempengaru$i 5-
Statistik (i )
-
8/17/2019 Anareg Fix
13/25
t ¿=
j
s { j}
*riteria :enolakan ) 1olak Ho (ika B t ¿∨¿ t (1−% /2 & n− p )
87i La.k o/ *it(i ini merupakan u(i #ormal untuk menentukan apaka$ #ungsi regresi
tertentu cocok untuk data. (i ini memerlukan pengulangan obser%asi pada
satu atau lebi$ le%el 6.
Ho ) E {Y }= βo+ β1 X 1+ β2 X 2+…+ β p−1 X p−1
H0 ) E {Y }≠ βo+ β1 X 1+ β2 X 2+…+ β p−1 X p−1
ANO%A
Sour.e o/
%ariation
SS d/ +S
Regression$$)= / X / Y −( 1n )Y / 0Y p0 MSR> $$) p−1
Error $$E=Y / Y −/ X / Y npMSE>
$$E
n− p
Lack o# Fit SSLF > SSE SS:E cp MSLF:ure error
SS:E> ∑
j
∑i
(Y ij−Ý j)2 nc MS:E
1otal$$* =Y / Y −(
1
n )Y / 0Y
n0
¿=
$$-
c− p :
$$E
n−c
¿ #$-
#$E
*riteria :enolakan )
8ika
¿
' (1−% & c− p , n−c ) maka terima Ho
8ika ¿> (1−% & c− p , n−c ) maka tolak Ho
Dimana ) c > ban"ak le%el 6n > ban"ak obser%asi
REGRESI DENGAN %ARIA&EL &E&AS K8ALI(A(I*"KA(EGORIK
Dibuat indicator %ariable/dumm" %ariable' "aitu %ariabel "ang mengkuantitati#kan
data kualitati#' dengan kode atau 0.
,ila satu %ariabel bebas memiliki k kategori maka akan dibuat seban"ak +k0- dumm"
%ariable' "ang masingmasing bernilai atau 0
Selan(utn"a' pendugaan dan pengu(ian parameter caran"a sama dengan regresi
berganda
-
8/17/2019 Anareg Fix
14/25
PE+ILI,AN +ODEL REGRESI (ER&AIK
Backward Elimination
Mulai dengan model lengkap' kemudian %ariabel independent "ang ada die%aluasi'
(ika ada "ang tidak signicant dikeluarkan "ang paling tidak signicant ' dilakukan
terus menerus sampai tidak ada lagi %ariabel independent "ang tidak signicant .
Forward Elimination
Variabel independent "ang pertama kali masuk ke dalam model adala$ %ariabel "ang
mempun"ai korelasi tertinggi dan signicant dengan %ariabel dependent ' %ariabel
"ang masuk kedua adala$ %ariabel "ang korelasi parsialn"a dengan %ariabel
dependent adala$ tertinggi kedua dan masi$ signicant ' dilakukan terus menerus
sampai tidak ada lagi %ariabel independent "ang signicant
Stepwise Elimination
Cabungan antara metode forward dan backward' %ariabel "ang pertama kali masuk
adala$ %ariabel "ang korelasin"a tertinggi dan signi7cant dengan %ariabel dependent '
%ariabel "ang masuk kedua adala$ %ariabel "ang korelasi parsialn"a tertinggi dan
masi$ signicant ' setela$ %ariabel tertentu masuk ke dalam model maka %ariabel
lain "ang ada di dalam model die%aluasi' (ika ada %ariabel "ang tidak signicant maka%ariabel tersebut dikeluarkan. !lustrasin"a sebagai berikut )
Putaran 9:
Putaran :
"ola# $%
-
8/17/2019 Anareg Fix
15/25
REGRESI POLINO+IAL
4035302520 15.010.05.00.0-5.0-10.0-15.0
std #o1el :Y i= β0+ β1 !i+ β11 !i
2+εi
Dimana ) ! i= X i− ´ X
=( X / X )−1 X / Y
+etode Doo;Little
X / X =
[
n ∑ !i ∑ !i2
∑ !i ∑ ! i2 ∑ !i3
∑ !i
2
∑ !i
3
∑ !i
4
]
X / "=
[
∑ " i∑ !i " i
∑ !i
2
"i
]
'langi proses di atasuntu# () sampai didapat#an model terbai#
-
8/17/2019 Anareg Fix
16/25
2=∑ !i3−´ !∑ !i2
∑ !i2−´ !∑ !i 3=
∑ ! i " i−´ !∑ " i∑ !i2−´ !∑ ! i
C =∑ ! i4− (∑
!i
2
)
2
n − 2 (∑ !i3−´ !∑ ! i
2
)
4=∑ !i2 "i−∑ !i2
n ∑ "i− 2 (∑ !i " i−´ !∑ " i )
2= 4 /C
1=3− 2
2 0=´ "−´ ! 1−∑ ! i2
n
2
ANO%A
Sour.e o/ %ariation
d/ +S
Regressionx
!2∨ !
00
SSR+x->
3 (∑ ! i " i−´ !∑ " i)
SSR+ !2∨ !¿ > 4
2/C
Error n; SSE 1otal n0
SS1> ∑ "i
2
−n ́"2
5 0: β
1=0
+linier-
¿=
$$)( !)/1
($$E+$$) ( !2| ! ))/(n−2) (1,n−2)
5 0: β11=0 +kuadratik-
¿=
$$) ( !2| ! )/1
$$E/ (n−3)
(1,n−3)
5 0: β1= β11=0 +o%erall test-
¿=
[$$) ( !)+$$) ( !2| ! )]/2$$E/(n−3)
(2,n−3)
1olak Ho (ika ¿> tael
POLINO+IAL ORDO
-
8/17/2019 Anareg Fix
17/25
11010510095
20100-10-20 td #o1el :Y i= β0+ β1 !i+ β11 !i2+ β111 ! i3+ε i 2=∑ !i3−´ !∑ !i2∑ !i2−´ !∑ !i3=∑ !
i4
−´ !∑ !i3
∑ !i2−´ !∑ !i
C =∑ ! i " i−´ !∑ " i∑ ! i2−´ !∑ ! i
4=∑ !i4−(∑ !i2 )
2
n − 2 (∑ ! i3−´ !∑ ! i2)
E=∑ !i5−∑ ! i3∑ ! i2
n − 2 (∑ !i4−´ !∑ ! i3)
=∑ ! i2 " i−∑ ! i2
n ∑ " i− 2 (∑ !i " i−´ !∑ " i )
6=
∑ !
i
6−(∑ !i3 )
2
n −3
(∑ !
i
4−´ !
∑ !
i
3
)−
E2
4
-
8/17/2019 Anareg Fix
18/25
5 =∑ ! i3 " i−∑ !i3∑ " i
n −3 (∑ ! i " i−´ !∑ " i )−
E
4
3= 5 /6
@
2=
4
− E
4
3
@
1=C − 2
2−3
3
0=´ "−´ ! 1−(∑ !i /n) 2−(∑ !i3 /n )3
ANO%A
Sour.e o/ %ariation
d/ +S
Regression
x
!2∨ !
!3∨ ! , !2
000
SSR+x->
C (∑ !i " i−´ !∑ " i)
SSR+ !2∨ !¿ >
2/ 4
SSR+ !3∨ ! , !2¿ >
5 2/6
Error n< SSE 1otal n0
SS1> ∑ " i2−n ́"2
5 0: β1=0 +linier-
¿=
$$)( ! )/1
[$$) ( !2| ! )+$$) ( !3| ! , !2 )+$$E]/(n−2) (1,n−2)
5 0: β11=0 +kuadratik-
¿=
$$) ( !2| ! )/1[$$) ( !3| ! , !2 )+$$E ]/(n−3)
(1,n−3)
5 0: β
111=0
+kubik-
¿=
$$) ( !3∨ ! , !2)/1$$E /(n−4)
(1,n−4)
5 0: β
1= β
11= β
111=0
+o%erall test-
¿=
[$$) ( !)+$$) ( !2| ! )+$$)( !3∨ ! , !2)]/3$$E /(n−4)
(3,n−4)
1olak Ho (ika ¿> tael
+E+&ANDINGKAN D8A GARIS REGRESI
-
8/17/2019 Anareg Fix
19/25
" i j= β0 j+ β1 j ! i j+ε i j & i=1,2,… , n j
j=1,2
• 1a$apta$ap pengu(ian )0. Masingmasing kelompok amatan dilakukan pengu(ian A=VA dan membentuk
persamaan regresi' diperole$ SSE+0- dan SSE+-. SSE+F->SSE+0-GSSE+-. *edua kelompok amatan digabungkan dan dilakukan pengu(ian dan meng$asilkan
satu persamaan regresi "ang baru' diperole$ SSE+R-.;. :engu(ian simultan )
5 0: β
01= β
02 dan β11= β12
5 1: β
01≠ β
02 atau β
11≠ β
12 atau keduan"a
¿=
$$E ( ) )−$$E ( )17 )−17 /$$E ( )
17 (17 )−17 , 17 )
1olak Ho (ika ¿> tael
-
8/17/2019 Anareg Fix
20/25
Sour.e o/ %ariation
d/ +S
Regression
!1i
1∨ !1 i
!1i 1∨ !1 i , 1
00
0
SSR+ !
1i -
SSR+ 1∨ !
1 i¿
SSR+ !1i 1∨ !1 i , 1 ¿
Error n< SSE 1otal n0
SS1> ∑ " i2−n ́"2
:engu(ian simultan ) 5 0: β2= β3=0
5 1: a1aβ j≠0 (>';
¿ ¿=¿/2 ¿$$E /(n−4)
(2,n−4)
8ika keputusan 1olak Ho berarti terdapat perbedaan intercept atau slope
:erbedaan intercept 5
0: β
2=0
5 1: β
2≠0
¿= [$$) (1∨ !1 i )]/1
[$$) ( !1 i 1∨ !1 i , 1 )+$$E ] /(n−3) (1,n−3)
8ika keputusan 1olak Ho berarti terdapat perbedaan intercept
:erbedaan slope 5
0: β
3=0
5 1: β3 ≠0
¿
=
[$$) ( !1i 1∨ !1 i ,1 )]/1
$$E/(n−4) (1,
n−4)
8ika keputusan 1olak Ho berarti terdapat perbedaan slope
(olak ,o 7ika ¿> tael
S(ANDARDI=ED +8L(IPLE REGRESSION +ODEL
"i= βo+ β1 X i1+ β2 X i2+…+ β p−1 X i ,( p−1)+εi
Ditrans#ormasi men(adi )
-
8/17/2019 Anareg Fix
21/25
" / i= β / 1 X / i1+ β / 2 X / i2+…+ β / p−1 X / i ,( p−1)+εi
dimana )
"i/
= " i−´ "
s " @ !ik
/
= ! ik −´ !k
sk
s "=√∑ ( "i−´ " )
2
n−1 @sk =√∑ (
!i−´ ! )2
n−1
Dengan trans#ormasi korelasi )
"i/ =
1
√ n−1 (
" i−´ "
s "
) @
! ik / =
1
√ n−1(
! ik −´ !k
sk
)Sistem :ersamaan ormal )
X
(¿¿ / X )= X / "¿
X / "=r "!=
[
r "1r "2
⋮
r " ( p−1 )
] X
/ X =r !!=[
1 r12 r13 ⋯ r1( p−1)
r12
1 r23
⋯ r2( p−1)
⋮
r1( p−1)
⋮
r 2( p−1)
⋮ ⋱ ⋮
r2( p−1) … 1
] / =rYX −1. rYX
k / =( s "sk )k
0=´ "−
1´ !
1−…−( p−1) ´ !( p−1)
VI k =(1− )k 2 )−1
)k 2 diperole$ dari regresi antara 6k dengan %ariabel bebas lain.
-
8/17/2019 Anareg Fix
22/25
ALL A&O8( AS8+SI
,O+OSKEDAS(ISI(AS
Homoskedastis berarti nilai %arians konstan untuk setiap 6 "ang diberikan' %ar +
εi- > σ
• *onsekuensi Heteroskedastisitas :enduga =LS "ang di$asilkan tetap unbiased dan konsisten' tetapi standar
error estimasi men(adi bias se$ingga kita tidak bisa menggunakan u(it dan
u(iF seperti biasa dalam mengambil kesimpulan.
• &ara mendeteksi $omoskedastisitas melalui pengu(ian #ormal ) (i $ite (i :ark (i Cle(ser (i Cold#eldIuandt (i ,reus$:aganCod#re"
• &ara mengatasi $eteroskedastisitas Dengan menggunakan $ite Heteroscedasticit"/Robust Standard Error Menggunakan Ceneralied Least SJuare +CLS-/eig$ted Least SJuare +LS-
^ β=( X / V −1 X )−1 X / V −1 "
1rans#ormasi dengan 0/6i
Asumsi ) E (εi2)=σ 2 X i
2
Secara gra7k' ciricirin"a )
-
8/17/2019 Anareg Fix
23/25
1rans#ormasi dengan 1/√ X i
Asumsi ) E (εi2)=σ 2 X i
Secara gra7k' ciricirin"a )
1rans#ormasi dengan 0/E+5i- ¿1/ Ŷ i
Asumsi ) E
(ε
i
2
)=σ 2[ E (Y
i
) ]2
Secara gra7k' ciricirin"a )
1rans#ormasi Logaritma9 dapat menurunkan $eteroskedastisitas karena
dapat menurunkan perbedaan skala.
lnY i= β0+ β1 ln X i+εi
NON;A8(OKORELASI
• Autokorelasi berarti terdapat $ubungan serial antar error
Asumsi ) o serial correlation'cov (εi , ε j )=0 & i ≠ j
• *onsekuensi adan"a autokorelasi )
-
8/17/2019 Anareg Fix
24/25
Estimator "ang di$asilkan masi$ unbiased' konsisten' dan as"mptotical
normall" distributed. 1etapi tidak lagi e7sien9%arians tidak minimum +tidak ,LE-
• Mendeteksi autokorelasi melalui pengu(ian #ormal9menggunakan statistik Durbin
atson
5 0:*i1ak a1a autokorelasi
5 1: 21a autokorelasi
Statistik (i )
1=∑t =2
n
(et −e t −1 )2
∑t =1
n
et 2
*eputusan )
&ara lain mendeteksi autokorelasi adala$ melalui u(i ,reusc$Cod#re"/LM 1est• &ara mengatasi autokorelasi)
Dengan 7rst diKerence Dengan ee"est
+8L(IKOLINIERI(AS
• Artin"a terdapat $ubungan linier "ang kuat antar %ariabel bebas9$an"a ter(adi
pada regresi linier berganda +lebi$ dari 0 %ariabel bebas-
• *onsekuensi adan"a multikolinieritas ) :enaksir =LS bisa diperole$' tetapi standar error cenderung semakin besar
dengan meningkatn"a korelasi antar %ariabel bebas ,esarn"a standar error mengakibatkan selang keperca"aan untuk suatu
parameter men(adi lebi$ lebar *esala$an tipe !! meningkat :ada multikolinieritas "ang tinggi tetapi tidak sempurna' estimator koe7sien
regresi bisa diperole$' tetapi estimator dan standar error men(adi sensiti# ter$adap peruba$an data
-
8/17/2019 Anareg Fix
25/25
:ada multikolinieritas "ang tinggi tetapi tidak sempurna' bisa ter(adi ba$a
koe7sien determinasi tinggi namun ketika dilakukan pengu(ian parsial tern"ata
tidak satupun %ariabel "ang signi7kan secara statistik.
• &ara mendeteksi multikolinieritas9 menggunakan Variance !nation Factor +V!F-'
"aitu (ika V!F9 berarti ter(adi multikolinieritas.
•
Mengatasi multikolinieritas ) !n#ormasi apriori +bisa berdasarkan teori/$asil penelitian sebelumn"a- Meng$ubungkan data time series dan data crosssectional Mengeluarkan satu atau beberapa %ariabel bebas +dengan metode :&A'
analisis #aktor' Stepise Regression' Ridge Regression' dll- 1rans#ormasi %ariabel +melalui 7rst diKerencing- :enamba$an data baru
NOR+ALI(AS
• Statistik u(i "ang digunakan diturunkan dari distribusi normal se$ingga asumsi ini
memainkan peranan penting dalam pengambilan keputusan. Selain itu' ketika
beker(a pada data dengan (umla$ besar maka distibusi apapun cenderung
mengikuti distribusi normal.
• Melalui pengu(ian #ormal' dapat dilakukan melalui 8arJue ,era 1est' *olmogoro%
Smirno% 1est' dll.