ANALISIS REGRESI DAN KORELASI

Pertemuan 13 dan 14

Dalam ilmu statistika, teknik yang umum digunakan untuk menganalisis hubungan antara dua atau lebih variabel adalah analisis regresi.

Model matematis dalam menjelaskan hubungan antar variabel dalam analisis regresi menggunakan persamaan regresi

Dalam suatu persamaan regresi terdapat 2 macam variabel, yaitu :

Variabel dependen (variabel tak bebas) adalah variabel yang nilainya bergantung dari variabel lain. Biasanya dinyatakan dengan Y.

Variabel independen (variabel bebas) adalah variabel yang nilainya tidak bergantung dari variabel lain. Biasanya dinyatakan dengan X.

Prinsip dasar

Dalam membangun suatu persamaan regresi adalah bahwa antara variabel dependen dengan variabel independennya mempunyai sifat hubungan sebab akibat (hubungan kausalitas = causal relationship), baik yang didasarkan pada teori, hasil penelitian sebelumnya, ataupun yang didasarkan pada penjelasan logis tertentu.

Analisis Korelasi Sederhana :

Adalah teknik statistik yang digunakan untuk mengukur keeratan hubungan (korelasi) antara dua variabel.

Ukuran yang menyatakan keeratan hubungan adalah koefisien korelasi.

Koefisien ini bernilai antara –1 sampai dengan +1.

Sebuah langkah awal yang sangat bermanfaat dalam melihat hubungan antara dua variabel adalah menampilkan informasi data ke dalam bentuk diagram pencar.

Koefisien korelasi :

dimana yyxx

xy

JJ

Jr

n

YXXYJ xy

))((

n

XXJ xx

22

)(

n

YYJ yy

22

)(

Koefisien Determinasi

Dihitung dengan mengkuadratkan koefisien korelasi (r2).

Menyatakan besarnya kontribusi variabel X terhadap perubahan variabel Y.

Uji signifikansi koefisien korelasi

Hipotesis nol dan hipotesis alternatifnya adalah :H0 : = 0 H1 : 0

Statistik uji :

dengan

21

2

r

nrt

2nv

•Daerah kritis, H0 ditolak bila

atau vtt

,2

n

tt,

2

•Kesimpulan

Analisis Regresi Linier Sederhana :

adalah suatu teknik yang digunakan untuk membangun suatu persamaan garis lurus dan menentukan nilai perkiraannya

Hanya ada 1 variabel X dan 1 variabel Y. Suatu persamaan garis lurus yang menyatakan

hubungan antara variabel bebas X dan variabel tidak bebas Y, dan digunakan untuk memperkirakan nilai Y berdasarkan nilai X disebut sebagai persamaan regresi

Metode kuadrat terkecil

digunakan untuk menentukan persamaan linier estimasi, berarti memilih satu garis linier dari beberapa kemungkinan garis linier yang dapat dibuat dari data yang ada yang mempunyai kesalahan (error) paling kecil dari data aktual dengan data estimasinya.

Kriteria ini dikenal dengan prinsip kuadrat terkecil (principle of least square).

Prinsip pemilihan garis regresi ini adalah “pilih garis yang mempunyai jumlah kuadrat deviasi nilai observasi Y terhadap nilai Y prediksinya yang minimum sebagai garis regresi yang paling baik”

Persamaan regresi estimasi yang baik secara umum

dimana

bXaY ˆ

adalah nilai estimasi Y berdasarkan X yang dipilih.a adalah titik potong Y. Merupakan nilai perkiraan bagi Y ketika X = 0.b adalah kemiringan garis, atau perubahan rata-rata pada untuk setiap satu unit perubahan (baik naik atau turun) pada variabel X.X adalah sembarang nilai variabel bebas yang dipilih

Y

Nilai a dan b adalah :

nX

X

nYX

XY

J

Jb

xx

xy

22 )(

))((

XbYa

Pengujian Terhadap Koefisien Regresi

Menentukan H0 dan H1 H0 : = 0. H1 : 0. Taraf nyata Statistik uji : Tabel Anova Daerah kritis : jika F hitung > F ; (1, n-2),

maka H0 ditolak Kesimpulan

Tabel Anova

Sumber Variasi db Jumlah Kuadrat

Kuadratrata-rata

F hitung

Regresi 1 JKR JKR / 1 JKR / s2

Galat n – 2 JKG s2 = JKG / (n-2)

 

Total n - 1 JKT    

JKR = b JXY

JKT = JYY

JKG = JKT - JKR

Analisis Regresi Linier Berganda

Bentuk umum :

kk XbXbXbaY .....ˆ2211

Membangun Persamaan Regresi Linier

Berganda dengan Manual

Besarnya koefisien a , b1, dan b2 dapat ditentukan dengan menggunakan tiga persamaan berikut ini

2211 XbXbnaY

2122

1111 XXbXbXaYX

2

2221122 XbXXbXaYX

Persamaan di atas dapat dinyatakan dalam persamaan matriks

YX

YX

Y

b

b

a

XXXX

XXXX

XXn

2

1

2

12

2212

212

11

21

A b H

Jadi = A b = H b = A-1 H , dimana A-1 adalah invers dari A.

Membangun Persamaan Regresi Linier

Berganda dengan Komputer The regression equation isy = - 11.5 + 1.47 x1 + 6.59 x2 Predictor Coef StDev T PConstant -11.452 9.231 -1.24 0.255x1 1.4671 0.5491 2.67 0.032x2 6.588 4.550 1.45 0.191 S = 7.889 R-Sq = 88.7% R-Sq(adj) = 85.5%

 

Analysis of Variance Source DF SS MS F PRegression 2 3427.9 1714.0 27.54 0.000Error 7 435.7 62.2Total 9 3863.6

Koefisien Korelasi Linier Berganda (KKLB)

Jika ingin diketahui kuatnya hubungan antara variabel Y dengan beberapa variabel X lainnya.

Apabila KKLB dikuadratkan, maka akan diperoleh Koefisien Penentuan (Koefisien Determinasi), yaitu suatu nilai untuk mengukur besarnya sumbangan dari beberapa variabel X terhadap variasi (naik turunnya) variabel Y.

SST

SSRrKP y 12.

2