analisis regresi 1 - home | .: department of statistics ... · metode kuadrat terkecil b 0 dan b 1...

Pokok Bahasan :

REGRESI LINIER

SEDERHANA

ANALISIS REGRESI 1

Itasia & Y Angraini, Dep Statistika FMIPA - IPB

Deskripsi Model


Macam-macam Model Regresi

Model Regresi

Sederhana Berganda

Linier Non Linier Linier Non Linier

1 peubah penjelas > 1 peubah penjelas

Reciprocal LogMultiplikatifPolinom Eksponensial


Sederhana Linier

Hubungannya linier

Non Linier Polinom

Multiplikatif

Eksponensial

Reciprocal

Contoh :

Macam-macam Model Regresi

εxββY 10

εxββY 2

10

ε.eβY xβ

01 εe βY x

β

0

1

ε xβY β

01

εxββ

1

10


Model Regresi Linier Sederhana(yang hubungannya linier ordo x=1 )

Linier dalam parameter

Sederhana = banyaknya peubah bebas/penjelas hanya satu

Hubungan antara X dan Y dinyatakan dalam fungsi linier/ordo 1

Perubahan Y diasumsikan karena adanya perubahan X

Model populasi regresi linier sederhana yang hubungannya linier (selanjutnya cukup sebut “regresi linier sederhana”) :

Dengan :

0 dan 1 adalah parameter regresi

adalah galat/eror (peubah acak)

Y adalah peubah tak bebas (peubah acak)

X adalah peubah bebas yang nilainya diketahui

dan presisinya sangat tinggi (bukan peubah acak)

εxββY 10


Dugaan dan Interpretasi

Parameter Model


Asumsi Model Regresi Linier

Bentuk hubungannya linear (Y merupakan fungsi linier

dari X, plus galat yang acak)

Galat εi adalah peubah acak yang bebas thdp nilai x

Galat merupakan peubah acak yang menyebar Normal

dengan rataan 0 dan memiliki ragam konstan, σ2

(sifat ragam yang konstan/homogen ini disebut homoscedasticity)

Galat εi, tidak berkorelasi satu dengan yang lainnya,

sehingga atau

n), 1,(iuntuk σ]E[εdan0]E[ε 22

ii

ji , 0]εE[ε ji ji , 0]ε,cov[ε ji


εXββY 10

Komponen linier (fix)

Interpretasi Parameter Model Regresi Linier Sederhana

Xββ 10 2

Model Regresi Linier Sederhana (populasi) :

Intersep Y

populasi

Koefisien

kemiringan

populasi

Galat/erorPeubah tak

bebas/

Peubah respon

Peubah bebas/

Peubah penjelas

Komponen acak

Y : peubah tak bebas/respon merupakan peubah acak dengan pusat/

nilai harapan di dan ragam


(lanjutan)

Sisaan/galat

untuk xi

Y

X

Nilai

pengamatan Y

untuk Xi

Nilai

harapan/rataan

Y untuk xi

εXββY 10

xi

Slope = β1

Intersep = β0

εi

Interpretasi Parameter Model Regresi Linier Sederhana

iiiy εxββ 10

ix10i ββ]x|E[Y iii xYEy ]|[

yi

]|[ ixYE


i10i xbby

Dugaan persamaan garis regresi linier sederhana

Dugaan Persamaan Garis Regresi Linier Sederhana

Dugaan bagi

intersep β0

Dugaan bagi

kemiringan garis

regresi β1

Nilai dugaan

y pada

pengamatan

ke - iNilai x pada

pengamatan

ke - i

Sisaan ei mempunyai rataan sebesar nol

))ˆ( i10iiii xb(b-yy-ye


b0 adalah nilai dugaan rataan y

ketika x bernilai nol (jika x = 0 dalam

selang pengamatan)

b1 adalah nilai dugaan perubahan

rataan y (nilai harapan Y) jika x

berubah satu satuan

Interpretasi koefisien kemiringan dan intersep


Pendugaan

Parameter Regresi


Menduga Persamaan Regresi

Menduga persamaan regresi linier sederhana

= menduga parameter-parameter regresi β0

dan β1 :

Penduga parameter yang dihasilkan harus

merupakan penduga yang baik

Software statistik, seperti Minitab, SAS, SPSS, dll.

banyak digunakan


Metode Kuadrat Terkecil

b0 dan b1 adalah dugaan bagi parameter regresi β0

dan β1 yang didapat salah satunya dengan cara

meminimumkan jumlah kuadrat galat (JKG).

Galat/sisaan = selisih antara y dan Metode

Kuadrat Terkecil (MKT) :

2

i10i

2

ii

2

i

)]xb(b[ymin

)y(ymin

emin JKGmin

y

Teknik kalkulus digunakan untuk mendapatkan nilai bo dan b1

sedemikian hingga meminimumkan JKG

Menduga Persamaan Regresi(lanjutan)


Penduga bagi koefisien kemiringan garis β1 ialah:

Penduga bagi intersep β0 ialah:

Garis regresi selalu melalui titik x, y

X

Yxyn

1i

2

i

n

1i

ii

1s

sr

)x(x

)y)(yx(x

b

XX

XY

S

S

xbyb 10

(lanjutan)

SXY

SXX

Koefisien

Korelasi

Pearson

Metode Kuadrat Terkecil



Asumsi Metode Kuadrat Terkecil (MKT)

Agar penduga bagi parameter regresi yang

didapatkan dengan menggunakan MKT merupakan

penduga yang baik maka sisaan/galat harus

memenuhi kondisi Gauss-Markov berikut ini :

bebas saling dan ji ,0][ 3.

)ticity homoscedas (

xnilai setiapuntuk homogen sisaan ragam ]E[ 2.

nol sisaan taan harapan/ra-nilai 0][ .1

ji

22

i

ji

i

E

E

Kondisi Gauss - Markov

(lanjutan)



ContohRegresi Linier Sederhana

Sebuah agen real-estate ingin mengetahui

hubungan antara harga jual sebuah rumah

dengan luas lantainya (diukur dalam m2)

10 buah rumah diambil secara acak sebagai contoh

Peubah tak bebas (Y) = harga rumah (juta rupiah)

Peubah bebas (X) = luas lantai (m2)


Data contoh Harga Rumah

Harga Rumah (Rp.juta) (Y) Luas Lantai (m2) (X)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700

Contoh Regresi Linier Sederhana(lanjutan)


Luas Lantai

Ha

rg

a R

um

ah

260024002200200018001600140012001000

800

700

600

500

400

300

200

100

0

Scatterplot of Harga Rumah vs Luas Lantai

Tebaran Harga Rumah vs Luas Lantai


Model Regresi-nya

xY 10

Persamaan Garis

Regresi-nya

xY 10

Diduga dengan :

xbbY 10ˆ


FILM :

MEMBUAT TEBARAN

“HARGA RUMAH” vs ”LUAS LANTAI”

MENGGUNAKAN MINITAB

Klik di sini


Harga Rumah

(Rp.juta) (Y)

Luas Lantai

(m2) (X)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700


Film/scatterplot_Screen_Stream.avi


Regression Analysis: Harga Rumah versus Luas Lantai

The regression equation is

Harga Rumah = 98,2 + 0,110 Luas Lantai

Predictor Coef SE Coef T P

Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


MENDUGA PARAMETER REGRESI : OUTPUT MINITAB

Dugaan

Persamaan

Garis Regresi-

nyab0

b1


Klik di sini


Harga Rumah

(Rp.juta) (Y)

Luas Lantai

(m2) (X)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700


FILM :

MENDUGA GARIS REGRESI

MENGGUNAKAN MINITAB

Film/pendugaan_harga_rumah_Screen_Stream.avi


0

50

100

150

200

250

300

350

400

450

0 500 1000 1500 2000 2500 3000

Luas Lantai (m2)

Harg

a J

ual

Ru

mah

(R

p.j

uta

)

Tampilan Grafik

Model Harga Rumah: scatter plot dan

garis regresi

lantai) (luas 0.10977 98.24833rumah harga

Kemiringan

= 0.10977

Intersep

= 98.248



Klik di sini


Harga

Rumah

(Rp.juta) (Y)

Luas Lantai

(m2) (X)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700

FILM :

MEMBUAT TEBARAN ANTARA

“HARGA RUMAH”

dengan

“LUAS LANTAI”

& GARIS REGRESI-nya

MENGGUNAKAN MINITAB


Film/sp_dengan_garis_Screen_Stream.avi


Interpretasi Intersep b0

b0 adalah nilai dugaan bagi nilai rataan

Y ketika X bernilai nol (jika X = 0 di

dalam selang pengamatan)

Dalam hal ini tidak ada rumah yang memiliki luas lantai=0,

jadi b0 = 98.24833 hanya mengindikasikan bahwa : untuk

luas lantai yang berada dalam selang pengamatan, Rp

98.248.330,- adalah bagian harga rumah yang tidak

diterangkan oleh luas lantai




Interpretasi koefisien kemiringan, b1

b1 mengukur dugaan perubahan rataan

nilai Y jika X berubah satu satuan

Dalam hal ini b1 = .10977 menggambarkan

bahwa setiap penambahan satu m2 luas lantai

rataan harga rumah akan naik sebesar 0,10977

juta rupiah




Apakah b0 dan b1 yang didapat

merupakan penduga yang baik ?

Pertanyaan di atas = pertanyaan bahwa: “apakah

sisaan yang dihasilkan oleh dugaan persamaan

garis regresi nya menghasilkan sisaan yang

memenuhi kondisi Gauss-Markov?”

Untuk sementara ini kita yakini saja dulu bahwa

sisaan yang dihasilkan memenuhi kondisi tersebut

Penjelasan bagaimana cara memeriksanya akan

dijelaskan pada pokok bahasan “Diagnosa model

melalui pemeriksaan sisaan”


PENGURAIAN

KERAGAMAN TOTALJKReg

JKsisa


Sumber Keragaman Regresi

Nilai pengamatan yi yang dihasilkan beragam.

Keragaman ini disebabkan oleh ?


xi

y

X

yi

JKT = (yi - y)2

JKG = (yi - yi )2

JKR = (yi – y )2

_

_

_

y

Y

y_yi

Sumber Keragaman Regresi Nilai pengamatan yi yang dihasilkan beragam. Keragaman

ini disebabkan oleh ?


Sumber Keragaman Regresi

Untuk suatu nilai xi keragaman nilai pengamatan yi

disebabkan oleh :

Menyimpangnya nilai amatan yi terhadap dugaan nilai

harapannya

beragam menghasilkan dugaan garis regresi yang beragam memiliki rataan

Menyimpangnya suatu dugaan garis regresi terhadap

rataannya menyebabkan beragamnya data.

iiy xbb]x|[Y E ]x|[Y E 10ii

(lanjutan)

Y

/sisaaneror/galat karena iii eyy

10 bdan b

regresi model karena ˆˆˆ10

iiii y y ,yxbbyy


Mengukur Keragaman

Total Keragaman disebabkan oleh dua bagian ini :

JKG JKR JKT

Jumlah

Kuadrat Total

Jumlah Kuadrat

Regresi

Jumlah Kuadrat

Galat/Sisaan

2

i )y(yJKT 2

ii )y(yJKG 2

i )yy(JKR

dengan:

= nilai rata-rata peubah tak bebas Y

yi = nilai pengamatan ke-i peubah tak bebas Y

i = nilai dugaan y untuk suatu nilai xiy

y

= +


JKT = Jumlah Kuadrat Total

Mengukur keragaman nilai yi di sekitar nilai

rataannya y

JKR = Jumlah Kuadrat Regresi

Menjelaskan keragaman karena adanya hubungan

linier antara x dan y

JKS = jumlah Kuadrat Sisa

Menjelaskan keragaman yang disebabkan oleh

faktor-faktor selain faktor hubungan linier x dan y

(lanjutan)

Ukuran Keragaman


Derajat Bebas Jumlah Kuadrat

Ukuran keragaman adalah ragam

Derajat bebas bagi

Derajat bebas bagi

(db) bebasderajat

(JK)Kuadrat Jumlah Ragam

2 -n JKSisaan

1 JK0b| Regresi


Tabel Sidik Ragam

Sumber

Keragaman

Derajat Bebas

(db)

Jumlah

Kuadrat

(JK)

Kuadrat Tengah

(KT)

Regresi 1

Sisaan n-2

Total

(terkoreksi)n-1

n

i

i yy1

2ˆ

n

i

ii yy1

2ˆ

n

i

i yy1

2

1

JKRegresi

2n

JKsisaan

Pada analisis regresi ini tentunya diharapkan JK regresi lebih besar

dari JK sisaan sehingga dapat dikatakan bahwa keragaman nilai y

disebabkan oleh perubahan nilai x.

S2,

jika

model

nya

pas






Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%

Analysis of Variance

Source DF SS MS F P

Regression 1 18935 18935 11,08 0,010

Residual Error 8 13666 1708

Total 9 32600

Tabel Sidik Ragam

OUTPUT MINITAB

db JK KT

TABEL SIDIK

RAGAM

(lanjutan)


Penduga bagi Ragam Sisaan/galat

Penduga bagi ragam eror/sisaan dari model populasi adalah :

Dibagi dengan n – 2 bukan dengan n – 1 karena model regresi linier sederhana menggunakan 2 penduga parameter yaitu, b0 dan b1, bukan satu.

adalah penduga simpangan baku

2n

e

2n

JKSsσ

n

1i

2

i2

e

2

sisaanKT

Dengan asumsi

bahwa

modelnya

pas/cocok

2

ee ss






Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


Source DF SS MS F P

Regression 1 18935 18935 11,08 0,010


Total 9 32600

es

Penduga bagi Ragam Sisaan/galat

OUTPUT MINITAB

Dugaan Ragam Sisaan = s2

(JIKA MODELNYA PAS)

(lanjutan)


Perbandingan Simpangan Baku

YY

X Xkecils e besars e

se mengukur keragaman penyimpangan nilai

pengamatan yi terhadap garis regresi


Pengujian Hipotesis

Terhadap

Slope dan Intersep

0

10

Diperlukan asumsi bahwa εi menyebar Normal

εi ~ N ( 0,σ2 )


Ragam Koefisien Kemiringan Garis Regresi (b1)

Ragam dari koefisien kemiringan garis regresi

(b1) diduga sbb :

2

x

2

e

2

i

2

e2

1)s(n

s

)x(x

ss

1b

dengan:

= dugaan simpangan baku kemiringan garis regresi

= dugaan ragam x

= akar KTG = akar Kuadrat Tengah Galat = dugaan

simpangan baku sisaan

1bs

2n

JKs sisa

e

2

xs


Membandingkan Simpangan Baku Koefisien Kemiringan Garis Regresi (b1)

Y

X

Y

Xkecil

1bS besar1bS

mengukur keragaman koefisien kemiringan garis

regresi dari berbagai contoh (set data) yang mungkin. 1bS






Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


SIMPANGAN BAKU b1 : OUTPUT MINITAB

Simpangan

Baku b1 = sb1


Inferensia Koefisien Kemiringan Garis Regresi (b1): Uji t

Pada model regresi linier sederhana :Uji t untuk koefisien kemiringan garis regresi populasi (β1)

Apakah ada hubungan linier antara X dan Y?

Hipotesis Nol dan hipotesis tandingan

H0: β1 = 0 (tidak ada hubungan linier antara X dan Y)

H1: β1 0 (ada hubungan linier antara X dan Y)

Uji Statistik

1b

11

s

βbt

2nd.b.

dengan:

b1 = koefisien kemiringan regresi

β1 = kemiringan yg dihipotesiskan

sb1 = simpangan baku kemiringan


Harga Rumah

(Rp.juta)

(y)

Luas Lantai

(m2)

(x)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700


Dugaan persamaan garis regresi:

Koefisien kemiringan garis pada

model ini adalah 0.1098

Meskipun demikian, “apakah luas

lantai mempengaruhi harga jual?”

Contoh Inferensia Koefisien Kemiringan Garis (b1): Uji t


Contoh Inferensia Koefisien Kemiringan Garis (b1): uji t

H0: β1 = 0

H1: β1 0 1bsb1

3.329380.03297

00.10977

s

βbt

1b

11


Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

OUTPUT MINITAB

Apakah luas

lantai mempe-

ngaruhi harga

jual (secara

linier)?

(lanjutan)



H0: β1 = 0

H1: β1 0

Statistik Uji-nya : t = 3.329

Cukup bukti untuk mengatakan

bahwa luas lantai

mempengaruhi harga jual

secara linier

output MINITAB : 1bs tb1

Keputusan : Tolak H0

Kesimpulan :

Tolak H0Tolak H0

a/2=.025

-tn-2,α/2

Terima H0

0

a/2=.025

-2.3060 2.3060 3.329

d.b. = 10-2 = 8

t8,.025 = 2.3060

(lanjutan)

tn-2,α/2


Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010



H0: β1 = 0

H1: β1 0

Nilai peluang P = 0.01039

Cukup bukti untuk mengatakan

bahwa luas lantai

mempengaruhi harga rumah

P-value < α jadi

Tolak H0

Keputusan:

Kesimpulan:

(lanjutan)

Ini adalah uji dua arah,

jadi p-valuenya adalah

output MINITAB :


Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

P(t > 3.329)+P(t < -3.329)

= 0.01039

(db. 8)

thit = 3.329


Ragam Intersep Garis Regresi (b0)

Ragam dari intersep garis regresi (b0) diduga

sbb :

2

i

2

i

2

e2

)x(x

xss

0 nb

Keterangan:

= dugaan simpangan baku intersep garis regresi

= akar KTG = akar Kuadrat Tengah Galat = dugaan

simpangan baku sisaan

0bs

2n

SSEse


Inferensia Intersep Garis Regresi (b0): uji t

Pada model regresi linier sederhana :

Uji t untuk intersep garis regresi populasi (β0)

Apakah ada nilai Y yang tidak dapat dijelaskan oleh x?

Hipotesis Nol dan hipotesis tandingan

H0: β0 = 0 (semua nilai Y dapat dijelaskan oleh x)

H1: β0 0 (ada nilai Y yg tidak dapat dijelaskan oleh x)

Statistik uji0b

00

s

βbt

1d.b.

dengan:

b0 = intersep garis regresi

β0 = intersep yg dihipotesiskan

sb0 = dugaan simp. baku intersep


Harga Rumah

(Rp. Juta)

(y)

Luas Lantai

(m2)

(x)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700


Dugaan persamaan garis regresi:

Intersep garis pada model ini adalah 98.25

Apakah ada bagian harga rumah yang

tidak dapat dijelaskan oleh luas lantai?

Apakah ada bagian harga rumah yang

tidak dipengaruhi oleh luas lantai?

Contoh Inferensia Intersep Garis Regresi (b0): uji t


Contoh Inferensia Intersep Garis Regresi (b0): uji-t

H0: β0 = 0

H1: β0 00bsb0

1.6929658.03348

098.24833

s

βbt

0b

00

output MINITAB :


Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

(lanjutan)

Apakah ada har-

ga rumah yg tdk

dpt dijelaskan (tdk

dipengaruhi) oleh

luas lantai


Contoh Inferensia Intersep Garis Regresi (b0): uji-t

H0: β0 = 0

H1: β0 0

Statistik uji: thit = 1.69296

Tidak cukup bukti untuk

mengatakan bahwa : ada harga

rumah yang tidak dapat dijelaskan

oleh luas lantai

0bs tb0

Keputusan:

Kesimpulan :

Tolak H0Tolak H0

a/2=.025

-t1,α/2

Terima H0

0

a/2=.025

-12.706 12.706 1.69296

d.b. = 1

t1, .025 = 12,706

(lanjutan)

t1,α/2

output MINITAB :


Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

Terima H0


Uji F bagi parameter regresi :

Tabel Sidik Ragam

Sumber

Keragaman

Derajat Bebas

(db)

Jumlah

Kuadrat

(JK)

Kuadrat Tengah

(KT)

Regresi

(b1| b0)1

Sisaan n-2

Total

(terkoreksi)n-1

n

i

i yy1

2ˆ

n

i

ii yy1

2ˆ

n

i

i yy1

2

1

JKRegresi

2n

JKsisaan

Statistik uji F tersebut memiliki derajat bebas db1=1 dan db2=n-2

Jika Fhit <1 KTRegresi < KTSisaan Ragam Regresi < Ragam Sisaan

pengaruh regresi tdk nyata pengaruh x tdk nyata b1 = 0 (tdk perlu

tabel)

S2, jika mo-

delnya pas

Statistik uji-nya :

Sisaan

gresRe

hitKT

KTF

i

Sisaan

Reg

Ragam

Ragam=

0:H

0:H

11

10






Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


Source DF SS MS F P

Regression 1 18935 18935 11,08 0,010


Total 9 32600

OUTPUT MINITAB

Contoh Uji F bagi parameter regresi :

Tabel Sidik Ragam(lanjutan)

db: 1,8

P-value

untuk uji F

1708

18935

sisaan

reg

hitKT

KTF


Statistik Uji:

Keputusan:

Kesimpulan:

Tolak H0 dg a = 0.05

Cukup bukti bahwa luas lantai

mempengaruhi harga rumah0

a = .05

F.05 = 5.32Tolak H0terima

H0

11.08F sisaan

regresi

KT

KT

Nilai kritis:

Fa = 5.32

(lanjutan)

F

H0: β1 = 0

H1: β1 ≠ 0

xY 10

a = .05

db1= 1 db2 = 8

Contoh Uji F bagi parameter regresi :

Tabel Sidik Ragam


Uji F bagi parameter regresi :

Tabel Sidik Ragam

Jika model yang kita pilih di awal ternyata tidak pas

1. Bolehkah kita menggunakan KT sisaan sebagai

penduga bagi ragam sisaan ?

2. Masih relevankah kita melakukan uji F ?

Agar uji F pada tabel Sidik Ragam dapat digunakan, maka

model yang dipilih harus pas. uji lack of fit atau periksa

pola sisaannya akan dibahas pada sub pokok bahasan

“ Kualitas Fitted Model “ Untuk sementara anggaplah model

yang kita pilih pas.

(lanjutan)


Perbandingan Tabel Sidik Ragam

Terkoreksi dan Tidak Terkoreksi

Sumber

Keragaman

Derajat Bebas (db)

Jumlah

Kuadrat (JK)

Kuadrat Tengah (KT)

Regresi

(b1| b0)1

Sisaan n - 2

Total

(terkoreksi)n - 1

n

i

i yy1

2ˆ

n

i

ii yy1

2ˆ

n

i

i yy1

2

1

JKRegresi

2n

JKsisaan

Regresi (b0,b1) 2

Sisaan n - 2

Total n

0:H

0:H

11

10

0,1j,0

satu adamin :H

0:H

1

100

j

Tidak bisa mem-

berikan jawaban

apkh x berpe-

ngaruh/tidak

2

iy

i0ii1 ybyxb

n

i

ii yy1

2ˆ

2s

Sudah diku-

rangi dg faktor

koreksi yn


Kualitas Fitted Model

• Apakah model regresi sudah cukup pas mewakili data?

• Apakah model regresi cukup baik untuk model prediksi?


Tebaran titik amatan / scatter plot

Mana di antara

gambar–gam-

bar ini yang mo-

delnya cukup

pas/sesuai ?

a. b.

c. d.

x

xx

x

y

yy

y

Perlu diuji

apakah model-

nya sudah pas

atau belum

uji lack of fit

atau secara

eksploratif plot

sisaan


Tebaran titik amatan / scatter plot

Mana di antara

gambar–gam-

bar ini yang mo-

delnya cukup

baik untuk

prediksi?

a. b.

c. d.

y

yy

y

x x

xx

Perlu suatu be-

saran yang dapat

mengukur jauh

/dekatnya titik

pengamatan

thdp garis regresi


Koefisien Determinasi, R2

Koefisien determinasi mengukur proporsi keragaman atau variasi

total di sekitar nilai tengah (Y) yang dapat dijelaskan oleh garis

regresi

secara grafis mengukur jauh/dekatnya titik pengamatan

thdp garis regresi

Koefisien determinasi juga disebut R-kuadrat dan dinotasikan

sebagai R2

atau

1R0 2 CATATAN:

2

2

Tot

Reg2

)(

)ˆ(

JK

JKR

yy

yy

i

i

Total

Sisa

JK

JKR 12


Koefisien Determinasi, R2

(lanjutan)





Constant 98,25 58,03 1,69 0,129

Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


Source DF SS MS F P

Regression 1 18935 18935 11,08 0,010


Total 9 32600

5808,032600

189352 R

OUTPUT MINITAB

58.08% keragaman harga

rumah dijelaskan oleh

keragaman luas lantai


Analisis Korelasi

Analisis korelasi digunakan untuk mengukur

kekuatan hubungan (hubungan linier) antara

dua peubah

Korelasi hanya khusus untuk kekuatan hubungan

Mengukur arah hubungan

Tidak berdampak pada sebab akibat


Analisis Korelasi

Koefisien korelasi populasi dinotasikan dengan ρ(huruf Greek rho)

Koefisien korelasi contoh adalah :

yx

xy

XYss

srˆ

1n

)y)(yx(xs

ii

xy

Koefisien

korelasi

Pearson

Pada Model Regresi Linier Sederhana

yg hub.nya linier :

R2 = r2 rXY = (tanda b1)

2R

(lanjutan)

Pada sembarang regresi linier berlaku:

RrYY


Untuk melakukan tes bahwa tidak ada

hubungan linier, Hipotesis nol nya :

Statistik ujinya mengikuti sebaran t Student

dengan derajad bebas (n – 2 )

Uji Hipotesis untuk Korelasi

0ρ:H0

)r(1

2)(nrt

2

(lanjutan)


H0: ρ 0

H1: ρ < 0

H0: ρ ≤ 0

H1: ρ > 0

H0: ρ = 0

H1: ρ ≠ 0

Kaidah Keputusan

a a/2 a/2a

-ta -ta/2ta ta/2

tolak H0 jika t < -tn-2, a Tolak H0 jika t > tn-2, a Tolak H0 jika t < -tn-2, a/2atau t > tn-2, a/2

dengan 2-n d.b ,)r(1

2)(nrt

2

Uji Hipotesis untuk Korelasi(lanjutan)


Correlations: Harga Rumah; Luas Lantai

Pearson correlation of Harga Rumah and Luas

Lantai = 0,762

P-Value = 0,010

OUTPUT MINITAB

Uji Hipotesis untuk Korelasi

P-value < 0,025 Tolak H0 ρ ≠ 0

(lanjutan)


FILM :

MENDUGA

KOEFISIEN KORELASI PEARSON

dengan

MENGGUNAKAN MINITAB

Klik di sini


Harga

Rumah

(Rp.juta) (Y)

Luas Lantai

(m2) (X)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700

Correlations: Harga Rumah; Luas Lantai

Pearson correlation of Harga Rumah and Luas

Lantai = 0,762

P-Value = 0,010 rXY

APLIKASI DENGAN MINITABDUGAAN BAGI KOEFISIEN KORELASI

OUTPUT MINITAB

Film/korelasi_Screen_Stream.avi


r2 = 1

Interpretasi beberapa nilai r2

Y

X

Y

X

r2 = 1

r2 = 1 dapat diinterpretasikan

sbb. :

Adanya hubungan linier

yang tepat antara X dan Y:

100% keragaman Y

dijelaskan oleh keragaman X



Y

X

Y

X

0 < r2 < 1 dapat diinterpretasi-

kan sbb. :

Adanya hubungan linier yang

lemah antara X dan Y:

Sebagian (tidak semuanya)

keragaman Y dijelaskan oleh

keragaman X



Tidak ada hubungan linier

antara X dan Y:

Nilai Y tidak bergantung pada

nilai X. (Tidak ada keragaman

Y yang dapat diterangkan

oleh keragaman X)

Y

Xr2 = 0

r2 = 0 dapat diinterpretasikan

sbb. :


Korelasi dan Koefisien

Determinasi R2

Koefisien determinasi, R2, untuk regresi linier sederhana

yang hubungannya linier (ordo X = 1) sama dengan

koefisien korelasi kuadrat

Korelasi antara amatan Yi dengan nilai dugaannya untuk

sembarang regresi linier dengan berapapun banyaknya

peubah bebas

2/12

1xy )R)(b (tanda Rr 2

xy

2 rR

^

iY

Rr ^

YY


Berbagai Kondisi yg Menggambarkan

Perbedaan antara R2 dan rXY

C1

Y2

1050-5-10

100

80

60

40

20

0

Scatterplot of Y2 vs C1

C1

Y1

1086420

35

30

25

20

15

10

5

Scatterplot of Y1 vs C1

Correlations: X1; Y1

Pearson correlation of X1 and Y1

= 1,000 P-Value = *

Correlations: X2; Y2

Pearson correlation of X2 and Y2

= 0,000 P-Value = 1,000


Y1 = 2,00 + 3,00 X1

S = 0 R-Sq = 100,0%

R-Sq(adj) = 100,0%


Y2 = 4,000 + 0,00 X2 + 1,000 X2**2

S = 0 R-Sq = 100,0%

R-Sq(adj) = 100,0%

rXY

R2

R2 = 1

r = 1

X2

Y2

1050-5-10

100

80

60

40

20

0

Fitted Line Plot

R2 = 1

r = 0

b1 = 3 b1 = 0



Perbedaan antara R2 dan rXY

X1

Y3

1086420

35

30

25

20

15

10

5

0

Scatterplot of Y3 vs X1


Y3 = 1,27 + 3,10 X1

S = 1,53396 R-Sq = 97,7%

R-Sq(adj) = 97,4%

Correlations: Y3; X1

Pearson correlation of Y3 and X1 = 0,988

R2 = 97,7%

r = 0,988


Y4 = 2,07 + 3,01 X1

S = 3,44414 R-Sq = 88,7%

R-Sq(adj) = 87,3%

X1

Y4

1086420

35

30

25

20

15

10

5

0


R2 = 88,7%

r = 0,942



(lanjutan)

b1 = 3,1 b1 = 3,01



Perbedaan antara b1 dan rXY

X1

C7

1086420

40

30

20

10

0

Scatterplot of C7 vs X1


C7 = 37,7 - 3,38 X1

S = 6,09048 R-Sq = 76,0%

R-Sq(adj) = 73,0%

Correlations: C7; X1

Pearson correlation of C7 and X1 = -0,872


Y6 = 3,50 + 0,116 X1

S = 0,275434 R-Sq = 64,8%

R-Sq(adj) = 60,4%

X1

Y6

1086420

10

8

6

4

2

0




R2 = 76,0%

r = -0,872

b1 = -3,38

R2 = 64,8%

r = 0,805

b1 = 0,116



Perbedaan antara b1 dan rXY (lanjutan)

X

Y

543210

17,5

15,0

12,5

10,0

7,5

5,0

Scatterplot of Y vs X

The regression equation is Y = 1,06 + 4,67 X

S = 2,06491 R-Sq = 53,3% R-Sq(adj) = 52,1%


Source DF SS MS F P

Regression 1 184,94 184,94 43,37 0,000

Residual Error 38 162,03 4,26

Total 39 346,97

X1

Y1

1086420

10

8

6

4

2

0


The regression equation is Y1 = 3,99 + 0,00914 X1

S = 0,0077338 R-Sq = 93,5% R-Sq(adj) = 92,7%


Source DF SS MS F P

Regression 1 0,0068911 0,00689 115,21 0,000

Resd Error 8 0,0004785 0,00005Total 9 0,0073696

Pearson correlation of X1 and Y1 = 0,967

R2 = 93,5%

r = 0,967

b1 = 0,00914

R2 = 53,3%

r = 0,730

b1 = 4,67

Pearson correlation of X and Y = 0,730


Uji Ketidakpasan Model

Harus ada ulangan pengamatan yi pada nilai xi

yang sama. Mis. :

x y

x1 y11

y12

x2 y21

y22

y23

y24

x3 y31

y32

y33

x4 y41

y42

Untuk data contoh di samping dapat

dinotasikan :

m = 4, n1=2, n2=4, n3=3, n4=2

1123421

m

j

jnn


Uji ketidakpasan model :

Tabel Sidik Ragam

Sumber

Keragaman

Derajat Bebas

(db)

Jumlah

Kuadrat

(JK)

Kuadrat Tengah

(KT)

Regresi

(b1| b0)1

Sisaan n-2

Total

(terkoreksi)

n

i

i yy1

2ˆ

n

i

ii yy1

2ˆ

n

i

i yy1

2

1

JKRegresi

2n

JKsisaan

Statistik uji-

nya :

GM

KMhit

KT

KTF

Ketidakpasan

model (KM)

Galat murni

(GM)

n - 1

mnm

j

j 1

2

1 1

)( j

m

j

n

u

ju yyj

dbsisa-dbGMJKsisa – JKGM

KM

KMKM

db

JKKT

GM

GMGM

db

JKKT

H0: model pas

H1: model tdk pas

F tabel :

db1=dbKM

db2=dbGM


X Y X Y

1 5,135 6 67,586

1 30,846 6 47,441

1 32,977 6 32,919

2 14,142 7 78,804

2 20,785 7 78,202

2 -1,499 7 73,846

3 13,463 8 154,158

3 30,391 8 114,145

3 -21,254 8 110,077

4 31,095 9 139,573

4 6,542 9 154,735

4 35,466 9 151,428

5 -5,419 10 163,649

5 59,32 10 189,114

5 73,178 10 214,504

Contoh : Uji ketidakpasan model

Tabel Sidik Ragam

Untuk data contoh di samping dapat

dinotasikan :

m = 10, n1 = n2 =…..= n10 = 3

n = 30

db sisaan = n – 2 = 28

db galat murni =

= 30 – 10 = 20

db ketidakpasan model = 28 – 20

= 8

mnm

j

j 1


The regression equation is y = - 37,3 + 19,5 x


Constant -37,31 11,70 -3,19 0,003

x 19,483 1,885 10,33 0,000

S = 29,6616 R-Sq = 79,2% R-Sq(adj) = 78,5%


Source DF SS MS F P

Regression 1 93945 93945 106,78 0,000


Lack of Fit 8 15272 1909 4,08 0,005

Pure Error 20 9363 468

Total 29 118580

Phit < 0,05

KEPUTUSAN :

Tolak H0

KESIMPULAN:

Model tidak pas

H0: model pas

H1: model tdk pas


Tabel Sidik Ragam

(lanjutan)OUTPUT MINITAB


Pada contoh tersebut meskipun P-value untuk pengaruh linier x dan regresi sangat kecil (0,000…) namun kita tidak memperhatikan hal ini terlebih dahulu. Kita perhatikan uji ketidakpasan modelnya dulu, disimpulkan bahwa model tidak pas.

Selanjutnya kita periksa pola tebaran datanya.

x

y

1086420

200

150

100

50

0

Scatterplot of y vs x

Pada tebaran data-nya ter-

lihat adanya pola kuadratik

model yang digunakan

diubah menjadi :

εxβxββY 2

1110


x

y

1086420

200

150

100

50

0

Scatterplot of y vs x


y = 28,32 - 13,33 x + 2,983 x**2

S = 19,7555 R-Sq = 91,1% R-Sq(adj) = 90,5%


Source DF SS MS F P

Regression 2 108043 54021,3 138,42 0,00

Error 27 10538 390,3

Total 29 118580

Sequential Analysis of Variance

Source DF SS F P

Linear 1 93945,5 106,78 0,000Quadratic 1 14097,2 36,12 0,000

x

y

1086420

200

150

100

50

0

Fitted Line Plot


Tabel Sidik Ragam(lanjutan)

• Dengan mengubah model

regresi dari linier ke kuadratik, R2

meningkat dari 79,2% menjadi

91,1%

• Dari tabel Sidik Ragam didapat

bhw pengaruh X kuadrat nyata

dg = 0,05

OUTPUT MINITAB

a

MODEL YG DIGUNAKAN :

Y duga = 28,32 - 13,33 x + 2,983 x**2


FILM :

MENGUJI

KETIDAKPASAN MODEL

dengan

MENGGUNAKAN MINITAB

Klik di sini

X Y X Y

1 5,135 6 67,586

1 30,846 6 47,441

1 32,977 6 32,919

2 14,142 7 78,804

2 20,785 7 78,202

2 -1,499 7 73,846

3 13,463 8 154,158

3 30,391 8 114,145

3 -21,254 8 110,077

4 31,095 9 139,573

4 6,542 9 154,735

4 35,466 9 151,428

5 -5,419 10 163,649

5 59,32 10 189,114

5 73,178 10 214,504


Tabel Sidik Ragam

Film/Ketidakpasan_Model.avi


Langkah-langkah

Pemilihan Model yang Pas

1.Tentukan model, dapatkan dugaan persamaan garis regresinya,

susun tabel Sidik Ragam, jangan dulu melakukan uji F untuk

regresi keseluruhan

2.Lakukan uji ketidakpasan model.

Jika tidak ada ulangan, cek secara eksploratif : plot sisaan-nya

(akan dijelaskan pada pokok bahasan: Diagnosa Model).

Jika nyata : lanjut ke langkah 3

Jika tidak nyata : gunakan KT sisaan s2 sebagai dugaan bagi

Rag(Y) = σ2 , lakukan uji F secara keseluruhan, hitung R2, perik-

sa asumsi untuk MKT melalui plot sisaan (Diagnosa Model)

3.Hentikan analisis, perbaiki modelnya (lihat pola plot sisaannya).


Selang Kepercayaan bagi koefisien kemiringan b1

Selang kepercayaan bagi koefisien

kemiringan adalah :

Output Excel untuk contoh kasus harga rumah:

Pada tingkat kepercayaan 95%, selang kepercayaan

bagi koefisien kemiringan garis adalah (0.0337, 0.1858)

11 bα/22,n11bα/22,n1 stbβstb

Coefficients Standard Error t Stat P-value Lower 95% Upper 95%

Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386

Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580

d.b. = n - 2


Selama satuan peubah tak bebas (harga rumah) dalam juta rupiah, kita

percaya 95% bahwa rata-rata pengaruh penambahan harga rumah

berada antara Rp. 0,03374 juta sampai dengan Rp.0,18580 juta setiap

penambahan satu m2 luas lantai

Coefficients Standard Error t Stat P-value Lower 95% Upper 95%

Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386

Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580

Selang kepercayaan 95% ini tidak memuat angka 0.

Kesimpulan : Ada hubungan linier yang nyata antara harga rumah

dengan luas lantai dengan tingkat nyata sebesar 95%

Selang Kepercayaan bagi koefisien kemiringan b1

(lanjutan)


Peramalan

Dugaan persamaan garis regresi dapat

digunakan untuk memprediksi/meramal nilai

Y jika x diketahui (hati-hati hanya untuk x

yang berada dalam selang pengamatan)

Untuk suatu nilai, xn+1 , nilai prediksi bagi Y

adalah

1n101n xbby ˆ


317.85

0)0.1098(200 98.25


Berapa kira-kira harga rumah yang luas lantainya

2000 m2 ! (2000 bukan titik pengamatan, namun

masih dalam selang pengamatan). interpolasi

Prediksi harga rumah dengan luas lantai

2000 m2 adalah Rp 317,85 juta

Memprediksi dengan menggunakan persamaan garis regresi


0

50

100

150

200

250

300

350

400

450

0 500 1000 1500 2000 2500 3000

Luas Lantai (m2)

Harg

a R

um

ah

(ju

ta R

p)

Selang data yang relevan

Ketika menggunakan garis regresi sebagai alat untuk memprediksi, x yang boleh digunakan adalah x yang nilainya dalam selang pengamatan

Selang yang relevan

Sangat riskan

untuk melakukan

ekstrapolasi X di

luar selang

pengamatan


Selang kepercayaan rataan respon dan dugaan individu

Y

Xxi

yi = b0 + b1 xi

Selang

kepercayaan

bagi rataan Y,

untuk xi

Selang kepercaya-

an bagi nilai peng-

amatan y, untuk xi

y


Selang Kepercayaan bagi nilai harapan Y, untuk suatu X

Selang kepercayaan bagidugaan nilai harapan/rataan y jika diketahui xn+1

Perhatikan bahwa rumus tersebut mengandung

Jadi beragamnya lebar selang bergantung pada jarak

antara xn+1 terhadap nilai rataan, x

2

i

2

1neα/22,n1n

1n1n

)x(x

)x(x

n

1sty

:)X|E(Y bagin kepercayaa Selang

2

1n )x(x


Selang Kepercayaan bagi individu Y, untuk suatu nilai x

Selang kepercayaan individu y untuk suatu nilai xn+1

2

i

2

1neα/22,n1n

1n

)x(x

)x(x

n

11sty

:y bagin kepercayaa Selang


Dugaan bagi Nilai Tengah/Rataan: Contoh harga rumah

Dapatkan selang kepercayaan 95% bagi rataan

harga rumah dengan luas lantai 2.000 m2

harga rumah yi = 317,85 (Rp. juta)

Selang kepercayaan bagi E(Yn+1|Xn+1)

37.12317.85)x(x

)x(x

n

1sty

2

i

2

1neα/22,-n1n

Selang kepercayaan 95% bagi rataan harga rumah

adalah dari Rp 280.660.000,- sampai Rp. 354.900.000,-


Predicted Values for New Observations

New

Obs Fit SE Fit 95% CI 95% PI

1 317,8 16,1 (280,7; 354,9) (215,5; 420,1)

Values of Predictors for New Observations

New Luas

Obs Lantai

1 2000

OUTPUT MINITAB

Dugaan bagi Nilai Tengah/Rataan: Contoh harga rumah

Selang Kepercayaan 95% bagi

dugaan nilai tengah/Rataan

untuk suatu nilai x tertentu yg

tidak ada pada pengamatan,

namun masih dalam selang

pengamatan x = 2000

Dugaan Nilai Tengah untuk x = 2000

(lanjutan)


Dugaan bagi individu/respon: contoh harga rumah

Dapatkan selang kepercayaan 95% bagi respon individu

harga rumah untuk rumah dengan luas lantai 2.000 m2

yi = 317,85 (Rp. juta)

Selang kepercayaan bagi individu yn+1

102.28317.85)X(X

)X(X

n

11sty

2

i

2

1neα/21,-n1n

Selang kepercayaan 95% bagi harga rumah dengan luas lantai

2000m2 ialah dari Rp 215.500.000,- sampai Rp 420.070.000,-.


OUTPUT MINITAB

Predicted Values for New Observations

New

Obs Fit SE Fit 95% CI 95% PI

1 317,8 16,1 (280,7; 354,9) (215,5; 420,1)

Values of Predictors for New Observations

New Luas

Obs Lantai

1 2000

Dugaan bagi individu/respon: contoh harga rumah

(lanjutan)

Selang Kepercayaan 95% bagi

dugaan individu/respon untuk

suatu nilai x tertentu yg tidak

ada pada pengamatan, namun

masih dalam selang

pengamatan x = 2000


FILM :

MENGHITUNG

SELANG KEPERCAYAAN BAGI

RAMALAN NILAI TENGAH

&

RAMALAN NILAI INDIVIDU

dengan

MENGGUNAKAN MINITAB

Klik di sini


Harga

Rumah

(Rp.juta) (Y)

Luas Lantai

(m2) (X)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700

Film/selang_kepercayaan_Screen_Stream.avi

analisis regresi 1 - home | .: department of statistics ... · metode kuadrat terkecil b 0 dan b 1...

Documents