![Page 1: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/1.jpg)
Metode klasifikasi Naïve Bayes Team teaching
![Page 2: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/2.jpg)
� Metode klasifikasi ini diturunkan dari penerapan teorema Bayes dengan asumsi independence (saling bebas),
� Naive Bayes Classifier adalah metode pengklasifikasian paling sederhana dari model pengklasifikasian dengan peluang, dimana diasumsikan bahwa setiap atribut contoh (data sampel) bersifat saling lepas satu sama lain berdasarkan atribut kelas.
![Page 3: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/3.jpg)
Naïve Bayes Classifier
� Apa yang dapat kita lakukan apabila data kita yaitu d has mempunyai beberapa atribut atau fitur?
� Asumsi Naïve Bayes: Atribut yang mendeskripsikan contoh data adalah independen pada hipotesi klasifikasi
◦ Asumsi penyerderhanaan, kemungkinan tidak sesuai realita ◦ Namun bekerja dengan baik secara praktis
� Beberapa aplikasi:
◦ Diagnosa medis
◦ Klasifikasi Teks
€
P(d | h) = P(a1,...,aT | h) = P(at | h)t∏
![Page 4: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/4.jpg)
Asumsikan diantara fitur Ai adalah independen pada suatu kelas:
![Page 5: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/5.jpg)
� Tahap Pembelajaran Pada setiap kelas C: Estimasikan prior P(C) −> untuk setiap fitur
A, untuk setiap nilai fitur v dari A: estimasikan P( A=v | C ) � Tahap Uji beberapa fitur (v1, v2, ..., , vk) Pilih kelas yang memaksimalkan:
![Page 6: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/6.jpg)
Naïve bayesian data kontinyu?
Naive bayes classifier juga dapat menangani atribut bertipe kontinyu. Salah satu caranya adalah menggunakan distribusi Gaussian. Distribusi ini dikarakterisasi dengan dua parameter yaitu mean (μ), dan variansi(σ2), untuk setiap kelas yj, peluang kelas bersyarat untuk atribut Xi dinyatakan pada persamaan : (slide berikut)
![Page 7: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/7.jpg)
� Fungsi densitas mengekspresikan probabilitas relatif.
� Data dengan mean μ dan standar deviasi σ, fungsi densitas probabilitasnya adalah:
μ dan σ dapat diestimasi dari data, untuk
setiap kelas Gunakan untuk P(X | C)
![Page 8: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/8.jpg)
![Page 9: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/9.jpg)
Studi Kasus
� Implementasi: (mutu buah jeruk) � Mengumpulkan informasi tentang jeruk
manis. � Menganalisa dan merancang perangkat
lunak yang digunakan untuk menentukan mutu buah jeruk manis berdasarkan warna RGB dan diameter dengan menggunakan metode naive bayes.
![Page 10: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/10.jpg)
Pseudocode Untuk menghitung peluang, langkah-langkah
yang dilakukan sebagai berikut : � Membuat image menjadi skala keabuan (grey-
scale). � Binarisasi. Pada tahap ini berguna untuk merubah
nilai piksel image menjadi 0 dan 1. Nilai 0 untuk menggambarkan latar belakang, nilai 1 untuk objek buah jeruk.
� Max Filter. Tahap ini diperlukan untuk menghilangkan nilai piksel 1 tetapi bukan bagian dari buah jeruk.
� Temukan Parameter. Tahap ini digunakan menghitung nilai rata-rata red, green, blue, dan mengitung diameter buah jeruk.
![Page 11: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/11.jpg)
� Penentuan Mutu Buah Jeruk. � Bila parameter rata-rata R,G,B dan diameter
D sudah diketahui, maka untuk menentukan mutu buah jeruk memiliki langkah-langkah sbb:
• p1:Hitung Peluang (R,G,B,D) pada kelas A • p2:Hitung Peluang (R,G,B,D) pada kelas B • p3:Hitung Peluang (R,G,B,D) pada kelas C • p4:Hitung Peluang (R,G,B,D) pada kelas BS
![Page 12: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/12.jpg)
� if ((p1>=p2) and (p1>=p3) and (p1>=p4)) then Output 'Quality A with probability p1’
� if ((p2>=p1) and (p2>=p3) and (p2>=p4)) then Output 'Quality B with probability p2’
� if ((p3>=p1) and (p3>=p2) and (p3>=p4)) then Output 'Quality C with probability p3'
� if ((p4>=p1) and (p4>=p2) and (p4>=p3)) then Output 'Quality BS with probability p4'
![Page 13: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/13.jpg)
![Page 14: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/14.jpg)
Keterangan : � display vektor pembelajaran � display gambar jeruk yang akan diuji mutunya. � Pada gambar tersebut terdapat dua garis
vertikal yang digunakan untuk. Jarak antara dua garis vertikal tersebut digunakan untuk menghitung diameter buah jeruk.
� display untuk mengetahui mutu jeruk yang sedang ditampilkan. Pada image yang ditampilkan, mutu yang dihasilkan adalah BS.
![Page 15: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/15.jpg)
![Page 16: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/16.jpg)
Studi Kasus 2 ‘Play Tennis’ data Day Outlook Temperature Humidity Wind Play
Tennis
Day1 Sunny Hot High Weak NoDay2 Sunny Hot High Strong No
Day3 Overcast Hot High Weak Yes
Day4 Rain Mild High Weak Yes
Day5 Rain Cool Normal Weak Yes
Day6 Rain Cool Normal Strong No
Day7 Overcast Cool Normal Strong Yes
Day8 Sunny Mild High Weak No
Day9 Sunny Cool Normal Weak Yes
Day10 Rain Mild Normal Weak Yes
Day11 Sunny Mild Normal Strong Yes
Day12 Overcast Mild High Strong Yes
Day13 Overcast Hot Normal Weak Yes
Day14 Rain Mild High Strong No
![Page 17: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/17.jpg)
Naïve Bayes solution Klasifikasi darum baru berupa x=(a1,…aT) sebagaimana:
� Untuk melakukannya berdasarkan pada sampel pelatihan, kita perlu untuk mengestimasi parameter-parameter dari sampel pelatihan:
◦ Untuk setiap kelas (hypothesis) h
◦ Untuk setiap nilai fitur at dari setiap contoh datum
)( estimate:)(ˆ hPhP =
)|( estimate:)|(ˆ haPhaP tt =
∏==t
thh
BayesNaive haPhPhPhPh )|()(maxarg)|()(maxarg x
![Page 18: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/18.jpg)
Berdasarkan pada contoh tabel klasifikasi datum x berikut : x=(Outl=Sunny, Temp=Cool, Hum=High, Wind=strong) � That means: Play tennis or not?
� Working:
)|()|()|()|()(maxarg
)|()(maxarg)|()(maxarg
],[
],[],[
hstrongWindPhhighHumidityPhcoolTempPhsunnyOutlookPhP
haPhPhPhPh
noyesh
tt
noyeshnoyeshNB
=====
==
∈
∈∈∏x
noxPlayTennisanswernostrongPnohighPnocoolPnosunnyPnoP
yesstrongPyeshighPyescoolPyessunnyPyesPetc
noPlayTennisstrongWindPyesPlayTennisstrongWindP
noPlayTennisPyesPlayTennisP
=⇒
=
=
====
====
===
===
)(:)|()|()|()|()(
0053.0)|()|()|()|()(.
60.05/3)|(33.09/3)|(
36.014/5)(64.014/9)(
0.0206
![Page 19: Metode klasifikasi Naïve Bayes - Universitas Brawijaya · penerapan teorema Bayes dengan asumsi independence (saling bebas), ! Naive Bayes Classifier adalah metode pengklasifikasian](https://reader031.vdocuments.net/reader031/viewer/2022041506/5e25421b5857d26a4735565f/html5/thumbnails/19.jpg)
COBA LAKUKAN TES DATA : X = (REFUND = NO, DIVORCED, INCOME = 120K) MASUK KELAS “EVADE” NO ATAUKAH YES? 2 FITUR = KATEGORI , 1 FITUR = KONTINYU