FACE RECOGNITION MENGGT]NAKAN METODELINEAR DISCRIMINAIIT ANALYSIS (LDA)

Resmana Lim l, Raymond I & Kartika Gunadi 2

l) Jurusan Teknik Elektro2) Jurusan Teknik Informatika

Universitas Kristen PeEaSiwalankerto l2l- 13 1, Surbaya. Fax: 03 1-8 436418

E-mail : {resmana; kgunadi}@petra.ac.id

Ma*Paper ini membahas sistem pengenalan imagewajah dengan 2 metode ekstraksifeature

sistik yaitu PCA (Principal Components Analysis) dan LDA (Linear Discriminant Analysis).bilihan metode ekstraksi feature yang tepat dan efuien sangat rnenentukan keberhasilan darijdl t pengenalan secara keseluruhan. Sistem dibangun menggunalran platfurm PC denganalisan program lomputer menggunakan Delphi. Sistem diuji menggunaknn berbagai irnageHnse yang diambil menggunakan knmera digital yang terdiri dari 12 orang dengan masing-

-dry I0 image. Sistem iuga diuji menggunakan Yale faces database yang terdiri dari 14 orangfEn masing-masing 9 image. Metode pengenalan pola menggunalcan nearest neighbor.frwa dan dihasilkan recogntion rate antara 80-90% dengan berbagai variasi penambahan*fun oklusi.

bfurci : face recognition, LDA, PCA, pengenalan pola.

Pendahuluan

Sistem pengenalan wajah banyak dimanfaatkan pada biometrics yang digunakan untuki personal pada penggunaan mesin absensi, akses kontrol dan lain-lain. Secara umum

n pcngenalan image tidak menggunakan bitmap pixel secara langsung melainkan ia beke{a{'rnein feature. Image direpresentasikan kedalam bentuk feature yang lebih kompak yang

n digunakan untuk pengenalan, dengan demikian dapat menghemat komputasi. BerbagaiGtsnrasi feature telah dimanfaatkan seperti metode moment, feature filter Gabor, Wavelet,

b{rin [l]. Dalam paper ini akan digunakan 2 metode ekstrasi feature secara statistik yangtelah lama digunakan yaitu PCA (Principal Cbmponents Analysis) [2] dan LDA (Linear

imt Analysis) [3].ililaode PCA dikenal juga dengan nama Karhunen-Loeve transformation (KLT), yang telahrirk 30 tahun dalam dunia pengenalan pola. PCA memberikan transformasi ortogonal

dengan 'eigenimage' yang mana sebuah image direpresentasikan kedalam bentukn fni:r searah dengan eigenimage yang bersesuaian dengan nilai eigen terbesar dari matrix

r (tau scatter matrix). Secara praktis matrix covariance ini dibangun dari sekumpulanbig yang diambil dari berbagai obyek/kelas.

EA memberlakukan properti sthtistik yang sama bagi seluruh image training dari berbagaib. Tilak demikian halnya pada LDA, ia membertakukan properti statistik yang terpisah

obyek. Tujuan dari LDA adalah mencari proyeksi liniear (yang biasa disebut dengantmtuk memaksimumkan matrix covariance antar obyek (between-class covariance

Eha itu juga meminimumkan matrix covariance didalam obyek itu sendiri (within-matrix). Bila tersedia image training yang cukup representatif dalam jumlah

il-ri bentuk untuk tiap-tiap obyek maka metode ekstraksi LDA akan menunjukanlcbih baik dari pada PCA seperti yang ditunjukan pada hasil-hasil percobaan dalam

paper ini disusun sebagai berikut: pada pasal 2 dan 3 akan dijelaskan metodeDeskripsi sistem diberikan pada pasal 4 dan hasil-hasil percobaan diberikan pada

dengan diskusi/kesimpulan pada pasal 6.

A- l 17

"-"' ""*1iffi1;1ft51*ff;ff;Tnff'fi'Jf#fl?;"12. Principal Components Analysis (PCA)

Sebuah image 2D dengan dimensi 6 baris dn kkolom dapat direpresentasikan kedalam

bentuk image lD dengan dimensi n (n*b*k). Dengan ekspresi lain dapat dituliskan sebagai En,

adalah ruang imag" i"rrgun dimensi n. Imagc tt"itting yang digunakan sebanyak K sampel

dinyatakan i*g* {r,, ,1, ..., xfi yang diarnbil dari sebanyak c obyelc&elas yalg dinyatakan

dengan {Xr, X; ..., i"}. totat matrix Jcatter Sr (atau matrix covariance) didefinisikan sebagai

berikut:K

s.=f( ; r -p)(x*-p) '

dimana p adalah ntz-tatasampel image yang diperoleh-dengan-merata-rata haining image {x'' x''

-.,, r*].bengan dekomposisi "ig"rr, -"tri*

covariance ini dapat didekomposisi menjadi:

Sr=@A(Dr (2)

dimana O adalah matrix eigenvector, dan A adalah is a diagonal matrix dari nilai eie-en' Kemudian

dipilih sejumlah ru kolom eigenvector dari matrix o yang berasosiasi dengan sejumlah m nilai

eigen ter6esar. pemilihan eifenvector ini menghasilkan matrix transformasi atau matrix proyeksi

O], y*g mana terdiri dan mkolom eigenvector terpilih yang biasa disebut juga dengan."ig"niri"g"'. Berikutnya sebuah image .r (berdimensi n)dapat diekstraksi kedalam feature baruy

6eiaimensi m < n) dengan memproyeksikan x searah dengan ip, sebagai berikut:

! =@ ^x

(3)

Dengan kata lain metode PCA memproyeksikan ruang asal En ke dalam ruang baru yang

berdimensi lebih rendah A', yang mana sebanyak mungkin kandungan informasi asal tetap

dipertahankan untuk tidak terlalubanyak hilang setelah dibawa ke dimensi feature yang lebih kecil'

Disini terlihat reduksi feature yang iignifitan Oari z buah menjadi ln buah yang tentunya akan

sangat meringankan komputasi dalam proses pengenalan bgrikltnfa'Total matrix ,."tt., Sr diatas r"rungguhnya adalah jumlahan dari matrix scatter dalam

kelas (within-class scatter matiixl ,S' dan -"t

i* scatter antar kelas &ery9en1fass. scatter matrix)

Ss yaitu, Sr = Sr, + S3. Dengan demikian, kekurangan utama yang terlihat disini adalah bahwa

dalam proses PcA ke dua matrix scatter ini termaksimalkan bersamasama. :;1Sesungguhnya yang diinginkan adalah hanya maksimalisasi,ss saja, sedangkan 'Srz sebisa mungkin

diminimalkan agar ungg-otu didalam kelai lebih terkumpul penyebarannya ya\F pada akhirnya

dapat meningkaikan keberhasilan pengenalan. Misalkan pada variasi perubahan iluminasi maupun

skala dari image yang terjadi pada obyek yang sama, dapat menyebabkan mltrix scatter dalam

kelas menjadi besar fang-cukrp menyulitkan dalam proses pengenalan. Bila ini_terjadi, dengan

demikian pCA akan meriyertakan variasi iluminasi didalam eigenimage-nya, dan konsekuensinya

PCA menjadi tidak handal terhadap variasi iluminasi yang terjadi pada obye\ Dengan metofg

LDA, ,Sr akan diminimisasi sehingga ekstrasi featurl yang dihasilkan menjadi lebih handal

ferhadap variasi yang terjadi didalam kelas.

3. Linear Discrimination Analysis (LDA)

Matrix scatter dalam kelas ,Sy, dan matrix scatter antar kelas .9a didefinisikan masing-

masing sebagai berikut:

(1)

c -S' tw-L f {to - F)@* - P,)'

xleX;

(4)

-p)(p, - p)' (5)

dimana l/, adalah jumlah sampel pada kelas X,, d- p,adalah image rata+atz dari kelas X,.

S€perti diutarakan sebelumnya bahwa sangat diharapkan agar matrix scaffer dalam kelas ̂ S" bisa

diminimalisasi sementara matrix scatter antar kelas ,S, dimaksimalkan. Dengan kata lain akan

dicari mahix proyeksi Y, "g"t

ratio persamaan (6) menjadi maksimal.

de(Y,SrV,r)

de(Y,.SrYf )

Kriteria ini menghasilkan solusi dengan persamaan sebagai berikut [3]:

SrY =.S, 'YA Q)

dimana Y adalah matrix eigenvector, dan Aadalah matrix diagonal nilai eigen. Dengan kata lain

akan dicari eigenvector dan eigenvalue dari matrix C yang merupakan kombinasi within & beetwin

scatter matrix seperti pada persamaan 8. Kembali dilakukan pemilihan sebanyak / kolom

eigenvector dari Y yang berasosiasi dengan nilai-nilai eigen terbesar.pemilihan / kolom eigenvector ini menghasilkan matrix proyeksi Y, yang selanjutnya digunakan

untuk ekstraksi feature seperti halnya pada PCA.

C = SaS*-t

4. Deskripsi Sistem

Blok diagram sistem pengenalan wajah dapat dilihat pada gambar l, yang mana disini

digunakan feature reduction menggunakan PCA yang dilanjutkan dengan LDA. Sebagian image

digunakan sebagai training dataset untuk ditransformasi kedalam bentuk feature yang disimpan

dalam database. Image input yang hendak dicari identitasnya ditransformasikan kedalam bentuk

feature yang selanjutnya dengan classifier nearest neigbor akan dikenali identitasnya.

s" =i N,(p,i=l

(6)

(8)

Gambar I. BIok Diagram Sistem Pengenalan l4raiah.

A-120 Procecdings, K6mputcrdan Sistem Iatelijen (KOMMIT 2002)

Auditorium Universitas q*

Ringkasan dari seluruh algoritma PCd + LDA adalah sebagai bcrikut :

Gambar 2. Ringkasan Ekstrat<si Feature PCA + LDA

1. Masukkan data pixel image training ke dalam matriks u

Misalkan terdapat ft image training dengan masing-masing berdimensi 100 x 100 pixels : 10'0(n

pixels. Matriks yurrg;;rJpresentaslkan image-imale tersebut berdimensi 10'000 x o,' adalah :

[ ' ' ' ' ur 'z ut '^

I ur, uz,z uz,n' '"u=l

t .Il_r,**,, 4roooo,z ... uroooo,.

(e)

2. Mencari image rata-rata

Image Rata-Rataadalah rata-rata dari semua pixel image-image training'

;=Li .u, , (10)mE

Dari matriks di atas, didapatkan matriks nta-rata total PcA dengan dimensi 10'000 x 1' yaitu:

lrl*cnkkflt date pixcl semru imagc

training kc uratniks u

Cari untrikrCg. =gr 'xu

Caricigcnvaluc(LldurEigen vcr.r<r(V) dad nratriksC

Cari rnatrilis featurc PCA

! *tk, -iY ,r

TransJnsc matriks f, danang.gp scbagai inPut bcgi LD'{

Cari Str dart Srt. lalu cari

(- =.frSr-t

Cari r-igen valtre ( ?. i dan

Eigat vc'ctori\''l dari matriks C

Cari ntatriks feature LD.{

r =i(r, -i,[ ",r'

Flcc Recognition Menggunakan Metode Linear Discriminant Analysis (LDA) A-l2l

(11)

l. Mencari covariance matriks PCA

Xetriks covariance PCA dapat dicari dengan rumus sebagai berikut :

C =ur xu ( I2\

llatriks covariance dengan dimensi m x m, dimana m adalah jumlah image training.Dcagan dekomposisi eigen berlaku :

Cxv= )"xv (13)

Iftumgi eigen value (),) dan eigen vector (V) dari matriks C menggunakan metode Jacobi [5].E{'en value dan eigen vector yang bersesuaian diurutkan secara descending . Eigen faces yangdi@atkan ini dapat dilihat dalam ilustrasi di bawah ini :

Gambar 3. Dua belas Eigenfoces Pertama.&Iam eigen faces di atas dapat dilihat bahwa dapat dibedakan antara wajah yang menghadap kedepan, kanan, belakang. Eigen faces ini dapat dijadikan pembanding saat merecognize suatu image.

{ Mencari feature PCA

Eigen vector hasil proses pada langkah 3, beserta dengan image rata-rata digunakan untukmrransformasikan raw image ke dalam ruang feature f. Selanjutnya feature f disimpan dalamdmbase untuk kemudian digunakan pada proses pengenalan. Proyeksi raw input image ke ruangdgen dapat dihitung menggunakan rumus berikut:

nt / - \T

f =>lr, - u)' "rti= l

p :jumlah image training1, = Image input

i : Imagerata-rata totalV: matriks eigen vector

5. Selanjutnya feature hasil PCA digunakan sebagai input pada proses LDA

LDA memisahkan tiap image ke dalam class yang berbeda. Class adalah kumpulan image yang

dmiliki oleh seseorang yang sama. Pada contoh database, ada 12 orang masing-masing memiliki!O image training. Pada perhitungan PCA akan didapat 1 buah kumpulan image terdiri dari 120;nrage training (ika semua image dijadikan training). Sedangkan pada LDA kita akan memiliki 12

dms, masing-masing terdiri dari l0 buah image training. Matrix scatter dalam kelas ^S" , dan

mnrix scatter antar kelas .S" dihitung dengan persamaan 4 dan 5 di atas. Dengan 2 informasi

li,,;=lt -Lil Loooo,t

(14)

Proceedings, Komputer dan Sistem Intelijen (KOMMIT 2002)

Auditorium Universitas Gunadarma, Jakarta 2l -22 Agustus 2002

mahix scatter ini maka dihitung covariance matrix C (persamaan 8) lantas dicari eigen value dan

eigen vector dari matrix C tersebut Selanjutnya eigen vector ini digunakan untuk transformasi

feature PCA kedalarn benhrk feature LDA-

6. Mencari feature LDA

Feature LDA dicari dengan rumusan yang sama dengan feature PCA sebagai berikut:

Lt \ rfn, =IF, - u*r) xv*n (ls)

t-l

PENGENALAN DENGAI\ NEAREST NEIGHBORMetode recognition yang digunakan disini aaUan neorest neighbour. Metodg

-ini menghitung

distance minimurn antara feature image test dan masing-masing feature image haining.

Distance dicari dengan menggunakan rumus.

d "(a,b)

= (16)

Variabel de adalah jarak antara feature a dan b dalam ruang dengan feature n dimensi, dalam ini n

adalah jumlahfeatir" yangdiambil. Disini dipilih harga n dalam kisaran 10 s/d 70 dan kemudian

diamati keberhasilannya.

5. Ilasil-hasil Percobaan

Sistem dibangun menggunakan platform PC dengan penulisan program kompuE

menggunakan Delphi. Sistem diuji menggunakan berbagai image database yarrg diambil

menggunakan kamera digital yang terdiri dan 12 orang dengan masing-masing 10 image.

Sistem juga diuji menggunakan Yale faces database yang terdiri dari 14 orang dengm

masingmasing 9 image. Size image adalah 100xi00 pixel. Jumlah feature hasil reduksi dicobl

dalam range l0 sampai 70 buah. Metode pengenalan pola menggunakan nearest neighba

sederhana dan dihasilkan recogntion rate antara 80-90% dengan berbagai variasi penambahan noisc

dan oklusi.Tampilan program yang dibuat adalah seperti gambar 4, yang secara umum terdiri dari 2 modrd

yaitu modul tiaining dan modul testing. Modul training menghasilkan parameter digenvector dm

image rata-rztabaik untuk PCA maupun LDA.Beberapa test yang telah dilakukan menunjukkan hasil recognition rate seperti bida dilihat padr

table berikut ini :

'abel I RatercnDatfiba$e Itccoenition ltare

PC,\Onlv

I'CA +LDA

13 orang @ l0irnngenrultipose

6 ima.qe trainitre- 4 inraee te$t 4&ok 48*/"

? imsqe uainine. J imaee tst 6S 9t 68%I inraqe trainins, 2 imaqe test 73 V" 78%trrnaee traini ne bervariasi _r8 % 6e%

Yale Face,\ 14orang @ 9 inragemuhi e-rnre-ssion

6 irnaec trainine. l maqet6l 95 +L e0q6? inrage uaining 2 inrage test 96Yr 100 0/!

Ita,i= l

Gambar 4. Screen Shot Tampilan Program.

Secara umum kombinasi pCA+LDA memberikan hasil yang lebih baik, bahkan dengan jumlah

feature yang lebih sedikipun. Pengujian dengan menggunakan tambahan noise tidak banyak

Uerpengaruh pada recognilion rate di atas. Noise dibuat dengan bantuan Adobe Photoshop 7'0,

dalam hal ini menggunakan filter add noise dan ripple distortion'

ffiffiffi ffiffi&&Ga.mbar 5. Penambahan Noise pada Test Image.

6. Kesimpulan

Dari hasil percobaan ternyata secara umum bila variasi image training cukup tinggi

{misalnya: iluminasi dan ekspresi) maka penggunaan PCA+LDA akan memberikan kontribusi yang

tinggi. bahkan dengan jumlih feature yang sedikit PCA+LDA memberikan hasil yang lebih baik

Uitl-dibangdingkan dengan penggunaan PCA saja. Pengambilan jumlahpature yarlg dihitung harus

dipertimbangkan. Bila terlalu sedikit atau terlalu banyak akan menurunkan recognition percentage.

lumlahfeatire yangbenar-benar optimal bisa didapatkan dengan melakukan eksperimen berulang-

ulang. Oari eksperimen yang telah dilakukan, jumlah feature yang optimal berada di antara 30 - 60

untuk database dengan 12 otang, masing-masing 8 image training, dengan recognition rate

maksimum 78 Yo, dan antara 50 - t0 unt.tk YaIe Faces Database, masing-masing 7 image training,

dengan recognition rate maksimum 100 %.

Metode pengenalan pola perlu dikembangkan lebih lanjut misalnya menggunakan neural

networks atau metode-metode statistik lainnya seperti support vector machine misalnya.

Daftar Pustaka

R. Chellappa, C. Wilson, and S. Sirohey, "Human and machine recognition: A survey,"

Proceediigs of the IEEE, vol. 83, no. 5, pp. 705--740,1995'

M. Turk and A. Pentland, "Eigenfaces for recognition." Journal of Cognitive Neuroscience,

Vol. 3, pp. 71-86, 1991.

7.

t t l

TzJ

A-124Proceedings, Komputer dan Sistem Intelijen (KOMMIT 2002)

Auditorium

t3l

t4l

t5l

t6l

K.EtemadandR.Chellappa,..DiscriminantAnalysisforRecognitionofHumanFaceImages," Journal plOititrt Society of lm-e-rica i' pp'1724-1733' Aug' 1997'

P.N. Belhumeur, J-P. Hespanha" and D{:5lt;g#i'Pig:1f'a:"s"vs' fisherfaces: Recognition

using class specific u;;;t"J"; tion" ' IEEE TTins"eeM!' Y* t'9'No' 7' July 1997'

press, william H., et. al.,i,{umericat necrpes in c, in" en of scientific computing' second

Edition, Cambridge : CamUriOge University Press' 1995'

Nayar, Shree K. una f-o-"ro foggio, for{y i*aol Learntng. Oxford : Oxford University

Press, 1996.