blobworld a system for region based image indexing and retrieval

8/22/2019 Blobworld a System for Region Based Image Indexing and Retrieval

1/12

B l o b w o r l d : A s y s t e m f o r r e g i o n - b a s e d i m a g e

i n d e x i n g a n d r e t r i e v a l

?

C h a d C a r s o n , M e g a n T h o m a s , S e r g e B e l o n g i e ,

J o s e p h M . H e l l e r s t e i n , a n d J i t e n d r a M a l i k

E E C S D e p a r t m e n t , U n i v e r s i t y o f C a l i f o r n i a , B e r k e l e y , C A 9 4 7 2 0 , U S A

f c a r s o n , m c t , s j b , j m h , m a l i k g @ e e c s . b e r k e l e y . e d u

P h o n e : ( 5 1 0 ) 6 4 2 - 9 9 4 0 F a x : ( 5 1 0 ) 6 4 3 - 1 5 3 4

A b s t r a c t . B l o b w o r l d i s a s y s t e m f o r i m a g e r e t r i e v a l b a s e d o n n d i n g

c o h e r e n t i m a g e r e g i o n s w h i c h r o u g h l y c o r r e s p o n d t o o b j e c t s . T h e i m a g e

i s s e g m e n t e d i n t o r e g i o n s b y t t i n g a m i x t u r e o f G a u s s i a n s t o t h e p i x e l

d i s t r i b u t i o n i n a j o i n t c o l o r - t e x t u r e - p o s i t i o n f e a t u r e s p a c e . E a c h r e g i o n

( \ b l o b " ) i s t h e n a s s o c i a t e d w i t h c o l o r a n d t e x t u r e d e s c r i p t o r s . Q u e r y i n g

i s b a s e d o n t h e u s e r s p e c i f y i n g a t t r i b u t e s o f o n e o r t w o r e g i o n s o f i n t e r -

e s t , r a t h e r t h a n a d e s c r i p t i o n o f t h e e n t i r e i m a g e . I n o r d e r t o m a k e l a r g e -

s c a l e r e t r i e v a l f e a s i b l e , w e i n d e x t h e b l o b d e s c r i p t i o n s u s i n g a t r e e . B e -

c a u s e i n d e x i n g i n t h e h i g h - d i m e n s i o n a l f e a t u r e s p a c e i s c o m p u t a t i o n a l l y

p r o h i b i t i v e , w e u s e a l o w e r - r a n k a p p r o x i m a t i o n t o t h e h i g h - d i m e n s i o n a l

d i s t a n c e . E x p e r i m e n t s s h o w e n c o u r a g i n g r e s u l t s f o r b o t h q u e r y i n g a n d

i n d e x i n g .

1 I n t r o d u c t i o n

F r o m a u s e r ' s p o i n t o f v i e w , a n i n f o r m a t i o n r e t r i e v a l s y s t e m c a n b e m e a s u r e d b y

t h e q u a l i t y a n d s p e e d w i t h w h i c h i t a n s w e r s t h e u s e r ' s i n f o r m a t i o n n e e d . S e v e r a l

f a c t o r s c o n t r i b u t e t o o v e r a l l p e r f o r m a n c e :

{ t h e t i m e r e q u i r e d t o r u n e a c h i n d i v i d u a l q u e r y ,

{ t h e q u a l i t y ( p r e c i s i o n / r e c a l l ) o f e a c h i n d i v i d u a l q u e r y ' s r e s u l t s , a n d

{ t h e u n d e r s t a n d a b i l i t y o f r e s u l t s a n d e a s e o f r e n i n g t h e q u e r y .

A l l o f t h e s e f a c t o r s s h o u l d b e c o n s i d e r e d t o g e t h e r w h e n d e s i g n i n g a s y s t e m . I n

a d d i t i o n , i m a g e d a t a b a s e u s e r s g e n e r a l l y w a n t t o n d i m a g e s b a s e d o n t h e o b j e c t s

t h e y c o n t a i n , n o t j u s t l o w - l e v e l f e a t u r e s s u c h a s c o l o r a n d t e x t u r e 5 , 7 ] ; i m a g e

r e t r i e v a l s y s t e m s s h o u l d b e e v a l u a t e d b a s e d o n t h e i r p e r f o r m a n c e a t t h i s t a s k .

C u r r e n t i m a g e r e t r i e v a l s y s t e m s t e n d t o p e r f o r m q u e r i e s q u i c k l y b u t d o n o t

s u c c e e d i n t h e o t h e r t w o a r e a s . A k e y r e a s o n t h e q u a l i t y o f q u e r y r e s u l t s s u e r s i s

b e c a u s e t h e s y s t e m s d o n o t l o o k f o r m e a n i n g f u l i m a g e r e g i o n s w h i c h c o r r e s p o n d

t o o b j e c t s . M o s t i m p o r t a n t l y , t h e r e s u l t s p r e s e n t e d b y s u c h a s y s t e m a r e o f t e n

d i c u l t t o u n d e r s t a n d b e c a u s e t h e s y s t e m a c t s l i k e a b l a c k b o x . C o n s e q u e n t l y ,

t h e p r o c e s s o f r e n i n g t h e q u e r y a n d f o l l o w i n g n e w p a t h s i s d i c u l t a n d f r u s -

t r a t i n g ; w h e n i n d i v i d u a l q u e r y r e s u l t s a r e u n p r e d i c t a b l e , i t i s d i c u l t t o p r o d u c e

a s t r e a m o f q u e r i e s t h a t s a t i s e s t h e u s e r ' s n e e d .

?

S u b m i t t e d t o V i s u a l I n f o r m a t i o n S y s t e m s ' 9 9 .


2/12

2

I n p r e v i o u s w o r k w e d e s c r i b e d \ B l o b w o r l d , " a n e w f r a m e w o r k f o r i m a g e r e -

t r i e v a l b a s e d o n s e g m e n t a t i o n i n t o r e g i o n s a n d q u e r y i n g u s i n g p r o p e r t i e s o f t h e s e

r e g i o n s 2 , 3 ] . T h e s e r e g i o n s g e n e r a l l y c o r r e s p o n d t o o b j e c t s o r p a r t s o f o b j e c t s .

I n t h i s p a p e r w e p r e s e n t a c o m p l e t e o n l i n e s y s t e m f o r r e t r i e v a l i n a c o l l e c t i o n

o f 1 0 , 0 0 0 C o r e l i m a g e s u s i n g t h i s a p p r o a c h . T h e s e g m e n t a t i o n a l g o r i t h m i s f u l l y

a u t o m a t i c ; t h e r e i s n o p a r a m e t e r t u n i n g o r h a n d p r u n i n g o f r e g i o n s . T h e q u e r y

s y s t e m i s a v a i l a b l e a t h t t p : / / e l i b . c s . b e r k e l e y . e d u / p h o t o s / b l o b w o r l d

W e p r e s e n t r e s u l t s i n d i c a t i n g t h a t q u e r y i n g f o r d i s t i n c t i v e o b j e c t s s u c h a s

t i g e r s , z e b r a s , a n d c h e e t a h s u s i n g B l o b w o r l d p r o d u c e s h i g h e r p r e c i s i o n t h a n d o e s

q u e r y i n g u s i n g c o l o r a n d t e x t u r e h i s t o g r a m s o f t h e e n t i r e i m a g e . I n a d d i t i o n ,

B l o b w o r l d f a l s e p o s i t i v e s a r e e a s i e r t o u n d e r s t a n d b e c a u s e t h e m a t c h i n g r e g i o n s

a r e h i g h l i g h t e d . T h i s p r e s e n t a t i o n o f r e s u l t s m e a n s t h a t i n t e r p r e t i n g a n d r e n i n g

t h e q u e r y i s m o r e p r o d u c t i v e w i t h t h e B l o b w o r l d s y s t e m t h a n w i t h s y s t e m s t h a t

u s e l o w - l e v e l f e a t u r e s f r o m t h e e n t i r e i m a g e .

B e c a u s e t h e s p e e d o f i n d i v i d u a l q u e r i e s i s a l s o a n i m p o r t a n t f a c t o r , w e d e -

s c r i b e a n a p p r o a c h t o i n d e x i n g B l o b w o r l d f e a t u r e s i n o r d e r t o a v o i d l i n e a r s c a n s

o f t h e e n t i r e i m a g e c o l l e c t i o n . W e p r o j e c t e a c h c o l o r f e a t u r e v e c t o r d o w n t o a

l o w e r d i m e n s i o n a l v e c t o r b a s e d o n t h e S i n g u l a r V a l u e D e c o m p o s i t i o n 8 ] o f t h e

q u a d r a t i c d i s t a n c e w e i g h t m a t r i x a n d i n d e x t h e r e s u l t i n g v e c t o r . W e n d t h a t

q u e r i e s t h a t u s e t h e i n d e x t o r e t r i e v e s e v e r a l h u n d r e d i m a g e s a n d t h e n r a n k

t h o s e i m a g e s u s i n g t h e f u l l B l o b w o r l d a l g o r i t h m s a c h i e v e r e s u l t s w h o s e q u a l i t y

c l o s e l y m a t c h e s t h e r e s u l t s o f q u e r i e s t h a t s c a n t h e e n t i r e d a t a b a s e o f i m a g e s .

W e b e g i n t h i s p a p e r b y b r i e y d i s c u s s i n g t h e c u r r e n t s t a t e o f i m a g e r e t r i e v a l .

I n S e c t i o n 2 w e o u t l i n e t h e B l o b w o r l d s e g m e n t a t i o n a l g o r i t h m , r e g i o n d e s c r i p t o r s ,

a n d q u e r y i n g s y s t e m . I n S e c t i o n 3 w e d i s c u s s i n d e x i n g . I n S e c t i o n 4 w e p r e s e n t

e x p e r i m e n t s c o m p a r i n g t h e p e r f o r m a n c e o f B l o b w o r l d q u e r y i n g a n d i n d e x i n g t o

t h e p e r f o r m a n c e o f a s y s t e m t h a t u s e s c o l o r a n d t e x t u r e h i s t o g r a m s o f t h e e n t i r e

i m a g e . W e c o n c l u d e w i t h a b r i e f d i s c u s s i o n o f o u r r e s u l t s .

1 . 1 R e l a t e d W o r k

M a n y c u r r e n t i m a g e r e t r i e v a l s y s t e m s p e r f o r m r e t r i e v a l b a s e d p r i m a r i l y o n l o w -

l e v e l i m a g e f e a t u r e s , i n c l u d i n g I B M ' s Q u e r y b y I m a g e C o n t e n t ( Q B I C ) 6 ] , P h o -

t o b o o k 1 9 ] , V i r a g e 9 ] , V i s u a l S E E k 2 3 ] , C a n d i d 1 5 ] , a n d C h a b o t 1 8 ] .

L i p s o n e t a l . 1 6 ] r e t r i e v e i m a g e s b a s e d o n s p a t i a l a n d p h o t o m e t r i c r e l a t i o n -

s h i p s w i t h i n a n d a c r o s s s i m p l e i m a g e r e g i o n s . L i t t l e o r n o s e g m e n t a t i o n i s d o n e ;

t h e r e g i o n s a r e d e r i v e d f r o m l o w - r e s o l u t i o n i m a g e s . J a c o b s e t a l . 1 3 ] u s e m u l -

t i r e s o l u t i o n w a v e l e t d e c o m p o s i t i o n s t o p e r f o r m q u e r i e s b a s e d o n i c o n i c m a t c h i n g .

M a a n d M a n j u n a t h 1 7 ] p e r f o r m r e t r i e v a l b a s e d o n s e g m e n t e d i m a g e r e g i o n s .

T h e i r s e g m e n t a t i o n i s n o t f u l l y a u t o m a t i c , a s i t r e q u i r e s s o m e p a r a m e t e r t u n i n g

a n d h a n d p r u n i n g o f r e g i o n s .

M u c h r e s e a r c h h a s g o n e i n t o d i m e n s i o n a l i t y r e d u c t i o n 1 0 ] a n d n e w i n d e x

t r e e s 2 2 , 2 4 ] t o c o p e w i t h t h e h i g h d i m e n s i o n a l i t y o f i n d i c e s b u i l t o v e r c o l o r

h i s t o g r a m s . W o r k t o d a t e h a s f o c u s e d o n i n d e x i n g t h e e n t i r e i m a g e o r u s e r -

d e n e d s u b - r e g i o n s , n o t o n i n d e x i n g a u t o m a t i c a l l y c r e a t e d i m a g e r e g i o n s . O u r

i n d e x i n g m e t h o d s a r e b a s e d o n t h o s e u s e d i n Q B I C 1 0 ] .


3/12

3

2 B l o b w o r l d

T h e B l o b w o r l d r e p r e s e n t a t i o n i s r e l a t e d t o t h e n o t i o n o f p h o t o g r a p h i c o r a r t i s t i c

s c e n e c o m p o s i t i o n . B l o b w o r l d i s d i s t i n c t f r o m c o l o r - l a y o u t m a t c h i n g a s i n Q B I C

6 ] i n t h a t i t i s d e s i g n e d t o n d o b j e c t s o r p a r t s o f o b j e c t s ; e a c h i m a g e i s t r e a t e d

a s a n e n s e m b l e o f a f e w \ b l o b s " r e p r e s e n t i n g i m a g e r e g i o n s w h i c h a r e r o u g h l y

h o m o g e n e o u s w i t h r e s p e c t t o c o l o r a n d t e x t u r e . A b l o b i s d e s c r i b e d b y i t s c o l o r

d i s t r i b u t i o n a n d m e a n t e x t u r e d e s c r i p t o r s . F i g u r e 1 i l l u s t r a t e s t h e s t a g e s i n c r e -

a t i n g B l o b w o r l d . D e t a i l s o f t h e s e g m e n t a t i o n a l g o r i t h m m a y b e f o u n d i n 2 ] .

raw

pixel

features

regions

image region

featuresfeature

pixel

vectors

image

groupextract

features features

combine describe

regionsfeatures

F i g . 1 . T h e s t a g e s o f B l o b w o r l d p r o c e s s i n g : F r o m p i x e l s t o r e g i o n d e s c r i p t i o n s .

2 . 1 G r o u p i n g p i x e l s i n t o r e g i o n s

E a c h p i x e l i s a s s i g n e d a v e c t o r c o n s i s t i n g o f c o l o r , t e x t u r e , a n d p o s i t i o n f e a -

t u r e s . T h e t h r e e c o l o r f e a t u r e s a r e t h e c o o r d i n a t e s i n t h e L * a * b * c o l o r s p a c e

2 5 ] ; w e s m o o t h t h e s e f e a t u r e s t o a v o i d o v e r s e g m e n t a t i o n a r i s i n g f r o m l o c a l c o l o r

v a r i a t i o n s d u e t o t e x t u r e . T h e t h r e e t e x t u r e f e a t u r e s a r e c o n t r a s t , a n i s o t r o p y ,

a n d p o l a r i t y , e x t r a c t e d a t a s c a l e w h i c h i s s e l e c t e d a u t o m a t i c a l l y 2 ] . T h e p o s i -

t i o n f e a t u r e s a r e s i m p l y t h e ( x y ) p o s i t i o n o f t h e p i x e l ; i n c l u d i n g t h e p o s i t i o n

g e n e r a l l y d e c r e a s e s o v e r s e g m e n t a t i o n a n d l e a d s t o s m o o t h e r r e g i o n s .

W e m o d e l t h e d i s t r i b u t i o n o f p i x e l s i n t h i s 8 - D s p a c e u s i n g m i x t u r e s o f t w o

t o v e G a u s s i a n s . W e u s e t h e E x p e c t a t i o n - M a x i m i z a t i o n a l g o r i t h m 4 ] t o t t h e

m i x t u r e o f G a u s s i a n s m o d e l t o t h e d a t a . T o c h o o s e t h e n u m b e r o f G a u s s i a n s

t h a t b e s t s u i t s t h e n a t u r a l n u m b e r o f g r o u p s p r e s e n t i n t h e i m a g e , w e a p p l y

t h e M i n i m u m D e s c r i p t i o n L e n g t h ( M D L ) p r i n c i p l e 2 0 , 2 1 ] . O n c e a m o d e l i s

s e l e c t e d , w e p e r f o r m s p a t i a l g r o u p i n g o f c o n n e c t e d p i x e l s b e l o n g i n g t o t h e s a m e

c o l o r / t e x t u r e c l u s t e r . F i g u r e 2 s h o w s s e g m e n t a t i o n s o f a f e w s a m p l e i m a g e s .

2 . 2 D e s c r i b i n g t h e r e g i o n s

W e s t o r e t h e c o l o r h i s t o g r a m o v e r p i x e l s w i t h i n e a c h r e g i o n . T h i s h i s t o g r a m i s

b a s e d o n b i n s w i t h w i d t h 2 0 i n e a c h d i m e n s i o n o f L * a * b * s p a c e . T h i s s p a c i n g

y i e l d s v e b i n s i n t h e L * d i m e n s i o n a n d t e n b i n s i n e a c h o f t h e a * a n d b *

d i m e n s i o n s , f o r a t o t a l o f 5 0 0 b i n s . H o w e v e r , n o t a l l o f t h e s e b i n s a r e v a l i d ; t h e

g a m u t c o r r e s p o n d i n g t o 0 R ; G ; B 1 c o n t a i n s o n l y 2 1 8 b i n s t h a t c a n b e

l l e d .


4/12

4

T o m a t c h t h e c o l o r o f t w o r e g i o n s , w e u s e t h e q u a d r a t i c d i s t a n c e b e t w e e n

t h e i r h i s t o g r a m s x a n d y 1 0 ] :

d

2

h i s t

( x y ) = ( x ? y )

T

A ( x ? y )

w h e r e A = a

i j

] i s a s y m m e t r i c m a t r i x o f w e i g h t s b e t w e e n 0 a n d 1 r e p r e s e n t i n g

t h e s i m i l a r i t y b e t w e e n b i n s i a n d j b a s e d o n t h e d i s t a n c e b e t w e e n t h e b i n c e n t e r s ;

n e i g h b o r i n g b i n s h a v e a w e i g h t o f 0 . 5 . T h i s d i s t a n c e m e a s u r e a l l o w s u s t o g i v e

a h i g h s c o r e t o t w o r e g i o n s w i t h s i m i l a r c o l o r s , e v e n i f t h e c o l o r s f a l l i n d i e r e n t

h i s t o g r a m b i n s .

F o r e a c h b l o b w e a l s o s t o r e t h e m e a n t e x t u r e c o n t r a s t a n d a n i s o t r o p y . T h e

d i s t a n c e b e t w e e n t w o t e x t u r e d e s c r i p t o r s i s d e n e d a s t h e E u c l i d e a n d i s t a n c e

b e t w e e n t h e i r r e s p e c t i v e v a l u e s o f c o n t r a s t a n d a n i s o t r o p y c o n t r a s t . ( A n i s o t r o p y

i s m o d u l a t e d b y c o n t r a s t b e c a u s e i t i s m e a n i n g l e s s i n a r e a s o f l o w c o n t r a s t . ) W e

d o n o t i n c l u d e p o l a r i t y i n t h e r e g i o n d e s c r i p t i o n b e c a u s e i t i s g e n e r a l l y l a r g e o n l y

a l o n g e d g e s ; i t w o u l d n o t h e l p u s d i s t i n g u i s h a m o n g d i e r e n t k i n d s o f r e g i o n s .

2 . 3 Q u e r y i n g i n B l o b w o r l d

T h e u s e r c o m p o s e s a q u e r y b y s u b m i t t i n g a n i m a g e i n o r d e r t o s e e i t s B l o b w o r l d

r e p r e s e n t a t i o n , s e l e c t i n g t h e r e l e v a n t b l o b s t o m a t c h , a n d s p e c i f y i n g t h e r e l a t i v e

i m p o r t a n c e o f t h e b l o b f e a t u r e s . W e d e n e a n \ a t o m i c q u e r y " a s o n e w h i c h

s p e c i e s a p a r t i c u l a r b l o b t o m a t c h ( e . g . , \ l i k e - b l o b - 1 " ) . A \ c o m p o u n d q u e r y " i s

d e n e d a s e i t h e r a n a t o m i c q u e r y o r a c o n j u n c t i o n o f c o m p o u n d q u e r i e s ( \ l i k e -

b l o b - 1 a n d l i k e - b l o b - 2 " ) . T h e s c o r e

i

f o r e a c h a t o m i c q u e r y w i t h f e a t u r e v e c t o r

v

i

i s c a l c u l a t e d a s f o l l o w s :

1 . F o r e a c h b l o b b

j

i n t h e d a t a b a s e i m a g e ( w i t h f e a t u r e v e c t o r v

j

)

( a ) F i n d t h e d i s t a n c e b e t w e e n v

i

a n d v

j

d

i j

= ( v

i

? v

j

)

T

( v

i

? v

j

)

( b ) M e a s u r e t h e s i m i l a r i t y b e t w e e n b

i

a n d b

j

u s i n g

i j

= e

d

i j

2

. T h i s s c o r e

i s 1 i f t h e b l o b s a r e i d e n t i c a l i n a l l r e l e v a n t f e a t u r e s ; i t d e c r e a s e s a s t h e

m a t c h b e c o m e s l e s s p e r f e c t .

2 . T a k e

i

= m a x

j

i j

T h e m a t r i x i s b l o c k d i a g o n a l . T h e b l o c k c o r r e s p o n d i n g t o t h e t e x t u r e

f e a t u r e s i s a n i d e n t i t y m a t r i x , w e i g h t e d b y t h e t e x t u r e w e i g h t s e t b y t h e u s e r .

T h e b l o c k c o r r e s p o n d i n g t o t h e c o l o r f e a t u r e s i s t h e A m a t r i x u s e d i n n d i n g

t h e q u a d r a t i c d i s t a n c e , w e i g h t e d b y t h e c o l o r w e i g h t s e t b y t h e u s e r .

T h e c o m p o u n d q u e r y s c o r e f o r t h e d a t a b a s e i m a g e i s c a l c u l a t e d u s i n g f u z z y -

l o g i c o p e r a t i o n s 1 4 ] , a n d t h e u s e r m a y s p e c i f y a w e i g h t f o r e a c h a t o m i c q u e r y .

W e t h e n r a n k t h e i m a g e s a c c o r d i n g t o o v e r a l l s c o r e a n d r e t u r n t h e b e s t

m a t c h e s , i n d i c a t i n g f o r e a c h i m a g e w h i c h s e t o f b l o b s p r o v i d e d t h e h i g h e s t s c o r e ;

t h i s i n f o r m a t i o n h e l p s t h e u s e r r e n e t h e q u e r y . A f t e r r e v i e w i n g t h e q u e r y r e s u l t s ,

t h e u s e r m a y c h a n g e t h e w e i g h t i n g o f t h e b l o b f e a t u r e s o r m a y s p e c i f y n e w b l o b s

t o m a t c h a n d t h e n i s s u e a n e w q u e r y . F i g u r e 2 s h o w s t h e r e s u l t s o f a s a m p l e

q u e r y .


5/12

5

F i g . 2 . R e s u l t s f r o m a t i g e r q u e r y . T h e u s e r s e l e c t e d t h e t i g e r b l o b a n d g r a s s b l o b .

M a t c h i n g r e g i o n s i n e a c h r e t u r n e d i m a g e a r e s h o w n i n r e d .


6/12

6

3 I n d e x i n g

I n d i c e s , s t a n d a r d i n e v e r y m o d e r n d a t a b a s e m a n a g e m e n t s y s t e m , a l l o w t h e c o m -

p u t e r t o n d i m a g e s r e l e v a n t t o a q u e r y w i t h o u t l o o k i n g a t e v e r y i m a g e i n t h e

d a t a b a s e . W e i n v e s t i g a t e d i n d e x i n g t h e c o l o r f e a t u r e v e c t o r s t o s p e e d u p a t o m i c

q u e r i e s .

W e u s e d R * - t r e e s 1 ] , i n d e x s t r u c t u r e s f o r d a t a r e p r e s e n t a b l e a s p o i n t s i n

N - d i m e n s i o n a l s p a c e . R * - t r e e s a r e n o t t h e s t a t e o f t h e a r t f o r n e a r e s t - n e i g h b o r

s e a r c h i n m u l t i p l e d i m e n s i o n s ; u s i n g a n e w e r t r e e 2 2 , 2 4 ] w o u l d l i k e l y s p e e d u p

o u r i n d e x i n g r e s u l t s b y a c o n s t a n t f a c t o r . H o w e v e r , o u r b a s i c o b s e r v a t i o n s a r e

i n d e p e n d e n t o f t h i s t u n i n g o f t h e i n d e x : ( i ) i n d e x i n g o v e r b l o b s i s e e c t i v e i n

e n h a n c i n g p e r f o r m a n c e , a n d ( i i ) i n d i c e s o v e r b l o b s c a n d o b e t t e r c l u s t e r i n g t h a n

w h o l e - i m a g e i n d i c e s . A s w e t u n e a n d s c a l e t h e s y s t e m , w e i n t e n d t o e x a m i n e

n e w i n d e x i n g s c h e m e s . W e u s e d t h e G i S T f r a m e w o r k 1 1 ] t o e x p e r i m e n t w i t h

t h e i n d i c e s .

R * - t r e e s b r e a k t h e m u l t i - d i m e n s i o n a l d a t a s p a c e i n t o s m a l l e r a n d s m a l l e r

r e c t a n g l e s . E a c h n o d e c o n t a i n s a l i s t o f t h e m i n i m u m b o u n d i n g r e c t a n g l e s ( M B R s )

o f a n d p o i n t e r s t o i t s c h i l d r e n . T h e M B R o f a n o d e i s a r e c t a n g l e t h a t m i n i m a l l y

e n c l o s e s a l l t h e c h i l d r e n o f t h a t n o d e . L e a f n o d e s c o n t a i n a l l t h e d a t a p o i n t s

e n c l o s e d w i t h i n t h e i r M B R s .

I n d e x s p e e d d e g r a d e s a s t h e d i m e n s i o n a l i t y o f t h e d a t a i n d e x e d i n c r e a s e s .

B e c a u s e i n d e x t r e e s a r e s e c o n d a r y s t o r a g e s t r u c t u r e s , e a c h n o d e a n d l e a f i n a n

i n d e x t r e e m u s t t o n a s i n g l e d i s k p a g e . S h o r t e r p a t h s f r o m r o o t t o l e a f i n

a n i n d e x t r e e l e a d t o f e w e r d i s k a c c e s s e s t o r e a c h t h e l e a v e s , a n d t h u s f a s t e r

i n d e x r e t r i e v a l s . N o d e f a n o u t , t h e n u m b e r o f d a t a e n t r i e s ( M B R + p o i n t e r ) t h a t

c a n t i n a n o d e , d i c t a t e s i n d e x t r e e h e i g h t . S m a l l e r d a t a e n t r i e s a l l o w g r e a t e r

f a n o u t a n d f a s t e r i n d e x r e t r i e v a l s . H i g h e r d i m e n s i o n a l d a t a r e q u i r e s l a r g e r d a t a

e n t r i e s a n d t h u s l o w e r f a n o u t . A t s u c i e n t l y h i g h d i m e n s i o n s f a n o u t b e c o m e s s o

l o w t h a t q u e r y s p e e d u s i n g t h e i n d e x i s w o r s e t h a n s i m p l y s c a n n i n g t h e e n t i r e

d a t a b a s e . T o a v o i d t h i s , w e n e e d a l o w d i m e n s i o n a l a p p r o x i m a t i o n t o t h e f u l l

c o l o r f e a t u r e v e c t o r s .

C o m p u t i n g t h e f u l l d i s t a n c e d

2

( x y ) = ( x ? y )

T

A ( x ? y ) r e q u i r e s s t o r i n g

t h e e n t i r e 2 1 8 - d i m e n s i o n a l h i s t o g r a m a n d p e r f o r m i n g t h e f u l l m a t r i x - v e c t o r m u l -

t i p l i c a t i o n . T o r e d u c e t h i s s t o r a g e a n d c o m p u t a t i o n i n t h e i n d e x , w e u s e S i n g u l a r

V a l u e D e c o m p o s i t i o n ( S V D ) t o n d A

k

, t h e b e s t r a n k - k a p p r o x i m a t i o n t o t h e

w e i g h t m a t r i x A 8 ] . W e t h e n p r o j e c t x a n d y i n t o t h e s u b s p a c e s p a n n e d b y t h e

r o w s o f A

k

, y i e l d i n g x

k

a n d y

k

. T h e E u c l i d e a n d i s t a n c e ( x

k

? y

k

)

T

( x

k

? y

k

) i s

a l o w e r b o u n d o n t h e f u l l d i s t a n c e d

2

( x y ) = ( x ? y )

T

A ( x ? y ) . I f t h e s i n g u -

l a r v a l u e s

i

( i = k + 1 ; : : : ; 2 1 8 ) a r e s m a l l ( w h i c h i s t r u e i n o u r c a s e ) , t h e n t h i s

b o u n d i s t i g h t . W e c a n t h u s i n d e x t h e l o w - d i m e n s i o n a l x

k

' s a n d r a n k t h e i n d e x e d

i m a g e s u s i n g t h e E u c l i d e a n d i s t a n c e ( x

k

? y

k

)

T

( x

k

? y

k

) w i t h o u t i n t r o d u c i n g

t o o m u c h e r r o r .

B l o b w o r l d i n d i c e s a i m t o m a t c h t h e q u a l i t y o f f u l l B l o b w o r l d q u e r i e s , w i t h o u t

l o o k i n g a t a l l t h e b l o b s i n t h e d a t a b a s e . W e w a n t t h e i n d i c e s t o r e t r i e v e e x a c t l y

t h e i m a g e s t h a t t h e f u l l B l o b w o r l d q u e r y r a n k s a s t h e b e s t . T h i s w a y , a s B l o b -

w o r l d a l g o r i t h m s i m p r o v e , t h e i n d i c e s t r a c k t h e i m p r o v e m e n t . B e c a u s e t h e i n d e x


7/12

7

d o e s n o t u s e t h e f u l l c o l o r f e a t u r e v e c t o r w h e n s e l e c t i n g t h e i m a g e s i t r e t u r n s ,

t h e i n d e x w i l l n o t r e t u r n i m a g e s i n e x a c t l y t h e s a m e o r d e r a s a f u l l B l o b w o r l d

q u e r y . T h e r e i s a q u a l i t y / t i m e t r a d e o : a s t h e i n d e x r e t u r n s m o r e i m a g e s , t h e

n a l q u e r y r e s u l t s w i l l g e t b e t t e r , b u t t h e q u e r y w i l l t a k e l o n g e r .

4 E x p e r i m e n t s

I n o r d e r t o u n d e r s t a n d t h e p e r f o r m a n c e o f t h e B l o b w o r l d s y s t e m , w e e x p l o r e d

s e v e r a l q u e s t i o n s :

{ W h a t i s t h e p r e c i s i o n o f B l o b w o r l d q u e r i e s c o m p a r e d t o q u e r i e s u s i n g g l o b a l

c o l o r a n d t e x t u r e h i s t o g r a m s ? M o r e s p e c i c a l l y , f o r w h i c h q u e r i e s d o e s B l o b -

w o r l d d o b e t t e r , a n d f o r w h i c h d o g l o b a l h i s t o g r a m s d o b e t t e r ?

{ H o w w e l l d o t h e i n d e x i n g r e s u l t s a p p r o x i m a t e t h e r e s u l t s f r o m a f u l l s c a n

o f t h e c o l l e c t i o n ? H e r e w e m u s t c o n s i d e r t h e d i m e n s i o n a l i t y o f t h e i n d e x e d

d a t a a s w e l l a s h o w i n d i c e s o v e r b l o b s c o m p a r e t o i n d i c e s o v e r w h o l e i m a g e

h i s t o g r a m s . ( A c c o r d i n g t o t h i s m e a s u r e , f a l s e p o s i t i v e s r e t u r n e d b y t h e f u l l

s c a n s h o u l d a l s o b e r e t u r n e d b y t h e i n d e x . )

{ W h a t d o w e l o s e b y u s i n g a n i n d e x i n s t e a d o f a f u l l s c a n ? H o w d o e s t h e

p r e c i s i o n o f t h e i n d e x e d q u e r y c o m p a r e t o t h e f u l l - s c a n p r e c i s i o n ?

W e e x p l o r e e a c h o f t h e s e q u e s t i o n s i n t u r n i n t h e n e x t t h r e e s e c t i o n s .

4 . 1 C o m p a r i s o n o f B l o b w o r l d a n d g l o b a l h i s t o g r a m s

W e e x p e c t e d t h a t B l o b w o r l d q u e r y i n g w o u l d p e r f o r m w e l l i n c a s e s w h e r e a d i s -

t i n c t i v e o b j e c t i s c e n t r a l t o t h e q u e r y . I n o r d e r t o t e s t t h i s h y p o t h e s i s , w e p e r -

f o r m e d 5 0 q u e r i e s u s i n g b o t h B l o b w o r l d a n d g l o b a l c o l o r a n d t e x t u r e h i s t o g r a m s .

W e s e l e c t e d t e n o b j e c t c a t e g o r i e s : a i r p l a n e s , b l a c k b e a r s , b r o w n b e a r s , c h e e -

t a h s , e a g l e s , e l e p h a n t s , h o r s e s , p o l a r b e a r s , t i g e r s , a n d z e b r a s . T h e r e w e r e 3 0 t o

2 0 0 e x a m p l e s o f e a c h c a t e g o r y a m o n g t h e 1 0 , 0 0 0 i m a g e s .

W e c o m p a r e d t h e B l o b w o r l d r e s u l t s t o a r a n k i n g a l g o r i t h m t h a t u s e d t h e

g l o b a l c o l o r a n d t e x t u r e h i s t o g r a m s o f t h e s a m e 1 0 , 0 0 0 i m a g e s . T h e c o l o r h i s -

t o g r a m s u s e d t h e s a m e 2 1 8 b i n s a s B l o b w o r l d , a l o n g w i t h t h e s a m e q u a d r a t i c

d i s t a n c e . F o r t e x t u r e h i s t o g r a m s , w e d i s c r e t i z e d t h e t w o t e x t u r e f e a t u r e s i n t o 2 1

b i n s e a c h . I n t h i s g l o b a l i m a g e h i s t o g r a m c a s e , w e f o u n d t h a t c o l o r c a r r i e d m o s t

o f t h e u s e f u l i n f o r m a t i o n ; v a r y i n g t h e t e x t u r e w e i g h t m a d e l i t t l e d i e r e n c e t o

t h e q u e r y r e s u l t s .

F o r e a c h c a t e g o r y w e t e s t e d q u e r i e s u s i n g o n e b l o b , t w o b l o b s , a n d g l o b a l

h i s t o g r a m s . I n e a c h c a s e w e p e r f o r m e d a f e w t e s t q u e r i e s t o s e l e c t t h e w e i g h t s

f o r c o l o r a n d t e x t u r e a n d f o r e a c h b l o b . W e t h e n q u e r i e d u s i n g v e n e w i m -

a g e s . N o t e t h a t w e u s e d t h e s a m e w e i g h t s f o r e a c h i m a g e i n a c a t e g o r y . W e a l s o

w e r e n o t a l l o w e d t o c h o o s e w h e t h e r t o u s e o n e o r t w o q u e r y b l o b s , w h i c h p e -

n a l i z e s t h e B l o b w o r l d r e s u l t s ; f o r e x a m p l e , i n s o m e b e a r i m a g e s a b a c k g r o u n d

b l o b w a s s a l i e n t t o t h e c a t e g o r y , w h i l e i n o t h e r s t h e r e w a s n o t a m e a n i n g f u l

b a c k g r o u n d b l o b . I n F i g u r e 3 w e p l o t t h e p r e c i s i o n ( f r a c t i o n c o r r e c t ) o f t h e t o p


8/12

8

4 0 m a t c h e s f o r e a c h q u e r y i n t h e t i g e r , c h e e t a h , z e b r a , a n d a i r p l a n e c a t e g o r i e s ;

t h e d i e r e n c e s b e t w e e n B l o b w o r l d a n d g l o b a l h i s t o g r a m s s h o w u p m o s t c l e a r l y

i n t h e s e c a t e g o r i e s . F i g u r e 5 i l l u s t r a t e s h o w t h e p r e c i s i o n d r o p s a s m o r e i m a g e s

a r e r e t r i e v e d .

1 2 3 4 50

0.1

0.2

0.3

0.4

0.5

0.6

0.7tigers

precision

query

1 2 3 4 5

cheetahs

query

1 2 3 4 5

zebras

query

1 2 3 4 5

planes

query

F i g . 3 . P r e c i s i o n o f B l o b w o r l d ( b l a c k ) a n d g l o b a l h i s t o g r a m ( w h i t e ) q u e r i e s i n t h e t o p

4 0 r e t r i e v e d i m a g e s f o r e a c h o f v e q u e r i e s i n f o u r e x a m p l e c a t e g o r i e s . T h e B l o b w o r l d

q u e r i e s u s e d t w o b l o b s . B l o b w o r l d p e r f o r m s b e t t e r o n q u e r i e s f o r d i s t i n c t i v e o b j e c t s

s u c h a s t i g e r s , c h e e t a h s , a n d z e b r a s , w h i l e g l o b a l h i s t o g r a m s p e r f o r m b e t t e r o n q u e r i e s

f o r d i s t i n c t i v e s c e n e s s u c h a s a i r p l a n e s c e n e s . ( C h a n c e w o u l d y i e l d p r e c i s i o n r a n g i n g

f r o m 0 . 0 0 3 f o r z e b r a s t o 0 . 0 2 f o r a i r p l a n e s . )

T h e r e s u l t s i n d i c a t e t h a t t h e c a t e g o r i e s f a l l i n t o t h r e e g r o u p s :

d i s t i n c t i v e o b j e c t s : T h e c o l o r a n d t e x t u r e o f c h e e t a h s , t i g e r s , a n d z e b r a s a r e

q u i t e d i s t i n c t i v e , a n d t h e B l o b w o r l d r e s u l t q u a l i t y w a s c l e a r l y b e t t e r t h a n

t h e g l o b a l h i s t o g r a m r e s u l t q u a l i t y .

d i s t i n c t i v e s c e n e s : F o r m o s t o f t h e a i r p l a n e i m a g e s t h e e n t i r e s c e n e i s d i s -

t i n c t i v e ( a s m a l l g r a y o b j e c t a n d l a r g e a m o u n t s o f b l u e ) , b u t t h e a i r p l a n e

r e g i o n i t s e l f h a s q u i t e a c o m m o n c o l o r a n d t e x t u r e . H i s t o g r a m s d i d b e t t e r

t h a n B l o b w o r l d i n t h i s c a t e g o r y . ( W e e x p e c t t h a t a d d i n g b l o b s i z e i n f o r m a -

t i o n t o t h e q u e r y w o u l d y i e l d b e t t e r B l o b w o r l d r e s u l t s , s i n c e t h e n w e c o u l d

s p e c i f y \ l a r g e s k y b l o b " t o a v o i d m a t c h i n g t h e s m a l l r e g i o n s o f s k y f o u n d i n

t h o u s a n d s o f i m a g e s i n t h e d a t a b a s e . )

o t h e r : T h e t w o m e t h o d s p e r f o r m c o m p a r a b l y o n t h e o t h e r s i x c a t e g o r i e s . B l o b s

w i t h t h e s a m e c o l o r a n d t e x t u r e a s t h e s e o b j e c t s a r e c o m m o n i n t h e d a t a b a s e ,

b u t t h e o v e r a l l s c e n e ( a g e n e r a l o u t d o o r s c e n e ) i s a l s o c o m m o n , s o n e i t h e r

B l o b w o r l d n o r g l o b a l h i s t o g r a m s h a s a n a d v a n t a g e , g i v e n t h a t w e u s e d o n l y

c o l o r a n d t e x t u r e . H o w e v e r , h i s t o g r a m s c a n b e t a k e n n o f u r t h e r , w h i l e B l o b -

w o r l d h a s m u c h r o o m l e f t f o r i m p r o v e m e n t . F o r e x a m p l e , t h e s h a p e s o f e l e -

p h a n t s , b e a r s , a n d h o r s e s ( a n d a i r p l a n e s ) a r e q u i t e d i s t i n c t i v e .

T h e s e r e s u l t s s u p p o r t o u r h y p o t h e s i s t h a t B l o b w o r l d y i e l d s g o o d r e s u l t s w h e n

q u e r y i n g f o r d i s t i n c t i v e o b j e c t s .


9/12

9

4 . 2 C o m p a r i s o n o f I n d e x e d t o B l o b w o r l d Q u e r i e s o v e r M u l t i p l e

I n d e x D i m e n s i o n a l i t i e s

I n d e x s p e e d i m p r o v e s a s t h e n u m b e r o f d i m e n s i o n s i n t h e i n d e x d e c r e a s e s ; t h e r e -

f o r e , w e w a n t t o n d t h e m i n i m u m n u m b e r o f d i m e n s i o n s t h a t t h e i n d e x m a y

u s e . Q u e r y s p e e d i m p r o v e s a s t h e n u m b e r o f i m a g e s t h e i n d e x f e t c h e s a n d t h e f u l l

B l o b w o r l d a l g o r i t h m s r a n k d e c r e a s e s ; t h e r e f o r e , w e w a n t t o n d t h e m i n i m u m

n u m b e r o f i m a g e s t h a t t h e i n d e x m u s t r e t u r n . H o w e v e r , w e m u s t e n s u r e t h a t

a q u e r y u s i n g t h e i n d e x p r o d u c e s n e a r l y t h e s a m e r e s u l t s a s a f u l l B l o b w o r l d

q u e r y .

W e a r e a l s o i n t e r e s t e d i n h o w w e l l w e c a n i n d e x b l o b s f o r B l o b w o r l d q u e r i e s

r e l a t i v e t o h o w w e l l w e c a n i n d e x g l o b a l f e a t u r e v e c t o r s f o r g l o b a l h i s t o g r a m

q u e r i e s .

F o r s i m p l i c i t y , w e c o m p a r e t h e i n d i c e s b a s e d o n c o l o r f e a t u r e v e c t o r s a l o n e .

W e b u i l t i n d i c e s o v e r t h e c o l o r f e a t u r e v e c t o r s o f t h e b l o b s a s w e l l a s o v e r

c o l o r f e a t u r e v e c t o r s b a s e d o n g l o b a l h i s t o g r a m s . W e m e a s u r e d t h e r e c a l l o f t h e

i n d i c e s u s i n g n e a r e s t - n e i g h b o r s e a r c h 1 2 ] t o r e t r i e v e a n d r a n k i m a g e s a g a i n s t

t h e t o p 4 0 i m a g e s r e t r i e v e d b y a f u l l B l o b w o r l d q u e r y o r g l o b a l h i s t o g r a m q u e r y

o v e r a l l t h e i m a g e s . F i g u r e 4 d i s p l a y s r e s u l t s f o r i n d i c e s o f v a r i o u s d i m e n s i o n s .

0

0.2

0.4

0.6

0.8

1

0 200 400 600 800 1000 1200

AverageRecall

Number of Objects (Blobs or Images) From Index

Blob Index - 5 Dim.Blob Index - 20 Dim.

Whole Image Index - 5 Dim.

Whole Image Index - 20 Dim.

F i g . 4 . R e c a l l o f ( 1 ) b l o b i n d e x c o m p a r e d t o t h e t o p 4 0 i m a g e s f r o m t h e f u l l B l o b w o r l d

q u e r y a n d ( 2 ) w h o l e i m a g e i n d e x c o m p a r e d t o t h e t o p 4 0 i m a g e s f r o m t h e f u l l w h o l e

i m a g e q u e r y . T h e p l o t s a r e t h e a v e r a g e o f 2 0 0 q u e r i e s o v e r a d a t a b a s e o f 1 0 , 0 0 0 i m a g e s ,

o r a b o u t 6 1 , 0 0 0 b l o b s .

F i g u r e 4 s h o w s t h a t r e c a l l f o r t h e b l o b i n d i c e s i s h i g h e r t h a n f o r t h e g l o b a l

h i s t o g r a m i n d i c e s . B l o b i n d i c e s b e t t e r a p p r o x i m a t e t h e r e s u l t s o f f u l l B l o b w o r l d

q u e r i e s t h a n g l o b a l h i s t o g r a m i n d i c e s a p p r o x i m a t e t h e r e s u l t s o f g l o b a l h i s t o g r a m

q u e r i e s . W e b e l i e v e t h a t t h e b l o b c o l o r h i s t o g r a m s , d e r i v e d f r o m r e l a t i v e l y u n i -

f o r m l y c o l o r e d r e g i o n s , c l u s t e r b e t t e r t h a n t h e g l o b a l h i s t o g r a m s .


10/12

1 0

T h e v e - d i m e n s i o n a l i n d i c e s d o n e a r l y a s w e l l a s t h e t w e n t y - d i m e n s i o n a l

i n d i c e s . R e t r i e v i n g j u s t a f e w h u n d r e d b l o b s f r o m t h e v e - d i m e n s i o n a l b l o b i n d e x

g i v e s u s m o s t o f t h e i m a g e s t h e f u l l B l o b w o r l d q u e r y r a n k e d h i g h e s t . T h e r e f o r e ,

f o r t h e r e m a i n i n g e x p e r i m e n t s w e u s e t h e v e - d i m e n s i o n a l i n d i c e s .

4 . 3 P r e c i s i o n o f i n d e x e d a n d f u l l q u e r i e s

T h e p r e v i o u s e x p e r i m e n t s h o w e d t h a t B l o b w o r l d i n d e x i n g a p p r o x i m a t e s t h e

\ t r u e " B l o b w o r l d r a n k i n g m o r e c l o s e l y t h a n g l o b a l h i s t o g r a m i n d e x i n g a p p r o x -

i m a t e s t h e \ t r u e " h i s t o g r a m r a n k i n g . W e a l s o w a n t e d t o t e s t t h e b e h a v i o r o f

t h e i n d e x i n g s c h e m e s i n t e r m s o f p r e c i s i o n m e a s u r e d a g a i n s t g r o u n d t r u t h . I n

e s s e n c e , w e w a n t e d t o s e e h o w i n d e x i n g a e c t s t h e q u a l i t y o f B l o b w o r l d q u e r y

r e s u l t s .

W e p e r f o r m e d t h e s a m e q u e r i e s a s i n S e c t i o n 4 . 1 , u s i n g t h e i n d e x t o r e d u c e

t h e n u m b e r o f \ t r u e " c o m p a r i s o n s r e q u i r e d . S i n c e w e o n l y i n d e x s i n g l e b l o b s , t h e

B l o b w o r l d i n d e x r e s u l t q u a l i t y i s n e c e s s a r i l y w o r s e t h a n t h e f u l l B l o b w o r l d r e -

s u l t s , w h e r e t w o - b l o b q u e r i e s g e n e r a l l y o u t p e r f o r m o n e - b l o b q u e r i e s . I n a d d i t i o n ,

t h e i n d e x r a n k i n g i s b a s e d o n c o l o r a l o n e , n o t o n b o t h c o l o r a n d t e x t u r e .

W e p a s s e d t h e q u e r y t o a n i n d e x u s i n g t h e v e - d i m e n s i o n a l p r o j e c t i o n a n d

r e t r i e v e d t h e n e a r e s t 3 0 0 d a t a b a s e o b j e c t s ( 3 0 0 b l o b s f o r B l o b w o r l d , 3 0 0 i m a g e s

f o r g l o b a l h i s t o g r a m s ) . I n F i g u r e 5 w e p l o t t h e p r e c i s i o n o f t h e f u l l q u e r y r e s u l t s

a n d t h e r e s u l t s o f r e o r d e r i n g t h e i n d e x l i s t s u s i n g t h e \ t r u e " m a t c h i n g a l g o r i t h m .

0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5tigers

precision

images returned0 20 40 60 80 100

cheetahs


zebras


planes

images returned

1 blob

2 blobs

histograms

indexed BW

indexed hist.

F i g . 5 . A v e r a g e p r e c i s i o n v s . n u m b e r o f r e t r i e v e d i m a g e s f o r s e v e r a l q u e r y t y p e s . T h e

i n d e x g e n e r a l l y t r a c k s t h e c o r r e s p o n d i n g f u l l q u e r y , e x c e p t f o r t h e z e b r a c a s e , w h e r e t h e

i n d e x e d B l o b w o r l d p r e c i s i o n i s m u c h l o w e r t h a n t h e f u l l B l o b w o r l d p r e c i s i o n b e c a u s e

w e o n l y i n d e x c o l o r , n o t t e x t u r e .

F o r m o s t c a t e g o r i e s , t h e B l o b w o r l d i n d e x p r e c i s i o n c l o s e l y m a t c h e s t h e p r e -

c i s i o n o f t h e o n e - b l o b f u l l B l o b w o r l d q u e r i e s , j u s t a s t h e g l o b a l h i s t o g r a m i n d e x

p r e c i s i o n m a t c h e s t h e p r e c i s i o n o f t h e g l o b a l h i s t o g r a m q u e r y . T h e b l o b i n d e x

q u e r y m e t h o d a c h i e v e s t h i s p r e c i s i o n e v e n t h o u g h i t o n l y l o o k s a t 3 0 0 b l o b s p e r

q u e r y , w h i l e t h e f u l l B l o b w o r l d q u e r y l o o k s a t m o r e t h a n 6 0 , 0 0 0 . A s p r e v i o u s l y


11/12

1 1

s t a t e d , t h i s i s t h e q u a l i t y g o a l f o r t h e i n d e x . S i m p l e t i m i n g t e s t s r u n u s i n g t h e

U N I X t i m e f a c i l i t y i n d i c a t e t h a t b l o b i n d e x q u e r i e s r u n i n a t h i r d t o h a l f o f t h e

t i m e t h a t a f u l l B l o b w o r l d q u e r y u s e s . A s t h e n u m b e r o f i m a g e s i n t h e c o l l e c t i o n

i n c r e a s e s , t h i s s p e e d a d v a n t a g e w i l l b e c o m e e v e n g r e a t e r .

5 C o n c l u s i o n s

T h e e e c t i v e n e s s o f a n i m a g e r e t r i e v a l s y s t e m i s d e t e r m i n e d b y t h r e e f a c t o r s :

t h e t i m e t o p e r f o r m a n i n d i v i d u a l q u e r y , t h e q u a l i t y o f t h e q u e r y r e s u l t s , a n d

t h e e a s e o f u n d e r s t a n d i n g t h e q u e r y r e s u l t s a n d r e n i n g t h e q u e r y . W e h a v e

s h o w n t h a t B l o b w o r l d q u e r i e s f o r d i s t i n c t i v e o b j e c t s p r o v i d e h i g h p r e c i s i o n a n d

u n d e r s t a n d a b l e r e s u l t s b e c a u s e B l o b w o r l d i s b a s e d o n n d i n g c o h e r e n t i m a g e

r e g i o n s . W e h a v e a l s o s h o w n t h a t B l o b w o r l d q u e r i e s c a n b e i n d e x e d t o p r o v i d e

f a s t r e t r i e v a l w h i l e m a i n t a i n i n g p r e c i s i o n .

A c k n o w l e d g m e n t s

T h i s w o r k w a s s u p p o r t e d b y a n N S F D i g i t a l L i b r a r y G r a n t ( I R I 9 4 - 1 1 3 3 4 ) , N S F

g r a d u a t e f e l l o w s h i p s f o r S e r g e B e l o n g i e a n d C h a d C a r s o n , a n d f e l l o w s h i p s t i p e n d

s u p p o r t f o r M e g a n T h o m a s f r o m t h e N a t i o n a l P h y s i c a l S c i e n c e C o n s o r t i u m a n d

L a w r e n c e L i v e r m o r e N a t i o n a l L a b o r a t o r y .

R e f e r e n c e s

1 . B e c k m a n n , N . , K r i e g e l , H . - P . , S c h n e i d e r , R . , S e e g e r , B . : T h e R * - t r e e : A n e c i e n t

a n d r o b u s t a c c e s s m e t h o d f o r p o i n t s a n d r e c t a n g l e s . I n P r o c . A C M - S I G M O D I n t ' l

C o n f . o n M a n a g e m e n t o f D a t a ( 1 9 9 0 ) 3 2 2 { 3 3 1

2 . B e l o n g i e , S . , C a r s o n , C . , G r e e n s p a n , H . , M a l i k , J . : C o l o r - a n d

t e x t u r e - b a s e d i m a g e s e g m e n t a t i o n u s i n g E M a n d i t s a p p l i c a t i o n t o

c o n t e n t - b a s e d i m a g e r e t r i e v a l . I n P r o c . I n t . C o n f . C o m p . V i s . ( 1 9 9 8 )

h t t p : / / w w w . c s . b e r k e l e y . e d u / ~ c a r s o n / p a p e r s / I C C V 9 8 . h t m l .

3 . C a r s o n , C . , B e l o n g i e , S . , G r e e n s p a n , H . , M a l i k , J . : R e g i o n - b a s e d i m a g e q u e r y i n g . I n

I E E E W o r k s h o p o n t h e C o n t e n t - B a s e d A c c e s s o f I m a g e a n d V i d e o L i b r a r i e s ( 1 9 9 7 )

4 . D e m p s t e r , A . , L a i r d , N . , R u b i n , D . : M a x i m u m l i k e l i h o o d f r o m i n c o m p l e t e d a t a v i a

t h e E M a l g o r i t h m . J . R o y a l S t a t i s t i c a l S o c . , S e r . B , 3 9 ( 1 9 7 7 ) 1 { 3 8

5 . E n s e r , P . : Q u e r y a n a l y s i s i n a v i s u a l i n f o r m a t i o n r e t r i e v a l c o n t e x t . J . D o c . a n d T e x t

M a n a g e m e n t , 1 ( 1 9 9 3 ) 2 5 { 5 2

6 . F l i c k n e r , M . , S a w h n e y , H . , N i b l a c k , W . , A s h l e y , J . , e t a l : Q u e r y b y i m a g e a n d v i d e o

c o n t e n t : T h e Q B I C s y s t e m . I E E E C o m p u t e r , 2 8 ( S e p t . 1 9 9 5 ) 2 3 { 3 2

7 . F o r s y t h , D . , M a l i k , J . , W i l e n s k y , R . : S e a r c h i n g f o r d i g i t a l p i c t u r e s . S c i e n t i c A m e r -

i c a n , 2 7 6 ( J u n e 1 9 9 7 ) 7 2 { 7 7

8 . G o l u b , G . , L o a n , C . V . : M a t r i x C o m p u t a t i o n s . J o h n s H o p k i n s U n i v e r s i t y P r e s s , 2 n d

e d i t i o n ( 1 9 8 9 )

9 . G u p t a , A . , J a i n , R . : V i s u a l i n f o r m a t i o n r e t r i e v a l . C o m m . A s s o c . C o m p . M a c h . , 4 0

( M a y 1 9 9 7 ) 7 0 { 7 9


12/12

1 2

1 0 . H a f n e r , J . , S a w h n e y , H . , E q u i t z , W . , F l i c k n e r , M . , N i b l a c k , W . : E c i e n t c o l o r h i s -

t o g r a m i n d e x i n g f o r q u a d r a t i c f o r m d i s t a n c e f u n c t i o n s . I E E E T r a n s . P a t t e r n A n a l -

y s i s a n d M a c h i n e I n t e l l i g e n c e , 1 7 ( J u l y 1 9 9 5 ) 7 2 9 { 7 3 6

1 1 . H e l l e r s t e i n , J . M . , N a u g h t o n , J . , P f e e r , A . : G e n e r a l i z e d s e a r c h t r e e s f o r d a t a b a s e

s y s t e m s . I n P r o c . 2 1 s t I n t . C o n f . o n V e r y L a r g e D a t a B a s e s ( 1 9 9 5 ) 5 6 2 { 5 7 3

1 2 . H j a l t a s o n , G . , S a m e t , H . : R a n k i n g i n s p a t i a l d a t a b a s e s . I n P r o c . 4 t h I n t . S y m p o -

s i u m o n L a r g e S p a t i a l D a t a b a s e s ( 1 9 9 5 ) 8 3 { 9 5

1 3 . J a c o b s , C . , F i n k e l s t e i n , A . , S a l e s i n , D . : F a s t m u l t i r e s o l u t i o n i m a g e q u e r y i n g . I n

P r o c . S I G G R A P H ( 1 9 9 5 )

1 4 . J a n g , J . - S . , S u n , C . - T . , M i z u t a n i , E . : N e u r o - F u z z y a n d S o f t C o m p u t i n g . P r e n t i c e

H a l l ( 1 9 9 7 )

1 5 . K e l l y , P . , C a n n o n , M . , H u s h , D . : Q u e r y b y i m a g e e x a m p l e : T h e C A N D I D a p p r o a c h .

I n S P I E P r o c . S t o r a g e a n d R e t r i e v a l f o r I m a g e a n d V i d e o D a t a b a s e s ( 1 9 9 5 ) 2 3 8 { 2 4 8

1 6 . L i p s o n , P . , G r i m s o n , E . , S i n h a , P . : C o n g u r a t i o n b a s e d s c e n e c l a s s i c a t i o n a n d

i m a g e i n d e x i n g . I n P r o c . I E E E C o m p . S o c . C o n f . C o m p . V i s . a n d P a t t . R e c . , ( 1 9 9 7 )

1 0 0 7 { 1 0 1 3

1 7 . M a , W . , M a n j u n a t h , B . : N e T r a : A t o o l b o x f o r n a v i g a t i n g l a r g e i m a g e s d a t a b a s e s .

A C M M u l t i m e d i a S y s t e m s J o u r n a l . ( t o a p p e a r )

1 8 . O g l e , V . , S t o n e b r a k e r , M . : C h a b o t : R e t r i e v a l f r o m a r e l a t i o n a l d a t a b a s e o f i m a g e s .

I E E E C o m p u t e r , 2 8 ( S e p t . 1 9 9 5 ) 4 0 { 4 8

1 9 . P e n t l a n d , A . , P i c a r d , R . , S c l a r o , S . : P h o t o b o o k : C o n t e n t - b a s e d m a n i p u l a t i o n o f

i m a g e d a t a b a s e s . I n t . J . C o m p . V i s . , 1 8 ( 1 9 9 6 ) 2 3 3 { 2 5 4

2 0 . R i s s a n e n , J . : M o d e l i n g b y s h o r t e s t d a t a d e s c r i p t i o n . A u t o m a t i c a , 1 4 ( 1 9 7 8 ) 4 6 5 {

4 7 1

2 1 . R i s s a n e n , J . : S t o c h a s t i c C o m p l e x i t y i n S t a t i s t i c a l I n q u i r y . W o r l d S c i e n t i c ( 1 9 8 9 )

2 2 . B e r c h t o l d , D . K . S . , K r i e g e l , H . : T h e x - t r e e : A n i n d e x s t r u c t u r e f o r h i g h -

d i m e n s i o n a l d a t a . I n P r o c . o f t h e 2 2 n d V L D B C o n f e r e n c e ( 1 9 9 6 ) 2 8 { 3 9

2 3 . S m i t h , J . R . , C h a n g , S . - F . : S i n g l e c o l o r e x t r a c t i o n a n d i m a g e q u e r y . I n P r o c . I E E E

I n t . C o n f . o n I m a g e P r o c e s s i n g ( 1 9 9 5 ) 5 2 8 { 5 3 1

2 4 . W h i t e , D . , J a i n , R . : S i m i l a r i t y i n d e x i n g w i t h t h e s s - t r e e . I n P r o c . 1 2 t h I E E E I n t ' l

C o n f . o n D a t a E n g i n e e r i n g ( 1 9 9 6 ) 5 1 6 { 5 2 3

2 5 . W y s z e c k i , G . , S t i l e s , W . : S c i e n c e : C o n c e p t s a n d M e t h o d s , Q u a n t i t a t i v e D a t a a n d

F o r m u l a e . W i l e y , 2 n d e d i t i o n ( 1 9 8 2 )

blobworld a system for region based image indexing and retrieval

Documents