7/21/2019 Statistical analysis of the Ames Salmonella/microsome test

1/5

P r o c .N a t lA c a d .S c i .U S AVo l .7 8 ,N o .6 ,p p .3 7 7 9 - 3 7 8 3 ,J u n e1 9 8 1G e n e t i c s

S t a t i s t i c a la n a l y s i so f t h e Ames S a l m o n e l l a / m i c r o s o m et e s t( A m e s t e s t / m u ta g e ne s i s / n e g a t i v eb i n o m i a lm o d e l / s t a t i s t i c a lm o d e l i n g / t o x i c i t y )

B A R R YH . M A R G O L I N * ,N O RMA NK A P L A N * ,ANDERROLZ E I G E R t* B i o m e t r yB r a n c ha n dt L a b o r a t o r yo fM o l e c u l a rG e n e t i c s ,N a t i o n a lI n s t i t u t eo fE n v i r o n m e n t a lH e a l t hS c i e n c e s ,R e s e a r c hT r i a ng l e P a r k ,N o r t hC a r o l i n a2 7 7 0 9

C o m m u n i c a t e db yG e r a l dN . W o g a n ,M a r c h1 7 ,1 9 8 1

ABSTRACT A f a m i l yo fs t a t i s t i c a lm o d e l sf o ra n a l y s i so fA m e sS a l m o n e l l a / m i c r o s o m et e s td a t ai sc o n s t r u c t e dt h a tc o n s i d e r sm u -t a t i o na n d t o x i c i t ya s c o m p e t i n gr i s k sa n d a l l o w sh y p e r - P o i s s o nv a r i a b i l i t y .T h e s em o d e l sh a v ea p a r a m e t e rt h a tc a nb ee m p l o y e da sa m u t a g e n i ci n d e xb e c a u s ei ta p p r o x i m a t e st h es l o p ea tz e r od o s eo fa d o s e - r e s p o n s ec u r v ea d j u s t e df o rt o x i c i t y .As e c o n dp a r a m e t e rq u a n t i f i e sp l a t e - t o - p l a t ev a r i a b i l i t ya n dl e n d si t s e l ft ot h es t u d yo ff a c t o r sa f f e c t i n gi n t e r n a lt e s tr e p r o d u c i b i l i t y .T h ed e t e c t i o no fa b e r r a n tp l a t ec o u n t si s a l s oa d d r e s s e d .T h i sm e t h o d o l o g yi s i l -l u s t r a t e dw i t h d a t af r o ma S a l m o n e l l at e s t .

T h e A m e sS a l m o n e l l a / m i c r o s o m et e s t( 1 )c u r r e n t l yh o l d sap r e e m i n e n tp o s i t i o na m o n gt h ev a r i o u st e s t sa v a i l a b l et o t h eg e n e t i ct o x i c o l o g i s tf o ri n v e s t i g a t i o no fa c h e m i c a l ' sm u t a g e n -i c i t y .I n d e e d ,i nm a n yq u a r t e r s ,ap o s i t i v eS a l m o n e l l at e s tr e s u l ti sp r e s u m p t i v ee v i d e n c ef o rc a r c i n o g e n i c i t y .A l t h o u g hv a r i o u sa u t h o r s( 2 - 5 )h a v ep r o p o s e da n a l y s e so fd a t af r o mt h i st e s t ,e a c ht r e a t m e n th a sb e e nd e f i c i e n ti ns o m ew a y :aP o i s s o nd i s t r i b u t i o nm o d e lf o rt h es a m p l i n gv a r i a b i l i t yo ft h ed a t ai sa s s u m e d ,t h ep o s s i b i l i t yo ft o x i c i t yi sd i s r e g a r d e do rt r e a t e di na na dh o cm a n -n e r ,o rt h em u l t i g e n e r a t i o n a la s p e c to ft h et e s ti s i g n o r e d .

T h e r e i s s u b s t a n t i a le m p i r i c a le v i d e n c et h a tt h eP o i s s o nm o d e l ,n e a r l yu n i v e r s a li n i t sa d o p t i o na st h es a m p l i n gd i s t r i -b u t i o no fr e v e r t a n t sp e rp l a t ef r o ma S a l m o n e l l at e s t ,l a c k st h ef l e x i b i l i t yt oa d e q u a t e l yd e s c r i b et h ev a r i a b i l i t yi na s e to fp l a t ec o u n t s .T h i sc a nl e a dt o f a l s ec o n c l u s i o n sc o n c e r n i n gt h eo u t -c o m eo ft h ea s s a y .A na l t e r n a t i v es a m p l i n gd i s t r i b u t i o ni sp r o -p o s e dt h a ti n c o r p o r a t e sa m e a s u r eo fe x p e r i m e n t a lr e p r o d u c -i b i l i t ya b l et o r e f l e c td e p e n d e n c eo fi n t e r n a lv a r i a b i l i t ya m o n ga s e to fr e p l i c a t ep l a t e so n t h es p e c i f i cl a b o r a t o r y , t e c h ni c i a n ,s t r a i n ,o ra n yo t h e rf a c t o ri n f l u e n c i n gt h er e s u l t sf r o ma s i n g l et e s t .

To x i c i t yd e n o t e s a n yg e n e t i co rc e l l u l a rp h e n o m e n o np r e -c l u d i n gr e v e r s i o nt oh i s t i d i n ep r o t o t r o p h yo re x p r e s s i o no ft h eh i s 'p h e n o t y p e .D o s e - r e s p o n s ec u r v e sf r o ma t e s tf r e q u e n t l ye x h i b i td e p a r t u r e sf r o mm o n o t o n i c i t yb e c a u s eo ft o x i c i t y .Ab i o l o g i c a l l ym o t i v a t e df a m i l yo fm a t h e m a t i c a lm o d e l si s c o n -s t r u c t e dt o r e l a t ep l a t ec o u n t s ,o n a v e r a g e ,t ot h e i rr e s p e c t i v ed o s e so f t h et e s tc h e m i c a l .T h i s f a mi l yc o n s i d e r sb o t hm u t a t i o na n dt o x i c i t yt ob ed o s e - d e p e n d e n tc o m p e t i n gr i s k st h a tc o n f r o n te a c hS a l m o n e l l ab a c t e r i u m .T h e s em o d e l sa r el i m i t e di n t h e i ra b i l i t i e st or e s o l v ea m b i g u i t i e sc a u s e db ya l i m i t e du n d e r s t a n d -i n go f t h eb e h a v i o ro fa c h e m i c a lo n c ei t i sp l a c e do n a t e s tp l a t e .

A CRITIQUEO F T HE P O IS S O NMODELT h eP o i s s o nd i s t r i b u t i o nh a sb e e ne m p l o y e de x t e n s i v e l yi ns t a -t i s t i c a lm o d e l i n go fm i c r o b i a ld a t a .I t sa p p l i c a b i l i t yt o S a l m o -n e l l at e s td a t aa p p e a r st ob e a c o n s e q u e n c eo ft h e f o l l o w i n gs e to fa s s u m p t i o n s . i A l lm i c r o b e s ,w h e t h e ro n t h es a m ep l a t eo rn o t ,b e h a v ei na s t o c h a s t i cmanner i n d e p e n d e n t l yo fe a c ho t h e r .

i iE a c hm i c r o b ep l a c e do na p a r t i c u l a rp l a t e( a n di t sl i n e a g e )e x p e r i e n c e st h es a m ee n v i r o n m e n ta sa n yo t h e rm i c r o b e( a n di t sl i n e a g e )p l a t e do nt h es a m ep l a t e ;t h i se n v i r o n m e n t ,d e n o t e db yA ,i sa f u n c t i o no ft h et e s tc o m p o u n da n di t sd o s e ,t h ea m o u n to fh i s t i d i n ep r e s e n t ,a n ds u n d r yo t h e rf a c t o r s . i i iT h et a r g e t e dn u m b e ro fm i c r o b e s p l a c edo n a p l a t e ,d e n o t e db yN o ,i sl a r g e -e . g . ,1 0 8 .( i v )T h ep r o b a b i l i t y ,P 6 ,t h a ta n ys i n g l ep l a t e dm i -c r o b e ,t h r o u g hi t sd e s c e n d a n t s ,g i v e sr i s et oa v i s ib ler e v e r t a n tc o l o n yi ss m a l l ,s a y1 0 - 5t o1 0 - 9 ,a n di sn o ta l t e r e db yt h en u m -b e ro fm i c r o b e sp l a t e d .

T h e s ef o u ra s s u m p t i o n si m p l yt h a tt h en u m b e ro fr e v e r t a n tc o l o n i e so b s e r v e do na p l a t ew i t he n v i r o n m e n tf ,d e n o t e db yX 4 ,h a sa p p r o x i m a t e l ya P o i s s o nd i s t r i b u t i o nw i t hm e a np a r a m -e t e rN 0 P ( g )( 6 ) - i . e . ,f o ra n yn o n n e g a t i v ei n t e g e rk , t h ep r o b -a b i l i t yt h a tX ,e q u a l sk i sg i v e nb y

p r { X ,= k }= [ N o P ( ) ] k e x p [ - N o P ( o ) ] /[ 1 ]

i nw h i c he x p [ t ]= e t .F o r a s e to fr r e p l i c a t ep l a t e sw i t ho b s e r v e dc o u n t sX f j ,

X . , X * ,i t i sc o m m o n l ya s s u m e d( e . g . ,r e f s .2 , 3 ,a n d5 )t h a tt h e s er c o u n t sa r ea d e q u a t e l yd e s c r i b e da s a r a n d o ms a m p l ef r o mE q .1 . T h i sd o e sn o tf o l l o ws o l e l yf r o mt h ef o u ra s s u m p -t i o n sa b o v eb u tr e s t so n a na d d i t i o n a la s s u m p t i o n :t h er r e p l i -c a t e dp l a t e ss h a r es u f f i c i e n t l ys i m i l a re n v i r o n m e n t sa n dp l a t e dn u m b e r so fm i c r o b e s ,s ot h a tt h er e a l i z e dm e a np a r a m e t e r sa r ee s s e n t i a l l yc o n s t a n ta c r o s sr e p l i c a t e s .I fo n e a c c e p t sa s s u m p -t i o n si - i v ,t h ev a l i d i t yo ft h e a d d i t i o na la s s u m p t i o nc a n b ee v a l -u a t e de m p i r i c a l l yt h r o u g ha s t a n d a r dt e s to fw h e t h e ro b s e r v e dc o u n t sX f X ,. . . . - , X .b e h a v ea sa r a n d o ms a m p l ef r o mE q .1 .

T o i n v e s t i g a t et h i s ,f o u rl a b o r a t o r i e s ,w i t h o u tb e i n gt o l dt h ei n t e n d e dp u r p o s e ,w e r er e q u e s t e dt op r o d u c e2 0r e p l i c a t ep l a t ec o u n t su n d e rs o l v e n tc o n t r o lc o n d i t i o n sw i t hS a l m o n e l l as t r a i nT A 1 0 0 .T h i ss t r a i nw a ss e l e c t e db e c a u s ei t i so f t e nc i t e da st h em o s ts e n s i t i v eo ft h eS a l m o n e l l as t r a i n s .T h en u m b e ro fp l a t e sw a sc h o s e nt ob et h a tr o u n dn u m b e rn e a r e s tt h et o t a ln u m b e ro fp l a t e si n v o l v e di na s i n g l es t r a i ne x p e r i m e n tc o n s i s t i n go faz e r od o s eo rs o l v e n tc o n t r o la n df i v eo rs i xc h e m i c a ld o s e s ,w i t ht h r e er e p l i c a t ep l a t e sp e rd o s e ;t h i se x p e r i m e n t a ld e s i g nw a sa r e c e n tm u t a g e n i c i t yc o n f e r e n c er e c o m m e n d a t i o n( 7 ) .T h er e -

s u l t a n tc o u n t s ,o r d e r e db y m a g n i t u d e ,t o g e t h e rw i t hv a r i o u ss u m m a r ys t a t i s t i c s ,a r ei nT a b l e1 .T h es t a t i s t i cT fe v a l u a t e df o re a c hd a t as e ti s

T o => (X_- ) 2 / X ,i = l

[ 2 ]

i n w h i c hX f = ( l / r ) f X X .T h es t a t i s t i cT ,i s p r o p o r t i o n a lt o t h er a t i oo fs a m p l ev a r i a n c et os a m p l em e a n a ndi st h eu s u a ls t a t i s t i cu s e dt ot e s tw h e t h e ra r a n d o ms a m p l eo fs i z er e x h i b i t sb e h a v i o rc o n s i s t e n tw i t hE q . 1 . I f t h eu n d e r l y i n gd i s t r i b u t i o ni s s u f f i -c i e n t l yn e a r a P o i s s o nd i s t r i b u t i o n ,t h e nt h e d i s t r i b u t i o no fT ,i s w e l l - a p p r o x i m a t e db ya x 2 d i s t r i b u t i o nw i t h( r - 1 )d e g r e e s

T h ep u b l i c a t i o nc o s t so ft h i sa r t i c l ew e r ed e f r a y e di np a r tb yp a g ec h a r g ep a y m e n t .T h i sa r t i c l em u s t t h e r e f o r eb e h e r e b ym a r k e d a d v e r t i s e -m e n ti na c c o r d a n c ew i t h1 8U .S .C . 1 7 3 4s o l e l yt oi n d i c a t et h i sf a c t .

3 7 7 9

7/21/2019 Statistical analysis of the Ames Salmonella/microsome test

2/5

P r o c .N a t l .A c a d .S c i .U S A7 8 ( 1 9 8 1 )

T a b l e1 . T w e n t yr e p l i c a t e ds o l v e n tc o n t r o lp l a t ec o u n t sw i t hS a l m o n e l l aT A 1 0 0f r o mf o u rl a b o r a t o r i e s

L a b o r a t o r y *1 2 3 4 H t 4 D t

8 1 , 8 6 6 3 ,6 4 7 4 , 7 7 1 6 8 ,1 7 1 1 3 2 ,1 3 49 3 , 9 7 6 5 ,6 8 8 1 , 8 5 1 7 4 ,1 7 5 1 4 4 ,1 4 59 9 , 1 0 4 6 9 ,7 0 8 7 , 8 8 1 8 5 ,1 8 9 1 4 5 ,1 4 5

1 0 5 ,1 1 0 7 2 ,7 3 8 9 , 9 0 1 9 0 ,1 9 1 1 5 7 ,1 5 81 1 2 ,1 1 2 7 5 ,8 0 9 3 , 9 7 1 9 5 ,1 9 7 1 5 8 ,1 6 11 1 3 ,1 1 4 8 2 ,8 3 9 8 , 9 9 1 9 8 ,1 9 8 1 6 2 ,1 6 41 1 5 ,1 1 7 8 3 ,8 4 1 0 2 ,1 0 3 2 0 3 ,2 0 5 1 6 6 ,1 6 91 1 8 ,1 2 2 8 4 ,8 5 1 0 5 ,1 0 8 2 0 5 ,2 0 7 1 7 4 ,1 7 71 3 1 , 1 3 5 9 0 , 9 1 1 0 8 , 1 1 0 2 1 0 , 2 1 4 2 0 1 , 2 0 81 5 5 ,1 8 3 t t 1 1 1 ,1 2 4 2 1 6 ,2 1 8 2 0 8 ,2 1 9

M e a n1 1 5 . 1 0 7 6 . 7 2 9 6 . 4 5 1 9 5 . 4 5 1 6 6 . 3 5

Va r i a n c e5 4 0 . 6 2 8 1 . 1 5 1 6 3 . 1 0 2 2 6 . 5 8 6 3 1 . 2 9

T e8 9 . 2 4 1 7 . 9 8 3 2 . 1 3 2 2 . 0 3 7 2 . 1 0

C ( X1 0 2 )2 . 7 0 . 0 0 . 6 0 . 1 1 . 5

S E( e ) ( x1 0 2 )1 . 1 0 . 4 0 . 5 0 . 2 0 . 7

*R e v e r t a n tc o l o n i e sp e r p l a t el i s t e di n a s c e n d i n go r d e rw i t h i ne a c hl a b o r a t o r ya n dp a i r e ds o l e l yf o rc o n c i s e n e s so fp r e s e n t a t i o n .

t L a b o r a t o r y4 c o n d u c t e dt h i se x p e r i m e n tt w i c e ,o n c ew i t hw a t e r( 4 H )a n d o n c ew i t h d i m e t h y l s u l f o x i d e( 4 D )a s t h es o l v e n t .T h es a m ei n -d i v i d u a ld i dt h et w ot e s t sb u t o nd i f f e r e n td a y s .A l lo t h e rl a b o r a t o r i e su s e dw a t e r .

t C o n t a m i n a t e dp l a t e ,n o tc o u n t e d .

o ff r e e d o m( 8 ) .F o r 2 0 r e p l i c a t e s ,t h i sw o u l di m p l yt h a tT ee x -c e e d s3 0 . 1o n c ei n2 0 ,3 6 . 2o n c ei n 1 0 0 ,a n d4 3 . 8o n c ei n1 0 0 0 .T a b l e1 c l e a r l yd e m o n s t r a t e st h a tt h e s ed a t aa r en o tP o i s s o nd i s t r i b u t e di na l ll a b o r a t o r i e sa t a l lt i m e s .Z e i g e re t a l .( 9 )a n dVo l l m a r( c i t e di nr e f .1 0 )h a v ep r e v i o u s l yr e p o r t e dt h i sf i n d i n g .A l t h o u g hVo l l m a rs t a t e dt h a ta P o i s s o nd i s t r i b u t i o nc a n b e a s -s u m e du p t oa b o u t1 5 0r e v e r t a n t sp e rp l a t e ,t h ed a t ai nT a b l e1 c o n t r a d i c tt h i sc o n c l u s i o n .

T h em a i np r a c t i c a li m p l i c a t i o no f T a b l e1 i st h a tt h ev a r i a b i l i t yo fa n ys t a t i s t i cu s e dt o q u a n t i f yo rj u d g et h ee v i d e n c ef o rm u -t a g e n i c i t ym a yb e s u b s t a n t i a l l yu n d e r e s t i m a t e di f o n e d i s r e -g a r d st h ep o s s i b i l i t yo fh y p e r - P o i s s o nv a r i a b i l i t y .T o t h ee x t e n tt h a tt h er e s u l t si nT a b l e1 t y p i f yl a b o r a t o r yf u n c t i o n i n g ,a n u n -d e r e s t i m a t eo ft h ev a r i a n c eb y a f a c t o ro f2 - 4 i sn o tr a r e .T h i s ,i nt u r n ,w o u l de l e v a t et h er e a lf a l s e - p o s i t i v er a t e ,a n dp o s s i b l ye v e nt h er e a lf a l s e - n e g a t i v er a t e ,a n d w o u l dy i e l dc o n f i d e n c el i m i t sf o rp a r a m e t e r so fi n t e r e s tw h o s ec o v e r a g er a t e sa r eo v e r -s t a t e d .T h ed e g r e eo fe l e v a t i o no ft h et w oe r r o rr a t e si sd e p e n -d e n to n t h es t a t i s t i c a lp r o c e d u r eu s e d .A l a t e re x a m p l ew i l ld e m o n s t r a t eh o wv a r i a n c eu n d e r e s t i m a t i o na f f e c t sm o d e lp a -r a m e t e re s t i m a t e s .F o r p r e s e n ti l l u s t r a t i v ep u r p o s e s ,c o n s i d e ra o n e - t a i l e dt e s tf o rm u t a g e n i c i t yb a s e do n a s t a t i s t i ct h a ti sa p -p r o x i m a t e l yn o r m a l l yd i s t r i b u t e dw i t hm e a n a n dv a r i a n c ep9u n d e ra n a s s u m p t i o no fn o m u t a g e n i c i t y .I f t h i ss t a t i s t i ci st r e a t e da si fi t sv a r i a n c ei s o 2 ,t h e nt h er e a lf a l s e - p o s i t i v er a t e sf o rt h i st e s tw h e nn o m i n a l l y5 a n d 1 a r er e s p e c t i v e l y1 2a n d5 i fp = 2 a n d2 1 oa n d1 2 0i fp = 4 .T h ep o s s i b l ep r e s e n c eo fh y p e r - P o i s s o nv a r i a b i l i t yu n d e r s c o r e st h en e e df o rr e p l i c a t ep l a t e s ;o n l yb yt h i sm e a n sc a no n e p r o p e r l yq u a n t i f yi n t e r n a l

p l a t e - t o - p l a t ev a r i a b i l i t ya n d ,t h e r e b y ,v a l i d l yw e i g ht h ee v i -d e n c ef o rm u t a g e n i c i t y .

A NA LT E R N AT I V ES A M P L I N GDISTRIBUTIONI t i so u rc o n j e c t u r et h a tl a b o r a t o r i e so c c a s i o n a l l ye x h i b i t i n gh y -p e r - P o i s s o nv a r i a b i l i t yi n a p a r t i c u l a re x p e r i m e n ta r eu n a b l et h a td a yt om a i n t a i nn e a rc o n s t a n c ya c r o s sr e p l i c a t e so ft h ep l a t ee n v i r o n m e n tb e c a u s eo fv a r i a b i l i t yi np i p e t t i n gt h em i c r o b e s ,t h ea g a r ,t h eS 9l i v e rh o m o g e n a t e ,a n dt h et e s tc o m p o u n d .F o re a c hp l a t e ,t h eP o i s s o nm e a nw o u l dt h e nb e a s t o c h a s t i cq u a n -t i t y ,h a v i n gi t so w ns a m p l i n gd i s t r i b u t i o nG .I t f o l l o w st h a tas e to fr e p l i c a t ep l a t ec o u n t sa r e ar a n d o ms a m p l ef r o ma m i x t u r eo fP o i s s o n sr e p r e s e n t e db y

p r { X =k }= ( k ) - l fT k e - T d G ( T ) .[ 3 ]

T h ed i s t r i b u t i o nG m u s tb et h a to fa n o n n e g a t i v er a n d o mv a r i a b l ea n di s p r o b a b l yu n i m o d a l ,t h et a r g e t e dm e a nd e t e r -m i n i n gt h em o d ei fn o s y s t e m a t i cb i a si s i n v o l v e d .T h ed i s t r i -b u t i o nG t h a ta f f o r d sg r e a t e s tm a t h e m a t i c a lt r a c t a b i l i t yi s t h a ta s s o c i a t e dw i t ha g a m m ad e n s i t y :

g ( t ; p C )= [ ( p c ) C - [ r ( C - L ) ] Y- t c - l - l e x p [[ 4 ]i n w h i c h, u L> 0 , c > 0 . W i t ht h i sc h o i c e ,E q .3 r e d u c e st o an e g a t i v eb i n o m i a ld i s t r i b u t i o n :

p r { X ,= k I A , c }= ( k + c [ , / ( , u+ c - 1 ) ] k

x [ C - ' / ( p+ c - ' ) ] - l [ 5 ]i nw h i c hk i sa n o n n e g a t i v ei n t e g e r .T h i sd i s t r i b u t i o nh a sm e a ng a n dv a r i a n c e, u ( l+ c p u ,w h i c hi sg r e a t e rt h a nt h em e a n .T h en e x ts e c t i o nd i s c u s s e sm o d e l i n g, ua sa f u n c t i o no fa p p l i e dd o s e .

T h en e g a t i v eb i n o m i a lc a nb e e v a l u a t e da t c = 0 t h r o u g hal i m i ta r g u m e n tt oo b t a i nt h eP o i s s o nd i s t r i b u t i o n ;h e n c e ,l a r g ev a l u e so fc a r ee v i d e n c ef o rd e p a r t u r e sf r o mP o i s s o ns a m p l i n g

b e h a v i o r .A s i d ef r o mu n i m o d a l i t ya n d t r a c t a b i l i t y ,t h eg a m m ad e n s i t ya s s u m p t i o nr e s t so n t h eh i s t o r i c a lr o l eo f t h er e s u l t a n tn e g a t i v eb i n o m i a ld i s t r i b u t i o na sa ni m p o r t a n ta l t e r n a t i v et ot h eP o i s s o nm o d e li n m i c r o b i o l o g y ;i t su s ef o rt h i sp u r p o s ed a t e sb a c ka tl ea s t t oG o s s e t t[ S t u d e n t ]( 1 1 ) ,w h ow a sc o n c e r n e dw i t hc o u n t i n gy e a s tc e l l su s i n ga h a e m a c y t o m e t e r .

T h ep a r a m e t e rc r e f l e c t st h ei n t r i n s i cp r e c i s i o no fa ne x p e r -i m e n t e ri np r o d u c i n gr e p l i c a t e dp l a t ee n v i r o n m e n t so n a g i v e nd a y,d e s p i t et h ev a r y i n gt e s tc h e m i c a ld o s e .P e r f e c tr e p r o d u c -i b i l i t yo fr e p l i c a t e dp l a t ee n v i r o n m e n t si s r e p r e s e n t e db yc =0 . Va r i a b i l i t yi n r e p l i c a t e dp l a t ee n v i r o n m e n t si s r e p r e s e n t e db yc > 0 : t h eg r e a t e rt h ev a r i a b i l i t y ,t h el a r g e rt h ev a l u eo fc .T a b l e1 i n c l u d e st h em a x i m u ml i k e l i h o o de s t i m a t ec o fc a n di t se s t i m a t e ds t a n d a r de r r o r( 1 2 )f o re a c ho ft h ef i v ed a t as e t s .

B e c a u s et h ev a r i a n c eo fa n e g a t i v eb i n o m i a lr a n d o mv a r i a b l ei sa f u n c t i o no fb o t hu a n dc ,o n ei su n a b l et oe s t i m a t et h es t a n -d a r de r r o ro fa n o b s e r v a t i o ny s o l e l yf r o mi t sm o d e l - f i t t e do rp r e d i c t e dv a l u ey ,s o m e t h i n gt h a ti so b t a i n a b l ef o rP o i s s o nd i s -t r i b u t e dd a t as i m p l ya sy . I fc i sn e a r l yc o n s t a n tw i t h i na n e x -p e r i m e n t ,t h e nt h es t a n d a r de r r o rf o ry c a n b e e s t i m a t e db y[ y 1+ C y ] f 2 *T h u s ,a ni n d i v i d u a lo b s e r v a t i o nm a yb e c h e c k e de m p i r i c a l l yf o ra b e r r a n c eb yc o m p u t i n gi t sa b s o l u t es t a n d a r d -i z e dr e s i d u a l :

I Y Y l / [ Y ( 1 V A 1 [ 6 ]

A ni l l u s t r a t i o no ft h i sd i a g n o s t i cc h e c ko c c u r sl a t e ri n t h et e x t .

3 7 8 0 G e n e t i c s :M a r g o l i ne t a l .

7/21/2019 Statistical analysis of the Ames Salmonella/microsome test

3/5

P r o c .N a t l .A c a d .S c i .U SA7 8 ( 1 9 8 1 ) 3 7 8 1

M O D E L I N GD O S ER E S P O N S ET h el a c ko f u n i v er s a l P o i s s o ns a m p l i n gb e h a v i o rf o rS a l m o n e l l at e s td a t ai s o n e c o m p l i c a t i o no ft h es t a t i s t i c a la n a l y s i so fs u c he x p e r i m e n t s .A d d i t i o n a lc o m p l e x i t yr e s u l t sf r o mt h ef r e q u e n t l yn o n m o n o t o n i cr e l a t i o n s h i po fr e v e r t a n t sp e rp l a t et ot e s tc h e m -i c a ld o s e ,a r e l a t i o n s h i pt h a ti n c r e a s e st oa p e a ka n d t h e nd e -c r e a s e s ,s o m e t i m e st oa v a l u eb e l o wt h es o l v e n t c o n t r o l v a l u e sa n do c c a s i o n a l l yt oz e r o .T h i sd e p a r t u r ef r o ma n o n d e c r e a s i n gr e s p o n s ei s c o m m o n l ya s c r i b e dt om i c r o b i a lt o x i c i t y ,b o t hg e -n e t i ca n dc e l l u l a r ,c a u s e db yt h et e s tc h e m i c a l .W e r et h ec u r -r e n t l yr e c o m m e n d e dS a l m o n e l l at e s tp r o c e d u r et o i n c l u d eap a r a ll e l a s s a yt h a ta c c u r a t e l ym e a s u r e dt h en u m b e ro fm i c r o b e ss u c c u m b i n gt o t o x i c i t yo n t h et r e a t e dp l a t e s ,o n e w o u l dt h e nb ea b l et om o d i f ys t a t i s t i c a la n a l y s e st oa d j u s tf o rt h ee f f e c t so ft o x i c i t y .H o w e v e r ,t h i sd u a le x p e r i m e n ti sn o tc o m m o np r a c t i c eb e c a u s eo fc o s ta n dc o n v e n i e n c e .

A ne f f e c t i v ew a yt od i s e n t a n g l et h ec o m p e t i n gr i s k so fm u -t a t i o na n d t o x i c i t yi n o r d e rt o d r a wi n f e r e n c e sr e g a r d i n gt h ef o r m e ri st om o d e lA a sN O P D ,w h e r eN Oi st h ea v e r a g en u m b e ro fm i c r o b e sp l a c e do n a p l a t e ,a n dP Di s t h ep r o b a b i l i t yt ha t as i n g l ep l a t e dm i c r o b ey i e l d sa r e v e r t a n tc o l o n yw h e ne x p o s e dt od o s eD o fa t e s tc h e m i c a l .H a y n e sa n dE c k a r d t( 1 3 )h a v er e -c e n t l yc o m et oa s i m i l a rc o n c l u s i o na n dh a v ep r o p o s e dm o d e l sf o rP Di n c o r p o r a t i n gt o x i c i t y ;t h e i rm o d e l sa r ee s s e n t i a l l yo ft h ef o r m :

P D= { 1- e x p [ - H M ( D ) ] } e x p [ - H 7 < D ) ] ,[ 7 ]i nw h i c hH M ( D )a n dH T ( D )a r et y p i c a l l yl o w - o r d e r p o l y no m i a l sa n dr e p r e s e n t r e s p ec t i v el yt h ea v e r a g en u m b e ro fm u t a g e n i ca n dt o x i c h i t sp e rm i c r o b ew h e nd o s eD i sa p p l i e dt oa p l a t e .T h es i m p l e s ta n dm o s tc o m m o nc a s eo fE q .7 i st h e s i n g l eh i to r l in ea rm o d e l ,w h e r e

P D= { 1- e x p [ - ( a+ / 3 D ) ] } e x p [ - y D ] ,a > 0 , ( 8 3 0 ,y - 0 . [ 8 ]

M o d e l so ft h ef o r mi nE q .7 h a v eb e e ni n v e s t i g a t e da n dd i s -c u s s e de x t e n s i v e l yi nt h ef i e l do fr a d i a t i o nm u t a g e n e s i sb u tm a yb ei n a p p r o p r i a t ef o rc h e m i c a lm u t a g e n e s i s .R a d i a t i o ni sa ni n -s t a n t a n e o u sp r o c e s s ;i n r e s p o n s et o a s i n g l eb u r s t ,m i c r o b e se i t h e rs u c c u m bt o t o x i c i t y ,m u t a t ew i t hr e g a r dt o a s p e c i f i e dg e n e t i ct r a i t ,o rs u r v i v eu n c h a n g e dw i t hr e g a r dt ot h a tt r a i t .I fa p l a t e dm i c r o b ee s c a p e s t h et o x i ce f f e c t so fr a d i a t i o nb u tm u -t a t e sw i t hr e s p e c tt ot h es p e c i f i e dt r a i t ,i t i se s s e n t i a l l ya s s u r e do fg i v i n gr i s et oa m u t a n tc o l o n y .F o r . t h i sp r o c e s s ,t h e p l a t e dm i c r o b e sa r et h e o n l yo n e st or u nt h et w i nr i s k so fm u t a t i o na n dt o x i c i t y .I nt h eS a l m o n e l l ap l a t ea s s a y,h o w e v e r ,v a r i o u sa l t e r -n a t i v e sa r ep o s s i b l ed e p e n d i n gu p o nt h et e s tc h e m i c a l .I fi tl o s e si t sm u t a g e n i ca n dt o x i c c a p ab i li t ie sr a p i d l y ,s a yi na s i n g l em i -c r o b i a lg e n e r a t i o n ,t h e n -t h ep r o c e s sc l o s e l yr e s e m b l e st h a to fs i n g l e - b u r s tr a d i a t i o n ;o n t h eo t h e rh a n d ,i fi t i sa c t i v ef o ra n

e x t e n d e dp e r i o do ft i m e ,t h e nt h ep l a t e dm i c r o b e sa n d

t h e i rd e s c e n d a n t sa r ea t r i s ko fb o t hm u t a t i o na n d t o x i c i t y .B e c a u s et h ea c t i v i t yo fa c h e m i c a lo n a p l a t ei sn o tg e n e r a l l yk n o w n ,t h i su n c e r t a i n t ya r g u e sf o rb r o a d e n i n gt h ec l a s so fm o d e l si nE q .7 .T o t h i se n d ,i n a d d i t i o nt oa s s u m p t i o n si - i va n d t h e n e g a t i v eb i n o m i a ls a m p l i n ga s s u m p t i o n , t h ef o l l o w i n ga r ea s s u m e d .( v )T h ep r o b a b i l i t yo fp l a t i n gp r e e x i s t i n gm u t a n t so r o f e x p e r i e n c -i n gf o r w a r dm u t a t i o nf r o mp r o t o t r o p h yt oa u x o t r o p h yi sn e g l i -g i b l e .( v i )E x p r e s s i o no c c u r sw i t h i nt h ef i r s tg e n e r a t i o nf o l l o w -i n gm u t a g e n e s i s .( v i i )S u f f i c i e n th i s t i d i n ei sp l a c e do n e a c hp l a t et op e r m i ta u x o t r o p h i cg r o w t h t h r o u g hk g e n e r a t i o n s ,w h e r eki st y p i c a l l yt h r e et os i x .( v i i i )M u t a t i o na n dt o x i c i t ya r es t o c h a s t -i c a l l yi n d e p e n d e n tp r o c e s s e s .A m i c r o b eo n a p l a t ew i t h d o s eD o ft h et e s tc h e m i c a lh a sp r o b a b i l i t yp M ( D )o fm u t a t i n gf r o m

h i s -t o h i s 'i f i t i s a m e m b e ro f t hef i r s tm g e n e r a t i o n sa f t e rp l a t i n g ,p r o b a b i l i t yo fP M ( O )o fm u t a t i n gi fi t i sa m e m b e ro ft h en e x tk - mg e n e r a t i o n s ,a n d a z e r op r o b a b i l i t yt h e r e a f t e r .B o t ha u x o t r o p h sa n dp r o t o t r o p h sh a v ep r o b a b i l i t yp 7 ( D )o fs u c c u m b -i n gt ot o x i c i t yi ft h e ya r em e m b e r so f t h ef i r s tt g e n e r a t i o n ss i n c ep l a t i n ga n dz e r o p r o b ab i l i t yt h e r e a f t e r .

T h es t e p - f u n c t i o nb e h a v i o ra s s u m e di n v i i ii s i n t e n d e da sap a r s i m o n i o u sa p p r o x i m a t i o nt op r o b a b i l i t i e st h a tv a r yi na c o m -p l e xf a s h i o nw i t hg e n e r a t i o nt i m e .B e c a u s em e a s u r a b l em u t a -t i o ne f f e c t i v e l yc e a s e sw i t hh i s t i d i n ed e p l e t i o n( i fn o tb e f o r e )a n db e c a u s em e a s u r a b l et o x i c i t y( i fp r e s e n t )i s n o tn e c e s s a r i l ys or e s t r i c t e d ,i t h a sb e e na s s u m e di n v i i it h a tm ' k ,a n d m ' t' o o .I n f a c t ,f o rt h es i n g l e - h i ta s s u m p t i o n ss u b s e q u e n t la d o p t e d ,s e t t i n gm = k i n t r o d u c e sn e g l i g i b l ee r r o ri n t h ep a -r a m e t e re s t i m a t e s .H e r et = o oi si n t e n d e dt oi n d i c a t el o n g - l a s t -i n gt o x i c i t y( e . g . ,t h ee n t i r et e s tt i m eo f4 8 o r7 2 h r ) .T h ea s -s u m p t i o n sa b o v ep e r m i tt h ef o l l o w i n gm o d e l i n g .

L e tP D ( m , t )d e n o t et h ep r o b a b i l i t yt h a ta p l a t e dm i c r o b ee x -p o s e dt o d o s eD o f t het e s tc h e m i c a lg i v e sr i s et o a r e v e r t a n tc o l o n yw h e nm u t a t i o ni sp r e s e n tf o rm g e n e r a t i o n sa n d t o x i c i t yf o rt g e n e r a t i o n s .S i m i l a r l yd e f i n eQ D ( S )t o b et h ep r o b a b i l i t yt h a ta n ym i c r o b ea n di t sd e s c e n d e n t se x p o s e dt od o s eD b e c o m ee x t i n c tb e c a u s eo ft o x i c i t yw i t h i ns g e n e r a t i o n s ,c o u n t i n gt h ep l a t e dm i c r o b ea sg e n e r a t i o no n e .T h e nu p o nc o n s i d e r a t i o no ft h ep o s s i b l ef i r s tg e n e r a t i o ne v e n t s ,o n e o b t a i n st h ef o l l o w i n gr e c u r s i o n :

P D ( m , t )= p M ( D ) [ 1- p 7 ( D ) ] [ 1- Q D t - 1 ]+ [ 1- p M ( D ) ]x [ 1- p 7 ( D ) ] { l- [ 1- P D ( m - l , t - 1 ) ] 2 } .[ 9 ]

T h eq u a n t i t yQ D ( s )a l s os a t i s f i e sa r e c u r s i o n .I f1 < s < t , t h e n

Q D ( S )= p 7 < D )+ [ 1- p 7 < D ) ] Q 2 ( S _ 1 ) ;o t h e r w i s eQ D ( S )= 0 i fs = 0 ,o rQ D ( S )= Q D ( t )i fs > t . U s e f u lv a l u e so fQ D ( s )a r e Q D ( 1 )= p 7 ( D )f o ra l lt . 1 ,

Q D ( 2 )= p 7 A D )+ [ 1- p 7 ( D ) ] p R ( D )f o ra l lt 2 ,a n d

Q D ( O )= m i n { l ,p 7 g D ) / [I - p 7 ( D ) ] }f o rt = 0 0 .B e c a u s eP D ( r , v )i sv e r ys m a l lf o ra l lr - ma n dv ' t , E q .9 m a yb e a p p r o x i m a t e db yP D ( m , t )p M ( D ) [ -p DD) ] [ 1Q D( t - 1 ) ]

+ 2 [ 1- p M ( D ) ] [ 1- p A D ) ] P D ( m - 1 , t - 1 ) -I fm = k ,E q .1 0a d m i t st h ef o l l o w i n gs o l u t i o n :

m-1

P D ( m , t )= p M ( D ) [ l p 7 ( D ) ] { Z( 2 [ 1 l p M ( D ) ]j=1

x [ 1 p 7 # D ) ] yX [ I Q 2 ( t - l - j ) ].

[ 1 0 ]

[ 1 1 ]

F o u rm o d e l sa r eb o u n d a r ym e m b e r so ft h ef a m i l yo fm o d e l si n E q .1 1s u b j e c tt om c m i n( k , t ) ;b e c a u s et h e ys t r a d d l et h ef a m i l y ,t h e s em o d e l sg i v eg o o de v i d e n c eo ft h ev a r i e db e h a v i o r sp o s s i b l ei nE q .1 1 :

I . F o r m = k = 1 = t :P D ( 1 , 1 )= p M ( D ) [ l- p 7 ( D ) ] .T h i si s E q .7 w i t hp M ( D )= 1 - e x p [ - H M ( D ) ]a n d p 7 ( D )= 1 - e x p [ - H T ( D ) ] .

I I . F o r m = k= 1 , t= o :

G e n e t i c s :M a r g o l i ne t a l-

7/21/2019 Statistical analysis of the Ames Salmonella/microsome test

4/5

P r o c .N a t l .A c a d .S c i .U S A7 8( 1 9 8 1 )

P D ( 1 , o o )= P M ( D ) [ 1 - p ( D ) I [ 1Q 2( 0 0 ) ]= P M ( D \ [ 1- 2 p [D ) ] +' ~[1-pA~D)]

i . e . ,m u t a t i o nf o ro n e g e n e r a t i o nb u tl o n g - l a s t i n gt o x i c i t y ;[ x ] += m a x ( 0 , x ) .

I I I . F o r m = k = t > 1 : P D ( k , k )i n E q . 1 1a d m i t sno f u r t h e rs i m p l i f i c a t i o n ;b o t hm u t a g e n i c i t ya n dt o x i c i t yar e h i s t i d i n e -l i m i t e dprocesses .

I V . Form=

k > 1 , t= 00

PD k,=

( 2 [ 1 - P M ( D ) ][1 - p T ( D ) ] ) i .H e r e m u t a t i o ni s h i s t i d i n e - l i m i t e d ,b u tt o x -i c i t y ,i fp r e s e n t , i s l o n gl a s t i n g .

F o r t h er e m a i n d e ro ft h ed i s c u s s i o n ,s i m p l i f y i n gs i n g l e - h i ta s s u m p t i o n sf o rm u t a t i o na n dt o x i c i t ya r e a d o p t e d ,a n dm i s s e tt ok .T h e s ep l u se a r l i e ra s s u m p t i o n sl e a dt o t h ef o l l o w i n g :p M ( D )= 1 e x p [ - ( a+ / 3 D ) ] ,a > 0 , P 32 0 , a n d p 7 < D )= 1 e x p [ -y D ] ,y 0 . T h ek e yp a r a m e t e ri nt h i scase i s /, b e c a u s et h ec h e m i c a lu n d e rs t u d yi s m u t a g e n i ci fa n do n l yi f, 3 > 0 ; i ti s t h eo n l yi n d e xo fm u t a g e n i c i t yt od a t et h a tb o t hd e r i v e sf r o mm e c h a n i s t i cm o d e l i n go ft h eAmes t e s t a n d i s a d j u s t e df o rt o x i c i t y .

O n ed i s t i n c t i o na m o n g t h em o d e l si s i m m e d i a t e l ya p p a r e n t .T h ed u r a t i o no ft o x i c i t yon a p l a t eca n h a v ea m a r k e di m p a c ton t h ef o r mo fP Da n d ,h e n c e ,, u .F o re x a m p l e ,m o d e lI d e s c r i b e s

s u r v i v a lb y t h ee x p o n e n t i a ld e c a yf u n c t i o ne x p [ -

y D ] ,w h e r e a s

m o d e lI I d e p i c t si t a s t h e s h o u l d e r - s h a p e df u n c t i o n[ 2 e x p ( y D ) ] + ,r e a c h i n gz e r o a t a f i n i t ed o s eD = y - ' l n2 f o rY >0. T h ev i s i b l ee f f e c t so ft o x i c i t ya r e u s u a l l ya p p a r e n to n l ya th i g hd o s e s .I ft h ep o s i t i v ed o s e sa r e s e l e c t e dt o b e e q u i s p a c e don al o g a r i t h m i cs c a l e ,t h e nt h e r emay b e l i t t l ei n f o r m a t i o nr e g a r d i n gt h ef o r mo ft h es u r v i v a lf u n c t i o n .A s t h ee x a m p l ei n t h en e x ts e c t i o ni l l u s t r a t e s ,m o d e l sI a n dI I may f i tt h ed a t ae q u a l l yw e l l ,a s j u d g e db y t h ee v a l u a t e dl o g a r i t h m i cl i k e l i h o o d s ,y e t t h ed i f -f e r e n c e si n t h e i re s t i m a t e so ft h ep a r a m e t e rP ca n f r e q u e n t l ye x c e e dt h a tw h i c hi s e x p l a i n a b l eb y s a m p l i n gv a r i a b i l i t y .O fg r e a t e r co n ce rn ar e d i f f e r e n c e si n e s t i m a t e so f/ 3 t h a tm o d e l sI I a n d I V ca n e x h i b i tb e c a u s et h ed u r a t i o n o fm u t a g e n i c i t yona p l a t ei s u n k n o w n .T h ee x a m p l eb e l o wi l l u s t r a t e st h i sp o i n t .

A P P L I C AT I O NAND I M P L I C AT I O N SOF THE MODELS

Q u i n o l i n ewa s s t u d i e db yW . S p e c k( u n p u b l i s h e d )a s p a r t o ft h eE n v i r o n m e n t a lM u t a g e n e s i sTe s t D e v e l o p m e n tP r o g r a ma t t h eN a t i o n a lI n s t i t u t eo fE n v i r o n m e n t a lH e a l t hS c i e n c e s .T h ed a t ai nT a b l e2 were o b t a i n e df r o ma t e s tw i t hS a l m o n e l l as t r a i nT A 9 8a n d i n d u c e dr a tl i v e rh o m o g e n a t eS 9 .D i m e t h y ls u l f o x i d ewa st h e s o l v e n tc o n t r o l ,a n de a c h d o s ewa s r e p l i c a t e dt h r e et i m e s .M o d e l sI - I V,t o g e t h e rw i t ht h es i n g l e - h i ta n dn e g a t i v eb i n o m i a la s s u m p t i o n s ,were f i t t e dt o t h e s ed a t ab y maximuml i k e l i h o o dt e c h n i q u e s( 1 4 ) .P a r a m e t e re s t i m a t e so fa , I y a n dc a n dt h e i re s t i m a t e d s t a n d a r derrors a r e g i v e ni n T a b l e3 . A f i f t hm o d e l( V )t h a ta s s u m e s m = k = 6 a n d t = i s i n c l u d e da s a f u r t h e rc h e c kon m o d e ls e n s i t i v i t y .

T h e f i t t e dv a l u e s o ft h e s ef i v em o d e l s( T a b l e4 )s h o ws u b -s t a n t i a la g r e e m e n ti nf i t t i n gt h e d a t ad e s p i t et h ed i f f e r e n c e si n

T a b l e2 . Q u i n o l i n ed a t a ( T A 9 8 ,r a tl i v e rh o m o g e n a t eS 9 )R e v e r t a n tc o l o n i e sw i t h i n c r e a s i ng q u i n o l i ne *

0 1 0 3 3 1 0 0 3 3 3 11 5 1 6 1 6 2 7 3 3 2 02 1 1 8 2 6 4 1 3 8 2 72 9 2 1 3 3 6 0 4 1 4 2

* R e v e r t a n tc o l o n i e sp e rp l a t ea r el i s t e di na s c e n d i n go r d e rw i t h i ne a c hd o s eg r o u p( d I go fq u i n o l i n ep e rp l a t e ) .T h r e ep l a t e sw e r et e s t e dp e rd o s a g e ;

T a b l e3 . P a r a m e t e re s t i m a t e sf r o mn e g a t i v eb i n o m i a ls i n g l e - h i tm o d e l sI - V f o rq u i n o l i n ed a t a

M o d e l

I I I I I I I V V( m = 1 , ( m = 1 , ( m = 3 , ( m = 3 , ( m = 6 ,t = 1 ) t = m 0 ) t = 3 ) t = 0 0 ) t = 0 c )

& ( X 1 0 - 8 ) 2 0 . 3 2 2 . 0 2 . 9 9 3 . 0 40 . 3 2 5S E ( & ) ( x1 0 - 9 ) 2 6 . 1 2 6 . 4 3 . 7 3 3 . 7 4 0 . 4 1 33 ( x 1 0 - 1 0 ) 2 1 . 5 1 0 . 7 2 . 3 8 2 . 1 4 0 . 3 1 8

S E ( , 4 ) ( x 1 0 - )6 2 . 7 3 2 . 4 8 . 1 7 5 . 9 0 0 . 8 9 8i f x1 0 - 4 ) 2 1 . 2 5 . 7 2 5 . 7 1 5 . 1 4 3 . 7 9S E ( j 4 ( x1 0 - 5 ) 3 5 . 3 4 . 0 1 1 5 . 2 5 . 0 7 5 . 6 1c F 1 0 - 2 ) 5 . 3 6 6 . 5 3 5 . 4 5 6 . 0 2 5 . 4 9S E ( ) ( x1 0 - 2 ) 2 . 9 8 3 . 3 7 3 . 0 1 3 . 2 0 3 . 0 2

m o d e lf o r ma n dp a r a m e t e re s t i m a t e s .T h ef i v el o g a r i t h m i cl i k e -l i h o o d so b t a i n e dwere - 6 3 . 2 0 , - 6 4 . 3 6 , - 6 3 . 7 3 , - 6 3 . 8 6 , a n d- 6 3 . 3 4 , r e s p e c t i v e l y .E s t i m a t e so ft h em u t a g e n i ci n d e x/3 v a r yf r o m2 . 1 5x 1 0 - 9t o 3 . 1 8x 1 0 - 1 1 .M o d e l sI a n d II d i f f e rb y af a c t o ro f2 i n t h i se s t i m a t e ,w h i c hi s s o l e l ya t t r i b u t a b l et o d i f -f e r e n c e si n t h e i rm o d e l i n go ft o x i c i t y .T h ew i d ev a r i a t i o ni ne s t i m a t e so f3 among m o d e l sI I , I V ,a n dV ,a l lo f ~ w h i c ha s s u m e

l o n g - l a s t i n gt o x i c i t y ,ca n b e e l u c i d a t e d .I ft o x i c i t yi s e s s e n t i a l l yn e g l i g i b l e ,t h e nb e c a u s ep M ( D )i s g e n e r a l l yv e r y s m a l lo n e ca nc l o s e l ya p p r o x i m a t eE q . 1 1b y :

P D ( m ,t ) = ( 2 m 1 ) p M ( D )

= ( 2 m-1 {1 e x p [ - ( a / 3 D ) ] } .[ 1 2 ]C o n s e q u e n t l y ,i t i s v i r t u a l l yi m p o s s i b l et o d i s t i n g u i s he m p i r i -c a l l yb e t w e e nt h em o d e l sa s s o c i a t e dw i t hP D ( m t )a n d P D ( 1 , t ) ,s i n c et h e i rf i t st o t h e d a t aw i l lb e n e a r l yt h es a m e . H o w e v e r ,t h e i rp a r a m e t e re s t i m a t e sf o r a n d /3 d e n o t e db y ( & ( m ) ,f r m ) )a n d ( & ' ( ) ,f i n ) ) ,r e s p e c t i v e l y ,w i l ld i f f e rb y n e a r l ya f a c t o ro f( 2 '

1 ) - i . e . , ( 2 m 1 ) & ( m )a n d# i )_ ( 2 m 1 ) 1 m ) .T h er e -s p e c t i v es t a n d a r derrors o ft h e s ee s t i m a t e sw i l l d i f f e rb y t h esame f a c t o r .T h ee s t i m a t e so f i nT a b l e3 e x h i b i tc o m p a r a b lm u l t i p l i e r si n t h ep r e s e n c e o fm i l dt o x i c i t ya n dm o d e r a t es am -p l i n gv a r i a b i l i t y - e . g . ,P 1 I_ 5 P I Va n d I 3 4 3 V .

T h e r e f o r e ,i nt h ep r e s e n c e o fn e g l i g i b l et o x i c i t ya n ds u f f i c i e n th i s t i d i n ef o rmore t h a no n e g e n e r a t i o n ,i f i t i s a s s u m e dt h a tm u t a g e n i ca c t i v i ty p e r s i s t sf o rm *g e n e r a t i o n sb u ti n r e a l i t yi tp e r s i s t sf o rm g e n e r a t i o n s ,t h e nt h ee s t i m a t e8 3a c t u a l l ye s t i -m a t e sa p p r o x i m a t e l y( 2 m 1 ) / ( 2 m- 1 ) t i m e s t h er e a lP .I f s u f-f i c i e n th i s t i d i n ef o rf o u ror f i v eg e n e r a t i o n si s s u p p l i e dt o e a c hp l a t e ,t h e nt h eu n c e r t a i n t yr e g a r d i n gt h em u t a g e n i ci n d e x/ 3 ca nb e n e a r l ya n o r d e ro fm a g n i t u d e .T h i si s f a rg r e a t e r t h a nt h eu n c e r t a i n t ye v i d e n c e db yt h ee s t i m a t e ds t a n d a r derrors i nT a b l e3 ,w h i c hmust b e i n t e r p r e t e da s u n c e r t a i n t i e sc o n d i t i o n a lon t h ev a l i d i t yo ft h ec o r r e s p o n d i n gm o d e l s .T h i su n c e r t a i n t yw i l la f -f e c ta n y q u a n t i t a t i v ea n a l y s i st h a ta t t e m p t s t o m e a s u r e m u t a -g e n i c p o t e n c yb e c a u s et h en u m b e ro fm i c r o b e sa t r i s ko fmu-

T a b l e4 . F i t t e dv a l u e sf o rq u i n o l i n ed a t a

Q u i n o l i n e , M o d e l Av e r a g e dp l a t et t gp e rp l a t e I I I I I I I V V c o u n t s

0 2 0 . 3 2 2 . 0 2 0 . 9 2 1 . 32 0 . 5 2 1 . 71 0 2 2 . 0 2 2 . 9 2 2 . 32 2 . 5 2 2 . 1 1 8 . 33 3 2 5 . 6 2 5 . 02 5 . 2 2 5 . 1 2 5 . 4 2 5 . 0

1 0 0 3 3 . 9 3 0 . 8 3 2 . 6. 3 1 . 9 3 3 . 4 4 2 . 73 3 3 4 5 . 5 4 5 . 5 4 6 . 4 4 5 . 74 5 . 5 3 7 . 3

1 0 0 0 2 8 . 4 2 9 . 4 2 8 . 92 9 . 1 2 8 . 6 2 9 . 7

3 7 8 2 G e n e t i c s :M a r g o l i ne t a l .

7/21/2019 Statistical analysis of the Ames Salmonella/microsome test

5/5