Evolution and Selection of Quantitative Traits

I: FoundationsB. Walsh and M. Lynch

Draft version 30 December 2014

CONTENTS i

PREFACE xiii

ROADMAP: DIFFERENT PATHS THROUGH THE BOOK xiii

I. INTRODUCTION 1

1. CHANGES IN QUANTITATIVE TRAITS OVER TIME 1

II. EVOLUTION AT ONE AND TWO LOCI 1

2. NEUTRAL EVOLUTION IN ONE- AND TWO-LOCUS SYSTEMS 1The Wright-Fisher Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2Loss of Heterozygosity by Random Genetic Drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5Probabilities and Times to Fixation or Loss . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8Age of a Neutral Allele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10Allele-frequency Divergence Among Populations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12Buri’s Experiment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13Higher-order Allele-frequency Moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15Linkage Disequilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17Mutation-Drift Equilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19The Detailed Structure of Neutral Variation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

The infinite-alleles model and the associated allele-frequency spectrum . . . . . . . . . . . 23The infinite-sites model and the associated site-frequency spectrum . . . . . . . . . . . . . . 25

The Genealogical Structure of a Population . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27Drift-Mutation-Migration Equilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

Quantifying population structure: FST . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30Mutation-migration-drift equilibrium values of FST . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

3. THE GENETIC EFFECTIVE SIZE OF A POPULATIONGeneral Considerations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2Monoecy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3Dioecy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6Age Structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8Variable Population Size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11Partial Inbreeding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12Special Systems of Mating . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13Population Subdivsion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16Selection, Recombination, and Hitchhiking Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

i

ii CONTENTS

Effects from selection at unlinked Loci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18Selective sweeps and genetic draft . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20Background selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

4. THE NONADAPTIVE FORCES OF EVOLUTIONRelative Power of Mutation and Genetic Drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

Nucleotide diversity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2Number of segregating sites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4Alternative approaches . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5Empirical observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6

Relative Power of Recombination and Genetic Drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7Number of recombinational events in a sample . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8Other approaches for narrow intervals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10Large-scale analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11Empirical observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

Effective Population Size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15Temporal change in allele frequencies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15Single-sample estimators . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18Empirical observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

Mutation Rate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19Divergence analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20Short-term enrichment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21Empirical observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24Evolution of the mutation rate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

Recombination Rate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29Evolution of the recombination rate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

General Implications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

5. THE POPULATION GENETICS OF SELECTION 201Single-locus Selection: Two Alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202

Viability selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202Expected time for allele frequency change . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203Differential viability selection on the sexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205Frequency-dependent selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206Fertililty/fecundity selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206Sexual selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207

Wright’s Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207Adapative topographies and Wright’s formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

Single-locus Selection: Multiple Alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211Marginal fitnesses and average excesses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212Equilibrium frequencies with multiple alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212Internal, corner, and edge equilibrium; basins of attraction . . . . . . . . . . . . . . . . . . . . . . 214Wright’s formula with multiple alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214Changes in genotypic fitnesses Wij when additional loci are under selection . . . . . 216

Selection on Two Loci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217Dynamics of gamete frequency change . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217Gametic equilibrium values, linkage disequilibrium, and mean fitness . . . . . . . . . . . 219Results for particular fitness models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220Phenotypic stabilizing selection and the maintenance of genetic variation . . . . . . . . 221

Selection on a Quantitative Trait Locus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225

CONTENTS iii

Monogenic traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225Many loci of small effect underlying the character . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226A population-genetics derivation of the breeders’ equation . . . . . . . . . . . . . . . . . . . . . 228Correct quadratic terms for si . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230

6. THEOREMS OF NATURAL SELECTION:RESULTS OF PRICE, FISHER, AND ROBERTSON 237

Price’s General Theorem of Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238The life and times of George Price . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238Derivation of Price’s theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239The Robertson-Price identity, S = σ(z, w) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243Recovering the breeder’s equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243

Fisher’s Fundamental Theorem of Natural Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244The classical interpretation of Fisher’s fundamental theorem . . . . . . . . . . . . . . . . . . . 245What did Fisher really mean? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247

Implications of Fisher’s Theorem for Trait Variation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249Traits more highly correlated with fitness have lower heritabilties . . . . . . . . . . . . . . . 250Traits correlated with fitness have higher levels of both

additive and residual variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252Non-additive genetic variances for traits under selection . . . . . . . . . . . . . . . . . . . . . . . 254

Robertson’s Secondary Theorem of Natural Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2551968 Version: Rz = σA(z, w) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2551966 Version: Rz = σ(Az, w) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256Accuracy of the secondary theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256Connecting Robertson’s results with those of Price, Fisher, and Lush . . . . . . . . . . . . 257

The Breeder’s Equation Viewed from the Price Equation . . . . . . . . . . . . . . . . . . . . . . . . . 257Beyond the breeder’s equation: Heywood’s decomposition . . . . . . . . . . . . . . . . . . . . 259The partial covariance and the spurious response to selection . . . . . . . . . . . . . . . . . . . 260Parent-offspring regressions before and after selection . . . . . . . . . . . . . . . . . . . . . . . . . 261Heywood’s Decomposition of response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263

7. INTERACTION OF SELECTION, MUTATION, AND DRIFT 1Selection and Mutation at a Single Locus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2Selection and Drift at a Single Locus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

Probability of fixation under additive selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6Probability of fixation under arbitrary selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10Fixation of overdominant and underdominant alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . 12Expected allele frequency in a particular generation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

Joint Interaction of Selection, Drift, and Mutation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16Haldane’s Principle and the Mutational Load . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20Fixation Issues Involving Two Loci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

The Hill-Robertson effect . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24Mutations with contextual effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

8. HITCHHIKING AND SELECTIVE SWEEPS 1Sweeps: A Brief Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

Hitchhiking, sweeps, and partial sweeps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1Selection alters the coalescent structure at linked neutral sites . . . . . . . . . . . . . . . . . . . . 3Hard versus soft sweeps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

The Behavior of a Neutral Locus Linked to a Selected Site . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

iv CONTENTS

Allele frequency change . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5Reduction in genetic diversity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10The Messer-Neher estimator of s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12Recovery of variation following a sweep . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13Effects of sweeps on the variance in microsatellite copy number . . . . . . . . . . . . . . . . . 13The site frequency spectrum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14Recombination and genealogical structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16The pattern of linkage disequilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16Age of a sweep . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18Geographic structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18Summary: Signatures of a hard sweep . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

Soft Sweeps and Polygenic Adaption . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20Sweeps using standing variation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20How likely is a sweep using standing variation? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22Recurrent mutation of the favorable allele cannot be ignored . . . . . . . . . . . . . . . . . . . . 24Signatures of a soft sweep . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28Polygenic sweeps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

Genome-Wide Impact of Repeated Selection at Linked Sites . . . . . . . . . . . . . . . . . . . . . . . 31Effects of recurrent sweeps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31A few large or many small sweeps? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32Selective interference and the Hill-Robertson effect . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36Background selection: Reduction in variation under low recombination or selfing . 37Background selection versus recurrent selective sweeps . . . . . . . . . . . . . . . . . . . . . . . . . 40Sweeps, background selection, and substitution rates . . . . . . . . . . . . . . . . . . . . . . . . . . . 40Sweeps, background selection, and codon usage bias . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43A paradigm shift away from the neutral theory? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47

9. USING MOLECULAR DATA TO DETECT SELECTION:SIGNATURES FROM RECENT SINGLE EVENTS 59

An Overview of Strategies Based on Segregating Variation . . . . . . . . . . . . . . . . . . . . . . . . 60Attempts to account for departures from the equilibrium model . . . . . . . . . . . . . . . . . 62SNP ascertainment bias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62SNP polarity assignment errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63Structure of the remainder of this chapter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63

Allele Frequency Change in a Single Population . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63Allele frequency change over two sample points: The Waples Adjusted test . . . . . . . 63Allele frequency change over a time series: The Fisher-Ford test . . . . . . . . . . . . . . . . . 66Schaffer’s linear trend test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68Scans and simulation-based approaches . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69Birth Data Selection Mapping, BDSM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69

Allelic Frequency Divergence Between Populations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70Modification of within-population divergence tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70Grossman et al.’s ∆DAF test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72Fst-based divergence tests: Basic approaches . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72The Lewontin-Krakauer test and its extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73

Changes in the Chromosomal Spatial Pattern of Neutral Variation . . . . . . . . . . . . . . . . . 75Simple visual scans for changes in nucleotide and STR diversity . . . . . . . . . . . . . . . . . 75Tests based on STR variation across populations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77Tests of sweeps using bottleneck models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78

CONTENTS v

Tests of sweeps using genomic spatial information: CLRT-GOF . . . . . . . . . . . . . . . . . . 79Tests of sweeps using genomic spatial information: “SweepFinder” . . . . . . . . . . . . . . 81Tests of sweeps using genomic spatial information: XP-CLR . . . . . . . . . . . . . . . . . . . . . 82Ascertaiment issues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84Model fragility: Demography, mutation, recombination, and gene conversion . . . . . 84

Tests Based on the Site-Frequency Spectrum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85Summary statistics based on infinite-sites models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85Tajima’s D . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88Fu and Li’s D∗ and F ∗ tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90Fay and Wu’s H test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90Zeng et al’s E test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92Adjusting the null to account for nonequilibrium populations . . . . . . . . . . . . . . . . . . . 92Support via a peponderance of evidence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94Recombination makes site-frequnecy tests conservative . . . . . . . . . . . . . . . . . . . . . . . . . 95

Haplotype-based Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95Defining and inferring haplotypes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97The Ewens-Watterson test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98Other infinite-alleles tests: Conditioning in θ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99Other infinite-alleles tests: Conditioning in S . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100Pairwise disequilibrium tests: Kelly’s ZnS and Kim and Nielsen’s ωmax . . . . . . . . . 101Contrasting frequency and intra-allelic estimates of haplotype age . . . . . . . . . . . . . . 103Haplotype homozygosity and Garud et al’s H12, H2 Tests . . . . . . . . . . . . . . . . . . . . . 106Long haplotype tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107Summary: Using haplotype/LD information . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110

Searches for selection in humans and domesticated organisms . . . . . . . . . . . . . . . . . . . . 111Recent/current selection in humans . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112Domestication versus improvement genes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113Finding domestication and improvement genes in crops . . . . . . . . . . . . . . . . . . . . . . . 114Domestication and improvement genes in rice . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115Domestication and improvement genes in maize . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116Silkmoths and flies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117Constraints on finding domestication/improvement genes through selective signals 118Relative strenghts of selection on domestication versus improvement genes . . . . . . 119

10. USING MOLECULAR DATA TO DETECT SELECTION:SIGNATURES FROM MULTIPLE HISTORICAL EVENTS 135

Quick Overview of the Key Concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136A history of selection alters the ratio of polymorphic to divergent sites . . . . . . . . . . . . 136A history of (positive) selection alters the silent to replacement substitution rates . 137

Population-based Divergence Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138The Hudson-Kreitman-Aguade (HKA) test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138The McDonald-Kreitman (MK) test: Basics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141The McDonald-Kreitman test: Caveats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146Dominance in fitness and the MK test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149Fluctuating selection coefficients and MK tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149Recombinational bias in extended MK tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150

Estimating Parameters of Adaptive Evolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150Estimating the fraction α of substitutions that are adaptive . . . . . . . . . . . . . . . . . . . . . 150How common are adaptive substitutions? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155

vi CONTENTS

Estimating the rate λ of adaptive substitutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157The Sawyer-Hartl Poisson Random Field Model: Basics . . . . . . . . . . . . . . . . . . . . . . . . 158The Sawyer-Hartl Poisson Random Field Model: Bayesian extensions . . . . . . . . . . . 163

Phylogeny-based Divergence Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166The Ka to Ks ratio ω . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167Parsimony-Based ancestral reconstruction tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168Maximum-Likelihood-Based codon tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168Bayesian estimators of sites under positive selection . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

Connecting the Parameters of Adaptive Evolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174The Search For Selection: Closing Comments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175

Caution is in order when declaring positive selection! . . . . . . . . . . . . . . . . . . . . . . . . . 176Curbing Enthusiasm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177

III. DRIFT AND QUANTITATIVE TRAITS 100

11. CHANGES IN GENETIC VARIANCE INDUCEDBY RANDOM GENETIC DRIFT 1

Response of Within-population Genetic variance to Drift . . . . . . . . . . . . . . . . . . . . . . . . . 2The effects of dominance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3The effects of epistasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8Sampling error . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11Empirical data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

Covariance Between Inbred Relatives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18Empirical observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

Drift-Mutation Equilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24Subdivided populations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

12. THE NEUTRAL DIVERGENCE OF QUANTITATIVE TRAITS 1Short-term divergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

Sampling error . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3Empirical observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

Long-term Divergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6Effectively neutral divergence and the estimation of rates of mutational variance . . . 8

Testing the Null Hypothesis of Neutral Phenotypic Divergence . . . . . . . . . . . . . . . . . . . . 10Long-term drift of mean phenotypes among isolated species . . . . . . . . . . . . . . . . . . . . 10Population subdivision for quantitative traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13QTL analysis of divergence lines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

IV. SHORT-TERM RESPONSE ON A SINGLE CHARACTER 100

13. SHORT-TERM CHANGES IN THE MEAN:1. THE BREEDER’S EQUATION 101

Single-generation Response: The Breeder’s Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102The breeder’s equation, a general approximation for reponse . . . . . . . . . . . . . . . . . . . 102The importance of linearity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102Response is the change in mean breeding value . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103Response under sex dependent parent-offspring regressions . . . . . . . . . . . . . . . . . . . 104The selection intensity, ı . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105The Robertson-Price Identity, S = σ(w, z) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106

CONTENTS vii

Correcting for reproductive differences: Effective selection differentials . . . . . . . . . . 107Expanding the Basic Breeder’s Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108

Accuracy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108Reducing environmental noise: Stratified mass selection . . . . . . . . . . . . . . . . . . . . . . . 111Reducing environmental noise: Repeated-measures selection . . . . . . . . . . . . . . . . . . . 112Adjustments for non-overlapping generations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115Maximizing response under the breeder’s equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116Maximizing the economic rate of response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117BLUP selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117Mean- versus variance-standarized response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118

The Multivariate Breeder’s Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118Response with two traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119Accounting for phenotypic correlations: The selection gradient . . . . . . . . . . . . . . . . . 119Accounting for genetic correlations: The Lande Equation . . . . . . . . . . . . . . . . . . . . . . 120Selection gradients and mean population fitness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121

Limitations of the Breeder’s Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121

14. SHORT-TERM CHANGES IN THE MEAN:2. TRUNCATION AND THRESHOLD SELECTION 127

Truncation Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127Selection intensities and differentials under truncation selection . . . . . . . . . . . . . . . . 128

Correcting the Selection Intensity for Finite Sample Sizes . . . . . . . . . . . . . . . . . . . . . . . . . 129Response in Discrete Traits: Binary Traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132

The Threshold/Liability model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132Direct selection on the threshold T . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136The logistic regression model for binary traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136

Response in Discrete Traits: Poission-distributed Characters . . . . . . . . . . . . . . . . . . . . . . 141

15. SHORT-TERM CHANGES IN THE MEAN:3. PERMANENT VERSUS TRANSIENT RESPONSE 145

Why All the Focus on h2? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145Genetic Sources of Transient Response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146

Additive epistasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146Dominance in autotetraploids . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147

Ancestrial Regressions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151Response due to Environmental Correlations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154Selection in the Presence of Heritable Maternal Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . 156

Response under Falconer’s dilution model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157Separate direct and maternal effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162Maternal selection vs. maternal inheritance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165

16. SHORT-TERM CHANGES IN THE VARIANCE:1. CHANGES IN THE ADDITIVE VARIANCE 171

Changes in Variance Due to Linkage Disequilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171Changes in Variance Under the Infinitesimal Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173

Within- and between-family variance under the infinitesimal model . . . . . . . . . . . . . 176Accounting for inbreeding and drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177

Change in Variance Under Truncation Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178Changes in correlated traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181

viii CONTENTS

Directional truncation selection: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181Directional truncation selection: Experimental results . . . . . . . . . . . . . . . . . . . . . . . . . 183Effects of epistasis: Does the Griffing effect overpower the Bulmer effect? . . . . . . . . 184Double truncation selection: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184Double truncation selection: Experimental Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187

Response under Normalizing Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188Selection with Assortative Mating . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189

Results using the infinitesimal model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189Assortative mating and enhanced response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190Disruptive selection, assortative mating, and reproductive isolation . . . . . . . . . . . . . 192

17. SHORT-TERM CHANGES IN THE VARIANCE:2. CHANGES IN ENVIRONMENTAL VARIANCE 197

Background: Heritable Variation in σ2E . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197

Scales of environmental sensitivity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197Environmental vs. genetic canalization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198Evidence for heritable variation in the environmental variance . . . . . . . . . . . . . . . . . 199

Modeling Genetic Variation in σ2E . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200

The multiplicative model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201The exponential model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202The additive model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203h2v , the heritability of the environmental variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205

Selection on σ2E . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205

Translating the response in Av into response in σ2E . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206

Response from stabilizing selection on phenotypic value z . . . . . . . . . . . . . . . . . . . . . 206Response from directional selection on z . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208Direct selection on σ2

E using repeated records . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

18. ANALYSIS OF SHORT-TERM SELECTION EXPERIMENTS:1. LEAST-SQUARES APPROACHES 215

Variance in Short-term Response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215Expected variance in response generated by drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216Variance in predicted response vs. variance in response . . . . . . . . . . . . . . . . . . . . . . . . 219

Realized Heritabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219Estimators for several generations of selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220Weighted least-squares estimates of realized heritabilities . . . . . . . . . . . . . . . . . . . . . . 222Standard errors of realized heritability estimates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224Power: Estimation of h2 from relatives or selection response? . . . . . . . . . . . . . . . . . . 225Empirical vs. predicited standard errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227Realized heritability with rank data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228Infinitesimal-model corrections for disequilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229

Experimental Evaluation of the Breeder’s Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230Most traits respond to selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230Sheridan’s analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231Realized heritabilities and selection intensity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232Inbreeding and short-term response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233Asymmetric selection response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233Reversed response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238

Control Populations and Experimental Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239

CONTENTS ix

Basic theory of control populations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239Divergent selection designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241Variance in response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241Control populations and variance in response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242

Optimal Experimental Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243Nicholas’ criterion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244Replicate lines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244

Line Cross Analysis of Selection Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245The simple additive model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245The Hammond-Gardner model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246Accounting for inbreeding depression and drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251

19. ANALYSIS OF SHORT-TERM SELECTION EXPERIMENTS:2. MIXED-MODEL AND BAYESIAN APPROACHES 259

Mixed model vs. Least Squares Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259BLUP selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261

Basics of Mixed-Model Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261REML estimation of unknown variance components . . . . . . . . . . . . . . . . . . . . . . . . . . 264REML can (often) return variance estimates unbiased by selection . . . . . . . . . . . . . . 265

Animal-model Analysis of Selection Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266The basic animal model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266Response is measured by change in mean breeding values . . . . . . . . . . . . . . . . . . . . . 267Fixed effects alter heritabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270Model validation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270Seperating genetic and environmental trends . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271Validation that a trend is indeed genetic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274Replicate lines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275Estimating the additive variance at generation t . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275

The Relationship Matrix A Accounts for Drift and Disequilibrium . . . . . . . . . . . . . . . . 276Modifications of the Basic Animal Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279

Models with additional random effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280Common family and material effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282Treating certain breeding values as fixed effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283Dominance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284

Bayesian Mixed Model Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286Introduction to Bayesian statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287Computiting posteriors and marginals: MCMC and the Gibbs sampler . . . . . . . . . . . . 290Bayesian analysis of the animal model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293Application: Estimating response in pig litter sSize components . . . . . . . . . . . . . . . . . . 294

LS, MM, or Bayes? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296

20. ENVIRONMENTAL EFFECTS ANDTHE RESPONSE IN NATURAL POPULATIONS 303

Response in Natural Populations: What is the Target of Selection? . . . . . . . . . . . . . . . . 304Direct and correlated responses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304Environmental correlations between fitness and traits . . . . . . . . . . . . . . . . . . . . . . . . . 306

The Fisher-Price-Kirkpatrick-Arnold Model For Evolution Of Breeding Date In Birds 307Modifying the Breeder’s Equation for Natural Populations . . . . . . . . . . . . . . . . . . . . . . . 311

Complications in the absence of environmental change . . . . . . . . . . . . . . . . . . . . . . . . 311

x CONTENTS

Additional complications from environmental change . . . . . . . . . . . . . . . . . . . . . . . . . 315Is a Focal Trait the Direct Target of Selection? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315

Robertson’s theorem: Response prediction without regard to the target of selection 316Robertson consistency tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317Rausher’s consistency criteria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317Morrissey et al.’s consistency criteria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319The breeder’s equation vs. the secondary theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320

Applying Animal Models to Natural Populations: Basics . . . . . . . . . . . . . . . . . . . . . . . . 321Animal model analysis in natural populations: Overview . . . . . . . . . . . . . . . . . . . . . . 321Obtaining the relationship matrix: Direct observation of the social pedigree . . . . . . 323Obtaining the relationship matrix: Marker data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 323Consequences of pedigree errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326Model selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328

Applying Animal Models to Natural Populations: Best Practices . . . . . . . . . . . . . . . . . . 328Consisteny tests: Accuracy, reliability, and caveats with using PBVs . . . . . . . . . . . . . 329Bivariate animal models: REML estimates of σ(Az, Aw), SA, and Sz . . . . . . . . . . . . 332Detecting genetic trends . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 334

Causes of Apparent Failures of Response in Natural Populations . . . . . . . . . . . . . . . . . 337Cryptic evolution: Genetic change masked by environmental change . . . . . . . . . . . . 338Antler size in Red Deer: The focal trait is not the target of selection . . . . . . . . . . . . . . 340Lower heritabilities in environments with stronger selection? . . . . . . . . . . . . . . . . . . 341Fitness tradeoffs and multivariate constraints . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342

V. SELECTION IN STRUCTURED POPULATIONS

21. FAMILY-BASED SELECTION 101Introduction to Family-Based Selection Schemes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

Overview of the different types of family-based selection . . . . . . . . . . . . . . . . . . . . . . 102Plant vs. animal breeding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103Between- vs. within-family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104

Details of Family-Based Selection Schemes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104Selection and recombination units . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104Variations of the selection unit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106Variations on the recombination unit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

Theory of Expected Single-Cycle Response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109Modifications of the breeder’s equation for predicting family-based response . . . . . 110The selection unit-offspring covariance σ(x, y) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112Variance of the selection unit σ2(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

Response for Particular Designs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119Overview of between- and within-family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119Between-family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120Between-family selection: Which scheme is best? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123Within-family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124Realized Heritabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125Accounting for Epistasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126Autotetraploids . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128

Efficiency of Family-Based vs. Individual Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132The relative accuracies of bamily-based vs. individual selection . . . . . . . . . . . . . . . . . 132Comparing selection intensities: Finite size corrections . . . . . . . . . . . . . . . . . . . . . . . . 136

CONTENTS xi

Response when Families are Replicated over Environments . . . . . . . . . . . . . . . . . . . . . . 137Between-family variance under replication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137Ear-to-row selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140Modified ear-to-Row selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

Selection on a Family Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143Response to selection on a family index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144Lush’s optimal index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145Correcting the selection intensity for correlated variables . . . . . . . . . . . . . . . . . . . . . . 148

22. ASSOCIATIVE EFFECTS: COMPETITION, SOCIAL INTERACTIONS,GROUP AND KIN SELECTION 157

Direct Versus Associative Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158Early models of comptetition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159Direct and associative effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159Animal well-being and the improvement of the heritable social environment . . . . . 161What do we mean by group? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161Trait- versus variance component-based models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162The total breeding value (TBV) and T 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162As as a function of group size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166

Selection Under the Presence of Associative Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167Individual selection: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167Individual selection: Direct vs. social response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169Individual selection: Maternal effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171Group selection: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171Group selection: Direct vs. social response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175Group selection: Experimental evidence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175

Incorporating Both Individual and Group Information . . . . . . . . . . . . . . . . . . . . . . . . . . . 177Response on a weighted index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177Optimal response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181

BLUP Estimation of Direct and Associate Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183Mixed-model estimation of direct and assocative effects . . . . . . . . . . . . . . . . . . . . . . . 184Muir’s experiment: BLUP selection for Quail weight . . . . . . . . . . . . . . . . . . . . . . . . . . 188Details: Environmental group effects and the covariance structure of e . . . . . . . . . . 189Details: Ignoring additive social values introduces bias . . . . . . . . . . . . . . . . . . . . . . . . 192Details: Identifiability of variance components . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192Final thoughts: Appropriate designs for estimating direct and assocative effects . . 194

Associative Effects, Inclusive Fitness, and Fisher’s Theorem . . . . . . . . . . . . . . . . . . . . . . 194Change in mean fitness when associative effects are present . . . . . . . . . . . . . . . . . . . . 194Inclusive fitness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197Bijma’s theorem: inclusive fitness and Fisher’s fundamentaltheorem . . . . . . . . . . . . 199

Hamilton’s rule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200How general is Hamilton’s rule? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200Queller’s generalization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202

Group Selection, Kin Selection, and Assocative Effects . . . . . . . . . . . . . . . . . . . . . . . . . . . 202Kin, group, and multilevel selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202Much ado about nothing? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203Group and kin selection: Models without associative effects . . . . . . . . . . . . . . . . . . . . 204Group and kin selection in the associative effects framework . . . . . . . . . . . . . . . . . . . 208Closing comments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

xii CONTENTS

23. SELECTION UNDER INBREEDING 293Basic Issues in Response Under Inbreeding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293

Accounting for inbreeding depression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294Response under small amounts of inbreeding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294Using ancestral regressions to predict response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 295The covariance between inbred relatives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296Limitations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299

Family Selection with Inbreeding and Random Mating . . . . . . . . . . . . . . . . . . . . . . . . . . 299Family selection using inbred parents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300Progeny testing using inbred offspring . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 302S1, S2, and Si,j family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303Cycles of inbreeding and outcrossing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309

Individual Selection Under Pure Selfing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311Response under pure selfing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312Response when inbreeding pure lines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315The Bulmer effect under selfing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 316

Family Selection Under Pure Selfing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 318Covariance between relatives in a structured selfing population . . . . . . . . . . . . . . . . 319Response to family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 324Within-family selection under selfing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326Combined Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

Partial Selfing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330An approximate treatment using covariances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330A more careful treatment: Kelly’s Structured Linear Models . . . . . . . . . . . . . . . . . . . . 333

VI. POPULATION-GENETIC MODELS OF TRAIT RESPONSE

24. THE INFINITESIMAL MODEL AND ITS EXTENSIONS 100The Infinitesimal Model: Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101The Infinitesimal Model: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

Allele frequencies do not change under the infinitesimal model . . . . . . . . . . . . . . . . . 102Disequilibrium under the infinitesimal model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103Dominance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103Gaussian features of the infinitesimal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104Not all limits are Gaussian . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105Modifications of the infinitesimal model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105

Gaussian Continuum-Of-Alleles Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105Infinite alleles and continuum-of-alleles models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106Drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106Drift and a finite number of loci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108Effective number of loci, ne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109Dynamics: σ2

a and d change on different time scales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111Response in stabilizing selection experiments: Selection or drift? . . . . . . . . . . . . . . . . . . 111How robust is the continuum-of-alleles model? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

The Bulmer Effect Under LInkage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112An approximate treatment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112A more careful treatment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

Response Under Non-Gaussian Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117

CONTENTS xiii

Describing the genotypic distribution: Moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117Describing the genotypic distribution: Cumulants and Gram-Charlier series . . . . . . . 120Application: Departure from normality under truncation selection . . . . . . . . . . . . . . . . 122Short-term response ignoring linkage disequilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . 124Short-term response ignoring allele frequency change . . . . . . . . . . . . . . . . . . . . . . . . . 129Effects of linkage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130

Summary: Where Does All This Modeling Leave Us? . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

25. LONG-TERM RESPONSE: 1. DETERMINISTIC ASPECTS 137Idealized Long-term Response in a Large Population . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137Deterministic Single-locus Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

Expected contribution from a single locus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140Dudley’s estimators of a, n, and p . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141Dynamics of allele-frequency change . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142

Majors Genes Versus Polygenic Response: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146Lande’s model: a major gene in an infinitesmal background . . . . . . . . . . . . . . . . . . . . 146

Majors Genes Versus Polygenic Response: Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151Major genes appear to be important in response to antropogenic-Induced selection 151What is the genetic architecture of response in long-term selection experiments? . . 152

An Overview of Long-term Selection Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153Estimating selection limits and half-lives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154General features of long-term selection experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . 156

Increases in Variances and Accelarated Responses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158Rare alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160Major mutations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160Scale effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161Linkage effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161Epistasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163

Conflicts Between Natural and Artificial Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164Accumulation of lethals in selected lines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166Expected equilibrium frequency of recessive lethals . . . . . . . . . . . . . . . . . . . . . . . . . . . 167Lerner’s model of genetic homoestasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169

Characterizing the Nature of Selection Limits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170

26. LONG-TERM RESPONSE:2. FINITE POPULATION SIZE AND MUTATION 181

Population Genetics of Selection and Drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182Fixation probabilities for alleles at QTL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183The Cohan effect: increased divergence under uniform selection . . . . . . . . . . . . . . . . 184Increased recombination rates following selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184

The Effect of Selection on Effective Population Size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185The expected reduction in Ne from directional selection . . . . . . . . . . . . . . . . . . . . . . . 185

Drift and Long-term Selection Response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189Basic theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189Robertson’s theory of selection limits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191

Tests of Robertson’s Theory of Selection Limits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193Weber’s selection experiments on Drosophila flight speed . . . . . . . . . . . . . . . . . . . . . . . 196

The Effects of Linkage on the Selection Limit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197Optimal Selection Intensities for Maximizing Long-term Response . . . . . . . . . . . . . . . . 200Effects of Population Structure on Long-Term Response . . . . . . . . . . . . . . . . . . . . . . . . . . 202

xiv CONTENTS

Founder effects and population bottlenecks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202

Population subdivision . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206

Within-family selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207

Asymptotic Response due to Mutational Input . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209

Results for the infinitesimal model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

Expected asymptotic response under more general conditions . . . . . . . . . . . . . . . . . . 213

Models of mutational effects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215

Optimizing asymptotic selection response . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216

Adaptive Walks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218

Fisher’s model: The adaptive geometry of new mutations . . . . . . . . . . . . . . . . . . . . . . 219

Fisher-Kimura-Orr adaptive walks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221

The cost of pleiotropy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224

Walks in sequence space: Maynard-Smith-Gillespie-Orr adaptive walks . . . . . . . . . 225

The fitness distribution of benefical alleles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230

Fisher’s geometry or EVT? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231

CONTENTS xv

27. MAINTENANCE OF QUANTITATIVE GENETIC VARIABILITY 243Overview: The Maintenance of Variation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243

Maintaining variation at quantitative traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244Mutation-Drift Equilibrium . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246

Mutational models and quantitative variation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247Maintenace of Variation by Direct Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249

Fitness models of stabilizing selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249Stabilizing selection on a single trait . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251Stabilizing selection on multiple traits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252Stabilizing selection countered by pleiotopic overdominance . . . . . . . . . . . . . . . . . . . 254Fluctuating and frequency-dependent stabilizing selection . . . . . . . . . . . . . . . . . . . . . 255Summary of direct selection models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256

Neutral Traits With Pleiotropic Overdominance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257Robertson’s model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257

Mutation-Stabilizing Selection Balance: Basic Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259Latter-Bulmer diallelic models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259Kimura-Lande-Fleming continuum-of-alleles models . . . . . . . . . . . . . . . . . . . . . . . . . . 261Gaussian vs. house-of-cards approximations for continuum-of-alleles models . . . . 263Epistasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267Effects of linkage and mating system . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267Spatial and temporal variation in the optimum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 268Summary: Implications of Gaussian vs. HCA approximations . . . . . . . . . . . . . . . . . . 269

Mutation-Stabilizing Selection Balance: Drift . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276Impact on equilibrium variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276Impact on underlying loci . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 278

Mutation-Stabilizing Selection Balance: Pleiotropy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279Gaussian results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279HCA results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281

Maintenace of Variation by Pleiotropic Deleterious Alleles . . . . . . . . . . . . . . . . . . . . . . . 284The Hill-Keightley pleiotropic side-effects model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284Deleterious pleiotropy-stabilizing selection (joint-effects) models . . . . . . . . . . . . . . . 289

How Well Do The Models Fit The Data? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293Strength of selection: Direct on a trait . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294Strength of selection: Persistence times of new mutants . . . . . . . . . . . . . . . . . . . . . . . . 296Number of loci and mutation rates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296

What Does Genetic Architecture Tell Us? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297Accelerated responses in artificial selection experiments . . . . . . . . . . . . . . . . . . . . . . . 298Kelly’s test for rare recessives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299GWAS results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299

Summary: What Forces Maintain Quantitative-genetic Variation? . . . . . . . . . . . . . . . . . 299

VII. MEASURING SELECTION ON TRAITS

28. INDIVIDUAL FITNESS AND THE MEASUREMENT OFUNIVARIATE SELECTON 301

Episodes of Selection and the Assignment of Fitness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301Fitness components . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 302Assigning fitness components . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303Potential issues with assigning discrete fitness values . . . . . . . . . . . . . . . . . . . . . . . . . . 305

xvi CONTENTS

Assigning components of offspring fitness to their mothers . . . . . . . . . . . . . . . . . . . . . 305Concurrent episodes, reproductive timing and individual fitness λind . . . . . . . . . . . 307

Variance in Individual Fitness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310Partitioning I across episodes of selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312Correcting lifetime reproductive success for random offspring mortality . . . . . . . . . 313Variance in mating success: Bateman’s principles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314Some caveats in using opportunity of selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314

Descriptions of Phenotypic Selection: Introductory Remarks . . . . . . . . . . . . . . . . . . . . . 316Fitness surfaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317

Descriptions of Phenotypic Selection: Changes in Phenotypic Moments . . . . . . . . . . . 319Directional selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319Quadratic selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319Gradients describe the local geometry of the fitness surface . . . . . . . . . . . . . . . . . . . . 321Gradients appear n selection response equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321Partitioning changes in means and variances into episodes of selection . . . . . . . . . . 322Choice of the reference population: “ independent partitioning” . . . . . . . . . . . . . . . . 323Standard errors for estimates of differentials and gradients . . . . . . . . . . . . . . . . . . . . . 324

Descriptions of Phenotypic Selection: Individual Fitness Surfaces . . . . . . . . . . . . . . . . . 325Linear and quadratic approximations of W (z) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326Hypothesis testing and approximate confidence intervals . . . . . . . . . . . . . . . . . . . . . . 329Power . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331Quadratic surfaces can be very misleading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331Fitting other parameteric fitness functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332Nonparametric approachers: Schluter’s cublic-spline estimate . . . . . . . . . . . . . . . . . . 333The importance of experimental manipulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 334

29. MEASURING MULTIVARIATE SELECTION 370Selection on Multivariate Phenotypes: Differentials and Gradients . . . . . . . . . . . . . . . . 370

Changes in the mean vector: the directional selection differential S . . . . . . . . . . . . . 371The directional selection gradient β . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372Directional gradients, fitness surface geometry and selection response . . . . . . . . . . . 374Changes in the covariance matrix: the quadratic selection differential C . . . . . . . . . 375The quadratic selection gradient γ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376Quadratic gradients, fitness surface geometry and selection response . . . . . . . . . . . . 378Fitness surface curvature and within-generation changes in variances and covariances 379

Multivariate Quadratic Fitness Regressions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380Estimation, hypothesis testing and confidence intervals . . . . . . . . . . . . . . . . . . . . . . . . 380Regression packages and coefficients of γ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 382Geometric aspects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 382A brief digression: orthonormal and diagonalized matrices . . . . . . . . . . . . . . . . . . . . 383Canonical transformation of γ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 384Are traits based on canonical axes “real”? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 387Strength of selection: γii versus λ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 388Significance and confidence regions for a stationary point . . . . . . . . . . . . . . . . . . . . . . 388

Multivariate Nonparametric Fitness Surface Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . 389Projection pursuit regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 389Thin-plate splines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390

Strenght of Selection in Natural Populations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391Kingsolver’s meta-analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 392Directional selection: strong or weak? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393

CONTENTS xvii

Quadratic selection: strong or weak? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 396Directional selection on body size and Cope’s law . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397

Unmeasured Characters and Other Biological Caveats . . . . . . . . . . . . . . . . . . . . . . . . . . . 397Path Analysis and Fitness Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 399Levels of Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402

Contextual analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402Selection can be anatagonistic across levels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 404Group selection is likely density-dependent . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 404Selection differentials can be misleading in levels of selection . . . . . . . . . . . . . . . . . . . 405Hard, soft, and group selection: A contextual analysis viewpoint . . . . . . . . . . . . . . . 406

APPENDICES xxx

A1. DIFFUSION THEORY 1Foundations of Diffusion Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

The infinitesimal mean m(x) and variance v(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1The Kolmogorov forward equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2Boundary behavior of a diffusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4Derivation of the Kolmogorov eorward equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4Stationary distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5The Kolmogorov backward equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

Diffusion Applications in Population Genetic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8Probability of fixation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8Time to fixation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10Expectations of more general functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

Multivariate Diffusions: Multiple Alleles and Two Loci . . . . . . . . . . . . . . . . . . . . . . . . . . . 14Applications in Quantitative Genetics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

Brownian motion models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15Ornstein-Uhlenbeck models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17Stationary distributions for mean phenotype . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

A2. INTRODUCTION TO BAYESIAN STATISTICS 21What are Bayesina Methods Becoming More Popular? . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21Bayes’ Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22From Likelihood to Bayesian Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

Marginal posterior distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25Summarizing the posterior distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

Highest density regions (HDRs) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26Bayes factors and hypothesis testing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

The Choice of a Prior . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28Diffuse priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29The Jeffreys’ prior . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

Posterior Distributions Under Normality Assumptions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31Gaussian likelihood with known variance and unknown mean . . . . . . . . . . . . . . . . . . 31Gamma, Inverse-Gamma, χ2 and χ−2 distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33Guassian likelihood with unknown variance: Scaled inverse-χ2 priors . . . . . . . . . . . 35Student’s t distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38General Guassian likelihood: Unknown mean and variance . . . . . . . . . . . . . . . . . . . . . 37

Conjugate Priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

xviii CONTENTS

The Beta and Dirichlet distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38Wishart and Inverse-Wishart distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

A3. MCMC METHODS AND BAYESIAN ANALYSIS 43Monte Carlo Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

Importance Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45Introduction to Markov Chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46The Metropolis-Hastings Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49

Burning-in the sampler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52Simulated annealing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52Choosing a jumping (proposal) distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53Autocorrelation and sample size Inflation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54The Monte Carlo variance of an MCMC based estimate . . . . . . . . . . . . . . . . . . . . . . . . . 55

Convergence Diagnostics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56Visual analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56More formal approaches . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57One long chain or many smaller ones? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

The Gibbs Sampler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58Using the Gibbs sampler to approximate marginal distributions . . . . . . . . . . . . . . . . . 60

Rejection Sampling and Appoximate Bayesian Computation (ABC) . . . . . . . . . . . . . . . . 62

A4. MULTIPLE COMPARISONS: BONFERRONI CORRECTIONSAND FALSE DISCOVERY RATES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61

Combining p Values over Independent Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62Fisher’s χ2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62Stouffer’s Z score . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63

Bonferroni Corrections and Their Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64Standard Bonferroni corrections . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64Sequential Bonferroni corrections . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65Holm’s method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65Simes-Hochberg method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65Hommel’s method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66Dealing with dependence: The Leek-Storey surrogate variable approach . . . . . . . . . . 66

Detecting an Excess of Significant Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67How many false positives? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67Schweder-Spjøtvoll plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68Estimating n0: Subsampling from a uniform distribution . . . . . . . . . . . . . . . . . . . . . . . 69Estimating n0: Mixture models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71

FDR: The False Discovery Rate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73Morton’s Posterior Error Rate (PER) and the FDR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74A technical aside: different definitions of false discovery rate . . . . . . . . . . . . . . . . . . . . 77The Benjamini-Hochberg FDR estimator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77A (slightly more) formal derviation of the estimated FDR . . . . . . . . . . . . . . . . . . . . . . . . 78Storey’s q value . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79Closing cavears in using the FDR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80

A5. THE GEOMETRY OF VECTORS AND MATRICES:EIGENVALUES AND EIGENVECTORS . . . . . . . . . . . . . . . . . . . . . . . . . . 84

The Geometry of Vectors and Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84

CONTENTS xix

Comparing vectors: lengths and angles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84Matrices describe vector transformations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86Orthonormal matrices: Rigid rotations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87Eigenvalues and eigenvectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88

Properties of symmetric matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90Correlations can be removed by a matrix transformation . . . . . . . . . . . . . . . . . . . . . . . . 92

Canonical axes of quadratic forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93Implications for the multivariate normal distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . 95Principal components of the variance-covariance matrix . . . . . . . . . . . . . . . . . . . . . . . . 96

Testing for Multivariate Normality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98Graphical tests: Chi-square plots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98Mardina’s test: Multivariate skewness and kurtosis . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

LITERATURE CITED xxx

AUTHOR INDEX xxx

ORGANISM AND TRAIT INDEX xxx

SUBJECT INDEX xxx