Bruce K. Driver

Probability Tools with Examples

September 28, 2018 File:prob.tex

Contents

Part Homework Problems

-3 Math 280A Homework Problems Fall 2018 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3-3.1 Homework 1. Due Friday, October 5, 2018 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

Part I Background Material

1 Limsups, Liminfs and Extended Limits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71.1 Infinite sums . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

2 Basic Metric and Topological Space Notions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132.1 Metric spaces as topological spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

2.1.1 Continuity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152.2 Completeness in Metric Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172.3 Supplementary Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

2.3.1 Word of Caution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182.3.2 Riemannian Metrics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

2.4 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3 Basic Probabilistic Notions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

Part II Formal Development

4 Preliminaries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274.1 Set Operations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274.2 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294.3 Algebraic sub-structures of sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

4 Contents

5 Finitely Additive Measures / Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335.1 Examples of Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 345.2 Measures on Product Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

5.2.1 Measures on simple product spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375.3 Simple Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

5.3.1 The algebraic structure of simple functions* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385.4 Simple Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

5.4.1 Appendix: Bonferroni Inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 445.5 Finitely Additive Measures on Rd and [0, 1]d . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 455.6 Appendix: Riemann Stieljtes integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 485.7 Tonelli and Fubini’s Theorem I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 495.8 Bernstein Polynomials and the Classical Weierstrass Approximation Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 505.9 Simple Independence and the Weak Law of Large Numbers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53

5.9.1 Complex Weierstrass Approximation Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 565.10 Simple Conditional Expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 585.11 Appendix: A Multi-dimensional Weirstrass Approximation Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60

6 Countably Additive Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 636.1 Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63

6.1.1 Examples of measures on R . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 646.1.2 An Extension of Measure Strategy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65

6.2 * The π – λ and monotone class theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 656.2.1 The π – λ theorem. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 656.2.2 ** Monotone Class Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67

6.3 * σ - Algebra Regularity and Uniqueness Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 676.4 Outer Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 686.5 Construction of σ–Additive Finite Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72

6.5.1 *Other characterizations of B . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 736.6 Construction of σ - Finite Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 756.7 Radon Measures on R . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 766.8 Metric-Measure Space Regularity Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 786.9 Lebesgue Measure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 796.10 A Discrete Kolmogorov’s Extension Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 796.11 Appendix: Completions of Measure Spaces* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 826.12 Supplement: Generalizations of Theorem 6.58 to Rn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 826.13 Appendix: Alternate measure extension construction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83

7 Carathéodory’s Construction of Measures* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 877.1 General Extension and Construction Theorem. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 877.2 Extensions of General Premeasures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 887.3 More Motivation of Carathéodory’s Construction Theorem 7.2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89

Page: 4 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

Contents 5

8 Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 918.1 Measurable Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 918.2 Factoring Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 978.3 Summary of Measurability Statements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 988.4 Distributions / Laws of Random Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 998.5 Generating All Distributions from the Uniform Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

9 Integration Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1039.1 Integrals of positive functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1039.2 Integrals of Complex Valued Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

9.2.1 Square Integrable Random Variables and Correlations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1129.2.2 Some Discrete Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113

9.3 Integration on R . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1149.4 Densities and Change of Variables Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1189.5 Riesz Markov Theorem for [0, 1]d and Rd . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119

9.5.1 Bone yards to the proof of Theorems 9.62 9.63 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1249.6 Some Common Continuous Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

9.6.1 Normal (Gaussian) Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1259.7 Stirling’s Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127

9.7.1 Two applications of Stirling’s formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1309.7.2 A primitive Stirling type approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132

9.8 Comparison of the Lebesgue and the Riemann Integral* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1339.9 Measurability on Complete Measure Spaces* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1359.10 More Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136

10 Functional Forms of the π – λ Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13910.1 Multiplicative System Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13910.2 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144

10.2.1 Obsolete stuff follows. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14510.3 A Strengthening of the Multiplicative System Theorem* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14510.4 The Bounded Approximation Theorem* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146

11 Multiple and Iterated Integrals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14911.1 Iterated Integrals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14911.2 Tonelli’s Theorem and Product Measure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14911.3 Fubini’s Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15111.4 Fubini’s Theorem and Completions* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15411.5 Lebesgue Measure on Rd and the Change of Variables Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15511.6 Other change of variables proofs. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161

11.6.1 δ – function localization proof of the change of variables Theorem 11.21 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16211.6.2 Radon Nykodym proof. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165

11.7 The Polar Decomposition of Lebesgue Measure* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16611.8 More Spherical Coordinates* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168

Page: 5 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

6 Contents

11.9 Gaussian Random Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17011.9.1 *Gaussian measures with possibly degenerate covariances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

11.10Kolmogorov’s Extension Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17311.10.1Regularity and compactness results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17311.10.2Kolmogorov’s Extension Theorem and Infinite Product Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174

11.11Appendix: Standard Borel Spaces* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17611.12More Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17911.13Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180

12 Independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18312.1 Basic Properties of Independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18312.2 Examples of Independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188

12.2.1 An Example of Ranks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18812.3 Independence for Gaussian Random Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18912.4 Summing independent random variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19112.5 A Strong Law of Large Numbers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19212.6 A Central Limit Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19312.7 The Second Borel-Cantelli Lemma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19612.8 Kolmogorov and Hewitt-Savage Zero-One Laws. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199

12.8.1 Hewitt-Savage Zero-One Law . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20012.9 Another Construction of Independent Random Variables* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202

13 The Standard Poisson Process . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20513.1 Poisson Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20513.2 Exponential Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206

13.2.1 Appendix: More properties of Exponential random Variables* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20613.3 The Standard Poisson Process . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20813.4 Poission Process Extras* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211

14 Lp – spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21314.1 Modes of Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21314.2 Almost Everywhere and Measure Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21414.3 Jensen’s, Hölder’s and Minkowski’s Inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21714.4 Completeness of Lp – spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21914.5 Density Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22014.6 Relationships between different Lp – spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221

14.6.1 Summary: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22314.7 Uniform Integrability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223

14.7.1 Atoms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22714.8 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22814.9 Appendix: Convex Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228

Page: 6 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

Contents 7

15 Hilbert Space Basics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23515.1 Compactness Results for Lp – Spaces* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24015.2 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242

16 Conditional Expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24316.1 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245

16.1.1 Conditioning Gaussian Random Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24716.1.2 Probability Kernels and Regular Conditional Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250

16.2 Additional Properties of Conditional Expectations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25116.3 Conditional Independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25516.4 Construction of Regular Conditional Distributions* . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256

17 The Radon-Nikodym Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25917.1 Proof of the Change of Variables Theorem* 11.21 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261

18 Some Ergodic Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263

Part III Stochastic Processes I

19 The Markov Property . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27319.1 Markov Processes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27419.2 Discrete Time Homogeneous Markov Processes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27819.3 Continuous time homogeneous Markov processes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27919.4 Continuous Time Markov Chains on Denumerable State Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28519.5 First Step Analysis and Hitting Probabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28819.6 Finite state space chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297

19.6.1 Invariant distributions and return times . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30019.6.2 Some worked examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30119.6.3 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303

19.7 Appendix: Kolmogorov’s extension theorem II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30419.8 Removing the standard Borel restriction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30519.9 *Appendix: More Probability Kernel Constructions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 307

20 (Sub and Super) Martingales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30920.1 (Sub and Super) Martingale Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30920.2 Decompositions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31320.3 Stopping Times . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315

20.3.1 Summary of some of the more notable Chapter 20 convergence results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31920.4 Stochastic Integrals and Optional Stopping . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32020.5 Submartingale Maximal Inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32220.6 Submartingale Upcrossing Inequality and Convergence Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32420.7 *Supermartingale inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329

Page: 7 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

8 Contents

20.7.1 Maximal Inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33020.7.2 The upcrossing inequality and convergence result . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330

20.8 Martingale Closure and Regularity Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33220.9 Backwards (Reverse) Submartingales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33420.10Some More Martingale Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 337

20.10.1More Random Walk Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33820.11Appendix: Some Alternate Proofs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339

21 Some Martingale Examples and Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34321.1 Aside on Large Deviations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34321.2 A Polya Urn Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34521.3 Galton Watson Branching Process . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34721.4 Kakutani’s Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 350

Part IV (Weak) Convergence of Random Sums

22 Random Sums . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35722.1 Weak Laws of Large Numbers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357

22.1.1 A WLLN Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35822.2 Kolmogorov’s Convergence Criteria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36022.3 The Strong Law of Large Numbers Revisited . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 363

22.3.1 Strong Law of Large Number Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36522.4 Kolmogorov’s Three Series Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367

22.4.1 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36922.5 Maximal Inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37122.6 Bone Yards . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374

22.6.1 Kronecker’s Lemma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37422.6.2 Older variants on the proof of Kolmogorov’s three series Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375

23 Weak Convergence Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37723.1 Convolutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37723.2 Total Variation Distance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37823.3 A Coupling Estimate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38123.4 Weak Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38323.5 “Derived” Weak Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39023.6 Convergence of Types . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39223.7 Weak Convergence Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39423.8 Compactness and tightness of measures on (R,BR) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39823.9 Extensions to Rn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 400

23.9.1 Finitely additive measures for Rn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40223.10Metric Space Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 406

23.10.1A point set topology review . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407

Page: 8 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

Contents 9

23.10.2Proof of Skorohod’s Theorem 23.86 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40823.10.3Proof of Proposition – The Portmanteau Theorem 23.87 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40923.10.4Proof of Prokhorov’s compactness Theorem 23.89 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 410

24 Characteristic Functions (Fourier Transform) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41324.1 Basic Properties of the Characteristic Function . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41324.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41524.3 Tail Estimates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41624.4 Continuity Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41824.5 A Fourier Transform Inversion Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42224.6 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42524.7 Appendix: Bochner’s Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42724.8 Appendix: Some Calculus Estimates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 430

25 Weak Convergence of Random Sums . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43525.1 Lindeberg-Feller CLT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43725.2 More on Infinitely Divisible Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44225.3 Stable Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44625.4 *Appendix: Lévy exponent and Lévy Process facts – Very Preliminary!! . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 447

Part V Stochastic Processes II

26 Gaussian Random Fields . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45526.1 Gaussian Integrals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45526.2 Existence of Gaussian Fields . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45726.3 Gaussian Field Interpretation of Pre-Brownian Motion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458

27 Versions and Modifications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46127.1 Kolmolgorov’s Continuity Criteria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46127.2 Kolmolgorov’s Tightness Criteria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 464

28 Brownian Motion I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46728.1 Donsker’s Invariance Principle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46728.2 Path Regularity Properties of BM . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46828.3 Scaling Properties of B. M. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 472

29 Filtrations and Stopping Times . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47329.1 Measurability Structures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47329.2 Stopping and optional times . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47429.3 Filtration considerations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479

29.3.1 ***More Augmentation Results (This subsection neeed serious editing.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480

Page: 9 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

10 Contents

30 Continuous time (sub)martingales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48330.1 Submartingale Inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48530.2 Regularizing a submartingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 486

References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 493

31 Homework Problem Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49531.1 Resnik repeats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 495

Page: 10 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

Part

Homework Problems

-3

Math 280A Homework Problems Fall 2018

Problems are from Resnick, S. A Probability Path, Birkhauser, or from thelecture notes. The problems from the lecture notes are restated here.

-3.1 Homework 1. Due Friday, October 5, 2018

• Read over Lecture notes Chapter 1.• Lecture note Exercises: 1.1, 1.2, and 1.3.

Part I

Background Material

1

Limsups, Liminfs and Extended Limits

Notation 1.1 The extended real numbers is the set R̄ := R∪{±∞} , i.e. itis R with two new points called ∞ and −∞. We use the following conventions,±∞ · 0 = 0, ±∞ · a = ±∞ if a ∈ R with a > 0, ±∞ · a = ∓∞ if a ∈ R witha < 0, ±∞+ a = ±∞ for any a ∈ R, ∞+∞ =∞ and −∞−∞ = −∞ while∞−∞ is not defined. A sequence an ∈ R̄ is said to converge to ∞ (−∞) if forall M ∈ R there exists m ∈ N such that an ≥M (an ≤M) for all n ≥ m.

Lemma 1.2. Suppose {an}∞n=1 and {bn}∞n=1 are convergent sequences in R̄,

then:

1. If an ≤ bn for1 a.a. n, then limn→∞ an ≤ limn→∞ bn.2. If c ∈ R, then limn→∞ (can) = c limn→∞ an.3. {an + bn}∞n=1 is convergent and

limn→∞

(an + bn) = limn→∞

an + limn→∞

bn (1.1)

provided the right side is not of the form ∞−∞.4. {anbn}∞n=1 is convergent and

limn→∞

(anbn) = limn→∞

an · limn→∞

bn (1.2)

provided the right hand side is not of the for ±∞ · 0 of 0 · (±∞) .

Before going to the proof consider the simple example where an = n andbn = −αn with α > 0. Then

lim (an + bn) =

∞ if α < 10 if α = 1−∞ if α > 1while

limn→∞

an + limn→∞

bn“ = ”∞−∞.

This shows that the requirement that the right side of Eq. (1.1) is not of form∞−∞ is necessary in Lemma 1.2. Similarly by considering the examples an = n1 Here we use “a.a. n” as an abbreviation for almost all n. So an ≤ bn a.a. n iff there

exists N 0 shows the necessity for assuming right hand side of

Eq. (1.2) is not of the form ∞ · 0.Proof. The proofs of items 1. and 2. are left to the reader.

Proof of Eq. (1.1). Let a := limn→∞ an and b = limn→∞ bn. Case 1., supposeb = ∞ in which case we must assume a > −∞. In this case, for every M > 0,there exists N such that bn ≥M and an ≥ a− 1 for all n ≥ N and this implies

an + bn ≥M + a− 1 for all n ≥ N.

Since M is arbitrary it follows that an + bn → ∞ as n → ∞. The cases whereb = −∞ or a = ±∞ are handled similarly. Case 2. If a, b ∈ R, then for everyε > 0 there exists N ∈ N such that

|a− an| ≤ ε and |b− bn| ≤ ε for all n ≥ N.

Therefore,

|a+ b− (an + bn)| = |a− an + b− bn| ≤ |a− an|+ |b− bn| ≤ 2ε

for all n ≥ N. Since ε > 0 is arbitrary, it follows that limn→∞ (an + bn) = a+b.Proof of Eq. (1.2). It will be left to the reader to prove the case where lim an

and lim bn exist in R. I will only consider the case where a = limn→∞ an 6= 0and limn→∞ bn = ∞ here. Let us also suppose that a > 0 (the case a < 0 ishandled similarly) and let α := min

(a2 , 1). Given any M < ∞, there exists

N ∈ N such that an ≥ α and bn ≥ M for all n ≥ N and for this choice of N,anbn ≥ Mα for all n ≥ N. Since α > 0 is fixed and M is arbitrary it followsthat limn→∞ (anbn) =∞ as desired.

For any subset Λ ⊂ R̄, let supΛ and inf Λ denote the least upper bound andgreatest lower bound of Λ respectively. The convention being that supΛ = ∞if ∞ ∈ Λ or Λ is not bounded from above and inf Λ = −∞ if −∞ ∈ Λ or Λ isnot bounded from below. We will also use the conventions that sup ∅ = −∞and inf ∅ = +∞.

Notation 1.3 Suppose that {xn}∞n=1 ⊂ R̄ is a sequence of numbers. Then

lim infn→∞

xn = limn→∞

inf{xk : k ≥ n} and (1.3)

lim supn→∞

xn = limn→∞

sup{xk : k ≥ n}. (1.4)

8 1 Limsups, Liminfs and Extended Limits

We will also write lim for lim infn→∞ and lim for lim supn→∞

.

Remark 1.4. Notice that if ak := inf{xk : k ≥ n} and bk := sup{xk : k ≥n}, then {ak} is an increasing sequence while {bk} is a decreasing sequence.Therefore the limits in Eq. (1.3) and Eq. (1.4) always exist in R̄ and

lim infn→∞

xn = supn

inf{xk : k ≥ n} and

lim supn→∞

xn = infn

sup{xk : k ≥ n}.

The following proposition contains some basic properties of liminfs and lim-sups.

Proposition 1.5. Let {an}∞n=1 and {bn}∞n=1 be two sequences of real numbers.Then

1. lim infn→∞ an ≤ lim supn→∞

an and limn→∞ an exists in R̄ iff

lim infn→∞

an = lim supn→∞

an ∈ R̄.

2. There is a subsequence {ank}∞k=1 of {an}∞n=1 such that limk→∞ ank =lim supn→∞

an. Similarly, there is a subsequence {ank}∞k=1 of {an}∞n=1 such thatlimk→∞ ank = lim infn→∞ an.

3.lim supn→∞

(an + bn) ≤ lim supn→∞

an + lim supn→∞

bn (1.5)

whenever the right side of this equation is not of the form ∞−∞.4. If an ≥ 0 and bn ≥ 0 for all n ∈ N, then

lim supn→∞

(anbn) ≤ lim supn→∞

an · lim supn→∞

bn, (1.6)

provided the right hand side of (1.6) is not of the form 0 · ∞ or ∞ · 0.

Proof. 1. Since

inf{ak : k ≥ n} ≤ sup{ak : k ≥ n} ∀n,

lim infn→∞

an ≤ lim supn→∞

an.

Now suppose that lim infn→∞ an = lim supn→∞

an = a ∈ R. Then for all ε > 0,there is an integer N such that

a− ε ≤ inf{ak : k ≥ N} ≤ sup{ak : k ≥ N} ≤ a+ ε,

i.e.a− ε ≤ ak ≤ a+ ε for all k ≥ N.

Hence by the definition of the limit, limk→∞ ak = a. If lim infn→∞ an = ∞,then we know for all M ∈ (0,∞) there is an integer N such that

M ≤ inf{ak : k ≥ N}

and hence limn→∞ an =∞. The case where lim supn→∞

an = −∞ is handled simi-larly.

Conversely, suppose that limn→∞ an = A ∈ R̄ exists. If A ∈ R, then forevery ε > 0 there exists N(ε) ∈ N such that |A− an| ≤ ε for all n ≥ N(ε), i.e.

A− ε ≤ an ≤ A+ ε for all n ≥ N(ε).

From this we learn that

A− ε ≤ lim infn→∞

an ≤ lim supn→∞

an ≤ A+ ε.

Since ε > 0 is arbitrary, it follows that

A ≤ lim infn→∞

an ≤ lim supn→∞

an ≤ A,

i.e. that A = lim infn→∞ an = lim supn→∞

an. If A = ∞, then for all M > 0

there exists N = N(M) such that an ≥ M for all n ≥ N. This show thatlim infn→∞ an ≥M and since M is arbitrary it follows that

∞ ≤ lim infn→∞

an ≤ lim supn→∞

an.

The proof for the case A = −∞ is analogous to the A =∞ case.2. – 4. The remaining items are left as an exercise to the reader. It may

be useful to keep the following simple example in mind. Let an = (−1)n andbn = −an = (−1)n+1 . Then an + bn = 0 so that

0 = limn→∞

(an + bn) = lim infn→∞

(an + bn) = lim supn→∞

(an + bn)

while

lim infn→∞

an = lim infn→∞

bn = −1 and

lim supn→∞

an = lim supn→∞

bn = 1.

Thus in this case we have

lim supn→∞

(an + bn) < lim supn→∞

an + lim supn→∞

bn and

lim infn→∞

(an + bn) > lim infn→∞

an + lim infn→∞

bn.

Page: 8 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

1.1 Infinite sums 9

1.1 Infinite sums

Definition 1.6. For an ∈ [0,∞] , let

∞∑n=1

an := limN→∞

N∑n=1

an = supN

N∑n=1

an.

Remark 1.7. If an, bn ∈ [0,∞] and λ ≥ 0, then∞∑n=1

(an + λbn) =

∞∑n=1

an + λ ·∞∑n=1

bn.

Indeed,

∞∑n=1

(an + λbn) = limN→∞

N∑n=1

(an + λbn) = limN→∞

[N∑n=1

an + λ

N∑n=1

bn

]

= limN→∞

N∑n=1

an + λ limN→∞

N∑n=1

bn =

∞∑n=1

an + λ ·∞∑n=1

bn.

We will refer to the following basic proposition as the monotone convergencetheorem for sums (MCT for short).

Proposition 1.8 (MCT for sums). Suppose that for each n ∈ N, {fn (i)}∞i=1is a sequence in [0,∞] such that ↑ limn→∞ fn (i) = f (i) by which we meanfn (i) ↑ f (i) as n→∞. Then

limn→∞

∞∑i=1

fn (i) =

∞∑i=1

f (i) , i.e.

limn→∞

∞∑i=1

fn (i) =

∞∑i=1

limn→∞

fn (i) .

We allow for the possibility that these expression may equal to +∞.

Proof. Let M :=↑ limn→∞∑∞i=1 fn (i) . As fn (i) ≤ f (i) for all n it follows

that∑∞i=1 fn (i) ≤

∑∞i=1 f (i) for all n and therefore passing to the limit shows

M ≤∑∞i=1 f (i) . If N ∈ N we have,

N∑i=1

f (i) =

N∑i=1

limn→∞

fn (i) = limn→∞

N∑i=1

fn (i) ≤ limn→∞

∞∑i=1

fn (i) = M.

Letting N ↑ ∞ in this equation then shows∑∞i=1 f (i) ≤ M which completes

the proof.

Proposition 1.9 (Tonelli’s theorem for sums). If {akn}∞k,n=1 ⊂ [0,∞] ,then

∞∑k=1

∞∑n=1

akn =

∞∑n=1

∞∑k=1

akn.

Here we allow for one and hence both sides to be infinite.

Proof. First Proof. Let SN (k) :=∑Nn=1 akn, then by the MCT (Proposi-

tion 1.8),

limN→∞

∞∑k=1

SN (k) =

∞∑k=1

limN→∞

SN (k) =

∞∑k=1

∞∑n=1

akn.

On the other hand,

∞∑k=1

SN (k) =

∞∑k=1

N∑n=1

akn =

N∑n=1

∞∑k=1

akn

so that

limN→∞

∞∑k=1

SN (k) = limN→∞

N∑n=1

∞∑k=1

akn =

∞∑n=1

∞∑k=1

akn.

Second Proof. Let

M := sup

{K∑k=1

N∑n=1

akn : K,N ∈ N

}= sup

{N∑n=1

K∑k=1

akn : K,N ∈ N

}and

L :=

∞∑k=1

∞∑n=1

akn.

Since

L =

∞∑k=1

∞∑n=1

akn = limK→∞

K∑k=1

∞∑n=1

akn = limK→∞

limN→∞

K∑k=1

N∑n=1

akn

and∑Kk=1

∑Nn=1 akn ≤M for all K and N, it follows that L ≤M. Conversely,

K∑k=1

N∑n=1

akn ≤K∑k=1

∞∑n=1

akn ≤∞∑k=1

∞∑n=1

akn = L

and therefore taking the supremum of the left side of this inequality over Kand N shows that M ≤ L. Thus we have shown

∞∑k=1

∞∑n=1

akn = M.

Page: 9 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

10 1 Limsups, Liminfs and Extended Limits

By symmetry (or by a similar argument), we also have that∑∞n=1

∑∞k=1 akn =

M and hence the proof is complete.

Definition 1.10. A sequence {an}∞n=1 ⊂ R is summable (absolutely con-vergent) if

∑∞n=1 |an| < ∞. When {an}

∞n=1 ⊂ R is summable we let a±n =

max (∓an, 0) and define,∞∑n=1

an :=

∞∑n=1

a+n −∞∑n=1

a−n . (1.7)

Remark 1.11. From Eq. (1.7) it follows that∣∣∣∣∣∞∑n=1

an

∣∣∣∣∣ ≤∞∑n=1

a+n +

∞∑n=1

a−n =

∞∑n=1

(a+n + a

−n

)=

∞∑n=1

|an| .

Proposition 1.12 (Linearity). If {an}∞n=1 and {bn}∞n=1 are summable λ ∈ R,

then {an + λbn}∞n=1 is summable and

∞∑n=1

(an + λbn) =

∞∑n=1

an + λ

∞∑n=1

bn.

Proof. Let cn := an + λbn so that |cn| ≤ |an|+ |λ| |bn| and hence∞∑n=1

|cn| =∞∑n=1

|an + λbn| ≤∞∑n=1

|an|+ |λ|∞∑n=1

|bn|

1.1 Infinite sums 11

Proposition 1.15 (Fatou’s Lemma for sums). Suppose that for each n ∈ N,{hn (i)}∞i=1 is any sequence in [0,∞] , then

∞∑i=1

lim infn→∞

hn (i) ≤ lim infn→∞

∞∑i=1

hn (i) .

The next proposition is referred to as the dominated convergence theorem(DCT for short) for sums.

Proposition 1.16 (DCT for sums). Suppose that for each n ∈ N,{fn (i)}∞i=1 ⊂ R is a sequence and {gn (i)}

∞i=1 is a sequence in [0,∞) such that;

1.∑∞i=1 gn (i)

2

Basic Metric and Topological Space Notions

The reader may refer to this chapter when the need arises later.

Definition 2.1 (Pseudo-Metrics). Let X be a non-empty set. A functiond : X × X → [0,∞) is called a pseudo-metric on X if d is symmetric andsatisfies the triangle inequality, i.e.

1. (Symmetry) d(x, y) = d(y, x) for all x, y ∈ X, and2. (Triangle inequality) d(x, z) ≤ d(x, y) + d(y, z) for all x, y, z ∈ X.

If we further assume that d is non-degenerate in the sense that d(x, y) = 0if and only if x = y ∈ X, then we say d is a metric on X.

Notice that any subset, Y, of a (pseudo) metric space (X, d) is a metric spaceby simply restricting d to Y × Y.

Example 2.2. Let us mention just a very few examples of (pseudo-metric) spaces.

1. Let X = R. Then d (x, y) = |y − x| is the usual metric on R. Another usefulmetric is d (x, y) =

∣∣tan−1 (y)− tan−1 (x)∣∣ .2. If X = Rd, then d (x, y) =

√∑dj=1 (yj − xj)

2is the usual Euclidean dis-

tance metric on Rd. Subsets like the unit sphere in Rd are metric spaces aswell.

3. Let X = C ([0, 1] ,C) be the continuous function thed (f, g) := maxx∈[0,1] |f (x)− g (x)| is a metric while d (f, g) :=maxx∈[0,1/2] |f (x)− g (x)| is a Pseudo - metric on X.

4. Any normed space (X, ‖·‖) (see Definition ??) is a metric space withd(x, y) := ‖x− y‖ . Thus the space `p(µ) (as in Theorem ??) is a metricspace for all p ∈ [1,∞].

5. Let X denote the C1 – periodic fucntions on R. Then d (f, g) :=maxx∈R |f ′ (x)− g′ (x)| is a pseudo-metric on X.

Througout this chapter, let (X, d) be a pseudo-metric space and we will oftenjust say (X, d) is a metric space even though we may allow d to be degenerateunless explicitly noted.

Definition 2.3. Let (X, d) be a metric space. The open ball B(x, δ) ⊂ Xcentered at x ∈ X with radius δ > 0 is the set

B(x, δ) := {y ∈ X : d(x, y) < δ}.

We will often also write B(x, δ) as Bx(δ). We also define the closed ball cen-tered at x ∈ X with radius δ > 0 as the set Cx(δ) := {y ∈ X : d(x, y) ≤ δ}.

Definition 2.4. A sequence {xn}∞n=1 ⊂ X is said to converge to a point x ∈ Xif limn→∞ d (x, xn) = 0 and abbreviate this by writing xn → x or xn

d→ x asn→∞.

If xn → x and xn → y, then

d (x, y) ≤ d (x, xn) + d (xn, y)→ 0 as n→∞

and so d (x, y) = 0. If d is non-degenerate, then x = y and limits are uniqueotherwise they are not.

Definition 2.5. A set E ⊂ X is bounded if E ⊂ B (x,R) for some x ∈ X andR 0such that Bx(δ) ⊂ V. In particular show Bx(δ) is open for all x ∈ X and δ > 0.Hint: by definition V is not open iff V c is not closed.

Definition 2.6. A subset A ⊂ X is a neighborhood of x if there exists anopen set V ⊂o X such that x ∈ V ⊂ A. We will say that A ⊂ X is an openneighborhood of x if A is open and x ∈ A.1 When d is non-degenerate we require all the possible limits of {xn} to be in F. This

then implies that if x ∈ F and y ∈ X with d (x, y) = 0, then y ∈ F as well.

14 2 Basic Metric and Topological Space Notions

The following “continuity” facts of the metric d will be used frequently inthe remainder of this book.

Lemma 2.7. For any non empty subset A ⊂ X, let dA(x) := inf{d(x, a)|a ∈A}, then

|dA(x)− dA(y)| ≤ d(x, y) ∀x, y ∈ X (2.1)and in particular if xn → x in X then dA (xn) → dA (x) as n → ∞. Moreoverthe set Fε := {x ∈ X : dA(x) ≥ ε} is closed in X.

Proof. Let a ∈ A and x, y ∈ X, then

dA(x) ≤ d(x, a) ≤ d(x, y) + d(y, a).

Take the infimum over a in the above equation shows that

dA(x) ≤ d(x, y) + dA(y) ∀x, y ∈ X.

Therefore, dA(x)− dA(y) ≤ d(x, y) and by interchanging x and y we also havethat dA(y) − dA(x) ≤ d(x, y) which implies Eq. (2.1). If xn → x ∈ X, then byEq. (2.1),

|dA(x)− dA(xn)| ≤ d(x, xn)→ 0 as n→∞so that limn→∞ dA (xn) = dA (x) . Now suppose that {xn}∞n=1 ⊂ Fε and xn → xin X, then

dA (x) = limn→∞

dA (xn) ≥ ε

since dA (xn) ≥ ε for all n. This shows that x ∈ Fε and hence Fε is closed.

Corollary 2.8. The function d satisfies,

|d(x, y)− d(x′, y′)| ≤ d(y, y′) + d(x, x′).

In particular d : X × X → [0,∞) is “continuous” in the sense that d(x, y) isclose to d(x′, y′) if x is close to x′ and y is close to y′. (The notion of continuitywill be developed shortly.)

Proof. By Lemma 2.7 for single point sets and the triangle inequality forthe absolute value of real numbers,

|d(x, y)− d(x′, y′)| ≤ |d(x, y)− d(x, y′)|+ |d(x, y′)− d(x′, y′)|≤ d(y, y′) + d(x, x′).

Example 2.9. Let x ∈ X and δ > 0, then Cx (δ) and Bx (δ)c are closed subsetsof X. For example if {yn}∞n=1 ⊂ Cx (δ) and yn → y ∈ X, then d (yn, x) ≤ δ forall n and using Corollary 2.8 it follows d (y, x) ≤ δ, i.e. y ∈ Cx (δ) . A similarproof shows Bx (δ)

cis closed, see Exercise 2.2.

Lemma 2.10 (Approximating open sets from the inside by closedsets). Let A be a closed subset of X and Fε := {x ∈ X|dA(x) ≥ ε} @ Xbe as in Lemma 2.7. Then Fε ↑ Ac as ε ↓ 0.

Proof. It is clear that dA(x) = 0 for x ∈ A so that Fε ⊂ Ac for each ε > 0and hence ∪ε>0Fε ⊂ Ac. Now suppose that x ∈ Ac ⊂o X. By Exercise 2.2 thereexists an ε > 0 such that Bx(ε) ⊂ Ac, i.e. d(x, y) ≥ ε for all y ∈ A. Hencex ∈ Fε and we have shown that Ac ⊂ ∪ε>0Fε. Finally it is clear that Fε ⊂ Fε′whenever ε′ ≤ ε.

Definition 2.11. Given a set A contained in a metric space X, let Ā ⊂ X bethe closure of A defined by

Ā := {x ∈ X : ∃ {xn} ⊂ A 3 x = limn→∞

xn}.

That is to say Ā contains all limit points of A. We say A is dense in X ifĀ = X, i.e. every element x ∈ X is a limit of a sequence of elements from A.A metric space is said to be separable if it contains a countable dense subset,D.

Exercise 2.3. Given A ⊂ X, show Ā is a closed set and in fact

Ā = ∩{F : A ⊂ F ⊂ X with F closed}. (2.2)

That is to say Ā is the smallest closed set containing A.

Exercise 2.4. If D is a dense subset of a metric space (X, d) and E ⊂ X isa subset such that to every point x ∈ D there exists {xn}∞n=1 ⊂ E with x =limn→∞ xn, then E is also a dense subset of X. If points in E well approximateevery point in D and the points in D well approximate the points in X, thenthe points in E also well approximate all points in X.

Exercise 2.5. Suppose (X, d) is a metric space which contains an uncountablesubset Λ ⊂ X with the property that there exists ε > 0 such that d (a, b) ≥ εfor all a, b ∈ Λ with a 6= b. Show that (X, d) is not separable.

2.1 Metric spaces as topological spaces

Let (X, d) be a metric space and let τ = τd denote the collection of opensubsets of X. (Recall V ⊂ X is open iff V c is closed iff for all x ∈ V thereexists an ε = εx > 0 such that B (x, εx) ⊂ V iff V can be written as a (possiblyuncountable) union of open balls.) Although we will stick with metric spacesin this chapter, it will be useful to introduce the definitions needed here in themore general context of a general “topological space,” i.e. a space equippedwith a collection of “open sets.”

Page: 14 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

2.1 Metric spaces as topological spaces 15

Definition 2.12 (Topological Space). Let X be a set. A topology on X isa collection of subsets (τ) of X with the following properties;

1. τ contains both the empty set (∅) and X.2. τ is closed under arbitrary unions.3. τ is closed under finite intersections.

The elements V ∈ τ are called open subsets of X. A subset F ⊂ X is saidto be closed if F c is open. I will write V ⊂o X to indicate that V ⊂ X andV ∈ τ and similarly F @ X will denote F ⊂ X and F is closed. Given x ∈ Xwe say that V ⊂ X is an open neighborhood of x if V ∈ τ and x ∈ V. Letτx = {V ∈ τ : x ∈ V } denote the collection of open neighborhoods of x.

Of course every metric space (X, d) is also a topological space where we takeτ = τd.

Definition 2.13. Let (X, τ) be a topological space and A be a subset of X.

1. The closure of A is the smallest closed set Ā containing A, i.e.

Ā := ∩{F : A ⊂ F @ X} .

(Because of Exercise 2.3 this is consistent with Definition 2.11 for the clo-sure of a set in a metric space.)

2. The interior of A is the largest open set Ao contained in A, i.e.

Ao = ∪{V ∈ τ : V ⊂ A} .

3. A ⊂ X is a neighborhood of a point x ∈ X if x ∈ Ao.4. The accumulation points of A is the set

acc(A) = {x ∈ X : V ∩ [A \ {x}] 6= ∅ for all V ∈ τx}.

5. The boundary of A is the set bd(A) := Ā \Ao.6. A is dense in X if Ā = X and X is said to be separable if there exists a

countable dense subset of X.

Remark 2.14. The relationships between the interior and the closure of a setare:

(Ao)c =⋂{V c : V ∈ τ and V ⊂ A} =

⋂{C : C is closed C ⊃ Ac} = Ac

and similarly, (Ā)c = (Ac)o. Hence the boundary of A may be written as

bd(A) := Ā \Ao = Ā ∩ (Ao)c = Ā ∩Ac, (2.3)

which is to say bd(A) consists of the points in both the closures of A and Ac.

2.1.1 Continuity

Suppose now that (X, ρ) and (Y, d) are two metric spaces and f : X → Y is afunction.

Definition 2.15. A function f : X → Y is continuous at x ∈ X if for allε > 0 there is a δ > 0 such that

d(f(x), f(x′)) < ε provided that ρ(x, x′) < δ. (2.4)

The function f is said to be continuous if f is continuous at all points x ∈ X.

The following lemma gives two other characterizations of continuity of afunction at a point.

Lemma 2.16 (Local Continuity Lemma). Suppose that (X, ρ) and (Y, d)are two metric spaces and f : X → Y is a function defined in a neighborhoodof a point x ∈ X. Then the following are equivalent:

1. f is continuous at x ∈ X.2. For all neighborhoods A ⊂ Y of f(x), f−1(A) is a neighborhood of x ∈ X.3. For all sequences {xn}∞n=1 ⊂ X such that x = limn→∞ xn, {f(xn)} is con-

vergent in Y and

limn→∞

f(xn) = f(

limn→∞

xn

).

Proof. 1 =⇒ 2. If A ⊂ Y is a neighborhood of f (x) , there exists ε > 0such that Bf(x) (ε) ⊂ A and because f is continuous there exists a δ > 0 suchthat Eq. (2.4) holds. Therefore

Bx (δ) ⊂ f−1(Bf(x) (ε)

)⊂ f−1 (A)

showing f−1 (A) is a neighborhood of x.2 =⇒ 3. Suppose that {xn}∞n=1 ⊂ X and x = limn→∞ xn. Then for any ε >

0, Bf(x) (ε) is a neighborhood of f (x) and so f−1 (Bf(x) (ε)) is a neighborhood

of x which must contain Bx (δ) for some δ > 0. Because xn → x, it follows thatxn ∈ Bx (δ) ⊂ f−1

(Bf(x) (ε)

)for a.a. n and this implies f (xn) ∈ Bf(x) (ε) for

a.a. n, i.e. d(f(x), f (xn)) < ε for a.a. n. Since ε > 0 is arbitrary it follows thatlimn→∞ f (xn) = f (x) .

3. =⇒ 1. We will show not 1. =⇒ not 3. If f is not continuous at x,there exists an ε > 0 such that for all n ∈ N there exists a point xn ∈ X withρ (xn, x) <

1n yet d (f (xn) , f (x)) ≥ ε. Hence xn → x as n→∞ yet f (xn) does

not converge to f (x) .Here is a global version of the previous lemma.

Page: 15 job: prob macro: svmonob.cls date/time: 28-Sep-2018/11:15

16 2 Basic Metric and Topological Space Notions

Lemma 2.17 (Global Continuity Lemma). Suppose that (X, ρ) and (Y, d)are two metric spaces and f : X → Y is a function defined on all of X. Thenthe following are equivalent:

1. f is continuous.2. f−1(V ) ∈ τρ for all V ∈ τd, i.e. f−1(V ) is open in X if V is open in Y.3. f−1(C) is closed in X if C is closed in Y.4. For all convergent sequences {xn} ⊂ X, {f(xn)} is convergent in Y and

limn→∞

f(xn) = f(

limn→∞

xn

).

Proof. Since f−1 (Ac) =[f−1 (A)

]c, it is easily seen that 2. and 3. are

equivalent. So because of Lemma 2.16 it only remains to show 1. and 2. areequivalent. If f is continuous and V ⊂ Y is open, then for every x ∈ f−1 (V ) , Vis a neighborhood of f (x) and so f−1 (V ) is a neighborhood of x. Hence f−1 (V )is a neighborhood of all of its points and from this and Exercise 2.2 it follows thatf−1 (V ) is open. Conversely, if x ∈ X and A ⊂ Y is a neighborhood of f (x) thenthere exists V ⊂o X such that f (x) ∈ V ⊂ A. Hence x ∈ f−1 (V ) ⊂ f−1 (A)and by assumption f−1 (V ) is open showing f−1 (A) is a neighborhood of x.Therefore f is continuous at x and since x ∈ X was arbitrary, f is continuous.

Definition 2.18 (Continuity at a point in topological terms). Let(X, τX) and (Y, τY ) be topological spaces. A function f : X → Y is contin-uous at a point x ∈ X if for every open neighborhood V of f(x) there is anopen neighborhood U of x such that U ⊂ f−1(V ). See Figure 2.1.

YV

f(x)

f

X

U

x

f−1(V )

Fig. 2.1. Checking that a function is continuous at x ∈ X.

Definition 2.19 (Global continuity in topological terms). Let (X, τX)and (Y, τY ) be topological spaces. A function f : X → Y is continuous if

f−1(τY ) :={f−1 (V ) : V ∈ τY

}⊂ τX .

We will also say that f is τX/τY –continuous or (τX , τY ) – continuous. LetC(X,Y ) denote the set of continuous functions from X to Y.

Exercise 2.6. Show f : X → Y is continuous (Definition 2.19) iff f is contin-uous at all points x ∈ X.

Exercise 2.7. Show f : X → Y is continuous iff f−1(C) is closed in X for allclo