Transforms. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

57

Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

The Probability Generating Function . . . . . . . . . . . . . . . . . . . . . . 59

The Moment Generating Function . . . . . . . . . . . . . . . . . . . . . . . . 63

The Characteristic Function. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70

Distributions with Random Parameters . . . . . . . . . . . . . . . . . . . . 77

Sums of a Random Number of Random Variables . . . . . . . . . . . 79

Branching Processes. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91

Order Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101

One-Dimensional Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101

The Joint Distribution of the Extremes . . . . . . . . . . . . . . . . . . . 105

The Joint Distribution of the Order Statistic . . . . . . . . . . . . . . . 109

Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
5

The Multivariate Normal Distribution . . . . . . . . . . . . . . . . . . . 117

Preliminaries from Linear Algebra . . . . . . . . . . . . . . . . . . . . . . . . 117

The Covariance Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119

A First Definition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

The Characteristic Function: Another Definition . . . . . . . . . . . . 123

The Density: A Third Definition . . . . . . . . . . . . . . . . . . . . . . . . . . 125

Conditional Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127

Independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130

Linear Transformations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

Quadratic Forms and Cochran’s Theorem . . . . . . . . . . . . . . . . . . 136

10 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147

Definitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147

Uniqueness. . . . . . . . . . . . . . . . . . . . . . .