Professional Documents
Culture Documents
t1
t1
1 Basic Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Symbols Used in Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Probability Concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
Additive Rules of Probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
The Law of Large Numbers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
Multiplication Rule of Probability . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
Permutations and Combinations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
Conditional Probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
Bayesian Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
Maximum Liklihood (Adapted from S. Purcell,
http://statgen.iop.kcl.ac.uk/bgim/mle/sslike_1.html) . . . . . . . . . . . . 10
A Simple Example of MLE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
Analytic MLE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Numerical MLE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Other Practical Considerations . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
Log-Likelihood . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Model Identification . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Local Minima . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
Probabilty as an Area . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2 Descriptive Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
The Mean . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
Variance and Standard Deviation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
Estimating Population Parameters: Mean and Standard Deviation . . . . 23
The Standard Error of the Mean . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
Testing Hypotheses for Differences Between or Among Means . . . . . . 27
The Nature of Scientific Investigation . . . . . . . . . . . . . . . . . . . . . . 27
Decision Risks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
Hypotheses Related to a Single Mean . . . . . . . . . . . . . . . . . . . . . . . . 30
vii
viii Contents
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
List of Figures
xiii
xiv List of Figures