ii
CONTENTS
5 Design of Infinite Impulse Response Filters 53
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 535.2 Impulse Invariance Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 545.3 Bilinear Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 575.4 Implementation of IIR Filters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 605.4.1 Direct Form I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 605.4.2 Direct Form II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 615.4.3 Cascade form . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 625.5 A Comparison of FIR and IIR Digital Filters . . . . . . . . . . . . . . . . . . . . 63
6 Introduction to Digital Spectral Analysis 65
6.1 Why Spectral Analysis? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 656.2 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
7 Random Variables and Stochastic Processes 69
7.1 Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 697.1.1 Distribution Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 697.1.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 697.1.3 Uniform Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 707.1.4 Exponential Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . 707.1.5 Normal Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 717.1.6
χ
2
Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 727.1.7 Multiple Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . 737.1.8 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 747.1.9 Operations on Random Variables . . . . . . . . . . . . . . . . . . . . . . . 777.1.10 Expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 777.1.11 Expected Value of a Function of Random Variables . . . . . . . . . . . . . 787.1.12 The Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 797.1.13 Transformation of a Random Variable . . . . . . . . . . . . . . . . . . . . 807.1.14 The Characteristic Function . . . . . . . . . . . . . . . . . . . . . . . . . . 817.2 Covariance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 837.3 Stochastic Processes (Random Processes) . . . . . . . . . . . . . . . . . . . . . . 847.3.1 Stationarity and Ergodicity . . . . . . . . . . . . . . . . . . . . . . . . . . 867.3.2 Second-Order Moment Functions and Wide-Sense Stationarity . . . . . . 887.4 Power Spectral Density . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 937.4.1 Definition of Power Spectral Density . . . . . . . . . . . . . . . . . . . . . 937.4.2 Relationship between the PSD and SOMF: Wiener-Khintchine Theorem . 957.4.3 Properties of the PSD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 967.4.4 Cross-Power Spectral Density . . . . . . . . . . . . . . . . . . . . . . . . . 977.5 Definition of the Spectrum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 997.6 Random Signals and Linear Systems . . . . . . . . . . . . . . . . . . . . . . . . . 1007.6.1 Convergence of Random Variables . . . . . . . . . . . . . . . . . . . . . . 1007.6.2 Linear filtering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1017.6.3 Linear filtered process plus noise . . . . . . . . . . . . . . . . . . . . . . . 106
8 The Finite Fourier Transform 111
8.1 Statistical Properties of the Finite Fourier Transform . . . . . . . . . . . . . . . . 1118.1.1 Preliminaries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111