Professional Documents
Culture Documents
1. Θεωρία πιθανοτήτων
𝑃𝑟{𝐴𝑖 𝐵𝑗 } 𝑃𝑟{𝐵𝑗 |𝐴𝑖 }𝑃𝑟{𝐴𝑖 }
𝑃𝑟{𝐴𝑖 |𝐵𝑗 } = =
𝑃𝑟{𝐵𝑗 } ∑𝑖 𝑃𝑟{𝐵𝑗 |𝐴𝑖 }Pr{𝐴𝑖 }
2. Τυχαίες μεταβλητές
• Συνάρτηση κατανομής πιθανότητας
𝐹𝑋 (𝑥) = Pr{𝑋 ≤ 𝑥}
• Συνάρτηση πυκνότητας πιθανότητας (probability distribution
function, pdf)
𝑑𝐹𝑋 (𝑥)
𝑓𝑋 (𝑥 ) =
𝑑𝑥
𝑥
• 𝐹𝑋 (𝑥) = ∫−∞ 𝑓𝑋 (𝑡)𝑑𝑡
• Για διακριτές τυχαίες μεταβλητές
Συνάρτηση μάζας πιθανότητας (probability mass function, pmf)
fX (x) = ∑i pi δ(x − xi )
1
Απάντηση:
i. Λύνουμε 𝑦 = 𝑔(𝑥) ως προς 𝑥.
𝑓 (𝑥)
ii. 𝑓𝑌 (𝑦) = |𝑔𝑋′ |
(𝑥)| 𝑥=𝑥
0
𝜕 2 𝐹𝑋𝑌 (𝑥, 𝑦)
𝑓𝑋𝑌 (𝑥, 𝑦) =
𝜕𝑥𝜕𝑦
• Συνάρτηση αρθροιστικής κατανομής (cumulative distribution
function, cdf), 𝑭𝑿 (𝒙)
Έστω ότι μας δίνεται το μοντέλο (𝑋, 𝑌, 𝑓𝑋𝑌 (𝑥, 𝑦)) και 𝑍 = 𝑔(𝑥, 𝑦)&
𝑊 = ℎ(𝑥, 𝑦). Ποιό είναι το μοντέλο (𝑍, 𝑊, 𝑓𝑍𝑊 (𝑧, 𝑤));
Απάντηση:
i. Λύνουμε τις εξισώσεις 𝑍 = 𝑔(𝑥, 𝑦) και 𝑊 = ℎ(𝑥, 𝑦) ως προς 𝑥 και
𝑦. Έστω 𝑛 πραγματικές λύσεις της μορφής (𝑥𝑖 , 𝑦𝑖 )
𝜕𝑔(𝑥,𝑦) 𝜕𝑔(𝑥,𝑦)
𝑥=𝑥𝑖
𝑛 𝑓𝑋𝑌 (𝑥,𝑦) 𝜕𝑥 𝜕𝑦
ii. 𝑓𝑍𝑊 (𝑧, 𝑤) = ∑𝑖=1 |
|𝐽(𝑥.𝑦)| 𝑦=𝑦
όπου 𝐽(𝑥, 𝑦) = |𝜕ℎ(𝑥,𝑦) 𝜕ℎ(𝑥,𝑦)
|
𝑖
𝜕𝑥 𝜕𝑦
2
4. Ροπές τυχαίων μεταβλητών
Ιδιότητες:
• 𝛷 (0) = 1
1 +∞ e−jωx2 −e−jωx1
• FX (x2 ) − FX (x1 ) = ∫ Φ ( ω) dω
2π −∞ −jω
(𝑗𝜔𝑥)𝑘
Για 𝑒 𝑗𝜔𝑥 = ∑∞
𝑘=0 η χαρακτηριστική γράφεται ως
𝑘!
(𝑗𝜔𝑥)𝑘 +∞ 𝑘
𝛷 (𝜔 ) = ∑ ∞
𝑘=0 𝑘! ∫−∞ 𝑥 𝑓𝑋 (𝑥 )𝑑𝑥 .
+∞
− Οι ροπές ορίζονται ως: 𝑚𝑘 = ∫−∞ 𝑥 𝑘 𝑓𝑋 (𝑥)𝑑𝑥
+∞
− Η πρώτη ροπή/μέση τιμή δίνεται από: 𝑚1 = ∫−∞ 𝑥𝑓𝑋 (𝑥)𝑑𝑥 = 𝑬[𝑿]
− Για τυχαία μεταβλητή διακριτού τύπου: 𝐸 [𝑋] = ∑𝑖 𝑥𝑖 𝑓𝑋 (𝑥𝑖 )
Αν μας δίνεται (𝑋, 𝑓𝑋 (𝑥)) και ζητείται να υπολογιστεί η στατιστική μέση
+∞
τιμή της τ.μ. 𝑌 = 𝑔(𝑥) τότε 𝐸 [𝑋] = ∫−∞ 𝑔(𝑥)𝑓𝑋 (𝑥)𝑑𝑥
+∞
− Μέση τετραγωνική τιμή τ.μ.: 𝑚2 = ∫−∞ 𝑥 2 𝑓𝑋 (𝑥)𝑑𝑥 = 𝐸 [𝑋 2 ],
αντιστοιχεί στην συνολική ισχύ της στοχαστικής διαδικασίας.
+∞
− Κεντρικές ροπές: 𝜇𝑘 = ∫−∞ (𝑋 − 𝐸 [𝑋])𝑘 𝑓𝑋 (𝑥 )𝑑𝑥
− Αν η 𝑋 είναι διακριτή: 𝜇𝑘 = ∑𝑖(𝑥𝑖 − 𝐸[𝑋])𝑘 𝑓(𝑥𝑖 )
+∞
− Μηδενική κεντρική ροπή: 𝜇0 = ∫−∞ 𝑓𝑋 (𝑥)𝑑𝑥 = 1 = 𝑚0
+∞
− Πρώτη κεντρική ροπή: 𝜇1 = ∫−∞ (𝑋 − 𝛦[𝛸])𝑓𝑋 (𝑥 )𝑑𝑥 = 0
+∞
− Δεύτερη κεντρική ροπή: 𝜇2 = ∫−∞ (𝑋 − 𝐸 [𝑋])2 𝑓𝑋 (𝑥)𝑑𝑥
= 𝑚2 − 𝑚12 = 𝜎 2 διασπορά
+∞ +∞
− Κοινές ροπές: 𝑚𝑘𝑟 = ∫−∞ ∫−∞ 𝑥 𝑘 𝑦 𝑟 𝑓𝑋𝑌 (𝑥, 𝑦)𝑑𝑥𝑑𝑦
3
− Κοινές κεντρικές ροπές:
+∞ +∞
𝜇𝑘𝑟 = ∫−∞ ∫−∞ (𝑥 − 𝛦 [𝑋])𝑘 (𝑦 − 𝐸[𝑌])𝑟 𝑓𝑋𝑌 (𝑥, 𝑦)𝑑𝑥𝑑𝑦
− Ροπές πρώτης τάξης κοινού μοντέλου δύο τ.μ.
▪ 𝑚10 = 𝛦 [𝑋]
▪ 𝑚01 = 𝐸[𝑌]
+∞ +∞
− Συσχέτιση: 𝑚11 = 𝛦 [𝑋𝑌] = ∫−∞ ∫−∞ 𝑥𝑦𝑓𝑋𝑌 (𝑥, 𝑦)𝑑𝑥𝑑𝑦
− Συμμεταβλητότητα: 𝜇11 = 𝐸 [(𝑋 − 𝐸 [𝑋])(𝑌 − 𝐸 [𝑌])]
= 𝑐𝑜𝑣(𝑋, 𝑌) = 𝑚11 − 𝐸 [𝑋]𝐸[𝑌]
− Συντελεστής συσχέτισης:
𝑋 − 𝐸[𝑋] 𝑌 − 𝐸[𝑌]
𝜌 = 𝛦 [( )( )]
𝜎𝑋 𝜎𝑌
+∞ +∞
𝑋 − 𝐸[𝑋] 𝑌 − 𝐸[𝑌]
=∫ ∫ 𝑓𝑋𝑌 (𝑥, 𝑦)𝑑𝑥𝑑𝑦
−∞ −∞ 𝜎𝑋 𝜎𝑌
▪ −1 ≤ 𝜌 ≤ 1
𝑐𝑜𝑣(𝑋,𝑌) 𝛦[𝑋𝑌]−𝐸[𝑋]𝐸[𝑌]
▪ 𝜌= =
𝜎𝛸 𝜎𝑌 𝜎𝛸 𝜎𝑌
4
Αν γνωρίζουμε την 𝛷 (𝜔1 , 𝜔2 ), οι ροπές υπολογίζονται από:
𝜔 =0
𝜕 𝑘 𝜕 𝑟 𝛷(𝜔1 , 𝜔2 ) 1
| = 𝑚𝑘𝑟
𝜕𝜔1𝑘 𝜕𝜔2𝑟 𝜔 =0
2
5. Συναρτήσεις κατανομών
A. Ομοιόμορφη κατανομή
1
, 𝑥 < 𝑥 < 𝑥2
• pdf: 𝑓𝑋 (𝑥) = {𝑥2 −𝑥1 1
0,𝛼𝜆𝜆𝜊ύ
1,𝑥 ≥ 𝑥2
𝑥−𝑥1
• cdf: 𝐹𝑋 (𝑥 ) = { , 𝑥1 ≤ 𝑥 ≤ 𝑥2
𝑥2 −𝑥1
0,𝑥 < 𝑥1
1
• 𝐸 [𝑋] = (𝑥1 + 𝑥2 )
2
1
• 2
𝜎𝑋 = (𝑥1 + 𝑥2 )2
12
𝑒 𝑗𝜔𝑥2 −𝑒 𝑗𝜔𝑥1
• 𝛷 (𝜔 ) =
𝑗𝜔(𝑥2 −𝑥1 )
5
B. Κανονική κατανομή
• 𝒩(𝜇, 𝜎 2 )
(𝑥−𝜇)2
1 −
• 𝑓𝑋 (𝑥) = 𝑒 2𝜎2 ,− ∞ < 𝑥 < ∞&𝜇 = 𝐸[𝑋]
√2𝜋𝜎
𝑥 𝑥−𝜇
• 𝐹𝑋 (𝑥) = ∫−∞ 𝑓𝑋 (𝑥 )𝑑𝑥 = 𝐺( )
𝜎
• 𝑓𝑋𝑌 (𝑥, 𝑦) =
2 2
1 𝑥−𝐸[𝑋] (𝑥−𝐸[𝑋])(𝑦−𝐸[𝑌]) 𝑦−𝐸[𝑌]
1 − [( 𝜎 ) −2𝜌 +( 𝜎 ) ]
2(1−𝜌2 ) 𝜎𝑋 𝜎𝑌
𝑒 𝑋 𝑌
2𝜋𝜎𝑋 𝜎𝑌 √1−𝜌2
1
1 − (𝑿−𝒎)𝑇 𝑪−1(𝑿−𝒎)
• 𝑓𝑥1 ,𝑥2 ,…,𝑥𝑛 (𝑥1 , 𝑥2 , … , 𝑥𝑛 ) = 𝑒 2
√(2𝜋)𝑛 det(𝑪)
𝛸1 𝑚1
𝛸 𝑚2
όπου 𝜲 = [ 2 ] ,𝒎 = [ ⋮ ],𝑪𝒊𝒋 = 𝑐𝑜𝑣[𝑋𝑖 , 𝑋𝑗 ]
⋮
𝑋𝑛 𝑚𝑛
C. Κατανομή Rayleigh
Υπολογισμός σφαλμάτων σε βολές.
• Έστω 𝑅 = √𝑋 2 + 𝑌 2 ,𝑋~𝒩(0, 𝜎)&𝑌~𝒩 (0, 𝜎)
𝑟2
1 −
• 𝑓𝑅 (𝑟) = 𝑒 2𝜎2 𝑈(𝑟)
𝜎2
𝜋
• 𝐸 [𝑅 ] = √ 𝜎
2
• 𝐸 [𝑅 2 ] = 2𝜎 2
• 𝜎𝑅2 = 0.429𝜎 2
D. Εκθετική κατανομή
Για μελέτη φαινομένων που αποσβένουν με το χρόνο.
• 𝑓𝑋 (𝑥) = 𝜆𝑒 −𝜆𝑥 𝑈(𝑥)
• 𝐹𝑋 (𝑥) = 1 − 𝑒 −𝜆𝑥 𝑈(𝑥)
6
1
• 𝐸 [𝑋] =
𝜆
1
• 𝜎𝛸2 =
𝜆2
E. Erlang κατανομή
Για το χρονικό διάστημα μεταξύ γεγονότων.
𝑡
−
𝑡 𝑘−1𝑒 𝑇
• 𝑓𝑇𝑘 (𝑡) = (𝑇̅ )𝑘 (𝑘−1)!
𝑈(𝑡),𝑘 = 1,2,3 …
F. Κατανομή Poisson
𝑒 −𝑎 𝑎𝑘
• Pr{𝑋 = 𝑘 } = , 𝑘 = 0,1,2 …
𝑘!
𝑎𝑘
• 𝑓𝑋 (𝑥) = 𝑒 −𝑎 ∑∞
𝑘=0 𝛿(𝑥 − 𝑘)
𝑘!
6. Στοχαστικές διαδικασίες
− Γενικά:
• Μέση τιμή: 𝑚𝑥 (𝑡) = 𝐸 [𝑋(𝑡)] = ∫ 𝑋(𝑡)𝑓𝑋(𝑡) (𝑋(𝑡))𝑑𝑋(𝑡)
• Διασπορά: 𝜎𝑥2 = 𝐸[(𝑋(𝑡) − 𝑚𝑥 (𝑡))2 ]
• Συμμεταβλητότητα:
𝑐𝑜𝑣[𝑋(𝑡1 ), 𝑋(𝑡2 )] = 𝐸[(𝑋(𝑡1 − 𝑚𝑥 (𝑡1 ))(𝑋(𝑡2 − 𝑚𝑥 (𝑡2 ))]
ανν𝑡1 = 𝑡2 ⇒ 𝑐𝑜𝑣[𝑋(𝑡1 ), 𝑋(𝑡2 )] = 𝜎𝑥2 (𝑡1 )
− Αυστηρή στασιμότητα: αν για κάθε 𝜏, τα {𝑥(𝑡)} και {𝑥(𝑡 + 𝜏)} έχουν
την ίδια στατιστική. Δηλαδή ισχύει
𝑓(𝑋(𝑡1 ), 𝑋(𝑡2 ), … , 𝑋(𝑡𝑛 ), … )
= 𝑓(𝑋(𝑡1 + 𝜏), 𝑋(𝑡2 + 𝜏), … , 𝑋(𝑡𝑛 + 𝜏), … )
1ης τάξης: 𝑓(𝑋(𝑡)) = 𝑓(𝑋(𝑡 + 𝜏))
2ης τάξης:𝑓(𝑋(𝑡1 ), 𝑋(𝑡2 )) = 𝑓(𝑋(𝑡1 + 𝜏), 𝑋(𝑡2 + 𝜏))
7
− Στασιμότητα με την ευρεία έννοια (Wide Sense Stationary):
• 𝛦 [𝛸(𝑡)] = 𝑚𝑋 (𝑡) = 𝑀
• 𝑅𝑋𝑋 (𝑡1 , 𝑡2 ) = 𝑅𝑋𝑋 (𝜏)
− 𝑋(𝑡) = 𝐴 cos 2𝜋𝑓0 (𝑡1 − 𝑡2 ) έχει 𝑚𝑋 (𝑡) = 0 & 𝑅𝑋𝑋 (𝑡1 , 𝑡2 ) =
𝐴2
cos 2𝜋𝑓0 (𝑡1 − 𝑡2 ). Άρα το σήμα είναι WSS.
2
− Κυκλο-στάστιμες θεωρούνται οι στοχαστικές διαδικασίες στις οποίες
οι στατιστικές ιδιότητες των στοχαστικών σημάτων είναι περιοδικές.
− Αν το {𝑥(𝑡)} είναι WSS στάσιμο τότε:
• 𝑐𝑜𝑣[𝑋(𝑡1 ), 𝑋(𝑡2 )] = 𝑅𝑋𝑋 (𝑡1 , 𝑡2 ) − 𝑚𝑋 (𝑡1 )𝑚𝑋 (𝑡2 )
= 𝑅𝑋𝑋 (𝜏) − 𝑚2
− Ιδιότητες αυτοσυσχέτισης:
• 𝑅𝑋𝑋 (𝑡1 , 𝑡2 ) = 𝑅𝑋𝑋 (𝜏) = 𝐸[𝑋(𝑡 + 𝜏)𝑋(𝑡)]
• 𝑅𝑋𝑋 (0) = 𝐸[𝑋 2 (𝑡)]
• 𝑅𝑋𝑋 (0) ≥ |𝑅𝑋𝑋 (𝜏)|
− Εργοδικότητα
Για ένα μέλος 𝑥𝑖 (𝑡) του στοχαστικού σήματος {𝑥(𝑡)}
1 𝛵/2
• μέση τιμή: 〈𝑥𝑖 (𝑡)〉 = lim ∫−𝛵/2 𝑥𝑖 (𝑡)𝑑𝑡
𝛵→∞𝛵
1 𝛵/2
• αυτοσυσχέτιση: 〈𝑅𝑥𝑖𝑥𝑖 (𝜏)〉 = lim ∫−𝛵/2 𝑥𝑖 (𝑡 + 𝜏)𝑥𝑖 (𝑡)𝑑𝑡
𝛵 𝛵→∞
8
1 𝛵/2
lim ∫ 𝑔(𝑋(𝑡, 𝜁𝑖 ))𝑑𝑡 = 𝛦[𝑔(𝑋(𝑡))]
𝛵→∞ 𝛵 −𝛵/2
1
Ισχύς: 𝑃𝑥𝑇 = 𝛦𝑥𝑇
𝑖 𝑇 𝑖
1
Φασματική πυκνότητα ισχύος: 𝑆𝑥𝑖 (𝑓 ) = lim |𝑋𝑇𝑖 (𝑓 )|2
𝑇→∞ 𝑇
9
7. Απόκριση γραμμικού συστήματος σε στοχαστική είσοδο
𝑘 ∞
ℎ (𝜏 ) = ∫0 𝑍(𝜆)𝑑𝜆, το 𝑘 προκύπτει απο κατωδιαβατό φίλτρο
𝑆0
πολύ στενού εύρους ζώνης ℎ1 (𝑡) = 𝑘
• 𝑆𝑌 (𝑓 ) = 𝑆𝑋 (𝑓 )|𝐻(𝑓 )|2 = 𝑆0 |𝐻(𝑓 )|2
∞ ∞
• Ισχύς εξόδου: 𝑃𝑌 = ∫−∞ 𝑆𝑌 (𝑓 )𝑑𝑓 = 𝑆0 ∫−∞ |𝐻 (𝑓 )|2 𝑑𝑓
∞
∫−∞ |𝐻(𝑓)|2 𝑑𝑓
• Ισοδύναμο εύρος ζώνης θορύβου: 𝐵𝑒𝑞 = 2
2𝐻𝑚𝑎𝑥
11