問題匯總
- 1. 貝葉斯定理(貝葉斯公式和全概率公式)
- 2. 概率題
- 2.1 隨機發生器的概率為1/2
1. 貝葉斯定理(貝葉斯公式和全概率公式)
定義:在信息和條件有限的情況下,基于過去的數據,通過動態調整的方法,幫助我們一步步預測出事件發生的接近真實的概率。
貝葉斯定理基于條件概率的定義,條件概率表示事件 A 在事件 B 已經發生的條件下發生的概率
條件概率公式:
P ( A ∣ B ) = P ( A ∩ B ) P ( B ) , P ( B ∣ A ) = P ( A ∩ B ) P ( A ) P(A|B) = \frac{P(A∩B)}{P(B)},P(B|A) = \frac{P(A∩B)}{P(A)} P(A∣B)=P(B)P(A∩B)?,P(B∣A)=P(A)P(A∩B)?
上述二者結合可以得到貝葉斯公式:
P ( A ∣ B ) = P ( B ∣ A ) ? P ( A ) P ( B ) P(A|B) = \frac{P(B|A)·P(A)}{P(B)} P(A∣B)=P(B)P(B∣A)?P(A)?
各個部分的含義
P(A|B):后驗概率
P(A):先驗概率
P(B|A):似然函數 在 A 發生的條件下,事件 B 發生的概率,通常由模型或數據決定。
P(B):邊際概率,事件 B的總體概率,可以通過所有可能導致 B發生的情況求和得到
P ( B ) = P ( B ∣ A ) ? P ( A ) + P ( B ∣ ? A ) ? P ( ? A ) P(B) =P(B|A)·P(A)+P(B|?A)·P(?A) P(B)=P(B∣A)?P(A)+P(B∣?A)?P(?A)
由邊際概率可以引出全概率公式:用于計算一個復雜事件的概率,方法是把它拆分成多個互斥的簡單情況(劃分完備事件組),再分別加權求和。
2. 概率題
2.1 隨機發生器的概率為1/2
已知一個隨機發生器,生成 0 的概率為 p ,生成 1 的概率為 1 - p 。請構造一個新的隨機發生器,使其生成 0 和 1 的概率均為 1/2。
答案:讓該隨機數生成器生成兩個數,那么序列是00,01,10,11概率分別為 p* p,p(1-p),(1-p)p,(1-p)(1-p)。這四種情況中存在兩個獨立的事件概率是相等。也就是01和10,那么我把01看成是0,10看成是1,那么他們輸出的概率均為p(1-p),其他的情況舍棄。這樣就得到了0和1均等生成的隨機器了。這種解法可以推廣到n個數的情況,我們知道,取n個隨機數發生器,存在n個概率相同的獨立事件,我們只使用這n個事件就得到1/n的概率了。例如n=3, 有8中情況000, 001, 010, 011, 100, 101, 110, 111,其中001,010,100的概率都是p^2*(1-p)。