貝葉斯定理在數據挖掘,郵件過濾,人工智能方面都有應用,近幾年來開始被廣泛關注

當另一事件
B發生時,事件A的條件概率是

Pr{A|B}=Pr{A&B}/Pr{B}

另外

Pr{B|A}=Pr{A&b}/Pr{A}

===>Pr{A|B} Pr{B}= Pr{B|A}Pr{A}

===>Pr{A|B}= Pr{B|A}Pr{A}/Pr{B}

Pr{B}=Pr{A&B}+Pr{~A&B}

===>Pr{A|B}=Pr{B|A}Pr{A}/(Pr{A&B}+Pr{~A&B})=Pr{B|A}Pr{A}/(Pr{B|A}Pr{A}+Pr{B|~A}Pr{~A})

===>Pr{A|B}= Pr{B|A}Pr{A}/(Pr{B|A}Pr{A}+Pr{B|~A}Pr{~A})

 

Bayes network

貝葉斯網絡(Bayesian Network)貝葉斯網絡是一種基于網絡結構的有向圖解描述,是用來表示變量集合連接概率的圖形模型,適用于表達和分析不確定和概率性事物,可從不完全或不確定的知識或信息中作出推理。一個貝葉斯網絡是一個有向無環圖(Directed Acyclic Graph, DAG),由代表變量節點及連接這些節點有向邊構成。節點代表隨機變量,節點間的有向邊代表了節點間的相互關系(由父節點指向其后代節點),用條件概率進行表達關系強度,沒有父節點的用先驗概率進行信息表達。節點變量可以是任何問題的抽象,如測試值、觀測現象、意見征詢等。

貝葉斯因果網公式

P(x)=P(Vi|Vp)

Vp為所有Vi的雙親結點,根據具體的關系可減少Vp中的特定結點,只留下鄰結點。

例子:

A--->B--->C

P(A,B,C)=P(A)*P(B|A)*P(C|A,B)= P(A)*P(B|A)*P(C|B)

通常網路上資料都舉一個草地變濕的例子,有的加上了云形成的概率,簡單起見。


 

R=RAIN       S=SPPRINKLER       G=GRASS WET

假設草地濕了,那么有可能是灑水車或下雨造成。那么由于下雨造成的可能性這樣計算(數據查表可知)

P(R|G)=P(R,G)/P(G)=(0.2*0.8*0.99+0.2*0.99*0.11)/(0.8*0.2*0.99+0.9*0.8*0.4+0.99*0.2*0.01)=35.77%

其余也可一次計算。

貝葉斯在郵件過濾方面的算法打算研究一下,呵呵。過幾天再看吧。



相關的鏈接

http://www.cim.mcgill.ca/~friggi/bayes/