Beta分布

Beta分布是定義在區間$[0,1]$上的連續概率分布，通常用于模擬概率或比例的隨機變量。Beta分布的概率密度函數（PDF）如下：

$$f(x;\alpha ,\beta )=\frac{\Gamma (\alpha +\beta )}{\Gamma (\alpha )\Gamma (\beta )}{x}^{\alpha ?1}(1?x{)}^{\beta ?1}$$其中：

• $x$是隨機變量，取值范圍在 $[0,1]$ 之間。
• $\alpha$和 $\beta$是形狀參數，它們都是正實數$(\alpha >0,\beta >0）$。
• $\Gamma$是伽馬函數，它是階乘函數在實數與復數域上的擴展。

Beta分布的概率密度函數可以進一步簡化為：

$$f(x;\alpha ,\beta )=\frac{x^{\alpha ?1}(1?x{)}^{\beta ?1}}{B(\alpha ,\beta )}$$

其中 ( B(\alpha, \beta) ) 是Beta函數，定義為：

$$B(\alpha ,\beta )=\frac{\Gamma (\alpha )\Gamma (\beta )}{\Gamma (\alpha +\beta )}$$

Beta函數是兩個伽馬函數的比值，它確保了概率密度函數的積分總和為1。

Dirichlet分布

Dirichlet分布是定義在K維實數向量上的多項分布的共軛先驗，通常用于模擬多類別分布。Dirichlet分布的概率密度函數（PDF）如下：

$$f(\mathbf{x};\mathbf{\alpha })=\frac{\Gamma \left({\sum }_{i=1}^K{\alpha }_i\right)}{{\prod }_{i=1}^K\Gamma ({\alpha }_i)}\prod _{i=1}^K{x}_i^{{\alpha }_i?1}$$

其中：

• $\mathbf{x}=(x_1,x_2,\dots ,x_K)$是隨機變量，每個 $x_i$取值范圍在 $[0,1]$ 之間，并且 ${\sum }_{i=1}^K{x}_i=1$。
• $\mathbf{\alpha }=({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_K)$是形狀參數，每個 ${\alpha }_i$都是正實數$({\alpha }_i>0)$。
• $\Gamma$是伽馬函數。

Dirichlet分布的概率密度函數可以進一步簡化為：

$$f(\mathbf{x};\mathbf{\alpha })=\frac{{\prod }_{i=1}^K{x}_i^{{\alpha }_i?1}}{\text{Dir}(\mathbf{\alpha })}$$

其中 ( \text{Dir}(\boldsymbol{\alpha}) ) 是Dirichlet函數，定義為：

$$\text{Dir}(\mathbf{\alpha })=\frac{\Gamma \left({\sum }_{i=1}^K{\alpha }_i\right)}{{\prod }_{i=1}^K\Gamma ({\alpha }_i)}$$

Dirichlet函數確保了概率密度函數的積分總和為1。

Beta分布&Dirichlet分布

• Beta分布和Dirichlet分布的概率密度函數都涉及到了伽馬函數$(\Gamma )$。這種函數在數學中非常重要，特別是在處理與概率和統計相關的問題時。

• 兩者的概率密度函數都具有冪函數的形式，其中Beta分布是一維的，而Dirichlet分布是多維的。Dirichlet分布可以看作是Beta分布的多維推廣。
  
  
  

從Dirichlet分布生成Beta樣本

• Dirichlet分布的一個有趣性質是，它可以用于生成Beta分布的樣本。具體來說，如果我們從Dirichlet分布$\text{Dir}(\mathbf{\alpha })$ 中生成一個樣本 $\mathbf{x}=(x_1,x_2,\dots ,x_K)$，那么對于任意$i$ 和$j$$(i\ne j)$，比值$\frac{x_i}{x_i+x_j}$服從參數為${\alpha }_i$和${\alpha }_j$的Beta分布。

Beta分布&Dirichlet分布應用

• Beta分布：常用于貝葉斯統計中，作為二項分布的共軛先驗。它也可以用于建模概率或比例，例如在信用評分、市場研究等領域。
• Dirichlet分布：常用于貝葉斯統計中，作為多項分布的共軛先驗。它也可以用于建模多類別分布，例如在主題模型、聚類分析等領域。

這些分布的概率密度函數在貝葉斯統計和機器學習中非常重要，因為它們提供了一種自然的方式來表示和處理概率分布。