求此方程的最大值:
同時未知數滿足
因為只有一個未知數的限制條件,我們只需要用一個乘數.
將所有方程的偏微分設為零,得到一個方程組,最大值是以下方程組的解中的一個:
求此離散分布的最大熵:
所有概率的總和是1,因此我們得到的約束是g(p)= 1即
可以使用拉格朗日乘數找到最高熵(概率的函數)。對于所有的k 從1到n,要求
由此得到
計算出這n個等式的微分,我們得到:
這說明pi都相等 (因為它們都只是λ的函數). 解出約束∑k pk = 1,得到
因此,使用均勻分布可得到最大熵的值。