http://zh.wikipedia.org/wiki/%E6%8B%89%E6%A0%BC%E6%9C%97%E6%97%A5%E4%B9%98%E6%95%B0 
在維基上搜索“拉格朗日乘數”即可

例子

[編輯]很簡單的例子

求此方程的最大值:

 f(x, y) = x^2 y

同時未知數滿足

 x^2 + y^2 = 1

因為只有一個未知數的限制條件,我們只需要用一個乘數\lambda.

g (x, y) = x^2 +y^2 -1
\Phi (x, y, \lambda) = f(x,y) + \lambda g(x, y) = x^2 y + \lambda (x^2 + y^2 - 1)

將所有\Phi方程的偏微分設為零,得到一個方程組,最大值是以下方程組的解中的一個:

2 x y + 2 \lambda x = 0
x^2 + 2 \lambda y = 0
x^2 + y^2 -1 = 0

[編輯]另一個例子

求此離散分布的最大

f(p_1,p_2,\ldots,p_n) = -\sum_{k=1}^n p_k\log_2 p_k.

所有概率的總和是1,因此我們得到的約束是gp)= 1即

g(p_1,p_2,\ldots,p_n)=\sum_{k=1}^n p_k=1.

可以使用拉格朗日乘數找到最高熵(概率的函數)。對于所有的k 從1到n,要求

\frac{\partial}{\partial p_k}(f+\lambda (g-1))=0,

由此得到

\frac{\partial}{\partial p_k}\left(-\sum_{k=1}^n p_k \log_2 p_k + \lambda (\sum_{k=1}^n p_k - 1) \right) = 0.

計算出這n個等式的微分,我們得到:

-\left(\frac{1}{\ln 2}+\log_2 p_k \right) + \lambda = 0.

這說明pi都相等 (因為它們都只是λ的函數). 解出約束∑k pk = 1,得到

p_k = \frac{1}{n}.

因此,使用均勻分布可得到最大熵的值。