拉格朗日乘数法

问题是：点不能随便取，必须待在一条曲线上，也就是满足约束$g(x, y) = c$，这时函数$f(x, y)$最大、最小是多少。拉格朗日乘数法告诉我们该去哪里找。设$f$和$g$在曲线上一点P附近有连续的一阶偏导数，$f$限制在曲线上时在P取得局部最大或最小值，并且$\nabla g(P) \neq 0$。那么存在一个数$\lambda$，称为拉格朗日乘数，使得

这是关于x、y、$\lambda$的三个方程。解出来的是候选点，不是答案：每个都还要检验，$\nabla g = 0$的点也要另外看。

地图上画着$f$的等高线、用粗墨线画的约束曲线，以及曲线上的一点P。P处的蓝色箭头是$\nabla f$，空心箭头表示$\nabla g$的方向；$\nabla f$被分成沿曲线的黄色部分和横过曲线的虚线部分。地图下方的剖面，把$f$对沿曲线走过的距离画出来。

为什么这样做行得通？沿着曲线，$g$不变，所以曲线的单位切向量$T$垂直于$\nabla g$。沿曲线以单位速度走，$f$的变化率是$\nabla f\cdot T$，它就是剖面在P处的斜率，黄色箭头是$(\nabla f\cdot T)\,T$。在剖面的最高点或最低点，只要那里$\nabla g \neq 0$，这个斜率就为0，所以$\nabla f$没有沿曲线的部分。在平面里，没有沿曲线部分的向量，都是$\nabla g$的倍数，所以$\nabla f = \lambda\nabla g$；$\nabla f = 0$时$\lambda = 0$。黄色箭头不为0的地方，朝它指的方向走，$f$还在增大，所以P不可能是最大或最小值点。

如果还有$\nabla f(P) \neq 0$，过P的$f$的等高线垂直于$\nabla f$，于是它和约束曲线有同一条切线。在约束下的最大或最小值点，约束曲线和一条等高线相切，而不是穿过它。

$\lambda$本身也有含义。把曲线$g = c$上的最大值或最小值记作$f^*(c)$。如果取得这个值的点随$c$光滑地移动，$\lambda$就是这个最值随$c$的变化率：

在圆$x^2 + y^2 = c$上，$xy$的最大值是$c/2$，两个最大值点处都有$\lambda = 1/2$。λ小窗把$f^*$对$c$画出来，斜率就是它。这个比率取决于约束的写法。同一条曲线写成$2g = C$，其中$C = 2c$，乘数就减半，因为它现在量的是对C的变化率。“写成2g”能看到这一点。

有两条曲线显示了这个方法的局限。在$y - x^3 = c$上，函数$f = y$在$(0, c)$处梯度平行，可沿着曲线$f = x^3 + c$只是在那里放平了一下，接着继续上升。梯度平行还不够。在$y^2 - x^3 = 0$上，$f = x$的最小值在尖点$(0, 0)$，那里$\nabla g = (0, 0)$，$\nabla f = \lambda\nabla g$无解。这个方法会漏掉它，这样的点只能另外检查。

候选点是最大、最小，还是都不是，看剖面就知道：在约束下的局部最大值点，剖面先升后降；在局部最小值点，先降后升；经过立方曲线的候选点时，它继续上升。