ラグランジュの未定乗数法

ここでの問題は、点を自由には動かせず、制約$g(x, y) = c$で表される曲線上にとどめたまま、関数$f(x, y)$の最大値や最小値を求めることです。ラグランジュの未定乗数法は、どの点を探せばよいかを示します。曲線上の点Pの近くで$f$と$g$の1階偏導関数が連続であり、曲線上に制限した$f$がPで極大値または極小値をとり、$\nabla g(P) \neq 0$を満たすとします。このとき、ラグランジュ乗数と呼ぶ数$\lambda$が存在して、次が成り立ちます。

これはx、y、$\lambda$についての3本の方程式です。解は候補であって、まだ答えではありません。それぞれを確かめる必要があり、$\nabla g = 0$となる点は別に調べなければなりません。

地図には$f$の等高線、太線で描いた制約曲線、その上の点Pを表示しています。Pにある青い矢印は$\nabla f$で、中抜きの矢印は$\nabla g$の向きを示します。$\nabla f$は、曲線に沿った黄色の成分と、曲線を横切る破線の成分に分かれています。地図の下の断面図は、曲線に沿って進んだ距離に対する$f$の値を描きます。

なぜ成り立つのでしょうか。曲線に沿って$g$は変わらないので、曲線の単位接ベクトル$T$は$\nabla g$に垂直です。曲線に沿って単位速度で進むと、$f$の変化率は$\nabla f\cdot T$となります。これがPでの断面の傾きで、黄色の矢印は$(\nabla f\cdot T)\,T$です。断面の最高点や最低点で$\nabla g \neq 0$なら、この傾きは0なので、$\nabla f$の曲線に沿った成分はありません。平面内では、曲線に沿った成分をもたないベクトルは$\nabla g$の定数倍です。したがって$\nabla f = \lambda\nabla g$となり、$\nabla f = 0$の場合には$\lambda = 0$です。黄色の矢印が0でないところでは、その向きに進めばまだ$f$が増えます。したがって、そこにあるPは極大点にも極小点にもなれません。

さらに$\nabla f(P) \neq 0$なら、Pを通る$f$の等高線は$\nabla f$に垂直なので、制約曲線と接線を共有します。制約付きの最大点や最小点では、制約曲線は等高線を横切るのではなく接します。

$\lambda$そのものにも意味があります。曲線$g = c$上の最適値を$f^*(c)$と書きましょう。$c$の変化に伴って、その値をとる点が滑らかに動くなら、$\lambda$は最適値の変化率になります。

円$x^2 + y^2 = c$上で、$xy$の最大値は$c/2$であり、2つの最大点のどちらでも$\lambda = 1/2$です。λウィンドウは、$c$に対する$f^*$のグラフをこの傾きで描きます。変化率は制約の書き方に依存します。$C = 2c$として$2g = C$と書けば、同じ曲線でも乗数は半分になります。今度はCの1単位あたりの変化を測るからです。2gで書くで確かめられます。

2つの曲線が、この方法の限界を示します。$y - x^3 = c$上では、関数$f = y$について$(0, c)$で勾配が平行になりますが、曲線に沿った$f = x^3 + c$は、そこで傾きが0になるだけで増え続けます。勾配が平行なだけでは不十分です。$y^2 - x^3 = 0$上で$f = x$が最小になるのは尖点$(0, 0)$ですが、そこでは$\nabla g = (0, 0)$となり、$\nabla f = \lambda\nabla g$を満たす解はありません。この方法では見つからないので、そのような点は個別に調べる必要があります。

候補点が極大点か極小点か、どちらでもないかは断面に表れます。曲線上の極大点では上ったあとに下り、極小点では下ったあとに上ります。3次曲線の候補点では、上り続けます。