lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2...
TRANSCRIPT
最適化数学 第 4 回[今回の項目]
1 復習:局所最適解の求め方2 問題練習
関口 良行 最適化数学 1 / 13
復習:制約なし最適化問題
最小化 f(x, y) = x3 − 3xy + y3
制約 なし
x3 − 3xy + y3 のグラフ
関口 良行 最適化数学 2 / 13
復習:1 次の最適性条件
[定理] (一次の最適性条件)
f(x):多変数関数点 x̄ が局所最適解ならば,
∇f(x̄) = 0 (零ベクトル)
が成り立つ.
[定義]点 p が,∇f(p) = 0 を満たすとき,p を f の停留点と呼ぶ.
関口 良行 最適化数学 3 / 13
復習:停留点
最小化 f(x, y) = x3 − 3xy + y3
x3 − 3xy + y3 のグラフx3 − 3xy + y3 の勾配ベクトル
関口 良行 最適化数学 4 / 13
復習:ヘッセ行列を用いた判定法停留点 x̄ を局所最小解とすると,
x̄ で『グラフは局所的に下に窪んでいる』←→ 点 x̄ の近くで関数 f は『局所的に凸関数である』
[定理] ( 2 次の最適性条件)1 (必要性)x̄ が局所最小解
=⇒ ∇f(x̄) = 0 かつ ∇2f(x̄)が半正定値2 (十分性)∇f(x̄) = 0 かつ ∇2f(x̄) が正定値
=⇒ x̄ は局所最小解.3 (否定)∇2f(x̄) が不定値のとき,x̄ は局所最適解ではない.
局所最大解についても,それぞれ対応する箇所を半負定値,負定値,極大値に置き換えたものが成り立つ.
関口 良行 最適化数学 5 / 13
復習:2 次の最適性条件の幾何的イメージ
(十分性)∇f(x̄) = 0 かつ ∇2f(x̄) が正定値=⇒ x̄ は局所最小解.
(否定)∇2f(x̄) が不定値のとき,x̄ は局所最適解ではない.
∇2f(x, y)
∇2f(x, y)
関口 良行 最適化数学 6 / 13
例題
f(x, y) = x3 − 3xy + y3
の局所最適値を求めよ.
[補足]∇f(x̄) が正定値⇐⇒ ∇f(x̄) の固有値がすべて正f が 2 変数の場合:det
!
∇2f(x̄)"
> 0(行列式),かつ fxx(x̄) > 0 =⇒ f は正定値
関口 良行 最適化数学 7 / 13
例題f(x, y) = x3 + y3 − 6x− 6y
の局所最適値を求めよ.
(解答例) ∇f(x, y) =#
3x2 − 63y2 − 6
$
, ∇2f(x, y) =
#
6x 00 6y
$
より,
連立方程式
%
3x2 − 6 = 0
3y2 − 6 = 0を解くと,停留点 (x, y) = (±
√2,±√2)
(順不同)を得る.
(x, y) (√2,√2) (−
√2,−√2) (±
√2,∓√2)
|∇2f(x, y)| + + −fxx(x, y) + −
小 大 不定f(x, y) −8
√2 8
√2
である.よって,(x, y) = (√2,√2) のとき,局所最小値 −8
√2,
(x, y) = (−√2,−√2) のとき,局所最大値 8
√2 をとる.
関口 良行 最適化数学 8 / 13
練習問題
(1) f(x, y) = x3 + 8y3 − 12xy + 1
(2) f(x, y) = x3 + 3xy2 − 3x
関口 良行 最適化数学 9 / 13
練習問題
(3) f(x, y) = x4 − 4x2 + 8y2 + 4x2y
(4) f(x, y, z) = x3 − y3 + z2 + 3y2 + 3xy − 3x− 3y − 3z + 2
関口 良行 最適化数学 10 / 13
(1) f(x, y) = x3 + 8y3 − 12xy + 1
-2-1
0 1
2 3
4 5
-2-1
0 1
2 3
4 5-15
-10-5 0 5
10 15 20 25 30
x**3 + 8*y**3 - 12*x*y + 1
-15-10-5 0 5 10 15 20 25 30
関口 良行 最適化数学 11 / 13
(2) f(x, y) = x3 + 3xy2 − 3x
-2-1.5
-1-0.5
0 0.5
1 1.5
2
-2-1.5-1-0.5 0 0.5 1 1.5 2-3
-2
-1
0
1
2
3
x**3 + 3*x*y**2 - 3*x
-3
-2
-1
0
1
2
3
関口 良行 最適化数学 12 / 13
(3) f(x, y) = x4 − 4x2 + 8y2 + 4x2y
-3 -2 -1 0 1 2 3 -4-3
-2-1
0 1
2
-10
-5
0
5
10
15
20
x**4 - 4*x**2 + 8*y**2 + 4*x**2*y
x
y
-10
-5
0
5
10
15
20
関口 良行 最適化数学 13 / 13