Macierz Hessego

Hesjan, macierz Hessego – macierz (kwadratowa) drugich pochodnych cząstkowych obliczonych dla funkcji wielu zmiennych o wartościach rzeczywistych dwukrotnie różniczkowalnej w otoczeniu punktu, w którym liczone są te pochodne. Macierz Hessego charakteryzuje własności krzywizny wykresu funkcji w otoczeniu tego punktu.

Czasem pod pojęciem hesjanu rozumie się wyznacznik macierzy Hessego, będący formą kwadratową przyrostów zmiennych^[1]. Jest on używany przy znajdowaniu ekstremów funkcji wielu zmiennych.

Nazwę hesjanu wprowadził James Joseph Sylvester dla upamiętnienia niemieckiego matematyka Ottona Hessego (1811–1874)^[2].

Definicja

Niech ${\displaystyle D}$ będzie niepustym, otwartym podzbiorem ${\displaystyle \mathbb {R} ^{n}}$ oraz ${\displaystyle f\colon D\to \mathbb {R} }$ będzie dwukrotnie różniczkowalna w ${\displaystyle x_{0}\in D.}$ Macierzą Hessego funkcji ${\displaystyle f}$ w punkcie ${\displaystyle x_{0}}$ nazywamy macierz

${\displaystyle H(x_{0}):={\begin{bmatrix}{\frac {\partial ^{2}f}{\partial x_{1}^{2}}}(x_{0})&{\frac {\partial ^{2}f}{\partial x_{1}\,\partial x_{2}}}(x_{0})&\cdots &{\frac {\partial ^{2}f}{\partial x_{1}\,\partial x_{n}}}(x_{0})\\[1em]{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{1}}}(x_{0})&{\frac {\partial ^{2}f}{\partial x_{2}^{2}}}(x_{0})&\cdots &{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{n}}}(x_{0})\\[.5em]\vdots &\vdots &\ddots &\vdots \\[.5em]{\frac {\partial ^{2}f}{\partial x_{n}\,\partial x_{1}}}(x_{0})&{\frac {\partial ^{2}f}{\partial x_{n}\,\partial x_{2}}}(x_{0})&\cdots &{\frac {\partial ^{2}f}{\partial x_{n}^{2}}}(x_{0})\end{bmatrix}}}$

gdzie ${\displaystyle {\frac {\partial ^{2}f}{\partial x_{i}\partial x_{j}}}(x_{0}),\quad i,j=1,2,\dots ,n}$ - pochodne cząstkowe drugiego rzędu obliczone w punkcie ${\displaystyle x_{0}.}$

Właściwości

1. Macierz Hessego ${\displaystyle H(f)}$ jest symetryczna jeśli funkcja ${\displaystyle f}$ ma ciągłe drugie pochodne, tzn. wtedy

${\displaystyle {\frac {\partial ^{2}f}{\partial x_{i}\partial x_{j}}}={\frac {\partial ^{2}f}{\partial x_{j}\partial x_{i}}}}$

2. Punkt krytyczny to punkt w którym gradient jest równy zeru, ${\displaystyle \nabla f=(0,0,\dots .0)}$,

${\displaystyle \nabla f=\left[{\frac {\partial f}{\partial x_{1}}},\dots ,{\frac {\partial f}{\partial x_{n}}}\right]}$

3. Jeżeli macierz Hessego jest symetryczna w punkcie krytycznym, to charakter tego punktu można określić na podstawie wartości własnych ${\displaystyle \lambda _{1},\lambda _{2},\dots ,\lambda _{n}}$ macierzy Hessego:

• jeśli wszystkie ${\displaystyle \lambda _{i}>0}$, to punkt krytyczny jest minimum lokalnym,
• jeśli wszystkie ${\displaystyle \lambda _{i}<0}$, to punkt krytyczny jest maksimum lokalnym,
• jeśli wartości ${\displaystyle \lambda _{i},i=1,2,\dots n}$ mają różne znaki, to punkt krytyczny jest punktem siodłowym.

4. Jeżeli macierz Hessego nie jest symetryczna w punkcie krytycznym, to charakteru tego punktu nie da się określić za pomocą macierzy Hessego. Trzeba stosować inne metody.

Przykłady

1. Funkcja z symetryczną macierzą Hessego. Extremum funkcji

Dla funkcji dwóch zmiennych:

${\displaystyle f(x,y)=x^{2}+xy+y^{2}}$

oblicz (a). macierz Hessego, (b). jej wartości własne, (c). ekstrema funkcji.

Rozwiązanie:

(a). Obliczamy pochodne cząstkowe pierwszego rzędu: ${\displaystyle f_{x}=2x+y,\quad f_{y}=x+2y}$

oraz pochodne cząstkowe drugiego rzędu:${\displaystyle f_{xx}=2,\;f_{yy}=2,\;f_{xy}=f_{yx}=1.}$

Stąd mamy: ${\displaystyle H(f)={\begin{bmatrix}2&1\\[4pt]1&2\end{bmatrix}}}$

(b). Równanie charakterystyczne: ${\displaystyle \det(H-\lambda I)=(2-\lambda )^{2}-1=0\Rightarrow 2-\lambda =\pm 1,}$ stąd mamy wartości własne ${\displaystyle \lambda _{1}=1,\;\lambda _{2}=3.}$ Obie wartości własne są dodatnie, więc macierz ${\displaystyle H}$ jest dodatnio określona - funkcja ma więc minimum w punkcie krytycznym.

(c). Punkt krytyczny wyznaczamy z warunku: ${\displaystyle \nabla f=(0,\;0)}$. Ponieważ ${\displaystyle \nabla f=(f_{x},\;f_{y})=(2x+y,\;x+2y)}$, to otrzymujemy${\displaystyle x=0,\;y=0.}$ Wartość funkcji w minimum wynosi ${\displaystyle f(0,0)=0}$.

Punkt ${\displaystyle (0,0)}$ jest jedynym i globalnym minimum funkcji, ponieważ macierz ${\displaystyle H}$ jest dodatnio określona w całej dziedzinie funkcji (funkcja jest więc ściśle wypukła).

2. Funkcja z niesymetryczną macierzą Hessego. Punkt siodłowy

Funkcja z punktem siodłowym

Funkcja z punktem siodłowym – mapa poziomicowa. Punkt siodłowy oznaczono czarną kropką.

Krzywizna przekrojów kierunkowych wykresu funkcji ${\displaystyle f(x,y)}$ w otoczeniu punktu${\displaystyle (0,0)}$ zmienia osiem razy znak - punkt ten jest punktem siodłowym.

Pokaż, że dla funkcji

${\displaystyle f(x,y)={\begin{cases}{\dfrac {xy(x^{2}-y^{2})}{x^{2}+y^{2}}},&(x,y)\neq (0,0)\\0,&(x,y)=(0,0)\end{cases}}}$

gradient w punkcie ${\displaystyle (0,0)}$ zeruje się, ale pochodne mieszane w tym punkcie są różne, tj. ${\displaystyle f_{xy}(0,0)\neq f_{yx}(0,0).}$ Określ rodzaj punktu krytycznego funkcji.

(a). Pochodne pierwszego rzędu w punkcie ${\displaystyle (0,0)}$

Dla ${\displaystyle y=0}$ mamy ${\displaystyle f(x,0)=0}$, więc

${\displaystyle f_{x}(0,0)=\lim _{h\to 0}{\dfrac {f(h,0)-f(0,0)}{h}}=0.}$

Analogicznie ${\displaystyle f_{y}(0,0)=0}$. Wynika stąd, że gradient w punkcie ${\displaystyle (0,0)}$ zeruje się - punkt ten jest więc punktem krytycznym.

(b). Obliczenie pochodnej ${\displaystyle f_{xy}(x,y)}$ w punkcie ${\displaystyle (0,0)}$

Najpierw liczymy pochodną cząstkową względem ${\displaystyle x}$ wzdłuż osi ${\displaystyle x=0}$ dla ${\displaystyle y\neq 0}$

${\displaystyle f_{x}(0,y)=\lim _{h\to 0}{\dfrac {f(h,y)-f(0,y)}{h}}=\lim _{h\to 0}{\dfrac {f(h,y)}{h}}}$

Dla ${\displaystyle h\neq 0}$, ${\displaystyle y\neq 0}$ mamy

${\displaystyle {\dfrac {f(h,y)}{h}}=y{\dfrac {h^{2}-y^{2}}{h^{2}+y^{2}}}}$

więc

${\displaystyle f_{x}(0,y)=\lim _{h\to 0}y{\dfrac {h^{2}-y^{2}}{h^{2}+y^{2}}}=y{\dfrac {0-y^{2}}{0+y^{2}}}=-y}$

Stąd

${\displaystyle f_{xy}(0,0)=\lim _{y\to 0}{\dfrac {f_{x}(0,y)-f_{x}(0,0)}{y}}=\lim _{y\to 0}{\dfrac {-y-0}{y}}=-1}$

(c). Obliczenie pochodnej ${\displaystyle f_{yx}(0,0)}$ w punkcie ${\displaystyle (0,0)}$

Najpierw liczymy pochodną względem ${\displaystyle y}$ wzdłuż osi ${\displaystyle y=0}$ dla ${\displaystyle x\neq 0}$

${\displaystyle f_{y}(x,0)=\lim _{k\to 0}{\dfrac {f(x,k)-f(x,0)}{k}}=\lim _{k\to 0}{\dfrac {f(x,k)}{k}}.}$

Dla ${\displaystyle k\neq 0}$, ${\displaystyle x\neq 0}$ mamy

${\displaystyle {\dfrac {f(x,k)}{k}}=x{\dfrac {x^{2}-k^{2}}{x^{2}+k^{2}}}}$

więc

${\displaystyle f_{y}(x,0)=\lim _{k\to 0}x{\dfrac {x^{2}-k^{2}}{x^{2}+k^{2}}}=x}$

Stąd

${\displaystyle f_{yx}(0,0)=\lim _{x\to 0}{\dfrac {f_{y}(x,0)-f_{y}(0,0)}{x}}=\lim _{x\to 0}{\dfrac {x-0}{x}}=1}$

(d). Wniosek

Pochodne mieszane w punkcie ${\displaystyle (0,0)}$ są różne:

${\displaystyle f_{xy}(0,0)=-1,\quad f_{yx}(0,0)=1,}$

Oznacza to, że funkcja nie należy do klasy ${\displaystyle C^{2}}$ w punkcie ${\displaystyle (0,0)}$, a hesjan nie jest symetryczny. Punkt ${\displaystyle (0,0)}$ jest jednak punktem krytycznym. Aby określić jego charakter, nie można posłużyć się kryterium z wartościami własnym hesjanu (są de facto liczbami zespolonymi). Aby to rozstrzygnąć, wystarczy zauważyć, że przekroje wykresu funkcji poprowadzone przez punkt krytyczny zmieniają osiem razy krzywiznę z ujemnej na dodatnią przy obrocie o 360 stopni wokół tego punktu - oznacza to, że funkcja wokół ${\displaystyle (0,0)}$ przyjmuje wartości zarówno większe jak i mniejsze niż w punkcie ${\displaystyle (0,0)}$, więc w punkcie tym mamy siodło.

Zobacz też

• gradient
• hesjan obrzeżony
• jakobian
• ekstremum funkcji
• punkt siodłowy