Пример 1. Полином $ f(x,y)=-x^4 y^2 - x^2 y - y^{2} $ ограничен сверху, но не достигает своего максимального значения.

Старшая форма $ f_{6}(x,y)=-x^2 y^4 $ является лишь знакоотрицательной, но не отрицательно определенной. Система $ \partial f_{} / \partial x = 0, \partial f / \partial y = 0 $ имеет единственное решение: $ (x,y)=(0,0) $ при $ f(0,0)=0_{} $. Тем не менее, конечный $ \sup f(x,y) =1/4 $ «достигается» на бесконечности: $$ f(x,y)-\frac{1}{4} = -y^2-x^4 \left( y+\frac{1}{2x^2} \right)^2 \le 0 \ , $$ $$ \lim_{k \to \infty}f \left( k, -\frac{1}{2k^2} \right) =\lim_{k \to \infty} \left( \frac{1}{4}-\frac{1}{4k^4} \right) =\frac{1}{4} \ . $$

Графики линий уровня функции $ f_{} $, т.е. кривых $ f(x,y)=c $ при различных значениях константы $ c_{} $:

Пример 2.[1] Имеет ли полином $$ f(x,y)=x^2-2xy^2+x^4+y^4+xy^5 $$ локальный минимум в точке $ (0_{},0) $?

Решение. Здесь
младшая форма $ f_2=x^{2} $ — знакопостоянна;
$ f_2+f_3=x^2-2xy^{2} $ — функция знакопеременная;
$ f_2+f_3+f_4=x^2-2xy^2+x^4+y^{4} $ — функция знакоопределенная;
а сама же функция $ f_{} $ — неопределенная в окрестности $ (0,0_{}) $, т.е. в этой точке она не имеет экстремума.

[1]. Малкин И.Г. Теория устойчивости движения. М.Наука,1966