Произвольный полином $ f(x,y) \in \mathbb R[x,y] $ определяет на плоскости $ \mathbb R^2 $ два векторных поля: в каждой точке плоскости определены векторы $$ (-\partial f/\partial y, \partial f/\partial x) \quad \mbox{ и } \qquad \operatorname{grad} (f) = (\partial f/\partial x, \partial f/\partial y) \, . $$ Эти векторы взаимно ортогональны. Второе из этих полей естественно назвать градиентным, хотя чаще его называют потенциальным. Первое же из полей часто называют гамильтоновым.

Пример. Для полинома

$$ f(x,y)= -x^4-1/2\,y^4+4\,x^2+3\,xy+4\,y $$

Каждое из этих полей определяет свое семейство кривых, имеющих в каждой своей точке касательные векторы коллинеарными векторам соответствующего поля. В первом случае эти кривые являются линиями уровня функции $ f $, во втором случае — некоторыми линиями, аналитическое представление которых мы получили в более сложном виде — с помощью разложений в ряды. Причем эти ряды задают изменения координат $ x $ и $ y $ не в виде явной зависимости одной координаты от другой, но независимо друг от друга — посредством введения вспомогательного параметра $ t $.

Каков смысл можно придать этому параметру? — Его можно считать временем. Тем самым в картину векторного поля мы добавляем динамику, движение. Берем материальную точку (или пробный заряд, заряженную частицу) массой (зарядом) равной $ 1 $, помещаем в произвольную точку плоскости и считаем, что на эту точку начинает действовать силовое поле — гравитационное, ньютоновское (или электростатическое, кулоновское) — заставляя точку (частицу) двигаться в определенном направлении: направлении, совпадающем с направлением вектора поля, т.е. силы. А какова величина скорости этого движения? — А вот это, как раз, для наших задач не очень существенно. Попозже обсудим это обстоятельство, а пока что подчеркнем существенность другого обстоятельства: векторное поле является стационарным, т.е. не зависящим от времени. Что следует из свойства стационарности? — А то, что траектория движения точки (частицы), выпущенной в момент времени $ t=0 $ из $ (x_0,y_0) $ идентична траектории движения точки (частицы), выпущенной из $ (x_0,y_0) $ в любой другой момент времени. Вторая (по времени выпуска) частица будет идти след в след первой.

Для обоих полей стационарные точки полинома $ f(x,y) $ являются точками покоя: поскольку в них обе компоненты вектора обращаются в нуль, то в них движения нет

Пусть в области $ \mathbb U \in \mathbb R^3 $ задано векторное поле $$ F(X)=(f_1(x_1,x_2,x_3),f_2(x_1,x_2,x_3),f_3(x_1,x_2,x_3)) \quad , X=(x_1,x_2,x_3) \in \mathbb U \, . $$ Мы интерпретируем его как поле скоростей движущейся жидкости. Представим себе идеализированный механический эксперимент. Внесем в область $ \mathbb U $ маленькое цилиндрическое колесико $ Q $ с большим количеством лопастей по ободу, имеющее возможность свободно вращаться вокруг произвольно фиксированной оси, проходящей через центр колесика — точку $ P\in \mathbb U $. Направление оси будем задавать единичным вектором $ \vec{{\color{Blue} \ell }} $ с началом в точке $ P $. Действуя на лопасти, частицы жидкости приведут колесико $Q $ во вращение с какой-то угловой скоростью $ \omega(Q, \vec{{\color{Blue} \ell }}, P) $; эта скорость будет зависеть от направления оси $ \vec{{\color{Blue} \ell }} $. Условимся о правиле знаков: угловую скорость колесика будем считать положительной или отрицательной вращается ли оно против часовой стрелки или по часовой стрелке, если смотреть на него с конца вектора $ \vec{{\color{Blue} \ell }} $. Изменяя всевозможными способами направление этого вектора, мы будем получать различные по величине и по знаку значения угловой скорости. В каком-то положении $ \vec{{\color{Blue} \ell }}_0 $ угловая скорость вращения $ \omega_0 $ станет наибольшей. Ротором или вихрем поля $ F(X) $ в точке $ P $ называется в этом случае вектор $ 2 \omega_0 \vec{{\color{Blue} \ell }}_0 $. Обозначается $$ \operatorname{rot} (F) \quad \mbox{ или } \quad \operatorname{curl} (F) \, ; $$ последнее обозначение¹⁾ принято в англоязычной литературе.

Определение вихря векторного поля в такой «механической» форме нельзя считать корректным с математической точки зрения. Оно основывается на несформулированных гипотезах о характере влияния частиц жидкости на лопасти; оно не указывает что делать, если максимальная угловая скорость обнаружится на двух различных положениях оси колесика $ Q $; наконец, остается неясной роль размеров $ Q $. Попробуем облечь определение в строгую математическую форму.

Вращательное действие частиц жидкости на лопасть колесика $ Q $ определяется проекцией вектора $ F $ на линию действия лопасти, т.е. величиной $$ \langle F (X), \tau (X) \rangle $$ где $ \tau (X) $ — единичный вектор, касательный к окружности вращения лопасти и направленный в положительную сторону, а $ \langle \cdot \rangle $ — стандартное скалярное произведение в $ \mathbb R^3 $. Суммарное действие всех частиц на лопасти и приводит колесико во вращение. Наиболее естественно предположить, что линейная скорость $ v $ в каждой точке его обода равна среднему арифметическому из всех величин $ \langle F , \tau \rangle $, иными словами, интегралу по боковой поверхности $ \Sigma $ колесика $ Q $: $$ v=\frac{1}{2\pi r h} \displaystyle{\iint_{\Sigma}} \langle F , \tau \rangle d\, S \ , $$ где $ r $ — радиус окружности обода, а $ h $ — толщина колесика $ Q $.

Чтобы получить величину угловой скорости вращения, нужно разделить полученную величину линейной скорости на радиус окружности обода. Так как объем $ \mathbf V (Q) $ колесика равен $ \pi r^2 h $, то для искомой угловой скорости получим выражение $$ \omega (Q, \vec{{\color{Blue} \ell }})=\frac{1}{2 \mathbf V (Q)} \iint_{\Sigma} \langle F , \tau \rangle d\, S \, . $$

Если мы желаем получить характеристику вращения, относящуюся не к объемному телу $ Q $, а к центральной точке $ P $, нужно в полученном выражении устремить к нулю радиус колесика и его толщину и найти предел величины $ \omega (Q, \vec{{\color{Blue} \ell }}) $.

Пусть $ \mu (X) $ — единичный нормальный вектор в точке $ X $ обода колесика. Поскольку тройка $ \{ \mu, \tau, \vec{{\color{Blue} \ell }} \} $ ориентирована так же, как и тройка базисных (осевых) векторов $ \mathbb R^3 $ $$ {\mathfrak e}_1=(1,0,0), \ {\mathfrak e}_2=(0,1,0), \ {\mathfrak e}_3=(0,0,1) \, , $$ мы можем написать, что $$ \tau=\left[ \vec{{\color{Blue} \ell }}, \mu \right] \, , $$ где $ \left[ \cdot \right] $ означает векторное произведение векторов. По циклическому свойству смешанного произведения получаем, что $$ \langle \tau, F \rangle = \langle \left[ \vec{{\color{Blue} \ell }}, \mu \right], F \rangle = \langle \vec{{\color{Blue} \ell }}, \left[ \mu , F \right] \rangle \, . $$ Отсюда $$ \omega (Q, \vec{{\color{Blue} \ell }})=\frac{1}{2 \mathbf V (Q)} \iint_{\Sigma} \langle \vec{{\color{Blue} \ell }}, \left[ \mu , F \right] \rangle d\, S = \frac{1}{2} \Big\langle \vec{{\color{Blue} \ell }}, \frac{1}{\mathbf V (Q)} \iint_{\Sigma} \left[ \mu , F \right] d\, S \Big\rangle\, . $$ Интеграл справа распространен на точки боковой поверхности колесика $ Q $. Но его можно приравнять интегралу по всей поверхности этого колесика, поскольку на основаниях цилиндра вектор $ \tau $ нормали к поверхности коллинеарен $ \vec{{\color{Blue} \ell }} $ и $ \langle \vec{{\color{Blue} \ell }}, \left[ \mu , F \right] \rangle=0 $. $$ \omega (Q, \vec{{\color{Blue} \ell }})= \frac{1}{2} \Big\langle \vec{{\color{Blue} \ell }}, \frac{1}{\mathbf V (Q)} \iint_{S} \left[ \mu , F \right] d\, S \Big\rangle\, . $$ При изменении направляющего вектора $ \vec{{\color{Blue} \ell }} $ оси колесика изменяется и вектор $$ \frac{1}{\mathbf V (Q)} \iint_{S} \left[ \mu , F \right] d\, S \, . $$ Но при бесконечном уменьшении размеров колесика и стягивании его в точку $ P $, мы можем ожидать, что предельное положение этого вектора не будет зависеть от ориентации колесика! Если эта гипотеза справедлива, то получившийся предельный вектор и определяет ротор поля в точке $ P $: максимальная скорость вращения $ \omega (Q, \vec{{\color{Blue} \ell }}) $ достигается когда вектор $ \vec{{\color{Blue} \ell }} $ будет коллинеарен ротору.

Формализуем эти рассуждения. Пусть в области $ \mathbb U \subset \mathbb R^3 $ задано непрерывное векторное поле $ F(X) $. Рассмотрим произвольную область $ Q \subset \mathbb U $, ограниченную кусочно-гладкой поверхностью $ S $ с внешней нормалью $ \mu(X) $. Выражение $$ \iint_{S} \left[ \mu , F \right] d\, S $$ называется вращением поля $ F $ на границе $ S $ области $ Q $. Отношение вращения поля $ F $ по замкнутой поверхности $ S $ к объему $ \mathbf V(Q) $ ограниченной ею области $ Q $, называется средним вращением поля $ F $ в области $ Q $. Пусть область $ Q $ стягивается в точку $ P \in \mathbb U $. Если при этом среднее вращение поля $ F $ в области $ Q $ имеет предел, не зависящий от вида области $ Q $, стягивающейся в точку $ P $, то он называется вихрем или ротором поля $ F $ в точке $ P $: $$ \operatorname{rot} (F) \Bigg|_{X=P} = \lim_{Q \to P} \frac{1}{\mathbf V(Q)} \iint_{S} \left[ \mu , F \right] d\, S \ , $$ Ротор является векторной функцией точки $ P $.

$$ \operatorname{rot} (F) \Bigg|_{X=P} = \left| \begin{array}{ccc} {\mathfrak e}_1 & {\mathfrak e}_2 & {\mathfrak e}_3 \\ \frac{\partial \, }{\partial x_1} & \frac{\partial \, }{\partial x_2} & \frac{\partial \, }{\partial x_3} \\ f_1(X) & f_2(X) & f_3(X) \end{array} \right|_{X=P} = $$ $$ =\left( \frac{\partial \, f_3}{\partial x_2} - \frac{\partial \, f_2}{\partial x_3} , \ \frac{\partial \, f_1}{\partial x_3} - \frac{\partial \, f_3}{\partial x_1}, \ \frac{\partial \, f_2}{\partial x_1} - \frac{\partial \, f_1}{\partial x_2} \right)\Bigg|_{X=P} $$ Если ротор существует, то для угловой скорости колесика $ Q $ с осью $ \vec{{\color{Blue} \ell }} $ мы получим предельное выражение $$ \omega (Q, \vec{{\color{Blue} \ell }}) = \frac{1}{2} \langle \vec{{\color{Blue} \ell }}, \operatorname{rot} (F)|_{X=P} \rangle \, . $$ Если $ \theta $ — угол между $ \vec{{\color{Blue} \ell }} $ и $ \operatorname{rot} (F)|_{X=P} $, то $$ \omega (Q, \vec{{\color{Blue} \ell }}) = \frac{1}{2} \left| \operatorname{rot} (F)|_{X=P} \right| \cos \theta \, , $$ откуда и вытекает следующее утверждение

Теорема. Величина $ \left| \omega (Q, \vec{{\color{Blue} \ell }}) \right| $ принимает в точке $ P $ наибольшее значение, равное

$$ \frac{1}{2} \left| \operatorname{rot} (F)|_{X=P} \right| $$ когда вектор $ \vec{{\color{Blue} \ell }} $ коллинеарен вектору $ \operatorname{rot} (F)|_{X=P} $.

При этом положении оси колесико $ Q $ получает наибольшую угловую скорость. Для направлений $ \vec{{\color{Blue} \ell }} $, ортогональных к вектору $ \operatorname{rot} (F)|_{X=P} $, будет $ \omega (Q, \vec{{\color{Blue} \ell }}) =0 $: при таком направлении оси колесико вовсе не будет вращаться.

Шилов Г.Е. Математический анализ. Функции нескольких вещественных переменных. М. «Наука». 1972