梯度

在向量微积分中，梯度（英语：gradient）是一种关于多元导数的概括^[1]。平常的一元（单变量）函数的导数是标量值函数，而多元函数的梯度是向量值函数。多元可微函数${\displaystyle f}$在点${\displaystyle P}$上的梯度，是以${\displaystyle f}$在${\displaystyle P}$上的偏导数为分量的向量^[2]。

关于同名角度单位，请见“梯度 (角)”。

上面两个图中，标量场的值用灰度表示，越暗表示越大的数值，而其相应的梯度用蓝色箭头表示。

就像一元函数的导数表示这个函数图形的切线的斜率^[3]，如果多元函数在点${\displaystyle P}$上的梯度不是零向量，则它的方向是这个函数在${\displaystyle P}$上最大增长的方向、而它的量是在这个方向上的增长率^[4]。

梯度向量中的幅值和方向是与坐标的选择无关的独立量^[5]。

在欧几里德空间或更一般的流形之间的多元可微映射的向量值函数的梯度推广是雅可比矩阵^[6]。在巴拿赫空间之间的函数的进一步推广是弗雷歇导数。

梯度的解释

将2D函数f(x, y) = xe^{−(x2 + y2)}的梯度绘制为蓝色箭头，还绘制了这个函数的伪色图。

假设有一个房间，房间内所有点的温度由一个标量场${\displaystyle \phi }$给出的，即点${\displaystyle (x,y,z)}$的温度是${\displaystyle \phi (x,y,z)}$。假设温度不随时间改变。然后，在房间的每一点，该点的梯度将显示变热最快的方向。梯度的大小将表示在该方向上的温度变化率。

考虑一座高度在${\displaystyle (x,y)}$点是${\displaystyle H(x,y)}$的山。${\displaystyle H}$这一点的梯度是在该点坡度（或者说斜度）最陡的方向。梯度的大小告诉我们坡度到底有多陡。

梯度也可以告诉我们一个数量在不是最快变化方向的其他方向的变化速度。再次考虑山坡的例子。可以有条直接上山的路其坡度是最大的，则其坡度是梯度的大小。也可以有一条和上坡方向成一个角度的路，例如投影在水平面上的夹角为60°。则，若最陡的坡度是40%，这条路的坡度小一点，是20%，也就是40%乘以60°的余弦。

这个现象可以如下数学的表示。山的高度函数${\displaystyle H}$的梯度点积一个单位向量给出表面在该向量的方向上的斜率。这称为方向导数。

定义 

将函数f(x,y) = −(cos²x + cos²y)²的梯度描绘为在底面上投影的向量场。

标量函数 ${\displaystyle f\colon \mathbb {R} ^{n}\mapsto \mathbb {R} }$的梯度表示为：${\displaystyle \nabla f}$ 或${\displaystyle \operatorname {grad} f}$，其中 ${\displaystyle \nabla }$（nabla）表示向量微分算子。

函数 ${\displaystyle f}$的梯度，${\displaystyle \nabla f}$， 为向量场且对任意单位向量 v 满足下列方程式:

${\displaystyle {\big (}\nabla f(x){\big )}\cdot \mathbf {v} =D_{\mathbf {v} }f(x)}$。

直角坐标系

${\displaystyle \nabla f}$在三维直角坐标系中表示为

${\displaystyle \nabla f={\begin{pmatrix}{\frac {\partial f}{\partial x}},{\frac {\partial f}{\partial y}},{\frac {\partial f}{\partial z}}\end{pmatrix}}={\frac {\partial f}{\partial x}}\mathbf {i} +{\frac {\partial f}{\partial y}}\mathbf {j} +{\frac {\partial f}{\partial z}}\mathbf {k} }$，

i, j, k 为标准的单位向量，分别指向 x, y 跟 z 坐标的方向。 （参看偏导数和向量。）

虽然使用坐标表达，但结果是在正交变换下不变，从几何的观点来看，这是应该的。

举例来讲，函数${\displaystyle f(x,y,z)=2x+3y^{2}-\sin(z)}$的梯度为：

${\displaystyle \nabla f={\begin{pmatrix}{2},{6y},{-\cos(z)}\end{pmatrix}}=2\mathbf {i} +6y\mathbf {j} -\cos(z)\mathbf {k} }$。

圆柱坐标系

在圆柱坐标系中，${\displaystyle f}$ 的梯度为：^[7]

${\displaystyle \nabla f(\rho ,\varphi ,z)={\frac {\partial f}{\partial \rho }}\mathbf {e} _{\rho }+{\frac {1}{\rho }}{\frac {\partial f}{\partial \varphi }}\mathbf {e} _{\varphi }+{\frac {\partial f}{\partial z}}\mathbf {e} _{z}}$，

ρ 是 P 点与 z-轴的垂直距离。 φ 是线 OP 在 xy-面的投影线与正 x-轴之间的夹角。 z 与直角坐标的 ${\displaystyle z}$ 等值。 e_ρ, e_φ 跟 e_z 为单位向量，指向坐标的方向。

球坐标系

在球坐标系中：

${\displaystyle \nabla f(r,\theta ,\varphi )={\frac {\partial f}{\partial r}}\mathbf {e} _{r}+{\frac {1}{r}}{\frac {\partial f}{\partial \theta }}\mathbf {e} _{\theta }+{\frac {1}{r\sin \theta }}{\frac {\partial f}{\partial \varphi }}\mathbf {e} _{\varphi }}$，

其中θ为极角，φ方位角。

实值函数相对于向量和矩阵的梯度

相对于n×1向量x的梯度算子记作${\displaystyle \nabla _{\boldsymbol {x}}}$，定义为^[8]

${\displaystyle \nabla _{\boldsymbol {x}}{\overset {\underset {\mathrm {def} }{}}{=}}\left[{\frac {\partial }{\partial x_{1}}},{\frac {\partial }{\partial x_{2}}},\cdots ,{\frac {\partial }{\partial x_{n}}}\right]^{T}={\frac {\partial }{\partial {\boldsymbol {x}}}}}$

对向量的梯度

以n×1实向量x为变元的实标量函数f(x)相对于x的梯度为一n×1列向量x，定义为

${\displaystyle \nabla _{\boldsymbol {x}}f({\boldsymbol {x}}){\overset {\underset {\mathrm {def} }{}}{=}}\left[{\frac {\partial f({\boldsymbol {x}})}{\partial x_{1}}},{\frac {\partial f({\boldsymbol {x}})}{\partial x_{2}}},\cdots ,{\frac {\partial f({\boldsymbol {x}})}{\partial x_{n}}}\right]^{T}={\frac {\partial f({\boldsymbol {x}})}{\partial {\boldsymbol {x}}}}}$

m维行向量函数${\displaystyle {\boldsymbol {f}}({\boldsymbol {x}})=[f_{1}({\boldsymbol {x}}),f_{2}({\boldsymbol {x}}),\cdots ,f_{m}({\boldsymbol {x}})]}$相对于n维实向量x的梯度为一n×m矩阵，定义为

${\displaystyle \nabla _{\boldsymbol {x}}{\boldsymbol {f}}({\boldsymbol {x}}){\overset {\underset {\mathrm {def} }{}}{=}}{\begin{bmatrix}{\frac {\partial f_{1}({\boldsymbol {x}})}{\partial x_{1}}}&{\frac {\partial f_{2}({\boldsymbol {x}})}{\partial x_{1}}}&\cdots &{\frac {\partial f_{m}({\boldsymbol {x}})}{\partial x_{1}}}\\{\frac {\partial f_{1}({\boldsymbol {x}})}{\partial x_{2}}}&{\frac {\partial f_{2}({\boldsymbol {x}})}{\partial x_{2}}}&\cdots &{\frac {\partial f_{m}({\boldsymbol {x}})}{\partial x_{2}}}\\\vdots &\vdots &\ddots &\vdots \\{\frac {\partial f_{1}({\boldsymbol {x}})}{\partial x_{n}}}&{\frac {\partial f_{2}({\boldsymbol {x}})}{\partial x_{n}}}&\cdots &{\frac {\partial f_{m}({\boldsymbol {x}})}{\partial x_{n}}}\\\end{bmatrix}}={\frac {\partial {\boldsymbol {f}}({\boldsymbol {x}})}{\partial {\boldsymbol {x}}}}}$

对矩阵的梯度

标量函数${\displaystyle f({\boldsymbol {A}})}$相对于m×n实矩阵A的梯度为一m×n矩阵，简称梯度矩阵，定义为

${\displaystyle \nabla _{\boldsymbol {A}}f({\boldsymbol {A}}){\overset {\underset {\mathrm {def} }{}}{=}}{\begin{bmatrix}{\frac {\partial f({\boldsymbol {A}})}{\partial a_{11}}}&{\frac {\partial f({\boldsymbol {A}})}{\partial a_{12}}}&\cdots &{\frac {\partial f({\boldsymbol {A}})}{\partial a_{1n}}}\\{\frac {\partial f({\boldsymbol {A}})}{\partial a_{21}}}&{\frac {\partial f({\boldsymbol {A}})}{\partial a_{22}}}&\cdots &{\frac {\partial f({\boldsymbol {A}})}{\partial a_{2n}}}\\\vdots &\vdots &\ddots &\vdots \\{\frac {\partial f({\boldsymbol {A}})}{\partial a_{m1}}}&{\frac {\partial f({\boldsymbol {A}})}{\partial a_{m2}}}&\cdots &{\frac {\partial f({\boldsymbol {A}})}{\partial a_{mn}}}\\\end{bmatrix}}={\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

法则

以下法则适用于实标量函数对向量的梯度以及对矩阵的梯度。

• 线性法则：若${\displaystyle f({\boldsymbol {A}})}$和${\displaystyle g({\boldsymbol {A}})}$分别是矩阵A的实标量函数，c₁和c₂为实常数，则

  ${\displaystyle {\frac {\partial [c_{1}f({\boldsymbol {A}})+c_{2}g({\boldsymbol {A}})]}{\partial {\boldsymbol {A}}}}=c_{1}{\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+c_{2}{\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

• 乘积法则：若${\displaystyle f({\boldsymbol {A}})}$，${\displaystyle g({\boldsymbol {A}})}$和${\displaystyle h({\boldsymbol {A}})}$分别是矩阵A的实标量函数，则

  ${\displaystyle {\frac {\partial f({\boldsymbol {A}})g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}=g({\boldsymbol {A}}){\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+f({\boldsymbol {A}}){\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

  ${\displaystyle {\frac {\partial f({\boldsymbol {A}})g({\boldsymbol {A}})h({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}=g({\boldsymbol {A}})h({\boldsymbol {A}}){\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+f({\boldsymbol {A}})h({\boldsymbol {A}}){\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+f({\boldsymbol {A}})g({\boldsymbol {A}}){\frac {\partial h({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

• 商法则：若${\displaystyle g({\boldsymbol {A}})\neq 0}$，则

  ${\displaystyle {\frac {\partial f({\boldsymbol {A}})/g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}={\frac {1}{g({\boldsymbol {A}})^{2}}}\left[g({\boldsymbol {A}}){\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}-f({\boldsymbol {A}}){\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}\right]}$

• 链式法则：若A为m×n矩阵，且${\displaystyle y=f({\boldsymbol {A}})}$和${\displaystyle g(y)}$分别是以矩阵A和标量y为变元的实标量函数，则

  ${\displaystyle {\frac {\partial g(f({\boldsymbol {A}}))}{\partial {\boldsymbol {A}}}}={\frac {dg(y)}{dy}}{\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

流形上的梯度

一个黎曼流形${\displaystyle M}$上的对于任意可微函数${\displaystyle f}$的梯度${\displaystyle \nabla f}$是一个向量场，使得对于每个向量 ${\displaystyle \xi }$，

${\displaystyle \langle \nabla f,\xi \rangle :=\xi f}$

其中${\displaystyle \langle \cdot ,\cdot \rangle }$代表${\displaystyle M}$上的内积（度量）而 ${\displaystyle \xi f(p),p\in M}$是${\displaystyle f}$在点${\displaystyle p}$，方向为${\displaystyle \xi (p)}$的方向导数。换句话说，如果${\displaystyle \varphi :U\subseteq M\mapsto \mathbb {R} ^{n}}$为${\displaystyle p}$附近的局部坐标，在此坐标下有${\displaystyle \xi (x)=\sum _{j}a_{j}(x){\frac {\partial }{\partial x_{j}}}}$,则${\displaystyle \xi f(p)}$将成为：

${\displaystyle \xi (f\mid _{p}):=\sum _{j}a_{j}({\frac {\partial }{\partial x_{j}}}(f\circ \varphi ^{-1})\mid _{\varphi (p)})}$。

函数的梯度和外微分相关，因为${\displaystyle \xi f=df(\xi )}$，实际上内积容许我们可以用一种标准的方式将1-形式${\displaystyle df}$和向量场${\displaystyle \nabla f}$建立联系。由${\displaystyle \nabla f}$的定义，${\displaystyle df(\xi )=\langle \nabla f,\xi \rangle }$，这样${\displaystyle f}$的梯度可以"等同"于0-形式的外微分${\displaystyle df}$，这里"等同"意味着：两集合${\displaystyle \{df\}}$和${\displaystyle \{\nabla f\}}$之间有1对1的满射。

由定义可算流形上${\displaystyle \nabla f}$的局部坐标表达式为：

${\displaystyle \nabla f=\sum _{ik}g^{ik}{\frac {\partial f}{\partial x^{k}}}{\frac {\partial }{\partial x^{i}}}}$。

请注意这是流形上对黎曼度量 ${\displaystyle ds^{2}=\sum _{ij}g_{ij}dx^{i}dx^{j}}$的公式，跟${\displaystyle \mathbb {R} ^{n}}$ 里直角坐标的公式不同。常常我们写时会省略求和${\displaystyle \sum }$符号，不过为了避免混淆，在这里的公式还是加上去了。

参看

• 雅可比矩阵
• 散度
• 旋度
• 偏导数
• 索贝尔算子
• 向量分析
• 离子梯度
• 梯度下降法
• 等位集合（Level set）
• 外微分
• 在圆柱和球坐标系中的del

参考文献