梯度

在向量微積分中，梯度（英語：gradient）是一種關於多元導數的概括^[1]。平常的一元（單變量）函數的導數是純量值函數，而多元函數的梯度是向量值函數。多元可微函數${\displaystyle f}$在點${\displaystyle P}$上的梯度，是以${\displaystyle f}$在${\displaystyle P}$上的偏導數為分量的向量^[2]。

關於同名角度單位，請見「梯度 (角)」。

上面兩個圖中，純量場的值用灰度表示，越暗表示越大的數值，而其相應的梯度用藍色箭頭表示。

就像一元函數的導數表示這個函數圖形的切線的斜率^[3]，如果多元函數在點${\displaystyle P}$上的梯度不是零向量，則它的方向是這個函數在${\displaystyle P}$上最大增長的方向、而它的量是在這個方向上的增長率^[4]。

梯度向量中的幅值和方向是與坐標的選擇無關的獨立量^[5]。

在歐幾里德空間或更一般的流形之間的多元可微映射的向量值函數的梯度推廣是雅可比矩陣^[6]。在巴拿赫空間之間的函數的進一步推廣是弗雷歇導數。

梯度的解釋

將2D函數f(x, y) = xe^{−(x2 + y2)}的梯度繪製為藍色箭頭，還繪製了這個函數的偽色圖。

假設有一個房間，房間內所有點的溫度由一個純量場${\displaystyle \phi }$給出的，即點${\displaystyle (x,y,z)}$的溫度是${\displaystyle \phi (x,y,z)}$。假設溫度不隨時間改變。然後，在房間的每一點，該點的梯度將顯示變熱最快的方向。梯度的大小將表示在該方向上的溫度變化率。

考慮一座高度在${\displaystyle (x,y)}$點是${\displaystyle H(x,y)}$的山。${\displaystyle H}$這一點的梯度是在該點坡度（或者說斜度）最陡的方向。梯度的大小告訴我們坡度到底有多陡。

梯度也可以告訴我們一個數量在不是最快變化方向的其他方向的變化速度。再次考慮山坡的例子。可以有條直接上山的路其坡度是最大的，則其坡度是梯度的大小。也可以有一條和上坡方向成一個角度的路，例如投影在水平面上的夾角為60°。則，若最陡的坡度是40%，這條路的坡度小一點，是20%，也就是40%乘以60°的餘弦。

這個現象可以如下數學的表示。山的高度函數${\displaystyle H}$的梯度點積一個單位向量給出表面在該向量的方向上的斜率。這稱為方向導數。

定義 

將函數f(x,y) = −(cos²x + cos²y)²的梯度描繪為在底面上投影的向量場。

純量函數 ${\displaystyle f\colon \mathbb {R} ^{n}\mapsto \mathbb {R} }$的梯度表示為：${\displaystyle \nabla f}$ 或${\displaystyle \operatorname {grad} f}$，其中 ${\displaystyle \nabla }$（nabla）表示向量微分算子。

函數 ${\displaystyle f}$的梯度，${\displaystyle \nabla f}$， 為向量場且對任意單位向量 v 滿足下列方程式:

${\displaystyle {\big (}\nabla f(x){\big )}\cdot \mathbf {v} =D_{\mathbf {v} }f(x)}$。

直角坐標系

${\displaystyle \nabla f}$在三維直角坐標系中表示為

${\displaystyle \nabla f={\begin{pmatrix}{\frac {\partial f}{\partial x}},{\frac {\partial f}{\partial y}},{\frac {\partial f}{\partial z}}\end{pmatrix}}={\frac {\partial f}{\partial x}}\mathbf {i} +{\frac {\partial f}{\partial y}}\mathbf {j} +{\frac {\partial f}{\partial z}}\mathbf {k} }$，

i, j, k 為標準的單位向量，分別指向 x, y 跟 z 座標的方向。 （參看偏導數和向量。）

雖然使用坐標表達，但結果是在正交轉換下不變，從幾何的觀點來看，這是應該的。

舉例來講，函數${\displaystyle f(x,y,z)=2x+3y^{2}-\sin(z)}$的梯度為：

${\displaystyle \nabla f={\begin{pmatrix}{2},{6y},{-\cos(z)}\end{pmatrix}}=2\mathbf {i} +6y\mathbf {j} -\cos(z)\mathbf {k} }$。

圓柱坐標系

在圓柱坐標系中，${\displaystyle f}$ 的梯度為：^[7]

${\displaystyle \nabla f(\rho ,\varphi ,z)={\frac {\partial f}{\partial \rho }}\mathbf {e} _{\rho }+{\frac {1}{\rho }}{\frac {\partial f}{\partial \varphi }}\mathbf {e} _{\varphi }+{\frac {\partial f}{\partial z}}\mathbf {e} _{z}}$，

ρ 是 P 點與 z-軸的垂直距離。 φ 是線 OP 在 xy-面的投影線與正 x-軸之間的夾角。 z 與直角坐標的 ${\displaystyle z}$ 等值。 e_ρ, e_φ 跟 e_z 為單位向量，指向座標的方向。

球坐標系

在球坐標系中：

${\displaystyle \nabla f(r,\theta ,\varphi )={\frac {\partial f}{\partial r}}\mathbf {e} _{r}+{\frac {1}{r}}{\frac {\partial f}{\partial \theta }}\mathbf {e} _{\theta }+{\frac {1}{r\sin \theta }}{\frac {\partial f}{\partial \varphi }}\mathbf {e} _{\varphi }}$，

其中θ為極角，φ方位角。

實值函數相對於向量和矩陣的梯度

相對於n×1向量x的梯度算子記作${\displaystyle \nabla _{\boldsymbol {x}}}$，定義為^[8]

${\displaystyle \nabla _{\boldsymbol {x}}{\overset {\underset {\mathrm {def} }{}}{=}}\left[{\frac {\partial }{\partial x_{1}}},{\frac {\partial }{\partial x_{2}}},\cdots ,{\frac {\partial }{\partial x_{n}}}\right]^{T}={\frac {\partial }{\partial {\boldsymbol {x}}}}}$

對向量的梯度

以n×1實向量x為變元的實純量函數f(x)相對於x的梯度為一n×1列向量x，定義為

${\displaystyle \nabla _{\boldsymbol {x}}f({\boldsymbol {x}}){\overset {\underset {\mathrm {def} }{}}{=}}\left[{\frac {\partial f({\boldsymbol {x}})}{\partial x_{1}}},{\frac {\partial f({\boldsymbol {x}})}{\partial x_{2}}},\cdots ,{\frac {\partial f({\boldsymbol {x}})}{\partial x_{n}}}\right]^{T}={\frac {\partial f({\boldsymbol {x}})}{\partial {\boldsymbol {x}}}}}$

m維行向量函數${\displaystyle {\boldsymbol {f}}({\boldsymbol {x}})=[f_{1}({\boldsymbol {x}}),f_{2}({\boldsymbol {x}}),\cdots ,f_{m}({\boldsymbol {x}})]}$相對於n維實向量x的梯度為一n×m矩陣，定義為

${\displaystyle \nabla _{\boldsymbol {x}}{\boldsymbol {f}}({\boldsymbol {x}}){\overset {\underset {\mathrm {def} }{}}{=}}{\begin{bmatrix}{\frac {\partial f_{1}({\boldsymbol {x}})}{\partial x_{1}}}&{\frac {\partial f_{2}({\boldsymbol {x}})}{\partial x_{1}}}&\cdots &{\frac {\partial f_{m}({\boldsymbol {x}})}{\partial x_{1}}}\\{\frac {\partial f_{1}({\boldsymbol {x}})}{\partial x_{2}}}&{\frac {\partial f_{2}({\boldsymbol {x}})}{\partial x_{2}}}&\cdots &{\frac {\partial f_{m}({\boldsymbol {x}})}{\partial x_{2}}}\\\vdots &\vdots &\ddots &\vdots \\{\frac {\partial f_{1}({\boldsymbol {x}})}{\partial x_{n}}}&{\frac {\partial f_{2}({\boldsymbol {x}})}{\partial x_{n}}}&\cdots &{\frac {\partial f_{m}({\boldsymbol {x}})}{\partial x_{n}}}\\\end{bmatrix}}={\frac {\partial {\boldsymbol {f}}({\boldsymbol {x}})}{\partial {\boldsymbol {x}}}}}$

對矩陣的梯度

純量函數${\displaystyle f({\boldsymbol {A}})}$相對於m×n實矩陣A的梯度為一m×n矩陣，簡稱梯度矩陣，定義為

${\displaystyle \nabla _{\boldsymbol {A}}f({\boldsymbol {A}}){\overset {\underset {\mathrm {def} }{}}{=}}{\begin{bmatrix}{\frac {\partial f({\boldsymbol {A}})}{\partial a_{11}}}&{\frac {\partial f({\boldsymbol {A}})}{\partial a_{12}}}&\cdots &{\frac {\partial f({\boldsymbol {A}})}{\partial a_{1n}}}\\{\frac {\partial f({\boldsymbol {A}})}{\partial a_{21}}}&{\frac {\partial f({\boldsymbol {A}})}{\partial a_{22}}}&\cdots &{\frac {\partial f({\boldsymbol {A}})}{\partial a_{2n}}}\\\vdots &\vdots &\ddots &\vdots \\{\frac {\partial f({\boldsymbol {A}})}{\partial a_{m1}}}&{\frac {\partial f({\boldsymbol {A}})}{\partial a_{m2}}}&\cdots &{\frac {\partial f({\boldsymbol {A}})}{\partial a_{mn}}}\\\end{bmatrix}}={\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

法則

以下法則適用於實純量函數對向量的梯度以及對矩陣的梯度。

• 線性法則：若${\displaystyle f({\boldsymbol {A}})}$和${\displaystyle g({\boldsymbol {A}})}$分別是矩陣A的實純量函數，c₁和c₂為實常數，則

  ${\displaystyle {\frac {\partial [c_{1}f({\boldsymbol {A}})+c_{2}g({\boldsymbol {A}})]}{\partial {\boldsymbol {A}}}}=c_{1}{\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+c_{2}{\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

• 乘積法則：若${\displaystyle f({\boldsymbol {A}})}$，${\displaystyle g({\boldsymbol {A}})}$和${\displaystyle h({\boldsymbol {A}})}$分別是矩陣A的實純量函數，則

  ${\displaystyle {\frac {\partial f({\boldsymbol {A}})g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}=g({\boldsymbol {A}}){\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+f({\boldsymbol {A}}){\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

  ${\displaystyle {\frac {\partial f({\boldsymbol {A}})g({\boldsymbol {A}})h({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}=g({\boldsymbol {A}})h({\boldsymbol {A}}){\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+f({\boldsymbol {A}})h({\boldsymbol {A}}){\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}+f({\boldsymbol {A}})g({\boldsymbol {A}}){\frac {\partial h({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

• 商法則：若${\displaystyle g({\boldsymbol {A}})\neq 0}$，則

  ${\displaystyle {\frac {\partial f({\boldsymbol {A}})/g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}={\frac {1}{g({\boldsymbol {A}})^{2}}}\left[g({\boldsymbol {A}}){\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}-f({\boldsymbol {A}}){\frac {\partial g({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}\right]}$

• 連鎖律：若A為m×n矩陣，且${\displaystyle y=f({\boldsymbol {A}})}$和${\displaystyle g(y)}$分別是以矩陣A和純量y為變元的實純量函數，則

  ${\displaystyle {\frac {\partial g(f({\boldsymbol {A}}))}{\partial {\boldsymbol {A}}}}={\frac {dg(y)}{dy}}{\frac {\partial f({\boldsymbol {A}})}{\partial {\boldsymbol {A}}}}}$

流形上的梯度

一個黎曼流形${\displaystyle M}$上的對於任意可微函數${\displaystyle f}$的梯度${\displaystyle \nabla f}$是一個向量場，使得對於每個向量 ${\displaystyle \xi }$，

${\displaystyle \langle \nabla f,\xi \rangle :=\xi f}$

其中${\displaystyle \langle \cdot ,\cdot \rangle }$代表${\displaystyle M}$上的內積（度量）而 ${\displaystyle \xi f(p),p\in M}$是${\displaystyle f}$在點${\displaystyle p}$，方向為${\displaystyle \xi (p)}$的方向導數。換句話說，如果${\displaystyle \varphi :U\subseteq M\mapsto \mathbb {R} ^{n}}$為${\displaystyle p}$附近的局部座標，在此座標下有${\displaystyle \xi (x)=\sum _{j}a_{j}(x){\frac {\partial }{\partial x_{j}}}}$,則${\displaystyle \xi f(p)}$將成為：

${\displaystyle \xi (f\mid _{p}):=\sum _{j}a_{j}({\frac {\partial }{\partial x_{j}}}(f\circ \varphi ^{-1})\mid _{\varphi (p)})}$。

函數的梯度和外微分相關，因為${\displaystyle \xi f=df(\xi )}$，實際上內積容許我們可以用一種標準的方式將1-形式${\displaystyle df}$和向量場${\displaystyle \nabla f}$建立聯繫。由${\displaystyle \nabla f}$的定義，${\displaystyle df(\xi )=\langle \nabla f,\xi \rangle }$，這樣${\displaystyle f}$的梯度可以"等同"於0-形式的外微分${\displaystyle df}$，這裡"等同"意味著：兩集合${\displaystyle \{df\}}$和${\displaystyle \{\nabla f\}}$之間有1對1的滿射。

由定義可算流形上${\displaystyle \nabla f}$的局部座標表達式為：

${\displaystyle \nabla f=\sum _{ik}g^{ik}{\frac {\partial f}{\partial x^{k}}}{\frac {\partial }{\partial x^{i}}}}$。

請注意這是流形上對黎曼度量 ${\displaystyle ds^{2}=\sum _{ij}g_{ij}dx^{i}dx^{j}}$的公式，跟${\displaystyle \mathbb {R} ^{n}}$ 裡直角座標的公式不同。常常我們寫時會省略求和${\displaystyle \sum }$符號，不過為了避免混淆，在這裡的公式還是加上去了。

參看

• 雅可比矩陣
• 散度
• 旋度
• 偏導數
• 索貝爾算子
• 向量分析
• 離子梯度
• 梯度下降法
• 等位集合（Level set）
• 外微分
• 在圓柱和球坐標系中的del

參考文獻