柯西-施瓦茨不等式

柯西-施瓦茨不等式（英語：Cauchy–Schwarz inequality），又稱施瓦茨不等式或柯西-布尼亞科夫斯基-施瓦茨不等式或柯西不等式，在多個数学领域中均有應用的不等式；例如線性代數的矢量，數學分析的無窮級數和乘積的積分，和概率論的方差和協方差。它被认为是最重要的数学不等式之一。它有一些推广，如赫尔德不等式。

不等式以奧古斯丁-路易·柯西，赫爾曼·施瓦茨，和維克托·布尼亞科夫斯基（英语：Viktor Bunyakovsky）命名。

叙述

${\displaystyle V}$ 是個複内积空间，則對所有的 ${\displaystyle v,\,w\in V}$ 有：

(a) ${\displaystyle \|v\|\|w\|\geq |\langle v,\,w\rangle |}$

(b) ${\displaystyle \|v\|\|w\|=|\langle v,\,w\rangle |}$ ${\displaystyle \Leftrightarrow }$ 存在 ${\displaystyle \lambda \in \mathbb {C} }$ 使 ${\displaystyle v=\lambda \cdot w}$

證明請見内积空间#柯西-施瓦茨不等式。

特例

實數

定理 — 
對有限实数数列 ${\displaystyle {\{x_{i}\in \mathbb {R} \}}_{i=1}^{n}}$和${\displaystyle {\{y_{i}\in \mathbb {R} \}}_{i=1}^{n}}$，有

${\displaystyle \left(\sum _{i=1}^{n}x_{i}y_{i}\right)^{2}\leq \left(\sum _{i=1}^{n}x_{i}^{2}\right)\left(\sum _{i=1}^{n}y_{i}^{2}\right)}$

也就是

${\displaystyle (x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\geq (x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}}$

等式成立時存在實數${\displaystyle \lambda \in \mathbb {R} }$，對於任意的正整數${\displaystyle i\in \mathbb {N} }$有

${\displaystyle y_{i}=\lambda x_{i}}$

此定理可以根據点积為内积的事實，然後設：

${\displaystyle x=(x_{1},\,\dots ,\,x_{n})\in \mathbb {R} ^{n}}$

${\displaystyle y=(y_{1},\,\dots ,\,y_{n})\in \mathbb {R} ^{n}}$

這樣根據一般內積空間的柯西不等式就可以得証，也可以如下依據實數的性質直接證明

證明

考慮一個關於${\displaystyle t}$的一元二次方程式 ${\displaystyle (x_{1}t+y_{1})^{2}+\cdots +(x_{n}t+y_{n})^{2}=0}$ (1) 也就是 ${\displaystyle (x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})t^{2}+2(x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})t+(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})=0}$ (1') 因為對於任意實數${\displaystyle t\in \mathbb {R} }$有 ${\displaystyle (x_{1}t+y_{1})^{2}+\cdots +(x_{n}t+y_{n})^{2}\geq 0}$ 所以${\displaystyle t}$的二次方程式(1')不是沒有實數解，不然就是有重根，這樣的話，根據二次方程的公式解有 ${\displaystyle D=4(x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}-4(x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\leq 0}$ 即 ${\displaystyle (x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\geq (x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}}$(2) 另一方面，(2)等號成立等價於${\displaystyle D=0}$，這正好就是(1)有重根的情況，換句話說 ${\displaystyle x_{1}t+y_{1}=\cdots =x_{n}t+y_{n}=0}$ 而${\displaystyle -t}$就是定理要求的${\displaystyle \lambda \in \mathbb {R} }$，故本定理得證。${\displaystyle \Box }$

複數

${\displaystyle n}$維复数空間${\displaystyle \mathbb {C} ^{n}}$事實上是個定義在域${\displaystyle \mathbb {C} }$(也就是純量母空間)上的複係數内积空间，只要對任意${\displaystyle x,\,y\in \mathbb {C} ^{n}}$定義如下的內積函數：

${\displaystyle x=(x_{1},\,\dots ,\,x_{n})\in \mathbb {C} ^{n}}$

${\displaystyle y=(y_{1},\,\dots ,\,y_{n})\in \mathbb {C} ^{n}}$

${\displaystyle \langle x,\,y\rangle :=\sum _{i=1}^{n}x_{i}{\overline {y_{i}}}}$

${\displaystyle \|x\|^{2}:=\langle x,\,x\rangle =\sum _{i=1}^{n}x_{i}{\overline {x_{i}}}=\sum _{i=1}^{n}|x_{i}|^{2}}$

這樣根據一般內積空間的柯西不等式就有：

${\displaystyle |\langle x,\,y\rangle |\leq \|x\|\|y\|}$

直接以複數性質證明的事實上與一般內積空間的證明方法雷同，請參閱内积空间#柯西-施瓦茨不等式。

矩阵

一般线性代数的書籍習慣將複數版本的柯西不等式以矩阵表示，換句話說，取：

${\displaystyle \mathbf {x} ={\begin{bmatrix}x_{1}\\\ldots \\x_{n}\end{bmatrix}}}$

${\displaystyle \mathbf {y} ={\begin{bmatrix}y_{1}\\\ldots \\y_{n}\end{bmatrix}}}$

${\displaystyle \mathbf {x} ^{\star }:={\begin{bmatrix}{\overline {x_{1}}}&\dots &{\overline {x_{n}}}\end{bmatrix}}}$(共軛加上转置)

這樣的話，複數版本的柯西不等式可以重寫為：

${\displaystyle \mathbf {x} ^{\star }\mathbf {y} \leq (\mathbf {x} ^{\star }\mathbf {x} )(\mathbf {y} ^{\star }\mathbf {y} )}$

注意到矩陣乘法偷懶地把只有一個元素的矩陣視為那個元素本身，而且為了符合矩陣乘法和线性映射的對應：

${\displaystyle T(\mathbf {x} )=\mathbf {T} \mathbf {x} ={\begin{bmatrix}T_{11}&\cdots &T_{1n}\\\vdots &&\vdots \\T_{nn}&\cdots &T_{nn}\\\end{bmatrix}}{\begin{bmatrix}x_{1}\\\vdots \\x_{n}\end{bmatrix}}}$

必須把内积空间的線性定義改為：（也就是符合狄拉克符号的習慣）

线性	對所有 ${\displaystyle a,\,v,\,w\in V}$	${\displaystyle \langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle }$
	對所有 ${\displaystyle v,\,w\in V}$ 和所有 ${\displaystyle \lambda \in F}$	${\displaystyle \langle v,\,\lambda \cdot w\rangle =\lambda \times \langle v,\,w\rangle }$

但這並沒有產生任何新的性質。而等號成立地條件也只是換種說法，說成是${\displaystyle \mathbf {x} }$与${\displaystyle \mathbf {y} }$线性相关。

Lp空间

• 對平方可積的複值函數，有

${\displaystyle \left|\int _{\mathbb {R} ^{n}}f(x){\overline {g(x)}}\,dx\right|^{2}\leq \int _{\mathbb {R} ^{n}}|f(x)|^{2}\,dx\int _{\mathbb {R} ^{n}}|g(x)|^{2}\,dx}$。

可一般化為赫爾德不等式。

• 原不等式可以增強至拉格朗日恒等式

${\displaystyle \langle x,x\rangle \cdot \langle y,y\rangle =|\langle x,y\rangle |^{2}+|x\times y|^{2}}$。

这是

${\displaystyle \left(\sum _{i=1}^{n}x_{i}y_{i}\right)^{2}=\left(\sum _{i=1}^{n}x_{i}^{2}\right)\left(\sum _{i=1}^{n}y_{i}^{2}\right)-\left(\sum _{1\leq i<j\leq n}(x_{i}y_{j}-x_{j}y_{i})^{2}\right)}$

同名的定理

正定對稱算子

${\displaystyle V}$是個複内积空间，如果${\displaystyle A\subseteq V}$， ${\displaystyle T:A\to V}$，這時如果對所有${\displaystyle a\in A}$ 都有${\displaystyle \langle A(a),a\rangle \geq 0}$，稱${\displaystyle T}$是${\displaystyle V}$的一個正定算子（positive operator）。

類似的，如果對所有${\displaystyle a,\,b\in A}$ 都有${\displaystyle \langle A(a),\,b\rangle =\langle a,\,A(b)\rangle }$，稱${\displaystyle T}$是${\displaystyle V}$的一個對稱算子（symmetric operator）。

定理 — 
對於複係數内积空间${\displaystyle V}$的线性子空间${\displaystyle A\subseteq V}$，如果${\displaystyle T:A\to V}$是${\displaystyle V}$的一個正定對稱的线性映射，則對於任意${\displaystyle x,y\in A}$有：

${\displaystyle |\langle A(x),\,y\rangle |^{2}\leq \langle A(x),\,x\rangle \langle A(y),\,y\rangle }$

證明

若 ${\displaystyle x=y=0_{V}}$ ，注意到對於任意${\displaystyle z\in A}$有 ${\displaystyle {\begin{aligned}\langle \,A(0_{V}),\,0_{V}\,\rangle &=\langle \,A(0_{V}),\,z\oplus (-1)\cdot z\,\rangle \\&=\langle \,A(0_{V}),\,z\,\rangle -\langle \,A(0_{V}),\,z\,\rangle \\&=0\end{aligned}}}$ 所以這種情況下，本不等式成立。 若考慮 ${\displaystyle x,\,y\neq 0_{V}}$ ，取 ${\displaystyle e_{x}={\frac {1}{|\langle \,A(x),\,x\,\rangle |}}\cdot x}$ ${\displaystyle e_{y}={\frac {1}{|\langle \,A(y),\,y\,\rangle |}}\cdot y}$ ${\displaystyle \alpha =\langle A(e_{x}),\,e_{y}\rangle }$ 則 ${\displaystyle {\begin{aligned}\langle \,A[e_{x}\oplus (-\alpha )\cdot e_{y}],\,e_{x}\oplus (-\alpha )\cdot e_{x}\,\rangle &=\langle \,A(e_{x})\oplus (-\alpha )\cdot A(e_{y}),\,e_{x}\oplus (-\alpha )\cdot e_{x}\,\rangle \\&=\langle \,A(e_{x}),\,e_{x}\,\rangle -\alpha \langle \,A(e_{y}),\,e_{x}\,\rangle -{\overline {\alpha }}\langle \,A(e_{x}),\,e_{y}\,\rangle +\alpha {\overline {\alpha }}\langle \,A(e_{y}),\,e_{y}\,\rangle \\&=1-\alpha {\overline {\alpha }}-{\overline {\alpha }}\alpha +\alpha {\overline {\alpha }}\\&=1-\left|{\frac {\langle \,A(x),\,y\,\rangle }{\langle \,A(e_{x}),\,e_{x}\,\rangle \langle \,A(e_{y}),\,e_{y}\,\rangle }}\right|^{2}\\&\geq 0\end{aligned}}}$ 所故得証。${\displaystyle \Box }$

考慮到對稱算子${\displaystyle A}$在有有限基底的向量空间中都可以唯一的表示成某個埃尔米特矩阵${\displaystyle \mathbf {A} }$，一般线性代数的書籍習慣以如下的形式表示：

${\displaystyle |\mathbf {A} \mathbf {x^{\star }} \mathbf {y} |^{2}\leq (\mathbf {A} \mathbf {x^{\star }} \mathbf {x} )(\mathbf {A} \mathbf {y^{\star }} \mathbf {y} )}$^[1]

另外，正定算子對應的矩陣元素都必須${\displaystyle \geq 0}$，所以正定對稱算子對應的${\displaystyle \mathbf {A} }$是對稱且非負的矩陣。

這個定理無法視為本章所述的柯西不等式的特例，因為${\displaystyle \langle \,A(x),\,x\,\rangle =0}$不一定能推出${\displaystyle x=0_{V}}$，如：

${\displaystyle A:\mathbb {C} ^{2\times 1}\to \mathbb {C} ^{2\times 1}}$

${\displaystyle A\left({\begin{bmatrix}x\\y\end{bmatrix}}\right)=\left({\begin{bmatrix}1&1\\1&1\end{bmatrix}}{\begin{bmatrix}x\\y\end{bmatrix}}\right)}$

${\displaystyle \left\langle \,{\begin{bmatrix}a_{1}\\a_{2}\end{bmatrix}},\,{\begin{bmatrix}b_{1}\\b_{2}\end{bmatrix}}\right\rangle :=a_{1}{\overline {b_{1}}}+a_{2}{\overline {b_{2}}}}$

${\displaystyle \left\langle {\begin{bmatrix}1&1\\1&1\end{bmatrix}}{\begin{bmatrix}1\\-1\end{bmatrix}},\,{\begin{bmatrix}1\\-1\end{bmatrix}}\right\rangle =0}$

這使得以下定義的二元函數：

${\displaystyle f:A^{2}\to V}$

${\displaystyle f(x,\,y)=\langle \,A(x),\,y\,\rangle }$

不一定有非退化的性質，而不能視為內積，所以就無法直接套用內積空間的柯西不等式。這也意味著等號成立的條件不必然是线性相关。

复变函数中的柯西不等式

设 ${\displaystyle f(z)}$在区域${\displaystyle D}$及其边界上解析，${\displaystyle a}$ 为${\displaystyle D}$内一点，以${\displaystyle a}$为圆心做圆周 ${\displaystyle C_{R}:|z-a|=R}$，只要${\displaystyle C_{R}}$及其内部${\displaystyle G}$均被${\displaystyle D}$包含，则有：

${\displaystyle \left|f^{(n)}(z_{0})\right|\leq {\frac {n!M}{R^{n}}}\qquad (n=1,2,3,...)}$

其中，M是${\displaystyle |f(z)|}$的最大值，${\displaystyle M=\max \limits _{|x-a|\in R}|f(x)|}$ 。

其它推广

${\displaystyle {\sqrt {\sum _{i=1}^{n}(\sum _{j=1}^{m}a_{ij})^{2}}}\leq \sum _{j=1}^{m}{\sqrt {\sum _{i=1}^{n}a_{ij}^{2}}}}$^[2]

${\displaystyle m\geq \alpha >0,(\sum _{i=1}^{n}\prod _{j=1}^{m}a_{ij})^{\alpha }\leq \prod _{j=1}^{m}\sum _{i=1}^{n}a_{ij}^{\alpha }}$^[3]

若${\displaystyle \displaystyle q_{i}\geq 0,\sum _{i}q_{i}=1}$，则${\displaystyle \displaystyle (x^{*}A^{\sum _{i}a_{i}q_{i}}x)\leq \prod _{i}(x^{*}A^{a_{i}}x)^{q_{i}}}$^[4]

參見

• 三角不等式
• 內積空間

注释