柯西-施瓦茨不等式

柯西-施瓦茨不等式（英语：Cauchy–Schwarz inequality），又称施瓦茨不等式或柯西-布尼亚科夫斯基-施瓦茨不等式或柯西不等式，在多个数学领域中均有应用的不等式；例如线性代数的矢量，数学分析的无穷级数和乘积的积分，和概率论的方差和协方差。它被认为是最重要的数学不等式之一。它有一些推广，如赫尔德不等式。

不等式以奥古斯丁-路易·柯西，赫尔曼·施瓦茨，和维克托·布尼亚科夫斯基（英语：Viktor Bunyakovsky）命名。

叙述

${\displaystyle V}$ 是个复内积空间，则对所有的 ${\displaystyle v,\,w\in V}$ 有：

(a) ${\displaystyle \|v\|\|w\|\geq |\langle v,\,w\rangle |}$

(b) ${\displaystyle \|v\|\|w\|=|\langle v,\,w\rangle |}$ ${\displaystyle \Leftrightarrow }$ 存在 ${\displaystyle \lambda \in \mathbb {C} }$ 使 ${\displaystyle v=\lambda \cdot w}$

证明请见内积空间#柯西-施瓦茨不等式。

特例

实数

定理 — 
对有限实数数列 ${\displaystyle {\{x_{i}\in \mathbb {R} \}}_{i=1}^{n}}$和${\displaystyle {\{y_{i}\in \mathbb {R} \}}_{i=1}^{n}}$，有

${\displaystyle \left(\sum _{i=1}^{n}x_{i}y_{i}\right)^{2}\leq \left(\sum _{i=1}^{n}x_{i}^{2}\right)\left(\sum _{i=1}^{n}y_{i}^{2}\right)}$

也就是

${\displaystyle (x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\geq (x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}}$

等式成立时存在实数${\displaystyle \lambda \in \mathbb {R} }$，对于任意的正整数${\displaystyle i\in \mathbb {N} }$有

${\displaystyle y_{i}=\lambda x_{i}}$

此定理可以根据点积为内积的事实，然后设：

${\displaystyle x=(x_{1},\,\dots ,\,x_{n})\in \mathbb {R} ^{n}}$

${\displaystyle y=(y_{1},\,\dots ,\,y_{n})\in \mathbb {R} ^{n}}$

这样根据一般内积空间的柯西不等式就可以得证，也可以如下依据实数的性质直接证明

证明

考虑一个关于${\displaystyle t}$的一元二次方程式 ${\displaystyle (x_{1}t+y_{1})^{2}+\cdots +(x_{n}t+y_{n})^{2}=0}$ (1) 也就是 ${\displaystyle (x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})t^{2}+2(x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})t+(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})=0}$ (1') 因为对于任意实数${\displaystyle t\in \mathbb {R} }$有 ${\displaystyle (x_{1}t+y_{1})^{2}+\cdots +(x_{n}t+y_{n})^{2}\geq 0}$ 所以${\displaystyle t}$的二次方程式(1')不是没有实数解，不然就是有重根，这样的话，根据二次方程的公式解有 ${\displaystyle D=4(x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}-4(x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\leq 0}$ 即 ${\displaystyle (x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2})(y_{1}^{2}+y_{2}^{2}+\cdots +y_{n}^{2})\geq (x_{1}y_{1}+x_{2}y_{2}+\cdots +x_{n}y_{n})^{2}}$(2) 另一方面，(2)等号成立等价于${\displaystyle D=0}$，这正好就是(1)有重根的情况，换句话说 ${\displaystyle x_{1}t+y_{1}=\cdots =x_{n}t+y_{n}=0}$ 而${\displaystyle -t}$就是定理要求的${\displaystyle \lambda \in \mathbb {R} }$，故本定理得证。${\displaystyle \Box }$

复数

${\displaystyle n}$维复数空间${\displaystyle \mathbb {C} ^{n}}$事实上是个定义在域${\displaystyle \mathbb {C} }$(也就是标量母空间)上的复系数内积空间，只要对任意${\displaystyle x,\,y\in \mathbb {C} ^{n}}$定义如下的内积函数：

${\displaystyle x=(x_{1},\,\dots ,\,x_{n})\in \mathbb {C} ^{n}}$

${\displaystyle y=(y_{1},\,\dots ,\,y_{n})\in \mathbb {C} ^{n}}$

${\displaystyle \langle x,\,y\rangle :=\sum _{i=1}^{n}x_{i}{\overline {y_{i}}}}$

${\displaystyle \|x\|^{2}:=\langle x,\,x\rangle =\sum _{i=1}^{n}x_{i}{\overline {x_{i}}}=\sum _{i=1}^{n}|x_{i}|^{2}}$

这样根据一般内积空间的柯西不等式就有：

${\displaystyle |\langle x,\,y\rangle |\leq \|x\|\|y\|}$

直接以复数性质证明的事实上与一般内积空间的证明方法雷同，请参阅内积空间#柯西-施瓦茨不等式。

矩阵

一般线性代数的书籍习惯将复数版本的柯西不等式以矩阵表示，换句话说，取：

${\displaystyle \mathbf {x} ={\begin{bmatrix}x_{1}\\\ldots \\x_{n}\end{bmatrix}}}$

${\displaystyle \mathbf {y} ={\begin{bmatrix}y_{1}\\\ldots \\y_{n}\end{bmatrix}}}$

${\displaystyle \mathbf {x} ^{\star }:={\begin{bmatrix}{\overline {x_{1}}}&\dots &{\overline {x_{n}}}\end{bmatrix}}}$(共轭加上转置)

这样的话，复数版本的柯西不等式可以重写为：

${\displaystyle \mathbf {x} ^{\star }\mathbf {y} \leq (\mathbf {x} ^{\star }\mathbf {x} )(\mathbf {y} ^{\star }\mathbf {y} )}$

注意到矩阵乘法偷懒地把只有一个元素的矩阵视为那个元素本身，而且为了符合矩阵乘法和线性映射的对应：

${\displaystyle T(\mathbf {x} )=\mathbf {T} \mathbf {x} ={\begin{bmatrix}T_{11}&\cdots &T_{1n}\\\vdots &&\vdots \\T_{nn}&\cdots &T_{nn}\\\end{bmatrix}}{\begin{bmatrix}x_{1}\\\vdots \\x_{n}\end{bmatrix}}}$

必须把内积空间的线性定义改为：（也就是符合狄拉克符号的习惯）

线性	对所有 ${\displaystyle a,\,v,\,w\in V}$	${\displaystyle \langle a,\,v\oplus w\rangle =\langle a,\,v\rangle +\langle a,\,w\rangle }$
	对所有 ${\displaystyle v,\,w\in V}$ 和所有 ${\displaystyle \lambda \in F}$	${\displaystyle \langle v,\,\lambda \cdot w\rangle =\lambda \times \langle v,\,w\rangle }$

但这并没有产生任何新的性质。而等号成立地条件也只是换种说法，说成是${\displaystyle \mathbf {x} }$与${\displaystyle \mathbf {y} }$线性相关。

Lp空间

• 对平方可积的复值函数，有

${\displaystyle \left|\int _{\mathbb {R} ^{n}}f(x){\overline {g(x)}}\,dx\right|^{2}\leq \int _{\mathbb {R} ^{n}}|f(x)|^{2}\,dx\int _{\mathbb {R} ^{n}}|g(x)|^{2}\,dx}$。

可一般化为赫尔德不等式。

• 原不等式可以增强至拉格朗日恒等式

${\displaystyle \langle x,x\rangle \cdot \langle y,y\rangle =|\langle x,y\rangle |^{2}+|x\times y|^{2}}$。

这是

${\displaystyle \left(\sum _{i=1}^{n}x_{i}y_{i}\right)^{2}=\left(\sum _{i=1}^{n}x_{i}^{2}\right)\left(\sum _{i=1}^{n}y_{i}^{2}\right)-\left(\sum _{1\leq i<j\leq n}(x_{i}y_{j}-x_{j}y_{i})^{2}\right)}$

同名的定理

正定对称算子

${\displaystyle V}$是个复内积空间，如果${\displaystyle A\subseteq V}$， ${\displaystyle T:A\to V}$，这时如果对所有${\displaystyle a\in A}$ 都有${\displaystyle \langle A(a),a\rangle \geq 0}$，称${\displaystyle T}$是${\displaystyle V}$的一个正定算子（positive operator）。

类似的，如果对所有${\displaystyle a,\,b\in A}$ 都有${\displaystyle \langle A(a),\,b\rangle =\langle a,\,A(b)\rangle }$，称${\displaystyle T}$是${\displaystyle V}$的一个对称算子（symmetric operator）。

定理 — 
对于复系数内积空间${\displaystyle V}$的线性子空间${\displaystyle A\subseteq V}$，如果${\displaystyle T:A\to V}$是${\displaystyle V}$的一个正定对称的线性映射，则对于任意${\displaystyle x,y\in A}$有：

${\displaystyle |\langle A(x),\,y\rangle |^{2}\leq \langle A(x),\,x\rangle \langle A(y),\,y\rangle }$

证明

若 ${\displaystyle x=y=0_{V}}$ ，注意到对于任意${\displaystyle z\in A}$有 ${\displaystyle {\begin{aligned}\langle \,A(0_{V}),\,0_{V}\,\rangle &=\langle \,A(0_{V}),\,z\oplus (-1)\cdot z\,\rangle \\&=\langle \,A(0_{V}),\,z\,\rangle -\langle \,A(0_{V}),\,z\,\rangle \\&=0\end{aligned}}}$ 所以这种情况下，本不等式成立。 若考虑 ${\displaystyle x,\,y\neq 0_{V}}$ ，取 ${\displaystyle e_{x}={\frac {1}{|\langle \,A(x),\,x\,\rangle |}}\cdot x}$ ${\displaystyle e_{y}={\frac {1}{|\langle \,A(y),\,y\,\rangle |}}\cdot y}$ ${\displaystyle \alpha =\langle A(e_{x}),\,e_{y}\rangle }$ 则 ${\displaystyle {\begin{aligned}\langle \,A[e_{x}\oplus (-\alpha )\cdot e_{y}],\,e_{x}\oplus (-\alpha )\cdot e_{x}\,\rangle &=\langle \,A(e_{x})\oplus (-\alpha )\cdot A(e_{y}),\,e_{x}\oplus (-\alpha )\cdot e_{x}\,\rangle \\&=\langle \,A(e_{x}),\,e_{x}\,\rangle -\alpha \langle \,A(e_{y}),\,e_{x}\,\rangle -{\overline {\alpha }}\langle \,A(e_{x}),\,e_{y}\,\rangle +\alpha {\overline {\alpha }}\langle \,A(e_{y}),\,e_{y}\,\rangle \\&=1-\alpha {\overline {\alpha }}-{\overline {\alpha }}\alpha +\alpha {\overline {\alpha }}\\&=1-\left|{\frac {\langle \,A(x),\,y\,\rangle }{\langle \,A(e_{x}),\,e_{x}\,\rangle \langle \,A(e_{y}),\,e_{y}\,\rangle }}\right|^{2}\\&\geq 0\end{aligned}}}$ 所故得证。${\displaystyle \Box }$

考虑到对称算子${\displaystyle A}$在有有限基底的向量空间中都可以唯一的表示成某个埃尔米特矩阵${\displaystyle \mathbf {A} }$，一般线性代数的书籍习惯以如下的形式表示：

${\displaystyle |\mathbf {A} \mathbf {x^{\star }} \mathbf {y} |^{2}\leq (\mathbf {A} \mathbf {x^{\star }} \mathbf {x} )(\mathbf {A} \mathbf {y^{\star }} \mathbf {y} )}$^[1]

另外，正定算子对应的矩阵元素都必须${\displaystyle \geq 0}$，所以正定对称算子对应的${\displaystyle \mathbf {A} }$是对称且非负的矩阵。

这个定理无法视为本章所述的柯西不等式的特例，因为${\displaystyle \langle \,A(x),\,x\,\rangle =0}$不一定能推出${\displaystyle x=0_{V}}$，如：

${\displaystyle A:\mathbb {C} ^{2\times 1}\to \mathbb {C} ^{2\times 1}}$

${\displaystyle A\left({\begin{bmatrix}x\\y\end{bmatrix}}\right)=\left({\begin{bmatrix}1&1\\1&1\end{bmatrix}}{\begin{bmatrix}x\\y\end{bmatrix}}\right)}$

${\displaystyle \left\langle \,{\begin{bmatrix}a_{1}\\a_{2}\end{bmatrix}},\,{\begin{bmatrix}b_{1}\\b_{2}\end{bmatrix}}\right\rangle :=a_{1}{\overline {b_{1}}}+a_{2}{\overline {b_{2}}}}$

${\displaystyle \left\langle {\begin{bmatrix}1&1\\1&1\end{bmatrix}}{\begin{bmatrix}1\\-1\end{bmatrix}},\,{\begin{bmatrix}1\\-1\end{bmatrix}}\right\rangle =0}$

这使得以下定义的二元函数：

${\displaystyle f:A^{2}\to V}$

${\displaystyle f(x,\,y)=\langle \,A(x),\,y\,\rangle }$

不一定有非退化的性质，而不能视为内积，所以就无法直接套用内积空间的柯西不等式。这也意味着等号成立的条件不必然是线性相关。

复变函数中的柯西不等式

设 ${\displaystyle f(z)}$在区域${\displaystyle D}$及其边界上解析，${\displaystyle a}$ 为${\displaystyle D}$内一点，以${\displaystyle a}$为圆心做圆周 ${\displaystyle C_{R}:|z-a|=R}$，只要${\displaystyle C_{R}}$及其内部${\displaystyle G}$均被${\displaystyle D}$包含，则有：

${\displaystyle \left|f^{(n)}(z_{0})\right|\leq {\frac {n!M}{R^{n}}}\qquad (n=1,2,3,...)}$

其中，M是${\displaystyle |f(z)|}$的最大值，${\displaystyle M=\max \limits _{|x-a|\in R}|f(x)|}$ 。

其它推广

${\displaystyle {\sqrt {\sum _{i=1}^{n}(\sum _{j=1}^{m}a_{ij})^{2}}}\leq \sum _{j=1}^{m}{\sqrt {\sum _{i=1}^{n}a_{ij}^{2}}}}$^[2]

${\displaystyle m\geq \alpha >0,(\sum _{i=1}^{n}\prod _{j=1}^{m}a_{ij})^{\alpha }\leq \prod _{j=1}^{m}\sum _{i=1}^{n}a_{ij}^{\alpha }}$^[3]

若${\displaystyle \displaystyle q_{i}\geq 0,\sum _{i}q_{i}=1}$，则${\displaystyle \displaystyle (x^{*}A^{\sum _{i}a_{i}q_{i}}x)\leq \prod _{i}(x^{*}A^{a_{i}}x)^{q_{i}}}$^[4]

参见

• 三角不等式
• 内积空间

注释