正交变换

在线性代数中，正交变换是线性变换的一种。如果对于任意向量${\displaystyle \mathbf {u} }$和${\displaystyle \mathbf {v} }$其内积等于正交变换后之向量${\displaystyle T({\displaystyle \mathbf {u} })}$和${\displaystyle T({\displaystyle \mathbf {v} })}$之内积，则称之为正交变换。

${\displaystyle \langle {\mathbf {u} ,\mathbf {v} }\rangle =\langle {T(\mathbf {u} ),T(\mathbf {v} )}\rangle }$

按照长度的定义，可知正交变换后的向量长度与变换前的长度相同^[1]。

${\displaystyle \|T(\mathbf {x} )\|=\|\mathbf {x} \|}$

其中${\displaystyle \|\mathbf {x} \|}$在空间${\displaystyle R^{n}}$内，${\displaystyle n}$表示维度。

${\displaystyle \langle {\mathbf {u} ,\mathbf {v} }\rangle =\langle {T(\mathbf {u} ),T(\mathbf {v} )}\rangle =\textstyle \sum _{n=0}^{N-1}u[n]v[n]\displaystyle }$

其中${\displaystyle N}$为向量长度，${\displaystyle u[n]}$和${\displaystyle v[n]}$分别为${\displaystyle \mathbf {u} }$和${\displaystyle \mathbf {v} }$之元素，正交变换不会影响变换前后向量间的夹角和内积长度。

在矩阵表示形式上，如果${\displaystyle T(\mathbf {x} )=\mathbf {A} \mathbf {x} }$为正交变换，则为${\displaystyle \mathbf {A} }$正交矩阵，对于正交变换之正交矩阵${\displaystyle \mathbf {A} }$，其每个列互为正交，令${\displaystyle \mathbf {A} }$为${\displaystyle M\times N}$之矩阵，取两个不相同的列${\displaystyle \phi _{k}}$和${\displaystyle \phi _{h}}$ (${\displaystyle k\neq h}$)遵守下列关系。

${\displaystyle \langle \phi _{k},\phi _{h}\rangle =0}$

性质

1. 正交变换${\displaystyle T}$不会改变向量间的正交性，如果${\displaystyle \mathbf {u} }$和${\displaystyle \mathbf {v} }$正交，则${\displaystyle T({\displaystyle \mathbf {u} })}$和${\displaystyle T({\displaystyle \mathbf {v} })}$亦为正交。

${\displaystyle Proof:}$

根据勾股定理，正交变换后的向量会符合下式：

${\displaystyle \|T(\mathbf {u} )+T(\mathbf {v} )\|^{2}=\|T(\mathbf {u} )\|^{2}+\|T(\mathbf {v} )\|^{2}}$

因为正交变换属于线性变换：

${\displaystyle \|T(\mathbf {u} )+T(\mathbf {v} )\|^{2}=\|T(\mathbf {u} +\mathbf {v} )\|^{2}}$

正交变换前后向量的长度相同：

${\displaystyle \|T(\mathbf {u} )+T(\mathbf {v} )\|^{2}=\|\mathbf {u} +\mathbf {v} \|^{2}}$

再根据勾股定理，且和正交：

${\displaystyle \|\mathbf {u} +\mathbf {v} \|^{2}=\|\mathbf {u} \|^{2}+\|\mathbf {v} \|^{2}}$

再根据正交变换的性质，正交变换前后向量的长度相同：

${\displaystyle \|\mathbf {u} \|^{2}+\|\mathbf {v} \|^{2}=\|T(\mathbf {u} )\|^{2}+\|T(\mathbf {v} )\|^{2}}$

2. 如果${\displaystyle \mathbf {A} }$和${\displaystyle \mathbf {B} }$皆为正交矩阵，则${\displaystyle \mathbf {AB} }$亦为正交矩阵。

${\displaystyle Proof:}$

令一正交变换为：

${\displaystyle T(\mathbf {x} )=\mathbf {ABx} }$

正交变换后长度不变：

${\displaystyle \|T(\mathbf {x} )\|=\|\mathbf {ABx} \|=\|\mathbf {A(Bx)} \|=\|\mathbf {Bx} \|=\|\mathbf {x} \|}$

3. 如果${\displaystyle \mathbf {A} }$为正交矩阵，${\displaystyle \mathbf {A} }$的反矩阵${\displaystyle \mathbf {A} ^{-1}}$亦为正交矩阵。

${\displaystyle Proof:}$

令一正交变换为：

${\displaystyle T(\mathbf {x} )=\mathbf {Ax} }$

单位矩阵${\displaystyle \mathbf {I} }$和${\displaystyle \mathbf {x} }$相乘为${\displaystyle \mathbf {x} }$自己，且矩阵和反矩阵相乘为单位矩阵：

${\displaystyle \mathbf {Ix} =\mathbf {AA^{-1}x} =\mathbf {x} }$

正交变换后长度不变：

${\displaystyle \|\mathbf {AA^{-1}x} \|=\|\mathbf {A(A^{-1}x)} \|=\|\mathbf {x} \|}$

4. 正交变换容易做反运算

${\displaystyle Proof:}$

令ㄧ正交矩阵${\displaystyle \mathbf {A} }$，${\displaystyle \mathbf {A} }$和${\displaystyle \mathbf {A} ^{H}}$相乘为一对角矩阵${\displaystyle \mathbf {D} }$，其中上标${\displaystyle H}$表示Hermitain运算。

${\displaystyle \mathbf {A} \mathbf {A} ^{H}=\mathbf {D} }$

将${\displaystyle \mathbf {D} }$乘上自己的反矩阵${\displaystyle \mathbf {D} ^{-1}}$可得一单为矩阵${\displaystyle \mathbf {I} }$。

${\displaystyle \mathbf {D} \mathbf {D} ^{-1}=\mathbf {I} }$

又${\displaystyle \mathbf {D} }$可分解为${\displaystyle \mathbf {A} }$和${\displaystyle \mathbf {A} ^{H}}$

${\displaystyle \mathbf {A} \mathbf {A} ^{H}\mathbf {D} ^{-1}=\mathbf {I} }$

根据上式，将两侧乘上${\displaystyle \mathbf {A} }$的反矩阵${\displaystyle \mathbf {A} ^{-1}}$即可得知的反矩阵知公式。

${\displaystyle \mathbf {A} ^{-1}=\mathbf {A} ^{H}\mathbf {D} ^{-1}}$

计算${\displaystyle \mathbf {D} }$的反矩阵${\displaystyle \mathbf {D} ^{-1}}$比直接求反矩阵容易，只要相对角线之值做倒数即可。如果${\displaystyle \mathbf {A} ^{T}}$的每一行皆为单位向量，则：

${\displaystyle \mathbf {A} ^{-1}=\mathbf {A} ^{H}}$

5. 对于正交变换${\displaystyle T}$，如果${\displaystyle \mathbf {u} }$和${\displaystyle \mathbf {v} }$可以做内积，${\displaystyle T({\displaystyle \mathbf {u} })}$和${\displaystyle T({\displaystyle \mathbf {v} })}$做内积之值等于${\displaystyle \mathbf {u} }$和${\displaystyle \mathbf {v} }$做内积之值。^[2]

${\displaystyle Proof:}$

根据极化恒等式：

${\displaystyle \langle {\mathbf {x} ,\mathbf {y} }\rangle ={\frac {1}{4}}(\|\mathbf {x} +\mathbf {y} \|^{2}-\|\mathbf {x} -\mathbf {y} \|^{2})}$

将上式代入${\displaystyle T({\displaystyle \mathbf {u} })}$和${\displaystyle T({\displaystyle \mathbf {v} })}$：

${\displaystyle \langle {T(\mathbf {u} ),T(\mathbf {v} )}\rangle ={\frac {1}{4}}(\|T(\mathbf {u} )+T(\mathbf {v} )\|^{2}-\|T(\mathbf {u} )-T(\mathbf {v} )\|^{2})}$

因为${\displaystyle T}$为线性变换，变换前做加减法和变换后做加减法之值应相同：

${\displaystyle \langle {T(\mathbf {u} ),T(\mathbf {v} )}\rangle ={\frac {1}{4}}(\|T(\mathbf {u} +\mathbf {v} )\|^{2}-\|T(\mathbf {u} -\mathbf {v} )\|^{2})}$

正交变换前后向量的长度相同：

${\displaystyle \langle {T(\mathbf {u} ),T(\mathbf {v} )}\rangle ={\frac {1}{4}}(\|\mathbf {u} +\mathbf {v} \|^{2}-\|\mathbf {u} -\mathbf {v} \|^{2})}$

再根代入${\displaystyle \mathbf {u} }$和${\displaystyle \mathbf {v} }$之据极化恒等式：

${\displaystyle \langle {T(\mathbf {u} ),T(\mathbf {v} )}\rangle =\langle {\mathbf {u} ,\mathbf {v} }\rangle }$

范例和应用

正交变换的种类非常的广，像是discrete Fourier transform、discrete cosine, sine, Hartley transforms、Walsh Transform, Haar Transform等都属于正交变换。对矩阵做旋转或是镜射也属于正交变换。这里会举出一些简单的正交变换例子。

1. 对于${\displaystyle reflect_{V}()}$以subspace ${\displaystyle V}$为基准做镜射(${\displaystyle V}$ in ${\displaystyle R^{n}}$)，令${\displaystyle \mathbf {x} ^{\shortparallel }}$为平行之向量，${\displaystyle \mathbf {x} ^{\perp }}$为正交之向量^[2]：

${\displaystyle \|reflect_{V}(\mathbf {x} )\|^{2}=\|\mathbf {x} ^{\shortparallel }-\mathbf {x} ^{\perp }\|^{2}}$

因为${\displaystyle \mathbf {x} ^{\shortparallel }}$和${\displaystyle \mathbf {x} ^{\perp }}$互为正交，可以根据勾股定理做分解：

${\displaystyle \|reflect_{V}(\mathbf {x} )\|^{2}=\|\mathbf {x} ^{\shortparallel }\|^{2}+\|-\mathbf {x} ^{\perp }\|^{2}=\|\mathbf {x} ^{\shortparallel }\|^{2}+\|\mathbf {x} ^{\perp }\|^{2}=\|\mathbf {x} \|^{2}}$

2. 这里以DFT为例证明DFT矩阵为正交矩阵，对于${\displaystyle N}$点DFT，可得一个${\displaystyle N\times N}$矩阵，且${\displaystyle \omega ^{n}=e^{j2\pi n/N}}$：

${\displaystyle \mathbf {W} ={\frac {1}{\sqrt {N}}}{\begin{bmatrix}1&1&1&\cdots &1\\1&\omega &\omega ^{2}&\cdots &\omega ^{N-1}\\1&\omega ^{2}&\omega ^{4}&\cdots &\omega ^{2(N-1)}\\\cdots &\cdots &\cdots &\cdots &\cdots \\1&\omega ^{N-1}&\omega ^{2(N-1)}&\cdots &\omega ^{(N-1)(N-1)}\end{bmatrix}}}$

${\displaystyle \mathbf {W} }$为symmetric矩阵，令的${\displaystyle \mathbf {W} }$每个列为：

${\displaystyle \mathbf {w} _{n}={\begin{bmatrix}1&\omega ^{n}&\omega ^{2}n&\cdots &\omega ^{(N-1)n}\end{bmatrix}}}$

令任意二列做内积：

${\displaystyle \langle {\mathbf {w} _{m},\mathbf {w} _{n}}\rangle =\mathbf {w} _{m}\centerdot \mathbf {w} _{n}^{H}={\frac {1}{N}}\textstyle \sum _{k=0}^{N-1}e^{j2\pi km/N}e^{-j2\pi kn/N}\displaystyle ={\frac {1}{N}}\textstyle \sum _{k=0}^{N-1}e^{j(2\pi km/N)(m-n)}\displaystyle }$

上式可以化成pulse function，只有列和自己做内积才为${\displaystyle 1}$，即：

${\displaystyle \langle {\mathbf {w} _{m},\mathbf {w} _{n}}\rangle ={\begin{cases}1,&{\text{if }}m=n\\0,&{\text{if }}m\neq n\end{cases}}}$

3. 正交变换可以参数计算变得容易，令${\displaystyle \phi _{n}}$为正交矩阵的列，列彼此互相正交，${\displaystyle c_{n}}$而为${\displaystyle \phi _{n}}$对应之参数，即给定下式中的${\displaystyle y}$和${\displaystyle \phi _{n}}$，参数${\displaystyle c_{n}}$之值可以很容易的计算出来。

${\displaystyle y=\textstyle \sum _{n=0}^{N-1}c_{n}\phi _{n}\displaystyle }$

如果要求出${\displaystyle c_{m}}$，则将上式与${\displaystyle \phi _{m}}$做内积：

${\displaystyle \langle y,\phi _{m}\rangle =\textstyle \sum _{n=0}^{N-1}c_{n}\langle \phi _{n},\phi _{m}\rangle \displaystyle }$

因为在${\displaystyle n\neq m}$时，${\displaystyle \phi _{n}}$和${\displaystyle \phi _{m}}$做内积为0，可得下式：

${\displaystyle \langle y,\phi _{m}\rangle =c_{m}\langle \phi _{m},\phi _{m}\rangle }$

最后同除${\displaystyle \langle \phi _{m},\phi _{m}\rangle }$即可得到对应之参数：

${\displaystyle c_{m}={\frac {\langle y,\phi _{m}\rangle }{\langle \phi _{m},\phi _{m}\rangle }}}$

4. 在讯号压缩上，对于原始讯号：

${\displaystyle y=\textstyle \sum _{n=0}^{N-1}c_{n}\phi _{n}\displaystyle }$

假设进行压缩，要压缩成：

${\displaystyle {\hat {y}}=\textstyle \sum _{n=0}^{K-1}c_{n}\phi _{n}\displaystyle }$

当${\displaystyle K\leq N}$时，${\displaystyle K}$越大，${\displaystyle |y-{\hat {y}}|}$越小

5. 在通讯应用上，会利用正交基来和讯号做调变，正交的特性会使通道间不会互相干扰。

参见

• 瑕旋转
• 内积空间
• 线性变换
• 正交矩阵
• 酉变换