次正方行列
は、上三角行列
、
下三角行列
、対角行列
の和に分離すると、
と書ける。
非対角成分に相当する項をすべて右辺に移項し、すべての量
に
各段階で得られている最新のデータを代入するようにする(ガウス=ザイデル法)。こうして計算された値を
とすると、
は次の形となる[1]。
この値を次段でそのまま採用せずに、ガウス=ザイデル法で本来修正される量
に1より大きい
加速パラメータ([1]では緩和因子、緩和係数と呼ばれている)
を乗じてこの修正量を拡大し、これを前段の近似値
に加えることで、新たな値は
とできる[1]。ただし、桁落ちを防ぐ観点からこの式の通り計算するのではなく、
として計算するか、または本節の最後に書かれた式を用いるのがよい。
この漸化式を、上の
を用いて行列で表現すると、
となり、この2式から
を消去することで、次式が得られる。
上式における
の係数
を反復行列という。
実際の数値計算においては、これを各成分について表した下の式が用いられる。