n개의 선형방정식과 미지수 x를 가진 사각형 시스템에서:

여기서

A는 대각성분 D, 하삼각행렬 부분 L, 상삼각행렬 부분 U의 합으로 행렬 분리될 수 있다.:

여기서

연립방정식을 아래와 같이 다시 쓰자.
![{\displaystyle (D+\omega L)\mathbf {x} =\omega \mathbf {b} -[\omega U+(\omega -1)D]\mathbf {x} }](//wikimedia.org/api/rest_v1/media/math/render/svg/7e83bbf90bf4402a87819cdff801fb3c075eeb46)
상수 ω를 완화계수(relaxation factor)라고 하는데, 가우스-자이델 방법은 ω=1에 해당한다. 가우스-자이델 방법보다 x를 빠르게 바꾸는 가속완화(over-relaxation)를 위해서는 ω > 1이어야 한다. 반대로 ω < 1인 경우는 감속완화(under-relaxation)이라고 한다.
축차가속완화법은 왼쪽에 새로운 x를 놓고, 이전의 x는 오른쪽에 놓는 반복법이다. 해석학적으로, 다음과 같이 설명할 수 있다.
![{\displaystyle \mathbf {x} ^{(k+1)}=(D+\omega L)^{-1}{\big (}\omega \mathbf {b} -[\omega U+(\omega -1)D]\mathbf {x} ^{(k)}{\big )}=L_{w}\mathbf {x} ^{(k)}+\mathbf {c} ,}](//wikimedia.org/api/rest_v1/media/math/render/svg/ee7574980404f589965d6027b5f20112270e84d0)
여기서
는
의 k번째 근사 또는 반복이고,
는
의 k+1번째 근사이다.
하지만 (D+ωL)이 하삼각행렬임을 활용하기 위해, x(k+1)의 각 원소는 전진대입(forward substitution)을 통해 순차적으로 구할 수 있다.:
