ガウス・ザイデル法をもっと改善する方法がある。ガウス・ザイデル法の解の修正は、 であったが、これをもっと大きなステップにしようというのである。通常 の場合、ガウス・ザイデル法では近似解はいつも同じ側にあり、単調に収束する。そのた め、修正を適当にすれば、もっと早く解に近づく。修正幅を、加速緩和乗数を用 いて、 とする事が考えられた。これが、SOR法である。
具体的な計算手順は、次のようにする。ここでは、ガウス・ザイデル法の式 (26)を用いて、得られた近似解を としている。
ここで、問題なのが加速緩和係数の値の選び方である。明らかに、それが1の場 合、ガウス・ザイデル法となりメリットは無い。また、1以下だと、ガウス・ザイデル法 よりも収束が遅い。ただし、ガウス・ザイデル法で収束しないような問題には使える。
従って、1以上の値にしたいわけであるが、余り大きくすると、発散するのは目に見えて
いる。これについては、2を越えると発散することが分かっている。最適値となると、だ
いたい1.9くらいが選ばれることが多い。