(1)

или Ax=b методом Гаусса заключается в последовательном исключении неизвестных. Система (1) поэтапно приводится к треугольному виду. Сначала исключается x1 из 2-го, 3-го, ..., n-го уравнений, для этого необходимо сложить уравнения 2,3,...,n с первым уравнением, умноженным на -a21/a11, -a31/a11,..., -an1/a11 соответственно .

(2)

Потом x2 из 3-го,..., n-го умножением второго уравнения на -a¹32/a¹22, -a¹42/a¹22,...,

-a¹n2/a¹22 и сложением с 3,4,..n уравнениями.

И дальше по аналогии система приводится к треугольному виду:

процесс приведения системы к треугольному виду называется прямым ходом. Общие фомулы для прямого хода:

k =1,...,n – 1; i,j = k+1,...,n .

Для нахождения решения теперь необходимо вычислить неизвестные, начиная с n-го уравнения. Процесс вычисления значений неизвестных называется обратным ходом.

На каждом этапе xk находится по формуле

k = n, n-1, ..., 1.