初等矩阵的逆矩阵其实是一个同类型的初等矩阵（可看作逆变换）。例如，交换矩阵中某两行（列）的位置；用一个非零常数k乘以矩阵的某一行（列）；将矩阵的某一行（列）乘以常数k后加到另一行（列）上去。

初等行变换不影响线性方程组的解，也可用于高斯消元法，用于逐渐将系数矩阵化为标准形。初等行变换不改变矩阵的核（故不改变解集），但改变了矩阵的像。反过来，初等列变换没有改变像却改变了核。

有的时候，当矩阵的阶数比较高的时候，使用其行列式的值和伴随矩阵求解其逆矩阵会产生较大的计算量。这时，通常使用将原矩阵和相同行数（也等于列数）的单位矩阵并排，再使用初等变换的方法将这个并排矩阵的左边化为单位矩阵，这时，右边的矩阵即为原矩阵的逆矩阵。