在矩阵中可画出一条阶梯线，线的下方全为0，每个台阶只有一行，台阶数即是非零行的行数，阶梯线的竖线(每段竖线的长度为一行)后面的第一个元素为非零元，也就是非零行的第一个非零元，则称该矩阵为行阶梯矩阵。

若非零行的第一个非零元都为1，且这个非零元所在的列的其他元素都为0，则称该矩阵为行最简形矩阵。