Un sistema en inconsintente cuando la matriz de coeficientes y la matriz ampliada tienen rango distinto. Pero en la practica la definición no suele ayudar mucho. Una forma sencilla de ver que el sistema es inconsistente es que una de sus ecuaciones cuyos coeficientes son todos ceros esta igualada a un número distinto de cero, eso es inconsistencia y absurdo.
Entonces por el método de Gauss se procura dejar la mayor cantidad de ceros y los que no sean ceros deben tener coeficiente variable para poder hacerlo cero. En la segunda ecuación deberíamos hacer ceros por Gauss en la x y la z, y la verdad es que se me antoja difícil. Intentaremos con la primera ecuación que solo habría que hacer cero en la z. Para dejar las ecuaciones en el orden habitual donde se hacen ceros por abajo las cambiaremos de orden
x - (a+b)y-z=0
(a+b)x -(a)y+z=1
Y simplemente consiste en sumar la primera a la segunda y quedan
x - (a+b)y-z=0
(a+b)x +x -ay-(a+b)y=1
simplificando la segunda queda
(a+b+1)x +(-2a-b)y = 1
Y tenemos que hacer que los coeficientes de la x y la y sean cero, con lo que se dará el absurdo que comentaba antes
a+b+1=0
-2a-b = 0
las sumamos
-a +1 = 0
a=1
y ahora se calcula b
1+b+1 = 0
b=-2
Luego el sistema es inconsistente para a=1 y b=-2.
Mira como se ve que inconsistente
-x - y + z = 1
x + y - z = 0
La segunda ecuación en la parte izquierda no es más que la de arriba cambiada de signo, luego tendría que tener resultado -1 pero tiene resultado 0
Sumándolas quedaría
-x - y + z = 1
0x +0y + 0z = 1
en términos matriciales
-1 -1 1 | 1
0 0 0 | 1
Y el rango de la matriz de coeficientes es 1 mientras que el de la matriz ampliada es 2 ya que el menor
1 | 1
0 | 1
y otros dos que hay son distintos de cero.
Y eso es todo,
Y eso es todo.