Lo que se hace es conseguir hacer ceros en las filas de más abajo. Cuando hay alguna fila con todos ceros sobra esa ecuación y el sistema tiene infinitas soluciones(o ninguna si es incompatible por otro motivo) dependiendo de tantos parámetros como ecuaciones sobran.
Y si alguna fila tiene todo ceros en los coeficientes de las incógnitas pero un número distinto de cero en los resultados el sistema es incompatible.
Cuando el sistema es de orden 2 se puede hacer más rápido. Los valores que hacen que el sistema sea indeterminado o incompatible son los que hacen que el determinante sea 0, luego se estudia para cada respuesta cuál de los dos casos es.
Ponemos el sistema de la forma habitual
2x + ky = -3
kx + 2y = 1
2 k | -3
k 2 | 1
El determinante de la matriz es
2·2 - k·k = 4 - k^2
4-k^2 = 0
k^2 = 4
k = 2 y -2
Veamos como es la ecuación en cada caso.
Primero para k= 2
2x + 2y = -3
2x + 2y = 1
Es incompatible porque es absurdo, si restamos la primera a la segúnda queda
0x+0y = 4
0=4
Y segundo para k=-2
2x -2y = -3
-2x + 2y = 1
Sumándolas queda
0x+0y = -2
0=-2
Igualmente absurdo.
Luego los valores de k que hacen que no haya solución son 2 y -2. Y para todos los demás la solución es única.
Y eso es todo.