Armndo: ¿Cuál es la duda? Como la matriz es de 3x4, como máximo el rango será 3.
Gauss J: ve triángulando la matriz, si se te anulan filas, entonces esas no las cuentas y el rango será la cantidad de filas diferentes de 0 que queden
Determinantes: acá se puede llegar a demorar más. Lo primero que debes hacer es elegir submatrices de 3x3 (para el determinante necesitas que la matriz sea cuadrada).
A esta submatriz hallada (de 3x3) le calculas el determinante, si te dio distinto de 0 ya está y el determinante es 3, en caso que te de 0, entonces tienes que hallar otra submatriz de 3x3.
Repites el paso anterior mientras los determinantes de todas las submatrices halladas te den 0 o hasta que hallas calculado todas las posibilidades de matrices de 3x3
Si encontraste algún determinante de 3x3 distinto de cero (con uno alcanza), entonces el rango es 3 y terminó, en caso que todas te hallan dado 0, entonces tienes que armar matrices de 2x2 y repetir el procedimiento para ver si el rango es 2
Repites los pasos anteriores hasta que hallas podido calcular un determinante que sea distinto de 0 o te hallas quedado con 1 sola fila.
Te dejo un poco más de teoría al respecto