Yo suponía que era una pregunta de ecuaciones diofánticas cuadradas, pero parece que no está en ese tema. Es muy importante no solo el enunciado de los ejercicios sino en que capítulo están.
Este se resuelva por congruencias, está en el libro. Consideramos la congruencia módulo 5.
Primero demostraremos que todo cuadrado de número natural cumple lo siguiente:
i) Si n es múltiplo de 5 entonces n^2 :~ 0 (mod 5)
Ii) Si n no es múltiplo de 5 entonces n^2 :~ 1 o 4 (mod 5)
La primera es obvia. Si n :~ 0 (mod 5) ==> n^2 :~ 0·0 :~0 (mod 5)
Para la segunda separamos n en la suma del múltiplo de 5 anterior y lo que resta
n = 5m+r con 0 < r < 5
n^2 = (5m)^2 + 10mr + r^2 :~ r^2
y r^2 puede ser
{1, 4, 9, 16} :~ {1, 4, 4, 1}
Y una vez demostrado eso vayamos con la igualdad
x^2 - 2y^2 = 10
Si x e y fueran múltiplos de 5 tendríamos x^2 e y^2 serían múltiplos de 25 y
x^2 - 2y^2 sería múltiplo de 25, luego no podría ser 10.
Para los otros casos tengamos en cuenta que debe cumplirse
x^2 - 2y^2 :~ 10 :~ 0 (mod 5)
Si x múltiplo de 5 e y no
x^2 - 2y^2 :~ 0 - 2(1 o 4) :~ (-2 o - 8) :~ (3 o 2) luego no se cumple
Si x no es múltiplo de 5 e y si
x^2 - 2y^2 :~ (1 o 4) - 0 :~ (1 o 4) tampoco se cumple
Si ninguno es múltiplo de 5
x^2 - 2y^2 :~ (1 o 4) - 2(1 o 4) :~ (1 o 4) - (2 u 8) :~(-1, -7, 2 o -4) :~ (4,3,2 o 1) (mod 5) tampoco se cumple.
Y ya se revisaron todos los casos posibles y nunca puede darse la igualdad.