La ecuación
x^2-y^2 = 303
podemos ponerla como
(x+y)(x-y) = 303
Como x, y >=0 se cumple
x+y>=0
y se puede comprobar que es estricta
x+y > 0
ya que si fuesen 0 no se cumple la ecuación.
Por otra parte
x^2 -y^2 =303 >0
x^2 - y^2 >0
x^2 > y^2
al ser positivos
x > y
Luego
x-y>0
Luego los dos factores del lado izquierdo son enteros positivos. Y tanto (x+y) como (x-y) son divisores de 303
Veamos cuáles son las posibilidades
303 = 3 · 101
No se puede descomponer más
Luego las parejas de divisores de 303 son
303 y 1
101 y 3
Para el primer caso tendremos la ecuación
x+y = 303
x-y = 1
sumándolas
2x = 304
x = 152
y = 151
Y para el segundo caso
x+y = 101
x-y = 3
sumándolas
2x = 104
x = 52
y = 49
Luego las dos parejas de soluciones posibles son
x=152; y=151
x=52; y= 49
Y eso es todo, espero que te sirva y lo hayas entendido. Si no es así pregúntame, y si ya está bien no olvides puntuar.