Esta es la figura.

El cambio es
u=x^2-y^2
v=xy
Eso hace que tras el cambio los limites sean
u € [1,4]
v € [1, 3]
Y debemos calcular el jacobiano del cambio, pero nos lo han puesto difícil ya que hay que poner x y y en función de u y v
u^2 + 4v^2 = x^4+y^4 - 2x^2y^2 + 4x^2y^2 = x^4 + y^4 +2x^2y^2 = (x^2+y^2)^2
sqrt(u^2+4v^2) = x^2+y^2
sumamos esta con la primera del cambio
x^2 - y^2 + x^2 + y^2 = u + sqrt(u^2+4v^2)
2x^2 = u + sqrt(u^2+4v^2)
x^2 = [u + sqrt(u^2+4v^2)] / 2
x = sqrt{[u + sqrt(u^2+4v^2)] / 2}
Y si en vez de sumarlas las hubiéramos restado
x^2+y^2 -(x^2-y^2) = sqrt(u^2+4v^2) - u
2y^2 = sqrt(u^2+4v^2) - u
y = sqrt{[sqrt(u^2+4v^2)-u] / 2}
Es imposible entender nada y derivar si no se usa el editor
$$\begin{align}&x = \sqrt{\frac{u + \sqrt{u^2+4v^2}}{ 2}}\\ &\\ &\frac{\partial x}{\partial u}= \frac{1}{2 \sqrt{\frac{u + \sqrt{u^2+4v^2}}{ 2}} }·\frac 12 \left(1+\frac{u}{\sqrt{u^2+4v^2}}\right)=\\ &\\ &\\ &\frac{1}{4 \sqrt{\frac{u + \sqrt{u^2+4v^2}}{ 2}} }\frac{u + \sqrt{u^2+4v^2}}{\sqrt{u^2+4v^2}}=\\ &\\ &\\ &\frac{\sqrt{u+\sqrt{u^2+4v^2}}}{2 \sqrt 2 \sqrt{u^2+4v^2}}\\ &\\ &\\ &\\ &\\ &\\ &\\ &\\ &\frac{\partial x}{\partial v}=\frac{1}{2 \sqrt{\frac{u + \sqrt{u^2+4v^2}}{ 2}} }\frac 12 \frac{4v}{\sqrt{u^2+4v^2}}=\\ &\\ &\frac{\sqrt 2\;v}{\sqrt{u + \sqrt{u^2+4v^2}} \sqrt{u^2+4v^2}}\end{align}$$
No se puede abusar del editor pondré directamente el resultado de las otras dos parciales
$$\begin{align}&\frac{\partial y}{\partial u}=-\frac{\sqrt{-u+\sqrt{u^2+4v^2}}}{2 \sqrt 2 \sqrt{u^2+4v^2}}\\ &\\ &\\ &\frac{\partial y}{\partial v}=\frac{\sqrt 2\;v}{\sqrt{-u + \sqrt{u^2+4v^2}} \sqrt{u^2+4v^2}}\\ &\end{align}$$
Y el Jacobiano es Xu·Yv - Xv·Yu
$$\begin{align}&\frac{\sqrt{u+\sqrt{u^2+4v^2}}}{2 \sqrt 2 \sqrt{u^2+4v^2}}\frac{\sqrt 2\;v}{\sqrt{-u + \sqrt{u^2+4v^2}} \sqrt{u^2+4v^2}} +\\ &\\ &\frac{\sqrt{-u+\sqrt{u^2+4v^2}}}{2 \sqrt 2 \sqrt{u^2+4v^2}}\frac{\sqrt 2\;u}{\sqrt{u + \sqrt{u^2+4v^2}} \sqrt{u^2+4v^2}}=\\ &\\ &\\ &\frac{1}{2(u^2+4v^2)}\frac{v(u+\sqrt{u^2+4v^2})+u(-u+\sqrt{u^2+4v^2})}{\sqrt{-u + \sqrt{u^2+4v^2}}\sqrt{u + \sqrt{u^2+4v^2}}}=\\ &\\ &\\ &\frac{(u+v)\sqrt{u^2+4v^2}+u(v-u)}{2(u^2+4v^2)(-u^2+u^2+4v^2)}=\\ &\\ &\\ &\frac{(u+v)\sqrt{u^2+4v^2}+u(v-u)}{8v^2(u^2+4v^2)}=\\ &\\ &\\ &\\ &\\ &\end{align}$$
Es imposible que de aquí se pueda llegar a ninguna parte, seguramente hay una errata en el cambio de variable que nos dicen.