Para que exista f'(z) deben existir las derivadas parciales de las funciones u(x, y) y v(x, y), ser continuas y cumplir las condiciones de Cauchy- Riemann
Ya nos dan f(z) descompuesta
u(x,y) = |x^2 - y^2|
v(xy) = |xy|
Ux = 2x si x^2-y^2 >0
-2x si x^2-y^2 < 0
No existe si x^2-y^2=0
Uy = 2y si x^2-y^2 >0
-2y si x^2-y^2 < 0
No existe si x^2-y^2=0
Vx = 2y si xy > 0
-2y si xy < 0
No existe si xy=0
Vy = 2x si xy >0
-2x si xy < 0
No existe si xy=0
¡Pues vaya lío tenemos montado!
Para empezar, no es derivable cuando
x^2-y^2=0
(x+y)(x-y)=0
que son estas dos rectas
y=x
y=-x
ni tampoco es derivable cuando xy=0 que son las rectas
y=0
x=0
En los otros puntos existen las derivadas parciales y son continuas pero vamos a comprobar donde se cumplen las condiciones de Cauchy-Riemann, la primera es
Ux = Vy
Ux = 2x si x^2-y^2 >0
-2x si x^2-y^2 <0
Vy = 2x si xy >0
-2x si xy<0
Se cumple si
x^2 - y^2 > 0 and xy>0 ==>
si x, y>0 ==> 0 < y < x
si x, y<0 ==> 0 < -y < -x
o también se cumple si
x^2 - y^2 < 0 and xy <0
si x>0 and y<0 ==> 0 < x < -y
si x<0 and y>0 ==> 0 < -x < y
La segunda es
Vx = -Uy
Vx = 2y si xy > 0
-2y si xy < 0
Uy = 2y si x^2-y^2 >0
-2y si x^2-y^2 < 0
Se cumple si
x^2 - y^2 >0 and xy <0
si x>0 and y<0 ==> 0 < -y < x
si x <0 and y>0 ==> 0 < y < -x
o también se cumple si
x^2-y^2 <0 and xy>0
si x, y > 0 ==> 0 < x < y
si x, y < 0 ==> 0 < -x < -y
Y si examinamos las 4 formas en que se cumple la primera condición de C-R y las 4 en que se cumple la segunda vemos que no hay ninguna forma coincidente, donde se cumple una no se cumple la otra.
Luego la conclusión sería que no es derivable en ningún punto.