Me gustaría derivar la función f(x)= (x^2/x-1)^2

Tienes lo siguiente:

$$\begin{align}&\frac{d}{dx}\left(\left(\frac{x^2}{x-1}\right)^2\right)\\&\\&Resultado:\\&\\&\frac{2x^2\left(x^2-2x\right)}{\left(x-1\right)^3}\end{align}$$

Te paso dos enlaces con problemas similares para que veas cómo se resuelve:

Derivada de un Cociente (Ejemplo 12). Potencia con Regla de la Cadena - YouTube

Derivada de una función racional elevada a una potencia | Regla de la cadena - YouTube