Esta me parece que es la más complicada de efectuar y luego de simplificar.
$$\begin{align}&y= \frac{{(5x^2-6)^2}}{\sqrt{x^2-16} }\\ &\\ &\\ &\\ &y´=\frac{2(5x^2-6)·10x \sqrt{x^2-16}-(5x^2-6)^2 \frac{2x}{2 \sqrt{x^2-16}}}{x^2-16}=\\ &\\ &\\ &\\ &=\frac{\frac{20x(5x^2-6)(x^2-16)-x(5x^2-6)^2}{\sqrt{x^2-16}}}{x^2-16} =\\ &\\ &\\ &\frac{(5x^2-6)[20x(x^2-16)-x(5x^2-6)]}{\sqrt{(x^2-16)^3}}=\\ &\\ &\\ &\frac{(5x^2-6)(20x^3-320x-5x^3+6x)}{\sqrt{(x^2-16)^3}}=\\ &\\ &\\ &\frac{(5x^2-6)(15x^3-314x)}{\sqrt{(x^2-16)^3}}=\\ &\\ &\\ &\frac{75x^5-1570x^3-90x^3+1884x}{\sqrt{(x^2-16)^3}} =\\ &\\ &\\ &\frac{75x^5-1660x^3+1884x}{\sqrt{(x^2-16)^3}}\\ &\\ &\end{align}$$
Y como cabía esperar me confundí y tuve que volver a empezar, pero ya está bien y verificada.