La función tg^(-1)(x) se llama arcotangente, aunque no es imprescindible saberlo para resolver el ejercicio.
No sé como te lo habrán enseñado, a lo mejor te puede liar si te han dado la fórmula con la notación de Lagrange, pero es lo mismo.
$$\begin{align}&y=tgx\implies x = tg^{-1}y\\ &\\ &\text{Y la regla de derivación de la función inversa dice:}\\ &\\ &\frac{dx}{dy}=\frac{1}{\frac{dy}{dx}}\\ &\\ &\text{luego}\\ &\\ &\frac{d(tg^{-1}y)}{dy}= \frac{1}{\frac {d(tgx)}{x}}=\frac{1}{1+tg^2(x)}= \frac{1}{1+y^2}\\ &\\ &\end{align}$$
Y eso es todo.