x^2 está relacionado con la derivada del argumento x^3, luego parece adecuado el cambio t=x^3
$$\begin{align}&\int x^2·tg^2(x^3)dx =\\ &\\ &t=x^3\quad dt=3x^2dx\quad x^2dx=\frac{dt}{3}\\ &\\ &=\int tg^2t·\frac{dt}{3}= \frac 13 \int tg^2t dt =\\ &\\ &\frac 13 \left(\int (1+tg^2t)dt-\int dt \right)=\\ &\\ &\frac{tgt-t}{3}+C=\\ &\\ &\text{y deshaciendo el cambio}\\ &\\ &=\frac{tg(x^3)-x^3}{3}+C\\ &\end{align}$$
Bueno, a lo mejor la resolución de la integral de tg^2(t) no ha sido muy clara, para mí sí porque toda mi vida he tenido que
tg'(x) = 1 + tg^2(x)
lo que pasa es que en otros sitios se estudia que
tg'(x) = sec^2(x)
Que es lo mismo pero muy distinto para según que operaciones.
Voy a resolver de otra forma la integral de tg^2(t)
$$\begin{align}&\int tg^2tdt=\int \frac{sen^2t}{\cos^2t}dt =\\ &\\ &\int \frac{1-\cos^2t}{\cos^2t}dt=\\ &\\ &\int \left(\frac{1}{\cos^2t}-1\right)dt\\ &\\ &\int ( sec^2t-1)dt = tgt-t+C\end{align}$$
Como ves era la misma integral, esta segunda forma es más natural pero más larga.
Y eso es todo.