$$\begin{align}&(3+3x^2+6y+6yx^2)^3dy=x^2dx\\ &(3+6y+3x^2+6yx^2)^3dy=x^2dx\\ &[3(1+2y)+3x^2(1+2y)]^3dy=x^2dx\\ &[(3+3x^2)(1+2y)]^3dy=x^2dx\\ &[(3+3x^2)^3((1+2y)]^3dy=x^2dx\\ &(1+2y)^3dy=\frac{x^2}{(3+3x^2)^3}dx\\ &\\ &Integras.\\ &\\ &i)\int{(1+2y)^3dy}=ii)\int{\frac{x^2}{(3+3x^2)^3}dx}\\ &\\ &i)\int{(1+2y)^3dy}\\ &\\ &u=1+2y\\ &\frac{du}{2}=dy--->\frac{1}{2}\int{(u)^3dy}=\frac{(1+2y)^4}{8}\\ &\\ &ii)\frac{1}{27}\int{\frac{x^2}{(1+x^2)^3}dx}\end{align}$$
Bueno primero se debe factorizar y así no desarrollar la cubica que nos molesta. Luego separe las "y" de las "x", ambas para cada lado de la igualdad, luego aplique las integrales, la primera integral (i), es por sustitución, la segunda (ii) puede hacer por sustitución trigonométrica, eso se me ocurre a mí, por tiempo no la desarrollare, pero la dejare expresada.
$$\begin{align}&ii)\frac{1}{27}\int{\frac{x^2}{(1+x^2)^3}dx}\\ &\\ &ii)\frac{1}{27}\int{\frac{x^2}{(\sqrt{1+x^2})^6}dx}\\ &\\ &Sustitución.\\ &\\ &x=tg(\alpha)\\ &dx=sec^2(\alpha)d(\alpha)\end{align}$$
Suerte.