Como sabes por el teorema fundamental del calculo
$$\text{Si f(x) es continua y }F(x)=\int_a^xf(t)dt\implies F'(x)=f(x)$$
Aquí lo que falla es que el límite superior de integración no es x sino x^3. Haremos un cambio de variable que transforme x^3 en x
$$\begin{align}&t =s^3 \quad s = \sqrt[3]t\\ &\\ &dt = 3s^2ds\\ &\\ &t=\frac{\pi}{2}\implies s=\sqrt[3]{\frac{\pi}{2}}\\ &\\ &t= x^3 \implies s={\sqrt[3]{x^3}}=x\\ &\\ &\int_{\frac{\pi}{2}}^{x^3}\cos t \;dt=\int_{\sqrt[3]{\frac{\pi}{2}}}^x \cos(s^3)·3s^2 ds\\ &\\ &Luego\\ &\\ &F'(x) = 3x^2cos(x^3)\end{align}$$
Si tienes alguna duda se puede comprobar que esta bien
$$\begin{align}&F(x)=\int_{\pi/2}^{x^3}costdt=\\ &\\ &\left.sen\,t \right|_{\pi/2}^{x^3}= sen x^3-1\\ &\\ &F'(x)=\cos(x^3)·3x^2=3x^2cos(x^3)\end{align}$$
Y eso es todo.