Se puede hacer la integral completa y derivar después
$$\begin{align}&F(x)=\int_{\frac{\pi}{2}}^{x^2}6\cos tdt = 6\left. sen t\right|_{\pi/2}^{x^2}=\\ &\\ &6sen x^2 - 6 sen(\pi/2) = 6senx^2-6\\ &\\ &\text { y ahora al derivar}\\ &\\ &F'(x) = 12x·\cos(x^2)\end{align}$$
Pero seguramente lo que quieren es que hagas uso del teorema fundamental del Cálculo por el cual si
$$\begin{align}&F(x) =\int_a^xf(t)dt \implies F'(x)=f(x)\end{align}$$
Lo que debemos es hacer que mediante un cambio de variable el limite superior de la integral sea una variable a secas, la misma que la del diferencial.
Si hacemos el cambio de variable
z= t^2
conseguiremos eso
$$\begin{align}&\int_{\pi/2}^{x^2}6cost dt =\\ &\\ &z^2=t\\ &2z\,dz=dt\\ &t=x^2\implies z^2=x^2 \implies z=x\\ &t=\pi/2 \implies z^2=\pi/2\implies z=\sqrt{\pi/2}\\ &\\ &\\ &=\int_{\sqrt{\pi/2}}^z 6cos (z^2)·2z\,dz=\\ &\\ &\int_{\sqrt{\pi/2}}^z 12z·\cos z^2\,dz\\ &\\ &\text {Y aplicando el teorema}\\ &\\ &F'(x) = 12x·\cos x^2\end{align}$$