No, no es de las binomias es más sencilla.
$$\begin{align}&\frac 23\int_0^{\sqrt 2}(2-x^2)^{\frac 32}dx =\\ &\\ &x= \sqrt 2\,sen\,t\quad dx = \sqrt 2 \cos t\\ &x=0 \implies t=0\\ &x=\sqrt 2 \implies \sqrt{2}=\sqrt{2}\,sen\,t\implies \\ &\quad \quad \quad sen\,t=1\implies t=\frac{\pi}{2}\\ &\\ &=\frac 32\int_0^{\pi/2}(2-2sen^2t)^{3/2}\sqrt 2\,\cos\,t\,dt=\\ &\\ &=\frac 32\int_0^{\pi/2}2^{3/2}\sqrt 2(1-sen^2t)^{3/2}\cos\,t\,dt=\\ &\\ &\frac{3}{2}·2^{3/2}2^{1/2}\int_0^{\pi/2}{(\cos^2t)^{3/2}}cost\,dt =\\ &\frac 32·2^{4/2} \int_0^{\pi/2}\cos^4t\,dt\\ &\\ &\end{align}$$
La integral de cos^4(t) no es difícil pero lleva su trabajo.
Luego olvídate de todo lo hecho y voy a hacer lo que tenía que haber hecho desde el principio. Sabemos de sobra que estos problemas los ponen para resolverse por cambio de variable múltiple. En este caso veo que tiene problemas el cálculo del parámetro ro (vector tridimensional) de las esféricas luego probaré con las cilíndricas cuyo vector ro está en el plano.
El ángulo theta variará entre 0 y Pi/2 por ser el primer octante, el radio vector ro varía 0 y raíz de 2, y la z es la misma luego varía en [x^2+y^2, 2] El Jacobiano del cambio vale ro.
Y el cambio es
x = ro·cos(theta)
y = ro·sen(theta)
z=z
Cabe prestar atención a que se cumple x^2+y^2 = ro^2
Todo esto de la forma de hacer el cambio son cosas que tendrás en la teoría si necesitas que lo explique mejor dímelo.
$$\begin{align}&V=\int_0^{\sqrt 2}\int_0^{\sqrt{2-x^2}}\int_{x^2+y^2}^2dz\,dy\,dx=\\ &\\ &\int_0^{\sqrt 2}\int_0^{\pi/2}\int_{\rho^2}^2\rho \,dz\,d\theta\,d\rho=\\ &\\ &\int_0^{\sqrt 2}\int_0^{\pi/2}\left. \rho z \right|_{\rho^2}^2 \;d\theta\,d\rho =\\ &\\ &\int_0^{\sqrt 2}\int_0^{\pi/2}(2\rho-\rho^3)d\theta\,d\rho=\\ &\\ &\int_0^{\sqrt 2}\frac{\pi}{2}(2\rho-\rho^3)d\rho =\\ &\\ &\frac{\pi}{2}\left[p^2-\frac{\rho^4}{4} \right]_0^{\sqrt 2}= \frac{\pi}{2}(2-1-0+0)=\frac{\pi}{2}\end{align}$$
Y eso es todo, desde luego que era por cambio de variable múltiple.
Espero que te sirva y lo hayas entendido. Si no es así pregúntame. Y si ya está bien no olvides puntuar.