Vamos a ver que no lo hice muy bien. No leí el último cuadrado que habías escrito a mano, otra vez ponlo como expresión matemática, es mucho más comodo leer
x^2 + y^2 = z^2
La gráfica cambia un poco pero el método será igual.
El volumen es la integral de las superficies de los círculos que se obtienen al cortar horizontalmente. Necesitamos conocer el radio de cada círculo dependiendo de la altura
La circunferencia intersección a una altura zo tiene por ecuación
z = zo ==> z^2 = zo^2
z^2 = x^2 + y^2
x^2 + y^2 = zo^2
Esta es la ecuación de una circunferencia de radio zo.
Por lo tanto el área del círculoi será
A(zo) = pi·zo^2
Puesto como función de z es
A(z) = pi·z^2
Y el volumen es la integral de estas áreas a lo largo del eje z desde el vértice donde z=0 hasta h.
$$\int_0^h \pi z^2 dz = \left.\pi \frac{z^3}{3}\right|_0^h= \pi \frac{h^3}{3}$$
Lo cual es verdadero ya que se trata del volumen de un cono
V = (1/3)pi·r^2·h
y como este cono tiene igual radio que altura
V = (1/3)pi·h^3
No he conseguido programa que logre resolver tu integral para comprobarla. Se supone que tiene que dar ese mismo resultado, pero los diferenciales de volumen que has tomado para integrar no son los más apropiados.
Y eso es todo.