Imagino que lo quieres decir es que se forma la caja recortando unos cuadrados en las esquinas y doblando hacia arriba los cuatro laterales que se forman.
Sea x la longitud del lado del cuadradito que se recorta. La caja quedará con un cuadrado por base de lado 30-2x y la altura será x
Por lo cual el volumen de la caja será
V(x) = x(30-2x)^2 = 900x - 120x^2 + 4x^3
Derivamos el volumen respecto a x e igualamos a 0
V'(x) = 900 - 240x + 12x^2 = 0
Dividiendo por 12
x^2 - 20x + 75 = 0
Resolvamos la ecuación
x = [20 +- sqrt(400 - 300)] / 2 =
[20 +- sqrt(100)] / 2 = (20 +- 10) / 2 = 15 y 5 cm
Si recortamos 15 resulta que lo recortamos todo y no queda caja, luego hay que recortar 5 cm
Veamos que es ún máximo a través de la derivada segunda
V''(x) = -240 + 24x
V''(5) = -240 + 120 = -120 que es negativo y por tanto el punto x=5 es un máximo
Luego las dimensiones que van a quedar en la cajita son
30-2·5 = 20cm de lado de la base y 5cm de altura
Y eso es todo, espero que te sirva y lo hayas entendido. Si no es así pregúntame. Y si ya está bien, no olvides puntuar para poder hacer futuras consultas.