Imagino que ya habrás dado funciones de varias variables y los multiplicadores de Lagrange.
La función a maximizar tiene dos variables
f(x,y) = xy
y la ecuación que liga las variables es
g(x,y) = x^2 + y^2 - 100 = 0
En estas condiciones los máximos o mínimos se obtienen igualando a cero las derivadas parciales de
F(x,y) = f(x,y) + t·g(y)
donde t es el multiplicador de Lagrange que en la teoría te lo habrán llamado alfa
F(x,y) = xy + t·(x^2+y^2-100)
Fx(x,y) = y + 2tx = 0
Fy(x,y) = x+ 2ty = 0
Despejamos t en la primera
t = -y/(2x)
y lo llevamos a la segunda
x - 2y^2/(2x) = 0
2x^2 - 2y^2 = 0
x^2 = y^2
Y deben cumplir también la ecuación de ligadura
x^2 + y^2 - 100 = 0
2x^2 = 100
x^2 = 50
x = +- sqrt(50) = +- 5·sqrt(2)
y=+- 5sqrt(2)
Nótese que se admite cualquier combinación de signos ya que la igualdad solo es necesaria en los cuadrados. Y de las cuatro combinaciones posibles se ve que dos son máximos y dos son mínimos.
Los máximos son
x = 5·sqrt(2), y = 5·sqrt(2)
x = -5sqrt(2), y = -5sqrt(2)
Y cuando una es positiva y la otra negativa son los mínimos que no nos los piden.
Y eso es todo.