Es un problema que tuve yo en tiempos. Imagínate yo, el experto en matemáticas sin poder usar la equis, poco menos que me volví loco hasta que me lo resolvieron. Pero por lo que veo no lo han solucionado para todo el mundo, son bastantes preguntas que me mandan donde falla eso.
Entonces creo quieres decir:
Si tengo f(x) = 2x/(x-1) y g(x) = x/(x+5) determina:
(f+g)^2, (f-g)^2, (f·g)^2 y (f/g)^2
Fíjate que los denominadores deben encerrarse entre paréntesis porque si no se considera como denominador solo el término inmediatamente posterior. Fijate también que el exponente no es exponente por el simple hecho de estar a la derecha, debe llevar delante el signo ^
$$\begin{align}&(f+g)^2(x)= [f(x)+g(x)]^2=\\ &\\ &\left(\frac{2x}{x-1}+\frac{x}{x+5}\right)^2 =\\ &\\ &\left[\frac{2x(x+5)+x(x-1)}{(x-1)(x+5)} \right]^2 =\\ &\\ &\left[\frac{2x^2+10x+x^2-x}{x^2+4x-5} \right]^2 =\\ &\\ &\left[\frac{3x^2+9x}{x^2+4x-5} \right]^2\end{align}$$
Si efectuamos los cuadrados va a quedar peor, se deja así:
$$\begin{align}&(f-g)^2(x)= [f(x)-g(x)]^2=\\ &\\ &\left(\frac{2x}{x-1}-\frac{x}{x+5}\right)^2 =\\ &\\ &\left[\frac{2x(x+5)-x(x-1)}{(x-1)(x+5)} \right]^2 =\\ &\\ &\left[\frac{2x^2+10x-x^2+x}{x^2+4x-5} \right]^2 =\\ &\\ &\left[\frac{x^2+11x}{x^2+4x-5} \right]^2\end{align}$$
$$\begin{align}&(f·g)^2(x)= [f(x)·g(x)]^2=\\ &\\ &\left(\frac{2x}{x-1}·\frac{x}{x+5}\right)^2 =\\ &\\ &\left[\frac{2x^2}{(x-1)(x+5)} \right]^2 =\frac{4x^4}{(x^2+4x-5)^2}\\ &\\ &\end{align}$$
La forma de dejar el resultado depende muchas veces de los gustos del que lo hace. SI el profesor te exige dejalo de una forma concreta tendrás que hacerlo así.
$$\begin{align}&(f/g)^2(x)= \left[\frac {f(x)}{g(x)}\right]^2 =\\ &\\ &\\ &\\ &\left[\frac{\frac{2x}{x-1}}{\frac{x}{x+5}}\right]^2 =\left[\frac{2x(x+5)}{x(x-1)} \right]^2=\\ &\\ &\\ &\left[\frac{2x^2+10}{x^2-x} \right]^2 = \frac{4x^4+40x^2+100}{x^4-2x^3+x^2}\end{align}$$