No sé si estás preguntando de algún ejercicio en particular o de todos ellos. Te haré el primero.
$$\begin{align}&B = \frac{A^2-1}{A^2+1}\\&\frac{\sqrt{ab}}{a+b} = \frac{(\frac{\sqrt{a}+\sqrt{b}}{\sqrt{a}-\sqrt{b}})^2-1}{(\frac{\sqrt{a}+\sqrt{b}}{\sqrt{a}-\sqrt{b}})^2+1}\\&\frac{\sqrt{ab}}{a+b} = \frac{\frac{(\sqrt{a}+\sqrt{b})^2}{(\sqrt{a}-\sqrt{b})^2}-1}{\frac{(\sqrt{a}+\sqrt{b})^2}{(\sqrt{a}-\sqrt{b})^2}+1}\\&\frac{\sqrt{ab}}{a+b} = \frac{\frac{(\sqrt{a}+\sqrt{b})^2-(\sqrt{a}-\sqrt{b})^2}{(\sqrt{a}-\sqrt{b})^2}}{\frac{(\sqrt{a}+\sqrt{b})^2+(\sqrt{a}-\sqrt{b})^2}{(\sqrt{a}-\sqrt{b})^2}}\\&\frac{\sqrt{ab}}{a+b} = \frac{(\sqrt{a}+\sqrt{b})^2-(\sqrt{a}-\sqrt{b})^2}{(\sqrt{a}+\sqrt{b})^2+(\sqrt{a}-\sqrt{b})^2}\\&\frac{\sqrt{ab}}{a+b} = \frac{(a+b+2 \sqrt{a}\sqrt{b})-(a+b-2 \sqrt{a} \sqrt{b})}{(a+b+2 \sqrt{a} \sqrt{b})+(a + b -2 \sqrt{a} \sqrt{b})}\\&\frac{\sqrt{ab}}{a+b} = \frac{a+b+2 \sqrt{a}\sqrt{b}-a-b+2 \sqrt{a} \sqrt{b}}{a+b+2 \sqrt{a} \sqrt{b}+a + b -2 \sqrt{a} \sqrt{b}}\\&\frac{\sqrt{ab}}{a+b} = \frac{4 \sqrt{a}\sqrt{b}}{2(a+b)}\\&\frac{\sqrt{ab}}{a+b} = \frac{2 \sqrt{a}\sqrt{b}}{a+b}\\&\sqrt{ab} = 2 \sqrt{a}\sqrt{b} \\&FALSO!\end{align}$$
Haciéndolo me di cuenta cual era tu duda. La verdad que no veo otra forma que ir haciendo todos los casos posibles hasta que encuentres una relación verdadera.
Si mirás la que hice, es muy parecida, pero no exacta. Intenta resolver de la misma manera la expresión E) a ver a que llegás (sin hacer las cuentas, pero por lo que dio la A), calculo que esa expresión va a ser la correcta).