Aplicaremos las fórmulas de transformación de suma en producto. He visto que la pagina no hace que los enlaces funcionen al pincharlos, siempre les falla algo, probare de otra forma
<a>http://es.wikipedia.org/wiki/Identidades_trigonom%C3%A9tricas#Paso_de_suma_a_producto</a>
si no funciona tendrías que usar el copar y pegar.
$$\begin{align}&(sena+senb)^2+(cosa+cosb)^2 =\\ &\\ &\\ &\left[ 2sen\left(\frac{a+b}{2} \right)\cos\left(\frac{a-b}{2} \right)\right]^2+\left[ 2cos\left(\frac{a+b}{2} \right)\cos\left(\frac{a-b}{2} \right)\right]^2 =\\ &\\ &4cos^2\left(\frac{a-b}{2} \right)\left[ \cos^2\left(\frac{a+b}{2} \right) +sen^2\left(\frac{a+b}{2} \right)\right]=\\ &\\ &\\ &4cos^2\left(\frac{a-b}{2} \right)\\ &\end{align}$$
Y ya solo queda sustituir el valor que nos dan
Si
a-b = pi/3
entonces
(a-b)/2 = pi/6
Que para entendernos es 30º
Y el coseno de 30º es sqrt(3)/2, luego al cuadrado es 3/4
Todo ello estaba multiplicado por 4
En resumen, el resultado es 3.
Y eso es todo.