Supongo que lo que necesitas saber son las dimensiones del lado.
Yo no veo el dibujo que tenés, pero para simplificar los cálculos me voy a hacer un plano cartesiano y colocaré los datos que tienes ahí. Voy a asumir que el cuadrado está dibujado de tal forma que el segmento de 3cm empieza en el origen de coordenadas (0,0) y va hasta el punto (3,0) (ya que mide 3 cm, lo dibujo horizontal). Vertical a este punto (está a 90°) está el segmento que mide 4cm, así que llegará hasta el punto (3,4) y desde este punto sale el último segmento que mide 5cm y va hasta el punto (8,4). (Habría que ver que pasa si este segmento en realidad va para el otro lado lo que haría que vaya al punto (-2,4), pero creo que no es posible ya que de ser así los segmentos quedarán fuera del cuadrado).
Con las consideraciones anteriores, tenemos que una esquina del cuadrado es el punto (0,0) y el vértice opuesto el punto (8,4). Con esto podemos calcular las dimensiones de la diagonal que será
D = sqrt(8^2 + 4^2) = sqrt (80) = 8.9443
Además sabemos (si no lo sabes, es buen momento de saberlo :)), que la superficie de un cuadrado se puede calcular como el producto de sus diagonales dividido 2 (creo que aplica para todos los cuadrilateros, pero lo que es seguro es que vale para los regulares), así que tendremos
S = D^2/2 = 8.9443^2 / 2 = 40 (acá usé el valor de todos los decimales de D que al elevarlo al cuadrado dará 80, como vimos más arriba).
Además sabemos que S = L^2, así que tenemos que
L = sqrt (S) = sqrt(40) = 6.324555 cm
Y creo que eso es todo.