El puente "entre los dos neutros" en el dibujo a mano alzada esta... pero no lo veo claro en las fotos. Supongo que eso lo revisaste.
Vamos "desde cero": El grupo posee DOS controles: uno de "tension" que actua regulando la excitacion del alternador de modo de mantener la tension de salida constante. El otro, mantiene la frecuencia constante, actuando sobre el ACELERADOR DEL MOTOR, para mantener las RPM constantes.
Si te varia la frecuencia... la "culpa" es del sistema que regula la velocidad del motor. ¿Ahora bien... ´porque puede variar la velocidad del motor?
a) Porque el sistema de control esta defectuoso... o MAL REGULADO: suelen tener regulaciones PID: O sea "Proporcional mas integral mas derivativo" para mantener la velocidad lo mas constante posible. Una oscilacion puede ser efecto de exceso de ganancia de ese control o de exceso de derivativo... que a la menor variacion en menos, da mucha variacion en mas de salida y viceversa... provocando oscilaciones. Convendria verificar eso, y probar poniendo el derivativo EN CERO.
De todos modos, es el menos probable, porque de andar mal lo haria en 230 y en 440 voltios, no en uno solo.
b) Porque la carga es tan grande, que supera la potencia que puede entregar el motor, y las RPM se caen... al caer las RPM, baja la corriente de carga y las RPM suben, y asi empieza a oscilar.
Eso podria darse si alguna de las bobinas esta MAL CONECTADA, y esta circulando una enorme corriente de cortocircuito entre dos de ellas. Si bien tus conexiones externas estan bien... ¿quién te garantiza que las del alternador internamente lo esten?.
Por eso, habria que revisar dos cosas:
B1): Con pinza amperometrica, verificar las corrientes que circulan por TODOS los bobinados. Si el alternador esta sin carga, deberian ser nulas o de valores bajisimos (menos de 1 amperio)
B2): Desconectar todas las bobinas, y con un tester verificar que las puntas indicadas sean las corectas que corresponden al borne: No sea que alguna este con el borne homologo invertido.
c) Repetir la prueba de b1, conectando a la salida del alternador una carga "razonable": Digamos un motor trifasico de unos 2 a 5 CV, o tres motores monofasicos de 1 CV (Uno en cada fase), porque a veces al trabajar con muy poca carga, pueden volverse inestables.
Te dejo en enlace a un sitio donde aparecen los esquemas de las bobinas para las dos conexiones... para que con el tester puedas verificar que REALMENTE los bornes corresponden a las bobinas que deben ser.
http://gruposelectrogenosjfmaquinarias.blogspot.com/2015/03/la-tension-y-las-diferenctes-conexiones.html