La temperatura de mi caldera sube sola

A veces tiene mucho que ver el lugar donde está instalado el termostato: pared exterior, detrás de puerta, pasillo con corrientes de aire, cerca de un radiador...

El que pongas el termostato de ambiente a 19°, no quiere decir que vayas a tener 19° exactos, ya que influyen muchos factores. Ten en cuenta que si lo pones a 19 si el termostato mide exacto, parará a 19 pero la temperatura que han aportado las radiadores donde esté el termostato, por inercia sigue subiendo hasta que se estabiliza

¿Y la caldera para o no para a alguna temperatura?

Generalmente con radiadores no suele fallar lo que te ocurre, con suelo radiante si puede subir por inercia del calor del suelo

Y por último puede fallar el propio termostato ambiente sin más