Escaleras

Lo primero a tener en cuenta es la altura que existe entre plantas seguidamente la distancia de la que dispones para poder prolongar la escalera una vez tengas estas dos medidas,
divide la altura por una tabica de peldaño esta puede variar hasta conseguir que no te de decimales pues de lo contrario te sobrarían o faltarían centímetros (no llegarías con la escalera a la planta correctamente) puedes empezar con 18cm hasta 19cm, estas alturas de tabica son algo excesivas pero en casos de poco espacio es una solución.
Resumiendo ya tenemos la cantidad de peldaños, estos necesitan una huella de unos 29 cm aprox por lo tanto debes de multiplicar 29 por la cantidad de peldaños que te resultaron de la anterior operación una vez hecho réstale 29 pues una de las huellas sera la planta superior y esa no debes contarla;ya tienes la medida de lo que te ocupara la escalera comparala con la distancia que mediste anteriormente (la prolongación de la que dispones) si te coincide o es inferior la de la propia escalera estupendo ya lo tienes si no es así es más complicado pues tendrás que compensar peldaños (peldaños en abanico)y si es así te aconsejo que te la marque un albañil aunque después la acabes tu.
En cuanto a fórmulas si las hay pero olvidate, pues al tener limitado el espacio debes adaptarla a lo existente de todas formas te comento una de ellas es muy sencilla y dice que la suma de dos tabicas y una huella devén sumar 63 por lo que si tienes una huella de 17.5 que viene hacer la huella más cómoda 17.5+17.5=39 con lo que la huella seria de 28 esta fórmula se usa para calcular la diagonal ascendente que se forma cuando subimos una escalera esa diagonal debe de tener un porcentaje concreto para que no sea una escalera incomoda, esta fórmula calcula esa diagonal pero como anteriormente te comentaba en tu caso no se puede usar.

Para calcularlas, tendrás que medir la altura total de la escalera, desde suelo terminado a suelo (superior) terminado, decidir un altura cómoda (15 cm) y encajarla en el lugar que la vas a construir.
Lo mejor sera que dibujes todo el desarrollo de la escalera en planta sobre un papel, a escala. De esta manera podrás decidir donde pones las mesetas y el nº de peldaños de cada una, una solución fácil es que uses peldaños compensados y ahorras espacio en las mesetas.

Efectivamente sí hay fórmulas. Pero para simplificar, deberías calcular una huella (ancho de escalón) de unos 28 cm y a repartir la altura total entre tantos escalones como haga falta para que hagan una medida de entre 17,5 y 18,5 cm (si son 19,5 también se admitiría pero tendrías una esclarea más empinada).
Ten en cuenta que la división te saldrá con bastantes decimales y que cuántos más tengas en cuenta mejor o que al menos vayas compensando el error de redondeo poco a poco en diferentes escalones. Si redondeas y vas subiendo con la medida redondeada puedes encontrarte con que el escalón final sea la mitad que el resto y eso no está bien.