Para hacer esto podrías hacer lo siguiente:
Lo primero hacer una función para sumar los números que ingresas en los input´s puede ser una función parecida a está:
function sumando() {
var x,y,suma,text;
x = document.getElementById("num1").value;
y = document.getElementById("num2").value;
if (isNaN(x) || isNaN(y)) {
text = "Es necesarios introducir dos números válidos";
} else {
//si no ponemos parseFloat concatenaría x con y
suma=parseFloat(x)+parseFloat(y);
text= suma;
}
document.getElementById("sumando").innerHTML = text;
}
En la función que te he dejado de ejemplo los valores de los input están definidos en las variables X e Y siendo la variable Y la del segundo número, esta función es un ejemplo y si tienes ya una que te funcione podrás utilizar la misma, ahora para que se ejecute sin pulsar el botón submit puedes hacer lo siguiente, en el input donde se escribe el segundo número añade el evento onKeyUp llamando a la función que tengas definida para la suma, siguiente el ejemplo que te estoy poniendo yo escribiría lo siguiente:
<input name="num2" type="text" id="num2" onKeyUp="sumando()" />
El resultado que obtendrás será que al escribir el segundo número y tabular se sumará de forma automática los dos campos.