Dudas sobre resultados de números de la calculadora científica

El resultado es 0.7464788732

Y si tuvieramos una calculadora mejor aun podríamos poner más decimales, pero hay que ponerles un coto. Entonces, dependiendo de la cantidad de decimales que pongamos podemos poner bien o mal el resultado. Entendiendo que se pone bien el resultado cunado el último decimal está bien redondeado.

Entonces la primera expresión estaría mal porque no está bien redondeada.

Hemos puesto 0.746478 y el siguiente decimal es un 8, entonces deberíamos haber escrito

0.746479

Mientra que la segunda expresión esta bien ya que el último decimal 7 se redondea a 8 por tener detrás un 8.

Luego por cuestión formal estaría mejor la segunda expresión.

Y por exactitud vamos a ver ahora cuál es mejor:

|0.7464788732 - 0.746478| = 8.732x10^(-7)

|0.7464788732 - 0.74648| =1.1268x10^(-6)

Aquí sin embargo es mejor la primera expresión, pero es que la correcta con 6 demimales era

0.746479 y entoncesw el error sería

|0.7464788732 - 0.746479|= 1.268x10^(-7)

Que es el menor de todos.

Y eso es todo.