¿Porque no se puede usar una red neuronal artificial para que aprenda a sumar?

Estoy muy interesado en los temas de inteligencia artificial, he estado practicando un poco montando alguna red para trabajar con memoria asociativa.

Después de un tiempo, mi conclusión es que básicamente la RNA trabaja por aproximación para conseguir aprender resultados.

Es decir, le pones unas entradas y esperas una salida. Conforme se va aproximando al resultado final es que supuestamente esta aprendiendo aquello por lo que fue diseñada.

Pero no veo claro que usando este principio pueda llegar a "enseñarle" a sumar, es decir, si tengo dos numero 1 y 2 el resultado que espero es 3.

Llegara a ese resultado pero eso no demuestra que ha aprendido a sumar, porque si uso otros valores como 10 y 15 no llegara a 25 usando esta red.

Estoy seguro que debe existir otras formas de crear redes, pero yo solo conozco esta.