¿Algun Metodo Matematico Inversible?

Hola, Estoy haciendo un programa de encriptación, pero ya no se que más incluirle, primero las letras toman la forma de números, esos números los opero con matrices inversas para que arrojen otro valor y posteriormente a esos valores los ordeno aleatoriamente, y después cada valor lo convierto a binarios y a esos binarios otra vez se le hace un ordenamiento aleatorio. ¿Pero mi pregunta es que MÁS puedo meterle de métodos matemáticos a los números?, con las matrices inversas en el descencriptado al hacerla la inversa obviamente me da el valor original y por tanto ya me da la letra encriptada. ¿Pero qué otros métodos matemáticos existen para que pueda obtener el valor original? Y si se puede cuales métodos matemáticos trabajan con 0 y 1, para hacer operaciones por que hasta el momento meda al final números binarios que quisiera operar para hacer más complejo el algoritmo. Pero que en el descencriptado pueda obtener el valor inicial, es decir que sea invertible. Bueno trate de meter el Ultimo teorema de fermat pero al leer sobre el vi que tardaron 350 años en probarlo... Y era demasiado complejo... XD aun que la historia me gusto mucho. Pero Bueno gracias y haber si me pueden dejar su método matemático y un pequeño ejemplo de como operar el valor y como obtener el original, (No es nada de programación... Yo solo quiero ver como lo hacen matemáticamente ya después yo veré como le hago para programarlo) .
Gracias por su tiempo.