Esto es inmediato si se usan las propiedades de las congruencias, lo que pasa es que no sé si es una pregunta previa o posterior al estudio de esas propiedades.
Las funciones r sub b que has definido son equivalentes a el menor número no negativo congruente con n módulo b
Vaya, en el editor de ecuaciones de esta página no funciona el símbolo \equiv, usaré el símbolo \cong que es parecido.
a)
$$\begin{align}&r_b(m) \cong m\; (mod\;\; b)\\ &r_b(n) \cong n\; (mod\;\; b)\\ &\\ &\text{Por propiedades de las congruencias}\\ &\\ &r_b(m) + r_b(n) \cong m+n\;(mod\;\;b)\\ &\\ &\text{si tomamos el menor congruente no negativo}\\ &\text{la congruencia se hace igualdad}\\ &\\ &r_b(r_b(m) + r_b(n)) = r_b(m+n)\end{align}$$
b)
$$\begin{align}&r_b(n) \cong n\;(mod\;\;b)\\ &r_b(m) \cong m\;(mod\;\;b)\\ &\\ &\text{Por propiedades de las congruencias}\\ &\\ &r_b(n)·r_b(m) \cong nm \;(mod\;\;b)\\ &\\ &\text{Y entonces el menos residuo no negativo es igual}\\ &\\ &r_b(r_b(n)·r_b(m)) = r_b(nm)\end{align}$$
Y eso es todo, espero que te sirva y lo hayas entendido. Si necesitas una demostración sin usar congruencias es más difícil, pero pídemelo.