El que he llamado método epsilon y delta es el cálculo del límite por la definición misma. Es decir
$$\begin{align}&\lim_{(x,y) \to (x_0,y0)} f(x,y)= l \iff \\ &\forall \epsilon\gt0 \;\;\exists \delta\gt0 \;tal\;que \;\forall x,y \ que \;cumple\; \\ &(x,y)\in Dom f \; y \;0\lt \sqrt{x^2+y^2}\lt \delta\\ &se\;cumple\; |f(x,y)-l|\lt \epsilon\end{align}$$
Esto que he dicho sirve para el límite, cuando se trate de demostrar que una función es continua hay que ver que el límite así calculado coincide con el valor de la función en ese punto (xo, yo)
El tomar direcciones mx, mx^2 u otra depende de cada función en concreto, no sé yo que haya un criterio estándar escrito sobre cuál usar en cada caso. Como ya te decía se usan para contradecir la existencia del límite, entonces se prueba con unas y si no sirve se prueba con otras. La experiencia puede ayudarte a decidir qué tipo de dirección va a ser la que necesites. Pero antes de dictar unas reglas sobre qué tipo de funciones direccionales usar, es mejor que pruebes para entender en que consiste el método y poder deducirlas por tí mismo.
Y eso es todo.