La ecuación no es homogénea de grado 2 es homogénea de grado cero, esas de grado cero son las que se llaman ecuaciones diferenciales homogéneas y se solucionan con el cambio y=ux.
Para ver el grado de homogeneidad tienes que tomar la función que da al despejar dy/dx, es decir:
dy/dx = f(x,y)
Y entonces tomar un parámetro t (ya sé que en la literatura se usa lambda, pero aquí no hay forma de escribirlo) y comprobar:
f(tx,ty) = t^n·f(x,y)
Ese n es será el grado de homogeneidad de la función. Y si es cero, es decir:
f(tx,ty) = f(x,y)
Entonces es cuando se dice que la ecuación diferencial es homogénea.
((x^2)+xy+(3y^2))dx-((x^2)+2xy)dy = 0
-((x^2)+2xy)dy = -((x^2)+xy+(3y^2))dx
dy/dx = ((x^2)+xy+(3y^2)) / ((x^2)+2xy)
Los monomios no es necesario encerrarlos entre paréntesis. El orden de ejecución es potencia, producto o cociente, suma o resta. De modo que los polinomios se operan bien sin necesidad de paréntesis, a no ser que el exponente o la base sean composición de operaciones. Lo único que hago yo, pero no es obligatorio, es poner espacios en blanco para mayor claridad
dy/dx = (x^2 + xy + 3y^2) / (x^2 + 2xy)
Veamos el grado:
f(tx,ty) = [(tx)^2 + txty + 3(ty)^2] / [(tx)^2 + 2txty] =
(t^2)(x^2 + xy + 3y^2) / [(t^2)·(x^2 + 2xy)] =
(x^2 + xy + 3y^2) / (x^2 + 2xy) = f(x,y)
Luego la función es homogénea de grado cero y por tanto la ecuación diferencial es homogénea a secas.
Veamos a ver si el cambio está bien hecho. Yo lo hubiera hecho sobre la expresión:
dy/dx = (x^2 + xy + 3y^2) / (x^2 + 2xy)
con
dy/dx = u + x·du/dx
pero voy a hacerlo igual que tú:
(x^2 + xy + 3y^2)dx - (x^2 + 2xy)dy = 0
y = ux
dy = udx + x du
(x^2 + xux + 3(ux)^2) dx - (x^2 + 2xux)(udx + xdu) = 0
(x^2)(1+u+3u^2) dx -(x^2)(1+2u)(udx+xdu) = 0
(1+u+3u^2)dx - (1+2u)(udx + xdu) = 0
(1+u+3u^2)dx = (1+2u)(udx + xdu)
(1+u+3u^2)dx = u(1+2u)dx + x(1+2u)du
1+u+3u^2 = u(1+2u) +x(1+2u)du/dx
1+u+3u^2 - u(1+2u) = x(1+2u)du/dx
dx/x = (1+2u)du / [1+u+3u^2 - u(1+2u)]
dx/x = (1+2u)du / (1+u+3u^2 - u -2u^2)
(1/x)dx = [(1+2u) / (1+u^2)]du
Pues a mi no me da el signo menos que tienes tú y lo he repasado y creo que lo hice bien.
Eso se integra separándolo en dos integrales que son inmediatas o casi inmediatas:
$[1/(1+u^2)]du + $[u/(1+u^2)]du = arctg(u) + (1/2)ln(1+u^2) + C
Y eso es lo que pedías y no la termino por si quieres hacerlo tú. Si tienes alguna duda más me la consultas.