El factor integrante es una función u(t, y) tal que multiplicada por P y Q hace que la diferencial sea total (o exacta).
La teoría te dirá como se hace. En general hallar el factor integrante es un problema difícil salvo en algunos casos como cuando el factor integrante sea una función que solo depende de t o de y. La wikipedia también añade los casos en que el factor integrante dependa solo de (x+y) o de (xy)
Factor integrante
La verdad es que yo toda la vida he visto que se usan las letras M y N en la ecuación en vez de P y Q. Voy a usar M y N para no liarme.
Vamos a ver si puede haber un factor integrante de esos tipos.
$$\begin{align}&M=ty+y^2+t^2\\ &N=-t^2\\ &\\ &\frac{\partial M}{\partial y}-\frac{\partial N}{\partial t}=t+2y+2t= 3t+2y\\ &\\ &\\ &\end{align}$$
Dividiendo 3t+2y entre M o N no da una función solo de t o de y
dividiendo entre M-N es
(3t+2y) / ( ty+y^2+2t^2) que no es una función de (x+y)
dividiendo entre Mt-Ny es
(3t+2y) / (t^2y+y^2t+t^3+yt^2) = (3t+2y) / ( 2yt^2+ty^2+t^3)
que no es una función de (xy)
Pues no sale el factor integrante, o hay algún error en el enunciado o es una ecuación para resolver de otra forma.
(ty+y^2 + t^2)dt -t^2 dy=0
(ty+y^2 + t^2)dt = t^2 dy
dy/dt =(ty+y^2 + t^2) / t^2
Hagamos
y=t·v
donde v es una función de t
dy/dt = v + t·dv/dt
sustituimos en la ecuación
v + t·dv/dt = (t^2·v + t^2·v^2 + t^2) / t^2
v + t·dv/dt = v+v^2+1
t·dv/dt = v^2 + 1
es de variables separables
dv / (v^2+1) = dt / t
integramos los dos lados y ponemos la constante C de forma más adecuada
arctg(v) = ln|t| + lnC
arctg(v) =ln|Ct|
v = tg(ln|Ct|)
recordemos qu era y=tv luego v=y/t
y/t = tg(ln|Ct|)
y = t·tg(ln|Ct|)
Y eso es todo.